K:
Miksi tietojen tutkijoille on tärkeää pyrkiä avoimuuteen?
V:Läpinäkyvyys on olennaisen tärkeää tietotekniikkaprojekteissa ja koneoppimisohjelmissa, osittain niiden ajamisen monimutkaisuuden ja hienostuneisuuden takia - koska nämä ohjelmat “oppivat” (tuottavat todennäköisyystuloksia) sen sijaan, että noudattavat ennalta määrättyjä lineaarisia ohjelmointiohjeita, ja koska sen seurauksena voi olla vaikea ymmärtää, miten tekniikka tekee päätelmiä. Koneoppimisalgoritmien "musta laatikko" -ongelma, jota ei voida täysin selittää ihmisten päätöksentekijöille, on suuri ongelma tällä alalla.
Tätä silmällä pitäen selitettävän koneoppimisen tai ”selitettävän AI: n” hallitseminen on todennäköisesti pääpaino siinä, kuinka yritykset pyrkivät tietotekijän kykyjen hankkimiseen. Jo nyt DARPA, instituutio, joka on tuonut meille internetin, rahoittaa usean miljoonan dollarin tutkimusta selitetyssä AI: ssä, jolla yritetään edistää ihmisille läpinäkyviä koneoppimisen ja tekoälyn tekniikoiden luomiseen tarvittavia taitoja ja resursseja.
Yksi tapa ajatella sitä on, että lahjakkuuden kehittämisessä on usein "lukutaitoaste" ja "hyperliteraatioaste". Tietotekijän kannalta perinteinen lukutaitoaste on tieto siitä, kuinka koota koneoppimisohjelmat ja miten rakentaa algoritmit sellaisilla kielillä kuin Python; kuinka rakentaa hermoverkkoja ja työskennellä niiden kanssa. Hyperliteraatiovaihe olisi kyky hallita selitettävä AI, tarjota läpinäkyvyys koneoppimisalgoritmien käytössä ja säilyttää läpinäkyvyys, kun nämä ohjelmat toimivat kohti päämääriänsä ja käsittelijöidensä tavoitteita.
Toinen tapa selittää avoimuuden merkitystä tietojenkäsittelytieteessä on, että käytetyistä tietojoukoista tulee edelleen hienostuneempia ja siten mahdollisesti tunkeilevampia ihmisten elämään. Toinen selitettävän koneoppimisen ja tietotekniikan tärkeä tekijä on äskettäin käyttöön otettu eurooppalainen yleinen tietosuoja-asetus yrittää hillitä henkilötietojen epäeettistä käyttöä. Käyttämällä GDPR: tä testitapauksena, asiantuntijat näkevät, kuinka datatieteen hankkeiden selittämistarve sopii yksityisyyttä ja turvallisuutta koskeviin huolenaiheisiin sekä liiketoiminnan etiikkaan.
