Voitko luottaa AI: hen? Pitäisikö sinun hyväksyä sen havainnot objektiivisesti paikkansa pitämättä? Ongelmana on, että jopa itse AI: n kyseenalaistaminen ei anna selviä vastauksia.
AI-järjestelmät ovat yleensä toimineet kuten musta ruutu: Tiedot syötetään ja tiedot tulostetaan, mutta prosessit, jotka muuttavat kyseisen datan, ovat mysteeri. Tämä luo kaksinkertaisen ongelman. Yksi on se, että on epäselvää, mitkä algoritmit ovat luotettavimpia. Toinen on se, että näennäisesti objektiiviset tulokset voivat vääristää järjestelmien ohjelmoijan ihmisten arvot ja puolueellisuudet. Siksi tällaisten järjestelmien käyttämien virtuaalisten ajatusprosessien tai ”selitettävän AI: n” on oltava avoimuutta.
Eettisestä pakollisuudesta on tullut laillinen jokaiselle, johon GDPR kohdistuu, ja se ei koske vain EU: ssa sijaitsevia yrityksiä, vaan kaikkia, jotka ovat tekemisissä siellä olevien ihmisten tai organisaatioiden kanssa. Se sisältää joukon tietosuojaa koskevia säännöksiä, jotka ulottuvat EU: n kansalaisille "oikeudelle olla alistamatta pelkästään automatisoitua päätöksentekoa, paitsi tietyissä tilanteissa" ja "oikeudelle saada merkityksellistä tietoa päätöksenteon logiikasta. .”
