K:
Miksi DARPA tutkii "selitettävää AI"?
V:Selitettävästä tekoälystä on tullut yleisesti tietotekniikan huipputekniikan osa. Se auttaa ohjaamaan ihmisen hallintaa luontaisesti haihtuvasta ja dynaamisesta tekniikasta - selitettävä AI auttaa vastaamaan moniin kollektiivisiin kysymyksiimme siitä, kuinka tekoäly toimii.
Selitettävän AI: n ymmärtäminen auttaa ymmärtämään, millainen "säännöllinen AI" näyttää. Perinteisesti, kun AI alkaa muotoutua, tyypillinen projekti koostuu kuvitteellisesta uudesta ohjelmistoominaisuudesta, joka on piilotettu algoritmeihin ja harjoitusjoukkoihin sekä lineaariseen koodiin, joka on tavallaan "lohkorasia" käyttäjille. He tietävät, että se toimii - he eivät vain tiedä tarkalleen kuinka.
Tämä voi johtaa "luottamusongelmiin", joissa käyttäjät voivat kyseenalaistaa teknologian päätöksenteon perustan. Sitä selitettävän AI: n on tarkoitus käsitellä: Selitettävissä AI-hankkeissa on ylimääräinen infrastruktuuri osoittamaan loppukäyttäjille AI: n tarkoitus ja rakenne - miksi se tekee mitä tekee.
Aikakaudella, jolloin huipputeknologit, kuten Bill Gates ja Elon Musk, ilmaisevat huolensa siitä, kuinka tekoäly toimii, selitettävä AI näyttää erittäin houkuttelevalta. Asiantuntijat väittävät, että hyvä selitettävä AI voi auttaa loppukäyttäjiä ymmärtämään miksi tekniikat tekevät mitä he tekevät, lisäävät luottamusta ja lisäävät myös näiden tekniikoiden helppokäyttöisyyttä ja hyödyntämistä.
Tarkemmin sanottuna DARPA selittää yksin, miksi se on kiinnostunut uusista hankkeista. Sivu DARPA: lla osoittaa, että puolustusministeriö ennakoi tekoälyn sovellusten ”torrenttia” ja jonkin verran kaaosta sen kehittämisessä.
"Jatkuva kehitys lupaa tuottaa itsenäisiä järjestelmiä, jotka havaitsevat, oppivat, päättävät ja toimivat itse", kirjoittaa David Gunning. ”Näiden järjestelmien tehokkuutta rajoittaa kuitenkin koneen nykyinen kyvyttömyys selittää päätöksiä ja toimia ihmisille. … Selitettävä AI - erityisesti selitettävä koneoppiminen - on välttämätöntä, jotta tulevat sotilaat ymmärtävät, luottavat asianmukaisesti ja hallitsevat tehokkaasti kehittyvän sukupolven keinotekoisesti älykkäitä konekumppaneita. "
Gunningin online-essee viittaa siihen, että selitettävät AI-järjestelmät auttavat tarjoamaan teknologialle perustelun, osoittavat niiden vahvuudet ja heikkoudet ja tekevät käyttötapauksista avoimempia. Sivun graafinen esitys osoittaa, kuinka selkeää keinotekoisen älykkyyden toiminnallisuutta koulutustiedoista täydennetään sellaisella nimellä, jota kutsutaan selitettäväksi malliksi ja selitettäväksi käyttöliittymäksi, joka auttaa käyttäjää vastaamaan kysymyksiin. Gunning viittaa edelleen siihen, että selitetyllä AI-ohjelmalla on kaksi pääpainoaluetta - toisessa seulotaan multimediadatan avulla löytääkseen käyttäjille hyödyllistä, ja toisena painopisteenä olisi päätöksentekoprosessien simulointi päätöksenteon tueksi.
DARPA toivoo tarjoavansa "työkalupakin", joka voi auttaa kehittämään tulevaisuudessa selitettäviä AI-järjestelmiä.
