K:
Miksi jotkut yritykset harkitsevat "ihmisten palautteen valvonnan" lisäämistä nykyaikaisiin AI-järjestelmiin?
V:Jotkut huipputekniikan AI-tekniikan parissa työskentelevät yritykset pyrkivät perustamaan näiden järjestelmien ihmisen hallinnan, antaen koneoppimiselle ja syvän oppimisen työkaluille jonkin verran suoraa ihmisen valvontaa. Nämä yritykset eivät ole myöskään pieniä toimijoita - Googlen DeepMind ja Elon Muskin OpenAI ovat kaksi esimerkkiä suurista yrityksistä, jotka ovat tekemässä käytännön keinoälyn kehitystä. Tätä silmällä pitäen tulokset eroavat toisistaan - esimerkiksi DeepMind on kiistelty siitä, ettei se ole halunnut tarjota avaintietoja yleisölle, kun taas OpenAI on paljon enemmänkin avoin työstään keinoälyn hallitsemiseksi.
Jopa sellaisia merkittäviä asioita kuin Bill Gates on punninnut asiasta, Gates sanoi, että hän on yksi monista, jotka ovat huolestuneita keinotekoisen superintelligenssin syntymisestä, joka saattaa tietyllä tavalla siirtyä ihmisen hallinnan ulkopuolelle. Musk on puolestaan julkaissut huolestuttavan kielen "roisto-AI: n" mahdollisuudesta.
Se on luultavasti kiireellisin syy, jonka vuoksi yritykset pyrkivät soveltamaan ihmisten kontrolleja AI: hen - ajatus siitä, että jokin tekninen singulaarisuus johtaa erittäin voimakkaaseen tuntevaan tekniikkaan, jota ihmiset eivät vain pysty enää hallitsemaan. Ihmisten kunnianhimojen alusta lähtien olemme asettaneet työkalut paikoilleen varmistaaksemme, että pystymme hallitsemaan käyttämiämme voimia - ovatko hevoset haaroilla ja valjailla, sähkö eristetyissä johdoissa tai mikä tahansa muu valvontamekanismi, jolla on hallinta on luontaisesti ihmisen toiminto, ja siksi maailmassa on täysin järkevää, että kun tekoäly tulee lähemmäksi todellista toimintoa, ihmiset käyttävät omaa suoraa valvontaa pitääkseen tämän voiman kurissa.
Pelko erittäin älykkäistä roboteista ei kuitenkaan ole ainoa syy siihen, että yritykset soveltavat ihmisohjauksia koneoppimisessa ja AI-projekteissa. Toinen tärkeä syy on konepohjaisuus - ajatus siitä, että tekoälyjärjestelmät ovat usein rajoitettuja siinä, miten ne arvioivat kyseisiä tietoja - niin, että ne vahvistavat järjestelmään mahdollisesti liittyviä vääristymiä. Useimmat koneoppimisesta vastaavat ammattilaiset voivat kertoa kauhutarinoita IT-järjestelmistä, jotka eivät pystyneet kohtelemaan ihmisten käyttäjäryhmiä samalla tavalla - oli kyse sitten sukupuolesta tai etnisestä erotuksesta tai järjestelmästä, jos järjestelmä epäonnistui ymmärtämään todella ihmisyhteiskuntiemme ja kuinka olemme vuorovaikutuksessa ihmisten kanssa.
Tietyssä mielessä saatamme asettaa ihmisille suunnatut hallintalaitteet järjestelmiin, koska pelkäämme niiden olevan liian voimakkaita - tai vuorotellen, koska pelkäämme, että ne eivät ole tarpeeksi tehokkaita. Ihmisohjaukset auttavat kohdistamaan koneoppimisen tietojoukkoja tarkentamaan. Ne auttavat vahvistamaan ideoita, joita tietokone ei yksinkertaisesti vain osaa oppia yksinään, joko siksi, että malli ei ole tarpeeksi hienostunut, koska AI ei ole edennyt riittävän pitkälle, tai koska jotkut asiat vain sijaitsevat ihmisen kognition maakunnassa. Keinotekoinen älykkyys on hieno joihinkin asioihin - esimerkiksi palkitsemis- ja pisteet-pohjainen järjestelmä antoi keinotekoiselle älykkyydelle voittaa ihmisen pelaajan äärimmäisen monimutkaisessa ”Go” -peleissä - mutta muihin asioihin tämä kannustinpohjainen järjestelmä on täysin riittämätön.
Lyhyesti sanottuna on olemassa lukuisia pakottavia syitä pitää ihmisen käyttäjät suoraan mukana keinotekoisen älykkyyden projektien toiminnassa. Jopa parhaatkin tekoälytekniikat voivat tehdä paljon ajattelua yksinään - mutta ilman todellisia biologisia ihmisen aivoja, jotka voivat käsitellä asioita, kuten tunteita ja sosiaalisia tapoja, he eivät yksinkertaisesti näe suurta kuvaa ihmisen tavalla.
Ammattitaitoinen koneoppimisyritys voi auttaa saavuttamaan tämän tasapainon sekoittamalla joukko yritystoiminnan ja aiheen asiantuntijoita sekä koneoppimisen kehittäjiä, joilla on taitoja ratkaista suuryritysten ongelmat.
