K:
Miksi jotkut ihmiset ovat huolissaan tekoälystä?
V:Muutos ei ole helppoa, ja monilla ihmisillä on vaikeuksia sopeutua siihen. Tämä pätee erityisesti teknisiin muutoksiin. Huomautettu Harvardin professori Calestous Juma kirjoitti kirjan aiheesta "Innovaatio ja sen viholliset: miksi ihmiset vastustavat uutta tekniikkaa." Kirja hahmottelee innovaatioiden ja yhteiskunnallisen järjestyksen välistä jännitettä 600 vuoden historian perusteella. Teknisen älykkyyden kannalta tekniikan vaikutus on erityisen hankala.
Kaikki eivät ole haitallisia näille kehityksille. Ray Kurzweil, kirjojen “Singularity on Near” ja “Spiritual Machines Age” kirjoittaja, ei ole muuta kuin evankelista, joka edistää genetiikan, nanoteknologian ja robotiikan (termi, jota käytetään ei-biologiseen älykkyyteen) etuja. Mutta nämä ovat samat asiat - ja Kurzweil sama henkilö -, jotka aiheuttivat vuonna 2000 suurta huolta Sun Microsystemsin päätutkijalle Bill Joylle.
Joy kirjoitti huolenaiheistaan kuuluisassa Wired-lehden artikkelissa nimeltään ”Miksi tulevaisuus ei tarvitse meitä.” Hän uskoi, että vaarassa on ihmiskunnan tulevaisuus. Viitaten evoluutiohistorian kilpailuun Joy kirjoitti: ”Biologiset lajit eivät milloinkaan koskaan selviä kohtaamisista ylivertaisten kilpailijoiden kanssa.” Tieteelliset läpimurtot, jotka johtavat koneisiin, jotka ylittävät ihmisen, ovat merkittäviä riskejä. Visioita dystopiallisesta tulevaisuudesta tulee mieleen.
Oletetaan, että tutkijat kykenevät kehittämään koneita, joissa on keinotekoinen superintelligenssi (ASI), älykkyystaso korkeampi kuin ihmiset. Ilo sanoo, että voi tapahtua yksi kahdesta asiasta: Joko koneiden sallitaan tehdä omat päätöksensä, tai ihmiset pitävät hallitsevat niitä. Mitä tapahtuu, jos luovutat voiman koneille? Mitkä voivat olla tulokset?
Bill Joy ei ole ainoa, joka ilmaisee huolenaiheitaan. Tekniikan guru Elon Musk sanoi: ”Kehätiedolla kutsumme demonin vastaan.” Hän kutsui sitä “suurimmaksi eksistenssivaroksi”. Fyysikko Stephen Hawking kertoi teknologiakonferenssissa osallistujille, että ”emme voi tietää, autammeko AI: ta loputtomasti, tai sivuuttaa sen tai sivuuttaa sen, tai se on mahdollisesti tuhottu. "Ja hän kertoi Wired-lehden:" Pelkään, että AI voi korvata ihmiset kokonaan. "
Ovatko nämä pelot perusteltuja? Sci-elokuvat, kuten ”Transcendence”, joissa Johnny Deppin hahmo sitoutuu tekoälyyn ja tuhoaa tuhoa, muistuttaa Kurzweilin ennusteita siitä, kuinka ihmiset voisivat sulautua koneilla. Mielikuvitukset ovat villejä kaikilla tavoilla, joilla tekoäly voi mennä pieleen. Mitä tapahtuu, kun koneet ottavat hallintaansa?
Kaksi tosielämän esimerkkiä kuvaavat, kuinka tekoälyn huolestuminen voi olla ymmärrettävää. Vuonna 2007 robotti tykki tappoi yhdeksän ihmistä ja loukkaantui 14. Jotkut edistyneet armeijan aseet valitsevat automaattisesti tavoitteensa, mutta odottavat, että ihminen vetää liipaisimen. Kuka teki päätöksiä täällä? Vuonna 2016 300-kiloa turvakrobotti kaatui ja juoksi yli kuusitoista kuukautta vanha taapero. Kuka hallitsi tässä tapauksessa: mies vai kone?
Jotkut ihmiset ovat huolissaan tekoälystä siitä, että riskit ovat todellisia. Seuraava kysymys: Kuinka hallitsemme näitä riskejä?
