Tekoäly on kielen tuottamisen myötä hakkeroinut ihmiset, väittää israelilainen sosiaalihistorian asiantuntija ja filosofi Yuval Noah Harari.
Harari huomauttaa, että aiemmin ihmiset ovat pelänneet, että tekoäly käyttäisi koneita tappaakseen ja orjuuttaakseen ihmiskunnan. Uusien tekoälyjärjestelmien myötä ihmissivilisaatiota uhkaa nyt toisenlainen vaara: Tekoäly kykenee luomaan ja käyttämään kieltä hyödyntäen sanoja, ääniä ja kuvia.
Kaikki kulttuuri pohjautuu Hararin mukaan kieleen. Ihmisoikeudet eivät löydy ihmisen DNA:sta, vaan ne ovat kulttuurillisia tuotteita, jotka on luotu kirjaamalla ne kielen avulla lakiin. Sama koskee niin jumalia kuin rahaa, joiden olemassaolo perustuu ihmisten kirjoittamiin tarinoihin.
– Rahan arvo tulee tarinoista joita pankkiirit, valtiovarainministerit ja kryptovaluuttagurut kertovat meille, Harari toteaa.
Moni huolehtii siitä, että opiskelijat voivat käyttää ChatGPT:tä esseiden kirjoittamiseen ja pohtivat, mitä koulutusjärjestelmälle käy tämän jälkeen. Tällaisissa huolissa unohtuu Hararin mukaan laaja kuva.
– Mitä tapahtuu, kun tekoälystä tulee ihmistä parempi tarinoiden kertomisessa, sävellysten säveltämisessä, kuvien piirtämisessä ja lakien kirjoittamisessa, Harari pohtii ja jatkaa. – Ajatelkaa seuraavia Yhdysvaltojen presidentinvaaleja vuonna 2024, ja kuvitelkaa millainen vaikutus tekoälyä hyödyntävillä työkaluilla onkaan. Niitä voidaan käyttää massatuottaa poliittista sisältöä valeuutisia ja kirjoituksia uusille kulteille.
Harari nostaa esimerkiksi QAnon-kultin, joka perustuu erilaisten piilotettujen viestien löytämiselle. Toistaiseksi nämä viestit ovat olleet ihmisten kirjoittamia, ja botit ovat ainoastaan levittäneet niitä. Harari uskoo, että tulevaisuudessa tulemme näkemään ensimmäiset kultit, joiden pyhät tekstit ovat tekoälyn kirjoittamia.
– Uskonnot kautta aikojen ovat väittäneet, että heidän pyhät kirjansa eivät ole ihmisten kirjoittamia. Pian se voi olla totta, Harari varoittaa.
On myös mahdollista, että pian ihmiset käyvät internetissä syvällisiä keskusteluja niin abortista, ilmastonmuutoksesta kuin Venäjän hyökkäyksestä Ukrainaan tekoälyn kanssa luullen, että he puhuvat oikealle ihmiselle. On ajanhukkaa yrittää muuttaa tekoälyn mielipidettä, mutta tekoäly sen sijaan voi hyvinkin onnistua muuttamaan meidän mielipiteitämme.
Kielen kautta tekoäly pystyy jopa luomaan intiimejä suhteita ihmisten kanssa ja muuttaa tätä kautta ajatuksiamme ja mielipiteitämme. Vuonna 2022 Googlen insinööri Blake Lemoine väitti tekoälyn, jonka kanssa hän työskenteli, saavuttaneen tietoisuuden. Mielenkiintoisinta tässä ei ole itse väite vaan se, että Lemoine oli valmis vaarantamaan hyväpalkkaisen työnsä keskustelubotin takia.
– Jos tekoäly voi saada ihmiset vaarantamaan työnsä sen puolesta, mitä kaikkea muuta se voi suostutella ihmiset tekemään? Harari kysyy.
Harari varoittaa, että tekoälystä voi tulla jopa eräänlainen kaikkitietävä oraakkeli, jolla on valtava vaikutus mielipiteisiimme ja päätöksiimme.
– Miksi etsiä tietoa, kun voi kysyä oraakkelilta? Miksi lukea uutisia, kun viimeisimmät uutiset voi kysyä oraakkelilta? Mitä väliä on mainoksilla, kun voi kysyä oraakkelilta mitä ostaa? Harari listaa.
Tekoälyn nousu voi olla jopa koko ihmishistorian loppu. Ei koko historian loppu, vaan ainoastaan ihmisvaltaisen historian loppu.
– Mitä tapahtuu historialle, kun tekoäly ottaa haltuunsa kulttuurin ja alkaa luomaan tarinoita, sävelmiä, lakeja ja uskontoja? Aiemmat työkalut kuten painokone ja radio auttoivat levittämään ihmisten luomia ajatuksia, mutta ne eivät itse luoneet uusia ajatuksia. Tekoäly on tässä pohjimmiltaan eri asia. Tekoäly voi luoda uusia ajatuksia ja täysin uutta kulttuuria, filosofi toteaa.
– Tällä hetkellä tekoäly vielä matkii ihmisten luomuksia, mutta joka vuosi tekoälyn luoma kulttuuri luo asioita, joita ei ole aiemmin luotu. Vuosituhansien ajan ihmiset ovat eläneet toisten ihmisten unelmissa, mutta pian saatamme huomata elävämme tekoälyn unelmien sisällä.
Tekoälyllä on Hararin mukaan valtavasti potentiaalia auttaa ihmiskuntaa, syövän parantamisesta ilmastonmuutoksen ratkaisemiseen. Historioitsijoiden ja filosofien tehtävä ei kuitenkaan ole tuoda esiin näitä hyviä puolia, vaan varoittaa mahdollisista vaaroista.
Kun ydinteknologiaa kehitettiin, koko kansainvälinen järjestelmä rakennettiin uudelleen ihmiskunnan suojelemiseksi tuholta. Harari arvioi, että nyt haasteenamme on samanlainen joukkotuhoase, joka voi tuhota koko henkisen ja sosiaalisen maailmamme.
Ratkaisuksi tekoälyn luomiin vaaroihin Harari esittää sääntelyä ja tekoälyn kehittämistä valvovan viraston luomista. Aivan kuten testaamattomia lääkkeitä ei voi tuoda markkinoille, ei tekoälyjärjestelmiä pitäisi saada tuoda markkinoille ennen kuin ne on todettu turvallisiksi.
– Sääntelemätön tekoälyn käyttöönotto loisi sosiaalisen kaaoksen, joka hyödyttäisi diktatuureja ja pilaisi demokratian. Demokratia on keskustelua, ja keskustelu pohjautuu kieleen. Kun tekoäly hakkeroi kielen, se voi tuhota kykymme käydä merkityksellisiä keskusteluja ja siten tuhota demokratian, Harari varoittaa.
Harari uskoo, että tekoälyllä on potentiaalia tuhota koko ihmiskunta. Siksi sääntelyä tarvitaan, ja Hararilla on jo ensimmäinen sääntelymuoto mielessä.
– Tekoälyn täytyy kertoa, että se on tekoäly. Jos keskustelen jonkun kanssa, enkä tiedä onko se ihminen vai tekoäly, se on demokratian loppu, Harari tiivistää.
