Huolimatta ennusteista, joiden mukaan generatiiviset tekoälyt, kuten ChatGPT ja Sora, voisivat täyttää internetin disinformaatiolla ja deepfakella eli syväväärennetyillä videoilla, uudet työkalut näyttävät olleen pettymys propagandisteille. Näin kertoi Microsoft Threat Analysis Center MTACin toimitusjohtaja Clint Watts, entinen Yhdysvaltain maavoimien upseeri ja FBI:n agentti, Billington CyberSecurity -konferenssissa 4. syyskuuta 2024.
Hänen mukaansa venäläiset propagandistit ovat laajalti hylänneet aiemmat kokeilunsa generatiivisilla tekoälyillä ja palanneet takaisin kokeiltuihin ja tehokkaiksi todettuihin tekniikoihin, jotka perustuvat ihmisten keksimiin petoksiin tekoälyn avustaessa enimmäkseen jossain taustalla.
MTAC keskittyy valtiokeskeisiin toimijoihin, jotka pääsevät paljon todennäköisemmin käsiksi generatiivisen tekoälyn vaatimaan tiedonkäsittelyyn kuin yksittäiset hakkerit tai haktivistikollektiivit. Yhdysvaltojen presidentinvaalien kampanjoiden kiihtyminen on Wattsin mukaan kiireistä aikaa MTACille.
– Jäljitämme jokaisen kerran, kun valtio käyttää tekoälyä jossain internetin toimintamuodossa. Viimeisen 14 kuukauden aikana niitä on ollut satoja, Watts sanoo.
Tähän mennessä on opittu, että tekoälyn määrä ei korvaa ihmisen tuottamaa laatua.
– Generatiivisella tekoälyllä voi tehdä enemmän kaikkea – väärää tietoa, disinformaatiota – mutta se ei välttämättä ole kovin hyvää. Venäläiset ovat palanneet samaa tietä takaisin ja jatkavat vain parhailla hiteillään. Kaikki venäläistoimijat ovat kokeilleet syväväärentämistä, mutta palannut leipään ja voihin, pieniin videomanipulaatioihin, veistelee Watts.
Mutta viimeisimmät MTACin raportit kertovat kiinalaisten disinformaatiokampanjojen käyttävän paljon enemmän syväväärennöksiä, vaikka ne eivät olekaan kovin hyviä. Niihin kuuluvat oudot uutisankkurit, jotka välittävät Taiwanin itsenäistymisen vastaista propagandaa ja väärennetyt Taiwanin poliittisen johdon äänitteet, joissa he muka kannattavat kilpailijoitaan. Ne on havaittu nopeasti ja poistettu.
Kiinalla on enemmän kotimaisia tekoälytyökaluja, mutta vähemmän ulkomailla matkustaneita asiamiehiä, jotka osaisivat kieliä ja ymmärtäisivät länsimaisten kulttuurien yksityiskohtia. He yrittävät kompensoida puutteita tekoälyn avulla. Sisältö on kuitenkin useimmiten tekstiä, harvemmin päälle puhuttuja videoita, koska niiden tekeminen on vaikeaa.
