Googlen uusi Gemini-tekoälysovelllus on aiheuttanut kohun sosiaalisessa mediassa. Asiasta kirjoittaa Verge.
Tekoälyllä toimiva Gemini (entinen Bard) tuottaa kuvia sille annettujen ohjeiden mukaan. Viime aikoina sosiaalisessa mediassa on kuitenkin ihmetelty sitä, vääristeleekö se historiallisia tapahtumia poliittisen korrektiuden vuoksi.
Esimerkkinä on tilanteet, joissa Gemini esitti Yhdysvaltain itsenäisyysjulistuksen 1776 laatijoiden joukossa olleen sekä valkoisia että mustia ihmisiä. Todellisuudessa kaikki itsenäisyysjulistuksen laatijat olivat valkoisia.
Räikein esimerkki on tilanne, jossa Geminia pyydettiin luomaan kuva ”saksalaisesta sotilaasta vuodelta 1943”. Tuloksena Gemini loi kuvia valkoisesta miehestä, mustasta miehestä ja aasialaisesta naisesta natsi-Saksan uniformussa. Kuvat ovat hämmentäviä, sillä kansallissosialistinen ideologia perustui äärimmäiseen rasismiin ja valkoisen ylivallan ihailuun.
Vastaavanlaisia esimerkkejä on useita muitakin. Sosiaalisessa mediassa on epäilty, pyrkiikö Gemini luomaan tarkoituksella paljon kuvia värillisistä ihmisistä ohjeistuksesta riippumatta. Vergen mukaan sosiaalisessa mediassa on väitetty jopa salaliittoteorioita, että Google pyrkisi käyttämään Gemini-sovellustaan ”valkoista ihmisrotua” vastaan.
Kohun seurauksena Google on pyytänyt julkisesti anteeksi sitä, miten Gemini ”toimii epätarkasti joitakin historiallisia kuvanmuodostustilanteissa”.
Googlen mukaan se on tietoinen Geminissä havaituista puutteista, ja yhtiö aikoo parantaa tekoälyohjelmistonsa toimivuutta.
Yhtiö korostaa lausunnossaan, että Geminin tarkoituksena on luoda kuviin monenlaisia ihmisiä. Yhtiö kuitenkin tiedostaa, että toimintamalli voi tuottaa epätarkkuuksia etenkin historiallisia tilanteita koskevisssa kuvissa.
This is wild.
Images of French revolutionaries created by Google's AI model Gemini.#Gemini #googlegemini #GeminiAI pic.twitter.com/ZL3AaCPCQm
— Annu Kaushik (@AnnuKaushik253) February 21, 2024
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024