Tekoälyn luoma kuvio huijasi valvontakameraa – auto katosi

Tietoturvatutkija teki miljoonia testejä kehittääkseen kuvion, jota algoritmit eivät huomaa.
Kuviot sekoittavat kameran kyvyn tunnistaa kohteensa. / Tommy Picone
Kuviot sekoittavat kameran kyvyn tunnistaa kohteensa. / Tommy Picone
Kuviot sekoittavat kameran kyvyn tunnistaa kohteensa. / Tommy Picone
Kuviot sekoittavat kameran kyvyn tunnistaa kohteensa. / Tommy Picone

Las Vegasissa valvontakameran ohi ajoi elokuussa vuoden 2009 Toyota Yaris, jota kamera ei tunnistanut autoksi. Auto oli päällystetty tietokoneen luomalla kuviolla.

Koe tehtiin Def Con -tietoturvakonferenssissa yhteistyössä autoaiheisen Donut Media -kanavan kanssa. Kuvion takana on entinen tietoturvajohtaja ja kansasilaisen SecKC-tapahtuman perustaja Bill Swearingen.

Hän kertoi TechCrunchille ajaneensa vuoden ajan noin 31 miljoonaa testiä ja pystyvänsä nyt tuottamaan tilauksesta kuvioita, jotka estävät yleisimpiä rekisterikilpien lukijoita ja valvontakameroita havaitsemasta sitä, minkä kuvio peittää.

Kuviot eivät estä kameraa tallentamasta videokuvaa, vaan sekoittavat kameran kyvyn tunnistaa kohde, jolloin järjestelmä ei laukaise havaintohälytystä.

Swearingenin mukaan malli päihitti kaikki 11 testattua avoimen lähdekoodin tunnistusalgoritmia. Mukana oli Flockin rekisterikilpilukijoita, Axonin kehokameroita ja Clearview AI:ta pyörittäviä ohjelmistoja.

Bill Swearingenin mukaan ihminen voi kieltäytyä seurannasta kuvioiden avulla.

– Yksityisyys on perusoikeus, hän sanoi TechCrunchille.

Esittely oli yksittäinen koe eikä vertaisarvioitu tutkimus. Tehokkuutta kehuttiin, vaikka renkaat tuottivatkin ongelmia. Kuviollisia vaatteita ei ole julkisesti testattu kadulla lainkaan.

Tutkija itse huomauttaa Def Con -esityksensä dioissa, että vastaavat väitteet mitataan tyypillisesti yhtä tunnistinta vastaan ilman verrokkia. Alan kolmestakymmenestä julkaistusta menetelmästä vain kaksitoista on testattu oikeaa järjestelmää vastaan.

Swearingen kertoi pitävänsä vahvimmat kuvionsa poissa internetistä, jotta kameravalmistajat eivät pysty päihittämään niitä.

– Jokainen epäonnistuminen parantaa malliani, joten kuviot paranevat koko ajan, hän sanoi.

Poimintoja videosisällöistämme

Samalla kyse oli tuotelanseerauksesta. Hankkeella on joukkorahoituskampanja, jolla myydään kuviolla painettuja t-paitoja ja huppareita, ja myöhemmin tavoitteena ovat ajoneuvojen teippaukset.

EU:ssa kieltoja

Yhdysvalloissa hanke on nähty osana vastarintaa laajenevalle automaattivalvonnalle.

Euroopassa asetelma on toinen. EU:n tekoälyasetus kieltää reaaliaikaisen biometrisen etätunnistamisen julkisissa tiloissa osana lainvalvontaa ja kasvojentunnistuksen tietokantojen luomisen.

Tämä koskee kasvokuvien kohdistamatonta haravointia internetistä tai valvontakamera-aineistosta. Kiellot ovat olleet voimassa helmikuusta 2025 alkaen, ja enimmäisseuraamus rikkomuksesta on 35 miljoonaa euroa tai seitsemän prosenttia yhtiön maailmanlaajuisesta liikevaihdosta.

Suomessa aihe on tuttu sen ohjelmiston osalta, jonka Swearingen sanoo päihittäneensä. Keskusrikospoliisin lasten seksuaalista hyväksikäyttöä torjuva yksikkö käytti Ylen mukaan Clearview AI -kasvojentunnistusohjelmaa vuodenvaihteessa 2019–2020. Tuolloin neljä henkilöä teki kuukauden aikana noin 120 hakua.

Tietosuojavaltuutettu antoi asiasta huomautuksen, koska ohjelman tietoturvaa tai tietosuojalainsäädännön noudattamista ei ollut etukäteen riittävästi varmistettu.

Auton teippaus olisi Suomessa laiton

Suomessa tieliikennelaki edellyttää, että rekisterikilvet pidetään sellaisessa kunnossa, että rekisteritunnus on liikenteessä vaikeudetta luettavissa.

Poliisin mukaan kilpien omatoiminen muokkaaminen on kiellettyä. Helsingin poliisin liikennetoimintojen johtaja kertoi MTV Uutisille sakkokäsikirjan mukaisen seuraamuksen olevan kymmenen päiväsakkoa jo pelkästä maatunnuksen peittävästä tarrasta.

Moni ei ole tietoinen käyttöä helpottavasta ominaisuudesta.
Yhteydenpitoon tarkoitettu laite on noussut lapsiperheiden uudeksi suosikiksi.
Yritysten pitää nimetä taho, joka vastaanottaa sähköisiä todisteita koskevat viranomaismääräykset.
Mainos