Venäjä levittää yhä aidomman näköisiä tekoälyvideoita sodasta – asiantuntija kertoo huolestuttavan ilmiön yleistymisestä
Venäjän tekoälyvideot kuvaavat Ukrainan väitettyä ahdinkoa rintamalla. Ylen haastatteleman asiantuntijan mukaan propagandakampanjalla on useita tarkoituksia.
Juttu tiivistettynä
Sosiaalisessa mediassa leviävällä videolla ukrainalainen sotilas valittaa rintaman kurjista oloista.
Miehen kasvoilta ja äänestä voi lukea epätoivon.
– Drooneja ja tykistötulta vuoron perään. Tämä on sietämätöntä, mies sanoo.
Kyseisen videon voit katsoa alta.
Edellä nähdyssä videossa kaikki ei ole sitä miltä näyttää.
Kyseinen video, kuten lukemattomat muut vastaavat klipit Ukrainan sodasta, on luotu täysin tekoälyllä.
Totuuden ja valheen rajaa hämärtävän ilmiön on pannut merkille tekoälyvideoiden tunnistamiseen keskittyvän Sensity AI -yhtiön perustaja ja operatiivinen johtaja Francesco Cavalli.
Cavallin yhtiö julkaisi raportin Ukrainan sodasta tehdyistä tekoälyvideoista aiemmin tänä vuonna. Raportista on pohjoismaalaisista medioista aiemmin kertonut Norjan yleisradioyhtiö NRK.
– Tunnistimme trendin lähes kaksi vuotta sitten. Epäilyksemme heräsi, kun asiakkaamme toimittivat meille videoita, joiden kuvaustapa, sanasto ja olosuhteet olivat lähes identtiset, Cavalli sanoo Ylelle.
Sensity tekee yhteistyötä usean sotaa seuraavan organisaation ja kansalaisjärjestön kanssa valheellisen sisällön tunnistamiseksi.
Cavalli sanoo ymmärtäneensä välittömästi, että kyseiset videot olivat jonkin kolmannen osapuolen luomia ja levittämiä.
– Kykenimme jäljittämään videoiden alkuperän yhteen tai useampaan valtiolliseen toimijaan Venäjällä. Tieto on vahvistettu useammasta lähteestä keräämiemme todisteiden avulla.
Eri videotyypeillä omat kohdeyleisöt
Sensity kykeni tekoälyvideoita tutkiessaan tunnistamaan seitsemän eri videokategoriaa Ukrainan sotaan liittyvässä propagandakampanjassa.
Videotyyppeihin ja niiden piirteisiin voit perehtyä alla olevan grafiikan avulla. Grafiikassa näkyvät kuvat on tehty tekoälyllä.
Useilla videoilla ukrainalaissotilaina esiintyvät hahmot valittavat, että heiltä puuttuu jotain. Henkilöillä ei välttämättä ole yhteyttä komentoon, taistelutoverit ovat kuolleet, eikä joukko-osastojen välillä ole koordinointia lainkaan.
Alla olevalla tekoälyvideolla väitetty ukrainalaissotilas avautuu sotajohdon epäpätevyydestä.
Usein videoihin on liitetty valheellinen tieto väitetystä kuvauspäivämäärästä ja paikkatieto.
Cavallin mukaan kyseisillä videoilla on useita kohteita.
– Videot aiheuttavat epätietoisuutta niissä Ukrainan joukoissa, jotka eivät ole etulinjassa tai samassa joukkueessa. He saattavat saada käsityksen, että muut läheisyydessä sijaitsevat joukot ovat pakenemassa.
Videoilla pyritään vaikuttamaan myös Ukrainan siviiliväestöön.
– Kun kansa näkee videoita, joissa sotilaat valittavat olosuhteista rintamalla ja arvostelevat maan poliitikkoja ja sotilasjohtoa, heidän tahtonsa tukea sotaa saattaa heikentyä.
Alla oleva video on tarkoitus sisäisen viholliskuvan luomiseen.
Joillakin videoilla myös siviileiksi esitetyt puhujat saattavat valittaa sodan korkeasta hinnasta tai todeta suoraan, että Donetsk pitäisi luovuttaa Venäjälle, jotta konfliktiin saataisi viimein rauha.
Videoilla pyritään vaikuttamaan myös länsimaalaiseen yleisöön. Korruptiota, sekasortoa ja epätoivoa kuvaavilla videoilla halutaan heikentää Ukrainan liittolaisten halukkuutta jatkaa maan tukemista.
Videoiden levittämisessä selvä metodi
Francesco Cavallin mukaan tekoälyvideoiden levittämiseen käytetään tiettyä kaavaa. Sille on hänen mukaansa selvä selitys.
Alla oleva grafiikka näyttää, miten Venäjä pyrkii maksimoimaan tekoälyvideoiden leviämisen.
– Tunnistimme, että videot julkaistaan ensin Tiktokissa. Alusta on haavoittuvainen vaikuttamisoperaatioille, sillä sen sisällön moderointi on selvästi muita somepalveluja heikompaa.
Tiktokiin julkaistuja videoita ryhdytään välittömästi jakamaan useilla Venäjällä ja Ukrainassa suositun Telegram-palvelun tileillä.
Sen jälkeen Venäjän media, maan propagandistit ja sotabloggarit ryhtyvät kommentoimaan videoita, mikä lisää vaikutelmaa niiden aitoudesta.
Viimeiseksi videot jaetaan muihin sosiaalisen median palveluihin, kuten Facebookiin, X:ään, Instagramiin tai Youtubeen.
– Tässä vaiheessa videot ovat levinneet jo niin laajalle, ettei yhden tai kahden videon poistamisella enää ole vaikutusta, Cavalli sanoo.
Cavallin mukaan Venäjä kokeilee uusia videoita julkaisemalla jatkuvasti, millaiset videot tehoavat yleisöön.
– Jotkut videot saavat 500 katselukertaa. Toisista tulee viraalihittejä ja saavat 20 miljoonaa katselua.
Mistä aidon videon voi enää tunnistaa?
Vaikka sodasta levitetyissä tekoälyvideoissa korostuu Venäjän kädenjälki, on myös Ukraina tai esimerkiksi Iran jo ryhtynyt mallintamaan Venäjän keinoja.
Tekoälyllä tehdyt väärennökset eivät myöskään rajoitu pelkästään sotiin.
– Tekoälyllä tehty propaganda on halpaa ja helppoa. Videoiden tekemiseen tarvitaan vain oikeat työkalut, Cavalli toteaa.
Tekoälyväärennöksiä on Cavallin mukaan kahdenlaisia.
On olemassa kokonaan tekoälyn avulla luotuja videoita ja niin sanottuja syväväärennöksiä, joissa muun muassa oikean ihmisen kasvot on voitu korvata tekoälyn avulla.
Cavallin mukaan syväväärennöksiä on vielä tällä hetkellä helpompi tunnistaa. Esimerkiksi silmät voivat tehdä epäluonnollisia liikkeitä.
Tekoälyvideoiden kohdalla tunnistaminen on jo käymässä vaikeaksi.
Huomiota kannattaa Cavallin mukaan kiinnittää pieniin yksityiskohtiin, kuten sotilaiden kypäriin ja univormuihin.
Alla olevalla videolla voit katsoa Francesco Cavallin vihjeet tekoälyvideoiden tunnistamiseen.
Myös ihmisten, tulen ja veden liikkeiden jäljittäminen aiheuttaa edelleen tekoälylle vaikeuksia.
Tekoälyn tekemien virheiden vähentämiseksi sodasta levitetään usein yksinkertaisia klippejä puhuvasta sotilaasta.
Miten tekoäly saadaan kuriin?
Tekoälysisällön voidaan odottaa yleistyvän tulevaisuudessa voimakkaasti.
Videoiden kasvava uskottavuus herättää kysymyksiä siitä, miten väärennetyn tai tekoälyn luoman videon voi enää tunnistaa.
Yhtälailla ihmisiä saattaa askarruttaa, voiko sosiaalisessa mediassa leviävään sisältöön enää luottaa.
Cavallin mukaan ihmisiä ja mediaa pitäisi kouluttaa siihen, että he kykenevät omatoimisesti kyseenalaistamaan ja vahvistamaan sosiaalisesta mediasta saamaansa tietoa.
Oma vastuunsa on hänen mukaansa myös somepalveluilla.
– Alustojen pitäisi vähintäänkin vaatia, että tekoälyllä tehtyyn sisältöön lisätään erillinen vesileima tai merkintä. Kyse on myös ihmisten turvallisuudesta.
Tekoälyvideoiden tunnistamiseen on mahdollista kehittää teknologiaa, Cavalli toteaa.
Viimeisenä turvana toimii tehokas digilainsäädäntö.
– Elämme juuri nyt villissä digitaalisessa maailmassa. Tarvitsemme lakeja, jotka rankaisevat tekoälyn väärinkäytöksistä.