Tehisintellekt tunneb ära täiuslikud võltsvideod

2024 Autor: Richard Flannagan | [email protected]. Viimati modifitseeritud: 2023-12-16 00:03

Aasta tagasi aitas Stanfordi Manish Agrawala välja töötada huulte sünkroonimise tehnoloogia, mis võimaldas videotoimetajatel kõlarite sõnu peaaegu märkamatult muuta. Tööriist võib hõlpsasti sisestada sõnu, mida inimene kunagi ei öelnud, isegi lause keskele, või kustutada tema öeldud sõnu. Kõik tundub palja silmaga ja isegi paljude arvutisüsteemide jaoks realistlik.

See tööriist on teinud palju lihtsamaks vigade parandamise ilma kogu stseene uuesti pildistamata ning on kohandanud ka telesaateid või filme erinevatele vaatajaskondadele erinevates kohtades. Kuid see tehnoloogia on loonud ka häirivaid uusi võimalusi raskesti leitavatele võltsvideodele, mille selge eesmärk on tõde moonutada. Näiteks kasutati hiljutises vabariiklaste videos Joe Bideniga intervjuuks karmimat tehnikat.

Sel suvel avalikustas Agrawala koos kolleegidega Stanfordis ja UC Berkeley's tehisintellektil põhineva lähenemise huulte sünkroonimise tehnoloogiale. Uus programm tuvastab täpselt rohkem kui 80 protsenti võltsingutest, tuvastades väikseimad erinevused inimeste helide ja nende suu kuju vahel.

Ent Agrawala, Stanfordi meediauuenduste instituudi direktor ja Forest Basketti arvutiteaduse professor, kes on samuti seotud Stanfordi inimkeskse tehisintellekti instituudiga, hoiatab, et sügavatele võltsingutele pole pikaajalist tehnilist lahendust.

Kuidas võltsingud töötavad

Videoga manipuleerimisel on õigustatud põhjused. Näiteks võib igaüks, kes filmib väljamõeldud telesaadet, filmi või reklaami, säästa aega ja raha, kasutades digitaalseid tööriistu vigade parandamiseks või skriptide kohandamiseks.

Probleem tekib siis, kui neid vahendeid kasutatakse teadlikult valeinformatsiooni levitamiseks. Ja paljud tehnikad on tavavaatajale nähtamatud.

Paljud sügavad võltsvideod tuginevad näo vahetusele, kattes sõna otseses mõttes ühe inimese näo teise inimese videoga. Kuigi näomuutmise tööriistad võivad olla veenvad, on need suhteliselt toored ja jätavad tavaliselt digitaalseid või visuaalseid esemeid, mida arvuti suudab tuvastada.

Teisest küljest on huulte sünkroonimise tehnoloogiad vähem nähtavad ja seetõttu raskem tuvastada. Nad manipuleerivad pildi palju väiksema osaga ja sünteesivad seejärel huulte liigutused, mis vastavad täpselt sellele, kuidas inimese suu tegelikult liiguks, kui ta teatud sõnu räägiks. Agrawali sõnul võib võltsprodutsent panna inimesele „ütlema” ükskõik mida, kui ta saab piisavalt kuvandeid inimese kuvandist ja häälest.

Võltsingu tuvastamine

Muretsedes sellise tehnoloogia ebaeetilise kasutamise pärast, töötas Agrawala koos Stanfordi doktorandi Ohad Freediga, et töötada välja avastamisvahend; Hani Farid, California ülikooli Berkeley infokooli professor; ja Shruti Agarwal, Berkeley doktorant.

Algul katsetasid teadlased puhtalt manuaalse tehnikaga, mille käigus vaatlejad uurisid videomaterjali. See töötas hästi, kuid praktikas oli see töömahukas ja aeganõudev.

Seejärel katsetasid teadlased tehisintellektil põhinevat närvivõrku, mis oleks sama analüüsi tegemine palju kiirem pärast endise presidendi Barack Obamaga videotreeningut. Närvivõrk tuvastas rohkem kui 90 protsenti Obama enda huulte sünkroonimisest, kuigi teiste kõlarite täpsus langes umbes 81 protsendile.

Tõeline tõe proovikivi

Teadlaste sõnul on nende lähenemine vaid osa kassi ja hiire mängust. Sügava võltsimise tehnika täienedes jätab see võtmeid veelgi vähem.

Lõppkokkuvõttes, ütleb Agrawala, pole tegelik probleem mitte niivõrd sügavate võltsvideote vastu võitlemine, kuivõrd desinformatsiooni vastu võitlemine. Tegelikult märgib ta, et suur osa valeinformatsioonist tuleneb inimeste tegelikult öeldu tähenduse moonutamisest.

"Valeinformatsiooni vähendamiseks peame parandama meediakirjaoskust ja arendama vastutuse süsteeme," ütleb ta. "See võib tähendada seadusi, mis keelavad tahtliku valeinformatsiooni tootmise ja nende rikkumise tagajärjed, samuti mehhanisme sellest tuleneva kahju kõrvaldamiseks."