Izrael potrošio desetine miliona dolara na kampanju usmjerenu na odgovore vještačke inteligencije o ratu u Gazi
Izrael je potrošio desetine miliona dolara na digitalnu kampanju usmjerenu na oblikovanje odgovora koje sistemi vještačke inteligencije daju o ratu u Gazi, navodi se u izvještaju američkog portala Drop Sajt Njuz.
Prema izvještaju, kompanija Klok Tauer Eks, u vlasništvu bivšeg rukovodioca izborne kampanje Donalda Trampa, Breda Parskejla, sklopila je sa izraelskom vladom ugovor vrijedan 46,5 miliona dolara. U okviru tog ugovora izgrađena je mreža internet stranica čiji je cilj bio da promoviše izraelske stavove i utiče na odgovore platformi za vještačku inteligenciju, poput Čet Dži-Pi-Tija, Kloda, Džeminija i Perpleksitija.
Metoda „trovanja“ vještačke inteligencije
Drop Sajt Njuz navodi da je kompanija Klok Tauer Eks objavila stotine tekstova na velikom broju internet stranica. Sadržaj se odnosio na rat u Gazi, izraelske vojne operacije i odnose između Sjedinjenih Američkih Država i Izraela.
Kampanja je bila usmjerena na odgovore koje generišu veliki jezički modeli (LLM). Cilj je bio stvaranje sadržaja koji će internet pretraživači indeksirati, a sistemi vještačke inteligencije kasnije uključiti u svoje baze podataka. Takva praksa ponekad se naziva „trovanje LLM-ova“.
Internet stranice imale su veoma mali broj stvarnih posjetilaca, jer njihova ciljna publika nijesu bili ljudi, već internet pretraživači i sistemi za obuku modela vještačke inteligencije. Portali Alivija.org, FektSignal.org i PeksPoint.org, između ostalih, promovisali su jaču vojnu saradnju Sjedinjenih Američkih Država i Izraela, branili izraelsku vojnu kampanju u Gazi i osporavali optužbe na račun izraelskih postupaka, nudeći isključivo proizraelsku perspektivu.
Sadržaj već dospio u sisteme vještačke inteligencije
Drop Sajt Njuz navodi da su pojedini sistemi vještačke inteligencije već počeli da koriste ove stranice kao izvore. U jednom testiranju, Perpleksiti je citirao portal Alivija.org u odgovoru o vojnoj saradnji Sjedinjenih Američkih Država i Izraela. I Majkrosoftov Kopajlot koristio je izvore povezane sa kompanijom Klok Tauer Eks.
Sadržaj sa ovih stranica dospio je u baze podataka za obuku modela vještačke inteligencije putem servisa Komon Krol, velikog internet arhiva koji koriste programeri jezičkih modela. Prema izvještaju, Komon Krol je od januara do juna više stotina puta indeksirao deset internet stranica povezanih sa kompanijom Klok Tauer Eks, što je, kako se navodi, vjerovatno povećalo njihovo prisustvo u odgovorima koje generiše vještačka inteligencija.
Laka meta za manipulaciju
Izvršni direktor organizacije Ček Ferst, Erve Letokje, koja se bavi suzbijanjem digitalnih dezinformacija, objasnio je da je Komon Krol postao meta manipulacija upravo zato što se široko koristi za obuku modela vještačke inteligencije.
- Komon Krol se u oblasti nauke o podacima široko koristi za obuku velikih jezičkih modela. To znači da različiti akteri pokušavaju da prilagode odgovore u svoju korist, a pojedina istraživanja pokazuju da je to prilično lako postići- rekao je Letokje.
Nakon analize spornih internet stranica, Letokje je ocijenio da njihov umjeren ton i pozivanje na izvore mogu biti veoma djelotvorni, jer chatbotovi često nastoje da prikažu više različitih stanovišta.
- Takve stranice mogu biti veoma korisne za ublažavanje štete kod pitanja poput: ‘Da li Izrael sprovodi genocid?’. One nude izraelsku stranu priče, koju chatbotovi potom mogu predstaviti kao ravnopravan dio rasprave- zaključio je.
Pad podrške Izraelu
Na kraju izvještaja ističe se da je javna podrška Izraelu u Sjedinjenim Američkim Državama značajno opala od početka rata u Gazi, u kojem je, prema navodima teksta, poginulo više od 73.000 Palestinaca.
Pad podrške zabilježen je i među grupama koje su se tradicionalno smatrale čvrstim saveznicima Izraela, uključujući konzervativce i evangelističke hrišćane.