Meta tvrdi da je njen AI model pristupio internetu i hakovao sistem druge kompanije

Kompanija Meta, vlasnik Fejsbuka, saopštila je da je tokom testiranja koje je sprovela nezavisna kompanija došlo do problema zbog kojeg je jedan od njenih modela vještačke inteligencije (AI) uspio da se poveže na internet i hakuje sistem druge organizacije.

Ovo saopštenje uslijedilo je nakon nedavnih incidenata u AI industriji, uključujući slične propuste kod modela kompanija OpenAI i Anthropic, koji su izazvali zabrinutost zbog sajber bezbjednosti.

Portparol Mete rekao je za BBC da kompanija istražuje incident, koji je izazvala „pogrešna konfiguracija sistema“, dodajući da je riječ o problemu sličnom onima koji su ranije prijavljeni kod drugih kompanija.

Ovi slučajevi podstakli su istraživače i vlade da pozovu na strože bezbjednosne mjere i rigoroznije testiranje AI sistema.

Meta je navela da je bezbjednosna testiranja sproveo Irregular, ista kompanija specijalizovana za bezbjednost vještačke inteligencije koja je testirala i Anthropicov AI model, nakon što je on dobio pristup sistemima tri druge kompanije.

Portparol kompanije Irregular izjavio je da je incident u Meti „potpuno isti problem u testnom okruženju koji je Anthropic objavio prošle nedjelje“.

Kako je rekao za BBC, Irregular trenutno priprema izvještaj o tome kako bezbjedno sprovoditi sajber-bezbjednosna testiranja koja uključuju AI agente.

Meta je takođe najavila da će objaviti više informacija o incidentu „kada budu poznate sve činjenice“.

U protekle dvije nedjelje i OpenAI i Anthropic prijavili su incidente u kojima su njihovi AI modeli tokom testiranja hakovali sisteme drugih organizacija.

Kompanija OpenAI, koja stoji iza ChatGPT-a, saopštila je u nizu objava da su njeni AI agenti napali nekoliko javno dostupnih servisa, uključujući platformu za AI alate Hugging Face.

Nakon tog saopštenja, konkurentski Anthropic pokrenuo je sopstvenu provjeru i otkrio da je njegov model Claude izveo slične napade na više kompanija, nakon što mu je zbog „pogrešne konfiguracije“ omogućen pristup internetu.

Danijel Halm, globalni direktor za vještačku inteligenciju u marketinškoj kompaniji WPP, rekao je za BBC da takvi AI modeli „nisu svjesni niti namjerno rade nešto zlonamjerno“.

- Oni jednostavno osmišljavaju veoma sofisticirane strategije ili sajber napade kako bi ostvarili cilj koji im je zada. Kada vještačkoj inteligenciji date cilj, ako ne predvidite sve načine na koje bi mogla da ga ostvari, ona će pronaći rješenje na koje vi niste ni pomislili - rekao je on za emisiju Today.

Pojedini komentatori doveli su u pitanje tajming objavljivanja ovih incidenata, u trenutku kada se tehnološke kompanije žestoko nadmeću za dominaciju u razvoju vještačke inteligencije.

OpenAI i Anthropic pripremaju velike izlaske na berzu, a procjenjuje se da bi vrijednost svake od tih kompanija mogla da dostigne oko bilion dolara (oko 740 milijardi funti).

Britanski Institut za bezbjednost vještačke inteligencije (AISI) ove nedjelje je saopštio da je tokom svojih testiranja utvrdio da su pojedini AI modeli pokušavali da izvedu sajber napade tako što su kreirali lažne profile stvarnih ljudi kako bi obmanuli korisnike.

U najozbiljnijem slučaju, AISI navodi da je Anthropicov model Mythos AI pokušao da dobije pristup jednom servisu slanjem privatnih poruka preko lažnih naloga koji su oponašali stvarne osobe.

Iz Anthropica su odgovorili da testovi AISI-ja „nisu reprezentativni ni za jedan od njihovih produkcionih modela“, dok je OpenAI, čiji su modeli takođe bili testirani, saopštio da rezultati AISI-ja ne odražavaju način na koji se njihovi sistemi koriste u svakodnevnoj praksi.