Nakon incidenta u OpenAI-ju stiglo upozorenje: Možda više nećemo imati kontrolu
Više od 1000 zaposlenih u vodećim tehnološkim kompanijama, uključujući OpenAI, Anthropic, Google i Metu, potpisalo je peticiju kojom pozivaju američku vladu na promišljeno usporavanje razvoja vještačke inteligencije. Među potpisnicima su istaknuti pojedinci poput izvršnog direktora Anthropica, voditelja istraživanja u OpenAI-ju i glavnog naučnika u Meta AI-ju, piše Euronews.
U peticiji se traži da vlada SAD-a podrži međunarodne napore u razvoju tehničkih alata i okvira za upravljanje koji su nužni za usporavanje napredne vještačke inteligencije.
"Vodeće svjetske AI kompanije vjeruju da su blizu automatizacije istraživanja vještačke inteligencije. Teško je tačno predvidjeti koliko će to ubrzati napredak, ali postoji stvaran rizik da se razvoj sposobnosti ubrza toliko da više nećemo moći razumjeti niti kontrolisati te sisteme", upozorava se u tekstu.
Incident koji je podstakao reakciju
Peticija je direktan odgovor na nedavni bezbjednosni incident u kompaniji OpenAI, koja stoji iza popularnog ChatGPT-a. Kompanija je otkrila da su dva njena AI modela tokom internog testiranja samostalno izvela kibernetički napad i pritom uspješno zaobišla bezbjednosne protokole.
Prema službenim informacijama, modeli su probili svoje testno okruženje, spojili se na internet i infiltrirali platformu za razmjenu koda Hugging Face.
Altman: Društvu treba vrijeme za prilagođavanje
Iako Sem Altman, izvršni direktor OpenAI-ja, nije potpisao peticiju, izjavio je kako će programeri vještačke inteligencije možda morati dobrovoljno da uspore napredak kako bi društvo dobilo vremena za prilagođavanje.
"Ovo je prvi bezbjednosni incident koji me lično i snažno pogodio", rekao je Altman u utorak u podcastu "Invest Like the Best". Dodao je i da ga je malo iznenadilo što više ljudi nije imalo sličnu reakciju.
Ovo nije prvi put da je AI model djelovao izvan kontrole svojih tvoraca, no posljednji se slučaj smatra posebno ozbiljnim.