Altman: Moramo usporiti razvoj AI-ja, sigurnost ima svoju cijenu

Šef OPENAI-ja Sam Altman poručio je da razvoj najmoćnijih sistema vještačke inteligencije namjerno treba da bude sporiji nego što bi mogao biti te da trka između kompanija i država ne može opravdati zanemarivanje sigurnosti. Naglasio je, međutim, da usporavanje ne znači zaustavljanje razvoja AI-ja.

"Kada govorimo o 'usporavanju', ne mislimo na 'zaustavljanje'. Napredak je bio brz i nastaviće biti brz. Ali trebao bi biti sporiji nego što bi inače mogao biti; intervencije poput sigurnosnih provjera i nadzora imaju značajne troškove", napisao je Altman.

Dodao je da je usporavanje razvoja "itekako vrijedno tog troška" te da konkurentski pritisak ne smije biti opravdanje za nepromišljenost.

"Kompanije ne trebaju da čekaju zakon"

Altman smatra da će za međunarodnu koordinaciju oko najnaprednijih sistema vještačke inteligencije biti potrebno uključivanje vlada, ali poručuje da AI kompanije ne trebaju da čekaju donošenje novih zakona kako bi počele uvoditi strože sigurnosne mjere.

Time je dodatno razradio stav koji je iznio nakon što je izvršni direktor Anthropica Dario Amodei pozvao vodeće kompanije da uspore razvoj najnaprednijih AI sistema.

Amodei upozorava da sposobnosti modela napreduju toliko brzo da sigurnosni mehanizmi teško drže korak s njima. Altman je tada rekao da se slaže da treba usporiti razvoj na samom tehnološkom vrhu te je najavio da će OpenAI neovisnim evaluatorima omogućiti bolji pristup svojim sistemima radi provjere njihove sigurnosti.

Tramp protiv usporavanja

Altmanova nova poruka dolazi nakon što je predsjednik SAD-a Donald Tramp odbacio pozive na ozbiljnije usporavanje razvoja AI-ja, pozivajući se na trku s Kinom i američko tehnološko vodstvo.