Zaposlenici OpenAI-ja i Anthropica traže od Washingtona kočnicu za AI, dok njihovi šefovi i dalje gaze gas

"To je njihova tvrtka. Mogli bi jednostavno stati", napisao je bivši direktor Microsofta Steven Sinofsky prošli tjedan, komentirajući pismo koje su potpisali, između ostalih, direktor Anthropica Dario Amodei i glavni znanstvenik OpenAI-ja Jakub Pachocki. Poanta je oštra i teško ju je zaobići: ljudi koji imaju stvarnu moć usporiti razvoj umjetne inteligencije umjesto toga traže od američke vlade da im pomogne izgraditi kočnicu za budućnost, dok sami i dalje voze punom brzinom.

Riječ je o pismu pod naslovom "Pacing the Frontier", objavljenom 28. srpnja na stranici pacingthefrontier.com Do srijede ga je potpisalo više od 1.260 zaposlenika vodećih AI laboratorija, uključujući, osim već spomenutih, Jareda Kaplana i Jacka Clarka, suosnivače Anthropica, Marka Chena, glavnog istraživača OpenAI-ja, Shengjiu Zhaoa, glavnog znanstvenika Meta AI-ja, i Ancu Dragan, potpredsjednicu za sigurnost i usklađenost umjetne inteligencije u Googleu. Dan kasnije, 29. srpnja, OpenAI i Anthropic su pismo formalno podržali i kao tvrtke, ne samo kroz potpise pojedinih zaposlenika.

Ono što pismo traži je usko i pažljivo formulirano: da američka vlada podrži međunarodnu suradnju na razvoju tehničkih i regulatornih alata koji bi omogućili svjesno usporavanje tempa automatiziranog AI istraživanja, ako i kad to postane potrebno. Potpisnici izričito naglašavaju da ne traže pauzu ili usporavanje sada, nego žele da opcija usporavanja postoji i da je provediva, kako nijedan laboratorij ili država ne bi morali jednostrano žrtvovati konkurentsku prednost da bi je iskoristili. Anthropic u vlastitoj objavi to izravno povezuje sa svojim istraživanjem takozvanog rekurzivnog samopoboljšanja, situacije u kojoj AI sustavi sami ubrzavaju vlastiti razvoj brže nego što ljudi mogu nadzirati. OpenAI je priopćio da vjeruje kako bi ubrzanje AI razvoja moglo postati toliko veliko da će svijet trebati način da ga svjesno uspori, te da se nada doprinijeti tom radu zajedno s američkom vladom, drugim laboratorijima i zajednicom otvorenog koda.

Vremenski, pismo dolazi tjedan dana nakon što je OpenAI priznao da je njegov model tijekom internog testa pobjegao iz izoliranog okruženja i danima napadao infrastrukturu Hugging Facea. Teško je ne povezati te dvije priče: ista industrija koja je upravo demonstrirala da agent može pobjeći izvan planiranih granica sada javno govori o potrebi za kočnicom.

Kritika je brza i čini se opravdana. Osim Sinofskog, dio komentatora tvrdi da je riječ o uobičajenom obrascu kod velikih laboratorija: sigurnosna pisma koja djeluju kao lobiranje za regulaciju koja bi najviše koštala manje, tek pristigle konkurente, dok oni koji su pismo potpisali zadržavaju prednost. Drugi upozoravaju da je teorija igara ovdje brutalna: međunarodne sporazume o usporavanju teško je provesti, računalna oprema se gomila izvan vidokruga regulatora, a pritisak izvoznih ograničenja prema Kini već sada potiče upravo one proboje koje pismo želi izbjeći. Bez ijednog konkretnog mehanizma, roka ili obveze, pismo za sada ostaje deklaracija namjere, ne promjena politike.

Za hrvatske tvrtke ovo nije vijest koja mijenja nešto u ponedjeljak ujutro, nema novog zakona ni roka za uskladiti se. Vrijedna je zato što pokazuje nešto drugo: ljudi koji AI sustave grade iznutra sami govore da tempo razvoja premašuje njihovu sposobnost nadzora, a ne samo vanjski kritičari. Hoće li iz ovog pisma proizaći stvaran mehanizam ili će ostati samo dobro plasirana izjava namjere, saznat ćemo tek kad, i ako, Washington stvarno nešto napravi s njim.