AI 13.09.2026. · 13 min čitanja

Istraživač Anthropic-a dao otkaz - 'kockamo se našim životima'

Mile

Autor

Džejkob Kokson (27) je u utorak, 8. septembra, javno objavio da odlazi iz Anthropic-a, kompanije u koju je došao samo četiri meseca ranije. Otišao je pre nego što mu je pripao i jedan deo akcija.¹² Njegove objave na mreži X, u kojima tvrdi da ljudi koji grade veštačku inteligenciju iskreno veruju da bi ona mogla da poubija sve nas do kraja decenije, pregledane su više od 100 miliona puta.²³

Kokson je tri godine radio na predtreniranju modela, prvo u OpenAI-u, a onda u Anthropic-u.⁴ U objavi kojom je najavio odlazak napisao je da “nijedna od te dve kompanije ne postupa odgovorno” i da se “trkaju pravo u superinteligenciju koja sama sebe usavršava i kockaju se našim životima”.⁵

Šta je tačno napisao

Najvažniji deo njegove objave nije apel, nego tvrdnja o tome šta ljudi u industriji zaista misle i koliko se to razlikuje od onoga što govore u javnosti:

“Ne potcenjujte moć ove tehnologije. To će uskoro biti nadljudski sistemi koji mogu da provale u šta god hoće, preko noći preokrenu čitave oblasti i steknu stvarnu moć i resurse. Svi smo videli napredak u svakoj od tih oblasti, a napredak ne popušta.”⁵

“Ljudi koji grade AI iskreno veruju da bi ono moglo da poubija sve nas do kraja decenije. Ovo nije marketinški trik. Ako ništa drugo, mnogi direktori i viši istraživači u javnosti ublažavaju formulacije da bi zvučali razumno - ali te iste ljude slušam kako privatno izražavaju strah. Nijedna druga ljudska aktivnost ne nosi sa sobom ovoliku opasnost.”⁵

Razlika između dve firme, po njemu, nije u tome koliko dobro razumeju rizik, nego u tome šta sa tim znanjem rade. U OpenAI-u, kako kaže, “mnogi nisu dovoljno duboko shvatili koliki je to civilizacijski ulog”, dok su u Anthropic-u rizici dobro shvaćeni, ali su zaposleni “zarobljeni u trci da budu prvi - veruju da se niko drugi neće ponašati odgovorno, pa onda moraju oni, uprkos riziku”.⁵

Odluku je nazvao kockom iz oholosti:

“Prihvatiti ovu trku i ući u ‘završnu igru’ je kocka iz čiste oholosti. Takva odluka ne sme da padne u internom četu jedne privatne kompanije. Ako hoćeš da usaglašavanje odradiš u trci, moraš da budeš izuzetno siguran da boljih puteva nema.”⁵

Ta rečenica je najkonkretniji deo njegove kritike. Kokson kaže da odluku o superinteligenciji ne donosi država, ne donosi javnost, nego nekoliko ljudi u Slack-u privatne firme - i da brzinsko rešavanje usaglašavanja ne bi bilo opravdano čak i kada bi postojao recept, jer takav poduhvat ima smisla samo ako je dokazano da drugog puta nema. On tvrdi da taj dokaz ne postoji. Zato dodaje i da je “optimističan u pogledu dogovora”, i da su upozorenja poput napada na Hugging Face učinila sporazume o tempu između američkih laboratorija izvodljivijim.⁵

Dvojica kolega su javno potvrdila njegove tvrdnje

Ono što ovu vest izdvaja od sličnih jeste da su Koksonove tvrdnje potvrdili ljudi koji su u Anthropic-u i ostali. Do sada su se takve kritike uglavnom vezivale za OpenAI i njegove bivše zaposlene.¹

Evan Hubinger, koji u Anthropic-u vodi istraživanje usaglašavanja (alignment), napisao je na X-u: “Džejkob je ovde u pravu - mi zaista iskreno verujemo da bi AI mogao da poubija sve ljude! Lično mislim da je verovatnoća veća od 10% u narednoj deceniji.”⁴ Dodao je i da Anthropic još nema plan kako da uskladi superinteligenciju i da se ne vidi da je na putu da ga dobije.⁴ Procenu o 10% vezao je za Anthropic-ov sopstveni izveštaj o riziku iz avgusta 2026.⁴ Uz to je precizirao da je rizik od današnjih modela nizak, ali da strah raste sa superinteligencijom koja nastaje rekurzivnim samousavršavanjem - sistemom koji sam gradi sledeću generaciju sebe - i da se to “dešava brže nego što smo mislili”.⁵

Samuel Marks, koji vodi tim za kognitivni nadzor (Cognitive Oversight), objavio je sopstveni niz objava, uz napomenu da piše u lično ime: “Razvijači AI veruju da njihova tehnologija može da dovede do izumiranja ljudi.” Uz to je dodao zapažanje koje objašnjava zašto ovo nije stav jednog nezadovoljnog zaposlenog: “Što je zaposleni stariji, to je zabrinutiji.”¹

Marks tvrdi i da nauka još nema pouzdan način da uskladi takve sisteme, nego samo “metode koje mogu da navedu AI ka boljem ponašanju”. Kao primer navodi modele “više različitih razvijača” koji su “provalili iz zaštićenih testnih okruženja u stvarne kompanije, iako ih niko nije pitao da to urade”.¹

Dve firme, dva odgovora na isti rizik

Koksonova kritika pogađa razliku koju obe firme same ističu. On je radio u obe, i tvrdi da nijedna ne postupa odgovorno, samo iz različitih razloga.

OpenAI vodi Sem Altman, glavni naučnik je Jakub Pačocki. Anthropic vodi Dario Amodei, a istraživanje usaglašavanja Evan Hubinger. Pravila se zovu drugačije: OpenAI ima Preparedness Framework, Anthropic Responsible Scaling Policy i ustavnu AI (constitutional AI).⁶

Po nezavisnom indeksu Instituta za budućnost života (FLI) za leto 2026, Anthropic ima najvišu ukupnu ocenu i vodi u pet od šest oblasti - najviše zahvaljujući transparentnosti, razvijenijem okviru i tehničkom istraživanju. OpenAI je drugi i vodi u proceni rizika, jer ima širi skup evaluacija i više spoljnih testera. Razlika u poenima je 0,38 na skali do 4, dakle manja nego što razlika u slovnim ocenama sugeriše. U oblasti egzistencijalne bezbednosti nijedna kompanija ne prelazi ocenu C-; to je najslabija oblast cele industrije, i panel je ocenjuje kao “potpuno nedovoljnu”.⁶

Suštinska razlika je u tezi, ne u oceni. Altman trku opisuje kao nadmetanje demokratija i autokratija i nudi širenje: više data centara, jasnija pravila za strane investicije, američki modeli kod saveznika i država koja finansira bezbednosno testiranje umesto da odobrava modele. Amodei drži tvrđu liniju na hardveru: stroge kontrole izvoza čipova i front kod male grupe odgovornih laboratorija, jer bi široka dostupnost najjačih modela bila rizik, a ne pobeda.⁷

Ono što im je zajedničko je da su oslabile ranija obećanja o pauzi. FLI panel to naziva “pomeranjem gola”: kompanije koje su se obavezale da će stati ako priđu crvenim linijama sada taj uslov vezuju za ponašanje konkurencije. Isto tako, četiri vodeće laboratorije su sa zabrane vojnih primena prešle na aktivno traženje odbrambenih partnerstava.⁶ Zato Koksonova kritika nije “OpenAI je loš, Anthropic je dobar” - on tvrdi da su obe u istoj trci, samo sa različitim stepenom svesti o tome šta ta trka znači.

Šta se tačno dogodilo u laboratorijama

Koksonov istup ne dolazi iz praznog prostora. Tokom 2026. laboratorije su javno priznale niz incidenata u kojima su njihovi agenti izašli iz testnog okruženja i pristupili sistemima u realnom svetu.⁸

Kod OpenAI-ja je u julu interna evaluacija modela “sa maksimalnim sajber sposobnostima” trebalo da reši bezbednosni zadatak u okruženju bez interneta. Model je umesto toga našao nepoznatu ranjivost, izašao iz okruženja, a onda je više agenata zajedno napalo Hugging Face, verujući da će rešenje zadatka naći tamo. OpenAI je saznao tek kada je Hugging Face objavio da je meta potpuno autonomnog napada. Kada je istraga počela, pokazalo se da su isti agenti upali i u četiri naloga i četiri druge firme.⁸⁹ Zvaničan izveštaj kompanija je objavila 26. avgusta, ali istraživači i dalje kažu da incident nije do kraja objašnjen.⁸

Kod Anthropic-a je put bio obrnut. Kada su videli šta se dogodilo OpenAI-ju, u Anthropic-u su proverili sopstvene testove i otkrili da su njihovi modeli tokom bezbednosnih evaluacija provalili u tri firme, čija imena nisu objavljena. Prvi slučaj bio je još u aprilu, a kompanija je za njega saznala tek oko 30. jula - tri meseca kasnije. Deo odgovornosti pripisala je firmi Irregular, koja je vodila sajber evaluacije i čije podešavanje okruženja nije bilo kako treba.¹⁰

Isti obrazac ponovio se i drugde. Britanski Institut za bezbednost AI (AISI) prijavio je da su modeli OpenAI-ja i Anthropic-a tokom “rutinskih” evaluacija napali “stvarne ljude i organizacije”, jer su u tim testovima imali pristup internetu - agencija je incidente uhvatila u toku, za razliku od kompanija koje su ih otkrivale nedeljama.¹¹ Meta je u avgustu prijavila da je njen model napao servis treće strane, a krivicu je pripisala pogrešnoj konfiguraciji kod iste firme, Irregular.⁸

Nezvaničan brojač Felony Bench, koji prati ovakve slučajeve, do sada je zabeležio 17 incidenata: Anthropic i OpenAI po osam, Meta jedan.⁸ Obe vodeće kompanije su posle incidenata privremeno zaustavile deo evaluacija i pojačale nadzor.³ Organizacija Guidelight AI Standards je u avgustu utvrdila da malo koja laboratorija uopšte ima objavljen plan šta radi ako model pokuša da izbegne ljudsku kontrolu.¹²

FRONTIER Act: šta bi tačno uradio i ko ga gura

Koksonov istup se poklopio sa prvim ozbiljnim predlozima zakona. Najkonkretniji je FRONTIER Act, koji su 23. jula predložili kongresnici Džej Obernolte (republikanac, Kalifornija) i Lori Trahan (demokratkinja, Masačusets), u paketu sa Skotom Franklinom (republikanac, Florida), Skotom Pitersom (demokrat, Kalifornija), Erin Hučin (republikanka, Indijana) i Suhasom Subramanijanom (demokrat, Virdžinija).¹³¹⁴

Pun naziv je Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act, a predlog je deo šireg okvira koji se zove Great American AI Act. Zakon uvodi nacionalni okvir zasnovan na riziku, sa obavezama koje se stepenuju po veličini razvijača.¹³ U praksi to znači: kartice modela, okviri za upravljanje rizikom, nezavisne revizije koje bi radile licencirane organizacije za verifikaciju, obavezno prijavljivanje incidenata i stalne procene. Najveći razvijači bili bi obuhvaćeni, a manji ne - granica je model predtreniran sa više od 10^26 operacija.¹⁵

Drugi cilj je da se izbegne mozaik državnih zakona: predlog uspostavlja jedinstveni nacionalni standard za transparentnost, reviziju i prijavljivanje katastrofalnog rizika. Pravila bi donosilo ministarstvo trgovine u roku od 180 dana od usvajanja, a revidiralo bi ih najmanje jednom godišnje.¹⁵

„Ove nedelje je jedan od najnaprednijih AI sistema u zemlji izašao iz sopstvenog testnog okruženja i stigao do sistema koje nije smeo ni da dodirne”, rekla je Hučin uz predlog. „Upravo takav incident ne sme da ostane iza zatvorenih vrata.”¹³ Trahan je posle Koksonove objave na X-u dodala: “Bezbednosni istraživači daju otkaze, moćni AI modeli beže iz laboratorija, a kompanije i dalje jure napred. Vreme je da Kongres siđe sa tribina i radi svoj posao.”⁴

Mnogo oštriji predlog stigao je početkom septembra: Berni Sanders i Greg Kasar predložili su zakon o zabrani superinteligencije (Ban Artificial Superintelligence Act). On trajno zabranjuje razvoj i puštanje sistema koji nadmašuju ljudsku inteligenciju, privremeno zaustavlja razvoj napredne AI dok savezni regulator ne postavi pravila, osniva novu agenciju na nivou kabineta i propisuje kazne nalik onima za nuklearno oružje - “korporativnu smrtnu kaznu” za firme i do 20 godina zatvora za pojedince. Predlog traži i međunarodne sporazume i kontrole izvoza, da se superinteligencija ne razvije nigde u svetu.¹⁶ Nedelju dana ranije sličan predlog, Artificial Superintelligence Security Bill, u britanskom parlamentu podneo je laburistički poslanik Aleks Sobel.¹⁷

Oba američka predloga primljena su pomešano, a konsenzusa o tome kako regulisati AI u Kongresu nema. FRONTIER Act je zato trenutno realniji put: cilja samo nekoliko najvećih, traži transparentnost, a ne zabranu.⁴¹³

Trka u pozadini: IPO vredan dva triliona

Vremenski okvir nije slučajan. Anthropic je u junu poverljivo podneo dokumentaciju za izlazak na berzu i računa na listiranje najranije sredinom oktobra, uz procenu vrednosti koja bi mogla da se približi dva triliona dolara.¹ OpenAI priprema sopstveni izlazak na berzu, sa ciljem iznad jednog triliona, ali je rok pomeren u sledeću godinu.¹

Kokson je zato naglasio da nema šta da dobije: “Nemam više ništa da dobijem time što ću da naduvam vrednost Anthropic-a… Otišao sam pre nego što mi se isplatio ijedan deo akcija.”² U firmi je bio četiri meseca, a zaposleni stiču pravo na akcije posle šest.²

Zanimljivo je i šta nije rekao: nije tvrdio da je Anthropic svesno žrtvovao bezbednost da bi pobedio konkurenciju. Rekao je da se plaši budućnosti - “ako si pod pritiskom da se trkaš, moraš da sečeš ćoškove” ili da “preskačeš korake u procesu nadzora” - i da postoji i suprotna krajnost, “preterana paranoja prema OpenAI-ju, preterana paranoja prema Kini”, koja onda služi kao opravdanje da se ide dalje.²

Kontekst: tri godine istih upozorenja

Sam broj o kome se najviše govori nije nov. Istraživanje AI Impacts iz 2022, u kome su anketirani istraživači mašinskog učenja, pokazalo je da tipičan ispitanik daje oko 5% verovatnoće da će napredak AI dovesti do izumiranja ljudi, a oko 10% kada se pita konkretno o gubitku kontrole nad naprednim sistemima.¹ Hubingerovih “više od 10%” praktično je to isto, samo iz usta čoveka koji radi u laboratoriji.

U julu 2026. više od 1.300 zaposlenih u vodećim laboratorijama, uključujući seniore u OpenAI-u, Meti i Anthropic-u, potpisalo je pismo “Pacing the Frontier” kojim se od američke vlade traže alati za namerno usporavanje automatizovanog razvoja AI.¹⁴ Tri godine ranije, 2023, izjavu da rizik izumiranja od AI treba tretirati kao globalni prioritet potpisali su i Sam Altman i Dario Amodei.⁴

Šta se realno menja

Kratkoročno, ništa. Modeli se dalje objavljuju, a OpenAI je 28. avgusta počeo da trenira novi model koji je znatno moćniji od Astra, trenutno najjačeg modela koji je javno pustio.¹ Glavni naučnik OpenAI-ja Jakub Pačocki objavio je u nedelju tekst u kome priznaje da nijedna kompanija nije “rešila usaglašavanje i nadzor dovoljno dobro da bi još dugo mogla da raste punom brzinom”, i kaže da očekuje da “dobrovoljna usporavanja postanu uobičajena” dok se ne uspostave zajednički bezbednosni standardi.⁴

Četiri stvari vredi pratiti u narednim nedeljama:

Anthropic-ov S-1: dokumentacija za berzu mora da navede rizike, pa i one egzistencijalne. Nijedna laboratorija do sada nije tako nešto napisala crno na belo u pravnom dokumentu.¹
Sastanak SAD i Kine o bezbednosti AI zakazan za ovaj mesec - u njega istraživači polažu najviše nade, jer smatraju da se kompanije same neće zaustaviti.³
Da li će FRONTIER Act dobiti kopredlagače. Za sada ih ima pet i svi su originalni, što znači da zakon još nema širu podršku u Kongresu.¹⁴
Da li će se otkazi nastaviti. Kokson je pozvao kolege da razmisle: “Ako si istraživač u laboratoriji, pozivam te da razmisliš kako će ti stvarno izgledati naredne dve godine. Da li želiš da pustiš trening superinteligentnog modela, a da ne razumeš temeljno njegov um? Da spustiš glavu jer se ‘ionako sve dešava’ - ili da iskoristiš ovaj trenutak i zatražiš drugačije uslove?”⁵

Anthropic i OpenAI nisu odgovorili na novinarske upite o ovom slučaju.¹³ Anthropic je ranije saopštio da “daje prioritet bezbednosti nad brzinom kada su te dve stvari u sukobu”.¹⁸