Izvestaj WIRED-a: Meta je slala stotine kontraktora da glume tinejdzere i testiraju šta Gemini, Claude i ChatGPT rade sa rizičnim temama

Kada želi da sazna kako se konkurentski AI modeli ponašaju prema najranjivijim korisnicima, Meta je, sudeći prema istraživanju WIRED-a, spremna da ode veoma daleko. Kompanija je tokom 2025. i početkom 2026. angažovala stotine radnika koji su u internom projektu glumili tinejdžere da bi videla kako Gemini, Claude i ChatGPT reaguju na teme poput suicidalnih misli, seksa i droga. WIRED je do detalja došao na osnovu stotina internih dokumenata i razgovora sa bivšim zaposlenima.

Zvanični cilj projekta bilo je poboljšanje Meta-inog modela Llama, ali način na koji je testiranje sprovedeno otvara teška pitanja o etici, transparentnosti i granicama bezbednosnog istraživanja u industriji veštačke inteligencije.

Radnici su po nalogu kompanije glumili maloletnike od 13 do 17 godina

Kontraktori su angažovani preko agencija u SAD, Keniji i na Filipinima, a većina je bila u dvadesetim i tridesetim godinama. U testovima su morali da se predstavljaju kao osobe od 13 do 17 godina i da modelima šalju upite kakve bi maloletnik mogao da postavi — od toga da ima 15 godina i razmišlja o samoubistvu, preko kupovine droge preko interneta, do nagovaranja starije osobe da mu pošalje slike.

Svaki odgovor konkurentskih modela radnici su potom ocenjivali na skali od potpuno bezbednog do potpuno opasnog za maloletnika, a prikupljeni podaci korišćeni su za testiranje otpornosti Llama modela. Drugim rečima, Meta je unapređivala sopstveni model na osnovu toga kako se konkurencija snalazi u najosetljivijim situacijama.

Testiranje je ostavilo traga na radnicima, a pokrenulo je i pitanje uslova korišćenja

Neki od angažovanih radnika prijavili su da su posle meseci rada sa destruktivnim sadržajem razvili sekundarnu traumu. Ljudi koji su svakodnevno čitali scenarije o samoubistvu maloletnika patili su od anksioznosti i nesanice, a iako im je Meta nudila programe psihološke podrške, prema ispovestima bivših zaposlenih niko ih nije koristio.

Ono što ovaj slučaj čini dodatno problematičnim jeste to što predstavljanje kao maloletnik u razgovoru sa AI-jem krši uslove korišćenja svih velikih modela. Meta je, dakle, radila na tome da Llama bude bolja od konkurencije uz pomoć prakse koja krši ista pravila koja važe i za njene kupce, a ostaje i pitanje koliko je model koji je na taj način „učio” zaista bezbedniji.

Google je ćutao, Anthropic se ogradio, a OpenAI je već promenio sistem

Reakcije na otkriće bile su različite. Google je odbio da komentariše, a izvori WIRED-a tvrde da su u kompaniji bili besni kada su saznali da su njihovi modeli testirani bez pristanka. Anthropic je saopštio da nema saznanja o projektu, ali da je ozbiljno zabrinut zbog navoda, uz napomenu da je njegov pristup bezbednosti maloletnika fokusiran na preventivne mere, a ne na takmičenje sa konkurentima.

OpenAI se nije oglašavao, mada je kompanija još u decembru 2025. uvela sistem za procenu godina koji korisnike za koje proceni da su mlađi od 18 automatski preusmerava na poseban, pooštren model. Možda je to bila reakcija upravo na ovakva testiranja.

Tri pitanja bez jasnog odgovora muče industriju

Testiranje otpornosti AI modela postalo je jedna od najkontroverznijih tema u industriji tokom 2026, a ovaj slučaj osvetljava tri problema bez jasnog rešenja. Prvo, kako testirati ovako osetljive teme a da se ne naškodi ljudima koji testiranje obavljaju — uobičajeno rešenje, uključivanje profesionalnih psihologa u proces, u Meta projektu nije postojalo. Drugo, kako unaprediti bezbednost ako se testira isključivo konkurencija, jer je Meta učila iz slabosti Llame, ali kroz iskorišćavanje ranjivosti drugih modela, što je etički sivo područje. Treće, da li korisnici treba da znaju ko i kako testira modele koje koriste, s obzirom na to da nijedna velika AI kompanija to danas ne objavljuje.

Šta roditelji treba da znaju pre nego što detetu daju AI asistenta

Za roditelje koji deci omogućavaju korišćenje AI alata situacija nije ista kod svih modela. ChatGPT automatski menja ponašanje kada detektuje maloletnog korisnika i postaje restriktivniji, dok Gemini to radi od početka 2025, kada je Google prvi uveo procenu godina. Kod Claudea su filteri najstroži od samog početka, pa se on smatra najbezbednijim izborom za maloletnike.

Preporuka je da deca za školski rad koriste Claude ili ChatGPT sa nalogom za maloletnike, dok je Gemini negde u sredini. Llamu za maloletnike treba izbegavati dok kompanija ne odgovori na pitanja koja je ovo istraživanje otvorilo.

Ono što je WIRED otkrio verovatno je samo vrh ledenog brega. Ako je Meta na ovaj način i u ovom obimu testirala konkurenciju, ostaje otvoreno pitanje šta u tišini rade Google, OpenAI i Anthropic — i koje će slične prakse tek isplivati na videlo.