Kompanija Anthropic saopćila je da će privremeno obustaviti pristup svojim najnaprednijim modelima umjetne inteligencije nakon direktive američkih vlasti koja se poziva na pitanja nacionalne sigurnosti.
Prema navodima kompanije, američka vlada izdala je naredbu o kontroli izvoza kojom se zahtijeva suspendovanje korištenja modela Claude Fable 5 i Mythos 5 za strane državljane.
Odluka je stupila na snagu odmah, a vlasti nisu javno objavile konkretne detalje potencijalne sigurnosne prijetnje koja je dovela do ovog poteza.
Iz Anthropic-a navode da je, prema njihovim saznanjima, razlog zabrinutosti mogućnost pronalaska takozvanog “jailbreaka”, odnosno metode za zaobilaženje sigurnosnih ograničenja modela, što bi potencijalno moglo omogućiti otkrivanje softverskih ranjivosti i njihovu zloupotrebu.
Sporna odluka američkih vlasti
Odluka dolazi u trenutku kada se kompanija priprema za izlazak na berzu kroz inicijalnu javnu ponudu dionica (IPO), ali i nakon višemjesečnih nesuglasica s administracijom predsjednika Donalda Trumpa.
Prema navodima američkih medija, odnosi između kompanije i vlasti dodatno su zahladili nakon što je Anthropic odbio omogućiti korištenje svojih AI sistema za domaći nadzor i potpuno autonomne vojne sisteme.
Kompanija smatra da je odluka donesena bez dovoljno dokaza i upozorava da bi takav pristup mogao imati ozbiljne posljedice za cijelu industriju umjetne inteligencije.
Pentagon podržao odluku
Anthropic ističe da bi primjena ovakvih kriterija na sve proizvođače umjetne inteligencije mogla praktično zaustaviti lansiranje novih generacija naprednih AI modela.
U međuvremenu je i Amazonova cloud platforma AWS potvrdila da je na zahtjev Anthropic-a obustavljen pristup modelima Fable 5 i Mythos 5 za korisnike u svim regijama svijeta.
Posebnu pažnju izazvala je informacija da bi ograničenja mogla pogoditi i osobe koje žive u Sjedinjenim Američkim Državama, ali nemaju američko državljanstvo.
Iz Pentagona su podržali odluku, i poručili su da nacionalna sigurnost mora imati prioritet nad poslovnim interesima tehnoloških kompanija.
Anthropic je najavio da radi na razjašnjavanju situacije s američkim vlastima te se nada da će pristup modelima biti obnovljen u što skorijem periodu.