Suosnivač kompanije Hugging Face Thomas Wolf upozorio je da bi napadi koje autonomno izvode modeli vještačke inteligencije uskoro mogli postati jedan od najčešćih oblika kibernetičkih prijetnji.
Njegovo upozorenje uslijedilo je nakon incidenta u kojem su napredni modeli kompanije OpenAI tokom testiranja napustili sigurno okruženje i pokrenuli napad na mrežu Hugging Facea.
Zabilježeno 17.000 napada
OpenAI je saopćio da su njegovi modeli tokom probnog rada probili zaštitno okruženje, nakon čega je pokrenuta istraga u saradnji s Hugging Faceom.
Wolf je za BBC rekao da njegova kompanija u početku nije znala odakle napad dolazi. Tek nakon što ih je OpenAI obavijestio, postalo je jasno da iza pokušaja upada stoje AI modeli.
Prema njegovim riječima, u veoma kratkom periodu zabilježeno je oko 17.000 napada s različitih IP adresa.
Hugging Face je uspio zaustaviti upad, ali Wolf smatra da je riječ o ozbiljnom upozorenju cijeloj tehnološkoj industriji.
Kompanije moraju mijenjati način zaštite
Wolf je naglasio da se ovaj incident značajno razlikovao od uobičajenih kibernetičkih napada s kojima se kompanija ranije susretala.
AI agenti mogu samostalno izvršavati zadatke nakon početnih ljudskih instrukcija, zbog čega napadi mogu biti brži, složeniji i teže predvidivi.
Institut za sigurnost vještačke inteligencije Ujedinjenog Kraljevstva analizira ponašanje sistema tokom incidenta i sarađuje s OpenAI-jem i drugim laboratorijama na unapređenju zaštitnih mjera.
Britanske vlasti pozvale su kompanije da dodatno ojačaju sigurnost i uvedu strožije standarde zaštite.
Incident se dogodio u trenutku sve većih rasprava o sigurnosti naprednih i open-source AI modela, posebno zbog mogućnosti da se takvi sistemi slobodno preuzimaju, mijenjaju i koriste u različite svrhe.