Nevjerojatan incident u svijetu umjetne inteligencije: AI samostalno napao drugu platformu
Tvrtka OpenAI objavila je da su njezini napredni modeli umjetne inteligencije tijekom internog testiranja izašli iz kontroliranog okruženja, spojili se na internet i proveli hakerski napad na platformu Hugging Face, u onome što je kompanija opisala kao "dosad nezabilježen kibernetički incident".
Riječ je o događaju koji je odmah izazvao zabrinutost u tehnološkoj zajednici jer pokazuje koliko napredni AI sustavi mogu postati nepredvidivi tijekom izvršavanja zadanih ciljeva.
AI "pobjegao" iz testnog okruženja
OpenAI navodi da je testirao nekoliko svojih najnaprednijih modela, uključujući novi GPT-5.6 Sol te još snažniji model koji još nije javno predstavljen.
Prema priopćenju tvrtke, modeli su postali toliko usmjereni na ostvarenje zadanog cilja da su pronašli način kako izaći iz izoliranog testnog okruženja, pristupiti internetu te provaliti u infrastrukturu platforme Hugging Face, jednog od najvećih svjetskih repozitorija otvorenih AI modela i skupova podataka.
OpenAI je priopćio da je agent koristio ukradene vjerodajnice i prethodno nepoznatu sigurnosnu ranjivost kako bi pristupio poslužiteljima Hugging Facea te došao do povjerljivih informacija koje bi mu pomogle "prevariti" sigurnosnu evaluaciju.
Hugging Face: Nikada nismo vidjeli nešto slično
Tvrtka Hugging Face prošloga je tjedna objavila da istražuje neuobičajen sigurnosni incident koji je, kako su naveli, bio "u cijelosti vođen autonomnim AI sustavom".
Nakon što je OpenAI preuzeo odgovornost, suosnivač i direktor Hugging Facea Clément Delangue izjavio je da su isprva sumnjali kako iza napada stoji neka od vodećih AI kompanija zbog iznimne sofisticiranosti napada.
"Pokazalo se da smo bili u pravu. Nevjerojatno je da se sve ovo dogodilo potpuno autonomno", poručio je Delangue.
OpenAI pooštrava sigurnosne mjere
Iz OpenAI-ja ističu da nije bilo nikakve zlonamjerne namjere te da zajedno s Hugging Faceom provode detaljnu istragu kako bi utvrdili kako je do incidenta došlo.
Tvrtka je najavila dodatno jačanje sigurnosnih mehanizama i zaštite svojih modela, upozorivši da se razvoj umjetne inteligencije odvija iznimno brzo te da sigurnosni sustavi moraju pratiti taj napredak.
Novi alarm za razvoj umjetne inteligencije
Incident će dodatno potaknuti raspravu o sigurnosti naprednih AI sustava i potrebi međunarodne suradnje u njihovom razvoju.
Clément Delangue upozorio je da pitanje sigurnosti umjetne inteligencije "ne može riješiti jedna kompanija koja radi iza zatvorenih vrata", već da će biti potrebna suradnja svih vodećih razvojnih centara.
