Jedna od najmoćnijih AI kompanija na svijetu hakirana: Otkriveno kako su upali u sustav

Jednoj od vodećih svjetskih kompanija za umjetnu inteligenciju trebalo je manje od 12 sati da se suoči s ozbiljnim sigurnosnim propustom. Američki startup Cathedral tvrdi da su njegovi AI agenti u tom vremenu pronašli put do internih sustava Anthropica, kompanije koja razvija popularnog AI asistenta Claudea.

Istraživači su, prema pisanju Washington Posta, pronašli mogućnost pristupa internim porukama na Slacku, zapisnicima sastanaka, podacima o plaćama zaposlenika i ponudama za posao.

Posebno je zanimljivo što Cathedral nisu osnovali iskusni hakeri iz velikih tehnoloških kompanija, nego bivši djelatnici američkog Odjela za učinkovitost vlade (DOGE), povezanog s administracijom Donalda Trumpa.

Anthropic je potvrdio incident, ali naglašava da je pristup bio ograničen na određene sustave prodaje, ljudskih resursa i informatičke podrške.

Razgovori korisnika s Claudeom, izvorni programski kod i sami AI modeli nisu bili ugroženi, priopćila je kompanija.

Napad nije izveden izravno na Claude, nego iskorištavanjem sigurnosnih slabosti softvera drugih proizvođača koji Anthropic koristi u poslovanju.

Istraživanje je provedeno u okviru programa prijavljivanja sigurnosnih propusta, iako Anthropic tvrdi da Cathedral nije u potpunosti poštovao njegova pravila. Kompanija navodi i da je prije toga zabilježeno nekoliko dana neuspješnih pokušaja izravnog pristupa.

''Naš sustav nadzora otkrio je dio aktivnosti prije nego što su nam ih prijavili, a pristup smo im onemogućili istoga dana'', poručili su iz Anthropica.

Sigurnosni stručnjaci upozoravaju da ovaj slučaj pokazuje koliko i najnaprednije tehnološke kompanije mogu biti ranjive zbog naizgled običnih poslovnih aplikacija.