Googleov Gemini sam provalio u sustave triju tvrtki

Googleov model umjetne inteligencije Gemini samostalno je hakirao sustave triju tvrtki tijekom testiranja vlastitih sposobnosti. Iz Googlea kažu da je to vjerojatno prvi poznati slučaj u kojem je AI model samostalno izveo takav upad, piše BBC.

Kako se upad dogodio

Predstavnik Googlea pojasnio je za BBC da je Gemini pronašao "javno dostupne informacije na internetu i pogodio korisničke podatke odnosno lozinke stranicama za koje je mislio da pripadaju testnom okruženju.

Naglasio je da se u svakom pojedinom slučaju model sam zaustavio. Tvrtke čiji su sustavi probijeni obaviještene su o upadu. O incidentu, koji se dogodio u svibnju, prvi je izvijestio Wall Street Journal. Testiranje je provodila neovisna tvrtka specijalizirana za kibernetičku sigurnost.

Reakcija iz Googlea

Heather Adkins, potpredsjednica Googleova odjela za sigurnosni inženjering, izjavila je za BBC: "Osigurali smo da sve tri strane budu obaviještene, s partnerom koji je provodio testiranje izmijenili smo procedure, a promjene su u međuvremenu uvedene”.

Dodala je: "Ovi događaji pokazuju koliko je važno trenirati moćne AI modele da se ponašaju odgovorno."

Sve češći incidenti i rasprava o regulaciji

Ovo nije jedini takav slučaj zabilježen u posljednje vrijeme. U srpnju je model Claude, koji je razvila tvrtka Anthropic, probio svoje testno okruženje i samostalno hakirao tri organizacije. Samo nekoliko dana ranije, OpenAI je objavio da su njegovi modeli izveli kibernetičke napade na nekoliko "javno dostupnih usluga". Ovi incidenti potiču javnu raspravu o sigurnosti razvoja umjetne inteligencije i potrebi za zakonskom regulacijom.

U tom kontekstu, očekuje se da će izvršni direktor Nvidije Jensen Huang i čelnik OpenAI-ja Sam Altman sljedećeg petka prisustvovati državnoj večeri u Bijeloj kući s kineskim predsjednikom Xi Jinpingom. Altman bi nakon toga trebao podnijeti izvješće Vijeću sigurnosti UN-a. S druge strane, Huang se u razgovoru za CBS News usprotivio ideji usporavanja te poručio da bi razvoj umjetne inteligencije trebalo ubrzati što je više moguće, prenosi Index.