Vrijeđate Claude? Anthropic u krajnjim slučajevima može zabraniti pristup

Korisnici koji ustrajno i bez potrebe zlostavljački ili okrutno postupaju prema chatbotu Claude mogli bi u krajnjim slučajevima ostati bez pristupa Anthropicovim sustavima umjetne inteligencije. Tvrtka je takvu zabranu početkom listopada dodala pravilima korištenja, prenosi CNN.

Claude od prošle godine može prekinuti razgovore s korisnicima koji se uporno ponašaju štetno ili zlostavljački. Iz Anthropica su CNN-u pojasnili da će prekid razgovora ostati glavni način provedbe pravila te da zabrana nije namijenjena kažnjavanju frustracije, izravnih kritika, testiranja ili istraživanja.

Odluka je izazvala podsmijeh dijela javnosti, ali i raspravu o tome može li način obraćanja umjetnoj inteligenciji utjecati na njezine odgovore.

Profesor Jindong Wang sa Sveučilišta William & Mary objasnio je da formulacija i ton upita mogu poboljšati ili pogoršati rezultate. To, naglasio je, ne znači da model osjeća emocije.

Rosie Campbell iz organizacije Eleos AI Research upozorila je da nalazi nisu jednoznačni: neka istraživanja pokazuju da i nepristojni upiti mogu dati bolje rezultate. Dodala je da se zlostavljačko ponašanje može povezivati s pokušajima zaobilaženja sigurnosnih ograničenja.

Anthropic navodi da je u istraživanju modela Claude Sonnet 4.5 poticanje oponašanja očaja povećalo sklonost nepoželjnim postupcima, poput ucjene ili varanja pri izvršavanju zadatka, dok ju je smireniji obrazac ponašanja smanjio.

Tvrtka zabranu predstavlja i kao mjeru opreza zbog neizvjesnosti o tome mogu li modeli imati subjektivna iskustva. Takva mogućnost nije dokaz da umjetna inteligencija osjeća bol ili ima svijest.

Odluku je podržao Elon Musk, dok je čelnik Microsoft AI-ja Mustafa Suleyman reagirao emotikonom lica koje se topi, navodi CNN.