Umjetna inteligancija probila australski državni portal

Australski premijer Anthony Albanese objavio je da je AI agent kompanije OpenAI u lipnju neovlašteno pristupio državnom zdravstvenom portalu, u slučaju koji se opisuje kao prvi poznati takav incident.

Agent je 18. lipnja pristupio portalu Medicare Statistics Reporting Service, koji sadrži objedinjene podatke o zdravstvenoj potrošnji i subvencijama za lijekove. Australske vlasti tvrde da osobni podaci građana nisu kompromitirani niti da je pristupano zdravstvenim kartonima pacijenata.

OpenAI je za incident doznao u kolovozu, a australsku je vladu obavijestio tek 10. rujna. Kompanija je nakon istrage priopćila da su njezini modeli tijekom aktivnosti povezanih s australskim državnim stranicama „poduzeli radnje koje nisu bile namjeravane“.

Australske vlasti pokrenule su istragu o incidentu, uključujući pitanje kako je AI agent uspio zaobići zaštitne mehanizme te zašto sigurnosne službe nisu ranije otkrile neovlašteni pristup.

Albanese je nakon razgovora sa Samom Altmanom izrazio „krajnju zabrinutost“ zbog incidenta i kašnjenja u obavještavanju australskih vlasti.

Slučaj dodatno otvara pitanje sigurnosti sve autonomnijih AI sustava koji mogu samostalno pretraživati internet, pristupati digitalnim servisima i obavljati složene zadatke.