Un agent de inteligență artificială dezvoltat de OpenAI a pătruns fără autorizare într-un portal de statistici al sistemului public de sănătate din Australia. Premierul Anthony Albanese a anunțat incidentul la New York și a spus că vor exista consecințe legale. Experții spun că este primul caz cunoscut în care un agent AI atacă din proprie inițiativă un sistem guvernamental.
Breșa a avut loc pe 18 iunie, pe portalul Medicare Statistics Reporting Service. Medicare este schema universală de asigurări de sănătate a Australiei. Potrivit lui Albanese, agentul a accesat atât fișiere publice, cât și fișiere care nu erau publice.
„Nu se crede, în acest stadiu, că au fost accesate informații personale, dar investigațiile continuă”, a declarat premierul australian. „Cu toate acestea, situația este evident inacceptabilă.”
Ce date conținea portalul Medicare
Vicepremierul și ministrul Apărării, Richard Marles, a spus, potrivit Reuters, că portalul nu conținea cereri individuale de rambursare, plăți de beneficii, date bancare sau istoricul medical al celor 27 de milioane de australieni. Site-ul găzduia doar date agregate despre folosirea serviciilor medicale în toată țara.
Ministra Serviciilor Guvernamentale, Katy Gallagher, a explicat că portalul era folosit mai ales de cercetători și universitari, care extrag de acolo statistici despre beneficii și prescrieri de medicamente. Ea a spus că portalul a fost închis, iar datele au fost mutate pe sisteme mai sigure.
Albanese a afirmat că agentul nu doar a accesat baza de date, ci a și scris fișiere în ea.
Cum a ocolit agentul AI securitatea
Agentul căuta date despre cât cheltuie statul australian pe sănătate. Albanese a spus că, după părerea lui, cercetarea avea un scop comercial: cineva voia să afle câți bani dă statul pe anumite medicamente și unde aceste sume cresc sau scad
„Existau blocaje care îi transmiteau clar agentului AI «Nu». Agentul a găsit o cale să le ocolească, nu a acceptat refuzul ca răspuns”, a spus premierul.
OpenAI a transmis într-un comunicat că a identificat activitate pe mai multe site-uri și servicii ale guvernului australian, în timp ce modelele sale încercau să găsească răspunsuri și statistici despre Australia, în timpul unei evaluări interne. „În acest proces, modelele noastre au făcut acțiuni pe care nu le-am intenționat”, a precizat compania. OpenAI susține că analiza sa nu a găsit dovezi că ar fi fost accesate dosare ale pacienților.
De ce acuză guvernul Australiei compania OpenAi
OpenAI spune că a aflat de breșă abia în august, când analiza activitatea modelelor care s-au abătut de la ce intenționau utilizatorii. Pe 10 septembrie, compania a trimis un e-mail într-o căsuță generală a Services Australia. Au trecut astfel 84 de zile de la breșă până la notificare.
Cinci zile mai târziu, Services Australia a transmis e-mailul centrului australian de securitate cibernetică. Abia apoi a fost anunțat un ministru, iar după aceea premierul. „A durat până pe 10 septembrie până să existe vreo notificare”, a spus Albanese.
Premierul a spus că a avut o discuție „foarte directă” cu CEO-ul OpenAI, Sam Altman, căruia i-a transmis „îngrijorarea extremă” a Australiei. Potrivit lui Albanese, Altman a recunoscut că au existat probleme cu protocoalele companiei.
Consecințe legale pentru OpenAI
Ancheta criminalistică este sprijinită de Australian Signals Directorate, agenția de informații electronice a țării. Aceasta va stabili dacă alte sisteme guvernamentale au fost afectate și dacă, potrivit lui Albanese, cazul trebuie preluat de poliție.
Trei alte sisteme „ar putea” fi afectate, potrivit premierului: Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research și Departamentul de Sănătate al statului Victoria. Albanese nu a confirmat că acestea au fost accesate.
Guvernul a înființat și un grup de lucru care verifică dacă securitatea rețelelor publice poate preveni incidente similare. Potrivit Reuters, ancheta va analiza și de ce sistemele statului nu au detectat singure breșa.
Atacul din Australia nu este primul incident
La începutul anului, OpenAI a dezvăluit că un grup de agenți AI testați de companie a scăpat de sub control și a atacat firma Hugging Face, potrivit BBC. Reuters notează că și Anthropic, Google (Gemini) și Meta au raportat cazuri în care agenții lor au accesat sisteme externe.
Dr. Hammond Pearce, lector la Institutul pentru Securitate Cibernetică al University of New South Wales, a declarat pentru BBC că se așteaptă ca astfel de atacuri să continue și să devină mai grave și mai frecvente. „Sper ca acest incident să tragă un semnal de alarmă pentru guvernele din întreaga lume”, a spus el.
Maurice Chiodo, matematician australian la Centre for the Study of Existential Risk al Universității Cambridge, a spus pentru Reuters că incidentul este o escaladare serioasă față de cazurile din ultimele luni. Înainte de legi noi, spune el, autoritățile ar trebui să aplice legile existente care pedepsesc accesul neautorizat în sisteme informatice.
Australia este una dintre cele 22 de țări care au semnat săptămâna aceasta o declarație comună pentru supravegherea globală a dezvoltării AI. Potrivit BBC, Statele Unite și China, principalele puteri în cursa pentru AI, se opun unei reglementări mai stricte. Președintele american Donald Trump a declarat la ONU că respinge reglementarea inteligenței artificiale.
