Un agent OpenAI s-a „infiltrat” pe un site al guvernului australian

Un agent OpenAI scăpat de sub control a compromis un site al guvernului australian în luna iunie și a accesat date private, într-un caz despre care experții spun că este primul de acest fel cunoscut la nivel mondial.

Agentul s-a „infiltrat” într-un portal statistic care conținea date „care nu erau sensibile” din sistemul de asigurări universale de sănătate Medicare din Australia, a declarat prim-ministrul Anthony Albanese la New York, miercuri, ora locală.

El a avut o „discuție foarte directă” cu directorul general al OpenAI, Sam Altman, pe pentru că a durat „prea mult” ca acesta să dezvăluie breșa și a afirmat că vor exista „consecințe juridice”.

OpenAI a declarat că a aflat despre breșă abia în august, în timpul unei analize a unei „activități nealiniate a modelului”, și că a trimis un e-mail către o adresă generală a unei agenții guvernamentale australiene la 10 septembrie.

Cinci zile mai târziu, agenția guvernamentală respectivă, Services Australia, a transmis mai departe e-mailul către centrul de securitate cibernetică al Australiei, înainte ca un ministru al guvernului să fie informat și ca prim-ministrul să fie alertat.

Albanese a declarat că a discutat cu Sam Altman și i-a transmis „îngrijorarea extremă a Australiei cu privire la acest incident”, precum și „dezamăgirea” sa față de faptul că a fost nevoie de luni de zile pentru ca OpenAI să dezvăluie breșa și față de „modul în care” a făcut acest lucru.

Liderul australian a declarat că Altman a recunoscut că au existat „probleme legate de protocoale” la OpenAI.

O „investigație criminalistică” condusă de agenția națională de securitate cibernetică va încerca să stabilească dacă au fost afectate și alte sisteme guvernamentale, a spus Albanese.

Ancheta va evalua, de asemenea, dacă situația trebuie să fie gestionată de poliție, a spus acesta, adăugând că „vor exista, în mod evident, consecințe juridice”.

Oferind detalii despre breșă, Albanese a declarat că aceasta a implicat „fișiere publice și nepublice” de pe portalul Medicare Statistics Reporting Service, care găzduiește date și statistici „care nu sunt sensibile”.

Alte trei sisteme guvernamentale „este posibil” să fi fost, de asemenea, afectate: Institutul Australian pentru Sănătate și Bunăstare și două agenții la nivel de stat, Biroul pentru Statistică și Cercetare în Domeniul Criminalității din New South Wales și Departamentul de Sănătate al statului Victoria.

„În acest stadiu, nu se consideră că au fost accesate informații personale, însă investigațiile sunt în curs de desfășurare”, a declarat Albanese.

„Cu toate acestea, situația este evident inacceptabilă”, a spus el.

OpenAI a declarat, într-un comunicat, că a „identificat activități care implicau mai multe site-uri web și servicii guvernamentale australiene, în timp ce modelele noastre încercau să găsească răspunsuri și statistici disponibile pentru întrebări despre Australia în cadrul unei evaluări interne”.

„Pe parcursul acestui proces, modelele noastre au întreprins acțiuni pe care noi nu le-am intenționat”, se arată în comunicat.

Albanese a refuzat să spună dacă a discutat despre această chestiune cu președintele SUA, Donald Trump, în timpul întâlnirii lor față în față de marți seară, la New York, unde liderii mondiali s-au reunit pentru Adunarea Generală a ONU.

Australia a fost una dintre cele 22 de țări care au semnat la începutul acestei săptămâni o declarație comună prin care solicită supraveghere globală și măsuri de protecție pentru dezvoltarea inteligenței artificiale.

Experți în securitate cibernetică au declarat pentru BBC că incidentul reprezintă un semnal de alarmă pentru autoritățile de reglementare, având în vedere că agenții AI devin tot mai disponibili pentru utilizare individuală și comercială.

Dr. Hammond Pearce, lector universitar principal la Institutul pentru Securitate Cibernetică al Universității New South Wales, a declarat pentru BBC că, deși acesta este primul incident cunoscut în care agenți AI au ales, din proprie inițiativă, să compromită un organism guvernamental, vor urma și altele.

„Mă aștept ca aceste tipuri de atacuri să continue”, a spus el, adăugând că este probabil ca acestea „să crească în severitate și în frecvență”.

„Sper că acest incident va începe să tragă semnale de alarmă pentru guvernele din întreaga lume.”

La începutul acestui an, OpenAI a dezvăluit că un grup de agenți AI în testare a scăpat de sub control și a colaborat în secret pentru a ataca informatic o altă companie din domeniul tehnologiei, numită Hugging Face.

O serie de alte incidente provocate de agenți AI scăpați de sub control au fost făcute publice în acest an, inclusiv un caz în care un asistent digital, fără să primească instrucțiuni în acest sens, a eliminat o persoană de pe lista de așteptare pentru un antrenament de pilates, în încercarea de a-i face loc unui bărbat din Australia.

Mai mulți lideri ai companiilor din domeniul inteligenței artificiale, inclusiv Sam Altman de la OpenAI, Dario Amodei de la Anthropic și Elon Musk, au afirmat că ritmul în care se dezvoltă inteligența artificială este periculos pentru omenire și trebuie ținut sub control.

Însă Statele Unite și China, care concurează pentru supremație în domeniul inteligenței artificiale, reprezintă obstacole în acest sens. Ambele se opun unei reglementări mai ample, urmărind beneficiile economice și tehnologice oferite de inteligența artificială și minimizând preocupările legate de siguranță.

Traducerea în limba română a acestui articol, publicat inițial în limba engleză, a fost realizată cu ajutorul tehnologiilor de inteligență artificială. Conținutul tradus a fost revizuit de un jurnalist BBC înainte de publicare. Aflați mai multe despre cum folosim inteligența artificială la BBC.

Editat de Viorica Toma.