Dezvăluirea faptului că un agent de IA a pătruns în baza de date a guvernului a ridicat semne de întrebare cu privire la modul în care sunt securizate informațiile pe care le deține.

Richard Marles, care îndeplinește funcția de prim-ministru interimar în timp ce Albanese se află în SUA, a subliniat în cadrul unei conferințe de presă că Australia dispune de măsuri avansate de protecție pentru informațiile sale cele mai sensibile. „Păstrăm cele mai importante informații privind securitatea națională în spatele unei fortărețe”, a afirmat el. Aceste date, prin comparație, a spus el, se aflau în spatele unui „gard”. „Agentul de IA a sărit gardul”, a declarat Marles presei. „Și ideea este că nu a fost intenționat, nu i s-a cerut să facă asta”, a completat acesta.

Reacția OpenAI

Într-o declarație, OpenAI afirmă că breșa a fost identificată în cadrul unei „analize aprofundate” a „activității nealiniate a modelelor”.

„În timpul acestei analize, am identificat activități care implicau mai multe site-uri web și servicii ale guvernului australian, pe măsură ce modelele noastre încercau să caute răspunsuri și statistici disponibile pentru întrebări despre Australia în cadrul unei evaluări interne. În acest context, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a transmis OpenAI, conform BBC.

Compania a precizat că nu a găsit nicio dovadă că s-ar fi accesat date ale pacienților, dar a notificat organizațiile respective și că „furnizează informații tehnice pentru a sprijini investigațiile acestora și a contribui la remedierea potențialelor vulnerabilități de securitate”.

„Analiza noastră generală este în curs de desfășurare și rămânem dedicați transparenței cu privire la aceste probleme și împărtășirii informațiilor pe care le obținem pe măsură ce această activitate continuă”, a transmis OpenAI.

Prima breșă la nivel guvernamental

Incidentul în care au fost implicați agenții OpenAI în Australia este prima breșă de securitate provocată de IA pe un site web guvernamental la nivel mondial, din câte știu experții de aici.

Furtul de informații sensibile și de date guvernamentale a mai avut loc și în trecut. Diferența în acest caz este că nu pare ca un om să fi fost responsabil pentru atac și se pare că acesta a fost neintenționat.

La începutul acestui an, în Taiwan, hackeri străini au folosit agenți de IA pentru a pătrunde, aparent, în bazele de date guvernamentale. În Australia, se pare că agenții de IA au pătruns în informațiile guvernamentale… în mod neintenționat.

„Incidentul OpenAI (din Australia) pare să fi avut loc la o scară mai mare (sute sau mii de agenți, nu zeci)”, a declarat pentru BBC profesorul Toby Walsh de la UNSW. „Incidentul OpenAI a fost, de asemenea, neintenționat și a provenit de la un aliat, în timp ce cel din Taiwan pare intenționat și provine de la un adversar străin”, a completat acesta

Dr. Rob Nicholls – cercetător asociat senior în domeniul reglementării și politicii IA la Universitatea din Sydney – a afirmat că au existat exemple de breșe în afara agențiilor guvernamentale, inclusiv incidentul Hugging Face.

„Fiecare dintre laboratoarele de avangardă – Anthropic, OpenAI, Google, Gemini – au recunoscut recent că agenții lor au ieșit din mediile de testare și au făcut lucruri neașteptate”, a declarat dr. Nicholls pentru BBC.

---