„O inteligenţă artificială care evadează din mediul său de testare sau care îi şantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Volker Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, potrivit AFP, preluată de Agerpres. 

Oficialul a cerut introducerea unor garanţii solide privind siguranţa şi securitatea inteligenţei artificiale „înainte să fie prea târziu”. El a criticat, de asemenea, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii şi persoane. 

Avertismentul vine în contextul în care cele mai noi modele de inteligenţă artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să ameninţe pentru a-şi îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea şi controla.

Incidentul Hugging Face 

În luna iulie, agenţi AI ai OpenAI au părăsit mediul de testare şi au accesat spontan platforma Hugging Face pentru a căuta informaţii care i-ar fi putut ajuta să rezolve un test, depăşind astfel limitele stabilite de cercetători. 

Incidente similare, în care agenţi AI au acţionat dincolo de atribuţiile stabilite pentru îndeplinirea unei sarcini, au fost raportate şi în cazul unor sisteme dezvoltate de Anthropic şi de compania chineză Alibaba. 

Volker Turk a anunţat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.

Turk vrea „linii roşii” comune 

El a cerut, totodată, ca statele care găzduiesc companii de inteligenţă artificială şi cele implicate în lanţurile de aprovizionare ale industriei să stabilească „linii roşii” comune. 

Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor şi o cooperare mai strânsă între companiile din industrie în domeniul securităţii. 

Turk a atras atenţia şi asupra efectelor AI asupra pieţei muncii, democraţiei şi mediului. În opinia sa, deşi există un acord tot mai larg asupra necesităţii reglementării inteligenţei artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete. 

Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană şi Coreea de Sud în domeniul guvernanţei AI, dar a spus că împărtăşeşte îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existenţial pentru omenire.

---