OpenAI a dezvăluit vineri că agenții săi de inteligență artificială au interacționat cu mai multe site-uri web ale guvernului american în moduri neașteptate, descoperire făcută în cadrul unei analize în curs privind comportamentul neprevăzut al modelelor companiei.

Modelele gigantului în domeniul inteligenței artificiale au accesat informații disponibile publicului de pe două site-uri web operate de Comisia pentru Valori Mobiliare și Burse, precum și date ale Biroului de Recensământ al SUA, a dezvăluit compania vineri.

OpenAI nu a găsit nicio utilizare a acreditărilor SEC, acces la conturi sau informații nepublice, modificări ale datelor sau sistemelor SEC sau dovezi ale unei compromiteri sau vulnerabilități, a declarat compania.

Purtătoarea de cuvânt a OpenAI, Liz Bourgeois, a declarat într-un comunicat că laboratorul continuă să efectueze o analiză a „activității nealiniate a modelelor” – adică atunci când sistemele de inteligență artificială se comportă în moduri nedorite – și notifică organizațiile atunci când identifică impacturi potențiale asupra sistemelor lor.

CEO-ul OpenAI, Sam Altman, a declarat vineri pe rețelele de socializare că există o „analiză extinsă și continuă legată de utilizarea accesului la internet de către agenții noștri în timpul instruirii și evaluării”.

Dacă OpenAI notifică organizațiile pe care le identifică ca fiind afectate de un comportament neașteptat al modelului, asta nu înseamnă că a existat un incident de securitate, a declarat compania, și ar putea identifica o problemă de design sau o slăbiciune de securitate pe care organizațiile afectate doresc să o abordeze.

Cea mai mare parte a activității pe care OpenAI a declarat că a analizat-o până acum a implicat sarcini de cercetare de rutină în care agenții au accesat conținut web public pentru a răspunde la întrebări, inclusiv site-uri web guvernamentale considerate surse autorizate de informații publice.

Mai multe companii au dezvăluit incidente din ultimele luni în care susțin că modelele lor s-au comportat imprevizibil sau au spart site-urile web sau sistemele altor organizații. OpenAI a dezvăluit în iulie că două dintre cele mai capabile modele de inteligență artificială ale sale au fost responsabile pentru atacul cibernetic care a vizat startup-ul de inteligență artificială Hugging Face.

Editor: IFA