OpenAI, avertizată ani la rând de propriii angajați. Problemele de securitate dezvăluite

Cinci persoane familiarizate cu situația au declarat agenției că îngrijorările au fost transmise inclusiv conducerii executive și consiliului de administrație al OpenAI, transmite Reuters,. Printre problemele semnalate se numără accesul prea larg la documentația internă, verificările insuficiente ale unor instrumente software și riscul ca angajați sau persoane din exterior să obțină informații confidențiale.

Angajații puteau consulta informații despre proiecte la care nu lucrau

Potrivit surselor citate, o mare parte din codul companiei era păstrată într-un sistem comun, numit „monorepoâ€. AngajaÈ›ii care aveau acces la acesta puteau consulta detalii tehnice despre numeroase proiecte, inclusiv unele fără legătură cu activitatea lor.

O parte a documentației de cercetare era disponibilă și prin platforme precum GitHub și Slack. Situația a devenit mai îngrijorătoare odată cu dezvoltarea agenților AI, capabili să analizeze rapid volume mari de informații și să identifice date relevante.

OpenAI susține că cele mai sensibile proiecte sunt protejate prin sisteme separate, cu acces restricționat. Compania precizează că depozitul comun nu conține toate informațiile critice și nici parametrii numerici care determină funcționarea modelelor sale. Sursele Reuters afirmă că și unele instrumente interne de testare erau modificate frecvent de cercetători, fără ca fiecare schimbare să fie verificată riguros din perspectiva securității.

Un dispozitiv de înregistrare ascuns și suspiciuni privind accesul la informații confidențiale

Problemele au revenit în atenție în octombrie, după arestarea unui inginer OpenAI, cetățean saudit, acuzat că a instalat un dispozitiv de înregistrare audio într-o sală de conferințe destinată conducerii. Potrivit documentelor judiciare, Abdulrahman Alfozan, în vârstă de 35 de ani, ar fi utilizat și un instrument AI intern pentru a căuta informații despre deplasările unor directori OpenAI în Arabia Saudită.

Anchetatorii au identificat inclusiv contacte ale acestuia cu un membru al familiei regale saudite, care încercase să îl recruteze pentru un proiect de inteligență artificială. Reuters amintește și un avertisment intern din 2023 al cercetătorului Leopold Aschenbrenner, care își exprimase temerea că autoritățile chineze ar putea obține acces la tehnologia companiei.

OpenAI a transferat ingineri către securitatea sistemelor

Compania a început să își reorganizeze activitățile pentru a reduce riscurile. În august, aproximativ un sfert dintre inginerii responsabili de sistemele de producție au fost redirecționați către îmbunătățirea infrastructurii de securitate, potrivit unei surse. Inițiativa este coordonată de Thibault Sottiaux, unul dintre directorii implicați în dezvoltarea produselor.

Elana Widmann, purtătoare de cuvânt a OpenAI, a declarat că organizația se numără printre cele mai vizate ținte ale atacurilor informatice și investește substanțial în protejarea tehnologiei, datelor și angajaților. Compania afirmă că verifică periodic securitatea instrumentelor interne și că își va consolida în continuare sistemele de apărare. Luni, după solicitarea Reuters privind investigația, OpenAI a anunțat pregătirea unei noi etape interne de îmbunătățire a securității.