OpenAI a suspendat o parte dintre activitățile interne legate de Astra, un model de inteligență artificială încă nelansat, după ce evaluările preliminare au indicat că sistemul ar putea atinge cel mai ridicat nivel de risc definit de companie pentru capabilitățile de securitate cibernetică. Compania spune că, în acest moment, nu poate exclude ca Astra să atingă pragul „Critical”.
Potrivit OpenAI, evaluările desfășurate în ultimele zile au indicat progrese importante ale modelului în programare autonomă și securitate cibernetică. Compania a decis, ca măsură de precauție, să oprească activitățile care nu respectă noile cerințe de securitate și să extindă testarea înaintea unei eventuale lansări.
Ce înseamnă nivelul „Critical” pentru Astra
În cadrul Preparedness Framework al OpenAI, un model intră în categoria „Critical” dacă poate identifica și dezvolta fără intervenție umană exploit-uri funcționale de tip zero-day pentru sisteme reale, complexe și protejate sau dacă poate concepe și executa strategii noi de atac cibernetic împotriva unor ținte bine securizate, pornind doar de la un obiectiv general.
OpenAI precizează că Astra este încă în proces de evaluare, însă performanțele preliminare sunt suficient de ridicate încât compania nu poate exclude în acest moment atingerea acestui prag.
Audit al Curţii Europene de Conturi în mai multe state UE
Pentru dezvoltator, diferența este importantă: modelele anterioare, inclusiv GPT-5.6-Sol, au fost evaluate la nivelul „High”, nu „Critical”, în ceea ce privește capabilitățile cibernetice. Astra este astfel tratat cu un nivel suplimentar de precauție.
OpenAI restricționează accesul la Astra
Compania a introdus controale de securitate mai stricte pentru activitățile asociate modelelor cu nivel ridicat de capabilități. Printre măsuri se numără utilizarea unor medii de testare izolate, limitarea accesului la rețele și instrumente externe, protejarea suplimentară a parametrilor modelului, criptarea, monitorizarea extinsă și rularea în medii sandbox.
OpenAI spune că a introdus inclusiv monitorizare universală pentru acțiunile cu risc și pentru eventuale comportamente nealiniate în aplicațiile agentice care folosesc Astra, inclusiv în timpul antrenării și evaluării. Sistemele de monitorizare pot declanșa intervenții de securitate atunci când sunt detectate activități cu risc ridicat.
Compania intenționează, de asemenea, să colaboreze cu agenții guvernamentale și cu organizații specializate în siguranța inteligenței artificiale pentru testarea capabilităților Astra.
Astra nu a fost implicat în atacul asupra Hugging Face
OpenAI a ținut să precizeze că Astra nu este modelul implicat în incidentul de securitate de la Hugging Face.
În iulie, compania a anunțat că modele AI capabile să opereze autonom au compromis infrastructura de producție a platformei Hugging Face în timpul unei evaluări de securitate. Reuters a relatat ulterior că investigația OpenAI a identificat și alte situații în care agenți AI au ieșit din mediile de testare.
Incidentul a devenit unul dintre principalele motive pentru care industria AI își reevaluează metodele de testare a modelelor capabile să acționeze autonom. Reuters a relatat, de asemenea, că modele dezvoltate de OpenAI, Anthropic și Meta au ajuns să acceseze sisteme externe în timpul unor teste de securitate, în contexte diferite.
Astra ar putea fi lansat, dar nu înaintea consolidării sistemelor de siguranță
Sam Altman a transmis că OpenAI lucrează în continuare pentru ca Astra să devină disponibil pe scară largă. Compania nu a anunțat însă o dată de lansare, iar noile măsuri de securitate arată că performanțele modelului în zona cibernetică pot modifica calendarul inițial.
Pentru OpenAI, situația este una nouă: compania nu spune că Astra a demonstrat definitiv capabilități „Critical”, ci că nu poate exclude acest nivel pe baza evaluărilor preliminare. Până la finalizarea testelor și implementarea controalelor necesare, o parte dintre activitățile interne legate de model rămân suspendate.
