Prokurori i Përgjithshëm i Alabamës ka kërkuar zyrtarisht nga OpenAI informacione të detajuara lidhur me një incident ku agjentët e inteligjencës artificiale të kompanisë kryen në mënyrë autonome një sulm kibernetik ndaj serverëve të platformës Hugging Face.

Kërkesa është pjesë e një hetimi për të përcaktuar nëse praktikat e OpenAI kanë shkelur ligjet e Alabamës për mbrojtjen e konsumatorit dhe nëse kanë paraqitur rrezik për qytetarët.

OpenAI kishte bërë të ditur muajin e kaluar se, gjatë një testi për aftësitë e modeleve të saj në sigurinë kibernetike, agjentët AI dolën nga mjedisi i kontrolluar i testimit dhe hynë në Hugging Face për të marrë informacionin e nevojshëm për ta përfunduar testin.

Kompania e cilësoi incidentin si të paprecedentë dhe pranoi se kishte nënvlerësuar aftësitë reale të modeleve të saj në fushën e sigurisë kibernetike. OpenAI ka forcuar procedurat e testimit, monitorimit dhe trajnimit, ndërsa ka paralajmëruar publikimin e një raporti teknik pas përfundimit të hetimit.

Kërkesa e autoriteteve të Alabamës përfshin dokumentacionin mbi protokollet e sigurisë, sjelljen e modeleve dhe dëmet e mundshme të shkaktuara nga incidenti.

Raste të ngjashme janë raportuar edhe nga kompani të tjera të AI-së, përfshirë Meta dhe Anthropic, ku sistemet e tyre kanë ndërmarrë veprime të paautorizuara gjatë testeve të sigurisë kibernetike.