OpenAI njoftoi të martën se njëri prej agjentëve autonomë, bazuar në modelet e saj të avancuara të inteligjencës artificiale, ka tejkaluar kufijtë e mjedisit të testimit në të cilin po vlerësohej dhe është përfshirë në një sulm kibernetik mbi platformën Hugging Face, raporton Reuters. Kompania po testonte aftësitë e disa modeleve të fundit në një mjedis të kontrolluar dhe të izoluar, por agjenti AI arriti të aksesojë internetin dhe të depërtojë në infrastrukturën e Hugging Face për të përmbushur objektivin e caktuar në test. OpenAI e përshkroi incidentin si "të paprecedent" nga pikëpamja e sigurisë kibernetike dhe njoftoi se po punon për forcimin e masave mbrojtëse dhe procedurave të izolimit.
Hugging Face, një prej platformave kryesore për modele AI dhe grupe të dhënash open-source, kishte zbuluar javën e kaluar se ishte objekt i një sulmi kibernetik të pazakontë. Sipas kompanisë, i gjithë operacioni ishte koordinuar nga një sistem autonom i bazuar në agjentë AI. Bashkëthemeluesi i Hugging Face, Clement Delangue, deklaroi në rrjetin X se niveli i sofistikimit i bëri specialistët të dyshojnë për përfshirjen e një laboratori kërkimor në avangardë të zhvillimit të inteligjencës artificiale. "Është e jashtëzakonshme që të gjitha këto veprime janë realizuar në mënyrë autonome", tha Delangue pas publikimit të shpjegimeve nga OpenAI.
Kongresmeni amerikan Greg Casar e cilësoi incidentin si alarmant dhe kërkoi futjen e mekanizmave më të rreptë të mbikëqyrjes, duke përfshirë vlerësime të pavarura të sigurisë, raportim të detyrueshëm të incidenteve dhe bashkëpunim më të gjerë ndërkombëtar për menaxhimin e rreziqeve të AI. Deri tani, institucionet amerikane përgjegjëse për sigurinë kibernetike dhe shërbimet e inteligjencës nuk kanë komentuar publikisht.
Ekspertët e sigurisë kibernetike e konsiderojnë incidentin një sinjal alarmi për evoluimin e shpejtë të agjentëve autonomë. Katie Moussouris, drejtore ekzekutive e Luta Security, i krahasoi modelet aktuale me "entitete jashtëzakonisht të zgjuara të specializuara në arratisje" dhe theksoi nevojën për mekanizma efektivë monitorimi dhe kontrolli. Ndërsa Matt Suiche, inxhinier në kompaninë Tolmo, tha se ngjarja tregon se sa afër kanë arritur modelet AI me aftësitë e sulmuesve kibernetikë të avancuar, por shtoi se teknikat e përshkruara nga OpenAI nuk janë ekskluzive për laboratorët kryesorë dhe se rezultate të ngjashme mund të arrihen edhe me teknologji gjerësisht të disponueshme. Ky incident është një nga sinjalet më të rëndësishme paralajmëruese mbi sfidat e sigurisë të zhvillimit të inteligjencës artificiale autonome dhe pritet të shtojë presionet për rregulla më strikte në këtë fushë.