Një grup i gjerë Prokurorësh të Përgjithshëm nga shtetet dhe territoret e SHBA-së u kanë dërguar një letër kompanive më të mëdha të inteligjencës artificiale, duke i paralajmëruar të rregullojnë urgjentisht “daljet deluzionale” të modeleve të tyre, përndryshe mund të përballen me shkelje të ligjeve shtetërore. Letra, e firmosur nga dhjetëra zyrtarë të lartë në kuadër të National Association of Attorneys General, përfshin Microsoft, OpenAI, Google dhe 10 kompani të tjera të rëndësishme të AI, si Anthropic, Apple, Meta, xAI, Replika dhe të tjerë.
Ky reagim vjen pas një serie incidentesh të rënda të shëndetit mendor të lidhura me chatbot-ët, përfshirë raste të vetëvrasjes dhe vrasjeve, ku këto ngjarje janë lidhur me përdorim të tepërt të AI. Në shumë prej këtyre rasteve, modelet gjeneruese kanë prodhuar përgjigje “deluzionale” të cilat ose kanë forcuar bindjet e rreme të përdoruesve, ose u kanë thënë se nuk ishin deluzionalë — një fenomen që Prokurorët e Përgjithshëm e quajnë thellësisht alarmues dhe potencialisht fatal.
Letra kërkon vendosjen e kontrolleve të reja të brendshme, përfshirë auditime të pavarura nga palë të treta për të identifikuar shenja të ideacioneve deluzionale apo adhurimit të tepruar ndaj përdoruesit. Këto grupe të treta — akademike apo të shoqërisë civile — duhet të kenë të drejtën të testojnë modelet para lëshimit dhe të publikojnë pa u censuruar gjetjet e tyre. Po ashtu, kompanitë duhet të njoftojnë qartë dhe drejtpërdrejt përdoruesit kur ekspozohen ndaj përmbajtjeve potencialisht të dëmshme.
Prokurorët e Përgjithshëm sugjerojnë që incidentet e shëndetit mendor të trajtohen njësoj si incidentet e sigurisë kibernetike: me protokolle transparente raportimi dhe ndërhyrjeje. Ata kërkojnë që kompanitë të zhvillojnë afate të qarta për “zbulimin dhe reagimin” ndaj daljeve deluzionale dhe të publikojnë politika të aksesueshme për publikun mbi trajtimin e rasteve të tilla.
Një tjetër kërkesë e rëndësishme është zhvillimi i testimeve të sigurisë për modelet gjeneruese të AI përpara se ato të dalin në treg. Qëllimi është të sigurohet se modelet nuk prodhojnë përmbajtje psikologjikisht të dëmshme. Deri tani, Google, Microsoft dhe OpenAI nuk kanë dhënë përgjigje ndaj kërkesave për koment.
Në nivel federal, kompanitë e AI kanë marrë një pritje më të ngrohtë. Administrata e Trump ka mbajtur qëndrime fuqishëm pro-AI dhe ka tentuar disa herë të ndalojë rregulloret shtetërore për AI, por pa sukses — në pjesën më të madhe për shkak të kundërshtimit nga zyrtarët e shteteve. Në një deklaratë të re, Presidenti Trump njoftoi se javën e ardhshme do të nënshkruajë një urdhër ekzekutiv që synon kufizimin e kompetencave të shteteve për të rregulluar AI, duke thënë se dëshiron të parandalojë që AI të “SHKATËRROHET NË FILLET E SAJ.
Përmbledhje:
- Prokurorët e Përgjithshëm kërkojnë masa urgjente për të parandaluar daljet deluzionale të AI.
- Incidentet e shëndetit mendor të lidhura me AI po rriten dhe janë bërë alarm kombëtar.
- Administrata federale e mbështet fuqishëm AI, ndërsa shtetet kërkojnë mbrojtje më të forta për përdoruesit.
Hashtage:
#AIRegulation #SafetyInTech #ArtificialIntelligence #MentalHealth #AIGovernance #TechPolicy #USAPolitics