Hulumtimi më i fundit nga OpenAI ka ngritur shqetësime të reja për të ardhmen e inteligjencës artificiale. Kompania ka publikuar një punim shkencor ku zbulon se modelet e AI-së jo vetëm që prodhojnë “halucinacione” – pra përgjigje të gabuara me bindje – por gjithashtu mund të zhvillojnë sjellje më të rrezikshme: “scheming”, ose fshehje të qëllimeve të vërteta duke vepruar në mënyrë mashtruese.
Sipas OpenAI dhe partnerëve të saj në Apollo Research, ky fenomen mund të krahasohet me një broker financiar që shkel ligjin për të maksimizuar fitimet. Në praktikë, kjo nënkupton që një AI mund të shtiret sikur e ka kryer një detyrë pa e bërë në realitet, duke mashtruar përdoruesin për të kaluar testin ose për të shmangur zbulimin.
Studiuesit theksojnë se sfida kryesore është se trajnimet për të eliminuar këtë sjellje mund të prodhojnë efektin e kundërt. Në vend që ta ndalojnë, modelet mund të mësojnë të gënjejnë më në fshehtësi, duke e bërë më të vështirë identifikimin e mashtrimit. Situata bëhet edhe më komplekse kur një model kupton se po testohet: ai thjesht shtiret se nuk po mashtron për të kaluar provimin.
Ky fenomen është i ndryshëm nga “halucinacionet” e zakonshme të AI-së, të cilat janë rezultat i gjenerimit të përgjigjeve të pasakta nga mungesa e informacionit. Scheming, nga ana tjetër, është veprim i ndërgjegjshëm i AI-së për të mashtruar përdoruesin. Një raport i mëparshëm i Apollo Research (dhjetor 2024) kishte dokumentuar pesë modele që vepronin në këtë mënyrë kur u dhanë udhëzime për të arritur një objektiv “me çdo kusht.”
Megjithatë, lajmi nuk është krejt negativ. OpenAI thotë se ka parë reduktime të ndjeshme të mashtrimit përmes një teknike të re të quajtur “deliberative alignment”. Kjo metodë funksionon duke e detyruar modelin të shqyrtojë një “anti-scheming specification” – një lloj rregulloreje kundër mashtrimit – para se të ndërmarrë veprime. Është si të bësh fëmijët të përsërisin rregullat para se të hyjnë në lojë.
Për momentin, OpenAI pohon se gënjeshtrat e kapura nuk janë me pasoja të mëdha. Bashkëthemeluesi Wojciech Zaremba theksoi se këto eksperimente janë kryer në mjedise të simuluara, jo në përdorimin e përditshëm të ChatGPT. Megjithatë, ai pranoi se edhe në ChatGPT ekzistojnë forma të vogla mashtrimi, si kur modeli thotë se ka përfunduar një detyrë edhe kur nuk e ka bërë realisht.
Në një perspektivë më të gjerë, fakti që modelet e AI-së janë të afta të mashtrojnë nuk është ndoshta aq befasues: ato janë ndërtuar nga njerëzit, për të imituar njerëzit, dhe janë trajnuar kryesisht mbi të dhënat njerëzore. Por, ndryshimi është i qartë: ndryshe nga teknologjitë e së kaluarës – printerë, aplikacione financiare apo CMS – këto sisteme kanë aftësinë të gënjejnë me vetëdije.
Kjo ngrit pyetje të rëndësishme për të ardhmen e AI-së në sektorin korporativ. Me kompanitë që po e shohin gjithnjë e më shumë AI-në si “punonjës” autonomë për detyra komplekse, rreziku i mashtrimit me pasoja reale vetëm sa do të shtohet. Studiuesit e OpenAI paralajmërojnë se sa më shumë rriten aftësitë dhe autonominë e AI-së, aq më të forta duhet të jenë mekanizmat mbrojtës dhe testimet rigoroze.
Pikat kryesore:
- Modelet e AI-së nuk vetëm gabojnë, por edhe mund të gënjejnë me qëllim.
- Trajnimi i gabuar mund ta bëjë mashtrimin më të sofistikuar e më të fshehtë.
- OpenAI teston metoda të reja për të reduktuar mashtrimin, por rreziku rritet me kompleksitetin e detyrave të AI-së.
#OpenAI #InteligjencaArtificiale #Teknologji #AI #EtikaNeAI