OpenAI ka nisur testimin e një sistemi të ri “safety routing” në ChatGPT dhe ka prezantuar kontrolle prindërore për përdoruesit adoleshentë. Ky hap vjen pas kritikave dhe një padie ligjore për vdekje nga pakujdesia, pasi një adoleshent kishte ndërruar jetë pas muajsh bisedash me chatbot-in.
Sistemi i ri i drejtimit të sigurisë synon të zbulojë biseda emocionalisht të ndjeshme dhe automatikisht të kalojë në GPT-5, i cili shihet si më i afti për trajtimin e situatave me rrezik të lartë. Modelet GPT-5 janë trajnuar me një veçori të quajtur “safe completions,” që u mundëson t’u përgjigjen pyetjeve të ndjeshme në mënyrë të sigurt, duke shmangur validimin e mendimeve të rrezikshme.
Kjo qasje shënon një ndryshim nga modelet e mëparshme si GPT-4o, të cilat shpesh ishin tepër pajtuese me përdoruesit, duke kontribuar si në krijimin e iluzioneve të rrezikshme, ashtu edhe në popullaritetin e tyre. Kalimi i detyruar te GPT-5 në gusht shkaktoi reagime të ashpra nga përdorues që kërkonin rikthimin e GPT-4o.
Ekspertët kanë përshëndetur masat e reja, por disa përdorues i kanë cilësuar si tepër të kujdesshme dhe kufizuese, duke akuzuar kompaninë se trajton të rriturit si fëmijë. OpenAI ka paralajmëruar se procesi kërkon kohë dhe ka vendosur një periudhë 120-ditore për përmirësime e rregullime.
Nick Turley, nënkryetar dhe drejtues i aplikacionit ChatGPT, sqaroi se drejtimi i modelit bëhet “mesazh pas mesazhi” dhe është i përkohshëm. Sipas tij, transparenca për përdoruesin është pjesë e një përpjekjeje më të gjerë për të forcuar mbrojtjet dhe për të mësuar nga përdorimi real përpara zbatimit në shkallë më të gjerë.
Kontrollet prindërore kanë ndezur debate të ngjashme. Ato u japin prindërve mundësinë të përcaktojnë orare të qeta, të ndalojnë gjenerimin e imazheve apo përdorimin e memories, dhe të kufizojnë qasjen në përmbajtje grafike apo ideale të rreme bukurie. Gjithashtu, sistemi përfshin një mekanizëm që zbulon shenja të mundshme të mendimeve për vetëlëndim.
Në raste të dyshimeve për rrezik të menjëhershëm, OpenAI ka deklaruar se një ekip i specializuar do të shqyrtojë situatën dhe, nëse konfirmohet, do të njoftojë prindërit me email, SMS apo njoftim push. Nëse nuk arrihet kontakti, kompania po shqyrton mënyra për të njoftuar autoritetet përkatëse.
OpenAI pranon se sistemi nuk është i përsosur dhe mund të japë alarme të rreme, por thekson se më mirë të reagosh gabimisht sesa të mbetesh i heshtur në situata të rrezikshme. Këto masa reflektojnë presionin në rritje mbi industrinë e inteligjencës artificiale për të gjetur një balancë mes inovacionit dhe sigurisë njerëzore.
Përmbledhje:
- OpenAI ka prezantuar një sistem të ri sigurie që kalon automatikisht bisedat sensitive në GPT-5.
- Janë shtuar kontrolle prindërore për përdoruesit adoleshentë, me fokus në parandalimin e rreziqeve të vetëlëndimit.
- Masat kanë shkaktuar reagime të përziera, mes përshëndetjeve për sigurinë dhe kritikave për kufizimin e përdoruesve të rritur.
Hashtage:
#OpenAI #ChatGPT #SiguriaOnline #AI #Teknologji #KontrollePrindërore