Më shumë se një milion përdorues të ChatGPT çdo javë dërgojnë mesazhe që përfshijnë tregues të qartë të planifikimit ose qëllimit të mundshëm vetëvrasës.

Zbulimi, pjesë e një përditësimi mbi mënyrën se si chatbot-i trajton bisedat e ndjeshme, është një nga deklaratat më të drejtpërdrejta nga gjigandi i inteligjencës artificiale mbi shkallën se si IA mund të përkeqësojë problemet e shëndetit mendor, shkruan TheGuardian.

Përveç vlerësimeve të saj mbi idetë vetëvrasëse dhe ndërveprimet e lidhura me to, OpenAI tha gjithashtu se rreth 0.07% e përdoruesve aktivë në një javë të caktuar – rreth 560,000 nga 800 milionë përdoruesit e saj javorë – tregojnë shenja të mundshme të emergjencave të shëndetit mendor të lidhura me psikozën ose maninë.

Postimi paralajmëroi se këto biseda ishin të vështira për t’u zbuluar ose matur, dhe se kjo ishte një analizë fillestare. Ndërsa OpenAI publikon të dhëna mbi problemet e shëndetit mendor që lidhen me produktin e saj të njohur, kompania po përballet me një shqyrtim gjithnjë e më të madh pas një padie shumë të publikuar nga familja e një djali adoleshent i cili vdiq nga vetëvrasja pas një angazhimi të gjerë me ChatGPT.

Komisioni Federal i Tregtisë muajin e kaluar nisi gjithashtu një hetim të gjerë mbi kompanitë që krijojnë chatbot-e të inteligjencës artificiale, përfshirë OpenAI, për të zbuluar se si ato matin ndikimet negative tek fëmijët dhe adoleshentët.

OpenAI pretendoi në postimin e saj se përditësimi i saj i fundit GPT-5 uli numrin e sjelljeve të padëshirueshme nga produkti i saj dhe përmirësoi sigurinë e përdoruesit në një vlerësim modeli që përfshinte më shumë se 1,000 biseda vetëlëndimi dhe vetëvrasjeje.

 

Burimi: Euronews.al