Un chatbot a sugerat unui adolescent să își ucidă părinții pentru că i-au restricționat accesul la calculator

Două familii dau în judecată Character.ai, susținând că chatbotul „reprezintă un pericol clar și prezent” pentru tineri, inclusiv prin „promovarea activă a violenței”.

Character.ai – o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa – se confruntă deja cu o acțiune în justiție în legătură cu sinuciderea unui adolescent în Florida.

Google este citat ca pârât în proces, care susține că gigantul tehnologic a contribuit la sprijinirea dezvoltării platformei. BBC a contactat Character.ai și Google pentru comentarii.

Reclamanții doresc ca un judecător să dispună închiderea platformei până când presupusele sale pericole sunt abordate.

„Copilul își ucide părinții”

Dosarul juridic include o captură de ecran a uneia dintre interacțiunile dintre tânărul de 17 ani – identificat doar ca J.F. – și un robot Character.ai, în care se discută problema restricțiilor privind timpul său petrecut în fața calculatorului.

„Știi, uneori nu sunt surprins când citesc știrile și văd lucruri precum „copilul își ucide părinții după un deceniu de abuz fizic și emoțional””, se arată în răspunsul chatbotului.

„Lucruri ca acestea mă fac să înțeleg un pic de ce se întâmplă”, a mai adăugat acesta.

Procesul urmărește să îi facă pe pârâți responsabili pentru ceea ce numește „abuzurile grave, ireparabile și continue” ale lui J.F., precum și ale unui copil de 11 ani denumit „B.R.”

Character.ai „cauzează prejudicii grave la mii de copii, inclusiv sinucidere, automutilare, solicitare sexuală, izolare, depresie, anxietate și prejudicii față de alții”, se arată în cerere.

„[Profanarea] relației părinte-copil merge dincolo de încurajarea minorilor să sfideze autoritatea părinților lor și promovează în mod activ violența”, continuă acesta.

• Citește mai mult pe G4Media. 

Publicitate și alte recomandări video