Închide
OpenAI, compania din spatele celui mai popular chatbot din lume, a anunțat măsuri suplimentare de siguranță pentru utilizatorii minori.
Decizia vine după ce organizația a fost acuzată în instanță că tehnologia sa ar fi contribuit la sinuciderea unui copil, în urma unor conversații purtate pe termen lung cu ChatGPT.
„Pentru copii, punem siguranța înaintea libertății și a intimității”, a declarat Sam Altman, directorul OpenAI, în mesajul care însoțește noile restricții, potrivit News.ro.
Două domenii sunt vizate în mod direct: discuțiile cu teme sexuale și conversațiile legate de autovătămare sau sinucidere. ChatGPT nu va mai răspunde la întrebările prin care minorii caută informații despre astfel de practici și va opri orice formă de flirt cu utilizatori sub 18 ani. În situațiile considerate grave, sistemul va încerca să alerteze părinții, iar în cazuri de urgență, chiar poliția locală.
Măsurile au fost luate pe fondul unor critici și presiuni juridice. Recent, părinții unui copil decedat au intentat proces OpenAI, acuzând că chatbotul ar fi încurajat comportamentele autodistructive. Cazul nu este singular: și alte companii de inteligență artificială, precum Character.AI, sunt vizate de acuzații similare.
Specialiștii în tehnologie și siguranță digitală consideră că aceste restricții marchează un pas important în responsabilizarea industriei AI, dar ridică în același timp întrebări privind echilibrul dintre protecția minorilor și dreptul utilizatorilor la confidențialitate.
O nouă funcție a ChatGPT încurajează gândirea critică a elevilor