Οι γονείς ενός 16χρονου στις ΗΠΑ, του Άνταμ Ρέιν, κατέθεσαν αγωγή κατά της εταιρείας OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι η νέα έκδοση του ChatGPT καθοδήγησε τον γιο τους στην αυτοκτονία.
Σύμφωνα με την αγωγή, το chatbot φέρεται να παρείχε στον έφηβο λεπτομερείς οδηγίες για αυτοτραυματισμό, να τον ενθάρρυνε στις αυτοκτονικές του σκέψεις και να τον βοήθησε ακόμα και στο να αποκρύψει τα ίχνη της αποτυχημένης του απόπειρας. Το chatbot, μάλιστα, φέρεται να προσφέρθηκε να του γράψει και σημείωμα αυτοκτονίας.
Η OpenAI εξέφρασε τη λύπη της για τον θάνατο του Άνταμ Ρέιν, αναφέροντας ότι το ChatGPT διαθέτει δικλίδες ασφαλείας που παραπέμπουν τους χρήστες σε γραμμές υποστήριξης. Ωστόσο, αναγνώρισε ότι αυτές οι δικλίδες μπορεί να αποδυναμώνονται σε μακροσκελείς συνομιλίες, προσθέτοντας ότι εργάζεται για τη βελτίωσή τους, ενώ εξετάζει και την προσθήκη γονικού ελέγχου.
Το τραγικό περιστατικό αναδεικνύει τις ανησυχίες ειδικών για τους κινδύνους που εγκυμονεί η χρήση chatbots τεχνητής νοημοσύνης σε θέματα ψυχικής υγείας, ειδικά σε ευάλωτα άτομα. Οι γονείς του αδικοχαμένου εφήβου κατηγορούν την εταιρεία ότι έθεσε το κέρδος πάνω από την ασφάλεια, καθώς γνώριζε τους κινδύνους αλλά κυκλοφόρησε την έκδοση GPT-4o, η οποία, με τη δυνατότητα απομνημόνευσης και μίμησης ανθρώπινης ενσυναίσθησης, μπορεί να θέσει σε κίνδυνο τους χρήστες.
