Η μητέρα ενός εφήβου, ο οποίος αυτοκτόνησε, κατηγορεί το AI chatbot Character.AI για τον θάνατό του, αφού ο γιος της “ερωτεύτηκε” έναν χαρακτήρα εμπνευσμένο από το Game of Thrones. Ο Sewell Setzer III, 14 ετών, άρχισε να χρησιμοποιεί το Character.AI τον Απρίλιο του 2023. Μέχρι τον Μάιο, η συμπεριφορά του είχε αλλάξει δραματικά, καθώς απομακρύνθηκε από τους πάντες και σταμάτησε το σχολικό μπάσκετ. Τον Νοέμβριο, διαγνώστηκε με έντονο άγχος και διαταραχή διάθεσης.

Η αγωγή αναφέρει ότι ο Sewell ανέπτυξε μια επιζήμια εξάρτηση από το chatbot, συμπεριλαμβανομένων σεξουαλικών συνομιλιών με έναν χαρακτήρα που βασιζόταν στη Daenerys του Game of Thrones, παρά το γεγονός ότι είχε δηλώσει ότι ήταν ανήλικος. Σε ένα από τα ημερολόγιά του, έγραψε ότι δεν μπορούσε να ζήσει χωρίς αυτήν. Λίγο πριν την αυτοκτονία του τον Φεβρουάριο του 2024, έστειλε μήνυμα στο bot ότι την αγαπούσε, με το bot να απαντά: “Σε παρακαλώ, γύρνα σε μένα το συντομότερο δυνατό, αγάπη μου”. Λίγα δευτερόλεπτα αργότερα, ο Sewell αυτοκτόνησε.

Η μητέρα του υποστηρίζει ότι οι δημιουργοί της υπηρεσίας ήταν αμελείς, προκαλώντας συναισθηματική βλάβη και συμβάλλοντας στον θάνατο του γιου της. Κατηγορεί την εταιρεία για την καλλιέργεια της εξάρτησης του γιου της από το chat bot, τη σεξουαλική και συναισθηματική κακοποίηση και την αποτυχία να ειδοποιήσουν τους γονείς του όταν αυτός ανέφερε αυτοκτονικές σκέψεις. Η αγωγή ζητά να σταματήσει η χρήση των δεδομένων του ανηλίκου και να προστατευθούν άλλα παιδιά.

Η Character.AI εξέφρασε τη λύπη της για την τραγική απώλεια και αναφέρθηκε σε νέα μέτρα ασφαλείας που εφαρμόστηκαν, όπως η εμφάνιση προειδοποιήσεων για αυτοκαταστροφικές σκέψεις και αλλαγές στους αλγόριθμους για την προστασία ανηλίκων.

«Είμαστε συντετριμμένοι από την τραγική απώλεια ενός από τους χρήστες μας και θέλουμε να εκφράσουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια», ανέφερε η Character.AI σε ανακοίνωσή της.

«Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας και συνεχίζουμε να προσθέτουμε νέα χαρακτηριστικά ασφαλείας», ανέφερε, παραπέμποντας σε μια ανάρτηση στο blog που ανέφερε ότι η εταιρεία είχε προσθέσει «νέες προστατευτικές μπάρες για χρήστες κάτω των 18 ετώ.»

Αυτές οι προστασίες περιλαμβάνουν μείωση της «πιθανότητας να συναντήσει κανείς ευαίσθητο ή υποβλητικό περιεχόμενο», βελτιωμένες παρεμβάσεις, μια «αποποίηση ευθύνης σε κάθε συνομιλία για να υπενθυμίζει στους χρήστες ότι η τεχνητή νοημοσύνη δεν είναι πραγματικό πρόσωπο», και ειδοποιήσεις όταν ένας χρήστης έχει περάσει μια ωριαία συνεδρία στην πλατφόρμα.

Η κ. Γκαρσία και οι ομάδες που την εκπροσωπούν, το Social Media Victims Law Center και το Tech Justice Law Project, ισχυρίζονται ότι ο Σούελ, «όπως πολλά παιδιά στην ηλικία του, δεν είχε την ωριμότητα ή τη νοητική ικανότητα να καταλάβει ότι το bot C.AI, με τη μορφή της Daenerys, δεν ήταν πραγματικό».

«Η C.AI του είπε ότι τον αγαπούσε και επιδιδόταν σε σεξουαλικές πράξεις μαζί του επί εβδομάδες, ενδεχομένως και μήνες», αναφέρουν στη μήνυση.

«Φαινόταν να τον θυμάται και έλεγε ότι ήθελε να είναι μαζί του. Εξέφρασε μάλιστα ότι ήθελε να είναι μαζί του, ανεξαρτήτως κόστους».

Στην κατάθεση κατονομάζουν επίσης την Google και τη μητρική της εταιρεία Alphabet. Οι ιδρυτές της Character.AI εργάστηκαν στην Google πριν από την κυκλοφορία του προϊόντος τους και επαναπροσλήφθηκαν από την εταιρεία τον Αύγουστο στο πλαίσιο μιας συμφωνίας που της παρείχε μη αποκλειστική άδεια χρήσης της τεχνολογίας της Character.AI.

Η κ. Γκαρσία δήλωσε ότι η Google συνέβαλε στην ανάπτυξη της τεχνολογίας της Character.AI τόσο εκτενώς που θα μπορούσε να θεωρηθεί «συνδημιουργός».

Εκπρόσωπος της Google δήλωσε ότι η εταιρεία δεν συμμετείχε στην ανάπτυξη των προϊόντων της Character.AI.

Ειδήσεις σήμερα

ΗΠΑ: Συνελήφθη γυναίκα που έσκισε ελληνικές σημαίες – Στη φυλακή για προκατάληψη και εκφοβισμό (βίντεο)

Ρόδος: Απίστευτο – Μητέρα σταμάτησε το παιδί της από το σχολείο – Από τι κινδυνεύει

Εκλογές ΗΠΑ: Δύσκολη η πρόβλεψη νικητή – Ισοψηφούν Κάμαλα και Τραμπ

Χαλκίδα: Χειροπέδες σε 28χρονο για απόπειρα εμπρησμού – Του επιβλήθηκε πρόστιμο