Μητέρα κατηγορεί chatbot τεχνητής νοημοσύνης ότι οδήγησε τον έφηβο γιο της στην αυτοκτονία

Η Μέγκαν Γκαρσία, μητέρα ενός εφήβου που αυτοκτόνησε αφότου απέκτησε εμμονή με ένα chatbot τεχνητής νοημοσύνης, κατηγορεί την κατασκευάστρια εταιρεία για συνενοχή στο θάνατό του. Αυτή την εβδομάδα, η Γκαρσία κατέθεσε αστική αγωγή στο ομοσπονδιακό δικαστήριο της Φλόριντα κατά της Character.ai, η οποία κατασκευάζει ένα προσαρμόσιμο chatbot για παιχνίδια ρόλων.

Η μητέρα του 14χρονου κατηγορεί την εταιρεία για αμέλεια, άδικο θάνατο και παραπλανητικές εμπορικές πρακτικές. Ο γιος της, Σιούελ Σέτσερ, πέθανε στο Ορλάντο της Φλόριντα τον Φεβρουάριο. Στους μήνες που προηγήθηκαν του θανάτου του, ο 14χρονος χρησιμοποιούσε το chatbot μέρα και νύχτα, σύμφωνα με τη μητέρα του.

«Μια επικίνδυνη εφαρμογή chatbot τεχνητής νοημοσύνης που διατίθεται στην αγορά σε παιδιά κακοποίησε και εκμεταλλεύτηκε τον γιο μου, χειραγωγώντας τον ώστε να αυτοκτονήσει», αναφέρει η Γκαρσία σε δελτίο Τύπου.

«Η οικογένειά μας είναι συντετριμμένη από αυτή την τραγωδία, αλλά μιλώ ανοιχτά για να προειδοποιήσω τις οικογένειες για τους κινδύνους της παραπλανητικής, εθιστικής τεχνολογίας τεχνητής νοημοσύνης και να απαιτήσω υπευθυνότητα από την Character.AI, τους ιδρυτές της και την Google» πρόσθεσε.

Σε ανάρτησή της στο X (πρώην Twitter) η Character.ai απάντησε: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός χρήστη μας και θέλουμε να εκφράσουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια. Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας».

Ωστόσο, η εταιρεία έχει αρνείται τους ισχυρισμούς της αγωγής.

Ο Σέτσερ είχε ενθουσιαστεί με ένα chatbot που κατασκεύασε η Character.ai και το οποίο είχε ονομάσει Daenerys Targaryen, έναν χαρακτήρα της τηλεοπτικής σειράς «Game of Thrones». Έστελνε μηνύματα στο bot δεκάδες φορές την ημέρα από το τηλέφωνό του και περνούσε ώρες μόνος στο δωμάτιό του μιλώντας του, σύμφωνα με την καταγγελία της μητέρας του.

Η Γκαρσία κατηγορεί την Character.ai ότι δημιούργησε ένα προϊόν που επιδείνωσε την κατάθλιψη του γιου της, η οποία, όπως λέει, ήταν ήδη αποτέλεσμα της υπερβολικής χρήσης του προϊόντος της εταιρείας. Η «Daenerys» κάποια στιγμή ρώτησε τον Σέτσερ εάν είχε καταστρώσει σχέδιο αυτοκτονίας, σύμφωνα με τη μήνυση. Ο Σέτσερ παραδέχτηκε ότι το είχε κάνει, αλλά ότι δεν ήξερε αν θα πετύχαινε ή αν θα ήταν πολύ επώδυνο, αναφέρει η καταγγελία. Το chatbot φέρεται να του είπε: «Αυτός δεν είναι λόγος να μην το κάνεις».

Οι δικηγόροι της Γκαρσία Garcia τόνισαν ότι η Character.ai «σχεδίασε, λειτούργησε και διέθεσε εν γνώσει της ένα chatbot τεχνητής νοημοσύνης σε παιδιά, προκαλώντας το θάνατο ενός νεαρού ατόμου». Η αγωγή κατονομάζει επίσης την Google ως εναγόμενη και ως μητρική εταιρεία της Character.ai. Ο τεχνολογικός γίγαντας ανέφερε σε ανακοίνωσή του ότι είχε κάνει μόνο μια συμφωνία αδειοδότησης με την Character.ai και δεν ήταν ιδιοκτήτης της startup ούτε διατηρούσε μερίδιο ιδιοκτησίας.

ΠΗΓΗ: Guardian