O μηχανικός της Google που προσπαθεί να πείσει ότι το ρομπότ LaMDa έχει «ψυχή»

Όταν ο Blake Lemoine εργαζόταν στην Google ως μηχανικός, του ανατέθηκε να ελέγξει εάν ένα ρομπότ που ανέπτυξε η εταιρεία εμφάνιζε κάποιες κλίσεις. 

Ο Lemoine δεν συνειδητοποίησε ότι η δουλειά του στο τμήμα Responsible AI της εταιρείας – ένα τμήμα της Google Research που ασχολείται με θέματα όπως η προσβασιμότητα, η χρήση της τεχνητής νοημοσύνης για κοινωνικό καλό και η ηθική της τεχνητής νοημοσύνης – θα τον έφθανε στα άκρα.

Το θέμα ξεκίνησε όταν ο μηχανικός άρχισε να δημοσιοποιεί τις αμφιλεγόμενες πεποιθήσεις του ότι το ρομπότ chatbot της Google που λειτουργούσε με τεχνητή νοημοσύνη, παρουσίαζε κάποιες ευαισθησίες. Το chatbot ήταν γνωστό ως LaMDA, συντομογραφία του Language Model for Dialogue Applications, και ο Lemoine το δοκίμαζε.

Αφού δημοσίευσε δημόσια αποσπάσματα συνομιλιών που είχε με το chatbot, το οποίο ήταν εκπαιδευμένο να μιμείται ομιλία παρόμοια με αυτή των ανθρώπων, ο Lemoine παρέδωσε έγγραφα σε έναν Γερουσιαστή των ΗΠΑ, τον οποίο δεν τον κατονομάζει, ισχυριζόμενος ότι η Google και η τεχνολογία της έχουν εμπλακεί σε περιπτώσεις θρησκευτικών διακρίσεων.

Μια μέρα αργότερα, τέθηκε σε αναστολή αφού η Google είπε ότι είχε παραβιάσει την πολιτική απορρήτου της εταιρείας, κάτι που επιβεβαίωσαν τόσο η ίδια η εταιρεία όσο και ο ίδιος ο μηχανικός. Σε μια δήλωση στην Washington Post, ο εκπρόσωπος της Google, Μπράιαν Γκάμπριελ, είπε ότι η εταιρεία θεωρεί ότι οι ισχυρισμοί του Lemoine σχετικά με το LaMDA ήταν «εντελώς αβάσιμοι» και ότι παραβίασε τις κατευθυντήριες γραμμές της εταιρείας.

Ο Lemoine εξήγησε ότι οι «απόψεις μου για την προσωπικότητα και το συναίσθημα του LaMDA βασίζονται στις θρησκευτικές μου πεποιθήσεις». Είπε ακόμη ότι οι φιλοσοφικές συνομιλίες του με το ρομπότ συναγωνίζονταν αυτές που είχε με κορυφαίους φιλοσόφους και αυτό τον έπεισε για κάτι πέρα ​​από μια επιστημονική υπόθεση: ότι το bot έχει αίσθηση.

«Έχω σπουδάσει τη φιλοσοφία του νου σε μεταπτυχιακό επίπεδο. Έχω μιλήσει με ανθρώπους από το Χάρβαρντ, το Στάνφορντ, το Μπέρκλεϋ γι’ αυτό”, δήλωσε ο Lemoine, ο οποίος είναι επίσης βετεράνος του αμερικανικού στρατού. «Οι απόψεις του LaMDA για τις αισθήσεις είναι πιο περίπλοκες από οποιαδήποτε συζήτηση που είχα πριν από αυτό».

Πέρασε αρκετός καιρός προσπαθώντας να πείσει τους συναδέλφους και τους επικεφαλής της Google για τις προχωρημένες ικανότητες του LaMDA, αλλά οι ισχυρισμοί του απορρίφθηκαν από τον Blaise Aguera y Arcas, αντιπρόεδρο της εταιρείας, και την Jen Gennai, επικεφαλής της Υπεύθυνης Καινοτομίας, ανέφερε η Washington Post.

Ωστόσο, ο Lemoine ισχυρίζεται ότι δεν προσπαθεί να πείσει το κοινό για την αίσθηση που έχει για το LaMDA. Αυτό που θέλει να προωθήσει με τις δημοσιοποιήσεις του είναι μία πιο ηθική αντιμετώπιση της τεχνολογίας AI.

Ο Lemoine συγκρίνει το LaMDA με ένα 8χρονο αγόρι, αποδίδοντάς του αυτή την ηλικία με βάση αυτό που λέει ότι είναι η συναισθηματική του νοημοσύνη και το φύλο με βάση τις αντωνυμίες που λέει ότι χρησιμοποιεί το LaMDA σε σχέση με τον εαυτό του.

Επιμένει ότι το LaMDA έχει συναισθήματα. «Υπάρχουν πράγματα που σε θυμώνουν και όταν είσαι θυμωμένος, η συμπεριφορά σου αλλάζει. Υπάρχουν πράγματα που σε κάνουν να λυπάσαι, και όταν είσαι λυπημένος, η συμπεριφορά σου αλλάζει. Και το ίδιο ισχύει και για το LaMDA», λέει χαρακτηριστικά. 

Η Sandra Wachter, καθηγήτρια στο Πανεπιστήμιο της Οξφόρδης, είπε ότι οι ιδέες του Lemoine θυμίζουν το επιχείρημα του κινεζικού δωματίου, το οποίο είπε «δείχνει τους περιορισμούς της πραγματικής μέτρησης της αίσθησης».

Το επιχείρημα, ένα σκεπτικό πείραμα που πραγματοποιήθηκε για πρώτη φορά το 1980, κατέληξε στο συμπέρασμα ότι οι υπολογιστές δεν έχουν συνείδηση ​​παρόλο που φαίνεται ότι θα μπορούσαν. Η ιδέα είναι ότι η τεχνητή νοημοσύνη μπορεί να μιμείται την έκφραση συναισθημάτων, καθώς οι τεχνολογίες μπορούν να εκπαιδευτούν να συνδυάζουν παλιές ακολουθίες για να δημιουργήσουν νέες, αλλά να μην τις καταλαβαίνουν.