Καμπανάκι από στελέχη της AI: «Ο κόσμος βρίσκεται σε κίνδυνο»

«Ο κόσμος βρίσκεται σε κίνδυνο», προειδοποίησε ο πρώην επικεφαλής της ομάδας Safeguards Research της Anthropic, αποχωρώντας από την εταιρεία. Ερευνήτρια της OpenAI, επίσης καθ’ οδόν προς την έξοδο, σημείωσε ότι η τεχνολογία έχει «τη δυνατότητα να χειραγωγεί τους χρήστες» και «δεν έχουμε τα εργαλεία να το κατανοήσουμε, πόσο μάλλον να το αποτρέψουμε».

Αν και στη Silicon Valley είναι γνωστό ότι σημειώνεται μεγάλη κινητικότητα στελεχών, η πρόσφατη έξαρση αποχωρήσεων έρχεται σε μια περίοδο όπου ηγετικές εταιρείες της αγοράς, όπως η OpenAI και η Anthropic, κινούνται προς δημόσιες εγγραφές (IPO) και συνεπώς ενδέχεται να επιταχύνουν την ανάπτυξή τους, αλλά και να εντείνουν τον έλεγχο των δραστηριοτήτων τους.

Μόνο τις τελευταίες ημέρες, αρκετά υψηλόβαθμα στελέχη της AI επέλεξαν να αποχωρήσουν, με ορισμένους να προειδοποιούν σαφώς ότι οι εταιρείες στις οποίες εργάζονταν κινούνται υπερβολικά γρήγορα και υποβαθμίζουν τις απειλές της τεχνολογίας.

Η Zoë Hitzig, ερευνήτρια της OpenAI τα τελευταία δύο χρόνια, ανακοίνωσε την παραίτησή της με άρθρο της στους New York Times, επικαλούμενη «σοβαρές επιφυλάξεις» για την αναδυόμενη στρατηγική διαφήμισης της εταιρείας. Η Hitzig, η οποία είχε προειδοποιήσει για την ικανότητα του ChatGPT να χειραγωγεί χρήστες, τόνισε ότι το αρχείο δεδομένων που συγκεντρώνει το chatbot -βασισμένο σε «ιατρικούς φόβους, προβλήματα σχέσεων, πεποιθήσεις για τον Θεό και τη μετά θάνατον ζωή»- δημιουργεί ένα ηθικό δίλημμα, ακριβώς επειδή οι χρήστες πίστευαν ότι συνομιλούσαν με ένα πρόγραμμα χωρίς κρυφά κίνητρα.

Την ίδια εβδομάδα, ο Mrinank Sharma, επικεφαλής της ομάδας Safeguards Research της Anthropic, ανακοίνωσε με επιστολή ότι αποχωρεί και προειδοποίησε ότι «ο κόσμος βρίσκεται σε κίνδυνο».

Η επιστολή του Sharma περιείχε μόνο ασαφείς αναφορές στην Anthropic, την εταιρεία πίσω από το chatbot Claude. Δεν εξήγησε τους λόγους της αποχώρησης, σημείωσε όμως ότι «ήταν σαφές για μένα ότι είχε έρθει η ώρα να προχωρήσω» και ότι «καθ’ όλη τη διάρκεια της παρουσίας μου εδώ, είδα επανειλημμένως πόσο δύσκολο είναι να αφήσουμε πραγματικά τις αξίες μας να καθοδηγούν τις πράξεις μας».

Την ίδια ώρα, στην xAI, δύο συνιδρυτές αποχώρησαν μέσα σε διάστημα 24 ωρών, ανακοινώνοντας την απόφασή τους μέσω της πλατφόρμας X. Ετσι, απομένει πλέον μόλις το 50% της αρχικής ιδρυτικής ομάδας στη νεοφυή εταιρεία, η οποία συγχωνεύεται με τη SpaceX του Elon Musk για να δημιουργήσει την πολυτιμότερη μη εισηγμένη εταιρεία στον κόσμο. Τουλάχιστον πέντε ακόμη στελέχη της xAI ανακοίνωσαν επίσης την αποχώρησή τους στα μέσα κοινωνικής δικτύωσης την τελευταία εβδομάδα. Σε ανάρτησή του την Τετάρτη, ο Musk δήλωσε ότι η xAI «αναδιοργανώθηκε» για να επιταχύνει την ανάπτυξή της, κάτι που «δυστυχώς απαιτούσε τον αποχωρισμό από ορισμένους ανθρώπους».

Παρότι η κινητικότητα κορυφαίων ταλέντων δεν είναι ασυνήθιστη σε έναν αναδυόμενο κλάδο όπως η τεχνητή νοημοσύνη, η έκταση των αποχωρήσεων μέσα σε τόσο σύντομο χρονικό διάστημα στην xAI ξεχωρίζει. Η startup έχει βρεθεί αντιμέτωπη με παγκόσμιες αντιδράσεις για το chatbot Grok, το οποίο επί εβδομάδες δημιουργούσε μη συναινετικά πορνογραφικές εικόνες γυναικών και παιδιών προτού παρέμβουν οι αρμόδιοι. Το Grok έχει επίσης επιδείξει τάση παραγωγής αντισημιτικών σχολίων ως απάντηση σε προτροπές χρηστών.

Οι πρόσφατες αποχωρήσεις αναδεικνύουν την ένταση ανάμεσα σε ερευνητές που ανησυχούν για ζητήματα ασφάλειας και σε κορυφαία στελέχη που πιέζουν για αύξηση εσόδων.

CNN