Τεχνητή νοημοσύνη και καταμερισμός εργασίας στην παραγωγή και εφαρμογή της γνώσης

1.    Η εμφάνιση και η εξέλιξη της Τεχνητής Νοημοσύνης  

Οι πρόσφατες εξελίξεις στον τομέα της τεχνητής νοημοσύνης εγείρουν εύλογα ερωτήματα όσον αφορά τον αντίκτυπό της στην καθημερινή μας ζωή, αλλά και τη σχέση μας με αυτή την τεχνολογία, η οποία ανταγωνίζεται σοβαρά τον άνθρωπο σε αυτό που μέχρι πρόσφατα ήταν προνόμιό του: την παραγωγή και την εφαρμογή της γνώσης.

Η τεχνητή νοημοσύνη (ΤΝ) γεννήθηκε σχεδόν ταυτόχρονα με την πληροφορική. Ο Alan Turing, ο ιδρυτής της πληροφορικής, είχε την ιδέα του διάσημου τεστ νοημοσύνης που φέρει το όνομά του. Η ανάπτυξή της ΤΝ γνώρισε διακυμάνσεις κατά τη διάρκεια των δεκαετιών, ακολουθώντας δύο πολύ διαφορετικές προσεγγίσεις. Από τη μία πλευρά, μια συμβολική προσέγγιση που βασίζεται στη λογική και που υλοποιείται με τον προγραμματισμό μηχανών - από την άλλη, μια λεγόμενη "διασυνδετική" προσέγγιση, εμπνευσμένη από τα νευρωνικά δίκτυα του ανθρώπινου εγκεφάλου και βασισμένη στη μάθηση. Τα τεχνητά νευρωνικά δίκτυα είναι συστήματα που δεν εκτελούν προγράμματα, αλλά αναπτύσσονται μέσω μιας διαδικασίας μάθησης που χρησιμοποιεί μεγάλο αριθμό παραδειγμάτων για να αναπαράγει, με μεγάλη πιθανότητα, συμπεριφορά εισόδου/εξόδου κοντά σε αυτά τα παραδείγματα.
Αυτή η διαφορά μεταξύ των νευρωνικών δικτύων και των υπολογιστών που εκτελούν προγράμματα αντικατοπτρίζεται στο βαθμό εγκυρότητας της γνώσης που παράγουν. Οι υπολογιστές παράγουν γνώση που προκύπτει από διαδικασίες που μπορούν να αναλυθούν και να επαληθευτούν. Αντίθετα, η γνώση που βασίζεται στα δεδομένα και παράγεται από τα νευρωνικά δίκτυα είναι αποτέλεσμα μιας πολύπλοκης διαδικασίας, η οποία παραμένει σε μεγάλο βαθμό εμπειρική και δεν επιδέχεται ακριβή μαθηματικό χαρακτηρισμό. Αυτό συνεπάγεται την έλλειψη "εξηγησιμότητας" των νευρωνικών δικτύων, τα οποία παράγουν εμπειρική γνώση που δεν έχει την εγκυρότητα της επιστημονικής και τεχνικής γνώσης.

Η άνοδος της ΤΝ που παρατηρείται από τα μέσα της δεκαετίας του '90 χάρη στα νευρωνικά δίκτυα, παρέχει αποτελεσματικές λύσεις σε προβλήματα που είναι πολύ δύσκολο να επιλυθούν με προγραμματισμό. Υπάρχουν συστήματα ικανά να νικήσουν πρωταθλητές παιχνιδιών, να ταξινομήσουν και να ερμηνεύσουν εικόνες και, πιο πρόσφατα, μετασχηματιστές γλώσσας, όπως το περίφημο ChatGPT, ικανό να συνομιλεί σε φυσική γλώσσα. Αυτοί οι μετασχηματιστές, γνωστοί με τη συντομογραφία LLM (Large Language Models), είναι ικανοί να απαντούν, συχνά με σωστό τρόπο, σε σχεδόν οποιοδήποτε ερώτημα σε φυσική γλώσσα.
Η έλευση των LLM σηματοδοτεί μια αλλαγή παραδείγματος, διότι παρέχουν μια ρεαλιστική λύση στο πρόβλημα της επεξεργασίας φυσικής γλώσσας που προσπαθούσαμε επί μακρόν να λύσουμε χρησιμοποιώντας τη συμβολική προσέγγιση. Τα LLM παρακάμπτουν το πρόβλημα του ρητού ορισμού της σημασιολογίας των γλωσσών, θεωρώντας ότι η σημασία μιας λέξης είναι απλώς όλες οι δυνατές σχέσεις της με τα συμφραζόμενα. Η μηχανική μάθηση εκτιμά μια κατανομή πιθανοτήτων πάνω στις λέξεις προκειμένου να προβλέψει την επόμενη πιο πιθανή λέξη σε μια πρόταση. Ο αλγόριθμος "πρόβλεψης της επόμενης πιο πιθανής λέξης" είναι ένας απλός αλγόριθμος, ο οποίος αποδεικνύεται μια αξιοσημείωτη τεχνική περίληψης.

Βέβαια, η φύση της λύσης που υιοθετείται καθορίζει και τους περιορισμούς των LLM: μπορούν να συνθέτουν απαντήσεις σε γενικά ερωτήματα αντλώντας πληροφορίες από το τεράστιο σώμα εκμάθησής τους. Αλλά μπορεί να αποτύχουν κατάφωρα στην απάντηση ακριβών ερωτήσεων ή στην επίλυση πολύ απλών λογικών προβλημάτων, μια και δεν μπορούν να ελέγξουν τη συνέπεια των απαντήσεών τους λόγω της έλλειψης ενός πλήρους ρητού σημασιολογικού μοντέλου.

Σήμερα επικρατεί μεγάλη σύγχυση σχετικά με το τί είναι η νοημοσύνη και πώς μπορεί να επιτευχθεί. Αρκεί να ρίξετε μια ματιά σε ένα λεξικό για να δείτε ότι η νοημοσύνη ορίζεται ως "η ικανότητα να μαθαίνεις, να κατανοείς και να σκέφτεσαι λογικά για τον κόσμο- η ικανότητα θέτεις και να επιτυγχάνεις στόχους". Σήμερα, η ΤΜ μάς δίνει μόνο τα στοιχεία για τη δημιουργία ευφυών συστημάτων, αλλά δεν έχουμε τις αρχές και τις τεχνικές για τη σύνθεσή τους. Η ανθρώπινη νοημοσύνη έχει πολλές πτυχές και δεν περιορίζεται σε ένα παιχνίδι συνομιλίας.
Θα προσεγγίσουμε την ανθρώπινη νοημοσύνη όταν θα μπορούμε να κατασκευάσουμε αυτόνομα συστήματα ικανά να αντικαταστήσουν ανθρώπους που εκτελούν έργα σε πολύπλοκες οργανώσεις σύμφωνα με το όραμα του Διαδικτύου των Πραγμάτων, το οποίο προβλέπει αυτόνομα συστήματα μεταφορών, ευφυή εργοστάσια και αγροκτήματα και ευφυή συστήματα διανομής ενέργειας. Σήμερα, απέχουμε πολύ από την υλοποίηση αυτού του οράματος, όπως αποδεικνύεται από τη δυσκολία να κατασκευάσουμε αυτόνομα αυτοκίνητα, τα οποία, σύμφωνα με εκτιμήσεις στις αρχές της δεκαετίας του 2010, επρόκειτο να κυκλοφορήσουν στους δρόμους πριν από το 2020.
Οι άνθρωποι έχουν μια μοναδική ικανότητα να συνδέουν τις αισθητηριακές τους πληροφορίες με νοήματα και γνώση κοινής λογικής, πράγμα που αποτελεί σημαντική διαφορά με την ΤΝ. Δεν δυσκολευόμαστε να αναγνωρίσουμε μια μερικώς χιονισμένη πινακίδα στοπ, επειδή μπορούμε να συνδέσουμε τις αισθητηριακές πληροφορίες με το εννοιολογικό της μοντέλο και τις ιδιότητές του. Αντίθετα, για να αναγνωρίζει πινακίδες στοπ, ένα νευρωνικό δίκτυο πρέπει να εκπαιδευτεί για όλες τις καιρικές συνθήκες.

2.    Υποθετικοί και πραγματικοί κίνδυνοι 
Η θεαματική άνοδος της TN συνοδεύεται από μια φρενίτιδα αισιοδοξίας που πρεσβεύει ότι νοημοσύνη ανθρώπινου επιπέδου είναι θέμα ετών. Έχει αναπτυχθεί μια μυθολογία γύρω από την "υπερ-νοημοσύνη" των μηχανών. Υψώνονται φωνές που καταγγέλλουν τους πιθανούς κινδύνους από τη χρήση της ΤΝ, επικαλούμενες ακόμη και τον κίνδυνο για τον ανθρώπινο πολιτισμό, χωρίς όμως να εξηγείται επακριβώς το γιατί και το πώς. Στην τρέχουσα συζήτηση, συγκρούονται δύο απόψεις: αφενός μια καταστροφολογία και αφετέρου μια τάση για απόλυτη ανοχή, οι οποίες όμως συναντιούνται στο βαθμό που δεν δημιουργούν τις προϋποθέσεις για μια ήρεμη και τεκμηριωμένη συζήτηση μέσα στην κοινωνία.
Είναι παράλογο να λέμε ότι μια τεχνολογία είναι μια αναπόφευκτη απειλή. Η ΤΝ, όπως κάθε τεχνολογία, παρουσιάζει ευκαιρίες και κινδύνους. Μπορούμε να χρησιμοποιήσουμε την ατομική ενέργεια για να παράγουμε ηλεκτρισμό ή για καταστροφικούς σκοπούς. Είναι δική μας ευθύνη να ελέγξουμε τους κινδύνους επιβάλλοντας κανόνες στη χρήση της.     
Υπάρχουν φυσικά οι κίνδυνοι που προκύπτουν από την ευρεία χρήση της ΤΝ όπως ανεργία και ανατροπή κοινωνικών σχέσεων, οι οποίοι πρέπει να αντιμετωπιστούν με τα κατάλληλα πολιτικά μέτρα. Όμως η παρούσα συζήτηση για την ΤΝ επικεντρώνεται στους αντίστοιχους ρόλους των μηχανών και των ανθρώπων για την παραγωγή και την εφαρμογή της γνώσης.
Ελλείψει εγγυήσεων διαφάνειας και αξιοπιστίας, η ανεξέλεγκτη χρήση της ΤΝ σε "κρίσιμες" διαδικασίες λήψης αποφάσεων ενέχει κινδύνους που είναι δύσκολο να εκτιμηθούν, αλλά είναι πάντως υπαρκτοί, για την παραβίαση των θεμελιωδών δικαιωμάτων και την ασφάλεια του φυσικού και ανθρώπινου περιβάλλοντος. Ενώ όλα τα τεχνουργήματα, από παιχνίδια μέχρι αεροσκάφη, κατασκευάζονται σύμφωνα με πρότυπα που εγγυώνται την ασφαλή χρήση τους, δεν υπάρχουν κανονισμοί σχετικά με την ΤΝ. Για να μάθουμε σε μια ΤΝ να αναγνωρίζει "υπόπτους" σε ένα πλήθος, την εκπαιδεύουμε με ένα μεγάλο αριθμό εικόνων, επισημαίνοντας άτομα με ιδιαίτερα χαρακτηριστικά. Αλλά πώς και από ποιον καθορίζονται αυτά τα χαρακτηριστικά;

Στις Ηνωμένες Πολιτείες, σε ορισμένους τομείς όπως μεταφορές και ιατρικές εφαρμογές προβλέπεται η αντικατάσταση των ανεξάρτητων φορέων πιστοποίησης με την "αυτο-πιστοποίηση", δηλαδή ο κατασκευαστής ενός προϊόντος εγγυάται την ποιότητά του. Η απουσία τεχνικών εγγυήσεων για την ΤΝ εγείρει εύλογα ερωτήματα σχετικά με τη χρήση της σε κρίσιμες διαδικασίες λήψης αποφάσεων. Η ΤΝ θέτει επειγόντως το ζήτημα του καταμερισμού της εργασίας στην παραγωγή και την εφαρμογή της γνώσης. Η εξέλιξη του ανθρώπου έχει σημαδευτεί από την τεχνολογική ανάπτυξη ήδη από την εποχή της εφεύρεσης της γραφής και του μοχλού. Η ικανότητά μας να απομνημονεύουμε ή να χρησιμοποιούμε τη σωματική μας δύναμη μειώθηκε με την εφεύρεση της γραφής και της μηχανοποίησης.
Ωστόσο, πρέπει να θέτουμε όρια όταν πρόκειται να διαφυλάξουμε την ελευθερία μας να σκεφτόμαστε και να επιλέγουμε υπεύθυνα, η οποία αποτελεί την ουσία της ανθρώπινης φύσης. Τα LLM δεν είναι μια απλή μηχανή αναζήτησης όπως αυτή της Google. Η συστηματική χρήση αυτών των εργαλείων από νέους ανθρώπους, οι οποίοι πρέπει να μάθουν να δομούν τη σκέψη τους, να κατανοούν καταστάσεις και να αναπτύσσουν μια κριτική άποψη για τον κόσμο, θα πρέπει να μας βάλει σε σκέψεις. Είναι δύσκολο να φανταστούμε ότι οι μηχανές μπορούν να ξεπεράσουν τη νοημοσύνη μας. Ωστόσο, είναι πιθανό να υποταχθούμε στις μηχανές, αν εξαρτηθούμε υπερβολικά από αυτές, είτε λόγω αδυναμίας διαχείρισης της πολυπλοκότητάς τους, είτε λόγω ευκολίας και πνευματικής νωθρότητας.
Είναι καιρός οι κυβερνήσεις και οι θεσμοί να ηγηθούν μιας εκστρατείας ενημέρωσης και ευαισθητοποίησης του κοινού και να συνεργαστούν για να ρυθμίσουν τη χρήση της ΤΝ για το γενικότερο καλό της κοινωνίας και του πολιτισμού μας.

(δημοσιεύθηκε στην Γαλλική εφημερίδα Les Echos – Investir στις 15 Ιουλίου 2023)

*Ο Ιωσήφ Σηφάκης είναι Καθηγητής Πληροφορικής στο Πανεπιστήμιο της Γκρενόμπλ. Είναι μέλος της Γαλλικής Ακαδημίας Επιστημών, της Γαλλικής Ακαδημίας Τεχνολογιών, της Ευρωπαϊκής Ακαδημίας, της American Academy of Arts and Sciences και της National Academy of Engineering. Είναι ένας από τους σημαντικότερους σύγχρονους της επιστήμης της Πληροφορικής. Το 2007 του απονεμήθηκε το Βραβείο Τούρινγκ (αντίστοιχο του βραβείου Νόμπελ για την πληροφορική).