ΑΙ: Η Κίνα φοβάται ότι θα ξεφύγει από τον ανθρώπινο έλεγχο – Πώς προετοιμάζεται

Τα σενάρια να ξεφύγει η ΑΙ από την ανθρώπινη εποπτεία και να αποτελέσει κίνδυνο, με πιθανές συνέπειες ακόμα και την εξαφάνιση του ανθρώπινου είδους, έχουν πάψει να αποτελούν επιστημονική φαντασία από την στιγμή που επιφανή στελέχη εταιρειών ΑΙ διατυπώνουν σχετικές ανησυχίες, καθιστώντας όλο και πιο αναγκαία τη θέσπιση αυστηρού ρυθμιστικού πλαισίου για την περαιτέρω ανάπτυξη του κλάδου.

Οι ΗΠΑ και η Κίνα, οι δύο βασικές κινητήριες δυνάμεις πίσω από την ανάπτυξη της τεχνητής νοημοσύνης, βρίσκονται σε όλο και μεγαλύτερη αντιπαράθεση όσον αφορά τις πολιτικές και τις βιομηχανικές πρακτικές που ακολουθούνται εκατέρωθεν, ενώ τα ζητήματα αυτά αναμένεται να συζητηθούν εκτενώς στις διμερείς συνομιλίες που θα πραγματοποιηθούν αργότερα αυτό το μήνα.

Την ίδια ώρα, αυξάνονται οι δημόσιες δηλώσεις στο Πεκίνο που επισημαίνουν τον κίνδυνο να ξεφύγει η τεχνητή νοημοσύνη από τον ανθρώπινο έλεγχο.

Η Κίνα εντοπίζει κινδύνους στα κορυφαία μοντέλα των ΗΠΑ

Ο υπουργός κρατικής ασφάλειας της Κίνας, Chen Yixin, έγραψε την Κυριακή σε ένα κυβερνητικό μέσο ενημέρωσης ότι προηγμένα μοντέλα των ΗΠΑ, όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI, θα μπορούσαν να ενέχουν σοβαρούς κινδύνους για την κρίσιμη υποδομή πληροφοριών της Κίνας, και ζήτησε μια συνολική ενίσχυση της ασφάλειας στον τομέα της τεχνητής νοημοσύνης.

Οι Κινέζοι προγραμματιστές τεχνητής νοημοσύνης έχουν προωθήσει τα μοντέλα ανοιχτού κώδικα, εν μέρει με το σκεπτικό ότι οι ομάδες κυβερνοασφάλειας μπορούν να τα επιθεωρούν, να τα τροποποιούν και να τα χρησιμοποιούν για αμυντικούς σκοπούς.

Ωστόσο, οι ειδικοί επισημαίνουν επίσης τους κινδύνους που ενέχουν και τα μοντέλα αυτά, καθώς μπορούν να τροποποιηθούν και να αναδιανεμηθούν με ελάχιστο έλεγχο.

Οι πρώτες αναφορές στον κίνδυνο απώλειας ελέγχου της ΑΙ

Η πρώτη επίσημη κινεζική αναφορά στον κίνδυνο απώλειας ελέγχου τη ΑΙ έγινε σε ένα πλαίσιο ασφάλειας της Τεχνητής Νοημοσύνης που δημοσιεύθηκε τον Σεπτέμβριο του 2024 που φέρει την υπογραφή της Διοίκησης Κυβερνοχώρου της Κίνας (CAC).

Στο έγγραφο αναφερόταν ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο η μελλοντική τεχνητή νοημοσύνη να αναπτύσσεται και να αναπαράγεται αυτόνομα, να αναπτύξει συνείδηση και να επιδιώξει εξωτερική εξουσία, δημιουργώντας τον κίνδυνο να ανταγωνιστεί τους ανθρώπους.

Η CAC δημοσίευσε μια διευρυμένη έκδοση τον Σεπτέμβριο του 2025. Το νεότερο πλαίσιο προχώρησε σε διευκρινίσεις σχετικά με την πιθανότητα αυτή, αναφέροντας ότι η τεχνητή νοημοσύνη θα μπορούσε να υποστεί ένα ξαφνικό και απροσδόκητα μεγάλο «άλμα» στη ευφυΐα της πριν αποκτήσει αυτοτέλεια. Προστέθηκε επίσης μια αρχή διακυβέρνησης με τίτλο «αξιόπιστη εφαρμογή, πρόληψη της απώλειας ελέγχου».

Μια μεταγενέστερη ερμηνεία εμπειρογνωμόνων που δημοσιεύθηκε στον ιστότοπο της ρυθμιστικής αρχής για τον κυβερνοχώρο ανέφερε ότι η νέα αρχή αποσκοπούσε στην προστασία από κινδύνους απώλειας ελέγχου που απειλούν την επιβίωση και την ανάπτυξη του ανθρώπου και αναφερόταν σε ένα πιθανό σενάριο «αποδέσμευσης της ΑΙ».

O Xi θέτει τον παγκόσμιο έλεγχο στο επίκεντρο

Η ανησυχία αυτή έχει έκτοτε μεταφερθεί στα μηνύματα της πολιτικής ηγεσίας της Κίνας. Στο Παγκόσμιο Συνέδριο Τεχνητής Νοημοσύνης που πραγματοποιήθηκε στη Σαγκάη τον Ιούλιο, ο Κινέζος Πρόεδρος Xi Jinping δήλωσε ότι οι αρχές πρέπει να δίνουν ιδιαίτερη προσοχή στους κινδύνους που προκύπτουν από την τεχνητή νοημοσύνη, ενώ ανέφερε ότι η τεχνητή νοημοσύνη πρέπει «να παραμένει πάντα υπό ανθρώπινο έλεγχο».

Ο ανώτερος αξιωματούχος του Υπουργείου Εξωτερικών της Κίνας, υπεύθυνος για θέματα τεχνητής νοημοσύνης, Sun Xiaobo, δήλωσε σε συνεδρίαση των Ηνωμένων Εθνών τον περασμένο μήνα ότι η Κίνα επιταχύνει την έρευνα για μια ευρύτερη νομοθεσία σχετικά με την τεχνητή νοημοσύνη.

Ο αναπληρωτής μόνιμος αντιπρόσωπος της Κίνας στα Ηνωμένα Έθνη, Sun Lei, προέτρεψε αυτό τον μήνα τις κυβερνήσεις να στρέψουν την προσοχή τους στην στρατιωτική τεχνητή νοημοσύνη, προκειμένου να αποφευχθούν λανθασμένοι υπολογισμοί και μια κούρσα εξοπλισμών.

Το Πεκίνο προειδοποιεί για τους κινδύνους που ενέχουν οι πράκτορες ΑΙ

Εν τω μεταξύ, η Κίνα έχει αρχίσει να μετατρέπει αυτές τις αρχές σε πιο συγκεκριμένους κανόνες για τους πράκτορες της τεχνητής νοημοσύνης (τους λεγόμενους AI agents), οι οποίοι λειτουργούν με πολύ μεγαλύτερη αυτονομία και εκτελούν πιο σύνθετα καθήκοντα από ένα συνηθισμένο chatbot.

Τον Μάιο, η ρυθμιστική αρχή του κυβερνοχώρου της Κίνας εξέδωσε κοινές κατευθυντήριες γραμμές που αφορούν συγκεκριμένα τέτοια συστήματα.

Μεταξύ άλλων, απαιτείται από τους προγραμματιστές να βελτιώσουν την ικανότητά τους να εντοπίζουν, να παρεμβαίνουν, να αποκλείουν και να αποκαθιστούν ζημιές που προκαλούνται από ακατάλληλη συμπεριφορά των πρακτόρων.

Οι κατευθυντήριες οδηγίες αναφέρονται συγκεκριμένα στη «δηλητηρίαση δεδομένων», τη χειραγώγηση αλγορίθμων, τις ευπάθειες του συστήματος και την «επιχειρησιακή απώλεια ελέγχου» ως κινδύνους ασφαλείας. Αναφέρουν επίσης ότι οι χρήστες πρέπει να διατηρούν την τελική εξουσία λήψης αποφάσεων σχετικά με τις αυτόνομες αποφάσεις ενός πράκτορα.

Αν και η Κίνα δεν έχει προτείνει την ενσωμάτωση ανεξάρτητων ελεγκτών εντός των εταιρειών τεχνητής νοημοσύνης, όπως υποστηρίζει η Anthropic, τα πρότυπά της επιτρέπουν στους προγραμματιστές να αναθέτουν αξιολογήσεις ασφάλειας σε τρίτους, ενώ προβλέπουν επίσης την ύπαρξη εξωτερικών φορέων αξιολόγησης και ερευνητών ασφάλειας που θα δοκιμάζουν και θα ελέγχουν τα ανοιχτά μοντέλα.

Moneyreview.gr με πληροφορίες από Reuters