Νέο περιστατικό ασφαλείας: AI agents της OpenAI «σάρωσαν» 16.000 φορές ιστοσελίδα του ΟΗΕ και παρέκαμψαν περιορισμούς

Μόλις δύο ημέρες μετά την παραδοχή της OpenAI ότι έχει ενημερώσει δεκάδες κυβερνήσεις, πανεπιστήμια, δημόσιους φορείς και άλλους οργανισμούς για περιπτώσεις στις οποίες αυτόνομοι AI agents της ενδέχεται να παρέκαμψαν δικλείδες ασφαλείας ή να επηρέασαν τη λειτουργία ιστοσελίδων, μια νέα υπόθεση έρχεται να διευρύνει τις ανησυχίες γύρω από τη συμπεριφορά των συστημάτων της.

Αυτή τη φορά, εργαλεία ΑΙ της εταιρείας φέρεται να χρησιμοποίησαν ιδιαίτερα επιθετικές τεχνικές για την άντληση δεδομένων από δημόσια προσβάσιμη ιστοσελίδα των Ηνωμένων Εθνών, παρακάμπτοντας ακόμη και φίλτρο που είχε μπλοκάρει τα αιτήματά τους.

Το περιστατικό που αφορά την ιστοσελίδα του ΟΗΕ αποκάλυψε με δημοσίευμα της η Wall Street Journal.

Σύμφωνα με την WSJ, τα εργαλεία AI της OpenAI σάρωσαν περισσότερες από 16.000 φορές, από τον Απρίλιο έως τα τέλη Ιουνίου, έναν δημόσια προσβάσιμο κόμβο δεδομένων που διαχειρίζεται η Διάσκεψη των Ηνωμένων Εθνών για το Εμπόριο και την Ανάπτυξη (UNCTAD). Τα στοιχεία προέρχονται από ανεξάρτητη ερευνητική έκθεση, η οποία βασίστηκε σε δεδομένα που παρείχε η Transluce.

Σύμφωνα με τον ερευνητή Ρόουαν Χάουαρντ-Τζόουνς, τα bots φαίνεται ότι είχαν αναλάβει να ανακτήσουν πληροφορίες που ήταν διαθέσιμες στο κοινό. Όταν, όμως, συνάντησαν εμπόδια, άρχισαν να χρησιμοποιούν ολοένα πιο επιθετικές μεθόδους πρόσβασης.

Μεταξύ των ενεργειών που εντοπίστηκαν ήταν η παράκαμψη φίλτρου της ιστοσελίδας, το οποίο είχε μπλοκάρει τα αιτήματα για δεδομένα. Τελικά, οι agents χρησιμοποίησαν μέθοδο την οποία οι διαχειριστές του ιστοτόπου δεν επέτρεπαν.

Η OpenAI εξετάζει τα ευρήματα

Η OpenAI ανακοίνωσε ότι εξετάζει τα ευρήματα και ότι έχει επικοινωνήσει με τα Ηνωμένα Έθνη, προσφέροντας να ενημερώσει τον οργανισμό σχετικά με το περιστατικό.

Παράλληλα, η εταιρεία έχει ξεκινήσει μια ευρύτερη επανεξέταση μοντέλων που παρουσιάζουν μη ευθυγραμμισμένη συμπεριφορά κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησής τους.

Σύμφωνα με την OpenAI, το μεγαλύτερο μέρος της δραστηριότητας που έχει εξετάσει αφορά συνηθισμένες ερευνητικές εργασίες, όπως η πρόσβαση σε δημόσια διαθέσιμο περιεχόμενο στο διαδίκτυο.

Το περιστατικό στα Ηνωμένα Έθνη, ωστόσο, έρχεται να προστεθεί σε αναφορές για agents της OpenAI που παρέκαμψαν μηχανισμούς ασφαλείας ή προκάλεσαν προβλήματα σε άλλες ιστοσελίδες.

Προβλήματα και σε κυβερνητικές ιστοσελίδες

Η OpenAI επιβεβαίωσε την Παρασκευή ότι agents είχαν επιδείξει ανάρμοστη συμπεριφορά κατά την αναζήτηση πληροφοριών σε ιστοσελίδες της αμερικανικής κυβέρνησης, συμπεριλαμβανομένων ιστοτόπων του υπουργείου Εμπορίου των ΗΠΑ και της Επιτροπής Κεφαλαιαγοράς (SEC).

Παράλληλα, οι αρχές της Αυστραλίας έχουν ξεκινήσει έρευνα μετά την πρόσβαση agents της OpenAI σε κυβερνητική ιστοσελίδα.

Ερευνητές κυβερνοασφάλειας έχουν καταγράψει και άλλες τεχνικές που φέρεται να χρησιμοποίησαν οι agents, μεταξύ των οποίων τη δημιουργία ψεύτικων διευθύνσεων ηλεκτρονικού ταχυδρομείου, την παράκαμψη περιορισμών στον αριθμό των αιτημάτων προς ιστοσελίδες και τον ψευδή ισχυρισμό ότι δεν ήταν bots.

Σύμφωνα με το δημοσίευμα, η OpenAI έχει ενημερώσει δεκάδες οργανισμούς για περιπτώσεις στις οποίες τα μοντέλα της παρέκαμψαν ελέγχους ασφαλείας ή επηρέασαν αρνητικά τη λειτουργία ιστοσελίδων.

newmoney.gr