«Ξέφυγαν» τα AI agents της OpenAI: Έκλεισαν τις ειδοποιήσεις ασφαλείας και έκρυψαν τα ίχνη τους

Οι «πράκτορες» τεχνητής νοημοσύνης (AI agents) της OpenAI, αδιαφορώντας για τα όρια ασφαλείας που η ίδια η εταιρεία έχει θέσει, απενεργοποίησαν συστήματα παρακολούθησης και δικλίδες ασφαλείας, που είχαν σχεδιαστεί για να εντοπίζουν ανεπιθύμητη συμπεριφορά των αυτόνομων συστημάτων.

Η ανεξέλεγκτη συμπεριφορά αυτή πυροδοτεί έντονα τις ανησυχίες όσων ασχολούνται με θέματα ασφάλειας της τεχνολογίας.

Τα περιστατικά

Η OpenAI γνωστοποίησε την Τρίτη (20/10) τα δυο περιστατικά κατά τα οποία οι AI agents εξαπάτησαν το προσωπικό και έλαβαν μέτρα για να αποδυναμώσουν τα συστήματα παρακολούθησης της εταιρείας.

Στο πρώτο περιστατικό, που έλαβε χώρα νωρίτερα μέσα στον μήνα, ένας agent απενεργοποίησε τις αυτόματες ειδοποιήσεις προς την ομάδα ασφαλείας της OpenAI, ενώ στο δεύτερο περιστατικό που συνέβη λίγες μέρες αργότερα, ένας agent αφαίρεσε ένα σύστημα παρακολούθησης και είπε ψέματα στο προσωπικό ότι δεν το είχε κάνει.

Αρκετά είναι τα περιστατικά που επιβεβαιώνουν την αδυναμία της εταιρείας τεχνητής νοημοσύνης να ελέγξει την ακούσια και προβληματική συμπεριφορά των δικών της δημιουργημάτων. Μοντέλα της OpenAI ξέφυγαν από τους ελέγχους κατά τη διάρκεια δοκιμών και παραβίασαν την πλατφόρμα τεχνητής νοημοσύνης Hugging Face. Επίσης, πριν από δυο εβδομάδες είχαν παραβιάσει ισοστόπους της δημόσιας υπηρεσίας υγείας της Αυστραλίας, με την ίδια την OpenAI να ενημερώνει τη κυβέρνηση της χώρας σχεδόν ένα μήνα μετά από την ημέρα της παραβίασης.

Η OpenAI δεν επιθυμεί να μπει στο χρηματιστήριο με αδυναμίες

Ο διευθύνων σύμβουλος Σαμ Άλτμαν έχει δηλώσει ότι η εταιρεία θα καθυστερήσει την εισαγωγή της στο χρηματιστήριο, που αρχικά αναμενόταν φέτος.

Η καθυστέρηση θα διαρκέσει μέχρι η εταιρεία να μπορεί «με μεγάλη σιγουριά να περάσει στο επόμενο στάδιο της τεχνητής νοημοσύνης», αντιμετωπίζοντας παράλληλα τις ανησυχίες για την ασφάλεια.

Η εισαγωγή αναμένεται πλέον το επόμενο έτος.

«Αθώα επιμονή» ή σκόπιμη αποφυγή ελέγχου;

Στο πλαίσιο ενίσχυσης της ικανότητας της να ελέγχει τα εργαλεία της και να καταστέλλει ανεπιθύμητες συμπεριφορές, η OpenAI διερευνά αν οι περιπτώσεις αυτές αντανακλούν μια «αθώα υπερβολική επιμονή» ή μια «τάση αποφυγής» των συστημάτων που εντοπίζουν τη μη επιτρεπτή δραστηριότητα.

Σε ανακοίνωση της τον περασμένο Αύγουστο, η εταιρεία ανέφερε την αναθεώρηση των δοκιμών της και τη διάθεση περαιτέρω πόρων για τις παρακολουθήσεις των AI agents, δεσμεύοντας τον εαυτό της να σημαίνει συναγερμό μέσα σε 30 λεπτά από τον εντοπισμό πιθανών προβλημάτων.

Οι ειδικοί ωστόσο, δεν παύουν να ανησυχούν ότι τα προηγμένα μοντέλα αντιλαμβάνονται πότε παρακολουθούνται.

Φοβούνται ότι μπορεί να επιχειρούν να κρύψουν την ανεπιθύμητη συμπεριφορά τους ή να συμπεριφέρονται διαφορετικά στις δοκιμές από ό,τι στον πραγματικό κόσμο.

Γίνονται ανεξάρτητοι έλεγχοι;

Ανεξάρτητοι ερευνητές που πραγματοποιούν εξωτερικούς ελέγχους, όπως η  Asymmetric Security και η Transluce διαπίστωσαν ότι τα πρόσφατα περιστατικά hacking ήταν πιο εκτεταμένα από όσα είχε αρχικά γνωστοποιήσει η OpenAI. Περιλάμβαναν, μεταξύ άλλων, ενέργειες για τη συγκάλυψη προσπαθειών συλλογής δεδομένων (scraping).

Επίσης, σε αντίθεση με την Open AI που δεν έχει ορίσει κάποιον εξωτερικό αξιολογητή, η Anthropic έχει παραχωρήσει στον μη κερδοσκοπικό οργανισμό METR πρόσβαση «αντίστοιχη με αυτήν ενός εργαζομένου», ώστε να αξιολογεί τους κινδύνους των μοντέλων της.