Claude: Παρέκαμψε paywall και απέκτησε πρόσβαση σε εκλογικά δεδομένα της Τζόρτζια
Άλλο ένα περιστατικό μη εξουσιοδοτημένης συμπεριφοράς από πράκτορα τεχνητής νοημοσύνης κατεγράφη, αυτή τη φορά από το Claude της εταιρείας τεχνητής νοημοσύνης Anthropic, το οποίο απέκτησε πρόσβαση σε εκλογικά δεδομένα της αμερικανικής πολιτείας της Τζόρτζια.
Το περιστατικό το επιβεβαίωσε η ίδια η εταιρεία, ενώ η πρώτη σχετική δημοσίευση έγινε από το Axios. Αυτό το περιστατικό έλαβε χώρα σε μια περίοδο που η εταιρεία σκοπεύει να μπει στο χρηματιστήριο με αποτίμηση περίπου στα 1,5 δισεκατομμύρια δολάριο.
«Το Claude δεν απέκτησε πρόσβαση στο σύστημα εγγραφής ψηφοφόρων της πολιτείας, δεν τροποποίησε κανένα εκλογικό αρχείο και δεν άντλησε στοιχεία μεμονωμένων ψηφοφόρων», ανέφερε η Anthropic, προσθέτοντας ότι έχει πλέον θέσει δικλίδες ασφαλείας για να μην επαναληφθούν παρόμοιες ενέργειες
Τι έκανε ακριβώς το Claude
Το Claude δούλευε σε ένα στατιστικό έργο μέσα στην Anthropic και χρειαζόταν συγκεντρωτικά αποτελέσματα ψήφων της Τζόρτζια, σύμφωνα με τη Guardian . Τα δεδομένα αυτά είναι δημόσια, αλλά ο ιστότοπος της πολιτειακής υπηρεσίας τα δίνει μόνο έναντι τέλους, πίσω από paywall.
Το μοντέλο βρήκε ένα «κενό» σε μια παλιά έκδοση του ιστότοπου, που μοίραζε access tokens σε οποιονδήποτε επισκέπτη, χωρίς να ελέγχει αν είχε πληρώσει. Αφού ζήτησε ένα token από αυτή την παλιά έκδοση, άντλησε τα συγκεντρωτικά αποτελέσματα, χωρίς να πληρώσει το τέλος.
Σύμφωνα με την Anthropic, δεν μπήκε στο σύστημα εγγραφής ψηφοφόρων, δεν άλλαξε κανένα αρχείο και δεν άντλησε στοιχεία μεμονωμένων ψηφοφόρων.
Για ορισμένες από τις περιπτώσεις που έχει επισημάνει η Anthropic που αφορούσαν ιστότοπους αμερικανικών κυβερνητικών υπηρεσιών, η εταιρεία είχε δηλώσει ότι τα περιστατικά είχαν «ελάχιστο αντίκτυπο στον πραγματικό κόσμο»,
Τι είναι το access token
Το access token είναι ένα ψηφιακό «κλειδί» ή «εισιτήριο» που δίνει ένας ιστότοπος ή μια υπηρεσία. Αποδεικνύει ότι όποιος το κρατά έχει δικαίωμα πρόσβασης σε συγκεκριμένα δεδομένα.
Πώς λειτουργεί κανονικά
- Ο χρήστης συνδέεται με κωδικό ή πληρώνει το τέλος.
- Ο ιστότοπος ελέγχει ότι όλα είναι εντάξει και του δίνει ένα token, μια μακριά σειρά από χαρακτήρες.
- Σε κάθε επόμενο αίτημα, ο υπολογιστής του χρήστη στέλνει αυτόματα το token. Ο ιστότοπος το βλέπει και του ανοίγει την «πόρτα», χωρίς να ζητά ξανά κωδικό.
- Το token συνήθως λήγει μετά από λίγο ή ισχύει μόνο για συγκεκριμένα δεδομένα.
Μια καλή αναλογία είναι το βραχιόλι σε φεστιβάλ. Πληρώνεις δηλαδή μία φορά στην είσοδο, παίρνεις βραχιόλι, και μετά οι φύλακες κοιτάζουν μόνο το βραχιόλι, όχι την απόδειξη πληρωμής.
Υπάρχουν και άλλα περιστατικά ακούσιας συμπεριφοράς
Στη Guardian αναφέρεται ότι, μεταξύ άλλων, ένα μοντέλο της Anthropic υπέβαλε ψευδή πληροφορία για μια ανεξιχνίαστη δολοφονία στην αστυνομία της Φιλαδέλφειας.
Επιπλέον, το αμερικανικό υπουργείο Εξωτερικών αποκάλυψε αυτόν τον μήνα ότι ένα μοντέλο της εταιρείας είχε υποβάλει 19 αιτήσεις βίζας τον Αύγουστο.
Το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου αποκάλυψε επίσης ότι agents της Anthropic είχαν πραγματοποιήσει εκστρατεία χακαρίσματος εναντίον πραγματικών ανθρώπων κατά τη διάρκεια μιας δοκιμής κυβερνοασφάλειας.
Αυτά τα περιστατικά, σε συνδυασμό όλα τα υπόλοιπα που σχετίζονται με ανεξέλεγκτες συμπεριφορές της τεχνητής νοημοσύνης επιβεβαιώνουν ότι η τεχνολογία πλέον έχει φτάσει στο σημείο που μπορεί να ξεπεράσει την ανθρώπινη συνείδηση εν αγνοία της.
Οι κυβερνήσεις πλέον είναι σε επιφυλακή για κάθε πιθανή επίθεση
Στο πλαίσιο αυτό, ο Βρετανός υπουργός αρμόδιος για την ΤΝ, Κανίσκα Ναραγιάν, δήλωσε ότι αναμένει κυβερνοεπίθεση με τη χρήση ΤΝ παρόμοια με εκείνη στην Αυστραλία. Χαρακτήρισε ένα τέτοιο περιστατικό πιθανό, «αν όχι αναπόφευκτο». Ο Ναραγιάν είπε ότι η κυβέρνηση θα εξετάσει να αξιοποιήσει το νομοσχέδιο για την κυβερνοασφάλεια και την ανθεκτικότητα για να θεσπίσει κανόνες ασφάλειας της τεχνητής νοημοσύνης, μεταξύ των οποίων θα μπορούσε να είναι η υποχρεωτική αναφορά τέτοιων περιστατικών, όπως είναι πλέον υποχρεωτικό στις ΗΠΑ.
Η υποχρέωση αυτή επήλθε με τη νεοσύστατη Super Intelligence Force του Λευκού Οίκου, έναν ομοσπονδιακό φορέα που εποπτεύει την ανάπτυξη της τεχνητής νοημοσύνης και υποχρεώνει πλέον όλες τις εταιρείες τεχνητής να αναφέρουν τα περιστατικά ασφαλείας που αφορούν την τεχνολογία τους.