Τι λένε νυν και πρώην εργαζόμενοι της OpenAI για τη συμφωνία με το Πεντάγωνο

Εργαζόμενοι της OpenAI εκφράζουν δημόσια τις απόψεις τους για τη συμφωνία της εταιρείας με το Πεντάγωνο, ανοίγοντας μια συζήτηση γύρω από τις προτεραιότητες ασφάλειας και τις διαπραγματεύσεις με το αμερικανικό Υπουργείο Άμυνας.

Το Σαββατοκύριακο, τόσο νυν όσο και πρώην μέλη της εταιρείας τοποθετήθηκαν μέσω X για το αν η OpenAI έκανε υποχωρήσεις σε θέματα ασφάλειας, ειδικά σε σύγκριση με την Anthropic, η οποία αρνήθηκε να αποδεχθεί όρους που θα επέτρεπαν τη χρήση του μοντέλου Claude για μαζική εγχώρια παρακολούθηση ή για αυτόνομα όπλα.

Η OpenAI δημοσίευσε το Σάββατο ένα blog post στο οποίο υποστήριξε ότι η δική της σύμβαση με το Υπουργείο Άμυνας είναι «καλύτερη» και περιλαμβάνει περισσότερες δικλίδες ασφαλείας σε σχέση με την αρχική συμφωνία που είχε προταθεί στην Anthropic.

Το βράδυ της Δευτέρας, μετά τις αντιδράσεις που προέκυψαν, ο Σαμ Άλτμαν ανέφερε στο X πως η εταιρεία συνεργάζεται με το Πεντάγωνο για «προσθήκες στη συμφωνία».

Ακολουθούν οι βασικές τοποθετήσεις στελεχών της OpenAI:

Boaz Barak

Ο Boaz Barak, μέλος της τεχνικής ομάδας της OpenAI και καθηγητής πληροφορικής στο Harvard, απέρριψε την άποψη ότι η εταιρεία υποχώρησε σε ζητήματα ασφαλείας.

Σε ανάρτησή του την Κυριακή υποστήριξε ότι έχει δημιουργηθεί η εντύπωση πως η Anthropic είχε εξασφαλίσει μια «υποδειγματική» σύμβαση που απαγόρευε τη χρήση των μοντέλων για μαζική παρακολούθηση ή για αυτόνομα φονικά όπλα, και ότι η OpenAI τώρα άνοιξε την πόρτα σε αυτούς τους κινδύνους, κάτι που, όπως είπε, δεν ισχύει.

Τόνισε ότι, βάσει όσων γνωρίζει, είναι πιθανό η OpenAI να έχει εξασφαλίσει ακόμη ισχυρότερες εγγυήσεις από ό,τι είχε ποτέ η Anthropic.

Σε άλλη ανάρτηση τη Δευτέρα, σημείωσε: «Η κόκκινη γραμμή της μη χρήσης της AI για μαζική εγχώρια παρακολούθηση δεν ανήκει στην Anthropic· πρέπει να είναι κόκκινη γραμμή όλων μας».

Miles Brundage

Ο Miles Brundage, πρώην επικεφαλής πολιτικής έρευνας της εταιρείας, ήταν πιο επικριτικός.

Σε ανάρτησή του το Σάββατο υποστήριξε ότι, «με βάση όσα αναφέρουν νομικοί και το ίδιο το Πεντάγωνο, η πιο λογική εκτίμηση για τους εργαζόμενους της OpenAI είναι πως η εταιρεία έκανε σημαντικές παραχωρήσεις, τις οποίες όμως παρουσίασε ως μη παραχωρήσεις και ότι με αυτόν τον τρόπο αποδυνάμωσε τη θέση της Anthropic, παρότι το πλαισίωσε ως κίνηση που τη βοηθά».

Αργότερα ανασκεύασε εν μέρει, λέγοντας ότι ίσως δεν έπρεπε να χρησιμοποιήσει τον όρο «υποχώρησε».

Διευκρίνισε όμως ότι η OpenAI μπορεί να πέτυχε αυτό που επιδίωκε, αλλά ταυτόχρονα να έπληξε τη διαπραγματευτική θέση της Anthropic, η οποία είχε πολύ πιο αυστηρές κόκκινες γραμμές.

Clive Chan

Ο Clive Chan δήλωσε ότι θεωρεί πως η συμφωνία περιλαμβάνει ρητές απαγορεύσεις για χρήση των μοντέλων σε μαζική παρακολούθηση ή αυτόνομα φονικά συστήματα.

Αν σημειωθεί το αντίθετο, είπε, θα ζητήσει εσωτερικά την ακύρωση της συνεργασίας.

Παραδέχτηκε ότι οι αμυντικές συμβάσεις έχουν περιορισμούς στο τι βγαίνει προς τα έξω, αλλά τόνισε ότι η εταιρεία θα έπρεπε να έχει προετοιμαστεί καλύτερα για τις αντιδράσεις.

Μετά την ενημέρωση του blog post, ανέφερε πως οι περισσότερες ανησυχίες του καλύφθηκαν.

Mohammad Bavarian

Ο Mohammad Bavarian σημείωσε ότι δεν θεωρεί πως υπάρχει «αγεφύρωτο χάσμα» ανάμεσα στις απαιτήσεις του Πενταγώνου και τη στάση της Anthropic.

Χαρακτήρισε την απόφαση του Υπουργείου Άμυνας να ορίσει την Anthropic ως «κίνδυνο στην αλυσίδα εφοδιασμού» υπερβολική και αδικαιολόγητη, τονίζοντας ότι υπονομεύει μια εταιρεία με σημαντική συμβολή και υψηλό επίπεδο ακεραιότητας.

Noam Brown

Ο Noam Brown επισήμανε ότι η αρχική διατύπωση της συμφωνίας άφηνε ανοιχτά ερωτήματα σχετικά με ενδεχόμενες νέες μορφές νόμιμης παρακολούθησης που η τεχνητή νοημοσύνη θα μπορούσε να καταστήσει εφικτές.

Μετά τις αλλαγές στο blog post, υποστήριξε ότι η διατύπωση έχει βελτιωθεί, αλλά σημείωσε πως δεν μπορεί η κοινωνία να βασίζεται αποκλειστικά στην καλή θέληση εταιρειών τεχνητής νοημοσύνης ή υπηρεσιών πληροφοριών.

Τόνισε επίσης ότι η ανάπτυξη των μοντέλων σε υπηρεσίες όπως η NSA «παγώνει» προς το παρόν, ώστε να προηγηθεί δημόσια συζήτηση και θεσμική ρύθμιση πριν από οποιαδήποτε εφαρμογή.