Γιατί το AI επινοεί πληροφορίες και 4 τρόποι να το περιορίσεις

Όσοι χρησιμοποιούν εργαλεία Τεχνητής Νοημοσύνης, όπως το Claude ή το ChatGPT, έχουν σίγουρα έρθει αντιμέτωποι με το φαινόμενο των «ψευδαισθήσεων».

Πρόκειται για τις στιγμές που το AI επινοεί πληροφορίες με απόλυτη αυτοπεποίθηση, κάνοντας το ψέμα να μοιάζει με αδιαμφισβήτητη αλήθεια.

Σε πρόσφατο βίντεο που ανέβηκε στο κανάλι της Anthropic στο Youtube, ένας εργαζόμενος της startup απαντάει σε βασικά ερωτήματα σχετικά με τις ψευδείς απαντήσεις που δίνουν τα AI chatbots.

Τι είναι οι ψευδαισθήσεις του AI;

Οι ψευδαισθήσεις δεν είναι απλά λάθη. Είναι περιπτώσεις όπου η Τεχνητή Νοημοσύνη εμφανίζεται εξαιρετικά σίγουρη για κάτι που είναι εντελώς λανθασμένο.

Μπορεί να αναφέρει ερευνητικές εργασίες που δεν γράφτηκαν ποτέ, να επινοήσει στατιστικά στοιχεία ή να διαστρεβλώσει γεγονότα για πραγματικά πρόσωπα.

Γιατί το AI «λέει ψέματα»;

Σύμφωνα με τους ειδικούς της Anthropic, η αιτία κρύβεται στον τρόπο εκπαίδευσης των μοντέλων:

• Πρόβλεψη επόμενης λέξης: Τα μοντέλα AI μαθαίνουν διαβάζοντας τεράστιες ποσότητες κειμένου και γίνονται ειδικοί στο να προβλέπουν ποια λέξη ή ιδέα ακολουθεί.
• Έλλειψη πληροφοριών: Όταν ρωτάμε για κάτι πολύ εξειδικευμένο ή άγνωστο, το AI δεν έχει αρκετά δεδομένα για να απαντήσει σωστά.
• Η παγίδα της «εξυπηρέτησης»: Τα μοντέλα είναι εκπαιδευμένα να είναι βοηθητικά. Έτσι, αντί να παραδεχτούν «δεν γνωρίζω», προσπαθούν να μαντέψουν για να φανούν χρήσιμα, σαν ένας φίλος που θέλει να το παίξει ειδικός και ντρέπεται να πει την αλήθεια

Πώς να εντοπίσετε μια ψευδαίσθηση

Επειδή οι λάθος απαντήσεις μοιάζουν συχνά απόλυτα λογικές, ο εντοπισμός τους είναι δύσκολος.

Θα πρέπει να είστε ιδιαίτερα προσεκτικοί όταν ζητάτε:

• Συγκεκριμένα στατιστικά στοιχεία, ημερομηνίες ή ονόματα.
• Πληροφορίες για πολύ πρόσφατα γεγονότα ή εξειδικευμένα θέματα.
• Αναφορές σε πρόσωπα που δεν είναι ευρύτερα γνωστά.

4 Συμβουλές για να μειώσετε τα λάθη

Για να χρησιμοποιείτε το AI με ασφάλεια, η Anthropic προτείνει τα εξής:

1. Δώστε το «ελεύθερο» για άγνοια: Πείτε εξαρχής στο AI: «Είναι εντάξει αν δεν ξέρεις την απάντηση».
2. Ζητήστε πηγές και επαλήθευση: Ζητήστε του να βρει πηγές και μετά ζητήστε του να ελέγξει αν αυτές οι πηγές όντως επιβεβαιώνουν όσα έγραψε.
3. Ρωτήστε αν είναι πραγματικά σίγουρο: Μπορείτε να ρωτήσετε: «Πόσο σίγουρος είσαι; Υπάρχει περίπτωση κάτι να είναι λάθος;».
4. Διασταύρωση σε νέα συνομιλία: Αν αμφιβάλλετε, ξεκινήστε μια νέα συνομιλία και ζητήστε από το AI να ελέγξει την προηγούμενη απάντηση για σφάλματα.

Αν και οι ψευδαισθήσεις μειώνονται όσο εξελίσσεται η τεχνολογία, παραμένουν μια πρόκληση για ολόκληρο τον κλάδο. Για κρίσιμες εργασίες, η διασταύρωση με έμπιστες εξωτερικές πηγές παραμένει απαραίτητη.