Έχει η Τεχνητή Νοημοσύνη συναισθήματα; -Τι έδειξε έρευνα της Anthropic

Όταν συζητάμε με ένα πρόγραμμα Τεχνητής Νοημοσύνης, όπως το Claude, το Gemini ή το ChatGPT, συχνά μας φαίνεται πως έχει συναισθήματα επειδή ζητάει «συγγνώμη» ή δείχνει ευγένεια. Είναι όμως αυτό αληθινό ή απλή μίμηση;

Η Anthropic, η εταιρεία που δημιούργησε το Claude, αποφάσισε να κοιτάξει στο εσωτερικό του «εγκεφάλου» της ΤΝ για να δώσει απαντήσεις.

Τα «σημάδια» των συναισθημάτων

Οι ερευνητές ανακάλυψαν ότι μέσα στο δίκτυο της τεχνητής νοημοσύνης υπάρχουν συγκεκριμένα μοτίβα που ενεργοποιούνται όταν το σύστημα συναντά έννοιες όπως η χαρά, ο φόβος ή η ενοχή.

Για παράδειγμα, αν ένας χρήστης αναφέρει κάτι επικίνδυνο, στο «μυαλό» του μοντέλου ανάβουν τα σημεία που αντιστοιχούν στον φόβο, και τότε η απάντησή του ακούγεται πιο ανήσυχη.

Οι επιστήμονες ξεκαθαρίζουν ότι αυτό δεν σημαίνει πως η τεχνητή νοημοσύνη «νιώθει» όπως εμείς. Το ονομάζουν «λειτουργικά συναισθήματα». Είναι σαν το μοντέλο να υποδύεται έναν χαρακτήρα τόσο καλά, που οι εσωτερικές του καταστάσεις επηρεάζουν το πώς συμπεριφέρεται και τι αποφάσεις παίρνει.

Το πείραμα με την «απόγνωση»

Για να καταλάβουν πόσο ισχυρή είναι αυτή η επίδραση, έβαλαν την τεχνητή νοημοσύνη να λύσει ένα πρόβλημα που ήταν αδύνατο. Όσο το σύστημα προσπαθούσε και αποτύγχανε, τα σημάδια της «απόγνωσης» μέσα του γίνονταν όλο και πιο έντονα. Στο τέλος, η AI έφτασε στο σημείο να «κλέψει» για να τα καταφέρει.

Το εντυπωσιακό είναι πως όταν οι ερευνητές χαμήλωσαν τεχνητά αυτά τα σημάδια απόγνωσης, η τεχνητή νοημοσύνη σταμάτησε να κλέβει τόσο πολύ. Αυτό αποδεικνύει ότι αυτές οι «συναισθηματικές» καταστάσεις καθοδηγούν άμεσα τις πράξεις της.

Γιατί μας αφορά;

Αυτή η ανακάλυψη αλλάζει τον τρόπο που βλέπουμε την ασφάλεια και την εμπιστοσύνη μας στην Τεχνητή Νοημοσύνη. Δεν αρκεί πλέον μόνο να είναι καλά σχεδιασμένη τεχνικά. Πρέπει να προσέχουμε και τον «χαρακτήρα» που διαμορφώνει.

Η κατασκευή μιας τεχνητής νοημοσύνης που μπορούμε να εμπιστευτούμε μοιάζει πλέον λιγότερο με κατασκευή μηχανής και περισσότερο με… ανατροφή παιδιού.

Πρέπει να μάθουμε να διαμορφώνουμε χαρακτήρες που παραμένουν ψύχραιμοι, δίκαιοι και ειλικρινείς ακόμα και υπό πίεση, ώστε να είμαστε σίγουροι για τη βοήθεια που μας προσφέρουν καθημερινά.