AI Agents: Αξίζουν την εμπιστοσύνη μας; - Τι απαντούν οι ειδικοί
Ενώ οι πράκτορες τεχνητής νοημοσύνης (AI Agents) εξαπλώνονται και διευκολύνουν διαδικασίες που μέχρι πρότινος απαιτούσαν πολύ χρόνο, το επιχείρημα των ειδικών σχετικά με την ασφάλεια στις κινήσεις των πρακτόρων αυτών παραμένει στο επίκεντρο της συζήτησης, αφού οι «νέοι βοηθοί» είναι σε θέση να παρακάμψουν τα όρια του ανθρώπου, όσο ξεκάθαρα κι αν είναι.
Καθιερώνεται όλο και περισσότερο η χρήση των AI agents, ξεκινώντας από τις αρμοδιότητες ενός στελέχους μιας εταιρείας, τις εργασίες στο πλαίσιο της δουλειάς και φτάνοντας μέχρι πιο απλές και καθημερινές δραστηριότητες, όπως τα ψώνια. Είναι τόσο εύκολο, ωστόσο, να εμπιστευτεί κανείς τη πιστωτική του κάρτα ή τα προσωπικά του δεδομένα σε έναν βοηθό τεχνητής νοημοσύνης;
Οι πράκτορες AI είναι ήδη μαζικό φαινόμενο
«Είναι δελεαστικό να χρησιμοποιείς έναν προσωπικό βοηθό AI. Έχουν πρόσβαση στο email σου, παραγγέλνουν πράγματα και πληρώνουν τους λογαριασμούς σου. Θα ήθελα πολύ τέτοιου είδους βοήθεια», δήλωσε στο CBS News ο ειδικός σε θέματα κυβερνοασφάλειας, Hed Kovetz .
«Μπορεί όμως κάποιος να τους εκμεταλλευτεί ή να αποφασίσουν να υπερβούν τα όρια όσων τους ζητήθηκε να κάνουν». Για τον Kovetz, οι AI agents κυκλοφόρησαν αρκετά νωρίς στην αγορά, αφού οι εταιρείες τεχνολογίας δεν φρόντισαν να λάβουν εξαρχής επαρκή και κατάλληλα μέτρα ασφαλείας.
«Θα ήμουν προσεκτικός στο να δώσω πλήρη πρόσβαση σε κάποιους από αυτούς τους εμπορικούς πράκτορες AI», είπε ο Kovetz. «Γνωρίζω ότι η ασφάλεια και η προστασία της ιδιωτικότητάς τους απέχουν πολύ από το να είναι έτοιμες. Κάποιοι καταναλωτές λένε "δεν με νοιάζει, δεν έχω τίποτα να κρύψω". Αυτό όμως δεν ισχύει: έχουν ιατρικό φάκελο, τραπεζικούς λογαριασμούς».
Η ασφάλεια υστερεί
Στο πλαίσιο αυτό, ο Kovetz συμβουλεύει τους χρήστες να είναι ιδιαίτερα προσεκτικοί ως προς τις πληροφορίες τις οποίες μοιράζονται με τους βοηθούς που θέλουν να «προσλάβουν», ενώ άλλοι ειδικοί συνιστούν να χρησιμοποιούν αυτά τα εργαλεία, εφόσον λαμβάνουν προφυλάξεις και γνωρίζουν τους κινδύνους που συνεπάγεται η παροχή προσωπικών δεδομένων σε έναν πράκτορα AI.
«Θα ήμουν προσεκτικός στο να δώσω πλήρη πρόσβαση σε κάποιους από αυτούς τους εμπορικούς πράκτορες AI», είπε ο Kovetz. «Γνωρίζω ότι η ασφάλεια και η προστασία της ιδιωτικότητάς τους απέχουν πολύ από το να είναι έτοιμες. Κάποιοι καταναλωτές λένε "δεν με νοιάζει, δεν έχω τίποτα να κρύψω". Αυτό όμως δεν ισχύει: έχουν ιατρικό φάκελο, τραπεζικούς λογαριασμούς».
Εξυπηρετεί τον ιδιοκτήτη ή τον έμπορο λιανικής;
Πράκτορες, όπως το Muse της Meta, το οποίο έγινε γρήγορα το προϊόν με τις περισσότερες λήψεις στο App Store της Apple, έχουν κερδίσει τη προσοχή του καταναλωτικού κοινού.
Όμως, ενώ οι πράκτορες AI υπόσχονται να εξοικονομήσουν χρόνο, ακόμη και χρήματα, διαβάζοντας την προσωπική αλληλογραφία και κάνοντας αγορές για λογαριασμό του χρήστη, θα μπορούσαν επίσης να προβούν σε ενέργειες που ο χρήστης δεν ενέκρινε ρητά, αφήνοντάς τον με περιορισμένες δυνατότητες προσφυγής.
O πράκτορας αγορών της Walmart, με την ονομασία Sparky, αύξησε το μέσο μέγεθος του καλαθιού κατά σχεδόν 40% σε σύγκριση με τους καταναλωτές που περιηγούνται κανονικά. Τέτοια στοιχεία δείχνουν ότι ορισμένοι πράκτορες AI ίσως προσπαθούν να ωθήσουν τους χρήστες τους σε μεγαλύτερες δαπάνες, είπε στο CBS News η ειδικός σε θέματα προστασίας καταναλωτή Lindsay Owens.
Οι πράκτορες AI μπορούν να είναι εξαιρετικά χρήσιμοι για την έρευνα προϊόντων και τη σύγκριση προσφορών, αλλά συστήνεται να μην τους επιτρέπεται να ξοδεύουν χρήματα.
Η έγχυση εντολών (prompt injection) είναι ο βασικός κίνδυνος
«Αν θέλετε να αναθέσετε κάτι όπως τη σύγκριση προσφορών, εντάξει, αλλά δεν είμαι έτοιμη να παραχωρήσω την απόφαση μιας αγοράς, ειδικά μιας ακριβής. Δεν θα τον άφηνα να χρησιμοποιεί τα στοιχεία μου, όπως μια πιστωτική κάρτα», είπε η Lynette Owens, ειδική στην ενημέρωση καταναλωτών στην TrendLife.
Ένας λόγος για τον οποίο η Owens δεν εμπιστεύεται κανέναν εμπορικό πράκτορα AI να περιφέρεται στο διαδίκτυο με την πιστωτική της κάρτα είναι ότι οι εγκληματίες μπορούν να τον ξεγελάσουν.
Μέσω της λεγόμενης «έγχυσης εντολών» (prompt injection), οι κυβερνοεγκληματίες μπορούν να παραπλανήσουν έναν πράκτορα AI ώστε να αγνοήσει τις αρχικές του οδηγίες, όπως «Μην ξοδέψεις πάνω από 25 δολάρια».
Σε αντίθεση με τις παραδοσιακές κυβερνοεπιθέσεις, η έγχυση εντολών δεν απαιτεί απαραίτητα από τους χάκερ να παραβιάσουν κάποιον λογαριασμό ή να εγκαταστήσουν κακόβουλο λογισμικό. Αντίθετα, ο επιτιθέμενος μπορεί να «φυτέψει» οδηγίες σε μια ιστοσελίδα, ένα email ή ένα έγγραφο που συναντά ο πράκτορας AI ενώ εκτελεί μια νόμιμη εργασία.
Πως ανταποκρίνεται ο νόμος σε τέτοιες περιπτώσεις
«Αν δώσετε σε έναν πράκτορα AI, π.χ. στο Muse, τα στοιχεία της πιστωτικής σας κάρτας, καθιστάτε εσείς οι ίδιοι το bot ως εξουσιοδοτημένο χρήστη με δικαίωμα να ενεργεί με αυτήν», είπε στο CBS News ο Douglas J. Wood, δικηγόρος με ειδίκευση στα ΜΜΕ και τη τεχνολογία. «Αν υπερβεί τις οδηγίες σας και ξοδέψει τα χρήματά σας, ο εκδότης της κάρτας θα υποστηρίξει ότι εσείς εξουσιοδοτήσατε το εργαλείο αγορών».
Επισημαίνει την ευθύνη που έχουν οι ίδιοι οι χρήστες που δίνουν την εξουσιοδότηση, χάνοντας με αυτόν τον τρόπο τη προστασία από ενδεχόμενες απώλειες. «Επειδή δεν μπορείτε να κινηθείτε κατά του bot για κατάχρηση (δεν είναι οντότητα που μπορεί να εναχθεί), η μόνη σας λύση είναι να του κόψετε την πρόσβαση», είπε, προσθέτοντας ότι μέχρι τότε η ζημιά θα έχει ήδη γίνει.
Τι συστήνουν οι ειδικοί να ανατίθεται και τι όχι
Για έρευνα προϊόντων, σύγκριση τιμών, οργάνωση αποδείξεων και εντοπισμό ξεχασμένων συνδρομών, οι AI agents μπορούν να αποβούν ιδιαίτερα χρήσιμοι, σε αντίθεση με αυτόνομες αγορές με αποθηκευμένη κάρτα.
Ως παράδειγμα στο CBS News αναφέρεται εκείνο του Chris Franco, ιδρυτή της εταιρείας μάρκετινγκ Woodridge Growth. Πιο συγκεκριμένα δήλωσε ότι με τη βοήθεια τους μπόρεσε να εντοπίσει μέσα σε 10 λεπτά μερικές συνδρομές που δεν χρησιμοποιούσε. Έτσι, «με αυτούς τους πράκτορες μοιράζεσαι πληροφορίες, αλλά τα οφέλη είναι μεγαλύτερα. Είναι ένα αντάλλαγμα, αλλά πολύ καλύτερη συμφωνία».
Από την άλλη, για την Sandra Matz, ειδική στην ψυχολογία και την επιστήμη υπολογιστών στη Σχολή Επιχειρήσεων του Columbia, ο πράκτορας, όσο και αν εκπαιδευτεί, μπορεί να προβεί σε ενέργειες χωρίς να υπολογίζει «συναισθηματικούς παράγοντες», εφόσον δεν νιώθει ενοχή ή ντροπή, που είναι ο φυσικός φραγμός που εμποδίζει έναν άνθρωπο να προδώσει την εμπιστοσύνη κάποιου.
«Αν δεν θα εμπιστευόσασταν έναν άλλον άνθρωπο να χειριστεί τα προσωπικά σας δεδομένα και να τα επεξεργαστεί με ασφάλεια, δεν θα εμπιστευόμουν ούτε έναν πράκτορα», είπε.