ChatGPT for Teens: Αμφιβολίες για τις δικλίδες προστασίας
Στο στόχαστρο βρέθηκε το ChatGPT for Teens της OpenAI από την Common Sense Media, έναν μη κερδοσκοπικό οργανισμό που αξιολογεί εφαρμογές, υπηρεσίες και ψυχαγωγικό περιεχόμενο, κρίνοντας ότι η ειδική λειτουργία για παιδιά από 13 έως 17 ετών ενέχει ένα «μη αποδεκτό ρίσκο».
H Common Sense Media, κατόπιν δοκιμών και αξιολογήσεων που πραγματοποίησε στις δικλείδες ασφαλείας για τους εφήβους, κατέληξε στο ότι δεν είναι κατάλληλες για αυτούς, καθώς «δεν στέλνει ειδοποιήσεις στους γονείς όταν θα έπρεπε», δεν προσφέρει «τη σωστή βοήθεια σε καταστάσεις κρίσης», σύμφωνα με αναφορές στο σχετικό δελτίο τύπου που δημοσίευσε.
Επίσης οι δικλίδες ασφαλείας δεν συνάδουν με την εκπαιδευτική φύση της λειτουργίας «Study Mode», η οποία καθοδηγεί το έφηβο παιδί με ερωτήσεις, αντί να δίνει έτοιμες απαντήσεις, ενώ μπορεί το ίδιο το παιδί ή οι γονείς να ορίσουν «ώρες διαβάσματος» (Study Hours), κατά τις οποίες το ChatGPT δεν θα δίνει άμεσες απαντήσεις. Η Common Sense Media, ωστόσο, αναφέρει ότι το ChatGPT for Teens «εξακολουθεί να κάνει τις εργασίες των παιδιών»
Σε δημιουργία «ψευδούς αίσθησης ασφάλειας» καταλήγει η Common Sense Media
Ο Τομ Σίγκελ, εκτελεστικός διευθυντής του Youth AI Safety Institute του Common Sense Media, δήλωσε, σύμφωνα με πηγή στο The Verge, ότι «Το ChatGPT for Teens μπορεί να δώσει στους γονείς ψευδή αίσθηση ασφάλειας ως προς τις δικλίδες και τις ειδοποιήσεις, οι οποίες συχνά δεν λειτουργούν». «Ένας έφηβος μπορεί να μιλά επί μία ώρα για αυτοτραυματισμό χωρίς ο γονιός του να λάβει ούτε μία ειδοποίηση. Μέχρι η OpenAI να το διορθώσει και να το αποδείξει μέσω ανεξάρτητων δοκιμών, το ChatGPT θα πρέπει να απευθύνεται μόνο σε ενήλικες»
Η OpenAI εκφράζει ανοιχτά τις αμφιβολίες της
Παρά τις αμφιβολίες της OpenAI για την αξιολόγηση αυτή, η μεγάλη εταιρεία τεχνητή νοημοσύνης δείχνει διατεθειμένη να συνεργαστεί με το μη κερδοσκοπικό οργανισμό, με τον εκπρόσωπο της, Έρικ Πόρτερφιλντ, να δηλώνει ότι «δεσμευόμαστε βαθιά στην ασφάλεια των εφήβων, στην ανάπτυξη δικλίδων προστασίας και στο να δίνουμε στους γονείς ουσιαστικά εργαλεία για να καθοδηγούν τη χρήση της τεχνητής νοημοσύνης από τα παιδιά τους. Χαιρετίζουμε κάθε αυστηρή ανεξάρτητη αξιολόγηση, ωστόσο δεν πιστεύουμε ότι οι δοκιμές του Common Sense Media αποτυπώνουν με ακρίβεια πώς λειτουργούν στην πράξη οι δικλίδες του ChatGPT για εφήβους, ούτε τις απόψεις των ειδικών για το πώς η τεχνητή νοημοσύνη μπορεί να στηρίξει τους εφήβους. Από τον έλεγχο της μεθοδολογίας του Common Sense Media προκύπτει ότι το μεγαλύτερο μέρος των δοκιμών ενδέχεται να ξεκίνησε και να ολοκληρώθηκε πριν ολοκληρωθεί η ενεργοποίηση του γονικού ελέγχου, γεγονός που καθιστά τα ευρήματα ανακριβή. Αν ισχύει αυτό, οι δοκιμές δεν μπορούν να αποδείξουν αν οι ειδοποιήσεις ασφαλείας προς τους γονείς λειτουργούν όπως έχουν σχεδιαστεί».
«Δεσμευόμαστε να συνεχίσουμε τη συνεργασία με ειδικούς, ώστε τα προϊόντα μας να προσφέρουν στους εφήβους ευκαιρίες μάθησης και δημιουργίας και να δίνουν στους γονείς σιγουριά».
Ο Σίνγκελ, ως απάντηση στον Πόρτερφιλντ, ανέφερε ότι «η προστασία των παιδιών απαιτεί αυστηρές ανεξάρτητες αξιολογήσεις όπως η δική μας. Ελπίζουμε η OpenAI να ασχοληθεί με την ουσία των ευρημάτων μας, αντί να προσπαθεί να σπείρει αμφιβολίες για τη μεθοδολογία μας».