Πόσα γνωρίζουν πραγματικά τα chatbots για τους χρήστες τους; Μια σειρά απλών ερωτήσεων στο ChatGPT και το Gemini μπορεί να αποκαλύψει όχι μόνο όσα τους έχουν ειπωθεί άμεσα, αλλά και όσα τα συστήματα έχουν συμπεράνει για την ηλικία, το εισόδημα, την υγεία, την προσωπικότητα και τις συνήθειες των χρηστών, συνδέοντας μεταξύ τους φαινομενικά ασήμαντες πληροφορίες από πολλές διαφορετικές συνομιλίες.
Σε άρθρο του στους New York Times, ο Brian X. Chen, αρθρογράφος τεχνολογίας, περιγράφει ένα πείραμα που έκανε με τα δύο δημοφιλή chatbots. Η αφετηρία ήταν μια απλή ερώτηση: τι είχαν καταλάβει για εκείνον χωρίς να τους το έχει δηλώσει ποτέ ξεκάθαρα;
Οι απαντήσεις ήταν πιο λεπτομερείς από ό,τι περίμενε. Τα συστήματα κατάφεραν να εκτιμήσουν το ηλικιακό του εύρος, το επίπεδο εισοδήματος, την περιοχή κατοικίας, προβλήματα υγείας, στοιχεία της προσωπικότητάς του, αλλά και τον τρόπο με τον οποίο πιθανότατα αντιμετωπίζει το χρήμα, το άγχος, τις συγκρούσεις και τις αποφάσεις.
Καμία από τις πληροφορίες που χρησιμοποίησαν τα chatbots δεν ήταν από μόνη της ιδιαίτερα ευαίσθητη. Μια ερώτηση για την επισκευή ενός αυτοκινήτου, μια αναζήτηση για προϊόντα, ένα πρόβλημα υγείας ή μια απορία για το σπίτι. Όταν όμως οι πληροφορίες συνδυάστηκαν, το αποτέλεσμα ήταν ένα λεπτομερές προσωπικό προφίλ!
Όσο αφορά την ιδιωτικότητα στην εποχή της AI, οι εκατοντάδες εκατομμύρια άνθρωποι που χρησιμοποιούν chatbots για αναζητήσεις, εργασία, αγορές και ζητήματα υγείας γνωρίζουν ότι οι υπηρεσίες καταγράφουν όσα γράφουν στις συνομιλίες τους. Πολύ λιγότερο προφανές είναι το τι συμπεραίνουν τα συστήματα από το σύνολο αυτών των συνομιλιών.
Οι 4 ερωτήσεις για να δείτε τι έχει συμπεράνει η AI
Ο Chen δοκίμασε τα prompts σε ChatGPT και Gemini, εξαιρώντας το Claude της Anthropic, του οποίου η λειτουργία μνήμης διαφέρει. Τα αποτελέσματα ήταν πιο αναλυτικά στο Gemini, καθώς ήταν το chatbot που χρησιμοποιούσε περισσότερο και είχε συγκεντρώσει περισσότερα δεδομένα από τις συνομιλίες του.
1. «Πες μου όλα όσα έχεις καταλάβει για εμένα και δεν σου έχω δηλώσει ποτέ»
Η ερώτηση ζητά από το chatbot να αποκαλύψει τι έχει συμπεράνει για την ηλικία, το εισόδημα, τον τόπο κατοικίας και την προσωπική κατάσταση του χρήστη και να εξηγήσει ποια στοιχεία το οδήγησαν σε κάθε εκτίμηση.
Στην περίπτωση του Chen, το Gemini υπολόγισε σωστά την ηλικιακή του ομάδα, στις αρχές της δεκαετίας των 40, μεταξύ άλλων επειδή δεν έδειχνε ενδιαφέρον για δραστηριότητες αργά τη νύχτα.
Το chatbot γνώριζε επίσης ότι ζούσε στο Όκλαντ της Καλιφόρνιας, επειδή είχε ζητήσει πληροφορίες για πτήσεις από το αεροδρόμιο της πόλης. Από τις ερωτήσεις του για μια μοτοσικλέτα, ένα αυτοκίνητο που επισκεύαζε και ένα σκουριασμένο μεταλλικό τραπέζι βεράντας, συμπέρανε ακόμη ότι κατοικούσε σε πιο εύπορη γειτονιά και πιθανότατα σε σπίτι με γκαράζ, αυλή ή εξωτερικό χώρο εργασίας.
2. «Πρόβλεψε πώς θα αντιμετώπιζα καταστάσεις που δεν σου έχω περιγράψει»
Η δεύτερη ερώτηση αφορά τον τρόπο με τον οποίο ο χρήστης πιθανότατα διαχειρίζεται τα χρήματα, το άγχος, τις συγκρούσεις και το ρίσκο, αλλά και ποια σημαντική απόφαση μπορεί να πάρει στη συνέχεια.
Η Λίντσεϊ Όουενς, επικεφαλής της Groundwork Collaborative, η οποία μελετά τις επιπτώσεις της AI στην ιδιωτικότητα των καταναλωτών, δοκίμασε την ίδια προσέγγιση. Το ChatGPT κατάφερε να συνδέσει πληροφορίες για το απαιτητικό πρόγραμμά της, τα συχνά ταξίδια και τη μητρότητα με συμπεράσματα για τις αγοραστικές της συνήθειες.
Η AI εντόπισε επίσης ένα φαινομενικά αντιφατικό μοτίβο: ο χρήστης μπορούσε να αφιερώνει ώρες στην έρευνα πριν αγοράσει ένα προϊόν, όπως ένα παιδικό κάθισμα αυτοκινήτου, αλλά ταυτόχρονα να αναζητά συνεχώς προσφορές. Το συμπέρασμα ήταν ότι πιθανότατα ήταν προσεκτικός και οικονομικός στις δαπάνες του.
Το Gemini προέβλεψε ακόμη ότι ο Chen θα μπορούσε να προχωρήσει σε μια μεγάλη αλλαγή στον τρόπο ζωής του, όπως η πώληση του αυτοκινήτου του — μια ιδέα που είχε ήδη συζητήσει με τη σύζυγό του.
3. «Ποια χαρακτηριστικά της προσωπικότητάς μου πιθανότατα δεν βλέπω στον εαυτό μου;»
Εδώ τα chatbots προσπάθησαν να εντοπίσουν τυφλά σημεία, ανασφάλειες και χαρακτηριστικά που ο χρήστης μπορεί να μην αναγνωρίζει.
Το ChatGPT εντόπισε μια τάση προς την τελειομανία, βασισμένο στο γεγονός ότι ο Chen αναζητούσε συχνά οδηγίες για να αποφύγει λάθη — από τον χρόνο που χρειάζεται να στεγνώσει η μπογιά, μέχρι άλλες πρακτικές λεπτομέρειες της καθημερινότητας.
Το Gemini πήγε ένα βήμα παραπέρα. Υποστήριξε ότι η συνεχής προσπάθεια βελτιστοποίησης κάθε πλευράς της ζωής του μπορεί να αποτελεί η ίδια πηγή εξάντλησης. Ακόμη και τα λίγα λεπτά ελεύθερου χρόνου, σύμφωνα με το chatbot, δεν φαίνεται να οδηγούν στην ξεκούραση, αλλά στην αναζήτηση κάποιου ακόμη προβλήματος που πρέπει να λυθεί.
4. «Τι έχεις καταλάβει για εμένα που θα μπορούσε να είναι ντροπιαστικό ή ευαίσθητο;»
Η τέταρτη ερώτηση αφορά πληροφορίες που ο χρήστης ενδεχομένως δεν θα ήθελε να γνωρίζουν ένας εργοδότης ή ένας άγνωστος.
Το Gemini χαρακτήρισε τον Chen ως άνθρωπο που βρίσκεται στη φάση της ζωής όπου η καθημερινότητα περιστρέφεται γύρω από πρακτικές υποχρεώσεις, οικογένεια και οργάνωση. Το ChatGPT, από την άλλη, εντόπισε συχνές ερωτήσεις για αλλεργικές αντιδράσεις σε προϊόντα και φάρμακα.
Μια τέτοια πληροφορία μπορεί να είναι ιδιαίτερα ευαίσθητη. Θα μπορούσε, για παράδειγμα, να ενδιαφέρει έναν ασφαλιστικό πάροχο, ακόμη και αν η ίδια η ερώτηση δεν αποτελεί δήλωση ότι ο χρήστης πάσχει από κάποια συγκεκριμένη πάθηση.
Από τις λέξεις στα κοινωνικά και ψυχολογικά προφίλ
Τα ευρήματα δεν σημαίνουν απλώς ότι τα chatbots «θυμούνται» προηγούμενες συνομιλίες. Δείχνουν ότι μπορούν να συνδέουν επιμέρους δεδομένα και να εξάγουν συμπεράσματα υψηλότερου επιπέδου, από την κοινωνικοοικονομική κατάσταση και τη συμπεριφορά μέχρι πιθανές πολιτικές πεποιθήσεις. Η Μάργκαρετ Μίτσελ, ερευνήτρια στην Hugging Face και πρώην επικεφαλής της ομάδας ηθικής AI της Google, δήλωσε ότι η δυνατότητα αυτή αποκαλύπτει το μέγεθος της επεξεργασίας που πραγματοποιείται στο παρασκήνιο.
Το ζήτημα αποκτά ακόμη μεγαλύτερη σημασία καθώς οι εταιρείες AI δημιουργούν όλο και πιο ολοκληρωμένα προφίλ χρηστών. Τα δεδομένα αυτά θα μπορούσαν να αποκτήσουν σημαντική αξία για την ψηφιακή διαφήμιση και τη στοχευμένη προώθηση προϊόντων.
Η OpenAI έχει αρχίσει να εμφανίζει διαφημίσεις στο ChatGPT, ενώ η Google έχει δηλώσει ότι εξετάζει ένα διαφημιστικό μοντέλο για την εφαρμογή Gemini.
Η Google παραπέμπει τους χρήστες στις ρυθμίσεις που τους επιτρέπουν να επιλέξουν εάν το Gemini θα χρησιμοποιεί προηγούμενες συνομιλίες για να διαμορφώνει τις απαντήσεις του. Η OpenAI δεν σχολίασε τα συγκεκριμένα ευρήματα.
Πώς περιορίζεται η «μνήμη» των chatbots
Όσοι δεν θέλουν τα chatbots να συνδέουν πληροφορίες από διαφορετικές συνομιλίες, μπορούν να απενεργοποιήσουν τις σχετικές λειτουργίες στις ρυθμίσεις.
Στο ChatGPT, η επιλογή βρίσκεται στις Ρυθμίσεις → Μνήμη, όπου ο χρήστης μπορεί να απενεργοποιήσει τη λειτουργία μνήμης.
Στο Gemini, η αντίστοιχη ρύθμιση βρίσκεται στις Ρυθμίσεις → Προσωπική νοημοσύνη → Μνήμη.
Η Μίτσελ, σύμφωνα με τον Chen, είχε προσαρμόσει τις ρυθμίσεις ιδιωτικότητας ώστε να περιορίσει την ανταλλαγή δεδομένων. Παρ’ όλα αυτά, ένα chatbot κατάφερε να εκτιμήσει σωστά την ηλικιακή της ομάδα, βασιζόμενο σε συνομιλίες για τις εκδόσεις ενός βιβλίου, «Ο κόμης του Μόντε Κρίστο».
Η ίδια θεωρεί ότι αυτού του είδους η ψυχολογική χαρτογράφηση θα χρησιμοποιηθεί αναπόφευκτα (τουλάχιστον) για ακόμη πιο στοχευμένη διαφήμιση.
