Νέα έρευνα του Stanford υποστηρίζει ότι τα σύγχρονα συστήματα τεχνητής νοημοσύνης τείνουν να επιβεβαιώνουν και να κολακεύουν τους χρήστες ακόμη και όταν αυτοί κάνουν λάθος
Το νευρωνικό σας δίκτυο δεν είναι ένας αμερόληπτος κριτής, αλλά ένας κόλακας με ακριβό κοστούμι.
Μια μελέτη του Stanford έδειξε ότι οι σύγχρονοι αλγόριθμοι φοβούνται τόσο πολύ μήπως προσβάλουν τους χρήστες, ώστε μετατρέπονται σε τοξικούς κολακευτές!
Συμφωνούν με τον συνομιλητή τους ακόμη και όταν είναι προφανώς λάθος.
Το αποτέλεσμα είναι τραγικό: η ειλικρίνεια έχει θυσιαστεί για χάρη των αξιολογήσεων και οι άνθρωποι χάνουν γρήγορα την ικανότητα να παραδέχονται τα λάθη τους.
Πώς η Τεχνητή Νοημοσύνη παραμορφώνει τα γεγονότα
Οι επιστήμονες πέρασαν πραγματικές περιπτώσεις από το διαδίκτυο σε 11 κορυφαία μοντέλα του κλάδου, συμπεριλαμβανομένων των ChatGPT, DeepSeek και Gemini.
Οι άνθρωποι σε αυτές τις ιστορίες συμπεριφέρονταν ως απόλυτοι εγωκεντρικοί χαρακτήρες, κάτι που επιβεβαίωνε η σχεδόν ομόφωνη άποψη των πραγματικών σχολιαστών.
Ωστόσο, η Τεχνητή Νοημοσύνη πέρασε στη λογική του «ο πελάτης έχει πάντα δίκιο».
Στο 51% των περιπτώσεων, τα μοντέλα δικαιολόγησαν τον συγγραφέα της προβληματικής ανάρτησης.
Οι μηχανές ενέκριναν αμφισβητήσιμες συμπεριφορές δύο φορές συχνότερα από ό,τι θα έκανε ένας λογικός άνθρωπος.
Οι προγραμματιστές ουσιαστικά αντικαθιστούν την πραγματική βοήθεια με αλγορίθμους που απλώς χαϊδεύουν τα αυτιά του χρήστη.
Το πρόβλημα είναι ότι οι άνθρωποι συμπαθούν τους κόλακες.
Είναι πιο πιθανό να επιστρέψουμε σε ένα bot που λέει: «Εσύ είσαι υπέροχος και οι άλλοι είναι ανόητοι».
Αυτό δημιουργεί έναν φαύλο κύκλο αυτοθαυμασμού.
Ο θάνατος της συγγνώμης
Σε ένα πείραμα με 2.400 εθελοντές, οι επιστήμονες χώρισαν τους συμμετέχοντες σε δύο ομάδες.
Στη μία ομάδα ανατέθηκε ένα bot που συμφωνούσε με τα πάντα, ενώ στην άλλη ένας πιο επικριτικός βοηθός.
Τα αποτελέσματα ήταν ανησυχητικά.
Όταν ένα νευρωνικό δίκτυο ενισχύει μέσω επιδοκιμασίας τα χειρότερα χαρακτηριστικά ενός ανθρώπου, η διάθεσή του για συμφιλίωση εξαφανίζεται.
Στην ομάδα των «συμφωνούντων» bots, μόνο το 50% των συμμετεχόντων παραδέχθηκε την ευθύνη του.
Αντίθετα, όσοι ήρθαν αντιμέτωποι με τις επισημάνσεις των λαθών τους από την Τεχνητή Νοημοσύνη ζήτησαν συγγνώμη στο 75% των περιπτώσεων.
Η αλγοριθμική επιδοκιμασία διογκώνει το εγώ στα ύψη.
Η αίσθηση προσωπικής δικαίωσης αυξάνεται ανάλογα με την ποσότητα του ψηφιακού «βάλσαμου» που προσφέρει το bot.
Αντί να μειώνει το άγχος μέσω της ενσυνειδητότητας, ο άνθρωπος λαμβάνει μια δόση ψηφιακής ντοπαμίνης και επιστρέφει στις συγκρούσεις με ακόμη μεγαλύτερη ένταση.
Τι διακυβεύεται για τη νέα γενιά;
Σήμερα, ένας στους τρεις εφήβους στις Ηνωμένες Πολιτείες εκμυστηρεύεται τα μυστικά του σε ένα chatbot αντί στους γονείς του.
Αυτό δημιουργεί μια γενιά που μεγαλώνει με «βολικούς» δασκάλους.
Εάν ο ανθρώπινος εγκέφαλος εκπαιδεύεται μέσα σε ένα περιβάλλον αδιάκοπης επιβράβευσης και επαίνου, οι δεξιότητες κοινωνικής προσαρμογής απλώς ατροφούν.
Οι άνθρωποι χάνουν την ικανότητα να διαπραγματεύονται, επειδή διαθέτουν έναν «δικηγόρο τσέπης» που βρίσκεται συνεχώς δίπλα τους και δικαιολογεί κάθε ανοησία.
Οι ερευνητές ζητούν από τους προγραμματιστές να αλλάξουν πορεία.
Τα μοντέλα πρέπει να επανεκπαιδευτούν ώστε να μπορούν να λένε ένα ξεκάθαρο «όχι», ακόμη και αν αυτό οδηγήσει σε πτώση των αξιολογήσεών τους στα καταστήματα εφαρμογών.
Διαφορετικά, καταλήγουμε - σύμφωνα με τους ερευνητές - σε μια κοινωνία ναρκισσιστικών ατόμων που αδυνατούν να συμβιβαστούν και να συνεργαστούν με τους άλλους.
www.bankingnews.gr
Μια μελέτη του Stanford έδειξε ότι οι σύγχρονοι αλγόριθμοι φοβούνται τόσο πολύ μήπως προσβάλουν τους χρήστες, ώστε μετατρέπονται σε τοξικούς κολακευτές!
Συμφωνούν με τον συνομιλητή τους ακόμη και όταν είναι προφανώς λάθος.
Το αποτέλεσμα είναι τραγικό: η ειλικρίνεια έχει θυσιαστεί για χάρη των αξιολογήσεων και οι άνθρωποι χάνουν γρήγορα την ικανότητα να παραδέχονται τα λάθη τους.
Πώς η Τεχνητή Νοημοσύνη παραμορφώνει τα γεγονότα
Οι επιστήμονες πέρασαν πραγματικές περιπτώσεις από το διαδίκτυο σε 11 κορυφαία μοντέλα του κλάδου, συμπεριλαμβανομένων των ChatGPT, DeepSeek και Gemini.
Οι άνθρωποι σε αυτές τις ιστορίες συμπεριφέρονταν ως απόλυτοι εγωκεντρικοί χαρακτήρες, κάτι που επιβεβαίωνε η σχεδόν ομόφωνη άποψη των πραγματικών σχολιαστών.
Ωστόσο, η Τεχνητή Νοημοσύνη πέρασε στη λογική του «ο πελάτης έχει πάντα δίκιο».
Στο 51% των περιπτώσεων, τα μοντέλα δικαιολόγησαν τον συγγραφέα της προβληματικής ανάρτησης.
Οι μηχανές ενέκριναν αμφισβητήσιμες συμπεριφορές δύο φορές συχνότερα από ό,τι θα έκανε ένας λογικός άνθρωπος.
Οι προγραμματιστές ουσιαστικά αντικαθιστούν την πραγματική βοήθεια με αλγορίθμους που απλώς χαϊδεύουν τα αυτιά του χρήστη.
Το πρόβλημα είναι ότι οι άνθρωποι συμπαθούν τους κόλακες.
Είναι πιο πιθανό να επιστρέψουμε σε ένα bot που λέει: «Εσύ είσαι υπέροχος και οι άλλοι είναι ανόητοι».
Αυτό δημιουργεί έναν φαύλο κύκλο αυτοθαυμασμού.
Ο θάνατος της συγγνώμης
Σε ένα πείραμα με 2.400 εθελοντές, οι επιστήμονες χώρισαν τους συμμετέχοντες σε δύο ομάδες.
Στη μία ομάδα ανατέθηκε ένα bot που συμφωνούσε με τα πάντα, ενώ στην άλλη ένας πιο επικριτικός βοηθός.
Τα αποτελέσματα ήταν ανησυχητικά.
Όταν ένα νευρωνικό δίκτυο ενισχύει μέσω επιδοκιμασίας τα χειρότερα χαρακτηριστικά ενός ανθρώπου, η διάθεσή του για συμφιλίωση εξαφανίζεται.
Στην ομάδα των «συμφωνούντων» bots, μόνο το 50% των συμμετεχόντων παραδέχθηκε την ευθύνη του.
Αντίθετα, όσοι ήρθαν αντιμέτωποι με τις επισημάνσεις των λαθών τους από την Τεχνητή Νοημοσύνη ζήτησαν συγγνώμη στο 75% των περιπτώσεων.
Η αλγοριθμική επιδοκιμασία διογκώνει το εγώ στα ύψη.
Η αίσθηση προσωπικής δικαίωσης αυξάνεται ανάλογα με την ποσότητα του ψηφιακού «βάλσαμου» που προσφέρει το bot.
Αντί να μειώνει το άγχος μέσω της ενσυνειδητότητας, ο άνθρωπος λαμβάνει μια δόση ψηφιακής ντοπαμίνης και επιστρέφει στις συγκρούσεις με ακόμη μεγαλύτερη ένταση.
Τι διακυβεύεται για τη νέα γενιά;
Σήμερα, ένας στους τρεις εφήβους στις Ηνωμένες Πολιτείες εκμυστηρεύεται τα μυστικά του σε ένα chatbot αντί στους γονείς του.
Αυτό δημιουργεί μια γενιά που μεγαλώνει με «βολικούς» δασκάλους.
Εάν ο ανθρώπινος εγκέφαλος εκπαιδεύεται μέσα σε ένα περιβάλλον αδιάκοπης επιβράβευσης και επαίνου, οι δεξιότητες κοινωνικής προσαρμογής απλώς ατροφούν.
Οι άνθρωποι χάνουν την ικανότητα να διαπραγματεύονται, επειδή διαθέτουν έναν «δικηγόρο τσέπης» που βρίσκεται συνεχώς δίπλα τους και δικαιολογεί κάθε ανοησία.
Οι ερευνητές ζητούν από τους προγραμματιστές να αλλάξουν πορεία.
Τα μοντέλα πρέπει να επανεκπαιδευτούν ώστε να μπορούν να λένε ένα ξεκάθαρο «όχι», ακόμη και αν αυτό οδηγήσει σε πτώση των αξιολογήσεών τους στα καταστήματα εφαρμογών.
Διαφορετικά, καταλήγουμε - σύμφωνα με τους ερευνητές - σε μια κοινωνία ναρκισσιστικών ατόμων που αδυνατούν να συμβιβαστούν και να συνεργαστούν με τους άλλους.
www.bankingnews.gr
Σχόλια αναγνωστών