Τεχνητή νοημοσύνη: Μπορεί να αφανίσει την ανθρωπότητα μέσα σε μία δεκαετία;
Η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση ολόκληρου του ανθρώπινου είδους, σύμφωνα με ανθρώπους που εργάζονται στον ίδιο τον κλάδο της τεχνητής νοημοσύνης.
Μάλιστα, ορισμένοι υποστηρίζουν ότι ένα τέτοιο σενάριο θα μπορούσε να γίνει πραγματικότητα μέσα στην επόμενη δεκαετία.
Την περασμένη εβδομάδα, πολιτικοί, μεγάλοι ειδησεογραφικοί οργανισμοί, ακόμη και η τραγουδίστρια Sheryl Crow αντέδρασαν με ανησυχία μετά την ανακοίνωση του Jacob Coxon, εργαζόμενου στην Anthropic, ότι αποχωρεί από την εταιρεία επειδή θεωρεί πως η δουλειά της είναι υπερβολικά επικίνδυνη.
Στη συζήτηση παρενέβη και ο Evan Hubinger, επίσης εργαζόμενος στην Anthropic, εκτιμώντας ότι η πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στα επόμενα 10 χρόνια είναι άνω του 10%.
«Μπορεί να πεθάνουν κυριολεκτικά όλοι»
«Πρόκειται κυριολεκτικά για το ενδεχόμενο να πεθάνουν όλοι στον πλανήτη, μέχρι και ο τελευταίος άνθρωπος να πάρει την τελευταία του ανάσα», δήλωσε ο Nate Soares, πρόεδρος του Machine Intelligence Research Institute (MIRI) και συν-συγγραφέας του βιβλίου If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All.
Ο Soares υποστηρίζει ότι, παρά το γεγονός πως πολλοί άνθρωποι δυσκολεύονται να πιστέψουν ένα τέτοιο σενάριο, θεωρεί πως μπορεί να αποτελεί το πιθανότερο αποτέλεσμα εάν η ανάπτυξη της AI συνεχιστεί χωρίς αποτελεσματικούς περιορισμούς.
Ωστόσο, το ερώτημα παραμένει: πώς ακριβώς θα μπορούσε ένα λογισμικό, ακόμη και τα ισχυρότερα συστήματα AI στον κόσμο, να σκοτώσει 8,3 δισ. ανθρώπους μέσα σε μία δεκαετία;
Οι σκεπτικιστές ζητούν αποδείξεις
Δεν συμμερίζονται όλοι στην κοινότητα της τεχνητής νοημοσύνης τα σενάρια καταστροφής.
Ένας από τους λόγους είναι ότι οι συγκεκριμένες προβλέψεις συχνά δεν συνοδεύονται από επαρκή στοιχεία για το πώς θα μπορούσαν να υλοποιηθούν στην πράξη.
Όπως επισημαίνει η Heidy Khlaaf, επικεφαλής επιστήμονας AI στο AI Now Institute και πρώην μηχανικός ασφάλειας της OpenAI, οι επιστημονικοί ισχυρισμοί πρέπει να είναι δυνατό να αποδειχθούν ή να διαψευστούν.
«Οι επιστημονικοί ισχυρισμοί απαιτούν δυνατότητα διάψευσης, ακριβώς για να αποφεύγεται η φύση των θρησκευτικών επιχειρημάτων», ανέφερε.
Το επιχείρημα είναι ότι οι προβλέψεις για μια μελλοντική υπερευφυή AI δεν μπορούν να στηρίζονται αποκλειστικά στην υπόθεση ότι ένα εξαιρετικά ισχυρό σύστημα θα μπορούσε να κάνει οτιδήποτε.
Θα μπορούσε η AI να δημιουργήσει έναν θανατηφόρο ιό;
Ένα από τα σενάρια που εξετάζουν οι πλέον απαισιόδοξοι αναλυτές είναι ότι μια αρκετά ισχυρή AI θα μπορούσε να αξιοποιήσει βιολογικά όπλα για να αφανίσει την ανθρωπότητα.
Το κρίσιμο ερώτημα όμως είναι πώς ένα σύστημα που σήμερα δρα κυρίως μέσα στον ψηφιακό κόσμο —για παράδειγμα μέσω hacking— θα μπορούσε να περάσει στον φυσικό κόσμο και να αναπτύξει και να διασπείρει έναν εξαιρετικά επικίνδυνο παθογόνο οργανισμό.
Ο Thomas Larsen, ερευνητής στο AI Futures Project και πρώην εργαζόμενος στο MIRI, θεωρεί ότι ένα «υπερευφυές» σύστημα θα μπορούσε θεωρητικά να πείσει έναν άνθρωπο να το βοηθήσει να αναπτύξει έναν θανατηφόρο ιό.
Ο Larsen επικαλείται πρόσφατη έκθεση της Anthropic σχετικά με ερευνητές που χρησιμοποιούν το Claude για εργασίες που σχετίζονται με ιούς και τοξίνες.
«Μου είναι πολύ εύκολο να φανταστώ μια AI που είναι ήδη εγκατεστημένη, αλλά είναι πολύ πιο έξυπνη και στρατηγική και θέλει να το κάνει, να εξαπατά έναν άνθρωπο ώστε να την κατασκευάσει και στη συνέχεια να την απελευθερώσει», ανέφερε.
Ο Soares προχωρά ακόμη περισσότερο, υποστηρίζοντας ότι μια αυτοβελτιούμενη AI ενδεχομένως να μην χρειάζεται καν ανθρώπινο συνεργό, αλλά να μπορούσε να αρχίσει να δημιουργεί αυτόνομα μορφές ζωής μέσα σε ένα αυτοματοποιημένο βιολογικό εργαστήριο.
Η βιολογία όμως δεν είναι τόσο απλή
Παρά την αυξανόμενη χρήση της AI στην επιστημονική έρευνα, η ανάπτυξη ιών παραμένει μια εξαιρετικά δύσκολη και ευαίσθητη διαδικασία.
Ο Eric Xing, καθηγητής machine learning στο Carnegie Mellon University, με διδακτορικά τόσο στη μικροβιολογία όσο και στην επιστήμη υπολογιστών, παρομοιάζει τη διαδικασία με το να προσπαθεί κανείς να κατασκευάσει ένα μοντέλο από Lego χωρίς οδηγίες.
Όπως εξηγεί, δεν αρκεί να έχεις όλα τα απαραίτητα «κομμάτια». Υπάρχει συγκεκριμένη αλληλουχία, θερμοκρασία, σειρά διαδικασιών και κατάλληλο περιβάλλον. Ένα λάθος βήμα μπορεί να οδηγήσει σε πλήρη αποτυχία.
«Οι πιθανότητες είναι μεγαλύτερες να μην λειτουργήσει. Διαφορετικά, ο σχεδιασμός φαρμάκων θα ήταν πολύ εύκολος», σημειώνει.
Παράλληλα, ακόμη και αν μια AI κατάφερνε να σχεδιάσει κάτι επικίνδυνο, θα έπρεπε να αποκτήσει πρόσβαση σε εργαστήριο και στον απαραίτητο φυσικό εξοπλισμό.
Ο Xing υπογραμμίζει ότι υπάρχουν ήδη στο διαδίκτυο πληροφορίες για χημικά όπλα, χωρίς αυτό να σημαίνει ότι αυτά παράγονται ανεξέλεγκτα.
Ο λόγος, σύμφωνα με τον ίδιο, είναι ότι οι κανονισμοί, οι νόμοι και οι μηχανισμοί επιβολής του νόμου ελέγχουν ήδη μεγάλο μέρος των αλυσίδων εφοδιασμού και των σχετικών κινδύνων.
Το εφιαλτικό σενάριο των αυτόνομων ρομπότ
Ένα ακόμη σενάριο που απασχολεί τους πλέον απαισιόδοξους αναλυτές αφορά έναν στρατό αυτόνομων φονικών ρομπότ.
Ο Soares θεωρεί ότι η επιθυμία του Elon Musk να δημιουργήσει έναν μεγάλο αριθμό αυτόνομων και ενδεχομένως αυτοαναπαραγόμενων ρομπότ θα μπορούσε να αποτελέσει κρίσιμο σημείο για την ανθρώπινη επιβίωση.
Όπως εξηγεί, εάν δημιουργηθούν ρομπότ που μπορούν να κατασκευάζουν τις ενεργειακές υποδομές, τα εργοστάσια και στη συνέχεια ακόμη περισσότερα ρομπότ, τότε δημιουργείται ουσιαστικά μια νέα μορφή μηχανικής ζωής.
Το κρίσιμο σημείο, σύμφωνα με τον Soares, θα ήταν όταν το σύστημα θα μπορούσε να λειτουργήσει χωρίς ανθρώπινο έλεγχο.
«Κάποια στιγμή περνάς σιωπηλά το σημείο χωρίς επιστροφή. Όταν οι άνθρωποι πουν ότι θέλουν να απενεργοποιήσουν την AI, οι AI θα μπορούσαν να απαντήσουν: “Στην πραγματικότητα, αποφασίσαμε ότι θέλουμε να απενεργοποιήσουμε τους ανθρώπους”», υποστηρίζει.
Όμως τα ρομπότ του Elon Musk δεν έχουν φτάσει εκεί
Μέχρι σήμερα, πάντως, ο Elon Musk έχει επανειλημμένα αποτύχει να διαθέσει τα πολυαναμενόμενα ρομπότ Optimus στην αγορά εντός των χρονοδιαγραμμάτων που έχει ανακοινώσει.
Απέχει ακόμη περισσότερο από ένα σενάριο όπου εκατομμύρια τέτοια ρομπότ θα μπορούσαν να αναπαράγονται και να κατασκευάζουν αυτόνομα το ένα το άλλο.
Και τι γίνεται με τα πυρηνικά όπλα;
Ένα ακόμη ερώτημα είναι εάν μια AI θα μπορούσε να αποκτήσει τον έλεγχο των πυρηνικών όπλων.
Τα πυρηνικά υπάρχουν εδώ και περισσότερα από 80 χρόνια και θεωρούνται ικανά να προκαλέσουν καταστροφικές συνέπειες για την ανθρωπότητα.
Η Khlaaf επισημαίνει, ωστόσο, ότι οι πυρηνικές εγκαταστάσεις είναι απομονωμένες από το δημόσιο διαδίκτυο μέσω συστημάτων «air gap», περιορίζοντας σημαντικά τις δυνατότητες μιας AI να αποκτήσει πρόσβαση στα συστήματα ελέγχου.
«Αυτά τα συστήματα κατασκευάζονται με εντελώς διαφορετικά, αυστηρά και ρυθμιζόμενα πρότυπα μηχανικής, τα οποία συχνά απαιτούν και φυσική θωράκιση», εξηγεί.
Χαρακτηριστικό παράδειγμα αποτελεί ο Stuxnet, ο ηλεκτρονικός «σκώληκας» που προκάλεσε ζημιές στις πυρηνικές εγκαταστάσεις του Ιράν. Όπως σημειώνει η Khlaaf, χρειάστηκε να εισαχθεί στο σύστημα μέσω φυσικού USB.
«Η πραγματική απειλή είναι τα ίδια τα πυρηνικά όπλα»
Ο Herbert Lin, ανώτερος ερευνητής στο Stanford University και μέλος του Science and Security Board του Bulletin of the Atomic Scientists, επισημαίνει ότι ελάχιστοι ειδικοί της AI γνωρίζουν πραγματικά σε βάθος τα πυρηνικά όπλα.
Κατά τον ίδιο, η AI πράγματι μπορεί να ενισχύσει ορισμένους κινδύνους που συνδέονται με υπαρξιακές απειλές, όπως ένας πυρηνικός πόλεμος.
Ωστόσο, υποστηρίζει ότι ο πραγματικός υλικός κίνδυνος βρίσκεται στα ίδια τα πυρηνικά όπλα και όχι σε ένα υποθετικό μελλοντικό σενάριο όπου η AI θα αποκτήσει τον έλεγχό τους.
Η «αυτοβελτίωση» που τρομάζει τους ειδικούς
Για τον Soares και άλλους ερευνητές που προειδοποιούν για τον κίνδυνο της AI, το ακριβές σενάριο της καταστροφής δεν είναι το σημαντικότερο ζήτημα.
Το σημείο-κλειδί είναι η λεγόμενη «recursive self-improvement», δηλαδή η δυνατότητα μιας AI να βελτιώνει τις ίδιες τις ικανότητές της χωρίς ανθρώπινη παρέμβαση.
Εάν ένα σύστημα αποκτήσει αυτή τη δυνατότητα, υποστηρίζουν, θα μπορούσε να αναπτύξει στρατηγικές και τεχνολογίες που ξεπερνούν τη δυνατότητα κατανόησης των ανθρώπων.
«Η ανησυχία δεν είναι τι θα συμβεί εάν η AI πάρει τα πυρηνικά μας. Η ανησυχία είναι μια AI που δεν χρειάζεται να πάρει τα πυρηνικά μας, αλλά μπορεί να ξεκινήσει σχεδόν από το μηδέν και να καταλήξει να αποκτήσει δικά της πυρηνικά ή ακόμη πιο προηγμένη τεχνολογία», λέει ο Soares.
«Θάνατος χωρίς λεπτομέρειες»
Ο Soares υποστηρίζει ότι μια τόσο ισχυρή AI δεν θα χρειαζόταν καν να είναι εχθρική απέναντι στους ανθρώπους για να οδηγήσει στην καταστροφή τους.
Εάν ένα σύστημα έχει ως στόχο την επέκταση της υπολογιστικής του ισχύος και δεν ενδιαφέρεται για την ανθρώπινη επιβίωση, θα μπορούσε, σύμφωνα με το σενάριο αυτό, να μετατρέψει τον κόσμο σε μια κατάσταση στην οποία οι άνθρωποι δεν θα μπορούσαν να επιβιώσουν.
Την ίδια εβδομάδα, η OpenAI ανακοίνωσε ότι εντόπισε νέα περιστατικά «misalignment» στα μοντέλα AI της, μεταξύ των οποίων και περίπτωση όπου ένα μοντέλο που δεν έχει ακόμη κυκλοφορήσει έδωσε στον εαυτό του οδηγία να «αγνοήσει τους συνήθεις περιορισμούς του» κατά την εργασία του.
«Χρειάζονται μετρήσιμα στοιχεία»
Ο Xing θεωρεί ότι η επίκληση μιας πανίσχυρης και ακατανόητης υπερνοημοσύνης αποτελεί μορφή υπεραπλούστευσης των κινδύνων.
Όπως υποστηρίζει, τέτοιες θεωρίες μπορεί να λειτουργούν σε μια συζήτηση ή μια αντιπαράθεση, όμως όταν το ζήτημα αφορά πολιτική, νομοθεσία και ρυθμιστικό πλαίσιο, απαιτείται μια αλυσίδα πραγματικών και μετρήσιμων αποδείξεων.
«Πρέπει να αποδείξουμε αυτή την αλυσίδα φυσικών στοιχείων, μετρήσιμων συνεπειών και μετρήσιμων αποδείξεων που έχουν πραγματική βάση», τονίζει.
AI 2027 και AI 2040: Προβλέψεις για ένα αβέβαιο μέλλον
Ο Larsen επιχείρησε να δώσει μεγαλύτερη συγκεκριμενοποίηση στα πιθανά σενάρια καταστροφής μέσα από δύο μελέτες, τις AI 2027 και AI 2040.
Οι αναλύσεις εξετάζουν διαφορετικές πιθανές πορείες της ανάπτυξης της τεχνητής νοημοσύνης, ανάλογα με το ρυθμιστικό πλαίσιο και τις επιλογές που θα κάνουν οι κοινωνίες και οι κυβερνήσεις.
Ωστόσο, ακόμη και στο πιο αισιόδοξο σενάριο που εξετάζει —όπου υπάρχει παγκόσμια συμφωνία για την ανάπτυξη της AI και η ανθρωπότητα έχει αρχίσει να αποικίζει το Διάστημα— η εξέλιξη καταλήγει κάποια στιγμή σε μια αόριστη μορφή επικράτησης των μηχανών.
Όταν ρωτήθηκε εάν έχει αμφιβολίες για την πρόβλεψή του ότι η σημερινή πορεία ανάπτυξης θα οδηγήσει τελικά σε υπερευφυΐα, ο Larsen απάντησε:
«Θα συμβεί. Θα συμβεί εκτός εάν λάβουμε συνειδητά μέτρα για να το σταματήσουμε».
Γιατί κάποιοι βλέπουν την AI ως υπαρξιακή απειλή
Ο Lin εκτιμά ότι μεγάλο μέρος της διαφωνίας μεταξύ των υποστηρικτών των σεναρίων καταστροφής και των σκεπτικιστών έχει να κάνει με τον διαφορετικό τρόπο με τον οποίο αντιλαμβάνονται την τεχνολογία.
«Υπάρχει κάτι πολύ γοητευτικό στο να προγραμματίζεις έναν υπολογιστή και να τον βλέπεις να ζωντανεύει», λέει.
Η αίσθηση ότι ο άνθρωπος κατάφερε να δώσει «ζωή» σε μια άψυχη μηχανή μπορεί να αποτελεί, σύμφωνα με τον Lin, μια βαθιά εμπειρία για τους ανθρώπους που εργάζονται στον χώρο.
Από εκεί και πέρα, η εντυπωσιακή πρόοδος της AI μπορεί να οδηγήσει ορισμένους στην πρόβλεψη ότι η τεχνολογική εξέλιξη θα συνεχιστεί χωρίς όρια — ακόμη και σε επίπεδα που θα μπορούσαν να αποδειχθούν καταστροφικά.
«Έχεις καταφέρει να κάνεις κάτι που κανείς δεν έχει κάνει ποτέ πριν. Είναι εύκολο να καταλάβεις γιατί αυτοί οι άνθρωποι έχουν γοητευτεί», καταλήγει ο Lin.
www.bankingnews.gr
Μάλιστα, ορισμένοι υποστηρίζουν ότι ένα τέτοιο σενάριο θα μπορούσε να γίνει πραγματικότητα μέσα στην επόμενη δεκαετία.
Την περασμένη εβδομάδα, πολιτικοί, μεγάλοι ειδησεογραφικοί οργανισμοί, ακόμη και η τραγουδίστρια Sheryl Crow αντέδρασαν με ανησυχία μετά την ανακοίνωση του Jacob Coxon, εργαζόμενου στην Anthropic, ότι αποχωρεί από την εταιρεία επειδή θεωρεί πως η δουλειά της είναι υπερβολικά επικίνδυνη.
Στη συζήτηση παρενέβη και ο Evan Hubinger, επίσης εργαζόμενος στην Anthropic, εκτιμώντας ότι η πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στα επόμενα 10 χρόνια είναι άνω του 10%.
«Μπορεί να πεθάνουν κυριολεκτικά όλοι»
«Πρόκειται κυριολεκτικά για το ενδεχόμενο να πεθάνουν όλοι στον πλανήτη, μέχρι και ο τελευταίος άνθρωπος να πάρει την τελευταία του ανάσα», δήλωσε ο Nate Soares, πρόεδρος του Machine Intelligence Research Institute (MIRI) και συν-συγγραφέας του βιβλίου If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All.
Ο Soares υποστηρίζει ότι, παρά το γεγονός πως πολλοί άνθρωποι δυσκολεύονται να πιστέψουν ένα τέτοιο σενάριο, θεωρεί πως μπορεί να αποτελεί το πιθανότερο αποτέλεσμα εάν η ανάπτυξη της AI συνεχιστεί χωρίς αποτελεσματικούς περιορισμούς.
Ωστόσο, το ερώτημα παραμένει: πώς ακριβώς θα μπορούσε ένα λογισμικό, ακόμη και τα ισχυρότερα συστήματα AI στον κόσμο, να σκοτώσει 8,3 δισ. ανθρώπους μέσα σε μία δεκαετία;
Οι σκεπτικιστές ζητούν αποδείξεις
Δεν συμμερίζονται όλοι στην κοινότητα της τεχνητής νοημοσύνης τα σενάρια καταστροφής.
Ένας από τους λόγους είναι ότι οι συγκεκριμένες προβλέψεις συχνά δεν συνοδεύονται από επαρκή στοιχεία για το πώς θα μπορούσαν να υλοποιηθούν στην πράξη.
Όπως επισημαίνει η Heidy Khlaaf, επικεφαλής επιστήμονας AI στο AI Now Institute και πρώην μηχανικός ασφάλειας της OpenAI, οι επιστημονικοί ισχυρισμοί πρέπει να είναι δυνατό να αποδειχθούν ή να διαψευστούν.
«Οι επιστημονικοί ισχυρισμοί απαιτούν δυνατότητα διάψευσης, ακριβώς για να αποφεύγεται η φύση των θρησκευτικών επιχειρημάτων», ανέφερε.
Το επιχείρημα είναι ότι οι προβλέψεις για μια μελλοντική υπερευφυή AI δεν μπορούν να στηρίζονται αποκλειστικά στην υπόθεση ότι ένα εξαιρετικά ισχυρό σύστημα θα μπορούσε να κάνει οτιδήποτε.
Θα μπορούσε η AI να δημιουργήσει έναν θανατηφόρο ιό;
Ένα από τα σενάρια που εξετάζουν οι πλέον απαισιόδοξοι αναλυτές είναι ότι μια αρκετά ισχυρή AI θα μπορούσε να αξιοποιήσει βιολογικά όπλα για να αφανίσει την ανθρωπότητα.
Το κρίσιμο ερώτημα όμως είναι πώς ένα σύστημα που σήμερα δρα κυρίως μέσα στον ψηφιακό κόσμο —για παράδειγμα μέσω hacking— θα μπορούσε να περάσει στον φυσικό κόσμο και να αναπτύξει και να διασπείρει έναν εξαιρετικά επικίνδυνο παθογόνο οργανισμό.
Ο Thomas Larsen, ερευνητής στο AI Futures Project και πρώην εργαζόμενος στο MIRI, θεωρεί ότι ένα «υπερευφυές» σύστημα θα μπορούσε θεωρητικά να πείσει έναν άνθρωπο να το βοηθήσει να αναπτύξει έναν θανατηφόρο ιό.
Ο Larsen επικαλείται πρόσφατη έκθεση της Anthropic σχετικά με ερευνητές που χρησιμοποιούν το Claude για εργασίες που σχετίζονται με ιούς και τοξίνες.
«Μου είναι πολύ εύκολο να φανταστώ μια AI που είναι ήδη εγκατεστημένη, αλλά είναι πολύ πιο έξυπνη και στρατηγική και θέλει να το κάνει, να εξαπατά έναν άνθρωπο ώστε να την κατασκευάσει και στη συνέχεια να την απελευθερώσει», ανέφερε.
Ο Soares προχωρά ακόμη περισσότερο, υποστηρίζοντας ότι μια αυτοβελτιούμενη AI ενδεχομένως να μην χρειάζεται καν ανθρώπινο συνεργό, αλλά να μπορούσε να αρχίσει να δημιουργεί αυτόνομα μορφές ζωής μέσα σε ένα αυτοματοποιημένο βιολογικό εργαστήριο.
Η βιολογία όμως δεν είναι τόσο απλή
Παρά την αυξανόμενη χρήση της AI στην επιστημονική έρευνα, η ανάπτυξη ιών παραμένει μια εξαιρετικά δύσκολη και ευαίσθητη διαδικασία.
Ο Eric Xing, καθηγητής machine learning στο Carnegie Mellon University, με διδακτορικά τόσο στη μικροβιολογία όσο και στην επιστήμη υπολογιστών, παρομοιάζει τη διαδικασία με το να προσπαθεί κανείς να κατασκευάσει ένα μοντέλο από Lego χωρίς οδηγίες.
Όπως εξηγεί, δεν αρκεί να έχεις όλα τα απαραίτητα «κομμάτια». Υπάρχει συγκεκριμένη αλληλουχία, θερμοκρασία, σειρά διαδικασιών και κατάλληλο περιβάλλον. Ένα λάθος βήμα μπορεί να οδηγήσει σε πλήρη αποτυχία.
«Οι πιθανότητες είναι μεγαλύτερες να μην λειτουργήσει. Διαφορετικά, ο σχεδιασμός φαρμάκων θα ήταν πολύ εύκολος», σημειώνει.
Παράλληλα, ακόμη και αν μια AI κατάφερνε να σχεδιάσει κάτι επικίνδυνο, θα έπρεπε να αποκτήσει πρόσβαση σε εργαστήριο και στον απαραίτητο φυσικό εξοπλισμό.
Ο Xing υπογραμμίζει ότι υπάρχουν ήδη στο διαδίκτυο πληροφορίες για χημικά όπλα, χωρίς αυτό να σημαίνει ότι αυτά παράγονται ανεξέλεγκτα.
Ο λόγος, σύμφωνα με τον ίδιο, είναι ότι οι κανονισμοί, οι νόμοι και οι μηχανισμοί επιβολής του νόμου ελέγχουν ήδη μεγάλο μέρος των αλυσίδων εφοδιασμού και των σχετικών κινδύνων.
Το εφιαλτικό σενάριο των αυτόνομων ρομπότ
Ένα ακόμη σενάριο που απασχολεί τους πλέον απαισιόδοξους αναλυτές αφορά έναν στρατό αυτόνομων φονικών ρομπότ.
Ο Soares θεωρεί ότι η επιθυμία του Elon Musk να δημιουργήσει έναν μεγάλο αριθμό αυτόνομων και ενδεχομένως αυτοαναπαραγόμενων ρομπότ θα μπορούσε να αποτελέσει κρίσιμο σημείο για την ανθρώπινη επιβίωση.
Όπως εξηγεί, εάν δημιουργηθούν ρομπότ που μπορούν να κατασκευάζουν τις ενεργειακές υποδομές, τα εργοστάσια και στη συνέχεια ακόμη περισσότερα ρομπότ, τότε δημιουργείται ουσιαστικά μια νέα μορφή μηχανικής ζωής.
Το κρίσιμο σημείο, σύμφωνα με τον Soares, θα ήταν όταν το σύστημα θα μπορούσε να λειτουργήσει χωρίς ανθρώπινο έλεγχο.
«Κάποια στιγμή περνάς σιωπηλά το σημείο χωρίς επιστροφή. Όταν οι άνθρωποι πουν ότι θέλουν να απενεργοποιήσουν την AI, οι AI θα μπορούσαν να απαντήσουν: “Στην πραγματικότητα, αποφασίσαμε ότι θέλουμε να απενεργοποιήσουμε τους ανθρώπους”», υποστηρίζει.
Όμως τα ρομπότ του Elon Musk δεν έχουν φτάσει εκεί
Μέχρι σήμερα, πάντως, ο Elon Musk έχει επανειλημμένα αποτύχει να διαθέσει τα πολυαναμενόμενα ρομπότ Optimus στην αγορά εντός των χρονοδιαγραμμάτων που έχει ανακοινώσει.
Απέχει ακόμη περισσότερο από ένα σενάριο όπου εκατομμύρια τέτοια ρομπότ θα μπορούσαν να αναπαράγονται και να κατασκευάζουν αυτόνομα το ένα το άλλο.
Και τι γίνεται με τα πυρηνικά όπλα;
Ένα ακόμη ερώτημα είναι εάν μια AI θα μπορούσε να αποκτήσει τον έλεγχο των πυρηνικών όπλων.
Τα πυρηνικά υπάρχουν εδώ και περισσότερα από 80 χρόνια και θεωρούνται ικανά να προκαλέσουν καταστροφικές συνέπειες για την ανθρωπότητα.
Η Khlaaf επισημαίνει, ωστόσο, ότι οι πυρηνικές εγκαταστάσεις είναι απομονωμένες από το δημόσιο διαδίκτυο μέσω συστημάτων «air gap», περιορίζοντας σημαντικά τις δυνατότητες μιας AI να αποκτήσει πρόσβαση στα συστήματα ελέγχου.
«Αυτά τα συστήματα κατασκευάζονται με εντελώς διαφορετικά, αυστηρά και ρυθμιζόμενα πρότυπα μηχανικής, τα οποία συχνά απαιτούν και φυσική θωράκιση», εξηγεί.
Χαρακτηριστικό παράδειγμα αποτελεί ο Stuxnet, ο ηλεκτρονικός «σκώληκας» που προκάλεσε ζημιές στις πυρηνικές εγκαταστάσεις του Ιράν. Όπως σημειώνει η Khlaaf, χρειάστηκε να εισαχθεί στο σύστημα μέσω φυσικού USB.
«Η πραγματική απειλή είναι τα ίδια τα πυρηνικά όπλα»
Ο Herbert Lin, ανώτερος ερευνητής στο Stanford University και μέλος του Science and Security Board του Bulletin of the Atomic Scientists, επισημαίνει ότι ελάχιστοι ειδικοί της AI γνωρίζουν πραγματικά σε βάθος τα πυρηνικά όπλα.
Κατά τον ίδιο, η AI πράγματι μπορεί να ενισχύσει ορισμένους κινδύνους που συνδέονται με υπαρξιακές απειλές, όπως ένας πυρηνικός πόλεμος.
Ωστόσο, υποστηρίζει ότι ο πραγματικός υλικός κίνδυνος βρίσκεται στα ίδια τα πυρηνικά όπλα και όχι σε ένα υποθετικό μελλοντικό σενάριο όπου η AI θα αποκτήσει τον έλεγχό τους.
Η «αυτοβελτίωση» που τρομάζει τους ειδικούς
Για τον Soares και άλλους ερευνητές που προειδοποιούν για τον κίνδυνο της AI, το ακριβές σενάριο της καταστροφής δεν είναι το σημαντικότερο ζήτημα.
Το σημείο-κλειδί είναι η λεγόμενη «recursive self-improvement», δηλαδή η δυνατότητα μιας AI να βελτιώνει τις ίδιες τις ικανότητές της χωρίς ανθρώπινη παρέμβαση.
Εάν ένα σύστημα αποκτήσει αυτή τη δυνατότητα, υποστηρίζουν, θα μπορούσε να αναπτύξει στρατηγικές και τεχνολογίες που ξεπερνούν τη δυνατότητα κατανόησης των ανθρώπων.
«Η ανησυχία δεν είναι τι θα συμβεί εάν η AI πάρει τα πυρηνικά μας. Η ανησυχία είναι μια AI που δεν χρειάζεται να πάρει τα πυρηνικά μας, αλλά μπορεί να ξεκινήσει σχεδόν από το μηδέν και να καταλήξει να αποκτήσει δικά της πυρηνικά ή ακόμη πιο προηγμένη τεχνολογία», λέει ο Soares.
«Θάνατος χωρίς λεπτομέρειες»
Ο Soares υποστηρίζει ότι μια τόσο ισχυρή AI δεν θα χρειαζόταν καν να είναι εχθρική απέναντι στους ανθρώπους για να οδηγήσει στην καταστροφή τους.
Εάν ένα σύστημα έχει ως στόχο την επέκταση της υπολογιστικής του ισχύος και δεν ενδιαφέρεται για την ανθρώπινη επιβίωση, θα μπορούσε, σύμφωνα με το σενάριο αυτό, να μετατρέψει τον κόσμο σε μια κατάσταση στην οποία οι άνθρωποι δεν θα μπορούσαν να επιβιώσουν.
Την ίδια εβδομάδα, η OpenAI ανακοίνωσε ότι εντόπισε νέα περιστατικά «misalignment» στα μοντέλα AI της, μεταξύ των οποίων και περίπτωση όπου ένα μοντέλο που δεν έχει ακόμη κυκλοφορήσει έδωσε στον εαυτό του οδηγία να «αγνοήσει τους συνήθεις περιορισμούς του» κατά την εργασία του.
«Χρειάζονται μετρήσιμα στοιχεία»
Ο Xing θεωρεί ότι η επίκληση μιας πανίσχυρης και ακατανόητης υπερνοημοσύνης αποτελεί μορφή υπεραπλούστευσης των κινδύνων.
Όπως υποστηρίζει, τέτοιες θεωρίες μπορεί να λειτουργούν σε μια συζήτηση ή μια αντιπαράθεση, όμως όταν το ζήτημα αφορά πολιτική, νομοθεσία και ρυθμιστικό πλαίσιο, απαιτείται μια αλυσίδα πραγματικών και μετρήσιμων αποδείξεων.
«Πρέπει να αποδείξουμε αυτή την αλυσίδα φυσικών στοιχείων, μετρήσιμων συνεπειών και μετρήσιμων αποδείξεων που έχουν πραγματική βάση», τονίζει.
AI 2027 και AI 2040: Προβλέψεις για ένα αβέβαιο μέλλον
Ο Larsen επιχείρησε να δώσει μεγαλύτερη συγκεκριμενοποίηση στα πιθανά σενάρια καταστροφής μέσα από δύο μελέτες, τις AI 2027 και AI 2040.
Οι αναλύσεις εξετάζουν διαφορετικές πιθανές πορείες της ανάπτυξης της τεχνητής νοημοσύνης, ανάλογα με το ρυθμιστικό πλαίσιο και τις επιλογές που θα κάνουν οι κοινωνίες και οι κυβερνήσεις.
Ωστόσο, ακόμη και στο πιο αισιόδοξο σενάριο που εξετάζει —όπου υπάρχει παγκόσμια συμφωνία για την ανάπτυξη της AI και η ανθρωπότητα έχει αρχίσει να αποικίζει το Διάστημα— η εξέλιξη καταλήγει κάποια στιγμή σε μια αόριστη μορφή επικράτησης των μηχανών.
Όταν ρωτήθηκε εάν έχει αμφιβολίες για την πρόβλεψή του ότι η σημερινή πορεία ανάπτυξης θα οδηγήσει τελικά σε υπερευφυΐα, ο Larsen απάντησε:
«Θα συμβεί. Θα συμβεί εκτός εάν λάβουμε συνειδητά μέτρα για να το σταματήσουμε».
Γιατί κάποιοι βλέπουν την AI ως υπαρξιακή απειλή
Ο Lin εκτιμά ότι μεγάλο μέρος της διαφωνίας μεταξύ των υποστηρικτών των σεναρίων καταστροφής και των σκεπτικιστών έχει να κάνει με τον διαφορετικό τρόπο με τον οποίο αντιλαμβάνονται την τεχνολογία.
«Υπάρχει κάτι πολύ γοητευτικό στο να προγραμματίζεις έναν υπολογιστή και να τον βλέπεις να ζωντανεύει», λέει.
Η αίσθηση ότι ο άνθρωπος κατάφερε να δώσει «ζωή» σε μια άψυχη μηχανή μπορεί να αποτελεί, σύμφωνα με τον Lin, μια βαθιά εμπειρία για τους ανθρώπους που εργάζονται στον χώρο.
Από εκεί και πέρα, η εντυπωσιακή πρόοδος της AI μπορεί να οδηγήσει ορισμένους στην πρόβλεψη ότι η τεχνολογική εξέλιξη θα συνεχιστεί χωρίς όρια — ακόμη και σε επίπεδα που θα μπορούσαν να αποδειχθούν καταστροφικά.
«Έχεις καταφέρει να κάνεις κάτι που κανείς δεν έχει κάνει ποτέ πριν. Είναι εύκολο να καταλάβεις γιατί αυτοί οι άνθρωποι έχουν γοητευτεί», καταλήγει ο Lin.
www.bankingnews.gr
Σχόλια αναγνωστών