Μια εξαιρετικά σοβαρή προειδοποίηση για την πορεία της Τεχνητής Νοημοσύνης απευθύνει πρώην ερευνητής της Google DeepMind, ο οποίος εργαζόταν ακριβώς πάνω στο πρόβλημα της ασφάλειας και της ευθυγράμμισης προηγμένων συστημάτων AI.
Ο Μπιλάλ Τσουγκτάι (Bilal Chughtai) αποχώρησε από την Google DeepMind τον Ιούλιο του 2026 και, δύο μήνες αργότερα, εξήγησε δημόσια τους φόβους του για την κατεύθυνση που έχει πάρει η ανάπτυξη της τεχνολογίας.
«I earnestly believe that AI has the potential to kill us all, and that we might be running out of time to avoid this outcome», έγραψε ο ίδιος, δηλώνοντας ουσιαστικά ότι πιστεύει πως η AI έχει τη δυνατότητα να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας και ότι ο χρόνος για να αποφευχθεί ένα τέτοιο ενδεχόμενο ενδέχεται να περιορίζεται.
Το πρόβλημα της «ευθυγράμμισης»
Σύμφωνα με το Newpost, στο επίκεντρο της ανησυχίας του Τσουγκτάι βρίσκεται το λεγόμενο AI alignment: το πρόβλημα του πώς εξασφαλίζεται ότι ένα ολοένα ισχυρότερο σύστημα Τεχνητής Νοημοσύνης θα εξακολουθεί να λειτουργεί σύμφωνα με τους στόχους και τις προθέσεις των ανθρώπων.
Ο πρώην ερευνητής υποστηρίζει ότι οι δυνατότητες των κορυφαίων μοντέλων εξελίσσονται ταχύτερα από την κατανόηση των μηχανισμών που απαιτούνται για να παραμείνουν ασφαλή και ελεγχόμενα.
Όπως αναφέρει, η σημερινή γνώση γύρω από το πώς μπορούν να εκπαιδευτούν συστήματα ώστε οι στόχοι τους να παραμένουν ουσιαστικά ευθυγραμμισμένοι με τους ανθρώπινους στόχους εξακολουθεί να είναι περιορισμένη.
Ο Τσουγκτάι θεωρεί μάλιστα πιθανό οι εταιρείες AI να καταφέρουν μέσα στα επόμενα χρόνια να δημιουργήσουν συστήματα υπερευφυΐας που θα ξεπερνούν τις ανθρώπινες ικανότητες σε κάθε τομέα. Πρόκειται, πάντως, για εκτίμηση του ίδιου και όχι για βεβαιωμένη πρόβλεψη σχετικά με το πότε ή αν θα δημιουργηθούν τέτοια συστήματα.
Δεν είναι ο μόνος που προειδοποιεί
Η παρέμβασή του έρχεται σε μια περίοδο κατά την οποία αρκετοί άνθρωποι που εργάζονται στην αιχμή της AI εκφράζουν δημόσια ανάλογες ανησυχίες.
Ο πρώην ερευνητής της Anthropic Jacob Coxon δήλωσε πρόσφατα ότι ένας από τους λόγους της παραίτησής του ήταν ο φόβος για καταστροφικούς κινδύνους από την AI. Ο ερευνητής της Anthropic Evan Hubinger πήγε ακόμη πιο μακριά, δηλώνοντας ότι ο ίδιος αποδίδει πιθανότητα μεγαλύτερη του 10% σε ένα σενάριο στο οποίο η AI θα μπορούσε να εξοντώσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Πρόκειται και εδώ για προσωπική εκτίμηση κινδύνου και όχι για επιστημονικά εδραιωμένη πιθανότητα.
Την ίδια ώρα, ο επικεφαλής της Anthropic Dario Amodei έχει ζητήσει επιβράδυνση του ρυθμού ανάπτυξης των πιο προηγμένων συστημάτων. Η τοποθέτησή του βρήκε σημεία συμφωνίας ακόμη και από ηγετικά στελέχη ανταγωνιστικών εταιρειών AI, μεταξύ των οποίων ο Sam Altman και ο Elon Musk.
«Να αποφύγουμε αυτή τη μανιακή κούρσα»
Ο Τσουγκτάι δεν υποστηρίζει ότι μια καταστροφική εξέλιξη είναι αναπόφευκτη. Αντίθετα, θεωρεί ότι η ασφαλής ανάπτυξη προηγμένης AI παραμένει εφικτή, εφόσον υπάρξει συντονισμός μεταξύ των εταιρειών και επιβραδυνθεί η κούρσα για ολοένα ισχυρότερα μοντέλα.
Ζητά περισσότερο χρόνο για την αντιμετώπιση των νέων κινδύνων πριν αυτοί αποκτήσουν τη δυνατότητα να προκαλέσουν ακραία βλάβη, καθώς και μεγαλύτερη διαφάνεια γύρω από την ανάπτυξη των ισχυρότερων συστημάτων.
Το σημαντικό στην προειδοποίηση του πρώην ερευνητή της DeepMind δεν είναι ότι αποδεικνύει πως η AI θα προκαλέσει μια τέτοια καταστροφή. Δεν υπάρχει τέτοια επιστημονική βεβαιότητα. Είναι ότι ένας άνθρωπος που εργαζόταν στην ασφάλεια των προηγμένων συστημάτων μέσα σε ένα από τα κορυφαία εργαστήρια AI θεωρεί τον κίνδυνο αρκετά σοβαρό ώστε να εγκαταλείψει τη θέση του και να ζητήσει δημόσια αλλαγή πορείας.
