Δεν πρόκειται για προειδοποίηση ενός ανθρώπου που παρακολουθεί την Τεχνητή Νοημοσύνη από απόσταση. Έρχεται από κάποιον που βρίσκεται μέσα στο δωμάτιο όπου κατασκευάζονται ορισμένα από τα ισχυρότερα συστήματα AI στον κόσμο.
Ο Ντάριο Αμοντέι, συνιδρυτής και διευθύνων σύμβουλος της Anthropic, ζητά από τις εταιρείες που βρίσκονται στην πρώτη γραμμή της κούρσας να κάνουν κάτι που μέχρι πριν από λίγα χρόνια θα ακουγόταν παράδοξο: να επιβραδύνουν σκόπιμα την αύξηση των δυνατοτήτων των μοντέλων τους.
Η θέση του παρουσιάστηκε σε νέο κείμενο και μεταδόθηκε το Σάββατο από το Reuters. Ο Αμοντέι προτείνει ένα πλαίσιο τριών σταδίων που θα μπορούσε να δώσει στην κοινωνία περισσότερο χρόνο για να προσαρμοστεί και στις εταιρείες περισσότερο χρόνο για να αντιμετωπίσουν τους κινδύνους των ολοένα ισχυρότερων συστημάτων.
Ακόμη και με αυτή την επιβράδυνση, υποστηρίζει, η πρόοδος θα εξακολουθούσε να φαίνεται εξαιρετικά γρήγορη.
Γιατί ένας άνθρωπος που κατασκευάζει AI ζητά να κόψουμε ταχύτητα
Η χρονική στιγμή της παρέμβασης έχει ιδιαίτερη σημασία.
Η ίδια η Anthropic δημοσίευσε μόλις πριν από δύο ημέρες αποτελέσματα δοκιμών για τις δυνατότητες σύγχρονων μοντέλων σε στρατιωτικές εφαρμογές και επιχειρήσεις πληροφοριών.
Τα συμπεράσματα δεν είναι καθησυχαστικά.
Σύμφωνα με την εταιρεία, σε ορισμένες στρατιωτικές και κατασκοπευτικές εργασίες τα προηγμένα μοντέλα μπορούν πλέον να εκτελέσουν καθήκοντα τα οποία ιστορικά απαιτούσαν μικρό αριθμό ανθρώπων με υψηλή εξειδίκευση.
Οι δοκιμές περιλάμβαναν, μεταξύ άλλων, τον εντοπισμό ανθρώπων με βάση αποσπασματικές πληροφορίες και τεχνικά προβλήματα που σχετίζονται με την ανάπτυξη συμβατικών όπλων, όπως η βελτίωση drones ώστε να μπορούν να πλήξουν κινούμενους στόχους.
Η εικόνα γίνεται ακόμη πιο ανησυχητική όταν η θεωρία συναντά την πραγματική χρήση.
Προσπάθησαν να χρησιμοποιήσουν το Claude για προηγμένους πυραύλους
Σύμφωνα με το Associated Press, η Anthropic αποκάλυψε ότι χρήστες που βρίσκονταν σε περιοχή της Υεμένης υπό τον έλεγχο των Χούθι επιχείρησαν να χρησιμοποιήσουν το Claude για την ανάπτυξη προηγμένης πυραυλικής τεχνολογίας.
Οι προσπάθειες αφορούσαν μεταξύ άλλων κατευθυνόμενες κεφαλές και υπερηχητικούς πυραύλους.
Η Anthropic τελικά μπλόκαρε τους συγκεκριμένους χρήστες. Από τα στοιχεία της εταιρείας προκύπτει επίσης ότι η προσπάθειά τους δεν είχε την επιτυχία που επιδίωκαν. Ωστόσο, πριν αποκλειστούν, είχαν ήδη δημιουργήσει με τη βοήθεια της AI ένα offline εργαλείο προσομοίωσης.
Και δεν ήταν το μοναδικό περιστατικό.
Η εταιρεία έχει καταγράψει απόπειρες χρήσης των μοντέλων της για κυβερνοεπιθέσεις, επιτήρηση, επιχειρήσεις προπαγάνδας και επικίνδυνη βιολογική έρευνα. Σε μία περίπτωση, χρήστης επιχείρησε να αξιοποιήσει AI σε πρόταση έρευνας που αφορούσε τροποποίηση του ιού chikungunya με δυνητικά επικίνδυνα χαρακτηριστικά.
Το πρόβλημα, επομένως, δεν είναι πλέον μόνο τι θα μπορούσε θεωρητικά να κάνει μια μελλοντική AI.
Είναι τι αρχίζουν να μπορούν να κάνουν τα σημερινά μοντέλα.
Και μετά έρχεται το πραγματικά ανατριχιαστικό ερώτημα
Υπάρχει όμως ένα δεύτερο όριο, πολύ πιο δύσκολο να προβλεφθεί.
Τι συμβαίνει όταν η Τεχνητή Νοημοσύνη αρχίζει να βοηθά ουσιαστικά στην κατασκευή της επόμενης Τεχνητής Νοημοσύνης;
Η Anthropic εξετάζει πλέον δημόσια αυτό ακριβώς το ενδεχόμενο.
Σε ανάλυση του Anthropic Institute για τη λεγόμενη αναδρομική αυτοβελτίωση, η εταιρεία αναφέρει ότι ένα ολοένα μεγαλύτερο τμήμα της διαδικασίας ανάπτυξης AI ανατίθεται ήδη σε συστήματα AI. Σύμφωνα με τα εσωτερικά στοιχεία που δημοσιοποίησε, οι μηχανικοί της παράγουν σήμερα κατά μέσο όρο οκταπλάσιο κώδικα ανά τρίμηνο σε σχέση με την περίοδο 2021-2025, με την AI να επιταχύνει την εργασία τους.
Αυτό δεν σημαίνει ότι η AI αυτοβελτιώνεται αυτόνομα σήμερα. Η ίδια η Anthropic τονίζει ότι δεν έχουμε φτάσει εκεί και ότι ένα τέτοιο αποτέλεσμα δεν είναι αναπόφευκτο.
Όμως περιγράφει το πιθανό επόμενο βήμα: ένα σύστημα ικανό να σχεδιάζει και να αναπτύσσει τον διάδοχό του με πολύ μικρότερη ανθρώπινη συμμετοχή.
Σε ένα τέτοιο σενάριο, η ταχύτητα ανάπτυξης δεν θα καθοριζόταν πλέον κυρίως από το πόσο γρήγορα μπορούν να εργαστούν ανθρώπινοι ερευνητές. Θα περιοριζόταν περισσότερο από τη διαθέσιμη υπολογιστική ισχύ και από το πόσο γρήγορα τα ίδια τα συστήματα μπορούν να ανακαλύπτουν αποτελεσματικότερες τεχνικές.
Η στιγμή που ο άνθρωπος δυσκολεύεται να ακολουθήσει
Αυτό είναι ίσως το πιο ανησυχητικό στοιχείο ολόκληρης της συζήτησης.
Δεν χρειάζεται μια μηχανή να «επαναστατήσει». Δεν χρειάζεται να αποκτήσει συνείδηση. Δεν χρειάζεται καν να αποφασίσει ότι ο άνθρωπος είναι εχθρός της.
Αρκεί η ταχύτητα με την οποία αυξάνονται οι δυνατότητές της να ξεπεράσει την ταχύτητα με την οποία μπορούμε να τις κατανοήσουμε, να τις ελέγξουμε και να δημιουργήσουμε θεσμούς ικανούς να τις περιορίσουν.
Οι αμερικανικές αρχές έχουν ήδη αρχίσει να αντιμετωπίζουν το ζήτημα ως πιθανό κίνδυνο εθνικής ασφάλειας. Διακομματικές συζητήσεις στη Γερουσία εξετάζουν νομοθεσία που θα υποχρεώνει τις εταιρείες AI να λαμβάνουν μέτρα απέναντι σε γνωστούς μεγάλους κινδύνους, ακόμη και σε σενάρια όπου ένα μοντέλο θα μπορούσε να διευκολύνει την ανάπτυξη πυρηνικών ή βιολογικών όπλων.
Η συζήτηση έχει πλέον μετακινηθεί αισθητά.
Το ερώτημα δεν είναι πια μόνο πόσο έξυπνη μπορεί να γίνει η Τεχνητή Νοημοσύνη.
Είναι αν οι άνθρωποι που την κατασκευάζουν θα εξακολουθούν να έχουν αρκετό χρόνο για να καταλαβαίνουν τι ακριβώς δημιούργησαν πριν περάσουν στην επόμενη γενιά.
Και όταν ο επικεφαλής μιας από τις εταιρείες που βρίσκονται στην αιχμή αυτής της κούρσας ζητά από ολόκληρο τον κλάδο να κόψει ταχύτητα, η προειδοποίηση δύσκολα μπορεί πλέον να αντιμετωπιστεί ως σενάριο επιστημονικής φαντασίας.
