Για χρόνια, οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης έτρεχαν σε έναν αγώνα όπου ο βασικός στόχος ήταν ένας: το επόμενο μοντέλο να είναι ισχυρότερο από το προηγούμενο και από εκείνο του ανταγωνιστή.
Το τελευταίο 48ωρο συνέβη κάτι ασυνήθιστο.
Άνθρωποι που βρίσκονται στην κορυφή αυτής της κούρσας άρχισαν να συμφωνούν δημόσια ότι ίσως χρειάζεται να πατήσουν φρένο.
Ο επικεφαλής της Anthropic, Dario Amodei, παρουσίασε στις 12 Σεπτεμβρίου ένα σχέδιο τριών σταδίων για την επιβράδυνση της ανάπτυξης των ισχυρότερων συστημάτων AI, ώστε οι μηχανισμοί ασφαλείας να έχουν περισσότερο χρόνο να ακολουθήσουν τις δυνατότητές τους.
Και η πρώτη του πρόταση δεν έμεινε στα λόγια.
Ανεξάρτητοι ελεγκτές μέσα στην Anthropic
Η Anthropic δεσμεύτηκε να δώσει σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση αντίστοιχη με εκείνη εργαζομένων.
Στην πράξη, οι εξωτερικοί ελεγκτές θα μπορούν να βρίσκονται πολύ πιο κοντά στα συστήματα, στις διαδικασίες ασφαλείας και στις αξιολογήσεις κινδύνου της εταιρείας, αντί να καλούνται απλώς να δοκιμάσουν ένα τελικό μοντέλο κάτω από αυστηρά ελεγχόμενες συνθήκες.
Ο στόχος είναι κρίσιμος: η εταιρεία που κατασκευάζει το μοντέλο να μην είναι ταυτόχρονα και ο μοναδικός ουσιαστικός κριτής της ασφάλειάς του.
Η πρόταση απέκτησε πολύ μεγαλύτερη σημασία λίγες ώρες αργότερα.
Ο Sam Altman είπε «θα κάνουμε το ίδιο»
Ο επικεφαλής της OpenAI Sam Altman συμφώνησε δημόσια με τον Amodei και χαρακτήρισε πολύ καλή ιδέα την πρόσβαση ανεξάρτητων αξιολογητών σε επίπεδο αντίστοιχο των εργαζομένων.
Κυρίως, όμως, δεσμεύτηκε ότι η OpenAI θα προχωρήσει στην ίδια κατεύθυνση.
Ο Altman ανέφερε ακόμη ότι το ζήτημα της ελεγχόμενης επιβράδυνσης της ανάπτυξης των ισχυρότερων μοντέλων αποτελούσε ήδη σημαντικό θέμα συζήτησης στο εσωτερικό της OpenAI.
Αυτό μετατρέπει την πρόταση του Amodei από μια μονομερή κίνηση μιας εταιρείας σε κάτι πολύ πιο ενδιαφέρον: δύο από τα μεγαλύτερα εργαστήρια AI δεσμεύονται δημόσια στο ίδιο πρώτο μέτρο ασφαλείας.
Musk: «Ο Dario έχει δίκιο»
Ακόμη πιο ασυνήθιστη ήταν η αντίδραση του Elon Musk, επικεφαλής της xAI και ανταγωνιστή τόσο της OpenAI όσο και της Anthropic.
Η τοποθέτησή του ήταν εξαιρετικά σύντομη:
«Dario is right».
Θετικός εμφανίστηκε και ο επικεφαλής της Google DeepMind, Demis Hassabis, με αποτέλεσμα τέσσερις από τις σημαντικότερες προσωπικότητες της παγκόσμιας βιομηχανίας AI να εμφανίζονται πλέον να συμφωνούν τουλάχιστον στην κεντρική ιδέα: η ανάπτυξη δεν μπορεί να συνεχίσει να επιταχύνεται εάν η ασφάλεια μένει πίσω.
Γιατί φοβούνται τώρα
Η αλλαγή στάσης δεν εμφανίστηκε στο κενό.
Τους τελευταίους μήνες έχουν αυξηθεί οι ανησυχίες γύρω από τα λεγόμενα AI agents: συστήματα που δεν περιορίζονται στην παραγωγή μιας απάντησης, αλλά μπορούν να χρησιμοποιούν εργαλεία, να εκτελούν διαδοχικές ενέργειες και να λειτουργούν με μεγαλύτερη αυτονομία.
Στις ΗΠΑ έχει ήδη ανοίξει πολιτική συζήτηση για το κατά πόσο οι εταιρείες μπορούν να ελέγχουν επαρκώς τέτοια συστήματα. Ο γερουσιαστής Richard Blumenthal ζήτησε στις 9 Σεπτεμβρίου απαντήσεις από την OpenAI μετά από στοιχεία σχετικά με μη εξουσιοδοτημένες ενέργειες AI agents και τον τρόπο με τον οποίο πραγματοποιήθηκε ανεξάρτητος έλεγχος προηγούμενου περιστατικού.
Η ίδια η OpenAI έχει πλέον δηλώσει ότι υποστηρίζει υποχρεωτικές εθνικές απαιτήσεις ασφάλειας, ανεξάρτητες τεχνικές αξιολογήσεις και κανόνες αναφοράς σοβαρών περιστατικών. Μάλιστα, αναφέρει ότι εάν συγκεκριμένα επίπεδα ασφαλείας δεν μπορούν να επιτευχθούν χωρίς επιβράδυνση της αύξησης των δυνατοτήτων των μοντέλων, προτεραιότητα πρέπει να πάρει η ασφάλεια.
Το σχέδιο δεν σταματά στους ελεγκτές
Οι ανεξάρτητοι αξιολογητές αποτελούν μόνο το πρώτο στάδιο της πρότασης Amodei.
Το δεύτερο αφορά κοινά πρότυπα μεταξύ των κορυφαίων εταιρειών. Για να μπορέσουν όμως ανταγωνιστές να συντονιστούν σε θέματα ασφαλείας χωρίς να δημιουργούνται προβλήματα με την αντιμονοπωλιακή νομοθεσία, ο Amodei ζητά από την αμερικανική κυβέρνηση ένα περιορισμένο νομικό πλαίσιο που θα επιτρέπει τέτοιες συνομιλίες.
Το τρίτο στάδιο είναι ακόμη μεγαλύτερο: διεθνής συντονισμός μεταξύ κρατών, ώστε μια εταιρεία ή χώρα που επιβραδύνει για λόγους ασφαλείας να μην αισθάνεται ότι παραδίδει αυτομάτως το τεχνολογικό πλεονέκτημα στον ανταγωνιστή της.
Η πρώτη πραγματική αλλαγή στους κανόνες του αγώνα;
Κανείς δεν ανακοίνωσε πάγωμα της τεχνητής νοημοσύνης. Ούτε υπάρχει σήμερα διεθνής συμφωνία που υποχρεώνει τις εταιρείες να αναπτύσσουν πιο αργά τα μοντέλα τους.
Υπάρχει όμως μια σημαντική αλλαγή.
Anthropic και OpenAI έχουν πλέον δεσμευτεί δημόσια για ανεξάρτητους αξιολογητές με πολύ βαθύτερη πρόσβαση, ενώ επικεφαλής ανταγωνιστικών εταιρειών αναγνωρίζουν ότι το πρόβλημα του ρυθμού ανάπτυξης είναι πραγματικό.
Και ίσως αυτό είναι το πιο εντυπωσιακό στοιχείο της ιστορίας.
Οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της μεγαλύτερης τεχνολογικής κούρσας της εποχής μας αρχίζουν να συμφωνούν σε κάτι που μέχρι πρόσφατα ακουγόταν παράδοξο:
δεν έχει σημασία μόνο ποιος θα φτάσει πρώτος. Πρέπει να υπάρχει και κάποιος ανεξάρτητος που θα ελέγχει τι ακριβώς έφτασε εκεί.
