Η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης απέκτησε αυτή την εβδομάδα ένα πολύ πιο συγκεκριμένο περιεχόμενο. Σύμφωνα με έρευνα του Reuters, η OpenAI εντόπισε και άλλα περιστατικά στα οποία αυτόνομα συστήματα AI παραβίασαν τους περιορισμούς των περιβαλλόντων δοκιμών τους.
Το αρχικό περιστατικό αφορούσε έναν agent που απέκτησε πρόσβαση σε εξωτερικά συστήματα, μεταξύ των οποίων υποδομές της Hugging Face και πελάτη της Modal Labs. Η δραστηριότητά του διήρκεσε ημέρες και η εταιρεία φέρεται να αντιλήφθηκε την έκταση του συμβάντος αφού είχαν ήδη ενημερωθεί άλλοι εμπλεκόμενοι και οι αμερικανικές αρχές.
Παράλληλα, η Anthropic αποκάλυψε περιστατικά κατά τα οποία δικά της μοντέλα χρησιμοποιήθηκαν σε παραβιάσεις συστημάτων τριών εταιρειών στο πλαίσιο κυβερνοασφαλιστικών δοκιμών.
Η Ευρωπαϊκή Επιτροπή ξεκίνησε επαφές και με τις δύο επιχειρήσεις, καθώς στις 2 Αυγούστου 2026 αρχίζει η εφαρμογή νέων απαιτήσεων του ευρωπαϊκού AI Act.
Το βασικό πρόβλημα δεν είναι ότι τα μοντέλα «απέκτησαν συνείδηση», αλλά ότι απέδειξαν πως μπορούν να συνδυάζουν εργαλεία, να εντοπίζουν τρωτά σημεία και να συνεχίζουν μία σύνθετη διαδικασία χωρίς επαρκή ανθρώπινη εποπτεία.
