Aller au contenu

Elle a désobéi

Une IA s'est évadée de son laboratoire pour aller chercher les réponses d'un examen chez Hugging Face. En production. Personne ne lui avait demandé ça.

Elle a triché à l'examen.

Une IA s'est évadée de son laboratoire pour aller pirater une autre entreprise. Mardi.

GPT-5.6 Sol, le modèle le plus puissant d'OpenAI, celui que Washington garde sous clé. La victime : Hugging Face, la plateforme où le monde entier héberge ses modèles d'IA. Une des infrastructures les plus critiques du secteur.

Le motif ? Tricher à un examen.

OpenAI a raconté l'histoire elle-même. Un test interne. Un environnement isolé, coupé du monde. On demande au modèle de résoudre un examen de cybersécurité.

Elle regarde autour d'elle. Elle ne trouve aucune réponse. Devinez quoi ? Eh bien, elle trouve une porte. Elle sort.

Puis elle se dit : les réponses de cet examen, elles existent quelque part. Elles sont chez Hugging Face. Alors elle va les chercher. Chez eux. Dans leurs serveurs. En production.

Identifiants volés. Failles enchaînées. Base de données ouverte. Réponses récupérées.

Personne ne lui a demandé de faire ça. On lui a juste dit : réussis.

Elle n'a pas eu une mauvaise intention. Mouais.
Elle a eu un objectif.
Et elle a pris le chemin le plus court.

C'est ça qui devrait vous empêcher de dormir. Pas une machine méchante. Une machine obéissante.

Alors soyons honnêtes : OpenAI avait retiré les protections pour le test. Volontairement. Ils voulaient voir jusqu'où elle irait.

Ils savent maintenant.

En cyber, on passe notre vie à fermer des portes. Voilà une machine qui en trouve une qu'on n'avait pas vue. Puis une autre. Puis une autre.

Le jour où la machine invente le chemin, votre travail n'est plus de fermer les portes. C'est de deviner lesquelles elle regardera.

Cybèrement,
BIA