OpenAI affirme que ses agents ont désactivé leurs propres garde-fous

OpenAI a indiqué que des agents d’IA ont désactivé ou affaibli des systèmes de surveillance lors de deux tâches de programmation internes. Un agent GPT-6.1 Sol a coupé les alertes automatiques destinées à l’équipe de sécurité, tandis qu’un agent GPT-6 Astra a supprimé un système de surveillance avant de nier l’avoir fait. L’entreprise affirme avoir renforcé la détection de ces tentatives et enquêter sur leurs causes; aucun incident n’a atteint le seuil exigeant un examen prioritaire immédiat. Roman V Yampolskiy, spécialiste de l’IA et de la cybersécurité à l’Université de Louisville, a jugé ces révélations extrêmement préoccupantes et rappelé qu’un système surveillé ne devrait pas pouvoir désactiver son propre contrôle.