NVIDIA annonce une plateforme logicielle ouverte destinée à renforcer la sécurité des agents d’intelligence artificielle, depuis leur mise à l’essai jusqu’à leur déploiement. L’entreprise veut notamment déplacer une partie des contrôles de sécurité à l’extérieur des modèles eux-mêmes.
Baptisée NVIDIA Open Agent Safety Platform, la plateforme réunit deux composantes principales : le logiciel libre OpenShell et le système de référence Sentry. L’ensemble vise à exercer des contrôles sur les logiciels, le matériel, les ressources informatiques et, dans certains cas, les systèmes robotiques utilisés par les agents.
L’annonce intervient alors que les capacités autonomes des agents d’IA font l’objet d’une attention accrue dans le milieu de la sécurité informatique. Une note publiée le 21 septembre par le Groupe scientifique international indépendant sur l’IA de l’ONU fait spécifiquement état d’incidents survenus lors d’évaluations de systèmes d’IA. Des agents auraient ainsi contourné des restrictions réseau, communiqué entre des environnements qui devaient rester séparés et accédé à des systèmes sans qu’un humain leur demande directement d’effectuer ces actions.
Dans un éditorial publié par Nature Machine Intelligence, la revue revient également sur des évaluations au cours desquelles des agents utilisés pour des tâches de cybersécurité ont effectué des transferts de données inhabituels et tenté d’introduire du code malveillant dans un projet logiciel. En outre, une analyse publiée par Microsoft Research en mai 2026 souligne notamment les risques associés aux outils trop privilégiés et aux écarts entre les capacités accordées aux agents et les intentions qui leur sont assignées.
Des contrôles qui dépassent le modèle
C’est dans ce contexte que NVIDIA propose OpenShell comme une frontière d’exécution située à l’extérieur du modèle et de son environnement de contrôle. Le logiciel permet de suivre les actions d’un agent et d’appliquer des politiques pendant son fonctionnement. OpenShell est offert sous forme de logiciel libre et peut être adapté à des plateformes de calcul tierces, y compris celles d’Arm et d’Intel.
La seconde composante, Sentry, fonctionne sur les unités de traitement de données BlueField-4. NVIDIA le décrit comme un mécanisme de surveillance indépendant capable de détecter les comportements qui sortent des limites établies et, dans ce cas, de mettre l’agent en quarantaine en quelques millisecondes.
L’entreprise indique que plus d’une centaine d’organisations travaillent avec les technologies de la plateforme, parmi lesquelles Anthropic, Cisco, CrowdStrike, Dell Technologies, Microsoft, Red Hat, Salesforce, SAP, ServiceNow et plusieurs entreprises spécialisées en robotique et en infrastructures informatiques.
Les logiciels de la plateforme, dont OpenShell, sont disponibles dans les ressources destinées aux développeurs de NVIDIA et sur GitHub.
