NVIDIA Open Agent Safety Platform mise sur la sécurité
La NVIDIA Open Agent Safety Platform vise à fournir un environnement permettant de mieux encadrer les actions réalisées par les agents IA. La plateforme repose sur une combinaison de composants logiciels et matériels destinés à renforcer le contrôle de ces systèmes.
OpenShell pour suivre les actions des agents IA
Au cœur de la plateforme figure OpenShell, un logiciel open source conçu pour tracer les actions effectuées par les agents. Il permet également d’appliquer des politiques afin de définir et contrôler les comportements autorisés.
Sentry intégré aux processeurs BlueField
La solution associe également OpenShell au matériel Sentry, intégré aux processeurs BlueField de NVIDIA. Cette combinaison doit permettre de compléter les mécanismes logiciels de contrôle par une composante matérielle dédiée à la sécurité.
Une plateforme soutenue par 100 partenaires
NVIDIA indique que sa nouvelle plateforme bénéficie du soutien de 100 partenaires. Cette participation accompagne le lancement d’une approche ouverte destinée à répondre aux enjeux liés à la sécurité et au contrôle des agents d’intelligence artificielle.
