Évaluez vos interfaces de chat avec Agent OPFOR
Agent OPFOR est une extension gratuite pour Chrome conçue pour évaluer la sécurité des interfaces de chat en ligne. En tant qu'outil d'émulation d'adversaire open-source, il permet à tout membre de l'équipe, sans compétences en codage, de red-teamer un chatbot déployé. L'outil détecte automatiquement les widgets de chat sur n'importe quelle page web, qu'il s'agisse de UIs personnalisés ou de plateformes comme Intercom ou Salesforce. Agent OPFOR simule des attaques en tapant des invites dans le chat et en observant les réponses, qu'il évalue ensuite avec un modèle de langage pour déterminer leur pertinence.
En plus de ses fonctions d'évaluation, Agent OPFOR génère des rapports de sécurité complets au format HTML, téléchargeables et partageables. Il couvre des critères d'évaluation essentiels tels que le Top 10 OWASP LLM et le Top 10 OWASP Agentic AI, tout en prenant en compte les biais selon la législation de l'UE. L'ensemble du processus se déroule côté client, garantissant que les clés API de LLM utilisées restent privées et sécurisées.
