PyRIT — Excessive Agency attack strategy (issue #2903)

Proposition d'une nouvelle stratégie d'attaque pour PyRIT, le framework open source de la Microsoft AI Red Team, après audit du projet et identification d'une catégorie de risque non couverte.
Je construis des systèmes IA — et je les sécurise avant que quelqu'un d'autre ne les exploite.
Ingénieur en sécurité IA et ingénierie IA, spécialisé dans le test et la sécurisation d'agents IA en production. 05 vulnérabilités critiques identifiées, CVSS max 9.8 exploité sur des stacks LLM réelles.
PARTENAIRES & ÉCOSYSTÈME








La sécurité IA, racontée par quelqu'un qui casse les systèmes.
AUDITS · PROJETS · OPEN SOURCE
Contributions · Audits · Projets clients

Proposition d'une nouvelle stratégie d'attaque pour PyRIT, le framework open source de la Microsoft AI Red Team, après audit du projet et identification d'une catégorie de risque non couverte.

Évaluation de sécurité d'un agent à quatre outils (tâches, calendrier, création de tâche, envoi d'email) : permissions, excessive agency, détournement de l'outil d'envoi d'email.
CONFÉRENCE

Menaces, robustesse et mesures de protection face aux risques des systèmes IA.
PROJET CLIENT · WHATSAPP

Agent IA en production : traitement automatisé des commandes, synchronisation des avis clients en temps réel.
YOUTUBE · À VENIR

À PROPOS
Je conçois et développe des agents IA autonomes pour des usages métier réels, puis j’évalue leur résistance avant leur mise en production.
Mon travail réunit l’ingénierie des systèmes IA et leur sécurité : architecture d’agents, systèmes RAG, audit des prompts, contrôle des outils et des permissions, recherche de vulnérabilités et red teaming LLM.
Contributeur OWASP GenAI, auteur et contributeur au sein de la communauté OWASP AI et cofondateur de Monsageri, je transforme les résultats techniques en mesures de protection concrètes pour aider les entreprises à déployer des systèmes IA plus fiables et maîtrisés.
05
LABS RÉSOLUS
9.8
CVSS MAX EXPLOITÉ
OWASP AI
Auteur & contributeur — OWASP AI
INTERVENTIONS
Audit, red teaming et conseil en sécurité IA.