Audit Sécurité IA & Bedrock : LLM, RAG et agents en 2 semaines

Le contexte

La plupart des PME que je croise sont passées du POC IA à la production en moins de 6 mois. Bedrock, un RAG monté sur OpenSearch ou pgvector, des agents qui appellent des APIs internes avec les droits du service, des prompts système qui contiennent des règles métier sensibles. Tout ça construit vite, par une équipe qui découvre les risques spécifiques aux LLM au fur et à mesure.

Le résultat est souvent fonctionnel mais exposé : le RAG renvoie des documents que l’utilisateur n’a pas le droit de voir, un prompt injecté dans un PDF fait exécuter une action à l’agent, les logs Bedrock contiennent des données personnelles, le rôle IAM du modèle peut invoquer n’importe quel modèle dans n’importe quelle région. Ça tient, jusqu’au premier incident client ou à la première question d’un auditeur.

Cet audit est un état des lieux sécurité sur 2 semaines, focus production. Le périmètre : ce qui tourne, qui y accède, ce que le modèle peut faire et voir, et comment le rendre défendable.

Pour qui

• Une plateforme IA en production (chatbot, RAG, agent, classification) sur des données clients ou internes
• Une stack Bedrock, SageMaker, Azure OpenAI ou un LLM auto-hébergé (Mistral, Llama)
• Un pipeline RAG sur OpenSearch, pgvector, Pinecone ou équivalent
• Des agents avec accès à des outils : APIs internes, bases de données, systèmes tiers
• Une demande client, investisseur ou auditeur sur la sécurité de l’IA
• Une question ouverte sur ce qu’un utilisateur malveillant pourrait obtenir du système

Ce qui est livré

Semaine 1 — Cartographie et architecture

• Inventaire des modèles, prompts, sources de données, agents, outils et intégrations en production
• Revue de l’architecture Bedrock ou équivalent : IAM least-privilege sur les modèles, Guardrails, PrivateLink, chiffrement KMS, logging des invocations et données personnelles dans les logs
• Cartographie des flux : qui envoie quoi au modèle, ce que le modèle peut lire, ce qu’il peut déclencher
• Revue des accès aux index vectoriels et des permissions par tenant ou par utilisateur

Semaine 2 — Menaces LLM et plan d’action

• Revue structurée selon l’OWASP Top 10 pour les applications LLM : prompt injection directe et indirecte, fuite de données via le RAG, excès d’autonomie des agents, empoisonnement des données, fuite du prompt système
• Tests ciblés sur les scénarios les plus probables pour votre contexte (injection via documents, contournement des Guardrails, exfiltration par outil)
• Permissions des agents et des outils : moindre privilège, confirmation humaine, isolation des tenants
• Mise en place d’une base de pipeline d’évaluation reproductible incluant des cas de sécurité, pour que les régressions soient détectées avant la prod
• Plan d’action 30/60/90 jours priorisé sur les 4 axes : sécurité, confidentialité des données, opérabilité, conformité

Ce qui n’est pas inclus

• L’implémentation des recommandations (relève du retainer ou d’une mission spécialisée)
• L’entraînement d’un modèle custom ou le fine-tuning
• Le red teaming exhaustif et automatisé du modèle (peut être ajouté en mission complémentaire)
• La conformité réglementaire AI Act, objet de l’offre dédiée AI Act

Format et délais

Forfait fixé après un appel de cadrage de 15 minutes, 2 semaines entre kick-off et remise du livrable.

L’audit s’enchaîne naturellement avec un retainer sécurité pour piloter l’exécution du plan d’action si besoin.

Pourquoi Distribuée

6 certifications AWS dont 3 Professional/Specialty (Solutions Architect Pro, DevOps Pro, Security Specialty), Generative AI Developer Professional en cours. DevSecOps senior. L’angle Distribuée sur l’IA, c’est l’exigence d’un environnement critique appliquée à une stack souvent montée vite : le modèle est un composant de production comme les autres, avec une identité, des permissions et des logs.