IA et cybersécurité en entreprise sans freiner l'adoption

Vos équipes utilisent déjà l'IA, que vous l'ayez décidé ou non. Ce constat change la manière d'aborder le sujet IA et cybersécurité en entreprise. L'IA est à la fois un bouclier qui accélère la détection des menaces et une cible, voire une arme, entre les mains des attaquants.

Selon notre expérience de direction de systèmes d'information, la sécurité ne peut plus courir derrière l'adoption. Elle doit évoluer au même rythme, avec une gouvernance portée par le CODIR et une exécution maîtrisée par la DSI.

Temps de lecture : 9 minutes

IA et cybersécurité en entreprise sans freiner l'adoption

1. IA et cybersécurité en entreprise, deux sujets qui n'en font plus qu'un

2. Comment l'IA renforce la détection des menaces

3. Comment les attaquants retournent l'IA contre l'entreprise

4. Les risques de l'IA pour la cybersécurité de vos propres systèmes

5. Gouvernance de l'IA et sécurité, avancer au même rythme

6. Sécuriser un agent IA connecté au système d'information

7. Choisir ses briques de sécurité au-delà du discours commercial

8. Les indicateurs à suivre au niveau du CODIR

9. Gouverner l'IA au rythme de la cybersécurité

10. FAQ

IA et cybersécurité en entreprise, deux sujets qui n'en font plus qu'un

L'expression recouvre deux réalités que l'on confond souvent. La première est l'IA pour la cybersécurité. Elle désigne les outils qui détectent des anomalies, trient les alertes, assistent les analystes et automatisent une partie de la réponse aux incidents.

La seconde est la cybersécurité des systèmes d'IA, c'est-à-dire la protection des données confiées aux modèles, des prompts, des API, des agents et des fournisseurs qui les opèrent.

Les deux sont indissociables. Une entreprise qui équipe son SOC d'un assistant intelligent sans sécuriser ses propres usages ouvre une porte en renforçant une autre. Le World Economic Forum recommande d'ailleurs de traiter la sécurité de l'IA dès la conception, pendant toute l'exploitation et lors de réévaluations régulières des vulnérabilités. Ce que nous constatons chez nos clients va dans le même sens : le sujet relève de la gestion des risques de l'entreprise, pas d'un simple projet technique.

Les chiffres disponibles confirment l'urgence. Une étude de Cyera menée auprès de plus de 900 responsables de la sécurité indique que 83 % des entreprises utilisent déjà l'IA au quotidien, mais que seules 13 % disposent d'une visibilité forte sur ces usages.

De son côté, Accenture, sur la base de 2 286 dirigeants de la technologie et de la cybersécurité, estime qu'une organisation sur dix seulement est correctement préparée face aux menaces cyber augmentées par l'IA.

Comment l'IA renforce la détection des menaces

Principes de détection assistée par l'IA

La détection des menaces par IA repose sur une capacité simple à énoncer et difficile à reproduire humainement : analyser en continu des volumes considérables de journaux, d'événements réseau, de terminaux et d'identités pour repérer ce qui sort de l'ordinaire.

Une connexion à une heure inhabituelle, un volume de transfert anormal ou un enchaînement d'actions isolément banales mais suspectes une fois corrélées. C'est le principe de la détection d'anomalies comportementales, désormais intégrée à la plupart des SIEM et des solutions XDR ou EDR.

Le deuxième apport concerne la charge des équipes. Un assistant IA SOC regroupe les alertes similaires, résume un incident, propose des hypothèses d'investigation et prépare les premiers éléments du rapport. Mandiant observe que les ressources destinées aux analystes SOC intègrent de plus en plus des assistants et des prompts conçus pour réduire les écarts de compétences. Pour une ETI qui peine à recruter des analystes expérimentés, c'est un levier concret.

Troisième apport, l'automatisation de la réponse. Dans un cadre contrôlé, l'IA peut isoler un poste compromis, révoquer une session, réinitialiser un secret ou bloquer un domaine. Sur les SI que nous accompagnons, nous posons une règle constante : toute action irréversible ou à fort impact reste soumise à une validation humaine. L'IA accélère la décision, elle ne la prend pas seule.

Enfin, l'IA aide à corréler les vulnérabilités connues avec l'exposition réelle de l'entreprise, ses actifs critiques et les signaux d'exploitation observés. Elle améliore la priorisation, sans remplacer les tests ni l'arbitrage fondé sur le risque.

Comment les attaquants retournent l'IA contre l'entreprise

Tactiques des attaquants appuyées sur l'IA

Le même progrès profite aux attaquants, et c'est là que la stratégie de sécurité doit se repenser. L'ingénierie sociale et le phishing augmentés changent d'échelle. Un message frauduleux n'a plus de fautes, il reprend le ton d'un fournisseur réel, il est produit en plusieurs langues et personnalisé à partir d'informations publiques sur vos collaborateurs. Le rapport Cisco Cybersecurity Readiness Index cite explicitement l'ingénierie sociale augmentée par l'IA parmi les menaces majeures.

L'hypertrucage (deepfake) ajoute une dimension nouvelle. Imiter la voix d'un dirigeant au téléphone ou son visage en visioconférence pour obtenir un virement urgent n'est plus un scénario de film. La fraude au président, que beaucoup d'entreprises françaises connaissent déjà, devient beaucoup plus convaincante.

La réponse n'est pas seulement technologique : elle passe par des procédures de double validation hors canal pour toute demande sensible, quelle que soit l'apparente autorité du demandeur.

Les attaquants utilisent aussi l'IA pour découvrir plus vite des vulnérabilités, générer des variantes de logiciels malveillants et automatiser leurs campagnes. Le rythme des attaques s'accélère, ce qui réduit d'autant le temps dont dispose la défense.

Important

La sensibilisation au phishing reposait souvent sur des indices visuels comme les fautes ou les formulations maladroites. Ces signaux disparaissent, et les formations doivent désormais insister sur la vérification des procédures plutôt que sur la détection d'erreurs.

Les risques de l'IA pour la cybersécurité de vos propres systèmes

La sécurité de l'IA en entreprise ne se limite pas à se défendre contre des attaquants externes. Vos propres usages créent de nouvelles surfaces d'exposition.

Shadow AI et fuites de données

Le shadow AI en entreprise désigne l'usage d'outils d'IA non validés par la DSI. Un collaborateur colle un contrat, un fichier client ou un extrait de code source dans un assistant public pour gagner du temps. L'intention est bonne, la conséquence peut être grave. C'est ainsi que survient une fuite de données via ChatGPT en entreprise ou tout autre assistant grand public.

Le rapport Cyera décrit l'IA comme une nouvelle identité au sein de l'entreprise, puissante, rapide et insuffisamment gouvernée. Au regard du RGPD, la transmission de données personnelles à un service tiers sans base juridique ni encadrement contractuel engage directement la responsabilité de l'entreprise, et la CNIL a publié des recommandations spécifiques sur le sujet.

Injection de prompt et agents trop permissifs

L'injection de prompt consiste à glisser une instruction malveillante dans un contenu traité par le modèle, un courriel, une page web ou un document, pour lui faire contourner ses règles. L'OWASP Top 10 pour les LLM la place en tête des risques.

Le danger devient critique avec un agent autonome capable d'appeler des API ou d'agir dans un ERP. Une erreur de raisonnement ou une injection réussie se transforme alors en action réelle sur le système d'information. Nous détaillons ces mécanismes dans notre article consacré à la sécurité des prompts.

Empoisonnement, extraction de modèle et chaîne d'approvisionnement

L'empoisonnement des données vise à altérer les données d'entraînement ou les bases documentaires de référence pour biaiser les réponses. Le vol de modèle et l'extraction de modèle cherchent à copier un modèle ou à reconstituer son comportement, ce qui peut compromettre un avantage concurrentiel. Le Cisco Cybersecurity Readiness Index mentionne le vol de modèles et les accès non autorisés parmi les menaces liées à l'IA.

S'y ajoute la chaîne d'approvisionnement logicielle et IA : bibliothèques, modèles open source, jeux de données et API tierces. Une compromission chez un fournisseur se propage à tous ses clients. La base MITRE ATLAS recense ces techniques d'attaque propres aux systèmes d'IA et constitue un bon point d'appui pour les équipes sécurité.

Reste l'hallucination. En cybersécurité, une analyse fausse produite avec assurance peut faire bloquer un service critique ou, à l'inverse, laisser passer une intrusion.

Gouvernance de l'IA et sécurité, avancer au même rythme

Faut-il interdire les assistants IA pour couper court au risque ? Selon notre expérience, l'interdiction pure déplace le problème vers des usages invisibles et prive l'entreprise de gains réels. La bonne réponse est de gouverner sans interdire, en offrant une alternative sécurisée et en posant un cadre clair.

Ce cadre commence par un inventaire des systèmes d'IA : modèles internes, outils SaaS intégrant de l'IA, assistants utilisés par les équipes, agents connectés aux systèmes métier, données traitées, fournisseurs et pays d'hébergement. La correspondance publiée par le NIST entre son AI Risk Management Framework et ISO/IEC 42001 met explicitement en avant cette pratique.

C'est précisément ce que révèle un Diagnostic IA : les usages non gouvernés, l'état réel des données et les risques associés, avant tout arbitrage d'investissement.

Vient ensuite la classification des risques, selon la sensibilité des données, le niveau d'autonomie, l'accès à des systèmes critiques, la réversibilité des actions et la dépendance à un fournisseur. Cette grille rejoint la logique du Règlement européen sur l'IA (AI Act), qui impose des exigences de robustesse et de cybersécurité proportionnées au niveau de risque des systèmes.

La politique d'usage acceptable de l'IA traduit ce cadre pour les collaborateurs. Elle précise les outils autorisés, les données interdites dans les prompts, les cas où la validation humaine est obligatoire, la conservation des journaux et la procédure de signalement d'un incident. Elle ne s'écrit utilement qu'une fois les risques identifiés et les décideurs alignés.

Sur le plan normatif, la question d'ISO 42001 et ISO 27001 revient souvent. ISO/IEC 27001 encadre le système de management de la sécurité de l'information, ISO/IEC 42001 celui de l'intelligence artificielle. Les associer permet de relier gouvernance de l'IA et sécurité de l'information au lieu de les traiter en silos. Les recommandations de l'ANSSI sur la sécurisation des systèmes d'IA complètent utilement ces référentiels pour un contexte français.

À retenir

L'IA ne supprime aucun contrôle classique. Gestion des identités et des accès, authentification multifacteur, segmentation, sauvegardes et réponse aux incidents gagnent au contraire en importance.

Sécuriser un agent IA connecté au système d'information

Architecture sécurisée d'un agent connecté

Sécuriser un agent IA demande une architecture pensée dès le départ. Sur les projets que nous menons jusqu'à la pré-industrialisation, nous retenons systématiquement les briques suivantes :

• une passerelle d'IA d'entreprise qui centralise les accès aux modèles et applique les règles d'usage

• le principe du moindre privilège, avec des permissions granulaires adossées à la gestion des identités et des accès

• une DLP (prévention des fuites de données) qui filtre les informations sensibles dans les prompts et les réponses

• une journalisation et une traçabilité complètes des requêtes, des outils appelés et des actions réalisées

• des tests adversariaux (red teaming) avant mise en production puis à chaque changement de modèle

• une coupure d'urgence capable de désactiver un agent compromis en quelques secondes

• l'intégration des événements liés à l'IA dans la supervision du SOC

Cette architecture s'inscrit dans une démarche plus large de gestion de la posture de sécurité de l'IA. Elle conditionne aussi la réponse aux incidents : préserver les journaux, retracer les actions de l'agent, révoquer les identifiants et évaluer les obligations de notification.

L'hébergement compte également. Une exécution souveraine, en France ou dans l'Union européenne, simplifie la maîtrise des flux de données et la conformité.

Choisir ses briques de sécurité au-delà du discours commercial

Le marché foisonne d'offres présentées comme indispensables. Pour arbitrer, nous recommandons de comparer des catégories de solutions plutôt que des arguments marketing.

Comparaison des catégories de solutions de sécurité liées à l'IA

• Catégorie: SIEM augmenté par l'IA Fonction principale: Corrélation et analyse des événements Points à vérifier: Qualité des données, intégration, explicabilité

• Catégorie: XDR ou EDR avec IA Fonction principale: Détection et réponse sur les terminaux Points à vérifier: Précision, isolation automatique, réversibilité

• Catégorie: Passerelle de sécurité pour l'IA Fonction principale: Contrôle des prompts et des modèles Points à vérifier: Protection des données, filtrage, compatibilité

• Catégorie: Gestion de la posture IA Fonction principale: Inventaire et évaluation des risques Points à vérifier: Découverte des usages non déclarés, cartographie

• Catégorie: Protection des données Fonction principale: Détection et blocage des informations sensibles Points à vérifier: Classification, intégration cloud, faux positifs

• Catégorie: Sécurité des modèles Fonction principale: Tests adversariaux et surveillance Points à vérifier: Injection, extraction, empoisonnement, robustesse

• Catégorie: Assistant SOC Fonction principale: Résumé et investigation des alertes Points à vérifier: Traçabilité, sources utilisées, validation humaine

Au-delà des fonctions, les critères décisifs restent la localisation des données, les certifications, les capacités de journalisation, la réversibilité contractuelle et la qualité du support.

Les indicateurs à suivre au niveau du CODIR

Un dispositif ne se pilote pas sans mesures. Pour évaluer la maturité en IA et cybersécurité, nous proposons à nos clients un tableau de bord resserré, lisible par le CODIR :

• le pourcentage de systèmes d'IA inventoriés et validés par la sécurité

• le nombre d'usages de shadow AI détectés et leur évolution

• le nombre d'incidents impliquant des données sensibles

• les délais moyens de détection et de réponse

• le taux de succès des tests d'injection de prompt

• le nombre d'agents dotés de permissions excessives

• le pourcentage de fournisseurs évalués et de collaborateurs formés

Ces indicateurs ont une vertu : ils transforment un sujet perçu comme technique en sujet de gouvernance, discuté au même niveau que les autres risques de l'entreprise.

Gouverner l'IA au rythme de la cybersécurité

L'IA renforce la défense autant qu'elle arme l'attaque et expose de nouvelles surfaces. La conclusion pour un dirigeant est simple : la cybersécurité doit évoluer au rythme de l'adoption de l'IA, ni avant, ni après.

Cela suppose de savoir ce qui est réellement utilisé, de classer les risques, de poser un cadre partagé par le CODIR et de bâtir une architecture qui garde l'humain dans la boucle pour les décisions sensibles. Les entreprises qui réussissent ne sont pas celles qui interdisent ni celles qui laissent faire, mais celles qui gouvernent.

FAQ

Quelle différence entre la sécurité de l'IA et l'IA pour la cybersécurité ?

La sécurité de l'IA protège vos propres systèmes d'IA, leurs données, leurs accès et leurs actions. L'IA pour la cybersécurité utilise des modèles pour améliorer la détection et la réponse aux attaques. Une stratégie complète traite les deux, car un outil de défense intelligent mal sécurisé devient lui-même une cible.

Comment empêcher concrètement les fuites de données vers un assistant IA ?

La combinaison la plus efficace associe une offre interne sécurisée, une passerelle d'IA qui filtre les données sensibles, une DLP et une politique d'usage connue de tous. Bloquer sans proposer d'alternative pousse les usages vers des canaux non maîtrisés.

La certification ISO/IEC 42001 est-elle nécessaire pour une PME ou une ETI ?

Elle n'est pas obligatoire. En revanche, s'inspirer de sa structure, surtout si l'entreprise est déjà engagée dans ISO/IEC 27001, donne un cadre solide et facilite les échanges avec les clients et les auditeurs qui interrogent de plus en plus la gouvernance de l'IA.

Qui doit porter le sujet dans l'entreprise ?

La DSI pilote l'exécution, mais les arbitrages relèvent du CODIR, car ils engagent des risques financiers, juridiques et réputationnels. Un temps de cadrage commun, comme l'Atelier IA CODIR de quatre heures dans vos locaux, permet à chaque membre de partir avec la même lecture des enjeux avant d'engager la suite.

L'AI Act impose-t-il des obligations de cybersécurité ?

Oui, pour les systèmes classés à haut risque, le règlement exige notamment un niveau approprié de robustesse et de cybersécurité tout au long du cycle de vie. Même hors de ce périmètre, la documentation et la traçabilité qu'il encourage sont de bonnes pratiques de sécurité.