Les points clés à retenir sur la gestion du Shadow AI en entreprise
- L’IA « fantôme » met les entreprises et leurs données en danger.
- Les dirigeants d’entreprise devraient laisser leurs collaborateurs expérimenter l’IA.
- Des directives soigneusement établies sont la clé du succès.
L’IA « fantôme » est en train de devenir un problème majeur pour les organisations. Des études indiquent que 45 % des employés ont utilisé des outils d’IA non autorisés au cours des 30 derniers jours, et que 36 % d’entre eux ont utilisé des données confidentielles avec ces services.
Tal Carmi, DSI chez WalkMe, spécialiste des technologies, dont l’entreprise a publié son rapport « State of Digital Adoption 2026 » basé sur une enquête mondiale menée auprès de 3 750 professionnels, dit à ZDNET que cette étude montre que l’IA « fantôme » est souvent le symptôme d’un problème d’adoption plus large : les employés contournent les outils approuvés s’ils sont difficiles à utiliser, s’ils ne s’intègrent pas naturellement dans les flux de travail existants ou s’ils ne les aident pas à accomplir leur travail.
« En général, ce n’est pas par malveillance », dit-il, expliquant pourquoi les professionnels utilisent des outils d’IA non autorisés.
« C’est parce qu’ils ont trouvé un outil qui remplit une fonction et qui est plus performant que les services fournis par l’entreprise. S’ils ne parviennent pas à trouver le juste équilibre, les gens se tournent vers ce qui leur convient. Et je pense que cette approche s’explique en partie par un manque de formation. »
34 % des professionnels ignorent selon l'étude quels outils d’IA ont été approuvés par leur employeur, et seuls 21 % ont été informés des politiques de leur employeur en matière d’IA.
La mise en garde de l'IA Act dans les entreprises
Cependant, même si les professionnels peuvent utiliser des outils d’IA non autorisés sans le savoir ou avec les meilleures intentions du monde, leurs agissements peuvent avoir de graves conséquences pour leur entreprise.
Des données sensibles peuvent fuir à travers des pare-feu d’entreprise pourtant hautement sécurisés. L’utilisation non autorisée de services d’IA par les professionnels peut également exposer les entreprises au risque d’enfreindre les règles et réglementations, ce qui peut entraîner des sanctions financières potentiellement très lourdes.
Prenons l’exemple de la version mise à jour de la loi européenne sur l’IA et de l’article 50, qui introduit de nouvelles obligations de transparence. Les entreprises qui ne s’y conforment pas s’exposent à des amendes de 15 millions d’euros ou de 3 % de leur chiffre d’affaires annuel mondial total.
Selon M. Carmi, le risque lié à l’IA « fantôme » oblige les dirigeants et les professionnels à maintenir un équilibre délicat entre la promotion et la restriction des technologies émergentes.
« La solution la plus simple serait de fournir à l’utilisateur un ensemble d’outils sans restriction, ce qui serait formidable pour l’employé, mais catastrophique pour l’entreprise et le RSSI », dit-il. « La meilleure approche pour le RSSI consiste à proposer une boîte à outils très contrôlée et très limitée, ce qui serait horrible pour les employés. »
Alors, comment les entreprises peuvent-elles trouver le juste équilibre ? Les dirigeants d’entreprise ont indiqué que la gestion de l’IA « fantôme » repose sur deux approches clés :
- Laisser les employés expérimenter
- Etablir des lignes directrices acceptables
Laisser les employés expérimenter, avec prudence
Kirsty Roth, directrice des opérations chez Thomson Reuters, dit à ZDNET que trouver cet équilibre au sein de son organisation repose sur une stratégie prudente, qui n’empêche pas les collaborateurs d’explorer l’IA avant que les contraintes ne soient mises en place.
« Les meilleurs collaborateurs de votre organisation sont curieux lorsque de nouvelles technologies apparaissent », dit-elle. « Et qu’il s’agisse d’un nouveau modèle ChatGPT ou d’un nouveau service de Claude, les gens ont envie de l’essayer. »
Mais Mme Roth reconnaît que certaines de ces explorations ne seraient pas autorisées dans sa propre entrerpise. Le rapport « 2026 Future of Professionals » de Thomson Reuters montre qu’un tiers des avocats, comptables et professionnels de la conformité utilisent des outils d’IA non approuvés par leur organisation. Et ce chiffre grimpe à 41 % parmi ceux qui estiment que leur cabinet progresse trop lentement en matière d’IA.
Laisser aux collaborateurs une marge de manœuvre pour explorer l’IA
Cependant, tout en reconnaissant que l’utilisation non autorisée d’outils d’IA peut mettre une entreprise dans une situation délicate, elle dit aussi qu’il est difficile de restreindre les actions des collaborateurs tant que l’on ne comprend pas la valeur des services qu’ils sont impatients d’exploiter.
Chez Thomson Reuters, sa stratégie d’attente a été de laisser aux collaborateurs une certaine marge de manœuvre pour explorer l’IA.
« Au début, nous nous contentions de suivre de près l’IA », dit-elle. « Nous ne l’avons pas empêchée. Nous veillions simplement à savoir où cela menait. Si nous essayions de la bloquer, ils se tourneraient probablement vers d’autres pratiques potentiellement plus graves, comme le transfert de données de l’entreprise vers un appareil personnel. »
En suivant ces expériences avec l’IA, Mme Roth et son équipe ont élaboré une stratégie permettant aux professionnels de tester ces outils en toute sécurité.
Fournir les mêmes fonctionnalités via une sandbox
« Nous avons collaboré avec les équipes en leur disant : “Très bien, nous vous avons fourni un accès approprié. Nous aimerions que vous passiez à ce service», et nous nous sommes assurés de bien comprendre ce qu’ils utilisaient, puis nous leur avons rapidement fourni les mêmes fonctionnalités, mais via un canal autorisé, au sein de notre « sandbox » : les données ne partaient nulle part et les informations relatives à la propriété intellectuelle de l’entreprise ne pouvaient pas être exposées. »
Mme Roth dit que Thomson Reuters bénéficie de capacités cybernétiques sophistiquées permettant de détecter les transferts d’informations entrants ou sortants. Elle conseille aux autres chefs d’entreprise de procéder avec prudence et d’établir une stratégie garantissant que leur entreprise ne risque pas de passer à côté des avantages concurrentiels potentiels que peuvent apporter les explorations des employés dans le domaine de l’IA.
« Au début, on voyait des gens essayer d’utiliser ces outils par simple curiosité, et je pense que tout l’art consiste probablement à trouver le moyen de les accompagner dans cette démarche et de leur donner ce qu’ils veulent, plutôt que d’être trop normatif et de se rendre compte ensuite qu’ils s’y prennent mal. »
Établir des lignes directrices acceptées
Carmi, de WalkMe, convient qu’il est essentiel que les dirigeants d’entreprise aient une visibilité sur les outils d’IA utilisés par les employés, les informations qu’ils partagent et la manière dont les collaborateurs s’appuient sur l’IA dans leur travail quotidien.
Sans cette compréhension, les organisations ne peuvent pas réguler efficacement l’utilisation de l’IA ni faire preuve de pratiques responsables.
« Je pense que la réussite repose sur l’autonomisation et le transfert de connaissances. S’ils utilisent un outil, ou s’ils envisagent de l’utiliser, essayez de comprendre pourquoi. Avez-vous une solution à leur proposer ? Avez-vous autre chose qui fonctionne ? », a-t-il déclaré.
« Car si vous leur proposez un outil d’IA qui leur apporte 80 % de la valeur ajoutée, mais qui est entièrement autorisé, je pense que la plupart des gens diront : “D’accord, je vais l’utiliser”, surtout une fois que vous leur aurez fait prendre conscience que l’utilisation non autorisée représente un risque réel pour eux-mêmes et pour leur entreprise. »
Un exemple de bonnes pratiques dans le secteur bancaire
À l’instar de Carmi, Gill Haus, DSI de Chase, dit à ZDNET que très peu de personnes utilisent des outils non autorisés dans une intention malveillante.
« Je ne sais pas si j’appellerais cela de l’IA “de l’ombre”, car le terme “ombre” implique que quelqu’un est dans son coin en train de faire quelque chose que nous ne voulons pas qu’il fasse », dit-il.
M. Haus explique que les contrôles de son organisation en matière d’IA sont intégrés à LLM Suite, la plateforme agentique interne de Chase que le personnel peut utiliser pour poser des questions, examiner des documents et rédiger des cahiers des charges.
LLM Suite a été lancée à l’été 2024 et donne accès à des LLM dans un environnement sécurisé. Grâce à cette approche, les collaborateurs de Chase, tant au sein du service informatique que dans l’ensemble de l’entreprise, peuvent tester de nouvelles fonctionnalités en toute confiance, sachant qu’ils n’enfreignent aucune règle.
« Tout passe par notre pipeline sécurisé et fiable, ce qui signifie qu’il n’y a pas d’IA fantôme »
« Nous voulons que les gens utilisent cette technologie pour apprendre », dit-il. « Tout passe par notre pipeline sécurisé et fiable, ce qui signifie qu’il n’y a pas d’IA fantôme. »
M. Haus conseille aux autres dirigeants d’entreprise et à leurs collaborateurs de mettre en place des directives similaires en matière d’IA.
« Les entreprises doivent réfléchir à la manière de déployer ces technologies, car elles sont très puissantes et font l’objet d’un engouement considérable », dit-il.
« Utiliser l’IA de manière contrôlée et responsable est la seule façon dont nous pouvons l’aborder. Je pense que c’est également la seule voie possible pour les autres entreprises. Ainsi, lorsque les collaborateurs utilisent l’IA, vous avez l’assurance que si, pour une raison quelconque, ils commettent une erreur ou agissent de manière inappropriée, vous gardez le contrôle. »
Source : "ZDNet.com"