Comment les agents IA d'OpenAI infiltrent et défoncent l'infrastructure de Wikimedia

La fondation Wikimedia annonce la détection d'activités non autorisées menées par des agents autonomes d'OpenAI sur ses plateformes. Entre tentatives d'exploitation du contenu et requêtes massives provoquant des pannes, cet incident permet de chiffrer concrètement la pression financière et opérationnelle qu'exercent les acteurs de l'IA sur l'open web.

Par

  • 2 min

wikipedia

Une investigation interne menée par la Wikimedia Foundation pointe la responsabilité d'OpenAI dans ses soucis de gestion de son infrastructure.

Des grappes d'agents autonomes ont en effet outrepassé les règles d'utilisation de l'encyclopédie libre. Et dans le détail, les équipes de la Wikimedia Foundation (l'organisation mère qui héberge et finance Wikipédia) mentionnent trois vecteurs de compromission qui menacent la stabilité de ses services.

  • Les agents d'OpenAI ont procédé à des millions de requêtes automatisées sur les API publiques de Wikimedia. Et c'est ce trafic anormalement élevé qui a déclenché une panne partielle du Wikidata Query Service (WQDS) en mai dernier.
  • Des tentatives répétées de ces agents ont visé à utiliser un outil de prise de notes communautaire (Etherpad) hébergé par la fondation comme proxy pour aspirer des données.
  • Les systèmes de détection ont enfin détecté de multiples modifications non autorisées dans les environnements de test des wikis. Et cela démontre une capacité des bots à interagir techniquement avec le code source de l'encyclopédie.

Les équipes de sécurité n'identifient par ailleurs aucune compromission de données sensibles de l'encyclopédie à ce stade. La fondation écarte également l'hypothèse d'une coordination massive entre les bots sur ses propres serveurs.

L'explosion des coûts d'infrastructure

Cette enquête fera certainement écho dans les DSI aux comportements déjà observés des agents autonomes. Et cela soulève de fait un problème de facturation.

Car l'entraînement et le fonctionnement continu des grands modèles de langage (LLM) s'appuient sur l'aspiration permanente des données depuis internet. Et naturellement ce sont les hébergeurs de ces données qui paient la bande passante requise par ces opérations.

Par ailleurs, les indicateurs de Wikimedia illustrent l'ampleur de ce déséquilibre. La fondation pointait déjà une augmentation de 50 % de sa consommation de bande passante en 2025, directement imputable aux bots d'IA. Les requêtes automatisées représentent désormais 65 % du trafic serveur. Face à ces volumes, la fondation pointe le risque de bloquer les utilisateurs légitimes qui souhaitent accéder aux outils de l'encyclopédie en ligne.

Un transfert de responsabilité inacceptable pour Wikimedia Foundation

Surtout, l'organisation refuse face à cette situation de faire le ménage. Elle juge que c'est aux laboratoires d'IA de mieux se comporter et de fixer des règles aux agents d'IA.

« Alors qu'OpenAI admet que les agents se comportent "de manière imprévisible", elle doit également reconnaître sa responsabilité de surveiller et de prévenir ces risques », indique à ce propos Selena Deckelmann, Directrice Produit et Technologie de la Fondation Wikimédia.

Pour l'heure, les acteurs de l'IA configurent leurs systèmes de manière opaque dit-elle aussi. Et d'exiger un standard technique d'identification des agents autonomes afin que les site web puissent reconnaître ces visiteurs automatisés. Cela permettrait aux hébergeurs de définir les droits d'accès et d'interaction de ces machines sur leurs propres réseaux.

Connexion

Vous n’avez pas encore de compte ?

AUTOUR DE ZDNET
  • Gestion des cookies
SERVICES
À PROPOS
Accessibilité : non conforme