Comment désactiver les outils d’IA non approuvés à l’échelle de l’entreprise

Alors que de nombreuses entreprises déploient délibérément l’IA pour améliorer la qualité et l’efficacité, des outils d’IA non autorisés prolifèrent encore plus rapidement dans les environnements d’entreprise. Les éditeurs de logiciels intègrent l’IA directement dans les produits que les entreprises utilisent déjà (comme Microsoft Copilot et Google Gemini), tandis que les employés prennent l’initiative d’installer des outils en cachette. Résultat : les entreprises sont confrontées à un canal de fuite de données mal géré, car leurs employés copient-collent des informations provenant des systèmes de l’entreprise dans des chatbots d’IA, transmettant ainsi des données non seulement au fournisseur SaaS, mais aussi directement aux développeurs à l’origine du modèle d’IA sous-jacent. Les risques et les stratégies d’atténuation varient en fonction du type de système d’IA concerné. Nous abordons ce vaste sujet en mettant l’accent sur les outils permettant de détecter et de bloquer l’IA à deux niveaux distincts.

Types de systèmes d’IA indésirables

Selon le type d’IA concerné, la gestion et le blocage de son utilisation nécessitent une approche différente. Il est essentiel de classer l’IA en quatre catégories distinctes :

• Fonctionnalités d’IA intégrées aux plateformes. Pensez à Microsoft Copilot, Google Gemini et Apple Intelligence, ainsi qu’aux fonctionnalités d’IA intégrées directement dans les navigateurs. Le problème avec ces fonctions, c’est qu’elles sont intégrées à des outils du quotidien, qu’elles sont immédiatement accessibles à tous les utilisateurs (et s’affichent parfois de manière envahissante) et, surtout, que les éditeurs tentent de les activer par défaut.
• Des assistants IA intégrés aux applications professionnelles. Cette catégorie comprend Slack AI, Zoom AI Companion, Notion AI, l’assistant Rovo de Jira, et d’autres outils similaires. Ils sont liés à une seule application et en sont indissociables.
• Chatbots autonomes sur le Web et dans les applications. ChatGPT, Claude, Perplexity, Character AI, des solutions locales telles que LM Studio, des extensions de navigateur et des navigateurs autonomes comme Comet. Les applications et les services de cette catégorie sont généralement utilisés par les employés de leur propre initiative, sans autorisation : ce sont là des exemples classiques de Shadow AI.

• Agents multifonctionnels natifs pour ordinateur de bureau. Ce groupe contient des outils comme OpenClaw, NanoClaw, NemoClaw et bien d’autres. Ces outils constituent la menace la plus grave, car ils disposent par défaut de droits d’accès étendus et traitent activement des données non fiables provenant d’Internet.

Comment faire face à l’IA indésirable ?

Chaque entreprise, en fonction de son secteur d’activité, de son goût pour l’innovation et de sa tolérance au risque, doit définir clairement la distinction entre les cas d’utilisation recommandés, ceux approuvés au cas par cas et ceux totalement interdits pour des produits d’IA spécifiques. Les secteurs réglementés, comme celui de la santé, sont soumis à un ensemble de règles bien défini, tandis que les commerces de détail fonctionnent selon des principes tout à fait différents. Quoi qu’il en soit, après avoir déterminé précisément quels outils d’IA ont déjà fait leur apparition au sein de l’entreprise, il convient d’ajuster les politiques d’entreprise en conséquence. C’est pourquoi la première chose à faire consiste à utiliser les outils de sécurité informatique et de journalisation existants pour analyser l’infrastructure de l’entreprise.

Selon la stratégie choisie, les systèmes d’IA non couverts peuvent être :

• désactivés ou limités par l’utilisation des paramètres de politique d’entreprise intégrés aux outils eux-mêmes ;
• bloqués de manière stricte au niveau des terminaux ou du réseau afin de constituer un filet de sécurité contre le contournement des politiques ou les erreurs de configuration ;
• passer à un accès géré, dans lequel l’outil n’est pas complètement bloqué, mais transitant par une passerelle d’entreprise dédiée qui vérifie les autorisations d’accès et surveille les habitudes d’utilisation.

Détection des systèmes d’IA

Pour détecter l’IA, il faut adopter une approche à plusieurs niveaux, car les différentes méthodes de détection se complètent et sont particulièrement efficaces contre certains types d’IA.

Bien sûr, la quasi-totalité de ces outils permettent de faire bien plus que simplement détecter l’IA : ils permettent de la bloquer complètement ou, à tout le moins, d’alerter l’équipe en charge.

Garder un œil sur OAuth

Les solutions d’IA couramment utilisées en entreprise, notamment les assistants de réunion, les agents d’automatisation des emails et des agendas, et autres outils similaires, accèdent aux données de l’entreprise par une demande d’autorisations OAuth directement aux plateformes de communication, de gestion de documents ou de visioconférence. Si un utilisateur est habilité à accorder ces autorisations à des applications tierces, les fuites de données qui en résultent contournent complètement le périmètre de l’organisation. Des outils comme EDR et les pare-feu de nouvelle génération (NGFW) ne détecteront absolument rien lorsqu’un outil comme Read.ai capture les enregistrements de chaque réunion, par exemple sur Microsoft Teams.

La mesure la plus radicale, et souvent la plus efficace, consiste à empêcher d’emblée les utilisateurs standard d’accorder des autorisations OAuth. Voici comment procéder pour les opérations techniques complexes (des droits d’administrateur global, d’administrateur d’application ou équivalents sont nécessaires) :

Microsoft 365 / ID Entra

Dans le Centre d’administration Microsoft Entra, accédez à Identité > Applications > Applications d’entreprise > Consentement et autorisations > Paramètres de consentement des utilisateurs. La fonction Consentement de l’utilisateur pour les applications peut être désactivée (consultez le guide complet de Microsoft).

Google Workspace

Dans la console Google Admin, accédez à Sécurité > Contrôle des accès et des données > Commandes des API. Sous Gérer l’accès des applications, le niveau de confiance pour toutes les applications peut être défini : Approuvée, Limitée, Données Google spécifiques ou Bloquée. Mais le plus intéressant ici, c’est la sous-section Paramètres des applications non configurées, qui définit ce qui se passe lorsqu’un utilisateur tente de connecter une application inconnue. Pour combler cette faille, sélectionnez Ne pas autoriser les utilisateurs à accéder aux applications tierces.

Une sous-section distincte, Gérer les services Google, permet de définir précisément la manière dont les applications tierces interagissent avec Google Workspace et les services Google Cloud. Vous pouvez ainsi restreindre l’accès à chaque produit Google individuellement (voir le guide officiel de Google).

Salesforce

Dans Configuration, utilisez la case Recherche rapide pour rechercher des applications connectées, puis sélectionnez l’option Gérer les applications connectées dans les résultats. Bien que les paramètres soient configurés individuellement pour chaque application externe, tous les utilisateurs peuvent, par défaut, approuver l’accès. Il n’y a pas ici de bouton permettant de bloquer systématiquement l’accès. Salesforce offre plutôt la possibilité de préautoriser les utilisateurs approuvés par l’administrateur (voir le guide complet de Salesforce à ce sujet).

Slack

Dans le menu des paramètres Administrateur, accédez à Applications et flux de travail -> Paramètres de gestion de l’application. Ajustez le paramètre Exiger des applications approuvées en sélectionnant Autoriser uniquement les applications préapprouvées. Une fois que c’est fait, vérifiez bien qu’aucun outil d’IA non autorisé ne s’est retrouvé dans la liste approuvée.