Détecter et contrôler l’IA générative avec Sophos Firewall

Sophos Firewall peut identifier les applications de GenAI connues à l’aide de signatures applicatives, puis les autoriser ou les bloquer via la catégorie Generative AI. Pour un déploiement sûr, il convient d’abord d’autoriser et de journaliser leur utilisation dans un petit groupe pilote, de vérifier la détection, puis seulement d’activer le blocage.

Le pare-feu n’analyse pas les prompts et ne garantit pas la détection de chaque nouveau service d’IA. Il contrôle le trafic réseau des applications identifiées. Synchronized Application Control peut enrichir cette visibilité grâce aux informations fournies par les Sophos Endpoints, mais n’applique pas une seconde politique à lui seul.

Procédure rapide

Définir un petit groupe pilote ou un réseau de test séparé.
Sous Applications > Application filter, créer une politique dédiée à partir du template Allow All.
Sélectionner la politique dans la règle de pare-feu réellement concernée, sous Identify and control applications (App control), puis activer Log firewall traffic.
Générer du trafic de test avec des services de GenAI autorisés et non autorisés.
Dans le Log Viewer, vérifier la Rule ID, l’application, la catégorie, l’action et l’utilisateur ou le client journalisé.
Pour le blocage, créer un deuxième Application Filter, sélectionner la catégorie Generative AI avec Select All et définir l’action sur Deny.
Activer d’abord la politique de blocage uniquement dans la règle pilote, puis effectuer un nouveau test.

Le test est concluant lorsqu’un service connu est associé à l’application ou à la catégorie attendue, que le trafic passe par la règle pilote prévue et que les utilisateurs hors du groupe pilote ne subissent aucun changement.

Ce que Sophos Firewall détecte pour la GenAI

Application Control et Synchronized Application Control sont complémentaires, mais remplissent des fonctions différentes.

Application Control constitue la méthode de base

La fonction Application Control standard analyse le trafic qui traverse le pare-feu et associe les applications connues à l’aide des signatures Sophos. Elle ne nécessite aucun Sophos Endpoint. La politique est définie au moyen d’un Application Filter, puis activée dans une règle de pare-feu.

La catégorie d’applications Generative AI est visible sous Applications > Application list. Avant le pilote, il faut vérifier si Sophos répertorie les services qui seront testés. Une entrée dans le catalogue ne prouve pas que le service sera détecté sur son propre réseau ; le test client sert précisément à le confirmer.

Application Control nécessite un abonnement Web Protection valide. L’état se contrôle sous Backup & firmware > Pattern updates et, si nécessaire, avec Update pattern now. Lors d’une mise à jour de la base de signatures applicatives, les nouvelles applications sont automatiquement ajoutées aux filtres et règles basés sur une catégorie correspondante. Le périmètre d’une règle de catégorie étendue peut donc évoluer en cours d’exploitation.

SFOS 22.0 MR2 n’a pas introduit cette catégorie. Sophos Endpoint classe plus précisément les applications de GenAI dans cette version et transmet ces informations via Synchronized Application Control. Cela améliore la visibilité, les rapports et la base du contrôle par politique, sans garantir la détection d’un service donné.

Les principes généraux relatifs aux Application Filters, à leur association aux règles, aux signatures et aux faux positifs sont expliqués dans Configurer et tester Application Control sur Sophos Firewall.

Synchronized Application Control complète la télémétrie Endpoint

Synchronized Application Control reçoit, via Security Heartbeat, des informations supplémentaires sur les applications exécutées sur les Sophos Endpoints. Les applications inconnues apparaissent d’abord sous SyncAppCtl discovered. Les labels New, Mapped et Customized indiquent si une application vient d’être détectée, a été associée automatiquement ou a été ajustée manuellement.

L’application de la politique continue de passer par un Application Filter dans une règle de pare-feu. Synchronized Application Control améliore donc la détection et la catégorisation, mais ne bloque pas le trafic à lui seul.

Cette visibilité supplémentaire nécessite :

un abonnement Web Protection valide pour Application Control ;
Network Protection pour Security Heartbeat ;
un compte Sophos Fusion (anciennement Sophos Central) ;
un Endpoint géré par Sophos Fusion avec une licence d’évaluation ou complète ;
une connexion Security Heartbeat opérationnelle.

Dans les environnements utilisant Microsoft Defender ou un autre produit Endpoint, cette télémétrie Sophos supplémentaire n’est pas disponible. La méthode standard basée sur Application Control reste néanmoins utilisable.

Configurer un pilote GenAI

Les noms suivants sont utilisés dans cet exemple :

groupe pilote : GG-SFOS-GenAI-Pilot
Application Filter d’autorisation : APP-GenAI-Pilot
Application Filter de blocage : APP-GenAI-Block
règle de pare-feu : LAN-Pilot-to-WAN

Ces noms peuvent être adaptés librement. Le groupe d’utilisateurs doit provenir de la source d’authentification de l’environnement, et la règle de pare-feu doit correspondre aux zones, réseaux, services et Security Policies locaux. Sans identification fiable des utilisateurs, un réseau de test distinct est généralement plus simple qu’une règle pilote basée sur les utilisateurs.

Délimiter précisément la règle pilote

La règle pilote doit reprendre les paramètres NAT, Web, IPS et TLS nécessaires du chemin Internet existant pour les clients. Elle doit être placée directement au-dessus de la règle Internet plus générale, et non systématiquement au début de l’ensemble du jeu de règles.

Pour une règle basée sur les utilisateurs, activer Match known users et sélectionner GG-SFOS-GenAI-Pilot. Pour un réseau de test, utiliser son objet réseau précis comme Source networks and devices. Vérifier ensuite qu’aucune règle antérieure ne traite déjà ce trafic.

L’interaction entre Source, Destination, utilisateurs et ordre des règles est expliquée dans Comprendre et configurer les règles Sophos Firewall en toute sécurité.

Autoriser et journaliser d’abord la GenAI

L’Application Filter de Sophos Firewall ne possède pas d’action Monitor dédiée. Observer signifie donc autoriser, activer la journalisation du pare-feu et analyser les événements.

Sous Applications > Application filter :

Ouvrir Add.
Saisir APP-GenAI-Pilot comme Name.
Sélectionner Allow All comme Template.
Enregistrer avec Save.

Ouvrir ensuite la règle LAN-Pilot-to-WAN sous Rules and policies > Firewall rules :

Laisser Action sur Accept.
Activer Log firewall traffic.
Sous Other security features, sélectionner le filtre APP-GenAI-Pilot pour Identify and control applications (App control).
Enregistrer la règle et contrôler sa position.

Les applications sont ainsi détectées et journalisées, mais ne sont pas encore bloquées en raison de leur catégorie GenAI. La phase pilote doit couvrir au moins un cycle de travail représentatif pour les groupes d’utilisateurs concernés et les services d’entreprise autorisés. Un nombre fixe de jours est moins pertinent qu’un test reproduisant les processus de travail réels.

Bloquer la GenAI dans le groupe pilote

Après l’analyse, créer une politique de blocage distincte. L’état initial autorisant le trafic reste ainsi documenté et peut être sélectionné à nouveau pour le retour arrière.

Sous Applications > Application filter :

Ouvrir Add.
Saisir APP-GenAI-Block comme Name.
Sélectionner Allow All comme Template, puis enregistrer.
Rouvrir la nouvelle politique et sélectionner Add.
Utiliser Select All et définir le filtre Category: Generative AI.
Définir Action sur Deny et Schedule sur All the Time.
Enregistrer la règle du filtre, puis la politique.

Remplacer ensuite le filtre APP-GenAI-Pilot par APP-GenAI-Block dans LAN-Pilot-to-WAN. La règle de pare-feu elle-même reste sur Accept ; le blocage de la GenAI provient de l’Application Filter qui lui est associé.

Lorsque certains services de GenAI sont autorisés pour des besoins professionnels, il ne faut pas bloquer immédiatement toute la catégorie pour tous les utilisateurs. Il est plus sûr d’utiliser des groupes d’utilisateurs ou des réseaux clairement séparés, ainsi qu’une règle spécifique pour l’usage autorisé. Une autre approche consiste à commencer par des applications individuelles non autorisées plutôt que par l’ensemble de la catégorie. Il reste ainsi possible de déterminer qui peut utiliser quel service et pour quelle raison.

Ne pas confondre catégorie d’applications et catégorie web

Generative AI est une catégorie d’applications. Web > Categories gère en revanche des catégories d’URL, appliquées par une Web policy dans la règle de pare-feu. Une catégorie web personnalisée portant le même nom n’est pas synchronisée automatiquement avec le catalogue d’applications et ne remplace pas l’Application Filter.

Limite de version SFOS 23.0 : Une catégorie web intégrée Generative AI y est également documentée. Elle couvre les sites et services dont l’objectif principal est de créer ou transformer du contenu à partir de prompts ; les sites où l’IA générative n’est pas l’objectif principal sont exclus. Cette classification d’URL s’applique via une Web Policy, et non via les signatures d’applications. Ce n’est ni une catégorie personnalisée ni une liste de domaines entretenue par l’administrateur, et elle ne garantit pas une détection complète de l’IA. Cela ne démontre aucune disponibilité dans SFOS 22.0. Les catégories et policies web expliquent le chemin web. Avant de bloquer, vérifier la catégorie sur la version déployée et confirmer séparément les décisions web et applicatives avec de vraies requêtes du pilote et les logs.

Une catégorie d’URL personnalisée, ou de préférence un URL group, peut servir de couche supplémentaire si l’entreprise maintient une liste de domaines autorisés ou bloqués. Pour des domaines seuls, Sophos recommande les URL Groups, plus performants et moins sujets aux faux positifs que les catégories personnalisées. Un domaine inclut ses sous-domaines ; un mot-clé examine toute l’URL et peut produire une correspondance inattendue dans les paramètres de requête. Il ne faut donc pas utiliser de mots-clés comme exception d’autorisation.

Le chemin complémentaire est Web > URL groups ou Web > Categories, puis Web > Policies, et enfin Rules and policies > Firewall rules > Web filtering > Web policy. Cette liste de domaines nécessite un responsable et une date de révision, car les fournisseurs de GenAI modifient leurs hôtes, CDN et chemins de connexion. Ce guide ne prescrit volontairement aucune liste statique.

Vérifier l’effet et renforcer la politique

Le chargement réussi d’une page ou l’affichage d’une page de blocage ne prouve pas encore que la politique prévue s’est appliquée. La validation doit porter sur trois niveaux :

Correspondance de la règle : le Log Viewer affiche la Rule ID de LAN-Pilot-to-WAN.
Détection : l’application et la catégorie correspondent au service de GenAI testé.
Effet sur les utilisateurs : le groupe pilote reçoit l’action attendue, tandis qu’un utilisateur non concerné ou un autre réseau de test reste inchangé.

L’utilisation autorisée peut être analysée sous Applications > Cloud applications et Reports > Applications & web > User app risks & usage. Cloud Applications affiche uniquement les applications autorisées qui génèrent du trafic. Les nouvelles applications cloud portent d’abord la Classification new ; sanctioned, unsanctioned et tolerated sont des évaluations administratives. Une classification ne vaut que pour le nouveau trafic et n’autorise ni ne bloque rien à elle seule. Un Application Filter doit exploiter ce critère et être affecté à la règle de pare-feu correspondante.

Pour les tests bloqués, utiliser le Log Viewer et Reports > Applications & web > Blocked user apps. Un événement refusé par l’Application Filter doit apparaître sous Content Filtering > Application > Denied ; la requête de contrôle autorisée se vérifie sous Firewall > Firewall Rule > Allowed. Avec Synchronized Application Control, le rapport Synchronized applications apporte des informations supplémentaires. Une session de pare-feu peut n’être journalisée qu’à l’événement Connection Destroy. Si une entrée récente manque, terminer proprement la session de test et actualiser le filtre avant de conclure à un défaut de détection.

Si les événements attendus n’apparaissent pas dans le Log Viewer, vérifier au minimum les types Firewall et Content filtering sous System services > Log settings > Local reporting. Log firewall traffic doit également être actif dans la règle pilote. Central Reporting et Syslog disposent de colonnes distinctes ; les sélectionner n’active pas l’affichage local. Pour les analyses à long terme, voir Activer et exploiter Central Firewall Reporting.

Si la détection ne correspond pas aux attentes

Autre Rule ID : une règle de pare-feu antérieure traite le trafic. Vérifier les critères de correspondance et l’ordre des règles.
Aucune application ou détection générique uniquement : vérifier l’entrée sous Applications > Application list, l’état sous Backup & firmware > Pattern updates, le chemin HTTPS, QUIC, les Web Exceptions et le client réellement utilisé. Packet Capture confirme le chemin réseau, pas la classification de l’application.
L’application locale n’apparaît pas dans Synchronized Application Control : contrôler l’enregistrement dans Sophos Fusion, la licence Endpoint et Security Heartbeat.
Le blocage touche des services légitimes : revenir immédiatement à APP-GenAI-Pilot et limiter plus précisément la politique aux utilisateurs, réseaux ou applications individuelles.
IPv4 fonctionne, mais pas IPv6 : vérifier séparément les deux jeux de règles et le chemin réellement emprunté par le client.

Pour HTTPS, TLS Inspection peut apporter une visibilité supplémentaire, notamment pour les Micro Apps basées sur des URL et les informations plus précises sur les Cloud Apps. En mode DPI, il faut une règle correspondante sous Rules and policies > SSL/TLS inspection rules avec Action: Decrypt. En mode proxy, utiliser Use web proxy instead of DPI engine et Decrypt HTTPS during web proxy filtering dans la règle de pare-feu. Scan HTTP and decrypted HTTPS analyse le trafic déjà déchiffré, mais n’active pas le déchiffrement. L’autorité de certification utilisée doit être installée comme fiable sur les clients pilotes.

Si la conception repose aussi sur une Web Policy ou une catégorie d’URL, activer Block QUIC protocol dans la même règle pilote. SFOS rejette alors les paquets UDP sortants vers les ports 80 et 443 ; QUIC ne peut pas être analysé par le filtre web et contourne ses contrôles. Cela ne prouve pas que chaque flux QUIC contourne toutes les autres fonctions du pare-feu. Le test positif doit seulement confirmer que le navigateur revient à TCP et que la politique web ou TLS prévue s’applique. Le déchiffrement TLS et le blocage de QUIC ne garantissent toujours pas une détection complète de la GenAI et ne doivent pas être généralisés uniquement pour ce test.

Pour la Rule ID, le Log Viewer et Packet Capture, la procédure détaillée est disponible dans Tester une règle Sophos Firewall.

Revenir en arrière sans perdre l’état initial

Avant la bascule, noter l’Application Filter et la Web Policy précédents, le réglage Block QUIC protocol, le mode proxy web ou DPI, la règle SSL/TLS associée, l’état et la position de la règle ainsi que l’affectation NAT. Lors du rollback, restaurer uniquement les champs modifiés et sélectionner de nouveau APP-GenAI-Pilot comme Application Filter.

Une règle pilote distincte n’est désactivée qu’après confirmation que la règle générale située en dessous reprend correctement le trafic. Démarrer ensuite de nouvelles sessions et répéter la requête de contrôle autorisée ainsi que la requête GenAI auparavant bloquée. Toutes deux doivent retrouver la Rule ID et l’action initiales documentées.

Ne pas supprimer immédiatement la politique de blocage, l’URL Group ni les objets de test. La configuration, la documentation du changement et les journaux associés restent ainsi traçables pendant l’analyse. Les objets TLS, web, NAT ou d’authentification partagés ne sont pas modifiés dans ce rollback.

Limites et exploitation continue

Application Control contrôle les connexions réseau identifiées. Il ne lit pas les prompts, n’évalue pas les données d’entreprise saisies et ne remplace ni la DLP ni une gouvernance SaaS ou GenAI complète. Le blocage d’une catégorie n’empêche pas automatiquement tous les accès via de nouveaux domaines, des applications inconnues, des appareils privés ou d’autres chemins réseau.

La politique technique nécessite donc une décision organisationnelle :

Quels services de GenAI sont autorisés ?
Quels utilisateurs ou quelles équipes peuvent les utiliser ?
Quelles données peuvent y être traitées ?
Qui approuve une exception ?
Quand les signatures, les événements et les exceptions sont-ils réexaminés ?

Après les mises à jour des patterns ou du firmware, les événements associés à la règle de catégorie doivent être vérifiés à nouveau. Avant de changer de firmware, il faut aussi suivre la procédure Effectuer une mise à jour du firmware Sophos Firewall : elle couvre la vérification des builds disponibles et des chemins de mise à niveau pris en charge, la validation de la version active après le redémarrage ainsi que le dépannage des échecs et des rollbacks. Un bon état d’exploitation ne repose pas sur le blocage le plus large possible, mais sur des règles compréhensibles, une détection stable, des exceptions documentées et un responsable clairement désigné.