Détecter et contrôler l’IA générative avec Sophos Firewall

Sophos Firewall peut identifier les applications de GenAI connues à l’aide de signatures applicatives, puis les autoriser ou les bloquer via la catégorie Generative AI. Pour un déploiement sûr, il convient d’abord d’autoriser et de journaliser leur utilisation dans un petit groupe pilote, de vérifier la détection, puis seulement d’activer le blocage.

Le pare-feu n’analyse pas les prompts et ne garantit pas la détection de chaque nouveau service d’IA. Il contrôle le trafic réseau des applications identifiées. Synchronized Application Control peut enrichir cette visibilité grâce aux informations fournies par les Sophos Endpoints, mais n’applique pas une seconde politique à lui seul.

Procédure rapide

Définir un petit groupe pilote ou un réseau de test séparé.
Sous Applications > Application filter, créer une politique dédiée à partir du template Allow All.
Sélectionner la politique dans la règle de pare-feu réellement concernée, sous Identify and control applications (App control), puis activer Log firewall traffic.
Générer du trafic de test avec des services de GenAI autorisés et non autorisés.
Dans le Log Viewer, vérifier la Rule ID, l’application, la catégorie, l’action et l’utilisateur ou le client journalisé.
Pour le blocage, créer un deuxième Application Filter, sélectionner la catégorie Generative AI avec Select All et définir l’action sur Deny.
Activer d’abord la politique de blocage uniquement dans la règle pilote, puis effectuer un nouveau test.

Le test est concluant lorsqu’un service connu est associé à l’application ou à la catégorie attendue, que le trafic passe par la règle pilote prévue et que les utilisateurs hors du groupe pilote ne subissent aucun changement.

Ce que Sophos Firewall détecte pour la GenAI

Application Control et Synchronized Application Control sont complémentaires, mais remplissent des fonctions différentes.

Application Control constitue la méthode de base

La fonction Application Control standard analyse le trafic qui traverse le pare-feu et associe les applications connues à l’aide des signatures Sophos. Elle ne nécessite aucun Sophos Endpoint. La politique est définie au moyen d’un Application Filter, puis activée dans une règle de pare-feu.

La catégorie Generative AI existe déjà dans les anciennes versions de SFOS encore prises en charge et est actualisée au moyen des mises à jour de signatures applicatives. SFOS 22.0 MR2 n’a pas introduit cette catégorie, mais améliore la détection supplémentaire fournie par Sophos Endpoint.

Application Control nécessite un abonnement Web Protection valide. Les mises à jour des patterns doivent être à jour, car Sophos distribue ainsi les signatures des applications nouvelles ou modifiées. Les services couverts par une règle de catégorie étendue peuvent donc évoluer en cours d’exploitation.

Les principes généraux relatifs aux Application Filters, à leur association aux règles, aux signatures et aux faux positifs sont expliqués dans Configurer et tester Application Control sur Sophos Firewall.

Synchronized Application Control complète la télémétrie Endpoint

Synchronized Application Control reçoit, via Security Heartbeat, des informations supplémentaires sur les applications exécutées sur les Sophos Endpoints. Les applications inconnues apparaissent d’abord sous SyncAppCtl discovered. Les labels New, Mapped et Customized indiquent si une application vient d’être détectée, a été associée automatiquement ou a été ajustée manuellement.

L’application de la politique continue de passer par un Application Filter dans une règle de pare-feu. Synchronized Application Control améliore donc la détection et la catégorisation, mais ne bloque pas le trafic à lui seul.

Cette visibilité supplémentaire nécessite :

un abonnement Web Protection valide pour Application Control ;
Network Protection pour Security Heartbeat ;
un compte Sophos Central ;
un Endpoint géré par Sophos Central avec une licence d’évaluation ou complète ;
une connexion Security Heartbeat opérationnelle.

Dans les environnements utilisant Microsoft Defender ou un autre produit Endpoint, cette télémétrie Sophos supplémentaire n’est pas disponible. La méthode standard basée sur Application Control reste néanmoins utilisable.

Configurer un pilote GenAI

Les noms suivants sont utilisés dans cet exemple :

groupe pilote : GG-SFOS-GenAI-Pilot
Application Filter d’autorisation : APP-GenAI-Pilot
Application Filter de blocage : APP-GenAI-Block
règle de pare-feu : LAN-Pilot-to-WAN

Ces noms peuvent être adaptés librement. Le groupe d’utilisateurs doit provenir de la source d’authentification de l’environnement, et la règle de pare-feu doit correspondre aux zones, réseaux, services et Security Policies locaux. Sans identification fiable des utilisateurs, un réseau de test distinct est généralement plus simple qu’une règle pilote basée sur les utilisateurs.

Délimiter précisément la règle pilote

La règle pilote doit reprendre les paramètres NAT, Web, IPS et TLS nécessaires du chemin Internet existant pour les clients. Elle doit être placée directement au-dessus de la règle Internet plus générale, et non systématiquement au début de l’ensemble du jeu de règles.

Pour une règle basée sur les utilisateurs, activer Match known users et sélectionner GG-SFOS-GenAI-Pilot. Pour un réseau de test, utiliser son objet réseau précis comme Source networks and devices. Vérifier ensuite qu’aucune règle antérieure ne traite déjà ce trafic.

L’interaction entre Source, Destination, utilisateurs et ordre des règles est expliquée dans Comprendre et configurer les règles Sophos Firewall en toute sécurité.

Autoriser et journaliser d’abord la GenAI

L’Application Filter de Sophos Firewall ne possède pas d’action Monitor dédiée. Observer signifie donc autoriser, activer la journalisation du pare-feu et analyser les événements.

Sous Applications > Application filter :

Ouvrir Add.
Saisir APP-GenAI-Pilot comme Name.
Sélectionner Allow All comme Template.
Enregistrer avec Save.

Ouvrir ensuite la règle LAN-Pilot-to-WAN sous Rules and policies > Firewall rules :

Laisser Action sur Accept.
Activer Log firewall traffic.
Sous Other security features, sélectionner le filtre APP-GenAI-Pilot pour Identify and control applications (App control).
Enregistrer la règle et contrôler sa position.

Les applications sont ainsi détectées et journalisées, mais ne sont pas encore bloquées en raison de leur catégorie GenAI. La phase pilote doit couvrir au moins un cycle de travail représentatif pour les groupes d’utilisateurs concernés et les services d’entreprise autorisés. Un nombre fixe de jours est moins pertinent qu’un test reproduisant les processus de travail réels.

Bloquer la GenAI dans le groupe pilote

Après l’analyse, créer une politique de blocage distincte. L’état initial autorisant le trafic reste ainsi documenté et peut être sélectionné à nouveau pour le retour arrière.

Sous Applications > Application filter :

Ouvrir Add.
Saisir APP-GenAI-Block comme Name.
Sélectionner Allow All comme Template, puis enregistrer.
Rouvrir la nouvelle politique et sélectionner Add.
Utiliser Select All et définir le filtre Category: Generative AI.
Définir Action sur Deny et Schedule sur All the Time.
Enregistrer la règle du filtre, puis la politique.

Remplacer ensuite le filtre APP-GenAI-Pilot par APP-GenAI-Block dans LAN-Pilot-to-WAN. La règle de pare-feu elle-même reste sur Accept ; le blocage de la GenAI provient de l’Application Filter qui lui est associé.

Lorsque certains services de GenAI sont autorisés pour des besoins professionnels, il ne faut pas bloquer immédiatement toute la catégorie pour tous les utilisateurs. Il est plus sûr d’utiliser des groupes d’utilisateurs ou des réseaux clairement séparés, ainsi qu’une règle spécifique pour l’usage autorisé. Une autre approche consiste à commencer par des applications individuelles non autorisées plutôt que par l’ensemble de la catégorie. Il reste ainsi possible de déterminer qui peut utiliser quel service et pour quelle raison.

Vérifier l’effet et renforcer la politique

Le chargement réussi d’une page ou l’affichage d’une page de blocage ne prouve pas encore que la politique prévue s’est appliquée. La validation doit porter sur trois niveaux :

Correspondance de la règle : le Log Viewer affiche la Rule ID de LAN-Pilot-to-WAN.
Détection : l’application et la catégorie correspondent au service de GenAI testé.
Effet sur les utilisateurs : le groupe pilote reçoit l’action attendue, tandis qu’un utilisateur non concerné ou un autre réseau de test reste inchangé.

L’utilisation autorisée peut être analysée sous Applications > Cloud applications et Reports > Applications & web > User app risks & usage. Cloud Applications affiche uniquement les applications autorisées qui génèrent du trafic. Pour les tests bloqués, utiliser le Log Viewer et Reports > Applications & web > Blocked user apps. Avec Synchronized Application Control, le rapport Synchronized applications apporte des informations supplémentaires.

Si les événements attendus n’apparaissent pas dans le Log Viewer, vérifier sous System services > Log settings que les types nécessaires sont activés pour Local Reporting, Central Reporting ou Syslog. Pour les analyses à long terme, voir Activer et exploiter Central Firewall Reporting.

Si la détection ne correspond pas aux attentes

Autre Rule ID : une règle de pare-feu antérieure traite le trafic. Vérifier les critères de correspondance et l’ordre des règles.
Aucune application ou détection générique uniquement : vérifier les Application Patterns, la visibilité HTTPS, QUIC et le client réellement utilisé.
L’application locale n’apparaît pas dans Synchronized Application Control : contrôler l’enregistrement dans Sophos Central, la licence Endpoint et Security Heartbeat.
Le blocage touche des services légitimes : revenir immédiatement à APP-GenAI-Pilot et limiter plus précisément la politique aux utilisateurs, réseaux ou applications individuelles.
IPv4 fonctionne, mais pas IPv6 : vérifier séparément les deux jeux de règles et le chemin réellement emprunté par le client.

Pour HTTPS, TLS Inspection peut apporter une visibilité supplémentaire, notamment pour les Micro Apps basées sur des URL et les informations plus précises sur les Cloud Apps. Elle ne garantit toutefois pas une détection complète de la GenAI et ne doit pas être déployée globalement sur tous les utilisateurs uniquement pour ce test. QUIC ou HTTP/3 peut également affecter le contrôle web attendu.

Pour la Rule ID, le Log Viewer et Packet Capture, la procédure détaillée est disponible dans Tester une règle Sophos Firewall.

Retour arrière

Pour effectuer un rollback, sélectionner de nouveau APP-GenAI-Pilot dans la règle pilote ou désactiver celle-ci. Avant de la désactiver, vérifier que la règle générale située en dessous reprend bien le trafic comme prévu.

La politique de blocage ne doit pas être supprimée immédiatement. La configuration, la documentation du changement et les journaux associés restent ainsi traçables pendant l’analyse de la cause d’un blocage inattendu.

Limites et exploitation continue

Application Control contrôle les connexions réseau identifiées. Il ne lit pas les prompts, n’évalue pas les données d’entreprise saisies et ne remplace ni la DLP ni une gouvernance SaaS ou GenAI complète. Le blocage d’une catégorie n’empêche pas automatiquement tous les accès via de nouveaux domaines, des applications inconnues, des appareils privés ou d’autres chemins réseau.

La politique technique nécessite donc une décision organisationnelle :

Quels services de GenAI sont autorisés ?
Quels utilisateurs ou quelles équipes peuvent les utiliser ?
Quelles données peuvent y être traitées ?
Qui approuve une exception ?
Quand les signatures, les événements et les exceptions sont-ils réexaminés ?

Après les mises à jour des patterns ou du firmware, les événements associés à la règle de catégorie doivent être vérifiés à nouveau. Un bon état d’exploitation ne repose pas sur le blocage le plus large possible, mais sur des règles compréhensibles, une détection stable, des exceptions documentées et un responsable clairement désigné.