Les filtres anti-spam protègent votre attention

Envoyer du spam coûte peu. Le recevoir coûte cher. Il suffit de quelques secondes pour supprimer un message, mais il faut d’abord s’interrompre, en lire assez pour l’évaluer, décider, puis retrouver le fil de ce que l’on faisait.

Le succès du filtrage est invisible, ce qui masque l’ampleur du problème. En 2023, Google indiquait que Gmail bloquait près de 15 milliards d’e-mails indésirables chaque jour. Nous voyons les quelques messages qui passent, pas le déluge qui n’a jamais l’occasion de nous interrompre.

Le problème est plus ancien que l’e-mail tel que nous le connaissons

En 1975, la RFC 706 décrivait le « problème du courrier indésirable » sur le réseau ARPA. Un ordinateur qui voulait recevoir certains messages devait tous les accepter et les examiner. Cela coûtait du temps de calcul, de la capacité réseau et des délais. Remplacez l’ordinateur par une personne et le diagnostic reste valable.

Quatre ans plus tôt, Herbert Simon avait élargi la réflexion dans « Designing Organizations for an Information-Rich World ». Quand l’information abonde, l’attention se raréfie. Il expliquait qu’un bon système d’information doit filtrer les informations en entrée afin de produire un résultat qui demande moins d’heures d’attention. Le spam incarne ce déséquilibre dans sa forme la plus pure : l’expéditeur peut produire une nouvelle copie presque gratuitement, tandis que chaque lecteur consacre une part de sa journée à décider que le message est sans intérêt.

Des règles aux probabilités

Les premiers filtres utilisaient des règles et des scores de confiance. Refuser une machine connue comme malveillante. Fermer un serveur de messagerie ouvert à tous les abus. Repérer une adresse ou une formule suspecte. Un guide publié en 1999 par l’Internet Engineering Task Force décrivait des listes d’acceptation et de refus, des contrôles d’expéditeur et des filtres propres à chaque utilisateur. Ces outils étaient rapides et clairs, mais il suffisait à un attaquant de changer d’adresse, de mal orthographier un mot ou de passer par un nouveau serveur.

Les statistiques ont changé la question. Au lieu de vérifier si un message enfreignait une règle fixe, un filtre pouvait estimer la probabilité que ses mots et ses autres caractéristiques apparaissent dans du spam. Une étude de 1998 sur le filtrage bayésien du courrier indésirable montrait comment apprendre à partir d’exemples tout en tenant compte des coûts différents liés au blocage d’un message légitime et au passage d’un spam. Le filtrage du spam devenait un problème d’apprentissage, plus seulement d’entretien de listes.

L’apprentissage automatique cherche des schémas

Avec l’essor de l’e-mail, les fournisseurs ont pu apprendre à partir de bien plus que les mots. Les systèmes modernes croisent le contenu, l’authentification de l’expéditeur, la réputation du réseau, les liens, le comportement des campagnes et les signalements des utilisateurs. Aucune nouvelle génération n’a rendu les précédentes obsolètes. L’authentification demande qui a envoyé le message. La réputation demande comment cette source s’est comportée auparavant. Un modèle de contenu demande à quoi ressemble le message. Une correction personnelle répond à la dernière question : cette personne voulait-elle le recevoir ?

Cette dernière question compte parce que le spam comporte une zone grise. Un reçu peut être attendu. Un faux reçu ne l’est pas. Une newsletter peut être utile pour l’un et n’être que du bruit pour l’autre. Les recommandations de l’IETF de 1999 défendaient déjà les filtres personnels, car aucun ensemble de règles central ne pouvait convenir à tout le monde.

L’IA change la donne des deux côtés

L’IA générative permet de produire à peu de frais des textes corrects, dans de nombreuses langues et en variations infinies. Le National Cyber Security Centre britannique estimait en 2024 que l’IA améliorait déjà le phishing et pouvait produire des messages convaincants sans les erreurs de traduction, d’orthographe et de grammaire qui les trahissaient autrefois. Les mots-clés fixes perdent de leur utilité dès que chaque message peut être réécrit.

Les défenseurs utilisent l’IA pour la même raison. Un modèle de langage peut comprendre le sens dans son contexte au lieu de traiter chaque mot comme un indice isolé. Des modèles multilingues comme XLM-RoBERTa étendent cette compréhension à plusieurs langues. Ce ne sont pas des oracles et ils ne remplacent ni la réputation, ni l’authentification, ni les retours des utilisateurs. Ils ajoutent une meilleure lecture du message au dispositif.

La ressource limitante est désormais l’attention

L’IA peut aider une personne à rédiger un rapport, écrire du code ou préparer une campagne plus vite. Elle ne peut pas ajouter une heure à la journée du destinataire. À mesure que la production accélère, la sélection gagne en valeur. Le prochain enjeu de productivité n’est pas seulement de produire davantage. Il est de décider quels résultats méritent l’attention d’une personne.

Le spam prélève son tribut sur l’attention au pire moment : avant même que vous sachiez que le message ne vaut rien. Le travail que vous choisissez peut être planifié. Le spam exige une petite décision, tout de suite. Il oblige le destinataire à évaluer gratuitement ce que l’expéditeur a produit, puis à retrouver le fil de ce qui comptait avant.

Voilà aussi pourquoi la précision ne suffit pas. Un faux négatif consomme de l’attention. Un faux positif cache un message qui méritait d’être vu et pousse l’utilisateur à se méfier du filtre. Un système utile doit trancher franchement face au bruit évident, rester prudent avec le courrier attendu et apprendre la zone grise propre à chacun.

Un filtre décide de ce qui mérite qu’une personne s’y attarde

La meilleure défense reste faite de plusieurs couches. Bloquer tôt les infrastructures abusives. Authentifier les expéditeurs légitimes. Utiliser des modèles modernes pour comprendre le contenu. Apprendre de la personne à qui appartient la boîte mail. Surtout, prendre la décision avant qu’une notification, un aperçu ou une pastille de messages non lus ne la lui demande.

Klar repose sur ce principe. Un modèle multilingue XLM-RoBERTa classe chaque message sur votre Mac, dans Apple Mail. Aucun message n’est envoyé à un service d’IA dans le cloud. Le but n’est pas de rendre la boîte mail intelligente pour le plaisir. C’est de faire en sorte qu’elle sollicite moins votre attention.

Tous les articles