Spamfilter schützen Ihre Aufmerksamkeit

Spam ist für den Absender billig und für den Empfänger teuer. Eine Nachricht ist in Sekunden gelöscht. Doch vorher bringt sie Sie dazu, innezuhalten, genug zu lesen, um sie zu beurteilen, eine Entscheidung zu treffen und danach wieder in Ihre Arbeit hineinzufinden.

Das Ausmaß ist schwer zu erkennen, weil erfolgreiche Filterung unsichtbar bleibt. 2023 erklärte Google, Gmail blockiere täglich fast 15 Milliarden unerwünschte E-Mails. Wir bemerken die wenigen, die durchkommen, nicht die Flut, die uns gar nicht erst unterbrechen kann.

Das Problem ist älter als die E-Mail, wie wir sie kennen

1975 beschrieb RFC 706 das „Junk-Mail-Problem“ im ARPA-Netzwerk. Ein Rechner, der manche Nachrichten empfangen wollte, musste sie alle annehmen und prüfen. Das kostete Rechenzeit, Netzkapazität und verursachte Verzögerungen. Ersetzt man den Rechner durch einen Menschen, trifft die Diagnose noch immer zu.

Vier Jahre zuvor hatte Herbert Simon in „Designing Organizations for an Information-Rich World“ den größeren Zusammenhang beschrieben. Wenn Informationen im Überfluss vorhanden sind, wird Aufmerksamkeit knapp. Ein gutes Informationssystem, so Simon, sollte Eingaben zu einer Ausgabe filtern, die weniger Stunden Aufmerksamkeit verlangt. Spam verkörpert dieses Ungleichgewicht in seiner reinsten Form: Der Absender kann fast kostenlos eine weitere Kopie erzeugen, während jeder Empfänger einen Teil seines begrenzten Tages dafür aufwendet, zu entscheiden, dass sie wertlos ist.

Von Regeln zu Wahrscheinlichkeiten

Die ersten Filter stützten sich auf Regeln und Vertrauensbewertungen. Eine bekanntermaßen schädliche Maschine abweisen. Einen Mailserver schließen, den jeder missbrauchen konnte. Eine verdächtige Adresse oder Formulierung erkennen. Ein Leitfaden der Internet Engineering Task Force von 1999 beschrieb Annahme- und Ablehnungslisten, Absenderprüfungen und Filter für jeden Nutzer. Diese Werkzeuge waren schnell und verständlich. Ein Angreifer konnte ihnen jedoch entgehen, indem er eine Adresse änderte, ein Wort absichtlich falsch schrieb oder auf einen neuen Server wechselte.

Die Statistik stellte eine andere Frage. Statt zu prüfen, ob eine Nachricht gegen eine feste Regel verstieß, konnte ein Filter berechnen, mit welcher Wahrscheinlichkeit ihre Wörter und anderen Merkmale in Spam vorkamen. Eine Studie von 1998 über Bayes-Filter gegen Spam zeigte, wie ein Filter aus Beispielen lernen und zugleich berücksichtigen konnte, dass erwünschte Mail zu blockieren andere Kosten verursacht, als Spam durchzulassen. Spamfilterung wurde zu einem Lernproblem und war nicht länger nur die Pflege von Listen.

Maschinelles Lernen verlagerte die Abwehr auf Muster

Mit dem Wachstum der E-Mail konnten Anbieter aus weit mehr als nur Wörtern lernen. Moderne Systeme verbinden Inhalte, Absenderauthentifizierung, Netzwerk-Reputation, Links, das Verhalten ganzer Versandkampagnen und Nutzermeldungen. Keine neue Generation machte die ältere überflüssig. Die Authentifizierung fragt, wer eine Nachricht gesendet hat. Die Reputation fragt, wie sich diese Quelle bisher verhalten hat. Ein Inhaltsmodell fragt, welchen Mustern die Nachricht ähnelt. Eine persönliche Korrektur beantwortet schließlich die letzte Frage: Wollte genau diese Person sie bekommen?

Diese letzte Frage ist entscheidend, denn bei Spam gibt es eine Grauzone. Ein Beleg ist erwünscht. Ein gefälschter nicht. Ein Newsletter kann für eine Person nützlich und für eine andere nur Lärm sein. Schon die IETF-Empfehlungen von 1999 plädierten für persönliche Filter, weil ein zentraler Regelsatz niemals allen gerecht werden kann.

KI verändert beide Seiten

Mit generativer KI lassen sich brauchbare Texte billig, in vielen Sprachen und in endlosen Varianten erzeugen. Das britische National Cyber Security Centre kam 2024 zu dem Schluss, dass KI Phishing-Angriffe bereits wirkungsvoller machte und überzeugende Locknachrichten ohne die Übersetzungs-, Rechtschreib- und Grammatikfehler erzeugen konnte, die solche Angriffe früher verrieten. Feste Schlüsselwörter helfen immer weniger, wenn sich jede Nachricht neu formulieren lässt.

Auch die Abwehr setzt aus demselben Grund auf KI. Ein Sprachmodell kann Bedeutung im Zusammenhang erfassen, statt jedes Wort als einzelnen Hinweis zu behandeln. Mehrsprachige Modelle wie XLM-RoBERTa tragen dieses Verständnis über Sprachgrenzen hinweg. Sie sind kein Orakel und ersetzen weder Reputation noch Authentifizierung noch Rückmeldungen. Sie ergänzen den Filterverbund um ein besseres Verständnis der Nachricht.

Aufmerksamkeit ist zum Engpass geworden

KI kann einem Menschen helfen, einen Bericht zu entwerfen, Code zu schreiben oder eine Kampagne schneller vorzubereiten. Doch der Tag des Empfängers wird dadurch keine Stunde länger. Je schneller wir produzieren, desto wertvoller wird die Auswahl. Beim nächsten Produktivitätsproblem geht es nicht nur darum, wie wir mehr erzeugen. Es geht darum, welche Ergebnisse es wert sind, dass sich ein Mensch mit ihnen befasst.

Spam verbraucht Aufmerksamkeit im denkbar schlechtesten Moment: bevor Sie wissen, dass die Nachricht wertlos ist. Selbst gewählte Arbeit lässt sich einplanen. Spam verlangt sofort eine kleine Entscheidung. Er macht Sie zum unbezahlten Prüfer dessen, was der Absender erzeugt hat, und zwingt Sie danach, den Faden dessen wiederzufinden, was zuvor wichtig war.

Deshalb reicht Genauigkeit allein nicht. Übersehener Spam kostet Aufmerksamkeit. Eine fälschlich aussortierte erwünschte Nachricht verbirgt etwas, das Aufmerksamkeit verdient hätte, und untergräbt das Vertrauen in den Filter. Ein brauchbares System muss offensichtlichen Lärm konsequent aussortieren, mit erwünschter Mail vorsichtig umgehen und die persönliche Grauzone dazwischen lernen können.

Ein Filter entscheidet, was die Aufmerksamkeit eines Menschen verdient

Die beste Abwehr arbeitet weiterhin in mehreren Schichten. Missbräuchlich genutzte Infrastruktur früh stoppen. Legitime Absender authentifizieren. Moderne Modelle einsetzen, um Inhalte zu verstehen. Von der Person lernen, der das Postfach gehört. Vor allem muss die Entscheidung fallen, bevor eine Mitteilung, Vorschau oder der Zähler für ungelesene Nachrichten die Person dazu zwingt.

Klar baut auf diesem Prinzip auf. Ein mehrsprachiges XLM-RoBERTa-Modell klassifiziert jede Nachricht auf Ihrem Mac, direkt in Apple Mail. Die Nachricht wird nicht an einen KI-Dienst in der Cloud gesendet. Das Ziel ist nicht, den Posteingang um seiner selbst willen intelligent zu machen. Er soll weniger von Ihnen verlangen.

Alle Artikel