Threat Spotlight: Wie „Text Salting“ KI-gestützte E-Mail-Abwehrmaßnahmen verwirrt

Technik, die entwickelt wurde, um traditionelle Spam-Filter zu umgehen, wie sie in über einer Million Phishing-Betrugsversuchen mit Einzelhandelsbezug beobachtet wurde

Die wichtigsten Erkenntnisse

• Forscher von Barracuda haben mehr als eine Million Phishing-Angriffe entdeckt, bei denen Text-Salting-Techniken eingesetzt wurden, um sowohl herkömmliche als auch KI-gestützte E-Mail-Sicherheitssysteme zu täuschen.
• Versteckter Text kann beeinflussen, wie KI-Security-Tools eine E-Mail interpretieren, während generative KI Text-Salting-Kampagnen billig, skalierbar und sehr abwechslungsreich macht.
• Moderne E-Mail-Sicherheit muss analysieren, was Nutzer tatsächlich sehen, und nicht nur den rohen E-Mail-Quellcode, um Umgehungstechniken mit versteckten Inhalten zu erkennen.

Zur Umgehung herkömmlicher Spam-Filter entwickelte Taktiken haben sich weiterentwickelt, um moderne KI-gestützte E-Mail-Sicherheitssysteme zu verwirren. Die Barracuda-Forscher haben seit April mehr als eine Million Angriffe entdeckt, die Teil eines Phishing-Angriffs mit Einzelhandelsbezug sind, bei dem Belohnungen, Punkte, Gutscheine oder dringliche Angebote zum Einlösen versprochen werden.

Wie sind wir an diesen Punkt gekommen?

Herkömmliche Spam-Filter funktionieren durch die Bewertung von E-Mails anhand des Vorkommens unerwünschter oder bösartiger Begriffe. Das Verstecken großer Mengen harmlos aussehenden Texts in einer E-Mail, der nur von Security-Tools gesehen werden kann, kann die Konzentration von „schlechten“ Wörtern verwässern. Dadurch wirken die E-Mails harmlos und legitim, während der Empfänger nur den beabsichtigten Phishing-Inhalt sieht.

Die Techniken, die zum Verbergen von Inhalten verwendet werden, sind unter dem Begriff „Text Salting“ bekannt.

Im vergangenen Jahr haben Forscher eine Zunahme der Verwendung von Text Salting beobachtet, um nicht nur die Spracherkennung und Schlüsselwortanalyse, sondern auch Modelle für maschinelles Lernen und zunehmend auch LLM-basierte Security-Tools zu verwirren. Dadurch werden diese Phishing- oder Spam-Nachrichten fälschlicherweise als legitim eingestuft und deren Zustellung an die Empfänger zugelassen.

Der Angriffsablauf

Vertrauenswürdige Infrastruktur

Beispiel für eine Phishing-E-Mail mit Einzelhandelsbezug

Die von Barracuda-Forschern analysierten Angriffe umfassen kompromittierte legitime Websites oder ähnlich aussehende Domains. Diese von Angreifern kontrollierten Domains sind mit branchenüblichen E-Mail-Authentifizierungsprotokollen konfiguriert, insbesondere mit DKIM zur Authentifizierung und Legitimität.

Sichere E-Mail-Gateways scannen den Inhalt eingehender Nachrichten und schätzen die Wahrscheinlichkeit von Spam oder Phishing ein. Unter Verwendung von Text Salting liefern die Angreifer eine vergiftete Nutzlast, die sowohl sichtbare Phishing-Inhalte als auch versteckten harmlosen Text enthält.

Der verborgene Inhalt umfasst zufällige Geschichten, allgemeine Konversationen oder projektbezogene Notizen und fügt eine hohe Anzahl von Wörtern wie Welpe, Training, Notizen, Aufgabe, Rhythmus und Buch hinzu, um die Auswirkungen verdächtiger Wörter wie Belohnungen, läuft ab oder Karte zu verringern.

Unterdessen enthält die sichtbare Nachricht einen dringenden, auf den Einzelhandel ausgerichteten Köder, wie etwa ablaufende Prämien, Punkte oder Gutscheinangebote, und beinhaltet eine bösartige Handlungsaufforderung.

Beispiel für eine Phishing-E-Mail mit Einzelhandelsbezug

Technische Details

Moderne Security-Tools „zwingen“ verborgenen Text oft dazu, sichtbar zu werden, damit sie ihn lesen können. Um dies zu verhindern, verwenden Angreifer mehrere Verschleierungstechniken, sodass selbst bei Entdeckung einer Technik die anderen den Text verborgen halten, ähnlich wie bei einer Tür, die mit drei verschiedenen Riegeln statt nur einem verschlossen ist.

Angreifer verwenden Cascading Style Sheets (CSS), um das Sichtfenster für den Fülltext zuzuschneiden:

• Die Anweisung „clip-path: inset (100%)“ weist den Browser an, das entsprechende Sichtfenster von allen Seiten um 100 % zu beschneiden. Dies verkleinert den sichtbaren Bereich für den Clip auf den absoluten Nullpunkt.
• Die Anweisung „max-height:0 & line-height:0“ stellt sicher, dass die vertikale Höhe des Textblocks null ist, falls der Browser die erste Anweisung nicht befolgt. Dies bedeutet, dass es keine ungewöhnlichen Lücken gibt, die auf E-Mail-Empfänger verdächtig wirken könnten.

Sie geben außerdem Befehle aus, die den versteckten Text aus dem sichtbaren Bildschirmbereich verschieben

• „text-indent: -9999px“ rückt die erste Textzeile um einen massiven negativen Wert ein, sodass der Text etwa 10.000 Pixel links außerhalb der Bildschirmgrenze erscheint.
• „Overflow: Hidden“ hilft dabei, den Text außer Sichtweite zu halten, indem sichergestellt wird, dass der Browser keine horizontale Bildlaufleiste am unteren Rand der E-Mail hinzufügt. 

CSS-Code-Anweisungen zum Verkleinern des Sichtfensters, zum Verschieben von Text aus dem Sichtfenster und zum Verringern der Schriftgröße auf null

Die Zero-Font-Technik

Angreifer verwenden auch Schriftattribute, um bösartige oder irreführende Texte für Security-Tools unsichtbar, aber für den Endnutzer sichtbar zu machen.

Beispiele sind:

• Direktes Einfügen von störendem Text in Wörtern oder Sätzen, deren Schriftgröße auf Null gesetzt ist.
• Aufbrechen von HTML-Streams mit nicht standardmäßigen Begriffen, um signaturbasierte Filter zu umgehen, die nach exakten Phrasen suchen. Der HTML-Text könnte beispielsweise „Ihr Passwort [zufälliger Text] ist abgelaufen.“ lauten. Scanner, die nach der Phrase „Ihr Passwort ist abgelaufen“ suchen, werden nicht ausgelöst.
• Da der eingefügte zufällige Text eine Schriftgröße von null hat, ist er für den Nutzer nicht sichtbar, der nur Folgendes sieht: „Ihr Passwort ist abgelaufen.“

KI-generierte Zusammenfassung von Text-Salting-Techniken

Gründe für die Anfälligkeit von KI-gestützten E-Mail-Sicherheitssysteme für diese Techniken

Text Salting und ähnliche Techniken können dazu verwendet werden, KI-gestützte Engines zur Inhaltsanalyse zu verwirren, indem die E-Mail mit zufälligen Begriffen überflutet wird, die das KI-System zu einer falschen Klassifizierungsentscheidung verleiten.

Versteckter Text kann die Interpretation einer E-Mail durch ein großes Sprachmodell (LLM) verändern und die Einschätzung des Modells hinsichtlich Absicht, Stimmung, Zweck und Risikostufe der E-Mail verschieben.

LLMs verarbeiten häufig den Rohtext und den E-Mail-Quellcode, ohne zu wissen, welcher Text für den Nutzer unsichtbar ist, es sei denn, sie wurden speziell darauf trainiert oder angewiesen, verborgene Inhalte zu ignorieren.

Infolgedessen kann das Modell durch Informationen beeinflusst werden, die ein menschlicher Empfänger nie sieht.

Ironischerweise treibt die KI selbst eine Eskalation bei der Nutzung dieser Techniken voran.

• KI macht es für Angreifer einfacher und schneller, automatisch endlose, normal klingende Absätze zu beliebigen Themen kostenlos zu erstellen. Jede einzelne Phishing-E-Mail kann völlig anders sein, was ihre Nachverfolgung unmöglich macht.
• Dadurch kann ein gefährlicher Link mit 20 Wörtern in einer unsichtbaren Geschichte mit 400 Wörtern verborgen werden, die sicher und positiv erscheint und die Security-KI täuscht.

So bleiben Sie sicher

Unternehmen sollten einen mehrschichtigen Ansatz verwenden, anstatt sich ausschließlich auf die Schlagwortsuche zu verlassen.

Dies beinhaltet die Stärkung der E-Mail-Sicherheit durch Kontrollen, die die Nachrichtenstruktur, die Absenderreputation, Verhaltensanomalien, Authentifizierungsergebnisse, eingebettete Links, HTML-Rendering-Techniken und die für den Nutzer sichtbaren Inhalte bewerten können.

Eingesetzte Security-Tools sollten in der Lage sein, Missbrauch durch verborgene Inhalte sowie Unterschiede zwischen der für den Nutzer sichtbaren Nachricht und dem zugrunde liegenden Quellcode zu erkennen und aufzudecken.

Diese Empfehlungen sollten durch regelmäßige Schulungen der Mitarbeiter zur Sensibilisierung für E-Mail-Bedrohungen untermauert werden, damit diese die neuesten Warnsignale erkennen können.

Barracuda Email Protection hilft dabei, Kunden vor Phishing-Techniken mit verstecktem Text zu schützen, indem mehrschichtige E-Mail-Sicherheitskontrollen über den gesamten Nachrichtenlebenszyklus hinweg angewendet werden.