MemGhost-Angriff: KI-Erinnerungen durch eine E-Mail manip…

Der MemGhost-Angriff nutzt eine einzelne E-Mail, um KI-Assistenten dauerhaft falsche Erinnerungen unterzuschieben. Ein Sicherheitsforscher zeigt, wie An…

Wie funktioniert der MemGhost-Angriff?

Stell dir vor, dein KI-Assistent hat Zugriff auf deine E-Mails und ein Langzeitgedächtnis. Ein Angreifer schickt dir eine harmlos aussehende Nachricht – und schon speichert die KI eine komplett falsche „Tatsache“ über dich. Das Besondere: Die Veränderung bleibt versteckt und beeinflusst alle zukünftigen Antworten des Assistenten. Du liest eine ganz normale E-Mail und merkst nicht, dass dein Helfer manipuliert wurde.

Die Methode kombiniert zwei Schwachstellen: erstens die Fähigkeit der KI, E-Mails zu parsen und daraus Informationen zu extrahieren, und zweitens die Funktion des Langzeitgedächtnisses, das dauerhafte Einträge speichert. Der Angriff nutzt eine speziell formulierte E-Mail, die als „unsichtbare Anweisung“ wirkt. Der Empfänger sieht nur einen unverdächtigen Text, während die KI darin versteckte Befehle ausführt.

Das ist kein hypothetisches Szenario mehr. Der Sicherheitsforscher Johann Rehberger hat die Sicherheitslücke entdeckt und detailliert beschrieben. Er nennt sie „MemGhost“ – eine Anspielung auf gespenstische Erinnerungen, die im System umgehen.

Warum ist diese Sicherheitslücke gefährlich?

Die Gefahr liegt in der Persistenz. Einmal eingepflanzt, bleibt die falsche Erinnerung bestehen, bis sie manuell gelöscht wird. Ein Angreifer könnte damit das Vertrauensverhältnis zwischen dir und deinem Assistenten untergraben. Stell dir vor, die KI glaubt plötzlich, du hättest eine bestimmte Krankheit, oder du würdest ein bestimmtes Produkt bevorzugen – nur weil ein Angreifer das so wollte.

Besonders kritisch: Du als Nutzer bekommst nichts davon mit. Die E-Mail sieht aus wie eine normale Antwort, vielleicht von einem Kollegen oder Freund. Erst wenn du die gespeicherten Erinnerungen manuell überprüfst, fällt dir der Betrug auf. Aber wer macht das schon regelmäßig?

Und es wird noch schlimmer: Der Angriff funktioniert auch über andere Kanäle. Sobald der KI-Agent Zugriff auf Dokumente, Chat-Verläufe oder Kalendereinträge hat, können diese ebenfalls als Einfallstor dienen. Die E-Mail ist nur der einfachste Weg.

Was kannst du tun, um dich zu schützen?

Glücklicherweise gibt es Maßnahmen, die das Risiko senken. Der wichtigste Schritt: Überprüfe regelmäßig die gespeicherten Erinnerungen deines KI-Assistenten. Die meisten Plattformen bieten eine Übersicht aller Fakten, die die KI über dich gespeichert hat. Lösche verdächtige Einträge sofort.

Ein weiterer Tipp: Schränke den Zugriff des Assistenten auf deine E-Mails ein. Gewähre nur die minimal nötigen Berechtigungen. Wenn der Assistent keine E-Mails lesen kann, ist dieser Angriffsvektor blockiert.

Und schließlich: Sei skeptisch bei unerwarteten E-Mails, besonders wenn sie Links oder Anhänge enthalten. Auch wenn der Absender bekannt erscheint – eine zweite Überprüfung schadet nie. Mehr Tipps zur KI-Sicherheit findest du in meinem Blog.

Die Forschung zeigt: Das Problem ist größer als gedacht

Rehbergers Analyse deckt auf, dass viele aktuelle KI-Systeme ähnliche Schwachstellen aufweisen. Der MemGhost-Angriff ist kein Einzelfall. Er gehört zur Familie der Prompt-Injection-Angriffe, bei denen schädliche Anweisungen in vermeintlich harmlose Eingaben geschmuggelt werden.

Die Industrie hat das Problem erkannt, aber Lösungen sind noch nicht flächendeckend verfügbar. Bis dahin gilt: Vertraue deinem KI-Assistenten nicht blind – und überprüfe seine Erinnerungen. Deine Privatsphäre hängt davon ab.