Sprachmodelle erfinden bei der Beantwortung von Fragen gelegentlich Webadressen, die plausibel klingen, aber nicht existieren. Cyber-Kriminelle registrieren solche Domains und platzieren dort Phishing-Formulare oder schädliche Inhalte. Die Forschergruppe Unit 42 des Unternehmens Palo Alto Networks hat für diese Methode den Begriff Phantom Squatting geprägt und bereits 13.229 halluzinierte Adressen mit bösartigen Inhalten gefunden.
Für die Analyse untersuchte Unit 42 913 globale Marken und werteten dafür 685.339 Abfragen von Webadressen mit zwei unterschiedlichen KI-Sprachmodellen aus.
Wie funktioniert Phantom Squatting?
Angreifer registrieren Domains, die von einer KI halluziniert wurden und an Firmennamen, Produkte oder Dienstleistungen angelehnt sind. So täuschen sie einen offiziellen Unternehmensauftritt vor. Nutzer, die sich auf die Antwort eines Sprachmodells verlassen und den vorgeschlagenen Link anklicken, landen dann auf einer manipulierten Seite.
Besonders riskant wird es, wenn autonome KI-Agenten solche Adressen selbstständig aufrufen und deren Inhalte eigenständig weiterverarbeiten.
Welche Unternehmen sind besonders gefährdet?
Betroffen sind laut Creditreform vor allem Unternehmen mit webbasierten Prozessen im Support, Einkauf, Marketing, Vertrieb und in der IT – also dort, wo Mitarbeiter KI-gestützte Assistenten im Arbeitsalltag nutzen oder externe KI-Dienste zur Recherche einsetzen.
