phishing

Kyberzločinci využívají halucinace jazykových modelů, které vytvářejí věrohodně znějící, ale neexistující webové adresy či názvy softwarových balíčků. Opakovaně doporučované falešné domény pak registrují a mění je na stránky s malwarem, phishingem nebo podvrženým softwarem. Studie Palo Alto Networks našla mezi miliony AI vygenerovaných adres přes 13 tisíc již registrovaných škodlivých domén a další statisíce volných názvů. Tento postup, označovaný jako slop squatting, ohrožuje zejména programátory, zatímco takzvaný phantom squatting může zasáhnout běžné uživatele hledající banky, obchody či rady. Odborníci doporučují výstupy AI vždy ověřovat a rozvíjet odolnější přihlašování, například prostřednictvím standardu WebAuthn.