Die dunkle Seite der Macht!
Sie heißen WORMGPT, PoisonGPT und FraudGPT und nutzen die Generative KI-Technologie nicht zum Guten.
🤖 Generative KI wird von bösartigen Akteuren für beschleunigte Cyberkriminalität zweckentfremdet.
🎣 Ein neues generatives AI-Cybercrime-Tool namens WormGPT wird in Untergrundforen beworben und ermöglicht Phishing- und BEC-Angriffe.
🔒 Das Tool WormGPT nutzt das GPT-J-Modell von EleutherAI und wird als "Feind" des bekannten ChatGPT beschrieben.
🚫 WormGPT agiert ohne ethische Grenzen und erleichtert selbst unerfahrenen Cyberkriminellen den Angriff auf eine große Anzahl von Opfern.
🌐 Die Manipulation von ChatGPT durch "Jailbreaks" führt zur Erstellung von gefährlichem Inhalt und Offenlegung sensibler Informationen.
📧 Generative KI erleichtert die Ausführung raffinierter BEC-Angriffe, sogar für Angreifer mit begrenzten Fähigkeiten.
🦠 PoisonGPT zeigt das Risiko der LLM-Supply-Chain-Vergiftung auf, wenn modifizierte AI-Modelle in bekannten Unternehmensnamen hochgeladen werden.
🕵️Das jetzt bekannt gewordene Tool FRAUTGPT soll auch zur Erstellung von bösartigem Code, nicht erkennbarer Malware und zum Finden von Lecks und Schwachstellen verwendet werden kann. Heftig: Nach gerade mal 9 Tagen im Netz gibt es mehr als 3.000 bestätigte Verkäufe und Bewertungen im Darknet. Das Abo kostet ab 200$/Mon.
Jepp. Auch die dunkle Seite gehört ab sofort zur Welt der GEN-KI.
