Generative Künstliche Intelligenz (Generative KI) eröffnet nicht nur Möglichkeiten für innovative Entwicklungen, sondern bietet auch Cyberkriminellen die Chance, Straftaten, insbesondere im Bereich der Cyberkriminalität, zu begehen. Die Fähigkeit von generativer KI, Texte, Bilder und sogar Sprache zu generieren, birgt viele potenzielle Gefahren.
Cybercrime mit Hilfe Generativer KI
Beim Social Engineering werden menschliche Eigenschaften wie Hilfsbereitschaft, Vertrauen, Angst oder Respekt vor Autorität ausgenutzt, um Personen geschickt zu manipulieren. Cyber-Kriminelle verleiten das Opfer auf diese Weise beispielsweise dazu, vertrauliche Informationen preiszugeben, Sicherheitsfunktionen auszuhebeln, Überweisungen zu tätigen oder Schadsoftware auf dem privaten Gerät oder einem Computer im Firmennetzwerk zu installieren. Beim Social Engineering nutzen Angreifer den "Faktor Mensch" als vermeintlich schwächstes Glied der Sicherheitskette aus, um ihre kriminellen Absichten zu verwirklichen. Generative KI kann in Social Engineering-Szenarien verwendet werden, um personalisierte Angriffe durchzuführen, die auf die individuellen Verhaltensweisen bzw. Vorlieben der potentiellen Opfer zugeschnitten sind.
KI kann von Tätern dazu genutzt werden, Phishing-Angriffe effektiver zu gestalten. Sie können KI beispielsweise dazu verwenden, massenhaft personalisierte Phishing-E-Mails zu erstellen, die auf die potenziellen Geschädigten abgestimmt sind. So wird die Wahrscheinlichkeit erhöht, dass die Empfänger sensible Informationen preisgeben.
Deepfake-KI ermöglicht die Erstellung realistisch wirkender, gefälschter Medieninhalte, beispielsweise in Form manipulierter Videos oder Audioaufnahmen. Cyberkriminelle nutzen diese Technologie, um Personen zu betrügen. Mögliche Straftaten reichen über Betrugsdelikte (CEO-Fraud, Callcenter-Betrug, Enkeltrick), Erpressungsdelikte, Verleumdungen, Beleidigungen, Falsche Verdächtigungen und die Verbreitung (gefälschter) pornographischer Inhalte bis hin zu politischen Motivationen.
KI-Social Bots sind Computerprogramme, die mit Hilfe von KI erstellt wurden, um menschenähnliches Verhalten in sozialen Netzwerken zu imitieren. Diese können durch Cyberkriminelle eingesetzt werden, um Desinformationen zu verbreiten, politische Meinungen zu manipulieren oder für Phishing-Zwecke zu nutzen. Social Bots können automatisch Inhalte erstellen, Kommentare veröffentlichen oder sogar Interaktionen mit echten Usern vortäuschen.
KI kann auch bei der Erstellung von Fake Shops fungieren, um automatisiert optisch überzeugende, aber gefälschte Websites zu erstellen. Darüber hinaus können gefälschte Produktbewertungen generiert werden, die dafür sorgen, dass der Fake Shop authentischer wirkt.
Bei der Geldwäsche kann KI auf verschiedene Weisen genutzt werden. Beispielsweise kann sie automatisierte Transaktionen in kleinen, schwer nachverfolgbaren Schritten durchführen, um den Geldfluss zu verschleiern. Außerdem ist Künstliche Intelligenz mittlerweile in der Lage, Identitäten zu stehlen oder zu fälschen, um Bankkonten zu eröffnen oder Geldtransaktionen einzuleiten.
Alle diese Methoden sind denkbare Szenarien, die erschreckend und folgenschwer sind und das mögliche finanzielle Schadensausmaß, psychische Folgen für Opfer und die möglichen Auswirkungen auf unsere Gesellschaft insgesamt nur erahnen lassen.
Generative KI – was ist das genau?
Wenn man von KI spricht, ist zumeist „Generative KI“ gemeint. Sie umfasst alle Architekturen und Technologien des maschinellen Lernens, die basierend auf vorher analysierten Beispielen („Training“) neue Inhalte generieren können. Darin unterscheiden sich generative Modelle von klassischen Modellen des maschinellen Lernens, die Daten lediglich auf vorhandene Muster untersuchen.
Die sogenannten generativen Modelle finden Anwendung in den unterschiedlichsten Bereichen, wie beispielsweise dem computerbasierten Sehen (Computer Vision), der Erkennung von Objekten (Object Detection), der Verarbeitung natürlicher Sprache (Natural Language Processing) und der Erstellung kreativer Inhalte.
Anwendungsbeispiele
Textgenerierung – Der Computer trainiert sich selbst und lernt kontinuierlich
Generative Modelle können automatisiert menschenähnliche Texte verfassen. Diese Modelle werden mithilfe umfangreicher Datensätze trainiert und können anschließend eigenständig neue, zusammenhängende und kontextreiche Texte produzieren. Die Anwendungsmöglichkeiten reichen dabei von einfachen Sätzen bis hin zu komplexen, thematisch vielfältigen Abschnitten. Das bekannteste Beispiel ist ChatGPT.
Stiltransfer und Modifikation - das „Swirl-Face“
Generative Modelle sind in der Lage, anhand von Algorithmen den Stil einer Vorlage auf ein anderes Bild oder Video zu übertragen. Dieser Prozess ermöglicht es, den künstlerischen Charakter eines Bildes oder eines Videos zu verändern, indem beispielsweise der Stil eines berühmten Gemäldes auf ein Foto übertragen wird. KI-Modelle können lernen, stilistische Merkmale zu extrahieren und sie auf andere visuelle Inhalte anzuwenden. Darüber hinaus ist es auch möglich, mit Hilfe der KI benutzte Filter zur Bearbeitung eines Bildes rückgängig zu machen. So gelang es dem FBI den Straftäter „Swirl Face“, welcher sein Gesicht mit dem Swirl-Filter unkenntlich machte, zu identifizieren und festzunehmen.
Bildgenerierung
KI kann auch eigenständig realistische Bilder von Gesichtern, Kunstwerken oder Szenen erstellen. Diese KI wird durch umfangreiche Datensätze trainiert, die ihnen eine breite Palette visueller Informationen verschafft. Dem Erstellen von Bildern sind keine Grenzen mehr gesetzt. Die bekanntesten Beispiele für eine solche KI sind Stable Diffusion und Midjourney.
Datenaugmentation
Datenaugmentation bezeichnet einen Prozess, bei dem generative Modelle dazu verwendet werden, vorhandene Datensätze zu erweitern und zu verbessern. Dies geschieht in der Regel durch Transformation und Variation vorhandener Daten, um neue Beispiele zu generieren, die dem Modell bei der Lernphase helfen. In der Sprachverarbeitung fließen Variationen hinsichtlich Satzstruktur, Wortwahl oder grammatikalische Umformungen ein. Der Zweck der Datenaugmentation besteht darin, die Robustheit und die Fähigkeit des Modells zu verbessern, indem es mit einer breiteren Vielfalt von Daten trainiert wird. Dies ist insbesondere dann nützlich, wenn der ursprüngliche Datensatz begrenzt ist. So wird dem Modell ermöglicht, sich besser an verschiedene Situationen anzupassen und die Generalisierungsfähigkeiten zu erhöhen. Ich vermute, dass hier ist sehr umständlich beschrieben, dass man KI auch anlernen kann, damit deren Ergebnisse besser werden. Das sollte dann reichen.
So schützen Sie sich vor Datenklau
Auch die Cyberkriminellen nutzen KI
Die fortschreitende Verbreitung von KI hat auch Auswirkungen auf die Kriminalität, indem sie den Tätern neue Möglichkeiten eröffnet, Menschen zu täuschen. In diesem Zusammenhang ist es entscheidend, die bewährten Präventionshinweise für das Verhalten im Internet zu beachten, z. B. sich datensparsam im Netz zu bewegen oder keine Fotos seiner Kinder zu posten.
Gehen Sie sparsam im Netz mit persönlichen Daten um
Die Polizei rät grundsätzlich, im Internet achtsam mit persönlichen Daten umzugehen. Ein gesundes Maß an Skepsis gegenüber unerwarteten Nachrichten, Links oder Anfragen, auch beim Surfen auf Websites, kann effektiven Schutz vor Cybercrime bieten, wenn KI im Hintergrund agiert.
Insbesondere bei der Nutzung sozialer Medien ist eine kritische Reflexion darüber, was preisgegeben wird, von großer Bedeutung. Frei verfügbare Bilder, Videos und gesprochene Texte können von KI-Systemen als Trainingsmaterial genutzt werden. Cyberkriminelle könnten diese Inhalte gezielt verwenden, um beispielsweise Arbeitgeber, Freunde oder Angehörige zu täuschen.
Überprüfen Sie Ihre Nutzereinstellungen
Daher ist es wichtig, die Privatsphäre-Einstellungen von Nutzerkonten zu überprüfen und bei Bedarf anzupassen. Praktische Tipps und Hinweise zur Optimierung finden Sie auf den Internetseiten der EU-Initiative klicksafe unter den Hinweisen zu den jeweiligen Anbietern, sowie auf saferinternet.at unter „Privatsphäre-Leitfäden“.
Weiterführende Informationen
Das Bundesamt für Sicherheit in der Informationstechnik gibt außerdem Präventionshinweise sowie ausführliche Informationen zum Themenbereich Deepfake.
Auf der Internetseite des Programms Polizeiliche Kriminalprävention (ProPK) finden Sie auch die Präventionshinweise zum Themenbereich Deepfake. Link zur Internetseite ProPK sowie zum Thema Deepfake.
Allen Bürgerinnen und Bürgern empfehlen wir zudem die Absicherung ihrer digitalen Konten mit unterschiedlichen und starken Passwörtern. Ergänzende Hinweise hierzu werden Ihnen durch die NRW-Landeskampagne www.mach-dein-passwort-stark.de zur Verfügung gestellt.