Anzeige
Anzeige
Anzeige
Lesedauer 4 Min.

Achtung, Manipulation: So missbrauchen Cyberkriminelle die KI

Künstliche Intelligenz ist längst nicht mehr nur ein Mittel zur Automatisierung und Effizienzsteigerung. Dieselben Modelle und Techniken, die Unternehmen für sich nutzen, werden zunehmend von Kriminellen missbraucht.
monitoring_tool_ntt_shutterstock_57ce42c4c7.jpg
© Shutterstock / NTT

NTT DATA, ein führender Anbieter von digitalen Business- und Technologie-Services, beschreibt die wichtigsten Methoden, die Cyberkriminelle heute einsetzen, woran man die Angriffe erkennen kann und welche Gegenmassnahmen sich bewährt haben.  ​

Künstliche Intelligenz ist ein mächtiges Tool: Die Technologie skaliert nicht nur legitime Geschäftsprozesse, sondern immer häufiger auch illegale Aktivitäten. Mit GenAI beispielsweise lassen sich überzeugende Phishing-Mails formulieren oder Deepfakes erzeugen. Gleichzeitig sind KI-Modelle selbst zu neuen Angriffszielen geworden – etwa durch Data Poisoning oder Prompt Injection.

NTT DATA zeigt, wo die Gefahren lauern und wie Unternehmen sich schützen können:

  • Data Poisoning zählt zu den subtilsten Methoden. Angreifer manipulieren gezielt Trainings- oder Validierungsdaten, um ein Modell auf den falschen Weg zu bringen. Ein Spamfilter, der schädliche Inhalte plötzlich nicht mehr erkennt, oder ein Modell für die Anomalienerkennung, das ungewöhnliche Vorgänge fälschlicherweise als «normal» einstuft, sind die Folgen. Hinweise liefern etwa plötzliche Qualitätsabfälle oder statistische Auffälligkeiten in Datensätzen. Wer Herkunft und Versionierung von Daten streng kontrolliert, Integritätsprüfungen vornimmt und Modelle regelmässig neu validiert, macht es Angreifern deutlich schwerer.
  • Prompt Injection richtet sich speziell gegen KI-Modelle, die in Anwendungen wie Chatbots oder Assistenten eingebettet sind. Hier versuchen Angreifer, mit geschickt formulierten Eingaben die ursprünglichen Anweisungen auszuhebeln – etwa um vertrauliche Inhalte preiszugeben oder geschützte Aktionen auszulösen. Die Folgen reichen von ungewollten Antworten bis hin zu Datenabflüssen. Hilfreich sind mehrstufige Schutzmassnahmen: Eingabevalidierung, strenge Zugriffsrechte für angebundene Systeme sowie Ausgabefilter und Freigabeprozesse bei sicherheitsrelevanten Funktionen.
  • Phishing, Social Engineering und Deepfakes nutzen moderne Text-, Sprach- und Bildgeneratoren, um hochgradig personalisierte oder täuschend echte Inhalte zu erzeugen. Beim Pretexting geben sich Angreifer als Kollegen aus – etwa aus der IT –, um an sensible Daten wie Login-Infos zu kommen. Im Rahmen von Scareware werden Nutzer mit gefälschten Warnungen und Bedrohungen unter Druck gesetzt, damit sie unüberlegt handeln. So steigen die Erfolgschancen für CEO-Fraud oder nicht genehmigte Zahlungsfreigaben. Nachrichten wirken häufig stilistisch perfekt und inhaltlich sehr präzise. Bei Audio- oder Videomaterial fallen allenfalls leichte Unstimmigkeiten auf. Unternehmen stärken ihre Verteidigung, indem sie Identitätsprüfungen bei kritischen Vorgängen fest verankern, Mitarbeitende schulen und technische Werkzeuge zur Erkennung manipulierter Medien einsetzen.
  • Adversarial Examples wiederum greifen Modelle auf einer sehr technischen Ebene an: Winzige, für Menschen oft unsichtbare Veränderungen an Bildern, Sensordaten oder Texten können ausreichen, um ein Modell zu einer falschen Klassifikation zu verleiten. Das kann etwa Bilddetektoren oder Industrie-Sensorik aus dem Konzept bringen. Auffällig sind Inkonsistenzen zwischen Modellprognosen und realen Beobachtungen. Ein Schutz der Modelle lässt sich durch gezieltes Nachtrainieren mit manipulierten Beispielen, zusätzliche Validierungsstufen oder die Kombination mehrerer Datenquellen sicherstellen.
  • Entwicklung von Malware: Schadprogramme lassen sich schneller variieren, gezielt auf bestimmte Ziele zuschneiden oder vorab gegen Erkennungsmechanismen testen. Dadurch steigt die Zahl potenzieller Varianten, die nur schwer zu entdecken sind. Eine rein signaturbasierte Abwehr reicht nicht mehr aus – gefragt sind verhaltensbasierte Analysen, Sandboxing, Automatisierung im Threat-Intelligence-Prozess und ein schneller Patch-Turnus.

«KI ist ein Werkzeug – und wie jedes Werkzeug kann es sinnvoll genutzt oder eben missbraucht werden. Entscheidend ist, dass Unternehmen ihre Modelle, Datenpipelines und Betriebsprozesse genauso gut absichern wie klassische IT-Komponenten», betont Christian Koch, Senior Vice President Cybersecurity IT/OT, Innovations & Business Development bei NTT DATA DACH. «Nur mit einem ganzheitlichen Ansatz aus Governance, technischen Massnahmen und Prozessen lässt sich verhindern, dass KI zum Einfallstor wird.»
 

Kommentare

Sicherheit Phishing
Anzeige
Anzeige

Neueste Beiträge

VI
GTA 6 Vice City in Bildern aus Miami
GTA 6 erscheint am 19. November und spielt in Vice City (Miami). In Miami ist überall Werbung zum Spielehit von Rockstar Games zu sehen. Wir haben die Bilder dazu. 
2 Minuten
18. Nov 2026
Gratis: PCtipp-Webinar-Video in voller Länge
«CEWE-Fotobuch als Weihnachtsgeschenk gestalten»
Im PCtipp-CEWE-Academy-Webinar war das Thema: «CEWE-Fotobuch als Weihnachtsgeschenk gestalten». Falls Sie nicht teilnehmen konnten, sehen Sie sich das Academy-Video hier in voller Länge an. Plus: Andreas Scholz von CEWE zeigt Ideen, Tricks und Vorlagen zum Erstellen eines perfekten Fotobuchs und weiterer Weihnachtsideen. Viel Spass dabei!
3 Minuten
18. Nov 2026
Nach 38 Jahren bekommt Opacc eine eigene Finanzanwendung
Opacc bringt eine Finanzbuchhaltung unter eigener Marke, baut Analysen direkt ins ERP ein und macht aus PDF-Bestellungen ERP-Aufträge. An der Opacc Connect in Luzern wurde deutlich, warum solche Neuerungen bei den Kunden sehr gut ankommen.
5 Minuten

Das könnte Sie auch interessieren

Der Zenit für Gamer, Cosplayer und Fans von Star Wars
Fantasy Basel 2024: der grosse Rückblick
Sie war auch dieses Jahr die wichtigste Messe für Gamer, Cosplayer oder einfach für alle, die galaktische und fantastische Geschichten lieben. PCtipp hat die coolsten Bilder auf der Fantasy Basel 2024, der grössten Schweizer Comic Con, gesammelt.
3 Minuten
13. Mai 2024
In eigener Sache
PCtipp 11/2026: mit diesen Themen ab dem 23. Oktober 2026 am Kiosk erhältlich
Freuen Sie sich auf eine Ausgabe voller praktischer Ratschläge und fesselnder Inhalte! Holen Sie sich Ihren PCtipp 11/2026 ab dem 23. Oktober 2026 am Kiosk und bleiben Sie stets auf dem neuesten Stand der PC-Technologie. Das Epaper ist auch schon online.
2 Minuten
23. Okt 2026
TWINT Rechnung für einfacheres digitales Bezahlen lanciert
Mit TWINT Rechnung können Kunden QR-Rechnungen ab sofort direkt mit der TWINT App bezahlen und den Zahlungstermin innerhalb der Zahlungsfrist selbst bestimmen.
3 Minuten
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige

Kommentare