Nachricht vom 23.06.2024 
Cybersicherheit – KI als Herausforderung und Chance
RATGEBER | Künstliche Intelligenz (KI), wie sie in generativen Modellen wie ChatGPT zum Einsatz kommt, ist ein zweischneidiges Schwert im Bereich der Cybersicherheit. Einerseits hat sie das Potenzial, sehr überzeugende Phishing-Mails zu erstellen oder Code für Schadsoftware zu programmieren. Andererseits liefert KI bedeutende Vorteile für die Cyberabwehr, indem sie Spam-Mails filtert, verdächtige Kommunikation auf Servern erkennt und frühzeitig Warnungen bei potenziellen Angriffen ausgibt. Ob KI eher ein Werkzeug für Cyberkriminelle oder für die Cyberabwehr ist, hängt letztlich davon ab, wie und von wem sie eingesetzt wird.
Wie KI den Einstieg in die Cyberkriminalität vereinfacht
KI-Tools und fortschrittliche Sprachmodelle ermöglichen es mittlerweile auch Personen ohne umfassende Software- oder IT-Kenntnisse, in der Cyberkriminalität aktiv zu werden. Obwohl ChatGPT darauf ausgelegt ist, keine illegalen oder unethischen Inhalte zu erzeugen, gibt es Berichte über sogenannte Jailbreaks. Diese bestehen aus spezifischen Prompts, die das Modell dazu bringen können, eigentlich unerwünschte Inhalte zu erstellen.
Im Darknet existieren zudem unmoderierte Chatbots wie FraudGPT, die explizit für kriminelle Aktivitäten entwickelt wurden. Solche Anwendungen werden unter anderem für das Verfassen von Phishing-E-Mails, die Entwicklung von Malware oder das Erstellen feindlicher Trainingsdaten zur Sabotage von maschinellem Lernen verwendet.
Gelangt solche Software auf die Computersysteme von Unternehmen oder ist der private Rechner betroffen, droht ein empfindlicher Datenverlust. Während bestehende Mythen zur Datenrettung nicht zum gewünschten Ziel führen, bleibt oft nur die Beauftragung eines auf Datenwiederherstellung spezialisierten Unternehmens.
Stimmungsbild – so wird die Lage eingeschätzt
Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) sieht in ChatGPT eine ernsthafte Bedrohung für die Cybersicherheit. Laut den Sicherheitsexperten hat ChatGPT das Potenzial, die Landschaft der Cyberattacken zu erweitern, indem es spezifische Angriffe generiert und selbst unerfahrene Hacker berät, wie diese Angriffe erfolgreich durchgeführt werden können.
Aktuelle Befragungen zeigen, dass die Mehrheit der Unternehmen potenzielle Risiken durch den Einsatz von KI in der Cybersicherheit sieht. Laut einer Umfrage, die von Bitkom bei 1.002 Unternehmen mit mindestens zehn Mitarbeitern durchgeführt wurde, glauben 57 Prozent der Befragten, dass die zunehmende Verbreitung generativer KI-Technologien die IT-Sicherheit gefährden könnte. Im Gegensatz dazu sind 35 Prozent der Ansicht, dass die neuen Technologien die IT-Sicherheit stärken könnte, da sie zur Abwehr von Cyberangriffen eingesetzt werden kann. Diese Ergebnisse spiegeln eine geteilte Meinung über den Einfluss von KI auf die Cybersicherheit in der Wirtschaftswelt wider.
Welche Chancen KI bei der Cybersicherheit eröffnet
Bereits existierende KI-Cybersicherheitssysteme setzen maschinelles Lernen und Datenanalyse ein, um verdächtige Aktivitäten zu erkennen. Diese Technologien sind darauf spezialisiert, Muster in umfangreichen Datensätzen zu analysieren und Unregelmäßigkeiten zu identifizieren, die auf mögliche Cyberbedrohungen hinweisen. Ein zentrales Werkzeug dabei ist das Anomalieerkennungsmodell, welches dazu dient, normale von potenziell schädlichen Netzwerkaktivitäten zu unterscheiden.
Durch fortlaufende Überwachung des Datenverkehrs und der Nutzeraktivitäten können diese KI-Systeme untypische Verhaltensmuster feststellen. Zum Beispiel kann ein unerwarteter Anstieg des Datenverkehrs zu einem bestimmten Server ein Hinweis auf einen DDoS-Angriff sein. Gleichzeitig kann das Auffinden von ungewöhnlichen Anmeldeversuchen aus weit entfernten geografischen Standorten auf Brute-Force-Attacken hindeuten. Ein Brute-Force-Angriff ist eine Methode, um durch das systematische Durchprobieren von Benutzernamen und Passwörtern unbefugten Zugriff auf Computersysteme zu erlangen.
Ein entscheidender Vorteil von KI in der Cybersicherheit ist ihre Fähigkeit zur Selbstverbesserung. Diese Systeme werden mit jeder erkannten Attacke und jeder Interaktion intelligenter und effizienter. Sie erlangen ein immer tieferes Verständnis für die sich wandelnden Techniken von Cyberkriminellen und sind dadurch in der Lage, proaktiv auf Bedrohungen zu reagieren, bevor diese ernsthaften Schaden verursachen. (prm)
