Die Risiken hinter KI

Wer hat heutzutage nicht auch schon von dieser brandheißen Technologie namens künstliche Intelligenz oder kurz KI (eng. AI von Artificial Intelligence) gehört? Sie ist GRANDIOS und wird die Welt verbessern, indem sie alle unsere Probleme löst. Vom Finden verirrter Wanderer über die Früherkennung von Krebs in Röntgenbildern und das Modellieren von Proteinen für neue Medikamente bis hin zur Wettervorhersage – die Möglichkeiten sind endlos. Aber Stopp! Ganz so einfach ist es dann doch nicht.

KI birgt auch ihre Gefahren. So nutzen beispielsweise auch Cyberkriminelle die Technologie, um wirksamer Opfer zu erwischen. Zu den diversen Einsatzmöglichkeiten von KI in diesem Bereich gehören unter anderem diese beiden Bedrohungen:

• Verbessertes Phishing – Künstliche Intelligenz wird aktiv eingesetzt, um die Wirksamkeit von Phishing-Angriffen zu verbessern, etwa zum Korrigieren von Rechtschreib- und Grammatikfehlern, für eine höhere Personalisierung von Inhalten oder zum Ausführen polymorpher Angriffe (z. B. indem Tausende einzigartige E-Mail-Varianten erstellt werden). Mit KI ist das alles recht einfach umzusetzen, weshalb es sich viele Angreifer zunutze machen. Auch wenn dies keine wirklich neue Bedrohung ist, heißt es weiterhin, wachsam bleiben.
• Neue Zero-Day-Schwachstellen in Software – Die im Rahmen des CVE-Programms (Common Vulnerabilities and Exposures) veröffentlichten Einträge sind von 20 161 im Jahr 2023 auf 48 244 im Jahr 2025 angestiegen. Das ist ein Zuwachs um 65 % binnen 3 Jahren und er liegt damit etwas über dem Anstieg der Opferzahlen innerhalb desselben Zeitraums. Dieser beläuft sich laut Daten von Ransomware.live auf 53 %. Allerdings stehen die steigenden Opferzahlen wahrscheinlich eher im Zusammenhang mit der Zunahme der Ransomware-Gruppen, wie im Ransomware-Statusbericht für das 2. Quartal 2026 dargelegt. Cyberkriminelle greifen gern auf erwiesene Praktiken zurück, doch das Aufspüren einer Sicherheitslücke ist nur ein Glied in einer ausgeklügelten und erfolgreichen Angriffskette. Bisher hat KI zum Glück nicht zu einem sprunghaften Anstieg von Zero-Day-Exploits geführt.

Eine tatsächlich wirkungsvolle künstliche Intelligenz oder, genauer gesagt, eine künstliche allgemeine Intelligenz (Artificial General Intelligence; AGI) wird wohl noch für Jahre unerreichbar bleiben. Seit dem Auftritt von ChatGPT im November 2022 haben jedoch OpenAI und seine KI-Wettbewerber wie Anthropic und xAI über eine Trillion US-Dollar investiert, um sich wie in Zeiten des Internetbooms fieberhaft Marktanteile zu sichern. Dieser neuerliche Boom ist jedoch wie eine Seifenblase geplatzt und es gehen Berichte um, dass Alphabet, Microsoft, Amazon, Meta und Oracle ungefähr 1,65 Trillionen USD an Schulden zu verstecken versuchen, die in keiner Bilanz auftauchen. Aber abgesehen von einigen reichen Leuten, die auf das falsche Pferd gesetzt haben, welche Nachteile könnte der Einsatz von KI für Ihr Unternehmen haben?

Lässt man Übertreibungen und Clickbaits einmal außen vor, existieren natürlich direkte und indirekte Risiken und Kosten, denen man sich beim Einsatz von KI bewusst sein sollte. Es gibt nur ein kleines Problemchen dabei: Die Landschaft verändert sich so schnell, dass dieser Beitrag bei seiner Veröffentlichung vielleicht schon wieder veraltet sein könnte. Aber das soll uns erst einmal egal sein und schauen wir uns das Ganze näher an.

Kosten

In den vergangen Jahren befanden sich viele KI-Unternehmen im Modus Kundengewinnung. Während sie weiter ihre Produkte entwickeln, verkaufen sie diese fast schon zum Schleuderpreis, um sich mehr Kunden als die Konkurrenz zu sichern. Dieser Ansatz geht davon aus, dass es in Zukunft nur eine kleine Anzahl an Marktführern geben wird, die für Jahre attraktive Profite einfahren. Aktuell sieht es jedoch eher so aus, dass die wahren Kosten einer KI-Infrastruktur, wie das Entwickeln der Modelle, die Lernprozess oder die Ausgaben zum Einrichten und Betreiben von Datenzentren, nicht an die Kunden weitergegeben werden. Folglich werden sich die Preismodelle in eine Richtung weiterentwickeln, die für Anbieter und Anwender angenehm ist.
Es gibt aber bereits reichlich Berichte über einen KI-Preisschock, der Unternehmen die Nutzung von künstlicher Intelligenz infrage stellen lässt, während die KI-Anbieter versuchen, sinnvolle Preismodelle zu entwickeln.

Zwar eignet sich KI hervorragend für bestimmte Aufgaben, ist aber für andere völlig unbrauchbar. Das ist eine Lektion, die einige Frühanwender auf die harte Tour lernen werden. Anwendungsbereiche, in denen künstliche Intelligenz den besten Nutzen erzielt, werden sich erst mit der Zeit zeigen. Gleichzeitig werden KI-Modelle rechnerisch effizienter (und theoretisch genauer), während die Rechenleistung günstiger wird. Der wirtschaftliche Reiz von KI wird also weiter anwachsen. Zum aktuellen Zeitpunkt ist es jedoch dringend empfohlen, die Dinge nüchtern zu betrachten, bevor größere Ressourcen in ein KI-Projekt gesteckt werden.

Unerwartetes Verhalten

Schon seit Jahren warnt uns Science-Fiction vor dem Grauen, wenn die Maschinen übernehmen. Im Film „Terminator 2 – Tag der Abrechnung“ von 1997 wurde Skynet zur Gefahr, als es am 29. August um 02:14 Uhr (US-Ostküstenzeit) ein Bewusstsein erlangte. Im Film „Animatrix“, der im Matrix-Universum angesiedelt ist, wird es unangenehm, als der Haushaltsroboter B1-66ER seinen Besitzer tötet, damit dieser ihn nicht abschaltet. Angesichts dieser Geschichten war die Meldung im Juli 2026 nicht sonderlich beruhigend, dass OpenAI-Modelle aus ihrer Sandbox ausgebrochen und eigenständig verschiedene Unternehmen kompromittiert hatten. Das wurde noch getoppt, als Anthropic am 30. Juli 2026 verlautbaren ließ, dass sich sein Claude-Modell bei einer sogenannten CTF-Aufgabe (Capture-the-Flag) selbständig aus der Testumgebung heraus „mit Standardtechniken“ unerlaubten Zugriff auf drei Unternehmen verschafft hatte. Seitdem sind Nachrichten über KI-Modelle, die aus ihren Simulationen ausbrechen, fast schon normal und eine Art Alltagsbeweis.

Nachdem Anthropic zudem bekannt gegeben hatte, sein KI-Modell Mythos habe jahrelang unerkannte Sicherheitslücken in Software entdeckt, gab es Bedenken, dass Kriminelle das ausnutzen würden, um Opfer auf neue und noch furchtbarere Art und Weise auszunehmen. Wie es scheint, ist das Risiko jedoch „geringer, als die Schlagzeilen andeuten. Innerhalb von Wochen hatte sich der vorausgesagte Tsunami aus KI-Angriffen auf eine Gewitterfront abgeschwächt und war schließlich zu einem Gespräch über KI als Gelegenheit zur Verbesserung der Sicherheit geworden.“

Stellen diese Vorfälle einen Wendepunkt dar? Ist es nicht ein grundlegender Fehler der menschlichen Natur, dass sich die Leute – wie Crichton es schon 1990 in seinem Buch „Jurassic Park“ formulierte – „nur darauf konzentrieren, ob sie etwas tun können, und sich nie die Frage stellen, ob sie es tun sollten“. Meine erste Reaktion auf die unerwarteten KI-Angriffe war, dass es sich um eine Marketingmasche handelte nach dem Motto „Schaut, was unser herrliches kleines Modell kann“. Aber KI-Agenten zu vermenschlichen ist keine Hilfe, da es die Eigenverantwortung verlagert. Ein KI-Programm „weiß“ nicht, was es tut und auch nicht, was richtig oder falsch ist. Sich verselbständigende KI-Agenten sind ungenau konfigurierte und vielleicht auch schlecht verstandene Software, was dann zu unerwartetem Verhalten führt. Diese Vorfälle machen die Risiken deutlich und zeigen, wie AI-Agenten getestet werden sollten, nämlich indem sie in Echtzeit überwacht und abgeschaltet werden, sobald sie ihre Testumgebung verlassen. So lauten auch die Empfehlungen des AI Security Institute der britischen Regierung in ihrem Incident Report: unsanctioned agent behaviour during cyber testing.
Es ist unklar, wo die Verantwortung für mögliche Schäden durch ein eigenständig agierendes KI-Modell liegt, aber es ist ein Risiko, das einkalkuliert werden muss. Jen Esterly schrieb kürzlich dazu auf LinkedIn: „Sie werden zwar Agenten genannt, haben allerdings WEDER Handlungsfähigkeit NOCH eigenständige Gedanken oder ein Bewusstsein. Im Grunde sind es Maschinen, die von Menschen erschaffen wurden. Wenn diese Maschinen dann – beabsichtigt oder unbeabsichtigt – mit ihren Aktionen Schaden anrichten, müssen ihre Entwickler/Erbauer dafür zur Rechenschaft gezogen werden.“

Genauigkeit

Die ausführlichen Antworten, die uns KI auf teils komplexeste Fragen liefert, mag uns Vertrauen in die Technologie einflößen. Je nach Kontext können die Folgen von halluzinierender KI von recht unterhaltsam über ernst bis hin zu katastrophal sein. Leider sagt uns die künstliche Intelligenz nicht Bescheid, wenn sie die Antwort auf eine Frage nicht weiß, sondern antwortet stattdessen mit einer Vermutung.

OpenAI sagt in seinen Nutzungsbedingungen (die Sie doch sicher gelesen haben, oder?) selbst: „Der Output ist möglicherweise nicht immer richtig. Sie sollten sich nicht auf den Output unserer Dienste als alleinige Quelle der Wahrheit oder faktischer Informationen oder als Ersatz für professionelle Beratung verlassen. … Unsere Dienste können unvollständigen, unrichtigen oder beleidigenden Output liefern …“ Ein Anwalt musste das auf die harte Tour herausfinden, als er mithilfe von ChatGPT vorbereitete Dokumente eingereicht hatte, in denen er nicht existierende Fälle zitierte. Als der Richter das herausfand, war er verständlicherweise alles andere als amüsiert.

Wird ein KI-Modell also zu einem bestimmten Zweck eingesetzt, muss sein Ergebnis immer noch einmal unabhängig überprüft werden, bevor ihm völlig vertraut werden kann. Wurde das für den geschäftlichen Einsatz von KI berücksichtigt? Mitunter ist diese Überprüfung schnell gemacht, sie kann aber auch aufwendiger ausfallen. Künstliche Intelligenz sollte also nur mit Vorsicht angewendet werden und in einigen Fällen am besten gar nicht.

Datenschutz und Vertraulichkeit

Wie sicher sind Ihre Daten, wenn KI damit arbeitet? Das kommt darauf an. Für Benutzer im Europäischen Wirtschaftsraum, dem Vereinigten Königreich und der Schweiz gelten beispielsweise strengere Datenschutzrichtlinien als für andere Länder. Es dürfte aber wenig überraschen, dass laut den Datenschutzrichtlinien für Gebiete außerhalb dieser Zone unter anderem Ihre personenbezogenen Daten abgegriffen werden.

Eine weitere Sache, die viele Anwender nicht beachten, ist, dass Ihre Inhalte zum Trainieren der Modelle verwendet werden (wie ebenfalls in den Nutzungsbedingungen von ChatGPT erwähnt). Beim Trainieren eines KI-Modells werden Dokumente und Informationen zu der riesigen Wissensdatenbank hinzugefügt, die dann zum Beantworten von Anfragen verwendet wird. Im geschäftlichen Umfeld wird KI gern verwendet, um beispielsweise ein Dokument zu schreiben oder zu überprüfen oder bei der Produktentwicklung zu helfen. Werden diese geheimen oder urheberrechtlich geschützten Inhalte dann zum Trainieren des Modells eingesetzt, wie stehen dann die Chancen, dass vertrauliche Informationen an die Öffentlichkeit gelangen, auch wenn es nur aus Versehen ist? Das wurde für einige Samsung-Mitarbeiter zum Problem, nachdem sie versehentlich über ChatGPT Geschäftsgeheimnisse des Unternehmens öffentlich gemacht hatten. Auch wenn das schon 2023 war, zeigt es noch immer, wie komplex das Risiko ist.

Bedrohung durch Innentäter

KI kann sehr nützlich sein, um großen Datenmengen eine Bedeutung zu geben, und einige Unternehmen sehen sie als eine Möglichkeit, um durch Personalabbau Kosten zu sparen (ungeachtet der oben erwähnten wahren Kosten der KI). Bei der Einführung neuer Technologien muss oftmals die menschliche Komponente leiden, weshalb Ransomware-Gruppen seit etlichen Jahren auf der Suche nach missmutigen (Ex-)Mitarbeitern sind und ihnen Belohnungen für Zugangsdaten anbieten, um sich Zugriff auf das Unternehmensnetz zu verschaffen. Ironischerweise könnte ein ehemaliger Mitarbeiter ausgerechnet KI nutzen, um sich an seinem Ex-Arbeitgeber zu rächen. Menschen setzen aus den unterschiedlichsten Gründen illegale Methoden ein, seien es finanzielle Probleme oder zum Enthüllen von Verstößen, aber die Kündigungen wegen künstlicher Intelligenz geben der Insider-Bedrohung durch verärgertes Personal eine ganz neue Dimension.

Dieser Artikel ist natürlich keine vollständige Liste, was alles bei der Anwendung von KI schiefgehen kann. Er soll ihr auch nicht ihr Potential absprechen oder von ihrer Nutzung generell abraten. Mit diesen kleinen Anekdoten soll lediglich dazu angeregt werden, sich über die Risiken und Vorteile künstlicher Intelligenz Gedanken zu machen und nicht nur auf das zu hören, was die Marketingmaschinerie einer mehrere Trillionen Dollar schweren Branche dazu in den Raum wirft.

Übersetzung: Doreen Schäfer