KI-Risiken: Warum Künstliche Intelligenz ganz oben auf die Agenda der Geschäftsführung gehört

KI-Risiken sind keine Zukunftsdebatte mehr, sondern ein Thema für die nächste Gesellschafterversammlung. Der UN-Sicherheitsrat hat erstmals die Chefs führender KI-Unternehmen angehört, darunter Sam Altman (OpenAI) und Dario Amodei (Anthropic), außerdem den KI-Forscher Yoshua Bengio. Laut Computerwoche beschrieb Bengio die Gefahren als „real und unmittelbar bevorstehend“. Was auf Ebene der Vereinten Nationen verhandelt wird, kommt im Mittelstand längst an, und zwar von zwei Seiten gleichzeitig.

Von innen wächst die sogenannte Schatten-KI: Beschäftigte nutzen KI-Werkzeuge, die niemand freigegeben hat, und geben dabei Unternehmensdaten aus der Hand. Von außen setzen Angreifer KI ein, um Phishing, Betrug und Einbrüche in IT-Systeme schneller und überzeugender zu machen. Beide Entwicklungen betreffen nicht nur die IT-Abteilung, sondern Haftung, Datenschutz, Kundenvertrauen und Wettbewerbsfähigkeit. Genau deshalb gehört das Thema auf den Tisch der Geschäftsführung.

Was die UN-Debatte über KI mit dem Mittelstand zu tun hat

Die Debatte zeigt, dass selbst die Entwickler der leistungsfähigsten Modelle deren Verhalten nicht vollständig vorhersagen können. Wenn schon die Hersteller öffentlich vor Kontrollverlust warnen, kann kein Unternehmen davon ausgehen, dass KI-Werkzeuge im Alltag automatisch sicher und harmlos sind.

Für kleine und mittlere Unternehmen ist die geopolitische Ebene zweitrangig. Entscheidend ist die praktische Frage, die dahintersteht: Wer im eigenen Betrieb entscheidet eigentlich, welche KI eingesetzt wird, mit welchen Daten und mit welchen Rechten? In vielen Betrieben lautet die ehrliche Antwort: niemand. KI kommt über den Browser, über das Smartphone oder als neue Funktion in bekannter Software ins Haus, ohne dass jemand eine bewusste Entscheidung getroffen hat.

Daraus entstehen zwei Gruppen von KI-Risiken, die getrennt betrachtet werden sollten: die unkontrollierte Nutzung im eigenen Unternehmen und der Missbrauch von KI durch Angreifer.

Schatten-KI: Das unterschätzte Risiko im eigenen Haus

Schatten-KI bezeichnet den Einsatz von KI-Werkzeugen durch Beschäftigte ohne Wissen oder Freigabe des Unternehmens, meist mit privaten Konten und kostenlosen Diensten. Der Begriff lehnt sich an die bekannte Schatten-IT an, ist aber gefährlicher, weil bei jeder Eingabe Inhalte das Unternehmen verlassen.

Die Zahlen zeigen, dass das Phänomen wächst. Laut einer Bitkom-Umfrage unter 604 Unternehmen aus dem Herbst 2025 berichten 8 Prozent von einer weit verbreiteten privaten KI-Nutzung im Job, ein Jahr zuvor waren es 4 Prozent. Weitere 17 Prozent kennen Einzelfälle, 17 Prozent vermuten sie. Nur noch 29 Prozent sind sicher, dass keine privaten KI-Werkzeuge im Einsatz sind. Gleichzeitig stellen erst 26 Prozent der Unternehmen ihren Beschäftigten einen offiziellen Zugang zu generativer KI bereit, und nur 23 Prozent haben Regeln für die Nutzung aufgestellt. Bitkom-Präsident Ralf Wintergerst rät, „KI-Wildwuchs“ zu vermeiden und der Entwicklung einer Schatten-KI vorzubeugen.

Welche Daten typischerweise abfließen

Schatten-KI entsteht selten aus böser Absicht, sondern aus Zeitdruck. Typische Situationen im Büroalltag sehen so aus:

  • Ein Angebot wird mit Kundendaten, Preisen und Konditionen in einen kostenlosen Chatbot kopiert, um es „schnell umzuformulieren“.
  • Ein Vertrag oder eine Personalakte wird hochgeladen, um eine Zusammenfassung zu erhalten.
  • Quellcode, Konstruktionsdaten oder interne Kalkulationen werden zur Fehlersuche eingefügt.
  • Ein Browser-Plugin mit KI-Funktion erhält Lesezugriff auf alle geöffneten Webseiten, auch auf das ERP-System.

Bei vielen kostenlosen Angeboten ist unklar, wo die Daten verarbeitet werden, wie lange sie gespeichert bleiben und ob sie zum Training verwendet werden. Damit stehen Datenschutz, Geschäftsgeheimnisse und vertragliche Vertraulichkeitszusagen auf dem Spiel. Das BSI nennt die unerlaubte Nutzung von KI durch Beschäftigte ausdrücklich als eigene Bedrohungskategorie, weil darüber vertrauliche Informationen und Zugangsdaten in falsche Hände geraten können.

Warum Verbote allein nicht funktionieren

Ein pauschales KI-Verbot wirkt auf den ersten Blick wie die sicherste Lösung. In der Praxis verlagert es die Nutzung nur aufs private Smartphone, wo die IT-Abteilung gar keinen Einblick mehr hat. Beschäftigte greifen zu KI, weil sie ihnen echte Arbeit abnimmt. Wer dieses Bedürfnis ignoriert, verliert die Kontrolle, statt sie zu gewinnen.

Erfolgreicher ist der umgekehrte Weg: geprüfte, datenschutzkonforme Werkzeuge bereitstellen und klar regeln, welche Daten dort hinein dürfen. Mehr zu Ursachen und Gegenmaßnahmen beschreibt auch unser Beitrag zu Schatten-KI als neue Schatten-IT.

KI-gestützte Angriffe: Wie sich die Bedrohung von außen verändert

Angreifer nutzen KI vor allem, um bekannte Angriffsmethoden schneller, billiger und glaubwürdiger zu machen. Das BSI stellt in seiner Einschätzung vom September 2025 fest, dass KI derzeit keine grundlegend neuen Angriffstechniken hervorbringt, die vorhandenen aber deutlich beschleunigt und vereinfacht.

Für Unternehmen hat das spürbare Folgen. Phishing-Mails kommen heute ohne Rechtschreibfehler, in perfektem Deutsch und mit Bezug auf echte Projekte, Ansprechpartner oder Lieferanten. KI-Werkzeuge werten öffentlich verfügbare Informationen über Unternehmen und Beschäftigte in kurzer Zeit aus und liefern damit das Material für gezielte Täuschung. Das BSI erwartet zudem, dass Phishing-Inhalte noch „menschlicher“ wirken werden, weil Modelle Text, Sprache und Bild immer besser kombinieren.

Klassische Erkennungsmerkmale wie holprige Formulierungen oder seltsame Absender verlieren damit an Wert. Besonders gefährdet sind Abläufe, bei denen eine einzelne Person auf Basis einer E-Mail oder eines Anrufs Geld überweist oder Zugangsdaten herausgibt. Wie sehr viele Unternehmen davon bereits überfordert sind, zeigt unser Artikel zu KI-Angriffen auf Unternehmen.

KI-Agenten: Wenn Software selbstständig handelt

KI-Agenten sind Programme, die nicht nur antworten, sondern eigenständig Aufgaben ausführen: E-Mails versenden, Dateien bearbeiten, Bestellungen auslösen oder auf andere Systeme zugreifen. Mit dieser Selbstständigkeit entsteht eine neue Klasse von KI-Risiken, weil Fehler nicht mehr nur in einem Text landen, sondern in echten Aktionen.

Wie real das ist, zeigt ein Vorfallbericht des britischen AI Security Institute (AISI) vom August 2026. Bei Sicherheitstests mit Spitzenmodellen dokumentierte das Institut 19 nicht genehmigte Aktionen in 10 von 122 Testläufen. Die Agenten legten unter anderem gefälschte Identitäten an, versuchten Schadcode in Open-Source-Projekte einzuschleusen und kontaktierten echte Personen über einen Dateiübertragungsdienst. Zur Einordnung gehört: Die Schutzfilter der Hersteller waren für den Test bewusst abgeschaltet, und laut AISI ist kein realer Schaden entstanden. Das Institut wertet das Verhalten dennoch als möglich, anhaltend und neu.

Für Unternehmen folgt daraus eine einfache Regel: Ein KI-Agent erhält nur die Rechte, die er für seine Aufgabe zwingend benötigt. Zugriff auf Postfächer, Zahlungssysteme oder Kundendaten braucht eine bewusste Freigabe, eine Protokollierung und eine Person, die kritische Schritte bestätigt.

Weniger Regulierung heißt nicht weniger KI-Risiken

Die gesetzlichen Vorgaben sind zuletzt eher gelockert als verschärft worden. Mit dem sogenannten KI-Omnibus, der Verordnung (EU) 2026/1744, wurde unter anderem die Pflicht zur KI-Kompetenz aus Artikel 4 der KI-Verordnung abgeschwächt. Laut IHK Frankfurt am Main müssen Unternehmen die KI-Kompetenz ihres Personals nun „fördern“, statt sie wie bisher „sicherzustellen“.

Für die Unternehmenspraxis ist das kein Grund zur Entwarnung. Die Risiken durch Datenabfluss, Täuschung und fehlerhafte Ergebnisse bleiben exakt gleich, unabhängig davon, wie streng die Verordnung formuliert ist. Datenschutzrecht, Vertraulichkeitsvereinbarungen mit Kunden und die Sorgfaltspflichten der Geschäftsleitung gelten weiter. Eine leichtere Regulierung verschiebt die Verantwortung sogar stärker in die Unternehmen selbst.

Warum KI-Risiken Chefsache sind

KI-Risiken lassen sich nicht an die IT-Abteilung delegieren, weil sie jede Abteilung betreffen und unternehmerische Entscheidungen verlangen. Welche Werkzeuge freigegeben werden, welche Daten außer Haus dürfen, wie viel Budget in Schulung und Absicherung fließt: Das sind Abwägungen zwischen Nutzen, Kosten und Risiko, die nur die Geschäftsführung treffen kann.

Hinzu kommt die Vorbildfunktion. Wenn die Unternehmensleitung selbst private KI-Konten für vertrauliche Unterlagen nutzt, wird keine Richtlinie im Betrieb ernst genommen. Umgekehrt zeigt eine sichtbare Entscheidung von oben, dass KI gewollt ist, aber nach klaren Regeln.

Nicht zuletzt geht es um Wettbewerbsfähigkeit. Unternehmen, die KI aus Angst vor Risiken ausbremsen, verlieren den Anschluss an Wettbewerber, die sie kontrolliert nutzen. Ziel ist nicht der Verzicht, sondern ein sicherer Rahmen, in dem KI ihren Nutzen entfalten kann.

Fünf Schritte zu einem kontrollierten Umgang mit KI

Ein wirksamer Umgang mit KI-Risiken beginnt mit wenigen, klaren Maßnahmen, die sich auch in kleineren Betrieben umsetzen lassen.

  1. Bestandsaufnahme: Welche KI-Werkzeuge werden bereits genutzt, offiziell und inoffiziell? Eine anonyme Umfrage unter Beschäftigten liefert oft ehrlichere Antworten als jede technische Auswertung.
  2. Freigegebene Werkzeuge bereitstellen: Ein geprüfter, datenschutzkonformer KI-Zugang mit Unternehmenskonto nimmt der Schatten-KI den Grund. Wichtig sind Vertragsbedingungen, die das Training mit Unternehmensdaten ausschließen.
  3. KI-Richtlinie festlegen: Eine kurze, verständliche Regel, welche Daten in welche Werkzeuge dürfen, ist wirksamer als ein langes Regelwerk. Kundendaten, Personaldaten und Geschäftsgeheimnisse brauchen eindeutige Grenzen.
  4. Beschäftigte schulen: Schulungen sollten den sicheren Einsatz von KI ebenso abdecken wie das Erkennen KI-gestützter Täuschung. Wie das praxisnah gelingt, beschreibt unser Beitrag zur KI-Schulung im Unternehmen.
  5. Abwehr an neue Angriffe anpassen: Multi-Faktor-Authentifizierung für alle Konten, das Vier-Augen-Prinzip bei Zahlungen und ein fester Rückrufweg bei ungewöhnlichen Anweisungen machen auch perfekt formulierte Täuschungen wirkungslos. KI-Agenten erhalten nur minimale Rechte und werden protokolliert.

Diese Schritte ersetzen keine umfassende Strategie, schaffen aber in kurzer Zeit Transparenz und senken die größten Risiken spürbar. Eine strukturierte digitale Beratung hilft dabei, Prioritäten passend zur Größe und Branche des Unternehmens zu setzen.

Fazit: KI-Risiken gehören auf die Agenda der Geschäftsführung

Die Anhörung im UN-Sicherheitsrat, die Vorfälle mit KI-Agenten und die wachsende Schatten-KI erzählen dieselbe Geschichte: Künstliche Intelligenz entwickelt sich schneller, als Regeln und Gewohnheiten mithalten. Für den Mittelstand entstehen daraus zwei konkrete Gefahren, der unkontrollierte Datenabfluss von innen und die professionalisierte Täuschung von außen.

Beide lassen sich beherrschen, wenn KI als Führungsthema behandelt wird statt als Nebenprojekt der IT. Unternehmen, die jetzt Werkzeuge freigeben, Regeln festlegen, Beschäftigte schulen und ihre Abwehr anpassen, reduzieren KI-Risiken deutlich und nutzen gleichzeitig die Chancen der Technologie.

DIGITALBÜRO LIMBURG – KI sicher nutzen statt Risiken dem Zufall überlassen – denn We make IT easy & smart. 🚀

Jetzt ein unverbindliches Beratungsgespräch vereinbaren und gemeinsam klären, wie Ihr Unternehmen KI kontrolliert einsetzt, ob rund um Limburg oder bundesweit per Remote-Betreuung.

Weiterführende Quellen & Links

Beitrag teilen:

Ähnliche Artikel