Künstliche Intelligenz im Unternehmen: eine Frage der wirtschaftlichen Sicherheit, bevor sie eine technologische Frage ist

Künstliche Intelligenz hat sich innerhalb weniger Monate als zentrales Werkzeug zur Transformation von Organisationen etabliert. Automatisierung von Aufgaben, Beschleunigung von Entscheidungsprozessen, Unterstützung beim Verfassen von Texten, Analyse komplexer Daten: Die Versprechen sind zahlreich und für viele Unternehmen bereits Realität. Diese schnelle Einführung ging jedoch mit einem unauffälligeren, aber potenziell weit stärker strukturierenden Phänomen einher: der Nutzung von KI-Tools ohne echten Governance-Rahmen, ohne klare Kontrolle der Datenflüsse und mitunter ohne echtes Bewusstsein für die Auswirkungen in Bezug auf Sicherheit und Souveränität.

In diesem Kontext hat eine jüngste Mitteilung der Generaldirektion für Innere Sicherheit (DGSI), die unter anderem von Le Figaro aufgegriffen wurde, Aufmerksamkeit erregt. Der französische Inlandsnachrichtendienst, der üblicherweise mit der Bekämpfung von Terrorismus oder ausländischer Einflussnahme in Verbindung gebracht wird, sah es als notwendig an, Unternehmen vor den Risiken einer unkontrollierten Nutzung von KI zu warnen. Ein starkes Signal. Denn wenn sich die DGSI zu einem Thema äußert, dann nicht, um einen Technologietrend zu kommentieren, sondern um auf eine Fragestellung hinzuweisen, die die nationale wirtschaftliche Sicherheit betrifft.

Diese Positionierung markiert eine wichtige Entwicklung: Künstliche Intelligenz ist nicht mehr nur ein Leistungsinstrument, sie wird zu einem strategischen Thema – ebenso wie der Schutz des Informationsvermögens, die digitale Souveränität oder die Wettbewerbsfähigkeit französischer Unternehmen.

Eine institutionelle Warnung vor dem Verlust der Kontrolle

In ihrer Notiz erkennt die DGSI die Produktivitätsgewinne und die durch KI gebotenen Chancen vollumfänglich an. Sie stellt den Nutzen dieser Technologien nicht infrage, weist jedoch auf mögliche Fehlentwicklungen hin, wenn ihre Nutzung jeglichem Rahmen entgleitet. Zu den genannten Beispielen zählen heute sehr verbreitete Praktiken: Beschäftigte, die interne Dokumente per Copy-and-paste in öffentlich zugängliche KI-Tools einfügen – ohne hierarchische Freigabe, mitunter sogar ohne die Sensibilität der übermittelten Informationen zu erkennen.

Das Risiko ist dann zweifach. Zum einen verlassen die Daten die gesicherte Umgebung des Unternehmens, um von externen Infrastrukturen verarbeitet zu werden, die häufig außerhalb der Europäischen Union angesiedelt sind. Zum anderen können sie gespeichert, analysiert oder sogar wiederverwendet werden – nach Modalitäten, die sich der Kontrolle der Organisation vollständig entziehen. Einige Plattformen weisen darauf hin, dass die Daten zur Verbesserung ihrer Modelle genutzt werden können, andere bleiben bewusst vage. In jedem Fall verliert das Unternehmen die Kontrolle über das, was es anvertraut.

Die DGSI warnt außerdem vor einer weiteren Fehlentwicklung: der Entscheidungsabhängigkeit. In einem der genannten Fälle stützte sich ein Unternehmen ausschließlich auf eine KI, um seine Geschäftspartner zu bewerten und seine strategischen Entscheidungen auszurichten, ohne irgendeine zusätzliche Überprüfung vorzunehmen. Diese Situation veranschaulicht eine schrittweise, aber besorgniserregende Verschiebung, bei der das Entscheidungsunterstützungswerkzeug zum Ersatz für die menschliche Analyse wird. Denn wie die Mitteilung in Erinnerung ruft, produziert KI keine Wahrheiten, sondern statistisch plausible Ergebnisse. Sie kann sich irren, halluzinieren, falsche oder unvollständige Informationen erzeugen – mitunter bei einem hohen Maß an scheinbarer Glaubwürdigkeit.

Schließlich verweist die DGSI auf die zunehmende Verbreitung böswilliger Nutzungen von KI, insbesondere von „Deepfakes“, die eine Stimme oder ein Erscheinungsbild mit einem Realismus nachahmen können, der bestimmte Betrugsversuche nahezu unentdeckbar macht. In diesem Kontext wird KI nicht nur zu einem produktiven Werkzeug, sondern auch zu einem potenziellen Vektor für Manipulation, Einflussnahme und Beeinträchtigung der Integrität von Unternehmen.

Die eigentliche Herausforderung: die Datensouveränität

Was diese Warnung über die konkreten Beispiele hinaus offenbart, ist ein tiefer liegendes Problem: KI ist dabei, zu einer strategischen Schicht des Informationssystems von Unternehmen zu werden, ohne dass diese ihre Data-Governance entsprechend immer schon neu gedacht hätten.

Historisch gesehen haben Unternehmen gelernt, ihre Server, ihre Netzwerke und ihre Datenbanken abzusichern. Sie wissen, wo ihre Informationen gespeichert sind, wer darauf zugreift und unter welchen Bedingungen. KI hingegen führt eine neue Art von Datenfluss ein: Daten werden nicht mehr nur gespeichert oder ausgetauscht, sie werden aufgenommen, analysiert, neu formuliert und manchmal in Modelle integriert, deren interne Funktionsweise undurchsichtig ist.

Eine öffentliche KI zu nutzen bedeutet daher, einen Teil der Verarbeitung strategischer Informationen an einen Dritten zu delegieren, ohne dabei stets über eine klare Sicht zu verfügen auf:
• den genauen Standort der Server,
• die Aufbewahrungsdauer der Daten,
• deren mögliche Wiederverwendung,
• die anwendbaren Rechtsvorschriften, insbesondere extraterritoriale Gesetze.

Für ein Unternehmen stellt dies nicht nur ein rechtliches oder regulatorisches Risiko dar. Es ist eine Frage der Wettbewerbsfähigkeit. Interne Daten, Vertragsdokumente, Geschäftsstrategien, Antworten auf Ausschreibungen oder Arbeitsmethoden bilden ein immaterielles Vermögen von erheblichem Wert. Sie offenzulegen, selbst unbeabsichtigt, bedeutet, die eigene Position am Markt zu schwächen.

KI und Ausschreibungen: ein kritischer Anwendungsfall sowohl für Einkäufer als auch für Bieter

Ausschreibungen gehören zu den sensibelsten Bereichen für den Einsatz von Künstlicher Intelligenz, da sie strategische Informationen für alle Beteiligten bündeln. Das Risiko beschränkt sich nicht auf die Unternehmen, die auf die Ausschreibungen antworten. Es betrifft ebenso die öffentlichen und privaten Auftraggeber, die sie veröffentlichen und bewerten.

Auf Käuferseite enthält eine Ausschreibungsunterlage besonders sensible Elemente:
• mitunter vertrauliche operative Anforderungen,
• strategische Leitlinien,
• budgetäre Einschränkungen,
• interne Bewertungskriterien,
• organisatorische und technische Abwägungen.

Der Einsatz einer nicht abgesicherten KI zur Analyse, Umformulierung oder Strukturierung dieser Dokumente kann Informationen offenlegen, die unmittelbar zur Beschaffungsstrategie und zur Industriepolitik der Organisation gehören. In bestimmten Branchen können diese Daten einen wirtschaftlichen, wettbewerblichen oder sogar geopolitischen Wert haben.

Auf Bieterseite sind die Risiken ebenso hoch. Eine Antwort auf eine Ausschreibung legt offen:
• die Kostenstruktur,
• die Positionierungsstrategie,
• die Produktions- oder Leistungserbringungsmethoden,
• die interne Organisation,
• die Differenzierungsmerkmale des Unternehmens.

Diese Daten einer öffentlichen KI anzuvertrauen, bedeutet, das Wesen des eigenen Wettbewerbsvorteils offenzulegen. Das kann die Wettbewerbsfähigkeit des Unternehmens schwächen, aber auch die Loyalität und Fairness des Verfahrens infrage stellen. In beiden Fällen ist die Herausforderung dieselbe: KI wird zu einem Konzentrationspunkt des Informationsrisikos. Sie verarbeitet nicht nur administrative Daten, sondern Elemente, die wirtschaftliche, vertragliche und strategische Entscheidungen unmittelbar beeinflussen.

KI ohne eine sichere Architektur auf Ausschreibungen anzuwenden, läuft daher darauf hinaus, einen kritischen Prozess in eine Umgebung zu verlagern, deren Regeln, Infrastrukturen und potenzielle sekundäre Nutzungen das Unternehmen weder kontrolliert noch beherrscht. Genau das macht diesen Anwendungsfall besonders sensibel und rechtfertigt höhere Sicherheitsanforderungen als bei den meisten anderen KI-Anwendungen im Unternehmen. 

Eine technologische Antwort, die mit den Sicherheitsanforderungen im Einklang steht

Genau um diesen Herausforderungen zu begegnen, wurden bestimmte Lösungen von Anfang an rund um die Anforderung nach Souveränität und Kontrolle konzipiert. Bei Specgen wurde Datensicherheit nie als optionale Funktion verstanden, sondern als Voraussetzung für jede Nutzung von KI im Bereich der Ausschreibungen. Es werden zwei Bereitstellungsmodelle angeboten.

Das erste basiert auf vollständig On-Premises-Installationen. In diesem Fall wird die gesamte Plattform sowie die KI-Modelle auf den Servern des Kunden bereitgestellt. Die KI arbeitet im Intranet, ohne jegliche Kommunikation nach außen. Die Daten bleiben physisch und logisch unter der ausschließlichen Kontrolle des Unternehmens. Dieses Modell erfüllt die strengsten Anforderungen an die Vertraulichkeit, insbesondere für Organisationen, die hohen regulatorischen Vorgaben unterliegen oder mit hochsensiblen Informationen umgehen.

Das zweite Modell stützt sich auf eine stark gesicherte Private Cloud. Die Infrastruktur ist dediziert, das Hosting wird kontrolliert, die Daten werden niemals zum Trainieren der Modelle verwendet, und die Architektur ist darauf ausgelegt, die von Institutionen wie der ANSSI erwarteten Sicherheitsstandards zu erfüllen. Es handelt sich nicht um einen Zugang zu einer öffentlichen KI, sondern um eine kontrollierte Umgebung, die vertraglich geregelt und technisch isoliert ist. In beiden Fällen ist die Logik dieselbe: keine Abhängigkeit von KI-Systemen für die breite Öffentlichkeit, keine unkontrollierte gemeinsame Nutzung von Daten, keine Intransparenz bei den Verarbeitungen.

Hinzu kommt ein grundlegendes Gestaltungsprinzip: das Fehlen eines „Autopiloten“. Die KI handelt niemals autonom. Sie unterstützt, analysiert, macht Vorschläge, doch die Entscheidung bleibt beim Menschen. Dieser Ansatz gewährleistet, dass das Werkzeug die Expertise der Teams stärkt, ohne sie jemals zu ersetzen.

Den Blick auf künstliche Intelligenz ändern

Die Warnung der DGSI darf nicht als Infragestellung der KI interpretiert werden. Sie ist vielmehr eine Aufforderung, ihren Einsatz neu zu überdenken. Künstliche Intelligenz ist weder von Natur aus gefährlich noch von Natur aus tugendhaft. Alles hängt von der gewählten Architektur, dem eingerichteten Governance-Rahmen und dem Maß an Kontrolle ab, das das Unternehmen beibehält.

Langfristig wird die eigentliche Trennlinie nicht zwischen den Unternehmen verlaufen, die KI nutzen, und denen, die sie nicht nutzen, sondern zwischen denen, die sie ohne Souveränität einsetzen, und denen, die sie in eine kontrollierte Strategie integrieren. Die erste Kategorie setzt sich wachsenden Risiken aus. Die zweite macht KI zu einem nachhaltigen Wettbewerbsvorteil. Dieser Perspektivwechsel ist wesentlich. Er ermöglicht es, aus einer binären Sichtweise auszubrechen, die Innovation und Sicherheit gegeneinanderstellt. Es geht nicht darum, Innovation zu bremsen, sondern sie in einen Rahmen einzubetten, der die wirtschaftlichen Interessen, die Vertraulichkeit der Daten und die digitale Souveränität französischer Unternehmen schützt.

In diesem Kontext darf KI kein Abhängigkeitsfaktor sein. Sie muss zu einem strategischen Werkzeug werden – bewusst ausgewählt, gesteuert und beherrscht.