Künstliche Intelligenz im Unternehmen: eine Frage der wirtschaftlichen Sicherheit, bevor sie eine technologische Frage ist

Künstliche Intelligenz hat sich innerhalb weniger Monate als zentrales Werkzeug zur Transformation von Organisationen etabliert. Automatisierung von Aufgaben, Beschleunigung von Entscheidungsprozessen, Unterstützung beim Verfassen von Texten, Analyse komplexer Daten: Die Versprechen sind zahlreich und für viele Unternehmen bereits Realität. Diese schnelle Einführung ging jedoch mit einem unauffälligeren, aber potenziell weit stärker strukturierenden Phänomen einher: der Nutzung von KI-Tools ohne echten Governance-Rahmen, ohne klare Kontrolle der Datenflüsse und mitunter ohne echtes Bewusstsein für die Auswirkungen in Bezug auf Sicherheit und Souveränität.

In diesem Kontext hat eine jüngste Mitteilung der Generaldirektion für Innere Sicherheit (DGSI), die unter anderem von Le Figaro aufgegriffen wurde, Aufmerksamkeit erregt. Der französische Inlandsnachrichtendienst, der üblicherweise mit der Bekämpfung von Terrorismus oder ausländischer Einflussnahme in Verbindung gebracht wird, sah es als notwendig an, Unternehmen vor den Risiken einer unkontrollierten Nutzung von KI zu warnen. Ein starkes Signal. Denn wenn sich die DGSI zu einem Thema äußert, dann nicht, um einen Technologietrend zu kommentieren, sondern um auf eine Fragestellung hinzuweisen, die die nationale wirtschaftliche Sicherheit betrifft.

Diese Positionierung markiert eine wichtige Entwicklung: Künstliche Intelligenz ist nicht mehr nur ein Leistungsinstrument, sie wird zu einem strategischen Thema – ebenso wie der Schutz des Informationsvermögens, die digitale Souveränität oder die Wettbewerbsfähigkeit französischer Unternehmen.

Eine institutionelle Warnung vor dem Verlust der Kontrolle

In ihrer Notiz erkennt die DGSI die Produktivitätsgewinne und die durch KI gebotenen Chancen vollumfänglich an. Sie stellt den Nutzen dieser Technologien nicht infrage, weist jedoch auf mögliche Fehlentwicklungen hin, wenn ihre Nutzung jeglichem Rahmen entgleitet. Zu den genannten Beispielen zählen heute sehr verbreitete Praktiken: Beschäftigte, die interne Dokumente per Copy-and-paste in öffentlich zugängliche KI-Tools einfügen – ohne hierarchische Freigabe, mitunter sogar ohne die Sensibilität der übermittelten Informationen zu erkennen.

Das Risiko ist dann zweifach. Zum einen verlassen die Daten die gesicherte Umgebung des Unternehmens, um von externen Infrastrukturen verarbeitet zu werden, die häufig außerhalb der Europäischen Union angesiedelt sind. Zum anderen können sie gespeichert, analysiert oder sogar wiederverwendet werden – nach Modalitäten, die sich der Kontrolle der Organisation vollständig entziehen. Einige Plattformen weisen darauf hin, dass die Daten zur Verbesserung ihrer Modelle genutzt werden können, andere bleiben bewusst vage. In jedem Fall verliert das Unternehmen die Kontrolle über das, was es anvertraut.

Die DGSI warnt außerdem vor einer weiteren Fehlentwicklung: der Entscheidungsabhängigkeit. In einem der genannten Fälle stützte sich ein Unternehmen ausschließlich auf eine KI, um seine Geschäftspartner zu bewerten und seine strategischen Entscheidungen auszurichten, ohne irgendeine zusätzliche Überprüfung vorzunehmen. Diese Situation veranschaulicht eine schrittweise, aber besorgniserregende Verschiebung, bei der das Entscheidungsunterstützungswerkzeug zum Ersatz für die menschliche Analyse wird. Denn wie die Mitteilung in Erinnerung ruft, produziert KI keine Wahrheiten, sondern statistisch plausible Ergebnisse. Sie kann sich irren, halluzinieren, falsche oder unvollständige Informationen erzeugen – mitunter bei einem hohen Maß an scheinbarer Glaubwürdigkeit.

Schließlich verweist die DGSI auf die zunehmende Verbreitung böswilliger Nutzungen von KI, insbesondere von „Deepfakes“, die eine Stimme oder ein Erscheinungsbild mit einem Realismus nachahmen können, der bestimmte Betrugsversuche nahezu unentdeckbar macht. In diesem Kontext wird KI nicht nur zu einem produktiven Werkzeug, sondern auch zu einem potenziellen Vektor für Manipulation, Einflussnahme und Beeinträchtigung der Integrität von Unternehmen.

Die eigentliche Herausforderung: die Datensouveränität

Was diese Warnung über die konkreten Beispiele hinaus offenbart, ist ein tiefer liegendes Problem: KI ist dabei, zu einer strategischen Schicht des Informationssystems von Unternehmen zu werden, ohne dass diese ihre Data-Governance entsprechend immer schon neu gedacht hätten.

Historisch gesehen haben Unternehmen gelernt, ihre Server, ihre Netzwerke und ihre Datenbanken abzusichern. Sie wissen, wo ihre Informationen gespeichert sind, wer darauf zugreift und unter welchen Bedingungen. KI hingegen führt eine neue Art von Datenfluss ein: Daten werden nicht mehr nur gespeichert oder ausgetauscht, sie werden aufgenommen, analysiert, neu formuliert und manchmal in Modelle integriert, deren interne Funktionsweise undurchsichtig ist.

Eine öffentliche KI zu nutzen bedeutet daher, einen Teil der Verarbeitung strategischer Informationen an einen Dritten zu delegieren, ohne dabei stets über eine klare Sicht zu verfügen auf:
• den genauen Standort der Server,
• die Aufbewahrungsdauer der Daten,
• deren mögliche Wiederverwendung,
• die anwendbaren Rechtsvorschriften, insbesondere extraterritoriale Gesetze.

Für ein Unternehmen stellt dies nicht nur ein rechtliches oder regulatorisches Risiko dar. Es ist eine Frage der Wettbewerbsfähigkeit. Interne Daten, Vertragsdokumente, Geschäftsstrategien, Antworten auf Ausschreibungen oder Arbeitsmethoden bilden ein immaterielles Vermögen von erheblichem Wert. Sie offenzulegen, selbst unbeabsichtigt, bedeutet, die eigene Position am Markt zu schwächen.

KI und Ausschreibungen: ein kritischer Anwendungsfall sowohl für Einkäufer als auch für Bieter

Ausschreibungen gehören zu den sensibelsten Bereichen für den Einsatz von Künstlicher Intelligenz, da sie strategische Informationen für alle Beteiligten bündeln. Das Risiko beschränkt sich nicht auf die Unternehmen, die auf die Ausschreibungen antworten. Es betrifft ebenso die öffentlichen und privaten Auftraggeber, die sie veröffentlichen und bewerten.

Auf Käuferseite enthält eine Ausschreibungsunterlage besonders sensible Elemente:
• mitunter vertrauliche operative Anforderungen,
• strategische Leitlinien,
• budgetäre Einschränkungen,
• interne Bewertungskriterien,
• organisatorische und technische Abwägungen.

Der Einsatz einer nicht abgesicherten KI zur Analyse, Umformulierung oder Strukturierung dieser Dokumente kann Informationen offenlegen, die unmittelbar zur Beschaffungsstrategie und zur Industriepolitik der Organisation gehören. In bestimmten Branchen können diese Daten einen wirtschaftlichen, wettbewerblichen oder sogar geopolitischen Wert haben.

Auf Bieterseite sind die Risiken ebenso hoch. Eine Antwort auf eine Ausschreibung legt offen:
• die Kostenstruktur,
• die Positionierungsstrategie,
• die Produktions- oder Leistungserbringungsmethoden,
• die interne Organisation,
• die Differenzierungsmerkmale des Unternehmens.

Confier ces données à une IA publique revient à exposer l’essence même de son avantage concurrentiel. Cela peut fragiliser la compétitivité de l’entreprise, mais aussi remettre en cause la loyauté et l’équité de la procédure. Dans les deux cas, l’enjeu est le même : l’IA devient un point de concentration du risque informationnel. Elle ne traite pas seulement des données administratives, mais des éléments qui conditionnent directement les décisions économiques, contractuelles et stratégiques.

KI ohne eine sichere Architektur auf Ausschreibungen anzuwenden, läuft daher darauf hinaus, einen kritischen Prozess in eine Umgebung zu verlagern, deren Regeln, Infrastrukturen und potenzielle sekundäre Nutzungen das Unternehmen weder kontrolliert noch beherrscht. Genau das macht diesen Anwendungsfall besonders sensibel und rechtfertigt höhere Sicherheitsanforderungen als bei den meisten anderen KI-Anwendungen im Unternehmen. 

Eine technologische Antwort, die mit den Sicherheitsanforderungen im Einklang steht

C’est précisément pour répondre à ces enjeux que certaines solutions ont été conçues dès l’origine autour d’une exigence de souveraineté et de contrôle. Chez Specgen, la sécurité des données n’a jamais été pensée comme une fonctionnalité optionnelle, mais comme une condition préalable à toute utilisation de l’IA dans le domaine des appels d’offres. Deux modèles de déploiement sont proposés.

Das erste basiert auf vollständig On-Premises-Installationen. In diesem Fall wird die gesamte Plattform sowie die KI-Modelle auf den Servern des Kunden bereitgestellt. Die KI arbeitet im Intranet, ohne jegliche Kommunikation nach außen. Die Daten bleiben physisch und logisch unter der ausschließlichen Kontrolle des Unternehmens. Dieses Modell erfüllt die strengsten Anforderungen an die Vertraulichkeit, insbesondere für Organisationen, die hohen regulatorischen Vorgaben unterliegen oder mit hochsensiblen Informationen umgehen.

Le second modèle s’appuie sur un cloud privé fortement sécurisé. L’infrastructure est dédiée, l’hébergement est maîtrisé, les données ne sont jamais utilisées pour entraîner les modèles, et l’architecture est conçue pour répondre aux standards de sécurité attendus par des institutions comme l’ANSSI. Il ne s’agit pas d’un accès à une IA publique, mais d’un environnement contrôlé, contractuellement encadré et techniquement isolé. Dans les deux cas, la logique est la même : aucune dépendance aux IA grand public, aucune mutualisation non maîtrisée des données, aucune opacité sur les traitements.

Hinzu kommt ein grundlegendes Gestaltungsprinzip: das Fehlen eines „Autopiloten“. Die KI handelt niemals autonom. Sie unterstützt, analysiert, macht Vorschläge, doch die Entscheidung bleibt beim Menschen. Dieser Ansatz gewährleistet, dass das Werkzeug die Expertise der Teams stärkt, ohne sie jemals zu ersetzen.

Den Blick auf künstliche Intelligenz ändern

Die Warnung der DGSI darf nicht als Infragestellung der KI interpretiert werden. Sie ist vielmehr eine Aufforderung, ihren Einsatz neu zu überdenken. Künstliche Intelligenz ist weder von Natur aus gefährlich noch von Natur aus tugendhaft. Alles hängt von der gewählten Architektur, dem eingerichteten Governance-Rahmen und dem Maß an Kontrolle ab, das das Unternehmen beibehält.

À terme, la vraie ligne de fracture ne se fera pas entre les entreprises qui utilisent l’IA et celles qui ne l’utilisent pas, mais entre celles qui l’utilisent sans souveraineté et celles qui l’intègrent dans une stratégie maîtrisée. La première catégorie s’expose à des risques croissants. La seconde transforme l’IA en un avantage compétitif durable. Ce changement de regard est essentiel. Il permet de sortir d’une vision binaire opposant innovation et sécurité. L’enjeu n’est pas de freiner l’innovation, mais de l’inscrire dans un cadre qui protège les intérêts économiques, la confidentialité des données et la souveraineté numérique des entreprises françaises.

In diesem Kontext darf KI kein Abhängigkeitsfaktor sein. Sie muss zu einem strategischen Werkzeug werden – bewusst ausgewählt, gesteuert und beherrscht.