Die Entwicklung Künstlicher Intelligenz könnte nach Einschätzung des Präsidenten des Deutschen Instituts für Wirtschaftsforschung (DIW), Marcel Fratzscher, zu einer existenziellen Bedrohung für die Menschheit werden. Der Ökonom fordert deshalb einen grundlegenden Kurswechsel: Führende KI-Unternehmen sollen künftig mehrheitlich unter staatlicher Kontrolle stehen. Auch Microsoft-Mitgründer Bill Gates warnt vor den Gefahren der Technologie.
Die Forderungen des DIW-Präsidenten gehen weit über die bisher diskutierten gesetzlichen Sicherheitsvorschriften hinaus. Wie die WELT in ihrem aktuellen Beitrag über Fratzschers Forderungen und die Warnungen von Bill Gates berichtet, sieht der Ökonom insbesondere im internationalen Wettbewerb der großen Technologieunternehmen ein erhebliches Sicherheitsrisiko.
Fratzscher hält Künstliche Intelligenz für eine potenziell größere existenzielle Gefahr als Atomwaffen. Seine Begründung: Unternehmen entwickelten immer leistungsfähigere Systeme und stünden dabei unter erheblichem wirtschaftlichem Druck, ihre Konkurrenten technologisch zu überholen. Sicherheitsfragen könnten dadurch gegenüber wirtschaftlichen Interessen in den Hintergrund geraten.
Staatliche Eigentumsrechte statt bloßer Regulierung
Nach Fratzschers Vorstellungen sollte der Staat nicht lediglich als Aufsichtsbehörde auftreten, sondern selbst maßgeblichen Einfluss auf die Eigentumsverhältnisse führender KI-Unternehmen erhalten. Das gelte insbesondere für sogenannte Frontier-Unternehmen, die besonders leistungsfähige KI-Modelle entwickeln. Seine Argumentation beruht auf einem grundsätzlichen Interessenkonflikt: Während private Unternehmen von den wirtschaftlichen Erträgen der KI-Entwicklung profitieren, müsste im Fall schwerwiegender Schäden möglicherweise die gesamte Gesellschaft die Folgen tragen.
Fratzscher hält deshalb eine staatliche Beteiligung an sämtlichen wesentlichen Entwicklungs- und Kontrollentscheidungen für notwendig. Ergänzend fordert er internationale Regeln und eine überstaatliche Regulierungsbehörde. Damit stellt er auch die Vorstellung infrage, mehr Wettbewerb zwischen Technologieunternehmen könne automatisch zu besseren Ergebnissen führen. Gerade der intensive Konkurrenzkampf sei nach seiner Auffassung ein wesentlicher Bestandteil des Problems.
Bill Gates sieht besonders große Gefahren durch Missbrauch
Auch Microsoft-Mitgründer Bill Gates hat vor den Risiken Künstlicher Intelligenz gewarnt. Seine Einschätzung unterscheidet sich allerdings in einem wichtigen Punkt von derjenigen Fratzschers. Gates befürchtet vor allem, dass leistungsfähige KI-Systeme zunehmend von Kriminellen oder anderen gefährlichen Akteuren missbraucht werden könnten. Dazu zählen insbesondere automatisierte Cyberangriffe und die mögliche Unterstützung biologischer Bedrohungen. Die Vorstellung, dass KI kurzfristig vollständig außer menschliche Kontrolle gerät, betrachtet Gates dagegen als weniger wahrscheinliches Szenario.
Seine Warnung richtet sich deshalb vor allem gegen unzureichende Sicherheitsvorkehrungen und die Möglichkeit, vorhandene Schutzmechanismen leistungsfähiger KI-Systeme zu umgehen oder abzuschalten. Bundesdigitalminister Karsten Wildberger (CDU) verfolgt einen weniger weitreichenden Ansatz als Fratzscher. Er fordert von Unternehmen wie OpenAI, Anthropic und Google größere Anstrengungen zur Absicherung ihrer Technologien.
Ein im Aufbau befindliches deutsches KI-Sicherheitsinstitut soll künftig besonders leistungsfähige Modelle auf Risiken untersuchen. Ziel ist es, mögliche Gefahren bereits vor der Veröffentlichung neuer Systeme zu erkennen und gegebenenfalls Einfluss auf deren Zulassung zu nehmen. Wildberger verlangt außerdem, dass Unternehmen selbst für Schäden durch ihre Systeme haften und sicherheitsrelevante Vorfälle unverzüglich melden.
Eine staatliche Mehrheitsbeteiligung an den führenden KI-Unternehmen, wie Fratzscher sie fordert, ist damit allerdings nicht verbunden. Wer kontrolliert eine Technologie mit globaler Macht? Die Debatte berührt eine grundsätzliche Frage: Darf die Entwicklung einer Technologie mit möglicherweise weitreichenden Folgen für Wirtschaft, Gesellschaft und Sicherheit überwiegend privatwirtschaftlichen Entscheidungen überlassen bleiben?
Befürworter einer stärkeren staatlichen Kontrolle argumentieren, dass demokratisch legitimierte Institutionen die Interessen der Allgemeinheit besser vertreten könnten als gewinnorientierte Unternehmen. Kritiker könnten dagegen einwenden, dass staatliches Eigentum weder technische Sicherheit garantiert noch politische Fehlentscheidungen ausschließt. Zudem könnte eine weitreichende Verstaatlichung die Innovationsfähigkeit der Unternehmen beeinträchtigen und neue internationale Konflikte auslösen.
Ungeklärt bleibt auch, wie eine solche Kontrolle praktisch umgesetzt werden könnte. Die wichtigsten KI-Unternehmen sind international tätig, viele von ihnen haben ihren Sitz in den Vereinigten Staaten. Nationale Eigentumsvorgaben allein könnten daher kaum ausreichen, um die weltweite Technologieentwicklung zu steuern.
Die politische Verantwortung wächst
Die Äußerungen von Fratzscher, Gates und Wildberger verdeutlichen, dass die Diskussion über Künstliche Intelligenz zunehmend über wirtschaftliche Chancen und technische Leistungsfähigkeit hinausgeht. Im Mittelpunkt steht immer stärker die Frage, welche Risiken Gesellschaften akzeptieren wollen und wer darüber entscheiden darf. Fratzschers Vorschlag einer staatlichen Mehrheitskontrolle ist dabei eine besonders weitreichende Position. Ob sie politisch durchsetzbar und tatsächlich geeignet wäre, die Sicherheit Künstlicher Intelligenz zu verbessern, bleibt offen.
Deutlich wird jedoch, dass die rasante Entwicklung leistungsfähiger KI-Systeme die Politik vor Entscheidungen stellt, die sich nicht allein mit freiwilligen Selbstverpflichtungen der Technologieunternehmen beantworten lassen.