Die Frage klingt nach einem Kinotitel, wird aber inzwischen von renommierten Forschern ernsthaft gestellt. Gleichzeitig diskutiert Österreich seit Jahren über eine eigene Behörde für Künstliche Intelligenz, ohne dass bisher klar wird, was sie eigentlich tun soll. Beide Debatten hängen enger zusammen, als es zunächst scheint.
Was die Warner sagen
Im Sommer 2026 haben die Turing-Preisträger Yoshua Bengio und Geoffrey Hinton gemeinsam mit dem KI-Forscher Stuart Russell und rund zwanzig weiteren Wissenschaftlern vor den Risiken sehr leistungsfähiger KI-Systeme gewarnt. Ihre Kernaussage: Ohne ausreichende Vorsicht könnte die Menschheit irreversibel die Kontrolle über autonome KI-Systeme verlieren, sodass menschliches Eingreifen wirkungslos wird. Hinton beziffert die Wahrscheinlichkeit, dass KI innerhalb der nächsten dreißig Jahre zum Aussterben der Menschheit beiträgt, auf zehn bis zwanzig Prozent. Bengio nennt eine ähnliche Größenordnung und betont, dass niemand genau wisse, wie viel Zeit noch bleibt.
Die Forschergruppe fordert unter anderem, dass große KI-Unternehmen mindestens ein Drittel ihrer Forschungsbudgets für Sicherheit statt für reine Leistungssteigerung ausgeben, dass leistungsstarke Modelle registriert werden und dass Staaten echten Einblick in die Entwicklung bekommen, etwa durch Meldepflichten für Vorfälle und Schutz für Whistleblower.
Was die Gegenseite sagt
Unter Forschern ist diese Einschätzung keineswegs Konsens. In einer Befragung mehrerer anerkannter KI-Forscher durch das Wissenschaftsportal The Conversation hielt die Mehrheit ein globales Aussterberisiko durch KI für nicht plausibel. Ihr Haupteinwand: Heutige Systeme zeigen keine Anzeichen eigener Ziele oder eines Willens zur Selbsterhaltung. Sie sagen Wörter und Pixel mit hoher Trefferquote voraus, mehr nicht. Wer über ein hypothetisches Aussterberisiko in dreißig Jahren spricht, lenkt aus dieser Sicht von echten, schon heute messbaren Problemen ab: verzerrte Entscheidungen, Verdrängung von Berufsbildern, Marktkonzentration bei wenigen Anbietern, Desinformation.
Beide Seiten sind sich in einem Punkt einig, auch wenn sie es selten so sagen: Niemand kann die künftigen Fähigkeiten von KI-Systemen mit Sicherheit vorhersagen. Genau deshalb lohnt sich ein Blick auf das, was unabhängig von der Risikofrage schon heute sinnvoll wäre.
Was tun, wenn man es nicht sicher weiß
Die von den Warnern vorgeschlagenen Maßnahmen, Registrierung leistungsstarker Modelle, Meldepflichten für Vorfälle, unabhängige Prüfungen, menschliche Aufsicht bei kritischen Entscheidungen, richten sich nicht nur gegen ein hypothetisches Extremrisiko. Sie adressieren genau die Probleme, die auch die Skeptiker als real bezeichnen: Verzerrung, Intransparenz, fehlende Verantwortlichkeit. Der EU AI Act verlangt für Hochrisiko-Systeme seit dem 2. August 2026 im Kern genau das: Risikomanagement, Datengouvernance, Dokumentation, menschliche Aufsicht, Transparenz. Man muss also keine Position im Streit um das Aussterberisiko beziehen, um diese Regeln sinnvoll zu finden.
Österreich: eine Behörde, die es noch nicht gibt
Hier wird es konkret unpraktisch. Der AI Act verpflichtet jeden Mitgliedstaat, eine Marktüberwachungsbehörde zu benennen. Die Frist dafür ist im August 2025 verstrichen. Österreich hat seit September 2024 eine KI-Servicestelle bei der Rundfunk und Telekom Regulierungs-GmbH, die informiert und berät, aber keine eigene Durchsetzungsbefugnis hat. Für einzelne Hochrisikobereiche sind ohnehin andere Stellen zuständig, die FMA für Finanzwesen, das BASG für Medizinprodukte, die Datenschutzbehörde für Datenschutzfragen, die Arbeitsinspektion für Beschäftigungsfragen. Seit 2. August 2026 gelten zusätzlich Transparenzpflichten, etwa für Chatbots und Deepfakes. Eine Stelle, bei der sich Betroffene beschweren können, fehlt weiterhin.
Am 14. September 2026 kritisierte die grüne Digitalisierungssprecherin Süleyman Zorba, dass die Regierung zwar eine neue KI-Strategie angekündigt hat. Bundeskanzler Christian Stocker hat Staatssekretär Alexander Pröll damit beauftragt, die alte „Artificial Intelligence Mission Austria 2030“ aus dem Jahr 2021 abzulösen, allerdings ohne Zeitplan, Budget oder operative Details zu nennen. Über Inhalte wird also durchaus gesprochen, verbindlich ist davon bislang nichts.
Ergibt eine eigene Behörde in einem kleinen Land überhaupt Sinn?
Der naheliegende Einwand: Die großen KI-Modelle entstehen ohnehin fast ausschließlich in den USA, in China und bei einer Handvoll Laboren weltweit. Eine österreichische Behörde wird nie Einfluss darauf haben, wie GPT, Gemini oder vergleichbare Systeme trainiert werden. Wozu also der Aufwand?
Die Antwort liegt nicht bei der Modellentwicklung, sondern beim Einsatz. Wer in Österreich KI für Personalauswahl, Kreditvergabe oder kritische Infrastruktur einsetzt, unterliegt schon heute konkreten Pflichten, unabhängig davon, wo das zugrunde liegende Modell trainiert wurde. Ohne eine erreichbare, zuständige Stelle bleiben diese Pflichten in der Praxis folgenlos. Niemand nimmt Beschwerden entgegen, niemand verhängt Bußgelder, Unternehmen wissen nicht, an wen sie sich bei Unsicherheiten wenden sollen. Eine eigene Behörde würde also nicht die Menschheit vor KI retten, sondern schlicht dafür sorgen, dass geltendes Recht in Österreich auch durchgesetzt wird. Das ist ein bescheideneres, aber deutlich erreichbareres Ziel.
Wettbewerbsverzerrung oder Notwendigkeit?
Kritiker des AI Act, darunter Branchenverbände wie Bitkom und der KI-Bundesverband, warnen vor genau dem Gegenteil: zu viel Bürokratie. Große Konzerne haben eigene Rechtsabteilungen, die Dokumentationspflichten abarbeiten, kleine und mittlere Unternehmen meist nicht. Die EU-Kommission reagiert darauf bereits. Der sogenannte Digital Omnibus verschiebt 2026 zentrale Fristen und reduziert die Dokumentationspflichten für KMU bei Hochrisikosystemen spürbar, ohne sie ganz zu streichen.
Ob das reicht, um einen Standortnachteil gegenüber den USA oder China zu verhindern, lässt sich seriös nicht vorhersagen. Sicher ist nur, dass unregulierte Schnelligkeit ebenfalls einen Preis hat, in Form von Vertrauensverlust, Haftungsunsicherheit und Vorfällen, die im Nachhinein teurer werden als vorherige Sorgfalt. Beides sind reale Kosten, nur zu unterschiedlichen Zeitpunkten fällig.
Rettet Regulierung den Arbeitsmarkt?
Auch hier lohnt sich Ehrlichkeit statt Wunschdenken. AK und ÖGB weisen darauf hin, dass der AI Act den Arbeitsplatz weitgehend ausklammert, obwohl KI dort längst im Einsatz ist und Machtungleichgewichte zwischen Arbeitgebern und Beschäftigten eher verschärft als abbaut. Betroffen sind nicht nur einfache Tätigkeiten. Auch Berufseinsteiger, Frauen in bestimmten Branchen und klassische Bürotätigkeiten gelten als gefährdet.
Regulierung schafft dabei keine Arbeitsplätze und macht Verdrängung nicht rückgängig. Was sie realistisch leisten kann, sind Verfahrensrechte: Informationspflichten, menschliche Aufsicht bei automatisierten Entscheidungen, die Möglichkeit, eine KI-gestützte Entscheidung anzufechten. Das ist weniger, als sich mancher von einer Rettung erhofft, aber mehr als nichts. Und es ist der Teil, den eine funktionierende Behörde tatsächlich durchsetzen könnte, wenn es sie denn gibt.
Für Unternehmen ändert die ganze Debatte um Aussterberisiko und Behördenzuständigkeit im Übrigen wenig an der eigentlichen Aufgabe. Seit 2. August 2026 gelten die AI-Act-Pflichten unabhängig davon, ob Österreich schon eine zuständige Stelle benannt hat. Wer KI im Unternehmen einsetzt, sollte Governance also nicht auf eine irgendwann kommende Behörde abwälzen, sondern jetzt damit beginnen, ganz gleich, wie die großen Fragen am Ende beantwortet werden.