Ein Meinungsbeitrag von Christa Schyboll
ICH BIN FASSUNGSLOS … Sage man bloß später nicht, man habe von alledem nichts gewusst. Beklage man sich bloß nicht, wenn irgendwann etwas eintritt, vor dem heute bereits gewarnt wird. Wir wissen nicht, ob die Menschheit an dieser Technologie zugrunde gehen kann. Aber es könnte sein. Und genau deshalb sollten wir hinschauen.
Seit Tagen wird berichtet, was eigentlich die ganze Welt aufhorchen lassen müsste: Führende Entwickler der Künstlichen Intelligenz warnen inzwischen selbst vor dem Tempo, mit dem ihre Systeme leistungsfähiger und autonomer werden. Es geht längst nicht mehr um Chatbots, die hübsche Bilder malen oder Texte schreiben. Es geht um KI-Agenten, die selbstständig planen, Werkzeuge benutzen, Programme ausführen, auf externe Systeme zugreifen und über längere Zeit Aufgaben verfolgen können.
Und genau dort wird es ernst.
Der internationale AI Safety Report 2026, an dem mehr als hundert Fachleute aus über 30 Staaten und internationalen Organisationen mitgewirkt haben, beschreibt Szenarien eines möglichen Kontrollverlustes: Systeme könnten künftig, wenn bestimmte Fähigkeiten zusammenkommen, Aufsicht umgehen, langfristige Pläne verfolgen, ihre Absichten verschleiern. Die Fachwelt ist sich keineswegs einig, wie wahrscheinlich das ist. Aber sie ist sich einig, dass es untersucht und nicht weggewischt werden darf.
Und das eigentlich Verstörende: Es sind längst nicht mehr nur Außenstehende, die davor warnen.
Dario Amodei, Chef von Anthropic, beziffert die Wahrscheinlichkeit, dass die Entwicklung katastrophal schiefgeht, öffentlich mit 25 Prozent. Sein eigener Sicherheitsforscher hält das Risiko einer durch KI verursachten Auslöschung der Menschheit für höher als zehn Prozent innerhalb des nächsten Jahrzehnts. Das sind keine Aktivisten, keine Außenseiter. Das sind die Menschen, die die Systeme selbst bauen.
Und was machen wir?
Wir schauen zu. Während in Deutschland darüber diskutiert wird, was Klopp in seinem ersten Spiel gegen die Niederlande macht, die AfD-Debatte rauf und runter geleiert wird, Fahrgeschäfte auf dem Oktoberfest kritisch beäugt werden und die neuesten Forderungen der IG Metall unsere Aufmerksamkeit beanspruchen, vollzieht sich parallel ein technologischer Wettlauf von globaler Tragweite. Er ist riesig, schnell, wirtschaftlich gewollt, geopolitisch aufgeladen – und bislang nur begrenzt international beherrscht.
Denn diesmal sitzen nicht irgendwelche Außenseiter am Rand und malen Weltuntergangsbilder. Diesmal kommen die Warnungen aus dem Innersten der Branche selbst. Und gleichzeitig sagt der amerikanische Präsident Donald Trump, diese Warnungen seien ein „Hoax", ein Schwindel, gezielt gestreut, um Amerika im Wettlauf mit China zu bremsen. Er nennt sich selbst den „Hoax Buster" und stellt die Angst vor einer außer Kontrolle geratenen KI auf eine Stufe mit der „Russia Hoax".
Da stehen wir nun.
Auf der einen Seite Menschen, die diese Systeme bauen und deshalb ziemlich genau wissen, was sie können und was nicht. Auf der anderen Seite ein politischer und wirtschaftlicher Wettlauf, in dem Geschwindigkeit selbst zum strategischen Wert geworden ist. Und irgendwo dazwischen: wir.
Es geht dabei nicht darum, die KI zu verteufeln. Sie kann Medizin, Wissenschaft, Bildung und unser tägliches Leben voranbringen, Probleme lösen helfen, an denen wir bisher gescheitert sind. Gerade deshalb muss man die Risiken ernst nehmen. Wann, wenn nicht jetzt?
Wir haben aus Atomwaffen gelernt, dass technologische Möglichkeiten schneller wachsen können als politische Vernunft. Wir haben aus dem Klimawandel gelernt, dass jahrzehntelange Warnungen keineswegs automatisch zu rechtzeitigem Handeln führen. Und jetzt erleben wir vielleicht die nächste Variante desselben Musters: Wir wissen es, wir hören es, wir lesen es – und wir machen trotzdem weiter.
Gleichgültigkeit ist keine gute Strategie
Für alles werden Demonstrationen organisiert, Petitionen gestartet, Menschen gehen auf die Straße. Aber wenn es um eine Technologie geht, die nach Einschätzung ihrer eigenen Erbauer Fragen menschlicher Kontrolle berühren könnte, entsteht erstaunlich wenig öffentlicher Druck. Über die kleine Ungerechtigkeit regen wir uns auf. Über die große Gefahr schweigen wir.
Vielleicht weil sie zu groß ist, zu abstrakt, zu weit weg – und weil wir uns einreden, dass schon irgendjemand zuständig sein wird. Aber wer? Die Unternehmen, die daran verdienen? Die Regierungen, die im Wettbewerb nicht zurückfallen wollen? Oder wir selbst? „Übertreib mal nicht", werden jetzt manche denken. Ich übertreibe nicht. Ich stelle Fragen, die von den Menschen gestellt werden, die diese Systeme selbst gebaut haben. Ich behaupte nicht, dass die Menschheit untergehen wird. Ich behaupte nur: Wir wissen nicht, ob sie es wird. Aber es könnte. Und bei einem Risiko, dessen Wahrscheinlichkeit niemand kennt, dessen mögliche Folgen aber irreversibel wären, ist Gleichgültigkeit keine kluge Strategie.
Unverzeihlich wäre, dass die Menschheit ihre eigene Warnung hört – und einfach weiterschläft. Was ist nur mit der Menschheit los?
Weitere Beiträge von Christa Schyboll finden Sie hier >
Foto: shutterstock_2603924001
