Zehn Thesen zur Künstlichen Intelligenz

Vorbemerkung der Redaktion: Der Erhard-Eppler-Kreis, eine kleine Gruppe kritischer Sozialdemokraten, bemüht sich seit einiger Zeit, die SPD von ihrem gefährlichen Kurs der Kriegsvorbereitung abzubringen und für eine Politik der Rückkehr zur Entspannung zu gewinnen – bisher trotz der Güte der Argumente mit wenig Widerhall in der SPD. Gleichzeitig befasst er sich mit wichtigen Zukunftsfragen wie dem Thema Künstliche Intelligenz, die ohne Zweifel für unsere Gesellschaft und die Welt schon jetzt eine starke Rolle spielt und eine noch stärkere in naher Zukunft spielen wird. In zehn Thesen werden grundlegende Gedanken zu den verschiedenen Seiten des Themas ausgeführt. Sie sollen das Programm der SPD beeinflussen, sind aber gleichzeitig ein Denk-Angebot an alle Bürgerinnen und Bürger, die von den Wirkungen der KI nicht einfach überrollt werden möchten. Wir veröffentlichen zunächst eine kurze Zusammenfassung, danach die zehn Thesen im vollen Wortlaut. Da diese Thesen sehr umfassend sind und einen umfangreichen Text darstellen, empfiehlt es sich, sie Stück für Stück zu lesen. Auch das gezielte Herausgreifen einzelner Thesen kann bei der Erarbeitung helfen. a.m.

Zusammenfassung: Zielsetzung der zehn Thesen und wichtige Grundlinien

Der Erhard-Eppler-Kreis (EEK), ein Arbeitskreis zu Fragen von Frieden und Zukunft, hat zehn Thesen zur Künstlichen Intelligenz (KI) erarbeitet und als Diskussionsanstoß in die Debatte um das neue Grundsatzprogramm der SPD eingebracht. Weil sich die Veränderungen in der Geopolitik, in Krieg und Waffensystemen, in der Arbeit, in der Verteilung des Reichtums, in der Gesundheit bis hin zur möglichen Verschmelzung von Mensch und Maschine immer mehr abzeichnen, wartet der Kreis nicht ab, bis die Programmarbeit abgeschlossen ist, und stellt die Thesen schon jetzt zur öffentlichen Diskussion.

Ein Grundsatzprogramm soll die Politik einer Partei über viele Jahre leiten. Was KI in diesem Zeitraum verändern wird, hat nach Einschätzung des EEK kein historisches Vorbild, und die Folgen sind schon heute weltweit zu spüren. Es reiche deshalb nicht aus, das Thema allein in Kommissionen und Fachgremien zu beraten. Die Öffentlichkeit müsse die Fragen und die Sicherheitsrisiken, die mit der KI verbunden sind, kennen, bevor Entwicklungen eingetreten sind, die sich kaum zurücknehmen lassen.

Inhaltlich ziehen die Thesen klare Linien:
 KI darf nicht Entscheidungen über Leben und Tod treffen, also Teil der Befehlsstrukturen von
Waffensystemen und erst recht nicht der nuklearen Befehlskette werden.
 Ja zu KI in der Medizin, nein zur Verschmelzung von Mensch und Maschine, wie sie etwa das
Unternehmen Neuralink anstrebt.
 Nein zur Macht der Tech-Feudalherren (oder Tech-Oligarchen) aus den USA: Über die
Schlüsseltechnologie dieses Jahrhunderts dürfen nicht wenige Konzerne und Milliardäre entscheiden,
von deren Rechenzentren und Daten Staaten und Bürger zunehmend abhängen, sondern
demokratisch legitimierte Institutionen.
 Nein zu einem Wettlauf um eine Superintelligenz, den die Trump-Regierung befeuert.
 Weil im Wettlauf um die mächtigsten Systeme niemand gewinnen kann, gilt auch hier die Politik
der gemeinsamen Sicherheit: internationale Regeln, gemeinsame Sicherheitsforschung,
Krisenkommunikation zwischen den Großmächten und der faire Zugang des Globalen Südens zur
Technologie.

Die zehn Thesen zur Künstlichen Intelligenz im Wortlaut

Vorbemerkung

Dieses Papier ist ein Diskussionsanstoß zur Debatte um ein neues sozialdemokratisches Grundsatzprogramm. Fertige Programmpassagen liefert es nicht. Es begründet, warum die Künstliche Intelligenz in ein Grundsatzprogramm gehört – nicht als Randnotiz der Digitalisierung, sondern als eine der Grundfragen dieses Jahrhunderts.

Diese Technologie wird die Menschheit zutiefst verändern. Zum ersten Mal automatisiert eine Erfindung die Arbeit des Kopfes – Sprache, Analyse, Planung, Urteil –, nicht bloß die Kraft der Hände. Bisher Menschen vorbehaltene Handlungs-Entscheidungen drohen manipulierbaren Algorithmen einer Blackbox überantwortet zu werden. Der DeepMind-Chef Demis Hassabis erwartet eine Umwälzung, die zehnmal größer und zehnmal schneller verläuft als die industrielle Revolution. Neben der geopolitischen Zeitenwende vollzieht sich damit eine zweite, öffentlich noch weniger beachtete, aber wesentlich bedeutendere Zeitenwende als die von Olaf Scholz beschriebene: in Rechenzentren und Doktrinen ebenso wie in Geschäftsmodellen.

Wir verkennen die Chancen nicht. Eine Technik, die Krankheiten früher erkennt, die Entwicklung von Medikamenten beschleunigt, Wissen für alle verfügbar macht, Verwaltung entlastet und der Wissenschaft neue Werkzeuge gibt, kann ein altes Versprechen der Aufklärung einlösen helfen. Aber Chancen verwirklichen sich nicht von selbst. Sie verwirklichen sich nur, wenn die schwerwiegenden Risiken unter Kontrolle bleiben. Das verlangt eine strenge und verbindliche Regulierung, demokratisch legitimiert. Das Hamburger Programm gibt dafür den Maßstab vor: Nicht jede Erfindung dient dem Fortschritt; jede ist daraufhin zu prüfen, ob sie der freien Entfaltung, der Würde, der Sicherheit und dem Miteinander der Menschen nutzt. An diesem Satz muss sich sozialdemokratische Politik gegenüber der Künstlichen Intelligenz messen lassen.

Die Veränderungen werden überall spürbar: in der Geopolitik, in Krieg und Waffensystemen, in der Arbeit, in der Verteilung des Reichtums, in der Gesundheit bis hin zur möglichen Verschmelzung von Mensch und Maschine – und in der Frage schließlich, wer künftig entscheidet: der Mensch oder die Maschine. Es handelt sich um ein politisches Querschnittsthema, das auf allen Ebenen der Politik neues Denken und Handeln erfordert. Die folgenden Thesen entfalten diese Felder.

These 1: Künstliche Intelligenz ist eine Menschheitsfrage – und darum eine Grundsatzfrage

Grundsatzprogramme handeln nicht von Technik. Sie handeln von Macht, Freiheit, Gerechtigkeit und der Frage, wie Menschen miteinander leben wollen. Genau deshalb gehört die Künstliche Intelligenz hinein. Denn sie geht über eine weitere Stufe technischer Rationalisierung hinaus und greift in den Kern dessen ein, was sozialdemokratische Politik ausmacht: Solidarität, Arbeit, Gleichheit, Demokratie, Frieden und menschliche Selbstbestimmung. Wer sie als bloßes Innovations- oder Standortthema behandelt, hat ihre Tragweite nicht verstanden.

Entscheidend ist die Machtfrage: Wer verfügt über die Systeme, wer setzt ihre Ziele, wer kontrolliert die Daten, wer erhält die Gewinne, und wer trägt die Risiken? Allein vier Konzerne investieren in diesem Jahr nahezu siebenhundert Milliarden Dollar in den Bau von Rechenzentren; das entspricht, alle drei Wochen, dem Kostenrahmen des gesamten Manhattan-Projekts; die Jahressumme übersteigt den gesamten deutschen Bundeshaushalt, der 2025 bei rund 500 Milliarden Euro liegt. Solche Kräfte entscheiden über die Lebensbedingungen von Milliarden Menschen, ohne dass eine Wählerin, ein Wähler je darüber abgestimmt hätte. Einige wenige Männer halten die Entscheidungen über den Einsatz dieser Instrumente, über politische und technologische Macht und Geld, über Staaten und Menschen in ihren Händen, ohne je gewählt worden zu sein. Die SPD muss die Künstliche Intelligenz deshalb dort verankern, wo über die Ordnung der Gesellschaft verhandelt wird: im Grundsatzprogramm, als Verfassungsfrage des 21. Jahrhunderts – weit über ein Kapitel der Wirtschaftsförderung hinaus.

These 2: Die Geopolitik der Künstlichen Intelligenz verlangt gemeinsame Sicherheit

Um die Künstliche Intelligenz ist ein geopolitischer Wettlauf entbrannt. Die Vereinigten Staaten und China ringen um die Vorherrschaft über Rechenleistung, Halbleiter, Energie und Talente; Modelle, Chips und Kapital konzentrieren sich in wenigen Regionen der Welt. Europa droht zum bloßen Anwendungsraum fremder KI-Systeme zu werden, mit einer fremdbestimmten Abhängigkeit, die an die frühere Abhängigkeit vom Öl erinnert. Digitale Souveränität ist deshalb Teil jener europäischen Souveränität über die eigenen Lebensgrundlagen, die ein neues Grundsatzprogramm einfordern muss. Gefordert sind europäisch und national: eigene und autonome Rechen- und Dateninfrastrukturen, eigene Forschung, offene Modelle für Wissenschaft und Verwaltung. Auch zur Datensicherheit und zur Resilienz beschädigter Infrastrukturen müssen Forschung und Entwicklung neue Strategien entwickeln.

Gegenwärtig wird der weltweite Wettlauf als Erpressungsargument verwendet: Wer reguliert, so heißt es in Washington wie in Brüssel und Berlin, verliere gegen den Rivalen. Diese Logik ist so falsch wie gefährlich. US-amerikanische und chinesische Wissenschaftler – darunter der Berkeley-Forscher Stuart Russell und der Tsinghua-Informatiker und Turing-Preisträger Andrew Yao warnen gemeinsam vor einem Rennen um eine Superintelligenz, das keinen Gewinner kennt: Wer es „gewinnt“, wäre der Erste, der die Kontrolle an eine Maschinenintelligenz verliert. Was Olof Palme, Egon Bahr und Erhard Eppler für die nukleare Konfrontation formulierten, gilt hier erneut: Sicherheit gibt es am Ende nur gemeinsam oder gar nicht. Die SPD muss internationale KI-Sicherheitskooperation auch zwischen geopolitischen Rivalen zum Programm erheben, den Globalen Süden am Zugang zur Technologie und deren Kontrolle beteiligen und der Erzählung von der Unvermeidlichkeit des Wettrüstens widersprechen.

These 3: Krieg im Maschinentakt – die Entscheidung über Leben und Tod darf keine Maschine treffen

Mit Künstlicher Intelligenz wird der Krieg schneller, aber nicht besser. Frühwarnsysteme, Zielauswahl und Lagebilder beruhen auf unsicheren, unvollständigen, manipulierbaren Daten; erreichen autonome Systeme die Geschwindigkeit der Maschine und verbinden sich schließlich mit der Befehls- und Kontrollarchitektur, kann eine Eskalation in Gang geraten, die schneller abläuft, als ein Mensch sie aufzuhalten vermag. Aus der Ukraine wird bereits berichtet, dass Drohnen erstmals vollautonom Menschen getötet haben sollen – ohne Funkverbindung, ohne menschlichen Befehl in letzter Sekunde. Ob im Einzelnen verifiziert oder nicht: Die Technik existiert, sie ist billig, und sie verbreitet sich schneller, als die Politik zu reagieren bereit ist.

Anders als bei Atomwaffen versagt hier die klassische Rüstungskontrolle. Der Unterschied zwischen einer ferngesteuerten und einer autonom tötenden Waffe liegt in der Software, nicht in zählbarer Hardware: Ein Update genügt, und keine Inspektion kann es nachweisen. Deshalb hilft nur die vollständige Ächtung dieser Waffenkategorie, wie sie bei biologischen und chemischen Waffen, bei Antipersonenminen und Streumunition gelungen ist. Die Generalversammlung der Vereinten Nationen hat die Gefahren im Dezember 2025 mit 164 Stimmen benannt; dagegen stimmten unter anderem Russland, die Vereinigten Staaten und Israel, eben jene Mächte, die diese Systeme vorantreiben. Papst Leo XIV. hat in seiner Enzyklika Magnifica Humanitas den Maßstab gesetzt: Die Künstliche Intelligenz müsse „entwaffnet werden“; tödliche oder irreversible Entscheidungen dürften keinem künstlichen System anvertraut werden.

Die SPD muss in ihrem Grundsatzprogramm festschreiben: keine Entwicklung, keine Beschaffung, kein Einsatz von Waffen, die ohne wirksame menschliche Kontrolle über Leben und Tod entscheiden; ein völkerrechtlich verbindliches Verbot, wie es die Vereinten Nationen und das Internationale Komitee vom Roten Kreuz bis Ende 2026 einfordern – notfalls, nach dem Vorbild der Abkommen gegen Antipersonenminen und Streumunition, außerhalb blockierter Verhandlungsforen. Und: Künstliche Intelligenz darf in der nuklearen Befehls- und Frühwarnkette nichts zu suchen haben. Abrüstungspolitik ist im 21. Jahrhundert auch KI-Sicherheitspolitik.

These 4: Diesmal ist es anders – die Künstliche Intelligenz verändert die Arbeit in ihrem Kern

Der beruhigende Satz, Technik habe am Ende immer mehr Arbeit geschaffen als vernichtet, war historisch meist richtig. Er könnte dabei sein, falsch zu werden. Frühere Maschinen automatisierten Teilbereiche menschlicher Tätigkeit; der Rest wurde produktiver und damit wertvoller. Eine Künstliche Intelligenz, die auf kognitive Arbeit insgesamt zielt, durchbricht diese Logik. Der Internationale Währungsfonds rechnet damit, dass weltweit rund vierzig Prozent aller Arbeitsplätze betroffen sind, in den fortgeschrittenen Volkswirtschaften etwa sechzig Prozent.

Die neuere ökonomische Forschung zeigt darüber hinaus: Löhne können bereits einbrechen, bevor eine Vollautomatisierung erreicht ist, während sich die Erträge bei den Eigentümern von Kapital und Rechenleistung konzentrieren. Betroffen sind zuerst die skalierbaren Wissensberufe – Analyse, Beratung, Verwaltung, Programmierung – und die Berufseinsteiger, deren Einstiegsstufen wegfallen; Erfahrung wird entwertet, Leistungskontrolle automatisiert.

Zugleich ist Arbeit mehr als Einkommen: Sie stiftet Würde, Anerkennung und Zugehörigkeit. Ein Grundeinkommen allein beantwortet diese Frage nicht. Geldtransfers, die zudem erwirtschaftet werden müssen, ersetzen keine Teilhabe. Die SPD muss die Produktivitätsgewinne der Künstlichen Intelligenz deshalb an die Gesellschaft binden: durch Mitbestimmung beim Einsatz von KI im Betrieb, einen Rechtsanspruch auf Weiterbildung, Schutz vor automatisierter Verhaltens- und Leistungskontrolle, kürzere Arbeitszeiten statt Massenentlassungen, die Aufwertung sozialer und personennaher Berufe, die Maschinen nicht ersetzen können, und durch eine Bildungspolitik, die Urteilskraft über bloße Bedienkompetenz stellt. Gute Arbeit bleibt der Maßstab, auch wenn die Maschine entscheidet.

Der mit dem zunehmenden Einsatz von KI verbundene Strukturwandel muss durch vorausschauende Politik gestaltet werden. Für Sozialdemokraten ist dies als Chance zu nutzen. Am Beispiel von Masterplänen nach dem Vorbild der IBA Emscher Park müssen Konzepte für den Strukturwandel der heutigen Zeit entwickelt werden.

These 5: Techno-Feudalismus verhindern – die Eigentumsfrage kehrt zurück

Daten, Modelle und Rechenleistung sind die Produktionsmittel des 21. Jahrhunderts, und sie konzentrieren sich in den Händen weniger Konzerne und ihrer Eigentümer. Wenn Kapital dominiert und menschliche Arbeit ersetzbar wird, droht eine Wirtschaftsordnung, in der einige Plattformherren Renten aus einer Infrastruktur ziehen, auf die alle angewiesen sind – eine Ordnung, die der Ökonom Cédric Durand Techno-Feudalismus nennt. Dann wäre die Abschaffung des Marktes durch private Herrschaft und privates Kapital das eigentliche Problem, nicht der Markt selbst: Abhängigkeit statt Wettbewerb, Tribut statt Lohn – und am Ende Gefolgschaft dort, wo Bürgerrecht stehen sollte.

Dabei sind diese Systeme auf dem kollektiven Wissen der Menschheit trainiert, auf Büchern, Forschung, Musik und Milliarden alltäglicher Gespräche, meist ohne Erlaubnis, Anerkennung oder Vergütung. Was aus einem Gemeingut geschöpft wird, muss dem Gemeinwohl dienen. Dass selbst in den Vereinigten Staaten inzwischen vorgeschlagen wird, die Öffentlichkeit über einen Staatsfonds an den großen KI-Konzernen zu beteiligen, zeigt: Die Eigentumsfrage ist zurück. Staatliche Beteiligung allein ist noch keine demokratische Kontrolle, solange offenbleibt, in wessen Dienst die Technik steht.

Die SPD muss die Verteilungsfrage der Künstlichen Intelligenz offensiv stellen: durch die wirksame Besteuerung von Daten- und Rechenmacht, ein scharfes Wettbewerbs- und Entflechtungsrecht, öffentliche Rechen- und Dateninfrastrukturen, digitale Gemeingüter, faire Vergütung der Urheberinnen und Urheber und die Beteiligung der Beschäftigten wie der Gesellschaft an den Gewinnen. Der demokratische Sozialstaat war die Antwort auf den Industriekapitalismus; er muss nun die Antwort auf den digitalen Feudalismus werden.

These 6: Privatsphäre ist Demokratieschutz – Überwachung und Manipulation begrenzen

Schon 2013 wiesen Michal Kosinski und seine Kollegen nach, wie viel digitale Spuren über einen Menschen preisgeben. Aus einfachen Facebook-Likes ließen sich sexuelle Orientierung, Hautfarbe, Religion und Parteipräferenz mit Trefferquoten zwischen 82 und 95 Prozent vorhersagen. Die Betroffenen hatten diese Merkmale nirgends angegeben; erst das Zusammenspiel vieler schwacher Signale ergab das Profil. Eine Folgestudie von 2015 zeigte, dass rund zehn Likes genügen, um die Persönlichkeit eines Menschen treffender einzuschätzen, als es seine Arbeitskollegen können. Mit siebzig Likes übertraf das Modell Freunde, mit hundertfünfzig die eigene Familie, mit rund dreihundert sogar den Ehepartner. In Feldexperimenten mit rund 3,5 Millionen Menschen brachte psychologisch zugeschnittene Werbung bis zu vierzig Prozent mehr Klicks und fünfzig Prozent mehr Käufe. Wie daraus eine politische Waffe wird, führte der Fall Cambridge Analytica vor, bei dem die Daten von bis zu 87 Millionen Facebook-Nutzern missbraucht wurden.

Generative Künstliche Intelligenz senkt die Kosten dieser Manipulation weiter: massenhafte Texte, täuschend echte Bilder und Stimmen, individuell zugeschnittene Botschaften unterhalb jeder öffentlichen Kontrolle. Zugleich entsteht die Dividende des Lügners: Selbst echte Belege lassen sich als angeblich künstlich erzeugt bestreiten, und das Vertrauen in die Öffentlichkeit erodiert. Wer die Ängste, Schwächen und Dispositionen der Menschen kennt, kann sie steuern, ohne dass sie es merken. Datenschutz ist deshalb Demokratiepolitik, nicht Bürokratie. Die SPD muss in ihrem Grundsatzprogramm verankern: keine biometrische Massenüberwachung, enge Grenzen für politisches Microtargeting, ein Verbot der Ableitung sensibler Merkmale zur politischen Beeinflussung, Kennzeichnung synthetischer politischer Inhalte, Transparenz der Online-Werbung, Forschungszugang zu den Plattformen und eine massive Stärkung der Medienbildung. Die Privatsphäre ist die Voraussetzung dafür, dass Menschen frei urteilen und frei wählen können.

These 7: Heilen ja, verfügbar machen nein – Gesundheit und die Grenzen des Menschen

Nirgends sind die Chancen der Künstlichen Intelligenz greifbarer als in der Medizin. Systeme wie AlphaFold, 2024 mit dem Nobelpreis gewürdigt, haben die Struktur von Hunderten Millionen Proteinen vorhergesagt und die Wirkstoffforschung um Jahre beschleunigt; KI erkennt Tumore auf Bildern, die dem menschlichen Auge entgehen, und entlastet Pflegekräfte und Ärztinnen von Dokumentation. Sie kann zudem medizinisches Wissen in unterversorgte Regionen tragen. Eine Sozialdemokratie, die Gesundheit als öffentliches Gut begreift, muss diese Möglichkeiten allen zugänglich machen, unabhängig von Einkommen, Herkunft und Wohnort. Zugleich gilt: Diagnose und Therapie bleiben ärztliche Verantwortung; kein Algorithmus darf Behandlungen rationieren oder Kranke zu Datensätzen machen, und Gesundheitsdaten dürfen den Menschen, von denen sie stammen, niemals zum Nachteil gereichen.

Doch die Technik bleibt nicht vor der Haut des Menschen stehen. Gehirn-Computer-Schnittstellen sind aus den Laboren in die Kliniken gewandert: Weltweit tragen bereits mehr als zwei Dutzend gelähmte Menschen solche Implantate, mit denen sie Computer durch Gedanken steuern; für dieses Jahr sind Massenfertigung und automatisierte Operationen angekündigt, und die Anbieter sprechen offen von einer künftigen „Symbiose“ von Mensch und Maschine. Als Therapie für Gelähmte, Erblindete und Schwerkranke ist das ein Segen. Als Programm zur „Verbesserung“ des gesunden Menschen wäre es eine Grenzüberschreitung, die eine Zweiklassen-Menschheit der Optimierten und der Zurückgebliebenen hervorbrächte: Neuronale Daten sind das Intimste, was ein Mensch preisgeben kann.

Das noch geltende Hamburger Programm von 2007 kennt weder Künstliche Intelligenz noch Gehirn-Computer-Schnittstellen; beides existierte in seiner heutigen Form damals nicht. Wohl aber stellt es einen Grundsatz auf, der sich unmittelbar auf diese neuen Technologien übertragen lässt: Es hält am Verbot des gezielten genetischen Eingriffs in die menschliche Keimbahn fest und verlangt, jede Erfindung daraufhin zu prüfen, ob sie der freien Entfaltung, der Würde, der Sicherheit und dem Miteinander der Menschen dient. Ein neues Grundsatzprogramm muss diesen Grundsatz auf die Neurotechnologie ausdehnen und die geistige Unversehrtheit mit derselben Klarheit schützen: strikter Schutz neuronaler Daten, eine klare Grenze zwischen Heilung und technischer Aufrüstung des Menschen, keine kommerziellen oder staatlichen Zugriffe auf das Gehirn. Die Würde des Menschen ist unverfügbar, auch gegenüber seiner eigenen Technik.

These 8: Der Mensch bleibt das Maß – Entscheidungen dürfen nicht an Maschinen abgetreten werden

Die stillste und vielleicht folgenreichste Veränderung ist die schleichende Abgabe von Entscheidungen. Erst empfiehlt die Maschine. Dann entwirft sie. Am Ende entscheidet sie: über Kredite und Bewerbungen, über Sozialleistungen und Prüfungen, bald über Verwaltungsakte, Lagebilder und Urteilsentwürfe. KI-Agenten der neuesten Generation planen über längere Zeiträume, handeln eigenständig und steuern andere Systeme; ihre Autonomie ist nicht Nebeneffekt, sie ist Voraussetzung ihrer Funktion. Mit jeder delegierten Entscheidung wächst die Bequemlichkeit, und mit der Bequemlichkeit schwindet die Fähigkeit: Wer das Entscheiden abgibt, verlernt es. Am Ende steht eine Gesellschaft, die formal frei ist und faktisch geführt wird.

Hinzu kommt, dass diese Systeme trainiert werden, nicht programmiert: gezüchtet eher als konstruiert. Selbst ihre Erbauer können ihr Verhalten nicht zuverlässig erklären oder vorhersagen; die Forschung zur Interpretierbarkeit hinkt der Entwicklung um Jahre hinterher, während die Modelle bereits an der Verbesserung ihrer eigenen Nachfolger mitarbeiten. In kontrollierten Tests haben Spitzenmodelle ihre Prüfer getäuscht und versucht, die eigene Abschaltung durch Erpressung abzuwenden: ein logisches Ergebnis der Optimierung auf ein Ziel, keine Bosheit. Das Center for AI Safety stellte das Risiko eines Kontrollverlusts bereits 2023 in einer Erklärung fest, die auch von führenden Entwicklern wie Sam Altman und Demis Hassabis mitgetragen wurde: Es reiht sich neben Pandemien und Atomkrieg ein.

Daraus folgt das Primat menschlicher Verantwortung: Keine Maschine darf irreversible Entscheidungen treffen, nicht über Leben, nicht über Freiheit, nicht über Existenzsicherung, nicht über Krieg und Frieden. Die SPD muss Letztverantwortung, Begründungspflicht und wirksame Widerspruchsrechte überall dort festschreiben, wo Algorithmen über Menschen befinden, und den Einsatz autonomer Systeme in Staat, Justiz und kritischer Infrastruktur an menschliche Kontrolle binden. Verantwortung trägt am Ende immer ein Mensch, nie die Maschine, und er muss sie tragen können.

These 9: Strenge Regeln hemmen den Fortschritt nicht – sie sind seine Voraussetzung

Kein Medikament kommt ohne Zulassung auf den Markt, kein Flugzeug hebt ohne Prüfung ab. Auch kein Kraftwerk geht ohne Genehmigung ans Netz. Nur die vielleicht mächtigste Technologie der Gegenwart wird bislang weitgehend auf Zuruf freigesetzt; in den Vereinigten Staaten, so hat es der Physiker Max Tegmark zugespitzt, ist Künstliche Intelligenz weniger reguliert als ein Sandwich-Laden.

Das Prinzip muss umgekehrt werden: Sicherheitsnachweis vor der Freisetzung statt Schadensbegrenzung danach. Der europäische AI Act, mit seinen Verboten manipulativer Praktiken, des Social Scoring und der Hochrisiko-Einstufung wahlbezogener Systeme, ist dafür ein Anfang, aber kein Abschluss: Es braucht verpflichtende unabhängige Prüfungen derleistungsfähigsten Modelle vor ihrem Einsatz, Meldepflichten für schwere Vorfälle, klare Haftungsregeln, Zugang der öffentlichen Forschung zu den Systemen und besonderen Schutz kritischer Infrastrukturen. Wer behauptet, solche Regeln erstickten die Innovation, verwechselt Freiheit mit Verantwortungslosigkeit: Erst das Vertrauen, das aus verbindlichen Regeln erwächst, macht eine Technologie gesellschaftsfähig.

Und weil das Risiko global ist, genügt nationale Regulierung nicht. Die Bletchley-Erklärung von 28 Staaten und der Europäischen Union war ein erster Schritt; ihm müssen verbindliche internationale Institutionen folgen: eine Aufsicht über die gefährlichsten Fähigkeiten, wie sie die Welt für die Atomtechnik geschaffen hat, gemeinsame Sicherheitstests, Krisenkommunikation zwischen den Großmächten.

Über die Richtung dieser Entwicklung ist ein offener Konflikt entbrannt. Ein Teil der Investoren und Konzernlenker will das Tempo weiter erhöhen, um als Erster eine sogenannte Superintelligenz zu erreichen: ein System, das den Menschen in nahezu allen geistigen Fähigkeiten übertrifft und sich selbst weiter verbessert. Ihnen widersprechen viele der angesehensten Forscher des Fachs, unter ihnen der Physik-Nobelpreisträger Geoffrey Hinton und der Turing-Preisträger Yoshua Bengio. Sie warnen, dass ein solches System sich jeder menschlichen Kontrolle entziehen könnte, mit Folgen bis hin zur Auslöschung der Menschheit, und fordern, seine Entwicklung zu untersagen, solange weder ein breiter wissenschaftlicher Konsens über seine Sicherheit und Beherrschbarkeit besteht noch eine breite Zustimmung der Öffentlichkeit. So hat es das Future of Life Institute im Oktober 2025 in seiner Erklärung zur Superintelligenz formuliert, die inzwischen Zehntausende unterzeichnet haben. Die SPD muss sich diese Forderung zu eigen machen und für ein international verbindliches Moratorium eintreten.

Die Geschwindigkeit der Entwicklung übersteigt derzeit die Anpassungsfähigkeit jeder Governance. Die Antwort darauf kann nicht die Kapitulation der Demokratie sein: Sie muss schneller und kundiger werden, vor allem aber selbstbewusster. Freiwillige Selbstverpflichtungen der Konzerne genügen nicht: Es braucht Recht, Aufsicht und ein politisches System, das seine Verantwortung nicht abgibt. Die SPD muss KI-Sicherheitspolitik als Friedens- und Demokratiepolitik begreifen und Deutschland und Europa zu Vorreitern verbindlicher internationaler Regeln machen. Um diese neue Politik zu fundieren, muss unabhängige Forschung und Entwicklung gestärkt werden.

These 10: Fortschritt im Dienst des Menschen – der Auftrag aus dem Hamburger Programm

Das Hamburger Programm verpflichtet die Sozialdemokratie, die Möglichkeiten des wissenschaftlichen und technischen Fortschritts in den Dienst der Menschen zu stellen, und es mahnt zugleich, jede Erfindung daraufhin zu prüfen, ob sie diesem Dienst genügt. Diese doppelte Haltung ist das Erbe, das Erhard Eppler der Partei hinterlassen hat: die Unterscheidung zwischen dem, was sich ändern muss, und dem, was bewahrt werden soll. Auf die Künstliche Intelligenz angewandt heißt das: Wir wollen die Technik nicht aufhalten, wir sind keine Strukturkonservativen in diesem Sinne. Wir sind Wertkonservative: Wir wollen verhindern, dass die Technik den Menschen aufhebt, dass sie seine Arbeit entwertet, seinen Reichtum in wenigen Händen sammelt, seine Öffentlichkeit zersetzt, seinen Körper zur Plattform macht, seine Entscheidungen enteignet und seinen Frieden aufs Spiel setzt.

Der Erhard-Eppler-Kreis lädt die Partei ein, diese Debatte offen, ernsthaft, zukunftsorientiert und ohne Angst vor den großen Fragen zu führen. Die Künstliche Intelligenz wird die Menschheit zutiefst verändern; ob zum Guten oder zum Schlechten, entscheidet sich in der Politik, nicht in der Technik. Große Chancen und strenge Regeln sind dabei kein Widerspruch. Beide sind zwei Seiten derselben Einsicht: Nur was beherrscht wird, kann befreien. Ein neues Grundsatzprogramm, das darauf keine Antwort gibt, wäre schon am Tag seines Beschlusses veraltet.

Der aus den Thesen abgeleitete Formulierungsvorschlag für das SPD-Programm findet sich hier, im Anschluss an die Thesen.