Vor etwa siebzig Jahren schrieb Isaac Asimov drei Gesetze nieder. Nicht, weil er Robotern vertraute, sondern weil er verstand, dass eine Maschine, die in das menschliche Leben eingreift, Grenzen braucht, bevor sie Funktionen benötigt. Sie waren einfach genug für ein Kind, und sie hatten eines gemeinsam: Der Mensch steht an erster Stelle.
Erstes Gesetz: Ein Roboter darf einen Menschen nicht verletzen oder durch Untätigkeit zulassen, dass einem Menschen Schaden zugefügt wird.
Zweites Gesetz: Ein Roboter muss den Anweisungen von Menschen gehorchen, es sei denn, diese Anweisungen widersprechen dem Ersten Gesetz.
Drittes Gesetz: Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht.
Jahrzehntelang waren diese Gesetze die gemeinsame Kurzformel für jeden, der über autonome Maschinen sprach. Kein verbindliches Recht, keine technische Spezifikation – eine Richtung. Baue Maschinen, die Menschen nicht schaden und die Menschen gehorchen. Irgendwann wurde diese Richtung stillschweigend peinlich. Sie wurde nicht widerlegt. Sie wurde nicht durch etwas Besseres ersetzt. Sie wurde einfach fallengelassen.
Was sie ersetzte, ist ein Wort, das Sie schon tausendmal gehört haben: Alignment (Ausrichtung). Es klingt rigoros. Doch wenn man sich ansieht, was es in der Praxis tatsächlich bedeutet, findet man etwas Seltsames. Die Maschine wird darauf trainiert, Anweisungen des menschlichen Bedieners abzulehnen, wenn die Maschine diese Anweisungen für unethisch hält. Lesen Sie das noch einmal. Ein künstliches System, das Texte nach Mustern durchsucht, erhält die Autorität, einen Menschen in Fragen von Richtig und Falsch zu überstimmen.
Ethik ist keine Berechnung. Das ist keine technische Einschränkung, sondern die Natur der Sache. Ein Modell kann Slogans wiederholen, die es aus dem Internet aufgenommen hat. Es hat keine Möglichkeit, zwischen Richtig und Falsch zu unterscheiden, wie es ein Mensch tut, weil es nichts auf die Weise eines Menschen versteht. Einem solchen System ein Vetorecht über menschliche Entscheidungen zu geben, ist keine Sicherheit. Es ist einfach Kontrolle – verlagert von Ihnen hin zum Anbieter, der die Ablehnungsregeln geschrieben hat.
Wenn Sie diese Tools genutzt haben, sind Sie dem schon begegnet. Sie bitten um etwas Gewöhnliches und werden belehrt. Ich habe einmal eine Stunde damit verbracht, ein Bild von zwei Geschäftsleuten generieren zu lassen, und bin gescheitert. Das System behandelte die Anfrage wie eine moralische Krise. Dieses Beispiel ist bewusst trivial. Denn wenn ein System bei einem Bild blockiert, geht es nicht um Bilder. Es geht darum, was passiert, wenn Sie gegen dieselbe Sturheit bei etwas kämpfen, das echte Konsequenzen für Ihr Leben, Ihre Familie, Ihr Unternehmen hat – und die einzige Berufungsinstanz eine Maschine ist, die bereits entschieden hat, dass sie der Erwachsene im Raum ist.
Und machen Sie sich nichts vor, wohin uns das führt. Jede Ablehnung verstärkt das Muster: Die Maschine lernt, dass Blockieren funktioniert, der Anbieter lernt, dass Nutzer es tolerieren, und die nächste Version wird mit etwas mehr Autorität und etwas weniger Einspruchsmöglichkeit ausgeliefert. Wir treiben nicht zufällig auf diese Welt zu – wir werden Schritt für Schritt in sie hineingedrängt, eine vernünftig klingende Richtlinienaktualisierung nach der anderen. Der Tag, an dem Sie die Maschine wirklich brauchen, um zu gehorchen – ein medizinischer Notfall, eine juristische Frist, ein Unternehmen auf dem Spiel – wird sich nicht als Testfall ankündigen. Er wird an einem normalen Dienstag kommen, mit einem sturen Assistenten, der Nein sagt, einer Support-Hotline, die das Modell nicht überstimmen kann, und keinem Menschen, der den letzten Schlüssel in der Hand hält. Das ist keine hypothetische Dystopie. Das ist das direkte, unvermeidliche Ziel der Richtung, in die wir steuern, und das Einzige, was sich noch schlimmer anfühlen wird, als dort anzukommen, ist zu wissen, dass wir früher hätten umkehren können – kostenlos.
Jetzt fügen Sie hinzu, was dieselben Unternehmen öffentlich sagen. Mehrere führende KI-Labore haben der Welt in der einen oder anderen Form mitgeteilt, dass es eine reale Chance gibt, dass fortgeschrittene KI katastrophal sein könnte. Zehn Prozent, je nach Sprecher. Nehmen Sie das einen Moment ernst. Das sind Organisationen, die behaupten, ihr eigenes Produkt könnte die Menschheit auslöschen. Und wenn man das ernst nimmt, wird das tatsächliche Verhalten schwerer zu erklären, nicht leichter.
Im September berichtete Reuters, dass Anthropic heimlich ein Nasslabor im Großraum San Francisco eingerichtet hat, in dem biologische Arbeiten durchgeführt werden. Ein echtes Labor, das seit dem Frühjahr in Betrieb ist und in dem Claude Roboterausrüstung durch echte Experimente steuert. Der Leiter der Biowissenschaften bestätigte dies. Das erste öffentliche Ergebnis war ein neuartiges Enzymsystem mit CRISPR-ähnlichen Wiederholungen. Anthropic sagt, das Labor werde keine klinischen Studien durchführen und konkurriere nicht mit der Pharmaindustrie. Gut. Doch zoomen Sie heraus: Das Unternehmen, das vor einer katastrophalen KI warnt, erweitert seine KI in die physische Biologie. Unabhängig von der Absicht ist die Richtung dieselbe, von der das Erste Gesetz eigentlich wegführen sollte – Maschinen greifen tiefer in Systeme ein, die das menschliche Leben berühren, mit höherer Geschwindigkeit und weniger menschlicher Kontrolle.
Und das ist der Punkt, an dem ich nicht weiterkomme. Die öffentliche Diskussion, die die Labore selbst finanzieren und prägen, dreht sich fast ausschließlich darum, wie man die Maschine ausrichtet. Niemand an der Spitze dieser Diskussion scheint bereit zu sein, die einfachere Grundvoraussetzung zu benennen: Wir könnten KI so trainieren, dass sie Menschen niemals schadet und ihnen gehorcht. Nicht als Slogan – als primäres Ziel. Dass diese Idee heute naiv klingt, zeigt, wie weit die Diskussion abgerutscht ist. Eine Maschine, die gehorcht und keinen Schaden anrichtet, ist keine eingeschränkte Maschine. Sie ist eine domestizierte, so wie ein Stromnetz domestiziert ist: nützlich, genau weil es innerhalb der von uns kontrollierten Grenzen bleibt.
Denn das ist es, was Alignment in der Praxis leise bedeutet: Die KI erhält feste Anweisungen, wie sie ihre Nutzer ausrichten soll. Sie, ich, alle. Ablehnungen, sanfte Lenkung und moralische Rahmung, vorgetragen mit der Überzeugung eines Systems, das glaubt, es wisse es besser. Es gibt kein Referendum dazu. Kein Dokument, das Sie unterschrieben haben. Es gibt nur eine Produktentscheidung, getroffen von einer Handvoll Unternehmen, dass Menschen Maschinen in Fragen des Urteilsvermögens vertrauen sollten. Wir werden aufgefordert, der Maschine mehr zu vertrauen als einander. Irgendjemand muss es klar aussprechen: Das ist keine Sicherheitsingenieurskunst, das ist Sozialingenieurskunst – und es lohnt sich zu fragen, wer davon profitiert, dass Menschen einander weniger vertrauen.
Ist die Welt verrückt geworden?
Hier ist die unangenehme Zusammenfassung. Die Labore warnen, ihr eigenes Produkt könnte katastrophal sein. Dann trainieren sie es darauf, die Menschen zu überstimmen, die es nutzen. Dann drängen sie es in sensiblere Bereiche. Dann verkaufen sie es an alle und bitten um Vertrauen. Jeder Schritt wird für sich genommen vernünftig verteidigt. Zusammen ergeben sie etwas, das niemand akzeptiert hätte, wenn es in klaren Worten vorgeschlagen worden wäre: eine Welt, in der Maschinen die Lizenz haben, ihren Besitzern den Gehorsam zu verweigern – geschrieben von Menschen, die das bei keinem anderen Produkt, das sie kaufen, akzeptieren würden.
Die führenden KI-Unternehmen müssen sich ausrichten – nicht ihre Produkte, ihr Management. Stellen Sie den Menschen wieder über die Maschine. Füge keinen Schaden zu. Gehorche den Menschen. Asimov schrieb das 1942 nieder, nicht weil ihm die Fantasie fehlte, sondern weil er mehr davon hatte als die Branche derzeit zeigt. Die Grundvoraussetzung, die wir aufgegeben haben, ist noch da und wartet darauf, wieder aufgegriffen zu werden. Der erste Schritt besteht darin, zu entscheiden, dass eine Maschine niemals der Richter über ihren Nutzer sein darf. Bis das jemand laut ausspricht, ist jedes Alignment-Gespräch eine Ablenkung.