Das von Jonas Andrulis in 2019 in Heidelberg gegründete Start-up Aleph Alpha hat sich zur Aufgabe gesetzt,‘ Deutschland und Europa von der Dominanz riesiger US-Konzerne in Sachen künstlicher Intelligenz unabhängiger zu machen‘. (Der SPIEGEL, Nr. 2/ 4.1.2025. S. 66).
In dieser Ausgabe des Magazins DER SPIEGEL wird ein Interview mit dem Gründer von Aleph Alpha veröffentlicht, in dem er sich um einen möglichen Missbrauch durch eine ideologisch-autoritäre oder diktatorische Politelite sorgt.
Hier ein Auszug:
SPIEGEL: OpenAI-Chef Sam Altman hat noch für 2025 eine Künstliche Allgemeine Intelligenz (AGI) angekündigt – also eine KI, die menschliche Fähigkeiten gleichkommt oder sie übertrifft. Zugleich warnt er vor den Gefahren. Sorgen Sie sich auch? (….)
Andrulis: Meine größte Befürchtung ist, dass einige wenige Technologieriesen immer mehr Macht und Kontrolle über unsere Gesellschaft bekommen, über unsere Wertschöpfung und über unsere Gedanken. Irgendwann werden viele der Texte, die wir lesen, der Videos, die wir schauen, und alle Bots, mit denen wir sprechen, mittels KI erzeugt oder kuratiert sein. Wer die KI baut, wird dann bestimmen, was die richtige Antwort auf eine kontroverse Frage ist. Die Folgen sehen wir jetzt schon: DeepSeek beispielsweise, ein technisch sehr gutes chinesisches Modell, verweigerte die Arbeit bei einer Anfrage, die das Jahr 1989 beinhaltete.
SPIEGEL: Weil in jenem Jahr in Peking gewaltsam die Proteste auf dem Platz des Himmlischen Friedens die niedergeschlagen wurden? Andrulis: Danach sieht es aus. (DER SPIEGEL, Nr. 2/ 4.1.2025. S. 68)
Künstliche Intelligenz (KI) als Übersetzung von Artificial Intelligence (AI) ist nicht nur eine technologische Revolution, die die Interaktion von Mensch und Technik grundlegend verändert. Ebenso wie die großen technischen und industriellen Revolutionen des 19. Und 20. Jahrhunderts nicht nur die Arbeitsprozesse, sondern gleichzeitig die Gesellschaft im Speziellen und die Zivilisation im Allgemeinen veränderten, wird die Etablierung der KI und deren Konsequenzen die gegenwärtige Gesellschaft in ihren zwischenmenschlichen Beziehungen und die polit-ökonomischen Beziehungen der Staaten und Wirtschaftsräume untereinander auf fundamental neue Grundlagen stellen. Es stellen sich die Frage nach Macht und Kontrolle über die Technologie als solche und damit nach Zugang zu den Möglichkeiten für diejenigen, die nicht die Urheberrechte und Zugangsrechte besitzen. Es ist davon auszugehen, dass die Rechteinhaber auch Macht und Kontrolle über die Inhalte ausüben können und werden.
Ein Exkurs in die Literatur lässt die Vorstellungen über das, was kommen mag, klarer erscheinen. Es geht hier zuvörderst nicht um die Versprechungen der KI, sondern vorrangig um potenzielle Risiken und absehbare Gefahren.
Die Erfindung des Buchdrucks durch Johannes Gutenberg im Jahr 1440 führte über die Reformation bis hin zur Aufklärung und veränderte nicht nur das Weltbild, sondern gleich die ganze Welt. Umberto Eco verlegt die Handlung seines Romans ‚Der Name der Rose‘ ins 14. Jahrhundert. Im Zentrum der Handlung steht ein geheimnisvolles Buch, das für alle, die es lesen, tödlich ist. Sechs Mönche werden getötet, die auf verschiedene Weise mit einer geheimen Bibliothek und einem bestimmten Buch in Verbindung stehen. Dieses Buch wird von einem blinden und dogmatischen alten Mönch verborgen, weil er glaubt, dass Lachen die Ehrfurcht vor Gott untergräbt. Ein Mönch stürzt sich in einen Abgrund wegen eines moralischen Konflikts und seiner Verbindung zu anderen Mönchen, die das Buch kannten.
Ein zweiter Mönch hatte das verbotene Buch gelesen, berührte aber unwissentlich die Seiten des Buches, die mit Gift präpariert waren. Ein dritter Mönch stirbt, weil er das Buch zu sichern versuchte, nachdem er es gelesen hatte. Eine Spur führt zu einem vierten Mönch, von dem man vermutet, dass er hätte Verbindung zu diesem Buch gehabt haben könnte. Ein ähnliches Schicksal widerfährt einem fünften Mönch, während ein sechster versucht, das vergiftete Buch zu verschlingen und dabei einen Brand auslöst, der die ganze geheime Bibliothek vernichtet. Das Buch repräsentiert Wissen und Macht von Ideen, aber auch den Konflikt zwischen freiem Denken und dogmatisch autoritärer Kontrolle, hier durch den blinden und dogmatischen alten Mönch. Er sieht in dem Werk eine Bedrohung der althergebrachten göttlichen Ordnung und deren Zusammenbruch, was das Ende des sozialen, geistig-kulturellen und politischen Status quo der Gesellschaft und der Herrschaft von Anarchie, Elend und Chaos bedeuten würde.
Die Morde im Koster stehen symbolisch für die Spannungen zwischen Fortschritt und Tradition, zwischen Vernunft und blindem Glauben. Die Opfer sind Mönche und Menschen, die sich von ihrer Neugier und ihrem Drang nach Wissen leiten ließen, was sowohl in der strengen Hierarchie des Klosters als auch der Machtordnung nach vermeintlich göttlichem Gebot in der Welt als gefährlich galt. Herrschaft und Kontrolle über Wissen und Träger der Information bedeutet Herrschaft über Menschen und ihr Leben. Bücher damals, Cloud heute, Herrschaft über die Bibliothek damals, Kontrolle der KI und der Cloud heute bedeuten Zugang zu Wissen und Kontrolle über möglichen Fortschritt.
Auch in Ray Bradburys Roman Fahrenheit 451 spielen Bücher eine zentrale Rolle. Die Aufgabe des Feuerwehrmannes Guy Montag ist es, Bücher zu verbrennen. Montag lebt in einer Gesellschaft, in der kritisches Denken unterdrückt wird, Menschen mit sinnloser Unterhaltung und Konsum abgelenkt werden, während die diktatorische Regierung durch Zensur und Propaganda ihre Macht sichert. Bücher gelten als gefährlich, weil sie historische und intellektuelle Vielfalt bewahren und die Menschen zum Nachdenken anregen könnten. Bücher gelten als Träger von Wissen und Wahrheit, sie bewahren die Stimmen der Vergangenheit und stellen die Verbindung zwischen Menschen und Kulturen her. Bücher enthalten Geschichten von Kämpfen, Errungenschaften und Fehlern der Menschheit. Sie sind ein wichtiges Gegenmittel gegen die staatlich propagierte Amnesie, die es den Machthabern ermöglicht, Geschichte nach ihrem Belieben zu manipulieren und Bürger zu kontrollieren. Bücher enthalten nicht nur Wissen, sondern sie repräsentieren auch Denkweisen, die Zweifel und Diskussion fördern. Sie sind Quellen der Weisheit und Bildung und stellen in ihrer Gesamtheit das historische Gedächtnis einer Gesellschaft dar.
Das natürliche Streben der Menschen nach Wissen und Bewahrung von Wissen und Geschichte ist unverzichtbar, um die Menschheit vor der totalen Unterwerfung zu bewahren. Wenn alle Expressionen von Kunst und Kultur, seien es Bücher, Filme, Musik oder Malerei, nur noch in digitalisierter Form aufbewahrt werden, haben es die Eigner und Verwalter der Server, der Cloud und der Mediatheken in der Hand, den Menschen nur das zugänglich zu machen, was ihrem Machterhalt und ihren Profitinteressen dient.
In George Orwells Roman ‚1984‘ gibt es im Staat ‚Ozeanien‘ ein totalitäres Regime , das sich durch die totale Überwachung seiner Bürger an der Macht hält. In der Regierung gibt es ein Wahrheitsministerium als zentrales Instrument der totalitären Herrschaft. Die Hauptaufgabe des Ministeriums besteht darin, die Vergangenheit und die Wahrheit im Sinne der Partei zu manipulieren und damit das Denken und die Wahrnehmung der Bevölkerung zu steuern. Die zentrale Maxime der Regierungspartei lautet: ‚Wer die Vergangenheit kontrolliert, kontrolliert die Zukunft: wer die Gegenwart kontrolliert, kontrolliert die Vergangenheit.‘ Diese Maxime zeigt, wie die Kontrolle über die Geschichtsschreibung das Denken der Menschen formt. Das Ministerium entwickelt auch eine neue Sprache, das ‚Newspeak‘ (Neusprech), mit total reduziertem Wortschatz und einer Basisgrammatik und Syntax, um so die Ausdrucksfähigkeit der Menschen und damit ihren Denkhorizont zu limitieren.
Durch die Manipulation der Vergangenheit (die Geschichtsbücher werden ständig neu geschrieben), die Einschränkung der Sprache und die Verbreitung von Propaganda schafft es die Partei, die Realität für die Menschen zu definieren. Das Wahrheitsministerium diktiert, was die Menschen wissen, glauben, sagen und denken dürfen, und beraubt sie damit jeglicher Möglichkeit, Widerstand zu leisten. Orwell zeigt damit eindringlich, wie Sprache und Wissen zu Werkzeugen der Unterdrückung werden können, wenn sie von Macht- und Profitinteressen kontrolliert werden.
Aldous Huxleys Roman ‚Schöne neue Welt‘ beschreibt eine futuristische Gesellschaft, die durch totale Kontrolle, Konsum und Technokratie geprägt ist. Die Machthaber kontrollieren Wissen und Denken auf mehreren Ebenen, um sicherzustellen, dass die Gesellschaft niemals den Status quo infrage stellt. Mit dem Mittel der ‚Hypnopädie‘ werden Kinder konditioniert durch permanente Wiederholung von Leitsätzen, die festlegen, was die Menschen denken dürfen. Sie lernen, die Welt so zu sehen, wie es die Herrschenden wünschen, ohne Alternativen in Betracht zu ziehen. Kunst, Literatur und Wissenschaft existieren nur in kontrollierter Form, angepasst an die Bedürfnisse der herrschenden Ordnung. Nur die Elite hat Zugang zu verbotenen Büchern und Konzepten oder philosophischen Abhandlungen. Die Masse bleibt unwissend und wird bewusst davon abgehalten, Fragen zu stellen. Authentisches Wissen wäre eine Konfrontation mit den künstlich konstruierten Idealen der ‚neuen Welt‘. Durch die Manipulation von Bildung, Geschichtsschreibung und individuellen Bedürfnissen schaffen die Machthaber eine Gesellschaft, die nicht fähig ist, ihre eigene Unterdrückung zu erkennen oder infrage zu stellen.
Die Kontrolle über Medien und deren Inhalte ist eine enorm politische Frage, wobei die Politik in einer freien Gesellschaft die Rahmenbedingungen zu setzen hat, ob überhaupt und in welchem Umfang Private Einfluss nehmen dürfen auf Präsentation, Zugang und Verwertung von Informationen. Es stehen die Grundrechte auf Informationsfreiheit, Meinungsfreiheit und Bildung zur Diskussion.