KI zählt zu den wichtigsten Errungenschaften des 21. Jahrhunderts und entsprechend groß ist die Verantwortung, die mit der Entwicklung und dem Einsatz der Systeme einhergeht. Im Folgenden werden potenzielle Probleme von KI in Bezug auf verschiedene Dimensionen der Nachhaltigkeit diskutiert.
Digitale Technologien sind ein fester Bestandteil des modernen Alltags und beeinflussen die gesellschaftliche Teilhabe. Die Entwicklung künstlicher Intelligenz ist von starken Widersprüchen geprägt: Das Bundesarchiv berichtet einerseits, wie Kolonialakten dank KI-basierter Handschriftenerkennung durchsuchbar werden, um Verbrechen der Kolonialzeit aufarbeiten zu können. Deutschlandfunk Kultur berichtet andererseits, wie künstliche Intelligenz koloniale Strukturen durch die Ausbeutung von Menschen fortführt. In diesem Sinne stellt sich die Frage: Wer übt hier Gewalt über wen?
Jacques Ellul beschreibt die Veränderung der Technologie vom Werkzeug zum Selbstzweck in seinem Buch The Technological Society:Ellul, Jacques (1964). The Technological Society. Vintage. Der Mensch verliert den Bezug zu seinem natürlichen Umfeld und Ursprung, wird zum Objekt einer technizistischen Welt und findet keinen Ausweg aus der technologischen Spirale der Effizienzsteigerung mithilfe der von Ellul benannten Technique.
In ähnlicher Weise wie Ellul beschreiben auch Adorno und Horkheimer in der Dialektik der Aufklärung die Absurdität, den Menschen aus der Naturgewalt mithilfe eines Systems hinauszuführen, das selbst wachsende Macht über den Menschen erlangt.Der Ökonom John Maynard Keynes stellte 1930 in Economic Possibilities for our Grandchildren die These auf, dass Menschen im Jahr 2030 noch 15 Stunden die Woche arbeiten würden. Dies ist bisher trotz der bereits erfolgten erheblichen Automatisierung in vielen Branchen nicht eingetreten. In der Vergangenheit war Automatisierung nicht gleichbedeutend mit einer Verringerung, sondern vor allem mit einer Veränderung menschlicher Arbeit.
Beim Streben nach Automatisierung unter Zuhilfenahme von KI geraten die Kosten, durch welche KI erst möglich wird, manchmal in den Hintergrund. Denken Sie an die Aufforderung: »Alexa, mach das Licht an.« Um das Smart Home mit Sprachbefehlen zu bedienen, ist nicht nur das einzelne Endgerät von Alexa nötig. Hinter diesem vermeintlich einfachen Befehl verbirgt sich eine zivilisatorische Leistung, deren Kosten vor Nutzerinnen und Nutzern teilweise im Verborgenen bleiben. Von der globalen Extraktion von Rohstoffen wie Metallen oder fossilen Brennstoffen zur Konstruktion aller Geräte wie Server und Router, um ein weltweites Cloud-Netzwerk zu errichten, das die Erde mit über einer Million Kilometer Unterseekabeln umspannt, bis hin zu der menschlichen Arbeit, welche für die Beschaffung und Aufbereitung der Trainingsdaten zur Spracherkennung erforderlich ist (vgl. Anatomy of AI).
Der weltweite Energieverbrauch wächst ständig. Auf der einen Seite kann KI bei der Vorhersage und rechtzeitigen Koordination von Hilfsmaßnahmen für Naturkatastrophen helfen. Zudem kann KI den Ressourcen-Verbrauch optimieren, um Produktionsverfahren schonender zu gestalten. Auf der anderen Seite ist nicht sichergestellt, dass die Effizienzgewinne nicht durch höheren Konsum ausgehebelt werden. Der CO2-Fußabdruck des Internets ist vergleichbar mit dem des weltweiten Flugverkehrs.
Jevons Paradox liegt vor, wenn technologische Effizienzgewinne nicht zur Schonung von Ressourcen, sondern zu erhöhtem Konsum führen.KI-Modelle werden leistungsfähiger und verbrauchen mehr Energie. Ein Bild mit generativer KI zu erstellen, verbraucht eine ähnliche Menge Energie, wie ein Smartphone aufzuladen. KI existiert nicht im Vakuum. Für den Betrieb sind weltweit verteilte große Datenzentren erforderlich, welche riesige Mengen Wasser zur Kühlung benötigen. Der Bau eines Datenzentrums in Chile wurde zuletzt wegen Sorgen um die Wasserversorgung der Bevölkerung gestoppt. Während zwei von drei Menschen auf der Welt unter Wasserknappheit leiden, verbrauchen 10 bis 50 Anfragen an ChatGPT mit GPT-3 ca. 500ml Wasser.Li, Pengfei et al. (2023). Making AI Less 'Thirsty': Uncovering and Addressing the Secret Water Footprint of AI Models. Arxiv.
Es ist mittlerweile mithilfe generativer KI möglich, täuschend echte Bilder, Videos und Tonaufnahmen von Menschen zu synthetisieren, sogenannte Deepfakes. 2024 erhielt der Direktor einer High School Morddrohungen, nachdem er vermeintlich in einem mitgeschnittenen Telefongespräch rassistische Äußerungen getätigt hatte. Eine polizeiliche Ermittlung ergab, dass die Tonaufnahme ein Deepfake war und diese anscheinend aus persönlichem Hass generiert und verbreitet worden war.
Desinformation (Fake News) sind schon heute eine politische Herausforderung. OpenAI (ChatGPT) berichtet von Akteuren, die KI gezielt einsetzen, um realistische, politisch geladene und oft anstachelnde Inhalte zu erstellen und zu verbreiten. Es ist zu erwarten, dass die allgemeine Verfügbarkeit generativer KI zu einer Verstärkung von Desinformation führen wird.
Generative KI hat das Potenzial, ganze Branchen zu erschüttern. Künstlerinnen und Künstler stehen nun im Wettbewerb zu KI, die nur durch die von ihnen zuvor erstellten Bilder trainiert werden konnte. Es stellt sich die Frage: Wem gebührt das Urheberrecht? Wer ist Schöpfer KI-generierter Medien? Diejenigen, welche die für das Training verwendeten Bilder ursprünglich erstellt haben? Die Entwicklerinnen und Entwickler der KI-Systeme? Die Anwenderinnen und Anwender von KI-Systemen?
Manche kritischen Gedanken gegenüber generativer KI in der Kunst ähneln jenen Kritiken, die auch Walter Benjamin in Das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit in Bezug auf die Reproduktion von Werken durch Fotografie und Film diskutierte: Die Reproduktion bricht mit der Tradition und entwertet das Original.
Dennoch eröffnet generative KI durch die beliebige und schnelle Erstellung von Medien aus natürlicher Sprache einen kreativen Prozess, der vor wenigen Jahren noch undenkbar gewesen wäre. Der Journalist Dirk von Gehlen beschäftigte sich mit dem Verhältnis von Original und Kopie im Zeitalter moderner Technologien und verändert die Frage nach dem Schöpfer zur Frage nach der Originalität der Schöpfung.von Gehlen, Dirk. Plädoyer für einen neuen Begriff des Originals. In: Baumgärtel, Tilman, Hrsg. (2017). Texte zur Theorie des Internets. Reclam.
Möglicherweise kann aus generativer KI auch eine kulturelle Leistung hervorgehen, angetrieben durch die Demokratisierung des künstlerischen Schaffensprozesses; zumindest unter denen, die sich den Zugang zu diesen Systemen leisten können.
Zudem entstehen auch die für das Training großer Modelle erforderlichen Daten nicht im Vakuum. Die Anforderungen an die Datenmenge steigen mit der Modellkomplexität exponentiell, ein Phänomen, das Fluch der Dimensionen genannt wird. Das Wort Daten stammt aus dem Lateinischen von dare, geben. Daten sind das Gegebene. Die Vorstellung, Daten wären ein Nebenprodukt der digitalen Gesellschaft, verdeckt die Tätigkeit von Menschen überall auf der Welt. Woher stammen die Bilder für autonomes Fahren, bei denen die Ampel als Ampel gekennzeichnet ist und das querende Auto als Auto?
Die Bilder müssen mit den zu lernenden Informationen zunächst manuell annotiert werden, damit KI-Systeme mit ihrer Hilfe trainiert werden können. Um dies zu ermöglichen, existieren Microwork-Anbieter, bei denen Menschen die Datenaufbereitung von Hand bewältigen für teilweise weit unter dem Mindestlohn liegende Löhne und unterhalb dessen, was für ein selbstbestimmtes Leben erforderlich wäre. Die Arbeiterinnen und Arbeiter werden in der Maschinerie automatisierter Auftragsvergabe-Plattformen als austauschbar und entbehrlich behandelt (vgl. The hidden workers behind AI tell their stories).
Eine Strategie, den Datenhunger komplexer Modelle zu stillen, ist die Synthetisierung von Daten. Beispielsweise könnte ein Sprachmodell initial trainiert werden und im Anschluss in einer Art Monolog beliebige Mengen von Text generieren, die wiederum zum Training verwendet werden. Ein solches rekursives Vorgehen führt allerdings nach kurzer Zeit dazu, dass das System keine sinnvollen Ergebnisse mehr produzieren kann. Korrekte von Menschen erstellte Trainingsdaten sind also unumgänglich.Shumailov, Ilia et al. (2024). AI models collapse when trained on recursively generated data. Nature 631, S. 755–759.
Zuletzt stellt sich die Frage, ob KI den Arbeitsmarkt erschüttern und Berufe überflüssig machen wird. Eine eindeutige Antwort hierauf ist schwierig. Zum einen kann KI in bestimmten Branchen wie digitaler Kunst den Wettbewerb stark erhöhen. Auch Programmiererinnen und Programmierer sind vor einer Verstärkung des Wettbewerbsdrucks nicht geschützt, da die einfache Reproduzierbarkeit von Software dafür sorgt, dass die beste Software typischerweise den größten Marktanteil erhält. Dies steht im Gegensatz zu Produkten, deren Distribution physischen Grenzen unterliegt, sodass durch logistische Beschränkungen eine Begrenzung des Wettbewerbs stattfindet.
Die Automatisierung durch KI betrifft zunächst vorrangig Menschen in den Industriestaaten, da der Anteil der kognitiven Aufgaben höher ist, welche sich durch generative KI automatisieren lassen. Obwohl alle von Produktivitätsgewinnen profitieren würden, könnte der Einsatz von KI Lohnunterschiede zum Nachteil von Menschen mit geringem Einkommen und zum Vorteil besonders der Inhaber des intellektuellen Kapitals verstärken (vgl. Bericht des IWF ). Zumindest kurzfristig führt eine Studie von Demirci et al. (2024) einen Rückgang von Stellenanzeigen unter anderem in den Bereichen Software-Entwicklung und Grafik-Design von ca. 20% an.
Eine vollständige Ersetzung ist jedoch in den meisten Fällen nicht zu erwarten, sondern eher eine Veränderung des Tätigkeitsprofils. Software schreiben Programmiererinnen und Programmierer nun nicht mehr allein, sondern mit Unterstützung von KI-Systemen. Künstlerinnen und Künstler erstellen Bilder für Artikel mithilfe integrierter KI-Werkzeuge. Autorinnen und Autoren lassen sich inhaltliche und sprachliche Tipps geben und Texte Korrektur lesen.
Kosten und Nutzen von KI verteilen sich zuweilen in der globalisierten Welt höchst ungleich. Einen Ansatz zur Milderung der ökologischen Folgen könnte das Prinzip der Kostenwahrheit darstellen, wie von Nobelpreisträger William Nordhaus zur Begrenzung der Klimafolgen beschrieben und von zahlreichen Wissenschaftlerinnen und Wissenschaftlern im Kontext der Klimakrise gefordert. Übertragen auf KI bedeutet dies, dass Kosten und Nutzen von KI-Systemen verursachungsgerecht zugeordnet werden.
Zudem müssen nicht alle Daten erst mühsam erstellt werden: Data-Mining-Techniken wie das kollaborative Filtern werten bspw. zur Empfehlung von Filmen jene Daten aus, die durch das Nutzungsverhalten sowieso vorhanden sind und leiten aus dem kollektiven Wissen heraus Vorschläge für möglicherweise interessante Filme ab.
Das intellektuelle Kapital großer KI-Systeme kann zu einem algorithmischen Gatekeeping führen. Die Monopolisierung von Unternehmen mit den leistungsstärksten Lösungen birgt Risiken. Eine Kultur von Open Source (frei zugänglicher Code) kann marktwirtschaftliche Ineffizienzen reduzieren und einen kollektiven Austausch anstoßen. KI kann Grenzen abbauen, z.B. in der Bildung. Studierende können mit KI-Systemen nicht nur Dokumente übersetzen, sondern Aufgaben in ihrer Muttersprache diskutieren. Damit senkt KI Grenzen und fördert die Inklusion.
Die digitale Gesellschaft erfordert bereits, neue Kompetenzen wie Data Literacy (Datenkompetenz) als Allgemeinbildung an Schulen zu vermitteln. Data Literacy befähigt zu der Beantwortung von Fragen wie: Wie können mir Daten helfen? Welches Problem kann ich mit Daten lösen? Wie darf ich die Daten verwenden? Wofür sollte ich die Daten nutzen und wofür nicht? Data Literacy schult die Fähigkeiten, Daten zu erheben, zu verwalten und auszuwerten und vereint damit technische, analytische sowie ethische und kulturelle Überlegungen.
Die rasante Entwicklung und Verbreitung künstlicher Intelligenz erfordert eine Erweiterung von Data Literacy um AI Literacy (vgl. aimyths.org und algorules.org): Welche Probleme sollte ich mit KI lösen? Welche Daten sind dafür erforderlich? Sollten diese Daten erhoben werden? Wer trägt für die Auswirkungen der Nutzung die Verantwortung? Wie klimafreundlich ist der Betrieb? Wie robust ist das System? Inwieweit kann das System zu Diskriminierung führen? Korrelation ist nicht Kausalität.
Die Beziehung des Menschen zu den von ihm geschaffenen Werkzeugen ist zweiseitig. Das Objekt wird zum Subjekt und das Subjekt wird zum Objekt. Vielleicht sind die gesellschaftlichen, wirtschaftlichen und ökologischen Herausforderungen auch eine Chance, Interdisziplinarität neu zu interpretieren, und im Sinne des wissenschaftlichen Geistes kritisch über die Funktion, Rolle und Wirkung von KI nachzudenken.