Warum "rote Linien" für Künstliche Intelligenz so wichtig sind

Liebe Leserinnen und Leser,fragt man die Künstliche Intelligenz (also z.B. ChatGPT), ob wir rote Linien und Regeln für KI brauchen, dann bekommt man eine durchaus differenzierte Antwort, die ungefähr so lautet:„Ja, es braucht aus meiner Sicht klare rote Linien und Regeln für die Nutzung von künstlicher Intelligenz – und zwar aus mehreren wichtigen Gründen: Schutz von Menschenrechten & Würde, Transparenz und Nachvollziehbarkeit, Haftung und Verantwortung, Vermeidung von Machtkonzentration und der Schutz demokratischer Strukturen.“Interessanterweise hebt die KI aber auch hervor, dass Regeln nicht gleichbedeutend sein dürften mit einer „Innovationsbremse“. ChatGPT sagt: „Die Kunst liegt darin, klare ethische und rechtliche Leitplanken zu schaffen, ohne Innovation zu blockieren. Eine verantwortungsvolle KI-Entwicklung kann und sollte sowohl sicher als auch fortschrittlich sein.“Ich würde noch einen Schritt weiter gehen und sagen, dass dies womöglich eine der größten Herausforderungen unserer Zeit ist. Die Frage ist: Auf welche Regeln können sich Staaten und Unternehmen beim Thema KI überhaupt einigen? Wie schaffen wir das?Ein Moment für die Vereinten Nationen?Diese und andere Fragen gewinnen gerade an Fahrt und bekamen zuletzt vor den Vereinten Nationen (UN) eine große Bühne. Die Rede ist vom „Global Call for AI Red Lines“ (Übersetzung: Globaler Aufruf zu roten Linien bei Künstlicher Intelligenz), ein Aufruf, der während der 80. Generalversammlung der Vereinten Nationen vorgetragen wurde und von einer Vielzahl an Nobelpreisträgern unterstützt wird. Dazu gehören u.a. Joseph Stiglitz, Maria Ressa, Daron Acemoglu oder Geoffrey Hinton.Maria Ressa, eine philippinische Journalistin, Autorin und Friedensnobelpreisträgerin, sagte z.B.:„Ohne Sicherheitsvorkehrungen für KI könnten wir bald mit epistemischem Chaos, künstlich herbeigeführten Pandemien und systematischen Menschenrechtsverletzungen konfrontiert sein. Die Geschichte lehrt uns, dass angesichts irreversibler, grenzenloser Bedrohungen Zusammenarbeit der einzige rationale Weg ist, um nationale Interessen zu verfolgen.“Ressa macht dabei einen ganz entscheidenden Punkt: Zusammenarbeit zwischen Staaten bei dem Thema ist von großer Bedeutung. Kann dies womöglich ein „neuer“ Moment für die UN sein? Ein Moment, der vergleichbar ist mit den wegweisenden Entscheidungen nach dem Zweiten Weltkrieg?Ich wollte mehr über das Thema erfahren und habe das Glück, dass ein ehemaliger Kommilitone von mir, Mehdi Kocakahya, der ebenfalls an der Georgetown University studiert hat, derzeit „Visiting Analyst“ bei der Denkfabrik „The Future Society“ ist.Mehdi hat mich wiederum mit Tereza Zoumpalova verbunden, die sich bei der Future Society schwerpunktmäßig mit globaler KI-Governance beschäftigt. Die Future Society ist eine unabhängige gemeinnützige Organisation, die 2014 gegründet wurde. Mit einem Team von KI-Experten aus aller Welt berät die Denkfabrik regelmäßig politische Entscheidungsträger in den USA, der EU und weltweit dazu, wie sie den aktuellen Herausforderungen begegnen können. Zudem war die Future Society einer der Ideengeber der Initiative „AI Red Lines“.Das ganze Interview mit der Expertin Tereza Zoumpalova können Sie hier im Podcast (Englisch) auf Substack oder auch bei Spotify und iTunes hören.Philipp Sandmann Get full access to sandmann exklusiv at philippsandmann.substack.com/subscribe