Erlesenes #25: Von Bidens Exekutiv-Anordnung, Uneinigkeit beim AI Act und KI-Harry Potter in Berlin

Lange galt die EU als richtungsweisend in der Regulierung neuer Technologien, wie unter anderem das Gesetz über digitale Dienste (DSA) oder die Datenschutzgrundverordnung (DSGVO) gezeigt haben, sodass sich schon der Begriff des „Brüssel Effekt“ eingebürgert hat. Der „Brüssel-Effekt“ bezieht sich darauf, dass EU-Regulierungen und Standards weltweit an Einfluss gewinnen, indem Unternehmen, um Zugang zum EU-Markt zu erhalten, sich den strengen Vorschriften Brüssels anpassen. Der derzeitig verhandelte AI Act der EU weckt die gleichen Hoffnungen für den Bereich der Künstlichen Intelligenz. Nun versucht die US-amerikanische Biden-Administration mit einer Exekutiv-Anordnung gleichzuziehen. Erlesenes berichtet diese Woche von den Entwicklungen beider Regulierungsansätze.

Außerdem: Wie künstlich generierte Sprache im indischen Wahlkampf eingesetzt wird und Papyrusrollen dank modernster KI-Modelle entziffert werden können.

Viel Spaß beim Lesen wünschen

Teresa und Michael

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl.  

Die Exekutivanordnung zu KI

Biden wants to move fast on AI safeguards and signs an executive order to address his concerns, AP News, 30.10.2023

Noch im Oktober verfügte US-Präsident Joe Biden eine grundlegende Anordnung zum Umgang mit Künstlicher Intelligenz (KI). Sie handelt sowohl von weiteren regulatorischen Projekten wie Sicherheitsstandards als auch vom staatlichen und privaten Gebrauch der Technologie. Ein Teil des Erlasses signalisiert, dass die Behörden die Antidiskriminierungsprüfung algorithmischer Systeme ernsthaft angehen sollen. Dafür sollen sie Schulungen, technische Unterstützung, Leitlinien oder andere Ressourcen entwickeln. Konkret wird etwa der Wohnungsmarkt genannt, wo algorithmische Systeme immer wieder bei der Wohnungs-, Mietvertrags- oder Kreditvergabe diskriminierende Auswirkungen haben. Für andere Bereiche bleibt die Anordnung weniger ambitioniert: Obwohl etwa die Risiken von KI-Systemen im Strafrechtssystem – von der Gesichtserkennung über die Risikobewertung bis hin zur vorausschauenden Polizeiarbeit – hinlänglich bekannt sind, soll der US-Generalstaatsanwalt lediglich einen Bericht zu dem Thema verfassen und bestehende Praktiken überprüfen. Hier geht der Entwurf der KI-Verordnung der EU wesentlich weiter. Es bleibt abzuwarten, welchen Effekt die Anordnung tatsächlich haben wird.

Stimmen gewinnen dank KI-Übersetzung

AI Modi started as a joke, but it could win him votes, Rest of World, 30.10.2023

KI-Sprachgeneratoren können zielgerichtet mit Stimmen trainiert werden, um diese dann Text vorlesen zu lassen. Das diente bisher vor allem der Belustigung, etwa wenn sich ein synthetischer Trump, Obama und Biden in Minecraft streiten. Ähnlich ist es auch in Indien, wo die Stimme von Premierminister Narendra Modi auf Instagramm Bollywood-Lieder singt. Dabei singt der „KI-Modi“ nicht nur in seiner Muttersprache Hindi, sondern auch auf Tamil, Telugu oder Kannada, die in Südindien gesprochen werden. Politische Strateg:innen sehen darin eine große Chance für die politische Debatte in einem Land, in dem über 700 Sprachen gesprochen werden: Mithilfe solcher Videos kann Modi wesentlich besser Südinder:innen ansprechen, die kein Hindi sprechen. Dort hatte Modi bisher wenig Unterstützung, unter anderem aufgrund seines Vorschlags, Hindi zur offiziellen Amtssprache Indiens zu machen. Bei den bevorstehenden Wahlen könnte das tatsächliche Auswirkungen haben, wenn sich Kandidat:innen mithilfe von KI-Sprachgeneratoren auch auf anderen Sprachen präsentieren. Auch in den USA hat der New Yorker Bürgermeister Eric Adams zielgerichtet diese Technologie eingesetzt, was dort aber eher Entsetzen hervorgerufen hat.

Mit modernster Technologie uralte Geheimnisse lüften

First word discovered in unopened Herculaneum scroll by 21yo computer science student, Scrollprize, 12.10.2023

Moderne Systeme Künstlicher Intelligenz (KI) können uns auch dabei helfen, uralte Geheimnisse zu lüften. Dazu zählt beispielsweise die Entzifferung von Papyrusrollen aus dem Altertum. Ein besonderes Problem dabei ist, dass diese teils 2000 Jahre alten Schriften nicht aufgerollt werden können – sie würden einfach zerfallen. Sie werden daher mit einem Computertomographen gescannt. Jedoch ist in der langen Zeit die Schrift, die aus einer Kohletinte besteht, kaum mehr von dem unbeschriebenen Papyrus zu unterscheiden. Mit dem menschlichen Auge dauerte es Stunden, auch nur einzelne Buchstaben zu entziffern. Daher wurde ein Bilderkennungssystem mit bereits entzifferten Schriftrollen trainiert. Das System war dann fähig, auch für das menschliche Auge nicht wahrnehmbare Unterschiede in den CT-Scans zu analysieren und Buchstaben oder gar ganze Wörter zu entziffern. Der neuste Erfolg geht dabei auf das Konto von Luke Farritor, einem Studenten aus den USA, der in seiner Freizeit das KI-Modell verfeinert und schließlich einen Wettbewerb zur Entzifferung von Schriftrollen gewonnen hat, die beim Ausbruch des Vesuvs vor fast 2000 Jahren bei Pompeji verschüttet worden waren.

Die neue Senfgas-Diät?

Supermarket AI Offers Recipe for Mom’s Famous Mustard Gas, Gizmodo, 11.8.2023

Chatbots sollen uns bei allen möglichen Problemen im Alltag helfen. Eine der zentralen Fragen in vielen Hausalten ist: Was koche ich heute zum Essen? Die neuseeländische Supermarktkette Pak’n’Save wollte Familien hier unter die Arme greifen und hat den Savey Meal-Bot entwickelt: Man muss nur den aktuellen Kühlschrankinhalt eintragen und schon werden leckere Rezepte vorgeschlagen. So spart man sich vielleicht den ein oder anderen Trip in den Supermarkt. Wenn man nicht aufpasst, könnte es aber auch der letzte Trip in den Supermarkt gewesen sein: Der Chatbot wurde nämlich scheinbar nicht nur mit Essrezepten trainiert. Auf die Anfrage hin, was er denn mit Wasser, Ammonium und Bleiche leckeres zaubern könnte, wurde Liam Hehir ein Rezept für einen „Aromatischen Wassermix“ vorgeschlagen. Tatsächlich würde aber schwergiftiges Senfgas entstehen. Der Bot wurde zu einem regelrechten Meme und Nutzer:innen überboten sich online mit absurden Rezepten, die Reinigungsmittel oder Klebstoff enthielten. Neben den Trainingsdaten war hier auch das Design des Modells ein Problem: Der Chatbot war scheinbar unfähig, auch nur eine der vorgeschlagenen Zutaten wegzulassen. Das Beispiel zeigt, dass auch die harmloseste KI-Anwendung vorher vielleicht doch getestet werden sollte.

Aus für den EU AI Act?

EU-Verhandlungen zum KI-Gesetz ins Stocken geraten, Euractiv, 10.11.2023

Die KI-Verordnung, ein wegweisender Vorschlag zur Regulierung Künstlicher Intelligenz (KI) in der EU (Erlesenes berichtete), befindet sich in der letzten Phase des Gesetzgebungsverfahrens. Ein zentraler Punkt ist nun die Regulierung von Basismodellen – auch foundational models genannt –, die insbesondere seit der Verbreitung des Chatbots ChatGPT, basierend auf dem Basismodell GPT-4, immer größere Bahnen ziehen. Ein politischer Konsens der Trilog-Parteien (Rat, Parlament und Kommission) am 24. Oktober deutete auf strengere Regeln für die leistungsstärksten Modelle hin, ähnlich dem mehrstufigen Ansatz im Gesetz über digitale Märkte (DMA) und dem Gesetz über digitale Dienste (DSA). Doch dieser mehrstufige Ansatz stößt auf Widerstand großer EU-Länder, insbesondere Frankreich, Deutschland und Italien, mutmaßlich beeinflusst von Lobbyinteressen, darunter französische Start-ups wie Mistral und deutsche Unternehmen wie Aleph Alpha, die jegliche zusätzliche Regulierung für Basismodelle ablehnen. Besonders die genannten Länder setzten sich nun gegen diese Basismodell-Regulierungen zur Wehr, da sie Innovation und den risikobasierten Ansatz gefährdet sehen.  Manche Kommentator:innen sehen nun schon das KI-Gesetz als Ganzes in Gefahr. Es bleibt abzuwarten, ob die Verhandler:innen während des bevorstehenden Trilogs am 6. Dezember zu einer politischen Übereinkunft gelangen werden.

Follow-Empfehlung: Nilesh Christopher

Nilesh Christopher ist Journalist und berichtet über die Wechselwirkungen zwischen Technologie und menschlichen Schicksalen in Südasien.

Verlesenes: Draco Malfoy hat völlig recht: Einige Bezirke Berlins sind besser als andere!

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.