reframe[Tech] Erlesenes #4

Die Regulierung algorithmischer Entscheidungs- und KI-Systeme ist nicht zuletzt wegen der aktuell in den USA diskutierten „AI Bill of Rights“ in aller Munde. Deswegen stehen verschiedene Regulierungsansätze im Fokus der heutigen Erlesenes-Ausgabe: Nicht nur werden die Unterschiede zwischen der US-amerikanischen und europäischen KI-Regulierung diskutiert, sondern Sie erfahren auch, wie sich die subnationale KI-Regulierung, also auf der Ebene der Bundesländer, verhält und wie sich Definitions- und Regulierungslücken im Falle von Mehrzweck-KI schließen lassen. Der Artikel zu den Arbeitsbedingungen von Clickworkern richtet schließlich den Fokus auf ein bisher vernachlässigtes Regulierungsthema: die Prekarisierung der Arbeitsbedingungen, unter denen mühsam scheinbar voll automatisierte Systeme gebaut werden.

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei Twitter unter @reframeTech.  

Viel Spaß beim Lesen wünschen  

Teresa und Michael 

Die „AI Bill of Rights“ – kein großer Wurf 

(Biden’s AI Bill of Rights Is Toothless Against Big Tech), 04.10.2022, Wired

Vor Kurzem veröffentlichte das Weiße Haus eine „AI Bill of Rights“. In dem Dokument formuliert die US-Regierung fünf zentrale Prinzipien, die Amerikaner:innen vor den Gefahren von KI-Anwendungen schützen sollen, darunter etwa der Schutz vor Diskriminierung und das Recht darauf, sich algorithmischen Entscheidungssystemen zu entziehen. Khari Johnson, Leitender Redakteur beim Magazin Wired, ordnet dieses Dokument ein und kommt zu dem Schluss, dass es sich nur um eine neue Sammlung von Leitlinien handle, die sich in die Hunderte ähnlich unverbindlicher Erklärungen einreiht. Die EU sei mit der KI-Verordnung da schon weiter. Außerdem beziehe sich das Dokument insbesondere auf den staatlichen Einsatz von algorithmischen Systemen und lasse den Privatsektor außer Acht. Das Weiße Haus scheint sich dieser Kritik bewusst zu sein und erklärt, die „AI Bill of Rights“ sei nur der Beginn eines Prozesses. Einzelne Ministerien planen nun, eigene Pläne und Empfehlungen zu entwickeln, die sich auf ihre jeweiligen Sektoren fokussieren sollen.

Was ist eigentlich eine Mehrzweck-KI?

(A Proposal for a Definition of General Purpose Artificial Intelligence Systems), 09.10.2022, SSRN 

Forscher:innen des Future of Life Institute und des University College London haben ein Paper veröffentlicht, in dem sie für die KI-Verordnung der EU eine neue Definition von KI-Systemen mit allgemeinem Verwendungszweck vorschlagen – sogenannte „General Purpose AI Systems“. Gemeint sind damit Systeme, die nicht für einen ganz konkreten Verwendungszweck entwickelt wurden, sondern eine Vielzahl an Anwendungsmöglichkeiten haben. Beispiele sind Textgeneratoren wie GPT3 oder auch die vor Kurzem sehr populär gewordenen Bildgeneratoren wie Dall-E oder Stable Diffusion. Kritiker:innen aus Wissenschaft und Zivilgesellschaft sehen hier eine Regulierungslücke, weil sich die geplante KI-Verordnung bisher vor allem auf konkrete KI-Anwendungen bezieht. Sie kritisieren, dass die bisher von den EU-Institutionen angebotene Formulierung keine ausreichende Orientierung bietet und schlagen in der Studie eine neue Definition der Mehrzwecksysteme vor: ein KI-System, welches eine Reihe unterschiedlicher Aufgaben erledigen kann, darunter auch einige, für die es nicht absichtlich und speziell trainiert wurde. Die Studie zeigt aber auch, dass die Diskussion rund um die Regulierung von General Purpose AI Systems erst begonnen hat.

Wenn KI zur Ländersache wird

(Subnational AI policy: shaping AI in a multi-level governance system), 15.10.2022, AI & Society

Ein Großteil der Diskussion rund um die Regulierung von Künstlicher Intelligenz (KI) fokussiert sich auf die KI-Verordnung der Europäischen Union oder Maßnahmen auf Bundesebene. Die vier Autor:innen dieser Studie schauten sich hingegen genauer an, was eigentlich auf Ebene der deutschen Bundesländer passiert. Sie untersuchten Dokumente aus allen 16 Ländern und verglichen diese mit Blick auf die zentralen Themen, die angesprochen werden. Sie ermittelten dabei fünf Cluster: Transfer von Wissenschaft in die Wirtschaft, Formen der Zusammenarbeit mit Ländern und Bund, ethische Prinzipien, konkrete Anwendungsfelder sowie rhetorische und narrative Elemente. Interessant ist dabei, dass die Länder ihre eigene Identität voranstellen, etwa indem sie eine Marke „AI made in state X“ etablieren wollen. Dabei sehen sie sich durchaus in Konkurrenz zueinander. Bei ethischen Prinzipien überschneiden sich die Strategien hingegen zum großen Teil und beziehen sich gemeinsam auf die KI-Strategie des Bundes, die Grundrechte oder andere Leitlinien. Die Verantwortung für deren Umsetzung sehen die Länder jedoch eher auf Bundes- oder europäischer Ebene.

Gute Algorithmenregulierung kann Leben retten

(New, transparent AI tool may help detect blood poisoning) 15.10.2022, Ars Technica

In den USA sterben jedes Jahr über eine Viertelmillion Menschen an einer Blutvergiftung. Ein Grund dafür ist, dass die sogenannte „Sepsis“ oft zu spät erkannt wird. Algorithmische Systeme werden schon seit einiger Zeit eingesetzt, um Sepsis früher zu erkennen. Das klappte bisher aber nicht immer gut. Manche Vorhersagemodelle beispielsweise erkannten nur ein Drittel der Fälle oder lösten falschen Alarm aus. Die für die Regulierung medizinischer Software zuständige U.S. Food and Drug Administration (FDA) reagierte und und veröffentliche vor Kurzem eine aktualisierte Liste an KI-Anwendungen, die als Medizinprodukte klassifiziert und damit stärker reguliert werden. Neu dabei: Die Sepsis-Früherkennung. Forschung und Wirtschaft reagieren bereits. Das Unternehmen hinter einem bekannten Vorhersagemodell etwa aktualisierte seine Software und auch Forscher:innen der Johns Hopkins Universität entwickelten einen neuen Ansatz: Ihr System scannt die elektronischen Patientenakten von Krankenhäusern, um klinische Anzeichen zu identifizieren, die eine Sepsis vorhersagen. So soll das Personal auf Risikopatient:innen hingewiesen und eine frühzeitige Behandlung erleichtert werden. Das Neue daran: Die Forscher:innen verwenden bewusst ein einfacheres Modell, das transparenter und besser verständlich ist. Bei Testläufen erkannte die Software so bereits rund 82 Prozent der Sepsis-Fälle. 

KI-Ethik sollte für Arbeiter:innen kämpfen

(The Exploited Labor Behind Artificial Intelligence), 13.10.2022, Noema

Wir reden oft und gerne von KI-Systemen großer Tech-Firmen in Sillicon Valley und ihren Auswirkungen auf die Gesellschaft. Doch wir dürfen die Menschen nicht vergessen, die einen Großteil der akribischen Kleinstarbeit leisten, die für KI-Entwicklung notwendig ist: Sogenannte Clickworker erledigen sehr repetitive Aufgaben, wie beispielsweise die Kennzeichnung (Annotierung) von Trainingsdaten. Daher beschreiben Adrienne Williams, Milagros Miceli und Timnit Gebru in diesem Artikel die Bedingungen, unter denen diese Menschen arbeiten müssen. Große IT-Unternehmen sourcen Arbeit gezielt in Länder mit niedrigem Lohnniveau und Arbeitsschutz aus, um Arbeiter:innen nur 1.46 US-Dollar pro Stunde zahlen zu müssen. Die Autor:innen fordern daher, dass sich KI-Ethik stärker mit diesen Arbeitsbedingungen beschäftigen sollte, denn: KI-Technologien sind sowohl Ursache als auch Folge ungerechter Arbeitsbedingungen. Diese zu stoppen und den Arbeiter:innen mehr Macht, z. B. durch gewerkschaftliche Organisation, zu geben, würde auch ausbeuterische Geschäftsmodelle und gefährliche Anwendungen verhindern. 

Follow-Empfehlung: Ria Kalluri

Ria Pratyusha Kalluri ist Forscherin an der Universität Stanford und Mitgründerin des Radical AI Network. Sie twittert kritisch zu den Werten, die in KI-Systeme eingebettet werden.  

Verlesenes: Trifft „Die Synthetische Partei“ in Dänemark mit ihrer wortwörtlichen KI-Plattform den Nerv der Zeit? 

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.