Erlesenes #22: KI-Governance, Clickwork hinter Gittern und KI-Weltkarte

Brauchen wir eine Art „Welt-KI-Rat“, analog zum Weltklimarat IPCC (Intergovernmental Panel on Climate Change)? Die Diskussion über die Notwendigkeit einer globalen KI-Governance ist derzeit in vollem Gange. Inmitten dieser Debatte bringt nun eine neue Studie Licht ins Dunkel des KI-Governance-Dschungels. Darüber hinaus beinhalten unsere Lektüreempfehlungen diese Woche Artikel zu Clickwork hinter finnischen Gittern sowie zu den Tücken maschinell erzeugter Bücher über (nicht) essbare Pilze. Außerdem: Viel wurde schon zum Für und Wider von KI-Bildgeneratoren gesagt, aber das Anwendungsbeispiel einer offenen, KI-generierten Weltkarte zeigt nun sehr schön, wie diese Systeme sinnvoll im Kontext der Klimakrise eingesetzt werden können.

Viel Spaß beim Lesen wünschen
Teresa und Michael

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl. 

Wie könnte die neue globale KI-Behörde aussehen?

International AI Institutions, Legal Priorities Project, 26.9.2023

Während wir uns gerade viel mit der europäischen Gesetzgebung von Künstlicher Intelligenz (KI) beschäftigen, findet parallel dazu eine weniger beachtete Diskussion darüber statt, ob und wie KI auf globaler Ebene institutionell reguliert werden soll. Ein wirklich internationaler Ansatz hätte zudem das Potenzial, die Stimme des Globalen Südens in KI-Fragen zu stärken. Dabei wird oft auf bestehende internationale Organisationen als Beispiel verwiesen: Brauchen wir eine „IAEA für KI“ (Internationale Atomenergiebehörde), ein „KI-CERN“ (Europäische Organisation für Kernforschung) oder eine Art „IPCC zu KI-Fragen“ (Intergovernmental Panel on Climate Change/Weltklimarat)? Zwei Forscher des US-amerikanischen Legal Priorities Project haben sich all diese verschiedenen Vorschläge genauer angeschaut. Sie unterscheiden dabei zwischen sieben verschiedenen möglichen Modellen der KI-Governance – von Normsetzungsgremien bis zu wissenschaftlichen Austauschforen – und ordnen insgesamt 46 Vorschläge für die KI-Regulierung der Zukunft entsprechend ein. Auch wenn die Autoren keine konkreten Empfehlungen machen, bietet sich die Studie zum Stöbern und Entdecken an.

Clickwork hinter Gittern

These Prisoners Are Training AI, WIRED, 11.9.2023

Zum Training von KI-Modellen erforderliche Arbeit ist teuer. Viele internationale englischsprachige Technologiefirmen nutzen daher günstige Arbeitskräfte im globale Süden, um Daten zu labeln oder KI-Ergebnisse zu überprüfen und zu bewerten (Erlesenes berichtete). Doch das funktioniert nur, wenn die Clickworker Englisch sprechen und auf gering bezahlte Arbeit angewiesen sind – in Finnland, einem Land mit hohen Löhnen, ein schwieriges Unterfangen. Deswegen haben finnische Start-ups eine neue Personengruppe identifiziert, die billig arbeitet und finnisch spricht: Häftlinge. Für deren Training eines finnischen Sprachmodells müssen nur etwa 1,50 Euro pro Stunde gezahlt werden. Auf der einen Seite sagen das Start-up Metroc und auch die Gefängnisse, dass Straftäter:innen auf diese Weise wichtige Skills für das Leben nach der Haft lernen. Ob dies aber tatsächlich der Fall ist, ist bisher nicht erwiesen. Andererseits besteht die Kritik, dass so die ausbeuterischen Bedingungen von Clickworkern in Uganda oder Kenia einfach auf Gefängnisse übertragen werden. Die Frage, wie wir faire Arbeit auch beim Training von KI-Systemen sicherstellen, bleibt damit offen.

Mit der KI-Entwicklung wird auch die Verantwortung outgesourct

Outsourced & Automated, EPIC, 14.9.2023

Wenn der öffentliche Sektor KI-Systeme einsetzt, sind es in den wenigsten Fällen Eigenentwicklungen. Stattdessen müssen sich Behörden auf Firmen verlassen, dass diese die für sie passende Anwendung entwickeln. Die Beschaffung von KI-Anwendungen ist daher der zentrale Dreh- und Angelpunkt öffentlicher automatisierter Entscheidungsfindung. Bleiben dabei gesellschaftliche Interessen und Rechte berücksichtigt? Das US-amerikanische Electronic Privacy Information Center hat sich über 600 Verträge zwischen öffentlichen Stellen und privaten IT-Dienstleistern angeschaut. Damit bietet die Studie einen umfassenden und einmaligen Blick in die öffentliche Beschaffungspraxis der US-Bundesstaaten. Studienautor Grant Fergusson schlussfolgert: Die Beschaffung von KI-Systemen verändert und verwässert sowohl öffentliche Entscheidungsprozesse als auch die Rechenschaftspflicht öffentlicher Stellen. Empfehlungen des Autors sind unter anderem: stärkere und strengere Vorgaben in den Verträgen zu verankern oder auf menschliche Entscheidungsprozesse zurückzugreifen, wenn Behörden nicht in der Lage sind, die Risiken eines KI-Systems wirksam zu mindern.

Eine KI-generierte Weltkarte

A new AI-generated map of the world’s trees and renewable energy projects could help fight climate change, The Verge, 31.8.2023

Um die Klimakrise zu bewältigen, brauchen wir eine Vielzahl an Informationen: Welche Auswirkungen hat veränderter Niederschlag auf Wälder? Wo sind gute Orte für Solar- oder Windkraftanlagen? Wie schnell schreitet die Entwaldung des Amazonas voran? Um diese Fragen zu beantworten, werden unter anderem scharfe Luftbilder benötigt, idealerweise von der ganzen Welt. Satellitenbilder sind allerdings oft nicht hochauflösend genug und gerade in entlegenen oder ärmeren Gegenden gibt es keine Fotoaufnahmen aus Flugzeugen. Das Projekt Satlas will dieses Problem lösen, indem ein KI-Bildgenerator auf Grundlage von niedrigauflösenden Satellitenbildern eine hochauflösende Karte der Welt berechnet. Auch wenn es immer wieder zu Fehlern kommt, bietet die Karte wichtige Informationen, die etwa von politischen Entscheidungsträger:innen benötigt werden. Die monatlich aktualisierte Karte ist frei verfügbar.

KI-generierte Bücher fluten Amazon und gefährden Menschenleben

‚Life or Death:‘ AI-Generated Mushroom Foraging Books Are All Over Amazon, 404 Media, 29.8.2023

Textgeneratoren wie ChatGPT werden bereits genutzt, um E-Mails, Reden oder Seminararbeiten zu schreiben – warum nicht gleich ein ganzes Buch? Auf diese Idee scheinen einige Menschen gekommen zu sein, schließlich bietet der Onlinebuchhandel von Amazon immer mehr KI-generierte Bücher zum Kauf an. Während es sich in vielen Fällen zwar um wenig sinnvolle, aber ungefährliche Texte handelt, sieht der Sachverhalt bei Koch- und Pflanzenbestimmungsbüchern anders aus: Denn wenn ein Buch übers Pilz- oder Waldbeerensammeln einen Fehler enthält, könnten die Leser:innen aus Versehen giftige Pflanzen essen. Journalistin Samantha Cole hat sich stichprobenartig Bücher auf Amazon genauer angeschaut und dabei mehrere Ausgaben gefunden, die laut Texterkennungssoftware von ChatGPT verfasst wurden. Die Autor:innen dieser Bücher sind dabei in einigen Fällen genauso fiktiv – mitsamt dem entsprechenden KI-generierten Portraitfoto für den Buchumschlag. Der New Yorker Pilzverein empfiehlt Sammler:innen daher, immer auch die Autor:innen zu recherchieren, bevor sie einem Buch ihr Vertrauen schenken. Amazon versucht währenddessen, solche betrügerischen Angebote aufzuspüren und aus dem Marktplatz zu löschen.

Follow-Empfehlung: Grant Fergusson

Grant Fergusson arbeitet als Fellow beim Electronic Privacy Information Center und betreibt dort ein Projekt zur Untersuchung des Einsatzes von KI-Systemen durch die öffentliche Hand.