![](https://www.reframetech.de/wp-content/uploads/sites/23/2018/07/Puntschuh_4.1.png)
-
michaelpuntschuh.com
Vita
Michael Puntschuh arbeitet als freier Forscher, Berater und Moderator. Er beschäftigt sich mit Menschenrechten online, öffentlicher Innovation, Digitaler und KI Ethik sowie algorithmenvermittelter Diskriminierung. Er war zuvor als Projektkoordinaton beim Think Tank iRights.Lab und Project Manager im Projekt „Ethik der Algorithmen“ der Bertelsmann Stiftung tätig.
Fotocredit: Kristin Kravdal
Neueste Beiträge
Unkategorisiert
Erlesenes #29: Von Erdbebenvorhersagen, menschlichem Feedback und Abschieden
Können Erdbeben mithilfe Künstlicher Intelligenz (KI) vorhergesagt werden? Nein, noch nicht. Aber wie Methoden maschinellen Lernens nicht nur für die Vorhersage von Erdbeben, sondern auch zum klimafreundlicheren Bauen eingesetzt werden könn(t)en und welche Rolle menschliches Feedback spielt, diskutieren wir in dieser Ausgabe.
Unkategorisiert
Erlesenes #28: Von französischem Risikoscoring, AMS-Chatbot und KI-gestützter Flutvorhersage
Neues Jahr, altbekannte Vorurteile in KI-Systemen: Kann ein Chatbot, der auf Daten mit geschlechterspezifischem Bias trainiert wurde, sich diesen Vorurteilen entziehen? Werden wir irgendwann einmal über eine algorithmische Betrugserkennung berichten können, die nicht diskriminiert? Das System der französischen Sozialhilfebehörde CNAF fällt leider nicht in diese Kategorie.
Unkategorisiert
Erlesenes #27: Fokusausgabe KI-Verordnung
Sie kommt, sie kommt nicht, sie kommt: Das Ringen um die KI-Verordnung der EU war in den letzten Wochen ein regelrechter Krimi – zumindest für uns! Nun hat es das erste KI-Gesetz der Welt durch die harten Trilogverhandlungen zwischen dem Europäischen Parlament, dem Rat und der Kommission geschafft. Ende gut alles gut? Nein, die KI-Verordnung bleibt in vielen Bereichen deutlich hinter ihren Möglichkeiten und den erforderlichen Grenzen für einen umfassenden Grundrechtsschutz zurück, so zivilgesellschaftliche Expert:innen.
Unkategorisiert
Erlesenes #26: Von durstigen KI-Trainings in Lagos, minderjährigen Clickworkern und Daten für Arbeitnehmer:innenrechte
„Erlesenes berichtete“ – dieser Satz findet sich immer wieder in unseren Newslettern. Deswegen gibt es in dieser Ausgabe gleich drei Lektüreempfehlungen zu Themen wie Ressourcenverbrauch von KI-Modellen, Arbeitsbedingungen im Niedriglohnbereich…
Unkategorisiert
Erlesenes #25: Von Bidens Exekutiv-Anordnung, Uneinigkeit beim AI Act und KI-Harry Potter in Berlin
Lange galt die EU als richtungsweisend in der Regulierung neuer Technologien, wie unter anderem das Gesetz über digitale Dienste (DSA) oder die Datenschutzgrundverordnung (DSGVO) gezeigt haben, sodass sich schon der Begriff des „Brüssel Effekt“ eingebürgert hat. Der „Brüssel-Effekt“ bezieht sich darauf, dass EU-Regulierungen und Standards weltweit an Einfluss gewinnen, indem Unternehmen, um Zugang zum EU-Markt zu erhalten, sich den strengen Vorschriften Brüssels anpassen. Der derzeitig verhandelte AI Act der EU weckt die gleichen Hoffnungen für den Bereich der Künstlichen Intelligenz. Nun versucht die US-amerikanische Biden-Administration mit einer Exekutiv-Anordnung gleichzuziehen. Erlesenes berichtet diese Woche von den Entwicklungen beider Regulierungsansätze.
Unkategorisiert
Erlesenes #24: Von diverseren Sprachmodellen, dem „Gender Venture Capital Gap“ & AI-nstein
Diversität im Kontext von KI-Modellen ist ein Dauerbrenner und oftmals entscheidend, um die gesellschaftlichen Auswirkungen der Technologie besser zu verstehen. In dieser Erlesenes-Ausgabe haben wir daher einige Artikel zu genau diesem Thema: Eine Studie beschäftigt sich mit dem „Gender Venture Capital Gap“, während gleich zwei Sprachmodelle zeigen, wie die Forderung nach diversen Trainingsdaten in die Praxis umgesetzt werden kann.
Unkategorisiert
Erlesenes #23: Von kulturellen Stereotypen, amerikanischem Arbeitskampf und weitverbreiteten Kompetenzlücken beim FBI
Mexikanische Männer tragen immer Sombreros, indonesisches Essen wird nur auf Bananenblättern serviert – viele KI-Bildergeneratoren sind nach wie vor nicht in der Lage, die Komplexität und Heterogenität unserer diversen Welt abzubilden. Selbst Stereotype, die nicht von Hause aus negativ sein müssen, sind immer noch Stereotype: Sie spiegeln ein bestimmtes Werturteil und eine Ausdünnung der Vielfalt wider.
Unkategorisiert
Erlesenes #22: KI-Governance, Clickwork hinter Gittern und KI-Weltkarte
Brauchen wir eine Art „Welt-KI-Rat“, analog zum Weltklimarat IPCC (Intergovernmental Panel on Climate Change)? Die Diskussion über die Notwendigkeit einer globalen KI-Governance ist derzeit in vollem Gange. Inmitten dieser Debatte…
Unkategorisiert
Erlesenes #21: KI-Bewerbungssoftware, Filterblasen, generative KI
Beginnen wollen wir diese erste Ausgabe nach der Sommerpause mit Beiträgen, die die aktuelle KI-Forschung kritisch hinterfragen: Zum einen ist da die Diskussion über die politische Ausrichtung von KI-Systemen zu…
Unkategorisiert
Erlesenes #20: Feministische KI-Ethik, personalisierte Medizin & vertrauenswürdige KI
Der Sommer ist da und damit auch die letzte Erlesenes-Ausgabe (aber keine Sorge: am 7. September geht es weiter). Diesmal stehen folgende Fragen im Fokus: Wie kann KI-gestützte personalisierte Medizin…
Unkategorisiert
Erlesenes #19: Fokusausgabe KI und Nachhaltigkeit
Ein Sprachmodell, dessen Training so viel Emissionen erzeugt wie fünf Autos während ihrer gesamten Lebensdauer – muss das sein? Wie können die Umweltauswirkungen, z. B. Emissionen oder Wasserverbrauch, großer Sprachmodelle reduziert werden? Werden Klimaaktivist:innen durch KI-basierte Tools überwacht? Was machen „Green AI“-Systeme aus?
Unkategorisiert
Erlesenes #18: Fokusausgabe zur KI-Verordnung der EU
Regulierung braucht Zivilgesellschaft. Das hat sich nun an den harten und zuweilen zähen Verhandlungen rund um die KI-Verordnung der EU gezeigt, die vergangene Woche im EU-Parlament abgestimmt wurde. Damit hat…
Unkategorisiert
Erlesenes #17: Audits, KI am Gericht und in der Astronomie
Transparenz ist ein Schlüsselwort, wenn es um gemeinwohlorientierte algorithmische Systeme und Künstliche Intelligenz (KI) geht. In dieser Ausgabe fragen wir uns: Müssen nicht auch Audits, also Prüfverfahren algorithmischer Systeme, selbst…
Unkategorisiert
Erlesenes #16: ChatGPT, Ghost Work-Gewerkschaft und Bilderkennung
Generative Künstliche Intelligenz (KI) ist in aller Munde, wirft aber auch große Fragen auf: Fungiert KI als Katalysator für eine weitere Verschärfung des Turbokapitalismus? Bestimmen diejenigen, die Sprachmodelle trainieren und…
Unkategorisiert
Erlesenes #15: Ethnic Profiling, automatisierte Übersetzungssoftware, Bias in Trainingsdatensets
In dieser Erlesenes-Ausgabe zeigen gleich zwei Beispiele, welche problematischen Auswirkungen KI-Systeme auf das Leben von Migrant:innen haben können: Zum einen warten die Niederlande abermals mit einem diskriminierenden System – diesmal…
Unkategorisiert
Erlesenes #14: Automatisierte Gesichtserkennung, Offener Brief & ChatGPT
Derzeit wird auf EU-Ebene darüber diskutiert, ob automatisierte Gesichterkennung in der KI-Verordnung verboten werden soll. Passend dazu gibt es in dieser neuen Erlesenes-Ausgabe gleich zwei Beiträge dazu: Zum einen wird anhand eines Beispiels aus den USA gezeigt, wie die Technik bei der Onlineidentitätsverifizierung (nicht) eingesetzt wird.
Unkategorisiert
reframe[Tech] Erlesenes #13: Automatisierte Betrugserkennung, Personalalgorithmen und ChatGPT
Automatisierte Sozialbetrugserkennung – was kann da schon schiefgehen? Wie wir wissen, leider jede Menge (Erlesenes berichtete). Forscher:innen und Journalist:innen haben nun die Trainingsdaten und den Algorithmus analysieren können und die…
Unkategorisiert
reframe[Tech] Erlesenes #12: KI-Erdbebenhilfe, Optimierungsalgorithmen und antike KI-Ethik
KI-Systeme können dabei helfen, Satellitenbilder von Erdbebenregionen zu analysieren, um Hilfe schnell und effizient zu verteilen, sie können staatliche Leistungen zugänglicher machen und vieles mehr. Dabei unterliegen sie aber häufig…
Unkategorisiert
reframe[Tech] Erlesenes #11: ChatGPT– was ist dran am Hype?
Das Sprachmodell ChatGPT scheint derzeit omnipräsent zu sein, ob in den Nachrichten, am Arbeitsplatz oder abends in der Kneipe. Die Meinungen schwanken zwischen Euphorie, Skepsis und Ablehnung. Diese Erlesenes-Ausgabe widmet…
Unkategorisiert
reframe[Tech] Erlesenes #10: Trolley-Problem reloaded
Wer kennt es nicht: das Gedankenexperiment des Trolley-Problems – besonders beliebt im Kontext des autonomen Fahrens und oft belächelt in der KI-Ethik. Eine Studie der TU Münchens verdeutlicht nun, dass…
Unkategorisiert
reframe[Tech] Erlesenes #9: Automatisierte Betrugserkennung SyRI zurück von den Toten
Der Hype rund um das textbasierte Dialogsystem ChatGPT reißt nicht ab, aber abermals ist ein vermeintlich automatisiertes Programm auf die akribische Arbeit von schlecht bezahlten Arbeitnehmer:innen angewiesen. Der Time-Artikel deckt auf, wie OpenAI – das Unternehmen hinter ChatGPT – in seinen Bemühungen, den Chatbot weniger toxisch zu machen, auf ausbeuterische Praktiken zurückgreift.
Unkategorisiert
reframe[Tech] Erlesenes #8
Frohes Neues Jahr! Passend zum Jahreswechsel beginnen wir mit einem Rückblick auf die Geschichte der KI-Entwicklung, um dann mit Melissa Heikkilä und Will Douglas Heaven einen Ausblick auf die Zukunft der Künstlichen Intelligenz zu wagen.
Unkategorisiert
reframe[Tech] Erlesenes #7
Kindern wird zur Weihnachtszeit gerne erzählt, dass die Menge an Geschenken in direkter Abhängigkeit vom guten Benehmen steht. Wie wichtig die Folgen unseres Handels sind, zeigen auch zwei neue Publikationen.
Unkategorisiert
reframe[Tech] Erlesenes #6
Der COP27-Klimagipfel ist gerade mit dem Versprechen, einen Ausgleichsfonds für arme Staaten einzurichten, zu Ende gegangen. Passend dazu fragen wir uns in dieser Erlesenes-Ausgabe: Können maschinelle Audits menschliche Analysen dabei…
Unkategorisiert
reframe[Tech] Erlesenes #5
Kann die (chinesische) Onlinezensur mit Memes, Emojis und ähnlich klingenden Begriffen ausgetrickst werden? Hat die viel zitierte „Gender Shades“-Studie von Joy Buolamwini und Timnit Gebru zu mehr Diversität in Trainigsdatensets geführt? Und können Systeme maschinellen Lernens dabei unterstützen, die kritische Infrastruktur – ein derzeit ja viel diskutiertes Sicherheitsrisiko – zu schützen?
Unkategorisiert
reframe[Tech] Erlesenes #4
Die Regulierung algorithmischer Entscheidungs- und KI-Systeme ist nicht zuletzt wegen der aktuell in den USA diskutierten „AI Bill of Rights“ in aller Munde. Deswegen stehen verschiedene Regulierungsansätze im Fokus der…
Unkategorisiert
reframe[Tech] Erlesenes #3
Die Forderung, dass sowohl Chancen als auch Risiken von algorithmischen Entscheidungssystemen und KI Beachtung finden sollten, mag abgedroschen klingen, in der Realität liegen aber Licht und Schatten der Technologien nach…
Unkategorisiert
reframe[Tech] Erlesenes #2
In den heutigen Lektüreempfehlungen widmen wir uns den Chancen und Risken KI-basierter Sprachsoftware: Während sich Millionen Ruander:innen durch inklusivere Sprachdatensätze besser über die Coronapandemie in ihrer Sprache informieren können, setzt…
Unkategorisiert
reframe[Tech] Erlesenes #01
Das Warten hat ein Ende: Erlesenes ist zurück🥳! Wir – Michael Puntschuh und Teresa Staiger – werden zweiwöchentlich die Welt der Algorithmen und Künstlichen Intelligenz (KI) durchforsten und Ihnen fortan…
Unkategorisiert
Das Warten hat ein Ende: Unser Newsletter „Erlesenes“ ist zurück!
„Erlesenes“ bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern zum Themenkomplex Algorithmen und Künstlicher Intelligenz (KI). Mit „Erlesenes“ wollen wir den Diskurs rund…
Risiken
In 22 Schritten zu gemeinwohlorientierten Algorithmen: Handreichung für die digitale Verwaltung
Das Ziel ist nicht neu, aber spätestens seit Corona noch dringlicher geworden: Wir brauchen eine digitale Verwaltung! Welche Herausforderungen der Einsatz von digitalen Anwendungen im öffentlichen Sektor mit sich bringt…
Risiken
Praxisleitfaden für KI-Ethik-Prinzipien: Die Algo.Rules gemeinsam umsetzen!
Neben unseren Algo.Rules fordern zahlreiche Initiativen in weit über hundert Leitlinien die ethische Gestaltung algorithmischer Systeme. Doch vielen Entwickler:innen und ihren Führungskräften fehlt eine Orientierung, was das konkret für sie…
Risiken
Interview mit Tom Hillenbrand zum „Schreckensszenario KI“
"Kurz gefragt" mit Tom Hillenbrand am Rande der „Das ist Netzpolitik!“-Konferenz am 21.09.2018 in Berlin. Unser Projekt "Ethik der Algorithmen" spricht in diesem Video-Interview mit dem Autor über Schreckensszenarien in…
Chancen
Risiken
Robo Recruiting: Entscheidet bald Software, wer angestellt wird?
Mit der Hoffnung, bessere Mitarbeiter:innen und den passenden Arbeitsplatz zu finden, nutzen Personalverantwortliche wie Bewerber:innen vermehrt algorithmische Systeme. Welche Chancen und Herausforderungen bringt es mit sich, wenn Software die Arbeitsplatzsuche…
Risiken
Auf dem Weg zu Gütekriterien für den Algorithmeneinsatz
Unser #algorules-Prozess mit dem Think Tank iRights.Lab läuft seit drei Monaten – Zeit für einen Zwischenstand! Unser Ziel ist es, einen Gütekriterienkatalog für algorithmische Prozesse zu entwickeln. Dieser kann als…