Teresa Staiger

Der Herbst ist da und mit ihm auch die neueste Ausgabe unserer Lektüreempfehlungen. Während „Erlesenes“ aus der Sommerpause zurückkehrt, haben die Entwicklungen rund um Künstliche Intelligenz (KI) scheinbar keine Ruhepause…

Chancen

Public Interest Technology, Technologien für das Gemeinwohl, digitale öffentliche Infrastrukturen – egal wie man es nennt: Wir brauchen mehr davon. Daher war es eine Freude, Audrey Tang in unserem Berliner Büro der Bertelsmann Stiftung zu begrüßen, um über Pluralität, Technologie und Demokratie zu diskutieren und von Taiwans Ansatz zu lernen.

Science Fiktion trifft Realität: Dank automatischer Gesichtserkennung ist es in den USA nun möglich, seine Waffenmunition am Automaten zu kaufen. „Was könnte da schon schiefgehen“, müssen sich die Anbieter:innen gefragt…

Chancen

Die Tech-Exploration in der Wohlfahrt hat aufgezeigt, dass es viele gute Ideen gibt, wie Künstliche Intelligenz für die Verbesserung sozialer Dienstleistungen eingesetzt werden könnte. Damit dies geschieht, müssen strukturelle Hürden abgebaut und Sektor-übergreifende Kooperationen gestärkt werden.

Welche Rolle spielte Künstliche Intelligenz (KI) bei den größten Wahlen der Welt? Kann sie dazu beitragen, demokratische Prozesse inklusiver zu gestalten? Welche Möglichkeiten bietet sie in der politischen Kommunikation?  Und…

Anlässlich der Europawahl am 9. Juni haben wir heute eine Fokusausgabe zusammengestellt, die sich mit dem Themenkomplex Künstliche Intelligenz (KI) im Kontext von Wahlen beschäftigt. Viel wird über das Thema…

In der vergangenen Woche fand Europas größte Digitalkonferenz „re:publica“ in Berlin statt. Die Konferenz, die unter dem Motto „Who cares“ stand, wurde auch vom „reframe[Tech]“-Team besucht.

Die Integration kultureller Diversität und verschiedener Sprachen in Sprachmodellen ist ein zentrales Thema, da diese Modelle oftmals überwiegend auf Daten des Globalen Nordens trainiert wurden. Wie aber funktioniert der Balanceakt zwischen Diversität und Repräsentation auf der einen und Urheberrechten und Datenschutz-Fragen auf der anderen Seite?

Oft gehen die Entwicklungen rund um Künstliche Intelligenz (KI) und zunehmende Automatisierung mit der Angst vor massiven Jobverlusten einher. Aber werden die komplexen und oftmals sehr fehleranfälligen Systeme nicht viel…

In dieser Ausgabe begrüßen wir ein neues Gesicht bei „Erlesenes“: Elena Kalogeropoulos ist Politik- und Organisationsberaterin und beschäftigt sich insbesondere mit den Themen KI und algorithmenvermittelte Diskriminierung, innovative Verwaltung und Organisationsentwicklung sowie intersektionale Diversität. Herzlich Willkommen, liebe Elena! 

Chancen

Wilhelm Born-Fuchs berichtet von den Erfahrungen der „Tech-Exploration in der Wohlfahrt“, an der er mit dem Evangelischen Verein für Innere Mission in Nassau teilgenommen hat. Er schildert die Erkenntnisse aus sechs Wochen „Tech-Exploration“ im Bereich der Jugendhilfe und gibt ein Update zum aktuellen Status der explorierten KI-Anwendungsidee.

Chancen

Dirk Gastauer berichtet von den Erfahrungen der „Tech-Exploration in der Wohlfahrt“, an der er mit seiner Organisation im Sommer 2023 teilgenommen hat: Er schildert die Herausforderung der „Tech-Exploration“ im Bereich der Suchthilfe und gibt ein Update zum aktuellen Status der explorierten KI-Anwendungsidee des „Therapiesteuerungs-Assistenten“.

Mit Künstlicher Intelligenz (KI) mal kurz die Demokratie retten? Per Taube durch die KI-Nachhaltigkeits-Galaxie? Oder doch vielleicht ausgestorbene Meeresorganismen dank Robotik wiederbeleben? In der heutigen Erlesenes-Ausgabe widmen wir uns all diesen Fragen. Die gute Nachricht vorweg: Menschlicher Humor schlägt nach wie vor Künstliche Intelligenz – zumindest im digitalen Diskurs.

Chancen

Zehn Monate nach der „Tech-Exploration in der Wohlfahrt“ gibt Simon Domberg vom Paritätischen Wohlfahrtsverband Niedersachsen e.V. ein Update zu den Erfahrungen und Herausforderungen, die der Verband in der Auseinandersetzung mit Künstlicher Intelligenz (KI) in der Selbsthilfe gemacht haben.

Chancen

Laura Bürkle berichtet von den Erfahrungen der „Tech-Exploration in der Wohlfahrt“, an der sie mit der Paulinenpflege Winnenden e.V. im Sommer 2023 teilgenommen hat, und schildert die derzeitig größten Herausforderungen bei der Umsetzung der explorierten KI-Anwendungsidee „Krak-E“.

Die Masseneuphorie um KI-Anwendungen hat ein neues Objekt der Begierde gefunden: KI-generierte Videos, die eindrucksvoll, aber auch gelegentlich verstörend oder zumindest amüsant sind. In dieser Erlesenes-Ausgabe blicken wir hinter den Hype und stoßen auf altbekannte Muster, wie Big Tech von dieser Aufregung profitiert – und wie künstlich generierte Bilder den Kulturkampf in den USA weiter anheizen.

Chancen

Ende Januar hat der Digital Social Summit zum Thema Künstliche Intelligenz (KI) und der Rolle der (Zivil-)Gesellschaft stattgefunden. Die Bertelsmann Stiftung war als starke Stimme bei den Workshops und in der Veranstaltungsorganisation vertreten. Das Recap-Video vermittelt nun einen schönen Eindruck des Tages.

In dieser Ausgabe von Erlesenes steht die sogenannte Mensch-Technik-Interaktion (MIT), also die Wechselbeziehungen zwischen Menschen und technologischen Systemen, im Mittelpunkt. Dabei werden nicht nur die technische Funktionalität, sondern auch Aspekte…

Über 47 Millionen Mal wurde ein KI-generiertes Nacktfoto von Superstar Taylor Swift auf X geteilt, bevor die Plattform auf die Meldemobilisierung der Fans reagierte und die Bilder entfernte. Die prominente Reaktion auf diesen Vorfall, insbesondere die Besorgnis von höchster Stelle aus Washington, könnte nun dem Kampf gegen Deepfakes in den USA Auftrieb geben.

Können Erdbeben mithilfe Künstlicher Intelligenz (KI) vorhergesagt werden? Nein, noch nicht.  Aber wie Methoden maschinellen Lernens nicht nur für die Vorhersage von Erdbeben, sondern auch zum klimafreundlicheren Bauen eingesetzt werden könn(t)en und welche Rolle menschliches Feedback spielt, diskutieren wir in dieser Ausgabe.

Neues Jahr, altbekannte Vorurteile in KI-Systemen: Kann ein Chatbot, der auf Daten mit geschlechterspezifischem Bias trainiert wurde, sich diesen Vorurteilen entziehen? Werden wir irgendwann einmal über eine algorithmische Betrugserkennung berichten können, die nicht diskriminiert? Das System der französischen Sozialhilfebehörde CNAF fällt leider nicht in diese Kategorie.

Chancen

Wir laden Sie herzlich zum Digital Social Summit 2024 ein, der am 30. Januar 2024 endlich wieder analog in Berlin und online stattfinden wird. Beim Digital Social Summit trifft sich die Zivilgesellschaft, um gemeinsam mehr über KI zu lernen und sich in den gesellschaftlichen Diskurs einzumischen.

Sie kommt, sie kommt nicht, sie kommt: Das Ringen um die KI-Verordnung der EU war in den letzten Wochen ein regelrechter Krimi – zumindest für uns! Nun hat es das erste KI-Gesetz der Welt durch die harten Trilogverhandlungen zwischen dem Europäischen Parlament, dem Rat und der Kommission geschafft. Ende gut alles gut? Nein, die KI-Verordnung bleibt in vielen Bereichen deutlich hinter ihren Möglichkeiten und den erforderlichen Grenzen für einen umfassenden Grundrechtsschutz zurück, so zivilgesellschaftliche Expert:innen.

Chancen

Fallbeispiele

Im Interview berichtet Johannes Schunter (Evangelisches Werk für Diakonie und Entwicklung, EWDE) über die konkreten Anwendungsbereiche für Künstliche Intelligenz (KI) im Wissensmanagement großer humanitärer Organisationen. Er sieht vor allem Potenziale für die digitale Bewahrung von kulturellem Erbe und Wissen.

„Erlesenes berichtete“ – dieser Satz findet sich immer wieder in unseren Newslettern. Deswegen gibt es in dieser Ausgabe gleich drei Lektüreempfehlungen zu Themen wie Ressourcenverbrauch von KI-Modellen, Arbeitsbedingungen im Niedriglohnbereich…

Lange galt die EU als richtungsweisend in der Regulierung neuer Technologien, wie unter anderem das Gesetz über digitale Dienste (DSA) oder die Datenschutzgrundverordnung (DSGVO) gezeigt haben, sodass sich schon der Begriff des „Brüssel Effekt“ eingebürgert hat. Der „Brüssel-Effekt“ bezieht sich darauf, dass EU-Regulierungen und Standards weltweit an Einfluss gewinnen, indem Unternehmen, um Zugang zum EU-Markt zu erhalten, sich den strengen Vorschriften Brüssels anpassen. Der derzeitig verhandelte AI Act der EU weckt die gleichen Hoffnungen für den Bereich der Künstlichen Intelligenz. Nun versucht die US-amerikanische Biden-Administration mit einer Exekutiv-Anordnung gleichzuziehen. Erlesenes berichtet diese Woche von den Entwicklungen beider Regulierungsansätze.

Diversität im Kontext von KI-Modellen ist ein Dauerbrenner und oftmals entscheidend, um die gesellschaftlichen Auswirkungen der Technologie besser zu verstehen. In dieser Erlesenes-Ausgabe haben wir daher einige Artikel zu genau diesem Thema: Eine Studie beschäftigt sich mit dem „Gender Venture Capital Gap“, während gleich zwei Sprachmodelle zeigen, wie die Forderung nach diversen Trainingsdaten in die Praxis umgesetzt werden kann.

Chancen

Die Publikation „Vom Problem zur Anwendungsidee“ gibt sowohl Wohlfahrtsverbänden als auch zivilgesellschaftlichen Organisationen aller Art praxisnahe Hinweise, wie eine nutzer:innenzentrierte und gemeinwohlorientierte Technologieentwicklung in die Tat gesetzt werden kann.

Brauchen wir eine Art „Welt-KI-Rat“, analog zum Weltklimarat IPCC (Intergovernmental Panel on Climate Change)? Die Diskussion über die Notwendigkeit einer globalen KI-Governance ist derzeit in vollem Gange. Inmitten dieser Debatte…

Beginnen wollen wir diese erste Ausgabe nach der Sommerpause mit Beiträgen, die die aktuelle KI-Forschung kritisch hinterfragen: Zum einen ist da die Diskussion über die politische Ausrichtung von KI-Systemen zu…

Chancen

Am 5. Oktober veröffentlichen wir die Publikation „Vom Problem zur Anwendungsidee: Wie Künstliche Intelligenz gemeinwohlorientierte Organisationen unterstützen kann“ und freuen uns über Ihre Teilnahme an der morgendlichen Online-Veranstaltung.

Chancen

Risiken

Um diese Frage zu beantworten, hat change dem viel diskutierten Chatbot eine Aufgabe gestellt – und deren Erledigung geprüft und bewertet. Immer wieder zeigt sich: Der Einsatz von ChatGPT kann hilfreich sein, sein Output muss aber stets kritisch reflektiert werden.

Der Sommer ist da und damit auch die letzte Erlesenes-Ausgabe (aber keine Sorge: am 7. September geht es weiter). Diesmal stehen folgende Fragen im Fokus: Wie kann KI-gestützte personalisierte Medizin…

Chancen

Vergangenen Mittwoch war Kenza Ait Si Abbou für eine Lesung ihres Buches Menschenversteher zu Gast im Berliner Haus der Bertelsmann Stiftung. Gemeinsam im Gespräch mit Ralph Müller-Eiselt wurde damit das neue literarische Gesprächsformat des Berliner Hauses fortgesetzt. Im Mittelpunkt des Abends standen die Chancen, aber auch Herausforderungen, die mit den Weiterentwicklungen im Bereich der emotionalen künstlichen Intelligenz sowie in der Mensch-Technik-Interaktion auf die Gesellschaft zu kommen. 

Ein Sprachmodell, dessen Training so viel Emissionen erzeugt wie fünf Autos während ihrer gesamten Lebensdauer – muss das sein? Wie können die Umweltauswirkungen, z. B. Emissionen oder Wasserverbrauch, großer Sprachmodelle reduziert werden? Werden Klimaaktivist:innen durch KI-basierte Tools überwacht? Was machen „Green AI“-Systeme aus?

Regulierung braucht Zivilgesellschaft. Das hat sich nun an den harten und zuweilen zähen Verhandlungen rund um die KI-Verordnung der EU gezeigt, die vergangene Woche im EU-Parlament abgestimmt wurde. Damit hat…

Chancen

Anwendungsideen für den gemeinwohlorientierten Algorithmen- und KI-Einsatz zu finden – das war das Ziel der Tech-Exploration. Binnen sechs Wochen haben vier Explorationsteams in vier Wohlfahrtsorganisationen konkrete Anwendungsideen in Zusammenarbeit mit…

Transparenz ist ein Schlüsselwort, wenn es um gemeinwohlorientierte algorithmische Systeme und Künstliche Intelligenz (KI) geht. In dieser Ausgabe fragen wir uns: Müssen nicht auch Audits, also Prüfverfahren algorithmischer Systeme, selbst…

Generative Künstliche Intelligenz (KI) ist in aller Munde, wirft aber auch große Fragen auf: Fungiert KI als Katalysator für eine weitere Verschärfung des Turbokapitalismus? Bestimmen diejenigen, die Sprachmodelle trainieren und…

Chancen

Aus den 33 Bewerbungen sind vier Wohlfahrtsorganisationen ausgewählt worden, in denen seit Anfang Mai die Tech-Exploration stattfindet. Bis Mitte Juni werden konkrete Anwendungsideen für die Unterstützung durch algorithmische Systeme in…

In dieser Erlesenes-Ausgabe zeigen gleich zwei Beispiele, welche problematischen Auswirkungen KI-Systeme auf das Leben von Migrant:innen haben können: Zum einen warten die Niederlande abermals mit einem diskriminierenden System – diesmal…

Derzeit wird auf EU-Ebene darüber diskutiert, ob automatisierte Gesichterkennung in der KI-Verordnung verboten werden soll. Passend dazu gibt es in dieser neuen Erlesenes-Ausgabe gleich zwei Beiträge dazu: Zum einen wird anhand eines Beispiels aus den USA gezeigt, wie die Technik bei der Onlineidentitätsverifizierung (nicht) eingesetzt wird.

Chancen

Immer mehr Wohlfahrtsorganisationen setzen sich mit Daten, Künstlicher Intelligenz (KI) und ihren Potenzialen auseinander. Anhand des Pilotprojektes „Lernende Systeme in der Beratung“ des Bundesverbands der Caritas zeigt sich, wie Künstliche Intelligenz gemeinwohlorientiert zur Unterstützung der Sozialberatung eingesetzt werden kann.

Automatisierte Sozialbetrugserkennung – was kann da schon schiefgehen? Wie wir wissen, leider jede Menge (Erlesenes berichtete). Forscher:innen und Journalist:innen haben nun die Trainingsdaten und den Algorithmus analysieren können und die…

KI-Systeme können dabei helfen, Satellitenbilder von Erdbebenregionen zu analysieren, um Hilfe schnell und effizient zu verteilen, sie können staatliche Leistungen zugänglicher machen und vieles mehr. Dabei unterliegen sie aber häufig…

Chancen

Wo können Algorithmen und Künstliche Intelligenz (KI) eingesetzt werden, um die Missionen der Wohlfahrtsverbände zu unterstützen? Vom 8. Mai bis 16. Juni führen wir mit Technologieexpert:innen die sogenannte Tech-Exploration in Einrichtungen der Wohlfahrtsverbände durch und finden heraus, was Betroffene wirklich unterstützt. Die Bewerbung zur Teilnahme startet heute!

Das Sprachmodell ChatGPT scheint derzeit omnipräsent zu sein, ob in den Nachrichten, am Arbeitsplatz oder abends in der Kneipe. Die Meinungen schwanken zwischen Euphorie, Skepsis und Ablehnung. Diese Erlesenes-Ausgabe widmet…

Wer kennt es nicht: das Gedankenexperiment des Trolley-Problems – besonders beliebt im Kontext des autonomen Fahrens und oft belächelt in der KI-Ethik. Eine Studie der TU Münchens verdeutlicht nun, dass…

Der Hype rund um das textbasierte Dialogsystem ChatGPT reißt nicht ab, aber abermals ist ein vermeintlich automatisiertes Programm auf die akribische Arbeit von schlecht bezahlten Arbeitnehmer:innen angewiesen. Der Time-Artikel deckt auf, wie OpenAI – das Unternehmen hinter ChatGPT – in seinen Bemühungen, den Chatbot weniger toxisch zu machen, auf ausbeuterische Praktiken zurückgreift.

Frohes Neues Jahr! Passend zum Jahreswechsel beginnen wir mit einem Rückblick auf die Geschichte der KI-Entwicklung, um dann mit Melissa Heikkilä und Will Douglas Heaven einen Ausblick auf die Zukunft der Künstlichen Intelligenz zu wagen.

Chancen

Der gemeinwohlorientierte Einsatz von algorithmischen Systemen und Künstlicher Intelligenz (KI) wird von vielen in der Freien Wohlfahrtspflege als strategisch relevantes Thema angesehen. Aktuell fehlt es jedoch häufig an Anwendungsideen und Umsetzungskompetenz. Ein „Tech-Fellowship für die Wohlfahrt“ kann dabei helfen.

Der COP27-Klimagipfel ist gerade mit dem Versprechen, einen Ausgleichsfonds für arme Staaten einzurichten, zu Ende gegangen. Passend dazu fragen wir uns in dieser Erlesenes-Ausgabe: Können maschinelle Audits menschliche Analysen dabei…

Kann die (chinesische) Onlinezensur mit Memes, Emojis und ähnlich klingenden Begriffen ausgetrickst werden? Hat die viel zitierte „Gender Shades“-Studie von Joy Buolamwini und Timnit Gebru zu mehr Diversität in Trainigsdatensets geführt? Und können Systeme maschinellen Lernens dabei unterstützen, die kritische Infrastruktur – ein derzeit ja viel diskutiertes Sicherheitsrisiko – zu schützen?

Die Regulierung algorithmischer Entscheidungs- und KI-Systeme ist nicht zuletzt wegen der aktuell in den USA diskutierten „AI Bill of Rights“ in aller Munde. Deswegen stehen verschiedene Regulierungsansätze im Fokus der…

Die Forderung, dass sowohl Chancen als auch Risiken von algorithmischen Entscheidungssystemen und KI Beachtung finden sollten, mag abgedroschen klingen, in der Realität liegen aber Licht und Schatten der Technologien nach…

In den heutigen Lektüreempfehlungen widmen wir uns den Chancen und Risken KI-basierter Sprachsoftware: Während sich Millionen Ruander:innen durch inklusivere Sprachdatensätze besser über die Coronapandemie in ihrer Sprache informieren können, setzt…

Chancen

Fallbeispiele

Dass Menstruations-Apps zur Gefahr für die Nutzer:innen werden können, wird seit der Änderung des US-amerikanischen Abtreibungsrechts immer klarer. Abhilfe können datensparsame Apps wie drip schaffen, aber es braucht auch politische…

Das Warten hat ein Ende: Erlesenes ist zurück?! Wir – Michael Puntschuh und Teresa Staiger – werden zweiwöchentlich die Welt der Algorithmen und Künstlichen Intelligenz (KI) durchforsten und Ihnen fortan…

„Erlesenes“ bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern zum Themenkomplex Algorithmen und Künstlicher Intelligenz (KI). Mit „Erlesenes“ wollen wir den Diskurs rund…

Chancen

Fallbeispiele

Wenn über Künstliche Intelligenz (KI) und Nachhaltigkeit gesprochen wird, werden oft unhaltbare Versprechungen gemacht. Dabei kann KI in konkreten Fällen hilfreich sein. Am Beispiel des Green Consumption Assistant zeigt sich, wie…