Verlernen wir, die richtigen Fragen zu stellen? Den Impuls eines Autors in dieser Ausgabe wollen wir uns zu Herzen nehmen und fragen uns: Wie verändert sich Demokratie, wenn Algorithmen zunehmend über Menschen entscheiden? Wie können KI-Systeme im Katastrophenfall unterstützen, ohne neue Abhängigkeiten zu schaffen? Warum spiegeln große Sprachmodelle alte Geschlechterbilder, obwohl sich die Realität längst verändert hat? Und was bedeutet es, wenn in Indonesiens Filmindustrie Künstliche Intelligenz (KI) nicht als Bedrohung, sondern als kreative Chance gesehen wird?

Außerdem ein kleiner Spoiler: „Chippytea“ hat nicht mit Pommes oder Tee zu tun.

Viel Spaß beim Lesen wünschen
Elena und Teresa

P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: https://www.reframetech.de/newsletter/

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl.

KI gibt Antworten, doch wer stellt noch die richtigen Fragen?

Generative AI and the New Tabula Rasa: Why Question Literacy Matters, Stefaan Verhulst, 11.10.2025

KI-Systeme wie ChatGPT, Gemini oder Claude ermöglichen es Millionen von Menschen, Texte, Code und Design-Entwürfe zu generieren. Doch diese Bequemlichkeit hat laut Stefaan G. Verhulst, Autor dieses Artikels, einen Preis. Denn sie lasse eine wesentliche menschliche Fähigkeit verkümmern: das Stellen guter Fragen. KI-Systeme simulieren lediglich logisches Denken, ohne es tatsächlich auszuüben. Verhulst sieht darin ein historisches Paradox: Der Fortschritt der Menschheit sei nämlich weniger von Antworten als von gewagten Fragen abhängig gewesen. Galileos Frage „Was wäre, wenn sich die Erde bewegt?” veränderte die Astronomie. Ada Lovelaces Frage „Können Maschinen denken?” legte den Grundstein für die Informatik. Heute wächst unsere Fähigkeit, Daten zu generieren und Antworten abzuleiten, exponentiell, während unsere Fähigkeit zum originellen Denken stagniert. Bei Problemen denken wir oft nicht mehr selbst nach, sondern fragen reflexhaft ein KI-System. Im Zeitalter generativer KI kann Gedankenlosigkeit die Form unkritischer Eingaben annehmen. Das heißt, man akzeptiert beiläufig das, was ein System generiert, ohne zu hinterfragen, was gefragt wurde oder was ungesagt blieb. Verhulst fordert deshalb, in Fragenkompetenz zu investieren. Seine Vision: Jede Interaktion sollte nicht mit „Gib mir eine Antwort“ beginnen, sondern mit „Hilf mir, diese Frage zu durchdenken“.

KI + Demokratie = Algokratie?

Rescuing Democracy From The Quiet Rule Of AI, Noema, 13.10.2025

In ihrem Artikel beschreibt die Autorin Vasya Kolotusha eine Entwicklung, in der immer mehr gesellschaftliche Entscheidungen von KI-Systemen generiert werden: oft intransparent, ohne Mitsprache der Betroffenen und ohne Korrekturmöglichkeit. So führte beispielsweise ein KI-System zur Betrugserkennung in den Niederlanden dazu, dass über 20.000 Familien zu Unrecht beschuldigt wurden. Dieser Skandal führte 2021 zum Rücktritt der Regierung. Doch der Einsatz von KI muss nicht zwangsläufig demokratische Prozesse schwächen. In Taiwan zeigt die Plattform „vTaiwan“ beispielsweise, wie maschinelles LernenMachine Learning Ein Teilbereich der KI, bei dem Systeme aus Daten lernen und sich verbessern, ohne explizit programmiert zu werden. dabei helfen kann, öffentliche Debatten zu strukturieren. In Irland beweisen Bürgerversammlungen, dass sich selbst komplexe Themen durch partizipative Prozesse lösen lassen. KI-Systeme könnten solche Modelle unterstützen, etwa durch Echtzeit-Übersetzungen, Zusammenfassungen oder die Identifikation von Konsensbereichen. Die Frage lautet also: Setzen wir KI-Systeme ein, um menschliches Urteilsvermögen zu ersetzen, oder nutzen wir sie, um demokratische Teilhabe zu stärken? Wie wir diese Frage beantworten, wird entscheidend dafür sein, ob wir in einer „Algokratie“, einer Herrschaft undurchsichtiger algorithmischer Prozesse, leben werden oder ob wir Technologie so gestalten können, dass sie unsere kollektive Entscheidungsfähigkeit erweitert.

KI-Crowdsourcing im Katastrophenmanagement

AI-enhanced crowdsourcing for disaster management: strengthening community resilience through social media, BMC, 13.10.2025

Diese aktuelle Studie zeigt, wie sich das Krisenmanagement bei Naturkatastrophen durch die Kombination von KI-basierter Datenanalyse und nutzergenerierten Inhalten aus sozialen Medien, auch „KI-Crowdsourcing“ genannt, verbessern und wie sich dadurch die Widerstandsfähigkeit von Gemeinschaften stärken lässt. Durch die Auswertung von Echtzeitdaten aus sozialen Netzwerken wie X, Facebook oder Instagram lassen sich Muster erkennen, betroffene Gebiete lokalisieren und Hilfsmaßnahmen beschleunigen. So können nach einem Erdbeben Standortangaben ausgewertet werden, um Überlebende zu orten, oder während eines Waldbrandes hochgeladene Bilder analysiert werden, um die Ausbreitung zu verfolgen. Dadurch erhalten Behörden und Hilfsorganisationen schnellere und präzisere Informationen, um ihre Ressourcen gezielter einzusetzen. Doch der Einsatz von KI-Crowdsourcing ist nicht ohne Herausforderungen: So können Fehlinformationen Panik auslösen oder Hilfsmaßnahmen behindern. Zusätzlich wirft die Nutzung persönlicher Daten ethische und rechtliche Fragen auf. Außerdem verfügen nicht alle Regionen über die notwendige Infrastruktur oder digitale Kompetenzen, um diese Tools effektiv zu nutzen. Damit KI-Crowdsourcing nachhaltig wirkt, müssen nicht nur klare Datenschutzrichtlinien gelten, sondern es muss auch an die kulturellen und sprachlichen Gegebenheiten angepasst und durch entsprechende Schulungen begleitet werden.

Frauen. Männer. Und alte Muster.

Age and gender distortion in online media and large language models, nature, 8.10.2025

Selbst wenn die Realität mittlerweile teilweise anders aussieht, reproduzieren Onlinemedien und große Sprachmodelle altersbezogene Geschlechterstereotype und verstärken diese. Zu diesem Ergebnis kommt eine aktuelle Studie von Forschenden aus Standford, Berkeley und Oxford. Obwohl die US-Volkszählung keine systematischen Altersunterschiede zwischen Frauen und Männern in der Erwerbsbevölkerung aufzeigt, zeigt die Analyse von über 1,4 Millionen Bildern und Videos von Plattformen wie Google, Wikipedia, IMDb, Flickr und YouTube sowie neun Sprachmodellen ein klares Muster: Frauen werden in fast allen Berufen und sozialen Rollen jünger dargestellt als Männer. Besonders ausgeprägt ist diese Verzerrung bei Berufen mit höherem Status und Einkommen. In einem Experiment führte die Suche nach Berufsbildern bei Google dazu, dass Frauen in den jeweiligen Berufen systematisch jünger eingeschätzt wurden als Männer. Auch ChatGPT erstellt und „bewertet” Lebensläufe so, dass Frauen tendenziell jünger und weniger erfahren erscheinen, während ältere männliche Bewerber höhere Qualifikationsnoten erhalten. Die Ergebnisse deuten somit darauf hin, dass diese Verzerrungen nicht zufällig, sondern kulturell tief verwurzelt sind: Je höher der Status oder das Einkommen eines Berufs ist, desto stärker wird der Altersunterschied zwischen den Geschlechtern betont.

Blockbuster zum halben Preis

Indonesia’s film industry embraces AI to make Hollywood-style movies for cheap, Rest of World, 10.10.2025

In Indonesien verändert der Einsatz generativer KI die Filmproduktion, und anders als in Hollywood wird das weitgehend begrüßt. Die indonesische Filmindustrie wächst rasant. Im Jahr 2023 überschritten die Kinokassenumsätze die Marke von 400 Millionen US-Dollar. Damit ist Indonesien der am schnellsten wachsende Markt Südostasiens. 2020 arbeiteten etwa 40.000 Menschen in diesem Sektor, der mittlerweile zunehmend generative KI einsetzt. ChatGPT hilft beim Drehbuchschreiben, Midjourney erstellt Bilder und Runway generiert kurze Videos für Storyboards. Bisma Fabio Santabudi, Filmdozent an der Multimedia Nusantara University, bezeichnet dies als Wendepunkt. Indonesische Kreative hätten nun uneingeschränkten Zugang zu KI und könnten ohne Einschränkungen durch hohe Kosten experimentieren. Bearbeitungen benötigen beispielsweise nun 70 Prozent weniger Zeit. Er warnt jedoch auch davor, dass diese Kreativen ihre Arbeitsplätze verlieren könnten. Auch Synchronsprecher:innen sind betroffen, da Studios hierfür vorhandene Datenbanken nutzen. Schätzungen zufolge werden bis 2026 rund 204.000 Arbeitsplätze in der Unterhaltungsbranche Hollywoods durch generative KI wegfallen. Ein Drehbuchautor bringt es jedoch auf den Punkt: „KI-Filme haben keine Seele. Film ist eine Kunstform mit schroffen Seiten und menschlichen Emotionen.“

Follow-Empfehlung: SUPERRR Lab

SUPERRR Lab ist eine unabhängige, gemeinnützige Organisation, die sich für eine gerechtere und feministischere digitale Zukunft einsetzt

Verlesenes: Ohrwurm-Potenzial

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.