![reframe[Tech]](https://www.reframetech.de/wp-content/themes/child-bst-algoritm/assets/images/logo-reframe-tech-weiss.svg){kind=logo}
Vita
Carla Hustedt leitet den Bereich „Digitalisierte Gesellschaft“ bei der Stiftung Mercator. Seit mehreren Jahren forscht, kommuniziert und entwickelt sie Projekte zu den gesellschaftlichen Auswirkungen der Digitalisierung, bis April 2021 als Leitung des Projektes „Ethik der Algorithmen“ der Bertelsmann Stiftung. In dieser Rolle koordinierte sie die Entwicklung der Algo.Rules, 9 Regeln für die ethische Gestaltung algorithmischer Systeme und den darauf aufbauenden Vorschlag für die Etablierung eines Ethik Labels für Künstliche Intelligenz (KI). 2019 beriet sie die KI-Enquete Kommission des deutschen Bundestages zur Transparenz von algorithmischen Systemen. Carla Hustedt ist Mitglied des Beirats des Centers for Advanced Internet Studies (CAIS) und der Initiative „SheTransformsIT“ für mehr Vielfalt im Tech Sektor. Laut dem Digitalmagazin „Female One Zero“ zählt sie zu den „Top 10 Women in Data“ in Deutschland. Sie hat einen Master in Public Administration von der London School of Economics, mit einem Fokus auf Verhaltensökonomie und E-Governance und einen Master in Public Policy von der Hertie School of Governance. Schon seit 2010 engagiert sie sich durch die Gründung der Deutsch-Ghanaischen Menschenrechtsorganisation „Boa Nnipa“ für mehr Chancengerechtigkeit und die Stärkung der Zivilgesellschaft.
Fotocredit: Marzena Skubatz
Neueste Beiträge
Risiken
„Es muss nicht immer KI sein“: Carla Hustedt warnt Behörden vor Software, die sie nicht verstehen
Weltweit wollen Staaten und Behörden bei der Digitalisierung aufholen – und setzen dabei verstärkt auf Künstliche Intelligenz. Das geht allerdings nicht immer gut. Wolfgang Kerler von 1E9 hat mit Carla…
Chancen
Risiken
Deutschland, wir müssen reden…über die gesellschaftliche Bedeutung von Algorithmen!
Deutschland hat sich in kürzester Zeit von einer automatisierenden zu einer automatisierten Gesellschaft entwickelt. Sei es zur Überwachung des öffentlichen Raums, zur Prognose von Straftaten oder für die Vergabe von…
Chancen
Risiken
Wie Deutschland über Algorithmen schreibt
Algorithmen und künstliche Intelligenz (KI) spielen eine wachsende Rolle in Leit-, Fach- und sozialen Medien. Die Darstellung der Themen ist jedoch sehr einseitig und konzentriert sich mehr auf wirtschaftliche Potenziale…
Chancen
„Es ist Zeit für gemeinwohlorientierte Innovation!“
Algorithmische Systeme können Sicherheitsbehörden dabei unterstützen, Kriminalitätsschwerpunkte vorherzusagen und dadurch mögliche Verbrechen zu verhindern. Zugleich kann ihr Einsatz aber auch dazu führen, dass bürgerliche Freiheiten eingeschränkt werden. In der Medizin…
Risiken
Würde ich gern so machen, doch der Computer sagt Nein
In Ihrem Blogbeitrag diskutierten Christian Schilcher, Project Manager im Programm Unternehmen in der Gesellschaft und Carla Hustedt, Projektleiterin „Ethik der Algorithmen“, die ethischen Herausforderungen der Digitalisierung im Arbeitskontext. Dabei wird…
Chancen
„The New New“: Start eines neuen Fellowships für inklusive digitale Zukunftsvisionen
In was für einer Welt wollen wir zukünftig leben? Welche Rolle sollten digitale Innovationen dabei spielen? Wie können wir Algorithmen, Künstliche Intelligenz und andere Technologien einsetzen, um Inklusion, Diversität und…
Chancen
Wir brauchen ein Ökosystem der KI-Ethik!
„Verantwortungsvolle KI - von Prinzipien zur Praxis“ lautet der Titel der ersten DigiLounge, einer neuen digitalen Eventreihe von Microsoft. Ihren Input zur gemeinsamen Diskussion mit Anna Christmann, Obfrau der Enquete-Kommission…
Risiken
The Ethics of Responses to Covid-19: A Twitter-Chat by Women in AI Ethics
How ethical are technological responses to Covid-19? Should AI systems be used as part of public health strategies? When doing so, how do we protect fundamental rights and freedoms, such…
Risiken
The Urgent Need for Robust Trust – Cultivating an environment in which algorithmic decision-making serves society
On February 19, 2020, the European Commission published its “White Paper on Artificial Intelligence – A European approach to excellence and trust” and launched a consultation. We welcome the European Commission’s…
Risiken
From principles to practice: Wie wir KI-Ethik messbar machen können
Die Diskussion über die gesellschaftlichen Auswirkungen von Algorithmen hat an Fahrt angenommen. Neben unseren Algo.Rules wurden eine Vielzahl an Leitlinien für die ethische Gestaltung sogenannter „Künstlicher Intelligenz“ (KI) durch Akteure…
Chancen
Alexa, bist du Feministin? Plädoyer für emanzipatorische Perspektiven auf algorithmische Systeme
„Gleichstellung der Geschlechter bis 2030“ ist das Motto des diesjährigen Internationalen Frauentags. Um diesem Ziel näher zu kommen, braucht es eine emanzipatorische Perspektive auf algorithmische Systeme argumentiert Carla Hustedt in…
Risiken
Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand
Auf Hochtouren arbeitet die Politik derzeit an der Regulierung von algorithmischen Systemen. Doch was ist eigentlich aktuell in Deutschland erlaubt und was muss für automatisierte Software-Entscheidungen (ADM) wirklich neu geregelt…
Chancen
Risiken
Prävention: Gewisse Zukunft
Der siebte von neun Beiträgen über die Effekte von Algorithmen auf einzelne Personen, Gesellschaft sowie das soziale Miteinander behandelt die Möglichkeiten, Präventionsarbeit durch algorithmenbasierte Prognosen zu verbessern. Bereits erschienen sind…
Chancen
Risiken
Das Projekt „Ethik der Algorithmen“ konzentriert seine Aktivitäten künftig auf die Handlungsfelder Kontrolle, Vielfalt und Chancen fürs Gemeinwohl
Seit 2017 arbeiten wir daran, die Gesellschaft für die Relevanz algorithmischer Entscheidungsfindung zu sensibilisieren, den Austausch zwischen Disziplinen und Sektoren zu dem Thema zu fördern und praktische Lösungen für den…
Chancen
Risiken
Algorithmen fürs Gemeinwohl: 10 Erkenntnisse aus 2 Jahren intersektoraler Arbeit
Der Austausch zwischen verschiedenen Disziplinen und Sektoren ist keine leichte, aber meist sehr hilfreiche Übung. Das gilt auch für die Diskussion zum ethischen Einsatz algorithmischer Systeme. Viele Fragen lassen sich…
Chancen
Risiken
Raus aus der Black Box. Algorithmen für alle nachvollziehbar machen – aber wie?
Im Rahmen des Kooperationsprojektes "Algorithmen fürs Gemeinwohl" von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir die Chancen und Risiken algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit den drei Anwendungsbereichen Predictive Policing, Robo…
Chancen
Risiken
Freiraum: Mehr Zeit fürs Wesentliche
Im vierten von neun Beiträgen über die Effekte von Algorithmen auf einzelne Personen, Staat und Gesellschaft sowie das soziale Miteinander geht es um Freiräume für Dinge, die wir besonders gut…
Chancen
Fallbeispiele
Risiken
Gesund dank Algorithmen? Chancen und Risiken von Gesundheits-Apps für Patient:innen
Im Rahmen des Kooperationsprojektes "Algorithmen fürs Gemeinwohl" von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir drei Anwendungsfelder algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit Predictive Policing und Robo…
Chancen
Risiken
Datenethikkommission liefert viele Antworten – und einige Streitpunkte
Wie soll künftig mit Daten und sogenannter Künstlicher Intelligenz umgegangen werden? Das Bundesministerium für Justiz und Verbraucherschutz und das Bundesinnenministerium haben mit der Datenethikkommission (DEK) ein durchaus divers besetztes Gremium…
Chancen
Risiken
Zugang: Offene Türen, versperrte Wege
In unserer neuen Reihe illustrieren wir an dieser Stelle die Effekte von Algorithmen für Individuum, Staat und Gesellschaft sowie das soziale Miteinander. Der zweite von neun Beiträgen befasst sich mit…
Chancen
Risiken
Erde an Zukunft: Algorithmenethik kinderleicht erklärt
Ethik und Künstliche Intelligenz - das klingt kompliziert und ziemlich nerdig. Nach philosophischen Salons, alten Buchrücken und mathematischen Formeln. Aber es geht auch anders: Um junge Menschen für die gesellschaftlichen…
Chancen
Fallbeispiele
Risiken
Robo Recruiting – Dank Algorithmen bessere Mitarbeiter:innen finden?
Mit der Hoffnung, bessere Mitarbeiter:innen und den passenden Arbeitsplatz zu finden, nutzen Personalverantwortliche, wie Bewerber, vermehrt algorithmische Systeme. Welche Chancen und Herausforderungen die neuen Technologien mit sich bringen und wie…
Risiken
Algorithmen-Transparenz. Was steckt hinter dem Buzzword?
Am Montag, 06.05.2019 habe ich in der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ einen Vortrag zum Thema „KI-Transparenz“ gehalten. Bedeutet KI-Transparenz die Offenlegung des Quellcodes? Der Daten? Oder…
Risiken
Algo.Rules – Wie kriegen wir die Ethik in den Code?
Algorithmische Systeme treffen in immer mehr Bereichen Entscheidungen für und über uns Menschen, häufig ohne, dass wir es merken. Um bestehende Rechte und Freiheiten auch im algorithmischen Zeitalter durchsetzen zu…
Risiken
All I want for christmas is a Gütekriterienkatalog for Algorithmeneinsatz
Data Scientists streifen durch den Raum, Besucher:innen unterhalten sich angeregt, Weihnachtslieder erklingen im Hintergrund. Vergangene Woche habe ich unser #algorules Projekt beim Meetup der Berliner Data Science Agentur idalab vorgestellt.…
Risiken
All I want for christmas is a quality criteria catalogue for algorithms.
Data scientists roaming the room, visitors having busy conversations, christmas jingles in the background, setting the mood for the evening. Last week I presented the #algorules project at the Berlin based…
Risiken
Helft uns den Gütekriterienkatalog für algorithmische Systeme zu entwickeln! – Onlinebeteiligung beendet
In unserem #algorules-Projekt mit dem Think Tank iRights.Lab entwickeln wir einen Gütekriterienkatalog für algorithmische Systeme. Nach zwei Expert:innenworkshops und einem umfassenden Konsultationsprozess brauchen wir nun Eure Ideen: Macht mit bei unserer Onlinebeteiligung und helft uns, die #algorules zu präzisieren, zu ergänzen und praxisnah zu…
Chancen
Auswertung der Blogparade – Eure Meinungen und Ideen zu Künstlicher Intelligenz fürs Gemeinwohl
In den letzten Wochen und Tagen hat sich die Politik weiter auf die Auseinandersetzung mit Algorithmen und Künstlicher Intelligenz (KI) vorbereitet. Die Sachverständigen der KI-Enquete wurden berufen. Der Digitalrat der…
Risiken
Auf dem Weg zu Gütekriterien für den Algorithmeneinsatz
Unser #algorules-Prozess mit dem Think Tank iRights.Lab läuft seit drei Monaten – Zeit für einen Zwischenstand! Unser Ziel ist es, einen Gütekriterienkatalog für algorithmische Prozesse zu entwickeln. Dieser kann als…
Chancen
Blogparade: Künstliche Intelligenz fürs Gemeinwohl? Sagt uns Eure Meinung!
Die Bundesregierung hat am 17. Juli die „Eckpunkte für eine Strategie Künstliche Intelligenz (KI) der Bundesregierung“ veröffentlicht. Sie sollen einen Orientierungsrahmen für die eigentliche KI-Strategie darstellen, welche bis zum November…
Risiken
Entwarnung zu Fake News? Neue Studie zeigt: Falschnachrichten hatten im Bundestagswahlkampf eine geringere Reichweite als befürchtet
Die allgemeine Sorge, wir seien in einem Zeitalter des Postfaktischen angelangt, ist groß. Doch die Ergebnisse einer neuen Studie „Fakten statt Fakes“ der Stiftung Neue Verantwortung lassen aufatmen: Fake News…
Risiken
Die algorithmische Kristallkugel der US-Kinderschutzbehörden
Ein Algorithmus soll Kindesmisshandlung vorhersagen, damit eingeschritten wird, bevor Taten passieren. Mit dieser Hoffnung nutzen US-Behörden die Prognosesoftware Rapid Safety Feedback. Die Ergebnisse sind ernüchternd: Das Versprechen besserer Prävention hat…