2019 war ein algorithmisches Fest – danke, dass Sie dabei waren! Mit der 94. Ausgabe Erlesenes verabschieden wir uns in eine kleine Winterpause und sind am 16. Januar 2020 mit vielen interessanten Themen und Informationen wieder da. Vorher gibt es wie gewohnt fünf kluge Beiträge aus der Algorithmenwelt: Wie tief sitzt der Bias in algorithmischen Systemen? Kann man mit Künstlicher Intelligenz den Regenwald retten? Und: Wie kommt man Handy-Sündern im Auto intelligent auf die Spur? Diskutieren Sie mit – über Twitter (@algoethik) oder den Blog!

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leser:innen. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an lajla.fetic@bertelsmann-stiftung.de zukommen lassen.

🔖Schubladen im Kopf oder im Algorithmus – Lassen sich Algorithmen effektiver von diskriminierenden Neigungen befreien?

(Biased Algorithms Are Easier to Fix Than Biased People), 6. Dezember, New York Times

Nach Ansicht des Computer- und Verhaltenswissenschaftlers Sendhil Mullainathan lassen sich bei Algorithmen diskriminierende Tendenzen effektiver befreien als bei Menschen. Mullainathan, der unter anderem Mitautor einer Studie zur Benachteiligung von Afroamerikaner:innen durch Patientensoftware war (siehe Erlesenes #88), diskutiert in diesem Meinungsbeitrag die Schwierigkeiten, den systematischen Einfluss von menschlichen Vorurteilen auf Entscheidungen zu belegen sowie auf individuellem Niveau dauerhafte Verhaltensänderungen zu erwirken. Algorithmen zu verändern, sei einfacher, als Menschen zu verändern; die Software auf Computern könne wenigstens aktualisiert werden – zumindest theoretisch. Mullainathan betont gleichzeitig, dass er algorithmische Diskriminierung nicht trivialisieren wolle. Angemessene Regulierung sei unerlässlich, und an der mangele es derzeit. Der Standpunkt des Forschers liefert einen anregenden Impuls für Diskussionen. Das letzte Wort dazu, ob faire Algorithmen tatsächlich so vergleichsweise einfach zu schaffen seien wie von ihm suggeriert, ist damit aber noch lange nicht gesprochen.

🔖Mit maschinellem Lernen die Bedrohung des Regenwalds besser verstehen

5. Dezember 2019, ETH Zürich

Wie viel Regenwald geht eigentlich im Amazonas durch Brände und Rodung verloren? Auf diese Frage soll ein Algorithmus künftig Auskunft geben. Florian Meyer von der ETH Zürich berichtet über das Projekt des Computerwissenschaftlers David Dao. Dessen Programm könne anhand von Satelliten- und Drohnenaufnahmen selbstständig erkennen, wo und in welchem Ausmaß die gesamte Waldfläche kleiner wird, und voraussagen, wo der Regenwald in naher Zukunft weiter schrumpfen könnte. Der Algorithmus analysiere anhand von Sequenzen von Luftaufnahmen, wie sich Straßenbild und Waldflächen mit der Zeit verändern und zieht daraus seine Schlüsse. Im Januar 2020 ist ein Testlauf im chilenischen Regenwald geplant, um den Ansatz weiterzuentwickeln. Er berge nämlich auch das Potenzial, zu erkennen, welche Baumarten besonders stark betroffen sind. Das sei auch gerade relevant, wenn es um Fragen zur Rolle von Bäumen als CO2-Speicher geht. Auch wenn am Ende nur die aktive Gestaltung durch Politik negative Entwicklungen stoppen kann, hilft das Projekt vielleicht, durch Transparenz die Dringlichkeit zu verdeutlichen.

🔖Algorithmus sieht Objekte ähnlich wie ein Mensch

(Machine vision that sees things more the way we do is easier for us to understand), 6. Dezember 2019, MIT Technology Review

Wir Menschen identifizieren ein Objekt anhand seiner verschiedenen optischen Eigenschaften. Künstliche Intelligenz (KI) dagegen achtet in der Regel schlicht auf bestimmte Pixel-Muster, was zu einer hohen Fehleranfälligkeit führt, so Karen Hao, Reporterin bei MIT Technology Review. Wissenschaftler:innen der Duke University und des MIT Lincoln Laboratory haben nun einen Algorithmus entwickelt, der explizite optische Charakteristika von Vögeln erkennen kann, etwa wenn es um Farben der Federn oder des Kopfes geht. Bei der Bestimmung einer Vogelart liefere der Algorithmus auch gleich eine Erklärung, welche Eigenschaften den Ausschlag gaben. In Sachen Akkuratheit sei der Ansatz mindestens vergleichbar mit bisherigen Verfahren. Und weil er einen nachvollziehbaren Einblick in seinen Entscheidungsprozess liefere, erfülle er auch Ansprüche an KI in kritischen Einsatzfeldern wie in der Medizin, so Hao. Das wissenschaftliche Papier gibt es hier.

🔖Künstliche Intelligenz: Überwachungskamera jagt Handy-Sünder im Auto

5. Dezember 2019, NZZ

Im australischen Gliedstaat New South Wales soll Künstliche Intelligenz (KI) dabei helfen, die Zahl der Verkehrstoten innerhalb von zwei Jahren um 30 Prozent zu reduzieren: Ein Kamera-Überwachungssystem macht es Autofahrer:innen schwer, am Steuer unentdeckt mit ihrem Mobiltelefon zu hantieren. Das ist in Australien wie in vielen anderen Ländern verboten. Der freie Journalist Jochen Siegle schreibt in der NZZ über das nach einer sechsmonatigen Testphase nun offiziell eingeführte KI-Kamerasystem, das in der Lage ist, Smartphones in fahrenden Kfz zu erkennen und bei einer entsprechenden Sichtung analog zu Blitzern ein Foto schießt. Ab März drohen für derartige Vergehen Geldstrafen von umgerechnet bis zu knapp 300 Euro sowie fünf Strafpunkte im Verkehrsregister. Das System soll bei jeder Witterung und auch nachts verwertbare Aufnahmen liefern können, so Siegle.

🔖Künstliche Intelligenz soll Beethovens Unvollendete vollenden

7. Dezember 2019, Spiegel Online

Am 28. April wird das Beethovenorchester in Bonn die zehnte Sinfonie von Ludwig van Beethoven uraufführen – obwohl der berühmte Komponist diese kurz vor seinem Tod im Jahr 1827 begonnen und nur skizzenhaft zu Ende gebracht hat. Doch mithilfe eines Algorithmus werde das Stück derzeit fertiggestellt, wie in diesem Agenturartikel auf Spiegel Online mit Verweis auf eine Meldung der  Frankfurter Allgemeinen Sonntagszeitung (kostenpflichtig) zu lesen ist. Seit Sommer arbeite ein internationales Team aus Musikwissenschaftler:innen und Komponist:innen um dem Pianisten Robert Levin gemeinsam mit Computerexpert:innen daran, das Computerprogramm mit existierenden Werken Beethovens zu trainieren. Was am Ende herauskommt, wisse keiner der Beteiligten. Allerdings handele es sich nicht um das erste Projekt dieser Art: Mit Franz Schuberts achter Sinfonie in h-Moll wurde im Frühjahr 2019 bereits schon einmal ein bedeutendes Werk durch Künstliche Intelligenz vollendet.

Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: lajla.fetic@bertelsmann-stiftung.de 

Sie können die Algorithmenethik Lektüreempfehlungen „Erlesenes“ hier abonnieren.