Algorithmenethik Erlesenes #105

Kann Künstliche Intelligenz sinnvoll zur Erkennung von COVID-19 eingesetzt werden? Und wie fühlt es sich eigentlich an, wenn man von der Regierung dazu verpflichtet wird, eine Corona-Tracking-App zu nutzen und täglich ein Selfie von sich in der Quarantäne machen muss? Auch diese Woche widmen sich einige unserer Leseempfehlungen diesen höchstaktuellen Fragen. Positive Nachrichten kommen aus der Hirnforschung, der es immer besser gelingt, Hirnsignale in Sprache zu übersetzen und somit Patient:innen, die sich nicht artikulieren können, Hoffnung zu geben. Diskutieren Sie mit – über Twitter (@algoethik) oder unseren Blog!

Erlesenes gönnt sich eine einwöchige Osterpause – neuen Lesestoff gibt es von uns wieder am 23. April 2020. Wir wünschen allen Leser:innen frohe und erholsame Ostertage, bleiben Sie gesund!

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leser:innen. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an lajla.fetic@bertelsmann-stiftung.de zukommen lassen.

?KI kann COVID-19 auf Lungenscans erkennen – aber (noch) nicht zuverlässig

(Debate flares over using AI to detect Covid-19 in lung scans), 30. März 2020, STAT

Sollten Krankenhäuser Algorithmen einsetzen, um mithilfe von Röntgenbildern und CT-Scans der Lungen COVID-19-Infektionen aufzuspüren? Darüber seien dich die Expert:innen uneins, berichten die Medizintechnologie- und Biowissenschafts-Journalisten Casey Ross und Rebecca Robbins im Fachmagazin STAT. Verschiedene rasant durchgeführte Studien hätten gezeigt, dass Künstliche Intelligenz (KI) anhand von relativ wenigen Trainingsdaten zumindest einige COVID-19-Fälle erkennen und damit das von massiven Engpässen geprägte herkömmliche Coronavirus-Testverfahren entlasten könnte. Kritiker:innen zweifeln laut Ross und Robbins jedoch daran, dass die Entwicklung von zuverlässigen KI-Verfahren – die sonst viele Monate oder Jahre dauert – sich derartig schnell realisieren lasse. Zudem sei unklar, inwieweit die zumeist anhand schwer kranker chinesischer Patient:innen trainierten KI-Modelle auf Personen in Ländern mit anderen sozioökonomischen und gesundheitlichen Rahmenbedingungen angewendet werden können. Als ergänzendes Verfahren, um einzelne, zuvor negativ getestete Personen sicherheitshalber nochmals zu überprüfen, könne aber womöglich auch ein nicht perfektes System genügen. (Da dem Artikel leider nachträglich eine Paywall hinzugefügt wurde, gibt es hier den Link zu einer kostenfrei verfügbaren Version des Textes.)

?Wie Polen per App kontrolliert, ob sich Bürger:innen an die Coronavirus-Quarantäne halten 

(Poland’s coronavirus app offers playbook for other governments), 2. April 2020, Politico

Polen gehört zu den ersten westlichen Ländern, deren Regierung eine offizielle Smartphone-App zum Bremsen der Coronavirus-Pandemie veröffentlicht hat. Wie Politico-Korrespondent Mark Scott erörtert, handelt es sich dabei um einen der bislang weitreichendsten Ansätze – selbst wenn er innerhalb von nur drei Tagen auf Basis einer Drittanbieter-Lösung entwickelt wurde. Die Anwendung sei laut der polnischen Regierung obligatorisch für alle Coronavirus-Verdachtsfälle. Diese würden mittels persönlicher SMS zum Download aufgerufen. Per GPS prüfe die App regelmäßig, ob sich Personen an ihrem Quarantäne-Ort befinden. Zudem erfordere sie ein tägliches Selfie-Foto. Sämtliche gesammelten Daten werden laut Scott für sechs Jahre gespeichert und können von verschiedenen Behörden abgerufen werden. Offen sei aktuell, welche Mittel die Regierung habe, Personen zur Installation der App zu zwingen. Und selbst wer sie verwendet, bekomme weiterhin einen täglichen kurzen Kontrollbesuch von der Polizei. Passend zum Thema und der auch in Deutschland geführten Diskussionen rund um das Corona-Tracking empfehlen wir einen Blick auf Prinzipien, zu deren Einhaltung AlgorithmWatch beim Einsatz automatisierter Software-Lösungen im Kampf gegen das neuartige Coronavirus ermahnt.

?KI-System macht Hirnsignale zu Sprache

30. März 2020, wissenschaft.de

kheit zu verlieren, ist verheerend. Forscher:innen von der University of California in San Francisco hoffen, mittels Künstlicher Intelligenz (KI) und des hochauflösenden Ableitens von Hirnströmen Betroffenen ihre Sprache zurückgeben zu können. Ihr Ansatz sei in der Lage gewesen, die Hirnsignale von vier Probanden in Sprache zu übersetzen, berichtet Nadja Podbregar, Onlineredakteurin bei wissenschaft.de. Zum Training auf Grundlage eines Wortschatzes von rund 250 Wörtern würden Aufzeichnungen von circa 30 Minuten Länge genügen. Mit einem vergleichsweise kurzen Training des Algorithmus sei eine Wortfehlerrate von im Durchschnitt nur drei Prozent erreicht worden, was als professionelles Niveau gelte. Zudem ließen sich die Trainingserfolge gar von einem Probanden auf einen anderen übertragen. Auch wenn ein Wortschatz von einigen hundert Wörtern zwar noch vergleichsweise gering sei, könne dies für Patient:innen, die sonst gar nicht sprechen können, schon sehr hilfreich sein.

?KI scheitert an Zukunftsprognosen für Lebensverläufe tausender Haushalte

(AI can’t predict how a child’s life will turn out even with a ton of data), 2. April 2020, MIT Technology Review

Entscheidungsträger:innen in Politik und Behörden sollten ihre Erwartungen an algorithmische Werkzeuge zur statistischen Vorhersage von unterschiedlichen Sachverhalten senken – maschinelles Lernen sei keine Magie und mitunter weitaus schlechter im Prognostizieren, als man denkt. So lautet das Fazit einer Studie von Forscher:innen der Princeton University, über die Karen Hao bei MIT Technology Review berichtet. Auf der Grundlage von fast 13.000 Datenpunkten einer über 15 Jahre lang durchgeführten soziologischen Studie sollten hunderte Wissenschaftler:innen mithilfe von Algorithmen Prognosen für sechs relevante „Lebensergebnisse“ von mehr als 4.000 Haushalten abgeben – etwa für den Notendurchschnitt der Kinder oder das Armutsniveau eines Haushalts. Das ernüchternde Ergebnis: Niemandem sei auch nur eine annähernd akkurate Prognose gelungen – ungeachtet davon, ob simple, transparente statistische Verfahren oder raffinierte, hochkomplexe Algorithmen zum Einsatz kamen. Es zeige sich, dass das Vorhandensein von umfangreichen Daten und die Nutzung von komplizierter KI keine Garantie für korrekte Vorhersagen bietet.

?Hacks gegen die Corona-Krise: Algorithmus schafft Platz in Öffis

01.04.2020, futurezone.at

In Estland nahm die Idee eines Hackathons zur spontanen Entwicklung von Lösungen gegen die Coronavirus-Krise ihren Anfang. Mittlerweile fanden derartige Wettbewerbe in fast 50 Ländern statt, darunter auch in Deutschland. Bei futurezone.at berichtet der Journalist Patrick Dax über die Sieger:innen der österreichischer Hackathon-Ausgabe: Ein vierköpfiges Team, das mit „Public Spacers“ ein Empfehlungssystem für öffentliche Verkehrsanbieter entwickelt hat. Die Software sei in der Lage, die besten Verbindungen für die Fahrgäste zu errechnen und gleichzeitig Passagier:innen so zu verteilen, dass unterwegs genügend Abstand voneinander gehalten werden könne. Die von den Macher:innen konzipierte App gestalte die Auslastung so, dass es zu den gängigen Verkehrsspitzen am Morgen und am Abend zu einer sinnvollen Verteilung kommt. Zudem lasse sich die Verteilung der Passagier:innen auf die Züge so steuern, dass bestimmte Waggons für Leute freigehalten werden, die besonders gefährdet sind. Nicht nur in Österreich stellt sich nach dem Hackathon nun die entscheidende Frage, wie die entwickelten Lösungsansätze wirkungsvoll in die Praxis umgesetzt werden können. Welche Ideen die Initiator:innen des deutschen WirvsVirus-Hackathons haben, um die Ideen auf die Straße zu bringen, lässt sich hier nachlesen.

Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: lajla.fetic@bertelsmann-stiftung.de 

Sie können die Algorithmenethik Lektüreempfehlungen „Erlesenes“ hier abonnieren.