Immer mehr Wohlfahrtsorganisationen setzen sich mit Daten, Künstlicher Intelligenz (KI) und ihren Potenzialen auseinander. Anhand des Pilotprojektes „Lernende Systeme in der Beratung“ des Bundesverbands der Caritas zeigt sich, wie Künstliche Intelligenz gemeinwohlorientiert zur Unterstützung der Sozialberatung eingesetzt werden kann.

 

„Wer kann eine Suchtklinik empfehlen, in die Patient:innen ihren Hund mitbringen dürfen“? Das könnte die Beraterin Zoe Özdemir als Frage im „CariNET“, dem Intranet der Caritas, eingeben. Prompt würde das Assistenzsystem „CariFix“ verschiedene Wissens- und Datenbanken der Caritas durchsuchen und Zoe Personen vorschlagen, die wahrscheinlich schon Erfahrungen mit ähnlichen Fällen haben und auf Artikel zu diesem Thema verweisen. Zoe kann nun entweder einen der Artikel zurate ziehen oder einer der vorgeschlagenen Personen über das System eine Nachricht schreiben, sich austauschen und von der Expertise ihrer Kolleg:innen profitieren. Die Beraterin Zoe ist zwar nur eine fiktive Person, die zur Veranschaulichung dient, aber genauso arbeiten echte Berater:innen der Caritas mit „CariFix“. Den Demonstrator des Assistenzsystems kann man hier ausprobieren: https://labor.caritas-digital.de/lernende-systeme.

„CariFix“ unterstützt die Berater:innen, indem es das Schwarmwissen der gesamten Caritas optimal nutzt. Und das ist eine große Menge an Wissen. Denn die Caritas als katholische Wohlfahrtsorganisation ist unter anderem in den Bereichen der Sozialen Dienste – etwa der ambulanten Pflege- und Betreuungsdienste, der Suchtberatung, der Wohnungslosenhilfe sowie der Kinder- und Jugendhilfe – tätig und beschäftigt über 693.000 hauptamtliche Mitarbeiter:innen für bundesweit ca. 25.000 Dienste und Einrichtungen, die mit ihren Angeboten etwa zwölf Millionen Menschen erreichen. Das zeigt: Das Potenzial einer Plattform, die das Wissen dieser großen Zahl an Mitarbeiter:innen verknüpft und einrichtungsübergreifend nutzbar macht, ist groß.

Das automatisiertes Schwarmwissen der Caritas

Ermöglicht wird diese geballte Expertise unter anderem durch Datenanalyse und automatisierte Verfahren. Diesen Ansatz erprobt die Caritas derzeit im Pilotprojekt „Lernende Systeme in der Beratung“, in dem Wissen und Daten so intelligent miteinander vernetzt werden, dass sie die Arbeit von Berater:innen sinnvoll unterstützen. Gefördert wird das Projekt durch das Bundesfamilienministerium (BMFSFJ) im Rahmen der KI-Strategie des Bundes/KI-Zukunftsfonds und der  Agenda für Smarte Gesellschaftspolitik.

Nicht nur wird Zoe in ihrer Arbeit unterstützt und die Klientin mit Hund erhält die bestmögliche Beratung, auch der Caritas selbst wird durch das Pilotprojekt die strategische Befassung mit Instrumenten wie der Datenanalyse, algorithmischen Entscheidungssystemen und KI ermöglicht. So können Mitarbeiter:innen zum einen konkrete Erfahrungen mit dem Einsatz dieser Technologien sammeln und die potenziellen Mehrwerte für ihren Arbeitsalltag herausfinden. Zum anderen werden anhand des konkreten Anwendungsfalls Kompetenzen im Umgang mit diesen Technologien vermittelt. Darüber hinaus macht sich die Organisation den Datenschatz, über den sie verfügt, zunutze. Auf diese Weise wird durch die smarte Verknüpfung von Wissen, Daten und KI den Klient:innen und Mitarbeiter:innen eine bessere Beratung zuteil.

Gemeinwohlorientierte Organisationen für gemeinwohlorientierte KI

Die Organisationen der Freien Wohlfahrtspflege – wie die Caritas, das Deutsche Rote Kreuz oder die Diakonie, um nur einige zu nennen – sind unerlässlich für den deutschen Sozialstaat und übernehmen viele Dienste der öffentlichen Daseinsvorsorge. Die Wohlfahrtsverbände haben als gemeinwohlorientierte Organisationen das Ziel, insbesondere vulnerablen Gruppen in verschiedenen Lebenssituationen zu helfen und ihre Lebensbedingungen zu verbessern. Dabei spielen technologische Entwicklungen wie Algorithmen und KI leider noch keine allzu große Rolle.

Die Wohlfahrt hat aber das Potenzial, bei der gemeinwohlorientierten Entwicklung und Implementierung von Künstlicher Intelligenz als eine Vorreiterin zu agieren. Eine solche Vorreiterin fehlt bisher im Diskurs und in der Entwicklung gemeinwohlorientierte KI. Konkret bedeutet das, dass Mitarbeiter:innen der Wohlfahrt ein großes Wissen über die Bedürfnisse vulnerabler Gruppen haben und einschätzen können, wie die Teilhabe dieser Gruppen gestärkt werden kann. Wenn dieses Wissen im Prozess der KI-Entwicklung berücksichtigt wird, kann sichergestellt werden, dass die KI-Systeme nicht nur technisch funktionieren, sondern vor allem die Bedürfnisse der Betroffenen berücksichtigen. Dies ist eine zwingende Grundlage dafür, dass die Technologien verantwortungsvoll eingesetzt werden. Ein Format, das die Wohlfahrt dabei unterstützt soll, die Potenziale von Algorithmen und KI für ihre Missionen zu nutzen, haben wir mit dem Konzept eines „Tech-Fellowship für die Freie Wohlfahrtspflege“ entwickelt; einen ersten Schritt gehen wir nun mit der „Tech-Exploration“.

Für die Caritas ermöglicht das Projekt „Lernende Systeme in der Beratung“ vor allem die strategische Befassung mit den Potenzialen von algorithmischen Entscheidungssystemen und KI für das Gemeinwohl. Denn die Technologie kann neben dem Einsatz in der Beratung beispielsweise auch zur Unterstützung von Menschen mit Behinderungen eingesetzt werden, indem etwa Spracherkennungstechnologie genutzt wird, um die Barrierefreiheit von digitalen Inhalten zu verbessern und die Teilhabe am gesellschaftlichen Leben zu fördern. So kann die Caritas öffentlich als eine Akteurin auftreten, die auf eine gesellschaftliche Auseinandersetzung mit dem Thema und eine stärkeren gemeinwohlorientierten Nutzung von KI drängt – anhand eines Beispiels aus der Praxis.

Kritische Überprüfung der Daten

Dieses Pilotprojekt der Caritas zeigt uns, dass die Auseinandersetzung mit und die Nutzbarmachung von Daten als eine Art „Nährboden“ für KI-Projekte dient, die wiederum Mehrwert für Mitarbeiter:innen und Klient:innen bieten können. Die Auseinandersetzung mit Daten ist in vielen Bereichen der Wohlfahrt also sinnvoll und besonders wichtig für Projekte, die Algorithmen und maschinelles Lernen verwenden. Solche Systeme sind darauf ausgelegt, auf der Grundlage von Daten Entscheidungen zu treffen, die weitreichende Auswirkungen auf die betroffenen Menschen haben können. Wenn diese Daten jedoch verzerrt oder fehlerhaft sind, können die Entscheidungen des Algorithmus ebenfalls ungenau oder sogar diskriminierend sein. Eine sorgfältige Analyse der Daten, die verwendet werden, um solche Systeme zu trainieren, kann dazu beitragen, sicherzustellen, dass die Entscheidungen fair und zuverlässig sind. Es ist daher entscheidend, dass alle Aspekte der Daten, von der Datenerfassung über die Datenbereinigung bis hin zur Modellierung und Validierung, kritisch betrachtet und geprüft werden. Nur so kann das Vertrauen in die Systeme gewährleistet werden.

Auch wenn die Arbeit mit Daten sicherlich nicht der Grund dafür war, dass Wohlfahrtsmitarbeiter:innen wie Zoe ihren Beruf ergriffen haben, zeigt sich doch an diesem Beispiel, dass sich die strategische und praktische Auseinandersetzung mit algorithmischen und lernenden Systemen lohnt: sowohl für die tagtägliche Arbeit als auch für die Mission der Organisationen. Es ist stark davon auszugehen, dass Zoe Özdemir und ihre Klientin von dem Schwarmwissen der Caritas – gebündelt im Assistenzsystem „CariFix“ – profitieren konnten und eine Suchtklinik gefunden haben, in der Tiere erlaubt sind.

 

Dieser Artikel ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.