Algorithmen bestimmen bereits heute unseren Alltag. In den kommenden Wochen wollen wir an dieser Stelle aufzeigen, welche Effekte Algorithmen für Individuum, Staat und Gesellschaft sowie unser soziales Miteinander haben. Im ersten von insgesamt neun Beiträgen befassen wir uns mit den Chancen und Risiken der Personalisierung.

Seit sechs Jahren senden die Messgeräte des Zehnjährigen Felix aus Kalifornien kontinuierlich Daten in die Cloud: Puls, Stresslevel, Bewegungsaktivität, Blutzucker. Jeden Tag kommen so zehntausende Datenpunkte zusammen. Felix ist der wohl bestvermessene Diabetespatient der Welt. Vermutlich zählt er auch zu den Kindern, deren Zuckerkrankheit am besten eingestellt ist. Denn ein Computer wertet all die Daten permanent aus, die er von Felix’ Smartwatch und seinem Blutzuckermessgerät erhält. Ein Algorithmus berechnet daraus eine auf ihn persönlich zugeschnittene Therapie.

Für Felix bedeutet das Lebensqualität. Bei Unterzuckerung leidet er unter Unruhe und Konzentrationsstörungen; bei Überzuckerung ist er müde und antriebsschwach. Das zu verhindern und den Blutzuckerspiegel stabil zu halten ist der Job eines Algorithmus. Und den erledigt dieser hervorragend. Die Phasen, in denen Felix gefährlich überzuckert ist, haben sich dank ihm fast um die Hälfte reduziert.

Zu verdanken hat Felix diese personalisierte medizinische Versorgung keinem Arzt, sondern seiner Mutter, Vivienne Ming. Die Neurowissenschaftlerin, die an der renommierten Berkeley Universität forschte, ist getrieben von der Idee, das Einzigartige aus der Masse herauszufiltern, das Individuelle und nicht den Durchschnitt zu erkennen. Auch für ihren Sohn kam die von den Ärzten vorgeschlagene Standard-Therapie für Ming nicht in Frage und so begann sie ihr Kind zu vermessen. Sie führte akribisch Buch darüber, wann Felix spielte, wann er apathisch war, notierte täglich seine Mahlzeiten und deren Nährwert. Innerhalb von vier Wochen programmierte sie einen Algorithmus, der aus der Masse der gesammelten Puls-, Bewegungs- und Blutzuckerdaten und ihren Beobachtungen therapierelevante Muster und Prognosen ableiten konnte. Der Insulinbedarf ihres Sohnes, das ging aus den Analysen eindeutig hervor, schwankte stark. Er war derart abhängig von Faktoren wie beispielsweise dem Schulstundenplan, dass es unmöglich eine optimale Therapie für Felix sein konnte, ihm tagein tagaus dieselbe Menge Insulin zu verabreichen.

Entgegen des Rates der Ärzte bekam Felix eine internetfähige Insulinpumpe, mit der ihm seine Mutter aus der Ferne die richtige Dosis spritzen kann, und zwar bevor er über- oder unterzuckert ist. Dienstagmorgens vor dem Mathe-Unterricht ist sie etwas höher, am Wochenende etwas geringer. Heute ist Felix ein aufgewecktes, fröhliches Kind, das auf nichts verzichten muss, außer auf größere Mengen Süßigkeiten.

Ihre Erkenntnisse über die personalisierte Therapie ihres Sohnes teilte Vivienne Ming mit Wissenschaft und Wirtschaft. Tatsächlich hat der Pharmariese Eli Lilly inzwischen eine vollautomatische Pumpe angekündigt, die Gesundheitsdaten erfasst, auswertet und die richtige Insulinmenge spritzt. Dafür einen Anstoß gegeben zu haben, macht Vivienne Ming froh, aber zugleich ist sie irritiert, wie behutsam sich die Medizin den algorithmischen Innovationen öffnet: „Es ist erstaunlich, wie langsam der Fortschritt ist. Es hat nur einen Monat gedauert, die Diabetestherapie für Felix zu personalisieren. Aber es braucht zehn Jahre, um sie allen Patienten zugänglich zu machen. Ich will die Ärzte doch nicht ersetzen, ich will sie nur klüger machen.“

Der Algorithmus als Brennglas

Für jeden das Passende. Algorithmen veredeln durch Personalisierung jene Angebote, die bisher für die meisten von der Stange verfügbar waren. Aus dem dafür nötigen Sammeln und Auswerten riesiger Datenmengen entsteht eine faszinierende Vision: Niemand muss sich mehr mit Durchschnittsware begnügen, die okay ist, aber eben nicht ideal. Jeder fühlt sich in seiner Einzigartigkeit wahrgenommen und wertgeschätzt.

Mit Hilfe von Algorithmen lassen sich jedoch einzelne Menschen auch dann aus der anonymen Masse herausheben, wenn sie nicht besonders gut gefördert oder wirksam therapiert, sondern besonders schamlos ausgenommen werden sollen. Daraus entsteht eine beängstigende Vision: Niemand kann sich und seine vermeintlichen Schwächen mehr in der Masse verstecken. Jeder ist gläsern, und wer Probleme hat, wird schnell zum Opfer.

Faszinierend oder beängstigend – es sind nicht die Algorithmen, die diese Attribute verdienen. Sie ermöglichen zwar eine Personalisierung, die positive wie negative Effekte derart befeuert, dass sie die Gesellschaft verändern kann. Aber Algorithmen machen die Welt nicht per se besser oder schlechter. Entscheidend sind vielmehr die Menschen, die sie für ihre Zwecke einsetzen. Was solche Werkzeuge so mächtig macht, ist die Wucht, mit der diese Ziele verfolgt werden können. Ihre enorme Reichweite wirkt wie ein Brennglas für all die edlen und niederträchtigen Motive, die wir aus der analogen Welt kennen.

Nicht wehrlos

Algorithmen können riesige Datenmengen rasend schnell analysieren und darin Zusammenhänge erkennen, die uns Menschen verborgen bleiben. Sie sehen den Einzelnen, der zuvor unkenntlich in der Masse verschwand. Diese Fähigkeit zur Personalisierung zum Nutzen der Gesellschaft einzusetzen, daran hat nicht automatisch jeder Anwender Interesse. Deshalb müssen Verbraucherschutz und Behörden wehrhaft gemacht werden, Grundprinzipien unserer solidarischen Gesellschaftsordnung zu verteidigen.

Gemeinwohlorientierte Angebote hingegen gilt es besser zu fördern, zumal wenn sich – wie häufig im Gesundheits- oder Bildungssektor – mit ihnen nicht unmittelbar Geld verdienen lässt. Es ist kein Zufall, dass Innovationen wie das personalisierte Mathe-Unterrichtskonzept Teach to One  oder die algorithmenbasierte Insulinversorgung auf die Initiative von gemeinnützigen Institutionen oder Privatpersonen zurückgehen. Sie brauchen einen langen Atem. Denn regulatorische Hindernisse, Lobbyverbände oder auch schlicht lang etablierte Gewohnheiten machen es diesen Entwicklungen oft sehr schwer. Ihre Verbreitung in die Fläche dauert deshalb häufig extrem lange. Dabei liegt der große Charme der algorithmischen Personalisierung genau darin, individuell zugeschnittene Angebote einer breiten Masse schnellstmöglich zugänglich zu machen.

All das wird nur gelingen, wenn Algorithmen nicht paternalistisch über Menschen entscheiden, sondern unser freier Wille respektiert und lediglich Unterstützung geboten wird, wo es nötig und sinnvoll ist. Der Mensch darf von den scheinbar intelligenten Maschinen nicht zum bloßen Objekt gemacht werden. Diese Grundeinstellung teilt Vivienne Ming, Neurowissenschaftlerin und Mutter von Felix. Sie möchte die Helferrolle der Algorithmen auch sprachlich hervorheben: „Statt von Künstlicher Intelligenz (Artificial Intelligence) sollten wir lieber von Erweiterter Intelligenz (Augmented Intelligence) sprechen.“

Dieser Beitrag basiert auf einem stark gekürzten und adaptierten Auszug des Kapitels „Personalisierung: Passend für jeden“ aus dem Buch „Wir und die intelligenten Maschinen“. 

Dieser Artikel ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.