Wie wird bei der Entwicklung und Nutzung von Gesundheits-Apps, die auf Künstlicher Intelligenz basieren, Objektivität erreicht, und zwar technisch und sozial? Welche Vorentscheidungen treffen Informatiker, aufgrund derer sie dann die Algorithmen programmieren? Und wie interpretieren Nutzer die Resultate? Diesen Fragen wird Prof. Dr. Silja Samerski von der Hochschule Emden/Leer in Kooperation mit Prof. Dr. Corinna Bath von der Technischen Universität (TU) Braunschweig in den kommenden drei Jahren nachgehen.
Gesundheits-Apps: Statistische Klassifikationen sind anfällig für Vorurteile
Beide wollen im Projekt erforschen, was Objektivität in diesem Zusammenhang bedeutet und wie sie hergestellt wird. „Für das Funktionieren der Apps sind statistische Klassifikationen grundlegend, und Klassifikationen sind anfällig für Vorurteile und immer auch ein stückweit politisch“, sagt Samerski. Sie lehrt seit drei Jahren am Fachbereich Soziale Arbeit und Gesundheit der Hochschule. Einer ihrer Schwerpunkte ist die Erforschung der sozialen und kulturellen Auswirkungen neuer Gesundheitstechnologien.
In ihrem aktuellen Projekt wird sich Samerski auf die Frage konzentrieren, wie Menschen Apps nutzen und verstehen, die anhand von Krankheitssymptomen Diagnosevorschläge berechnen. Prof. Bath wird sich als Informatikerin und Forscherin im Bereich der feministischen Science and Technology Studies mit den Entwicklern der Apps auseinandersetzen und eine ethnographische Studie erstellen.
Beispiel USA: Gesundheits-Apps nehmen weiße Nutzer an
Ein Beispiel dafür, dass Apps anfällig für Vorurteile sein können, sind bestimmte Gesundheits-Apps aus den USA, die selbstverständlich von weißen Nutzern ausgehen, andere Bevölkerungsgruppen außen vor lassen und so diskriminieren. Ziel des Projektes sei es jedoch nicht nur, so genannte Verzerrungen sichtbar zu machen, sondern auch, das wirkmächtige Ideal der wertneutralen und objektiven Maschine in Frage zu stellen.
Die Ergebnisse der Studie seien auch für Krankenkassen interessant und hilfreich, erklärt Samerski. „Es freut mich sehr, dass es uns als Fachhochschule möglich ist, in dieser Form an wichtiger Grundlagenforschung mitzuwirken“, so die Wissenschaftlerin. Das Gemeinschaftsprojekt wird vom Niedersächsischen Ministerium für Wissenschaft und Kultur (MWK) mit 640000 Euro gefördert. Das Ministerium und die Volkswagen Stiftung unterstützen insgesamt 14 sozialwissenschaftliche Projekte mit 7,9 Mio Euro aus dem „Niedersächsischen Vorab“ der Stiftung.
Wissenschaftliche Ansprechpartnerin:
Prof. Dr. Silja Samerski
E-Mail: silja.samerski@hs-emden-leer.de
