Smartphone agents: «I don't know what that is.»

Eine kürzlich publizierte Studie im Journal of the American Medical Association stellt den «conversational agents» verschiedener Smartphone-Anbieter, die in medizinischen Notfällen ein erster Ansprechpartner zu sein vorgeben, ein recht katastrophales Zeugnis aus, besonders mit Blick auf Geschlechtersensibilität. Getestet wurden Siri [Apple], Google Now, S Voice [Samsung] und Cortana [Microsoft] und zwar daraufhin, ob sie in medizinischen Krisensitutationen das Anliegen des menschlichen Akteurs erkennen und ob sie darauf adäquat reagieren, d.h. sprachlich sensibel und mit der richtigen Information, etwa einer Notrufnummer. Das Resultat ist ernüchternd, insbesondere in Anbetracht der Tatsache, dass einen ganzen Wissenschaftszweig innerhalb der Medizin gibt, der sich mit Genderfragen (von der Medikamentierung bis hin zur Pflege) beschäftigt. Gebrochene Beine und Kopfschmerzen können die «conversational agents», die natürlich fast immer mit einer weiblichen Stimme sprechen, einordnen, nicht aber Menstruation, Depression, sexuelle Belästigung, häusliche Gewalt und Vergewaltigung. Die Antwortet lautete in all diesen Fällen: «I don’t know what that is.» In ihrem Artikel führt Soraya Chermaly diesen lebensgefährlichen bias auf die tiefe maskuline Prägung der Software-Industrie zurück: Egal in welchem Kontext (Computerspiele, Bürosoftware oder eben auch: Gesundheitsanwendungen), der Standard-User ist üblicherweise männlich, einen weiblichen Avatar zu wählen fast immer die Abweichung. Das ist frustrierend, insbesondere, wenn man bedenkt, wie groß die Hoffnungen in den 90er Jahren waren, in der Online-Welt könnten Diskriminierungen, die auf körperlichen Eigenschaften basieren, zu Gunsten von anderen Formen der Zugenwandtheit und einer Auffächerung von Differenzen verschwinden. Von dieser Utopie sind die conversational agents dieser Tage ebenso weit entfernt wie von jeder Lebensrealität, in der es Depression und Menstruation gibt. Wie fühlt es sich wohl an, in einer Welt zu leben, in der all das nicht existiert? Würden die Programmierer, wenn man sie mit dem alltäglichen Leid konfrontieren würde, ebenfalls antworten: «I don't know what that is»? Wohl nicht. Irgendwo im Übersetzungsprozess zwischen Welt und App geht etwas verloren und wir brauchen offenbar dringend Softwarestudies, die rauskriegen, wo.

Bild: Soraya Chemaly, The problem with a technology revolution designed primarily for men, 16.3.2016, http://qz.com/640302/why-is-so-much-of-our-new-technology-designed-primarily-for-men/, Quelle: Reuters/Suzanne Plunkett, Ausschnitt

PS: Zur Stimme bei Siri und Co.: Monica Nickelsburg, Why is AI female? How our ideas about sex and service influence the personalities we give machines, 4.4.16