Geschrieben von

Alexa: Von der Spionin zur Manipulatorin? 30/10/19. Sprachassistenten können Emotionen erfassen und auswerten. Damit erreichen Daten-Konzerne eine neue Dimension der Verhaltenssteuerung. Wir müssen über radikale Lösungen diskutieren.

Datenschutz im Netz, IT-Recht, Politik| Ansichten: 177

Was, wenn Amazon „Werbekunden den besten psychoemotionalen Moment verkauft, um Nutzern etwas anzudrehen“?, fragte jüngst die Informatik-Professorin Sarah Spiekermann in einem Gastbeitrag über Sprachassistenten.

Der Hinweis zeigt eindrucksvoll, dass Datengiganten wie Amazon und Google eine neue Dimension erreichen. Sie können Menschen nicht mehr „nur“ vermessen, sondern auch immer erfolgreicher verführen – dank Künstlicher Intelligenz.

Bislang funktionierte das Spiel wie folgt: Amazon & Co. nutzten ihr detailliertes Wissen über uns, um uns Werbebanner und Angebote zu zeigen, die uns interessieren. Es ging vor allem um Vermessung und Beeinflussung, von weiterer Verhaltenssteuerung waren die Giganten noch ein gutes Stück entfernt.

Wichtig: Privacy by Design

Smarte Lautsprecher wie Alexa erlauben ihnen nun, einen großen Schritt weiter zu gehen. Denn auf Basis unserer Stimme sind sie in der Lage, unsere Emotionen zu erfassen und auszuwerten – und zu erkennen, wann wir empfänglich für Angebote sind.

Zugespitzt formuliert: Alexa weiß nicht nur, was wir wollen – sondern auch, wann wir es wollen. Aus der Spionin könnte bald eine gewiefte Manipulatorin werden.

Wie können wir das verhindern? Wichtig sind datenschutz-konforme Voreinstellungen („Privacy by Design“). Dann dürfen Anbieter Aufnahmen nur für Stimmanalysen nutzen, wenn Nutzer ausdrücklich zugestimmt haben (Opt-in).

Das Opt-out-Verfahren, das auch die Deutsche Telekom für ihren Sprachassistenten vorsieht und bei dem die Zustimmung des Nutzers bereits voreingestellt ist, reicht nicht. Das gilt erst recht vor dem Hintergrund, dass Kinder oder unbeteiligte Dritte wie etwa Gäste betroffen sein und Geräte versehentlich aktiviert werden können.

Wünschenswert: Ethics by Design

Informatikerin Spiekermann fordert zudem ein „wertebasiertes Technologiedesign“. Dann werde der „Entwurf eines Sprachassistenten“ zu einer Übung, „die sich um die Erschaffung des Guten dreht“ – also zu überlegen, wie die Systeme trösten oder Zugang zu Wissen gewähren können, ohne Menschen von der Maschine abhängig zu machen.

Wie entsteht eine solche Unternehmenskultur? Ich fürchte: Solange Geschäftsmodelle darauf basieren, Daten zu sammeln und zu vergolden, etwa in Form maßgeschneiderter Werbung, ist das nahezu unmöglich. Denn dann besteht stets ein Anreiz, die Technik zur Verhaltenssteuerung einzusetzen, der durch Compliance lediglich kanalisiert werden kann.

Der Google-Slogan „Don’t be evil“ veranschaulicht die Problematik unfreiwillig deutlich. Denn um nicht schlecht zu sein, brauchen Unternehmen Regeln, die in Checklisten-Manier abgehakt werden. „Be good“ wäre ein völlig anderer Ansatz – es ginge nicht darum, Schlechtes zu verhindern, sondern darum, „Gutes und Schönes“ zu erschaffen (Spiekermann).

Gutes Geld für gute Produkte

Besser wäre es deshalb, wenn Hersteller nicht am laufenden Betrieb smarter Lautsprecher verdienen würden – weder, indem sie Daten verkaufen noch, indem sie Informationen für Werbung oder Produktangebote nutzen. Denn nur dann besteht ein Anreiz, keine Spione und Manipulatoren zu verkaufen.

Die gute Nachricht: Aufsichtsbehörden und Gesetzgeber können dies indirekt fördern, indem sie Unternehmen mit rein datengetriebenen Geschäftsmodellen noch kritischer ins Visier nehmen und unfaire Praktiken sanktionieren. Wir sollten deshalb beim Datenschutz über radikalere Lösungen diskutieren – etwa eine effiziente Umsetzung der Pflicht zu „Privacy by Design“ oder des Verbotes aggressiven Webtrackings.

Zudem brauchen wir mehr Kontroll- und Sanktionsmöglichkeiten bei Algorithmen, um bereits im Ansatz zu verhindern, dass Sprachassistenten zu Powersellern programmiert werden. Die aktuellen Vorschläge der Datenethikkommission zielen da in die richtige Richtung. Ich bin überzeugt: Auf diese Weise würden neue Anreize entstehen, da Geld zu verdienen, wo es nicht um Vermessung und Verführung von Menschen geht – sondern zum Beispiel mit dem Verkauf guter Produkte.

Den Rest wird dann der Markt regeln.

Kommentar verfassen