Rhythmus im Algorithmus: Digitale Rechtegruppen fordern Spotify auf, die Erfindung der Spracherkennung aufzugeben

Cyber Security News

Ein Screenshot aus dem Musikvideo des Evan Greer-Songs “Surveillance Capitalism”, der sich mit den Gefahren kommerzieller Überwachungstechnologie auseinandersetzt.

Manchmal wird der Kampf gegen die Auswüchse der schleichenden Überwachungswirtschaft durch Positionspapiere, Koalitionsbildung und Gerichtsverfahren geführt. Andere Male, es ist mit kranken Gitarrenriffs und leidenschaftliche Texte über digitale Freiheiten getan.

Der letztere Ansatz ist, wie ein Aktivist, Evan Greer von Fight for the Future, hat gewählt, um ein kürzlich genehmigtes Patent von Musik-Streaming-Dienst Spotify für eine künstliche Intelligenz-basierte Spracherkennung System eingereicht protestieren. Das System soll, wie im Patent beschrieben, Songs vorschlagen, die auf der Stimme, der Stimmung, dem emotionalen Zustand, dem Geschlecht und anderen Variablen des Nutzers basieren. Solche Fähigkeiten Greer und andere Aktivisten haben gewarnt werfen erhebliche moralische, Privatsphäre und Sicherheit Fragen.

Die Kontroverse wirft ein Schlaglicht auf eine Herausforderung, mit der sich einige der versiertesten Tech-Unternehmen konfrontiert sehen: Wie kann man die Grenze zwischen Innovationen, die den angeborenen Wünschen der Verbraucher dienen, und der Verletzung ihrer Rechte auf Informationssicherheit und Datenschutz überschreiten?

Fight for the Future und andere Non-Profit-Organisationen für digitale Rechte wie Access Now sind Teil einer Kampagne, um Spotify unter Druck zu setzen, eine öffentliche Verpflichtung einzugehen, die Technologie nicht zu entwickeln oder zu implementieren. Die Organisation startete ihre Kampagne mit einer neuen Petitions-Website, um den Widerstand zu mobilisieren, und Greer, ein Technologie-Datenschutz-Aktivist und Musiker, veröffentlichte ein Musikalbum mit dem Titel “Spotify is Surveillance”, das “Surveillance Capitalism” enthält, einen Begleitsong und ein Musikvideo für die Kampagne.

“Unser Anliegen ist nicht ‘Hey, flick das zusammen’. Wir glauben grundsätzlich, dass eine Musik-App, die Ihnen zuhört, anstatt dass Sie ihr zuhören, eine schlechte Idee ist”, sagte Greer und fügte später hinzu: “Eines der größten Risiken, die mit Funktionen wie dieser verbunden sind, ist die Art und Weise, wie sie diese Idee der Überwachung als Bequemlichkeit normalisieren oder den Prozess der Übergabe von unglaublichen Mengen an persönlichen Informationen an private Unternehmen normalisieren, die pinky schwören, uns zu schützen.”

Spotifys Patent, das im Januar von der Bundesregierung genehmigt wurde, umreißt ein System, das Audiosignale mit Spracherkennungssoftware verarbeitet und künstliche Intelligenz verwendet, um ihrem Algorithmus zu helfen, die Stimmung eines Benutzers zu erfassen, um individuellere Musikempfehlungen zu machen. Zusätzlich zu den Audiosignalen würde das System “inhaltliche Metadaten abrufen, die mit der Sprache korrespondieren”, wie zum Beispiel den emotionalen Zustand, das Geschlecht, das Alter und den Akzent des Benutzers. So könnte ein Nutzer, dessen Sprache auf einen fröhlichen Gemütszustand schließen lässt, mehr fröhliche Popsongs als Ergebnis serviert bekommen, während jemand, dessen Kirchenglocken im Hintergrund läuten, mehr Gospelmusik hören könnte.

Eine ‘gruselige’ Idee

Die Befürchtungen bezüglich eines möglichen Missbrauchs eines solchen Systems sind zahlreich und vielfältig, von der Sorge, dass es die Prinzipien der Junk-Science nutzen könnte, um den emotionalen Zustand der Benutzer zu erkennen, bis hin zur Sorge, dass es zu einem aufgeblähten Datensatz führen könnte, der das Unternehmen zu einem attraktiveren Ziel für kriminelle oder nationalstaatliche Hacker machen könnte.

In einem Brief, der letzte Woche an Spotify geschickt wurde, gruppiert die Digital Rights Group Access Now die potenziellen Missbräuche in vier Bereiche: dass eine solche Technologie ausgenutzt werden könnte, um Benutzer emotional zu manipulieren, damit sie ihr Produkt häufiger verwenden; dass es zu geschlechtsspezifischer Diskriminierung oder zur falschen Identifizierung von Transgender- und nicht-binären Menschen auf der Grundlage ihrer Stimme führen könnte; dass es eine aufdringliche und invasive Überwachung von Kunden erfordern würde, die die potenziellen Auswirkungen der Übergabe ihrer biometrischen Daten an eine App möglicherweise nicht begreifen; und dass ein massiver Datensatz von Benutzerstimmen von böswilligen Hackern gestohlen oder in bestehende Überwachungsbemühungen von Regierungen oder Strafverfolgungsbehörden eingefügt werden könnte.

In einem Interview sagte Greer gegenüber SC Media, dass Spotifys Stimmerkennungspatent eine gefährliche Grenze darstellt, die Unternehmen nicht überschreiten sollten, wenn es um die Überwachung und Sammlung der biometrischen Daten ihrer Kunden geht.

Das System würde auch “Umgebungsmetadaten sammeln, die den Hintergrundgeräuschen entsprechen”, wie den Standort und die physische Umgebung des Benutzers und ob er allein, mit einer kleinen Gruppe oder in einer großen Gruppe ist. Das bedeutet, dass Spotify wahrscheinlich Datenpunkte erstellen und sammeln müsste, die weit über Audiogespräche hinausgehen, wie z. B. Religionszugehörigkeit oder Lieblingsfilmgenres, die durch Hintergrundgeräusche aufgenommen werden.

Eine solche Taktik könnte einen potenziell massiven Datensatz mit einzigartigen Informationen erzeugen, der für zahlreiche Dritte attraktiv sein könnte. Das Unternehmen war in letzter Zeit mit zahlreichen Credential Stuffing-Angriffen konfrontiert, wobei diese Angriffe in der Regel auf Benutzerkonten und -daten abzielen und nicht auf interne Spotify-Systeme oder -Datensätze. Es ist auch nicht klar, wie ein solcher Datensatz für Werbezwecke genutzt werden könnte.

“Das Sammeln dieser Art von Daten könnte Spotify zu einem Ziel für Dritte machen, die nach Informationen suchen, von schnüffelnden Regierungsbehörden bis hin zu bösartigen Hackern”, schrieben die Access Now Policy Analysten Isedua Oribhabor, Jennifer Brody, Eric Null und Daniel Leufer. “Ohne starke Sicherheitsvorkehrungen wird die Privatsphäre der Menschen wahrscheinlich noch mehr gefährdet.”

Spotify reagierte nicht auf mehrere Anfragen für einen Kommentar von SC Media für diese Geschichte, sondern gab eine Erklärung zu Musik-Nachrichten-Website Pitchfork früher in diesem Jahr besagt, dass das Unternehmen “hat Patentanmeldungen für Hunderte von Erfindungen eingereicht,” dass “einige … werden Teil der zukünftigen Produkte, während andere nicht” und dass sie nicht haben “keine Nachrichten zu teilen zu diesem Zeitpunkt” über Pläne für die Einbeziehung der Technologie.

Im Moment ist es nur eine Idee in einem Patent, so dass es schwierig ist, vollständig zu erfassen, wie ein System in der Praxis funktionieren würde, welche Fähigkeiten würden schließlich entwickelt werden und welche Sicherheitsvorkehrungen oder Richtlinien können in Kraft gesetzt werden, um das Potenzial für Missbrauch zu zügeln.

Greer sagte jedoch, dass ein solches System, um wie beabsichtigt zu funktionieren, wahrscheinlich über lange Zeiträume den Nutzern zuhören oder “immer eingeschaltet” sein müsste, um genügend Daten zu sammeln und kontextbezogene Hinweise zu erfassen, die dem Algorithmus von Spotify helfen, die Art von Entscheidungen zu treffen, die in dem Dokument beschrieben werden. Für sie und andere Verfechter des digitalen Datenschutzes ist das allein schon schlimm genug, um das Programm abzuschaffen.

“Biometrische Sammlung ist wie Bleifarbe, es ist etwas, das nie sicher sein wird, und wir brauchen mehr als Regulierung oder [promises] von Unternehmen”, sagte sie.

Rock Against the Machine

Diese leidenschaftliche Haltung ist zum Teil der Grund, warum Greer den Song “Surveillance Capitalism” geschrieben und mit der Kampagne verknüpft hat. Der Song, der Spotify nicht namentlich erwähnt, befasst sich mit den Gefahren der kommerziellen Überwachungstechnologie im Allgemeinen. Einstreuen Audio von Reden von bekannten Datenschutz-Aktivisten wie Chelsea Manning und Malkia Cyril in zwischen Texten wie “einmal Zustimmung hergestellt wurde, jetzt ist es für Klicks geerntet; Algorithmen machen Entscheidungen, Filterblasen machen uns krank” und “wir wollen nicht gesehen werden, aber hinter dem Bildschirm, es ist ein Alptraum als Traum verkleidet.”

Greer sagte, der Ursprung des Albums und des Songs sei “sehr stark ein Produkt der [coronavirus] Quarantänen.” Mit allem – einschließlich Musikkonzerten und Shows – heruntergefahren und viel freier Zeit, kaufte sie ein Mikrofon und startete eine Garagenband. Sie beschreibt den Stil als “ein bisschen 90er-Jahre-Indie-Punk-Vibe” mit vielen Schichten von Gitarren.

Während Greer wusste, dass sie ihre Musik immer mit ihrem Aktivismus durchdringen wollte, wollte sie auch, dass sie auf ihrem eigenen künstlerischen Verdienst steht.

“Besonders bei diesem Song kam es einfach ganz natürlich zusammen, und ich bin offensichtlich durch meine Vollzeitarbeit in diese Themen eingetaucht”, sagte sie. “Aber oft versuche ich, nicht zu schreiben. [music] das zu sehr auf der Nase liegt. Ich wollte nicht etwas schreiben, das im Grunde eine meiner Meinungsäußerungen in einen Punksong verwandelt. Ich wollte tatsächlich ein Kunstwerk über dieses Thema schaffen.”

Sie sagte, dass der Erlös aus dem Song in eine Spende an die Union of Musicians and Allied Workers fließen wird, die selbst in eine Kampagne verwickelt ist, die Spotify dazu zwingen soll, Künstlern mehr für die Musik zu zahlen, die über ihre Plattform gestreamt wird, und eine Gruppe, die selbst von kleinen Änderungen an Spotifys Algorithmus erhebliche finanzielle Auswirkungen erfahren würde. Die Wahl spiegelt auch Greers Überzeugung wider, dass Technologien wie die von Spotify vorgeschlagene die Art und Weise, wie Menschen traditionell Musik konsumiert haben, dauerhaft negativ zu verändern drohen.

“Für mich als Musiker ist der Gedanke an eine Welt, in der Musik populär wird, basierend auf emotionaler Überwachung und Datenerfassung und den kalten Entscheidungen eines Algorithmus, der eher auf Profit als auf Kunst ausgerichtet ist, einfach schrecklich”, sagte Greer. “Wenn dies die Richtung ist, in die sich die Musikindustrie zu bewegen beginnt, denke ich, dass es die Art und Weise, wie Menschen Kunst schaffen, auf eine Weise verändern könnte, die ich wirklich schrecklich finde.”

Einige Teile dieses Artikels stammen aus:
www.scmagazine.com