YouTube soll sich über künstliche Intelligenz und Algorithmen rassistisch profilieren

0

Eine Gruppe afroamerikanischer Inhaltsersteller hat eine mutmaßliche Sammelklage gegen YouTube und seine Alphabet-Muttergesellschaft wegen angeblichen Verstoßes gegen verschiedene Gesetze zur Verhinderung von Rassendiskriminierung eingeleitet. Die Klage stellt den jüngsten Angriff im Gerichtssaal auf die zunehmend umstrittenen Immunitäten dar, die digitale Dienste gemäß Abschnitt 230 des Communications Decency Act gewähren.

Die am Dienstag beim kalifornischen Bundesgericht eingereichte Beschwerde widerspricht der Art und Weise, wie YouTube künstliche Intelligenz, Algorithmen und andere Filterwerkzeuge einsetzt. Die Social-Video-Site verwendet diese Tools, um den Zuschauern dabei zu helfen, potenziell ausgereifte Inhalte auszusortieren. Die Kläger hier sagen jedoch, dass dies durch die Verwendung eines “eingeschränkten Modus” als unangemessener Zensor fungiert. Die Beschwerde fügt hinzu, dass das System von “digitalem Rassismus” geprägt ist, bei dem die Benutzer im Wesentlichen nach Rasse, Identität und Gesichtspunkten profiliert sind. Die Kläger machen geltend, dies beeinträchtige ihre Fähigkeit, ihren Inhalt zu monetarisieren. Sie behaupten, dass das Verhalten von YouTube “absichtlich und systematisch ist, unabhängig davon, ob Angeklagte durch ideologische Animus gegenüber Schwarzen und Mitgliedern anderer gesetzlich geschützter Rassenklassifikationen motiviert sind”.

In der Klage wird insbesondere behauptet, dass YouTube den “eingeschränkten Modus” auf Videos anwendet, die mit Abkürzungen wie “BLM” oder “KKK” betitelt oder gekennzeichnet sind. diejenigen, die Begriffe wie “Rassenprofilierung” oder “Polizeischießen” oder “Black Lives Matter” verwenden; diejenigen, die Namen von Personen enthalten, die von Strafverfolgungsbehörden getötet wurden; und Videos mit dem Titel “Bill Cosby” oder “Louis Farrakhan”. Selbst wenn diese Videos keine Obszönitäten, keinen Drogenkonsum, keine Darstellung sexueller Aktivitäten oder Gewalt enthalten, keine spezifischen Details zu Ereignissen enthalten, die zum Tod geführt haben, oder andere Inhalte enthalten, die für eine Einzelperson oder eine Gruppe unentgeltlich brandgefährlich oder erniedrigend sind, ist der eingeschränkte Modus angeblich trotzdem angewendet. Die Klage zielt auch auf andere angebliche Praktiken von YouTube ab, die von “

Laut YouTube sind die automatisierten Systeme nicht darauf ausgelegt, Rassen zu identifizieren.

Lesen Sie hier die vollständige Beschwerde .

Digitaler Rassismus mag das angebliche Ziel dieser Klage sein, aber angesichts der in der Beschwerde an die beteiligten Anwälte geforderten Erleichterung sollte kein Zweifel daran bestehen, dass das ultimative Bestreben darin besteht, Section 230 als Verteidigungswaffe zu entwaffnen,  die von digitalen Giganten wie Google, Facebook und Google eingesetzt wird Twitter.

Die mittlerweile bekannte Bestimmung des Gesetzes von 1996 bietet Immunität gegenüber digitalen Websites für alle Inhalte von Drittanbietern, die von ihnen gehostet werden. Das Gesetz besagt auch, dass diese interaktiven Dienste nicht für nach Treu und Glauben ergriffene Maßnahmen zur Einschränkung des Zugangs oder der Verfügbarkeit von als “anstößig” erachtetem Material haftbar gemacht werden können.

Die ursprüngliche Absicht von Abschnitt 230 war es, die Moderation digitaler Dienste zu fördern, aber in einigen politischen Bereichen – insbesondere in konservativen – wird Moderation jetzt mit Zensur gleichgesetzt, da digitale Websites wegen ihrer Vorgehensweise in Brand geraten. (In der Zwischenzeit glauben einige Liberale, dass Social-Media-Plattformen nicht genug tun, um Hassreden zu bekämpfen und die Immunität von Section 230 für Untätigkeit verantwortlich zu machen.) Siehe zum Beispiel das Hullabaloo über die Entscheidung von Twitter, einige Tweets von Präsident Donald Trump zu überprüfen. Tatsächlich hat das Justizministerium heute seinen Vorschlag zur Änderung von Abschnitt 230 veröffentlicht, indem es die Bestimmung gestrichen hat, die es Plattformen ermöglicht, Inhalte zu löschen, die als unzulässig gelten.

Die jüngste Klage wird von Anwälten von Browne George Ross bearbeitet, die insbesondere an zwei weiteren Gerichtsverfahren gegen YouTube beteiligt waren.

Der erste Fall wurde von PragerU wegen der Behauptung vorgebracht, dass konservative Videos nicht wie liberale behandelt würden. In der Klage wurde ein Verstoß gegen die erste Änderung geltend gemacht, die Klage wurde jedoch abgelehnt. Im Februar stimmte das Berufungsgericht des 9. Kreises zu, dass YouTube ein privates Forum ist und kein öffentliches Forum, das der Prüfung der ersten Änderung unterliegt.  

Der zweite Fall, der noch andauert, ist dem jüngsten Fall von Rassendiskriminierung ziemlich ähnlich. Es wurde letztes Jahr von LGTBQ YouTubers eingereicht und behauptet (unter anderem), dass Videos und Kanäle mit dem Titel “Homosexuell”, “Bisexuell” oder “Transgender” zu Unrecht ins Visier genommen werden. Zum Zeitpunkt der Einreichung bestritt ein YouTube-Sprecher, dass seine Systeme aufgrund dieser Kriterien eingeschränkt wurden. In diesem Monat hielt die kalifornische Richterin Virginia Demarchi eine Anhörung zu einem Antrag auf Entlassung ab und zögerte, angesichts der PragerU das Verfahren zuzulassenPräzedenzfall. Andererseits lieferte Demarchi eine Hypothese, in der Rassendiskriminierung gegen einen Inhaltsersteller auftritt. Der Richter fragte, ob es gemäß Abschnitt 230 geimpft werden würde, der es digitalen Diensten nach Treu und Glauben ermöglicht, den Zugang zu anstößigem Material einzuschränken. “Ich kann mir vorstellen, dass einige Gerichte die Position vertreten, dass eine ordnungsgemäß geltend gemachte Behauptung, wie Sie sie als eine Art Diskriminierungsanspruch gegen Gesichtsrassen bezeichnen, möglicherweise nicht in gutem Glauben ist”, räumte Googles Anwalt Brian Willen ein. (Ein Transkript ist der letzten Beschwerde als Anlage E beigefügt.)

Umso faszinierender ist der Fall LGTBQ YouTuber, dass das Justizministerium erst letzten Monat in den Fall eingegriffen hat , um die Verfassungsmäßigkeit von Abschnitt 230 zu verteidigen. (Das Memorandum des DOJ enthält Anhang C zur jüngsten Beschwerde.) Dabei haben Anwälte der Regierung sagte dem Gericht: “Abschnitt 230 (c) regelt oder beschränkt nicht das primäre Verhalten der Kläger, wie beispielsweise ihre Ausdrucksaktivitäten. Beispielsweise behaupten die Kläger nicht, dass Abschnitt 230 (c) sie daran hindert, Videos zu erstellen oder sie im Internet zu veröffentlichen . “

Die Intervention des DOJ erfolgte, bevor Twitter beschloss, Trump zu überprüfen, der daraufhin schnell eine Executive Order  für Section 230 unterzeichnete.

In der Klage, in der behauptet wird, YouTube sei rassistisch diskriminierend, behaupten die Kläger, dass Trumps Anordnung die Regierung daran hindere, in Abschnitt 230 einzugreifen, um Ansprüche aufgrund von Diskriminierung aus Sicht des Standpunkts geltend zu machen.

Diese neueste Klage stellt erneut die Verfassungsmäßigkeit von Abschnitt 230 in Frage und stellt die Frage, ob seine Immunität für Bürgerrechtsverletzungen gilt. Es gibt auch andere Ansprüche, die von Vertragsverletzungen (über die Nutzungsbedingungen von YouTube) bis hin zu falscher Werbung reichen.

YouTube sagt, es prüfe die Beschwerde. Für den eingeschränkten Modus stellt das Unternehmen fest, dass es sich um eine optionale Funktion handelt, die von weniger als 2 Prozent der Benutzer verwendet wird.  

LEAVE A REPLY

Please enter your comment!
Please enter your name here