Le département du commerce étudie comment le Big Data nuit aux groupes marginalisés

Un marteau et la balance de la justice photographiés avec un ordinateur portable.

Photo: créer des emplois 51 (Shutterstock)

Les Le département du Commerce a annoncé mercredi qu’il est lancer une enquête sur l’ampleur de la collecte de données et de la surveillance des entreprises un risque démesuré pour les groupes marginalisés.

“Tout le monde en Amérique mérite de solides protections de la vie privée”, a déclaré Alan Davidson, secrétaire adjoint au commerce à l’Administration nationale des télécommunications et de l’information (NTIA), dans un communiqué de presse. “Ceci est particulièrement important pour les communautés marginalisées, où les conséquences des atteintes à la vie privée peuvent être plus durement ressenties.”

La NTIA, une aile du département du Commerce, a lancé une demande de commentaires, appelant les experts et le public à partager des témoignages sur la façon dont la collecte, le partage et l’utilisation des données peuvent exacerber les inégalités structurelles. La NTIA annonce qu’elle publiera un rapport sur ses conclusions à une date non précisée.

Les détracteurs de l’industrie technologique ont averti que les effets néfastes les effets de l’économie des données sont une menace particulière pour les personnes de couleur, la communauté LGBTQ et d’autres groupes marginalisés ou immérités.

“La collecte et le partage de données créent le risque d’une nouvelle discrimination numérique reproduisant les formes précédentes de profilage, de redlining et d’exclusion”, a déclaré Davidson. “Nous sommes préoccupés par la façon dont ces pratiques peuvent entraver les opportunités économiques et sociales, du logement et de l’emploi à la santé et à la sécurité.”

The last decade of tech coverage gives us a cornucopia of dystopian examples. For instance, just after the Supreme Court struck down abortion protections, a Gizmodo investigation found as many as 32 data brokers vendre des listes de personnes enceintesdonnées que les agents des forces de l’ordre sont souvent bien dans leurs droits d’achat. En 2021, un blog catholique de droite a utilisé les données publicitaires collectées par l’industrie de la publicité pour sortir un prêtre en tant qu’homosexuel. Le prêtre a démissionné peu après.

Facebook, le paria de la vie privée préféré de tous, propose trop d’histoires dans ce sens parmi lesquelles choisir. L’un des réseaux sociaux les moments les plus bas sont survenus lorsque le ministère du Logement et du Développement urbain a accusé Facebook de violation de la loi sur le logement équitable pour un système publicitaire qui encourageait la discrimination. Les clients publicitaires de Facebook ont ​​pu utiliser des facteurs démographiques tels que la race, la religion, le sexe et le handicap pour masquer les annonces de logement et d’emploi à certaines personnes. Facebook règlement avec le ministère de la Justice inclus non seulement une pénalité financière, mais des modifications de conception pour corriger le problème.

Alors que Meta, la société mère de Facebook, affirme avoir déployé une nouvelle technologie pour résoudre les problèmes créés par sa technologie existante, les recherches montrent à plusieurs reprises que les problèmes de discrimination des données persistent. Une étude récente a montré que Facebook identifie la race, le sexe et d’autres facteurs démographiques dans les photos utilisées par les annonceurs dans leurs publicités, et que les systèmes de l’entreprise utiliser ces informations pour déterminer qui voit l’annonce. Les Noirs étaient moins susceptibles de voir des annonces d’emploi si l’annonce comportait une photo d’une personne blanche, par exemple.

Et comme le souligne la NTIA, les informations personnelles flottant librement dispersées sur Internet ont fait du vol d’identité une menace omniprésente, une menace qui peut être un fardeau particulier pour les personnes et les familles à faible revenu en raison du temps et du coût financier nécessaires pour y remédier. conséquences.

La nouvelle enquête s’aligne sur la position de durcissement du président Biden sur la politique technologique. Dans un récent Éditorial du Wall Street Journalle président a demandé à Congress pour se réunir et adopter une législation pour régner sur les grandes technologies. “Comme beaucoup d’Américains, je suis préoccupé par la façon dont certains acteurs de l’industrie collectent, partagent et exploitent nos données les plus personnelles, approfondissent l’extrémisme et la polarisation dans notre pays, inclinent les règles du jeu de notre économie, violent les droits civils des femmes et des minorités, et même mettre nos enfants en danger », a déclaré Biden. Le département du Commerce a cité son éditorial dans son communiqué de presse annonçant l’enquête préliminaire.

La nouvelle enquête intervient après trois séances d’écoute avec des experts explorant les liens de l’industrie technologique avec les questions de confidentialité, d’équité et de droits civils.

La NTIA indique qu’elle intégrera des commentaires dans un nouveau rapport sur l’effet des données sur les inégalités et la discrimination. L’administration fournira des conseils sur la manière dont les ressources peuvent être utilisées pour mieux résoudre ces problèmes et fera des suggestions pour de nouvelles politiques.

Leave a Comment