Facebook schikt met DOJ over discriminerende woningadvertenties

Tijdelijke aanduiding terwijl artikelacties worden geladen

Facebook-eigenaar Meta stemde ermee in om het gerichte advertentiesysteem van het sociale netwerk te vernieuwen onder een ingrijpende schikking met het Amerikaanse ministerie van Justitie, nadat het bedrijf ervan werd beschuldigd verhuurders toe te staan ​​hun woningadvertenties op discriminerende manieren op de markt te brengen.

De schikking, die voortvloeit uit een rechtszaak van de Fair Housing Act uit 2019, aangespannen door de Trump Administration, is de tweede schikking waarin het bedrijf heeft ingestemd met het wijzigen van zijn advertentiesystemen om discriminatie te voorkomen. Maar de schikking van dinsdag gaat verder dan de eerste, waardoor Facebook zijn krachtige interne tool voor advertentietargeting, bekend als Lookalike Audiences, moet herzien. Overheidsfunctionarissen zeiden door adverteerders toe te staan ​​advertenties voor huisvesting te targeten op ras, geslacht, religie of andere gevoelige kenmerken dat het product discriminatie op het gebied van huisvesting mogelijk maakte.

Onder de schikking zal Facebook een nieuw geautomatiseerd advertentiesysteem bouwen waarvan het bedrijf zegt dat het ervoor zal zorgen dat advertenties met betrekking tot woningen worden weergegeven aan een meer rechtvaardige mix van de bevolking. De schikking zei dat de socialemediagigant het systeem ter beoordeling aan een derde partij zou moeten voorleggen. Facebook, dat vorig jaar zijn moederbedrijf omdoopte tot Meta, stemde er ook mee in een vergoeding van $ 115.054 te betalen, de maximale boete die volgens de wet beschikbaar is.

“Deze schikking is historisch en het is de eerste keer dat Meta ermee instemt om een ​​van zijn algoritmische targetingtools te beëindigen en zijn weergavealgoritmen voor huisvestingsadvertenties aan te passen als reactie op een burgerrechtenrechtszaak”, zei assistent-procureur-generaal Kristen Clarke van de civiele dienst van het ministerie van Justitie. Afdeling Rechten.

Volgens Facebook-woordvoerder Joe Osborne kunnen adverteerders hun advertenties nog steeds richten op gebruikers op bepaalde locaties, maar niet op basis van hun postcode alleen en mensen met een beperkte reeks interesses.

Facebook is nu wettelijk verplicht om te voorkomen dat adverteerders mensen uitsluiten vanwege hun ras

Roy Austin, vice-president van burgerrechten van Facebook, zei in een verklaring dat het bedrijf machine learning-technologie zal gebruiken om te proberen eerlijker te verdelen wie woninggerelateerde advertenties ziet, ongeacht hoe die marketeers hun advertenties hebben getarget door rekening te houden met de leeftijd, het geslacht en de waarschijnlijke ras van gebruikers.

“Discriminatie op het gebied van huisvesting, werkgelegenheid en krediet is een diepgeworteld probleem met een lange geschiedenis in de VS, en we zijn vastbesloten om de kansen voor gemarginaliseerde gemeenschappen in deze en andere ruimtes te vergroten”, zei Austin in een verklaring. “Dit soort werk is ongekend in de reclame-industrie en vertegenwoordigt een aanzienlijke technologische vooruitgang voor de manier waarop machine learning wordt gebruikt om gepersonaliseerde advertenties te leveren.”

De federale wet verbiedt discriminatie op basis van huisvesting op basis van ras, religie, nationale afkomst, geslacht, handicap of gezinssituatie.

De overeenkomst volgt op een reeks juridische klachten van het ministerie van Justitie, een procureur-generaal en burgerrechtengroepen tegen Facebook die stellen dat de op algoritmiek gebaseerde marketingtools van het bedrijf – die gespecialiseerd zijn in het geven van adverteerders de unieke mogelijkheid om advertenties te targeten op dunne plakjes de bevolking — minderheden en andere kwetsbare groepen hebben gediscrimineerd op het gebied van huisvesting, krediet en werkgelegenheid.

In 2019 stemde Facebook ermee in om te stoppen met het toestaan ​​van adverteerders om geslachts-, leeftijds- en postcodes te gebruiken – die vaak fungeren als proxy’s voor ras – om huisvesting, krediet en vacatures aan zijn gebruikers op de markt te brengen. Die verandering kwam na een onderzoek van de procureur-generaal in de staat Washington en een ProPublica-rapport waaruit bleek dat Facebook adverteerders toestond zijn microtargeting-advertenties te gebruiken om huisvestingsadvertenties te verbergen voor Afro-Amerikaanse gebruikers en andere minderheden. Naderhand zei Facebook dat het adverteerders niet langer de categorie ‘etnische affiniteiten’ zou laten gebruiken voor advertenties voor huisvesting, krediet en werkgelegenheid.

HUD beoordeelt de advertentiepraktijken van Twitter en Google als onderdeel van het onderzoek naar woningdiscriminatie

Maar sinds het bedrijf instemde met deze schikkingen, hebben onderzoekers ontdekt dat de systemen van Facebook de discriminatie nog verder kunnen vergroten, zelfs als het adverteerders werd verboden om specifieke vakjes voor geslacht, ras of leeftijd aan te vinken. In sommige gevallen detecteert de software dat mensen van een bepaald ras of geslacht vaak op een specifieke advertentie klikken, en dan begint de software die vooroordelen te versterken door advertenties weer te geven aan “op elkaar lijkende doelgroepen”, zegt Peter Romer-Friedman, een directeur bij het advocatenkantoor Gupta Wessler PLLC.

Het resultaat zou kunnen zijn dat alleen mannen een bepaalde woningadvertentie te zien krijgen, zelfs als de adverteerder niet specifiek heeft geprobeerd om alleen mannen de advertentie te laten zien, zei Romer-Friedman, die verschillende burgerrechtenzaken tegen het bedrijf heeft aangespannen, waaronder de schikking van 2018 in waarmee het bedrijf ermee instemde de advertentietargetingcategorieën te beperken.

Romer-Friedman zei dat de schikking een “enorme prestatie” was, omdat het de eerste keer was dat een platform bereid was om grote veranderingen aan te brengen in zijn algoritmen als reactie op een burgerrechtenrechtszaak.

Facebook worstelt al jaren met klachten van voorvechters van burgerrechten en mensen van kleur, die beweren dat de handhaving van Facebook soms ten onrechte inhoud zou verwijderen waarin mensen klaagden over discriminatie. In 2020 onderwierp het bedrijf zich aan een onafhankelijke burgerrechtenaudit, waaruit bleek dat het bedrijfsbeleid een “enorme tegenvaller” was voor burgerrechten.

Leave a Comment