Meta Setuju untuk Mengubah Teknologi Penargetan Iklan dalam Penyelesaian Dengan AS

SAN FRANCISCO — Meta setuju untuk mengubah teknologi penargetan iklannya dan membayar denda $115.054 pada hari Selasa, dalam penyelesaian dengan Departemen Kehakiman atas klaim bahwa perusahaan telah terlibat dalam diskriminasi perumahan dengan membiarkan pengiklan membatasi siapa yang dapat melihat iklan di platform berdasarkan ras, jenis kelamin, dan kode pos mereka.

Berdasarkan perjanjian tersebut, Meta, perusahaan yang sebelumnya dikenal sebagai Facebook, mengatakan akan mengubah teknologinya dan menggunakan metode bantuan komputer baru yang bertujuan untuk secara teratur memeriksa apakah audiens yang ditargetkan dan memenuhi syarat untuk menerima iklan perumahan, pada kenyataannya, melihat iklan tersebut. Metode baru, yang disebut Meta sebagai “sistem pengurangan varians”, bergantung pada pembelajaran mesin untuk memastikan bahwa pengiklan menayangkan iklan yang terkait dengan perumahan ke kelas orang tertentu yang dilindungi.

Meta juga mengatakan tidak akan lagi menggunakan fitur yang disebut “pemirsa iklan khusus”, alat yang telah dikembangkan untuk membantu pengiklan memperluas kelompok orang yang akan dijangkau iklan mereka. Perusahaan mengatakan alat itu adalah upaya awal untuk melawan bias, dan bahwa metode barunya akan lebih efektif.

“Kadang-kadang kita akan mengambil snapshot dari audiens pemasar, melihat siapa yang mereka targetkan, dan menghilangkan sebanyak mungkin perbedaan dari audiens itu,” Roy L. Austin, wakil presiden hak-hak sipil Meta dan wakil penasihat umum , kata dalam sebuah wawancara. Dia menyebutnya “kemajuan teknologi yang signifikan untuk bagaimana pembelajaran mesin digunakan untuk menayangkan iklan yang dipersonalisasi.”

Facebook, yang menjadi raksasa bisnis dengan mengumpulkan data penggunanya dan membiarkan pengiklan menargetkan iklan berdasarkan karakteristik audiens, telah menghadapi keluhan selama bertahun-tahun bahwa beberapa dari praktik itu bias dan diskriminatif. Sistem iklan perusahaan telah memungkinkan pemasar untuk memilih siapa yang melihat iklan mereka dengan menggunakan ribuan karakteristik berbeda, yang juga memungkinkan pengiklan tersebut mengecualikan orang-orang yang termasuk dalam sejumlah kategori yang dilindungi.

Sementara penyelesaian Selasa berkaitan dengan iklan perumahan, Meta mengatakan juga berencana untuk menerapkan sistem baru untuk memeriksa penargetan iklan yang terkait dengan pekerjaan dan kredit. Perusahaan sebelumnya telah menghadapi pukulan balik karena membiarkan bias terhadap wanita dalam iklan pekerjaan dan mengecualikan kelompok orang tertentu dari melihat iklan kartu kredit.

“Karena tuntutan hukum yang inovatif ini, Meta akan – untuk pertama kalinya – mengubah sistem penayangan iklannya untuk mengatasi diskriminasi algoritmik,” Damian Williams, seorang pengacara AS, mengatakan dalam sebuah pernyataan. “Tetapi jika Meta gagal menunjukkan bahwa ia telah cukup mengubah sistem pengirimannya untuk menjaga dari bias algoritmik, kantor ini akan melanjutkan proses pengadilan.”

Masalah penargetan iklan yang bias telah menjadi perdebatan khusus dalam iklan perumahan. Pada tahun 2018, Ben Carson, sekretaris Departemen Perumahan dan Pembangunan Perkotaan pada saat itu, mengumumkan keluhan resmi terhadap Facebook, menuduh perusahaan tersebut memiliki sistem iklan yang “mendiskriminasi secara tidak sah” berdasarkan kategori seperti ras, agama, dan disabilitas. Potensi Facebook untuk diskriminasi iklan juga terungkap dalam penyelidikan tahun 2016 oleh ProPublica, yang menunjukkan bahwa perusahaan mempermudah pemasar untuk mengecualikan kelompok etnis tertentu untuk tujuan periklanan.

Pada tahun 2019, HUD menggugat Facebook karena terlibat dalam diskriminasi perumahan dan melanggar Undang-Undang Perumahan yang Adil. Badan tersebut mengatakan sistem Facebook tidak mengirimkan iklan ke “audiens yang beragam,” bahkan jika pengiklan ingin iklan dilihat secara luas.

“Facebook mendiskriminasi orang berdasarkan siapa mereka dan di mana mereka tinggal,” kata Carson saat itu. “Menggunakan komputer untuk membatasi pilihan tempat tinggal seseorang bisa sama diskriminatifnya dengan membanting pintu di depan wajah seseorang.”

Gugatan HUD muncul di tengah dorongan yang lebih luas dari kelompok hak-hak sipil yang mengklaim bahwa sistem periklanan yang luas dan rumit yang mendukung beberapa platform internet terbesar memiliki bias yang melekat di dalamnya, dan bahwa perusahaan teknologi seperti Meta, Google, dan lainnya harus berbuat lebih banyak untuk mengatasi masalah ini. kembali bias tersebut.

Bidang studi, yang dikenal sebagai “keadilan algoritmik,” telah menjadi topik minat yang signifikan di kalangan ilmuwan komputer di bidang kecerdasan buatan. Peneliti terkemuka, termasuk mantan ilmuwan Google seperti Timnit Gebru dan Margaret Mitchell, telah membunyikan bel alarm tentang bias semacam itu selama bertahun-tahun.

Pada tahun-tahun sejak itu, Facebook telah membatasi jenis kategori yang dapat dipilih pemasar saat membeli iklan perumahan, mengurangi jumlahnya hingga ratusan dan menghilangkan opsi untuk menargetkan berdasarkan ras, usia, dan kode pos.

Sistem baru Meta, yang masih dalam pengembangan, sesekali akan memeriksa siapa yang disajikan iklan perumahan, pekerjaan, dan kredit, dan memastikan audiens tersebut cocok dengan orang yang ingin ditargetkan oleh pemasar. Jika iklan yang ditayangkan mulai condong ke pria kulit putih berusia 20-an, misalnya, sistem baru secara teoritis akan mengenali hal ini dan menggeser iklan untuk ditayangkan secara lebih adil di antara audiens yang lebih luas dan lebih bervariasi.

Meta mengatakan akan bekerja dengan HUD selama beberapa bulan mendatang untuk memasukkan teknologi ke dalam sistem penargetan iklan Meta, dan menyetujui audit pihak ketiga atas efektivitas sistem baru.

Hukuman yang Meta membayar dalam penyelesaian adalah maksimum yang tersedia di bawah Undang-Undang Perumahan yang Adil, kata Departemen Kehakiman.