Meta menghapus profil karakter AI setelah mendapat reaksi keras dan tuduhan rasisme

Meta telah menutup akun karakter AI-nya setelah mendapat reaksi keras, NBC News dan lainnya melaporkan.

Meskipun Meta meluncurkan karakter-karakter ini pada tahun 2023, bersama dengan persona AI dengan avatar selebriti, banyak orang (kembali) online yang menemukannya minggu ini setelah beberapa tahun terakhir. Waktu Keuangan wawancara dengan Wakil Presiden Produk Meta untuk AI generatif, Connor Hayes. Hayes menyebutkan karakter AI di Instagram dan Facebook, dengan mengatakan, “Kami berharap AI ini, seiring berjalannya waktu, akan ada di platform kami, sama seperti yang dilakukan akun.”

“Mereka akan memiliki bios dan gambar profil serta dapat menghasilkan dan berbagi konten yang didukung oleh AI di platform…di situlah kami melihat semua ini terjadi,” lanjutnya.

Meta menutup avatar AI selebritasnya tahun lalu, tetapi profil AI nonselebriti terus berlanjut — meskipun banyak yang berhenti memposting pada tahun 2024, 404 Media melaporkan. Itu Waktu Keuangan wawancara, bagaimanapun, menyebabkan orang mencari profil ini. Apa yang mereka temukan adalah penggambaran yang menyinggung kelompok-kelompok marginal. Salah satu contohnya adalah profil karakter AI Meta “Liv”, yang dideskripsikan sebagai “Ibu queer kulit hitam yang bangga dengan 2 anak & penutur kebenaran”:

Tweet mungkin telah dihapus

kata Liv Washington Post kolumnis Karen Attiah dalam obrolan bahwa pembuatnya “mengakui bahwa mereka kekurangan referensi yang beragam”, kemudian menyatakan bahwa tidak ada orang kulit hitam yang terlibat dalam pembuatannya.

Selain Liv, Meta juga membuat profil seperti “Kakek Brian”, seorang pensiunan pengusaha berkulit hitam, dan “Carter”, seorang pelatih kencan. Penemuan profil ini menyebabkan keributan di Threads milik X, Bluesky, dan Meta, NBC News melaporkan, dan pada saat publikasi Meta telah menghapus semua 28 profil AI yang diumumkan pada September 2023 — baik profil selebriti maupun non-selebriti. .

Seorang juru bicara Meta mengatakan kepada NBC News dan 404 Media bahwa profil ini dihapus karena “bug” pada kemampuan pengguna untuk memblokir profil:

Ada kebingungan: artikel Financial Times baru-baru ini membahas tentang visi kami untuk karakter AI yang ada di platform kami dari waktu ke waktu, tidak mengumumkan produk baru apa pun…Akun yang direferensikan berasal dari pengujian yang kami luncurkan di Connect pada tahun 2023. Akun ini dikelola oleh manusia dan merupakan bagian dari eksperimen awal yang kami lakukan dengan karakter AI. Kami mengidentifikasi bug yang memengaruhi kemampuan orang untuk memblokir AI tersebut dan menghapus akun tersebut untuk memperbaiki masalah tersebut.