Microsoft Bing kini memiliki kekuatan lebih besar untuk menghapus gambar buatan AI atau deepfake, suatu bentuk penyalahgunaan gambar intim tanpa persetujuan (NCII), agar tidak muncul di mesin pencari, saat perusahaan mengumumkan kemitraan nirlaba baru.
Melalui kerja sama dengan alat advokasi korban StopNCII, Microsoft melengkapi pelaporan penggunanya dengan pendekatan yang lebih “berpusat pada korban” yang menggabungkan proses deteksi yang lebih mendalam, jelas perusahaan tersebut. StopNCII, sebuah platform yang dijalankan oleh lembaga nirlaba Inggris SWGfl dan Revenge Porn Helpline, menawarkan kepada individu kemampuan untuk membuat dan menambahkan sidik jari digital (juga dikenal sebagai “hash”) ke gambar-gambar intim, yang kemudian dapat dilacak untuk menghapus gambar-gambar tersebut saat muncul di platform-platform tertentu.
Berdasarkan uji coba yang dilakukan hingga bulan Agustus, sistem baru Microsoft memanfaatkan basis data StopNCII untuk segera menandai gambar-gambar intim dan mencegahnya muncul di hasil pencarian Bing. Microsoft mengatakan telah “mengambil tindakan” terhadap 268.000 gambar eksplisit.
Hash StopNCII digunakan oleh situs sosial seperti Facebook, Instagram, TikTok, Threads, Snapchat, dan Reddit, serta platform seperti Bumble, OnlyFans, Aylo (pemilik beberapa situs pornografi populer, termasuk PornHub), dan bahkan Niantic, pengembang AR di balik Pokémon Go. Bing adalah mesin pencari pertama yang bergabung dengan koalisi mitra.
Kecepatan Cahaya yang Dapat Dihancurkan
Penipu menggunakan foto-foto rumah Anda untuk memperbesar ancaman sextortion
Google, yang juga berjuang melawan konten deepfake nonkonsensual, telah mengambil langkah serupa untuk mengatasi munculnya gambar deepfake di hasil Penelusuran, selain gambar asli nonkonsensual. Selama setahun terakhir, perusahaan telah merombak sistem peringkat Penelusurannya untuk menurunkan konten sintetis eksplisit dalam hasil, mengganti hasil yang muncul dengan “konten noneksplisit berkualitas tinggi,” jelas perusahaan, seperti artikel berita. Google mengumumkan bahwa mereka juga menyederhanakan proses pelaporan dan peninjauannya untuk membantu mempercepat penghapusan konten tersebut — platform penelusuran tersebut telah memiliki sistem serupa untuk menghapus gambar asli nonkonsensual, atau pornografi deepfake.
Namun, Bing belum bergabung dengan StopNCII dan memanfaatkan teknologi hashing-nya. “Mesin pencari pasti menjadi gerbang untuk menemukan gambar, jadi langkah proaktif dari Bing ini mengutamakan kesejahteraan mereka yang terkena dampak langsung,” kata Sophie Mortimer, manajer Revenge Porn Helpline.
Microsoft memiliki proses pelaporan serupa untuk pelecehan NCII berbasis gambar nyata, serta kebijakan perilaku ketat terhadap pemerasan intim, yang juga dikenal sebagai pemerasan seksual. Awal tahun ini, Microsoft menyediakan StopNCII dengan teknologi PhotoDNA internalnya, alat “sidik jari” serupa yang telah digunakan untuk mendeteksi dan membantu menghapus materi pelecehan seksual anak.
Bagaimana Big Tech mendekati deepfake yang eksplisit dan nonkonsensual
Cara melaporkan gambar intim dengan StopNCII
Jika Anda yakin gambar Anda (eksplisit atau tidak eksplisit) berisiko disebarkan atau dimanipulasi oleh pelaku kejahatan, Anda dapat menambahkan sidik jari Anda sendiri ke StopNCII untuk deteksi di masa mendatang. Alat ini tidak mengharuskan Anda mengunggah atau menyimpan foto atau video pribadi ke situs. Sebaliknya, gambar disimpan di perangkat pribadi Anda.
-
Kunjungi Stopncii.org.
-
Klik “Buat kasus Anda” di sudut kanan atas.
-
Navigasi melalui petunjuk yang dipersonalisasi, yang mengumpulkan informasi tentang konten gambar atau video.
-
Situs web tersebut kemudian akan meminta Anda untuk memilih foto atau video dari pustaka foto perangkat Anda. StopNCII kemudian memindai konten dan membuat hash untuk setiap gambar. Hash tersebut kemudian dikirim ke platform yang berpartisipasi. Tidak ada gambar atau video yang akan dibagikan.
-
Simpan nomor kasus Anda, yang memungkinkan Anda memeriksa apakah gambar atau video Anda terdeteksi secara daring.
Jika Anda pernah mengalami foto-foto intim yang dibagikan tanpa persetujuan Anda, hubungi hotline Cyber Civil Rights Initiative yang tersedia 24/7 di nomor 844-878-2274 untuk mendapatkan dukungan gratis dan rahasia. Situs web CCRI juga memuat informasi bermanfaat serta daftar sumber daya internasional.