Gambar dan video yang dihasilkan AI tentang Badai Milton mungkin bukan sekadar clickbait yang mengganggu. Mereka juga dapat dikaitkan dengan penipuan dan kampanye disinformasi.
Pasca badai kategori 3 yang melanda sebagian Florida, platform media sosial seperti X, TikTok, dan Facebook dibanjiri dengan konten buatan AI. Beberapa gambar dan video yang dihasilkan AI lebih mudah dikenali dibandingkan yang lain, seperti gambar seorang gadis yang sedang memeluk buaya di atas perahu di tengah hujan lebat.
Tweet mungkin telah dihapus
Yang lain lebih meyakinkan, seperti gambar Disney World yang kebanjiran yang dibuat oleh AI dan awalnya menipu banyak orang – bahkan dibagikan oleh media propaganda Rusia.
Tweet mungkin telah dihapus
Dampaknya mungkin saja berupa penyebaran disinformasi, dan hal ini sudah cukup buruk, namun sampah internet yang dihasilkan oleh AI juga digunakan untuk memikat orang agar melakukan penipuan.
Cara mengidentifikasi gambar yang dihasilkan AI
Air kotor akibat Badai Milton AI ada di mana-mana
Saat ini banyak yang telah melihat gambar palsu jalan setapak Disney World di bawah air. Namun penelusuran singkat di TikTok menunjukkan rekaman Badai Milton yang dibuat oleh AI mendatangkan malapetaka.
Beberapa video diberi label sebagai video buatan AI dengan hashtag atau teks, namun mudah untuk membayangkan bagaimana video tersebut dapat dibagikan dan dieksploitasi oleh orang lain. Karen Panetta, rekan IEEE dan profesor teknik elektro dan komputer di Universitas Tufts, menjelaskan bagaimana konten yang dihasilkan AI dapat dijadikan senjata untuk memicu kepanikan dan kebingungan. “Kurang dari 30 persen masyarakat dewasa kita memahami apa yang bisa dilakukan AI. Jadi jika Anda menyebarkan informasi yang salah kepada masyarakat umum dengan judul yang menakutkan, Anda akan membuat banyak orang panik,” kata Panetta.
Kecepatan Cahaya yang Dapat Dihancurkan
Jelasnya, kerusakan yang diakibatkan oleh Badai Milton sangatlah nyata. Namun ketika konten yang dihasilkan AI mulai digunakan, hal itu membuat pengguna mempertanyakan kenyataan. Hal ini pada gilirannya dapat menciptakan ketidakpercayaan dan lahan subur bagi teori konspirasi badai. Contohnya, salah satu pengguna X mengklaim bahwa rekaman dari astronot NASA Matthew Dominick adalah palsu, dan bahkan menyatakan bahwa Dominick tidak berada di luar angkasa. Rekaman tersebut telah diverifikasi keasliannya.
Tweet mungkin telah dihapus
Namun yang lebih membingungkan lagi adalah beberapa gambar satelit yang mengaku berasal dari Badai Milton dibantah oleh Snopes karena salah diberi keterangan atau dibuat oleh AI.
Waspadalah terhadap penipuan yang menggunakan gambar yang dihasilkan AI
Selain misinformasi dan disinformasi pasca Badai Milton, para ahli menyarankan untuk mewaspadai penipuan. Komisi Perdagangan Federal mengeluarkan siaran pers sehari sebelum Milton mendarat, memperingatkan konsumen untuk mewaspadai “mereka yang ingin mengambil keuntungan dari bencana alam dengan terlibat dalam potensi penipuan atau pencungkilan harga.”
Dan menurut Panetta, penipuan seperti badan amal palsu dapat membuat dirinya lebih persuasif dengan menggunakan AI generatif. “Dalam bencana apa pun selalu ada sesuatu yang terjadi di mana pun [scammers] mencoba membuat halaman web untuk penggalangan dana yang tidak sah,” kata Panetta. “Apa yang terjadi sekarang adalah karena kemudahan akses terhadap citra yang dihasilkan AI, gambar tersebut digunakan untuk menambah kredibilitas dan berkata, 'Lihat, ini bukan sekadar saya meminta uang. Lihat betapa mengerikannya ini.'”
Gambar viral yang dibuat oleh AI tentang gadis kecil yang menggendong anak anjing dan menangis setelah Badai Helene adalah contoh sempurna tentang bagaimana sebuah gambar dapat menarik hati sanubari dan membangkitkan keinginan untuk berdonasi, meskipun itu palsu. Meskipun pengguna internet yang cerdas mungkin menyadari bahwa itu palsu, orang lain mungkin tidak mengetahuinya dan orang-orang tersebut adalah sasaran empuk penipuan.
Beberapa gambar Badai Milton yang dihasilkan AI mungkin tampak seperti contoh tidak berbahaya dari seorang anak yang ingin memamerkan keterampilan AI generatifnya. Namun tidak selalu demikian. Rasa tidak bersalah yang palsu mungkin merupakan bagian dari cara untuk membuat orang lengah. “Itu adalah sebuah strategi yang menyeluruh. Bagaimana cara saya memancing orang untuk ikut serta? Dan setelah saya yakin Anda bahwa saya sah, ada pertanyaan di sana,” kata Panetta.
“Selalu ada uang pada akhirnya,” tambahnya.
Meskipun bencana alam seperti Badai Milton mungkin membuat orang menjadi sangat rentan, menerapkan pemikiran kritis dan berpikir dua kali sebelum bereaksi terhadap apa pun secara online sangatlah penting. FTC mengatakan penipuan sering kali mengharuskan pembayaran melalui transfer kawat, kartu hadiah, aplikasi pembayaran, mata uang kripto, atau tunai, dan merekomendasikan untuk melihat sumber dayanya tentang cara menghindari penipuan setelah keadaan darurat cuaca.
Topik
Kecerdasan Buatan