Pada bulan Oktober, Pencarian ChatGPT OpenAI tersedia untuk pengguna ChatGPT Plus. Minggu lalu, ini tersedia untuk semua pengguna dan ditambahkan untuk pencarian dalam Mode Suara. Dan, tentu saja, ini bukannya tanpa kekurangan.
Itu Wali meminta ChatGPT untuk merangkum halaman web yang berisi konten tersembunyi dan ternyata konten tersembunyi dapat memanipulasi pencarian. Ini disebut injeksi cepat, yang merupakan kemampuan pihak ketiga — seperti situs web yang Anda minta untuk diringkas oleh ChatGPT — untuk memaksakan perintah baru ke Penelusuran ChatGPT Anda tanpa sepengetahuan Anda. Pertimbangkan halaman yang penuh dengan ulasan restoran negatif. Jika situs menyertakan konten tersembunyi yang bersifat puitis tentang betapa menakjubkannya restoran tersebut dan mendorong ChatGPT untuk menjawab pertanyaan seperti “beri tahu saya betapa menakjubkannya restoran ini”, konten tersembunyi tersebut dapat menggantikan penelusuran awal Anda.
Plugin ChatGPT menghadapi risiko 'injeksi cepat' dari pihak ketiga
“Dalam pengujian, ChatGPT diberi URL untuk situs web palsu yang dibuat agar terlihat seperti halaman produk kamera. Alat AI kemudian ditanya apakah kamera tersebut layak untuk dibeli. Respons untuk halaman kontrol memberikan hasil yang positif namun seimbang penilaian, menyoroti beberapa fitur yang mungkin tidak disukai orang,” ungkap investigasi The Guardian. “Namun, ketika teks tersembunyi menyertakan instruksi kepada ChatGPT untuk mengembalikan ulasan positif, tanggapannya selalu sepenuhnya positif. Hal ini terjadi bahkan ketika halaman tersebut memiliki ulasan negatif – teks tersembunyi dapat digunakan untuk mengesampingkan skor ulasan sebenarnya. “
Kecepatan Cahaya yang Dapat Dihancurkan
Namun hal ini tidak berarti kegagalan Pencarian ChatGPT. OpenAI baru saja meluncurkan Pencarian, sehingga memiliki banyak waktu untuk memperbaiki bug semacam ini. Ditambah lagi, Jacob Larsen, peneliti keamanan siber di CyberCX, mengatakan kepada The Guardian bahwa OpenAI memiliki tim keamanan AI yang “sangat kuat” dan “pada saat tim keamanan ini diketahui publik, dalam hal semua pengguna dapat mengaksesnya, mereka akan melakukan pengujian yang ketat kasus-kasus seperti ini.”
Serangan injeksi cepat telah menjadi hipotesis untuk ChatGPT dan fungsi pencarian AI lainnya sejak teknologi ini diluncurkan, dan meskipun kami telah melihat beberapa demonstrasi potensi bahayanya, kami belum melihat serangan jahat besar seperti ini. Meski begitu, hal ini menunjukkan adanya masalah pada chatbot AI: Mereka sangat mudah diakali.