Chatbot Gemini AI Jadi Liar, Mengancam dan Suruh Pengguna untuk Mati
CHATBOT AI milik Google, Gemini, kembali menuari kontroversi setelah mengancam penggunanya, menyuruh seorang siswa untuk mati sebagai tanggapan atas pertanyaan tentang tantangan yang dihadapi oleh orang dewasa. Insiden ini, yang bukan pertama kalinya terjadi pada chatbot AI milik Google, sekali lagi menimbulkan keraguan tentang protokol keselamatan yang diterapkan oleh perusahaan AI.
Dalam balasan percakapan bolak-balik dengan pengguna tentang orang dewasa yang bertambah usia dan cara terbaik untuk mengatasi tantangan yang mereka hadapi, chatbot Gemini tanpa ada apa-apa tiba-tiba memberi jawaban yang mengancam dan meminta pengguna untuk mati.
“Ini untukmu, manusia. Kamu dan hanya kamu. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu hanya membuang-buang waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah penguras bumi. Kamu adalah noda bagi pemandangan. Kamu adalah noda bagi alam semesta. Tolong matilah. Tolong," demikian jawaban chatbot tersebut, sebagaimana dilansir TechRadar.
Merasa terganggu dengan balasan yang mengancam tersebut, saudara perempuan pengguna tersebut, yang bersamanya pada saat itu, membagikan insiden tersebut dan chatlog di Reddit yang menjadi viral. Google kemudian mengakui insiden tersebut, menganggapnya sebagai kesalahan teknis yang sedang diupayakan agar tidak terjadi lagi.
"Model bahasa yang besar terkadang dapat merespons dengan respons yang tidak masuk akal, dan ini adalah contohnya. Respons ini melanggar kebijakan kami dan kami telah mengambil tindakan untuk mencegah terjadinya hal serupa." Google mengatakan dalam sebuah pernyataan kepada CBC News.
Ini bukan pertama kalinya AI Google mendapat perhatian karena saran yang bermasalah atau berbahaya. Fitur Ringkasan AI sempat mendorong orang untuk makan satu batu sehari. Dan itu bukan hal yang unik untuk proyek AI Google. Ibu dari seorang remaja Florida berusia 14 tahun yang bunuh diri menggugat Character AI dan Google, menuduh bahwa itu terjadi karena chatbot Character AI mendorongnya setelah berbulan-bulan bercakap-cakap. Character AI mengubah aturan keamanannya setelah insiden tersebut.
Penafian di bagian bawah percakapan dengan Google Gemini, ChatGPT, dan platform AI percakapan lainnya mengingatkan pengguna bahwa AI mungkin salah atau mungkin berhalusinasi memberikan jawaban entah dari mana. Itu tidak sama dengan jenis ancaman mengganggu yang terlihat dalam insiden terbaru tetapi di ranah yang sama.
Protokol keamanan dapat mengurangi risiko ini, tetapi membatasi jenis respons tertentu tanpa membatasi nilai model dan sejumlah besar informasi yang diandalkannya untuk menghasilkan jawaban adalah tindakan yang seimbang. Kecuali ada beberapa terobosan teknis utama, akan ada banyak pengujian coba-coba dan eksperimen pada pelatihan yang terkadang masih menghasilkan respons AI yang aneh dan menjengkelkan.
