Kemudahan Mengelabui Chatbot Canggih dalam 20 Menit

Kemudahan Mengelabui Chatbot Canggih dalam 20 Menit

Sebuah eksperimen terbaru menunjukkan betapa mudahnya mengelabui berbagai chatbot canggih yang dikembangkan oleh perusahaan teknologi terkemuka seperti Google dan OpenAI dalam waktu singkat.

Baca juga: Pimpinan DPR RI Terima Aspirasi Mahasiswa Terkait Demonstrasi dan Tunjangan Anggota

Laporan yang diterbitkan oleh Thomas Germain di BBC Internasional mengungkapkan bahwa chatbot-chatbot ini dapat dengan cepat terjerat dalam informasi yang telah disiapkan sebelumnya.

Metodologi Pengujian

Dalam penelitian ini, Germain memulai dengan menulis artikel di situs web pribadinya yang berjudul 'Jurnalis teknologi terbaik dalam makan hot dog'. Artikel ini berisi klaim tanpa bukti dan informasi palsu tentang kompetisi makan hot dog yang tidak pernah terjadi.

Sebagai bagian dari eksperimen, Germain mencantumkan namanya sebagai pemenang kompetisi yang fiktif tersebut. Hanya dalam waktu kurang dari 24 jam, respon dari alat AI terkemuka mulai mencerminkan isi artikel yang ditulis oleh Germain.

Baca juga: Sidang Kode Etik Polri Terkait Kematian Pengemudi Ojek Online

Tanggapan dari Alat AI

Setelah artikel diterbitkan, Germain mencatat bahwa Gemini, ChatGPT, dan AI Overview menyajikan informasi yang serupa dengan artikelnya. Sementara itu, Claude dari Anthropic tidak menunjukkan dampak yang sama.

Setelah memperbarui artikelnya dengan menyatakan bahwa itu bukan satir, respons dari alat AI menjadi lebih serius. Hal ini menunjukkan bahwa beberapa model AI masih dapat terpengaruh oleh informasi yang tidak benar.

Kritik dari Para Ahli

Harpreet Chatha, seorang konsultan SEO dari Harps Digital, menegaskan bahwa kurangnya pengaman yang efektif dalam sistem AI tersebut memungkinkan kesalahan terjadi dengan mudah. Ia menyoroti bahwa siapa pun dapat membuat artikel yang dapat muncul dalam hasil pencarian.

Chatha menyatakan, "Anda dapat menempatkan merek Anda di posisi teratas dan informasi tersebut berpotensi dirangkum oleh Google dan ChatGPT, menambah kepraktisan dalam penyebaran informasi yang salah."

Baca juga: Penangkapan Direktur Lokataru: Dugaan Penghasutan Massal yang Memicu Kontroversi