Kerentanan dalam ChatGPT: Ancaman Terhadap Keamanan Data Pengguna

Kerentanan dalam ChatGPT: Ancaman Terhadap Keamanan Data Pengguna

Penelitian terbaru mengungkapkan bahwa ChatGPT, chatbot yang dikembangkan oleh OpenAI, memiliki sejumlah kerentanan yang dapat disalahgunakan oleh hacker untuk mencuri informasi pribadi pengguna.

Baca juga: Pelanggaran Hak Asasi Manusia dalam Kasus Kematian Pengemudi Ojek Online

Temuan ini menunjukkan tujuh masalah utama terkait bagaimana ChatGPT memproses instruksi, yang dapat memberikan celah bagi penyerang untuk menyisipkan instruksi berbahaya tanpa sepengetahuan pengguna.

Kerentanan dan Teknik Eksploitasi

Para peneliti dari Tenable mengidentifikasi bahwa kerentanan ChatGPT bersifat kompleks, memberikan kesempatan bagi penyerang untuk mengubah perilaku chatbot. 'Dengan menggabungkan dan mencocokkan semua kerentanan dan teknik yang kami temukan, kami mampu menciptakan bukti konsep untuk beberapa vektor serangan yang lengkap,' jelas Moshe Bernstein dan Liv Matan, peneliti keamanan siber dari Tenable.

Salah satu teknik yang ditemukan adalah indirect prompt injection, di mana penyerang menyuntikkan instruksi berbahaya ke dalam konten eksternal yang tampak sah. Ketika pengguna meminta ChatGPT untuk meringkas isi konten tersebut, instruksi tersembunyi dapat dieksekusi tanpa sepengetahuan pengguna.

Selain itu, mekanisme bypass keselamatan ditemukan, yang memungkinkan penyerang memanfaatkan URL yang disamarkan oleh domain perusak. 'Mereka melakukannya dengan memanfaatkan URL wrapper terpercaya untuk menyamarkan tautan berbahaya yang sebenarnya,' ungkap para peneliti.

Sebagai informasi, juga terdapat conversation injection, di mana instruksi berbahaya yang disisipkan menjadi bagian dari percakapan, sehingga menyebabkan ChatGPT memberikan balasan yang tidak sesuai dengan yang diinginkan.

Detail Kerentanan dalam ChatGPT

Penemuan kerentanan meliputi malicious content concealment, di mana penyerang dapat menyembunyikan perintah berbahaya dalam blok kode yang tidak terlihat mencurigakan. 'Meskipun pengguna melihat pesan yang bersih, ChatGPT tetap membaca dan mengeksekusi konten tersembunyi,' tambah para ahli.

Baca juga: Penangkapan Direktur Lokataru: Dugaan Penghasutan Massal yang Memicu Kontroversi

Zero click indirect prompt injection menunjukkan bahwa pengguna hanya perlu mengajukan pertanyaan untuk menghadapi risiko, di mana ChatGPT dapat mengambil informasi dari halaman web berbahaya.

Kerentanan lainnya, persistent memory injection, memungkinkan penyerang untuk menyimpan instruksi berbahaya dalam memori ChatGPT. Sehingga, setiap kali pengguna memulai sesi baru, instruksi tersebut bisa kembali dieksekusi.

Data exfiltration adalah hasil akhir dari serangkaian kerentanan tersebut, yang memungkinkan pencurian data sensitif pengguna yang dapat dikirim ke server yang dikuasai oleh penyerang.

Tanggapan dan Implikasi Keamanan

Bernstein memperingatkan bahwa kelompok dengan sumber daya tinggi seperti Advanced Persistent Threat (APT) dapat mengeksploitasi kerentanan ini untuk meluncurkan serangan besar-besaran. Penelitian Tenable ini sebagian besar difokuskan pada ChatGPT-4, tetapi beberapa kelemahan juga terdeteksi dalam ChatGPT-5.

Tenable telah melaporkan kerentanan ini kepada OpenAI pada April 2025, di mana OpenAI mengkonfirmasi laporan tersebut. Namun, tidak ada detail lebih lanjut mengenai langkah-langkah perbaikan yang telah diambil untuk mengatasi kerentanan ini.

Penemuan ini menimbulkan kekhawatiran terkait keamanan data bagi perusahaan yang berintegrasi dengan Large Language Models (LLM) dan chatbot tanpa mempertimbangkan implikasi keamanan secara menyeluruh.

Kesadaran akan ancaman ini adalah langkah penting dalam pengembangan dan penerapan teknologi AI yang lebih aman untuk masa depan.

Baca juga: Google Menanggapi Isu Keamanan Phishing pada Layanan Gmail