Potensi Bahaya Dark AI dalam Keamanan Siber

Generated by Journalist AI

KAMI INDONESIA – Perusahaan keamanan siber Kaspersky mengingatkan masyarakat akan potensi bahaya dari kecerdasan buatan gelap atau Dark AI yang belakangan ini menjadi pemicu meningkatnya serangan siber canggih.

Kaspersky menjelaskan bagaimana para penyerang menggunakan teknologi AI untuk melakukan berbagai bentuk ancaman digital yang bisa menargetkan individu maupun institusi.

Memahami Dark AI dan Penerapannya

Dark AI adalah istilah yang menggambarkan penerapan model bahasa besar (LLM) baik secara lokal maupun jarak jauh, yang digunakan untuk tujuan berbahaya, tidak etis, atau ilegal.

Sistem ini beroperasi di luar kendali keamanan dan saksi kepatuhan, sehingga memungkinkan berbagai bentuk ancaman seperti penipuan, serangan siber, dan manipulasi data tanpa pengawasan yang memadai.

Dalam keterangan resmi pada Selasa (5/8), Sergey Lozhkin, Kepala Tim Riset Analisis Global (GReAT) untuk META dan APAC di Kaspersky, menjelaskan bahwa ‘AI adalah perisai dan Dark AI adalah pedangnya’ di era keamanan siber saat ini.

Black Hat GPT: Contoh Nyata Dark AI

Salah satu bentuk Dark AI yang paling terkenal saat ini adalah Black Hat GPT, yang muncul sejak pertengahan 2023.

Model ini sengaja dikembangkan untuk melakukan aktivitas yang tidak etis atau ilegal, yang meliputi menghasilkan kode berbahaya, merancang email phishing yang persuasif, dan menciptakan konten deepfake.

Lozhkin mencatat bahwa ada beberapa model yang telah teridentifikasi, seperti WormGPT dan FraudGPT, yang dirancang khusus untuk mendukung kejahatan siber, penipuan, dan otomatisasi berbahaya.

Kampanye Negara dan Respon terhadap Ancaman

Kaspersky juga mengamati tren yang lebih gelap, di mana aktor negara mulai memanfaatkan LLM untuk kampanye yang lebih terorganisir.

OpenAI baru-baru ini mengungkapkan bahwa mereka telah menggagalkan lebih dari 20 operasi siber yang berusaha menyalahgunakan perangkat AI mereka.

Para penyerang ini menciptakan persona palsu dan menghasilkan konten multibahasa untuk menjebak para korban, yang menunjukkan betapa canggihnya penggunaan Dark AI dalam kejahatan siber.

Lozhkin menambahkan, ‘AI tidak secara inheren dapat membedakan yang benar dan yang salah, melainkan alat yang mengikuti perintah.’ Ini menunjukkan pentingnya perlindungan dan deteksi ancaman yang didukung oleh AI guna menghadapi tantangan ini.