LONDON – Laporan terbaru menunjukkan bahwa generative Artificial Intelligence i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, kemudian aktivitas jahat lainnya.
Salah satu serangan yang mana teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dilaksanakan oleh aktor ancaman jika China yang tersebut berusaha mencapai pemerintah di area Asia.
Seperti dilansir dari CNET, metode spear-phishing yang mana digunakan dikenal dengan nama ‘SweetSpecter’, yang melibatkan pengiriman file ZIP berisi file berbahaya.
Jika didownload serta dibuka, file ini dapat menciptakan rantai infeksi dalam sistem pengguna. Perusahaan AI Terbuka menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang memanfaatkan Pengolah Bahasa Alami GPT untuk menulis skrip kemudian menemukan kerentanan dengan alat LLM.
Serangan berbasis Teknologi AI kedua dilaksanakan oleh kelompok jika Iran yang dimaksud dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Asisten Percakapan GPT untuk mengeksploitasi kerentanan dan juga mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang mana dipimpin oleh kelompok lain dengan syarat Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan serta riwayat penelusuran, mendapatkan lokasi tepat perangkat, dan juga mengakses file di tempat perangkat yang tersebut terinfeksi.
Meskipun semua serangan ini menggunakan metode yang digunakan sudah ada ada untuk mengembangkan malware, laporan yang dimaksud menyatakan bahwa tidak ada ada indikasi bahwa Asisten Percakapan GPT menciptakan malware baru yang mana substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Kecerdasan Buatan untuk menyebabkan alat serangan yang digunakan berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Kecerdasan Buatan generatif.
OpenAI mengonfirmasi bahwa mereka itu akan terus meningkatkan keamanan Teknologi AI merekan untuk menghindari metode-metode mirip digunakan di tempat masa depan.
Selain itu, dia akan bekerja mirip dengan regu keamanan internal dan juga terus berbagi temuan dengan rekan sektor dan juga komunitas riset guna mengurangi situasi sama terulang.
