OpenAI telah mengonfirmasi bahwa peretas mengeksploitasi model kecerdasan buatan ChatGPT untuk menciptakan malware dan melakukan serangan siber.
Perusahaan riset AI ini merilis laporan yang merinci lebih dari 20 kasus di mana aktor ancaman mencoba menggunakan ChatGPT untuk tujuan jahat sejak awal 2024.
Laporan yang berjudul “Influence and Cyber Operations: An Update” ini mengungkapkan bahwa kelompok peretas yang disponsori negara dari negara-negara seperti China dan Iran telah memanfaatkan kemampuan ChatGPT untuk meningkatkan operasi siber ofensif mereka. Aktivitas ini berkisar dari debugging kode malware hingga membuat konten untuk kampanye phishing dan disinformasi di media sosial.
Salah satu kasus yang menonjol melibatkan aktor ancaman asal China yang dijuluki “SweetSpecter,” yang mencoba menggunakan ChatGPT untuk pengintaian, riset kerentanan, dan pengembangan malware. Grup ini bahkan menargetkan OpenAI secara langsung dengan serangan spear-phishing yang tidak berhasil terhadap karyawan perusahaan.
Penyalahgunaan OpenAI oleh Threat Actors
Ancaman signifikan lainnya datang dari “CyberAv3ngers,” sebuah grup Iran yang terkait dengan Islamic Revolutionary Guard Corps. Aktor ini menggunakan ChatGPT untuk meneliti kerentanan pada sistem kontrol industri dan membuat skrip untuk potensi serangan pada infrastruktur kritis.
OpenAI juga mengidentifikasi grup Iran ketiga, “STORM-0817,” yang memanfaatkan model AI untuk mengembangkan malware Android yang mampu mencuri data pengguna sensitif, termasuk kontak, log panggilan, dan informasi lokasi.
Meskipun temuan ini mengkhawatirkan, OpenAI menekankan bahwa penggunaan ChatGPT belum menghasilkan terobosan signifikan dalam penciptaan malware atau kemampuan untuk membangun audiens viral untuk operasi pengaruh.
Perusahaan menyatakan bahwa aktivitas yang diamati konsisten dengan penilaian mereka tentang kemampuan GPT-4, yang mereka anggap tidak secara material mempercepat eksploitasi kerentanan di dunia nyata.
Namun demikian, laporan ini menyoroti kekhawatiran yang semakin besar tentang penyalahgunaan alat AI untuk kejahatan siber. Seiring dengan semakin canggih dan mudah diaksesnya AI generatif, ada risiko bahwa teknologi ini dapat menurunkan hambatan masuk bagi peretas dengan keterampilan rendah, yang berpotensi meningkatkan serangan siber level rendah.
Sebagai respons terhadap ancaman ini, OpenAI telah menerapkan langkah-langkah untuk mengganggu aktivitas jahat, termasuk melarang akun yang terkait dengan operasi yang diidentifikasi. Perusahaan juga bekerja sama dengan mitra industri dan pemangku kepentingan terkait untuk berbagi intelijen ancaman dan meningkatkan pertahanan keamanan siber bersama.
Para ahli keamanan siber memperingatkan bahwa tren ini kemungkinan akan terus berlanjut seiring perkembangan teknologi AI. Mereka menekankan pentingnya perusahaan AI untuk mengembangkan mekanisme keamanan dan deteksi yang kuat guna mencegah penyalahgunaan model mereka untuk tujuan jahat.
Pengungkapan dari OpenAI menjadi panggilan perhatian bagi industri teknologi dan pembuat kebijakan untuk mengatasi potensi risiko yang terkait dengan sistem AI canggih.
Seiring dengan semakin terintegrasinya AI dalam berbagai aspek kehidupan digital kita, menyeimbangkan inovasi dan keamanan akan menjadi kunci untuk mengurangi ancaman yang ditimbulkan oleh aktor jahat yang mengeksploitasi alat yang kuat ini.
OpenAI berkomitmen untuk upaya berkelanjutan dalam mengidentifikasi, mencegah, dan mengganggu upaya penyalahgunaan model mereka untuk tujuan berbahaya. Perusahaan berencana untuk terus berbagi temuan mereka dengan komunitas riset yang lebih luas dan memperkuat pertahanan berlapis mereka terhadap aktor siber yang terkait dengan negara dan operasi pengaruh rahasia.
Seiring dengan evolusi lanskap AI, kewaspadaan dan kolaborasi antara pengembang AI, profesional keamanan siber, dan lembaga pemerintah akan sangat penting dalam menghadapi ancaman yang muncul dan memastikan manfaat teknologi AI dapat terwujud tanpa mengorbankan keamanan global.
#Lindungi Data!
Sebagai perusahaan yang berkomitmen untuk membuat dunia digital yang lebih baik, PT Digital Solusi Grup mengajak Anda untuk selalu menjaga keamanan perangkat dan data Anda. Hubungi tim ahli kami di bidang cyber security untuk konsultasi lebih lanjut dan layanan perlindungan menyeluruh. Bersama kami, amankan bisnis Anda dari ancaman siber yang terus berkembang. Lindungi, Aman, dan Sukses bersama PT Digital Solusi Grup!
Referensi:
OpenAI Confirms Hackers Using ChatGPT to Create Sophisticated Malware, Cyber Security News.
Baca Juga : Zero-Day Firefox Dalam Serangan: Segera Perbarui Browser Anda
