OpenAI menyebutkan, aktor ancaman pertama adalah SweetSpecter. Ini merupakan penjahat siber musuh Tiongkok, yang pertama kali didokumentasikan oleh Cisco Talos pada November 2023.

Mereka disebut sebagai kelompok ancaman spionase siber yang menarget pemerintah Asia.

OpenAI melaporkan bahwa SweetSpecter menargetkan pemerintah Asia secara langsung. Mereka mengirimkan email phishing dengan lampiran ZIP berbahaya yang disamarkan sebagai permintaan dukungan ke alamat email pribadi karyawan OpenAI.

Jika dibuka, lampiran ini memicu rantai infeksi yang bisa menyebabkan SugarGh0st RAT dijatuhkan pada sistem korban.

Setelah penyelidikan lebih lanjut, OpenAI mendapati bahwa SweetSpecter menggunakan kelompok akun ChatGPT yang melakukan penelitian analisis skrip dan kerentanan dengan bantuan alat LLM.

Kasus kedua menyangkut kelompok ancaman yang berafiliasi dengan Korps Pengawal Revolusi Islam Iran "CyberAv3ngers" yang dikenal karena menargetkan sistem industri di lokasi infastruktur penting di negara-negara Barat.

OpenAI melaporkan bahwa akun yang terkait dengan kelompok ancaman ini meminta ChatGPT untuk menghasilan kredensial default dalam Programmable Logic Controller yang banyak digunakan, mengembangkan skrip bash dan Python khusus dan kode yang mengaburkan.

Para peretas Iran juga menggunakan ChatGPT untuk merencanakan aktivitas pasca kompromi mereka, belajar bagaimana mengeksploitasi kerentanan tertentu.

Selain itu juga memilih metode untuk mencuri kata sandi pengguna pada sistem MacOS.

Malware yang dibuat dengan bantuan ChatGPT bisa mencuri daftar kontak, log panggilan, dan file yang disimpan di perangkat. Selain itu juga bisa mengambil tangkapan layar, meneliti riwayat penelusuran pengguna, hingga mendapatkan posisi yang tepat.

"Secara paralel, STORM-0817 meggunakan ChatGPT untuk mendukung pengembangan kode sisi server yang diperlukan untuk menangani koneksi dari perangkat dikompromikan," bunyi laporan OpenAI.

Hal ini, kata OpenAI, memungkinkan pihaknya untuk melihat bahwa server perintah dan kontrol untuk malware ini adalah pengaturan WAMP dan selama pengujian menggunakan domain stickhero.

Semua akun OpenAI yang digunakan oleh pelaku ancaman di atas telah diblokir dan indikator terkait termasuk alamat IP, telah dibagikan dengan mitra keamanan siber.