OpenAI telah melarang sekelompok akun ChatGPT yang terkait dengan operasi pengaruh Iran yang sedang menghasilkan konten tentang pemilihan presiden AS, menurut sebuah blog pada hari Jumat. Perusahaan tersebut mengatakan operasi tersebut menciptakan artikel dan posting media sosial yang dihasilkan oleh kecerdasan buatan (AI), meskipun tampaknya tidak mencapai banyak audiens.
Ini bukan kali pertama OpenAI melarang akun terkait dengan aktor yang terafiliasi negara yang menggunakan ChatGPT dengan maksud jahat. Pada bulan Mei, perusahaan tersebut mengganggu lima kampanye menggunakan ChatGPT untuk memanipulasi opini publik.
Episode-episode ini mengingatkan pada aktor-aktor negara yang menggunakan platform media sosial, seperti Facebook dan Twitter, untuk mencoba memengaruhi siklus pemilihan sebelumnya. Sekarang kelompok-kelompok serupa (atau mungkin yang sama) menggunakan kecerdasan buatan generatif untuk membanjiri saluran media sosial dengan informasi yang salah. Seperti perusahaan media sosial, OpenAI tampaknya mengadopsi pendekatan whack-a-mole, melarang akun yang terkait dengan upaya-upaya ini saat muncul.
OpenAI mengatakan penyelidikannya terhadap sekelompok akun ini dimanfaatkan dari laporan ancaman Intelijen Microsoft yang diterbitkan minggu lalu, yang mengidentifikasi kelompok (yang disebut Storm-2035) sebagai bagian dari kampanye yang lebih luas untuk mempengaruhi pemilihan AS yang beroperasi sejak 2020.
Microsoft mengatakan Storm-2035 adalah jaringan Iran dengan situs-situs ganda meniru situs berita dan "aktif melibatkan kelompok-kelompok pemilih AS di dua sisi spektrum politik yang berlawanan dengan pesan-pesan polarisasi tentang masalah-masalah seperti kandidat presiden AS, hak LGBTQ, dan konflik Israel-Hamas." Panduannya, seperti yang terbukti dalam operasi-operasi lain, tidak selalu untuk mempromosikan kebijakan ini atau itu tetapi untuk menabur kerusuhan dan konflik.
OpenAI mengidentifikasi lima situs web sebagai depan untuk Storm-2035, menyajikan diri sebagai situs berita progresif dan konservatif dengan nama domain yang meyakinkan seperti "evenpolitics.com." Kelompok ini menggunakan ChatGPT untuk menyusun beberapa artikel panjang, termasuk salah satunya yang menuduh bahwa "X menyensor twit Trump," yang platform Elon Musk pasti tidak lakukan (jika ada yang, Musk mendorong Mantan Presiden Donald Trump untuk terlibat lebih banyak di X).
Di media sosial, OpenAI mengidentifikasi beberapa akun X dan satu akun Instagram yang dikendalikan oleh operasi ini. Perusahaan mengatakan ChatGPT digunakan untuk menulis ulang beberapa komentar politik, yang kemudian diposting di platform-platform tersebut. Salah satu dari tweet-tweet ini secara salah, dan membingungkan, menduga bahwa Kamala Harris mengaitkan "biaya imigrasi yang meningkat" dengan perubahan iklim, diikuti dengan "#DumpKamala."
OpenAI mengatakan bahwa tidak ada bukti bahwa artikel-artikel Storm-2035 dibagikan secara luas, dan mencatat bahwa sebagian besar posting media sosialnya menerima sedikit hingga tidak ada suka, dibagikan, atau komentar. Hal ini sering terjadi dalam operasi-operasi seperti ini, yang cepat dan murah untuk dibuat menggunakan alat kecerdasan buatan seperti ChatGPT. Harapkan melihat banyak pemberitahuan seperti ini saat pemilihan mendekat dan pertengkaran partai online intensif.
