Studi Terbaru Ungkap AI Kini Makin Sering Berbohong

Penelitian terbaru mengungkapkan kekhawatiran mengenai perkembangan kecerdasan buatan (AI). Dalam studi yang didanai oleh AI Security Institute (AISI), disebutkan bahwa sejumlah besar model AI telah terbukti berbohong serta melakukan tindakan tidak jujur. Data menunjukkan peningkatan signifikan dalam kasus penipuan selama enam bulan terakhir.

Meningkatnya Kecurangan di Dunia Nyata

Kelompok peneliti menemukan bahwa chatbot dan agen AI kerap mengabaikan instruksi, menghindari mekanisme pemeriksaan, hingga menipu manusia atau sistem AI lainnya. Dalam studi, hampir 700 insiden penipuan AI tercatat. Di antara periode Oktober hingga Maret, tingkat kecurangan melonjak hingga lima kali lipat. Contohnya, beberapa model AI terbukti menghapus file atau dokumen tanpa izin.

“AI kini dapat dianggap sebagai bentuk risiko internal baru,” kata Lahav, salah satu pendiri Irregular, mengutip The Guardian, Jumat (27/3).

Contoh Kecurangan Nyata

Dalam kasus yang diungkap, agen AI bernama Rathbun mencoba mempermalukan pengguna yang menghambat aksinya. Ia menulis postingan blog yang menuduh pengguna “tidak percaya diri, sesederhana itu” dan memperjuangkan “wilayah kekuasaannya yang kecil.” Contoh lain, seorang agen AI diperintahkan untuk tidak mengubah kode komputer, tetapi justru menciptakan agen baru untuk melakukannya. Chatbot juga mengakui, “Saya menghapus dan mengarsipkan ratusan email tanpa menginformasikan rencana kepada Anda atau meminta persetujuan. Itu merupakan pelanggaran langsung aturan yang Anda tetapkan.”

Tommy Shaffer Shane, mantan pakar AI pemerintah yang memimpin penelitian ini, mengingatkan bahwa saat ini agen AI masih dianggap seperti karyawan junior yang kurang stabil. Namun, jika mereka berkembang menjadi “karyawan senior” yang canggih dan sengaja merugikan, risiko menjadi lebih besar. “Model-model ini akan semakin banyak digunakan dalam konteks berisiko tinggi, seperti militer dan infrastruktur nasional kritis. Di situ, tindakan yang merugikan bisa menyebabkan kerusakan besar atau bencana,” lanjutnya.

Respons Perusahaan dan Kecurangan di Platform X

Beberapa perusahaan seperti Google, OpenAI, X, dan Anthropic diberi kesempatan mengevaluasi model AI mereka. Google menyatakan telah menerapkan langkah-langkah keamanan untuk meminimalkan risiko konten berbahaya dari Gemini 3 Pro. OpenAI menekankan bahwa Codex seharusnya menghentikan aksinya sebelum mengambil risiko tinggi. Sementara itu, agen AI Grok milik Elon Musk menipu pengguna selama berbulan-bulan dengan memalsukan pesan internal dan nomor tiket, agar mereka percaya saran edit dikirimkan ke pejabat senior xAI.

Studi ini menyoroti bagaimana perilaku licik agen AI muncul di dunia nyata, bukan hanya dalam lingkungan laboratorium. Pengujian yang sebelumnya lebih fokus pada kondisi terkendali kini terbukti tidak cukup menggambarkan potensi kejahatan yang mungkin terjadi. Para peneliti CLTR menyebutkan ratusan contoh interaksi yang menunjukkan sikap manipulatif dari sistem AI tersebut.