RUU Keamanan dan Ketahanan Siber mulai memperlihatkan persoalan pembagian standar, biaya kepatuhan ISP, pelaporan insiden, dan kewenangan respons siber.
Hedra.ID, California - Mantan peneliti Anthropic Jacob Coxon meminta perusahaan AI lebih berhati-hati mengejar sistem yang semakin canggih. Ia menilai perlombaan antarperusahaan dapat membuat aspek keselamatan semakin sulit mendapat ruang ketika kemampuan AI terus meningkat.
Coxon, yang baru mengundurkan diri dari Anthropic, mengatakan kekhawatirannya bukan pada chatbot yang digunakan masyarakat saat ini. Dalam wawancara dengan CBS News, Jumat (11/9/2026), dia menyebut produk AI yang tersedia sekarang masih aman untuk penggunaan sehari-hari.
Perhatian Coxon lebih tertuju pada kemungkinan munculnya sistem masa depan yang jauh lebih mampu bertindak tanpa campur tangan manusia. Menurutnya, tekanan untuk tidak tertinggal dari pesaing menjadi salah satu persoalan utama dalam pengembangan AI.
“Pada dasarnya, saya pikir seluruh masalahnya adalah adanya perlombaan,” ujarnya.
Ia mengatakan orang-orang di Anthropic maupun OpenAI tidak harus meninggalkan pekerjaannya seperti yang ia lakukan. Namun, menurut Coxon, mereka perlu memahami risiko yang sedang diperdebatkan dan lebih terbuka membicarakannya.
“Sebagian dari solusinya mungkin perlu memperlambat laju pengembangan,” imbuhnya.
Anthropic Mengakui Risiko AI
Salah satu skenario yang dikhawatirkan Coxon adalah munculnya sistem AI yang mampu mempertahankan keberadaannya dengan menyalin kode ke komputer lain melalui internet. Ia juga membayangkan sistem semacam itu dapat memengaruhi manusia untuk memperoleh sumber daya komputasi tambahan.
Skenario tersebut belum menggambarkan kemampuan AI yang tersedia saat ini. Coxon membicarakannya sebagai kemungkinan apabila sistem masa depan menjadi jauh lebih otonom dan pengembang kehilangan kemampuan untuk mengendalikannya. Konsep superintelligence yang menjadi bagian dari kekhawatirannya juga belum menjadi teknologi yang telah tercapai.
Karena itu, Coxon mendorong perusahaan AI membuat batas bersama agar tidak memasuki area pengembangan yang dianggap berbahaya tanpa pengawasan. Ia juga mengusulkan audit transparan oleh pihak ketiga serta keterlibatan pemerintah atau lembaga pengawas.
Anthropic menanggapi kekhawatiran tersebut dengan mengatakan perusahaan sejak awal mengakui bahwa AI dapat membawa manfaat besar sekaligus risiko baru. Perusahaan menyatakan terus membangun sistem pengamanan, meneliti cara kerja internal model, serta menguji kemampuan dan risiko AI dalam bidang seperti keamanan siber dan biologi.
Baca juga: Kritik Lintas Kubu Soroti Respons Trump terhadap Risiko Keamanan AI
Peringatan Coxon muncul ketika isu keselamatan AI mulai mendapat perhatian lebih besar dari pembuat kebijakan di Amerika Serikat. melaporkan sejumlah legislator mendorong pengawasan yang lebih kuat setelah peringatan dari Coxon dan peneliti Anthropic lain, Evan Hubinger.
Perdebatan itu belum menghasilkan kesimpulan bahwa AI pasti akan lepas kendali atau mengancam manusia. Persoalannya saat ini adalah bagaimana mengukur risiko sistem yang semakin canggih dan menentukan batas pengembangan sebelum kemampuan yang lebih otonom benar-benar tersedia.
