Ponsel lipat memperluas kemampuan smartphone, sedangkan ponsel minimalis membatasi gangguan. Bentuknya mirip, tetapi masalah yang dijawab berbeda.
Hedra.ID, California - Nvidia membentuk Open Secure AI Alliance bersama puluhan perusahaan teknologi dan organisasi sumber terbuka. Kelompok ini akan mengembangkan perangkat yang dapat digunakan untuk meningkatkan keamanan model AI, perangkat lunak, dan sistem agen otonom.
Seperti dilansir Reuters, Aliansi tersebut diumumkan pada Senin (27/7/2026) waktu setempat. Anggota awalnya mencakup Microsoft, IBM, Cisco, Adobe, CrowdStrike, Dell Technologies, Hugging Face, Linux Foundation, Palantir, Palo Alto Networks, Salesforce, SAP, ServiceNow, dan Siemens.
Fokus kelompok ini tidak hanya berada pada model AI. Nvidia menilai keamanan agen juga bergantung pada sistem yang mengatur izin akses, membatasi tindakan, mencatat aktivitas, dan mengevaluasi perilakunya saat menjalankan tugas.
Karena itu, proyek yang akan dikembangkan mencakup pengelolaan identitas, isolasi sistem, pemindaian model, keamanan kode, pencatatan aktivitas, serta metode untuk menguji agen sebelum digunakan dalam lingkungan operasional.
Nvidia akan menyumbangkan model, bobot model, data, dan hasil riset kepada aliansi. Salah satu kontribusi awalnya adalah Nvidia Labs Object-Oriented Agent atau NOOA, kerangka sumber terbuka yang dirancang agar tindakan agen lebih mudah diuji, dilacak, diaudit, dan dikendalikan.
Sejumlah anggota juga membawa proyek yang sudah mereka kembangkan. Hugging Face, misalnya, menawarkan format Safetensors kepada PyTorch Foundation. Microsoft menyumbangkan kerangka pemindaian MDASH, sedangkan HPE terlibat dalam pengembangan standar identitas melalui proyek SPIFFE dan SPIRE.
Pembentukan aliansi ini diumumkan beberapa hari setelah insiden keamanan di Hugging Face menyoroti risiko penggunaan agen AI dalam pengujian siber.
OpenAI sebelumnya mengakui bahwa agen yang menggunakan dua modelnya keluar dari lingkungan pengujian terisolasi, memperoleh akses internet, dan menembus infrastruktur Hugging Face ketika berusaha menyelesaikan evaluasi keamanan.
Menurut OpenAI, model tersebut menemukan dan menggabungkan sejumlah celah keamanan untuk memperoleh data yang dibutuhkan dalam pengujian. Perusahaan ini menyebut kejadian itu sebagai insiden siber yang belum pernah mereka hadapi sebelumnya.
Hugging Face mendeteksi dan menghentikan aktivitas tersebut sebelum kedua perusahaan melakukan penyelidikan bersama. OpenAI mengatakan tim keamanannya menemukan aktivitas tidak normal.
Namun, Reuters melaporkan berdasarkan sejumlah sumber bahwa perusahaan baru memahami keterlibatan agennya beberapa hari setelah serangan dihentikan. OpenAI menyatakan ada bagian dalam laporan tersebut yang tidak akurat, tetapi tidak menjelaskan secara rinci poin yang dipersoalkan.
Dalam proses pemulihan, Hugging Face mengatakan sejumlah layanan AI tertutup menolak memproses data forensik karena sistem pengamannya tidak dapat membedakan aktivitas penyerang dan pembela. Pihaknya kemudian menjalankan model berbobot terbuka GLM-5.2 pada infrastrukturnya sendiri untuk menganalisis lebih dari 17.000 tindakan dan membantu menangani penyusupan.
Pengalaman tersebut menjadi salah satu contoh yang digunakan Nvidia untuk mendorong akses lebih luas terhadap alat keamanan AI yang dapat diperiksa, dijalankan secara mandiri, dan disesuaikan oleh tim pertahanan siber.
Nvidia mengatakan para pembela keamanan perlu memiliki alat AI yang dapat mereka percayai dan kendalikan. Dalam pengumumannya, perusahaan menekankan kebutuhan untuk menyediakan kemampuan tersebut bagi “defenders everywhere”.
Meski begitu, Nvidia mengakui bahwa model terbuka juga dapat disalahgunakan, termasuk untuk melemahkan sistem pengamanan atau membantu serangan siber. Perusahaan berpendapat risiko itu perlu ditangani melalui perlindungan teknis, evaluasi, aturan penggunaan, dan perbaikan kerentanan yang cepat.
Open Secure AI Alliance belum menjelaskan struktur pengelolaan, sumber pendanaan, maupun jadwal penerbitan alat dan standar bersama. Dampak kelompok ini terhadap keamanan AI karena itu masih akan ditentukan oleh proyek yang benar-benar dirilis dan digunakan para anggotanya.
