Agen AI Memerlukan Identitas dan Bukti Tanpa Pengetahuan adalah Solusinya

Ini adalah masa yang menarik bagi AI dan kepercayaan. Semakin banyak perusahaan investasi yang menggunakan agen AI untuk meninjau catatan riset dan pengajuan perusahaan. Manusia diminta untuk menyerahkan data biometrik yang semakin invasif, seperti pemindaian wajah, sampel suara, dan pola perilaku, hanya untuk membuktikan bahwa mereka bukan bot. Setelah beredar di luar sana, data ini bisa digunakan oleh bot yang digerakkan AI untuk dengan meyakinkan meniru orang sungguhan, mengalahkan sistem yang dirancang untuk mengusir mereka. Hal ini menempatkan kita dalam perlombaan senjata baru yang aneh – semakin invasif verifikasinya, semakin besar risikonya ketika data tersebut pasti bocor. Jadi, bagaimana kita memverifikasi siapa (atau apa) yang sebenarnya kita hadapi?

Sangat tidak masuk akal untuk menuntut transparansi dari manusia sambil menerima ketidakjelasan dari mesin. Baik bot maupun manusia daring memerlukan cara yang lebih baik untuk memverifikasi identitas mereka. Kita tidak dapat menyelesaikan masalah ini hanya dengan mengumpulkan lebih banyak data biometrik, maupun dengan membangun registri terpusat yang menjadi sasaran utama bagi penjahat dunia maya. Bukti tanpa pengetahuan (zero-knowledge proofs) menawarkan jalan ke depan di mana baik manusia maupun AI dapat membuktikan kredensial mereka tanpa mengekspos diri mereka pada eksploitasi.

Defisit Kepercayaan yang Menghambat Kemajuan

Ketiadaan identitas AI yang dapat diverifikasi menciptakan risiko pasar yang langsung. Ketika agen AI dapat meniru manusia, memanipulasi pasar, atau melakukan transaksi tanpa otorisasi, perusahaan dengan tepat ragu untuk menerapkan sistem otonom dalam skala besar. Seperti halnya, LLM yang telah “disesuaikan” pada dataset yang lebih kecil untuk meningkatkan kinerja adalah 22 kali lebih mungkin untuk menghasilkan keluaran yang berbahaya dibandingkan dengan model dasar, dengan tingkat keberhasilan melewati pengaman keselamatan dan etika dari sistem — sebuah proses yang dikenal sebagai “jailbreaking” — meningkat tiga kali lipat dibandingkan sistem yang siap produksi. Tanpa verifikasi identitas yang dapat diandalkan, setiap interaksi AI semakin mendekati potensi pelanggaran keamanan.

Masalahnya tidak sesederhana mencegah aktor jahat untuk menerjunkan agen nakal, karena kita tidak hanya dihadapkan pada satu antarmuka AI. Masa depan akan menyaksikan semakin banyak agen AI otonom dengan kemampuan yang lebih besar. Dalam lautan agen seperti itu, bagaimana kita mengetahui apa yang sedang kita hadapi? Bahkan sistem AI yang sah pun memerlukan kredensial yang dapat diverifikasi untuk berpartisipasi dalam ekonomi agen-ke-agen yang sedang berkembang. Saat sebuah bot perdagangan AI melakukan transaksi dengan bot lain, kedua pihak memerlukan jaminan mengenai identitas, otorisasi, dan struktur akuntabilitas satu sama lain.

Sisi manusia dari persamaan ini juga sama rusaknya. Sistem verifikasi identitas tradisional mengekspos pengguna pada pelanggaran data besar-besaran, terlalu mudah memungkinkan pengawasan otoriter, dan menghasilkan miliaran pendapatan bagi korporasi besar dari penjualan informasi pribadi tanpa mengkompensasi individu yang menghasilkan data tersebut. Masyarakat dengan alasan yang tepat enggan untuk membagikan lebih banyak data pribadi, namun persyaratan regulasi menuntut prosedur verifikasi yang semakin invasif.

Zero-Knowledge: Jembatan Antara Privasi dan Akuntabilitas

Bukti nol-pengetahuan (Zero-knowledge proofs/ZKPs) menawarkan solusi untuk masalah yang tampaknya sulit dipecahkan ini. Alih-alih mengungkapkan informasi sensitif, ZKPs memungkinkan entitas, baik manusia maupun buatan, untuk membuktikan klaim tertentu tanpa mengekspos data yang mendasarinya. Seorang pengguna dapat membuktikan bahwa mereka berusia di atas 21 tahun tanpa mengungkapkan tanggal lahir mereka. Agen AI dapat membuktikan bahwa mereka dilatih menggunakan dataset etis tanpa mengekspos algoritma proprietary. Institusi keuangan dapat memverifikasi bahwa seorang pelanggan memenuhi persyaratan regulasi tanpa menyimpan informasi pribadi yang dapat diretas.

Untuk agen AI, ZKP dapat memungkinkan tingkat kepercayaan yang mendalam yang diperlukan, karena kita perlu memverifikasi tidak hanya arsitektur teknis tetapi juga pola perilaku, akuntabilitas hukum, dan reputasi sosial. Dengan ZKP, klaim-klaim ini dapat disimpan dalam grafik kepercayaan yang dapat diverifikasi secara on-chain.

Anggaplah ini sebagai lapisan identitas komposabel yang bekerja lintas platform dan yurisdiksi. Dengan cara ini, ketika agen AI menyajikan kredensialnya, agen tersebut dapat membuktikan bahwa data pelatihannya memenuhi standar etika, hasilnya telah diaudit, dan tindakannya terhubung dengan entitas manusia yang bertanggung jawab, semuanya tanpa mengungkapkan informasi kepemilikan.

ZKP dapat sepenuhnya mengubah permainan, memungkinkan kita untuk membuktikan identitas tanpa menyerahkan data sensitif, namun adopsinya masih lambat. ZKP tetap menjadi niche teknis, kurang dikenal oleh pengguna, dan terjerat dalam area abu-abu regulasi. Ditambah lagi, perusahaan yang memperoleh keuntungan dari pengumpulan data memiliki sedikit insentif untuk mengadopsi teknologi ini. Namun, hal tersebut tidak menghentikan perusahaan identitas yang lebih gesit untuk memanfaatkannya, dan seiring munculnya standar regulasi serta meningkatnya kesadaran, ZKP dapat menjadi tulang punggung era baru AI terpercaya dan identitas digital – memberikan individu dan organisasi cara untuk berinteraksi dengan aman dan transparan di berbagai platform dan batas negara.

Implikasi Pasar: Membuka Potensi Ekonomi Agen

Kecerdasan Buatan Generatif dapat menambahkan triliunan setiap tahun kepada perekonomian global, namun sebagian besar nilai ini tetap terkunci di balik hambatan verifikasi identitas. Ada beberapa alasan untuk hal ini. Salah satunya adalah bahwa investor institusional memerlukan kepatuhan KYC/AML yang kuat sebelum mengalokasikan modal ke dalam strategi berbasis AI. Alasan lainnya adalah bahwa perusahaan memerlukan identitas agen yang dapat diverifikasi sebelum memperbolehkan sistem otonom mengakses infrastruktur kritis. Dan regulator menuntut mekanisme akuntabilitas sebelum menyetujui penerapan AI di bidang-bidang sensitif.

Sistem identitas berbasis ZKP memenuhi semua persyaratan ini sekaligus menjaga privasi dan otonomi yang membuat sistem terdesentralisasi menjadi berharga. Dengan memungkinkan pengungkapan selektif, sistem ini memenuhi persyaratan regulasi tanpa menciptakan pusat data pribadi yang rentan. Dengan menyediakan verifikasi kriptografis, mereka memfasilitasi interaksi tanpa kepercayaan antara agen otonom. Dan dengan mempertahankan kontrol pengguna, sistem ini sesuai dengan peraturan perlindungan data yang sedang berkembang seperti GDPR dan undang-undang privasi California.

Teknologi ini juga dapat membantu mengatasi krisis deepfake yang semakin berkembang. Ketika setiap konten dapat terkait secara kriptografis dengan pencipta yang terverifikasi tanpa mengungkapkan identitas mereka, kita dapat melawan misinformasi dan melindungi privasi. Hal ini sangat penting seiring dengan semakin tidak bisa dibedakannya konten yang dihasilkan oleh AI dari materi yang dibuat oleh manusia.

Jalur ZK

Beberapa pihak akan berargumen bahwa setiap sistem identitas merupakan langkah menuju otoritarianisme – namun tidak ada masyarakat yang dapat berfungsi tanpa cara untuk mengidentifikasi warganya. Verifikasi identitas sudah dilakukan secara masif, hanya saja dengan cara yang kurang baik. Setiap kali kita mengunggah dokumen untuk KYC, menjalani pengenalan wajah, atau membagikan data pribadi untuk verifikasi usia, kita berpartisipasi dalam sistem identitas yang bersifat invasif, tidak aman, dan tidak efisien.

Bukti nol-pengetahuan menawarkan suatu jalan ke depan yang menghormati privasi individu sekaligus memungkinkan kepercayaan yang diperlukan untuk interaksi ekonomi yang kompleks. Mereka memungkinkan kita membangun sistem di mana pengguna mengendalikan data mereka, verifikasi tidak memerlukan pengawasan, dan baik manusia maupun agen AI dapat berinteraksi dengan aman tanpa mengorbankan otonomi.