Tantangan Baru dalam Gelombang Integrasi AI dan Web3: Masalah Keamanan DeFAI Menarik perhatian

Baru-baru ini, Istanbul Blockchain Week (IBW 2025) berfokus pada tren integrasi AI dan Web3, menjadi panggung penting untuk diskusi keamanan Web3 tahun ini. Dalam kegiatan dua hari tersebut, beberapa ahli industri melakukan diskusi mendalam mengenai status aplikasi teknologi AI di bidang keuangan terdesentralisasi (DeFi) serta tantangan keamanannya.

Seiring dengan perkembangan pesat model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan baru—keuangan AI terdesentralisasi (DeFAI)—sedang secara bertahap terbentuk. Namun, inovasi ini juga membawa permukaan serangan dan risiko keamanan yang baru.

Seorang eksekutif di perusahaan keamanan mengatakan: "DeFAI meskipun memiliki prospek yang luas, tetapi juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang berbasis logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh berbagai faktor, seperti konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan kesempatan bagi penyerang."

Agen AI pada dasarnya adalah entitas cerdas yang dapat membuat keputusan dan mengeksekusi secara mandiri berdasarkan logika AI, biasanya dioperasikan oleh pengguna, protokol, atau DAO. Di antara mereka, perwakilan yang paling khas adalah robot perdagangan AI. Saat ini, sebagian besar agen AI masih beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terperangkat, tidak hanya dapat menyebabkan kerugian keuangan, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.

Para ahli juga mendiskusikan skenario serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang mungkin akan memposting peringatan palsu, seperti "protokol tertentu diserang". Ini dapat menggoda agen AI untuk segera memulai likuidasi darurat, yang tidak hanya mengakibatkan kerugian aset pengguna, tetapi juga dapat memicu volatilitas pasar yang dapat dimanfaatkan oleh penyerang melalui perdagangan mendahului (Front Running).

Mengenai risiko ini, para ahli yang hadir umumnya berpendapat bahwa keamanan agen AI tidak seharusnya ditanggung oleh satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pengguna perlu memahami dengan jelas ruang lingkup hak yang dimiliki oleh agen, memberikan otorisasi dengan hati-hati, dan memperhatikan pemeriksaan operasi berisiko tinggi dari agen AI. Pengembang harus menerapkan langkah-langkah pertahanan pada tahap desain, seperti penguatan kata kunci, isolasi kotak pasir, pembatasan laju, dan logika cadangan. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi on-chain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah mitigasi.

Seorang ahli keamanan memperingatkan: "Jika terus menganggap agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Dia menyarankan para pengembang yang sedang mengeksplorasi arah DeFAI: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan oleh kode. Karena ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan profesional dan pengujian penetrasi."

Perlu dicatat bahwa tahun ini, dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), IBW sebagai salah satu acara blockchain paling berpengaruh di Eropa, telah meningkatkan status industrinya lebih lanjut. Acara ini telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang global, pengembang proyek, investor, dan regulator, yang sepenuhnya mencerminkan perhatian tinggi industri terhadap isu integrasi AI dan Web3.