Integrasi AI dan Web3: Tantangan keamanan baru yang dihadirkan oleh kebangkitan DeFAI

Baru-baru ini, Istanbul Blockchain Week (IBW 2025) memfokuskan pada tren integrasi AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Dalam acara yang berlangsung selama dua hari tersebut, banyak ahli industri melakukan diskusi mendalam tentang status penerapan teknologi AI dalam DeFi dan tantangan keamanannya.

Para ahli menunjukkan bahwa dengan cepatnya perkembangan model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan baru bernama DeFAI (Kecerdasan Buatan Keuangan Terdesentralisasi) secara bertahap terbentuk. Namun, inovasi ini juga membawa permukaan serangan baru dan risiko keamanan.

Seorang eksekutif dari perusahaan keamanan mengatakan: "DeFAI memiliki prospek yang luas, tetapi juga memaksa kami untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang didasarkan pada logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh berbagai faktor, seperti konteks, waktu, dan interaksi sejarah. Ketidakpastian ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi pelaku serangan yang mungkin."

AI agen pada dasarnya adalah entitas cerdas yang dapat membuat keputusan dan melaksanakan secara mandiri berdasarkan logika AI, biasanya dijalankan atas otorisasi pengguna, protokol, atau DAO. Di antara mereka, robot perdagangan AI adalah perwakilan yang paling khas. Saat ini, sebagian besar agen AI masih beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terperangkap, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas keseluruhan protokol.

Para ahli juga membahas skenario serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang dapat memposting alarm palsu, seperti "protokol tertentu diserang", sehingga mendorong agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya dapat menyebabkan kerugian aset pengguna, tetapi juga dapat memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan di depan (Front Running).

Mengenai risiko ini, para ahli yang hadir sepakat bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pengguna perlu memahami dengan jelas cakupan wewenang yang dimiliki oleh agen, memberikan otorisasi dengan hati-hati, dan memperhatikan operasi berisiko tinggi dari agen AI. Pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti penguatan kata kunci, isolasi kotak pasir, pembatasan kecepatan, dan logika pengembalian. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi on-chain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah mitigasi.

Seorang ahli keamanan memperingatkan: "Jika kita terus menganggap agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanya masalah waktu." Dia menyarankan para pengembang yang sedang mengeksplorasi arah DeFAI: "Seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan oleh kode. Karena ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan dan pengujian penetrasi yang profesional."

Sebagai salah satu acara blockchain paling berpengaruh di Eropa, IBW telah berhasil menarik lebih dari 15.000 pengembang, pihak proyek, investor, dan regulator dari seluruh dunia. Tahun ini, dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), posisi industri IBW semakin meningkat.