LLM'leri Internet Computer'a Getirmek

Ignition aşaması tamamlandı. Bu, büyük dil modellerini (LLM'leri) İnternet Bilgisayarı'na getiriyor ve sadece birkaç satır kod ile canister akıllı sözleşmelerinden LLM'leri kullanmayı mümkün kılıyor.

Ateşleme Dönüm Noktası Nedir?

Ateşleme kilometre taşı, ICP Yol Haritası'nın Merkeziyetsiz AI bölümünün bir parçasıdır ve canister'ları off-chain LLM'lere bağlamaya odaklanmaktadır. Bu güncellemeyle birlikte, geliştiriciler AI işçileri sayesinde karmaşık bir kurulum olmadan dapp'lerinde AI kullanabilirler.

Ignition'da Neler Yeni

LLM Kütüphaneleri Kolay Entegrasyon için

Canisterlerinizi LLM'lere bağlamayı basitleştirmek için, İnternet Bilgisayarı'nda kullanılan üç dilde: Motoko, Rust ve TypeScript'te kütüphaneler ekledik.

Bu kütüphaneler, dapp'lerinizde LLM'leri hızlı bir şekilde kullanmanızı sağlar. Örneğin, işte bir canister'ın yalnızca birkaç satır Motoko kodu kullanarak Llama 3.1 ile nasıl etkileşimde bulunabileceği:

import LL "mo:llm";

await LLM.chat(#Llama3_1_8B).withMessages([
#system_ {
content = "Sen yardımcı bir asistansın.";
},
#kullanıcı_ {
content = "Güneş ne kadar büyük?";
},
]).send();

Yukarıdaki örnek ICP Ninja'da bulunabilir ve üzerinde çalışılabilir. Bir canister'ın bir LLM'ye sorgu gönderebilmesi ve minimal bir ayar ile yanıt alabilmesi gösterilmektedir.

İşte araçlarla LLM'leri nasıl çağıracağınızı gösteren bir başka örnek:

import LLM "mo:llm";

aktör {
public func example() {
let response = await LLM.chat(#Llama3_1_8B)
.withMessages([
#system_ {
content = "Sen yardımsever bir asistansın."
},
#kullanıcı {
content = "Zürih'te hava durumu nedir?"
},
])
.withTools([LLM.tool("hava_durumu_al")
.withDescription("Bir konum için geçerli hava durumunu al")
.withParameter(
LLM.parameter("location", #String)
.withDescription("Hava durumu almak için konum")
.isRequired()
)
.build()
])
.send();
};
}

Araçları kullanmanın canlı demosunu burada bulabilir, ayrıca demonstrasyonun kaynak kodunu burada bulabilirsiniz.

AI Çalışanları

Canister'ları off-chain LLM'lerle bağlamak için, off-chain LLM'lerden veri almasına olanak tanıyan basit bir sistem olan AI işçilerin minimum uygulanabilir ürününü geliştirdik. AI işçiler iletişimi yönetir, böylece canister'lar LLM'lere gerçek zamanlı olarak talepler gönderebilir ve yanıt alabilir.

Şu anda, AI çalışanları Llama 3.1 8B, Llama 4 Scout ve Qwen 3 32B'yi desteklemektedir. Bu seçenekler, geliştiricilere projeleri için doğru LLM'i seçme esnekliği sağlar.

İşte AI çalışanlarının arka planda off-chain LLM sağlayıcılarına komutları iletmek için nasıl kullanıldığını gösteren bir diyagram.

Nasıl çalışır:

1. Canisterler, bahsettiğimiz LLM kütüphaneleri aracılığıyla bir "LLM canister"a istemler gönderir. Bu, LLM istemlerini almak üzere özel olarak ayarlanmış bir canisterdir.
2. LLM kapsayıcısı bu istemleri bir kuyrukta saklar.
3. AI çalışanları sürekli olarak LLM canister'ını talimatlar için sorgular.
4. AI işçileri komutları yürütür ve yanıtı LLM kapsayıcısına döndürür, bu da yanıtı çağıran kapsayıcıya geri gönderir.

Gerçek Dünya Kullanım Durumları

Geliştiriciler, yaratıcı dapp'ler oluşturmak için zaten LLM kütüphanelerini kullanıyorlar, örneğin:

• Sohbet özellikli cüzdanlar: Kullanıcı etkileşimini artırmak için kripto cüzdanlarına sohbet eden yapay zeka eklenmesi (OISY'de yakında piyasaya sürülecek )
• DAOs ve duygu analizi: Topluluk duyarlılığını analiz etmek ve Alice DAO'daki gibi portföy kararlarını yönlendirmek için LLM'lerin kullanılması.

Bu örnekler, AI çalışanlarının Internet Computer üzerindeki çeşitli uygulamaları destekleyebileceğini göstermektedir.

Neden Bu Önemli ve Nasıl Başlanır

Ignition aşaması, geliştiricilerin LLM'leri Internet Computer projelerine entegre etmelerini basit hale getirir ve sohbet botları, analiz araçları ve AI destekli DeFi uygulamaları gibi yeni tür dapp'lerin oluşturulmasına olanak tanır. Geliştiriciler, LLM'leri Chain Fusion, HTTPS dış çağrıları ve onchain rastgelelik gibi Internet Computer özellikleri ile birleştirerek yaratıcı ve güçlü çözümler geliştirebilir.

Denemeye hazır mısınız? ICP Ninja'da LLM Chatbot projesini keşfedin, canlı demoya göz atın veya kod ve örneklerimizi içeren deposuna dalın.

LLM'leri Internet Computer'a getirmek, Medium'daki The Internet Computer Review'de ilk olarak yayımlandı ve insanlar bu hikayeyi vurgulayarak ve buna yanıt vererek tartışmaya devam ediyor.