FlowiseAI araç çağrısı
FlowiseAI, geliştiricilerin özelleştirilmiş LLM orkestrasyon akışları ve AI ajanları oluşturmaları için düşük kodlu bir araçtır. FlowiseAI aracını, LLM aracı çağrısını destekleyen bir Gaia düğümü kullanacak şekilde yapılandırabilirsiniz.
Ön Koşullar
Genel bir URL aracılığıyla LLM hizmetleri sağlamaya hazır bir Gaia düğümüne ihtiyacınız olacak. Bu eğitimde, araç çağrısı desteğine sahip bir genel düğüm kurmanız gerekecektir.
Bir FlowiseAI sunucusu başlatın
Flowise 'ı yerel olarak kurmak için FlowiseAI kılavuzunu izleyin
npm install -g flowise
npx flowise başlangıcı
Başarılı bir şekilde çalıştırdıktan sonra http://localhost:3000
Flowise AI aracını kontrol etmek için.
Gerçek zamanlı IP araması için bir chatbot oluşturun
Adım 1: Kullanıcı arayüzünden yeni bir Sohbet Akışı oluşturun.
Adım 2: Chatflow tuvaline ChatLocalAI adında bir düğüm ekleyin.
Adım 3: ChatLocalAI widget' ını, oluşturduğunuz araç çağrı desteği ile Gaia düğümünü kullanacak şekilde yapılandırın.
- Temel yol:
https://YOUR-NODE-ID.us.gaianet.network/v1
- Model adı: örn,
Mistral-7B-Instruct-v0.3.Q5_K_M
Adım 4: Özel Araç adında bir düğüm ekleyin
Adında bir fonksiyon oluşturun get_ip_address_geo_location
.
Fonksiyon bir Dize
parametre adı ip
.
Araç açıklaması alanı, LLM'ye bu işlevi ne zaman kullanacağını söyleyen "istem "dir. Bu örnekte, LLM kullanıcının bir IP adresinin şehrini veya ülkesini sorduğunu tespit ederse FlowiseAI'den önce bu işlev çağrısını gerçekleştirmesini isteyen bir araç çağrısı yanıtı döndürür.
Şimdi bu fonksiyon için JavaScript kodu ekleyebilirsiniz. Girdinin konumunu arar ip
parametre.
const fetch = require("node-fetch")
const url = "http://ipwho.is/"+$ip
try {
const response = await fetch(url)
const result = await response.text()
console.log(result)
return result
} catch(error) {
console.error(error)
}
Adım 5: Tuvale Tampon Bellek adında bir düğüm ekleyin.
Adım 6: Tool Agent adında bir düğüm ekleyin.
Adım 7: Düğümleri bağlayın.
Özel Araç ve Tampon Bellek düğümlerini aşağıdaki uygun konektörlere bağlayın Araç Aracısı düğümü. ChatLocalAI düğümünü Özel Araca bağlayın.
Adım 8: Sohbet Akışını kaydedin.
Bir deneyin
FlowiseAI kullanıcı arayüzünden, yeni oluşturduğunuz ChatLocalAI ile sohbet etmek için bir sohbet penceresi açabilirsiniz. Hadi Bir soru sor:
Bu adresin konumu nedir 35.222.115.181
LLM, isteğin bir IP adresi için konum bulmak olduğunu anlar ve bir işlevimiz olduğunu görür
aradı get_ip_address_geo_location
araçlarında, bu görevle eşleşen bir açıklamaya sahiptir.
Böylece, bu işlevi aşağıdakilerle çağırmak için bir JSON iletisi ile yanıt verir
kullanıcı sorgusundan çıkardığı IP adresi.
JSON mesajını çağıran bu araç sohbet botunda kullanıcıya GÖRÜNTÜLENMEZ. Bunun yerine, FlowiseAI Özel Araç düğümü bunu yakalar ve bu araç çağrısıyla ilişkili JavaScript kodunu yürütür. Sonuç araç çağrısı daha sonra orijinal sorgu ile birlikte LLM'ye geri gönderilir, Bu yüzden Tampon Bellek düğümüne ihtiyacımız var BTW, ve LLM orijinal soruya insan tarafından okunabilir bir yanıt formüle eder.