Bir planlama ajanı
gpt planlayıcı bir Python LLM'lerin planlama yeteneklerini gösteren bir uygulama. Çalıştırdığınızda, LLM'ye şunları soracaktır Bir hedef veya sorgu için birden fazla eylem planı oluşturmak. Daha sonra LLM'den aşağıdakileri karşılaştırmasını ve seçmesini isteyecektir en iyi planı belirler ve ardından kullanıcı sorgusunu yanıtlamak için yeniden yazar.
Program resmi OpenAI Python kütüphanesini kullandığından, bir Gaia düğümü kullanmak için kolayca değiştirebiliriz.
Ön Koşullar
Genel bir URL aracılığıyla LLM hizmetleri sağlamaya hazır bir Gaia düğümüne ihtiyacınız olacak. Yapabilirsin
Bu eğitimde, genel bir düğüm kullanacağız.
| Öznitelik | Değer |
|---|---|
| API uç noktası URL'si | https://llama.us.gaianet.network/v1 |
| Model Adı | lama |
Ajanı çalıştırın
İlk olarak, nodebook'u colab'a yükleyin.
Bir OpenAI istemcisi oluşturmak için kodu düzenleyin. OpenAI istemcisine base_url Burada.
client = openai.OpenAI(base_url="https://llama.us.gaianet.network/v1", api_key=OPENAI_API_KEY)
Ardından, tüm gpt-4o-mini ile model adı lama koddaki model adı.
İşte bir örnek.
response = client.chat.completions.create(
model="llama",
messages=[
{"role": "system", "content": "You are a helpful assistant. Use the given plan to create a detailed and high-quality response to the user's query."},
{"role": "user", "content": f"User Query: {user_query}\n\nPlan: {best_plan}\n\nGenerate a detailed response based on this plan."}
],
temperature=0.5,
max_tokens=2000
)
Sorguyu kendi sorgunuzla değiştirin.
user_query = "TLS bağlantı zaman aşımında nasıl hata ayıklayabilirim?"
Son olarak, sonuçları görmek için not defterini çalıştırın!