Bir planlama ajanı
gpt planlayıcı, LLM'lerin planlama yeteneklerini gösteren bir Python uygulamasıdır. Çalıştırdığınızda, LLM'den bir hedef veya bir sorgu için birden fazla eylem planı oluşturmasını isteyecektir. Daha sonra LLM'den en iyi planı karşılaştırmasını ve seçmesini ve ardından kullanıcı sorgusunu yanıtlamak için yeniden yazmasını isteyecektir.
Program resmi OpenAI Python kütüphanesini kullandığından, bir Gaia düğümü kullanmak için kolayca değiştirebiliriz.
Ön Koşullar
Genel bir URL aracılığıyla LLM hizmetleri sağlamaya hazır bir Gaia düğümüne ihtiyacınız olacak. Yapabilirsin
Bu eğitimde, genel bir düğüm kullanacağız.
| Öznitelik | Değer |
|---|---|
| API uç noktası URL'si | https://llama8b.gaia.domains/v1 |
| Model Adı | lama |
Ajanı çalıştırın
İlk olarak, nodebook'u colab'a yükleyin.
Bir OpenAI istemcisi oluşturmak için kodu düzenleyin. OpenAI istemcisine base_url Burada.
client = openai.OpenAI(base_url="https://llama8b.gaia.domains/v1", api_key=OPENAI_API_KEY)
Ardından, tüm gpt-4o-mini ile model adı lama koddaki model adı.
İşte bir örnek.
response = client.chat.completions.create(
model="llama",
messages=[
{"role": "system", "content": "You are a helpful assistant. Use the given plan to create a detailed and high-quality response to the user's query."},
{"role": "user", "content": f"User Query: {user_query}\n\nPlan: {best_plan}\n\nGenerate a detailed response based on this plan."}
],
temperature=0.5,
max_tokens=2000
)
Sorguyu kendi sorgunuzla değiştirin.
user_query = "TLS bağlantı zaman aşımında nasıl hata ayıklayabilirim?"
Son olarak, sonuçları görmek için not defterini çalıştırın!