LlamaTutor
LlamaTutor bir TypeScript açık kaynaklı bir yapay zeka kişisel öğretmeni olarak hareket etmek için Llama 3.1 kullanan bir uygulama. Çalıştırdığınızda, LLM'den sorgulama konunuza göre web'de arama yapmasını ve ardından öğrenmeniz için içerik oluşturmasını isteyecektir.
Program resmi OpenAI kütüphanesini kullanmadı, LLM arka ucu olarak bir Gaia düğümü kullanmayı destekleyen çatallı olanı kullanabiliriz.
Ön Koşullar
Genel bir URL aracılığıyla LLM hizmetleri sağlamaya hazır bir Gaia düğümüne ihtiyacınız olacak. Yapabilirsin
Bu eğitimde, genel bir Llama3 düğümü kullanacağız.
Öznitelik | Değer |
---|---|
API uç noktası URL'si | https://llama8b.gaia.domains/v1 |
Model Adı | lama |
API ANAHTARI | Gaia |
Ajanı çalıştırın
İlk olarak, çatallanmış LlamaTutor'un kaynak kodunu almamız gerekecek
git clone https://github.com/JYC0413/llamatutor.git
cd llamatutor
Ardından, yapılandırın .env
dosya.
cp .example.env .env
Burada dört parametre yapılandırmanız gerekecektir.
- SERPER_API_KEY: Çevrimiçi içerik aramak için serper API anahtarı. Burada BING_API_KEY de kullanabilirsiniz.
- LLAMAEDGE_BASE_URL: LLM API temel URL'si için URL.
- LLAMAEDGE_MODEL_ADI: Kullanılacak modelin adı.
- LLAMAEDGE_API_KEY: LLM hizmetlerine erişim için API anahtarı.
Ardından, gerekli bağımlılıkları yüklememiz gerekecek.
npm kurulumu
Ardından, uygulamayı yerel olarak çalıştıralım.
npm run dev
Son olarak, tarayıcınızda http://localhost:3000 adresini açın ve öğrenmeye başlayın.