LlamaEdgeKitap
GroqBook'tan çatallanan LlamaEdgeBook, açık kaynaklı LLM'leri kullanarak tek satırlık bir komut isteminden kitap oluşturmayı sağlayan açık kaynaklı bir araçtır. LlamaEdgeBook çerçevesini, arka uç LLM API'si olarak herhangi bir Gaia düğümünü kullanarak yapılandırabilirsiniz.
Adımlar
İlk olarak, LlamaEdgeBook'un kaynak kodunu edinin. Terminalinizi açın ve aşağıdaki komut satırını girin.
git clone https://github.com/second-state/LlamaEdgeBook
cd LlamaEdgeBook
Python 3.11 veya sonraki bir sürümünün kurulu olduğundan emin olun. Ardından, gerekli paketleri yükleyin:
pip install -r requirements.txt
Ardından, Gaia düğümünü LLM arka ucu olarak yapılandıralım.
export OPENAI_BASE_URL="https://llama8b.gaia.domains/v1"
export OPENAI_MODEL_NAME="llama"
export OPENAI_API_KEY="GAIANET"
İpucu: Gaia düğümünün model adını bilmiyorsanız, model bilgilerini kullanarak alabilirsiniz:
curl -X POST https://0x57b00e4f3d040e28dc8aabdbe201212e5fb60ebc.us.gaianet.network/v1/models
Ardından, uygulamayı çalıştırmak için aşağıdaki komut satırını kullanın.
streamlit main.py dosyasını çalıştır
Uygulama başarılı bir şekilde çalıştığında, terminal aşağıdaki bilgileri verecektir.
Kullanım istatistikleri toplanıyor. Devre dışı bırakmak için browser.gatherUsageStats'ı false olarak ayarlayın.
Artık Streamlit uygulamanızı tarayıcınızda görüntüleyebilirsiniz.
Yerel URL: http://localhost:8501
Ağ URL'si: http://10.128.0.8:8501
Harici URL: http://35.222.115.181:8501
Son olarak, şu dosyayı açabilirsiniz http://localhost:8501
bir kitap oluşturmak için tarayıcınızda.
LlamaEdgeBook önce isteminize göre bir taslak oluşturacak ve ardından taslağa göre bölüm içeriğini oluşturacaktır.
Kitabı üretim tamamlandıktan sonra da indirebilirsiniz.