WebUI'yi açın
Arka uç LLM API olarak herhangi bir Gaia düğümünü kullanarak kendi kendine barındırılan bir WebUI olan Open WebUI çerçevesini yapılandırabilirsiniz. Bu, Open WebUI üzerine inşa edilmiş herhangi bir uygulamada kendi Gaia düğümlerinizi veya topluluk Gaia düğümlerini kullanmanıza olanak tanır.
Ön Koşullar
Genel bir URL aracılığıyla LLM hizmetleri sağlamaya hazır bir Gaia düğümüne ihtiyacınız olacak. Yapabilirsin
Bu eğitimde, Continue eklentisine güç sağlamak için genel düğümleri kullanacağız.
| Model tipi | API temel URL'si | Model adı |
|---|---|---|
| Sohbet | https://llama8b.gaia.domains/v1 | lama |
| Yerleştirme | https://llama8b.gaia.domains/v1 | nomik |
Makinenizde Open WebUI'yi başlatın
Gaia düğümünü başarıyla başlattıktan sonra docker run Open WebUI'yi başlatmak için.
docker run -d -p 3000:8080 \
-v open-webui:/app/backend/data \
-e OPENAI_API_BASE_URL="https://llama8b.gaia.domains/v1" \
-e OPENAI_API_KEYS="gaianet" \
--name open-webui \
-her zaman yeniden başlat \
ghcr.io/open-webui/open-webui:main
Ardından, açın http://localhost:3000 tarayıcınızda WebUI'yi Aç sayfasını göreceksiniz.
WebUI başlatıldığında kendi düğümünüzü de yapılandırabilirsiniz.
- Sağ üst köşedeki profilinize tıklayın ve Ayarlar'ı seçin.
- Ardından Bağlantılar'ı seçin. OpenAI API alanına düğüm tabanı URL'nizi yazın ve birkaç rastgele karakter girin.
- Değişikliğin etkili olması için Kaydet'e tıklayın.
Open WebUI'yi bir Chatbot kullanıcı arayüzü olarak kullanma
Bir model seçin altında sohbet modelini seçmeniz yeterlidir ve ardından Gaia düğümüne mesaj gönderebilirsiniz.
Open WebUI'yi istemci tarafı RAG aracı olarak kullanma
Open WebUI ayrıca RAG uygulamasını uygulamak için bir yol sunar. Gaia düğümleri OpenAI uyumlu gömme API'lerine sahip olduğundan, bu özelliği de kullanabilirsiniz. Ancak, bu özelliği kullanmak için, bunun gibi herhangi bir anlık görüntü olmadan bir düğüm başlatmanız önerilir.
Adım 1: Gaia düğümünü gömme API'si olarak kullanın
- Sol üstteki Çalışma Alanı 'na tıklayın ve Belgeler sekmesini seçin. Burası yüklenen belgeleri yönettiğiniz yerdir.
- Yerleştirme ayarını yapılandırmak için Belge Ayarları 'na tıklayın.
- Genel Ayarlar'da Gömme Modeli Motoru olarak OpenAI'yi seçin. Düğüm API temel URL'sini ve birkaç rastgele karakter girin. Ardından, Gömme Modeli alanına gömme modeli adını girin. Değişiklikleri uygulamak için Kaydet'e tıklayın.
Adım 2: Gaia düğümünü gömme API'si olarak kullanın
Belgelerinizi yüklemek için + işaretine tıklayın.
3. Adım: Sohbet
Ardından sohbet sayfasına geri dönün. Bir mesaj göndermeden önce, bağlam olarak istediğiniz belgeyi seçmek için # yazın.
Bu kadar.