Ana içeriğe geç
Sürüm: 1.0.0

WebUI'yi açın

Arka uç LLM API'si olarak herhangi bir GaiaNet düğümünü kullanarak kendi kendine barındırılan bir WebUI olan Open WebUI çerçevesini yapılandırabilirsiniz. Bu, kendi WebUI'nizi kullanmanıza olanak tanır. veya Open WebUI üzerine inşa edilmiş herhangi bir uygulamadaki topluluk GaiaNet düğümleri.

Ön Koşullar​

Genel bir URL aracılığıyla LLM hizmetleri sağlamaya hazır bir Gaia düğümüne ihtiyacınız olacak. Yapabilirsin

Bu eğitimde, Continue eklentisine güç sağlamak için genel düğümleri kullanacağız.

Model tipiAPI temel URL'siModel adı
Sohbethttps://llama.us.gaianet.network/v1lama
Yerleştirmehttps://llama.us.gaianet.network/v1nomik

Makinenizde Open WebUI'yi başlatın​

GaiaNet düğümünü başarıyla başlattıktan sonra docker run Open WebUI'yi başlatmak için.

docker run -d -p 3000:8080 \
  -v open-webui:/app/backend/data \
  -e OPENAI_API_BASE_URL="https://llama.us.gaianet.network/v1" \
  -e OPENAI_API_KEYS="gaianet" \
  --name open-webui \
  -her zaman yeniden başlat \
  ghcr.io/open-webui/open-webui:main

Ardından, açın http://localhost:3000 tarayıcınızda WebUI'yi Aç sayfasını göreceksiniz.

WebUI başlatıldığında kendi düğümünüzü de yapılandırabilirsiniz.

  • Sağ üst köşedeki profilinize tıklayın ve Ayarlar'ı seçin.
  • Ardından Bağlantılar'ı seçin. OpenAI API alanına düğüm tabanı URL'nizi yazın ve birkaç rastgele karakter girin.
  • Değişikliğin etkili olması için Kaydet'e tıklayın.

Open WebUI'yi bir Chatbot kullanıcı arayüzü olarak kullanma​

Bir model seçin altında sohbet modelini seçmeniz yeterlidir ve ardından GaiaNet düğümüne mesaj gönderebilirsiniz.

Open WebUI'yi istemci tarafı RAG aracı olarak kullanma​

Open WebUI ayrıca RAG uygulamasını uygulamak için bir yol sunar. Gaianet düğümleri OpenAI uyumlu gömme API'lerine sahip olduğundan, bu özelliği de kullanabilirsiniz. Ancak, bu özelliği kullanmak için, bunun gibi herhangi bir anlık görüntü olmadan bir düğüm başlatmanız önerilir.

Adım 1: GaiaNet düğümünü gömme API'si olarak kullanın

  • Sol üstteki Çalışma Alanı 'na tıklayın ve Belgeler sekmesini seçin. Burası yüklenen belgeleri yönettiğiniz yerdir.
  • Yerleştirme ayarını yapılandırmak için Belge Ayarları 'na tıklayın.
  • Genel Ayarlar'da Gömme Modeli Motoru olarak OpenAI'yi seçin. Düğüm API temel URL'sini ve birkaç rastgele karakter girin. Ardından, Gömme Modeli alanına gömme modeli adını girin. Değişiklikleri uygulamak için Kaydet'e tıklayın.

Adım 2: GaiaNet düğümünü gömme API'si olarak kullanın

Belgelerinizi yüklemek için + işaretine tıklayın.

3. Adım: Sohbet

Ardından sohbet sayfasına geri dönün. Bir mesaj göndermeden önce, bağlam olarak istediğiniz belgeyi seçmek için # yazın.

Bu kadar.