8.2.26

ollama + openweb ui

 curl -fsSL https://ollama.com/install.sh | sh
--> ça installe dans /usr/local
ollama pull qwen2.5-coder:32b
ollama list
--> ok si on voit qwen
ollama serve
--> devrait dire http://localhost:11434
sudo apt install -y docker.io docker-compose
sudo systemctl enable --now docker
sudo usermod -aG docker $USER
newgrp docker
docker run hello-world
--> si ça affiche "Hello from Docker" c'est tout bon
docker rm -f open-webui

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart unless-stopped \
  ghcr.io/open-webui/open-webui:main
--> à lancer plusieurs fois peut-être
--> ça installe open-webui sur le port 3000
dans un navigateur : http://localhost:3000
docker rm -f open-webui
SI OK POUR ALLER SUR L'INTERFACE OPENWEBUI MAIS ON VOIT PAS LE MODELE :
sudo systemctl edit ollama
-->coller ces 2 lignes dans le fichier
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
--> sauver le fichier avec le nom automatique
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo ss -ltnp | grep 11434




Aucun commentaire: