Differences

This shows you the differences between two versions of the page.

--- informatica:inteligencia_artificial:agentes [2025/10/16 09:41] – [ollama] jose
+++ informatica:inteligencia_artificial:agentes [2026/05/16 23:25] (current) – jose
@@ Line 7: / Line 7: @@
   DIR_OLLAMA=/media/jose/2Tb/ia/ollama
   docker run --name ollama -v $DIR_OLLAMA/scrics:/scrics -v $DIR_OLLAMA/usr_local_lib:/usr/local/lib -v $DIR_OLLAMA/root_ollama:/root/.ollama -ti debian
+MAC ponemos mas memoria al docker:
+  docker run -d --name ollama -p 11434:11434 --memory="16g" -v $DIR_OLLAMA/scrics:/scrics -v $DIR_OLLAMA/usr_local_lib:/usr/local/lib -v $DIR_OLLAMA/root_ollama:/root/.ollama -ti debian
   apt-get install -y curl python3-venv
@@ Line 82: / Line 86: @@
 condiciones meteorológicas específicas y locales.
 </code>
+====== Tools ======
+Para que el LLM tenga acceso a herramientas dinámicas, por ejemplo consulta del tiempo mañana.
+  pip install ollama
+====== LITELLM ======
+LiteLLM te puede hacer de proxy a otros modelos
+Arrancamos litellm con el comando:
+  litellm --model ollama/llama3.2:1b --port 6969
+Pero hace de proxy y podemos hacer llamadas al modelo gpt-4o con este curl:
+  curl --silent http://127.0.0.1:6969/v1/chat/completions   -H "Content-Type: application/json"   -d '{  "model": "gpt-4o", "messages": [  { "role": "user", "content": "Cual es la capital de España?" }     ] }'