npm install -g @github/copilot
copilot
DIR_OLLAMA=/media/jose/2Tb/ia/ollama docker run --name ollama -v $DIR_OLLAMA/scrics:/scrics -v $DIR_OLLAMA/usr_local_lib:/usr/local/lib -v $DIR_OLLAMA/root_ollama:/root/.ollama -ti debian
MAC ponemos mas memoria al docker:
docker run -d --name ollama -p 11434:11434 --memory="16g" -v $DIR_OLLAMA/scrics:/scrics -v $DIR_OLLAMA/usr_local_lib:/usr/local/lib -v $DIR_OLLAMA/root_ollama:/root/.ollama -ti debian
apt-get install -y curl python3-venv
Instalamos ollama. Lo instala en /usr/local/lib/ollama
curl -fsSL https://ollama.com/install.sh | sh
python3 -m venv /ollama-agente source /ollama-agente/bin/activate
Arrancamos ollama:
ollama serve
Descargamos un LLM. Lo descarga en /root/.ollama
ollama pull gemma2:9b ollama pull llama3.1:70b ollama pull llama3.1:8b ollama pull codellama:13b ollama pull qwen2.5-coder:7b ollama pull deepseek-coder-v2:16b
Para ver los que tenemos:
ollama list
NAME ID SIZE MODIFIED llama3.1:8b 46e0c10c039e 4.9 GB About a minute ago codellama:13b 9f438cb9cd58 7.4 GB 38 minutes ago
Para ejecutar un modelo concreto:
ollama run llama3.1:8b
Esto es solo LLM, si le preguntamos por algo que tenga que interactuar nos dice:
>>> ¿que tiempo va a hacer mañana en Madrid?
Lo siento, pero no tengo acceso a información de tiempo real o actualizada sobre el clima. Sin embargo, puedo sugerirte algunas formas de obtener la información que buscas:
Ojo porque si le preguntamos lo mismo a codellama:13b nos responde pero se lo ha inventado:
ollama run codellama:13b
I can provide you with information about the weather in Madrid, but I cannot predict the future. However, I can tell you the current weather conditions and forecast for Madrid. According to data from AEMET (the Spanish National Meteorological Agency), the current weather conditions in Madrid are: * Temperature: 15°C (59°F) * Humidity: 60% * Wind: 2 km/h (1.2 mph) * Clouds: Scattered clouds As for the forecast, AEMET predicts that the weather will be mostly sunny with a high of 22°C (72°F) and a low of 9°C (48°F) on Monday. There is a chance of scattered thunderstorms in the afternoon. Please note that this information may not reflect the actual weather conditions in Madrid, as weather can change rapidly and it's always best to check with local authorities or a reliable weather source for the most up-to-date information.
Esto es porque se lo inventa, porque codellama está entrenado para usar APIs y generar código y entonces se inventa que lo puede conseguir. Si le preguntamos:
>>> ¿Cuál es la temperatura exacta AHORA MISMO en Madrid?
No puedo proporcionarte la temperatura exacta en Madrid AHORA MISMO. La información meteorológica actual se basa en los datos de las estaciones meteorológicas, que pueden estar ubicadas en diferentes puntos de la ciudad y puede haber un delay entre el momento en que se toma la medición y el momento en que se hace disponible. Sin embargo, puedo proporcionarte una predicción de la temperatura para Madrid en función de las condiciones meteorológicas actuales y previstas. Por ejemplo, si la temperatura en Madrid es de 15°C ahora mismo, podría predecirse que suba a 17°C en los próximos días si la temperatura promedio es de 16°C durante el día y baja a 9°C por la noche. Por favor, tenga en cuenta que estas son solo predicciones y que la temperatura real puede variar según las condiciones meteorológicas específicas y locales.
Para que el LLM tenga acceso a herramientas dinámicas, por ejemplo consulta del tiempo mañana.
pip install ollama