Aplica a: Servidores Dedicados con GPU · Tiempo estimado: 15 min
¿Qué vas a lograr?
Instalar y configurar un entorno de Inteligencia Artificial en tu Servidor Dedicado con GPU usando el instalador ai-stack, que incluye motor de IA, interfaz web de chat y acceso seguro por HTTPS.
Para quién es esta herramienta
El instalador está orientado a usuarios que reciben un servidor con GPU ya configurado y quieren activar rápidamente un entorno de IA para correr modelos de lenguaje (LLMs). No hace falta experiencia avanzada en servidores — el instalador se encarga de la configuración de red, la seguridad y las dependencias.
Si ya tenés experiencia con Docker, Ollama u otras herramientas, podés instalar los componentes por tu cuenta sin usar este asistente.
Base preinstalada en el servidor
Ubuntu 24.04 LTS
Drivers NVIDIA, CUDA, cuDNN y NCCL listos para usar
Acceso SSH como usuario root
Dominio predeterminado del tipo
sd-xxxxxxx-l.dattaweb.com
Qué incluye el stack
runtime | Instala Docker y las herramientas para que los contenedores usen la GPU. | Base necesaria para correr los demás servicios. |
ollama | Motor de IA que ejecuta modelos de lenguaje en la GPU del servidor. | Permite generar texto con modelos como Llama localmente, sin depender de servicios externos. |
model-demo | Descarga un modelo de ejemplo ( | Tener un modelo listo para usar apenas termina la instalación. |
open-webui | Interfaz web tipo chat para interactuar con los modelos de Ollama. También permite descargar modelos desde la interfaz. | Chatear con la IA desde el navegador sin usar la terminal. Gestionar modelos de forma visual. |
caddy | Puerta de entrada web con certificado de seguridad (HTTPS) automático. | Acceder al chat y a la API desde internet de forma segura, con usuario y contraseña. |
monitor-basic | Herramienta de terminal ( | Ver cuánta memoria y procesamiento usa la GPU — útil para saber si el servidor está saturado. |
Cómo instalar
Requisitos previos
Servidor con Ubuntu 24.04 LTS
GPU NVIDIA con drivers instalados (
nvidia-smidebe responder)Conexión a internet
Conectáte al servidor por SSH como root y posicionáte en /root:
cd /root
Instalación rápida (perfil recomendado)
Instala todo lo necesario para tener el chat con IA funcionando. El instalador detecta automáticamente el dominio del servidor:
ai-stack install --profile recommended
Con dominio propio:
ai-stack install --profile recommended --hostname ia.miempresa.com
Instalación eligiendo componentes
ai-stack install --components runtime,ollama,open-webui
El instalador agrega automáticamente las dependencias necesarias — si pedís open-webui, también instala runtime y ollama.
Con monitoreo de GPU
ai-stack install --profile recommended --with-monitor-basic
Agregar componentes después de instalar
ai-stack install --components monitor-basic
El instalador detecta lo que ya está instalado y solo agrega lo nuevo.
Comandos y opciones
install — Instalar componentes
ai-stack install [opciones]
Opción | Para qué sirve |
--profile recommended | Instala el paquete completo: runtime + caddy + ollama + modelo + open-webui |
--components runtime,ollama,... | Elegir manualmente qué componentes instalar |
--hostname miservidor.ejemplo.com | Indicar un dominio propio para HTTPS |
--model nombre-del-modelo | Cambiar el modelo que se descarga (por defecto: |
--skip-model-download | No descargar ningún modelo durante la instalación |
--with-monitor-basic | Incluir monitoreo de GPU |
--allow-degraded-recommended | Continuar aunque el dominio o certificado no esté listo |
status — Ver el estado del sistema
ai-stack status [opciones]
Opción | Para qué sirve |
(sin opciones) | Muestra un resumen legible de todos los componentes y si están funcionando. |
--json | Muestra la información en formato JSON (útil para integrar con otras herramientas). |
--show-credentials | Muestra el usuario y contraseña de acceso web generados en la instalación. |
remove — Quitar componentes
ai-stack remove --components open-webui [opciones]
Opción | Para qué sirve |
--components nombre1,nombre2 | Qué componentes quitar (separados por coma). |
--purge-data | También borrar los datos guardados (volúmenes de Docker). Sin esto, los datos se conservan. |
reset — Quitar todo
ai-stack reset [opciones]
Opción | Para qué sirve |
--purge-data | Borrar también los datos de los contenedores. |
--purge-models yes | Borrar los modelos de IA descargados. |
--purge-models no | Conservar los modelos descargados (útil para reinstalar sin volver a descargarlos).
|
ℹ️ Importante
reset
nunca
toca los drivers NVIDIA ni la configuración base del servidor.
help — Ver la ayuda
ai-stack help
Opciones globales
Opción | Para qué sirve |
--yes | Responder "sí" automáticamente a todas las preguntas de confirmación. |
--non-interactive | Modo automático: si hay algo que preguntar, falla en lugar de esperar respuesta. Útil para automatizaciones. |
--verbose | Mostrar información detallada de lo que está haciendo (útil si algo falla). |
--dry-run | Simular la operación sin hacer cambios reales (para verificar qué haría). |
Dominio y acceso seguro (HTTPS)
Al instalar Caddy, el servidor queda accesible desde internet con HTTPS y autenticación por usuario y contraseña.
Si no tenés dominio propio — no hace falta. El servidor ya viene con un dominio predeterminado (sd-xxxxxxx-l.dattaweb.com) que el instalador usa automáticamente.
Si querés usar un dominio propio — debe cumplir estas condiciones:
Tener un registro DNS tipo A apuntando a la IP pública del servidor
Esperar la propagación DNS y verificar con
nslookup ia.miempresa.comPuertos 80 y 443 abiertos en el firewall
No usar dominios locales (
.local,.internal,.test,.example)
Luego indicarlo al instalar:
ai-stack install --profile recommended --hostname ia.miempresa.com
Si el dominio propio todavía no está listo:
# Instalar sin requerir dominio propio (usa el predeterminado)
ai-stack install --profile recommended
# O instalar sin Caddy si el dominio predeterminado tampoco está disponible
ai-stack install --profile recommended --allow-degraded-recommended
# Más adelante, cuando el dominio propio esté listo, agregar Caddy
ai-stack install --components caddy --hostname ia.miempresa.com
Ver las credenciales de acceso:
ai-stack status --show-credentials
ℹ️ Nota
Estas credenciales no protegen la API de Ollama ni la interfaz de Open WebUI, ya que tienen sus propios sistemas de autenticación.
Primeros pasos con los componentes
Open WebUI (chat web)
Abrí el navegador y visitá
https://miservidor.midominio.comCreá el usuario administrador — la primera persona que ingresa crea la cuenta de admin, hacélo cuanto antes
Elegí el modelo en la pantalla de chat y empezá a escribir
Para descargar más modelos, usá la sección de configuración dentro de la interfaz
Ollama desde la terminal
# Chatear con un modelo
ollama run llama3.2:3b
# Descargar otro modelo
ollama pull mistral
# Ver los modelos descargados
ollama list
# Hacer una consulta por API (desde el servidor)
curl http://127.0.0.1:11434/api/generate -d '{"model":"llama3.2:3b","prompt":"Hola, cómo estás?"}
Para salir del chat de Ollama, escribí /bye o presioná Ctrl+D.
API de Ollama desde el navegador (sin Open WebUI)
Si instalaste Ollama y Caddy pero no Open WebUI, la API queda disponible en
https://miservidor.midominio.com/ollama/
Toda solicitud debe incluir el header Authorization con la API Key generada durante la instalación:
Para obtener la API Key:
# Se muestra al finalizar la instalación. Para recuperarla después:
ai-stack status --show-credentials
También se puede consultar directamente en el archivo de configuración de Caddy:
cat /opt/donweb/ai-stack/env/caddy.env | grep API_KEY
Ejemplos de uso con la API Key:
# Ver los modelos disponibles
curl -H "Authorization: Bearer TU_API_KEY" https://miservidor.midominio.com/ollama/api/tags
# Hacer una consulta a un modelo
curl -H "Authorization: Bearer TU_API_KEY" https://miservidor.midominio.com/ollama/api/generate \
-d '{"model": "llama3.2:3b", "prompt": "Hola, ¿cómo estás?"}'
⚠️ Cambiar la API Key
Editar el valor de AI_STACK_CADDY_OLLAMA_API_KEY en /opt/donweb/ai-stack/env/caddy.env y reinstalar con ai-stack install para aplicar el cambio. La protección por API Key solo aplica cuando Ollama está instalado sin Open WebUI.
Monitoreo de GPU
Si se instaló monitor-basic:
/opt/donweb/ai-stack/venvs/monitor-basic/bin/nvitop
Muestra en tiempo real el uso de la GPU, memoria, temperatura y procesos activos. Para salir, presioná q.
Solución de problemas
La instalación falla al inicio
"nvidia-smi no encontrado" → los drivers de la GPU no están instalados. Contactá a soporte
"Sistema operativo no soportado" → el instalador solo funciona en Ubuntu 24.04 LTS
No puedo acceder a Open WebUI
Verificá que el dominio apunte a la IP correcta y que los puertos 80 y 443 estén abiertos. Para ver los registros del contenedor:
docker logs ai-stack-open-webui
El certificado HTTPS no se genera
Las causas más frecuentes son: el dominio no apunta a la IP del servidor, los puertos 80/443 están bloqueados, o se usó un dominio no válido (.local, .test, etc.). Verificá el estado con ai-stack status.
Ollama no responde
# Verificar que el servicio esté corriendo
systemctl status ollama
# Ver los registros
journalctl -u ollama -n 50
# Probar la conexión
curl http://127.0.0.1:11434/api/tags
Open WebUI dice que no puede conectar con Ollama
Verificar que Ollama esté corriendo:
systemctl status ollamaReiniciar Open WebUI:
docker restart ai-stack-open-webui
Empezar de cero
# Quitar todo, incluyendo modelos descargados
ai-stack reset --purge-data --purge-models yes
# Volver a instalar
ai-stack install --profile recommended --hostname miservidor.midominio.com
Ver el registro del instalador
cat /opt/donweb/ai-stack/logs/ai-stack.log
Verificar el estado general
ai-stack status