Red Hat · Software · ficha YoctoIT

OpenShift AI

La plataforma MLOps open y los modelos Granite servidos on-prem: la IA enterprise con los datos que se quedan en casa.

FOCUS · IA ON-PREM, DATOS EN CASADel notebook al modelo en producción, sobre tu infraestructura
Material YoctoIT para clientes y partners · Red Hat, RHEL, OpenShift, Ansible y los demás productos citados son marcas de Red Hat, Inc. o sus filiales.
01 · Qué es

OpenShift AI & RHEL AI, en claro.

OpenShift AI trae el ciclo de vida de los modelos dentro de OpenShift: workbenches para los data scientists, pipelines de entrenamiento, model serving escalable (vLLM/KServe) y monitorización. RHEL AI añade los modelos Granite de IBM e InstructLab para especializarlos con tus datos — todo on-prem, donde los datos pueden quedarse.

On-prem
LLM y RAG sobre tu infraestructura: los datos sensibles no salen
Granite
los modelos open de IBM, licencia Apache: base sólida y defendible
GPU-ready
scheduling de GPU nativo: NVIDIA (y no solo) gobernadas como recursos
OpenShift AI & RHEL AI
IMAGEN OFICIAL RED HAT · OPENSHIFT AI
SCHEMA UFFICIALE · WORKFLOW OPENSHIFT AI · FONTE: RED HAT DOCS
ESQUEMA OFICIAL · WORKFLOW OPENSHIFT AI · FUENTE: RED HAT DOCS
02 · Cómo usarlo bien

Las cosas que marcan la diferencia.

Del dato al servicio

Applicazioni & copilotichat, RAG, agentes sobre los procesos
Workbench
Pipeline
Serving
explorar · entrenar · exponer
OpenShift AIMLOps gobernado, GPU planificadas
Fusion HCI + GPUla base física para la IA
La IA como carga enterprise, no experimento

RAG con los datos de empresa

Documentos y knowledge bases consultables: el caso de uso que compensa primero, sin enviar datos fuera.

Model serving serio

Autoescalado, canaries y versionado de los modelos: la IA tratada como cualquier servicio de producción.

InstructLab

Granite especializado en tu dominio con ejemplos, no con retraining de millones: la IA a medida accesible.

Costes de GPU gobernados

Cuotas, time-slicing y monitorización: las GPU compartidas sin guerras entre equipos.

03 · En profundidad

Workbenches, pipelines y serving

OpenShift AI orquesta el ciclo ML: workbenches Jupyter con imágenes curadas (PyTorch, CUDA), Data Science Pipelines (Kubeflow) para entrenamientos reproducibles, model registry y serving con KServe — vLLM para los LLM, con autoescalado y canaries. Las GPU se reparten con time-slicing o MIG; RHEL AI e InstructLab especializan los Granite con la taxonomía de conocimiento; todo con RBAC y cuotas por proyecto.

  • Workbench — Jupyter gobernados con imágenes y almacenamiento por equipo
  • DS Pipelines — Kubeflow: el entrenamiento como pipeline versionada, no notebooks heroicos
  • KServe + vLLM — el serving de los LLM con batching y autoescalado
  • GPU sharing — MIG y time-slicing: la A100 dividida sin pelear
  • InstructLab — la taxonomía que especializa Granite: fine-tuning accesible
  • Model registry — versiones, métricas y aprobaciones: el modelo como artefacto
04 · Números y ciclo de vida

Los números que cuentan.

100%
on-prem posible: los datos no salen
MIG
hasta 7 instancias por GPU A100/H100
Granite
los modelos open (Apache 2) de IBM como base
4/anno
releases alineadas con OpenShift
La IA on-prem es una plataforma que operar: GPU, pipelines y serving los ponemos en producción con las mismas reglas que el resto.
05 · Casos de uso

Dónde rinde de verdad.

Copilotos internos

Asistentes sobre los documentos y procesos de empresa, on-prem.

Computer vision

Calidad y seguridad en las plantas, cerca de las líneas.

Data science platform

Un entorno gobernado para todos los equipos, GPU incluidas.

La IA enterprise es un problema de plataforma antes que de modelos: la plataforma es nuestro oficio.