IA e InferenciaÍndice

La categoría ai recoge dónde se sitúa la IA en la plataforma y dónde no se le permite intervenir. Abarca el límite que mantiene a la IA alejada del registro autoritativo, el enrutamiento entre modelos, y los modelos pequeños del lado del cliente diseñados para aprender el propio entorno de un cliente. El núcleo determinista funciona completamente sin IA.

Esta es la puerta de entrada a la afirmación arquitectónica más distintiva de la plataforma — la IA se usa, y se contiene — y para los ingenieros que buscan una pieza específica de la pila de IA: el límite de inferencia, el enrutamiento soberano, el programa de modelos por niveles de proveedor, y las canalizaciones de entrenamiento que lo producen.

"El núcleo funciona completamente sin ella" es la afirmación central de esta categoría, y el artículo que la sustenta — Substrato sin inferencia — El caso base — vive en Conceptos Fundamentales, no aquí. Léalo primero si está evaluando la afirmación de contención en sí misma; todo lo demás la asume.

Por dónde empezar

Diez artículos integran esta categoría. Estos tres sostienen el argumento de principio a fin: qué es el límite, qué se le pide realmente a un modelo detrás de él, y hacia dónde apunta la escalera de cómputo. Todo lo demás desarrolla uno de esos tres.

• Protocolo Doorman — El límite en sí: una única puerta, todas las credenciales externas, cada llamada registrada en un libro mayor inmutable. Léalo antes que cualquier otro artículo de la categoría.
• Arquitectura de extracción de entidades por niveles — Para qué se usa realmente la inferencia — tres niveles de extracción por documento — y dónde termina la ruta determinista y empieza un modelo.
• PointSav-LLM — El extremo superior planificado de la escalera: un modelo especialista de nivel proveedor, y la declaración más clara de hacia dónde va el programa de IA, más que de dónde está hoy.

El límite del Doorman

La única puerta por la que se enruta cada llamada de inferencia — ningún servicio posee sus propias credenciales de IA ni realiza una llamada saliente directa.

• Protocolo Doorman — Doorman es el único límite de solicitud de IA a través del cual se enruta toda llamada de inferencia — conserva cada credencial de modelo externo y registra cada llamada en un libro mayor de auditoría inmutable.
• Enrutamiento de IA y la esclusa lingüística — El enrutamiento de IA mantiene cada credencial de modelo externo y audita cada solicitud en una única frontera. No depura PII de los prompts, y el enrutamiento de Nivel C hacia modelos externos todavía no está en producción.
• Restricciones en tiempo de decodificación — La técnica de decodificación restringida, y una línea clara entre esa técnica y lo que PointSav ha construido hoy: un linter asesor posterior a la generación, con el mecanismo basado en gramática planificado, no implementado.
• Arquitectura de la pila Rust de SLM — El grafo de dependencias Rust y la arquitectura de binarios de service-slm, el servicio Doorman que media cada llamada de inferencia en la plataforma PointSav.

Niveles de cómputo

Dónde se ejecuta realmente la inferencia, y el modelo especializado de proveedor hacia el que apunta el nivel superior.

• Inferencia sin contenedores — Patrón de implementación GPU de Nivel B con binarios Linux nativos bajo systemd sobre una GPU L4, con la detección de inactividad ejecutándose desde el proceso del servidor Doorman en lugar de un temporizador en la propia VM de GPU.
• PointSav-LLM — El modelo de IA especialista planificado para el Nivel 3 del sistema de cuatro niveles SLM de PointSav, construido mediante entrenamiento continuo de OLMo 3 32B sobre el corpus federado de aprendizaje de la plataforma.

Extracción de entidades y el bucle de entrenamiento

Cómo la plataforma convierte el uso en señal de entrenamiento — el mecanismo detrás de "la plataforma aprende de cómo se usa."

• Arquitectura de extracción de entidades por niveles — La plataforma PointSav ejecuta tres niveles de extracción en secuencia sobre cada documento: el Nivel 0 proporciona detección extractiva rápida vía GLiNER; el Nivel A ofrece una alternativa generativa vía OLMo en CPU; el Nivel B aplica enriquecimiento en GPU y registra las mejoras como señal de entrenamiento.
• Canalización nocturna de entrenamiento LoRA de Elastic Compute #1 — Pipeline nocturno de dos fases en Elastic Compute #1 que reconstruye el DataGraph del despliegue y entrena pesos adaptadores LoRA para el modelo de lenguaje local.
• DataGraph de aprendizaje — Ciclo de entrenamiento que convierte interacciones del operador en señal de entrenamiento — captura de trayectorias, una cola de aprendizaje y un canal de destilación GLiNER→OLMo que genera pares DPO de extracción de entidades.
• Flujo de conocimiento: bucle de entrenamiento y DataGraph ontológico — Marco de calidad del flujo de conocimiento Totebox: si los adaptadores LoRA mejoran el modelo de forma medible y si el DataGraph es una ontología precisa y bien resuelta.

Véase también

• Arquitectura — la construcción de tres anillos que hace estructural este límite
• Conceptos Fundamentales — conceptos de mecanismo relacionados con la IA, incluyendo el artículo de opcionalidad de IA mencionado arriba
• Servicios de la plataforma — las páginas por servicio, incluyendo el propio servicio de IA