Arquitectura de sistemas con IA

Te damos la bienvenida al Capítulo 12, Arquitectura de sistemas con IA. Trata de los sistemas construidos en torno a la inteligencia artificial, o IA: modelos de aprendizaje automático y modelos de lenguaje grandes, o LLM. Necesitan todo lo que enseñaron los capítulos anteriores, además de nuevas respuestas a nuevas preguntas. ¿Dónde debe ejecutarse un modelo? ¿Cómo lo fundamentas en tus propios datos, dejas que use herramientas de forma segura, pruebas algo probabilístico y te defiendes de la inyección de prompts?

Este capítulo es para desarrolladores y arquitectos que conocen el resto del curso y que deben diseñar, revisar o gobernar sistemas con IA que sean fiables, seguros y asequibles. Se basa en todo el curso: cada cualidad, estilo y práctica, aplicados ahora a componentes probabilísticos. Se apoya sobre todo en los atributos de calidad, la arquitectura de datos, la seguridad y la privacidad, la resiliencia y la observabilidad, y la evaluación y las funciones de aptitud. Esas ideas anteriores cambian de forma aquí. Los atributos de calidad incluyen ahora la exactitud y la fundamentación. La resiliencia debe hacer frente a los límites de tasa y a las caídas de un proveedor de modelos. Y las pruebas se convierten en evaluación. Este es el último capítulo, así que conduce a la evaluación final y al caso práctico integrador.

La mayor parte de un sistema con IA es software corriente. Este diagrama de contenedores de la sección doce punto dos muestra el ejemplo recurrente del capítulo: un asistente de atención al cliente para la plataforma de reparto de comida. Los clientes chatean a través de la app móvil, que se comunica con un servicio de chat. Las conversaciones difíciles se traspasan a una consola de agentes, donde las recogen los agentes humanos de soporte. En el centro está el orquestador, que contiene los prompts, las herramientas y los límites. Busca en un índice del centro de ayuda y hace llamadas a herramientas de los servicios existentes de pedidos y de reembolsos. Cada llamada al modelo pasa por un gateway de IA, que guarda las claves de los proveedores, enruta cada llamada y recurre al proveedor B cuando falla el proveedor A. Las trazas de cada llamada se conservan para la evaluación. Solo el modelo es nuevo. Pero su comportamiento es estadístico en lugar de especificado: normalmente correcto, a veces erróneo con total seguridad, y suministrado por un proveedor que puede restringir su uso, cambiarlo o retirarlo. Eso cambia cómo debe diseñarse todo lo que lo rodea.

Las cuatro primeras secciones construyen el sistema. La sección doce punto uno explica qué son el aprendizaje automático y los modelos de lenguaje grandes: el entrenamiento y la inferencia, los tokens, las ventanas de contexto, el muestreo y los embeddings, y por qué la alucinación y el no determinismo son inherentes. La sección doce punto dos sitúa el modelo en una arquitectura: alojado por un proveedor, autoalojado o en el dispositivo, detrás de un gateway de IA, con enrutamiento, cascadas, escaleras de alternativas y humanos en el bucle. La sección doce punto tres trata la generación aumentada por recuperación, o RAG, el patrón más común para fundamentar las respuestas en tus propios datos, desde el chunking y los índices vectoriales hasta la búsqueda híbrida y el control de acceso. La sección doce punto cuatro pasa de responder a actuar: la llamada a herramientas, el bucle del agente, los patrones de flujo de trabajo, el Model Context Protocol, o MCP, y la ingeniería de fiabilidad que necesitan los agentes.

Las otras cuatro secciones hacen que el sistema sea digno de confianza y sostenible. La sección doce punto cinco muestra cómo probar un comportamiento probabilístico, con conjuntos de evaluación, métricas, un modelo que actúa como juez y evaluaciones de regresión que actúan como funciones de aptitud. La sección doce punto seis trata la inyección de prompts, la agencia excesiva y los demás riesgos catalogados por OWASP, y las defensas por capas que los contienen. La sección doce punto siete aborda la economía de los tokens, la latencia, la caché y el procesamiento por lotes, y la práctica de versionar, trazar y monitorizar las llamadas a modelos. Y la sección doce punto ocho trata la gobernanza de datos, la equidad, la transparencia y la supervisión humana, y cómo dan forma a la arquitectura la normativa, como el Reglamento de IA de la UE, y los marcos, como el NIST AI Risk Management Framework.

Un modelo de lenguaje no puede distinguir de forma fiable las instrucciones de los datos, así que cualquier texto de su contexto puede intentar dirigirlo. Este diagrama de la sección doce punto seis muestra la respuesta: capas deterministas alrededor de un modelo no confiable. El mensaje de un usuario pasa primero por los controles de entrada y luego por un constructor de contexto, que marca el contenido no confiable e incorpora datos filtrados según los propios derechos de acceso del usuario. El modelo ocupa el centro, marcado como nunca confiable. Su salida pasa por los controles de salida, que comprueban el esquema y filtran lo que llega al usuario. Cuando pide usar una herramienta, un gateway de herramientas aplica la autorización y las políticas. Las acciones con consecuencias necesitan aprobación humana antes de llegar a los sistemas de negocio, mientras que las llamadas de solo lectura van directamente. Y la monitorización recoge logs, trazas y alertas de anomalías, con un interruptor de emergencia (kill switch). Ningún prompt es un límite de seguridad. Estas capas deterministas deciden qué puede ver el modelo, qué puede hacer y qué llega al usuario.

Hay dos ejemplos recurrentes. El asistente de soporte que acabas de ver incorpora la recuperación en la sección doce punto tres y las herramientas en la doce punto cuatro, y se evalúa, se protege y se calcula su costo en las secciones siguientes. El segundo es este mismo curso. ArchitectBot responde a las preguntas de los estudiantes recuperando pasajes de los propios capítulos del curso y llama a una escalera de modelos de más de un proveedor, para que una sola caída no lo silencie. Las respuestas escritas de las pruebas las corrige un modelo con una rúbrica fija.

La sección doce punto ocho explica que el Reglamento de IA de la UE regula según el riesgo: prácticas prohibidas, sistemas de alto riesgo, obligaciones de transparencia y riesgo mínimo, con obligaciones aparte para los modelos de IA de uso general. Ese material es información general, no asesoramiento jurídico. Las obligaciones dependen de los hechos de cada sistema y de los textos legales exactos y las orientaciones en vigor, que siguen cambiando. En cualquier decisión real de clasificación o de cumplimiento deben participar asesores jurídicos cualificados.

Trata el modelo como un componente con talento, falible y no confiable, y deja que una arquitectura determinista decida qué ve, qué puede hacer y qué pasa con su salida. Fundamenta sus respuestas en hechos recuperados y permitidos. Valida todo lo que produce y dale el mínimo privilegio que necesite su tarea. Exige confirmación humana para las acciones con consecuencias. Mide su calidad de forma continua, como harías con cualquier otro atributo de calidad, y planifica para cuando falle su proveedor. Los modelos seguirán mejorando, y los sistemas construidos sobre este principio mejoran con ellos.

Las secciones siguen al ejemplo recurrente a medida que crece, así que leerlas en orden funciona bien. Pero cada sección se sostiene por sí sola, así que puedes ir directamente a la que necesites. Calcula unas tres horas y media para leer el capítulo entero. Los proveedores y los modelos se nombran solo como ejemplos, porque el mercado cambia cada pocos meses mientras que los principios no. Al final de cada sección hay preguntas de autoevaluación. Respóndelas mentalmente antes de mirar las respuestas. Cuando estés listo, hay una prueba del capítulo opcional, que lleva unos cuarenta y cinco minutos. Tiene veinte preguntas de opción múltiple y dos respuestas escritas. La nota de aprobado es el ochenta por ciento.

Esa es la forma del último capítulo. Empieza por la sección doce punto uno, sobre el aprendizaje automático y los modelos de lenguaje grandes para arquitectos. Nos vemos allí.