Red Hat AI ofrece soluciones para modernizar la administración pública, mejorando la eficiencia al reducir el tiempo y los recursos necesarios para diversas tareas. La propuesta de Red Hat busca hacer más con menos, optimizando los procesos y disminuyendo la complejidad operativa.
Se presenta un ejemplo de eficiencia que en la resolución de expedientes y radica en la capacidad de interactuar con documentos complejos y extensos utilizando IA. La implementación de un sistema RAG (Retrieval Augmented Generation) es clave, permitiendo que los Large Language Models (LLM) respondan preguntas específicas extrayendo contexto relevante de los documentos. Este proceso involucra bases de datos vectoriales y embeddings para transformar el texto en un formato manejable por la IA, facilitando búsquedas eficientes.
Desde el punto de vista técnico, la implementación se realiza mediante herramientas como ArgoCD para despliegues automatizados, asegurando una transición fluida del desarrollo a la producción. Se priorizan modelos pequeños y eficientes para optimizar costes y rendimiento. Las pipelines de datos son esenciales para la monitorización y preparación de la información, y el motor de inferencia vLLM mejora la velocidad de respuesta y la eficiencia en la ejecución de modelos empleando técnicas de gestión de memoria y cuantización. Esta solución es modular y adaptable, permitiendo futuras integraciones con agentes y otras bases de datos.
Un caso de uso real en la JCCM ilustra cómo la IA ha reducido el tiempo de resolución interno de meses a aproximadamente una semana. Los informes generados por IA ahora respaldan la toma de decisiones con mayor claridad y rapidez, dando poder a los funcionarios para actuar de manera más eficiente. A pesar de la automatización, se enfatiza la importancia de la intervención humana en el proceso, promoviendo una administración pública moderna y receptiva. La robustez de la implementación permite el despliegue en cualquier nube y minimiza los riesgos en producción gracias a la automatización con GitOps.