Red Hat, el principal proveedor mundial de soluciones de código abierto, ha anunciado la creación de asago, un proyecto comunitario de código abierto destinado a automatizar la forma en que las políticas de gobernanza de la IA se convierten en sistemas de IA seguros y listos para producción. asago conecta los pasos, herramientas y requisitos fragmentados de los equipos de ingeniería y de cumplimiento normativo, para crear un flujo de trabajo automatizado, auditable y trazable. El objetivo es ayudar a ofrecer sistemas de IA más seguros y listos para producción que impulsen la innovación en días, no en meses o años.
¿Qué es asago?
asago (AI Safety And Governance Orchestration / Orquestación de Gobernanza y Seguridad de IA) planea utilizar una plataforma estandarizada de código abierto y un flujo de trabajo automatizado para traducir políticas corporativas y regulatorias complejas de gobernanza de IA en controles operacionales reales. Se basa en el trabajo de Red Hat y NVIDIA como miembros de la Open Secure AI Alliance, y alinea la flexibilidad de los desarrolladores con la gobernanza de los operadores a través de cuatro etapas principales:
- Mapeo de riesgos: El marco lee e interpreta automáticamente las políticas de gobernanza de IA cargadas, mapeando los requisitos específicos de una organización directamente a marcos, ontologías y estándares de riesgo de IA establecidos, como el NIST AI RMF, OWASP LLM Top 10, y la Ley de IA de la UE a través del IBM AI Risk Atlas, convirtiendo el lenguaje de las políticas en planes de riesgo ejecutables.
- Evaluación de riesgos: asago genera y ejecuta escenarios específicos de casos de uso para pruebas de seguridad automatizadas adaptadas a los riesgos identificados, buscando comportamientos perjudiciales en lugar de depender únicamente de evaluaciones comparativas genéricas.
- Mitigación de riesgos: A continuación, el proyecto recomienda mitigaciones, incluyendo barreras de seguridad basadas en pruebas, creando una justificación clara y un historial de auditoría listo para revisión.
- Despliegue en producción: asago orquesta los controles recomendados en configuraciones listas para el despliegue en distintas plataformas, incluidas la nube híbrida y Kubernetes, eliminando la codificación manual de infraestructura.
Cada uno de estos pasos estará diseñado para producir un historial de auditoría continuo, vinculando las cláusulas individuales de las políticas directamente con las pruebas y los controles en tiempo de ejecución, lo que permite a los revisores ver exactamente qué riesgo aborda cada acción. Esto ayuda a transformar la seguridad de la IA en un servicio empresarial más predecible y gobernado.
¿Por qué es importante asago?
Traducir las directrices de políticas abstractas en configuraciones de software funcionales ralentiza la innovación en IA e introduce riesgos adicionales derivados de errores de comunicación y malentendidos humanos. Los responsables de cumplimiento normativo exigen evaluaciones de riesgo rigurosas y pruebas verificables, mientras que los ingenieros de plataformas necesitan configuraciones estructuradas que puedan mantenerse dentro de los flujos de trabajo estándar de DevOps y GitOps. A medida que entran en vigor regulaciones de amplio alcance como la Ley de IA de la UE, las organizaciones no pueden correr el riesgo de paralizar la innovación durante meses de revisiones manuales ni de crear despliegues de IA en la sombra (shadow AI) sin supervisión y sin las barreras de seguridad adecuadas.
asago pretende resolver esta fricción proporcionando un estándar único y abierto en el que puedan converger los equipos de cumplimiento normativo, los científicos de datos y los administradores de infraestructura. Al tratar a cada actor como un usuario de primer nivel, la plataforma creará controles de seguridad para agentes autónomos de IA y modelos de lenguaje de gran tamaño (LLM) empresariales, sin introducir las inconsistencias de la traducción manual.
Lo que dice Red Hat
“A medida que las organizaciones pasan de pilotos experimentales de IA a agentes autónomos de larga duración, el establecimiento de límites operativos claros se convierte en un requisito crítico de infraestructura”, afirma Steven Huels, AI Engineering, Red Hat. “A través de iniciativas como Lightwell, estamos trabajando para proteger la cadena de suministro de código abierto de las vulnerabilidades impulsadas por la IA. asago complementa este esfuerzo y da el siguiente paso lógico para la IA empresarial al automatizar el enlace entre las definiciones de políticas corporativas y los agentes de producción en vivo. Esto brinda a las empresas la confianza operativa de extremo a extremo que necesitan para escalar una IA confiable en toda la nube híbrida”.
“El proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a actores del sector tecnológico, del ámbito académico y del gobierno”, señala Stuart Battersby, AI safety and model evaluation architect, Red Hat. “Animamos a más colaboradores a unirse a este esfuerzo impulsado por la comunidad, particularmente desde jurisdicciones globales, para garantizar la máxima cobertura de los puntos de vista sobre la seguridad de la IA”.
Puntos clave
● Automatización para superar la complejidad de las políticas: Reemplaza la interpretación manual y los scripts personalizados por un flujo de trabajo de orquestación integrado, reduciendo el tiempo de despliegue de meses a días.
● Un historial de auditoría único: Sirve a los responsables de políticas, CIOs, desarrolladores de IA, ingenieros de plataformas y auditores externos dentro de una interfaz de trazabilidad unificada.
● Código abierto y gobernanza comunitaria: Publicado bajo la Licencia Apache 2.0 para fomentar la colaboración abierta en todo el ecosistema de seguridad de la IA.
● Despliegue independiente de la infraestructura: Genera configuraciones declarativas para Kubernetes, Terraform y Ansible, lo que permite a las organizaciones mantener posturas de seguridad consistentes en múltiples nubes y entornos locales (on-premises).
Más detalles
El proyecto Asago reúne a líderes del sector y a instituciones académicas, entre las que se incluyen Red Hat, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, la Universidad Estatal de Carolina del Norte, NVIDIA y el Instituto Alan Turing, en el marco de una iniciativa en la que participan múltiples organizaciones con el objetivo de integrar diversos conocimientos especializados en los ámbitos de la investigación sobre seguridad de la IA, la ingeniería de software empresarial, adversarial machine learning y el cumplimiento normativo.
El proyecto se integrará con las mejores herramientas abiertas y se centrará específicamente en resolver los problemas de integración entre ellas. Su objetivo será proporcionar capacidades de trazabilidad completa y distribuida que registren las bases de evidencia requeridas por los auditores para demostrar el cumplimiento. Esto permite vincular cada control activo en un entorno de producción real directamente con la norma específica que lo justifica, garantizando así una verificación continua en todo el catálogo de IA de la empresa.
Lo que dicen los socios de Red Hat
"En Alquimia construimos nuestra plataforma agéntica sobre una convicción: la inferencia de IA debe ser controlada, explicable y soberana por diseño, no como una idea secundaria de cumplimiento", dice Sebastián Cao, chief executive officer, Alquimia AI. "Asago convierte esa misma convicción en un estándar abierto, brindando a cada organización un camino desde la definición de las reglas hasta una gobernanza lista para producción que realmente se pueda auditar. Este es exactamente el tipo de infraestructura que la industria necesita, y es por eso que a través de gaussia.ai hemos estado contribuyendo con métricas abiertas y con base científica para medir cómo se comportan realmente los sistemas de IA en el mundo real. Los marcos de gobernanza abiertos como Asago hacen posible que comunidades enteras, y no solo los proveedores, se pongan de acuerdo sobre cómo se ve la IA confiable en la práctica".
"Brave está entusiasmado de unirse a la comunidad asago para ayudar a hacer avanzar el panorama de la seguridad de la IA, ya que una Web más segura es buena para todos", afirma Brendan Eich, chief executive officer and co-founder, Brave Software. "Brave siempre ha sido de código abierto y esperamos colaborar con asago para garantizar que la privacidad y la seguridad sean la base de las herramientas de IA. Más de 120 millones de usuarios navegan y buscan con Brave, y esperamos que nuestro enfoque centrado en el usuario contribuya a elevar el listón con respecto a las barreras de seguridad sólidas para la IA".
"Para ser confiable en entornos del mundo real, la IA necesita pruebas medibles y controles operativos. A través de la comunidad asago, IBM aporta su experiencia para ayudar a cerrar la brecha entre los marcos de gobernanza y los sistemas de IA desplegados", dijo Priya Nagpurkar, vice president, AI Platform, IBM Research. "Esto complementa el trabajo más amplio que se realiza para el Proyecto Lightwell, donde ayudamos a los clientes a asegurar las vulnerabilidades de código abierto. Al reunir a la industria, la academia y las comunidades de código abierto, asago puede ayudar a establecer una base más transparente y responsable para la adopción de la IA empresarial".
"Desarrollar una IA confiable requiere más que buenas intenciones. Requiere una gobernanza que se pueda implementar, verificar y mantener continuamente", indica el Dr. Ben Wagner, Professor of Human Rights and Technology, IT:U. "asago fue diseñado para ayudar a transformar políticas de alto nivel en flujos de trabajo de ingeniería prácticos. IT:U tiene una sólida trayectoria tanto en la gobernanza técnica como en la organizacional de la IA, por lo que estamos agradecidos por la oportunidad de contribuir a asago. Esperamos que capacite a las organizaciones para innovar con confianza mientras hace que el desarrollo responsable de la IA sea una realidad práctica".
"Muchos de los desafíos de seguridad más difíciles de la IA aún no se han resuelto, y ninguna organización puede abordarlos todos por sí sola", asegura Sarah Bird, chief product officer, Responsible AI, Microsoft. "Los estándares abiertos y ampliamente adoptados pueden ayudar a crear una gobernanza más consistente en todo el ecosistema, mientras que el ingenio colectivo de la comunidad puede acelerar el progreso en los problemas que más importan. Estamos entusiasmados de unirmos a la comunidad asago y trabajar junto a otros para ayudar a construir una IA que sea segura y digna de la confianza de la gente".
"La colaboración en código abierto es fundamental para avanzar en la seguridad de la IA en todo el ecosistema", declara Diane Staheli, chief scientist, AI and Cybersecurity, MIT Lincoln Laboratory. "La iniciativa asago incorporará investigación multidisciplinaria para abordar la brecha crítica entre los requisitos de gobernanza y la realidad operativa. Estamos entusiasmados de contribuir a este esfuerzo para que las herramientas de seguridad de la IA sean ampliamente accesibles".
"Garantizar que los sistemas de IA sean seguros es un problema de ingeniería tanto como un problema de políticas, y ninguna empresa, laboratorio o universidad lo resolverá solo", afirma Veena Misra, interim dean, College of Engineering, North Carolina State University. "La Facultad de Ingeniería de la NC State aporta una profunda solidez investigadora en seguridad de IA a la comunidad asago, junto con ingenieros que se gradúan listos para construir sistemas de IA seguros y listos para producción desde el primer día. Asociaciones como esta son la forma en que conectamos a nuestra gente y programas directamente con lo que la industria necesitará a continuación".
"La Open Secure AI Alliance se fundó sobre el principio de que los modelos abiertos, los entornos de pruebas abiertos y las herramientas abiertas constituyen la base más sólida para la defensa de la IA, y asago pone en práctica ese principio", dice Daniel Rohrer, vice president, Software Security, NVIDIA. "Al automatizar la traducción de las políticas de gobernanza de IA en controles y registros de auditoría listos para producción, el proyecto asago demuestra cómo Red Hat, NVIDIA y nuestro ecosistema están fortaleciendo la seguridad de los agentes con herramientas de código abierto".
"Ninguna organización por sí sola puede hacer que la IA sea segura y gobernable a escala; se necesitan herramientas abiertas, experiencia diversa y una gobernanza neutral", afirma Jason McEwen, chief scientist, The Alan Turing Institute, and Professor at UCL. "Eso es exactamente lo que hace que el modelo impulsado por la comunidad de asago sea atractivo, y se conecta directamente con nuestro trabajo de IA Confiable y Asegurada dentro de la Fundamental Research en el Instituto Alan Turing. Nos complace unirmos como socio fundador y ayudar a dar forma a la dirección del proyecto junto con la comunidad en general".
Disponibilidad
El proyecto asago se encuentra actualmente en su fase de creación. Los desarrolladores, investigadores académicos y primeros adoptantes empresariales pueden ver el repositorio y participar en la gobernanza del proyecto a través de GitHub. Obtenga más información y exprese su interés en colaborar visitando asago.ai o completando el formulario del grupo comunitario.