Aunque los agentes de IA prometen aumentar la productividad empresarial automatizando tareas complejas, su efectividad radica en el acceso a datos de alta calidad, tanto estructurados como no estructurados. Sin embargo, gestionar el control de acceso y mantener rigurosos protocolos de privacidad, a la par que se recupera información precisa de forma eficiente, supone un reto considerable para muchas organizaciones.
Para abordar este problema, Snowflake presenta Cortex Agents, un servicio completamente gestionado que simplifica la integración, la recuperación y el procesamiento de datos estructurados y no estructurados, lo que ayuda a las empresas a crear agentes de alta calidad a escala.
Cortex Agents: Llevando la IA a las empresas
Cortex Agents, ahora disponible en versión preliminar pública, orquesta fuentes de datos estructuradas y no estructuradas, ya sean tablas de Snowflake o archivos PDF guardados en almacenamiento de objetos, para proporcionar información valiosa. Desglosan consultas complejas, recuperan datos relevantes y generan respuestas precisas utilizando Cortex Search, Cortex Analyst y LLM, garantizando así precisión, eficiencia y gobernanza en cada paso del proceso.
Los Cortex Agents planifican tareas, utilizan herramientas para ejecutarlas y reflexionan sobre los resultados para mejorar las respuestas. Disponibles como una práctica REST API, los Cortex Agents pueden integrarse perfectamente en cualquier aplicación.
Cortex Analyst: Generación de SQL impulsada por IA, con comprensión semántica
Cortex Analyst puede utilizarse como una herramienta dentro de Cortex Agents.
A diferencia de los sistemas típicos text-to-SQL que se basan únicamente en la coincidencia de patrones, Cortex Analyst utiliza un modelo semántico para asignar términos comerciales a los datos subyacentes. Este enfoque único mejora la precisión en casos de uso reales que involucran entornos complejos de múltiples tablas.
Novedades de Cortex Analyst
Manejo de una mayor complejidad del esquema: Cortex Analyst ahora va más allá de star-schema y Snowflake-schema JOINs. Nuestra nueva validación avanzada de JOIN mitiga problemas comunes, como las alucinaciones de JOIN y el doble recuento, que a menudo surgen en consultas complejas. Esto permite a Cortex Analyst soportar consultas de múltiples tablas sin comprometer la precisión.
Generación y supervisión de modelos semánticos: La versión preliminar pública de la nueva interfaz de usuario de administración de Analyst en Snowsight simplifica el proceso de creación y perfeccionamiento de modelos semánticos. Los administradores pueden seleccionar tablas y columnas, y utilizar LLM (que se ejecutan dentro del perímetro de seguridad de Snowflake) para generar un archivo YAML de modelo semántico inicial. La interfaz de administración también supervisa la interacción y los comentarios de los usuarios. Esto permite a los clientes realizar un seguimiento del uso y realizar mejoras informadas en los modelos semánticos a lo largo del tiempo.
Personalización para la lógica específica del negocio: Con las Instrucciones personalizadas, ahora disponibles para el público general, los usuarios pueden adaptar Cortex Analyst a sus necesidades comerciales únicas utilizando lenguaje natural en el archivo del modelo semántico. Los casos de uso comunes incluyen la especificación de fechas de inicio del año fiscal, la explicación de las convenciones de nomenclatura internas y la priorización de tablas clave durante la generación de SQL.
Con estas actualizaciones, Cortex Analyst mejora el análisis de datos estructurados y simplifica la configuración de administración para aplicaciones agénticas.
Cortex Search: Motor de contexto de alta calidad para datos no estructurados
Los Cortex Agents utilizan Cortex Search para recuperar datos no estructurados (por ejemplo, texto, audio, imagen, vídeo). Cortex Search es una búsqueda híbrida nativa, una combinación de búsqueda vectorial y léxica (por palabra clave), con un paso adicional de reordenamiento semántico, para ofrecer una recuperación de alta calidad y baja latencia a escala.
Cortex Search logra una calidad de vanguardia, superando a las plataformas de búsqueda empresarial de la competencia en precisión de recuperación (NDCG@10) con modelos de incrustación de OpenAI en al menos un 11 % en un conjunto diverso de pruebas de referencia.
Novedades de Cortex Search
● Mayor escala y accesibilidad: Cortex Search ahora admite la indexación de cientos de millones de filas. Además, los costes de servicio de Cortex Search se han reducido en un 30% como resultado de las optimizaciones de la infraestructura.
● Mayor capacidad de personalización: Cortex Search ahora ofrece la capacidad de seleccionar el modelo de incrustación vectorial para la búsqueda semántica. Esto incluye dos modelos multilingües, snowflake-arctic-embed-l-v2.0 y voyage-multilingual-2. Además, Cortex Search admite el filtrado por rango de fechas en las columnas de metadatos.
● Nuevas funciones en versión preliminar: Las nuevas funciones en versión preliminar incluyen la interfaz de usuario de administración de Cortex Search (para la observabilidad y el ajuste de la calidad); potenciación y degradación en señales numéricas y temporales; puntuaciones de confianza de los resultados; y capacidades de filtrado avanzadas.
Con estas nuevas funciones, Cortex Search ofrece una base escalable y personalizable para aplicaciones de búsqueda y agénticas basadas en datos de Snowflake.
Observabilidad de la IA: Evaluación y seguimiento de agentes de IA
La observabilidad de la IA aporta fiabilidad, rendimiento y confianza a las aplicaciones de IA generativa. Con evaluaciones y supervisión adecuadas, las empresas pueden obtener resultados más precisos, optimizar los costes y abordar sus necesidades de gobernanza.
Novedades de la observabilidad de la IA de Cortex
La observabilidad de Cortex AI en Snowflake funciona con TruLens y pronto estará disponible en versión preliminar pública.
Evaluación integral: La observabilidad de la IA puede evaluar el rendimiento de los agentes y las aplicaciones utilizando técnicas como LLM-as-a-judge. Puede informar métricas como la relevancia, la fundamentación y la nocividad, lo que brinda a los clientes la capacidad de iterar y refinar rápidamente el agente para mejorar el rendimiento.
Comparación: Los usuarios pueden comparar ejecuciones de evaluación en paralelo y evaluar la calidad y la precisión de las respuestas en diferentes configuraciones de LLM para identificar la mejor configuración para las implementaciones de producción.
Seguimiento completo: Los clientes pueden habilitar el registro para cada paso de las ejecuciones del agente en las indicaciones de entrada, el uso de herramientas y la generación de respuestas finales. Esto permite una fácil depuración y refinamiento para la precisión, la latencia y el costo.
Una gobernanza y un procesamiento eficaces de datos estructurados y no estructurados dentro de Snowflake son cruciales para crear conjuntos de datos preparados para la IA que los servicios de recuperación puedan utilizar. La compatibilidad de Snowflake con datos no estructurados incluye capacidades para almacenar, acceder, procesar, administrar, gobernar y compartir dichos datos. El conector de Snowflake para SharePoint verifica que se respeten los permisos existentes para asegurar los controles de acceso. Además, la adquisición de Datavolo por parte de Snowflake mejora la capacidad de la plataforma para manejar la integración de datos multimodales, lo que refuerza su compromiso con una sólida gobernanza y procesamiento de datos.
Con estas capacidades, la observabilidad de Cortex AI hace que las aplicaciones de IA sean más eficientes y confiables para el uso empresarial.
El futuro de los agentes de IA
Los agentes de IA están trascendiendo la automatización básica, gestionando dinámicamente acciones y razonamientos complejos. Esto representa una mejora significativa respecto a las herramientas de software actuales, en su mayoría reactivas. A medida que los LLM siguen avanzando, los agentes colaborarán, planificarán, ejecutarán y perfeccionarán tareas, impulsando la eficiencia y reduciendo costes. Los agentes tienen el potencial de reducir significativamente los gastos, tanto de software como de mano de obra.
Cortex Agents, mediante Cortex Analyst, Cortex Search, y la observabilidad de IA, aportan inteligencia sobre un marco de gobernanza unificado y un motor de procesamiento eficiente para datos estructurados y no estructurados.