Esta publicación está coescrita con Joe Clark de Domo.
La información obtenida a partir de los datos es fundamental para que las empresas puedan tomar decisiones basadas en datos, identificar tendencias y optimizar las operaciones. Tradicionalmente, para obtener esta información se necesitaban analistas expertos que utilizaran herramientas especializadas, lo que puede hacer que el proceso sea lento y menos accesible.
La inteligencia artificial (IA) generativa ha revolucionado este ámbito al permitir que los usuarios interactúen con los datos mediante consultas en lenguaje natural, lo que proporciona información y visualizaciones instantáneas sin necesidad de conocimientos técnicos. Esto puede democratizar el acceso a los datos y acelerar el análisis.
Sin embargo, las empresas pueden enfrentar desafíos al usar IA generativa para obtener información sobre datos, incluido el mantenimiento de la calidad de los datos, el abordaje de las preocupaciones sobre la privacidad, la gestión de sesgos de los modelos y la integración de los sistemas de IA con los flujos de trabajo existentes.
Domo Domo es un innovador en experiencias de datos centradas en la nube que permite a los usuarios tomar decisiones basadas en datos. Gracias a la inteligencia artificial y la ciencia de datos, los paneles y las aplicaciones fáciles de usar de Domo permiten procesar los datos, lo que genera un impacto comercial exponencial. Domo conecta, transforma, visualiza y automatiza los datos a través de integraciones simples y automatización inteligente, lo que fortalece todo el recorrido de datos.
En esta publicación, compartimos cómo Domo usa amazon Bedrock para brindar una solución de inteligencia artificial flexible y poderosa.
El propósito de Domo al utilizar IA generativa
El entorno de datos empresariales de Domo atiende a una base de clientes diversa con distintos requisitos basados en datos. Domo trabaja con organizaciones que dan mucha importancia a la obtención de información útil a partir de sus activos de datos. La solución existente de Domo ya permite a estas organizaciones extraer información valiosa a través de la visualización y el análisis de datos. El siguiente paso es proporcionarles una interfaz más intuitiva y conversacional para interactuar con sus datos, lo que les permitirá generar visualizaciones e informes significativos a través de interacciones en lenguaje natural.
Domo.ai con tecnología de amazon Bedrock
ai.domo.com/” target=”_blank” rel=”noopener”>Domo.ai Simplifica la exploración y el análisis de datos al guiarlo de manera inteligente en cada paso, desde la preparación de los datos hasta la previsión y la automatización. Lo hace con conversaciones en lenguaje natural, información contextual y personalizada con respuestas narrativas y visuales, y una seguridad y gobernanza sólidas para una experiencia de control de riesgos guiada.
ai-service-layer/” target=”_blank” rel=”noopener”>Capa de servicio de inteligencia artificial de Domo es la base de la experiencia Domo.ai. Domo utiliza la capa de servicio de IA de Domo con amazon Bedrock para brindarles a los clientes una solución de IA flexible y potente. La capa de servicio de IA le permite a Domo cambiar entre diferentes modelos proporcionados por amazon Bedrock para tareas individuales y realizar un seguimiento de su rendimiento en métricas clave como precisión, latencia y costo. Esto le permite a Domo optimizar el rendimiento del modelo a través de ingeniería rápida, preprocesamiento y posprocesamiento, y brindar información contextual y ejemplos al sistema de IA. La capa de servicio de IA y su integración con amazon Bedrock permiten a Domo ofrecer a sus clientes las herramientas que necesitan para aprovechar la IA en toda su organización, desde la exploración de datos mediante un chat de IA basado en lenguaje natural hasta aplicaciones personalizadas y automatizaciones impulsadas por una variedad de modelos de IA.
amazon Bedrock es un servicio totalmente administrado que ofrece una selección de modelos de base (FM) de alto rendimiento de empresas de IA líderes como AI21 Labs, Anthropic, Cohere, Meta, Mistral ai, Stability ai y amazon a través de una única API, junto con un amplio conjunto de capacidades para crear aplicaciones de IA generativa con seguridad, privacidad e IA responsable. Con amazon Bedrock, puede experimentar y evaluar rápidamente los mejores FM para su caso de uso, personalizarlos de forma privada con sus datos mediante técnicas como el ajuste fino y la generación aumentada de recuperación (RAG), y crear agentes que organicen tareas utilizando sus sistemas empresariales y fuentes de datos. Debido a que amazon Bedrock no tiene servidor, no tiene que administrar la infraestructura y puede integrar e implementar de forma segura capacidades de IA generativa en sus aplicaciones mediante los servicios de AWS con los que ya está familiarizado.
Descripción general de la solución
El siguiente diagrama ilustra la arquitectura de la solución y el flujo de datos.
El flujo de trabajo incluye los siguientes pasos:
- Los usuarios finales interactúan con Domo.ai a través de su sitio web o aplicación móvil. La solicitud del usuario final pasa primero por un agente de chat de IA. El agente de chat de IA utiliza la capacidad de los modelos de lenguaje grandes (LLM) para interpretar la entrada del usuario, determinar cómo resolver la pregunta o solicitud del usuario utilizando las herramientas disponibles y formar una respuesta final. La solicitud pasa por barandillas, que son mecanismos y estrategias para hacer cumplir el uso responsable, ético y seguro del modelo de IA. Esto ayuda a garantizar que las respuestas generadas por el agente de chat de IA estén alineadas con las políticas de IA responsables de la organización y no contengan contenido inapropiado o dañino. Domo utiliza lógica empresarial personalizada para implementar ai-security/” target=”_blank” rel=”noopener”>salvaguardias en sus aplicaciones de IA generativa que se adaptan a los casos de uso de sus clientes y a las políticas de IA responsables.
- El componente Agent Planner es responsable de organizar las distintas tareas necesarias para cumplir con la solicitud del usuario final. Llama al servicio amazon Bedrock a través de una API para crear un plan de ejecución, lo que implica seleccionar las herramientas y los modelos adecuados para recuperar información relevante o realizar acciones personalizadas. Las herramientas hacen referencia a las distintas capacidades o acciones que el agente de chat de IA puede utilizar para recopilar información y realizar tareas. Las herramientas proporcionan al agente acceso a datos y funciones más allá de lo que está disponible en el LLM subyacente.
- El componente de ejecución de herramientas es el proceso de invocar las herramientas seleccionadas e integrar sus resultados para generar la respuesta final. Esto permite al agente ir más allá del conocimiento contenido en el LLM e incorporar información actualizada o realizar operaciones específicas del dominio.
- A medida que se ejecutan las herramientas, la entrada del usuario se utiliza para encontrar información semánticamente relevante mediante la búsqueda vectorial o para consultar datos privados de fuentes como amazon Redshift utilizando Amplificador Domo Cloudque es una integración nativa con sistemas de nube cruzada para desbloquear productos de datos a la velocidad que las empresas necesitan. La búsqueda vectorial es una técnica que se utiliza para encontrar información semánticamente relevante de fuentes de datos no estructurados, como artículos de bases de conocimiento u otros documentos. Al crear incrustaciones vectoriales del contenido, el agente de chat de IA puede buscar y recuperar de manera eficiente la información más relevante para la consulta del usuario, incluso si la redacción exacta no está presente en el material de origen.
- La información como los resultados de búsqueda o consulta del Paso 3 se devuelve al agente de chat de IA, donde el componente solucionador del agente puede agregar los resultados para formular una respuesta final o, en el caso de consultas más complejas, el agente puede ejecutar otra herramienta.
- Cada uno de los componentes de la solución utiliza la capa de servicio Domo ai con amazon Bedrock para capacidades de planificación y razonamiento, convirtiendo las preguntas de los usuarios en consultas SQL o creando incrustaciones para la búsqueda vectorial y devolviendo resultados en una respuesta en lenguaje natural a la pregunta del usuario basada en datos privados del cliente.
El siguiente vídeo de Domo.ai proporciona una descripción más detallada de las características y capacidades clave del producto.
¿Por qué Domo eligió amazon Bedrock?
Domo eligió amazon Bedrock por los siguientes beneficios y características:
- Elección del modelo amazon Bedrock ofrece a Domo acceso a una amplia gama de modelos, incluidas las mejores opciones de su clase y las de varios proveedores, como Anthropic, AI21 Labs, Cohere, Meta y Stability ai. Esta variedad permite a Domo probar exhaustivamente sus servicios utilizando diferentes modelos, lo que les permite seleccionar la opción más adecuada para cada caso de uso específico. Como resultado, Domo puede acelerar su proceso de desarrollo y ofrecer valor a sus clientes más rápidamente al aprovechar esta flexibilidad en la selección y experimentación de modelos.
- Seguridad, cumplimiento e infraestructura global amazon Bedrock aborda problemas cruciales de seguridad y cumplimiento normativo para Domo y sus clientes. Con amazon Bedrock, Domo se asegura de que los datos permanezcan dentro del entorno de alojamiento de AWS, lo que ayuda a evitar que los proveedores de modelos accedan a los datos de los clientes o realicen entrenamientos con ellos. Con cifrado en tránsito y en reposo, junto con acceso restringido a las cuentas de implementación de modelos, amazon Bedrock proporciona una sólida protección de datos. Además, Domo ha implementado múltiples barandillas con diversas combinaciones de control para adaptarse a diferentes aplicaciones y casos de uso. amazon Bedrock ofrece una única API para inferencia, lo que facilita la comunicación segura entre los usuarios y el FM. Además, la infraestructura global y las características de cumplimiento normativo de amazon Bedrock permiten a Domo escalar e implementar sus aplicaciones de IA generativa en todo el mundo, al tiempo que se adhieren a las leyes de privacidad de datos y las mejores prácticas.
- Costo – Al utilizar amazon Bedrock, Domo ha logrado un importante ahorro de costes, con una reducción del 50 % en comparación con modelos similares de otros proveedores. El acceso sin servidor a LLM de alta calidad elimina la necesidad de realizar importantes inversiones iniciales en infraestructura, que suelen estar asociadas a los LLM. Este enfoque rentable permite a Domo experimentar y probar varios modelos sin incurrir en los elevados gastos que suelen estar asociados a la implementación y el mantenimiento de los LLM, optimizando así la asignación de recursos y mejorando la eficiencia operativa general.
En el siguiente video, Joe Clark, arquitecto de software en Domo, comparte cómo AWS ha sido fundamental para Domo en el espacio de la IA generativa.
Introducción a amazon Bedrock
Con amazon Bedrock, los equipos y las personas pueden comenzar a usar FM de inmediato sin tener que preocuparse por aprovisionar infraestructura o configurar marcos de ML.
Antes de comenzar, verifique que su usuario o rol tenga permiso para crear o modificar recursos de amazon Bedrock. Para obtener más información, consulte Ejemplos de políticas basadas en identidad para amazon Bedrock.
Para acceder a los modelos en amazon Bedrock, en la consola de amazon Bedrock, elija Acceso al modelo En el panel de navegación, revise el EULA y habilite los FM que desee en su cuenta.
Puedes comenzar a interactuar con los FM a través de los siguientes métodos:
Conclusión
amazon Bedrock ha sido fundamental para mejorar la información y las capacidades de visualización de datos en Domo a través de la IA generativa. Al brindar flexibilidad en la selección de FM, acceso seguro y una experiencia completamente administrada, amazon Bedrock le ha permitido a Domo brindar más valor a sus clientes y, al mismo tiempo, reducir los costos. Las características de seguridad y cumplimiento del servicio también le han permitido a Domo brindar servicios a clientes en industrias altamente reguladas. Al usar amazon Bedrock, Domo ha experimentado una reducción del 50 % en los costos en comparación con un modelo de rendimiento similar de otro proveedor.
Si está listo para comenzar a desarrollar su propia innovación de FM con amazon Bedrock, consulte Introducción a amazon Bedrock. Para obtener más información sobre otras aplicaciones interesantes de amazon Bedrock, consulte la sección amazon Bedrock del blog de aprendizaje automático de AWS.
Acerca de los autores
Joe Clark Joe es arquitecto de software del equipo de Domo Labs y arquitecto principal de la capa de servicio de IA, el chat de IA y la gestión de modelos de Domo. En Domo, Joe también dirigió el desarrollo de funciones como Jupyter Workspaces, Sandbox y Code Engine. Con 15 años de experiencia profesional en el desarrollo de software, anteriormente trabajó en iniciativas de IoT y ciudades inteligentes.
Aman Tiwari es un arquitecto de soluciones generales que trabaja con proveedores de software independientes en el sector de datos e inteligencia artificial generativa en AWS. Los ayuda a diseñar soluciones innovadoras, resistentes y rentables utilizando los servicios de AWS. Tiene una maestría en Redes de Telecomunicaciones de la Universidad Northeastern. Fuera del trabajo, le gusta jugar tenis sobre césped y leer libros.
Sindhu Jambunathan Sindhu es arquitecta de soluciones sénior en AWS y se especializa en brindar soporte a clientes ISV en el sector de datos e inteligencia artificial generativa para crear soluciones escalables, confiables, seguras y rentables en AWS. Con más de 13 años de experiencia en la industria, se unió a AWS en mayo de 2021 después de un exitoso período como ingeniera de software sénior en Microsoft. La diversa experiencia de Sindhu incluye funciones de ingeniería en Qualcomm y Rockwell Collins, complementadas con una maestría en Ciencias en Ingeniería Informática de la Universidad de Florida. Su experiencia técnica se equilibra con una pasión por la exploración culinaria, los viajes y las actividades al aire libre.
Mohamed Tahsin es arquitecto de soluciones especializado en IA/ML en amazon Web Services. Su pasión es mantenerse actualizado con las últimas tecnologías en IA/ML y ayudar a los clientes a implementar soluciones a medida en AWS. Fuera del trabajo, le encantan los videojuegos, el arte digital y la cocina.
