Cree agentes generativos de IA que interactúen con los sistemas de sus empresas en unos pocos clics usando Amazon Bedrock en Amazon Sagemaker Unified Studio

Hoy anunciamos que la disponibilidad general de amazon Bedrock en amazon Sagemaker Unified Studio.

Las empresas de todos los tamaños enfrentan una presión de montaje para operar de manera eficiente a medida que administran volúmenes crecientes de datos, sistemas e interacciones con los clientes. Los procesos manuales y las fuentes de información fragmentadas pueden crear cuellos de botella y una toma de decisiones lentas, lo que limita a los equipos de centrarse en el trabajo de mayor valor. Los agentes generativos de IA ofrecen una solución poderosa al interactuar automáticamente con los sistemas de la empresa, ejecutar tareas y entregar información instantánea, ayudando a las organizaciones a ampliar las operaciones sin ampliar la complejidad.

amazon Bedrock en Sagemaker Unified Studio aborda estos desafíos al proporcionar un servicio unificado para construir soluciones impulsadas por la IA que centralice los datos del cliente y permitan las interacciones del lenguaje natural. Se integra con aplicaciones existentes e incluye características clave de rock de amazon como modelos de base (FMS), indicaciones, bases de conocimiento, agentes, flujos, evaluación y barandas. Los usuarios pueden acceder a estas capacidades de IA a través del inicio de sesión único (SSO) de su organización, colaborar con los miembros del equipo y refinar las aplicaciones de IA sin necesidad de acceso a la consola de administración de AWS.

Agentes generativos con flujos de trabajo automatizados

amazon Bedrock en Sagemaker Unified Studio le permite crear y implementar agentes de IA generativos que se integran con aplicaciones organizacionales, bases de datos y sistemas de terceros, lo que permite interacciones del lenguaje natural en toda la pila de tecnología. El agente de chat une sistemas de información complejos y una comunicación fácil de usar. Mediante el uso de las funciones de roca madre de amazon y las bases de conocimiento de la roca madre de amazon, el agente puede conectarse con fuentes de datos como Existir API para el seguimiento del estado del proyecto en tiempo real, recuperar la información del cliente, actualizar las tareas del proyecto y administrar las preferencias.

Los equipos de ventas y marketing pueden acceder rápidamente a la información del cliente y sus preferencias de reuniones, y los gerentes de proyectos pueden administrar eficientemente las tareas y plazos de JIRA. Este proceso simplificado mejora la productividad y las interacciones del cliente en toda la organización.

El siguiente diagrama ilustra el flujo de trabajo de solución de agente de IA generativo.

Descripción general de la solución

amazon Bedrock proporciona un entorno colaborativo gobernado para construir y compartir aplicaciones generativas de IA dentro de SageMaker Unified Studio. Veamos una solución de ejemplo para implementar un agente de gestión del cliente:

• Se puede construir un chat de agente con aplicaciones de chat de rock de amazon e integrarse con funciones que se pueden construir rápidamente con otros servicios de AWS como AWS Lambda y amazon API Gateway.
• Sagemaker Unified Studio, utilizando amazon Datazone, proporciona una solución integral de gestión de datos a través de sus servicios integrados. Los administradores de la organización pueden controlar el acceso de los miembros a los modelos y características de amazon Bedrock, manteniendo la gestión de identidad segura y el control de acceso granular.

Antes de sumergirnos en el despliegue del agente de IA, caminemos por los pasos clave de la arquitectura, como se muestra en el siguiente diagrama.

El flujo de trabajo es el siguiente:

1. El usuario inicia sesión en Sagemaker Unified Studio utilizando el SSO de su organización del AWS IAM Identity Center. Luego, el usuario interactúa con la aplicación de chat usando lenguaje natural.
2. La aplicación de chat de amazon Bedrock utiliza una función para recuperar el estado de JIRA y la información del cliente de la base de datos a través del punto final utilizando API Gateway.
3. La aplicación de chat se autentica con API Gateway para acceder de forma segura al punto final con la clave API aleatoria de AWS Secrets Manager, y activa la función Lambda en función de la solicitud del usuario.
4. La función Lambda realiza las acciones llamando a la API JIRA o la base de datos con los parámetros requeridos proporcionados por el agente. El agente tiene la capacidad de:

1. 1. Proporcione una breve descripción del cliente.
   2. Enumere las interacciones recientes del cliente.
   3. Recupere las preferencias de reunión para un cliente.
   4. Recupere los boletos de Open JIRA para un proyecto.
   5. Actualice la fecha de vencimiento para un boleto JIRA.

Requisitos previos

Necesita los siguientes requisitos previos para seguir con esta implementación de la solución:

Suponemos que está familiarizado con las construcciones fundamentales sin servidor en AWS, como API Gateway, funciones Lambda y IAM Identity Center. No nos enfocamos en definir estos servicios en esta publicación, pero sí los usamos para mostrar casos de uso para las nuevas funciones de rock de amazon en SageMaker Unified Studio.

Implementar la solución

Complete los siguientes pasos de implementación:

1. Descargue el código desde Girub.
2. Obtenga el valor de jira_api_key_arn, jira_url y jira_user_name para la función lambda.
3. Use la siguiente AWS CloudFormation plantillay consulte Crear una pila de la consola CloudFormation para iniciar la pila en su región AWS preferida.
4. Después de implementar la pila, anote el valor de la URL de la puerta de enlace de la API de CloudFormation Salidas pestaña (ApiInvokeURL).
5. En la consola Secrets Manager, encuentre los secretos para Jira_api_Key_arn, Jira_URL y JIRA_USER_NAME.
6. Elegir Recuperar secreto y copie las variables del paso 2 a la cadena secreta de texto sin formato.
7. Inicie sesión en Sagemaker Unified Studio utilizando el SSO de su organización.

Crea un nuevo proyecto

Complete los siguientes pasos para crear un nuevo proyecto:

1. En la página de destino de SageMaker Unified Studio, cree un nuevo proyecto.
2. Dale un nombre al proyecto (por ejemplo, crm-agent).
3. Elegir Perfil generativo de desarrollo de aplicaciones de IA y continuar.
4. Use la configuración predeterminada y continúe.
5. Revisar y elegir Crear proyecto para confirmar.

Cree la aplicación del agente de chat

Complete los siguientes pasos para crear la aplicación del agente de chat:

1. Bajo el Nuevo Sección ubicada a la derecha de la página de destino del proyecto CRM-agente, elija Agente de chat.

Tiene una lista de configuraciones para su aplicación de agente.

1. En la sección Modelo, elija un FM deseado admitido por amazon Bedrock. Para este agente CRM, elegimos amazon Nova Pro.
2. En la sección de solicitud del sistema, agregue el siguiente mensaje. Opcionalmente, puede agregar ejemplos de entrada del usuario y respuestas del modelo para mejorarla.

You are a customer relationship management agent tasked with helping a sales person plan their work with customers. You are provided with an API endpoint. This endpoint can provide information like company overview, company interaction history (meeting times and notes), company meeting preferences (meeting type, day of week, and time of day). You can also query Jira tasks and update their timeline. After receiving a response, clean it up into a readable format. If the output is a numbered list, format it as such with newline characters and numbers.

1. En el Funciones Sección, elija Crear una nueva función.
2. Darle un nombre a la función, como crm_agent_calling.
3. Para Esquema de funcionesuse la definición de OpenApi del Repositorio de Github.

1. Para Método de autenticaciónelegir API Keys (Max. 2 teclas)e ingrese los siguientes detalles:
   1. Para Clave enviadaelegir Encabezamiento.
   2. Para Nombre claveingresar x-api-key.
   3. Para Valor claveingrese la tecla API de Secrets Manager
2. En el Servidores API Sección, ingrese la URL de punto final.
3. Elegir Crear Para finalizar la creación de funciones.
4. En el Funciones Sección de la aplicación del agente de chat, elija la función que creó y elija Ahorrar Para terminar la creación de aplicaciones.

Interacciones de ejemplo

En esta sección, exploramos dos interacciones de ejemplo.

Caso de uso 1: El analista de CRM puede recuperar los detalles del cliente almacenados en la base de datos con lenguaje natural.

Para este caso de uso, hacemos las siguientes preguntas en la aplicación de chat:

• Dame una breve descripción del cliente C-JKL101112.
• Enumere las últimas 2 interacciones recientes para el cliente C-DEF456.
• ¿Qué método de comunicación prefiere el cliente C-MNO131415?
• Recomiende el tiempo óptimo y el canal de contacto para comunicarse con C-GHI789 en función de sus preferencias y nuestra última interacción.

La respuesta de la aplicación de chat se muestra en la siguiente captura de pantalla. El agente recupera con éxito la información del cliente de la base de datos. Entiende la pregunta del usuario y consulta la base de datos para encontrar las respuestas correspondientes.

Caso de uso 2: Los gerentes de proyecto pueden enumerar y actualizar el boleto JIRA.

En este caso de uso, hacemos las siguientes preguntas:

• ¿Cuáles son las tareas abiertas de JIRA para el proyecto ID CRM?
• Actualice la tarea JIRA CRM-3 a 1 semanas.

La respuesta de la aplicación de chat se muestra en la siguiente captura de pantalla. Similar al caso de uso anterior, el agente accede a la junta de JIRA y obtiene la información del proyecto JIRA. Proporciona una lista de tareas de JIRA abiertas y actualiza la línea de tiempo de la tarea siguiendo la solicitud del usuario.

Limpiar

Para evitar incurrir en costos adicionales, complete los siguientes pasos:

1. Elimine la pila de CloudFormation.
2. Elimine el componente de función en el lecho de roca de amazon.
3. Elimine la aplicación del agente de chat en amazon Bedrock.
4. Elimine los dominios en Sagemaker Unified Studio.

Costo

amazon Bedrock en Sagemaker Unified Studio no incurre en cargos separados, pero se le cobrará por los servicios y recursos individuales de AWS utilizados dentro del servicio. Solo paga los recursos de la roca madre de amazon que usa, sin tarifas mínimas o compromisos iniciales.

Si necesita más ayuda con los cálculos de precios o tiene preguntas sobre la optimización de los costos para su caso de uso específico, comuníquese con el apoyo de AWS o consulte con su gerente de cuenta.

Conclusión

En esta publicación, demostramos cómo usar amazon Bedrock en Sagemaker Unified Studio para construir una aplicación de IA generativa para integrarse con un punto final y una base de datos existente.

Las características generativas de IA de amazon Bedrock transforman la forma en que las organizaciones construyen y implementan soluciones de IA al permitir la prototipos y la implementación de agentes rápidos. Los equipos pueden crear, probar y iniciar rápidamente aplicaciones de agentes de chat, acelerar la implementación de soluciones de IA que automatizan tareas complejas y mejoran las capacidades de toma de decisiones. La escalabilidad y la flexibilidad de la solución permiten a las organizaciones integrar sin problemas las capacidades de IA avanzadas en aplicaciones, bases de datos y sistemas de terceros existentes.

A través de una interfaz de chat unificada, los agentes pueden manejar la gestión de proyectos, la recuperación de datos y la automatización del flujo de trabajo, lo que reduce significativamente el esfuerzo manual al tiempo que mejora la experiencia del usuario. Al hacer que las capacidades de IA avanzadas sean más accesibles y fáciles de usar, amazon Bedrock en Sagemaker Unified Studio faculta a las organizaciones para lograr nuevos niveles de productividad y satisfacción del cliente en el panorama competitivo actual.

Pruebe amazon Bedrock en Sagemaker Unified Studio para su propio caso de uso y comparta sus preguntas en los comentarios.

Sobre los autores

Jady Liu es un arquitecto senior de soluciones de IA/ML en el equipo de AWS Genai Labs con sede en Los Ángeles, CA. Con más de una década de experiencia en el sector de la tecnología, ha trabajado en diversas tecnologías y ha tenido múltiples roles. Apasionada por la IA generativa, colabora con los principales clientes en todas las industrias para lograr sus objetivos comerciales mediante el desarrollo de soluciones de IA generativas escalables, resistentes y rentables en AWS. Fuera del trabajo, le gusta viajar para explorar bodegas y destilerías.

Justin Oss es un arquitecto de soluciones especialistas en Genai Labs con sede en Dallas, TX. Es un profesional de TI muy apasionado con más de 15 años de experiencia en tecnología. Ha diseñado e implementado soluciones con infraestructura local e infraestructura basada en la nube para pequeñas empresas y empresas.