Organizaciones de todos los tamaños y en todas las industrias buscan utilizar la IA generativa para transformar fundamentalmente el panorama empresarial con experiencias de cliente reinventadas, mayor productividad de los empleados, nuevos niveles de creatividad y procesos comerciales optimizados. Un estudio reciente de Servicios de asesoramiento en telecomunicacionesuna firma de investigación y consultoría reconocida mundialmente que se especializa en estudios de impacto económico, muestra que la IA habilitada en la nube agregará más de 1 billón de dólares al PIB global de 2024 a 2030.
Las organizaciones buscan acelerar el proceso de creación de nuevas soluciones de IA. Utilizan servicios totalmente administrados, como amazon SageMaker ai, para crear, entrenar e implementar modelos de IA generativa. A menudo, también quieren integrar las herramientas de desarrollo de IA diseñadas específicamente para crear sus modelos en SageMaker ai.
Sin embargo, el proceso de identificación de las aplicaciones apropiadas es complejo y exigente, y requiere un esfuerzo significativo para garantizar que la aplicación seleccionada satisfaga las necesidades comerciales específicas de una organización. Implementar, actualizar, administrar y escalar la aplicación seleccionada también exige mucho tiempo y esfuerzo. Para cumplir con rigurosos protocolos de seguridad y cumplimiento, las organizaciones también necesitan que sus datos permanezcan dentro de los límites de seguridad sin la necesidad de almacenarlos en una infraestructura propiedad del proveedor de software como servicio (SaaS).
Esto aumenta el tiempo que tardan los clientes en pasar de los datos a la información. Nuestros clientes quieren una forma sencilla y segura de encontrar las mejores aplicaciones, integrar las aplicaciones seleccionadas en su entorno de desarrollo de IA generativa y de aprendizaje automático (ML), y gestionar y escalar sus proyectos de IA.
<h2 id="introducing-amazon-sagemaker-partner-ai-apps”>Presentamos las aplicaciones de inteligencia artificial de los socios de amazon SageMaker
Hoy, nos complace anunciar que las aplicaciones de IA de los socios de AWS ya están disponibles en SageMaker. Ahora puede encontrar, implementar y utilizar estas aplicaciones de IA de forma privada y segura, todo sin salir de SageMaker ai, para que pueda desarrollar modelos de IA de alto rendimiento más rápido.
Proveedores de aplicaciones líderes en la industria
El primer grupo de socios y aplicaciones (que se muestran en la siguiente figura) que incluimos son Comet y su aplicación de seguimiento de experimentos de modelos, Deepchecks y su aplicación de evaluación y calidad de modelos de lenguaje grande (LLM), Fiddler y su aplicación de observabilidad de modelos, y Lakera y su aplicación de seguridad de IA.
Gestionado y seguro
Estas aplicaciones están completamente administradas por SageMaker ai, por lo que los clientes no tienen que preocuparse por aprovisionar, escalar y mantener la infraestructura subyacente. SageMaker ai garantiza que los datos confidenciales permanezcan completamente dentro del entorno SageMaker de cada cliente y nunca se compartirán con un tercero.
<h3 id="available-in-sagemaker-ai-and-sagemaker-unified-studio-preview”>Disponible en SageMaker ai y SageMaker Unified Studio (vista previa)
Los científicos de datos y los ingenieros de ML pueden acceder a estas aplicaciones desde amazon SageMaker ai (anteriormente conocido como amazon SageMaker) y desde SageMaker Unified Studio. Esta capacidad permite a los científicos de datos y a los ingenieros de ML acceder sin problemas a las herramientas que necesitan, mejorando su productividad y acelerando el desarrollo y la implementación de productos de IA. También permite a los científicos de datos y a los ingenieros de ML hacer más con sus modelos colaborando sin problemas con sus colegas en los equipos de datos y análisis.
Integración perfecta del flujo de trabajo
La integración directa con SageMaker ai brinda una experiencia de usuario fluida, desde la creación e implementación de modelos hasta el monitoreo continuo de la producción, todo dentro de su entorno de desarrollo de SageMaker. Por ejemplo, un científico de datos puede ejecutar experimentos en su portátil SageMaker Studio o SageMaker Unified Studio Jupyter y luego usar la aplicación Comet ML para visualizar y comparar esos experimentos.
Acceso optimizado
Utilice créditos de AWS para utilizar aplicaciones de socios sin tener que atravesar largos procesos de adquisición o aprobación, acelerando la adopción y el escalamiento de la observabilidad de la IA.
Aplicación profunda
La integración de estas aplicaciones de IA en SageMaker Studio le permite crear modelos y soluciones de IA sin salir de su entorno de desarrollo de SageMaker. Echemos un vistazo al grupo inicial de aplicaciones lanzadas en re:Invent 2024.
Cometa
Comet proporciona una solución de evaluación de modelos de un extremo a otro para desarrolladores de IA con las mejores herramientas de su clase para el seguimiento de experimentos y el monitoreo de la producción de modelos. Los clientes empresariales y los equipos académicos confían en Comet desde 2017. Dentro de SageMaker Studio, Notebooks and Pipelines, los científicos de datos, los ingenieros de ML y los investigadores de IA pueden utilizar las sólidas capacidades de seguimiento y monitoreo de Comet para supervisar los ciclos de vida de los modelos desde la capacitación hasta la producción, brindando transparencia y reproducibilidad de los flujos de trabajo de ML.
Puede acceder a la interfaz de usuario de Comet directamente desde SageMaker Studio y SageMaker Unified Studio sin la necesidad de proporcionar credenciales adicionales. AWS implementa, administra y respalda la infraestructura de la aplicación, lo que brinda una experiencia integral y una integración perfecta. Esto significa que cada implementación de Comet a través de SageMaker ai se aísla de forma segura y se aprovisiona automáticamente. Puede integrar perfectamente las herramientas avanzadas de Comet sin alterar los flujos de trabajo existentes de SageMaker ai. Para obtener más información, visite Cometa.
controles profundos
Deepchecks se especializa en evaluación de LLM. Sus capacidades de validación incluyen puntuación automática, comparación de versiones y métricas calculadas automáticamente para propiedades como relevancia, cobertura y contexto. Estas capacidades permiten a las organizaciones probar, monitorear y mejorar rigurosamente sus aplicaciones LLM mientras mantienen la soberanía completa de los datos.
Las capacidades de puntuación automática de última generación de Deepchecks para aplicaciones LLM, junto con la infraestructura y las herramientas diseñadas específicamente proporcionadas por SageMaker ai para cada paso del ciclo de vida de ML y FM, hacen posible que los equipos de IA mejoren la calidad de sus modelos. y cumplimiento.
A partir de hoy, las organizaciones que utilizan AWS pueden trabajar inmediatamente con las herramientas de evaluación LLM de Deepchecks en su entorno, minimizando las preocupaciones de seguridad y privacidad porque los datos permanecen completamente contenidos dentro de sus entornos de AWS. Esta integración también elimina la sobrecarga de incorporar un proveedor externo, porque AWS optimiza los aspectos legales y de adquisiciones. Para obtener más información, visite controles profundos.
<h3 id="fiddler-ai“>Violinista ai
La solución Fiddler ai Observability permite a los equipos de ciencia de datos, ingeniería y línea de negocio validar, monitorear, analizar y mejorar los modelos de aprendizaje automático implementados en SageMaker ai.
Con las capacidades avanzadas de Fiddler, los usuarios pueden realizar un seguimiento del rendimiento del modelo, monitorear la deriva e integridad de los datos y recibir alertas para diagnósticos inmediatos y análisis de la causa raíz. Este enfoque proactivo permite a los equipos resolver problemas rápidamente, mejorando continuamente la confiabilidad y el rendimiento del modelo.
lagora
Lakera se asocia con empresas y empresas de tecnología de alto crecimiento para desbloquear su transformación de IA generativa. La aplicación de Lakera, Lakera Guard, proporciona visibilidad, protección y control en tiempo real para aplicaciones de IA generativa. Al proteger los datos confidenciales, mitigar los ataques rápidos y crear barreras de seguridad, Lakera Guard se asegura de que su IA generativa siempre interactúe como se espera.
A partir de hoy, puede configurar una instancia dedicada de Lakera Guard dentro de SageMaker ai que garantiza la privacidad de los datos y ofrece un rendimiento de baja latencia, con la flexibilidad de escalar junto con las necesidades cambiantes de su aplicación de IA generativa.
Vea cómo los clientes utilizan las aplicaciones de los socios
“El equipo de IA/ML de Natwest Group aprovecha SageMaker y Comet para desarrollar rápidamente soluciones para los clientes, desde una rápida detección de fraude hasta un análisis en profundidad de las interacciones con los clientes. Ahora que Comet es una aplicación asociada de SageMaker, optimizamos nuestra tecnología y mejoramos el flujo de trabajo de nuestros desarrolladores, mejorando el seguimiento de experimentos y el monitoreo de modelos. Esto conduce a mejores resultados y experiencias para nuestros clientes”.
– Greig Cowan, director de IA y ciencia de datos, NatWest Group.“amazon SageMaker desempeña un papel fundamental en el desarrollo y operación de la infraestructura de inteligencia artificial y aprendizaje automático propia de Ping Identity. La capacidad de las aplicaciones de IA del socio de SageMaker nos permitirá ofrecer una funcionalidad impulsada por ML más rápida y efectiva a nuestros clientes como un servicio privado y totalmente administrado, que respalda nuestros estrictos requisitos de seguridad y privacidad y al mismo tiempo reduce los gastos operativos”.
– Ran Wasserman, arquitecto principal, Ping Identity.
<h2 id="start-building-with-ai-apps-from-aws-partners”>Comience a crear con aplicaciones de IA de socios de AWS
amazon SageMaker ai brinda acceso a una selección altamente seleccionada de aplicaciones de proveedores líderes en la industria que están diseñadas y certificadas para ejecutarse de forma nativa y privada en SageMaker ai. Los científicos y desarrolladores de datos pueden encontrar, implementar y utilizar rápidamente estas aplicaciones dentro de SageMaker ai y el nuevo estudio unificado para acelerar su viaje de construcción de modelos de IA generativa y aprendizaje automático.
Puede acceder a todas las aplicaciones de IA de los socios de SageMaker disponibles directamente desde SageMaker ai y SageMaker Unified Studio. Haga clic para ver la funcionalidad de una aplicación específica, los términos de la licencia y los costos estimados de implementación. Después de suscribirse, puede configurar la infraestructura en la que se ejecutará su aplicación seleccionando un nivel de implementación y parámetros de configuración adicionales. Una vez que la aplicación finalice el proceso de aprovisionamiento, podrá asignar acceso a sus usuarios, quienes encontrarán la aplicación lista para usar en sus entornos SageMaker Studio y SageMaker Unified Studio.
Sobre los autores
Gwen Chen es gerente senior de marketing de productos de IA generativa en AWS. Comenzó a trabajar en productos de inteligencia artificial en 2018. Gwen lanzó un producto de creación de aplicaciones impulsado por PNL, MLOps, asistentes generativos impulsados por inteligencia artificial para la integración de datos y la creación de modelos, y capacidades de inferencia. Gwen se graduó de un programa de doble maestría en ciencias y negocios con Duke y UNC Kenan-Flagler. A Gwen le gusta escuchar podcasts, esquiar y bailar.
Naufal Mir es arquitecto senior de soluciones especializado en IA/ML generativa en AWS. Se centra en ayudar a los clientes a crear, entrenar, implementar y migrar cargas de trabajo de aprendizaje automático a SageMaker. Anteriormente trabajó en institutos de servicios financieros desarrollando y operando sistemas a escala. Le gusta correr y andar en bicicleta de ultra resistencia.
Kunal Jha es gerente senior de productos en AWS. Su objetivo es crear amazon SageMaker Studio como el IDE elegido para todos los pasos del desarrollo de aprendizaje automático. En su tiempo libre, Kunal disfruta esquiar, bucear y explorar el noroeste del Pacífico. Puedes encontrarlo en LinkedIn.
Eric Peña es gerente técnico senior de productos en el equipo de plataformas de inteligencia artificial de AWS y trabaja en el aprendizaje automático interactivo de amazon SageMaker. Actualmente se centra en integraciones IDE en SageMaker Studio. Tiene un MBA del MIT Sloan y fuera del trabajo le gusta jugar baloncesto y fútbol.
Arkaprava Desde es un gerente que dirige el equipo de aplicaciones de SageMaker Studio en AWS. Ha estado en amazon durante más de 9 años y actualmente está trabajando para mejorar la experiencia del IDE de amazon SageMaker Studio. Puedes encontrarlo en LinkedIn.
Huang Zuoyuan es gerente de desarrollo de software en AWS. Ha estado en amazon durante más de cinco años y se ha centrado en crear aplicaciones SageMaker Studio y experiencia IDE. Puedes encontrarlo en LinkedIn.
