En el blog del mes pasado, inicié una serie de publicaciones que destacan los factores clave que impulsan a los clientes a elegir amazon Bedrock. Exploré cómo Bedrock permite a los clientes construir una base segura y compatible para aplicaciones de IA generativa. Ahora me gustaría abordar un diferenciador un poco más técnico, pero igualmente importante para Bedrock: las múltiples técnicas que se pueden utilizar para personalizar los modelos y satisfacer las necesidades comerciales específicas.
Como todos hemos escuchado, los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) están transformando la forma en que aprovechamos la inteligencia artificial (IA) y permiten a las empresas repensar los procesos centrales. Estos modelos, entrenados con conjuntos de datos masivos, pueden comprender rápidamente los datos y generar respuestas relevantes en diversos dominios, desde resumir contenido hasta responder preguntas. La amplia aplicabilidad de los LLM explica por qué los clientes de los sectores de la atención médica, los servicios financieros y los medios de comunicación y el entretenimiento están adoptándolos rápidamente. Sin embargo, nuestros clientes nos dicen que, si bien los LLM previamente entrenados se destacan en el análisis de grandes cantidades de datos, a menudo carecen del conocimiento especializado necesario para abordar desafíos comerciales específicos.
La personalización libera el potencial transformador de los modelos de lenguaje de gran tamaño. amazon Bedrock le proporciona un conjunto de herramientas potente y completo para transformar su IA generativa de una talla única La personalización incluye diversas técnicas, como ingeniería de indicaciones, generación aumentada de recuperación (RAG), ajuste fino y capacitación previa continua. La ingeniería de indicaciones implica la elaboración cuidadosa de indicaciones para obtener una respuesta deseada de los LLM. RAG combina el conocimiento recuperado de fuentes externas con la generación de lenguaje para proporcionar respuestas más contextuales y precisas. Las técnicas de personalización de modelos, que incluyen el ajuste fino y la capacitación previa continua, implican una capacitación adicional de un modelo de lenguaje previamente entrenado en tareas o dominios específicos para un mejor rendimiento. Estas técnicas se pueden usar en combinación entre sí para entrenar modelos base en amazon Bedrock con sus datos para ofrecer resultados contextuales y precisos. Lea los siguientes ejemplos para comprender cómo los clientes utilizan la personalización en amazon Bedrock para cumplir con sus casos de uso.
Thomson Reutersuna empresa global de contenido y tecnología, ha obtenido resultados positivos con Claude 3 Haiku, pero prevé resultados aún mejores con la personalización. La empresa, que presta servicios a profesionales del ámbito legal, fiscal, contable, de cumplimiento, gubernamental y de los medios de comunicación, espera obtener resultados de IA aún más rápidos y relevantes al perfeccionar Claude con su experiencia en la industria.
“Estamos entusiasmados por perfeccionar el modelo Claude 3 Haiku de Anthropic en amazon Bedrock para mejorar aún más nuestras soluciones basadas en Claude. Thomson Reuters tiene como objetivo brindar experiencias de usuario precisas, rápidas y consistentes. Al optimizar Claude en función de nuestra experiencia en la industria y los requisitos específicos, anticipamos mejoras mensurables que brindan resultados de alta calidad a velocidades aún más rápidas. Ya hemos visto resultados positivos con Claude 3 Haiku, y el ajuste nos permitirá adaptar nuestra asistencia de IA con mayor precisión”.
– Joel Hron, director de tecnología de Thomson Reuters.
En amazon, vemos amazon.com/buy-with-prime-assist?” target=”_blank” rel=”noopener”>Comprar con Prime Utilizando las capacidades de personalización de vanguardia basadas en RAG de amazon Bedrock para impulsar una mayor eficiencia. Sus pedidos en los sitios de los comerciantes están cubiertos por amazon.com/buy-with-prime-assist” target=”_blank” rel=”noopener”>Compra con Prime AssistServicio de atención al cliente por chat en vivo las 24 horas, los 7 días de la semana. Recientemente lanzaron una solución de chatbot en versión beta capaz de manejar consultas de soporte de productos. La solución está impulsada por amazon Bedrock y personalizada con datos para ir más allá de los sistemas tradicionales basados en correo electrónico. Mi colega Amit Nandy, gerente de productos en Buy with Prime, dice:
“Al indexar los sitios web de los comerciantes, incluidos los subdominios y los manuales en PDF, construimos bases de conocimiento personalizadas que brindaron un soporte relevante e integral para las ofertas exclusivas de cada comerciante. En combinación con los modelos básicos de última generación de Claude y Guardrails para amazon Bedrock, nuestra solución de chatbot ofrece una experiencia de cliente altamente capaz, segura y confiable. Los compradores ahora pueden recibir asistencia precisa, oportuna y personalizada para sus consultas, lo que fomenta una mayor satisfacción y fortalece la reputación de Buy with Prime y sus comerciantes participantes”.
Historias como estas son la razón por la que continuamos redoblando nuestras capacidades de personalización para aplicaciones de IA generativa impulsadas por amazon Bedrock.
En este blog, exploraremos las tres técnicas principales para personalizar los LLM en amazon Bedrock y abordaremos los anuncios relacionados de la reciente cumbre de AWS en Nueva York.
Ingeniería rápida: cómo orientar su aplicación hacia las respuestas deseadas
Los mensajes son los datos principales que impulsan a los LLM a generar respuestas. La ingeniería de mensajes es la práctica de elaborar cuidadosamente estos mensajes para guiar a los LLM de manera eficaz. Obtenga más información aquí. Los mensajes bien diseñados pueden mejorar significativamente el rendimiento de un modelo al proporcionar instrucciones claras, contexto y ejemplos adaptados a la tarea en cuestión. amazon Bedrock admite varias técnicas de ingeniería de mensajes. Por ejemplo, Incitación a unos pocos disparos proporciona ejemplos con resultados deseados para ayudar a los modelos a comprender mejor las tareas, como muestras de análisis de sentimientos etiquetadas como “positivas” o “negativas”. Incitación a disparar cero Proporciona descripciones de tareas sin ejemplos. Y cadena de pensamiento La estimulación mejora el razonamiento de varios pasos al pedir a los modelos que descompongan problemas complejos, lo que resulta útil para tareas aritméticas, lógicas y deductivas.
Nuestras pautas de ingeniería de indicaciones describen varias estrategias de indicaciones y las mejores prácticas para optimizar el rendimiento de LLM en todas las aplicaciones. Aprovechar estas técnicas puede ayudar a los profesionales a lograr los resultados deseados de manera más eficaz. Sin embargo, desarrollar indicaciones óptimas que generen las mejores respuestas de los modelos básicos es un proceso desafiante e iterativo, que a menudo requiere semanas de refinamiento por parte de los desarrolladores.
Incitación a disparar cero | Incitación a unos pocos disparos |
![]() |
|
Incitación a la cadena de pensamiento con Prompt Flows Visual Builder | |
![]() |
Generación aumentada con recuperación: aumento de resultados con datos recuperados
Los LLM generalmente carecen de conocimientos especializados, jerga, contexto o información actualizada necesaria para tareas específicas. Por ejemplo, los profesionales del derecho que buscan información confiable, actual y precisa dentro de su dominio pueden encontrar inadecuadas las interacciones con LLM generalistas. La generación aumentada por recuperación (RAG) es el proceso que permite que un modelo de lenguaje consulte una base de conocimiento autorizada fuera de sus fuentes de datos de entrenamiento, antes de generar una respuesta.
El proceso RAG implica tres pasos principales:
- Recuperación:Dada una solicitud de entrada, un sistema de recuperación identifica y obtiene pasajes o documentos relevantes de una base de conocimiento o corpus.
- Aumento:La información recuperada se combina con el mensaje original para crear una entrada aumentada.
- Generación:El LLM genera una respuesta basada en la entrada aumentada, aprovechando la información recuperada para producir resultados más precisos e informados.
Las bases de conocimiento de amazon Bedrock son una función de RAG totalmente administrada que le permite conectar las bases de datos de nivel LLM a fuentes de datos internas de la empresa, lo que brinda respuestas relevantes, precisas y personalizadas. Para ofrecer una mayor flexibilidad y precisión en la creación de aplicaciones basadas en RAG, anunciamos varias capacidades nuevas en la Cumbre de Nueva York de AWS. Por ejemplo, ahora puede acceder de forma segura a los datos de nuevas fuentes como la web (en vista previa), lo que le permite indexar páginas web públicas o acceder a datos empresariales de Confluence, SharePoint y Salesforce (todos en vista previa). Las opciones de fragmentación avanzadas son otra característica nueva y emocionante, que le permiten crear algoritmos de fragmentación personalizados adaptados a sus necesidades específicas, así como aprovechar las opciones de fragmentación semántica y jerárquica integradas. Ahora tiene la capacidad de extraer información con precisión de formatos de datos complejos (por ejemplo, tablas complejas dentro de archivos PDF), gracias a técnicas de análisis avanzadas. Además, la función de reformulación de consultas le permite deconstruir consultas complejas en subconsultas más simples, lo que mejora la precisión de la recuperación. Todas estas nuevas características le ayudan a reducir el tiempo y los costos asociados con el acceso a los datos y a construir recursos de conocimiento altamente precisos y relevantes, todos adaptados a sus casos de uso empresariales específicos.
Personalización de modelos: mejora del rendimiento para tareas o dominios específicos
La personalización de modelos en amazon Bedrock es un proceso para personalizar modelos de lenguaje previamente entrenados para tareas o dominios específicos. Implica tomar un modelo grande, previamente entrenado y entrenarlo aún más en un conjunto de datos más pequeño y especializado relacionado con su caso de uso. Este enfoque aprovecha el conocimiento adquirido durante la fase inicial de preentrenamiento mientras adapta el modelo a sus requisitos, sin perder las capacidades originales. El proceso de ajuste fino en amazon Bedrock está diseñado para ser eficiente, escalable y rentable, lo que le permite adaptar los modelos de lenguaje a sus necesidades únicas, sin la necesidad de recursos computacionales o datos extensos. En amazon Bedrock, el ajuste fino del modelo se puede combinar con ingeniería rápida o el enfoque de recuperación-generación aumentada (RAG) para mejorar aún más el rendimiento y las capacidades de los modelos de lenguaje. La personalización del modelo se puede implementar tanto para datos etiquetados como sin etiquetar.
Ajuste fino con datos etiquetados El modelo implica proporcionar datos de entrenamiento etiquetados para mejorar el rendimiento del modelo en tareas específicas. El modelo aprende a asociar las salidas adecuadas con determinadas entradas, ajustando sus parámetros para lograr una mayor precisión en las tareas. Por ejemplo, si tiene un conjunto de datos de reseñas de clientes etiquetadas como positivas o negativas, puede ajustar un modelo entrenado previamente dentro de Bedrock con estos datos para crear un modelo de análisis de sentimientos adaptado a su dominio. En la Cumbre de Nueva York de AWS, anunciamos el ajuste fino de Claude 3 Haiku de Anthropic. Al proporcionar conjuntos de datos de entrenamiento específicos para cada tarea, los usuarios pueden ajustar y personalizar Claude 3 Haiku, lo que aumenta su precisión, calidad y consistencia para sus aplicaciones comerciales.
Entrenamiento previo continuo con datos sin etiquetartambién conocida como adaptación de dominio, le permite entrenar aún más los LLM en los datos sin etiquetar y exclusivos de su empresa. Expone el modelo a sus patrones de lenguaje y conocimientos específicos del dominio, lo que mejora su comprensión y rendimiento para tareas específicas.
La personalización es la clave para liberar el verdadero poder de la IA generativa
Los modelos de lenguaje de gran tamaño están revolucionando las aplicaciones de IA en todas las industrias, pero adaptar estos modelos generales con conocimientos especializados es clave para liberar todo su impacto comercial. amazon Bedrock permite a las organizaciones personalizar los LLM a través de técnicas de ingeniería de indicaciones, como la gestión de indicaciones y los flujos de indicaciones, que ayudan a crear indicaciones efectivas. La generación aumentada por recuperación, impulsada por las bases de conocimiento de amazon Bedrock, le permite integrar los LLM con fuentes de datos patentadas para generar respuestas precisas y específicas del dominio. Y las técnicas de personalización de modelos, que incluyen el ajuste fino con datos etiquetados y el entrenamiento previo continuo con datos no etiquetados, ayudan a optimizar el comportamiento de los LLM para sus necesidades únicas. Después de analizar detenidamente estos tres métodos de personalización principales, queda claro que, si bien pueden adoptar enfoques diferentes, todos comparten un objetivo común: ayudarlo a abordar sus problemas comerciales específicos.
Recursos
Para obtener más información sobre la personalización con amazon Bedrock, consulte los siguientes recursos:
- Obtenga más información sobre amazon Bedrock
- Obtenga más información sobre las bases de conocimiento de amazon Bedrock
- Lea el blog de anuncios sobre conectores de datos adicionales en Bases de conocimiento para amazon Bedrock
- Lea el blog sobre opciones avanzadas de fragmentación y análisis en Bases de conocimiento para amazon Bedrock
- Obtenga más información sobre Prompt Engineering
- Obtenga más información sobre las técnicas y las mejores prácticas de Prompt Engineering
- Lea el blog de anuncios sobre gestión de indicaciones y flujos de indicaciones
- Obtenga más información sobre el ajuste fino y el entrenamiento previo continuo
- Lea el blog de anuncios sobre el ajuste fino del Haiku Claude 3 de Anthropic
Sobre el Autor
Vasi Philomin es vicepresidente de IA generativa en AWS. Lidera iniciativas de IA generativa, incluidas amazon Bedrock y amazon Titan.