Cómo Amazon Bedrock Mejora la Planificación de Cuentas en AWS

Cómo Amazon Bedrock Impulsa la Planificación de Cuentas de Próxima Generación en AWS

En AWS, nuestros equipos de ventas crean documentos centrados en el cliente llamados planes de cuentas para comprender profundamente los objetivos y desafíos únicos de cada cliente de AWS. Esta comprensión ayuda a los equipos de cuentas a proporcionar orientación y apoyo personalizados que aceleran el éxito del cliente en AWS. A medida que nuestro negocio ha crecido, el proceso de planificación de cuentas se ha vuelto más intrincado, requiriendo un análisis detallado, revisiones y alineación entre equipos para entregar un valor significativo a los clientes. Esta complejidad, combinada con el esfuerzo de revisión manual involucrado, ha generado una sobrecarga operativa considerable. Para abordar este desafío, lanzamos Account Plan Pulse en enero de 2025, una herramienta de IA generativa diseñada para optimizar y mejorar el proceso de planificación de cuentas.

La implementación de Pulse ha logrado una mejora del 37% en la calidad de los planes año tras año, al tiempo que ha reducido el tiempo total para completar, revisar y aprobar planes en un 52%. En esta publicación, compartimos cómo construimos Pulse utilizando Amazon Bedrock para reducir el tiempo de revisión y proporcionar resúmenes de planes de cuentas accionables que faciliten la colaboración y el consumo, ayudando a los equipos de ventas de AWS a servir mejor a nuestros clientes.

Desafíos con la Escala y Complejidad Crecientes

A medida que AWS continuó creciendo y evolucionando, nuestros procesos de planificación de cuentas necesitaban adaptarse para satisfacer la creciente escala y complejidad. Antes de que los modelos de lenguaje grande (LLMs) listos para empresas estuvieran disponibles a través de Amazon Bedrock, exploramos el procesamiento de documentos basado en reglas para evaluar los planes de cuentas, lo cual resultó inadecuado para manejar contenido matizado y volúmenes de documentos crecientes. Para 2024, habían surgido tres desafíos críticos:

• Calidad y formato de planes dispares: Con equipos operando en numerosas regiones de AWS y sirviendo a clientes en diversas industrias, los planes de cuentas naturalmente desarrollaron variaciones en estructura, detalle y formato. Esta inconsistencia dificultó asegurar que las necesidades críticas de los clientes estuvieran descritas de manera efectiva y consistente.
• Proceso de revisión intensivo en recursos: El proceso de evaluación de calidad dependía de revisiones manuales por parte del liderazgo de ventas, lo cual consumía valioso tiempo que podría haberse dedicado a compromisos estratégicos con los clientes.
• Silencio de conocimiento: Se identificó un potencial no aprovechado para la colaboración entre equipos. Desarrollar métodos para extraer y compartir conocimiento transformaría los planes de cuentas individuales en mejores prácticas colectivas para servir mejor a nuestros clientes.

Descripción General de la Solución

Para abordar estos desafíos, diseñamos Pulse, una solución de IA generativa que utiliza Amazon Bedrock para analizar y mejorar los planes de cuentas. El siguiente diagrama ilustra el flujo de trabajo de la solución:

El flujo de trabajo consiste en los siguientes pasos:

1. Se extrae el contenido narrativo del plan de cuentas de nuestro sistema CRM de manera programada a través de un pipeline de procesamiento por lotes asíncrono.
2. Los datos fluyen a través de una serie de etapas de procesamiento:
   • Preprocesamiento: para estructurar y normalizar los datos y generar metadatos.
   • Inferencia LLM: para analizar el contenido y generar información.
   • Validación: para confirmar calidad y cumplimiento.
3. Los resultados se almacenan de forma segura para informes y visualización en tableros.

Ingesta

Implementamos un pipeline de procesamiento por lotes que extrae los planes de cuentas de nuestro sistema CRM en los buckets de Amazon Simple Storage Service (S3). Un programador activa este pipeline de manera regular, facilitando el análisis continuo de la información más actual.

Preprocesamiento

Teniendo en cuenta la naturaleza dinámica de los planes de cuentas, estos se procesan en instantáneas diarias, incluyendo solo los planes actualizados en cada ejecución. El preprocesamiento se lleva a cabo en dos capas: una capa de flujo de extracción, transformación y carga (ETL) para organizar los archivos requeridos para ser procesados, y justo antes de las llamadas al modelo como parte de la validación de entradas.

Análisis con Amazon Bedrock

El núcleo de nuestra solución utiliza Amazon Bedrock, que proporciona una variedad de opciones de modelos y control, personalización de datos, seguridad y límites, optimización de costos y orquestación. Utilizamos los modelos fundamentales de Amazon Bedrock para realizar dos funciones clave:

• Evaluación del plan de cuentas: Pulse evalúa los planes en 10 categorías críticas para el negocio, creando un índice de preparación del plan de cuentas estandarizado.
• Información accionable: Amazon Bedrock extrae y sintetiza patrones a través de los planes, identificando el enfoque estratégico del cliente y las tendencias del mercado que de otro modo permanecerían aisladas en documentos individuales.

Validación

Nuestro marco de validación incluye componentes críticos:

• Validaciones de entrada y salida como parte de las mejores prácticas para aplicaciones de modelos de lenguaje grande.
• Revisiones automatizadas de calidad y cumplimiento contra reglas de negocio establecidas.
• Mecanismo de retroalimentación que mejora la precisión del sistema con el tiempo.

Almacenamiento y Visualización

La solución incluye componentes de almacenamiento y visualización que permiten el seguimiento del progreso y la actualización de información diaria.

Ingeniería para Producción: Construyendo Evaluaciones de IA Fiables

Al transitar Pulse de prototipo a producción, implementamos un marco de ingeniería robusto para abordar desafíos críticos específicos de la IA. Primero, la naturaleza no determinista de los LLMs significaba que las entradas idénticas podrían producir salidas variadas, comprometiendo la consistencia de la evaluación.

En esta publicación, compartimos cómo Pulse, potenciado por Amazon Bedrock, ha transformado el proceso de planificación de cuentas para los equipos de ventas de AWS. A través de revisiones automatizadas y validación estructurada, Pulse optimiza las evaluaciones de calidad y rompe los silos de conocimiento.

Para obtener más información sobre Amazon Bedrock, consulta la Guía de Usuario de Amazon Bedrock.

Fuente: AWS Blog