Cómo PerformLine Utiliza la Ingeniería de Prompts en Amazon Bedrock para Detectar Violaciones de Cumplimiento
PerformLine, un líder en el sector de cumplimiento de marketing, ha implementado soluciones innovadoras utilizando Amazon Bedrock para optimizar sus procesos de verificación de cumplimiento. Este artículo explora cómo la empresa ha utilizado la ingeniería de prompts para mejorar la eficiencia y precisión en la detección de violaciones de cumplimiento en sus canales de marketing.
El Reto: Procesos de Cumplimiento Eficientes
Uno de los principales desafíos que enfrentaba PerformLine era el de optimizar los procesos de verificación de cumplimiento en páginas de productos recién lanzados. Estas páginas a menudo presentan contenido complejo, donde múltiples productos pueden compartir elementos visuales y textuales. Este escenario requería una interpretación contextual que simulara la forma en que un consumidor típico interactuaría con la información.
Mediante la adopción de AWS y la arquitectura discutida en este artículo, PerformLine ha podido analizar estas páginas complejas utilizando procesamiento impulsado por IA, generando datos contextuales y análisis detallados que capturan las sutilezas de la presentación de cada producto. Al alimentar la información relevante a su motor de reglas, PerformLine ha logrado establecer un flujo de trabajo eficiente desde la ingestión de datos hasta el análisis basado en reglas.
Descripción de la Solución
La solución de PerformLine se basa en una arquitectura flexible y escalable que permite abordar la complejidad de las páginas web de manera efectiva. Al combinar la consistencia con la adaptabilidad de los modelos de IA, PerformLine garantiza un rendimiento fiable en la verificación de cumplimiento y la integridad de los datos. Los componentes clave de esta solución incluyen:
- Inferencia de IA con Amazon Bedrock: Permite un acceso fluido a modelos para la extracción y análisis de contenido.
- Perfiles de inferencia de aplicaciones: Facilitan el seguimiento preciso y la optimización de costos de inferencia.
- Pipelines de procesamiento sin servidor: Utilizan servicios como Amazon EventBridge y Amazon SQS para manejar cargas de trabajo dinámicas.
- Gestión de prompts en Bedrock: Soporta la versionado y el despliegue de prompts para mejorar la consistencia y el control de la IA.
- Orquestación de tareas: Utiliza Amazon SQS para gestionar colas de trabajo, facilitando la ejecución escalable de tareas.
Optimización de Costos
La solución de PerformLine incluye varias optimizaciones de costos. Al implementar un enfoque de captura de datos de cambio (CDC), se evita el procesamiento redundante de las mismas páginas. Esto ha permitido a PerformLine experimentar una reducción del 15% en la carga de trabajo de tareas de evaluación humana, optimizando así el uso de recursos.
Además, la utilización de un enfoque de múltiples pasadas en el uso de Amazon Bedrock ha mejorado la precisión mientras minimiza el consumo de tokens, lo que es fundamental para el costo de las inferencias de LLM.
Uso de Amazon Bedrock
Durante las pruebas iniciales, PerformLine se dio cuenta de la necesidad de una gestión de prompts más escalable. La implementación del servicio de Gestión de Prompts de Amazon Bedrock ha permitido a PerformLine gestionar y desplegar prompts de manera más eficiente, mejorando la flexibilidad en la configuración de los modelos utilizados.
Combinando la gestión de prompts y los perfiles de inferencia, PerformLine ha podido realizar un seguimiento detallado de los costos asociados a cada invocación de modelo, optimizando así sus operaciones.
Planes Futuros y Mejoras
PerformLine está entusiasmado con la exploración de características adicionales de Amazon Bedrock, como el caching de prompts y Amazon Bedrock Flows. Estas características tienen el potencial de mejorar aún más la eficiencia operativa y reducir costos, al tiempo que simplifican la orquestación de tareas complejas en la IA generativa.
Con una arquitectura impulsada por IA, PerformLine está posicionada para procesar entre 1,5 y 2 millones de páginas diariamente, extrayendo entre 400.000 y 500.000 productos. Esta capacidad de escalabilidad, junto con la verificación de cumplimiento en tiempo real, marca un avance significativo en la forma en que las empresas pueden gestionar la conformidad en un entorno digital en constante evolución.
Para más información sobre cómo PerformLine utiliza Amazon Bedrock en su estrategia de cumplimiento de marketing, visita el artículo original aquí.
