Cómo Amazon Nova Mejora la Credibilidad de los Modelos de Lenguaje con Citaciones
Los modelos de lenguaje grandes (LLMs) han ganado una notable popularidad en aplicaciones tanto de consumo como empresariales. Sin embargo, su tendencia a «alucinar» información y proporcionar respuestas incorrectas con aparente confianza ha generado un problema de confianza. Es similar a cómo evaluamos a un experto humano: confiamos en aquellos que pueden respaldar sus afirmaciones con referencias y guiar nuestro proceso de razonamiento. Este mismo principio se aplica a los LLMs; son más confiables cuando pueden demostrar su proceso de pensamiento y citar fuentes fiables para la información proporcionada. Afortunadamente, mediante un correcto uso de indicaciones, se puede instruir a los LLMs para que proporcionen estas citaciones, haciendo sus resultados más verificables y fiables.
¿Qué Son las Citaciones y Por Qué Son Útiles?
Las citaciones son referencias a fuentes que indican el origen de información, ideas o conceptos en un trabajo. Desempeñan un papel crucial al abordar varios problemas, mejorando la credibilidad, usabilidad y base ética de las aplicaciones basadas en LLM:
- Garantizando la precisión factual: Los LLM son propensos a «alucinar», generando información plausible pero incorrecta. Las citaciones permiten a los usuarios verificar afirmaciones, mejorando la corrección factual y reduciendo riesgos de desinformación.
- Construyendo confianza y transparencia: Las citaciones fomentan la confianza en el contenido generado por IA, permitiendo a los usuarios contrastar información y entender sus orígenes. Esta transparencia es vital en aplicaciones de investigación, salud, derecho y educación.
- Apoyando prácticas éticas: Citar fuentes asegura la atribución adecuada a los autores originales, respetando derechos de propiedad intelectual y contribuciones académicas. Previene el plagio y promueve un uso ético de la IA.
- Mejorando la usabilidad: Las citaciones mejoran la experiencia del usuario al ofrecer una vía para explorar materiales relacionados. Funciones como citaciones en línea o bibliografías ayudan a encontrar fuentes relevantes fácilmente.
- Abordando las limitaciones de los LLM: Los LLM a menudo fabrican referencias por su incapacidad para acceder a datos en tiempo real o recordar fuentes de entrenamiento con precisión. Los sistemas de generación aumentada por recuperación (RAG) y herramientas de citación mitigan este problema al fundamentar respuestas en datos externos.
- Estándares profesionales y académicos: En contextos académicos, las citaciones son indispensables para replicar métodos de investigación y validar hallazgos. Las salidas generadas por IA deben adherirse a estos estándares para mantener la integridad académica.
Citaciones con los Modelos de Amazon Nova
Amazon Nova, lanzado en diciembre de 2024, es una nueva generación de modelos de base que proporcionan inteligencia de vanguardia y rendimiento líder en la industria, disponibles en Amazon Bedrock. Los modelos de Amazon Nova incluyen cuatro modelos de comprensión (Nova Micro, Nova Lite, Nova Pro y Nova Premier), dos modelos de generación de contenido creativo (Nova Canvas y Nova Reel) y un modelo de voz a voz (Nova Sonic). Mediante la integración fluida con Amazon Bedrock, los desarrolladores pueden construir y escalar aplicaciones de IA generativa utilizando los modelos de base de Amazon Nova.
Las citaciones para los modelos de comprensión de Amazon Nova pueden lograrse diseñando indicaciones donde se instruya al modelo para citar sus fuentes e indicar el formato de respuesta. Por ejemplo, se puede pedir a Nova Pro que responda a preguntas sobre cartas a los accionistas de Amazon, proporcionando el documento como contexto e indicando que incluya citaciones de las cartas.
Ejemplo de Indicaciones para Amazon Nova Pro
Un ejemplo de indicación que construimos para Amazon Nova Pro es el siguiente:
- Pregunta: ¿Qué factores contribuyeron al crecimiento de Amazon?
- Respuesta: La innovación con Kindle y la colaboración con editores contribuyeron al crecimiento de Amazon.
- Citas: [1] «Nuestra visión para Kindle es que cada libro impreso en cualquier idioma esté disponible en menos de 60 segundos…»
Evaluando las Citaciones
Aunque las citaciones son beneficiosas, es importante evaluar que el modelo sigue las instrucciones y que las citaciones provienen de la fuente original. Para evaluar las citaciones a gran escala, se utilizó otro LLM para juzgar las respuestas de Amazon Nova Pro. Esta técnica de LLM como juez proporciona una solución integral para evaluar y optimizar el rendimiento del modelo de IA, utilizando métricas como corrección, completitud, y estilo profesional.
Resultados de la Evaluación
Los resultados de la evaluación mostraron que Nova Pro tuvo un puntaje de 0,78 en coherencia y fidelidad, y 0,67 en corrección. Los altos puntajes indican que las respuestas de Nova Pro fueron holísticas, útiles, completas y precisas.
En conclusión, el uso de citaciones en Amazon Nova no solo aumenta la credibilidad de las interacciones de IA, sino que también establece un estándar para la transparencia y ética en el uso de tecnologías de inteligencia artificial.
Para más información sobre cómo utilizar las citaciones en los modelos de Amazon Nova, visita la biblioteca de indicaciones y aprende más sobre las evaluaciones de Amazon Bedrock en el sitio web de AWS.
Nota: Este contenido original ha sido modificado con IA y revisado por un especialista. Imagen generada por IA.
