Cómo Creamos un Agente de Observabilidad 10 Veces Más Rápido

Cómo Creamos un Agente de Observabilidad 10 Veces Más Rápido

 

LoongCollector: Revolucionando la Observabilidad con un Rendimiento Excepcional

En un mundo donde el tráfico digital no para de crecer, las empresas se enfrentan a la necesidad de herramientas que puedan manejar grandes volúmenes de datos sin sacrificar el rendimiento. LoongCollector, un agente de observabilidad desarrollado por Alibaba, ha demostrado que es posible conseguir un rendimiento hasta 10 veces superior y un consumo de recursos un 80% menor en comparación con alternativas de código abierto.

Un Desafío Histórico: El Auge del Tráfico en Días Clave

Desde principios de la década de 2010, Alibaba ha tenido que lidiar con picos de tráfico masivos durante eventos como el Día de los Solteros (11.11). En esos momentos críticos, los sistemas de observabilidad existentes no eran capaces de manejar la cantidad de datos generados, lo que llevó a la creación de LoongCollector.

Durante años, se buscó una solución que no solo pudiera recopilar datos, sino que también lo hiciera de manera eficiente. Esto llevó al desarrollo de un colector ligero y robusto, iLogtail, que posteriormente se convirtió en LoongCollector, capaz de operar en cualquier entorno, desde servidores físicos hasta contenedores en Kubernetes.

Resultados Impactantes: Comparativa de Rendimiento

Tipo de RegistroLoongCollectorFluentBitVectorFilebeat
Simple Line546 MB/s36 MB/s38 MB/s9 MB/s
Multi-line238 MB/s24 MB/s22 MB/s6 MB/s
Regex Parsing68 MB/s19 MB/s12 MB/sNo soportado

Eficiencia de Recursos: Un Acierto Estratégico

LoongCollector no solo destaca en términos de rendimiento, sino que también es increíblemente eficiente en el uso de recursos. Al operar a una carga de procesamiento idéntica de 10 MB/s, se observó que:

  • LoongCollector: 3.40% CPU, 29.01 MB RAM
  • FluentBit: 12.29% CPU, 46.84 MB RAM (+61%)
  • Vector: 35.80% CPU, 83.24 MB RAM (+186%)
  • Filebeat: Rendimiento insuficiente

Arquitectura de Rendimiento: Innovaciones Clave

La arquitectura de LoongCollector introduce varias innovaciones que contribuyen a su rendimiento superior:

  • Memoria Arena: Procesamiento de cadenas sin copias.
  • Piscina de Eventos Sin Bloqueos: Almacenamiento de objetos con estrategias de asignación conscientes del hilo.
  • Serialización Sin Copias: Eliminación de objetos intermedios durante la serialización.

Validación en Producción: Pruebas a Gran Escala

LoongCollector ha sido validado en entornos de producción de alto nivel, procesando datos de observabilidad para millones de aplicaciones. Con una capacidad de procesamiento diaria de cientos de PB y una tasa de disponibilidad del 99,99%, ha establecido un nuevo estándar en el ámbito de la observabilidad.

Más de 500 empresas de Fortune 500 y proveedores de nube confían en LoongCollector para optimizar su infraestructura de datos.

¿Listo para Experimentar Mejoras en el Rendimiento?

Invitamos a las empresas a probar LoongCollector y a realizar sus propias comparaciones de rendimiento. ¡La revolución del rendimiento ha llegado!

Repositorio en GitHub

Suite de Benchmark

Fuente: Cómo Construimos un Agente de Observabilidad 10x Más Rápido que Alternativas de Código Abierto

 

Nota: Este contenido original ha sido modificado con IA y revisado por un especialista.

Deja una respuesta