Integración continua: buildbot + codespeed + guppy-pe + resource

Traducción del original en catalán. Léela en: CatalàEnglish

Debido a un requisito que teníamos en el trabajo he montado un entorno de integración continua. En esencia lo que se busca es lo siguiente:

  • Lanzar de forma automática tests sobre los commits que se hacen en el código (buildbot)
  • Tener un repositorio de los resultados de los tests fácil de consultar (web) (buildbot)
  • Soportar tests sobre rendimiento (profiling) automáticos (guppy-pe + resource)
  • Poder comprobar cuál es la evolución de estos tests de rendimiento con una herramienta visual (codespeed)

Para conseguir estos objetivos se ha usado:

  • buildbot: que permite automatizar el entorno de compilación y testeo de los commits que se van haciendo en el repositorio (está programado en python). Para entender mejor buildbot, os recomiendo leer el apartado: system architecure de su manual.
  • codespeed: es una herramienta hecha con python+django+mysql, a través de una interfaz HTTP+JSON puede inyectar información en la BBDD y a través de la GUI nos muestra:
    • overview: a través de una tabla muestra las tendencias de los resultados de los benchmark asociados a un ejecutable.
    • timeline: muestra en una gráfica la evolución de los resultados archivados sobre un benchmark concreto hechos sobre un host.
  • guppy-pe: nos permite extraer datos referentes a los recursos de sistema que está consumiendo una parte del código: clase, función, variable, etc.
  • resource: es un módulo de python que permite saber (resource.getrusage(PID)) qué recursos está consumiendo un PID en un momento dado.

Como la documentación que he hecho para el trabajo la he tenido que filtrar para no revelar información interna, la documentación que publico está en formato OpenOffice y PDF para que sea sencillo para todo el mundo leerla y modificarla si quiere.

  • Paquete .tar.gz, contiene:
    • archivo de configuración buildbot, master.cfg
    • código de ejemplo para probar el entorno, buildbot-test
    • código del tobami-codespeed modificado para que sea más generalista que la versión original
    • integracion-continua-instalacion.odt: documento con notas sobre los procedimientos que he seguido para la instalación de todo el conjunto.
    • integracion-continua-manual.odt: manual de usuario de todo el conjunto. (también la versión en pdf)
  • integracion-continua-manual.pdf: enlazo de forma directa este manual por si queréis echarle un vistazo para saber si os interesa el tema.

Enlaces relacionados: