Big Data supervision : Grafana Kibana Graphite Prometheus

Connaître les outils de supervision d’une infrastructure Big Data

  • Filière :

    Gestion de données

  • Sous-filière :

    NoSql & Big Data

  • Référence

    DB-BDS

  • Durée

    3 jours (21 h)

  • Prix unitaire HT

    1 910 € HT

Objectifs pédagogiques

  • Connaître les outils et mécanismes permettant de superviser des fermes Big Data
  • Identifier les critères de choix

Public cible

  • Architectes Big Data
  • Chefs de projets
  • Exploitants
  • Toute personne souhaitant mettre en oeuvre un système de supervision d »une ferme Big Data

Pré-requis

Connaissance générale des systèmes dinformations et des bases de données

Programme de la formation

Supervision : définitions

  • Les objectifs de la supervision, les techniques disponibles
  • La supervision d’une ferme Big Data
  • Objets supervisés
  • Les services et ressources
  • Protocoles d’accès
  • Exporteurs distribués de données
  • Définition des ressources à surveiller
  • Journaux et métriques
  • Application aux fermes Big Data : Hadoop, Cassandra, HBase, MongoDB

Mise en œuvre

  • Besoin de base de données avec agents distribués, de stockage temporel (timeseriesDB)
  • Produits : Prometheus, Graphite, ElasticSearch
  • Présentation, architectures
  • Les sur-couches : Kibana, Grafana

JMX

  • Principe des accès JMX
  • MBeans
  • Visualisation avec jconsole et jmxterm
  • Suivi des performances Cassandra : débit d’entrées/sorties, charges, volumes de données, tables, …

Prometheus

  • Installation et configuration de base
  • Définition des ressources supervisées, des intervalles de collecte
  • Démarrage du serveur Prometheus
  • Premiers pas dans la console web, et l’interface graphique
  • Exporteur JMX
  • Exporteur mongodb
  • Démonstration avec Cassandra ou Hadoop/HBase
  • Configuration des agents sur les nœuds de calculs
  • Agrégation des données JMX
  • Expressions régulières
  • Requêtage
  • Visualisation des données

Graphite

  • Modèle de données et mesures
  • Format des données stockées, notion de timestamp
  • Types de mesures : compteurs, jauges, histogrammes, résumés
  • Identification des ressources supervisées : notions d’instances, de jobs
  • Démonstration avec Cassandra
  • Comparaison avec Prometheus

Exploration et visualisation des données

  • Mise en œuvre de Grafana
  • Installation, configuration
  • Pose de filtres sur Prometheus et remontée des données
  • Etude des différents types de graphiques disponibles, agrégation de données
  • Appairage des données entre Prométheus et Grafana
  • Visualisation et sauvegarde de graphiques, création de tableaux de bord et rapports à partir des graphiques

Kibana, installation et configuration

  • Installation, configuration du mapping avec Elasticsearch
  • Injection des données avec Logstash et Metribeat
  • Architectures, paramétrages
  • Mapping automatique ou manuel
  • Configuration des indexes à explorer

Qualité

Cette formation est accessible aux personnes en situation de handicap, nous contacter en cas de besoin d’informations complémentaires.

Programme mis à jour le