Monitoring Open Source pour Java avec JmxTrans, Graphite et Nagios

Transcription

1 Monitoring Open Source pour Java avec JmxTrans, Graphite et Nagios 27 au 29 mars 2013

2 CTO Architect Cyrille Le Clerc Fort Traffic Open Source Cloud, DevOps

3 Architecte CI Henri Gomez Intégration Continue Open Source DevOps

4 Vous? Dev? Qa? Ops? Expérience monitoring?

5 Agenda 27 au 29 mars 2013

6 Agenda L application Le monitoring à réaliser Instrumenter une webapp Java avec JMX Monitorer Grapher avec Graphite Alerter avec Seyren (et Nagios) Monitoring & Continuous Delivery Déploiement de Graphite Conclusion

7 Votre mission, si toutefois vous l acceptez... e-commerce SOS Cocktails Mettre en place le monitoring technique et métier

8 Démo SOS Cocktail

9 Les indicateurs à monitorer Pourquoi Monitorer? Quoi? 27 au 29 mars 2013

10 Les indicateurs à monitorer

11 Les Indicateurs à monitorer Operating System -> Sysload JVM -> GC duration Tomcat -> activesessions (active visitors) Application -> sales revenue & items

12 Open Source Monitoring for Java (4) ecommerce Web Site Dashboard - wiki Graphite (1) (2) (3) Seyren (5) Nagios

13 JMX & Métriques 27 au 29 mars 2013

14 Pourquoi JMX? JMX vs. pages web vs. logs vs.... Simple et sécurisé Exposable vers pages web et les logs Des alternatives à JMX

15 JMX vs. logs vs. pages web vs.... Logs de monitoring Parser des Go de fichiers texte? Détail par invocation vs. moyenne par minute Pages web Historisation? Applications en clusters? Sécurité?

16 JMX avec Spring <beans...>... <context:mbean- export/>... class ShoppingCartController { final AtomicInteger revenueincentscounter = new public int getrevenueincentscounter() { return revenueincentscounter.get(); } void purchase(...){... revenueincentscounter.addandget(priceincents); }

17 JMX

18 JMX & JSP Powered by JMX! Human readable et script friendly Attention sécurité! $ curl cocktail.jmxtrans.cloudbees.net/5adruwr5/jmx- sales- metrics.txt.jsp Epoch SalesRevenueInCentsCounter SalesItemsCounter SalesOrdersCounter curl cocktail.jmxtrans.cloudbees.net/5adruwr5/... { "Epoch": , "SalesRevenueInCentsCounter":4050, "SalesItemsCounter":7, "SalesOrdersCounter":2 }

19 JMX & JSP /5ADrUWr5/jmx-sales-metrics.jsp Powered by JMX! Human readable et script friendly Attention sécurité! $ curl cocktail.jmxtrans.cloudbees.net/5adruwr5/jmx- sales- metrics.txt.jsp Epoch SalesRevenueInCentsCounter SalesItemsCounter SalesOrdersCounter curl cocktail.jmxtrans.cloudbees.net/5adruwr5/... { "Epoch": , "SalesRevenueInCentsCounter":4050, "SalesItemsCounter":7, "SalesOrdersCounter":2 }

20 JMX & JSP Powered by JMX!

21 Alternatives à JMX

22 Alternatives à JMX Servo class ShoppingCartController type=counter) final AtomicInteger revenueincentscounter = new AtomicInteger(); void purchase(...){... revenueincentscounter.addandget(priceincents); }

23 Alternatives à JMX Metrics class ShoppingCartController { Servo final Counter revenueincentscounter = Metrics.newCounter( ShoppingCartController, "revenue- in- cents"); void purchase(...){... revenueincentscounter.inc(priceincents); } class ShoppingCartController type=counter) final AtomicInteger revenueincentscounter = new AtomicInteger(); void purchase(...){... revenueincentscounter.addandget(priceincents); }

24 JMX OS: Sysload JVM: Garbage Collector Tomcat: activesessions Application: Web Site Revenue

25 jmxtrans & embedded-jmxtrans 27 au 29 mars 2013

26 jmxtrans - standalone ecommerce Tomcat logistics Tomcat Graphite accounting Tomcat... jmxtrans - standalone

27 embedded-jmxtrans ecommerce Tomcat Graphite logistics Tomcat Librato accounting Tomcat... batch embedded-jmxtrans

28 standalone vs. embedded standalone embedded Packaging Modèle daemon externe, raccordement manuel des applications & des indicateurs agent embarqué, applications & indicateurs auto-raccordés / autonomes Curseur OPS DEV OPS DEV Use case applis peu modifiables, middlewares, curseur OPS cloud, batch, curseur DEV/QA

29 jmxtrans & embedded-jmxtrans SOS Cocktail Graphite embedded

30 embedded-jmxtrans configuration

31 embedded-jmxtrans configuration <dependency> <groupid>org.jmxtrans.embedded</groupid> <artifactid>embedded- jmxtrans</artifactid> <version>1.0.5</version> </dependency>

32 embedded-jmxtrans configuration <dependency> <groupid>org.jmxtrans.embedded</groupid> <artifactid>embedded- jmxtrans</artifactid> <version>1.0.5</version> </dependency> <beans... xmlns:jmxtrans=" xsi:schemalocation="... > <jmxtrans:jmxtrans> <jmxtrans:configuration>classpath:jmxtrans.json</jmxtrans:configuration>... </jmxtrans:jmxtrans> </beans>

33 embedded-jmxtrans configuration <dependency> <groupid>org.jmxtrans.embedded</groupid> <artifactid>embedded- jmxtrans</artifactid> <version>1.0.5</version> </dependency> <beans... { xmlns:jmxtrans=" xsi:schemalocation="... > { "queries": [ { "objectname": "cocktail:name=shoppingcartcontroller", "resultalias": "sales", "attributes": ["SalesRevenueInCentsCounter"] }, ], "outputwriters": [ "@class": "org.jmxtrans.embedded.output.graphitewriter", "settings": { "host": "${graphite.host:localhost}", "port": "${graphite.port:2003}," <jmxtrans:jmxtrans> "enabled": "${graphite.enabled:true}" <jmxtrans:configuration>classpath:jmxtrans.json</jmxtrans:configuration> }... } </jmxtrans:jmxtrans> ] </beans> }

34 jmxtrans OS: Sysload JVM: Garbage Collector Tomcat: activesessions Application: Web Site Revenue

35 Graphite 27 au 29 mars 2013

36 Graphite BD de Time Series et solution de Graphe Utilisé par des grands du Web Similaires Simplicité et Self Service

37 Ecriture / Alimentation Création automatique des métriques Protocoles socket plain text & sérialisation Python Pickle echo "devoxx.happycounter " nc localhost 2003 Précision et durée de stockage par configuration [sales_1min_for_15days_5min_for_1year] pattern = ^sales\. retentions = 60s:30d,300s:365d 1.7MB

38 Lecture / Consommation Composer de graphe & URL API Tout le monde peut créer ses graphes Fonctions Riches sum, scale, derivative, timeshift, deviation, filter,... Exports variés : png, svg, csv, json, raw text

39 Graphes et monitoring 27 au 29 mars 2013

40 Demo Graphite sur le Cloud admin@jmxtrans.org password: devoxx2013 Graphite as a Service Pas de tracas d installation addons: Tasseo No-OPS 2 3

41 Les métriques Gauge Ever Increasing Counter Exemples: activerequests, datasource.activeconnection,... Information exploitable immédiatement Exemples: requestscount, revenue,... Conversion nécessaire en par minute

42 Des graphes et des formules? Ever Increasing Counter Revenue per Second

43 Des graphes et des formules derivative()? Ever Increasing Counter Revenue per Second

44 Des graphes et des formules? Per Second -> Per Hour Revenue per Hour

45 Des graphes et des formules summarize()? Per Second -> Per Hour Revenue per Hour

46 Des graphes et des formules? 2 servers Total Revenue per Hour

47 Des graphes et des formules sumseries()? 2 servers Total Revenue per Hour

48 Des graphes et des formules? server restart Ignore reset to zero

49 Des graphes et des formules nonnegativederivative()? server restart Ignore reset to zero

50 Des graphes et des formules Compare to last week?

51 Des graphes et des formules Compare to last week timeshift()?

52 Des graphes et des formules OS: Sysload JVM: Garbage Collector Tomcat: activesessions Application: Web Site Revenue

53 Dashoards Wiki dashboard.prod.md # Sales <table> <tr> <td> <img src=" width=400&height=300&title=revenue&xformat=%25a%20%25d %25p&vtitle=USD&lineWidth=3&from=- 5days&target=alias(scale(summarize(sumS eries(nonnegativederivative(edu.servers.*.sales.revenueincentscounter)) %2C%221h%22)%2C0.01)%2C%22Revenue%20per%20Hour%22)..."> </td> <td> <img src=" </td> <tr> </table> Wiki

54 Dashoards by Envoyer les graphes par

55 L alerting Intégrer Graphite à de l alerting URL Api Seyren Nagios 27 au 29 mars 2013

56 Intégrer Graphite à l alerting Utiliser l URL API Format rawtext ou JSON Pattern /render?from=- 11minutes&until=- 1minutes&format=raw&target=**** Exemple $ curl " 11minutes&until=- 1minutes&format=raw& target=keeplastvalue(servers.cloudbees.jvm.os.systemloadaverage)" my- metric, , , ,0.01,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0

57 Alerting - Seyren Alerting Dashboard for Graphite Open Source Java.war + MongoDB Alertes , PagerDuty,...

58 Alerting - Seyren OS: Sysload JVM: Garbage Collector Tomcat: activesessions Application: Web Site Revenue

59 Nagios Infrastructure Monitoring Open Source Standard de facto en entreprise check_graphite plugin Pierre-Yves Ritschard Jason Dixon / obfuscurity

60 Monitoring & Continuous Delivery 27 au 29 mars 2013

61 Monitoring & Continuous Delivery Livrer le monitoring avec l application Les indicateurs Les dashboards Builder en continue les configs par environnement Require: topologie des environnements intégrées au build Déploiement sur un repo (Maven,...) Déployer en automatique le monitoring

62 Monitoring & Continuous Delivery src/main/graphite/dashboard.template.md StringTemplate Cocktail App Dashboards - ${environment} - ${version} # Sales <table> <tr> <td> <img src="${graphite.baseurl}/render/? width=400&height=300&title=revenue&xformat=%25a%20%25d %25p&vtitle=USD&lineWidth=3&from=- 5days&target=alias(scale(summarize(sumS eries(nonnegativederivative(edu.servers.*.sales.revenueincentscounter)) %2C%221h%22)%2C0.01)%2C%22Revenue%20per%20Hour%22)..."> </td> <td> <img src="${graphite.baseurl}/render/?..."> </td> <tr> </table> ${variable} Dashboard template

63 Monitoring & Continuous Delivery dashboard.template.md PROD-env-topology.json... QA-env-topology.json pom.xml <gmaven-plugin> dashboard.prod.md... dashboard.qa.md dashboard-generator.groovy repository Monitoring dashboards Continuous Integration

64 Déploiement de Graphite 27 au 29 mars 2013

65 Déploiement de Graphite

66 Cadeau bonus! 27 au 29 mars 2013

67 Promo Code 60 days trial with DEVOXX promo code (2) Enter Promo Code DEVOXX (1) Signup help: (3) Promo Code DEVOXX

68 Conclusion 27 au 29 mars 2013

69 Conclusion Monitoring technique et métier Monitoring intégrée au Continuous Delivery de l appli L approche self-service transforme le monitoring Solutions Open Source disponibles Monitoring no longer sucks in Java!

70