Storm!

QConSP 2013

Created by Luan Cestari / G+/ Facebook/ @BR_LuanCestari/ Blog

Luan = lambda nerd: nerd*nerd

^^^ Piadinhas vvv

Piada Nerd

Da para usar as teclas 'ESC' ou 's' para navegar,o link para acessar via browser (e alguns mobile browsers) e imprimir com o final da url "...qconsp2013_storm/?print-pdf#/"

Agenda

  • Lambda Architecture
  • Storm

Pontos-chave

  • Low latency
  • Computação Distribuída e Paralela

Lambda Architecture

Historinha...

O que acontece no desenvolvimento das aplicacoes cujo o uso é crescente

O que acontece [0]

Aplicação simple com Bando de Dados

O que acontece [last]

Aplicação simple com Bando de Dados com sharding e Filas

O que deu errado:

  • Complexidade cada vez maior no desenvolvimento
  • Fault-tolerance e High-Avalability são duvidosas
  • Muita dificuldade de escalabilidade e limitada

Case:Facebook

  • +1 Billion users
  • +240 Billion photos
  • +1 Trillion connections
  • 22% of references of the Internet
  • 2012: 300 milhões de uploads de imagens por dia

Storm

Características

  • Simple, Flexível e com suporte a diversas linguagens
  • Possui Fault-tolerance
  • Fácilmente escalável
  • Garantia de processamento
  • Transação
  • Rápido/Low latency

Use cases

  • Processamento Contínuo e sem burocracia
  • Processamento Distribuído e Paralelismo

Evolução

  • 09/2011 virou Open Source
  • 12/2011 v0.6.0, agora usando Kryo
  • 02/2012 v0.7.0, transactional topologies
  • 08/2012 v0.8.0, LMAX Disruptor
  • ??/2013 v0.9.0-wip17

O que mais ele usa

  • ZeroMQ
  • Zookeeper
  • Thrift

Arquitetura

Diagrama de implantacao

Modelo de desenvolvimento

Diagrama resumindo de componentes para o desenvolvimento

Desenvolvimento

  • Mutiplas linguagens
    • Clojure
    • Java
    • Ruby (redstorm)
  • LocalCluster e StormSubmitter

Demo

THE END

BY Luan Cestari

http://www.ourdailycodes.com/

http://superseniordevelopers.blogspot.com.br/

Perguntas?

Livros de ref.

Big Data = http://www.manning.com/marz/

Storm = http://shop.oreilly.com/product/0636920024835.do