Você sabe o que são produtos de dados?
Aprenda com nosso conteúdo!
Neste vídeo, você poderá assistir à gravação do nosso meetup sobre Gestão de Produtos de Dados, com a resposta para a nossa pergunta e também com muitas outras informações!
Já neste link, você pode baixar a nossa apresentação, onde você poderá estudar o assunto com mais detalhes, lendo os artigos referenciados durante a apresentação.
Bons estudos!
Armazenar, catalogar e processar grandes quantidades de dados exigem novas ferramentas e novos processos.
Nesta apresentação, mostraremos o conceito (e a prática) de como realizar estas ações de maneira moderna, modular e escalável, utilizando um Data Lake e a Arquitetura Lambda.
Palestra realizada no:
-GDG Datafest (Campinas-SP) 2019
Uma arquitetura de Big Data costuma possuir várias camadas específicas, cada uma com uma função diferente.
De maneira geral, as camadas são:
– Entrada do pedido
– Orquestração
– Processamento
– Predição
– Retorno da informação
Nesta apresentação, trazemos uma jornada de análise de arquiteturas serverless para se utilizar com um micro-serviço de machine learning.
Analisamos vários pontos, mostrando os prós e contras de cada solução.
Como operar um ambiente de Big Data em Multi-Cloud? E como fazer este ambiente servir a diversos propósitos, seja para um BI, para um trabalho de Análise e Mineração de Dados ou para alimentar a criação de Modelos de Machine Learning?
Aprenda como a AME Digital resolveu este problema neste webinar da campdata: https://www.youtube.com/channel/UCePbMP6CDVtRVkTon3USpRg
Aproveite!
Você sabe o que é DataOps?
Acredito que ainda não exista uma definição formal.
Mas a comunidade de Data tem sedimentado este conceito com competências que envolvem:
-DevOps (version control, CI, CD, etc)
-Data Governance (data lineage, reproducibilidade, LGPD, etc)
-Data Quality (monitoramento, tratamento, etc)
-Data Pipeline (monitoramento, evolução, testes, etc)
-Dentre outros
Para me aprofundar no assunto, recebi a indicação do “The DataOps Cookbook”. Recomendo a leitura!
Link: https://datakitchen.io/content/DataKitchen_dataops_cookbook.pdf
Quem trabalha com geolocalização já deve ter ouvido falar do Postgis.
Ele é um framework muito robusto e usado por diversas empresas de classe global ao redor do mundo.
Para realizar usa instalação, porém, o caminho pode ser tortuoso. Principalmente se você quiser instalar via código-fonte.
Abaixo segue uma receita de como fazer isso em um CentOS 7.
Receita:
INSTALANDO O POSTGRES
cd /usr/local/src
wget https://ftp.postgresql.org/pub/source/v12.3/postgresql-12.3.tar.gz
tar zxf postgresql-12.3.tar.gz
cd postgresql-12.3/
yum groupinstall “Development Tools”
yum install readline-devel libxml2-devel openssl-devel
./configure –prefix=/usr/local/pgsql-12.3 –with-openssl –with-libxml –without-ldap
make -j16
make install
cd /usr/local
ln -s pgsql-12.3/ pgsql
vi /etc/profile.d/postgresql.sh
export PATH=/usr/local/pgsql/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/lib:/usr/local/pgsql/lib:$LD_LIBRARY_PATH
export PGDATA=/pasta/pgdata
source /etc/profile.d/postgresql.sh
cd /usr/local/src/postgresql-12.3/contrib/
make -j10
make install
cd start-scripts/
cp linux /etc/init.d/postgresql
chmod +x /etc/init.d/postgresql
chkconfig postgresql on
vi /etc/init.d/postgresql
PGDATA=/pasta/pgdata
useradd –system –user-group –create-home –comment “PostgreSQL Admin User” –shell /bin/bash postgres
mkdir -p $PGDATA
chown -R postgres. /dados/
chmod -R 700 /dados/pgdata
su – postgres
chmod 700 $PGDATA
cd $PGDATA
initdb -E utf8 –locale=pt_BR.utf-8 -D $PGDATA
ROOT:
/etc/init.d/postgresql start
INICIANDO INSTALAÇÃO DO POSTGIS
cd /usr/local/src
wget https://download.osgeo.org/postgis/source/postgis-3.0.1.tar.gzyum install https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpm
wget https://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm
sudo yum install epel-release-latest-7.noarch.rpm
INSTALANDO BIBLIOTECAS POSTGIS
yum –showduplicates list geos | expand
yum install geos38.x86_64 geos38-devel.x86_64
yum install proj proj-devel
yum install gdal gdal-devel
yum install cmake
wget http://mirror.centos.org/centos/7/os/x86_64/Packages/json-c-devel-0.11-4.el7_0.x86_64.rpm
sudo yum install json-c-devel-0.11-4.el7_0.x86_64.rpm
wget https://github.com/protobuf-c/protobuf-c/releases/download/v1.1.1/protobuf-c-1.1.1.tar.gz
tar zxf protobuf-c-1.1.1.tar.gz
wget https://github.com/protocolbuffers/protobuf/releases/download/v2.6.0/protobuf-2.6.0.tar.gz
tar zxf protobuf-2.6.0.tar.gz
cd protobuf-2.6.0/
./autogen.sh
./configure
make
make install
export PKG_CONFIG_PATH=/usr/local/lib/pkgconfig
cd ../protobuf-c-1.1.1/
./configure
make
make install
FINALMENTE INSTALANDO O POSTGIS
cd ../
tar zxf postgis-3.0.1.tar.gz
cd postgis-3.0.1/
make clean SE FOR DA SEGUNDA VEZ EM DIANTE
./configure –with-geosconfig=/usr/geos38/bin/geos-config
make
make install
reiniciar pg
/etc/init.d/postgresql stop
/etc/init.d/postgresql start
TESTANDO O POSTGIS
psql -U postgres
create extension postgis;
SELECT encode(ST_AsGeobuf(q, ‘geom’), ‘base64’) FROM (SELECT ST_GeomFromText(‘POLYGON((0 0,0 1,1 1,1 0,0 0))’) AS geom) AS q;
OUTRAS BIBLIOTECAS:
PG_CRON
wget https://github.com/citusdata/pg_cron/archive/master.zip
mv master.zip pg_cron-master.zip
unzip pg_cron-master.zip
cd pg_cron-master/
make
make install
postgresql.conf
shared_preload_libraries = ‘pg_cron’
cron.database_name = ‘postgres’
reiniciar pg
/etc/init.d/postgresql stop
/etc/init.d/postgresql start
ORACLE_FDW
rpm -i oracle-instantclient19.5-basic-19.5.0.0.0-1.x86_64.rpm
rpm -i oracle-instantclient19.5-devel-19.5.0.0.0-1.x86_64.rpm
rpm -i oracle-instantclient19.5-tools-19.5.0.0.0-1.x86_64.rpm
wget https://github.com/laurenz/oracle_fdw/archive/master.zip
mv master.zip oracle_fdw.zip
unzip oracle_fdw.zip
cd oracle_fdw-master/
ls -l /usr/include/oracle/
OPCAO 1
cp Makefile orig_makefile
sed -i ‘s/19.6/19.5/g’ Makefile
OPCAO 2:
Add the following to Makefile yourself:
To PG_CPPFLAGS add -I/usr/include/oracle/XX.X/client64, and to SHLIB_LINK add -L/usr/lib/oracle/XX.X/client64/lib.
make
make install
TDS-FDW (SQL SERVER)
sudo yum install epel-release
sudo yum install freetds-devel
sudo yum install centos-release-scl
sudo yum install llvm-toolset-7-clang llvm5.0
yum install git
cd /usr/local/src
git clone https://github.com/tds-fdw/tds_fdw.git
cd tds_fdw
make USE_PGXS=1 PG_CONFIG=/usr/local/pgsql/bin/pg_config
sudo make USE_PGXS=1 PG_CONFIG=/usr/local/pgsql/bin/pg_config install
Existem diversos padrões de de arquitetura para Big Data e Data Pipelines.
Uma delas é a Arquitetura Lambda. Ela permite que um mesmo dado seja processado em real time para visualização rápida, ao mesmo tempo em que este dado vai para uma área de dados históricos, onde será processado de outras maneiras.
Nesta palestra demonstramos como construir uma Arquitetura Lambda na prática na Amazon Web Services (AWS).
Construir um modelo de Machine Learning é um desafio. Porém, apenas a existência de um modelo, não é o suficiente para criar um produto de dados.
Este modelo precisa ser alocado dentro de uma Arquitetura que conterá um Data Pipeline (responsável por obter e transformar os dados) que por sua vez irá entregar os dados transformados para o modelo de Machine Learning.
Este Data Pipeline envolve uma arquitetura razoavelmente complexa, com diversas tecnologias.
Nesta palestra, focamos em como construir um arquitetura de Data Pipeline na Nuvem, analisando opções concorrentes, com os prós e contras de cada ferramenta presente na Arquitetura.
Trabalhar com Bancos de Dados pode ser um trabalho muito manual e “artesanal”.
Porém, existem ferramentas e processos que podem tornar o trabalho do DBA mais ágil e evolutivo, sem que com isso ele tenha que abrir mão da segurança.
Nesta palestra, propomos maneiras de unir o mundo dos Bancos de Dados ao mundo de Devops. Link: https://www.infoq.com/br/presentations/meu-dna-nao-e-agil-e-agora/
Existem diversas formas de se orquestrar um pipeline de dados. Uma das menos óbvias seja usar o Jenkins para isso, dado que sua função mais conhecida é a de orquestrar deploys de software.
Porém, com os plugins corretos, é possível construir um data pipeline robusto e de fácil gerenciamento, dado que quase tudo pode ser feito via interface gráfica na web.
Tive o prazer de fazer uma palestra no SPIN Campinas sobre este assunto, o tema do encontro era DevOps.
O nome da palestra é: “Automação de infraestrutura utilizando o Jenkins”.
Link para os slides: http://pt.slideshare.net/FelipeSantos292/automatizao-de-infraestrutura-com-jenkins