Qu'est ce qu'un / une Data Engineer ?
Un Data Engineer a un background tech. Il passe généralement par une école d’ingénieurs avec option Big Data / Data Mining. Il peut aussi s’agir d’un software engineer qui choisit d’évoluer plus tard dans un environnement Data, et découvre progressivement les technos de ce dernier.
LA DATA. C’est bien joli, mais qu’est-ce qu’on en fait ? Sans les data engineers, rien.
Nos chers amis créent l’infrastructure (ou “la maison”) qui va accueillir la donnée.
Admettons que l’eau = la donnée. Le data engineer va mettre en place les tuyauteries, la baignoire, les robinets qui vont permettre à toute la famille de boire, se laver, vivre. Et bien, sans les solutions implémentées en amont par le data engineer, la donnée n’est pas prête à être utilisé par tous. Pas de données, pas d’insights, pas de prise de décisions. Pas de bras, pas de chocolat !
Data si, data ça. On peut profiler deux types de Data Engineer:
- Le “bâtisseur” va en collaboration avec le Data architect créer from scratch toute la stack et le socle de l’architecture Data (DataLake, DataWarehouse, ETL, pipelines de données, espaces de stockage, cloud, bases de données…) qui sera capable de gérer de très grandes volumétries de données (en fonction du business) dans un temps très limité. En deux mots, il prépare un terrain lisse au Data Scientist qui tirera des tendances de ses données en y appliquant des modèles / algorithmes.
- “L’industrialisateur” va, en collaboration avec le Data Scientist, industrialiser des modèles de Data Science. En d’autres termes, il met en production des algorithmes de la manière la plus propre possible.
Quelle est la journée type d'un Data Engineer ?
On ne peut pas résumer le quotidien d’un Data Engineer car ses tâches vont dépendre de multiples critères : la société et la maturité de son business, les volumétries de données à traiter, l’échelle de scalabilité etc.
Mais si on le doit, un data engineer est avant tout un développeur qui code pour construire “la maison” et lier toutes les pièces entre elles.
Il collabore au sein d’une équipe pluridisciplinaire (Développeurs back-end, Data Scientists, Data Analysts…) et évolue sur une stack propre à la Data.
Il récupère des données de différentes natures, et diverses sources, et les transforment pour répondre à un certain format. Il va structurer toutes ses données pour garantir un self-service à tous, que chacun puisse accéder facilement et rapidement aux données / infos souhaitées. Il met en place des espaces de stockage (cloud or no cloud). C’est un garant de l’architecture qu’il conçoit, développe, teste et maintient (bases de données, systèmes de flux de données etc.).
Quelles sont les compétences clés d'un Data Engineer ?
- La base, c’est la base ! SQL (GraphQL) pour faire des requêtes et les bases de données relationnelles (PostgreSQL) et non relationnelles - bases de données SQL et NoSQL (Cassandra, Redis, BigTable, HBase, MongoDB, Neo4J pour les plus courantes).
- Langages (Scala, Java, Python et JS le plus souvent).
- Des solutions de stockage (Amazon RedShift, S3, Google Big Query,
- Une approche micro-services
- Des solutions d’archi (lambda pour traiter en batch et en temps réel/streaming)
- Connaissance de l’environnement cloud (AWS, GCP ou Azure)
- Hadoop et son environnement : Spark, HDFS, MapR, Hive, HBase, Sqoop….
- ELK (ElasticSearch, Logstash, Kibana)
- Des systèmes de messageries (Kafka, Kinesis, RabbitMQ)
- Une casquette DevOps (Docker, Kubernetes, Jenkins)
- Des orchestrateurs (Luigi, Airflow, Oozie)
- Outils de Data Viz (Tableau, PowerBI, QlikView, Amplitude)
Data Engineer, what else ?
- Data architect (une fois Data Engineer senior)
- Data Ops (une fois Data Engineer confirmé)
- Data Scientist (si background mathématiques poussé)
- Head of Data (si background mathématiques poussé)
Quel est le salaire d'un Data Engineer ?
Jeune diplômé, tu as bien fait de suivre le chemin de la force. Un data engineer qui sort d’école pourra prétendre à un salaire brut annuel entre 40K € et 45K € packagé.
Entre 1 et 3 ans, tu prends un peu de galon auprès de seniors, tu oscilles entre 48K € et 55K €.
La quatrième année est souvent un moment de réflexion, où il manque quelques technos à ton arc. Tu te situes entre 55K € et 65K €.
Passé 6 ans d’expérience, tu es considéré comme senior, même si pas expert. Tu pars sur une base de plus ou moins 65K €.
Pour plus d'infos, consulte notre baromètre des salaires et notre baromètre des TJM.
Qu’est-ce qui fait de toi un excellent Data Engineer?
- Ton agnosticisme! Le langage en fonction du besoin business, et non l’inverse.
- Ta veille technologique (assister à des meetups, projets personnels, contribution Github etc.) Ne jamais s’empâter ! Un bon Data Engineer consacre au moins 10% de son temps à élargir son champs et découvrir de nouvelles technos et savoir-faire.
- Communicant pour assurer une proximité avec les équipes métiers et évangéliser la Data.
Data Engineer
Data Engineer Junior - CDI - Paris - (H/F)
Data Engineer dans une startup en croissance
La société: Startup Data au sein d'un cabinet de consulting avec un environnement international et une équipe spécialisée. Le but ? Travailler en taskforce pour aider aux mieux les clients. Ils accompVoir l'annonce
Data Engineer
Data Architecte - CDI - Paris - (H/F)
Data Architecte dans le monde du Vin et des Spriritueux
La société: Branche d'un des plus grands groupes français dans le luxe, elle est spécialisée dans les vins et spiritueux. Le contexte global de la mission est de créer une plateforme commune à tous leVoir l'annonce
Data Engineer
Lead Data Engineer - CDI - CDI - (H/F)
Lead Data pour lutter contre le gaspillage
La société :Créée en 2012, cette startup innove sur un produit basé sur l’IA pour lutter contre le gaspillage alimentaire ! Née en région Nantaise, elle a pour ambition de se développer à l’internati
Voir l'annonce
Data Engineer
Lead Data Engineer/ Data Architect - PAris - CDI - Paris - (H/F)
Référent technique chez la marketplace automobile
Contexte de l'entreprise : Créé il y a 50 ans, ce spécialiste des market places automobiles compte aujourd'hui plus de 50 millions de visites mensuelles. Grâce à ses 200 collaborateurs, il continue deVoir l'annonce
Data Engineer
Data Engineer / Software Engineer Python - CDI - Paris - (H/F)
Média générateur des communautés les plus engagées du monde
La société:Seulement créée en 2016, cette entreprise fait déjà partie des 10 plus grands médias au monde aujourd’hui.
Leur vision est simple : Les gens qui ont moins de 45 ans ne regardent plus la t
Voir l'annonce
Data Engineer
Premier Data Engineer - CDI - Paris - Up to 90k - H/F - CDI - Paris - (H/F)
Premier Data Engineer dans une jeune startup
L'entreprise :Fondée en 2020, cette startup propose une solution Saas à destination des entreprises industrielles pour les aider à atteindre leur objectifs de production. Grâce à cette interface simp
Voir l'annonce
Data Engineer
Data Analyst
Data Analytics Engineer - CDI - Paris - (H/F)
La medtech spécialisée dans la santé préventive
La société:Lancée en septembre, cette entreprise vise à réinventer la médecine préventive, en facilitant les soins à domicile et en fournissant des recommandations basées sur les résultats des patien
Voir l'annonce
Data Engineer
Tech Lead Data - CDI - Paris - (H/F)
Tech Lead Data dans la startup conseil en croissance
Contexte de l'entreprise : Cabinet de conseil spécialisé dans la Data. Le cabinet combine méthode agile concernant les projets et mélange de Data Engineering et Data Science pour répondre au mieux auxVoir l'annonce
Data Engineer
Data engineer - CDI - Paris - (H/F)
Pour le moteur de recherche qui respecte votre vie priviée !
La société:L'entreprise est un moteur de recherche respectueux de la vie privée de ses utilisateurs : pas de tracking des données, ni de revente des données personnelles.
Les missions :
Voir l'annonce
Data Engineer
Senior Data Engineer - CDI - Paris - (H/F)
Senior Data Engineer sur la fidélisation dans le retail
La société : le produit repose sur la data, leur solution basée sur de l’intelligence artificielle permet de personnaliser le monde de la promotion et de la fidélisation.Les missions :
- Travailler
Voir l'annonce
Data Engineer
Sénior Data Engineer - CDI - Marseille - (H/F)
La startup FinTech de la transformation de la Data en Smartdata
La société :Je recrute actuellement pour une entreprise spécialisée dans la transformation de la bigdata en smartdata.
Votre rôle sera d’assurer le bon traitement de la donnée au sein de la plateform
Voir l'annonce
Data Engineer
Data Engineer - CDI - Paris - (H/F)
Pour l'agence au service de l'innovation
La société:L'entreprise est un groupe indépendant et international, leader du conseil en transformation numérique et de la création de produits et de services numériques.
Créée en 2003 elle compte au
Voir l'annonce
Python
Data Engineer
Data Engineer - CDI - Lille - (H/F)
Data Engineer confirmé
La société: Cette société est devenue la référence dans la carte cadeau multi-enseigne en France et a pour projet de se développer à l'international grâce à son succès. Dans cette optique, ils viennenVoir l'annonce
Data Engineer
Senior Data Engineer - CDI - Nantes - (H/F)
pour la start-up anti gaspillage !
La société :Cette entreprise développe une plateforme qui permet l'optimisation et la gestion des stocks alimentaires pour les supermarchés. Son outil de gestion aide les entreprises à rationaliser l
Voir l'annonce
Data Engineer
Senior Data Engineer - CDI - Paris - (H/F)
Data Engineer dans la surveillance industrielle du futur
La société: Start-up qui a développé un produit complexe utilisant le calcul neuromorphique pour surveiller les productions industrielles de potentielles défaillances. Proche d'une rétine humaine, ceVoir l'annonce
╳
Postuler