Data_Engineer - Expert en infrastructures de données massives - ALT

• Expert en infrastructures de données massives - Code CertifInfo 114987
  • Niveau de qualification : 7 - Savoirs hautement spécialisés

Objectifs

• Analyser l?expression d?un besoin de projet data dans une étude de faisabilité en explorant, à l?aune des enjeux stratégiques de l?organisation, le besoin métier avec les parties prenantes pour valider les orientations et sélectionner les hypothèses techniques du projet avec le ou les commanditaire(s).
• Cartographier les données disponibles en référençant les usages, les sources, les métadonnées et les données afin de valider les hypothèses techniques du projet data.
• Concevoir un cadre technique d?exploitation des données en analysant les contraintes techniques, de moyens et la cartographie des données afin de définir une réponse technique adaptée aux ressources mobilisables dans le respect du RGPD et d?une démarche éco-responsable.
• Réaliser une veille technique et réglementaire en sélectionnant des sources et en collectant et traitant les informations collectées afin de formuler des recommandations projet toujours en phase avec l?état de l?art.
• Planifier la réalisation d?un projet data en attribuant les moyens nécessaires et en définissant les étapes de réalisation et les méthodes de suivi du projet afin de d?organiser sa mise en oeuvre
• Superviser la réalisation d?un projet data en organisant les méthodes, les outils de travail et la communication entre les parties prenantes, afin d?accompagner les membres de l?équipe dans la réussite du projet
• Communiquer tout au long de la réalisation du projet data sur les orientations, les réalisations et leurs impacts en élaborant la stratégie et les supports de communication afin d?informer toutes les parties prenantes des évolutions ou des opportunités internes comme externes, portés par le projet.
• Automatiser l?extraction de données depuis un service web, une page web (scraping), un fichier de données, une base de données et un système big data en programmant le script adapté afin de pérenniser la collecte des données nécessaires au projet.
• Développer des requêtes de type SQL d?extraction des données depuis un système de gestion de base de données et un système big data en appliquant le langage de requête propre au système afin de préparer la collecte des données nécessaires au projet.
• Développer des règles d'agrégation de données issues de différentes sources en programmant, sous forme de script, la suppression des entrées corrompues et en programmant l?homogénéisation des formats des données afin de préparer le stockage du jeu de données final.
• Créer une base de données dans le respect du RGPD en élaborant les modèles conceptuels et physiques des données à partir des données préparées et en programmant leur import afin de stocker le jeu de données du projet.
• Partager le jeu de données en configurant des interfaces logicielles et en créant des interfaces programmables

  Programme de la formation

  Introduction à la formation
  Découvrir le métier de Data Engineer.
  Essayer la pédagogie active de Simplon.
  Apprendre les bases du développement et de l'algorithme.
  Rencontrer les autres personnes de la promotion.
  Comprendre les compétences à acquérir et les critères pour obtenir la certification finale
  
  Pendant la formation :
  Apprendre des langages de programmation comme Python, Java, ou Scala.
  Utiliser des outils Big Data comme Hadoop, Spark, et SQL.
  Apprendre sur l'architecture distribuée et le cloud computing.
  
  Phase 1 - Travailler sur des bases de données
  Créer et gérer des bases de données pour répondre à des besoins simples.
  Participer à la gestion d'un projet data.
  Contribuer à la conception et création de bases de données.
  Automatiser l'entrée de données dans les bases de données.
  Phase 2 - Évolution d'un data warehouse
  Travailler sur l'entrepôt de données de l'entreprise.
  Automatiser et standardiser les traitements de données. 
  Connaître les structures de données en faits et dimensions du data warehouse.
  Tester l'entrepôt de données en environnement de développement/test.
  Intégrer de nouvelles sources de données en ajustant les scripts.
  Phase 3 - Évolution d'un data lake
  Travailler sur le datalake, qui stocke les données brutes. 
  Adapter les procédures de collecte automatique de données.
  Travailler sur les outils de catalogage de données.
  Configurer les droits d'accès.
  Phase 4 - Bases de données pour les équipes d'analyse
  Créer une base de données pour répondre à un besoin métier. 
  Identifier les données sources pertinentes.
  Concevoir une base de données cible.
  Automatiser l'import des données depuis différentes sources.
  Développer des points de terminaison d'API et des règles d'autorisation.
  Phase 5 - Création d'un data warehouse
  Créer un entrepôt de données pour différents usages data. 
  Cartographier les données collectées par l'entreprise.
  Structurer l'entrepôt de données selon les cas d'usage.
  Choisir les outils de stockage et d'import.
  Maintenir les composants techniques en état de fonctionnement.
  Phase 6 - Création d'un datalake
  Mettre en place l'architecture et la structure d'un datalake. 
  Concevoir l'architecture du datalake.
  Intégrer les composants d'infrastructure.
  Mettre en place un catalogue de données.
  Implémenter des règles de gouvernance des données.
  Phase 7 - Missions d'étude, conseil, et intégration
  Piloter un projet data. 
  Analy

  Validation et sanction

  Titre Expert en infrastructures de données massives

  Type de formation

  Certifiante

  Sortie

  Bac + 5 et plus