×

Mục tiêu

- Thiết kế, xây dựng hệ thống xử lý dữ liệu trên Google Cloud
- Xử lý batch và streaming data bằng cách triển khai Data Pipeline tự động trên Cloud Dataflow
- Thu nhập Business insight từ dữ liệu lớn bằng cách sử dụng Google Bigquery
- Đào tạo, đánh giá và dự đoán kết quả sử dụng mô hình Machine learning với Tensorflow và Cloud ML
- Tái sử dụng dữ liệu phi cấu trúc bằng cách sử dụng Spark và Machine Learning API trên Cloud Dataproc
- Khai phá sức mạnh từ việc sử dụng streaming data
- Chọn lựa và điều chỉnh I/O cho Dataflow pipeline
- Sử dụng schemas để đơn giản hóa Heam code và cải thiện hiệu xuất pipeline
- Phát triển Beam pipeline sử dụng SQL và DataFrames
- Giám sát, khắc phục sự cố, kiểm tra CI/CD trên Dataflow pipelines

Tổng quan

Đối tượng học viên:

- Data Analysts, Data Scientists và Business analysts mới bắt đầu làm việc với Google Cloud.
- Cá nhân muốn thiết kế data pipeline và kiến trúc để xử lý dữ liệu, tạo và quản lý mô hình Machine Learning, thống kê, cũng như trực quan hóa dữ liệu bằng report, dashboard...

Yêu cầu học viên

- Hoàn thành khóa học Big Data & Machine learning fundamental
- Hiểu biết cơ bản: SQL.
- Có kinh nghiệm Data model, trích xuất, đồng bộ, nhập và xuất dữ liệu
- Hiểu biết ngôn ngữ lập trình: Python
- Có kinh nghiệm làm việc với Machine Learning hoặc thống kê.

Chương trình học

1

Module 1: Introduction to Data Engineering

Explore the role of a data engineer.
Analyze data engineering challenges.
Intro to BigQuery.
Data Lakes and Data Warehouses.
Demo: Federated Queries with BigQuery.
Transactional Databases vs Data Warehouses.
Website Demo: Finding PII in your dataset with DLP API.
Partner effectively with other data teams.
Manage data access and governance.
Build production-ready pipelines.
Review GCP customer case study.
Lab: Analyzing Data with BigQuery.

2

Module 2: Building a Data Lake

Introduction to Data Lakes.
Data Storage and ETL options on GCP.
Building a Data Lake using Cloud Storage.
Optional Demo: Optimizing cost with Google Cloud Storage classes and Cloud Functions.
Securing Cloud Storage.
Storing All Sorts of Data Types.
Video Demo: Running federated queries on Parquet and ORC files in BigQuery.
Cloud SQL as a relational Data Lake.
Lab: Loading Taxi Data into Cloud SQL.

3

Module 3: Building a Data Warehouse

The modern data warehouse.
Intro to BigQuery.
Demo: Query TB+ of data in seconds.
Getting Started.
Loading Data.
Video Demo: Querying Cloud SQL from BigQuery.
Lab: Loading Data into BigQuery.
Exploring Schemas.
Demo: Exploring BigQuery Public Datasets with SQL using INFORMATION_SCHEMA.
Schema Design.
Nested and Repeated Fields.
Demo: Nested and repeated fields in BigQuery.
Lab: Working with JSON and Array data in BigQuery.
Optimizing with Partitioning and Clustering.
Demo: Partitioned and Clustered Tables in BigQuery.
Preview: Transforming Batch and Streaming Data.

4

Module 4: Introduction to Building Batch Data Pipelines,

EL, ELT, ETL.
Quality considerations.
How to carry out operations in BigQuery.
Demo: ELT to improve data quality in BigQuery.
Shortcomings.
ETL to solve data quality issues.

5

Module 5: Executing Spark on Cloud Dataproc

The Hadoop ecosystem.
Running Hadoop on Cloud Dataproc.
GCS instead of HDFS.
Optimizing Dataproc.
Lab: Running Apache Spark jobs on Cloud Dataproc.

6

Module 6: Serverless Data Processing with Cloud Dataflow

Cloud Dataflow.
Why customers value Dataflow.
Dataflow Pipelines.
Lab: A Simple Dataflow Pipeline (Python/Java).
Lab: MapReduce in Dataflow (Python/Java).
Lab: Side Inputs (Python/Java).
Dataflow Templates.
Dataflow SQL.

7

Module 7: Manage Data Pipelines with Cloud Data Fusion and Cloud Composer

Building Batch Data Pipelines visually with Cloud Data Fusion.
Components.
UI Overview.
Building a Pipeline.
Exploring Data using Wrangler.
Lab: Building and executing a pipeline graph in Cloud Data Fusion.
Orchestrating work between GCP services with Cloud Composer.
Apache Airflow Environment.
DAGs and Operators.
Workflow Scheduling.
Optional Long Demo: Event-triggered Loading of data with Cloud Composer, Cloud Functions, Cloud Storage, and BigQuery.
Monitoring and Logging.
Lab: An Introduction to Cloud Composer.

8

Module 8: Introduction to Processing Streaming Data

Processing Streaming Data.

9

Module 9: Serverless Messaging with Cloud Pub/Sub

Cloud Pub/Sub.
Lab: Publish Streaming Data into Pub/Sub.

10

Module 10: Cloud Dataflow Streaming Features

Cloud Dataflow Streaming Features.
Lab: Streaming Data Pipelines.

11

Module 11: High-Throughput BigQuery and Bigtable Streaming Features

BigQuery Streaming Features.
Lab: Streaming Analytics and Dashboards.
Cloud Bigtable.
Lab: Streaming Data Pipelines into Bigtable.

12

Module 12: Advanced BigQuery Functionality and Performance

Analytic Window Functions.
Using With Clauses.
GIS Functions.
Demo: Mapping Fastest Growing Zip Codes with BigQuery GeoViz.
Performance Considerations.
Lab: Optimizing your BigQuery Queries for Performance.
Optional Lab: Creating Date-Partitioned Tables in BigQuery.

13

Module 13: Introduction to Analytics and AI

What is AI?.
From Ad-hoc Data Analysis to Data Driven Decisions.
Options for ML models on GCP.

14

Module 14: Prebuilt ML model APIs for Unstructured Data

Unstructured Data is Hard.
ML APIs for Enriching Data.
Lab: Using the Natural Language API to Classify Unstructured Text.

15

Module 15: Big Data Analytics with Cloud AI Platform Notebooks

Whats a Notebook.
BigQuery Magic and Ties to Pandas.
Lab: BigQuery in Jupyter Labs on AI Platform.

16

Module 16: Production ML Pipelines with Kubeflow

Ways to do ML on GCP.
Kubeflow.
AI Hub.
Lab: Running AI models on Kubeflow.

17

Module 17: Custom Model building with SQL in BigQuery ML

BigQuery ML for Quick Model Building.
Demo: Train a model with BigQuery ML to predict NYC taxi fares.
Supported Models.
Lab Option 1: Predict Bike Trip Duration with a Regression Model in BQML.
Lab Option 2: Movie Recommendations in BigQuery ML.

18

Module 18: Custom Model building with Cloud AutoML

Why Auto ML?
Auto ML Vision.
Auto ML NLP.
Auto ML Tables.

Thông tin khoá học

Thời gian

15:00 - 17:00

Lịch học

T2 - T4 - T6

Thời lượng

36 giờ

Hình thức

Online

Chi phí

18.000.000 vnđ

Chương trình đào tạo Google Cloud khác

Professional Cloud Architect

Giúp học viên có kiến thức phù hợp với việc thi chứng chỉ Professional Cloud Architect.
Sau khi hoàn thành khoá học, học viên có đủ kiến thức từ thiết kế, lên kế hoạch về kiến trúc giải pháp trên Google Cloud đến quản lý, triển khai kiến trúc trên và đảm bảo độ tin cậy khi xây dựng hệ thống trên Google Cloud.

Associate Cloud Engineer

Giúp học viên có kiến thức phù hợp với việc thi chứng chỉ Associate Cloud Engineer.
Học viên có thể triển khai các ứng dụng, giám sát hoạt động và quản lý các giải pháp doanh nghiệp trên hạ tầng Google Cloud.

Smart Analytics

Khóa học giúp học viên hiểu biết về Data Pipeline giúp tổng hợp, sắp xếp và di chuyển dữ liệu đến hệ thống mục tiêu nhằm tiến hành lưu trữ và phân tích dữ liệu. Data Studio giúp bạn kết nối nhiều nguồn dữ liệu: đồng bộ nhiều nguồn dữ liệu khác nhau với các sản phẩm khác của Google như Google Analytics, Google sheet, Google Ads, BigQuery và nhiều nguồn khác.

Core Infrastucture Fundamental

Khóa học giới thiệu các khái niệm và thuật ngữ quan trọng để làm việc trên Google Cloud Platform (GCP). Bạn sẽ tìm hiểu và so sánh nhiều dịch vụ điện toán đám mây: Google App Engine, Google Compute Engine, Google Kubernetes Engine, Google Cloud Storage, Google Cloud SQL và BigQuery. Các công cụ quản lý tài nguyên và chính sách quan trọng như hệ thống phân quyền, quản lý truy cập trên GCP .Trong quá trình học, bạn sẽ được trau dồi kiến thức, demo trên Google Cloud và bài lab thực hành giúp bạn hiểu được cách làm việc trên Google Cloud

Big Data and Machine Learning Fundamentals

Google Cloud được biết đến có thế mạnh về lưu trữ dữ liệu và xử lý dữ liệu nhanh chóng. Việc xử lý dữ liệu thể hiện ở khả năng xử lý Big Data và Machine learning. Trong khóa học, bạn sẽ tìm hiểu xơ lược qua về Google Cloud, sau đó đi sâu vào tìm hiểu khả năng xử lý dữ liệu của Google Cloud. Xuyên suốt quá trình học, bạn sẽ được trau dồi kiến thức và demo và bài Lab thực hành làm việc trên Google Cloud qua đó bạn sẽ có cái nhìn tổng quan về Google Cloud và chi tiết hơn về cách xử lý dữ liệu và Machine learning. Thông qua khóa học bạn sẽ hiểu được sức mạnh và khả năng xử lý dữ liệu nhanh chóng của Google Cloud.