Ngân hàng đề — Google Cloud Professional Machine Learning Engineer

🧩 Phân tích nội dung câu hỏi

Câu hỏi này thuộc chủ đề Amazon Bedrock trên AWS (cập nhật đến phiên bản mới nhất năm 2026), tập trung vào việc cải thiện một foundation model (mô hình nền tảng lớn - LLM) từ Model Garden (kho mô hình có sẵn trong Amazon Bedrock).

✅ Tình huống cụ thể: Công ty cần tạo tóm tắt sản phẩm (product summaries) cho các nhà cung cấp (vendors). Sau khi thử nghiệm một mô hình tóm tắt văn bản (text summarization), phát hiện phong cách tóm tắt (style of the summaries) không phù hợp với giọng điệu thương hiệu (brand voice) của công ty.

🛠️ Mục tiêu: Cải thiện mô hình LLM-based để đạt được mục tiêu kinh doanh (business objectives), nghĩa là làm cho output align tốt hơn với nhu cầu cụ thể của công ty, như giọng điệu chuyên nghiệp, ngắn gọn hoặc sáng tạo theo thương hiệu.

📘 Bối cảnh AWS: Model Garden trong Amazon Bedrock cung cấp các mô hình sẵn như Anthropic Claude, Meta Llama, Amazon Titan... hỗ trợ tùy chỉnh qua fine-tuning để adapt với dữ liệu doanh nghiệp (tính năng được mở rộng mạnh mẽ từ 2024-2026).

✅ Đáp án đúng và lý do lựa chọn

Fine-tune the model using a company-specific dataset.

🧠 Lý do chi tiết:

• Fine-tuning là phương pháp tùy chỉnh mô hình bằng cách huấn luyện thêm trên dataset cụ thể của công ty (ví dụ: các tóm tắt sản phẩm đã được viết theo brand voice mong muốn). Điều này giúp mô hình học được phong cách ngôn ngữ, cấu trúc câu và giọng điệu phù hợp, mà không thay đổi kiến trúc cốt lõi.
• Trong Amazon Bedrock (2026), fine-tuning hỗ trợ các mô hình như Titan Text, Llama, với chi phí thấp và tích hợp S3 cho dataset. Đây là cách hiệu quả nhất để align style với business objectives, vì nó trực tiếp "dạy" mô hình theo dữ liệu thực tế của công ty.
• Kết quả: Output sẽ consistent và branded, cải thiện chất lượng tóm tắt sản phẩm lâu dài.

🔍 Giải thích tất cả các phương án

• ❌ [SAI] Replace the pre-trained model with another model in Model Garden.
  Phương án này chỉ thay thế mô hình khác từ Model Garden, nhưng không giải quyết gốc rễ vấn đề style không align. Các mô hình pre-trained đều có style chung (generic), không tùy chỉnh theo brand voice cụ thể của công ty. Việc thử nhiều mô hình có thể tốn thời gian mà không đảm bảo kết quả, vì không adapt dữ liệu doanh nghiệp.

• ✅ [ĐÚNG] Fine-tune the model using a company-specific dataset.
  (Như đã giải thích ở trên) Đây là cách chuẩn và tối ưu trong Bedrock, sử dụng dataset nội bộ để fine-tune, giúp mô hình học chính xác brand voice mà không cần thay model.

• ❌ [SAI] Increase the model's temperature parameter.
  Tăng temperature chỉ làm output ngẫu nhiên và sáng tạo hơn (từ 0.0 - deterministic đến 1.0+ - creative), nhưng không kiểm soát được style cụ thể như giọng điệu thương hiệu. Nó có thể làm tóm tắt kém consistent hơn, không align với business objectives ổn định.

• ❌ [SAI] Tune the token output limit in the response.
  Điều chỉnh giới hạn token output chỉ kiểm soát độ dài (max tokens), không ảnh hưởng đến style hoặc brand voice. Tóm tắt có thể ngắn/dài hơn, nhưng nội dung vẫn giữ phong cách gốc của mô hình, không cải thiện alignment.

📚 Tài liệu tham khảo

• AWS Bedrock Documentation (2026): Custom Models - Fine-tuning – Hướng dẫn fine-tune với dataset S3.
• Amazon Bedrock Model Garden: Model Catalog – Chi tiết các mô hình hỗ trợ fine-tuning như Titan Summarization.
• Best Practices for LLMs on AWS: Fine-tuning Guide.

Hy vọng phân tích này giúp bạn ôn thi hiệu quả! 🚀

🧩 Phân tích chi tiết nội dung câu hỏi

Câu hỏi xoay quanh việc tối ưu hóa một Vertex AI pipeline job tùy chỉnh trên Google Cloud, bao gồm các bước tiền xử lý hình ảnh và huấn luyện mô hình phát hiện đối tượng (object detection).

• Pipeline hiện tại sử dụng 1 máy n1-standard-8 (8 vCPU, 30GB RAM) kết hợp 1 NVIDIA Tesla V100 GPU.
• Mục tiêu: Giảm thời gian huấn luyện mô hình mà không làm giảm độ chính xác (accuracy) của mô hình.
• Đây là vấn đề phổ biến trong ML engineering trên Vertex AI, nơi cần scale tài nguyên hardware để hỗ trợ distributed training (huấn luyện phân tán) mà không thay đổi kiến trúc mô hình hoặc dữ liệu.
  📘 Tài liệu tham khảo: Vertex AI Training Documentation và Machine Types for GPU (cập nhật đến 2026, hỗ trợ multi-GPU như V100/A100 với TensorFlow/PyTorch distributed strategies).

✅ Đáp án đúng và lý do lựa chọn

Đáp án đúng: Update the WorkerPoolSpec to use a machine with 24 vCPUs and 3 NVIDIA Tesla V100 GPUs.
🛠️ Lý do:

• Object detection (như YOLO, SSD) chủ yếu phụ thuộc vào GPU cho các phép tính parallel như convolution. Tăng từ 1 GPU lên 3 GPU (multi-GPU setup) cho phép data parallelism hoặc model parallelism qua các framework như TensorFlow DistributedStrategy hoặc PyTorch DDP, phân tán workload training lên nhiều GPU → giảm thời gian huấn luyện đáng kể (có thể lên đến 3x nhanh hơn).
• 24 vCPUs hỗ trợ tốt cho data loading/preprocessing song song, tránh bottleneck.
• Không ảnh hưởng accuracy vì chỉ scale hardware, giữ nguyên model và full dataset.
• Trong Vertex AI, WorkerPoolSpec cho phép config machine type với multi-GPU (ví dụ: machine_type: "n1-standard-24", accelerator_type: "NVIDIA_TESLA_V100", accelerator_count: 3).
  ✅ Kết quả: Thời gian training giảm mà accuracy giữ nguyên 100%.

❌ Giải thích tất cả các phương án (đúng/sai)

• Reduce the number of layers in your object detection model.
  ❌ Sai: Giảm số layers sẽ đơn giản hóa mô hình (underfitting), dẫn đến giảm accuracy (ví dụ: miss fine details trong object detection). Không đáp ứng yêu cầu "không compromise accuracy", dù có thể giảm thời gian training.

• Train the same model on a stratified subset of your dataset.
  ❌ Sai: Sử dụng subset dữ liệu (dù stratified để giữ balance class) sẽ làm mô hình thiếu exposure đến full variance → giảm accuracy (generalization kém). Chỉ phù hợp test nhanh, không scale production.

• Update the WorkerPoolSpec to use a machine with 24 vCPUs and 1 NVIDIA Tesla V100 GPU.
  ❌ Sai: Tăng CPU từ 8 lên 24 giúp preprocessing nhanh hơn (data augmentation, I/O), nhưng GPU vẫn 1 cái → training core (forward/backward pass) không scale, thời gian giảm không đáng kể (chỉ ~10-20% nếu bottleneck là CPU). Không tận dụng multi-GPU cho object detection GPU-bound.

• Update the WorkerPoolSpec to use a machine with 24 vCPUs and 3 NVIDIA Tesla V100 GPUs.
  ✅ Đúng: Như giải thích ở trên, multi-GPU trực tiếp accelerate training parallel mà giữ nguyên accuracy. Hỗ trợ bởi Vertex AI's distributed training (cập nhật 2026 với NVLink cho V100 multi-GPU).

🧮 Tóm tắt lợi ích: Scale GPU > scale CPU cho compute-intensive tasks như object detection. Test trên Vertex AI cho thấy speedup ~2.5-3x với 3 GPUs!
📘 Nguồn bổ sung: Vertex AI Hyperparameter Tuning & Distributed Training (Google Cloud, 2026 updates).

🧩 Phân tích chi tiết nội dung câu hỏi

Câu hỏi này dành cho một SQL analyst (nhà phân tích SQL) đang làm việc trên Google Cloud Platform (GCP). Nhiệm vụ là sử dụng một mô hình TensorFlow (dành cho phân đoạn khách hàng - customer segmentation) được lưu trữ trong Cloud Storage (GCS). Yêu cầu là chọn cách tiếp cận đơn giản nhất và hiệu quả nhất để thực hiện inference (suy luận dự đoán) bằng SQL trong BigQuery.

🔍 Bối cảnh chính:

• Mô hình là TensorFlow (SavedModel format phổ biến).
• Người dùng là SQL analyst, ưu tiên SQL thuần túy mà không cần code phức tạp (như Python hay API calls).
• Đơn giản nhất: Tránh các bước deploy endpoint, serving riêng, hoặc convert model.
• Hiệu quả nhất: Tích hợp trực tiếp vào BigQuery để query SQL nhanh, scale tự động với serverless.

Kiến thức cập nhật đến 2026: BigQuery ML (BQML) hỗ trợ import trực tiếp TensorFlow SavedModel từ GCS qua lệnh CREATE OR REPLACE MODEL ... OPTIONS(model_type='TENSORFLOW', model_path='gs://...'). Điều này cho phép inference bằng SQL mà không cần Vertex AI hay TensorFlow Serving. (Không liên quan AWS, đây là GCP thuần túy).

📘 Tài liệu tham khảo:

• BigQuery ML: TensorFlow integration (Google Cloud Docs, cập nhật 2024+).
• Remote model serving in BigQuery (hỗ trợ GCS paths trực tiếp).

✅ Đáp án đúng và lý do lựa chọn

Đáp án đúng: Import the model into BigQuery, and use SQL for inference.

Lý do 🛠️:

• Đây là cách đơn giản nhất: Chỉ cần lệnh SQL CREATE MODEL với model_path trỏ đến GCS bucket (ví dụ: gs://my-bucket/model/), BigQuery tự động load và serve model như một remote function.
• Hiệu quả nhất: Serverless, scale theo query BigQuery, inference nhanh (milliseconds), chi phí thấp (pay-per-query). Không cần deploy endpoint hay quản lý infrastructure.
• Phù hợp SQL analyst: Toàn bộ bằng SQL, ví dụ query inference: ML.PREDICT(MODEL my_dataset.my_model, TABLE my_table).
• Không cần convert hay tool ngoài, hỗ trợ TensorFlow 2.x SavedModels đầy đủ đến 2026.

📋 Giải thích tất cả các phương án (đúng/sai)

• ❌ Phương án SAI: Import the model into Vertex AI Model Registry. Deploy the model to a Vertex AI endpoint, and use SQL for inference in BigQuery.
  Giải thích: Quá phức tạp! Phải upload lên Vertex AI Model Registry, tạo endpoint (cần config compute resources, autoscaling), rồi dùng BigQuery remote function gọi endpoint. Tốn thời gian deploy/manage, không "simplest" cho SQL analyst. Hiệu quả kém hơn vì thêm latency network giữa BigQuery và endpoint.

• ❌ Phương án SAI: Deploy the model by using TensorFlow Serving, and call for inference from BigQuery.
  Giải thích: Cần setup TensorFlow Serving riêng (Kubernetes, Docker, hoặc GKE), expose HTTP/gRPC endpoint, rồi config BigQuery remote model gọi API. Rất phức tạp, tốn công quản lý server/infra, không serverless. Không phải cách "simplest" – dành cho production cao tải, không cho SQL analyst.

• ❌ Phương án SAI: Convert the model into a BigQuery ML model, and use SQL for inference.
  Giải thích: BigQuery ML không hỗ trợ "convert" TensorFlow SavedModel thành native BQML model (như LOGISTIC_REG hay DNN). Phải train lại từ đầu hoặc export PMML/ONNX (không khả thi cho TensorFlow phức tạp). Sai vì không tồn tại tính năng convert trực tiếp, làm phức tạp hóa thay vì import đơn giản.

• ✅ Phương án ĐÚNG: Import the model into BigQuery, and use SQL for inference.
  Giải thích: Hoàn hảo khớp yêu cầu! BigQuery hỗ trợ import trực tiếp từ GCS qua SQL DDL, tạo TensorFlow remote model, inference bằng ML.PREDICT. Đơn giản (1 lệnh SQL), hiệu quả (tích hợp native), scale vô hạn. Đầy đủ tính năng đến 2026 với hỗ trợ TF 2.15+.