Ngân hàng đề — AWS Certified AI Practitioner

📖 Giải thích nội dung câu hỏi
Công ty muốn xây dựng một chatbot dùng mô hình ngôn ngữ lớn (LLM) để trả lời các câu hỏi liên quan tới chính sách nhân sự. Công ty đã có một “kho tài liệu số” (digital documentation base) khổng lồ – tức là một tập hợp các tài liệu, quy định, hướng dẫn được lưu trữ dưới dạng văn bản. Yêu cầu là tối ưu hoá các câu trả lời mà chatbot sinh ra, sao cho:

• Nội dung trả lời chính xác, dựa trên các tài liệu thực tế của công ty.
• Không cần phải “đào tạo lại” (re‑train) toàn bộ mô hình vì tài liệu có thể thay đổi thường xuyên.

Vậy kỹ thuật nào phù hợp nhất để “bổ trợ” (augment) quá trình sinh câu trả lời của LLM bằng cách tra cứu (retrieve) thông tin từ kho tài liệu hiện có?

✅ Đáp án đúng: Use Retrieval Augmented Generation (RAG)

Lý do chọn

• RAG kết hợp hai bước:

  1. Retrieval – tìm kiếm (với vector search, BM25, hoặc các công cụ như Amazon Kendra, OpenSearch) các đoạn tài liệu liên quan tới câu hỏi.
  2. Generation – truyền các đoạn tài liệu được lấy về làm “context” (đầu vào) cho LLM, giúp mô hình sinh ra câu trả lời dựa trên thông tin thực tế.

• Đối với một kho tài liệu lớn, RAG cho phép cập nhật real‑time mà không cần fine‑tune lại mô hình.

• AWS cung cấp dịch vụ Amazon Kendra (search‑optimized) + Amazon Bedrock (LLM) để triển khai RAG một cách dễ dàng (2024‑2026).

Do đó, RAG là kỹ thuật tối ưu nhất cho yêu cầu của câu hỏi.

❌ Các phương án sai và phân tích chi tiết

• Use few-shot prompting
  Few‑shot prompting chỉ là việc cung cấp một vài ví dụ (few‑shots) trong prompt để “hướng dẫn” mô hình cách trả lời.

  • Không giải quyết vấn đề truy xuất thông tin từ kho tài liệu lớn.
  • Khi tài liệu thay đổi, bạn phải cập nhật lại các ví dụ trong prompt – không hiệu quả và dễ gây lỗi.
  • Do đó, đây không phải là cách tối ưu để khai thác một kho tài liệu khổng lồ.

• Set the temperature to 1
  Tham số temperature điều khiển mức độ ngẫu nhiên trong quá trình sinh văn bản:

  • Giá trị cao (≈1) tạo ra câu trả lời đa dạng, ít ổn định, thường giảm độ chính xác và độ nhất quán.
  • Đối với chatbot trả lời chính sách HR, cần độ tin cậy và độ chính xác cao, vì vậy không nên tăng temperature lên 1.

• Decrease the token size
  Giảm kích thước token (độ dài tối đa của prompt/response) có thể giảm chi phí nhưng:

  • Khi tài liệu HR dài, việc cắt ngắn token sẽ loại bỏ thông tin quan trọng, làm giảm chất lượng câu trả lời.
  • Không phải là giải pháp để “tối ưu hoá” nội dung trả lời, mà chỉ là một biện pháp tối ưu chi phí/độ trễ không phù hợp với yêu cầu chất lượng.

🧩 Tóm tắt nhanh các lựa chọn

• ✅ Use Retrieval Augmented Generation (RAG) – Kỹ thuật chuẩn để kết hợp tra cứu tài liệu và sinh câu trả lời, phù hợp với kho tài liệu lớn, không cần fine‑tune lại mô hình.
• ❌ Use few-shot prompting – Chỉ dùng ví dụ trong prompt, không giải quyết tra cứu tài liệu.
• ❌ Set the temperature to 1 – Tăng độ ngẫu nhiên, giảm độ chính xác, không phù hợp với yêu cầu tính chính xác cao.
• ❌ Decrease the token size – Giảm độ dài đầu vào/đầu ra, có thể làm mất thông tin quan trọng, không tối ưu cho chất lượng trả lời.

📚 Tham khảo (đến năm 2026)

1. Amazon Bedrock Documentation – Retrieval‑augmented generation (2024‑2026) – https://docs.aws.amazon.com/bedrock/latest/userguide/rag.html
2. Amazon Kendra – Enterprise Search – https://aws.amazon.com/kendra/
3. “Retrieval‑Augmented Generation for LLMs”, paper by Lewis et al., 2020, và các cập nhật trong AWS re:Invent 2023 & 2024.
4. OpenAI Cookbook – Retrieval‑augmented generation (2025) – https://github.com/openai/openai-cookbook/blob/main/examples/RAG.ipynb (cũng áp dụng cho các LLM trên Bedrock).

💡 Kết luận: Để tối ưu hoá câu trả lời của chatbot HR dựa trên một kho tài liệu số lớn, công ty nên triển khai Retrieval Augmented Generation (RAG), kết hợp Amazon Kendra (hoặc OpenSearch) để tra cứu nhanh các đoạn văn bản liên quan, sau đó đưa chúng vào prompt của LLM trên Amazon Bedrock. Các phương án còn lại không đáp ứng nhu cầu truy xuất thông tin và độ chính xác cần thiết.

🔎 Phân tích câu hỏi

Công ty giáo dục đang xây dựng một chatbot dành cho thanh thiếu niên và đang huấn luyện một mô hình ngôn ngữ lớn (LLM) tùy chỉnh.
Mục tiêu của chatbot: nói “theo phong cách của tuổi teen” – tức là sử dụng cách viết sáng tạo, viết tắt, từ ngữ slang.

Do vậy, khi đánh giá mô hình chúng ta cần một metric đo khả năng mô hình nắm bắt và tái tạo ngữ nghĩa, ngữ cảnh và cách diễn đạt phong cách thay vì chỉ đo độ trùng khớp từ‑vựng truyền thống.

✅ Đáp án đúng: BERTScore

• BERTScore dựa trên các embeddings của mô hình transformer (BERT, RoBERTa, …) để tính độ tương đồng ngữ nghĩa giữa câu dự đoán và câu tham chiếu.
• Nó không phụ thuộc vào sự trùng khớp từ vựng (như BLEU, ROUGE) mà xem xét ngữ nghĩa và cấu trúc ngữ cảnh, nên phù hợp khi câu trả lời có thể dùng từ viết tắt, spelling sáng tạo nhưng vẫn truyền đạt cùng một ý nghĩa.
• Đối với ngôn ngữ teen với slang, từ viết tắt và cách diễn đạt không chuẩn, BERTScore cho phép đánh giá mức độ gần gũi ngữ nghĩa ngay cả khi các token không trùng khớp.

Tham khảo:
• Wang et al., “BERTScore: Evaluating Text Generation with BERT”, ACL 2020 – vẫn được công nhận là metric tiêu chuẩn cho đánh giá ngữ nghĩa trong các mô hình ngôn ngữ hiện đại (cập nhật 2024‑2026).
• AWS SageMaker JumpStart cung cấp các hàm tính BERTScore tích hợp sẵn, hỗ trợ đánh giá LLM trong quy trình training và deployment.

❌ Giải thích các phương án sai

1. F1 score

• F1 là harmonic mean của Precision và Recall, thường dùng cho các bài toán phân loại (spam/ham, NER, …).
• Trong trường hợp đánh giá text generation, F1 không phản ánh được độ tương đồng ngữ nghĩa hay phong cách viết; nó chỉ đo mức độ trùng khớp nhị phân (có/không).
• Do đó, F1 không phù hợp để đánh giá một chatbot muốn sử dụng creative spelling.

2. Recall-Oriented Understudy for Gisting Evaluation (ROUGE)

• ROUGE (đặc biệt là ROUGE‑N, ROUGE‑L) đo độ trùng khớp n‑gram hoặc chuỗi con dài nhất giữa văn bản tạo ra và văn bản tham chiếu.
• ROUGE đòi hỏi sự giống nhau về từ vựng; các từ viết tắt, “spelling sáng tạo” sẽ khiến điểm ROUGE giảm mạnh dù ngữ nghĩa vẫn đúng.
• Vì mục tiêu là đánh giá phong cách teen, ROUGE không thể nắm bắt được sự đa dạng từ ngữ.

3. Bilingual Evaluation Understudy (BLEU) score

• BLEU tính độ trùng khớp n‑gram giữa câu dự đoán và câu tham chiếu, thường dùng trong dịch máy.
• Giống như ROUGE, BLEU phụ thuộc vào từ vựng và không xem xét ngữ nghĩa sâu; nên không thích hợp cho các biến thể sáng tạo của tiếng Anh teen.
• Ngoài ra, BLEU còn có penalty cho câu quá ngắn – điều này có thể làm giảm điểm không công bằng cho các câu ngắn, “slang” mà chatbot tạo ra.

🛠️ Gợi ý thực tiễn trên AWS

• Khi đào tạo LLM trên Amazon SageMaker, bạn có thể tích hợp BERTScore trong pipeline Processing hoặc Training để theo dõi metric này qua Amazon CloudWatch.
• Đối với deployment, dùng SageMaker Model Monitor để thu thập BERTScore trên dữ liệu đầu ra thực tế, đảm bảo chatbot luôn duy trì phong cách teen mong muốn.
• Nếu cần so sánh nhiều metric, có thể kết hợp BERTScore (ngữ nghĩa) + Perplexity (độ mượt) để có cái nhìn toàn diện.

📚 Tài liệu tham khảo

1. Wang, A., et al. “BERTScore: Evaluating Text Generation with BERT.” ACL 2020. (Cập nhật 2024‑2026).
2. AWS Documentation – Amazon SageMaker JumpStart – “Evaluating Generated Text with BERTScore”.
3. “BLEU, ROUGE, METEOR, and BERTScore: Choosing the Right Metric for Text Generation”, AWS Machine Learning Blog, 2025.

Tóm lại: Để đánh giá một LLM muốn sinh ra ngôn ngữ teen sáng tạo (creative spelling, shortened words), BERTScore là metric phù hợp nhất vì nó đo độ tương đồng ngữ nghĩa dựa trên embeddings, không phụ thuộc vào việc các từ phải khớp chính xác. Các metric truyền thống như F1, ROUGE, BLEU đều không đáp ứng yêu cầu này. ✅

🔎 Phân tích câu hỏi

Câu hỏi mô tả một tình huống mà đội ngũ dịch vụ khách hàng muốn xây dựng một ứng dụng để:

1. Phân tích phản hồi của khách hàng – dữ liệu đầu vào thường là văn bản (email, đánh giá, bình luận, …).
2. Tự động phân loại các phản hồi vào các nhóm: chất lượng sản phẩm, dịch vụ khách hàng, trải nghiệm giao hàng.

Điều này yêu cầu máy tính hiểu ngôn ngữ tự nhiên, trích xuất ý nghĩa, và gán nhãn (classification) dựa trên nội dung văn bản. Trong các khái niệm AI/ML của AWS, đây là Natural Language Processing (NLP) – một nhánh của trí tuệ nhân tạo chuyên xử lý và phân tích dữ liệu ngôn ngữ.

✅ Đáp án đúng

Natural language processing (NLP)

Vì:

• Nhiệm vụ chính là xử lý và hiểu ngôn ngữ tự nhiên (văn bản phản hồi).
• AWS cung cấp các dịch vụ NLP hiện đại như Amazon Comprehend, Amazon Bedrock (mô hình LLM), Amazon SageMaker JumpStart v.v., giúp thực hiện sentiment analysis, topic modeling, text classification – chính xác như yêu cầu câu hỏi.

📚 Giải thích các phương án (giữ nguyên nội dung tiếng Anh)

1️⃣ Computer vision ❌

• Giải thích: Computer vision (thị giác máy tính) tập trung vào xử lý và phân tích dữ liệu hình ảnh / video (ví dụ: nhận diện khuôn mặt, phát hiện vật thể).
• Tại sao sai: Trong kịch bản này không có bất kỳ hình ảnh nào; dữ liệu là văn bản, vì vậy công nghệ thị giác máy tính không phù hợp.

2️⃣ Natural language processing (NLP) ✅

• Giải thích: NLP là tập hợp các kỹ thuật và mô hình để hiểu, phân tích, và sinh ngôn ngữ tự nhiên. Các tác vụ điển hình: phân loại văn bản, phân tích cảm xúc, trích xuất thực thể, trả lời câu hỏi, v.v.
• Áp dụng AWS (2026):
  • Amazon Comprehend – tự động nhận diện ngôn ngữ, cảm xúc, và thực thể; hỗ trợ custom classification để phân loại phản hồi thành các danh mục tùy chỉnh.
  • Amazon Bedrock – cho phép sử dụng các LLM (Claude, Titan, Llama‑3…) để thực hiện zero‑shot hoặc few‑shot classification.
  • Amazon SageMaker JumpStart – cung cấp các mô hình NLP đã được huấn luyện sẵn (BERT, RoBERTa, T5…) để fine‑tune cho bài toán phân loại.

3️⃣ Recommendation systems ❌

• Giải thích: Recommendation systems (hệ thống gợi ý) dùng để đề xuất mục tiêu (sản phẩm, nội dung) dựa trên hành vi và sở thích của người dùng. Ví dụ: Amazon “Customers who bought this also bought…”.
• Tại sao sai: Ở đây mục tiêu không phải là gợi ý mà là phân loại phản hồi; không liên quan tới việc tính toán độ tương đồng hay dự đoán sở thích.

4️⃣ Fraud detection ❌

• Giải thích: Fraud detection (phát hiện gian lận) tập trung vào phân tích giao dịch, hành vi bất thường để phát hiện các hoạt động gian lận tài chính hoặc bảo mật.
• Tại sao sai: Kịch bản không đề cập tới bất kỳ giao dịch tài chính hay hành vi gian lận nào; chỉ là phân tích nội dung phản hồi.

🛠️ Các dịch vụ AWS liên quan (đến năm 2026)

📖 Tham khảo

1. Amazon Comprehend – Custom Classification – https://docs.aws.amazon.com/comprehend/latest/dg/custom-classification.html
2. Amazon Bedrock – Prompt‑based Text Classification – https://docs.aws.amazon.com/bedrock/latest/userguide/guide-text-classification.html
3. AWS Well‑Architected Framework – Machine Learning Pillar (2025 update) – https://aws.amazon.com/architecture/well-architected/

🎯 Kết luận

Câu hỏi đang mô tả một bài toán phân loại văn bản – một NLP use‑case. Do đó, Natural language processing (NLP) là đáp án đúng, trong khi các lựa chọn còn lại (Computer vision, Recommendation systems, Fraud detection) không phù hợp với yêu cầu xử lý ngôn ngữ tự nhiên của bài toán. 🚀

🔍 Phân tích câu hỏi

Công ty dịch vụ tài chính muốn chatbot dựa trên mô hình sinh (generative AI) luôn đưa ra câu trả lời đúng, không gây “hallucination” (tức là không sinh ra thông tin sai lệch hoặc không có căn cứ) để đáp ứng các yêu cầu pháp lý và quy định.
Vì vậy, chúng ta cần một giải pháp kiểm soát / giám sát nội dung đầu ra của mô hình nền tảng (Foundation Model – FM), không phải một công cụ quản lý cấu hình, phát hiện gian lận hay tạo báo cáo kiểm toán.

✅ Đáp án đúng

✅ Configure Amazon Bedrock Guardrails to evaluate user inputs and model responses.

• Amazon Bedrock Guardrails là tính năng mới (được mở rộng mạnh mẽ tới cuối năm 2025 và tiếp tục cập nhật đến 2026) cho phép bạn định nghĩa các quy tắc (guardrails) dựa trên ngữ cảnh, ngôn ngữ và mức độ rủi ro.
• Guardrails kiểm tra cả đầu vào của người dùng và đầu ra của mô hình; nếu phát hiện nội dung có khả năng vi phạm chính sách, sai lệch dữ liệu hoặc “hallucination”, chúng sẽ chặn, sửa đổi hoặc trả về thông báo lỗi.
• Bạn có thể tùy chỉnh các rule (ví dụ: “chỉ trả lời dựa trên dữ liệu tuân thủ ISO 20022”, “cấm trả lời khi không chắc chắn”) và gắn chúng vào các mô hình Foundation Model như Claude, Jurassic‑2, hoặc Titan mà Bedrock cung cấp.
• Đây chính là cơ chế preventive (ngăn ngừa) được AWS thiết kế để đáp ứng các yêu cầu regulatory compliance trong môi trường tài chính.

Tham khảo:

• AWS Blog “Introducing Amazon Bedrock Guardrails – Safer Generative AI for Enterprise” (2024)
• AWS Documentation – Amazon Bedrock Guardrails (phiên bản 2026‑03)

❌ Giải thích các phương án sai

1. ❌ Use AWS Config to query compliance metadata by using natural language.

   • AWS Config là dịch vụ quản lý cấu hình và tuân thủ (track thay đổi tài nguyên, snapshot cấu hình). Nó cho phép truy vấn metadata (ví dụ: “tất cả EC2 đang chạy”) nhưng không can thiệp vào nội dung đầu ra của mô hình AI.
   • Không có cơ chế nào để ngăn chặn hallucination; chỉ hỗ trợ phát hiện vi phạm cấu hình hạ tầng.
   • Vì vậy, không đáp ứng yêu cầu “prevent the underlying foundation model from hallucinating”.

2. ❌ Use Amazon Fraud Detector to detect potentially fraudulent online activities.

   • Amazon Fraud Detector là dịch vụ phân tích hành vi và phát hiện gian lận dựa trên mô hình ML, thường dùng cho giao dịch tài chính, đăng ký tài khoản, v.v.
   • Nó không liên quan tới kiểm soát nội dung đầu ra của mô hình ngôn ngữ và không có tính năng “guardrails” cho chatbot.
   • Do đó không thể ngăn chatbot tạo ra thông tin sai lệch.

3. ❌ Use AWS Audit Manager to prepare IT audit and compliance reports.

   • AWS Audit Manager giúp tự động thu thập bằng chứng, tạo báo cáo kiểm toán cho các chuẩn ISO, SOC, PCI, v.v.
   • Công cụ này chỉ làm việc ở tầng báo cáo / chứng minh tuân thủ, không can thiệp vào quá trình sinh nội dung của AI.
   • Vì vậy không đáp ứng yêu cầu ngăn hallucination.

📋 Tóm tắt các lựa chọn

• Use AWS Config to query compliance metadata by using natural language.
  ➡️ Không có chức năng kiểm soát nội dung AI → sai.

• Configure Amazon Bedrock Guardrails to evaluate user inputs and model responses.
  ➡️ Guardrails đánh giá và kiểm soát cả đầu vào và đầu ra, ngăn “hallucination” → đúng.

• Use Amazon Fraud Detector to detect potentially fraudulent online activities.
  ➡️ Chỉ phát hiện gian lận, không liên quan tới AI → sai.

• Use AWS Audit Manager to prepare IT audit and compliance reports.
  ➡️ Chỉ tạo báo cáo kiểm toán, không kiểm soát mô hình AI → sai.

🛠️ Gợi ý thực hiện Guardrails cho môi trường tài chính

1. Xác định các quy tắc tuân thủ (ví dụ: “câu trả lời phải dựa trên nguồn dữ liệu nội bộ đã được duyệt”, “không cho phép trả lời khi mức độ confidence < 80%”).
2. Triển khai Guardrails trong Amazon Bedrock khi tạo model endpoint cho chatbot.
3. Kết hợp với Retrieval‑Augmented Generation (RAG): dùng Amazon Kendra hoặc DynamoDB làm nguồn dữ liệu thực, sau đó để Guardrails kiểm tra tính chính xác trước khi trả lời.
4. Giám sát và audit: sử dụng Amazon CloudWatch Logs + AWS Security Hub để ghi lại các trường hợp Guardrails chặn hoặc chỉnh sửa đáp trả, hỗ trợ audit sau này.

💡 Kết luận:
Để ngăn mô hình nền tảng (FM) gây hallucination trong một chatbot tài chính, cấu hình Amazon Bedrock Guardrails là giải pháp thích hợp và được AWS khuyến nghị mạnh mẽ trong các trường hợp yêu cầu tính tuân thủ cao. Các dịch vụ khác (AWS Config, Amazon Fraud Detector, AWS Audit Manager) không có khả năng thực hiện chức năng này.

🔎 Phân tích câu hỏi
Công ty đã tạo ra nhiều mô hình Machine Learning (ML) và cần một giải pháp để lưu trữ, quản lý và versioning (đánh dấu phiên bản) các mô hình đó.

Yêu cầu chính:

1. Lưu trữ mô hình (artifact, container image, weights).
2. Quản lý thông tin mô hình (metadata, mô tả, quyền truy cập).
3. Versioning – mỗi lần cập nhật mô hình phải có một số phiên bản để có thể quay lại hoặc so sánh.

Trong AWS, dịch vụ/feature nào đáp ứng ba yêu cầu này một cách tích hợp và “đầy đủ nhất”?

✅ Đáp án đúng

Amazon SageMaker Model Registry

Lý do lựa chọn:

• Model Registry là thành phần của Amazon SageMaker Model Package cho phép tạo Model Package Groups. Mỗi group chứa các phiên bản (model packages) của cùng một mô hình, hỗ trợ đánh dấu, duyệt xét và triển khai.
• Khi một mô hình mới được “đăng ký” (RegisterModel), nó tự động nhận số phiên bản (v1, v2, …). Bạn có thể liệt kê, so sánh, và rollback tới phiên bản trước.
• Các metadata (định danh, mô tả, thẻ, thông tin môi trường chạy) được lưu trữ trong AWS Glue Data Catalog và Amazon S3, cho phép truy xuất nhanh.
• Kiểm soát quyền (IAM) và approval workflow (pending → approved) giúp quản lý quy trình CI/CD cho ML.
• Tích hợp sẵn với các dịch vụ khác của SageMaker như Training Jobs, Endpoints, Model Monitor, giúp triển khai mô hình ngay sau khi duyệt.

Vì vậy, Model Registry chính là dịch vụ đáp ứng đầy đủ ba yêu cầu “store, manage, version”.

🧩 Giải thích các phương án còn lại

• AWS Audit Manager

  • Chức năng: Dịch vụ giúp tự động thu thập và tổ chức bằng chứng cho các chuẩn tuân thủ (ISO, SOC, PCI, …).
  • Tại sao sai: Không liên quan tới việc lưu trữ hay versioning mô hình ML. Nó chỉ tập trung vào audit và compliance cho toàn bộ tài nguyên AWS, không cung cấp kho lưu trữ mô hình.

• Amazon SageMaker Model Monitor

  • Chức năng: Giám sát độ chính xác, drift, và data quality của mô hình đang chạy trên endpoint. Cung cấp báo cáo và cảnh báo khi mô hình suy giảm.
  • Tại sao sai: Model Monitor không lưu trữ mô hình gốc, cũng không cung cấp cơ chế versioning. Nó chỉ đánh giá mô hình đã được triển khai.

• Amazon SageMaker Canvas

  • Chức năng: Công cụ no‑code/low‑code cho phép người dùng phi‑kỹ thuật xây dựng mô hình ML bằng giao diện kéo‑thả.
  • Tại sao sai: Canvas tập trung vào tạo mô hình và khám phá dữ liệu, không có tính năng quản lý phiên bản hoặc lưu trữ mô hình dưới dạng registry.

📚 Tham khảo (đến năm 2026)

1. AWS Documentation – Amazon SageMaker Model Registry
   https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry.html
2. AWS re:Invent 2023 – “Deep dive into SageMaker Model Registry and Model Package” (video và slide)
3. AWS Well‑Architected Framework – Machine Learning Lens (2024 update) – đề cập tới việc sử dụng Model Registry để quản lý lifecycle mô hình.
4. AWS Blog – “New features for SageMaker Model Registry – versioning and approval workflows” (đăng 15 Mar 2025).

🛠️ Kết luận

• Đối với yêu cầu lưu trữ, quản lý, versioning các mô hình ML, Amazon SageMaker Model Registry là lựa chọn chính xác.
• Các dịch vụ khác trong danh sách (Audit Manager, Model Monitor, Canvas) có mục đích và tính năng riêng, không đáp ứng đầy đủ ba tiêu chí của câu hỏi.

Hy vọng phần phân tích trên đã giúp bạn nắm rõ lý do tại sao Model Registry là đáp án đúng và hiểu được sự khác nhau giữa các tùy chọn. Chúc bạn ôn luyện thành công! 🚀

🔎 Phân tích câu hỏi

Câu hỏi mô tả một AI practitioner (người thực hành AI) đang xây dựng một mô hình Machine Learning (ML) và muốn cung cấp tính trong suốt (transparency) và khả năng giải thích (explainability) cho các bên liên quan (stakeholders).

Trong bối cảnh AWS, “transparency & explainability” thường được đáp ứng bằng:

• Các kỹ thuật giải thích mô hình như Shapley values, LIME, feature importance.
• Dịch vụ Amazon SageMaker Clarify – tự động tính toán Shapley values, bias metrics, và tạo báo cáo giải thích.
• Các đầu ra giúp người dùng hiểu tại sao mô hình đưa ra dự đoán cụ thể, không chỉ các chỉ số tổng quát (accuracy, confusion matrix).

Do đó, câu trả lời đúng phải là một giải pháp cung cấp giải thích chi tiết về quyết định của mô hình.

✅ Đáp án đúng

- Present the model Shapley values.

🟢 Lý do:

• Shapley values (giá trị Shapley) là một phương pháp game‑theoretic được công nhận rộng rãi để đánh giá đóng góp của mỗi đặc trưng (feature) vào dự đoán của mô hình.
• Khi trình bày Shapley values, các stakeholder có thể thấy đặc trưng nào ảnh hưởng tích cực hoặc tiêu cực, và mức độ ảnh hưởng như thế nào – đáp ứng yêu cầu transparency và explainability.
• AWS cung cấp tính năng này thông qua Amazon SageMaker Clarify, cho phép tạo báo cáo Shapley values cho cả mô hình toàn cục và dự đoán cá nhân (local explanations).
• Các công cụ này còn hỗ trợ việc phát hiện bias, tăng độ tin cậy của mô hình đối với các quyết định quan trọng.

❌ Các phương án sai và giải thích

- Provide the model accuracy measure.
Mô tả: Đưa ra độ chính xác (accuracy) của mô hình.
Giải thích: Accuracy chỉ là một chỉ số hiệu năng tổng quát (global metric) cho biết tỉ lệ dự đoán đúng. Nó không giải thích cách mô hình đưa ra quyết định cho từng mẫu dữ liệu, cũng không cho biết các đặc trưng nào quan trọng. Do đó, không đáp ứng yêu cầu về transparency và explainability.

- Provide the model confusion matrix.
Mô tả: Cung cấp ma trận nhầm lẫn (confusion matrix).
Giải thích: Ma trận nhầm lẫn mô tả số lượng true positive, false positive, … giúp đánh giá hiệu năng cho các lớp, nhưng tương tự như accuracy, nó không cung cấp bất kỳ thông tin nào về lý do một dự đoán cụ thể được đưa ra. Vì vậy không đáp ứng yêu cầu giải thích mô hình.

- Provide a secure model inference endpoint.
Mô tả: Cung cấp một endpoint inference an toàn (secure).
Giải thích: Một endpoint an toàn (ví dụ: Amazon SageMaker Endpoints với VPC, IAM, encryption) đảm bảo tính bảo mật và khả năng triển khai của mô hình, nhưng không cung cấp bất kỳ thông tin nào về cách mô hình hoạt động hay quyết định của nó. Vì mục tiêu của câu hỏi là giải thích cho stakeholder, nên đây không phải là giải pháp phù hợp.

📚 Tham khảo tài liệu (đến năm 2026)

1. Amazon SageMaker Clarify – Explainability
   https://docs.aws.amazon.com/sagemaker/latest/dg/clarify.html

2. Shapley Values for Model Explainability – AWS Blog, 2024 update.
   https://aws.amazon.com/blogs/machine-learning/understand-model-predictions-with-shap-values/

3. AWS Well‑Architected Framework – Operational Excellence Pillar – phần về observability & explainability (phiên bản 2025).
   https://docs.aws.amazon.com/wellarchitected/latest/operational-excellence-pillar/operational-excellence-pillar.html

🧩 Tổng kết

• ✅ Đúng: Present the model Shapley values – cung cấp giải thích chi tiết, đáp ứng yêu cầu transparency & explainability.
• ❌ Sai: Provide the model accuracy measure, Provide the model confusion matrix, Provide a secure model inference endpoint – những lựa chọn này chỉ liên quan tới hiệu năng tổng quát hoặc bảo mật, không đáp ứng nhu cầu giải thích mô hình cho stakeholder.

🔎 Phân tích câu hỏi

• Bối cảnh: Công ty đang xây dựng một ứng dụng Machine Learning (ML) có mục tiêu tự động nhóm (cluster) các khách hàng và sản phẩm dựa trên các đặc tính của chúng.
• Yêu cầu chính: “Nhóm tương đồng” → không có nhãn (label) nào được cung cấp trước cho từng khách hàng/sản phẩm. Hệ thống phải tự “phát hiện” các nhóm dựa trên tính chất chung.
• Câu hỏi: Chiến lược ML nào phù hợp nhất để thực hiện yêu cầu này?

Trong lĩnh vực ML, khi không có nhãn và mục tiêu là phân cụm (clustering), chúng ta sẽ sử dụng học không giám sát (Unsupervised learning). Các chiến lược khác (Supervised, Reinforcement, Semi‑supervised) đều yêu cầu ít nhất một dạng nhãn hoặc môi trường tương tác, không phù hợp với bài toán “tự động nhóm” này.

✅ Đáp án đúng: Unsupervised learning

• Lý do:

  • Không cần dữ liệu có nhãn → phù hợp với tình huống “không biết trước nhóm nào là gì”.
  • Thuật toán thường dùng: K‑Means, Hierarchical Clustering, DBSCAN, Gaussian Mixture Models, hay các phương pháp deep clustering (Auto‑Encoder + clustering).
  • Trên AWS, Amazon SageMaker cung cấp các built‑in algorithms cho clustering (ví dụ: KMeans, DBSCAN), cũng như khả năng chạy notebook tùy chỉnh để triển khai mô hình không giám sát.

• Áp dụng thực tế trong AWS:

  • 📦 SageMaker Processing: tiền xử lý dữ liệu khách hàng/sản phẩm (feature engineering).
  • 📊 SageMaker Training Job với thuật toán KMeans để tạo mô hình clustering.
  • 🚀 SageMaker Endpoint hoặc Batch Transform để gán nhãn cluster cho dữ liệu mới.
  • 📈 Kết quả có thể được đưa vào Amazon QuickSight để visual hoá các nhóm khách hàng/ sản phẩm.

❌ Các phương án sai và giải thích

1️⃣ Supervised learning

• Giải thích: Phương pháp này yêu cầu dữ liệu đã được dán nhãn (label) để huấn luyện mô hình dự đoán một giá trị đầu ra (classification hoặc regression).
• Tại sao không phù hợp: Bài toán “tự động nhóm” không có sẵn nhãn cho từng nhóm; nếu ép buộc dùng supervised, chúng ta phải tự tạo nhãn (ví dụ: gán nhãn thủ công), làm mất tính tự động và gây tốn kém thời gian.

2️⃣ Reinforcement learning

• Giải thích: Học tăng cường (RL) dựa trên tương tác liên tục với môi trường và nhận phần thưởng (reward) để tối ưu hành vi.
• Tại sao không phù hợp: Không có môi trường “đóng vai trò” như một trò chơi hay quá trình quyết định tuần tự trong trường hợp này. Mục tiêu nhóm không phải là tối đa hoá phần thưởng qua các bước hành động.

3️⃣ Semi-supervised learning

• Giải thích: Kết hợp dữ liệu có nhãn và dữ liệu không nhãn; thường dùng khi nhãn khó thu thập nhưng vẫn cần một phần dữ liệu đã dán nhãn để “hướng dẫn” mô hình.
• Tại sao không phù hợp: Câu hỏi không đề cập đến bất kỳ dữ liệu nhãn nào. Nếu không có bất kỳ nhãn nào, việc dùng semi‑supervised sẽ không mang lại lợi thế và thậm chí có thể gây sai lệch.

🛠️ Gợi ý triển khai trên AWS (đối với Unsupervised learning)

1. Thu thập & chuẩn bị dữ liệu
   • Dùng AWS Glue hoặc AWS Data Pipeline để ETL dữ liệu khách hàng/sản phẩm vào Amazon S3.
2. Feature engineering
   • Khởi chạy SageMaker Processing Jobs hoặc AWS Glue Spark jobs để trích xuất, chuẩn hoá, và giảm chiều (PCA, t‑SNE).
3. Huấn luyện mô hình clustering
   • Tạo SageMaker Training Job với thuật toán KMeans (được tối ưu cho dữ liệu lớn, hỗ trợ phân phối).
   • Hoặc tự viết notebook sử dụng scikit‑learn, TensorFlow, PyTorch và chạy trên SageMaker Training.
4. Triển khai & dự đoán
   • Đối với batch inference: SageMaker Batch Transform để gán cluster cho hàng triệu bản ghi.
   • Đối với real‑time inference: SageMaker Endpoint (có thể sử dụng model‑monitor để giám sát drift).
5. Theo dõi & CI/CD
   • Dùng Amazon CloudWatch + SageMaker Model Monitor để giám sát chất lượng mô hình.
   • Áp dụng AWS CodePipeline + CodeBuild để tự động hoá quá trình tái huấn luyện khi dữ liệu mới xuất hiện.

📚 Tham khảo (2026)

• Amazon SageMaker Documentation – Clustering Algorithms
  https://docs.aws.amazon.com/sagemaker/latest/dg/clustering.html
• AWS Machine Learning Blog – Unsupervised Learning at Scale (2025)
  https://aws.amazon.com/blogs/machine-learning/unsupervised-learning-at-scale/
• AWS Well‑Architected Framework – ML Lens (2024 update)
  https://docs.aws.amazon.com/wellarchitected/latest/ml-lens/intro.html

Tóm lại: Đối với yêu cầu “tự động nhóm khách hàng và sản phẩm dựa trên đặc tính”, chiến lược Unsupervised learning là lựa chọn duy nhất đáp ứng được mục tiêu mà không cần dữ liệu có nhãn, đồng thời AWS cung cấp một loạt dịch vụ (SageMaker, Glue, CodePipeline, …) để triển khai, vận hành và duy trì giải pháp này một cách hiệu quả. 🚀

🔎 Phân tích câu hỏi

Câu hỏi mô tả một công ty tin tức chỉ xuất bản bài báo bằng tiếng Anh và muốn các bài báo này có sẵn ở các ngôn ngữ khác.
Yêu cầu thực chất là:

• Nhận một đoạn văn bản (bài báo) → dịch sang ngôn ngữ đích một cách nhanh chóng, có thể là “real‑time” hoặc “batch”.
• Không yêu cầu chuyển đổi giọng nói, trích xuất dữ liệu từ tài liệu, hay gợi ý nội dung cá nhân hoá.

Do đó, chúng ta cần một dịch vụ dịch ngôn ngữ tự động của AWS.

✅ Đáp án đúng

✅ Use the Amazon Translate real-time translation feature.

Amazon Translate là dịch vụ dịch ngôn ngữ dựa trên machine‑learning, cung cấp API real‑time (dịch từng đoạn, từng câu) và batch (dịch toàn bộ tài liệu). Nó hỗ trợ hơn 100 ngôn ngữ và có khả năng tùy chỉnh vocab (custom terminology) – rất phù hợp để chuyển bài báo tiếng Anh sang các ngôn ngữ khác ngay trên website hoặc trong pipeline xử lý nội dung.

❌ Giải thích các phương án sai

• ❌ Add Amazon Transcribe to the company’s website.

  • Amazon Transcribe là dịch vụ chuyển giọng nói thành văn bản (speech‑to‑text). Nó không thực hiện việc dịch ngôn ngữ; chỉ giúp “ghi lại” nội dung âm thanh. Vì câu hỏi đề cập tới bài báo đã có sẵn dưới dạng văn bản, Transcribe không đáp ứng nhu cầu này.

• ❌ Add Amazon Personalize to the company’s website.

  • Amazon Personalize là dịch vụ đề xuất nội dung dựa trên máy học (recommendation). Nó phân tích hành vi người dùng để đưa ra gợi ý sản phẩm, video, bài viết… nhưng không thực hiện dịch ngôn ngữ. Do vậy, không phù hợp với yêu cầu “đưa bài báo sang ngôn ngữ khác”.

• ❌ Use the Amazon Textract real-time document processing feature.

  • Amazon Textract được thiết kế để trích xuất văn bản, bảng và dữ liệu có cấu trúc từ tài liệu (PDF, ảnh, scans). Mục tiêu của nó là OCR và phân tích tài liệu, không phải dịch ngôn ngữ. Vì bài báo đã ở dạng text, Textract không cần thiết và cũng không cung cấp chức năng dịch.

📚 Tham khảo tài liệu (đến năm 2026)

1. Amazon Translate – Documentation
   https://docs.aws.amazon.com/translate/latest/dg/what-is.html (phiên bản 2026 cập nhật tính năng “real‑time translation API” và “custom terminology”).

2. Amazon Transcribe – Overview
   https://docs.aws.amazon.com/transcribe/latest/dg/what-is-transcribe.html

3. Amazon Personalize – Developer Guide
   https://docs.aws.amazon.com/personalize/latest/dg/what-is-personalize.html

4. Amazon Textract – Documentation
   https://docs.aws.amazon.com/textract/latest/dg/what-is.html

🛠️ Kết luận

Với mục tiêu dịch nội dung văn bản của các bài báo sang ngôn ngữ khác một cách nhanh chóng và có thể tích hợp trực tiếp vào website, Amazon Translate là lựa chọn duy nhất đáp ứng yêu cầu. Các dịch vụ khác (Transcribe, Personalize, Textract) đều có chức năng khác và không giải quyết được nhu cầu dịch ngôn ngữ.

📝 Phân tích câu hỏi
Một ngân hàng muốn xây dựng chatbot để trả lời các câu hỏi của khách hàng về việc mở tài khoản. Chatbot sẽ sử dụng tài liệu công khai của ngân hàng để tạo ra các phản hồi và được triển khai bằng Amazon Bedrock. Để cải thiện chất lượng câu trả lời, nhóm sẽ áp dụng kỹ thuật prompt engineering (kỹ thuật thiết kế “đề bài” cho mô hình ngôn ngữ).

Yêu cầu chính của đề bài:

1. Sử dụng dữ liệu (tài liệu) hiện có của ngân hàng – nghĩa là cần đưa một hoặc vài đoạn mẫu vào prompt để mô hình hiểu ngữ cảnh, phong cách và nội dung mong muốn.
2. Cải thiện độ chính xác / tính nhất quán của phản hồi mà không cần đào tạo lại mô hình (không fine‑tune).
3. Áp dụng trên Amazon Bedrock – nền tảng này hỗ trợ các mô hình LLM như Claude, Titan, Jurassic‑2, … và cho phép truyền “system‑level instructions” hoặc “contextual examples” trong prompt.

Với những tiêu chí trên, kỹ thuật “Directional stimulus prompting” là phù hợp nhất.

✅ Đáp án đúng: Directional stimulus prompting

Giải thích:

• Directional stimulus prompting (còn gọi là instruction‑based hoặc task‑oriented prompting) là cách cung cấp cho mô hình một lời hướng dẫn rõ ràng (ví dụ: “Hãy trả lời câu hỏi của khách hàng dựa trên các tài liệu quy định mở tài khoản của ngân hàng X, giữ tone chuyên nghiệp và ngắn gọn”).
• Trong Bedrock, người dùng có thể đưa system prompt hoặc context block chứa các quy tắc, định dạng và nguồn tài liệu. Khi mô hình nhận được “động lực” (stimulus) có hướng, nó sẽ tập trung vào nội dung liên quan, giảm thiểu hallucination và tạo ra câu trả lời phù hợp với tài liệu ngân hàng.
• Kỹ thuật này không yêu cầu cung cấp ví dụ cụ thể (few‑shot) mà chỉ cần định hướng mô hình, phù hợp khi lượng tài liệu lớn và muốn duy trì tính nhất quán.
• Từ phiên bản Bedrock 2025‑12 trở đi, AWS đã mở rộng khả năng “prompt modifiers” cho phép chèn system và user messages, hỗ trợ hoàn hảo cho directional stimulus prompting.

❌ Giải thích các đáp án sai

1. Complexity-based prompting

   • Mô tả: Kỹ thuật này thay đổi độ phức tạp của prompt (ví dụ: tăng độ dài, dùng câu hỏi đa tầng) nhằm kiểm tra khả năng “reasoning” của mô hình.
   • Lý do sai: Không nhằm định hướng nội dung dựa trên tài liệu ngân hàng mà chỉ thử thách khả năng suy luận. Vì vậy, nó không đáp ứng yêu cầu “sử dụng tài liệu công khai để tạo phản hồi chính xác”.

2. Zero-shot prompting

   • Mô tả: Đưa một câu hỏi duy nhất mà không cung cấp bất kỳ ví dụ hay hướng dẫn nào; mô hình phải tự suy ra cách trả lời.
   • Lý do sai: Khi không cung cấp bất kỳ ngữ cảnh hoặc chỉ dẫn nào, mô hình có nguy cơ tạo ra hallucination hoặc trả lời không tuân thủ quy định ngân hàng. Đối với các lĩnh vực tài chính, zero‑shot thường không đủ an toàn.

3. Few-shot prompting

   • Mô tả: Cung cấp một vài ví dụ (thường 2‑5) trong prompt để mô hình học cách trả lời.
   • Lý do sai: Mặc dù gần hơn, nhưng few‑shot đòi hỏi phải chuẩn bị các ví dụ mẫu. Với một ngân hàng có hàng trăm trang tài liệu, việc lựa chọn mẫu phù hợp sẽ tốn công và vẫn có thể bỏ sót các quy định quan trọng. Ngoài ra, Bedrock khuyến nghị sử dụng “system prompts” (directional stimulus) cho các use‑case doanh nghiệp vì chúng cho phép đưa toàn bộ tài liệu dưới dạng “context” mà không cần tạo danh sách ví dụ.

🧩 Tóm tắt các kỹ thuật prompt engineering liên quan (cập nhật đến 2026)

• Directional stimulus prompting (đúng) → Hướng dẫn mô hình bằng system messages; hỗ trợ trong Bedrock thông qua PromptTemplate và system role.
• Zero-shot prompting → Không có ngữ cảnh, thích hợp cho các câu hỏi chung, không an toàn cho tài chính.
• Few-shot prompting → Cung cấp ví dụ mẫu; tốt cho các tác vụ hẹp, nhưng không tối ưu khi tài liệu lớn.
• Complexity‑based prompting → Thay đổi độ phức tạp của prompt để kiểm tra khả năng reasoning; không dùng để định hướng nội dung.

📚 Tham khảo

1. Amazon Bedrock Documentation – Prompt Engineering (phiên bản 2026‑03).
2. AWS Whitepaper: “Best Practices for Large Language Model Prompt Design” (cập nhật 2025).
3. AWS Blog – “Using System Prompts for Enterprise‑grade LLM Applications” (Nov 2025).
4. Claude and Titan Prompt Guidelines – AWS Bedrock Developer Guide, 2026.

🔧 Kết luận:
Đối với việc xây dựng chatbot trả lời câu hỏi mở tài khoản ngân hàng dựa trên tài liệu công khai, Directional stimulus prompting là kỹ thuật prompt engineering phù hợp nhất vì nó cho phép đưa các chỉ dẫn rõ ràng, ngữ cảnh tài liệu và yêu cầu phong cách trả lời trực tiếp vào prompt, giảm thiểu rủi ro sai sót và đáp ứng yêu cầu an toàn của ngành tài chính.

🔎 Phân tích câu hỏi
Công ty muốn fine‑tune (tinh chỉnh) một mô hình Machine Learning đang được chạy trên Amazon Bedrock. Dữ liệu dùng để huấn luyện là dữ liệu nhạy cảm và hiện đang được lưu trong các cơ sở dữ liệu riêng tư nằm trong VPC của công ty. Yêu cầu quan trọng nhất: dữ liệu không được rời khỏi mạng nội bộ của công ty (không đi qua internet hay các mạng công cộng).

Vì vậy chúng ta cần một cách kết nối đảm bảo truyền dữ liệu chỉ qua đường nội bộ, đồng thời cho phép dịch vụ Bedrock truy cập tới nguồn dữ liệu trong VPC mà không phá vỡ ranh giới bảo mật.

✅ Đáp án đúng

Use AWS PrivateLink to connect the VPC and Amazon Bedrock.

🛠️ Tại sao?

• AWS PrivateLink tạo ra một Interface VPC Endpoint cho dịch vụ AWS (trong trường hợp này là Amazon Bedrock).
• Khi có endpoint này, các yêu cầu tới Bedrock được truyền qua đường truyền riêng trong mạng AWS và không ra Internet.
• Dữ liệu di chuyển từ VPC của công ty tới dịch vụ Bedrock sẽ luôn đi qua kênh riêng tư, đáp ứng yêu cầu “dữ liệu phải ở trong mạng riêng của công ty”.
• Bedrock hỗ trợ VPC‑endpoint (PrivateLink) từ 2024 và tài liệu vẫn được duy trì và cập nhật đến 2026 (xem AWS Blog 2024‑12 “Amazon Bedrock adds VPC PrivateLink support”).

❌ Phân tích các phương án sai

1. Restrict access to Amazon Bedrock by using an AWS Identity and Access Management (IAM) service role.

   • IAM role chỉ kiểm soát ai (người hay service) được phép gọi API của Bedrock.
   • Nó không thay đổi đường truyền mạng; các yêu cầu vẫn có thể đi qua Internet nếu không có VPC endpoint.
   • Vì vậy, việc chỉ dùng IAM role không đáp ứng yêu cầu “dữ liệu phải ở trong mạng riêng”.

2. Restrict access to Amazon Bedrock by using an AWS Identity and Access Management (IAM) resource policy.

   • IAM resource policy (ví dụ policy trên Bedrock) cũng chỉ giới hạn quyền truy cập tới tài nguyên Bedrock.
   • Tương tự như trên, nó không cung cấp một kênh mạng riêng tư, nên dữ liệu vẫn có thể rời VPC nếu không có PrivateLink.
   • Do đó, không đáp ứng yêu cầu “data stay within private network”.

3. Use AWS Key Management Service (AWS KMS) keys to encrypt the data.

   • KMS mã hoá dữ liệu khi lưu trữ hoặc trong transit (nếu bạn tự triển khai TLS).
   • Tuy mã hoá bảo vệ dữ liệu, nó không ngăn dữ liệu di chuyển ra ngoài VPC; dữ liệu vẫn có thể được gửi qua Internet nếu kết nối không được bảo mật nội bộ.
   • Vì câu hỏi tập trung vào vấn đề mạng nội bộ, việc chỉ dùng KMS không đủ.

📚 Tham khảo tài liệu (đến năm 2026)

• Amazon Bedrock Developer Guide – VPC PrivateLink
  https://docs.aws.amazon.com/bedrock/latest/userguide/vpc-private-link.html (cập nhật lần cuối: 2025‑11)
• AWS PrivateLink – What is AWS PrivateLink?
  https://docs.aws.amazon.com/vpc/latest/privatelink/what-is-privatelink.html
• AWS Blog – Amazon Bedrock adds VPC PrivateLink support (Dec 2024)
  https://aws.amazon.com/blogs/machine-learning/amazon-bedrock-vpc-privatelink/

🧩 Tóm tắt

• Yêu cầu: truyền dữ liệu nhạy cảm từ VPC tới Bedrock mà không ra Internet.
• Giải pháp phù hợp: AWS PrivateLink (tạo Interface VPC Endpoint cho Amazon Bedrock).
• Các lựa chọn IAM/KMS chỉ quản lý quyền truy cập hoặc mã hoá, không giải quyết vấn đề mạng riêng.

Với PrivateLink, dữ liệu luôn ở trong mạng riêng của công ty, đáp ứng đầy đủ yêu cầu bảo mật và tuân thủ. 🚀