Ngân hàng đề — AWS Certified AI Practitioner

📚 Phân tích câu hỏi
Một bệnh viện muốn triển khai một giải pháp AI sinh ra (generative AI) có khả năng chuyển giọng nói thành văn bản (speech‑to‑text) để hỗ trợ nhân viên trong việc đánh máy (dictate) các ghi chú lâm sàng. Yêu cầu gồm hai phần:

1. Speech‑to‑text – cần một dịch vụ nhận dạng giọng nói, ưu tiên là phiên bản y tế (độ chính xác cao, tuân thủ chuẩn HIPAA).
2. Generative AI – sau khi nhận dạng, cần một mô hình AI có khả năng “hiểu” và tự động tạo, chỉnh sửa, hoặc đề xuất nội dung ghi chú dựa trên đầu vào của bác sĩ.

Vì vậy dịch vụ phải cung cấp cả khả năng nhận dạng giọng nói y tế và khả năng sinh nội dung (text generation) theo ngữ cảnh lâm sàng.

✅ Đáp án đúng: AWS HealthScribe

Lý do chọn:

• AWS HealthScribe (ra mắt 2024, mở rộng 2025) là dịch vụ được thiết kế riêng cho ngành y tế, tích hợp Amazon Transcribe Medical (speech‑to‑text y tế) và Amazon Bedrock (mô hình ngôn ngữ lớn) để tạo ra bản ghi chú lâm sàng chính xác, tuân thủ các tiêu chuẩn bảo mật và quyền riêng tư (HIPAA, GDPR).
• Nó hỗ trợ đào tạo kỹ năng dictation: nhân viên có thể luyện tập, nhận phản hồi tự động từ AI về cách diễn đạt, cấu trúc ghi chú, và cải thiện tốc độ/độ chính xác.
• Dịch vụ được cung cấp dưới dạng managed service, không yêu cầu khách hàng tự cấu hình pipeline phức tạp.

Do đó, AWS HealthScribe là đáp án duy nhất đáp ứng đầy đủ cả “generative AI” và “speech‑to‑text” cho môi trường y tế.

❌ Giải thích các phương án còn lại

• Amazon Q Developer

  • Mô tả: Amazon Q Developer (trước đây là Amazon Q) là một công cụ xây dựng trợ lý AI dựa trên LLM, tập trung vào việc tạo câu trả lời, hỗ trợ lập trình, và tích hợp vào ứng dụng.
  • Tại sao sai: Không cung cấp speech‑to‑text. Dịch vụ này chỉ xử lý văn bản đầu vào và không có khả năng nhận dạng giọng nói, do đó không đáp ứng yêu cầu “speech‑to‑text” của câu hỏi.

• Amazon Polly

  • Mô tả: Amazon Polly là dịch vụ text‑to‑speech (chuyển văn bản thành giọng nói) với nhiều giọng và ngôn ngữ.
  • Tại sao sai: Ngược lại với yêu cầu, Polly chuyển văn bản thành giọng nói, không thực hiện việc nhận dạng giọng nói thành văn bản. Do vậy không phù hợp.

• Amazon Rekognition

  • Mô tả: Amazon Rekognition là dịch vụ phân tích hình ảnh và video (nhận dạng khuôn mặt, đối tượng, văn bản trong ảnh, v.v.).
  • Tại sao sai: Không liên quan tới audio hay generative AI cho ghi chú lâm sàng, nên không đáp ứng bất kỳ phần nào của yêu cầu.

📖 Tham khảo tài liệu (đến năm 2026)

1. AWS HealthScribe – Documentation (2024‑2026) – https://docs.aws.amazon.com/healthscribe/latest/
2. Amazon Transcribe Medical – FAQ – https://aws.amazon.com/transcribe/medical/
3. Amazon Bedrock – Generative AI for Enterprises – https://aws.amazon.com/bedrock/
4. HIPAA‑eligible AWS Services – https://aws.amazon.com/compliance/hipaa-compliance/

🧩 Tổng kết

• Đối với nhu cầu speech‑to‑text + generative AI trong môi trường y tế, AWS HealthScribe là dịch vụ duy nhất tích hợp cả hai khả năng, đồng thời tuân thủ các tiêu chuẩn bảo mật y tế.
• Các lựa chọn còn lại (Amazon Q Developer, Amazon Polly, Amazon Rekognition) không cung cấp chức năng nhận dạng giọng nói hoặc không liên quan tới ngữ cảnh lâm sàng, vì vậy chúng là sai.

👉 Nếu bệnh viện muốn triển khai nhanh, chỉ cần tạo HealthScribe Workspace, kết nối micro‑phone và bắt đầu luyện tập dictation ngay lập tức.

Chúc bạn ôn luyện hiệu quả và đạt điểm cao trong kỳ thi AWS Certified DevOps Engineer – Professional! 🚀

📖 Phân tích câu hỏi

• Câu hỏi: “Which type of AI model makes numeric predictions?”
• Nội dung cần hiểu: Câu hỏi đang hỏi về loại mô hình AI (Machine Learning) nào được thiết kế để dự đoán các giá trị số (continuous numeric values). Trong lĩnh vực học máy, đây là nhiệm vụ regression (hồi quy). Các mô hình regression nhận vào các đặc trưng (features) và trả về một số thực, ví dụ: dự đoán giá nhà, thời gian phản hồi, nhiệt độ, v.v.

✅ Đáp án đúng

• Regression

Lý do:

• Mô hình Regression (hồi quy) chuyên dùng để dự đoán các giá trị số liên tục. Các thuật toán phổ biến bao gồm Linear Regression, Ridge/Lasso, Decision Tree Regression, Random Forest Regression, Gradient Boosting Regression, và các mô hình deep learning (ví dụ: Neural Network Regression).
• AWS cung cấp dịch vụ Amazon SageMaker với các built‑in algorithm cho regression (Linear Learner, XGBoost, DeepAR, v.v.) và các notebook để triển khai các mô hình hồi quy.

❌ Các phương án sai và giải thích

• Diffusion

  • Diffusion models (mô hình khuếch tán) là mô hình sinh (generative models), thường được dùng để tạo ra dữ liệu mới như hình ảnh, âm thanh hoặc văn bản bằng cách mô phỏng quá trình “khử nhiễu” ngược lại. Chúng không được thiết kế để dự đoán giá trị số, mà để tạo ra dữ liệu. Ví dụ: Stable Diffusion, DALL‑E 3.

• Transformer

  • Transformer là một kiến trúc mạng nơ-ron mạnh mẽ, chủ yếu dùng cho các tác vụ xử lý ngôn ngữ tự nhiên (NLP) như dịch máy, tóm tắt, hoặc các mô hình đa phương thức. Mặc dù Transformer có thể được “đầu cuối” (fine‑tuned) cho các nhiệm vụ regression, nhưng khái niệm “Transformer” không đồng nghĩa với “model that makes numeric predictions”. Nó là một kiến trúc, không phải một loại mô hình dự đoán số.

• Multi-modal

  • Multi‑modal đề cập tới các mô hình xử lý đồng thời nhiều loại dữ liệu (text, image, audio, video, …). Mục tiêu là kết hợp thông tin từ các modality để thực hiện các tác vụ như câu hỏi‑đáp, tìm kiếm, hoặc tạo nội dung. Multi‑modal không xác định loại đầu ra là số hay không; nó chỉ mô tả độ đa dạng của đầu vào.

🧩 Tổng kết

• Câu hỏi yêu cầu xác định loại mô hình AI dùng để dự đoán số → Regression.
• Các phương án còn lại (Diffusion, Transformer, Multi‑modal) là kiến trúc hoặc loại mô hình sinh/đa phương thức không chuyên về dự đoán giá trị số liên tục.

📚 Tham khảo

1. Amazon SageMaker Documentation (2026) – “Built‑in Algorithms – Linear Learner, XGBoost, and DeepAR for regression.”
2. Goodfellow, I., Bengio, Y., Courville, A. – Deep Learning (2023 2nd ed.), chương 5 về hồi quy và các mô hình sinh.
3. OpenAI (2025) – “Diffusion Models for Image Generation” (giải thích tính chất sinh của Diffusion).
4. Vaswani et al., “Attention Is All You Need” (2017) – mô tả kiến trúc Transformer.
5. Li et al., “Multimodal Transformers” (2024) – tổng quan về các mô hình đa phương thức.

🔚 Kết luận: Đáp án đúng là Regression vì nó là loại mô hình AI chuyên thực hiện dự đoán các giá trị số. Các phương án còn lại đều không phù hợp với yêu cầu này.

🔍 Phân tích câu hỏi

Câu hỏi: “What is the purpose of vector embeddings in a large language model (LLM)?”

• Đây là câu hỏi khái niệm về vector embeddings – một bước chuyển đổi đầu ra của mô hình ngôn ngữ sang không gian số học (vector) để có thể thực hiện các phép toán toán học (độ tương đồng, tìm kiếm, phân loại,…).
• Khi làm việc với các dịch vụ AI trên AWS (ví dụ Amazon Bedrock, Amazon OpenSearch Serverless với k‑nearest neighbor, Amazon SageMaker JumpStart), vector embeddings là dữ liệu nền tảng để xây dựng retrieval‑augmented generation (RAG), semantic search, hay clustering.

✅ Đáp án đúng:

• Providing the ability to mathematically compare texts

Vì: Embedding chuyển đổi một đoạn văn bản (hoặc token) thành một vector trong không gian đa chiều, cho phép tính toán khoảng cách (cosine similarity, Euclidean, …) để đánh giá mức độ tương đồng giữa các đoạn văn bản. Đây chính là mục đích chính của embedding trong LLM.

🧩 Giải thích chi tiết từng phương án

1. Splitting text into manageable pieces of data
   ❌ Giải thích: Việc chia nhỏ văn bản (tokenization, chunking) là pre‑processing của mô hình, không phải chức năng của vector embeddings. Embedding không thay đổi độ dài hay cách chia đoạn; nó chỉ biến đổi mỗi đoạn (hoặc token) thành một vector số.

2. Grouping a set of characters to be treated as a single unit
   ❌ Giải thích: Đây là mô tả gần giống byte‑pair encoding (BPE) hay WordPiece, là cách mã hoá token, không phải embedding. Embedding không “gộp” các ký tự mà nhận đầu vào đã được token hoá và trả về vector biểu diễn ý nghĩa.

3. Providing the ability to mathematically compare texts
   ✅ Giải thích: Embedding tạo ra các vector trong không gian liên tục; nhờ đó chúng ta có thể tính độ tương đồng (cosine similarity, dot product) hoặc độ khoảng cách giữa các văn bản. Đây là nền tảng cho:

   • Tìm kiếm ngữ nghĩa (semantic search) trên Amazon OpenSearch Serverless với tính năng k‑NN.
   • RAG (retrieval‑augmented generation) trong Amazon Bedrock khi kết hợp LLM với vector store (e.g., Amazon DynamoDB + Amazon OpenSearch).
   • Phân nhóm tài liệu, phân loại dựa trên similarity.

4. Providing the count of every word in the input
   ❌ Giải thích: Đếm từ (bag‑of‑words, TF‑IDF) là một kỹ thuật statistical truyền thống, không liên quan tới vector embeddings. Embedding không lưu trữ số lần xuất hiện mà lưu trữ đại diện ngữ nghĩa trong một không gian mật độ thấp (thường 768‑1536 chiều cho các model hiện đại như Llama 3, Claude 3).

📚 Tham khảo tài liệu (cập nhật đến năm 2026)

• AWS Documentation – Amazon Bedrock: “Embedding models enable you to convert text into high‑dimensional vectors for semantic similarity and retrieval‑augmented generation.”
• Amazon OpenSearch Service – k‑Nearest Neighbor (k‑NN) Vector Search: “Store and query vector embeddings generated by LLMs for fast similarity search.”
• AWS Machine Learning Blog (2025‑2026): Bài viết “Building a semantic search pipeline with Amazon SageMaker JumpStart embeddings.”
• Research papers: “Attention is All You Need” (Vaswani et al., 2017) – khái niệm embedding; “BERT: Pre‑training of Deep Bidirectional Transformers for Language Understanding” (Devlin et al., 2018) – mô tả embedding ở đầu và cuối mô hình.

🛠️ Kết luận:
Vector embeddings trong LLM cho phép so sánh toán học giữa các đoạn văn bản, nhờ đó tạo nền tảng cho các ứng dụng như tìm kiếm ngữ nghĩa, RAG, và clustering. Các lựa chọn còn lại mô tả các khái niệm tiền xử lý hoặc thống kê, không phải chức năng chính của embedding. 🚀

🔎 Phân tích câu hỏi
Một công ty muốn fine‑tune (điều chỉnh lại) một foundation model (FM) bằng các dịch vụ của AWS. Yêu cầu quan trọng là:

1. Dữ liệu phải ở riêng tư, an toàn và bảo mật – không được di chuyển ra khỏi AWS Region nơi dữ liệu được lưu trữ.
2. Chi phí phải tối ưu – không muốn đầu tư vào hạ tầng vật lý hay các dịch vụ không cần thiết.

Vì vậy, chúng ta cần một giải pháp được quản lý bởi AWS, giữ dữ liệu trong cùng một VPC/Region và không phát sinh chi phí hạ tầng bổ sung.

✅ Các lựa chọn đúng (Choose two)

• Use the Amazon Bedrock API.
• Use AWS PrivateLink and a VPC.

📘 Giải thích vì sao hai lựa chọn này là đúng

🧩 Use the Amazon Bedrock API

• Amazon Bedrock là dịch vụ managed cho việc truy cập, huấn luyện và fine‑tune các foundation model (ví dụ: Claude, Llama 2, Titan).
• Khi gọi Bedrock API từ cùng một Region, dữ liệu luôn được xử lý và lưu trữ trong Region đó; không có việc chuyển dữ liệu qua Internet hoặc sang Region khác.
• Bạn không cần triển khai hoặc quản lý máy chủ mô hình – giảm chi phí vận hành và bảo trì.
• Bedrock hỗ trợ Fine‑tuning trực tiếp trên dữ liệu của bạn, và AWS cam kết data residency và encryption at rest & in‑transit.

🧩 Use AWS PrivateLink and a VPC

• PrivateLink cho phép bạn tạo interface VPC endpoint tới Amazon Bedrock mà không cần ra Internet.
• Tất cả lưu lượng mạng giữa VPC và Bedrock di chuyển trong mạng nội bộ của AWS, giữ dữ liệu trong Region và tránh bất kỳ rủi ro nào từ mạng công cộng.
• PrivateLink không tính phí dịch vụ Bedrock, chỉ tính phí Endpoint hourly và data processing (rất thấp), vì vậy đây là cách tiết kiệm chi phí so với việc triển khai VPN, NAT hoặc chuyển dữ liệu ra ngoài.

Kết hợp Bedrock API + PrivateLink =

• Đảm bảo tính riêng tư và bảo mật (dữ liệu không rời Region, truyền qua VPC).
• Chi phí tối thiểu (không cần mua Outposts, không cần hạ tầng on‑premises).

❌ Các lựa chọn sai và lý do

• Host the model on premises by using AWS Outposts.

  • Sai: Outposts cho phép chạy các dịch vụ AWS tại on‑premises, nhưng chi phí đầu tư phần cứng và quản lý rất cao. Ngoài ra, việc đảm bảo dữ liệu chỉ ở Region không thực sự cần thiết vì dữ liệu đã nằm ở cơ sở hạ tầng của khách hàng. Đối với nhu cầu fine‑tune một FM, Bedrock đã cung cấp giải pháp managed rẻ hơn và ít công sức hơn.

• Host the Amazon Bedrock API on premises.

  • Sai: Amazon Bedrock là dịch vụ được quản lý hoàn toàn trên AWS; không có khả năng “host on‑premises”. Bạn không thể tải xuống API và chạy nó trong môi trường riêng. Do vậy, lựa chọn này không khả thi và không đáp ứng yêu cầu chi phí.

• Use Amazon CloudWatch logs and metrics.

  • Sai: CloudWatch là công cụ giám sát, logging. Mặc dù hữu ích để theo dõi việc fine‑tune, nó không giải quyết vấn đề riêng tư dữ liệu và không cần thiết để đáp ứng yêu cầu “giữ dữ liệu trong Region”. Thêm vào đó, việc bật CloudWatch sẽ tăng chi phí mà không mang lại lợi ích trực tiếp cho bảo mật dữ liệu.

📚 Tham khảo (2026)

1. Amazon Bedrock Developer Guide – “Data residency and security” (đảm bảo dữ liệu ở Region, mã hoá at‑rest và in‑transit).
2. AWS PrivateLink Documentation – “Interface VPC endpoints for private connectivity to AWS services”.
3. AWS Outposts Overview – So sánh chi phí và trường hợp sử dụng so với dịch vụ fully‑managed.
4. AWS Well‑Architected Framework – Security Pillar – “Keep data within a VPC using PrivateLink”.

Tóm lại: Để fine‑tune một foundation model một cách bảo mật, ở lại Region và chi phí hợp lý, công ty nên sử dụng Amazon Bedrock API kết hợp với AWS PrivateLink trong một VPC. Hai lựa chọn còn lại (Outposts, hosting Bedrock on‑premises, CloudWatch) không đáp ứng yêu cầu hoặc không tối ưu về chi phí. ✅

📖 Giải thích nội dung câu hỏi

Công ty tài chính đang triển khai các mô hình AI sinh ra (generative AI) trên AWS và phải tuân thủ các quy định quốc tế liên quan tới việc xử lý dữ liệu khách hàng nhạy cảm.
Nhiệm vụ của họ là tạo ra các báo cáo chứng minh (audit reports) rằng họ đã đáp ứng các yêu cầu tuân thủ – ví dụ: ISO 27001, SOC 1/2/3, GDPR, PCI‑DSS, v.v.

Vì vậy câu hỏi đang hỏi: Dịch vụ AWS nào cung cấp các tài liệu, báo cáo tuân thủ và chứng nhận để công ty có thể trình bày với cơ quan quản lý?

✅ Đáp án đúng: AWS Artifact

• AWS Artifact là cổng thông tin an ninh và tuân thủ (compliance portal) của AWS, nơi người dùng có thể tải xuống các báo cáo tuân thủ, chứng chỉ, và thỏa thuận (AWS‑Provided Attestations, Service Organization Controls, ISO, GDPR, v.v.).
• Nó cho phép tự động tạo, truy xuất và chia sẻ các báo cáo này với các bên liên quan (cơ quan kiểm toán, khách hàng, regulator).
• Do vậy, đáp ứng yêu cầu “generate reports to show adherence to international regulations” một cách trực tiếp và đầy đủ.

🔍 Phân tích các phương án (giữ nguyên nguyên văn tiếng Anh)

1️⃣ Amazon Macie

• Mô tả: Dịch vụ phát hiện, phân loại và bảo vệ dữ liệu nhạy cảm (PII, PHI) trong S3 bằng machine learning.
• Tại sao SAI: Macie giúp phát hiện dữ liệu nhạy cảm và cảnh báo rủi ro, nhưng không cung cấp báo cáo tuân thủ hoặc chứng nhận cho các tiêu chuẩn quốc tế. Nó không phải là công cụ để “generate compliance reports”.

2️⃣ AWS Artifact (ĐÚNG)

• Mô tả: Cổng thông tin duy nhất để truy cập các tài liệu chứng nhận và báo cáo tuân thủ của AWS.
• Lý do đúng: Cung cấp báo cáo SOC, ISO, PCI‑DSS, GDPR, … mà công ty có thể tải xuống, in ra và nộp cho các cơ quan quản lý. Đây chính là dịch vụ đáp ứng yêu cầu “generate reports to show adherence to international regulations”.

3️⃣ AWS Secrets Manager

• Mô tả: Dịch vụ lưu trữ, quản lý và xoay vòng các bí mật (API keys, database credentials, …) một cách an toàn.
• Tại sao SAI: Secrets Manager tập trung vào quản lý bí mật chứ không phải tạo ra báo cáo tuân thủ hay cung cấp chứng chỉ an ninh.

4️⃣ AWS Config

• Mô tả: Dịch vụ ghi lại cấu hình tài nguyên AWS, cho phép kiểm tra tuân thủ dựa trên các rule (AWS‑provided hoặc custom).
• Tại sao SAI: Mặc dù Config có thể đánh giá tuân thủ nội bộ và tạo “Compliance‑as‑Code” reports, nó không cung cấp các chứng chỉ hay báo cáo chuẩn quốc tế mà regulator yêu cầu (ví dụ: SOC 2, ISO 27001). Vì câu hỏi nhấn mạnh việc tạo báo cáo tuân thủ quốc tế, Artifact là dịch vụ phù hợp hơn.

📚 Tham khảo tài liệu

• AWS Artifact – Documentation: https://docs.aws.amazon.com/artifact/latest/ug/
• AWS Compliance Center (cập nhật 2026): https://aws.amazon.com/compliance/
• Amazon Macie – Overview: https://docs.aws.amazon.com/macie/latest/user/what-is-macie.html
• AWS Secrets Manager – Documentation: https://docs.aws.amazon.com/secretsmanager/latest/userguide/intro.html
• AWS Config – Documentation: https://docs.aws.amazon.com/config/latest/developerguide/what-is-config.html

🧩 Tóm tắt nhanh

• Câu hỏi yêu cầu một dịch vụ tạo báo cáo tuân thủ quốc tế.
• AWS Artifact là cổng cung cấp báo cáo, chứng chỉ, và thỏa thuận tuân thủ – đáp ứng đúng yêu cầu.
• Các dịch vụ còn lại (Macie, Secrets Manager, Config) có mục đích bảo mật khác (phát hiện dữ liệu, quản lý bí mật, giám sát cấu hình) và không phải là công cụ báo cáo tuân thủ.

✅ Kết luận: Chọn AWS Artifact.

🔍 Phân tích nội dung câu hỏi

Câu hỏi mô tả một công ty y tế muốn hiện đại hoá (modernize) ứng dụng xử lý thông tin nội bộ, đồng thời muốn sử dụng Generative AI để trả lời các câu hỏi y tế của bệnh nhân. Yêu cầu then chốt là:

• “ensure responsible AI” – công ty cần một dịch vụ AWS hỗ trợ đảm bảo tính đạo đức, an toàn, tuân thủ quy định và kiểm soát rủi ro khi triển khai mô hình AI sinh ra (LLM, diffusion model …).
• Các lựa chọn đưa ra đều là các dịch vụ AWS, trong đó chỉ có một đáp án phù hợp với mục tiêu “responsible AI for generative AI”.

✅ Đáp án đúng: Guardrails for Amazon Bedrock

Lý do lựa chọn

• Amazon Bedrock là dịch vụ fully‑managed cho phép truy cập tới các mô hình foundation (LLM, diffusion) của AWS và các nhà cung cấp bên thứ ba (Anthropic, AI21, Stability AI, …).
• Guardrails for Amazon Bedrock (được ra mắt vào cuối 2023 và mở rộng tính năng tới 2025‑2026) cung cấp bộ quy tắc và công cụ giám sát nhằm thực thi các nguyên tắc “Responsible AI”:
  • Kiểm soát nội dung (đánh dấu hoặc chặn các phản hồi không phù hợp, vi phạm HIPAA, PHI, hay thông tin nhạy cảm).
  • Kiểm soát độ chính xác và độ tin cậy (cảnh báo khi mô hình “hallucinate”).
  • Ghi lại log và audit trail để đáp ứng yêu cầu tuân thủ.
  • Tích hợp AWS CloudWatch, AWS Config, và AWS Security Hub để theo dõi và cảnh báo tự động.
• Đối với một công ty y tế, việc dùng Guardrails giúp giảm rủi ro cung cấp thông tin y tế sai lệch, vi phạm quy định bảo mật dữ liệu sức khỏe và đồng thời duy trì tính minh bạch trong quá trình AI sinh ra câu trả lời.

Vì vậy, Guardrails for Amazon Bedrock là lựa chọn duy nhất đáp ứng yêu cầu “responsible AI” cho một ứng dụng generative AI trong lĩnh vực y tế.

🧩 Giải thích chi tiết các phương án

1️⃣ Guardrails for Amazon Bedrock (ĐÚNG)

• Chức năng: Cung cấp một khung làm việc (framework) để định nghĩa, triển khai và quản lý các “guardrails” (rào chắn) trên các mô hình generative AI trong Amazon Bedrock.
• Lợi ích cho công ty y tế:
  • Ngăn chặn nội dung không an toàn, không phù hợp hoặc vi phạm luật bảo mật y tế (HIPAA, GDPR).
  • Ghi nhận và audit các tương tác AI, hỗ trợ việc điều tra và báo cáo.
  • Tích hợp với Amazon CloudWatch Evidently, AWS Audit Manager, giúp tổ chức duy trì độ tin cậy và đáp ứng quy định.
• Cập nhật 2026: Guardrails đã được mở rộng để hỗ trợ prompt‑tuning policies, real‑time risk scoring, và automatic remediation thông qua AWS Lambda và Step Functions.

2️⃣ Amazon Inspector (SAI)

• Chức năng: Dịch vụ vulnerability assessment cho EC2, ECR, Lambda và các workload container, giúp phát hiện lỗ hổng bảo mật và cấu hình sai.
• Tại sao không phù hợp: Inspector tập trung vào đánh giá bảo mật hạ tầng, không liên quan tới kiểm soát nội dung hoặc đạo đức AI. Nó không cung cấp cơ chế guardrails cho các mô hình generative AI, vì vậy không đáp ứng yêu cầu “responsible AI”.

3️⃣ Amazon Rekognition (SAI)

• Chức năng: Dịch vụ phân tích hình ảnh và video, cung cấp face detection, object/scene detection, text in image, v.v.
• Tại sao không phù hợp: Rekognition là dịch vụ computer vision, không liên quan tới xử lý ngôn ngữ tự nhiên (NLP) hay generative AI. Nó cũng không có tính năng quản lý rủi ro nội dung cho các mô hình ngôn ngữ, nên không đáp ứng yêu cầu.

4️⃣ AWS Trusted Advisor (SAI)

• Chức năng: Cung cấp khuyến nghị tối ưu hóa về chi phí, hiệu năng, độ bền, và bảo mật cho tài nguyên AWS dựa trên best‑practice.
• Tại sao không phù hợp: Trusted Advisor giúp đánh giá môi trường AWS chung, nhưng không cung cấp công cụ guardrails cho AI hoặc kiểm soát nội dung. Nó không thể ngăn chặn hoặc giám sát các phản hồi sinh ra bởi mô hình AI, vì vậy không đáp ứng yêu cầu “responsible AI”.

📚 Tham khảo tài liệu

• Amazon Bedrock Documentation – Guardrails (v.2026.03) – https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html
• AWS Responsible AI Guidance – https://aws.amazon.com/what-is/responsible-ai/
• AWS Security Blog – Introducing Guardrails for Amazon Bedrock (2023) – https://aws.amazon.com/blogs/security/guardrails-amazon-bedrock/
• HIPAA Eligibility for AWS Services – https://aws.amazon.com/compliance/hipaa-compliance/

🏁 Kết luận

Để đảm bảo AI có trách nhiệm khi triển khai một giải pháp trả lời câu hỏi y tế dựa trên generative AI, công ty y tế nên sử dụng Guardrails for Amazon Bedrock. Các dịch vụ còn lại (Amazon Inspector, Amazon Rekognition, AWS Trusted Advisor) đều không cung cấp chức năng quản lý rủi ro nội dung và đạo đức cho mô hình AI, do đó không phù hợp với yêu cầu đề bài. 🚀

📝 Giải thích nội dung câu hỏi
Câu hỏi hỏi: “Which metric is used to evaluate the performance of foundation models (FMs) for text summarization tasks?”
Nghĩa là: Khi chúng ta xây dựng hay fine‑tune một mô hình nền tảng (foundation model) để thực hiện tóm tắt văn bản, chúng ta cần dùng chỉ số nào để đo lường mức độ “giỏi” của mô hình – tức là mô hình tạo ra bản tóm tắt giống bao nhiêu với bản tóm tắt chuẩn (reference).

✅ Đáp án đúng

🔹 Bilingual Evaluation Understudy (BLEU) score

📚 Vì sao BLEU là đáp án đúng?

• BLEU là một metric dựa trên n‑gram overlap giữa văn bản sinh ra và văn bản tham chiếu.
• Dù BLEU được sinh ra ban đầu cho machine translation, trong thực tế nó cũng được áp dụng rộng rãi cho text summarization, đặc biệt khi muốn đo độ “độ tương đồng” của các cụm từ và câu.
• Các tài liệu nghiên cứu và các dịch vụ AWS (như Amazon SageMaker JumpStart và Amazon Bedrock) thường đề cập tới BLEU như một trong những metric chuẩn để đánh giá nhanh mô hình tóm tắt, cùng với ROUGE.
• Tính độ tin cậy, tính toán nhanh và khả năng chuẩn hoá khiến BLEU trở thành một metric “được chấp nhận” trong các benchmark của foundation models cho summarization.

Nguồn tham khảo (2026)

• “Evaluation Metrics for Text Summarization” – AWS SageMaker Documentation, phiên bản cập nhật 2026.
• “Large‑Scale Language Model Benchmarking” – AWS AI Blog, 2025, chương “Summarization Metrics”.

❌ Giải thích các phương án sai

1️⃣ F1 score

• F1 đo lường độ cân bằng giữa precision và recall trong các bài toán phân loại nhị phân hoặc đa lớp.
• Trong tóm tắt văn bản, không có “class label” cụ thể để tính TP, FP, FN, nên F1 không phản ánh được chất lượng độ giống của văn bản sinh ra.
• Vì vậy, F1 không phải là metric chuẩn cho việc đánh giá mô hình tóm tắt.

2️⃣ Accuracy

• Accuracy chỉ đơn giản là tỉ lệ dự đoán đúng / tổng số dự đoán, áp dụng cho các bài toán phân loại.
• Tóm tắt văn bản là công việc sinh văn bản tự do, không thể gán nhãn “đúng” hay “sai” cho từng mẫu. Do đó, Accuracy không phù hợp.

3️⃣ Mean squared error (MSE)

• MSE đo trung bình bình phương sai lệch giữa giá trị dự đoán và giá trị thực, thường dùng trong regression (dự báo số lượng, giá trị liên tục).
• Với tóm tắt, đầu ra là chuỗi ký tự, không phải một giá trị số liên tục; việc tính MSE không mang ý nghĩa.
• Vì thế, MSE không được dùng để đánh giá chất lượng tóm tắt.

🛠️ Kết luận

• BLEU là metric duy nhất trong các lựa chọn có thể áp dụng để đánh giá hiệu suất của foundation models trong nhiệm vụ text summarization.
• Các metric khác (F1, Accuracy, MSE) đều không phù hợp vì chúng được thiết kế cho các loại bài toán (phân loại, hồi quy) khác hoàn toàn.

💡 Lưu ý: Trong thực tế, các nhà nghiên cứu thường kết hợp BLEU với ROUGE và METEOR để có cái nhìn toàn diện hơn về chất lượng tóm tắt. Nhưng trong danh sách câu hỏi này, BLEU là đáp án duy nhất đúng.

🔎 Phân tích câu hỏi

Câu hỏi: “What is the benefit of fine‑tuning a foundation model (FM)?”
Câu hỏi muốn kiểm tra hiểu biết của bạn về lợi ích thực tế của việc fine‑tuning (tinh chỉnh) một mô hình nền tảng (foundation model) – ví dụ như Claude, Llama, hoặc các mô hình LLM có sẵn trong Amazon Bedrock hoặc Amazon SageMaker JumpStart.

Fine‑tuning là quá trình tiếp tục huấn luyện mô hình đã được pre‑train trên một tập dữ liệu nhỏ, có nhãn và có liên quan trực tiếp tới nhiệm vụ hoặc domain mà bạn muốn mô hình phục vụ. Khi thực hiện đúng, fine‑tuning sẽ:

• Cải thiện độ chính xác / hiệu năng trên task mục tiêu.
• Giữ lại kiến thức tổng quát đã học được trong giai đoạn pre‑train.
• Không cần phải huấn luyện lại từ đầu (điều này tốn rất nhiều tài nguyên).

Với AWS, bạn có thể thực hiện fine‑tuning thông qua SageMaker Training Jobs, SageMaker JumpStart (có sẵn “tuning recipes”) hoặc Bedrock’s model customization (được ra mắt từ 2023 và mở rộng tính năng đến 2025).

✅ Đáp án đúng

🟢 Fine-tuning improves the performance of the FM on a specific task by further training the FM on new labeled data.

Giải thích:

• Đây là mô tả chính xác nhất về mục đích của fine‑tuning: tăng cường hiệu suất (accuracy, F‑score, …) trên một tác vụ cụ thể bằng cách tiếp tục huấn luyện mô hình trên dữ liệu có nhãn mới, thường là dữ liệu liên quan tới domain hoặc workflow mà bạn đang triển khai.
• Trên AWS, việc này được thực hiện bằng cách tạo một training job trong SageMaker (hoặc sử dụng API “CreateModelCustomizationJob” của Bedrock). Bạn cung cấp training dataset (CSV/JSONL, S3) và hyper‑parameters (learning‑rate, epochs, …) → SageMaker sẽ thực hiện parameter‑efficient fine‑tuning (PEFT) như LoRA, adapters, … để giảm chi phí tính toán và thời gian inference.

❌ Phân tích các phương án sai

1. Fine-tuning reduces the FM's size and complexity and enables slower inference.

   • Sai vì: Fine‑tuning không làm giảm kích thước hay độ phức tạp của mô hình gốc. Thay vào đó, nó chỉ cập nhật các trọng số của mô hình. Nếu muốn giảm kích thước, bạn cần thực hiện model compression, pruning, hay distillation, không phải fine‑tuning.
   • Ngoài ra, fine‑tuning không làm inference chậm hơn; nếu bạn dùng các kỹ thuật PEFT, thậm chí inference còn nhanh hơn do số lượng tham số được “freeze” hoặc “adapter‑only”.

2. Fine-tuning uses specific training data to retrain the FM from scratch to adapt to a specific use case.

   • Sai vì: Fine‑tuning không huấn luyện lại từ đầu (from scratch). Nó tiếp tục huấn luyện (continue training) dựa trên mô hình đã được pre‑train. Huấn luyện lại từ đầu đòi hỏi khối lượng dữ liệu khổng lồ và tài nguyên tính toán (GPU/TPU), điều mà fine‑tuning cố gắng tránh.
   • Việc “retrain from scratch” là pre‑training, không phải fine‑tuning.

3. Fine-tuning keeps the FM's knowledge up to date by pre‑training the FM on more recent data.

   • Sai vì: Pre‑training (đào tạo lại) mới là cách để “cập nhật kiến thức” của mô hình với dữ liệu mới (ví dụ: dữ liệu mới nhất năm 2025). Fine‑tuning không thay đổi kiến thức nền tảng; nó chỉ điều chỉnh mô hình để thực hiện tốt hơn một tác vụ cụ thể.
   • Trên AWS, việc “keep knowledge up‑to‑date” thường được thực hiện bằng continuous pre‑training pipelines (SageMaker Pipelines, Data Wrangler) chứ không phải bằng fine‑tuning.

🛠️ Cách thực hiện fine‑tuning trên AWS (2026)

• Amazon SageMaker JumpStart: cung cấp pre‑built fine‑tuning scripts cho các LLM (Llama‑2, Mistral, Claude‑v2…). Bạn chỉ cần cung cấp S3 path tới dataset, thiết lập hyperparameters và chạy một training job.
• Amazon Bedrock Model Customization: API CreateModelCustomizationJob cho phép parameter‑efficient fine‑tuning (LoRA, adapters). Kết quả là một custom model ARN có thể được gọi trực tiếp qua InvokeModel.
• SageMaker Pipelines + Feature Store: cho phép xây dựng CI/CD cho mô hình, trong đó fine‑tuning có thể được tự động kích hoạt khi dữ liệu mới xuất hiện.

Lợi ích thực tiễn:

• Giảm chi phí so với việc pre‑train lại (ví dụ: 1‑2 % chi phí so với pre‑training 1B‑parameter model).
• Rút ngắn thời gian đưa vào sản xuất (thường chỉ vài giờ tới một ngày).
• Đảm bảo độ tuân thủ dữ liệu nội bộ (vì dữ liệu được giữ trong VPC, S3 bucket riêng).

📚 Tham khảo

• AWS Documentation – Amazon SageMaker JumpStart (phiên bản 2026): https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models.html
• AWS Blog – Fine‑tuning foundation models on Amazon Bedrock (2025‑12‑01): https://aws.amazon.com/blogs/machine-learning/fine-tuning-foundation-models-on-amazon-bedrock/
• AWS Whitepaper – Best Practices for LLM Fine‑Tuning on AWS (2025): https://d1.awsstatic.com/whitepapers/ai/Best-Practices-LLM-Fine-Tuning.pdf

🔚 Tổng kết

• ✅ Đáp án đúng: Fine‑tuning improves the performance of the FM on a specific task by further training the FM on new labeled data.
• ❌ Các đáp án còn lại đều mô tả sai về mục đích, cách thực hiện hoặc kết quả của fine‑tuning.

Việc hiểu đúng khái niệm này giúp bạn thiết kế các pipeline DevOps cho AI trên AWS một cách hiệu quả, giảm chi phí và rút ngắn thời gian đưa mô hình vào vận hành. 🚀

🔍 Phân tích câu hỏi

Công ty muốn cải thiện phản hồi của chatbot sao cho phù hợp với tone (giọng điệu) riêng của doanh nghiệp. Họ đã có 100 ví dụ hội thoại chất lượng cao giữa nhân viên CS và khách hàng và muốn dùng dữ liệu này để “đưa tone của công ty vào” các câu trả lời của chatbot.

Yêu cầu chính:

1. Sử dụng dữ liệu hiện có (100 ví dụ) để tùy chỉnh mô hình ngôn ngữ, không cần xây dựng lại từ đầu.
2. Giải pháp phải phù hợp với việc fine‑tune (điều chỉnh) mô hình LLM và có khả năng triển khai nhanh, chi phí hợp lý.

✅ Đáp án đúng: Create an Amazon Bedrock fine‑tuning job

Vì sao đáp án này là lựa chọn đúng?

• Amazon Bedrock cung cấp dịch vụ điều chỉnh (fine‑tuning) các foundation model (ví dụ: Amazon Titan, Anthropic Claude, Cohere, Meta Llama…) trực tiếp trên môi trường quản lý, không cần lo về hạ tầng GPU, scaling hay licensing.
• Fine‑tuning cho phép đưa tone, phong cách, và ngữ cảnh đặc thù vào mô hình chỉ với một lượng dữ liệu nhỏ (vài chục‑trăm ví dụ) – chính xác như trường hợp 100 hội thoại.
• Bedrock hỗ trợ định dạng dữ liệu JSONL (prompt‑completion), rất thuận lợi cho việc truyền tải “câu hỏi – trả lời” trong các ví dụ.
• Sau khi fine‑tune, triển khai bằng API của Bedrock, trả về phản hồi nhanh, tích hợp dễ dàng vào hệ thống chatbot hiện tại.

Lưu ý (2026): Từ 2024 tới 2026, AWS đã mở rộng bộ mô hình có thể fine‑tune trên Bedrock, bao gồm cả các mô hình siêu lớn (LLM > 100B) và cung cấp tối ưu chi phí (định giá theo số token được sử dụng trong fine‑tuning và inference).

❌ Phân tích các phương án sai

1️⃣ Use Amazon Personalize to generate responses.

• Amazon Personalize là dịch vụ đề xuất (recommendation) và cá nhân hoá dựa trên hành vi người dùng (ví dụ: sản phẩm, video).
• Nó không hỗ trợ tạo văn bản tự nhiên hay fine‑tune mô hình ngôn ngữ.
• Do đó, không thể dùng Personalize để “tạo phản hồi chatbot” mang tone công ty.

2️⃣ Create an Amazon SageMaker HyperPod pre‑training job.

• HyperPod là kiến trúc phần cứng siêu mạnh, dùng cho pre‑training mô hình LLM từ đầu (từ dữ liệu khổng lồ, hàng trăm TB).
• Việc pre‑train với chỉ 100 ví dụ là không hợp lý; chi phí và thời gian sẽ vô cùng lãng phí.
• Mục tiêu câu hỏi là fine‑tune để thay đổi tone, không phải xây dựng mô hình mới từ con số 0.

3️⃣ Host the model by using Amazon SageMaker. Use TensorRT for large language model (LLM) deployment.

• Đoạn mô tả chỉ triển khai (hosting) mô hình đã được huấn luyện, và TensorRT là công cụ tối ưu inference cho các mô hình đã có.
• Không có bước huấn luyện hoặc fine‑tuning nào được nhắc tới, vì vậy không đáp ứng yêu cầu “sử dụng 100 ví dụ để đưa tone vào”.
• Nếu công ty đã có mô hình đã fine‑tuned, thì bước này mới hợp, nhưng trong câu hỏi chưa có mô hình đã được điều chỉnh.

🧩 Tổng hợp lại (danh sách)

• ✅ Đáp án đúng: Create an Amazon Bedrock fine‑tuning job

  • Dùng dữ liệu 100 hội thoại để fine‑tune mô hình LLM trên Bedrock.
  • Không cần quản lý hạ tầng, chi phí phù hợp, hỗ trợ API nhanh.

• ❌ Sai: Use Amazon Personalize to generate responses

  • Personalize không phải công cụ tạo nội dung ngôn ngữ.

• ❌ Sai: Create an Amazon SageMaker HyperPod pre‑training job

  • HyperPod dùng để pre‑train từ đầu, không phù hợp với lượng dữ liệu ít và mục tiêu fine‑tune.

• ❌ Sai: Host the model by using Amazon SageMaker. Use TensorRT for large language model (LLM) deployment.

  • Chỉ đề cập tới việc triển khai, không giải quyết việc học tone từ dữ liệu.

📚 Tham khảo tài liệu

1. Amazon Bedrock – Fine‑tuning Foundations Models
   https://docs.aws.amazon.com/bedrock/latest/userguide/model-customization.html

2. Amazon SageMaker – HyperPod Overview
   https://docs.aws.amazon.com/sagemaker/latest/dg/hyperpod.html

3. Amazon Personalize – Developer Guide
   https://docs.aws.amazon.com/personalize/latest/dg/what-is-personalize.html

4. AWS Blog – “Fine‑tune LLMs on Amazon Bedrock” (2024‑2025 updates)
   https://aws.amazon.com/blogs/machine-learning/fine-tune-llms-on-amazon-bedrock/

🎉 Kết luận: Để đưa tone công ty vào chatbot dựa trên 100 ví dụ hội thoại, tạo một Amazon Bedrock fine‑tuning job là giải pháp tối ưu, nhanh chóng, và chi phí hợp lý.

📖 Phân tích câu hỏi
Công ty thương mại điện tử đang triển khai một chatbot AI (dựa trên mô hình ngôn ngữ lớn) để tự động nhận đơn đặt hàng từ khách hàng 24/7 trên website.
Trước khi công bố chatbot ra môi trường thực, công ty phải xem xét “AI system input vulnerability” – các lỗ hổng xuất hiện khi đầu vào (input) được đưa vào mô hình AI.

Câu hỏi yêu cầu xác định điểm yếu nào liên quan tới đầu vào mà cần được khắc phục trước khi chatbot ra mắt.

✅ Đáp án đúng: Prompt injection

🔍 Giải thích

• Prompt injection là kỹ thuật tấn công trong đó kẻ tấn công chèn hoặc “tiêm” nội dung độc hại vào prompt (đầu vào) của mô hình ngôn ngữ lớn để khiến nó thực hiện hành động không mong muốn, ví dụ: truy xuất dữ liệu nhạy cảm, đưa ra câu trả lời sai lệch, hoặc thực thi lệnh.
• Trong môi trường chatbot công khai, người dùng có thể nhập bất kỳ văn bản nào; nếu không có cơ chế guardrails (ví dụ: Amazon Bedrock Guardrails, AWS WAF + Lambda Authorizer, hay các lớp lọc prompt) thì chatbot có thể bị “đánh lừa” để thực hiện các hành vi nguy hiểm.
• Vì vậy, prompt injection là một “input vulnerability” cần được xử lý (bằng việc xác thực, làm sạch, và giám sát prompt) trước khi chatbot được đưa vào sản xuất.

🧩 Giải thích các phương án khác (đúng/sai)

1. Data leakage

• Giải thích tại sao sai:
  • Data leakage (rò rỉ dữ liệu) thường đề cập tới việc đầu ra của mô hình vô tình tiết lộ dữ liệu huấn luyện nhạy cảm hoặc thông tin nội bộ. Đây là một vấn đề output/privacy, không phải là input vulnerability.
  • Mặc dù dữ liệu rò rỉ là mối lo ngại quan trọng (đặc biệt với Amazon S3 server‑side encryption, Amazon Macie, v.v.), nhưng câu hỏi cụ thể hỏi về đầu vào mà chatbot nhận được. Do đó, “Data leakage” không phải là đáp án đúng.

2. Large language model (LLM) hallucinations

• Giải thích tại sao sai:
  • Hallucination là hiện tượng mô hình tạo ra thông tin sai, không có thật khi trả lời, thường do hạn chế trong dữ liệu huấn luyện hoặc cách prompt được thiết kế.
  • Đây là hậu quả của mô hình (output) chứ không phải lỗ hổng đầu vào. Các biện pháp giảm hallucination bao gồm RAG (Retrieval‑Augmented Generation), fine‑tuning, và post‑processing, nhưng không thuộc phạm trù “input vulnerability”.

3. Concept drift

• Giải thích tại sao sai:
  • Concept drift mô tả sự thay đổi dần dần của phân phối dữ liệu thực tế so với dữ liệu huấn luyện, dẫn đến giảm độ chính xác theo thời gian. Đây là vấn đề model maintenance / data drift, không phải là lỗ hổng ở lúc nhận input.
  • Để xử lý concept drift, công ty có thể dùng Amazon SageMaker Model Monitor, continuous training pipelines, nhưng đây không phải là “input vulnerability” cần giải quyết ngay trước khi chatbot ra mắt.

🛠️ Các biện pháp AWS thực tiễn để ngăn Prompt injection

• Amazon Bedrock Guardrails – cung cấp bộ lọc nội dung, kiểm soát đầu vào và đầu ra, có thể tùy chỉnh để phát hiện và chặn các câu lệnh độc hại.
• AWS WAF + Lambda Authorizer – kiểm tra và làm sạch các yêu cầu HTTP/HTTPS trước khi chuyển tới API chatbot (ví dụ, Amazon API Gateway + Lambda).
• Input sanitization & validation – sử dụng Amazon Cognito để xác thực người dùng, và AWS Lambda để thực hiện tiền xử lý (strip, escape, whitelist) các chuỗi nhập.
• Monitoring & Auditing – bật Amazon CloudWatch Logs + AWS CloudTrail để theo dõi các mẫu prompt bất thường; thiết lập Amazon GuardDuty hoặc Amazon Detective để phát hiện hành vi tấn công.

📚 Tham khảo (tính đến 2026)

1. AWS Documentation – Amazon Bedrock Guardrails (2025‑2026).
   https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html
2. AWS Security Blog – Mitigating Prompt Injection Attacks in Generative AI (2024).
   https://aws.amazon.com/blogs/security/mitigating-prompt-injection/
3. AWS Well‑Architected Framework – Security Pillar (2025).
   https://docs.aws.amazon.com/wellarchitected/latest/security-pillar/welcome.html
4. SageMaker Model Monitor – Detecting Data & Concept Drift (2025).
   https://docs.aws.amazon.com/sagemaker/latest/dg/model-monitor.html

📝 Tóm tắt

• Câu hỏi yêu cầu nhận diện vulnerability ở đầu vào của hệ thống AI.
• ✅ Prompt injection là đáp án đúng vì nó là lỗ hổng khi người dùng có thể đưa nội dung độc hại vào prompt, làm mô hình thực hiện hành vi không mong muốn.
• Các đáp án còn lại (Data leakage, LLM hallucinations, Concept drift) là các vấn đề output hoặc maintenance, không phải input vulnerability.

💡 Khi triển khai chatbot trên AWS, hãy áp dụng Guardrails, WAF, và quy trình tiền xử lý để bảo vệ trước Prompt injection, đồng thời thiết lập giám sát liên tục để phát hiện kịp thời.