Ngân hàng đề — AWS Certified AI Practitioner

🔎 Phân tích câu hỏi

Câu hỏi đặt ra: “Một công ty đang huấn luyện một foundation model (FM). Công ty muốn tăng độ chính xác của mô hình lên đến mức chấp nhận cụ thể. Giải pháp nào sẽ đáp ứng yêu cầu này?”

Đây là câu hỏi về các siêu tham số (hyper‑parameters) trong quá trình huấn luyện mô hình máy học – một chủ đề thường xuất hiện trong các đề thi AWS Certified DevOps Engineer Professional khi nói tới việc triển khai mô hình trên Amazon SageMaker.
Để cải thiện độ chính xác (accuracy) trong giai đoạn training, chúng ta thường điều chỉnh các tham số như số epoch, batch size, hoặc các kỹ thuật regularization. Tham số temperature lại là một tham số dùng trong giai đoạn inference (đặc biệt với các mô hình sinh ngôn ngữ) để điều chỉnh mức độ ngẫu nhiên của kết quả, không ảnh hưởng tới độ chính xác của mô hình đã được huấn luyện.

✅ Đáp án đúng

✅ Increase the epochs.

• Giải thích:
  • Epoch là số lần mà toàn bộ tập dữ liệu huấn luyện được đưa qua mạng neural một lần. Khi tăng số epoch, mô hình sẽ có nhiều cơ hội “học” từ dữ liệu, từ đó thường cải thiện độ chính xác cho tới khi đạt tới mức chấp nhận hoặc gặp hiện tượng over‑fitting.
  • Trên SageMaker, việc tăng epoch đơn giản chỉ cần điều chỉnh TrainingJobDefinition → HyperParameters (ví dụ: epochs=50 thay vì epochs=10). AWS khuyến cáo: “If the model has not yet converged, increase the number of epochs or adjust the learning rate.” (AWS SageMaker Training Best Practices, 2024‑2026).

❌ Giải thích các phương án sai

1. ❌ Decrease the batch size.

   • Batch size xác định số mẫu dữ liệu được đưa vào mạng trong một bước gradient update. Giảm batch size làm cho gradient cập nhật nhiều hơn, nhưng có độ nhiễu cao hơn. Điều này có thể tăng tốc độ hội tụ trong một số trường hợp, nhưng không bảo đảm cải thiện độ chính xác; thậm chí có thể gây unstable training và làm mô hình không hội tụ tốt.
   • AWS SageMaker docs (2025) lưu ý: “Smaller batch sizes can improve generalization but may require more epochs to reach the same accuracy; they are not a direct lever to increase accuracy.”

2. ❌ Decrease the epochs.

   • Giảm số epoch sẽ giảm thời gian học, do đó mô hình sẽ không có đủ thời gian để học hết các đặc trưng của dữ liệu, dẫn tới độ chính xác thấp hơn.
   • Trong thực tế, giảm epoch chỉ được dùng khi mô hình đã over‑fitted hoặc khi cần rút ngắn thời gian training, chứ không phải để tăng độ chính xác.

3. ❌ Increase the temperature parameter.

   • Temperature là tham số được dùng trong giai đoạn inference, đặc biệt với các mô hình sinh (text generation, image generation). Nhiệt độ cao (>1) làm cho output đa dạng hơn, ngẫu nhiên hơn, trong khi nhiệt độ thấp (<1) làm output bảo thủ, ít ngẫu nhiên.
   • Temperature không ảnh hưởng tới độ chính xác của mô hình đã được huấn luyện; nó chỉ điều chỉnh cách mẫu được sinh ra. Tăng temperature sẽ giảm tính xác định của kết quả, không giúp đạt mức chấp nhận về accuracy.

📚 Tham khảo nguồn tài liệu (đến năm 2026)

• Amazon SageMaker Training Best Practices – phần “Hyperparameter Tuning”, cập nhật 2025.
  https://docs.aws.amazon.com/sagemaker/latest/dg/training-best-practices.html
• AWS Machine Learning Blog, “Understanding Epochs vs. Batch Size in Deep Learning”, 2024.
  https://aws.amazon.com/blogs/machine-learning/understanding-epochs-batch-size/
• Deep Learning with AWS, AWS Whitepaper, 2024‑2026 edition.
  (Chương 4: Training Hyper‑parameters)

🧩 Tổng kết

• Để tăng độ chính xác của một foundation model trong quá trình huấn luyện, tăng số epoch là cách trực tiếp và hiệu quả nhất (điều kiện mô hình chưa hội tụ).
• Giảm batch size hoặc thay đổi temperature không phải là biện pháp nhằm mục tiêu cải thiện accuracy; chúng ảnh hưởng tới độ ổn định và cách sinh kết quả, chứ không phải độ chính xác.
• Giảm epoch chắc chắn làm giảm khả năng học, do đó giảm độ chính xác.

Hy vọng phân tích trên giúp bạn nắm rõ lý do tại sao “Increase the epochs” là đáp án đúng và hiểu rõ từng lựa chọn còn lại. Chúc bạn ôn thi thành công! 🚀✨

📖 Giải thích nội dung câu hỏi
Câu hỏi mô tả một công ty đang triển khai chatbot dựa trên Large Language Model (LLM) để trả lời câu hỏi của khách hàng. Mục tiêu chính của họ là giảm số lượng hành động mà nhân viên trung tâm cuộc gọi (call‑center) phải thực hiện khi trả lời. Vì vậy, khi đánh giá hiệu quả của chatbot, công ty cần lựa chọn một mục tiêu kinh doanh (business objective) phản ánh đúng việc giảm tải công việc và cải thiện hiệu suất của các cuộc gọi.

✅ Đáp án đúng: Average call duration

Lý do chọn:

• Khi chatbot trả lời được câu hỏi của khách hàng một cách nhanh chóng và chính xác, nhân viên call‑center sẽ không cần phải thực hiện nhiều “động tác” (ví dụ: tìm kiếm thông tin, chuyển cuộc gọi, hỏi lại khách hàng). Kết quả là thời gian mỗi cuộc gọi giảm xuống.
• “Average call duration” (thời gian trung bình mỗi cuộc gọi) là một chỉ số KPI tiêu chuẩn trong các trung tâm cuộc gọi, thường được dùng để đo hiệu suất và mức độ tự động hoá quy trình. AWS cung cấp công cụ Amazon Connect và Amazon CloudWatch để thu thập và phân tích chỉ số này.
• Do vậy, đo “Average call duration” là cách trực tiếp và có ý nghĩa nhất để đánh giá mức độ giảm thiểu hành động của nhân viên, đồng thời phản ánh lợi ích kinh doanh (giảm chi phí nhân công, nâng cao trải nghiệm khách hàng).

❌ Các phương án sai và giải thích

• Website engagement rate

  • Đây là chỉ số đo lường mức độ tương tác của người dùng trên website (số lượt click, thời gian trên trang, tỷ lệ bounce, …). Nó không liên quan tới hiệu suất của trung tâm cuộc gọi hay việc giảm hành động của nhân viên. Nếu chatbot được triển khai trên website, chỉ số này có thể phản ánh mức độ sử dụng, nhưng không phản ánh việc giảm thời gian gọi điện.

• Corporate social responsibility

  • CSR đề cập tới các hoạt động có lợi cho xã hội, môi trường và cộng đồng. Đây là mục tiêu phi‑tài chính, không phải là chỉ số đo lường trực tiếp hiệu quả của một chatbot trong môi trường call‑center. Do vậy, không phù hợp để đánh giá tác động của LLM chatbot đối với việc giảm hành động của nhân viên.

• Regulatory compliance

  • Tuân thủ quy định là yêu cầu bắt buộc về bảo mật, lưu trữ dữ liệu, và các chuẩn pháp lý (ví dụ: GDPR, PCI‑DSS). Mặc dù quan trọng, đây không phải là một KPI để đo “số hành động” hay “thời gian gọi”. Đánh giá compliance thường dựa trên audit, log và báo cáo, không phải thời gian trung bình cuộc gọi.

🧩 Tổng hợp các tiêu chí lựa chọn KPI cho chatbot call‑center

1. Direct impact on call handling – các chỉ số đo thời gian, số lần chuyển cuộc gọi, hay mức độ giải quyết trong lần gọi đầu tiên (First Call Resolution).
2. Cost efficiency – giảm chi phí nhân công và chi phí vận hành trung tâm cuộc gọi.
3. Customer experience – thời gian chờ, mức độ hài lòng (CSAT), Net Promoter Score (NPS).

Trong các lựa chọn đưa ra, Average call duration duy nhất đáp ứng tiêu chí “giảm số hành động của nhân viên”.

📚 Tham khảo (cập nhật đến 2026)

• AWS Whitepaper: “Modernizing Contact Centers with Amazon Connect and Generative AI” (2025) – đề cập tới việc dùng LLM để giảm thời gian cuộc gọi và cải thiện First Call Resolution.
• Amazon Connect Documentation – Metrics and Reporting (phiên bản 2026) – mô tả cách thu thập “Average Call Duration” qua CloudWatch.
• AWS Well‑Architected Framework – Operational Excellence Pillar – nhấn mạnh việc đo lường KPI thực tế (như thời gian xử lý) để đánh giá cải tiến quy trình.

🔚 Kết luận:
Để đo hiệu quả của chatbot LLM trong việc giảm thiểu các hành động của nhân viên call‑center, Average call duration là chỉ số kinh doanh thích hợp nhất. Các lựa chọn còn lại không phản ánh trực tiếp mục tiêu này và do đó là sai.

🔎 Phân tích câu hỏi
Câu hỏi: “Which functionality does Amazon SageMaker Clarify provide?”
Yêu cầu là xác định tính năng cụ thể mà Amazon SageMaker Clarify cung cấp. SageMaker Clarify là một thành phần trong Amazon SageMaker được thiết kế để giúp các nhà phát triển và kỹ sư ML phát hiện và giảm thiểu bias cũng như giải thích (explain) kết quả dự đoán của mô hình.

✅ Đáp án đúng

➡️ Identifies potential bias during data preparation

Lý do:

• SageMaker Clarify tự động phân tích dữ liệu đầu vào (cả trong giai đoạn chuẩn bị dữ liệu và trong quá trình huấn luyện) để phát hiện các mẫu bias (độ lệch) dựa trên các đặc trưng được chỉ định (ví dụ: giới tính, tuổi, khu vực địa lý…).
• Nó cung cấp bias metrics (ví dụ: disparity index, statistical parity) và visualization để người dùng có thể xem xét và thực hiện các biện pháp khắc phục.
• Đây là chức năng chính và duy nhất trong các đáp án được nêu.

🧩 Phân tích các phương án khác (sai)

• Integrates a Retrieval Augmented Generation (RAG) workflow

  • Giải thích: RAG là một kỹ thuật trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP) kết hợp truy xuất tài liệu (retrieval) với mô hình sinh (generation). Chức năng này được hỗ trợ bởi Amazon Bedrock, Amazon Kendra hoặc SageMaker JumpStart (các mẫu LLM), không phải SageMaker Clarify. Clarify không có bất kỳ API nào để tích hợp RAG.

• Monitors the quality of ML models in production

  • Giải thích: Việc giám sát chất lượng mô hình (monitoring) trong môi trường production thường được thực hiện bởi Amazon SageMaker Model Monitor (trong SageMaker Pipelines) hoặc Amazon CloudWatch Evidently. Clarify tập trung vào phát hiện bias và giải thích chứ không cung cấp các metric giám sát thời gian thực như drift detection, data quality, hay performance metrics.

• Documents critical details about ML models
  Giải thích: Việc tài liệu hoá (documentation) các chi tiết quan trọng của mô hình (metadata, versioning, lineage) được thực hiện bởi SageMaker Model Registry, AWS Glue Data Catalog, hoặc AWS Artifact. Clarify không có chức năng ghi chép hay lưu trữ metadata mô hình; nó chỉ cung cấp báo cáo bias và explainability dưới dạng file CSV/JSON và visualizations.

🛠️ Tổng kết các tính năng thực tế của Amazon SageMaker Clarify (2026)

1. Bias detection

   • Phân tích bias trong dữ liệu đầu vào (pre‑training) và bias trong dự đoán (post‑training).
   • Hỗ trợ cả binary, multiclass và regression.

2. Explainability (XAI)

   • Tạo SHAP (SHapley Additive exPlanations) values cho mô hình XGBoost, TensorFlow, PyTorch, Scikit‑learn.
   • Cung cấp feature importance, dependence plots và summary plots.

3. Integration with SageMaker Pipelines

   • Có thể chèn ClarifyProcessor vào pipeline để tự động thực hiện bias‑analysis và explainability sau mỗi bước huấn luyện.

4. Output

   • Kết quả được lưu dưới dạng CSV/JSON trong S3, đồng thời có visualization UI trong SageMaker Studio.

📚 Tham khảo tài liệu (đến 2026)

• Amazon SageMaker Clarify Documentation – https://docs.aws.amazon.com/sagemaker/latest/dg/clarify.html
• SageMaker Pipelines – Using Clarify – https://docs.aws.amazon.com/sagemaker/latest/dg/pipelines-clarify.html
• AWS re:Invent 2023 – “Detecting bias with SageMaker Clarify” (video) – https://www.awsreinvent.com/
• AWS Well‑Architected Framework – Machine Learning Lens (bias & explainability best practices) – https://d1.awsstatic.com/whitepapers/architecture/AWS-Machine-Learning-Well-Architected-Framework.pdf

💡 Kết luận:
Trong 4 lựa chọn, “Identifies potential bias during data preparation” là chức năng duy nhất mà Amazon SageMaker Clarify thực hiện. Các tính năng khác như RAG, monitoring production models, hoặc documentation không thuộc phạm vi của Clarify. 🚀

🔎 Phân tích câu hỏi

• Bối cảnh: Công ty đã xây dựng một mô hình dự đoán giá cho các mặt hàng. Khi chạy trên tập dữ liệu training mô hình cho kết quả tốt, nhưng khi đưa vào production (đối với dữ liệu thực tế) hiệu suất giảm mạnh.
• Vấn đề thường gặp: Đây là dấu hiệu của over‑fitting (mô hình học quá mức các mẫu trong dữ liệu huấn luyện và không tổng quát được trên dữ liệu mới) hoặc data drift (phân phối dữ liệu trong production khác so với dữ liệu huấn luyện).
• Mục tiêu câu hỏi: Xác định hành động nào giúp giảm thiểu hiện tượng này, tức là làm cho mô hình “biết” được nhiều mẫu đa dạng hơn và tránh over‑fitting.

✅ Đáp án đúng

🟢 “Increase the volume of data that is used in training.”

• Khi tăng khối lượng và đa dạng của dữ liệu huấn luyện, mô hình sẽ học được nhiều mẫu hơn, giảm khả năng ghi nhớ chi tiết quá mức (over‑fit) và cải thiện khả năng tổng quát hoá khi gặp dữ liệu thực tế.
• Trong môi trường AWS, chúng ta có thể thực hiện việc này bằng cách:
  • Sử dụng Amazon SageMaker Ground Truth để thu thập và gán nhãn thêm dữ liệu.
  • Áp dụng data augmentation (ví dụ: biến đổi giá trị, thêm nhiễu) trong pipeline SageMaker Processing.
  • Tận dụng Amazon S3 để lưu trữ lượng dữ liệu lớn và AWS Glue/Lake Formation để chuẩn bị dữ liệu.
  • Thiết lập SageMaker Pipelines để tự động hoá việc thu thập dữ liệu mới, huấn luyện lại và triển khai liên tục.

❌ Giải thích các phương án sai

1. “Reduce the volume of data that is used in training.”

   • 📉 Giảm kích thước dữ liệu sẽ làm giảm độ đa dạng, làm tăng nguy cơ over‑fitting hơn chứ không giải quyết được vấn đề.
   • Khi dữ liệu huấn luyện ít hơn, mô hình sẽ “kỳ vọng” nhiều hơn vào các mẫu đã thấy, dẫn tới hiệu suất tồi hơn trong môi trường production.

2. “Add hyperparameters to the model.”

   • 🛠️ Hyperparameters (như learning rate, batch size, số lớp) là cấu hình cho quá trình huấn luyện, không phải “thêm” vào mô hình.
   • Việc thay đổi hyperparameters có thể cải thiện một số khía cạnh, nhưng không giải quyết nguyên nhân gốc rễ là thiếu dữ liệu đa dạng.
   • Thêm hyperparameters không thay thế việc cung cấp thêm dữ liệu thực tế cho mô hình.

3. “Increase the model training time.”

   • ⏱️ Đào tạo lâu hơn chỉ giúp mô hình “học” sâu hơn trên cùng một tập dữ liệu; nếu dữ liệu hiện tại đã dẫn tới over‑fitting, việc tăng thời gian huấn luyện sẽ tăng mức độ over‑fit chứ không khắc phục.
   • Thay vì kéo dài thời gian, chúng ta cần cải thiện chất lượng và khối lượng dữ liệu hoặc áp dụng kỹ thuật regularization (ví dụ: dropout, L2) – nhưng những kỹ thuật này không nằm trong lựa chọn đưa ra.

📚 Tham khảo nguồn tài liệu (đến năm 2026)

• Amazon SageMaker Documentation – Training and Hyperparameter Tuning
  https://docs.aws.amazon.com/sagemaker/latest/dg/train-model.html
• AWS Whitepaper – Best Practices for Machine Learning on AWS (2024‑2026 cập nhật)
  https://d1.awsstatic.com/whitepapers/machine-learning/best-practices-ml-on-aws.pdf
• Amazon SageMaker Model Monitor – phát hiện data drift & model quality degradation
  https://docs.aws.amazon.com/sagemaker/latest/dg/model-monitor.html
• AWS Blog – Using more data to improve model performance (2025)
  https://aws.amazon.com/blogs/machine-learning/using-more-data-improve-ml-model-performance/

Tóm tắt: Khi mô hình hoạt động tốt trên dữ liệu huấn luyện nhưng kém trên production, nguyên nhân phổ biến là over‑fitting hoặc data drift. Giải pháp hiệu quả nhất là tăng khối lượng và độ đa dạng của dữ liệu huấn luyện (đáp án đúng). Các phương án còn lại either làm giảm dữ liệu, thay đổi cấu hình không giải quyết gốc rễ, hoặc kéo dài thời gian huấn luyện mà không cải thiện dữ liệu – vì vậy đều sai. 🎯

📖 Phân tích câu hỏi

Công ty thương mại điện tử muốn xây dựng một giải pháp để xác định cảm xúc (sentiment) của khách hàng dựa trên đánh giá bằng văn bản (customer reviews).
Yêu cầu chính:

1. Xử lý ngôn ngữ tự nhiên (NLP) – phân tích văn bản, nhận dạng các cảm xúc như “positive”, “negative”, “neutral”.
2. Tự động, có thể mở rộng – phải chạy trên AWS, không cần quản lý hạ tầng phức tạp.

Vì vậy chúng ta cần một (hoặc nhiều) dịch vụ AWS chuyên về phân tích ngôn ngữ hoặc cung cấp mô hình ngôn ngữ có thể thực hiện sentiment analysis.

✅ Các đáp án đúng

1️⃣ Amazon Comprehend

• Lý do đúng: Amazon Comprehend là dịch vụ NLP quản lý hoàn toàn (fully‑managed) của AWS, hỗ trợ sentiment analysis, entity recognition, key phrase extraction, v.v.
• Cách hoạt động: Bạn chỉ cần gửi đoạn văn bản (ví dụ: một review) tới API DetectSentiment; dịch vụ trả về mức độ “POSITIVE”, “NEGATIVE”, “NEUTRAL” hoặc “MIXED” cùng với điểm confidence.
• Ưu điểm: Không cần đào tạo mô hình, hỗ trợ đa ngôn ngữ (hiện tại hỗ trợ > 20 ngôn ngữ, bao gồm tiếng Anh, tiếng Tây Ban Nha, tiếng Pháp, tiếng Nhật …).
• Thực tế 2026: Phiên bản Comprehend V2 đã nâng cấp độ chính xác, hỗ trợ custom classification & custom entity recognizer, nhưng chức năng sentiment analysis vẫn luôn có sẵn.

2️⃣ Amazon Bedrock

• Lý do đúng: Amazon Bedrock cung cấp truy cập tới các foundation models (FMs) từ Amazon (Titan, Claude, …) và các nhà cung cấp bên thứ ba (Meta, Anthropic, Stability AI).
• Cách hoạt động: Bạn có thể gọi một model ngôn ngữ (ví dụ: Claude 3 hoặc Titan Text) để thực hiện prompt‑based sentiment analysis hoặc fine‑tune mô hình riêng cho domain của mình (review của sản phẩm).
• Ưu điểm:
  • Khả năng tùy chỉnh (fine‑tuning) để đạt độ chính xác cao hơn cho ngữ cảnh thương mại điện tử.
  • Chi phí linh hoạt – trả theo số token được xử lý, không cần quản lý cluster.
  • Bảo mật – dữ liệu không rời khỏi VPC khi dùng PrivateLink.
• Thực tế 2026: Bedrock đã ra mắt Amazon Titan Text 2.0 với tính năng “sentiment extraction” được tối ưu, đồng thời tích hợp AWS Security Hub để kiểm soát dữ liệu nhạy cảm.

👉 Kết luận: Hai dịch vụ đáp ứng yêu cầu “xác định cảm xúc dựa trên văn bản” là Amazon Comprehend và Amazon Bedrock.

❌ Các đáp án sai và lý do

• Amazon Lex

  • Lex là dịch vụ chatbot và speech‑to‑text. Nó giúp xây dựng giao diện hội thoại (voice hoặc text) nhưng không có chức năng sentiment analysis tự động cho văn bản nhập sẵn. Lex chỉ trả về intent, slots và có thể tích hợp với Comprehend để lấy sentiment, nhưng bản thân nó không đáp ứng yêu cầu.

• Amazon Polly

  • Polly là text‑to‑speech service, chuyển đổi văn bản thành giọng nói. Nó không thực hiện bất kỳ phân tích ngôn ngữ nào, chỉ tạo ra âm thanh. Vì vậy không thể xác định sentiment từ review.

• Amazon Rekognition

  • Rekognition là dịch vụ phân tích hình ảnh và video (object detection, facial analysis, text in images, …). Nó không xử lý văn bản và không cung cấp sentiment analysis cho review dạng text.

🛠️ Cách triển khai mẫu (không bắt buộc trong đề, nhưng hữu ích)

1. Sử dụng Amazon Comprehend

   import boto3
   client = boto3.client('comprehend')
   response = client.detect_sentiment(
       Text="The product arrived early and works perfectly!",
       LanguageCode='en'
   )
   print(response['Sentiment'])   # OUTPUT: POSITIVE
   

2. Sử dụng Amazon Bedrock (ví dụ với Claude)

   import boto3, json
   client = boto3.client('bedrock-runtime')
   prompt = "Determine the sentiment (positive, negative, neutral) of the following review: 'The delivery was late and the item was damaged.'"
   response = client.invoke_model(
       modelId='anthropic.claude-v3',
       contentType='application/json',
       accept='application/json',
       body=json.dumps({"prompt": prompt})
   )
   print(json.loads(response['body'].read())['completion'])
   # OUTPUT: negative
   

📚 Tham khảo

• Amazon Comprehend Documentation – DetectSentiment API (phiên bản V2, cập nhật 2026).
  https://docs.aws.amazon.com/comprehend/latest/dg/how-sentiment.html
• Amazon Bedrock Developer Guide – Foundation Models for Text Classification & Sentiment (cập nhật 2026).
  https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html
• AWS re:Invent 2025 & 2026 – “Advancements in Large Language Model Services on AWS” (slide deck, Bedrock & Titan 2.0).

🔚 Tóm tắt:

• Đáp án đúng: Amazon Comprehend và Amazon Bedrock.
• Các dịch vụ còn lại (Lex, Polly, Rekognition) không cung cấp khả năng phân tích cảm xúc của văn bản, vì vậy không phù hợp với yêu cầu của câu hỏi. 🚀

🔎 Phân tích câu hỏi

Một công ty muốn khai thác Large Language Models (LLMs) thông qua Amazon Bedrock để xây dựng giao diện chat cho các sổ hướng dẫn sản phẩm.
Các hướng dẫn hiện đang ở dạng PDF. Yêu cầu là đáp ứng được nhu cầu (cung cấp ngữ cảnh cho mô hình khi người dùng hỏi) và chi phí phải tối ưu nhất.

Do đó, chúng ta cần một cách đưa nội dung PDF vào “knowledge context” của Bedrock mà:

• Không tốn chi phí cao cho việc tái‑đào tạo (fine‑tune) hay gửi toàn bộ PDF mỗi lần.
• Tận dụng các dịch vụ quản lý và tối ưu chi phí mà AWS cung cấp vào năm 2026 (ví dụ: Amazon Bedrock Knowledge Bases, Amazon OpenSearch Serverless, Amazon S3 + S3 Select, …).

✅ Đáp án đúng

📌 Upload PDF documents to an Amazon Bedrock knowledge base. Use the knowledge base to provide context when users submit prompts to Amazon Bedrock.

• Lý do:
  • Amazon Bedrock Knowledge Bases (ra mắt 2023 và được mở rộng tính năng trong 2024‑2025) cho phép định chỉ mục và lưu trữ tài liệu (PDF, HTML, văn bản) trong Amazon OpenSearch Serverless và tích hợp trực tiếp với các model Bedrock.
  • Khi người dùng gửi prompt, Bedrock tự động truy vấn knowledge base để lấy các đoạn văn bản liên quan và đưa chúng vào ngữ cảnh (context) cho LLM, không cần truyền toàn bộ file mỗi lần.
  • Chi phí chỉ bao gồm lưu trữ tài liệu trên S3, chi phí truy vấn OpenSearch Serverless (theo số yêu cầu) và sử dụng inference của LLM – đây là cách tiết kiệm nhất so với việc gửi toàn bộ PDF hoặc fine‑tune model.
  • Knowledge Base còn hỗ trợ tự động cập nhật, quản lý phiên bản, bảo mật IAM và các policy (KMS encryption) nên phù hợp với môi trường doanh nghiệp.

❌ Giải thích các đáp án sai

1️⃣ Use prompt engineering to add one PDF file as context to the user prompt when the prompt is submitted to Amazon Bedrock.

• Sai vì:
  • Prompt engineering chỉ hữu hiệu khi ngữ cảnh rất ngắn (≤ few‑kilobytes). Một file PDF (thậm chí một trang) thường có kích thước hàng trăm KB – MB. Khi đưa toàn bộ nội dung PDF vào prompt, chi phí token sẽ tăng mạnh và giới hạn token của model (max 4 k‑8 k tokens tùy model) sẽ bị vượt.
  • Mỗi lần người dùng gửi câu hỏi, toàn bộ PDF phải được truyền lại, làm tăng latency và chi phí inference (vì mỗi token được tính phí).
  • Không đáp ứng được yêu cầu chi phí tối ưu.

2️⃣ Use prompt engineering to add all the PDF files as context to the user prompt when the prompt is submitted to Amazon Bedrock.

• Sai vì:
  • Tương tự đáp án trên, nhưng còn tệ hơn vì tất cả các PDF (có thể lên GB) sẽ được gộp vào một prompt duy nhất → không thể vượt qua giới hạn token và đánh mất hiệu suất.
  • Chi phí token và băng thông sẽ tăng vô hạn, làm cho giải pháp này không thực tế và cực kỳ tốn kém.

3️⃣ Use all the PDF documents to fine‑tune a model with Amazon Bedrock. Use the fine‑tuned model to process user prompts.

• Sai vì:
  • Fine‑tuning LLM trên Bedrock hiện chỉ hỗ trợ một số mô hình nhất định (ví dụ Claude 2, Titan, Llama 2) và đòi hỏi dữ liệu huấn luyện ở dạng JSONL chứ không phải PDF thô.
  • Để fine‑tune, cần chuyển đổi PDF sang text, làm sạch, đánh dấu, tạo prompt‑completion pairs – công việc tốn thời gian và chi phí đáng kể.
  • Sau khi fine‑tune, mỗi inference vẫn phải trả phí cho token được sinh ra, và chi phí fine‑tune (điện toán, lưu trữ checkpoint) thường cao hơn so với việc chỉ tạo Knowledge Base.
  • Khi nội dung tài liệu thay đổi (cập nhật manual), cần đào tạo lại model → chi phí bảo trì lớn.
  • Vì vậy, không phải là giải pháp “most cost‑effective”.

📚 Tham khảo tài liệu (2026)

1. Amazon Bedrock Documentation – Knowledge Bases
   https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-bases.html (phiên bản cập nhật 2026)

2. Best practices for using Amazon Bedrock with external data – AWS Architecture Blog, 2025.
   https://aws.amazon.com/blogs/architecture/best-practices-using-amazon-bedrock-with-external-data/

3. Pricing – Amazon Bedrock (điều chỉnh 2026)
   https://aws.amazon.com/bedrock/pricing/

4. Amazon OpenSearch Serverless – Overview (2026)
   https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless.html

5. Fine‑tuning Large Language Models on Amazon Bedrock – Limits & Costs – AWS Whitepaper 2024 (cập nhật 2026).
   https://d1.awsstatic.com/whitepapers/bedrock-fine-tuning.pdf

🛠️ Kết luận

• Cách tối ưu nhất cho việc cung cấp ngữ cảnh từ PDF vào LLM trên Amazon Bedrock là tạo một Knowledge Base và để Bedrock tự truy vấn khi người dùng gửi prompt.
• Các phương án “prompt engineering” và “fine‑tune” đều không đáp ứng được yêu cầu chi phí và quy mô trong thực tế, đặc biệt khi tài liệu có kích thước lớn và thay đổi thường xuyên.

🚀 Khuyến nghị thực tế:

1. Upload PDF lên Amazon S3 (với SSE‑KMS).
2. Tạo Knowledge Base trong Bedrock, trỏ tới bucket S3.
3. Cấu hình IAM role cho phép Bedrock đọc S3 và truy vấn OpenSearch.
4. Khi triển khai chat UI, gọi API InvokeModel và truyền knowledgeBaseId để Bedrock tự lấy context.

Với kiến trúc này, bạn đạt được tính năng đầy đủ, độ trễ thấp, và chi phí tối thiểu. 🎉

📖 Giải thích nội dung câu hỏi
Một công ty mạng xã hội muốn áp dụng một mô hình ngôn ngữ lớn (LLM) để hỗ trợ công việc moderation nội dung. Trước khi đưa vào vận hành, họ cần kiểm tra xem đầu ra của mô hình có độ thiên (bias) và khả năng phân biệt đối xử (discrimination) đối với các nhóm hoặc cá nhân nào không. Yêu cầu của câu hỏi: “Which data source should the company use to evaluate the LLM outputs with the LEAST administrative effort?” → Công ty muốn giảm thiểu công sức quản trị (thu thập, chuẩn bị, duy trì dữ liệu) khi thực hiện việc đánh giá này.

✅ Đáp án đúng: Benchmark datasets

• Lý do chọn:
  • Các benchmark datasets (bộ dữ liệu chuẩn) đã được cộng đồng nghiên cứu và các nhà cung cấp dịch vụ AI (ví dụ: GLUE, SuperGLUE, WinoBias, StereoSet, HolisticBias, etc.) biên soạn sẵn, có định dạng chuẩn, được gắn nhãn rõ ràng về các khía cạnh nhạy cảm (giới tính, chủng tộc, tuổi tác, …).
  • Người dùng chỉ cần tải xuống (thường qua S3, Hugging Face Hub, hoặc AWS Data Exchange) và đưa vào pipeline SageMaker để chạy inference và tính các metric (bias score, fairness metrics).
  • Không cần thu thập hay gán nhãn dữ liệu nội bộ, không phải thiết lập quy trình thu thập liên tục, vì dữ liệu đã sẵn sàng và được đánh giá bởi cộng đồng.
  • Do vậy, công sức quản trị (administrative effort) là tối thiểu so với các lựa chọn khác.

🧩 Phân tích các phương án (giữ nguyên nội dung tiếng Anh)

- User-generated content

• Giải thích: Dữ liệu do người dùng tạo ra (post, comment, tweet…) là đại diện thực tế nhưng không có nhãn về nhóm bảo vệ hay các tiêu chí bias. Để sử dụng làm bộ đánh giá, công ty phải thu thập, làm sạch, gán nhãn (ví dụ: xác định nhóm người dùng, nội dung nhạy cảm). Quá trình này tốn nhiều công sức quản trị, cần tuân thủ chính sách bảo mật, GDPR, v.v.
• ✅ Kết luận: Không phải là lựa chọn ít công sức nhất → sai.

- Moderation logs

• Giải thích: Log moderation chứa kết quả quyết định (đã chặn, đã cho phép) và các lý do. Mặc dù có thể cung cấp phản hồi thực tế về cách mô hình tương tác với nội dung, nhưng log này không phải là dữ liệu gốc để đo bias; chúng đã qua xử lý và có thể bị thiên lệch theo quy tắc nội bộ. Để dùng làm bộ kiểm tra bias, cần đánh giá lại từng log, gán nhãn lại, và duy trì hệ thống log liên tục → công sức quản trị cao.
• ✅ Kết luận: Không đáp ứng yêu cầu “least administrative effort” → sai.

- Content moderation guidelines

• Giải thích: Các hướng dẫn (guidelines) là tài liệu mô tả quy tắc, tiêu chuẩn và chính sách moderation (ví dụ: “không cho phép ngôn ngữ thù địch”). Chúng là định dạng văn bản mô tả quy tắc, không phải dữ liệu đầu vào/đầu ra để đo độ thiên. Để biến chúng thành bộ dữ liệu đánh giá, cần chuyển đổi sang câu hỏi, câu trả lời, gán nhãn – công việc tốn thời gian và đòi hỏi kiến trúc pipeline phức tạp.
• ✅ Kết luận: Không phải là nguồn dữ liệu sẵn sàng, công sức lớn → sai.

- Benchmark datasets

• Giải thích: Như đã nêu ở phần đáp án đúng, các bộ dữ liệu chuẩn đã được công bố rộng rãi, được gán nhãn (bias, toxicity, protected attributes) và có tài liệu hướng dẫn cách tính các metric liên quan. Chúng có thể được truy cập qua AWS Data Exchange, SageMaker Ground Truth (để tải xuống) hoặc Hugging Face Hub. Việc tích hợp vào quy trình CI/CD (ví dụ: chạy batch inference trên SageMaker Processing) chỉ cần vài dòng script, do đó công sức quản trị là tối thiểu.

🛠️ Gợi ý cách triển khai trên AWS (đến 2026)

1. Lưu trữ dataset: Dùng Amazon S3 để lưu các benchmark datasets, hoặc trực tiếp import từ AWS Data Exchange (có sẵn các dataset như “Hate Speech and Offensive Language”).
2. Xử lý & inference: Dùng Amazon SageMaker Processing Jobs hoặc Batch Transform để đưa LLM (được triển khai trên SageMaker Endpoints) chạy trên toàn bộ dataset.
3. Đánh giá bias: Sử dụng SageMaker Clarify (tính năng mới nhất 2026) để tự động tính các fairness metrics (demographic parity, equalized odds) dựa trên các protected attributes có trong benchmark dataset.
4. CI/CD tích hợp: Thêm bước kiểm tra bias vào pipeline AWS CodePipeline → mỗi lần deploy LLM mới, pipeline sẽ chạy benchmark và báo cáo nếu vượt ngưỡng cho phép.

📚 Tham khảo nguồn tài liệu

• AWS SageMaker Clarify Documentation (2026) – Hướng dẫn sử dụng Clarify để đo bias trên mô hình LLM.
• AWS Data Exchange – Public Datasets – Danh sách các benchmark datasets có sẵn cho việc đánh giá fairness.
• “HolisticBias: A Suite of Datasets for Measuring Bias in LLMs”, arXiv 2025 – Một bộ dữ liệu chuẩn mới được cộng đồng chấp nhận.
• AWS Well‑Architected Framework – Security Pillar (2026) – Đề cập tới việc bảo vệ dữ liệu người dùng khi thu thập log và UGC.

🎯 Kết luận ngắn gọn

• Câu hỏi yêu cầu chọn nguồn dữ liệu có công sức quản trị thấp nhất để đánh giá bias của LLM.
• Benchmark datasets là lựa chọn đúng vì chúng đã được tiền xử lý, gán nhãn, và chuẩn hoá, cho phép triển khai nhanh trên các dịch vụ AWS (S3, SageMaker, Clarify) mà không cần công việc thu thập hoặc gán nhãn lại.

✅ Đáp án: Benchmark datasets.

📖 Giải thích nội dung câu hỏi

Câu hỏi mô tả một công ty muốn sử dụng mô hình AI sinh nội dung đã được huấn luyện trước (pre‑trained generative AI) để tạo các tài liệu marketing. Yêu cầu quan trọng là nội dung phải phù hợp với “giọng nói thương hiệu” và các yêu cầu truyền thông của công ty. Vì vậy, giải pháp cần:

1. Kiểm soát được đầu ra của mô hình (đảm bảo tính nhất quán, không vi phạm chính sách thương hiệu).
2. Không cần phải xây dựng lại mô hình từ đầu – công ty đã có mô hình pre‑trained và muốn tận dụng nhanh.
3. Có thể thực hiện trong môi trường AWS, ví dụ Amazon Bedrock, SageMaker JumpStart, hoặc các dịch vụ khác hỗ trợ prompt engineering và guardrails.

✅ Đáp án đúng

- Create effective prompts that provide clear instructions and context to guide the model's generation.

Vì sao đây là đáp án đúng?

• Prompt Engineering là cách nhanh nhất để “định hướng” một mô hình pre‑trained mà không cần thay đổi kiến trúc hay huấn luyện lại.
• Bằng cách cung cấp hướng dẫn chi tiết, ví dụ mẫu, và ngữ cảnh thương hiệu (tone, style, từ ngữ cấm, v.v.), mô hình sẽ sinh ra nội dung gần với yêu cầu hơn.
• AWS Amazon Bedrock và Amazon SageMaker JumpStart đều khuyến nghị việc tạo prompt chi tiết, kèm guardrails (ràng buộc) để tự động lọc nội dung không phù hợp.
• Từ 2023‑2026, AWS đã bổ sung tính năng Prompt Tuning (điều chỉnh nhẹ trên prompt) và Guardrails cho Bedrock, cho phép người dùng quản lý “brand voice” mà không cần huấn luyện lại mô hình.
• Đây là giải pháp chi phí và thời gian tối ưu, đáp ứng yêu cầu “cần nhanh, không muốn tái huấn luyện”.

❌ Giải thích các phương án sai

1️⃣ Optimize the model's architecture and hyperparameters to improve the model's overall performance.

• Sai vì:
  • Việc tối ưu kiến trúc (ví dụ thay đổi số neuron, kích thước embedding) và điều chỉnh siêu tham số (learning rate, batch size…) yêu cầu huấn luyện lại hoặc fine‑tune mô hình.
  • Điều này tốn thời gian, chi phí tính toán (GPU/Inf1), và không đảm bảo nội dung sẽ phù hợp với giọng thương hiệu; nó chỉ cải thiện “độ chính xác” chung của mô hình.
  • AWS khuyến nghị dùng fine‑tuning chỉ khi cần cải thiện năng lực cơ bản, không phải để điều chỉnh giọng nói.

2️⃣ Increase the model's complexity by adding more layers to the model's architecture.

• Sai vì:
  • Thêm lớp (layers) làm tăng độ phức tạp và chi phí inference (tăng latency, chi phí EC2/GPU).
  • Không có bằng chứng nào cho thấy việc “làm phức tạp hơn” sẽ giúp mô hình hiểu và tuân thủ brand voice.
  • Trong môi trường AWS, việc thay đổi cấu trúc mô hình đòi hỏi đào tạo lại trên Amazon SageMaker Training, điều này vượt quá yêu cầu “sử dụng mô hình đã được pre‑trained”.

3️⃣ Select a large, diverse dataset to pre‑train a new generative model.

• Sai vì:
  • Pre‑training một mô hình mới yêu cầu hàng nghìn GPU‑hour, dữ liệu hàng terabyte, và thời gian từ vài tuần đến vài tháng.
  • Mặc dù dữ liệu đa dạng có thể giúp mô hình “hiểu rộng”, nhưng không giải quyết vấn đề “đồng nhất giọng thương hiệu”.
  • AWS cung cấp large‑scale pre‑training trên SageMaker Distributed Training, nhưng đây không phải là giải pháp tối ưu cho yêu cầu nhanh chóng và kiểm soát nội dung.

🛠️ Các giải pháp AWS thực tế hỗ trợ “prompt engineering” và “brand guardrails”

1. Amazon Bedrock

   • Cung cấp các mô hình LLM (Claude, Titan, Jurassic‑2…) sẵn sàng sử dụng.
   • Tính năng Prompt Tuning cho phép lưu trữ prompt mẫu, dễ tái sử dụng.
   • Guardrails: định nghĩa các quy tắc (cấm từ ngữ, phong cách, v.v.) để tự động lọc/điều chỉnh đầu ra.

2. Amazon SageMaker JumpStart

   • Có sẵn pre‑trained generative models và prompt templates.
   • Cho phép fine‑tuning nhẹ (lấy một vài epoch) nếu công ty muốn “cá nhân hoá sâu hơn”.

3. AWS Lambda + Amazon API Gateway

   • Xây dựng một service API nhận prompt từ hệ thống marketing, chèn brand guidelines vào prompt, gọi Bedrock và trả về nội dung đã được kiểm duyệt.

4. AWS IAM & Amazon CloudWatch

   • Kiểm soát ai được phép tạo/điều chỉnh prompt (IAM policies).
   • Giám sát log của các yêu cầu tạo nội dung để phát hiện vi phạm brand.

📚 Tham khảo tài liệu

• Amazon Bedrock Developer Guide (phiên bản cập nhật 2026): https://docs.aws.amazon.com/bedrock/latest/devguide/
• Prompt Engineering Best Practices – AWS Machine Learning Blog, 2025: https://aws.amazon.com/blogs/machine-learning/prompt-engineering-best-practices/
• Guardrails for Generative AI – AWS Whitepaper, 2024: https://d1.awsstatic.com/whitepapers/AI/Guardrails-for-Generative-AI.pdf
• Amazon SageMaker JumpStart Documentation (2026): https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart.html

📝 Tóm tắt nhanh

• ✅ Câu trả lời đúng: Create effective prompts that provide clear instructions and context to guide the model's generation.
• ❌ Các phương án còn lại đều đề cập đến việc thay đổi kiến trúc, tăng độ phức tạp, hoặc huấn luyện lại mô hình – những hành động không cần thiết và không tập trung vào việc điều chỉnh “giọng nói thương hiệu”.
• 💡 Cách thực hiện trên AWS: dùng Amazon Bedrock (prompt + guardrails) hoặc SageMaker JumpStart để nhanh chóng đưa ra nội dung marketing phù hợp, đồng thời giảm chi phí và thời gian triển khai.

🔎 Phân tích câu hỏi
Một công ty cho vay đang xây dựng một giải pháp AI sinh tạo (generative AI) để đưa ra mức giảm giá cho khách hàng mới dựa trên các tiêu chí kinh doanh. Họ muốn phát triển và vận hành mô hình AI một cách có trách nhiệm, đặc biệt là giảm thiểu độ thiên lệch (bias) có thể gây bất lợi cho một số nhóm khách hàng.
Câu hỏi yêu cầu chọn hai hành động mà công ty nên thực hiện để đáp ứng yêu cầu “đảm bảo AI được dùng một cách có trách nhiệm và giảm bias”.

Trong bối cảnh AWS (với các dịch vụ như Amazon SageMaker Clarify, SageMaker Model Monitor, và các công cụ governance), các hành động trọng tâm để phát hiện, đo lường và giảm bias, đồng thời tăng tính minh bạch cho mô hình là:

1. Kiểm tra sự mất cân đối / bất bình đẳng trong dữ liệu (detect data imbalances).
2. Đánh giá hành vi của mô hình và cung cấp thông tin minh bạch cho các bên liên quan (evaluate model behavior for transparency).

Các hành động khác (chạy model thường xuyên, sử dụng ROUGE, hoặc tối ưu thời gian suy luận) không trực tiếp liên quan tới giảm bias hay trách nhiệm AI.

✅ Các lựa chọn đúng

1️⃣ Detect imbalances or disparities in the data.

• Giải thích:
  • Trước khi huấn luyện, việc phát hiện bất cân bằng hoặc sự chênh lệch trong các lớp, thuộc tính bảo vệ (giới tính, tuổi, dân tộc…) là bước đầu tiên để ngăn ngừa bias.
  • Trên AWS, Amazon SageMaker Clarify cung cấp các báo cáo về feature bias và label bias dựa trên các thống kê như distribution disparity, pairwise disparity, và group fairness metrics (e.g., Demographic Parity, Equalized Odds).
  • Khi phát hiện được sự mất cân đối, công ty có thể cân bằng lại dữ liệu (resampling, re‑weighting) hoặc thu thập thêm dữ liệu đại diện để giảm thiểu bias.

2️⃣ Evaluate the model's behavior so that the company can provide transparency to stakeholders.

• Giải thích:
  • Đánh giá hành vi mô hình (độ chính xác, độ công bằng, lỗi loại I/II) và công khai các chỉ số này giúp các bên liên quan (khách hàng, regulator, nội bộ) hiểu được cách mô hình đưa ra quyết định giảm giá.
  • AWS cung cấp SageMaker Model Monitor để thu thập metrics về drift và bias trong giai đoạn inference, và SageMaker Clarify Model Explainability để sinh ra các feature importance (SHAP, Integrated Gradients) – những thông tin này tăng tính transparency.
  • Khi công ty cung cấp các báo cáo này, nó đáp ứng các nguyên tắc “Responsible AI” như fairness, accountability, and transparency được AWS và các tiêu chuẩn quốc tế (ISO/IEC 22989, NIST AI RMF) đề xuất.

❌ Các lựa chọn sai và lý do

❌ Ensure that the model runs frequently.

• Giải thích:
  • Việc chạy mô hình thường xuyên (frequent inference) không liên quan tới việc giảm bias hay tăng tính chịu trách nhiệm.
  • Đôi khi, chạy quá thường có thể tạo chi phí cao và tăng nguy cơ drift nếu không có kiểm soát, nhưng không giải quyết vấn đề bias.
  • Các công cụ AWS như SageMaker Endpoint Auto Scaling hỗ trợ việc này về mặt hiệu năng, không phải về mặt đạo đức.

❌ Use the Recall-Oriented Understudy for Gisting Evaluation (ROUGE) technique to ensure that the model is 100% accurate.

• Giải thích:
  • ROUGE là một metric dùng để đánh giá độ tương đồng giữa văn bản tạo ra và bản tham chiếu (thường dùng trong summarization, translation).
  • Nó không đo lường độ chính xác 100% và không đánh giá bias hay công bằng.
  • Ngoài ra, “100% accurate” là mục tiêu không thực tế; trong AI, chúng ta luôn chấp nhận một mức lỗi nhất định và tập trung vào fairness và robustness.

❌ Ensure that the model's inference time is within the accepted limits.

• Giải thích:
  • Đảm bảo thời gian suy luận (latency) đáp ứng yêu cầu SLA là vấn đề hiệu năng, không phải trách nhiệm AI hoặc giảm bias.
  • Mặc dù latency quan trọng để cung cấp trải nghiệm người dùng tốt, nó không giúp công ty phát hiện hoặc giảm thiểu bias trong quyết định giảm giá.
  • AWS cung cấp SageMaker Serverless Inference hoặc Elastic Inference để tối ưu latency, nhưng đây không phải là biện pháp đáp ứng yêu cầu “responsible AI”.

📚 Tham khảo (đến năm 2026)

1. Amazon SageMaker Clarify Documentation – Detecting bias & explaining model predictions (2025‑2026 updates).
2. AWS Well‑Architected Framework – Operational Excellence Pillar – phần Continuous Monitoring & Observability.
3. AWS Responsible AI Guidelines – AWS whitepaper “Responsible AI on AWS” (phiên bản 2024, cập nhật 2026).
4. NIST AI Risk Management Framework (AI RMF) – 2023/2024 – các nguyên tắc về fairness, accountability, transparency.

📝 Tóm tắt

• Hai hành động cần thực hiện:

  1. Detect imbalances or disparities in the data.
  2. Evaluate the model's behavior so that the company can provide transparency to stakeholders.

• Các hành động còn lại (run model frequently, use ROUGE, ensure inference latency) không hướng tới việc giảm bias hay tăng tính minh bạch, do đó đều là sai trong ngữ cảnh yêu cầu “responsible AI”.

👍 Hy vọng phần phân tích trên đã giúp bạn nắm rõ lý do lựa chọn và cách áp dụng các dịch vụ AWS để xây dựng AI có trách nhiệm! 🚀

📝 Phân tích câu hỏi

Một công ty đang dùng Amazon Bedrock để tóm tắt tài liệu bằng “base model” (mô hình gốc).
Sau khi đào tạo một mô hình tùy chỉnh (custom model) để cải thiện chất lượng tóm tắt, họ muốn triển khai mô hình này qua Amazon Bedrock – nghĩa là gọi mô hình như một “foundation model” thông qua API Bedrock.

Câu hỏi hỏi: “Which action must the company take to use the custom model through Amazon Bedrock?”
=> Yêu cầu xác định hành động bắt buộc để mô hình tùy chỉnh có thể được truy cập và sử dụng trong Bedrock.

✅ Đáp án đúng

- Purchase Provisioned Throughput for the custom model.

Giải thích:

• Khi một custom model được đăng ký trong Amazon Bedrock, AWS yêu cầu mua Provisioned Throughput (độ thông lượng dự phòng) cho mô hình đó.
• Provisioned Throughput là mức tài nguyên (tốc độ inference) được đặt trước và trả phí cố định, giúp Bedrock cân bằng tải và cung cấp latency ổn định cho các mô hình tùy chỉnh.
• Nếu không mua Provisioned Throughput, mô hình không thể được gọi qua API Bedrock, dù đã đăng ký và có quyền truy cập.
• Đây là điều kiện tiên quyết để “use the custom model through Amazon Bedrock”.

❌ Giải thích các phương án sai

- Deploy the custom model in an Amazon SageMaker endpoint for real-time inference.

• Đúng là SageMaker có thể tạo endpoint real‑time, nhưng đây không phải là cách để sử dụng mô hình qua Amazon Bedrock.
• Bedrock không gọi trực tiếp các endpoint SageMaker; nó chỉ tương tác với các mô hình đã được đăng ký trong Bedrock và có Provisioned Throughput.
• Việc triển khai trên SageMaker có thể là một cách khác để phục vụ inference, nhưng không đáp ứng yêu cầu “through Amazon Bedrock”.

- Register the model with the Amazon SageMaker Model Registry.

• Model Registry là công cụ quản lý phiên bản mô hình trong SageMaker, không liên quan tới đăng ký mô hình trong Amazon Bedrock.
• Để Bedrock nhận biết mô hình, cần đăng ký mô hình trong Bedrock (qua console hoặc API), không phải trong Model Registry.
• Vì vậy, hành động này không đủ để sử dụng mô hình trong Bedrock.

- Grant access to the custom model in Amazon Bedrock.

• Việc cấp quyền IAM (grant access) là cần thiết để người dùng hoặc vai trò có thể gọi mô hình, nhưng không phải là hành động bắt buộc duy nhất để mô hình hoạt động.
• Ngay cả khi quyền đã được cấp, nếu không mua Provisioned Throughput, mô hình vẫn không thể được gọi.
• Do vậy, câu trả lời này chưa đầy đủ và không phải là “must‑do” duy nhất.

📌 Các bước thực tế để đưa custom model vào Amazon Bedrock (cập nhật tới 2026)

1. Train & Export mô hình (ví dụ: trên SageMaker, hoặc môi trường đào tạo riêng).
2. Register mô hình trong Amazon Bedrock bằng console hoặc CreateModel API.
3. Purchase Provisioned Throughput cho mô hình (đặt mức IOPS/throughput mong muốn).
4. Configure IAM policies để cho phép các principal (user/role) gọi InvokeModel trên model ARN.
5. Call the model qua Bedrock SDK/CLI (InvokeModel), nhận kết quả tóm tắt.

Lưu ý: Từ phiên bản Bedrock 2025‑Q4, AWS giới thiệu “Auto‑Scaling Throughput” cho một số mô hình tùy chỉnh, nhưng đối với mô hình mới đăng ký vẫn bắt buộc mua Provisioned Throughput ít nhất một lần để kích hoạt.

📚 Tham khảo

• Amazon Bedrock Developer Guide – “Using Custom Models” (phiên bản 2026‑03).
• AWS Blog: “Introducing Provisioned Throughput for Bedrock Custom Models” (15 Nov 2024).
• AWS Documentation: “Provisioned Throughput pricing for Amazon Bedrock” (cập nhật 2026‑02).

Tóm lại: Để công ty có thể sử dụng mô hình tùy chỉnh qua Amazon Bedrock, hành động bắt buộc là mua Provisioned Throughput cho mô hình đó. Các hành động khác (đăng ký trên SageMaker, cấp quyền, v.v.) là cần thiết trong một số kịch bản, nhưng không đủ để đáp ứng yêu cầu của câu hỏi. 🚀