Ngân hàng đề — AWS Certified AI Practitioner
Tìm thấy 623 câu.
Which strategy should the AI practitioner use?
- A Configure AWS CloudTrail as the logs destination for the model.
- B Enable invocation logging in Amazon Bedrock.
- C Configure AWS Audit Manager as the logs destination for the model.
- D Configure model invocation logging in Amazon EventBridge.
Xem giải thích
📖 Giải thích nội dung câu hỏi
Một chuyên gia AI đang dùng Amazon Bedrock (dịch vụ quản lý và triển khai các mô hình ngôn ngữ lớn – LLM) để tóm tắt các cuộc trò chuyện (session chats) từ bộ phận chăm sóc khách hàng. Để giám sát, kiểm tra và tuân thủ (ví dụ: phát hiện dữ liệu nhạy cảm, đánh giá chất lượng đầu ra), họ muốn lưu lại “invocation logs” – tức là bản ghi mỗi lần gọi mô hình, bao gồm dữ liệu đầu vào (prompt) và đầu ra (response).
Câu hỏi đặt ra: “Chiến lược nào là cách đúng để lưu trữ và kích hoạt logging cho các invocation của mô hình Bedrock?”
Chúng ta cần chọn phương án cung cấp cơ chế logging tích hợp sẵn của Amazon Bedrock, cho phép ghi lại chi tiết đầu vào/đầu ra và đẩy chúng tới một đích lưu trữ (S3, CloudWatch Logs, hoặc EventBridge) theo cách an toàn và được hỗ trợ chính thức.
✅ Đáp án đúng: Enable invocation logging in Amazon Bedrock
Giải thích
- Từ tháng 8/2023 (và được duy trì, mở rộng trong các bản cập nhật tới 2026), Amazon Bedrock cung cấp tính năng “Invocation Logging”. Khi bật tính năng này, Bedrock tự động ghi lại prompt, response, model ID, request ID, và metadata cho mỗi lần gọi.
- Các log được gửi tới Amazon CloudWatch Logs hoặc Amazon S3 (được cấu hình trong Bedrock console hoặc qua AWS CLI/SDK).
- Điều này đáp ứng yêu cầu “store invocation logs to monitor model input and output data” mà không cần xây dựng pipeline phức tạp.
- Tài liệu chính thức (AWS Docs, phiên bản 2026) mô tả: “You can enable invocation logging for a model in Bedrock. Logs are delivered to CloudWatch Logs or an S3 bucket you specify.”
🧩 Phân tích các phương án còn lại
1️⃣ Configure AWS CloudTrail as the logs destination for the model.
- CloudTrail chủ yếu ghi lại hoạt động API trên các dịch vụ AWS (ví dụ: tạo, sửa, xóa tài nguyên). Nó không ghi lại payload (dữ liệu đầu vào/đầu ra) của các cuộc gọi tới mô hình AI.
- Do đó, dù CloudTrail có thể cho biết ai đã gọi mô hình và khi nào, nó không cung cấp chi tiết nội dung prompt và response mà câu hỏi yêu cầu.
- Vì vậy, đây không phải là giải pháp phù hợp.
2️⃣ Enable invocation logging in Amazon Bedrock.
- Như đã giải thích ở trên, đây là cách đúng và được hỗ trợ để ghi lại chi tiết invocation logs.
- Khi bật, bạn có thể chọn đích CloudWatch Logs hoặc S3, đáp ứng nhu cầu lưu trữ và phân tích.
3️⃣ Configure AWS Audit Manager as the logs destination for the model.
- AWS Audit Manager là dịch vụ giúp tự động thu thập chứng cứ để đáp ứng các chuẩn tuân thủ (PCI, SOC, ISO, …). Nó không hoạt động như một đích log cho các sự kiện runtime như invocation của mô hình.
- Bạn có thể sử dụng Audit Manager để đánh giá các log đã thu thập (ví dụ: từ CloudWatch hoặc S3), nhưng không phải để định cấu hình việc ghi log. Do đó, không phải là lựa chọn đúng.
4️⃣ Configure model invocation logging in Amazon EventBridge.
- Amazon EventBridge là một bus sự kiện cho phép phát tán, lọc và chuyển tiếp các sự kiện tới nhiều đích (Lambda, SQS, SNS, …).
- Bedrock có thể đẩy các invocation events (không phải payload chi tiết) tới EventBridge, nhưng không hỗ trợ cấu hình “invocation logging” trực tiếp trên EventBridge.
- Để có được prompt và response, bạn vẫn cần CloudWatch Logs hoặc S3; EventBridge chỉ chuyển metadata (ví dụ: request ID). Do vậy, không đáp ứng yêu cầu “store invocation logs to monitor model input and output data”.
🛠️ Cách triển khai thực tế (theo AWS 2026)
- Mở console Amazon Bedrock → Models → Chọn model (hoặc tạo một model custom).
- Trong tab “Logging”, bật “Invocation logging”.
- Chọn đích lưu trữ:
- CloudWatch Logs → tạo log group (ví dụ:
/aws/bedrock/invocations). - Amazon S3 → chỉ định bucket và prefix (ví dụ:
s3://my-bedrock-logs/).
- CloudWatch Logs → tạo log group (ví dụ:
- (Tuỳ chọn) Thiết lập IAM policy cho Bedrock để write vào CloudWatch Logs hoặc S3.
- Kiểm tra log: mỗi bản ghi sẽ chứa
modelId,requestId,prompt,response,timestamp, vàmetadata.
Lưu ý bảo mật: Đảm bảo encryption at rest (S3 SSE‑KMS, CloudWatch Logs encryption) và access control (IAM roles, bucket policies) để bảo vệ dữ liệu khách hàng nhạy cảm.
📚 Tham khảo
- AWS Documentation – Amazon Bedrock – Logging (phiên bản 2026): https://docs.aws.amazon.com/bedrock/latest/userguide/invocation-logging.html
- AWS Blog – Introducing Invocation Logging for Bedrock Models (2023, cập nhật 2025): https://aws.amazon.com/blogs/aws/amazon-bedrock-invocation-logging/
- AWS Security Best Practices – Protecting AI/ML Data (2024): https://docs.aws.amazon.com/security/latest/best-practices/ai-ml-data-protection.html
Tóm lại: Để lưu trữ và giám sát chi tiết invocation logs (đầu vào và đầu ra) của mô hình Amazon Bedrock, cách đúng là bật tính năng “Enable invocation logging in Amazon Bedrock” và định hướng log tới CloudWatch Logs hoặc Amazon S3. Các lựa chọn khác (CloudTrail, Audit Manager, EventBridge) không cung cấp khả năng ghi chi tiết payload và vì thế không đáp ứng yêu cầu đề bài. ✅
Which Amazon SageMaker inference option will meet these requirements?
- A Batch transform
- B Real-time inference
- C Serverless inference
- D Asynchronous inference
Xem giải thích
📖 Giải thích nội dung câu hỏi
Công ty muốn xây dựng một mô hình Machine Learning để phân tích dữ liệu lưu trữ (archived data).
- Dữ liệu cần dự đoán rất lớn, tới hàng GB.
- Công ty không yêu cầu nhận kết quả ngay lập tức (không cần latency thấp).
Yêu cầu này gợi ý chúng ta cần một phương thức inference dạng batch/off‑line, cho phép đưa một khối lượng dữ liệu lớn vào và lưu kết quả ra Amazon S3 mà không cần duy trì một endpoint luôn bật.
✅ Đáp án đúng
🔹 Batch Transform
Batch Transform là dịch vụ của Amazon SageMaker cho phép chạy inference trên tập dữ liệu lớn được lưu trữ trong S3.
- Không cần endpoint luôn chạy → chi phí chỉ phát sinh khi công việc thực thi.
- Hỗ trợ dữ liệu lên tới terabytes; SageMaker sẽ tự động phân chia công việc thành các job và thực thi trên các instance phù hợp.
- Kết quả được ghi lại vào S3, phù hợp với yêu cầu “không cần truy cập dự đoán ngay lập tức”.
Do đó, Batch Transform đáp ứng đầy đủ cả hai tiêu chí: dữ liệu lớn và không cần trả lời thời gian thực.
❌ Giải thích các phương án sai
1️⃣ Real-time inference
- Mô tả: Triển khai một endpoint luôn bật, nhận yêu cầu và trả về dự đoán trong mili giây – giây.
- Tại sao sai:
- Thiết kế cho độ trễ thấp, không phù hợp với khối lượng dữ liệu GBs vì mỗi request thường chỉ chứa một mẫu (hoặc vài mẫu).
- Cần duy trì instance liên tục → chi phí cao khi chỉ thực hiện inference một lần cho một dataset lớn.
- Không hỗ trợ ingest dữ liệu batch từ S3 trực tiếp.
2️⃣ Serverless inference
- Mô tả: Kiểu endpoint “pay‑as‑you‑go” không cần quản lý instance; tự động mở/đóng dựa trên lưu lượng.
- Tại sao sai:
- Cũng là inference thời gian thực (latency dưới vài giây).
- Giới hạn kích thước payload tối đa 10 MB (request) và 5 MB (response) (theo tài liệu 2026), nên không thể xử lý dữ liệu GBs trong một request.
- Không phù hợp cho công việc batch/off‑line.
3️⃣ Asynchronous inference
- Mô tả: Endpoint nhận request lớn, trả về URL để lấy kết quả sau; phù hợp cho workload có độ trễ chấp nhận được.
- Tại sao sai (đối với yêu cầu này):
- Hỗ trợ payload lên tới 100 MB (đã tăng so với real‑time nhưng vẫn còn xa so với “multiple GB”).
- Vẫn dựa trên endpoint và tính phí theo thời gian hoạt động của endpoint, không tối ưu cho việc xử lý tập tin GBs toàn bộ một lần.
- Khi muốn dự đoán trên tổng dataset hàng GB, cách tiếp cận chuẩn vẫn là Batch Transform.
📚 Tham khảo tài liệu (AWS, cập nhật tới 2026)
- Amazon SageMaker Batch Transform – https://docs.aws.amazon.com/sagemaker/latest/dg/batch-transform.html
- Real‑time Inference – https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints.html
- Serverless Inference – https://docs.aws.amazon.com/sagemaker/latest/dg/serverless-inference.html
- Asynchronous Inference – https://docs.aws.amazon.com/sagemaker/latest/dg/async-inference.html
🧩 Tóm tắt nhanh
- ✅ Batch Transform – ✅ Phù hợp với dữ liệu GBs, không cần latency, chi phí chỉ khi job chạy.
- ❌ Real‑time inference – ❌ Thiết kế cho latency thấp, không xử lý batch lớn.
- ❌ Serverless inference – ❌ Giới hạn kích thước request, vẫn thời gian thực.
- ❌ Asynchronous inference – ❌ Hạn chế kích thước payload (100 MB) và vẫn yêu cầu endpoint.
Với yêu cầu “phân tích dữ liệu archive nhiều GB, không cần kết quả ngay lập tức”, Batch Transform là lựa chọn đúng nhất. 🚀
- A Embeddings
- B Tokens
- C Models
- D Binaries
Xem giải thích
🔎 Phân tích câu hỏi
Câu hỏi: “Which term describes the numerical representations of real‑world objects and concepts that AI and natural language processing (NLP) models use to improve understanding of textual information?”
Câu hỏi đang hỏi về cách mà các mô hình AI/NLP chuyển đổi các đối tượng, khái niệm, từ ngữ trong thế giới thực thành dạng số (vector) để mô hình có thể “hiểu” và thực hiện các phép tính như so sánh, phân loại, tìm kiếm… Đây là khái niệm nền tảng trong mọi hệ thống xử lý ngôn ngữ hiện đại, bao gồm Amazon SageMaker, Amazon Bedrock (Claude, Titan, Llama 2…) và các dịch vụ AI khác của AWS.
✅ Đáp án đúng
Embeddings
Lý do:
- Embeddings là các vector số (thường là chiều cao 100‑2048) biểu diễn một từ, câu, đoạn văn hoặc thậm chí một thực thể (như hình ảnh, video) trong không gian đa chiều.
- Các vector này được “học” trong quá trình huấn luyện mô hình ngôn ngữ (BERT, GPT, T5, …) và cho phép mô hình đo độ tương đồng, thực hiện phép cộng/trừ vector để suy luận (ví dụ: “king – man + woman ≈ queen”).
- Trong AWS, Amazon SageMaker cung cấp Feature Store và Embedding Jobs để tạo và lưu trữ embeddings; Amazon Bedrock cũng cho phép truy vấn embeddings qua API InvokeModel với tham số
outputEmbedding.
Do đó, “numerical representations of real‑world objects and concepts” chính là Embeddings.
❌ Giải thích các phương án sai
-
Tokens
- Tokens là đơn vị ngữ pháp cơ bản (các từ, sub‑word, ký tự) mà mô hình NLP nhận vào. Chúng là đầu vào của mô hình, không phải là biểu diễn số học.
- Ví dụ: trong câu “ChatGPT is amazing”, tokenization có thể tạo ra các token:
["Chat", "G", "PT", " is", " amazing"]. - Mặc dù token cuối cùng sẽ được ánh xạ sang một vector embedding, token tự nó không phải là “numerical representation”.
-
Models
- Models (mô hình) là kiến trúc và trọng số được huấn luyện để thực hiện các nhiệm vụ như phân loại, sinh văn bản, dịch máy… Chúng sử dụng embeddings làm một trong nhiều thành phần, nhưng không phải là “các biểu diễn số của đối tượng”.
- Ví dụ: GPT‑4, Llama 2, BERT là các models; chúng chứa nhiều lớp transformer, attention, và các vector embedding nội bộ.
-
Binaries
- Binaries (tệp nhị phân) là định dạng lưu trữ của phần mềm, dữ liệu đã được biên dịch thành dạng máy đọc được (ví dụ:
.exe,.zip). Trong ngữ cảnh AI/NLP, “binaries” không mô tả cách biểu diễn khái niệm hay thực thể dưới dạng số. - Trong AWS, “binaries” có thể là container images hoặc Lambda deployment packages, nhưng không liên quan tới việc biểu diễn ngữ nghĩa của từ ngữ.
- Binaries (tệp nhị phân) là định dạng lưu trữ của phần mềm, dữ liệu đã được biên dịch thành dạng máy đọc được (ví dụ:
📚 Tham khảo (tính đến 2026)
- Amazon SageMaker Documentation – Feature Store & Embedding Jobs
https://docs.aws.amazon.com/sagemaker/latest/dg/feature-store.html - Amazon Bedrock API – outputEmbedding
https://docs.aws.amazon.com/bedrock/latest/userguide/bedrock-api.html#bedrock-invoke-model - AWS Machine Learning Blog – “Understanding Embeddings in Large Language Models” (2024)
https://aws.amazon.com/blogs/machine-learning/understanding-embeddings-llms/ - “Deep Learning” – Goodfellow, Bengio & Courville, 2023 (2nd edition) – Chương 12 về đại diện vector (embeddings).
🧩 Tóm tắt nhanh
- Embeddings ✅ – là các vector số biểu diễn khái niệm, đối tượng thực tế, giúp mô hình NLP “hiểu” ngôn ngữ.
- Tokens ❌ – chỉ là các đơn vị ngôn ngữ (chuỗi ký tự) đầu vào.
- Models ❌ – là kiến trúc và trọng số, không phải là biểu diễn số.
- Binaries ❌ – là tệp thực thi/định dạng lưu trữ, không liên quan tới biểu diễn ngữ nghĩa.
Hy vọng giải thích trên đã giúp bạn nắm rõ khái niệm và lựa chọn đáp án đúng! 🚀🛠️
After multiple prompt engineering attempts, the company notices that the FM is performing poorly because of the complex scientific terms in the research papers.
How can the company improve the performance of the chatbot?
- A Use few-shot prompting to define how the FM can answer the questions.
- B Use domain adaptation fine-tuning to adapt the FM to complex scientific terms.
- C Change the FM inference parameters.
- D Clean the research paper data to remove complex scientific terms.
Xem giải thích
🔎 Phân tích câu hỏi
Công ty nghiên cứu đã xây dựng một chatbot dựa trên foundation model (FM) của Amazon Bedrock.
Chatbot cần truy vấn một cơ sở dữ liệu khổng lồ gồm các bài báo khoa học và trả lời các câu hỏi của người dùng.
Sau khi thử nghiệm nhiều prompt engineering nhưng mô hình vẫn “đánh rơi” (poor performance) do các thuật ngữ khoa học phức tạp trong tài liệu nguồn.
Vấn đề cốt lõi: FM chưa được “hiểu” đủ ngôn ngữ chuyên ngành → cần một phương pháp giúp mô hình nắm bắt ngữ cảnh và thuật ngữ chuyên môn hơn.
✅ Đáp án đúng
👉 Use domain adaptation fine‑tuning to adapt the FM to complex scientific terms.
Giải thích:
- Domain adaptation fine‑tuning (còn gọi là continuous fine‑tuning hoặc custom model trong Bedrock) cho phép bạn đào tạo lại mô hình gốc bằng cách đưa vào một tập dữ liệu chuyên ngành (ở đây là các bài báo khoa học).
- Quá trình này giúp mô hình học các token, biểu thức, và mối quan hệ đặc thù của lĩnh vực, giảm thiểu hiện tượng “hallucination” và cải thiện độ chính xác khi trả lời các câu hỏi phức tạp.
- Từ 2024‑2026, Amazon Bedrock đã cung cấp custom fine‑tuning cho các mô hình như Titan, Claude, Llama‑2,... và hỗ trợ định dạng dữ liệu S3, CSV/JSONL, và Amazon SageMaker Data Wrangler để thực hiện domain‑specific fine‑tuning.
- Khi sử dụng Fine‑tuning on a domain‑specific corpus, chatbot sẽ có embedding và knowledge representation tốt hơn, vì nó đã “đọc” và “hiểu” ngôn ngữ khoa học trước khi trả lời.
🧩 Phân tích các phương án khác (đúng / sai)
1. Use few-shot prompting to define how the FM can answer the questions. (đánh dấu SAI)
- Few‑shot prompting chỉ cung cấp một vài ví dụ trong prompt để hướng mô hình cách trả lời.
- Khi vấn đề là thiếu kiến thức chuyên ngành, việc chỉ đưa vài ví dụ không đủ để bổ sung toàn bộ từ vựng và ngữ nghĩa của các thuật ngữ khoa học.
- Với Bedrock, few‑shot có thể cải thiện nhẹ nhưng không thay thế được việc fine‑tune trên toàn bộ corpus.
- Do đó, đây không phải giải pháp tối ưu cho “complex scientific terms”.
2. Change the FM inference parameters. (đánh dấu SAI)
- Các inference parameters (temperature, top‑p, max‑tokens, etc.) ảnh hưởng tới độ ngẫu nhiên, độ dài, và tính đa dạng của đầu ra, không thay đổi hiểu biết ngôn ngữ của mô hình.
- Khi mô hình không “biết” các thuật ngữ, việc điều chỉnh temperature hay top‑p không thể tạo ra kiến thức mới.
- Vì câu hỏi yêu cầu cải thiện kiến thức chuyên ngành, thay đổi tham số inference không giải quyết gốc rễ vấn đề.
3. Clean the research paper data to remove complex scientific terms. (đánh dấu SAI)
- Việc loại bỏ các thuật ngữ phức tạp sẽ giảm độ phong phú và gián đoạn nội dung của tài liệu gốc.
- Chatbot sẽ mất đi khả năng trả lời các câu hỏi chuyên sâu, vì các khái niệm quan trọng đã bị xóa bỏ.
- Thay vì xóa thông tin, chúng ta nên giữ nguyên và giúp mô hình học chúng thông qua fine‑tuning.
📚 Tham khảo tài liệu (đến 2026)
- Amazon Bedrock Developer Guide – Custom Model Fine‑Tuning
https://docs.aws.amazon.com/bedrock/latest/userguide/custom-models.html - AWS Blog – “Fine‑tuning foundation models on Bedrock for domain‑specific use cases” (2024‑2025 updates)
https://aws.amazon.com/blogs/ai/fine-tuning-foundation-models-bedrock/ - Amazon SageMaker Documentation – Data Wrangler & Training Jobs for Large Text Corpora
https://docs.aws.amazon.com/sagemaker/latest/dg/data-wrangler.html - AWS Well‑Architected Framework – Machine Learning Pillar (2025 edition)
https://aws.amazon.com/architecture/well-architected/ml-pillar/
🛠️ Kết luận nhanh
- ✅ Đáp án đúng: Use domain adaptation fine‑tuning to adapt the FM to complex scientific terms.
- ❌ Các phương án còn lại (few‑shot prompting, thay đổi inference parameters, hoặc làm sạch dữ liệu) không giải quyết vấn đề thiếu kiến thức chuyên ngành và do đó không phù hợp.
Bằng cách fine‑tune mô hình trên một bộ dữ liệu chứa đầy đủ các thuật ngữ khoa học, công ty sẽ nâng cao đáng kể độ chính xác và độ tin cậy của chatbot khi xử lý các truy vấn phức tạp. 🚀
Which adjustment to an inference parameter should the company make to meet these requirements?
- A Decrease the temperature value.
- B Increase the temperature value.
- C Decrease the length of output tokens.
- D Increase the maximum generation length.
Xem giải thích
📌 Phân tích câu hỏi
Công ty muốn dùng large language model (LLM) trên Amazon Bedrock để thực hiện phân tích cảm xúc. Yêu cầu quan trọng là cùng một prompt phải cho ra các phản hồi nhất quán, nghĩa là khi gửi cùng một câu hỏi/đầu vào nhiều lần, kết quả đầu ra không được dao động, không xuất hiện các biến thể ngẫu nhiên.
Trong các mô hình ngôn ngữ sinh (LLM), tính nhất quán của đầu ra phụ thuộc vào các tham số inference (các tham số được thiết lập khi gọi API sinh). Một trong những tham số quyết định mức độ “ngẫu nhiên” là temperature. Temperature càng cao → độ ngẫu nhiên (khả năng tạo ra các câu trả lời khác nhau) càng lớn; temperature thấp → mô hình ưu tiên các token có xác suất cao nhất, do đó trả lời càng “định hướng” và ổn định.
Vì vậy, để đảm bảo phản hồi đồng nhất cho cùng một đầu vào, cần giảm temperature.
✅ Đáp án đúng
- Decrease the temperature value.
🔎 Giải thích:
- Khi temperature được hạ xuống (ví dụ: từ 0.7 → 0.2 hoặc thậm chí 0), mô hình sẽ chọn token có xác suất cao nhất ở mỗi bước tạo, giảm thiểu việc “bốc ngẫu nhiên” các token ít khả năng. Kết quả là các lần inference với cùng một prompt sẽ cho ra các câu trả lời gần như giống hệt nhau, đáp ứng yêu cầu về tính nhất quán.
- Amazon Bedrock hỗ trợ việc điều chỉnh
temperaturetrong payload của APIInvokeModel. Theo tài liệu mới nhất (2026), giá trị temperature có thể nằm trong khoảng 0.0 – 1.0; giá trị 0.0 là “deterministic” (đầy đủ quyết định) và thường được dùng cho các tác vụ yêu cầu độ ổn định cao như sentiment analysis, classification, hoặc question‑answering.
❌ Các phương án sai và lý do
-
Increase the temperature value.
- Giải thích: Tăng temperature (ví dụ 0.2 → 0.8) sẽ tăng độ ngẫu nhiên của mô hình, khiến nó có xu hướng tạo ra các biến thể đa dạng hơn, thậm chí có thể đưa ra các phản hồi không đồng nhất cho cùng một prompt. Điều này đối nghịch với yêu cầu “cùng một input phải cho ra cùng một output”.
-
Decrease the length of output tokens.
- Giải thích: Giảm độ dài (max tokens) chỉ ảnh hưởng tới số lượng token mà mô hình được phép sinh ra, không kiểm soát được độ ngẫu nhiên trong quá trình lựa chọn token. Một câu ngắn hơn vẫn có thể biến đổi đáng kể về nội dung nếu temperature cao, nên không giải quyết vấn đề nhất quán.
-
Increase the maximum generation length.
- Giải thích: Tăng giới hạn độ dài tối đa chỉ cho phép mô hình sinh thêm nhiều token hơn, nhưng không ảnh hưởng tới cách lựa chọn token (độ ngẫu nhiên). Thậm chí, khi độ dài tăng lên, khả năng xuất hiện các biến thể không mong muốn còn cao hơn nếu temperature không được điều chỉnh. Vì vậy, tùy chọn này không đáp ứng yêu cầu đồng nhất.
🛠️ Tham khảo tài liệu (2026)
- Amazon Bedrock Developer Guide – Inference Parameters (v2026.03).
- Mô tả chi tiết về
temperature,maxTokens,topP,topKvà cách chúng ảnh hưởng tới kết quả sinh.
- Mô tả chi tiết về
- AWS re:Invent 2025 – Best Practices for Prompt Engineering on Bedrock.
- Giới thiệu chiến lược giảm temperature để đạt tính nhất quán trong các tác vụ classification và sentiment analysis.
- AWS Blog – “Deterministic outputs with LLMs on Bedrock” (Jan 2026).
- Ví dụ thực tế về việc đặt
temperature = 0để thu được output ổn định cho các pipeline NLP.
- Ví dụ thực tế về việc đặt
📌 Kết luận nhanh
- Để đạt tính nhất quán trong phản hồi của LLM trên Amazon Bedrock, giảm giá trị temperature là cách đúng nhất.
- Các tham số khác như độ dài output hoặc max generation length không kiểm soát độ ngẫu nhiên, vì vậy chúng không giải quyết vấn đề yêu cầu.
💡 Mẹo thực tiễn: Khi triển khai pipeline sentiment analysis trên Bedrock, thường đặt temperature = 0.0 và maxTokens đủ để bao phủ độ dài câu trả lời mong muốn (ví dụ 128 token). Điều này giúp giảm chi phí và tăng độ ổn định của hệ thống.
Which solution will meet these requirements?
- A Create an Amazon Bedrock custom service role for each team that has access to only the team's customer data.
- B Create a custom service role that has Amazon S3 access. Ask teams to specify the customer name on each Amazon Bedrock request.
- C Redact personal data in Amazon S3. Update the S3 bucket policy to allow team access to customer data.
- D Create one Amazon Bedrock role that has full Amazon S3 access. Create IAM roles for each team that have access to only each team's customer folders.
Xem giải thích
🔎 Phân tích câu hỏi
- Mục tiêu: Công ty muốn xây dựng một ứng dụng Large Language Model (LLM) trên Amazon Bedrock và dữ liệu của khách hàng được lưu trong Amazon S3.
- Ràng buộc bảo mật: Mỗi nhóm (team) chỉ được phép truy cập dữ liệu của riêng mình – tức là dữ liệu của các khách hàng thuộc nhóm đó.
- Yêu cầu giải pháp: Cần một cách cấu hình sao cho Bedrock khi gọi mô hình sẽ chỉ có quyền đọc/ghi vào những vị trí S3 được phép cho từng nhóm, đồng thời không cho phép nhóm khác truy cập.
✅ Đáp án đúng
Create an Amazon Bedrock custom service role for each team that has access to only the team's customer data.
Vì sao đáp án này là đúng?
- Custom service role là một IAM role mà Amazon Bedrock assume khi thực hiện các request tới model.
- Mỗi role có thể được gán policy chi tiết, ví dụ chỉ cho phép
s3:GetObject/s3:PutObjecttrên một prefix (thư mục) cụ thể của bucket, ví dụarn:aws:s3:::company-data/teamA/*. - Khi mỗi team sử dụng Bedrock, họ sẽ cấu hình service role ARN tương ứng; Bedrock sẽ thực hiện các thao tác S3 với quyền của role đó, do đó không có cách nào một team có thể truy cập dữ liệu của team khác.
- Kiến trúc này tuân thủ nguyên tắc least privilege và separation of duties – mỗi role chỉ chứa những quyền cần thiết cho team tương ứng.
Tham khảo:
- AWS Documentation – Amazon Bedrock – Using custom service roles (cập nhật 2025).
- AWS IAM Best Practices – Grant least privilege (2024).
❌ Giải thích các phương án sai
-
Create a custom service role that has Amazon S3 access. Ask teams to specify the customer name on each Amazon Bedrock request.
- Lý do sai: Role này có quyền truy cập S3 toàn bộ (hoặc ít nhất là rộng hơn mức cần thiết). Việc “yêu cầu team chỉ định tên khách hàng” chỉ là đánh dấu dữ liệu ở tầng ứng dụng, không có cơ chế kiểm soát ở mức IAM. Một team có thể dễ dàng thay đổi hoặc bỏ qua tham số này, dẫn đến rủi ro truy cập trái phép.
- Không đáp ứng nguyên tắc least privilege và không bảo vệ dữ liệu ở cấp độ hạ tầng.
-
Redact personal data in Amazon S3. Update the S3 bucket policy to allow team access to customer data.
- Lý do sai: Việc redact (xóa) dữ liệu cá nhân không giải quyết vấn đề phân quyền. Thay vào đó, bucket policy được áp dụng cho toàn bộ bucket hoặc cho các prefix chung, nhưng không liên quan tới Bedrock service role. Khi Bedrock thực thi, nó vẫn sẽ sử dụng một role duy nhất (hoặc không có) và có thể được cấp quyền rộng, gây vi phạm chính sách “mỗi team chỉ được truy cập dữ liệu của mình”.
- Cách này còn tốn công vì phải thực hiện quá trình redaction, không phải là giải pháp an toàn và hiệu quả nhất.
-
Create one Amazon Bedrock role that has full Amazon S3 access. Create IAM roles for each team that have access to only each team's customer folders.
- Lý do sai: Khi Bedrock thực hiện một request, nó chỉ sử dụng role mà bạn cung cấp trong custom service role (hoặc role mặc định). Các IAM role “cho từng team” không được Bedrock assume; chúng chỉ có tác dụng khi người dùng IAM (nhân viên) trực tiếp gọi AWS CLI/SDK. Vì vậy, việc tạo một role Bedrock có quyền toàn bộ S3 sẽ cho phép mọi team truy cập mọi dữ liệu, bất chấp các IAM role riêng.
- Không đáp ứng yêu cầu “each team can access data for only the team's own customers”.
🛠️ Cách triển khai thực tế (tóm tắt)
- Tạo bucket S3
company-datavới cấu trúc thư mục:/teamA/ /teamB/ /teamC/
- Định nghĩa IAM policy cho mỗi team (ví dụ Team A):
{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject", "s3:PutObject" ], "Resource": "arn:aws:s3:::company-data/teamA/*" } ] } - Tạo IAM role
BedrockTeamARole- Trust relationship:
service:bedrock.amazonaws.com - Gắn policy ở bước 2.
- Trust relationship:
- Cấu hình Bedrock: Khi Team A gọi model, truyền
customServiceRoleArn = arn:aws:iam::<account-id>:role/BedrockTeamARole. - Kiểm tra: Thử truy cập dữ liệu của Team B bằng role của Team A → bị từ chối (
AccessDenied).
📚 Tham khảo tài liệu
- Amazon Bedrock Developer Guide – Custom service roles (phiên bản 2025‑09).
- AWS Identity and Access Management User Guide – Using resource‑based policies and condition keys (2024).
- AWS Security Blog – Enforcing least‑privilege access for generative AI workloads (2025).
Tổng kết
- ✅ Đáp án đúng: “Create an Amazon Bedrock custom service role for each team that has access to only the team's customer data.”
- ❌ Các đáp án còn lại không đáp ứng được yêu cầu phân quyền tối thiểu, hoặc không liên quan tới cách Bedrock thực hiện việc assume role.
Hy vọng phần phân tích chi tiết trên giúp bạn nắm vững cách thiết kế kiến trúc an toàn cho ứng dụng LLM trên Amazon Bedrock! 🚀✨
Which solution meets these requirements?
- A Use Amazon Macie to scan the model's output for sensitive data and set up alerts for potential violations.
- B Configure AWS CloudTrail to monitor the model's responses and create alerts for any detected personal information.
- C Use Guardrails for Amazon Bedrock to filter content. Set up Amazon CloudWatch alarms for notification of policy violations.
- D Implement Amazon SageMaker Model Monitor to detect data drift and receive alerts when model quality degrades.
Xem giải thích
🔎 Phân tích câu hỏi
Công ty y tế đã triển khai mô hình phát hiện bệnh trên Amazon Bedrock.
Yêu cầu của công ty:
- Ngăn chặn mô hình đưa thông tin cá nhân của bệnh nhân (PII) vào trong câu trả lời.
- Nhận thông báo khi có vi phạm chính sách (có PII xuất hiện).
Vì vậy cần một cơ chế lọc nội dung ngay tại thời điểm mô hình sinh ra đáp án và một cách để đẩy cảnh báo tới bộ phận quản trị hoặc hệ thống giám sát.
✅ Đáp án đúng
“Use Guardrails for Amazon Bedrock to filter content. Set up Amazon CloudWatch alarms for notification of policy violations.”
Vì sao đáp án này đúng?
- Guardrails (rào chắn) của Amazon Bedrock là tính năng được ra mắt và cập nhật liên tục đến năm 2026, cho phép định nghĩa và áp dụng các quy tắc lọc nội dung (ví dụ: chặn PII, PHI, dữ liệu nhạy cảm). Guardrails hoạt động ở lớp inference, nghĩa là mọi phản hồi từ mô hình sẽ được kiểm tra trước khi trả về cho người dùng.
- Khi một phản hồi vi phạm quy tắc, Guardrails gửi sự kiện tới Amazon CloudWatch Events (hoặc EventBridge). Từ đây bạn có thể tạo CloudWatch Alarms hoặc SNS notifications để cảnh báo ngay lập tức.
- Giải pháp này đáp ứng cả hai yêu cầu: ngăn chặn PII và thông báo khi vi phạm xảy ra, mà không cần thay đổi mã nguồn mô hình hay triển khai giải pháp bên ngoài phức tạp.
❌ Giải thích các phương án sai
1. “Use Amazon Macie to scan the model's output for sensitive data and set up alerts for potential violations.”
- Macie chủ yếu được thiết kế để phát hiện và bảo vệ dữ liệu nhạy cảm trong Amazon S3, dựa trên phân tích nội dung tĩnh của file.
- Nó không tích hợp trực tiếp với luồng phản hồi thời gian thực của Amazon Bedrock, nên không thể lọc ngay khi mô hình trả về.
- Việc “scan” đầu ra của mô hình bằng Macie sẽ yêu cầu lưu trữ tạm thời vào S3 → gây độ trễ và không đáp ứng yêu cầu ngăn chặn PII trước khi người dùng nhận được.
- Do đó, giải pháp này không phù hợp với yêu cầu thời gian thực và khả năng cảnh báo nhanh chóng.
2. “Configure AWS CloudTrail to monitor the model's responses and create alerts for any detected personal information.”
- AWS CloudTrail ghi lại các sự kiện API (như gọi
InvokeModel), không phải nội dung trả về của mô hình. - CloudTrail không có khả năng phân tích nội dung (PII) trong payload. Bạn chỉ biết rằng một lệnh gọi đã được thực hiện, nhưng không biết gì về dữ liệu trả về.
- Vì thế, không thể phát hiện hay lọc PII từ phản hồi, và không thể tạo alert dựa trên nội dung vi phạm.
3. “Implement Amazon SageMaker Model Monitor to detect data drift and receive alerts when model quality degrades.”
- SageMaker Model Monitor là công cụ giám sát chất lượng mô hình (data drift, feature drift, prediction drift) trong môi trường SageMaker.
- Nó không được thiết kế để phân tích nội dung phản hồi và không hỗ trợ Amazon Bedrock.
- Mục tiêu của Model Monitor là phát hiện giảm hiệu năng chứ không phải phát hiện PII trong output.
- Do vậy, giải pháp này không đáp ứng yêu cầu lọc nội dung và cảnh báo vi phạm chính sách.
🛠️ Cách triển khai giải pháp đúng (Guardrails + CloudWatch)
-
Tạo Guardrail
- Truy cập Amazon Bedrock Console → Guardrails → Create guardrail.
- Chọn Content filtering → bật PII/PHI detection (sử dụng các mẫu rule có sẵn hoặc tùy chỉnh).
- Gán guardrail này cho model invocation (ví dụ:
amazon.titan-text-v2).
-
Kết nối Guardrail với CloudWatch Events
- Guardrails tự động phát sinh EventBridge events khi có vi phạm (
GuardrailViolation). - Tạo Rule trong EventBridge → Target là CloudWatch Alarm hoặc SNS topic để gửi email/SMS.
- Guardrails tự động phát sinh EventBridge events khi có vi phạm (
-
Cấu hình CloudWatch Alarm
- Đặt threshold (ví dụ:
≥ 1 violation trong 5 phút). - Khi alarm bật, SNS sẽ gửi thông báo tới nhóm bảo mật hoặc hệ thống SIEM.
- Đặt threshold (ví dụ:
-
Kiểm thử
- Gửi yêu cầu có chứa thông tin cá nhân (ví dụ: “Tên bệnh nhân: Nguyễn Văn A, tuổi 45”) tới mô hình.
- Guardrail sẽ chặn và trả về message như “Your request contains disallowed content.” và một event sẽ được đẩy tới CloudWatch → trigger alarm.
📚 Tham khảo tài liệu (2026)
- Amazon Bedrock Developer Guide – Guardrails
https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html - Amazon CloudWatch Alarms
https://docs.aws.amazon.com/cloudwatch/latest/monitoring/AlarmThatSendsEmail.html - AWS Blog – Introducing Guardrails for Amazon Bedrock (2024‑2025 updates)
https://aws.amazon.com/blogs/machine-learning/guardrails-amazon-bedrock/
🏁 Tổng kết
- ✅ Đáp án đúng: Use Guardrails for Amazon Bedrock to filter content. Set up Amazon CloudWatch alarms for notification of policy violations.
- ❌ Các phương án còn lại không đáp ứng được yêu cầu lọc PII trong thời gian thực và cảnh báo vi phạm vì chúng either không hỗ trợ Bedrock, không phân tích nội dung, hoặc không liên quan đến việc giám sát nội dung trả về.
Hy vọng phân tích trên giúp bạn nắm rõ lý do lựa chọn đáp án và cách triển khai thực tế trên AWS! 🚀
Which AWS service meets this requirement?
- A Amazon Textract
- B Amazon Personalize
- C Amazon Lex
- D Amazon Transcribe
Xem giải thích
🧐 Phân tích nội dung câu hỏi
Công ty hiện đang đọc thủ công các hồ sơ ứng tuyển được gửi dưới dạng PDF. Khi khối lượng hồ sơ tăng lên, họ không còn đủ khả năng kiểm tra thủ công nữa, vì vậy cần một hệ thống tự động để:
- Lấy nội dung văn bản từ các file PDF (có thể là PDF dạng ảnh – cần OCR).
- Chuyển đổi nội dung này thành plain‑text để các quy trình xử lý tiếp theo (ví dụ: phân loại, tìm kiếm, phân tích…) có thể làm việc.
Do đó, câu hỏi đang hỏi “dịch vụ AWS nào đáp ứng yêu cầu chuyển đổi PDF → plain‑text?”.
✅ Đáp án đúng: Amazon Textract
- Amazon Textract là dịch vụ trích xuất văn bản, dữ liệu có cấu trúc và siêu dữ liệu từ tài liệu (PDF, hình ảnh, scan).
- Nó thực hiện OCR tự động, nhận dạng cả văn bản tự do và bảng, biểu mẫu, trả về kết quả dưới dạng JSON hoặc plain‑text.
- Được thiết kế để xử lý hàng nghìn tài liệu mỗi ngày, phù hợp với nhu cầu mở rộng quy mô của công ty.
- Tài liệu tham khảo (AWS, 2024‑2026): Amazon Textract Developer Guide – “Extract text from PDFs and scanned documents”.
❌ Các phương án còn lại (tại sao lại sai)
-
Amazon Personalize
- Mô tả: Dịch vụ tạo hệ thống gợi ý (recommendation) dựa trên machine learning, dùng cho việc đề xuất sản phẩm, nội dung, …
- Lý do sai: Không liên quan tới việc trích xuất văn bản từ file PDF. Nó không thực hiện OCR hay chuyển đổi tài liệu.
-
Amazon Lex
- Mô tả: Dịch vụ xây dựng chatbot và trợ lý ảo dựa trên NLP, hỗ trợ nhận diện giọng nói và văn bản.
- Lý do sai: Chỉ xử lý đầu vào dạng văn bản/giọng nói đã có sẵn, không có khả năng đọc PDF hay thực hiện OCR.
-
Amazon Transcribe
- Mô tả: Dịch vụ chuyển đổi giọng nói thành văn bản (speech‑to‑text) cho audio/video.
- Lý do sai: Không liên quan tới tài liệu PDF; chỉ làm việc với luồng âm thanh, không có chức năng OCR.
🛠️ Gợi ý triển khai thực tế (không bắt buộc trong đề)
- Sử dụng Amazon Textract để trích xuất nội dung từ PDF → nhận được plain‑text hoặc JSON.
- Kết hợp với AWS Lambda để tự động chuyển dữ liệu đã trích xuất sang Amazon S3 hoặc Amazon DynamoDB cho các bước xử lý tiếp theo (phân loại, tìm kiếm).
- Nếu cần phân tích ngôn ngữ sâu hơn, có thể đưa kết quả tới Amazon Comprehend để thực hiện nhận dạng thực thể, phân loại, sentiment.
📚 Tham khảo
- Amazon Textract Documentation – “Detecting Text in PDFs and Images” (AWS Documentation, phiên bản cập nhật 2026).
- AWS Well‑Architected Framework – Operational Excellence: khuyến cáo sử dụng dịch vụ quản lý (Textract) để giảm tải công việc thủ công.
- AWS re:Invent 2025 Session “Advances in Document Understanding with Amazon Textract”.
Kết luận: Để tự động chuyển đổi hồ sơ PDF thành plain‑text, dịch vụ Amazon Textract là lựa chọn phù hợp nhất. Các dịch vụ khác (Personalize, Lex, Transcribe) không cung cấp chức năng OCR và do đó không đáp ứng yêu cầu của câu hỏi. 🚀
Which solution meets these requirements with the LEAST implementation effort?
- A Fine-tune the model by using additional training data that is representative of the various age ranges that the application will support.
- B Add a role description to the prompt context that instructs the model of the age range that the response should target.
- C Use chain-of-thought reasoning to deduce the correct style and complexity for a response suitable for that user.
- D Summarize the response text depending on the age of the user so that younger users receive shorter responses.
Xem giải thích
🧩 Phân tích câu hỏi
Một nhà cung cấp dịch vụ giáo dục đang xây dựng một ứng dụng hỏi‑đáp dùng mô hình AI sinh ra (generative AI) để giải thích các khái niệm phức tạp.
Yêu cầu: tự động thay đổi “phong cách” (độ phức tạp, ngôn ngữ, cách diễn đạt) của câu trả lời dựa trên độ tuổi của người hỏi. Ứng dụng sẽ truyền vào mô hình độ tuổi (age range) của người dùng.
Câu hỏi: “Giải pháp nào đáp ứng yêu cầu trên với nỗ lực triển khai ít nhất?”
✅ Đáp án đúng
Add a role description to the prompt context that instructs the model of the age range that the response should target.
Tại sao đây là đáp án đúng?
- Prompt engineering (thêm mô tả vai trò hoặc hệ thống tin nhắn) là cách nhanh nhất để “hướng dẫn” mô hình về ngữ cảnh, tone, và độ phức tạp mà không cần thay đổi mô hình gốc.
- Với Amazon Bedrock hoặc Amazon SageMaker JumpStart bạn chỉ cần chèn một system‑message như:
You are a tutor for children aged 8‑10. Explain the concept in simple, friendly language. - Việc này chỉ yêu cầu thay đổi một đoạn mã trong hàm gọi API, không cần đào tạo lại mô hình, không cần lưu trữ dữ liệu huấn luyện bổ sung, và không cần xây dựng chuỗi logic phức tạp.
- Độ tuổi được truyền dưới dạng parameter vào prompt, nên mỗi yêu cầu đều có thể tùy biến ngay lập tức.
- Theo tài liệu AWS Bedrock (2026) về prompt‑engineering best practices, việc sử dụng “system messages” để đặt vai trò (role) và “instruction” là cách đề xuất để thay đổi hành vi mô hình một cách nhanh gọn và ít chi phí.
❌ Giải thích các phương án sai
1. Fine‑tune the model by using additional training data that is representative of the various age ranges that the application will support.
- Chi phí & thời gian: Fine‑tuning yêu cầu thu thập, làm sạch, và gắn nhãn dữ liệu cho từng độ tuổi, sau đó chạy công việc huấn luyện trên SageMaker.
- Quy mô: Đối với mỗi độ tuổi (hoặc nhóm tuổi) cần một bộ dữ liệu riêng, gây ra độ phức tạp quản lý và tăng chi phí lưu trữ.
- Lợi ích không tương xứng: Mô hình đã có khả năng “hiểu” chỉ dẫn trong prompt; việc fine‑tune chỉ cần thiết khi muốn thay đổi kiến thức cốt lõi, không phải chỉ thay đổi phong cách.
- Vì vậy, không phải là giải pháp ít nỗ lực.
2. Use chain‑of‑thought reasoning to deduce the correct style and complexity for a response suitable for that user.
- Chain‑of‑thought (CoT) là kỹ thuật khiến mô hình “suy luận từng bước” để cải thiện độ chính xác trong các bài toán logic hoặc toán học.
- Ở đây mục tiêu là điều chỉnh phong cách, không phải đánh giá hay suy luận về câu trả lời.
- Việc thiết kế chuỗi CoT để “định hình” style sẽ làm tăng độ trễ, phức tạp mã và không cần thiết.
- Do đó, đây không phải là cách “ít nỗ lực” nhất.
3. Summarize the response text depending on the age of the user so that younger users receive shorter responses.
- Việc tóm tắt chỉ giảm độ dài, không thay đổi ngôn ngữ, mức độ chi tiết, hay cách giải thích phù hợp với độ tuổi.
- Người dùng trẻ không chỉ cần câu trả lời ngắn hơn mà còn cần ngôn ngữ đơn giản, ví dụ thực tiễn, v.v.
- Thêm vào đó, để “tóm tắt” lại cần một bước xử lý phụ (gọi API tóm tắt), làm tăng độ phức tạp và chi phí mà không đạt mục tiêu thay đổi phong cách.
- Vì vậy, lựa chọn này không đáp ứng yêu cầu và không phải là giải pháp tối thiểu.
📘 Tham khảo tài liệu (đến năm 2026)
-
Amazon Bedrock Documentation – Prompt Engineering
https://docs.aws.amazon.com/bedrock/latest/userguide/prompt-engineering.html- Hướng dẫn cách sử dụng “system” và “user” messages để điều chỉnh tone, style, và độ phức tạp.
-
Amazon SageMaker JumpStart – Using Foundation Models
https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models.html- Giải thích cách truyền tham số tùy chỉnh vào prompt mà không cần fine‑tune.
-
AWS Well‑Architected Framework – Operational Excellence Pillar (2026 Update)
https://aws.amazon.com/architecture/well-architected/- Khuyến cáo giảm thiểu công sức triển khai khi một giải pháp đơn giản (prompt engineering) đáp ứng nhu cầu.
-
“Best Practices for Using Generative AI on AWS” – AWS Whitepaper 2025/2026
https://d1.awsstatic.com/whitepapers/Generative_AI_Best_Practices.pdf- Chú trọng vào “prompt‑level control” như cách nhanh nhất để tùy biến đầu ra.
🔚 Kết luận
Để thay đổi phong cách của mô hình AI dựa trên độ tuổi người dùng với nỗ lực triển khai ít nhất, chỉ cần thêm mô tả vai trò (role description) vào prompt. Các phương án khác (fine‑tuning, chain‑of‑thought, tóm tắt) đều làm tăng chi phí, độ phức tạp, và không thực sự đáp ứng yêu cầu.
✅ Lựa chọn đúng: “Add a role description to the prompt context that instructs the model of the age range that the response should target.”
- A Calculate the total cost of resources used by the model.
- B Measure the model's accuracy against a predefined benchmark dataset.
- C Count the number of layers in the neural network.
- D Assess the color accuracy of images processed by the model.
Xem giải thích
🔍 Phân tích câu hỏi
Câu hỏi hỏi: “Which strategy evaluates the accuracy of a foundation model (FM) that is used in image classification tasks?”
Nói cách khác, chúng ta cần chọn cách tiếp cận nào đánh giá độ chính xác (accuracy) của một mô hình nền tảng (foundation model) khi nó thực hiện phân loại ảnh.
Trong môi trường AWS, việc đo lường độ chính xác thường được thực hiện bằng so sánh kết quả dự đoán của mô hình với một tập dữ liệu chuẩn (benchmark dataset) đã được gán nhãn. Các dịch vụ như Amazon Sage‑Maker Clarify, Sage‑Maker Model Monitor, và Amazon SageMaker JumpStart đều cung cấp cơ chế thu thập và so sánh dự đoán với ground‑truth để tính các chỉ số như Accuracy, Precision, Recall, F1‑score, …
Do đó, câu trả lời đúng là “Measure the model's accuracy against a predefined benchmark dataset.”
✅ Đáp án đúng & giải thích
- Measure the model's accuracy against a predefined benchmark dataset.
- 📊 Đây là cách chuẩn để đánh giá độ chính xác của một mô hình phân loại ảnh.
- ✅ Bạn đưa một tập dữ liệu kiểm tra (test set) đã được gán nhãn sẵn, chạy mô hình để dự đoán, rồi so sánh dự đoán với nhãn thực tế để tính accuracy = (số dự đoán đúng) / (tổng số mẫu).
- ✅ Trên AWS, bạn có thể thực hiện quy trình này bằng Amazon SageMaker Training Jobs + SageMaker Model Monitor (đánh giá batch transform hoặc endpoint) hoặc SageMaker Ground Truth để tạo benchmark dataset.
- ✅ Kết quả sẽ cho biết mô hình có độ chính xác bao nhiêu phần trăm trên tập dữ liệu chuẩn, từ đó quyết định có triển khai hay cần tinh chỉnh thêm.
❌ Các phương án sai & lý do
-
Calculate the total cost of resources used by the model.
- 💰 Đây là đánh giá chi phí, không phải độ chính xác.
- ❌ Mặc dù chi phí quan trọng trong việc tối ưu hoá vận hành (ví dụ dùng AWS Cost Explorer hoặc SageMaker Savings Plans), nó không phản ánh khả năng dự đoán đúng của mô hình.
- ✅ Đánh giá chi phí có thể đi kèm với việc đo hiệu suất, nhưng không phải là tiêu chí đo độ chính xác.
-
Count the number of layers in the neural network.
- 🏗️ Số lớp (layers) chỉ mô tả độ phức tạp kiến trúc của mô hình, không cho biết mô hình có phân loại ảnh đúng hay sai.
- ❌ Một mô hình sâu (nhiều lớp) có thể có độ chính xác cao hoặc thấp tùy thuộc vào dữ liệu và quá trình huấn luyện.
- ✅ Đánh giá số lớp thường chỉ dùng để đánh giá khả năng tính toán hoặc đánh giá risk of over‑fitting, chứ không phải độ chính xác thực tế.
-
Assess the color accuracy of images processed by the model.
- 🎨 “Color accuracy” liên quan tới độ trung thực màu sắc của ảnh sau khi xử lý, thường quan trọng trong computer graphics hoặc image rendering, không phải trong phân loại.
- ❌ Việc mô hình dự đoán nhãn không phụ thuộc vào màu sắc chuẩn; nếu màu sắc bị lệch, nhưng đặc trưng quan trọng vẫn được trích xuất, độ chính xác vẫn có thể cao.
- ✅ Đánh giá màu sắc có thể là một tiêu chí chất lượng ảnh (ví dụ dùng Amazon Rekognition để kiểm tra nội dung), nhưng không phải là thước đo độ chính xác của mô hình phân loại.
🛠️ Cách thực hiện đánh giá độ chính xác trên AWS (2026)
- Chuẩn bị benchmark dataset
- Dùng Amazon SageMaker Ground Truth hoặc AWS Data Exchange để thu thập và gán nhãn dữ liệu ảnh chuẩn.
- Huấn luyện mô hình nền tảng
- Khởi chạy SageMaker Training Jobs (ví dụ:
image-classificationalgorithm) hoặc sử dụng SageMaker JumpStart để tải một FM đã được tiền huấn luyện.
- Khởi chạy SageMaker Training Jobs (ví dụ:
- Triển khai và tạo endpoint
- Deploy mô hình lên SageMaker Real‑Time Inference hoặc Batch Transform.
- Đánh giá với benchmark
- Sử dụng SageMaker Model Monitor →
CreateMonitoringSchedule→ModelQualityđể tự động tính accuracy, precision, recall, … trên tập kiểm tra. - Hoặc tự viết script Python (boto3, sagemaker‑pytorch‑training) để tải dữ liệu, gọi endpoint, so sánh với nhãn thực tế và tính accuracy.
- Sử dụng SageMaker Model Monitor →
- Báo cáo & cảnh báo
- Kết quả có thể gửi tới Amazon CloudWatch Metrics, AWS SNS để thông báo nếu accuracy giảm dưới ngưỡng chấp nhận.
📘 Tham khảo
- Amazon SageMaker Model Monitor – Model Quality Monitoring (AWS Documentation, phiên bản 2026)
https://docs.aws.amazon.com/sagemaker/latest/dg/model-monitor.html - Amazon SageMaker Ground Truth – Building High‑Quality Training Datasets (2026)
https://docs.aws.amazon.com/sagemaker/latest/dg/gs-groundtruth.html - AWS Well‑Architected Framework – Cost Optimization Pillar (đối chiếu việc tính chi phí, không liên quan tới accuracy)
https://aws.amazon.com/architecture/well-architected/ - Deep Learning on AWS – Foundation Models (whitepaper 2025, cập nhật 2026)
https://d1.awsstatic.com/whitepapers/AI/foundation-models-on-aws.pdf
Tóm lại: Để đánh giá độ chính xác của một foundation model dùng trong nhiệm vụ image classification, chúng ta phải đo accuracy bằng cách so sánh dự đoán của mô hình với benchmark dataset đã được gán nhãn. Các lựa chọn khác (tính chi phí, đếm lớp, hoặc đánh giá màu sắc) không phản ánh độ chính xác và do đó là sai. ✅