Amazon Bedrock, AgentCore, SageMaker ও Q: Microsoft Teams-এ এজেন্ট

এটি বাস্তবায়নের জন্য একটি FDE (ফরোয়ার্ড ডিপ্লোয়েড ইঞ্জিনিয়ার) প্লেবুক Amazon Bedrock, Amazon Bedrock AgentCore, Amazon SageMaker, এবং Amazon Q, তারপর মাধ্যমে ব্যবসায় এজেন্ট চালু করা Microsoft Teams. এটি LLM অ্যাপ, RAG এবং MLOps-এর জন্য আর্কিটেকচার পছন্দ, একটি কংক্রিট ফার্স্ট-এজেন্ট সেটআপ, টুলিং, প্রশিক্ষণ এবং ক্যালেন্ডার অনুমান কভার করে।

1. ব্যবসার জন্য সমস্যা বিবৃতি

বেশিরভাগ উদ্যোগের "অন্য চ্যাটবট" প্রয়োজন হয় না। তারা প্রয়োজন বিদ্যমান কর্মপ্রবাহের মধ্যে কাজ করে এমন এজেন্ট: অনুমোদিত জ্ঞান থেকে উত্তর দিন, পরিচয় সহ কল টুলস, সেশন মেমরি রাখুন, এবং যেখানে কর্মীরা ইতিমধ্যেই সহযোগিতা করেন - সাধারণত টিম।

একটি FDE এর কাজ হল একটি কার্যকরী AWS রেফারেন্স এবং একটি এর মধ্যে ব্যবধান সংকুচিত করা পরিচালিত পাইলট: একটি বিভাগ, একটি কর্পাস, প্রথমে পঠনযোগ্য সরঞ্জাম, পরিমাপযোগ্য গ্রহণ, তারপর প্রসারিত করুন।

2. পরিষেবা মানচিত্র — ডান AWS পৃষ্ঠ বাছাই করুন

2.1 Amazon Bedrock

• ফাউন্ডেশন মডেল একটি একক API (Anthropic Claude, Amazon Nova, Meta Llama, Cohere, ইত্যাদির মাধ্যমে — অঞ্চল অনুসারে উপলব্ধতা)।
• Guardrails বিষয়বস্তু ফিল্টার, বিষয় অস্বীকার, PII রিডাকশন এবং গ্রাউন্ডিং চেকের জন্য।
• Knowledge Base পরিচালিত RAG এর জন্য (S3 / সংযোগকারী, এম্বেডিং, পুনরুদ্ধার) থেকে গ্রহণ করা।
• বেডরক এজেন্ট / প্রবাহ আপনি যখন বেডরকের এজেন্ট মডেলের ভিতরে থাকেন তখন অর্কেস্ট্রেশন প্যাটার্নের জন্য।

বেডরক ব্যবহার করুন যখন: আপনি অপারেটিং GPU ছাড়া FM, RAG এবং নিরাপত্তা চান৷

2.2 Amazon Bedrock AgentCore

AgentCore হল উত্পাদনের রানটাইম স্তর কাস্টম এজেন্ট (ফ্রেমওয়ার্ক-অজ্ঞেয়বাদী — Strands, LangGraph, CrewAI, কাস্টম পাইথন, ইত্যাদি):

• রানটাইম — সেশন-বিচ্ছিন্ন, দীর্ঘ-চলমান এজেন্ট আহ্বান।
• গেটওয়ে — APIs / MCP / OpenAPI কে এজেন্ট টুলে পরিণত করুন; অন্তর্ভুক্ত Microsoft Teams গ্রাফ লক্ষ্য (চ্যানেল বার্তা, চ্যাট, মিটিং, উপস্থিতি, অনলাইন মিটিং)।
• স্মৃতি - স্বল্প- এবং দীর্ঘমেয়াদী কথোপকথন / এপিসোডিক স্মৃতি।
• পরিচয় — ইনবাউন্ড JWT বৈধতা এবং আউটবাউন্ড OAuth টুলগুলিতে (মাইক্রোসফ্ট Entra ID সহ)।
• পর্যবেক্ষণযোগ্যতা — CloudWatch / OpenTelemetry- সামঞ্জস্যপূর্ণ পাথে ট্রেস এবং মেট্রিক্স।

AgentCore ব্যবহার করুন যখন: আপনি এজেন্ট কোডের মালিক, সরঞ্জাম + পরিচয় + মেমরি প্রয়োজন, এবং প্রতিটি উদ্বেগের জন্য DIY ECS/Lambda আঠার পরিবর্তে একটি পরিচালিত রানটাইম চান।

2.3 Amazon SageMaker

• ট্রেন / সূক্ষ্ম সুর / কাস্টম মডেল মূল্যায়ন.
• হোস্ট এন্ডপয়েন্ট (রিয়েল-টাইম, সার্ভারহীন, অ্যাসিঙ্ক)।
• পাইপলাইন, মডেল রেজিস্ট্রি, ফিচার স্টোর, ক্ল্যারিফাই, MLOps এর জন্য মডেল মনিটর।
• কাস্টম মডেলগুলিকে বেডরক কাস্টম মডেল ইম্পোর্টে খাওয়াতে পারে বা বিশেষজ্ঞের শেষ পয়েন্ট হিসাবে বেডরকের পাশে বসতে পারে।

SageMaker ব্যবহার করুন যখন: অফ-দ্য-শেল্ফ এফএম যথেষ্ট নয় (ডোমেন ক্লাসিফায়ার, র‌্যাঙ্কিং, ফাইন-টিউনড এম্বেডিং, নিয়ন্ত্রিত মডেল গভর্নেন্স)।

2.4 Amazon Q

• Amazon Q ব্যবসা (পণ্যের নামকরণ দ্রুত স্যুট / এন্টারপ্রাইজ সহকারী প্যাকেজিংয়ের দিকে বিকশিত হতে থাকে) — SaaS এবং জ্ঞানের সংযোগকারী, কর্মচারী প্রশ্নোত্তর, প্লাগইন।
• Amazon Q বিকাশকারী — AWS নির্মাতাদের জন্য IDE/CLI কোডিং সহকারী।

Amazon Q ব্যবহার করুন যখন: আপনি একটি চান উৎপাদিত কম কাস্টম এজেন্ট ইঞ্জিনিয়ারিং সহ সহকারী। AgentCore + বেডরক ব্যবহার করুন যখন আপনার গভীর কাস্টম টুল, মাল্টি-স্টেপ ওয়ার্কফ্লো বা আপনার নিয়ন্ত্রণ করা টিম-নেটিভ ইউএক্স প্রয়োজন।

2.5 সিদ্ধান্ত ম্যাট্রিক্স

3. রেফারেন্স আর্কিটেকচার (টিমগুলিতে ব্যবসায়িক এজেন্ট)

Microsoft Teams (user)
        │  Bot Framework activity
        ▼
Azure Bot Service / Teams channel
        │  HTTPS messaging endpoint
        ▼
AWS Lambda / API Gateway  (Bot adapter + JWT mint)
        │  POST /runtimes/{agentRuntimeArn}/invocations
        │  Header: Authorization Bearer <JWT>
        │  Header: X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aad}-{conv}
        ▼
Bedrock AgentCore Runtime  (your agent container / code)
        ├── Bedrock InvokeModel (Claude / Nova / …)
        ├── Knowledge Base retrieve (RAG)
        ├── Guardrails
        ├── AgentCore Memory
        └── AgentCore Gateway tools
              ├── Microsoft Graph (Teams channels / chats)  [Entra OAuth]
              ├── Internal APIs (CRM, ITSM, HR)
              └── MCP / OpenAPI targets
        ▼
CloudWatch / X-Ray / OTel traces  +  audit logs (S3)

সেশন আইডির নিয়ম একটি টিমের কথোপকথনের থ্রেড একটি AgentCore সেশনে ম্যাপ করা উচিত, যেমন teams-{aadObjectId}-{conversationId}, তাই মেমরি এবং টুল প্রসঙ্গ সুসংগত থাকে।

4. প্রথম এজেন্ট টিমে উপলব্ধ — ধাপে ধাপে

লক্ষ্য: ক পড়া - বেশিরভাগই ~3-6 সপ্তাহের মধ্যে পাইলট টিম চ্যানেলে অভ্যন্তরীণ জ্ঞান এজেন্ট।

ফেজ A — AWS ফাউন্ডেশন (দিন 1-5)

1. অঞ্চল চয়ন করুন (বেডরক মডেল + AgentCore + Knowledge Base উপলব্ধতা নিশ্চিত করুন)।
2. বেডরক মডেল অ্যাক্সেস সক্ষম করুন; অনুমান, KB এবং AgentCore এর জন্য IAM ভূমিকা তৈরি করুন।
3. কর্পাসের জন্য S3 বালতি তৈরি করুন; একটি পাইলট SharePoint/Confluence Export বা সংযোগকারী সিঙ্ক করুন।
4. বেডরক Knowledge Base + ভেক্টর স্টোর তৈরি করুন; সিঙ্ক চালান; পরীক্ষা RetrieveAndGenerate.
5. একটি Guardrails সংযুক্ত করুন (অফ-টপিক অস্বীকার করুন, PII সংশোধন করুন, যেখানে সমর্থিত গ্রাউন্ডিং প্রয়োজন)।

ফেজ B — AgentCore এ এজেন্ট (দিন 5-15)

1. স্ক্যাফোল্ড এজেন্ট (পাইথন/টাইপস্ক্রিপ্ট) আপনার পছন্দের ফ্রেমওয়ার্ক বা AWS নমুনা ব্যবহার করে।
2. ওয়্যার মডেল বেডরকে কল করে; Knowledge Base এ তারের পুনরুদ্ধার।
3. শুধুমাত্র 2-3 টুল সংজ্ঞায়িত করুন (যেমন KB সার্চ করুন, টিকিটের স্থিতি শুধুমাত্র পঠনযোগ্য পান, ব্যবহারকারীর প্রোফাইল পান)।
4. স্বল্পমেয়াদী কথোপকথনের জন্য AgentCore মেমরি কনফিগার করুন।
5. AgentCore আইডেন্টিটি কনফিগার করুন: ইনবাউন্ড JWT যাচাই করুন; মাইক্রোসফ্ট টুলের জন্য আইডিপি হিসাবে Entra ID নিবন্ধন করুন।
6. AgentCore রানটাইমে স্থাপন করুন; ধোঁয়া-পরীক্ষা /invocations কার্ল এবং একটি পরীক্ষা JWT সহ।
7. পর্যবেক্ষণযোগ্যতা সক্ষম করুন; একটি CloudWatch ড্যাশবোর্ড সংজ্ঞায়িত করুন (লেটেন্সি, ত্রুটি, টোকেন/কস্ট প্রক্সি)।

পর্যায় C — টিম পৃষ্ঠ (দিন 10-20, সমান্তরাল)

1. একটি Entra ID অ্যাপ নিবন্ধন করুন; Azure বট তৈরি করুন; টিম চ্যানেল সক্ষম করুন।
2. টিম অ্যাপ প্যাকেজ তৈরি করুন (মেনিফেস্ট, আইকন); পাইলট নিরাপত্তা গোষ্ঠীর জন্য সাইডলোড বা org প্রকাশ করুন।
3. মেসেজিং এন্ডপয়েন্ট প্রয়োগ করুন (Lambda প্রস্তাবিত): Bot Framework অ্যাডাপ্টার → AgentCore পেলোডের মানচিত্র কার্যকলাপ।
4. ব্যবহারকারীর পরিচয় (AAD অবজেক্ট আইডি, UPN) JWT দাবি AgentCore আইডেন্টিটি আশা করে।
5. এজেন্ট টেক্সট সহ উত্তর দিন (এবং Adaptive Cards পরে); টাইপিং সূচক এবং ত্রুটিগুলি সুন্দরভাবে পরিচালনা করুন।
6. পাইলট: একটি চ্যানেল, 10-30 জন ব্যবহারকারী, প্রতিক্রিয়া ফর্ম / ইমোজি প্রতিক্রিয়া, সাপ্তাহিক FDE অফিস সময়।

ফেজ D — হার্ডেন (দিন 15-30)

1. সর্বনিম্ন বিশেষাধিকার IAM; বট অ্যাপ পাসওয়ার্ড / সার্টিফিকেটের জন্য সিক্রেটস ম্যানেজার।
2. নেটওয়ার্ক: ব্যক্তিগত API পাথ যেখানে প্রয়োজন; পাবলিক এন্ডপয়েন্টে WAF।
3. তথ্য: শ্রেণীবদ্ধ করপাস; পরিবর্তন নিয়ন্ত্রণ বিদ্যমান না হওয়া পর্যন্ত উচ্চ-ঝুঁকির লেখার সরঞ্জামগুলিকে ব্লক করুন।
4. মূল্যায়ন সেট: 50-100 গোল্ডেন প্রশ্নোত্তর; গ্রাউন্ডেডনেস / প্রত্যাখ্যানের গুণমান পরিমাপ করুন।
5. রানবুক: গোপনীয়তা ঘোরান, রানটাইম সংস্করণ রোল ব্যাক করুন, টিম অ্যাপ অক্ষম করুন।

ন্যূনতম দল → AgentCore আকৃতি আহ্বান করে

POST /runtimes/{agentRuntimeArn}/invocations
Authorization: Bearer <jwt>
X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aadObjectId}-{conversationId}
Content-Type: application/json

{
  "input": {
    "prompt": "<user message text>",
    "user": { "aadObjectId": "...", "upn": "..." },
    "channel": { "teamId": "...", "channelId": "..." }
  }
}

সঠিক পেলোড স্কিমা আপনার এজেন্ট চুক্তির উপর নির্ভর করে — এটি সংস্করণ রাখুন।

5. AgentCore + মাইক্রোসফট গ্রাফ (এজেন্ট যারা দলে কাজ করে)

"টিমগুলিতে চ্যাট" এর বাইরেও, AgentCore গেটওয়ে প্রকাশ করতে পারে৷ দল গ্রাফ সরঞ্জাম হিসাবে অপারেশন (চ্যানেল বার্তা পাঠান, চ্যাট পরিচালনা, মিটিং, উপস্থিতি)। প্রয়োজনীয়তা সাধারণত অন্তর্ভুক্ত:

• গ্রাফ অনুমতি সহ Entra ID অ্যাপ্লিকেশন (সর্বনিম্ন বিশেষাধিকার দিয়ে শুরু করুন; প্রশাসকের সম্মতি)।
• AgentCore পরিচয় OAuth প্রবেশের জন্য ক্লায়েন্ট।
• Microsoft Teams / গ্রাফের জন্য গেটওয়ে লক্ষ্য।
• বিশ্বাস প্রতিষ্ঠিত না হওয়া পর্যন্ত যেকোনো লেখা/পাঠানোর জন্য হিউম্যান-ইন-দ্য-লুপ।

FDE নির্দেশিকা: জাহাজ অন্তর্মুখী চ্যাট এজেন্ট প্রথম যোগ করুন আউটবাউন্ড গ্রাফ কর্ম সুস্পষ্ট অনুমতি-তালিকা (চ্যানেল, দল, বার্তা টেমপ্লেট) সহ একটি দ্বিতীয় পরিবর্তনের টিকিটে।

6. একই প্রোগ্রামে SageMaker

টিম পাইলটকে SageMaker এ ব্লক করবেন না। আপনার প্রয়োজন হলে SageMaker চালু করুন:

• ডোমেন-নির্দিষ্ট শ্রেণিবিন্যাসকারী (উদ্দেশ্য, জরুরিতা, Guardrails এর বাইরে PII সনাক্তকরণ)।
• RAG মানের জন্য সূক্ষ্ম-টিউন করা এমবেডিং বা রিরেঙ্কার।
• মডেল রেজিস্ট্রি + অনুমোদন গেট সহ নিয়ন্ত্রিত মডেল প্রশিক্ষণ।
• বড় কর্পোরার উপর ব্যাচ ইনফারেন্স কাজ।

সাধারণ MLOps কঙ্কাল: SageMaker পাইপলাইন → মডেল রেজিস্ট্রি → স্টেজিং এন্ডপয়েন্ট → ক্যানারি → প্রোড; মডেল মনিটর দিয়ে পর্যবেক্ষণ; IaC (Terraform / CDK) এর সাথে শুধুমাত্র CI (CodePipeline / GitHub অ্যাকশন) এর মাধ্যমে প্রচার করুন।

7. একই প্রোগ্রামে Amazon Q

• প্রশ্ন ব্যবসা পরিচালিত সংযোগকারীর সাথে বিস্তৃত কর্মচারীর প্রশ্নোত্তর - প্রায়ই "ইন্ট্রানেট অনুসন্ধান" এর জন্য কাস্টম RAG এর চেয়ে দ্রুত।
• Q বিকাশকারী FDE/প্ল্যাটফর্ম eng উৎপাদনশীলতার জন্য (IaC, Lambda, CDK)।
• প্যাটার্ন: প্রস্থের জন্য Q; গভীরতার জন্য AgentCore এজেন্ট (ওয়ার্কফ্লো + টুলস + টিম ইউএক্স)।

8. FDE প্রশিক্ষণ পাঠ্যক্রম (বাস্তবায়ন এবং প্রবর্তন)

মোট FDE র‌্যাম্প: ~ 2-3 সপ্তাহের ফোকাসড ট্রেনিং + প্রথম পাইলটে পেয়ারড ডেলিভারি।

9. প্রয়োজনীয় চেকলিস্ট

মানুষ

• FDE (এজেন্ট + ইন্টিগ্রেশন)
• ক্লাউড/প্ল্যাটফর্ম ইঞ্জিনিয়ার (IAM, নেটওয়ার্কিং, IaC)
• Microsoft 365 / এন্ট্রা অ্যাডমিন (অ্যাপ সম্মতি, টিম প্রকাশ)
• নিরাপত্তা / সম্মতি পর্যালোচক
• ব্যবসার মালিক + পাইলট ব্যবহারকারী

অ্যাকাউন্ট এবং অ্যাক্সেস

• বেডরকের সাথে AWS অ্যাকাউন্ট(গুলি), AgentCore, S3, CloudWatch; ঐচ্ছিক SageMaker / Q
• Entra ID ভাড়াটে; বট পরিষেবার জন্য Azure সাবস্ক্রিপশন
• অ্যাপস আপলোড/অনুমোদন করার জন্য টিম অ্যাডমিন অধিকার

ডেটা

• স্পষ্ট মালিকানা এবং ধারণ সহ পাইলট কর্পাস
• শ্রেণীবিভাগ লেবেল; PII হ্যান্ডলিং নীতি
• গোল্ডেন মূল্যায়ন প্রশ্ন

10. টুলিং চেকলিস্ট

11. সময়ের অনুমান (FDE- নেতৃত্বাধীন, নির্দেশক)

একটি ফোকাসড FDE + পার্ট-টাইম প্ল্যাটফর্ম + এন্ট্রা অ্যাডমিন উপলব্ধতা অনুমান। ক্যালেন্ডার দিন, ব্যক্তি-ঘণ্টা একা নয়।

12. লঞ্চ চেকলিস্ট (ব্যবসা)

1. নাম দেওয়া ব্যবসার মালিক এবং সাফল্যের মেট্রিক্স (বিক্ষেপণ, সময়-টু-উত্তর, CSAT)।
2. পাইলট নিরাপত্তা গ্রুপ এবং চ্যানেল; FDE এর জন্য সমর্থন ঘন্টা।
3. Knowledge Base সিঙ্কের জন্য সামগ্রী সতেজতা SLA৷
4. ঘটনার পথ: বট অক্ষম করুন, গোপনীয়তা ঘোরান, কল অন-কল করুন৷
5. বেডরক টোকেন এবং AgentCore রানটাইমে খরচ বাজেট সতর্কতা।
6. ডিসিশন গেট: ডেটা ব্যবহারের 4-6 সপ্তাহ পরে প্রসারিত করুন, বিরতি দিন বা উত্পাদন করুন।

13. সাধারণ ব্যর্থতার মোড

• সমুদ্র ফুটানো: একটি একক টিম পাইলটের আগে মাল্টি-এজেন্ট + রাইট টুল + সম্পূর্ণ ইন্ট্রানেট।
• সর্বশেষ পরিচয়: Entra/JWT ডিজাইন ছাড়াই এজেন্ট তৈরি করা — টিম এলে পুনরায় কাজ করুন।
• সোনার সেট নেই: কিছু পরিবর্তনের পর RAG ভালো হয়েছে কিনা বলতে পারব না।
• SageMaker খুব তাড়াতাড়ি: পুনরুদ্ধার মান ভাল আগে কাস্টম মডেল প্রশিক্ষণ.
• প্রশাসকের সম্মতি বিস্ময়: টিম/গ্রাফ অনুমতি সপ্তাহের জন্য ব্লক করা হয়েছে — প্রথম দিন থেকে এন্ট্রা টিকেট শুরু করুন।

14. বন্ধ

বেডরক আপনাকে মডেল, RAG, এবং গার্ডেল দেয়। AgentCore মেমরি, পরিচয়, এবং টুলস (টিম গ্রাফ সহ) সহ আপনাকে একটি প্রোডাকশন এজেন্ট রানটাইম দেয়। SageMaker কাস্টম ML এবং MLOps কভার করে। Amazon Q উৎপাদনকৃত কর্মচারী/বিকাশকারী সহকারীকে কভার করে। FDE পথটি যেটির মূল্য দ্রুততম হয়: RAG + Guardrails → AgentCore এজেন্ট → টিম বট রিলে → পরিমাপ → প্রসারিত সরঞ্জাম — SageMaker এবং Q বিজনেস সমান্তরাল ট্র্যাক হিসাবে যখন ব্যবহারের ক্ষেত্রে তাদের দাবি করা হয়।

দ্বারা প্রকাশিত Workstation — এমন ডেলিভারি প্রোগ্রামের জন্য যা এজেন্ট রাখে যেখানে ব্যবসা ইতিমধ্যে কাজ করে।