Amazon Bedrock، AgentCore، SageMaker اور Q: Microsoft Teams میں ایجنٹس

یہ لاگو کرنے کے لیے ایک FDE (فارورڈ تعینات انجینئر) پلے بک ہے۔ Amazon Bedrock, Amazon Bedrock AgentCore, Amazon SageMaker، اور Amazon Q، پھر کے ذریعے کاروبار میں ایجنٹوں کو شروع کرنا Microsoft Teams. اس میں LLM ایپس، RAG، اور MLOps کے لیے فن تعمیر کے انتخاب، ایک ٹھوس فرسٹ ایجنٹ سیٹ اپ، ٹولنگ، ٹریننگ، اور کیلنڈر کے تخمینے شامل ہیں۔

1. کاروبار کے لیے مسئلہ کا بیان

زیادہ تر کاروباری اداروں کو "دوسرے چیٹ بوٹ" کی ضرورت نہیں ہوتی ہے۔ ان کی ضرورت ہے۔ ایجنٹ جو موجودہ ورک فلو کے اندر کام کرتے ہیں۔: منظور شدہ علم سے جواب دیں، شناخت کے ساتھ ٹولز کو کال کریں، سیشن میموری کو رکھیں، اور وہ جگہ جہاں ملازمین پہلے سے ہی تعاون کرتے ہیں — عام طور پر ٹیمیں۔

ایک FDE کا کام کام کرنے والے AWS حوالہ اور ایک کے درمیان فرق کو کم کرنا ہے۔ زیر انتظام پائلٹ: ایک شعبہ، ایک کارپس، زیادہ تر پڑھنے والے ٹولز پہلے، قابل پیمائش اختیار، پھر پھیلائیں۔

2. سروس کا نقشہ — دائیں AWS سطح کو منتخب کریں۔

2.1 Amazon Bedrock

• فاؤنڈیشن ماڈلز ایک واحد API کے ذریعے (Anthropic Claude, Amazon Nova, Meta Llama, Cohere, وغیرہ — علاقے کے لحاظ سے دستیابی)۔
• Guardrails مواد کے فلٹرز، موضوع سے انکار، PII ریڈیکشن، اور گراؤنڈنگ چیکس کے لیے۔
• Knowledge Base منظم RAG کے لیے (S3 / کنیکٹرز، ایمبیڈنگز، بازیافت)۔
• بیڈرک ایجنٹس / بہاؤ جب آپ بیڈروک کے ایجنٹ ماڈل کے اندر رہتے ہیں تو آرکیسٹریشن کے نمونوں کے لیے۔

بیڈرک کا استعمال کریں جب: آپ GPUs کو آپریٹ کیے بغیر منظم FMs، RAG، اور حفاظت چاہتے ہیں۔

2.2 Amazon Bedrock AgentCore

AgentCore اس کے لیے پروڈکشن رن ٹائم لیئر ہے۔ اپنی مرضی کے ایجنٹوں (فریم ورک-ایگنوسٹک — Strands, LangGraph, CrewAI, custom Python، وغیرہ):

• رن ٹائم - سیشن الگ تھلگ، طویل عرصے سے چلنے والے ایجنٹ کی درخواستیں۔
• گیٹ وے — APIs / MCP / OpenAPI کو ایجنٹ ٹولز میں تبدیل کریں۔ شامل ہیں Microsoft Teams گراف اہداف (چینل کے پیغامات، چیٹس، میٹنگز، موجودگی، آن لائن میٹنگز)۔
• یادداشت - مختصر اور طویل مدتی بات چیت / ایپیسوڈک میموری۔
• شناخت — ان باؤنڈ JWT توثیق اور آؤٹ باؤنڈ OAuth ٹولز (بشمول Microsoft Entra ID)۔
• مشاہدہ — CloudWatch / OpenTelemetry- موافق راستوں میں نشانات اور میٹرکس۔

AgentCore استعمال کریں جب: آپ کے پاس ایجنٹ کوڈ ہے، آپ کو ٹولز + شناخت + میموری کی ضرورت ہے، اور ہر تشویش کے لیے DIY ECS/Lambda گلو کے بجائے ایک منظم رن ٹائم چاہتے ہیں۔

2.3 Amazon SageMaker

• ٹرین / ٹھیک دھن / اپنی مرضی کے مطابق ماڈل کا اندازہ کریں.
• میزبان اختتامی نقطہ (ریئل ٹائم، سرور لیس، async)۔
• پائپ لائنز، ماڈل رجسٹری، فیچر اسٹور، واضح کریں، MLOps کے لیے ماڈل مانیٹر۔
• کسٹم ماڈلز کو بیڈرک کسٹم ماڈل امپورٹ میں فیڈ کر سکتے ہیں یا ماہر اینڈ پوائنٹ کے طور پر بیڈرک کے ساتھ بیٹھ سکتے ہیں۔

SageMaker استعمال کریں جب: آف دی شیلف ایف ایم کافی نہیں ہیں (ڈومین کی درجہ بندی، درجہ بندی، ٹھیک ٹیون ایمبیڈنگز، ریگولیٹڈ ماڈل گورننس)۔

2.4 Amazon Q

• Amazon Q کاروبار (پروڈکٹ کا نام کوئیک سویٹ / انٹرپرائز اسسٹنٹ پیکیجنگ کی طرف تیار ہوتا رہتا ہے) — SaaS اور علم سے کنیکٹر، ملازم سوال و جواب، پلگ ان۔
• Amazon Q ڈویلپر — AWS بلڈرز کے لیے IDE/CLI کوڈنگ اسسٹنٹ۔

Amazon Q استعمال کریں جب: آپ چاہتے ہیں a پیدا کیا کم کسٹم ایجنٹ انجینئرنگ کے ساتھ اسسٹنٹ۔ جب آپ کو گہرے کسٹم ٹولز، ملٹی سٹیپ ورک فلوز، یا ٹیموں کے مقامی UX کی ضرورت ہو تو AgentCore + Bedrock استعمال کریں۔

2.5 فیصلہ میٹرکس

3. حوالہ فن تعمیر (ٹیموں میں کاروباری ایجنٹ)

Microsoft Teams (user)
        │  Bot Framework activity
        ▼
Azure Bot Service / Teams channel
        │  HTTPS messaging endpoint
        ▼
AWS Lambda / API Gateway  (Bot adapter + JWT mint)
        │  POST /runtimes/{agentRuntimeArn}/invocations
        │  Header: Authorization Bearer <JWT>
        │  Header: X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aad}-{conv}
        ▼
Bedrock AgentCore Runtime  (your agent container / code)
        ├── Bedrock InvokeModel (Claude / Nova / …)
        ├── Knowledge Base retrieve (RAG)
        ├── Guardrails
        ├── AgentCore Memory
        └── AgentCore Gateway tools
              ├── Microsoft Graph (Teams channels / chats)  [Entra OAuth]
              ├── Internal APIs (CRM, ITSM, HR)
              └── MCP / OpenAPI targets
        ▼
CloudWatch / X-Ray / OTel traces  +  audit logs (S3)

انگوٹھے کے سیشن ID اصول: ایک ٹیم کے گفتگو کے سلسلے کو ایک AgentCore سیشن میں نقشہ بنانا چاہیے، جیسے teams-{aadObjectId}-{conversationId}، لہذا میموری اور ٹول سیاق و سباق مربوط رہتے ہیں۔

4. ٹیموں میں دستیاب پہلا ایجنٹ — مرحلہ وار

مقصد: ایک زیادہ تر پڑھیں پائلٹ ٹیمز چینل میں ~ 3–6 ہفتوں کے اندر اندرونی علمی ایجنٹ۔

فیز A — AWS فاؤنڈیشن (دن 1-5)

1. علاقہ منتخب کریں (بیڈرک ماڈل + AgentCore + Knowledge Base دستیابی کی تصدیق کریں)۔
2. بیڈرک ماڈل تک رسائی کو فعال کریں۔ تخمینہ، KB، اور AgentCore کے لیے IAM کردار بنائیں۔
3. کارپس کے لیے S3 بالٹی بنائیں۔ ایک پائلٹ شیئرپوائنٹ/کنفلوئنس ایکسپورٹ یا کنیکٹر کو سنک کریں۔
4. بیڈروک Knowledge Base + ویکٹر اسٹور بنائیں؛ مطابقت پذیری چلائیں؛ ٹیسٹ RetrieveAndGenerate.
5. ایک Guardrails منسلک کریں (آف ٹاپک سے انکار کریں، PII کو دوبارہ ترتیب دیں، جہاں تعاون ہو وہاں گراؤنڈنگ کی ضرورت ہے)۔

فیز B — AgentCore پر ایجنٹ (دن 5–15)

1. آپ کے پسندیدہ فریم ورک یا AWS نمونوں کا استعمال کرتے ہوئے سکیفولڈ ایجنٹ (Python/TypeScript)۔
2. وائر ماڈل بیڈرک کو کال کرتا ہے۔ تار کی بازیافت Knowledge Base پر۔
3. صرف 2–3 ٹولز کی وضاحت کریں (جیسے KB تلاش کریں، ٹکٹ کی حیثیت صرف پڑھنے کے لیے حاصل کریں، صارف پروفائل حاصل کریں)۔
4. مختصر مدت کی گفتگو کے لیے AgentCore میموری کو ترتیب دیں۔
5. AgentCore شناخت کنفیگر کریں: ان باؤنڈ JWT کی توثیق کریں؛ مائیکروسافٹ ٹولز کے لیے Entra ID کو بطور IDP رجسٹر کریں۔
6. AgentCore رن ٹائم پر تعینات کریں؛ دھواں ٹیسٹ /invocations curl اور ایک ٹیسٹ JWT کے ساتھ۔
7. مشاہدے کو فعال کریں؛ ایک CloudWatch ڈیش بورڈ کی وضاحت کریں (تاخیر، غلطیاں، ٹوکن/قیمت پراکسی)۔

مرحلہ C — ٹیموں کی سطح (دن 10-20، متوازی)

1. ایک Entra ID ایپ رجسٹر کریں؛ Azure بوٹ بنائیں؛ ٹیمز چینل کو فعال کریں۔
2. ٹیمز ایپ پیکج بنائیں (مینی فیسٹ، شبیہیں)؛ سائڈلوڈ یا پائلٹ سیکیورٹی گروپ کے لیے org پبلش کریں۔
3. پیغام رسانی کے اختتامی نقطہ کو نافذ کریں (Lambda تجویز کردہ): Bot Framework اڈاپٹر → نقشہ کی سرگرمی AgentCore پے لوڈ تک۔
4. صارف کی شناخت (AAD آبجیکٹ id، UPN) کو JWT دعووں AgentCore شناخت کی توقعات میں پھیلا دیں۔
5. ایجنٹ کے متن کے ساتھ جواب دیں (اور Adaptive Cards بعد میں)؛ ٹائپنگ کے اشارے اور غلطیوں کو احسن طریقے سے ہینڈل کریں۔
6. پائلٹ: ایک چینل، 10–30 صارفین، فیڈ بیک فارم / ایموجی ری ایکشن، ہفتہ وار FDE دفتری اوقات۔

مرحلہ D — سخت (دن 15-30)

1. سب سے کم استحقاق IAM; بوٹ ایپ پاس ورڈ/سرٹیفکیٹس کے لیے سیکرٹس مینیجر۔
2. نیٹ ورک: نجی API راستے جہاں ضرورت ہو؛ عوامی اختتامی مقامات پر WAF۔
3. ڈیٹا: کارپس کی درجہ بندی کریں؛ ہائی رسک رائٹ ٹولز کو بلاک کریں جب تک کہ تبدیلی کا کنٹرول موجود نہ ہو۔
4. تشخیصی سیٹ: 50-100 گولڈن سوال و جواب؛ زمینی پن / انکار کے معیار کی پیمائش کریں۔
5. رن بک: راز کو گھمائیں، رن ٹائم ورژن کو رول بیک کریں، ٹیمز ایپ کو غیر فعال کریں۔

کم سے کم ٹیمیں → AgentCore شکل طلب کرتی ہیں۔

POST /runtimes/{agentRuntimeArn}/invocations
Authorization: Bearer <jwt>
X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aadObjectId}-{conversationId}
Content-Type: application/json

{
  "input": {
    "prompt": "<user message text>",
    "user": { "aadObjectId": "...", "upn": "..." },
    "channel": { "teamId": "...", "channelId": "..." }
  }
}

درست پے لوڈ اسکیما آپ کے ایجنٹ کے معاہدے پر منحصر ہے - اسے ورژن میں رکھیں۔

5. AgentCore + Microsoft Graph (ایجنٹ جو ٹیموں میں کام کرتے ہیں)

"ٹیموں میں چیٹ" سے آگے، AgentCore گیٹ وے بے نقاب ہو سکتا ہے۔ ٹیموں کا گراف ٹولز کے بطور آپریشنز (چینل پیغام بھیجیں، چیٹس کا نظم کریں، میٹنگز، موجودگی)۔ ضروریات میں عام طور پر شامل ہیں:

• گراف کی اجازت کے ساتھ Entra ID درخواست (کم سے کم استحقاق کے ساتھ شروع کریں؛ منتظم کی رضامندی)۔
• انٹرا کے لیے AgentCore شناخت OAuth کلائنٹ۔
• Microsoft Teams / گراف کے لیے گیٹ وے کا ہدف۔
• اعتماد قائم ہونے تک کسی بھی تحریر/بھیجنے کے لیے ہیومن ان دی لوپ۔

FDE رہنمائی: جہاز ان باؤنڈ چیٹ ایجنٹ سب سے پہلے شامل کریں آؤٹ باؤنڈ گراف کے اعمال واضح اجازت والی فہرستوں (چینلز، ٹیمیں، پیغام کے سانچوں) کے ساتھ دوسری تبدیلی ٹکٹ میں۔

6. اسی پروگرام میں SageMaker

ٹیم کے پائلٹ کو SageMaker پر بلاک نہ کریں۔ جب آپ کو ضرورت ہو تو SageMaker متعارف کروائیں:

• ڈومین کے لیے مخصوص درجہ بندی کرنے والے (ارادہ، فوری، PII کا پتہ لگانا Guardrails سے آگے)۔
• RAG کوالٹی کے لیے فائن ٹیونڈ ایمبیڈنگز یا رینکرز۔
• ماڈل رجسٹری + منظوری کے دروازے کے ساتھ باقاعدہ ماڈل ٹریننگ۔
• بڑے کارپورا پر بیچ کا اندازہ لگانے والی نوکریاں۔

عام MLOps کنکال: SageMaker پائپ لائنز → ماڈل رجسٹری → سٹیجنگ اینڈ پوائنٹ → کینری → پروڈ؛ ماڈل مانیٹر کے ساتھ نگرانی؛ IaC (Terraform / CDK) کے ساتھ صرف CI (CodePipeline / GitHub ایکشنز) کے ذریعے فروغ دیں۔

7. اسی پروگرام میں Amazon Q

• Q کاروبار منظم کنیکٹرز کے ساتھ وسیع ملازم کے سوال و جواب - اکثر "انٹرانیٹ تلاش" کے لیے حسب ضرورت RAG سے زیادہ تیز۔
• Q ڈویلپر FDE/پلیٹ فارم انجینئر پیداواری صلاحیت کے لیے (IaC، Lambda، CDK)۔
• پیٹرن: چوڑائی کے لیے Q؛ گہرائی کے لیے AgentCore ایجنٹس (ورک فلو + ٹولز + ٹیمز UX)۔

8. FDE تربیتی نصاب (نافذ کرنا اور شروع کرنا)

کل FDE ریمپ: ~2–3 ہفتوں کی فوکسڈ ٹریننگ + پہلے پائلٹ پر جوڑا ڈیلیوری۔

9. تقاضوں کی چیک لسٹ

لوگ

• FDE (ایجنٹ + انضمام)
• کلاؤڈ/پلیٹ فارم انجینئر (IAM، نیٹ ورکنگ، IaC)
• مائیکروسافٹ 365 / انٹرا ایڈمن (ایپ کی رضامندی، ٹیموں کی اشاعت)
• سیکیورٹی / تعمیل کا جائزہ لینے والا
• کاروبار کا مالک + پائلٹ صارفین

اکاؤنٹس اور رسائی

• AWS اکاؤنٹ (اکاؤنٹس) کے ساتھ Bedrock, AgentCore, S3, CloudWatch; اختیاری SageMaker / Q
• Entra ID کرایہ دار؛ بوٹ سروس کے لیے Azure سبسکرپشن
• ایپس کو اپ لوڈ/منظور کرنے کے لیے ٹیموں کے منتظم کے حقوق

ڈیٹا

• واضح ملکیت اور برقرار رکھنے کے ساتھ پائلٹ کارپس
• درجہ بندی لیبلز؛ PII ہینڈلنگ پالیسی
• سنہری تشخیصی سوالات

10. ٹولنگ چیک لسٹ

11. وقت کا تخمینہ (FDE زیر قیادت، اشارے)

ایک فوکسڈ FDE + پارٹ ٹائم پلیٹ فارم + انٹرا ایڈمن کی دستیابی فرض کرتا ہے۔ کیلنڈر کے دن، انفرادی گھنٹے نہیں۔

12. لانچ چیک لسٹ (کاروبار)

1. نامزد کاروباری مالک اور کامیابی کے میٹرکس (انحراف، وقت سے جواب، CSAT)۔
2. پائلٹ سیکورٹی گروپ اور چینل؛ FDE کے لیے معاون اوقات۔
3. Knowledge Base مطابقت پذیری کے لیے مواد کی تازگی SLA۔
4. واقعہ کا راستہ: بوٹ کو غیر فعال کریں، راز کو گھمائیں، صفحہ آن کال کریں۔
5. بیڈروک ٹوکنز اور AgentCore رن ٹائم پر لاگت کے بجٹ الرٹس۔
6. فیصلہ گیٹ: استعمال کے ڈیٹا کے 4-6 ہفتوں کے بعد پھیلائیں، توقف کریں یا پیدا کریں۔

13. عام ناکامی کے طریقے

• سمندر کو ابالنا: ایک ٹیم کے پائلٹ سے پہلے ملٹی ایجنٹ + رائٹ ٹولز + مکمل انٹرانیٹ۔
• آخری شناخت: Entra/JWT ڈیزائن کے بغیر ایجنٹ کی تعمیر — ٹیموں کے پہنچنے پر دوبارہ کام کریں۔
• کوئی سنہری سیٹ نہیں: یہ نہیں بتا سکتا کہ آیا RAG تبدیلیوں کے بعد بہتر ہوا ہے۔
• SageMaker بہت جلد: بازیافت کا معیار اچھا ہونے سے پہلے اپنی مرضی کے مطابق ماڈلز کی تربیت کریں۔
• ایڈمن کی رضامندی کا تعجب: ٹیموں/گراف کی اجازتیں ہفتوں کے لیے مسدود ہیں — پہلے دن سے انٹرا ٹکٹ شروع کریں۔

14. بند کرنا

بیڈرک آپ کو ماڈلز، RAG، اور guardrails دیتا ہے۔ AgentCore آپ کو میموری، شناخت اور ٹولز (بشمول ٹیمز گراف) کے ساتھ پروڈکشن ایجنٹ کا رن ٹائم فراہم کرتا ہے۔ SageMaker اپنی مرضی کے مطابق ML اور MLOps کا احاطہ کرتا ہے۔ Amazon Q پروڈکٹائزڈ ملازم/ڈیولپر اسسٹنٹس کا احاطہ کرتا ہے۔ FDE راستہ جس کی قیمت سب سے تیزی سے آتی ہے وہ ہے: RAG + Guardrails → AgentCore ایجنٹ → Teams bot relay → پیمائش → expand tools — SageMaker اور Q Business کے ساتھ متوازی ٹریک کے طور پر جب استعمال کا معاملہ ان سے مطالبہ کرتا ہے۔

کی طرف سے شائع Workstation - ڈیلیوری پروگراموں کے لیے جو ایسے ایجنٹوں کو لگاتے ہیں جہاں کاروبار پہلے سے کام کرتا ہے۔