Amazon Bedrock, AgentCore, SageMaker और Q: Microsoft Teams में एजेंट्स

यह कार्यान्वयन के लिए एक FDE (फॉरवर्ड डिप्लॉयड इंजीनियर) प्लेबुक है Amazon Bedrock, Amazon Bedrock AgentCore, ⟦एएसएम⟧, और Amazon Q, फिर एजेंटों को व्यवसाय में लॉन्च करना Microsoft Teams. इसमें LLM ऐप्स, RAG, और MLOps के लिए आर्किटेक्चर विकल्प, एक ठोस प्रथम-एजेंट सेटअप, टूलींग, प्रशिक्षण और कैलेंडर अनुमान शामिल हैं।

1. व्यवसाय के लिए समस्या विवरण

अधिकांश उद्यमों को "दूसरे चैटबॉट" की आवश्यकता नहीं है। उन्हें चाहिए एजेंट जो मौजूदा वर्कफ़्लो के अंदर कार्य करते हैं: अनुमोदित ज्ञान से उत्तर दें, पहचान के साथ कॉल टूल, सत्र मेमोरी रखें, और वह स्थान जहां कर्मचारी पहले से ही सहयोग करते हैं - आमतौर पर टीमें।

एक FDE का काम एक कार्यशील AWS संदर्भ और एक के बीच के अंतर को कम करना है शासित पायलट: एक विभाग, एक कोष, पहले पढ़ने योग्य उपकरण, मापने योग्य अपनाना, फिर विस्तार करना।

2. सेवा मानचित्र - सही AWS सतह चुनें

2.1 ⟦एबी⟧

• फाउंडेशन मॉडल एकल ⟦एपीआई⟧ (एंथ्रोपिक क्लाउड, अमेज़ॅन नोवा, मेटा लामा, कोहेरे, आदि - क्षेत्र के अनुसार उपलब्धता) के माध्यम से।
• Guardrails सामग्री फ़िल्टर, विषय इनकार, पीआईआई संशोधन और ग्राउंडिंग जांच के लिए।
• Knowledge Base प्रबंधित RAG के लिए (S3 / कनेक्टर्स, एम्बेडिंग, पुनर्प्राप्ति से अंतर्ग्रहण)।
• बेडरॉक एजेंट/प्रवाह जब आप बेडरॉक के एजेंट मॉडल के अंदर रहते हैं तो ऑर्केस्ट्रेशन पैटर्न के लिए।

बेडरॉक का उपयोग तब करें जब: आप प्रबंधित एफएम, RAG, और बिना जीपीयू संचालित किए सुरक्षा चाहते हैं।

2.2 Amazon Bedrock AgentCore

AgentCore के लिए उत्पादन रनटाइम परत है कस्टम एजेंट (फ्रेमवर्क-अज्ञेयवादी - Strands, LangGraph, CrewAI, कस्टम पायथन, आदि):

• रनटाइम - सत्र-पृथक, लंबे समय तक चलने वाला एजेंट आमंत्रण।
• प्रवेश द्वार - एपीआई / MCP / OpenAPI को एजेंट टूल में बदलें; शामिल है Microsoft Teams ग्राफ़ लक्ष्य (चैनल संदेश, चैट, मीटिंग, उपस्थिति, ऑनलाइन मीटिंग)।
• स्मृति - लघु और दीर्घकालिक संवादी/एपिसोडिक मेमोरी।
• पहचान - टूल के लिए इनबाउंड JWT सत्यापन और आउटबाउंड OAuth (Microsoft Entra ID सहित)।
• अवलोकनीयता - CloudWatch / OpenTelemetry-संगत पथों में ट्रेस और मेट्रिक्स।

AgentCore का उपयोग करें जब: आपके पास एजेंट कोड है, आपको टूल + पहचान + मेमोरी की आवश्यकता है, और हर चिंता के लिए DIY ईसीएस/लैम्ब्डा ग्लू के बजाय एक प्रबंधित रनटाइम चाहते हैं।

2.3 ⟦एएसएम⟧

• कस्टम मॉडलों को प्रशिक्षित/फाइन-ट्यून/मूल्यांकन करें।
• होस्ट एंडपॉइंट (वास्तविक समय, सर्वर रहित, एसिंक्स)।
• पाइपलाइनें, मॉडल रजिस्ट्री, फ़ीचर स्टोर, स्पष्टीकरण, MLOps के लिए मॉडल मॉनिटर।
• कस्टम मॉडल को बेडरॉक कस्टम मॉडल आयात में फ़ीड कर सकते हैं या विशेषज्ञ समापन बिंदु के रूप में बेडरॉक के पास बैठ सकते हैं।

SageMaker का प्रयोग करें जब: ऑफ-द-शेल्फ एफएम पर्याप्त नहीं हैं (डोमेन क्लासिफायर, रैंकिंग, फाइन-ट्यून एंबेडिंग्स, विनियमित मॉडल गवर्नेंस)।

2.4 Amazon Q

• Amazon Q बिजनेस (उत्पाद नामकरण क्विक सूट/एंटरप्राइज़ सहायक पैकेजिंग की ओर विकसित होना जारी है) - SaaS और ज्ञान के लिए कनेक्टर, कर्मचारी प्रश्नोत्तर, प्लगइन्स।
• Amazon Q डेवलपर - AWS बिल्डरों के लिए IDE/CLI कोडिंग सहायक।

Amazon Q का प्रयोग करें जब: आप चाहते हैं एक उत्पादित कम कस्टम एजेंट इंजीनियरिंग वाला सहायक। जब आपको गहन कस्टम टूल, मल्टी-स्टेप वर्कफ़्लो, या आपके द्वारा नियंत्रित टीम-नेटिव यूएक्स की आवश्यकता हो तो AgentCore + बेडरॉक का उपयोग करें।

2.5 निर्णय मैट्रिक्स

3. संदर्भ वास्तुकला (टीमों में व्यावसायिक एजेंट)

Microsoft Teams (user)
        │  Bot Framework activity
        ▼
Azure Bot Service / Teams channel
        │  HTTPS messaging endpoint
        ▼
AWS Lambda / API Gateway  (Bot adapter + JWT mint)
        │  POST /runtimes/{agentRuntimeArn}/invocations
        │  Header: Authorization Bearer <JWT>
        │  Header: X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aad}-{conv}
        ▼
Bedrock AgentCore Runtime  (your agent container / code)
        ├── Bedrock InvokeModel (Claude / Nova / …)
        ├── Knowledge Base retrieve (RAG)
        ├── Guardrails
        ├── AgentCore Memory
        └── AgentCore Gateway tools
              ├── Microsoft Graph (Teams channels / chats)  [Entra OAuth]
              ├── Internal APIs (CRM, ITSM, HR)
              └── MCP / OpenAPI targets
        ▼
CloudWatch / X-Ray / OTel traces  +  audit logs (S3)

सत्र आईडी का सामान्य नियम: एक टीम वार्तालाप थ्रेड को एक AgentCore सत्र पर मैप करना चाहिए, उदाहरण के लिए। teams-{aadObjectId}-{conversationId}, ताकि स्मृति और उपकरण संदर्भ सुसंगत रहें।

4. टीमों में पहला एजेंट उपलब्ध - चरण-दर-चरण

लक्ष्य: ए अधिकतर पढ़ें ~3-6 सप्ताह के भीतर एक पायलट टीम चैनल में आंतरिक ज्ञान एजेंट।

चरण ए - AWS फाउंडेशन (दिन 1-5)

1. क्षेत्र चुनें (बेडरॉक मॉडल + AgentCore + Knowledge Base उपलब्धता की पुष्टि करें)।
2. बेडरॉक मॉडल एक्सेस सक्षम करें; अनुमान, KB और AgentCore के लिए IAM भूमिकाएँ बनाएँ।
3. कॉर्पस के लिए S3 बकेट बनाएं; एक पायलट SharePoint/Confluence निर्यात या कनेक्टर को सिंक करें।
4. बेडरॉक Knowledge Base + वेक्टर स्टोर बनाएं; सिंक चलाएँ; परीक्षा RetrieveAndGenerate।
5. एक Guardrails संलग्न करें (विषय से हटकर अस्वीकार करें, PII को संशोधित करें, जहां समर्थित हो वहां ग्राउंडिंग की आवश्यकता है)।

चरण बी - AgentCore पर एजेंट (दिन 5-15)

1. स्कैफोल्ड एजेंट (पायथन/टाइपस्क्रिप्ट) आपके पसंदीदा फ्रेमवर्क या AWS नमूनों का उपयोग कर रहा है।
2. वायर मॉडल बेडरॉक को कॉल करता है; Knowledge Base तक तार पुनर्प्राप्ति।
3. केवल 2-3 टूल परिभाषित करें (उदाहरण के लिए केबी खोजें, टिकट की स्थिति केवल पढ़ने के लिए प्राप्त करें, उपयोगकर्ता प्रोफ़ाइल प्राप्त करें)।
4. अल्पकालिक बातचीत के लिए AgentCore मेमोरी कॉन्फ़िगर करें।
5. AgentCore पहचान कॉन्फ़िगर करें: इनबाउंड JWT मान्य करें; Microsoft टूल के लिए Entra ID को IdP के रूप में पंजीकृत करें।
6. AgentCore रनटाइम पर तैनात करें; धुआँ परीक्षण /invocations कर्ल और एक परीक्षण JWT के साथ।
7. अवलोकन सक्षम करें; एक CloudWatch डैशबोर्ड (विलंबता, त्रुटियां, टोकन/लागत प्रॉक्सी) परिभाषित करें।

चरण सी - टीमें सतह पर (दिन 10-20, समानांतर)

1. एक Entra ID ऐप पंजीकृत करें; Azure बॉट बनाएं; टीम चैनल सक्षम करें.
2. टीम ऐप पैकेज बनाएं (मेनिफेस्ट, आइकन); पायलट सुरक्षा समूह के लिए साइडलोड या ऑर्ग प्रकाशन।
3. मैसेजिंग एंडपॉइंट लागू करें (लैम्ब्डा अनुशंसित): Bot Framework एडाप्टर → गतिविधि को AgentCore पेलोड पर मैप करें।
4. उपयोगकर्ता पहचान (एएडी ऑब्जेक्ट आईडी, यूपीएन) को JWT दावों में प्रचारित करें AgentCore पहचान अपेक्षित है।
5. एजेंट टेक्स्ट के साथ उत्तर दें (और बाद में Adaptive Cards); टाइपिंग संकेतकों और त्रुटियों को शालीनता से संभालें।
6. पायलट: एक चैनल, 10-30 उपयोगकर्ता, फीडबैक फॉर्म / इमोजी प्रतिक्रियाएं, साप्ताहिक FDE कार्यालय समय।

चरण डी - हार्डन (दिन 15-30)

1. न्यूनतम-विशेषाधिकार IAM; बॉट ऐप पासवर्ड/प्रमाणपत्र के लिए रहस्य प्रबंधक।
2. नेटवर्क: निजी ⟦एपीआई⟧ पथ जहां आवश्यक हो; सार्वजनिक समापन बिंदु पर WAF.
3. डेटा: कॉर्पस को वर्गीकृत करें; परिवर्तन नियंत्रण मौजूद होने तक उच्च जोखिम वाले लेखन टूल को ब्लॉक करें।
4. मूल्यांकन सेट: 50-100 स्वर्ण प्रश्नोत्तर; जमीनी स्तर/अस्वीकार की गुणवत्ता को मापें।
5. रनबुक: रहस्यों को घुमाएँ, रनटाइम संस्करण को वापस रोल करें, टीम्स ऐप को अक्षम करें।

न्यूनतम टीमें → AgentCore आकार का आह्वान करती हैं

POST /runtimes/{agentRuntimeArn}/invocations
Authorization: Bearer <jwt>
X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aadObjectId}-{conversationId}
Content-Type: application/json

{
  "input": {
    "prompt": "<user message text>",
    "user": { "aadObjectId": "...", "upn": "..." },
    "channel": { "teamId": "...", "channelId": "..." }
  }
}

सटीक पेलोड स्कीमा आपके एजेंट अनुबंध पर निर्भर करती है - इसे संस्करणबद्ध रखें।

5. AgentCore + Microsoft ग्राफ़ (एजेंट जो टीमों में कार्य करते हैं)

"टीमों में चैट" से परे, AgentCore गेटवे उजागर कर सकता है टीमों का ग्राफ उपकरण के रूप में संचालन (चैनल संदेश भेजें, चैट, मीटिंग, उपस्थिति प्रबंधित करें)। आवश्यकताओं में आम तौर पर शामिल हैं:

• ग्राफ़ अनुमतियों के साथ Entra ID एप्लिकेशन (कम से कम विशेषाधिकार के साथ प्रारंभ करें; व्यवस्थापक सहमति)।
• एंट्रा के लिए AgentCore पहचान OAuth क्लाइंट।
• Microsoft Teams / ग्राफ़ के लिए गेटवे लक्ष्य।
• विश्वास स्थापित होने तक कोई भी लिखने/भेजने के लिए मानव-इन-लूप।

FDE मार्गदर्शन: जहाज इनबाउंड चैट एजेंट प्रथम; जोड़ें आउटबाउंड ग्राफ़ क्रियाएँ स्पष्ट अनुमति-सूचियों (चैनल, टीम, संदेश टेम्पलेट) के साथ दूसरे परिवर्तन टिकट में।

6. SageMaker एक ही प्रोग्राम में

टीम पायलट को SageMaker पर ब्लॉक न करें। जब आपको आवश्यकता हो तो SageMaker का परिचय दें:

• डोमेन-विशिष्ट क्लासिफायर (इरादा, तात्कालिकता, Guardrails से परे PII का पता लगाना)।
• RAG गुणवत्ता के लिए फाइन-ट्यून एम्बेडिंग या रीरैंकर्स।
• मॉडल रजिस्ट्री + अनुमोदन द्वार के साथ विनियमित मॉडल प्रशिक्षण।
• बड़े निगम पर बैच अनुमान नौकरियां।

विशिष्ट MLOps कंकाल: SageMaker पाइपलाइन → मॉडल रजिस्ट्री → स्टेजिंग एंडपॉइंट → कैनरी → उत्पाद; मॉडल मॉनिटर के साथ निगरानी; IaC (टेराफॉर्म / CDK) के साथ केवल CI (कोडपाइपलाइन / GitHub एक्शन) के माध्यम से प्रचार करें।

7. Amazon Q एक ही प्रोग्राम में

• क्यू बिजनेस प्रबंधित कनेक्टर्स के साथ व्यापक कर्मचारी प्रश्नोत्तर के लिए - अक्सर "इंट्रानेट खोजें" के लिए कस्टम RAG से तेज़।
• क्यू डेवलपर FDE/प्लेटफ़ॉर्म eng उत्पादकता (IaC, Lambda, CDK) के लिए।
• पैटर्न: चौड़ाई के लिए क्यू; AgentCore गहराई के लिए एजेंट (वर्कफ़्लो + टूल + टीम UX)।

8. FDE प्रशिक्षण पाठ्यक्रम (कार्यान्वयन और लॉन्च)

कुल FDE रैंप: ~2-3 सप्ताह का केंद्रित प्रशिक्षण + पहले पायलट पर जोड़ीदार डिलीवरी।

9. आवश्यकताएँ चेकलिस्ट

लोग

• FDE (एजेंट + एकीकरण)
• क्लाउड/प्लेटफ़ॉर्म इंजीनियर (IAM, नेटवर्किंग, IaC)
• Microsoft 365 / Entra एडमिन (ऐप सहमति, टीमें प्रकाशित)
• सुरक्षा/अनुपालन समीक्षक
• व्यवसाय स्वामी + पायलट उपयोगकर्ता

खाते और पहुंच

• AWS बेडरॉक, AgentCore, S3, CloudWatch के साथ खाता(खाते); वैकल्पिक SageMaker / Q
• Entra ID किरायेदार; बॉट सेवा के लिए Azure सदस्यता
• ऐप्स अपलोड/अनुमोदित करने के लिए टीमों के व्यवस्थापक अधिकार

डेटा

• स्पष्ट स्वामित्व और प्रतिधारण के साथ पायलट कॉर्पस
• वर्गीकरण लेबल; पीआईआई प्रबंधन नीति
• स्वर्णिम मूल्यांकन प्रश्न

10. टूलींग चेकलिस्ट

11. समय अनुमान (FDE-आधारित, सांकेतिक)

एक केंद्रित FDE + अंशकालिक प्लेटफ़ॉर्म + Entra व्यवस्थापक उपलब्धता मानता है। कैलेंडर दिन, अकेले व्यक्ति-घंटे नहीं।

12. चेकलिस्ट लॉन्च करें (व्यवसाय)

1. नामित व्यवसाय स्वामी और सफलता मेट्रिक्स (विक्षेपण, उत्तर देने का समय, सीएसएटी)।
2. पायलट सुरक्षा समूह और चैनल; FDE के लिए समर्थन घंटे।
3. Knowledge Base सिंक के लिए सामग्री ताजगी SLA।
4. घटना पथ: बॉट अक्षम करें, रहस्य घुमाएँ, पेज ऑन-कॉल।
5. बेडरॉक टोकन और AgentCore रनटाइम पर लागत बजट अलर्ट।
6. निर्णय द्वार: 4-6 सप्ताह के उपयोग डेटा के बाद विस्तार करें, रोकें या उत्पादन करें।

13. सामान्य विफलता मोड

• सागर का उबलना: एकल टीम पायलट से पहले मल्टी-एजेंट + लेखन उपकरण + पूर्ण इंट्रानेट।
• अंतिम पहचान: Entra/JWT डिज़ाइन के बिना एजेंट का निर्माण - टीमें आने पर पुनः कार्य करें।
• कोई सुनहरा सेट नहीं: यह नहीं बता सकता कि बड़े बदलावों के बाद RAG बेहतर हुआ या नहीं।
• SageMaker बहुत जल्दी: पुनर्प्राप्ति से पहले कस्टम मॉडल का प्रशिक्षण गुणवत्ता अच्छी है।
• व्यवस्थापक सहमति आश्चर्य: टीम/ग्राफ़ अनुमतियाँ हफ्तों के लिए अवरुद्ध - एंट्रा टिकट पहले दिन से प्रारंभ करें।

14. समापन

आधारशिला आपको मॉडल, RAG, और रेलिंग देता है। AgentCore आपको मेमोरी, पहचान और टूल (टीम ग्राफ़ सहित) के साथ एक प्रोडक्शन एजेंट रनटाइम देता है। SageMaker कस्टम ML और MLOps को कवर करता है। Amazon Q इसमें उत्पादित कर्मचारी/डेवलपर सहायक शामिल हैं। FDE पथ जो सबसे तेजी से मूल्य प्राप्त करता है वह है: RAG + Guardrails → AgentCore एजेंट → टीमें बॉट रिले → माप → उपकरण का विस्तार करें - SageMaker और Q बिजनेस के साथ समानांतर ट्रैक के रूप में जब उपयोग का मामला उनकी मांग करता है।

द्वारा प्रकाशित TenthMatrix - डिलीवरी कार्यक्रमों के लिए जो एजेंटों को वहां रखते हैं जहां व्यवसाय पहले से ही काम करता है।