AI एजेंट डेवलपमेंट
आपके सिस्टम के लिए बने एजेंट, जिनकी कमान एक इंसान के हाथ में रहती है
हम ऐसे एजेंट डिज़ाइन और तैयार करते हैं जो आपके टूल्स में कई चरणों वाला काम करते हैं। वे टिकट पढ़ते हैं, संदर्भ जुटाते हैं, बदलाव का ड्राफ़्ट बनाते हैं और शिप होने से पहले रिव्यू के लिए रुकते हैं।
हम क्लाइंट एजेंट उसी तरह बनाते हैं जैसे Jobshout में अपने एजेंट बनाते हैं: सख़्त स्कीमा वाले टूल्स, सीमित लूप, स्वीकृति गेट और हर चरण का ट्रेस।
हमारे बनाए एजेंट
हर एजेंट को एक जॉब डिस्क्रिप्शन, एक ओनर और उन कामों की सूची मिलती है जिनकी उसे अनुमति नहीं है।
सपोर्ट एजेंट
आने वाले टिकटों की ट्राइएज करें, ऑर्डर और अकाउंट हिस्ट्री निकालें, आपकी पॉलिसी पर आधारित जवाबों का ड्राफ़्ट बनाएँ और कुछ भी असामान्य हो तो किसी व्यक्ति को भेजें।
सेल्स और CRM एजेंट
लीड्स को समृद्ध करें, कॉल के बाद CRM रिकॉर्ड अपडेट करें, फ़ॉलो-अप का ड्राफ़्ट बनाएँ और रुकी हुई डील्स को फ़्लैग करें। स्वीकृति के बिना कुछ भी ग्राहक तक नहीं पहुँचता।
ऑप्स और SRE एजेंट
अलर्ट, लॉग और डैशबोर्ड पढ़ें, इंसिडेंट का सारांश बनाएँ और समाधान प्रस्तावित करें। ऑटोमेशन धीरे-धीरे बढ़ता है, केवल उन्हीं कार्रवाइयों के लिए जिन पर आपको भरोसा है।
KubePilot का विवरण पढ़ें: ऑप्स और SRE एजेंटडॉक्यूमेंट प्रोसेसिंग एजेंट
इनवॉइस, कॉन्ट्रैक्ट और फ़ॉर्म से फ़ील्ड निकालें, उन्हें आपके रिकॉर्ड से मिलाएँ और सही सिस्टम में पोस्ट करें, अनिश्चित मामलों के लिए एक कतार के साथ।
VAT रिटर्न बिल्ड पढ़ें: डॉक्यूमेंट प्रोसेसिंग एजेंटकोडिंग और रिव्यू एजेंट
पुल रिक्वेस्ट रिव्यू करें, टेस्ट लिखें और आपके इंजीनियरों के मर्ज करने के लिए बदलाव खोलें। Jobshout का PR Reviewer हमारी अपनी रिपॉज़िटरी पर यही करता है।
Jobshout देखें: कोडिंग और रिव्यू एजेंटमल्टी-एजेंट वर्कफ़्लो
एक प्लानर काम विशेषज्ञ एजेंटों को सौंपता है और एक सुपरवाइज़र परिणाम जाँचता है, दोबारा कोशिश करता है या एस्केलेट करता है। तब उपयोगी जब एक काम कई सिस्टमों से होकर गुज़रता है।
हम एजेंट कैसे बनाते हैं
एजेंट एक लूप है। मॉडल एक टूल चुनता है, टूल चलता है, परिणाम वापस मॉडल के पास जाता है। ज़्यादातर विफलताएँ मॉडल से नहीं बल्कि लूप से आती हैं, इसलिए हम मेहनत वहीं लगाते हैं।
टूल्स टाइप्ड होते हैं और चलने से पहले वैलिडेट किए जाते हैं। लूप्स के लिए चरण, समय और लागत का बजट होता है। प्रॉम्प्ट्स को कोड की तरह वर्ज़न किया जाता है, और हर रन एक ऐसा ट्रेस छोड़ता है जिसे आप पढ़ सकते हैं।
- प्लानर, एक्ज़ीक्यूटर, मेमोरी और सुपरवाइज़र अलग-अलग हिस्सों के रूप में
- सख़्त वैलिडेशन वाले स्कीमा-फ़र्स्ट टूल्स
- डिटर्मिनिस्टिक रिट्राई और सीमित लूप
टेक स्टैक
हम हर प्रोजेक्ट के हिसाब से चुनते हैं। ये वे टूल्स हैं जिनका हमारे इंजीनियर उपयोग करते हैं और जिनके बारे में हमारे लेखों में लिखते हैं।
मॉडल
- Anthropic API या Amazon Bedrock के ज़रिए Claude
- OpenAI मॉडल
- ओपन-वेट मॉडल: Llama, Mistral, Qwen, Kimi
एजेंट फ़्रेमवर्क
- Claude Agent SDK और Claude Code सबएजेंट
- LangChain और LangGraph
- AutoGen
- शेड्यूल्ड पाइपलाइन के लिए Airflow 3
Integration
- OAuth के साथ MCP सर्वर
- REST और वेबहुक कनेक्टर
- Amazon Bedrock AgentCore
होस्टिंग और इन्फ़रेंस
- सेल्फ़-होस्टेड मॉडल के लिए vLLM, TGI और Ollama
- Kubernetes और k3s
- Amazon Bedrock और Azure AI Foundry
मेमोरी और रिट्रीवल
- वेक्टर सर्च, NebulaDB सहित
- एजेंट स्टेट के लिए की-वैल्यू स्टोर
- स्रोत उद्धरणों के साथ रिट्रीवल
ऑब्ज़र्वेबिलिटी
- OpenTelemetry ट्रेस
- Prometheus मेट्रिक्स
- हर एजेंट के लिए लागत और लेटेंसी बजट
गार्डरेल्स
सीमाएँ डिज़ाइन का हिस्सा हैं। हम उन्हें बिल्ड शुरू होने से पहले लिख लेते हैं।
स्वीकृति गेट
भेजने, खर्च करने या डिलीट करने वाली कार्रवाइयाँ एक नामित व्यक्ति के लिए रुकती हैं। एजेंट ड्राफ़्ट बना सकता है। वह अपने आप केवल उन्हीं चरणों को शिप करता है जिन्हें आपने ऑटोमेट करने के लिए सुरक्षित तय किया है।
स्कोप्ड क्रेडेंशियल्स
एजेंट कभी लंबे समय तक चलने वाली कुंजियाँ नहीं रखते। WSL Vault हर एजेंट और हर टास्क के लिए अल्पकालिक क्रेडेंशियल्स जारी करता है और हर उपयोग को लॉग करता है।
एज कंट्रोल
मॉडल और टूल ट्रैफ़िक WSL Proxy से होकर गुज़र सकता है, जो एज पर WAF नियम, रेट लिमिट और ऑडिट ट्रेल जोड़ता है।
अलाउ-लिस्ट और बजट
हर एजेंट को टूल्स और डेटा स्रोतों की एक स्पष्ट सूची मिलती है, साथ ही हर रन के लिए चरण, समय और लागत की सीमाएँ।
इवैल्यूएशन और डिप्लॉयमेंट
एजेंट तब पूरा होता है जब वह production में अपने टेस्ट पास करता है, न कि तब जब डेमो काम करता है।
इवैल्यूएशन सेट बनाएँ
आपके काम से लिए गए असली उदाहरण, हर एक के साथ वह जवाब जो एक अच्छा सहकर्मी देगा। हर बदलाव को इसी पर स्कोर किया जाता है।
ट्रेस और माप
हर रन के लिए टास्क सफलता, टूल त्रुटियाँ, लेटेंसी और लागत, OpenTelemetry ट्रेस से ली गई।
रिंग्स के ज़रिए रिलीज़
Ring Promoter हर रिलीज़ को int से test, acc और prod तक तभी ले जाता है जब हेल्थ चेक पास होते हैं, और उनके फ़ेल होने पर रोलबैक करता है।
production में निगरानी रखें
मॉनिटरिंग, अलर्ट और विफलताओं व लागत की नियमित समीक्षा। हर विफलता एक नया इवैल्यूएशन केस बन जाती है।
एजेंट प्रोजेक्ट्स के बारे में सवाल
क्या आप फ़्रेमवर्क उपयोग करते हैं या शुरू से बनाते हैं?
दोनों। अगर LangGraph या Claude Agent SDK जैसा कोई फ़्रेमवर्क फ़िट बैठता है, तो हम उसका उपयोग करते हैं। अगर काम सरल है, तो टाइप्ड टूल्स वाला एक छोटा लूप टेस्ट और मेंटेन करना आसान होता है।
क्या एजेंट हमारे अपने हार्डवेयर पर चल सकता है?
हाँ। हम ओपन-वेट मॉडल vLLM या Ollama के साथ आपके सर्वर पर होस्ट करते हैं। अगर आपको मशीनें चाहिए, तो हमारी सिस्टर कंपनी Workstation GPU वर्कस्टेशन और क्लस्टर स्पेसिफ़ाई करती है और बनाती है।
आप एजेंट को कुछ हानिकारक करने से कैसे रोकते हैं?
वह केवल अपनी अलाउ-लिस्ट वाले टूल्स ही कॉल कर सकता है, स्कोप्ड क्रेडेंशियल्स के साथ, चरण और लागत की सीमाओं के भीतर। भेजने, खर्च करने या डिलीट करने वाली हर चीज़ स्वीकृति का इंतज़ार करती है, और हर रन लॉग होता है।
प्रोजेक्ट ख़त्म होने पर एजेंट का मालिक कौन होता है?
आप। कोड, प्रॉम्प्ट्स, इवैल्यूएशन सेट और रनबुक पहले कमिट से ही आपकी रिपॉज़िटरी में होते हैं।
ऐसा एक काम बताइए जो आप एजेंट से करवाना चाहते हैं
हम एक एजेंट डिज़ाइन, जोखिमों और पायलट में इसे कैसे साबित करेंगे, इसके साथ जवाब देंगे।