মূল বিষয়বস্তুতে যান
প্রজেক্ট শুরু করুন

AI এজেন্ট ডেভেলপমেন্ট

আপনার সিস্টেমের জন্য তৈরি এজেন্ট, যার দায়িত্বে থাকেন একজন মানুষ

আমরা এমন এজেন্ট ডিজাইন ও তৈরি করি যা আপনার টুলে বহু ধাপের কাজ করে। তারা টিকিট পড়ে, প্রসঙ্গ সংগ্রহ করে, পরিবর্তনের খসড়া তৈরি করে এবং শিপ হওয়ার আগে রিভিউয়ের জন্য থামে।

আমরা ক্লায়েন্টের এজেন্ট ঠিক সেভাবেই তৈরি করি যেভাবে Jobshout-এ নিজেদের এজেন্ট তৈরি করি: কঠোর স্কিমাসহ টুল, সীমিত লুপ, অনুমোদন গেট এবং প্রতিটি ধাপের ট্রেস।

প্রজেক্ট শুরু করুনকেন TenthMatrix এজেন্ট
  • Claude, OpenAI বা ওপেন-ওয়েট
  • MCP ইন্টিগ্রেশন
  • অনুমোদন গেট

আমরা যে এজেন্ট তৈরি করি

প্রতিটি এজেন্ট পায় একটি জব ডেসক্রিপশন, একজন ওনার এবং যেসব কাজের অনুমতি তার নেই তার একটি তালিকা।

  • সাপোর্ট এজেন্ট

    আসা টিকিট ট্রায়াজ করে, অর্ডার ও অ্যাকাউন্টের ইতিহাস আনে, আপনার নীতির ভিত্তিতে উত্তরের খসড়া তৈরি করে এবং অস্বাভাবিক কিছু হলে একজন মানুষের কাছে পাঠায়।

  • সেলস ও CRM এজেন্ট

    লিড সমৃদ্ধ করে, কলের পরে CRM রেকর্ড আপডেট করে, ফলো-আপের খসড়া তৈরি করে এবং আটকে থাকা ডিল চিহ্নিত করে। অনুমোদন ছাড়া কিছুই গ্রাহকের কাছে পৌঁছায় না।

  • অপস ও SRE এজেন্ট

    অ্যালার্ট, লগ ও ড্যাশবোর্ড পড়ে, ইনসিডেন্টের সারাংশ তৈরি করে এবং সমাধান প্রস্তাব করে। অটোমেশন ধাপে ধাপে বাড়ে, শুধু সেইসব কাজের জন্য যেগুলোতে আপনি ভরসা করেন।

    KubePilot-এর বিবরণ পড়ুন: অপস ও SRE এজেন্ট

  • ডকুমেন্ট প্রসেসিং এজেন্ট

    ইনভয়েস, চুক্তি ও ফর্ম থেকে ফিল্ড বের করে, আপনার রেকর্ডের সঙ্গে মিলিয়ে দেখে এবং সঠিক সিস্টেমে পোস্ট করে, অনিশ্চিত কিছুর জন্য একটি কিউসহ।

    VAT রিটার্ন বিল্ড পড়ুন: ডকুমেন্ট প্রসেসিং এজেন্ট

  • কোডিং ও রিভিউ এজেন্ট

    পুল রিকোয়েস্ট রিভিউ করে, টেস্ট লেখে এবং আপনার ইঞ্জিনিয়ারদের মার্জ করার জন্য পরিবর্তন খোলে। Jobshout-এর PR Reviewer আমাদের নিজস্ব রিপোজিটরিতে ঠিক এটাই করে।

    Jobshout দেখুন: কোডিং ও রিভিউ এজেন্ট

  • মাল্টি-এজেন্ট ওয়ার্কফ্লো

    একটি প্ল্যানার বিশেষজ্ঞ এজেন্টদের কাজ দেয় এবং একটি সুপারভাইজার ফলাফল যাচাই করে, আবার চেষ্টা করে বা এসকেলেট করে। যখন একটি কাজ কয়েকটি সিস্টেম জুড়ে যায়, তখন এটি কাজে লাগে।

আমরা কীভাবে একটি এজেন্ট তৈরি করি

এজেন্ট হলো একটি লুপ। মডেল একটি টুল বেছে নেয়, টুল চলে, ফলাফল আবার মডেলের কাছে যায়। বেশিরভাগ ব্যর্থতা মডেল থেকে নয়, লুপ থেকে আসে, তাই আমরা সেখানেই পরিশ্রম করি।

টুলগুলো টাইপড এবং চলার আগে যাচাই করা হয়। লুপের জন্য ধাপ, সময় ও খরচের বাজেট থাকে। প্রম্পট কোডের মতো ভার্সন করা হয়, এবং প্রতিটি রান এমন একটি ট্রেস রেখে যায় যা আপনি পড়তে পারেন।

  • প্ল্যানার, এক্সিকিউটর, মেমরি ও সুপারভাইজার আলাদা অংশ হিসেবে
  • কঠোর যাচাইসহ স্কিমা-ফার্স্ট টুল
  • ডিটারমিনিস্টিক রিট্রাই ও সীমিত লুপ

টেক স্ট্যাক

আমরা প্রতিটি প্রজেক্ট অনুযায়ী বেছে নিই। এগুলো সেই টুল যা আমাদের ইঞ্জিনিয়াররা ব্যবহার করেন এবং আমাদের আর্টিকেলে যেগুলো নিয়ে লেখেন।

  • মডেল

    • Anthropic API বা Amazon Bedrock-এর মাধ্যমে Claude
    • OpenAI মডেল
    • ওপেন-ওয়েট মডেল: Llama, Mistral, Qwen, Kimi

  • এজেন্ট ফ্রেমওয়ার্ক

    • Claude Agent SDK ও Claude Code সাবএজেন্ট
    • LangChain ও LangGraph
    • AutoGen
    • নির্ধারিত পাইপলাইনের জন্য Airflow 3

  • Integration

    • OAuth-সহ MCP সার্ভার
    • REST ও ওয়েবহুক কানেক্টর
    • Amazon Bedrock AgentCore

  • হোস্টিং ও ইনফারেন্স

    • সেলফ-হোস্টেড মডেলের জন্য vLLM, TGI ও Ollama
    • Kubernetes ও k3s
    • Amazon Bedrock ও Azure AI Foundry

  • মেমরি ও রিট্রিভাল

    • ভেক্টর সার্চ, NebulaDB সহ
    • এজেন্ট স্টেটের জন্য কী-ভ্যালু স্টোর
    • সোর্স উদ্ধৃতিসহ রিট্রিভাল

  • অবজার্ভেবিলিটি

    • OpenTelemetry ট্রেস
    • Prometheus মেট্রিক্স
    • প্রতিটি এজেন্টের জন্য খরচ ও লেটেন্সি বাজেট

গার্ডরেল

সীমা ডিজাইনের অংশ। বিল্ড শুরুর আগেই আমরা সেগুলো লিখে রাখি।

  • অনুমোদন গেট

    যেসব কাজ পাঠায়, খরচ করে বা মুছে ফেলে, সেগুলো একজন নির্দিষ্ট ব্যক্তির জন্য থেমে থাকে। এজেন্ট খসড়া তৈরি করতে পারে। নিজে থেকে সে শুধু সেই ধাপগুলোই শিপ করে যেগুলো অটোমেট করা নিরাপদ বলে আপনি ঠিক করেছেন।

  • স্কোপড ক্রেডেনশিয়াল

    এজেন্ট কখনো দীর্ঘস্থায়ী কী রাখে না। WSL Vault প্রতিটি এজেন্ট ও প্রতিটি টাস্কের জন্য স্বল্পস্থায়ী ক্রেডেনশিয়াল দেয় এবং প্রতিটি ব্যবহার লগ করে।

  • এজ কন্ট্রোল

    মডেল ও টুল ট্রাফিক WSL Proxy-এর মধ্য দিয়ে যেতে পারে, যা এজে WAF নিয়ম, রেট লিমিট ও অডিট ট্রেইল যোগ করে।

  • অ্যালাউ-লিস্ট ও বাজেট

    প্রতিটি এজেন্ট পায় টুল ও ডেটা সোর্সের একটি স্পষ্ট তালিকা, সঙ্গে প্রতিটি রানের জন্য ধাপ, সময় ও খরচের সীমা।

ইভ্যালুয়েশন ও ডিপ্লয়মেন্ট

এজেন্ট তখনই সম্পূর্ণ, যখন সে production-এ তার টেস্ট পাস করে, ডেমো কাজ করলে নয়।

  1. ইভ্যালুয়েশন সেট তৈরি করুন

    আপনার কাজ থেকে নেওয়া বাস্তব উদাহরণ, প্রতিটির সঙ্গে সেই উত্তর যা একজন ভালো সহকর্মী দিতেন। প্রতিটি পরিবর্তন এর বিপরীতে স্কোর করা হয়।

  2. ট্রেস ও পরিমাপ

    প্রতিটি রানের টাস্ক সাফল্য, টুল ত্রুটি, লেটেন্সি ও খরচ, OpenTelemetry ট্রেস থেকে নেওয়া।

  3. রিংয়ের মাধ্যমে রিলিজ

    Ring Promoter প্রতিটি রিলিজকে int থেকে test, acc ও prod-এ নিয়ে যায় শুধু তখনই যখন হেলথ চেক পাস করে, এবং ব্যর্থ হলে রোলব্যাক করে।

  4. production-এ নজর রাখুন

    মনিটরিং, অ্যালার্ট এবং ব্যর্থতা ও খরচের নিয়মিত পর্যালোচনা। প্রতিটি ব্যর্থতা একটি নতুন ইভ্যালুয়েশন কেস হয়ে যায়।

এজেন্ট প্রজেক্ট নিয়ে প্রশ্ন

আপনারা কি ফ্রেমওয়ার্ক ব্যবহার করেন, নাকি শুরু থেকে তৈরি করেন?

দুটোই। LangGraph বা Claude Agent SDK-এর মতো কোনো ফ্রেমওয়ার্ক মানানসই হলে আমরা সেটি ব্যবহার করি। কাজ সহজ হলে টাইপড টুলসহ একটি ছোট লুপ টেস্ট ও মেইনটেইন করা সহজ।

এজেন্ট কি আমাদের নিজস্ব হার্ডওয়্যারে চলতে পারে?

হ্যাঁ। আমরা vLLM বা Ollama দিয়ে আপনার সার্ভারে ওপেন-ওয়েট মডেল হোস্ট করি। মেশিন দরকার হলে আমাদের সিস্টার কোম্পানি Workstation GPU ওয়ার্কস্টেশন ও ক্লাস্টারের স্পেসিফিকেশন ঠিক করে এবং তৈরি করে।

আপনারা কীভাবে এজেন্টকে ক্ষতিকর কিছু করা থেকে আটকান?

সে শুধু তার অ্যালাউ-লিস্টের টুলই কল করতে পারে, স্কোপড ক্রেডেনশিয়াল দিয়ে, ধাপ ও খরচের সীমার মধ্যে। যা কিছু পাঠায়, খরচ করে বা মুছে ফেলে তা অনুমোদনের অপেক্ষায় থাকে, এবং প্রতিটি রান লগ করা হয়।

প্রজেক্ট শেষ হলে এজেন্টের মালিক কে?

আপনি। কোড, প্রম্পট, ইভ্যালুয়েশন সেট ও রানবুক প্রথম কমিট থেকেই আপনার রিপোজিটরিতে থাকে।

সম্পর্কিত

এমন একটি কাজের কথা বলুন যা আপনি এজেন্টকে দিয়ে করাতে চান

আমরা একটি এজেন্ট ডিজাইন, ঝুঁকি এবং পাইলটে কীভাবে তা প্রমাণ করব তা নিয়ে উত্তর দেব।

প্রজেক্ট শুরু করুনআউটসোর্সিং কীভাবে কাজ করে