জেনারেটিভ AI ডেভেলপমেন্ট
জেনারেটিভ AI অ্যাপ্লিকেশন, আপনার টিমের কাজের ধরনের সাথে মিলিয়ে তৈরি
আমরা নলেজ অ্যাসিস্ট্যান্ট, ড্রাফটিং টুল এবং কোপাইলট তৈরি করি যা আপনার নিজস্ব ডকুমেন্ট থেকে উত্তর দেয় এবং সেখানেই চলে যেখানে আপনার ডেটা নিয়ম বলে।
আগে সহজ ভাষায় জেনারেটিভ AI বুঝতে চান? আমাদের জেনারেটিভ AI ওভারভিউ জানায় এটি কীসের জন্য ভালো। এই পেজে আছে আমরা আপনার জন্য কী তৈরি করি এবং কীভাবে।
আমরা যা তৈরি করি
RAG নলেজ অ্যাসিস্ট্যান্ট
আপনার নীতি, ম্যানুয়াল, টিকিট ও উইকি থেকে উত্তর, প্রতিটি দাবির পেছনের সূত্রের লিংকসহ। অ্যাক্সেস আপনার বিদ্যমান অনুমতি অনুসরণ করে।
কনটেন্ট ও ডকুমেন্ট জেনারেশন
প্রস্তাব, রিপোর্ট, চুক্তি ও প্রোডাক্ট কপি আপনার টেমপ্লেট ও ডেটা থেকে ড্রাফট করা হয়, তারপর কিছু বাইরে যাওয়ার আগে মানব পর্যালোচনার জন্য পাঠানো হয়।
বিদ্যমান অ্যাপের ভেতরে কোপাইলট
আপনার CRM, হেল্পডেস্ক বা অভ্যন্তরীণ টুলে একটি অ্যাসিস্ট্যান্ট প্যানেল যা ড্রাফট করে, সারাংশ দেয় এবং তথ্য খুঁজে দেয়, যাতে মানুষকে অ্যাপ বদলাতে না হয়।
ডকুমেন্ট বোঝা
আগত ডকুমেন্টের শ্রেণিবিভাগ, তথ্য নিষ্কাশন ও সারাংশ, কনফিডেন্স স্কোর এবং অনিশ্চিত যেকোনো কিছুর জন্য রিভিউ কিউসহ।
ফাইন-টিউনিং ও ওপেন-ওয়েট হোস্টিং
যখন কোনো API মডেলের খরচ খুব বেশি, বা ডেটা আপনার সিস্টেমের বাইরে যেতে পারে না, তখন আমরা আপনার ইনফ্রাস্ট্রাকচারে vLLM বা Ollama দিয়ে ওপেন-ওয়েট মডেল ফাইন-টিউন ও হোস্ট করি।
মূল্যায়ন ও খরচ নিয়ন্ত্রণ
উত্তরের মানের জন্য টেস্ট সেট, লেটেন্সি ও খরচের জন্য OpenTelemetry ট্রেস, সাথে বিল পূর্বানুমেয় রাখতে রাউটিং ও ক্যাশিং।
একটি নলেজ অ্যাসিস্ট্যান্ট কীভাবে তৈরি হয়
উত্তরের মানের বেশিরভাগই আসে রিট্রিভাল থেকে। মানুষ যতটা ভাবে, মডেল ততটা গুরুত্বপূর্ণ নয়।
ইনজেস্ট
সূত্রগুলো সংযুক্ত করুন, ডকুমেন্ট যুক্তিসঙ্গতভাবে ভাগ করুন এবং মালিক, তারিখ ও অ্যাক্সেস অধিকারের মতো মেটাডেটা রাখুন।
রিট্রিভ
NebulaDB-এর মতো ভেক্টর ইনডেক্সে হাইব্রিড সার্চ, ব্যবহারকারী কী দেখার অনুমতি পান তার ভিত্তিতে ফিল্টার করা।
উত্তর
মডেল কেবল যা রিট্রিভ হয়েছে তা থেকে উত্তর দেয় এবং সূত্র উল্লেখ করে। প্রাসঙ্গিক কিছু না পেলে সেটাই জানায়।
পরিমাপ
সম্মত উত্তরসহ বাস্তব প্রশ্নের একটি টেস্ট সেট, প্রতিটি পরিবর্তনে স্কোর করা হয়, সাথে ব্যবহারকারীদের ফিডব্যাক।
ডেটা, মান ও খরচ
এটি কোথায় চলে
মডেল API, Amazon Bedrock বা Azure AI Foundry, অথবা আপনার নিজের সার্ভারে ওপেন-ওয়েট মডেল। প্রতিটি ব্যবহারের ক্ষেত্রে আপনি সিদ্ধান্ত নেন।
কী ও সিক্রেটস
API কী আপনার সিক্রেটস স্টোরে থাকে এবং WSL Vault-এর মাধ্যমে অ্যাপ্লিকেশনে পৌঁছায়, কনফিগ ফাইলের মাধ্যমে নয়।
যে মান আপনি যাচাই করতে পারেন
উত্তরে তাদের সূত্র উল্লেখ থাকে, এবং টেস্ট-সেটের ফলাফল আপনার রিপোজিটরিতে থাকে যাতে যে কেউ আবার চালাতে পারে।
যে খরচ আপনি আগে থেকে জানতে পারেন
প্রতিটি রিকোয়েস্টের খরচ ট্র্যাকিং, ক্যাশিং, এবং সহজ রিকোয়েস্ট ছোট মডেলে পাঠানো। LLM অবজার্ভেবিলিটি ও খরচ নিয়ন্ত্রণ নিয়ে আমাদের নিবন্ধে পদ্ধতিটি দেখানো হয়েছে।
নিবন্ধ পড়ুন: যে খরচ আপনি আগে থেকে জানতে পারেন
জেনারেটিভ AI প্রজেক্ট নিয়ে প্রশ্ন
আমরা ইতিমধ্যে ChatGPT বা Copilot ব্যবহার করি। কেন কিছু তৈরি করব?
সাধারণ অ্যাসিস্ট্যান্ট আপনার ডকুমেন্ট, অনুমতি বা প্রক্রিয়া জানে না। তৈরি করা অ্যাপ্লিকেশন আপনার সূত্র থেকে উত্তর দেয়, অ্যাক্সেস অধিকার মেনে চলে, কী করেছে তার লগ রাখে এবং আপনার টিম ইতিমধ্যে যে টুল ব্যবহার করে তার ভেতরেই থাকে।
আমাদের ডকুমেন্ট কোথায় যায়?
যেখানে আপনার ডেটা নিয়ম অনুমতি দেয়। আমরা সেগুলোর সাথে মিল রেখে প্রোভাইডার ও সেটিং বেছে নিই, অথবা একটি ওপেন-ওয়েট মডেল হোস্ট করি যাতে ডকুমেন্ট কখনও আপনার সিস্টেমের বাইরে না যায়।
আপনি কি আমাদের বিদ্যমান প্রোডাক্টে জেনারেটিভ AI যোগ করতে পারেন?
হ্যাঁ। আমরা ফিচারটি আপনার কোডবেসের ভেতরে, আপনার অথেন্টিকেশনের পেছনে, টেস্ট ও ডকসসহ তৈরি করি, যাতে আপনার ইঞ্জিনিয়াররা এটি মেইনটেইন করতে পারেন।
আপনি কীভাবে জানেন উত্তরগুলো সঠিক?
বিল্ডের আগে আমরা আপনার সাথে বাস্তব প্রশ্ন ও সঠিক উত্তরের একটি টেস্ট সেট ঠিক করি, এবং প্রতিটি পরিবর্তন তার বিপরীতে স্কোর করি। যে উত্তরের কোনো সূত্রে ভিত্তি পাওয়া যায় না, তা প্রত্যাখ্যান করা হয়।
একটি ব্যবহারের ক্ষেত্র বেছে নিন, আমরা তার স্কোপ ঠিক করব
ড্রাফটিং, নলেজ উত্তর বা বিদ্যমান অ্যাপে কোপাইলট। আমাদের জানান কোনটি, এবং সংশ্লিষ্ট ডকুমেন্টগুলো।