الموضوع
منشورات موسومة بـ MLOps
TenthMatrix حول الكشف عن اختناقات وكيل LLM مع إمكانية المراقبة: OpenTelemetry، وPrometheus/Grafana/Thanos، وLangfuse - مع إيجابيات/سلبيات واضحة، ورافعات التكلفة، ومقاييس الاستخدام التي تحمي الهوامش.
TenthMatrix على الشحن التوربيني LLMs: ترحيل PagedAttention لذاكرة التخزين المؤقت KV، وخدمة vLLM، وSelf-Debugging للوكلاء، ومعدلات الرمز المميز PowerInfer، وقطع ذاكرة EG-MLA - مع مقايضات الإنتاج.
موجز تقني من TenthMatrix حول التعلم العميق: شبكات عميقة مدرَّبة بالتدرج، نماذج تمييزية مقابل توليدية، مقاييس المهام، وBedrock مقابل الخدمة على Kubernetes.
يدفع Kimi K3 نماذج الأوزان المفتوحة إلى نطاق الوكلاء الحدودي. ما تغيّر للمطورين وserving عبر vLLM وMCP ونصائح الإنتاج من TenthMatrix.
نفّذ Amazon Bedrock وBedrock AgentCore وSageMaker وAmazon Q، ثم أطلق أول وكيل أعمال في Microsoft Teams — مع المتطلبات والأدوات وصناديق الوقت.
اربط Kubeflow وArgo CD لـ MLOps على Kubernetes: درّب وسجّل النماذج في Kubeflow، ورقِّ InferenceServices بـ GitOps، وتراجع بـ git revert.
ما هي نماذج اللغات الكبيرة وكيف تعمل؟ شرح واضح وغير تقني للمديرين والمهندسين - الرموز المميزة والتضمينات والمحولات والتدريب والاستدلال - بالإضافة إلى إنتاج Kubernetes YAML لنشر LLM الخاص بك مع Ollama وvLLM.