Moonshot AI ਦਾ Kimi K3 ਨੇ open weights ਦੀ ਖੋਜ ਨਹੀਂ ਕੀਤੀ — Llama, DeepSeek, Qwen ਅਤੇ ਹੋਰਾਂ ਨੇ ਪਹਿਲਾਂ ਹੀ ਇਸ ਸ਼੍ਰੇਣੀ ਨੂੰ ਸਾਬਤ ਕੀਤਾ। ਜੁਲਾਈ 2026 ਦੇ ਅੰਤ ਵਿੱਚ ਜੋ ਬਦਲਿਆ ਉਹ ਇਹ ਹੈ ਕਿ ~2.8 ਟ੍ਰਿਲੀਅਨ ਪੈਰਾਮੀਟਰ, 1M-ਟੋਕਨ ਸੰਦਰਭ ਅਤੇ day-0 ਪ੍ਰੋਡਕਸ਼ਨ serving ਵਾਲਾ open-weight ਮਾਡਲ ਹੁਣ ਉਨ੍ਹਾਂ agent ਵਰਕਲੋਡਾਂ ’ਤੇ ਮੁਕਾਬਲਾ ਕਰ ਰਿਹਾ ਹੈ ਜੋ ਪਹਿਲਾਂ Anthropic ਅਤੇ OpenAI ਲਈ ਰਾਖਵੇਂ ਸਨ। ਇਹ TenthMatrix ਗਾਈਡ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਟੈਕ ਲੀਡਰਾਂ ਲਈ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਫੈਸਲਾ ਚਾਹੀਦਾ ਹੈ: self-host, managed API, ਜਾਂ hybrid — ਅਤੇ ਕਿਹੜੇ ਹੋਰ open ਮਾਡਲ ਰਾਡਾਰ ’ਤੇ ਹੋਣ।
1. Moonshot ਨੇ ਕੀ ਸ਼ਿਪ ਕੀਤਾ
Moonshot ਦੇ GitHub ਅਤੇ ਤਕਨੀਕੀ ਸਮੱਗਰੀ ਅਨੁਸਾਰ (weights ਜਨਤਕ ~27 ਜੁਲਾਈ 2026):
- Kimi K3 — open-weight, ਨੇਟਿਵ ਮਲਟੀਮੋਡਲ agentic ਮਾਡਲ; ਕੁੱਲ ~2.8T ਪੈਰਾਮੀਟਰ (MoE)।
- ਆਰਕੀਟੈਕਚਰ ਹਾਈਲਾਈਟਸ: Kimi Delta Attention (KDA), Attention Residuals (AttnRes), Stable LatentMoE; sparse expert ਸਰਗਰਮੀ (ਕ੍ਰਮ 896 ਵਿੱਚੋਂ 16 experts / ਪ੍ਰਤੀ ਟੋਕਨ ~100B-ਵਰਗ ਸਰਗਰਮ params — ਲਾਈਵ model card ’ਤੇ ਪੁਸ਼ਟੀ ਕਰੋ)।
- 1M-ਟੋਕਨ ਸੰਦਰਭ; vision + tool use + long-horizon coding/knowledge work।
- Weights: Hugging Face
moonshotai/Kimi-K3(ਅਕਸਰ MXFP4; footprint ~1.4TB)। - Day-0 inference ਇੰਜਣ: vLLM, SGLang, TokenSpeed; hosted API platform.kimi.ai ’ਤੇ।
ਲਾਇਸੰਸ: Kimi K3 License — ਸਭ ਲਈ ਮੁਫ਼ਤ SaaS ਇਜਾਜ਼ਤ ਨਹੀਂ। Enterprises ਅਤੇ Model-as-a-Service ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਉਤਪਾਦ ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਕਾਨੂੰਨੀ ਸਮੀਖਿਆ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ (VentureBeat ਅਤੇ ਸੁਤੰਤਰ ਲੇਖਾਂ ਨੇ ਵਪਾਰਕ ਥਰੈਸ਼ਹੋਲਡ ਫਲੈਗ ਕੀਤੇ)। Open weights ≠ ਹਰ ਕਾਰੋਬਾਰੀ ਮਾਡਲ ਲਈ ਖੁੱਲ੍ਹਾ।
2. ਕੀ ਇਹ Anthropic ਅਤੇ OpenAI ਨਾਲ ਕਦਮ ਮਿਲਾ ਸਕਦਾ ਹੈ?
ਬਿਲਡਰਾਂ ਲਈ ਛੋਟਾ ਜਵਾਬ: ਕਈ agent-ਸੰਬੰਧੀ benches ’ਤੇ, ਹਾਂ — ਐਨਾ ਨੇੜੇ ਕਿ ਡਿਫਾਲਟ ਹੁਣ «ਸਿਰਫ਼ closed» ਨਹੀਂ ਰਹਿਣਾ ਚਾਹੀਦਾ।
ਲਾਂਚ ਤੋਂ ਬਾਅਦ community ਅਤੇ vendor ਮੁਲਾਂਕਣਾਂ ਨੇ K3 ਨੂੰ SWE-bench Verified ਅਤੇ LiveCodeBench-ਸਟਾਈਲ suites ’ਤੇ ਅਗਵਾਈ ਵਾਲੇ proprietary ਮਾਡਲਾਂ ਦੇ ਉਸੇ ਬੈਂਡ ਵਿੱਚ ਰੱਖਿਆ, Claude Sonnet ਅਤੇ GPT-4o-class baselines ਖਿਲਾਫ਼ ਮੁਕਾਬਲੇ ਵਾਲੇ tool-use ਨਾਲ। ਇਹੀ ਮੀਲ ਪੱਥਰ ਹੈ: open weights agent ਕੰਮਾਂ ’ਤੇ ਬਾਰ ਪਾਰ ਕਰ ਰਹੇ ਹਨ, ਸਿਰਫ਼ MMLU trivia ਨਹੀਂ।
Caveats ਜਿਨ੍ਹਾਂ ’ਤੇ TenthMatrix ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ:
- ਬੈਂਚਮਾਰਕ harness-ਸੰਵੇਦਨਸ਼ੀਲ ਹਨ — ਆਪਣਾ golden set ਚਲਾਓ।
- p50 latency ਜਿੱਤ multi-tool agent chains ’ਤੇ p95/p99 ਦਰਦ ਲੁਕਾ ਸਕਦੀ ਹੈ।
- Closed labs ਅਜੇ ਵੀ product polish, safety tooling ਅਤੇ support SLA ਵਿੱਚ ਅੱਗੇ ਹਨ।
- Hybrid routing (ਨਿੱਜੀ ਡਾਟਾ ਲਈ open + peak-critical ਲਈ closed) ਵਿਹਾਰਕ ਆਰਕੀਟੈਕਚਰ ਬਣਿਆ ਰਹਿੰਦਾ ਹੈ।
3. ਇਨਫ੍ਰਾ ਮਹੀਨਿਆਂ ਨਹੀਂ, ਦਿਨਾਂ ਵਿੱਚ ਕਿਉਂ ਹਿੱਲੀ
ਰਣਨੀਤਕ ਬਦਲਾਅ serving ਪਰਿਪੱਕਤਾ ਹੈ:
- vLLM ਨੇ day-0 ਪ੍ਰੋਡਕਸ਼ਨ ਗਾਈਡੈਂਸ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀ: KDA-aware prefix caching, NVIDIA/AMD kernels, prefill/decode disaggregation, speculative decoding (DSpark draft models), tool calling, structured output।
- Cloud inference engines ਅਤੇ hyperscalers (AWS SageMaker HyperPod / EKS recipes ਸਮੇਤ) ਨੇ weights ਆਉਣ ਦੇ ਉਸੇ ਹਫ਼ਤੇ deploy ਰਾਹ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ।
- ਨਤੀਜਾ: self-host ਬਨਾਮ managed ਵਧਦੇ ਹੋਏ ਇੱਕ config ਅਤੇ FinOps ਫੈਸਲਾ ਹੈ, ਤਿਮਾਹੀ-ਲੰਬੀ ਰਿਸਰਚ ਪ੍ਰੋਜੈਕਟ ਨਹੀਂ — ਜੇ ਤੁਹਾਡੇ ਕੋਲ ਪਹਿਲਾਂ ਹੀ GPU ਸਮਰੱਥਾ ਅਤੇ MLOps muscle ਹੈ।
4. ਹਾਰਡਵੇਅਰ ਅਸਲੀਅਤ (ਛੱਡੋ ਨਾ)
K3 ਲੈਪਟਾਪ ਮਾਡਲ ਨਹੀਂ ਹੈ। Moonshot-ਅਧਾਰਿਤ ਗਾਈਡੈਂਸ datacenter-scale ਡਿਪਲੌਇਮੈਂਟ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੀ ਹੈ (ਪ੍ਰਕਾਸ਼ਿਤ vLLM notes ਵਿੱਚ ਅਕਸਰ ਘੱਟੋ-ਘੱਟ ਭਰੋਸੇਯੋਗ ਰਾਹ ਵਜੋਂ 16+ high-end GPUs; ਪਸੰਦੀਦਾ configs 64+ accelerators ਤੱਕ)। ਸਿਰਫ਼ weights ਹੀ terabyte-ਵਰਗ ਹਨ।
SME / mid-market ਰਾਹ: TenthMatrix boxes ’ਤੇ ਛੋਟੇ open MoE ਚਲਾਓ; ਜਦੋਂ ਉਸ IQ ਦੀ ਲੋੜ ਹੋਵੇ ਤਾਂ managed API ਰਾਹੀਂ K3 ਕਾਲ ਕਰੋ; RAG corpora ਅਤੇ agents ਨਿੱਜੀ ਰੱਖੋ।
Enterprise ਰਾਹ: GPU cluster + vLLM/SGLang + GitOps + evals — ਜਾਂ managed capacity ਖਰੀਦੋ ਅਤੇ kernels ਦੀ ਬਜਾਏ agent ਪਰਤ ਵਿੱਚ ਇੰਜੀਨੀਅਰਿੰਗ ਨਿਵੇਸ਼ ਕਰੋ।
ਵੀਡੀਓ: ਅਮਲੀ vLLM cloud serve walkthrough — K3-ਵਰਗ ਨੋਡ ਸਾਈਜ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਲਾਭਦਾਇਕ।
5. ਨੀਤੀ ਅਤੇ ਸੁਰੱਖਿਆ ਪਿਛੋਕੜ
ਉਸੇ ਵਿੰਡੋ ਵਿੱਚ NVIDIA ਅਤੇ ਭਾਈਵਾਲਾਂ ਨੇ Open Secure AI Alliance ਨੂੰ ਅੱਗੇ ਵਧਾਇਆ ਅਤੇ Open Weights and American AI Leadership ਚਿੱਠੀ ਨੂੰ ਵਧਾਇਆ (270+ orgs)। ਦਲੀਲ: open weights ਸਿਰਫ਼ ਅਰਥਸ਼ਾਸਤਰ ਦੀ ਕਹਾਣੀ ਨਹੀਂ — defenders ਨੂੰ agents ਅਤੇ ਸਾਫ਼ਟਵੇਅਰ supply chains ਨੂੰ red-team ਕਰਨ ਲਈ inspectable ਮਾਡਲ ਚਾਹੀਦੇ ਹਨ। openness ਨੂੰ evals, guardrails ਅਤੇ ਤੇਜ਼ patch ਸਭਿਆਚਾਰ ਨਾਲ ਜੋੜੋ — wishful «open ਮਾਡਲਾਂ ’ਤੇ ਪਾਬੰਦੀ» ਨਹੀਂ।
6. MCP stateless ਹੋ ਗਿਆ (agents ਨੂੰ ਕਿਉਂ ਫਰਕ ਪੈਂਦਾ ਹੈ)
MCP 2026-07-28 ਸਪੈਸੀਫਿਕੇਸ਼ਨ ਲਾਂਚ ਤੋਂ ਬਾਅਦ ਸਭ ਤੋਂ ਵੱਡੀ ਪ੍ਰੋਟੋਕਾਲ ਰੀਵਿਜ਼ਨ ਹੈ:
- initialize handshake ਅਤੇ
Mcp-Session-Idਹਟਾਉਂਦੀ ਹੈ — ਬੇਨਤੀਆਂ_metaਵਿੱਚ version/capabilities ਲੈ ਜਾਂਦੀਆਂ ਹਨ। - ਸਾਦੇ load balancer ਪਿੱਛੇ ਕੋਈ ਵੀ instance ਕੋਈ ਵੀ ਬੇਨਤੀ ਸਰਵ ਕਰ ਸਕਦਾ ਹੈ (ਕੋਈ sticky Redis session tax ਨਹੀਂ)।
- OAuth/OIDC ਨਾਲ hardened auth alignment; ਰਸਮੀ ~12-ਮਹੀਨੇ deprecation ਨੀਤੀ।
- ਐਕਸਟੈਂਸ਼ਨ: MCP Apps (server-rendered UIs), MCP Tasks (ਟਿਕਾਊ long-running job handles)।
TenthMatrix multi-agent stacks ਲਈ, stateless MCP ਦਾ ਮਤਲਬ ਹੈ ਕਿ tool fleets ਆਮ HTTP microservices ਵਾਂਗ ਸਕੇਲ ਕਰਦੇ ਹਨ — ਉਹ ਗੁੰਮ ਟੁਕੜਾ ਜਦੋਂ open ਮਾਡਲ ਆਖਿਰਕਾਰ agent-grade IQ ਪਾ ਲੈਂਦੇ ਹਨ।
7. ਪ੍ਰੋਡਕਸ਼ਨ ਗੈਪ (ਅਜੇ ਵੀ ਅਸਲੀ ਕਹਾਣੀ)
ਉਦਯੋਗ ਸਰਵੇ (Mozilla ਦੀ open-source AI ਰਿਪੋਰਟਿੰਗ ਸਮੇਤ) ਇੱਕ ਪੈਟਰਨ ਦੁਹਰਾਉਂਦੇ ਰਹਿੰਦੇ ਹਨ: ਡਿਵੈਲਪਰ ਉੱਚ ਦਰ ’ਤੇ open weights ਅਜ਼ਮਾਉਂਦੇ ਹਨ, ਪਰ closed-API ਟੀਮਾਂ ਨਾਲੋਂ ਛੋਟੀ ਹਿੱਸੇਦਾਰੀ ਪ੍ਰੋਡਕਸ਼ਨ ਤੱਕ ਪਹੁੰਚਦੀ ਹੈ — ਅਤੇ ਗੈਪ ਅਕਸਰ ਕੰਪਨੀ ਆਕਾਰ ਨਾਲ ਵੱਧਦਾ ਹੈ। Closed vendors ਪੱਕੀ ਸੜਕ ਵੇਚਦੇ ਹਨ; open ਮਾਡਲ ਅਜੇ ਵੀ ਚਾਹੁੰਦੇ ਹਨ ਕਿ ਤੁਸੀਂ serving, scaling, observability ਅਤੇ security ਦੇ ਮਾਲਕ ਹੋਵੋ। Kimi K3 ਛੱਤ ਚੁੱਕਦਾ ਹੈ; ਇਹ ਕੰਮ ਦੇ ops ਅੱਧੇ ਹਿੱਸੇ ਨੂੰ ਮਿਟਾਉਂਦਾ ਨਹੀਂ।
8. ਸਾਡੇ ਰਾਡਾਰ ’ਤੇ ਮਾਡਲ (ਵਿਸਤਾਰਿਤ)
K3 ਤੋਂ ਪਰੇ, TenthMatrix agentic coding ਅਤੇ ਨਿੱਜੀ AI stacks ਲਈ ਇਸ open / semi-open ਸੈੱਟ ਨੂੰ ਦੇਖ ਰਿਹਾ ਹੈ (procurement ਤੋਂ ਪਹਿਲਾਂ ਲਾਇਸੰਸ ਅਤੇ benches ਤਸਦੀਕ ਕਰੋ):
| ਮਾਡਲ | ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ | Fit |
|---|---|---|
| Kimi K3 (Moonshot) | 2.8T MoE, 1M ctx, frontier open agent coding | Cluster / managed API |
| Laguna S 2.1 (Poolside) | 118B-A8B MoE, 1M ctx, ਮਜ਼ਬੂਤ Terminal/SWE benches, OpenMDW | Self-host SWE agents |
| Solar Open 2 (Upstage) | 250B-A15B, 1M ctx, agentic office/coding, KR sovereign ਕੋਣ | 4–8× H200 class |
| DeepSeek-V4 family | reasoning/coding price-performance ’ਤੇ ਲਗਾਤਾਰ open MoE ਦਬਾਅ | Cost-sensitive agents |
| Qwen 3.x / Max (Alibaba) | ਵਿਆਪਕ ਬਹੁਭਾਸ਼ੀ + tool ecosystem; workstations ਲਈ distillations | Default open stack |
| Llama 4 class (Meta) | ਅਨੁਮਤੀਯੋਗ ecosystem, ਵਿਸ਼ਾਲ fine-tune/community tooling | Fine-tunes / RAG |
| Nemotron 3 (NVIDIA) | NVIDIA serving/security ਕਹਾਣੀ ਨਾਲ ਇਕਸਾਰ open weights | GPU-native estates |
| GLM-4.x / 5 (Zhipu) | ਮਜ਼ਬੂਤ agent/tooling ਵੰਸ਼; ਲਾਇਸੰਸ + hosting ਖੇਤਰ ਵੇਖੋ | Tool-heavy agents |
| KAT-Coder-V2.5 (Kwaipilot) | ~35B-A3B MoE coding ਮਾਹਿਰ; Apache 2.0; SWE-bench ਆਕਾਰ | TenthMatrix SWE |
| Mistral Large / Magistral | EU-ਅਨੁਕੂਲ commercial open ਵਿਕਲਪ; ਮਜ਼ਬੂਤ tooling ਕਹਾਣੀ | EU private AI |
| Gemma 3 (Google) | edge ਅਤੇ on-device ਲਈ ਕੁਸ਼ਲ open ਮਾਡਲ | Edge / Mac Silicon |
| Phi-4 class (Microsoft) | constrained boxes ਲਈ ਛੋਟੇ, ਸਮਰੱਥ reasoners | SME workstations |
| Mage-Flow (Microsoft) | ਕੰਪੈਕਟ ~4B text-to-image / edit; MIT; ਵੱਡੇ diffusion stacks ਦਾ ਵਿਰੋਧੀ | Local creative |
| Inflect v2 (Owen Song) | Tiny local English TTS (Nano/Micro); Apache 2.0 | Offline voice |
| Claude Opus 5 / Fable 5 (closed) | Bedrock ’ਤੇ ਕਈ coding/agent ਰਾਹਾਂ ਲਈ ਅਜੇ ਵੀ quality ceiling | Hybrid peak path |
| GPT-5.6 Sol/Terra/Luna (closed) | router designs ਲਈ tiered closed inference | Managed failover |
9. ਅਮਲੀ ਪੈਟਰਨ ਜੋ TenthMatrix ਸਿਫ਼ਾਰਸ਼ ਕਰਦਾ ਹੈ
Private RAG + tools on open weights (Qwen / Laguna / Solar / DeepSeek)
│
├─ Lead planner on K3 API or Opus 5 (Bedrock) when stuck
├─ Builders on mid open MoE self-hosted
├─ Review Bot + human gate
└─ GitOps promote
- ADR ਲਿਖੋ: ਡਿਫਾਲਟ open ਮਾਡਲ + failover closed ਮਾਡਲ।
- ਪ੍ਰੋਡਕਸ਼ਨ ਫਲਿੱਪ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ golden eval set (50–100 ਕੰਮ)।
- multi-tool agent chains ’ਤੇ p95/p99 ਮਾਪੋ — ਸਿਰਫ਼ median TTFT ਨਹੀਂ।
- Prompt-cache ਧਿਆਨ ਨਾਲ (prompt ਦੇ ਸਿਖਰ ’ਤੇ UUID hit rates ਖਤਮ ਕਰ ਸਕਦਾ ਹੈ)।
- ਖਿਤਿਜੀ ਸਕੇਲ ਤੋਂ ਪਹਿਲਾਂ MCP servers ਨੂੰ 2026-07-28 ’ਤੇ ਅੱਪਗ੍ਰੇਡ ਕਰੋ।
- GPUs ਨੂੰ ਉਸ ਮਾਡਲ ਅਨੁਸਾਰ ਸਾਈਜ਼ ਕਰੋ ਜੋ ਤੁਸੀਂ ਅਸਲ ਵਿੱਚ ਸਰਵ ਕਰੋਗੇ — ਬਲੌਗ ਹੈਡਲਾਈਨ ਅਨੁਸਾਰ ਨਹੀਂ।
10. ਸਮਾਪਤੀ
Kimi K3 ਇੱਕ proof point ਹੈ: open weights ਹੁਣ frontier agent ਕੰਮ ਨੂੰ ਚੁਣੌਤੀ ਦਿੰਦੇ ਹਨ, ਅਤੇ serving ecosystem (vLLM, SGLang, cloud recipes) ਦਿਨਾਂ ਵਿੱਚ ਤਾਲ ਮਿਲਾ ਰਿਹਾ ਹੈ। ਨੀਤੀ ਸਮੂਹ ਦਲੀਲ ਦਿੰਦੇ ਹਨ ਕਿ open ਮਾਡਲ ਸਾਈਬਰ ਰੱਖਿਆ ਦਾ ਹਿੱਸਾ ਹਨ, ਸਿਰਫ਼ ਲਾਗਤ ਨਿਯੰਤਰਣ ਨਹੀਂ। ਕਾਰੋਬਾਰਾਂ ਲਈ ਜਿੱਤਣ ਵਾਲਾ ਕਦਮ Workstation-grade ਹਾਰਡਵੇਅਰ ਅਤੇ Multi Agentic Software ’ਤੇ hybrid router ਹੈ — ਜਿੱਥੇ privacy ਅਤੇ ਲਾਗਤ ਹਾਵੀ ਹੋਣ ਉੱਥੇ open, ਜਿੱਥੇ quality SLA ਮੰਗਣ ਉੱਥੇ closed, MCP, evals ਅਤੇ GitOps ਨਾਲ ਤਾਂ ਜੋ «ਅਸੀਂ open ਮਾਡਲ ਅਜ਼ਮਾਇਆ» ਬਣ ਜਾਏ «ਅਸੀਂ open ਮਾਡਲਾਂ ’ਤੇ ship ਕਰਦੇ ਹਾਂ»।
TenthMatrix ਵੱਲੋਂ ਪ੍ਰਕਾਸ਼ਿਤ। Specs ਅਤੇ benches ਹਫ਼ਤਾਵਾਰੀ ਬਦਲਦੇ ਹਨ — silicon ਖਰੀਦਣ ਤੋਂ ਪਹਿਲਾਂ model cards, ਲਾਇਸੰਸ ਅਤੇ ਖੇਤਰ ਨੀਤੀ ਦੁਬਾਰਾ ਜਾਂਚੋ।
