ข้ามไปยังเนื้อหา

บทความ

Muse Glimmer บน Ollama: Local Agent แบบเปิดตลอดเวลาบน GPU หนึ่งตัว

เจาะลึก TenthMatrix: สถาปัตยกรรม, แท็ก Ollama/MLX, เมทริกซ์การวัดประสิทธิภาพ Meta เทียบกับ Gemma4-31B และ Qwen3.6-27B, วิธีการประเมิน และรายการตรวจสอบการผลิต

  • อ่าน 4 นาที
  • AI
  • MLOps
  • Open Source

Muse Glimmer คือโมเดลภาษาเชิงสาเหตุ 3 หมื่นล้านพารามิเตอร์ของ Meta พร้อมตัวเข้ารหัสการรับรู้โดยเฉพาะ กลั่นจาก Muse Spark และเผยแพร่สำหรับปริมาณงานเอเจนต์อัตโนมัติบนฮาร์ดแวร์ผู้บริโภคและเวิร์กสเตชัน จัดจำหน่ายผ่านทาง Ollama ภายใต้ Apache 2.0โดยกำหนดเป้าหมายการใช้เครื่องมือที่เชื่อถือได้ งานในขอบเขตที่ยาวนาน การทำความเข้าใจหลายรูปแบบ และการกู้คืนความล้มเหลว โดยไม่ต้องอาศัยการอนุมานบนคลาวด์ ข้อมูลสรุปด้านเทคนิค TenthMatrix นี้เขียนใหม่และขยายการ์ดโมเดลสาธารณะสำหรับวิศวกรที่จัดส่งตัวแทนในพื้นที่

Muse Glimmer บน Ollama — คู่มือทางเทคนิค TenthMatrix

ตัวแทนสรุป
  • ระดับ: 30B สาเหตุ LM + ตัวเข้ารหัสการรับรู้; กลั่นจาก Muse Spark; วิสัยทัศน์+เครื่องมือ+ความคิด
  • ให้บริการ: ollama run muse-glimmer (~18GB, 128K, ข้อความ+รูปภาพ); Apple Silicon: muse-glimmer:30b-mlx (~21GB, DFlash)
  • พอดี: เอเจนต์แบบโลคัล/แบบ air-gapped ที่เปิดใช้งานตลอดเวลาบน GPU หรือ Mac Silicon หนึ่งตัว ไม่ใช่โมเดลคลัสเตอร์ MoE แบบหลาย TB
  • สัญญาณความแรง: นำไปสู่เมทริกซ์ระดับขนาดที่รายงานของ Meta บน MCP-Atlas, DeepSearch QA, WildClawBench, SWE-Bench Pro, AA-LCR, Beam128K (การใช้เหตุผลสูง)
  • การดำเนินการ: นั่งร้านผ่าน ollama launch (Claude Code, OpenCode, เฮอร์มีส, OpenClaw); ควบคุมด้วย evals, HITL, MCP auth

แหล่งที่มาหลัก: ไลบรารี Ollama - รำพึงริบหรี่; วิธีการประเมินเมตา — วิธีการ Muse Glimmer. ตัวเลขและแท็กเปลี่ยนไป ตรวจสอบบัตรโมเดลสดก่อนจัดซื้อ

1. ความตั้งใจด้านสถาปัตยกรรมและการออกแบบ

Muse Glimmer ไม่ได้อยู่ในตำแหน่ง MoE แชททั่วไป การกำหนดกรอบของ Meta คือ เสร็จสิ้นงานตัวแทนแบบ end-to-end บนฮาร์ดแวร์คุณสามารถซื้อโต๊ะหรือชั้นวางห้องปฏิบัติการขนาดเล็กได้:

  • กระดูกสันหลัง LM เชิงสาเหตุ (30B) - การสร้างโทเค็นครั้งต่อไปพร้อมห่วงโซ่การให้เหตุผลแบบหลายขั้นตอนที่ยั่งยืนตลอดขั้นตอนการทำงานที่ยาวนาน
  • ตัวเข้ารหัสการรับรู้โดยเฉพาะ — ยอมรับข้อความและรูปภาพที่แทรกเพื่อให้เจ้าหน้าที่สามารถให้เหตุผลผ่านภาพหน้าจอ แผนภูมิ และเอกสารในหน้าต่างบริบทเดียวกันกับการถอดเสียงเครื่องมือ
  • การกลั่นจาก Muse Spark — ความสามารถถ่ายโอนไปสู่รอยเท้าที่กำหนดเป้าหมายการใช้งาน GPU เดียว / ระดับผู้บริโภค แทนที่จะให้บริการเฉพาะศูนย์ข้อมูลเท่านั้น
  • พฤติกรรมการกู้คืนความล้มเหลว — เมื่อการเรียกเครื่องมือล้มเหลวหรือส่งคืนเพย์โหลดที่ไม่คาดคิด โมเดลจะได้รับการฝึก/ปรับแต่งเพื่อวินิจฉัยและลองใหม่อีกครั้ง แทนที่จะหยุดตอน
  • ความพยายามที่ควบคุมได้ — สามารถเลือกความแข็งแกร่งของเหตุผลได้ เพื่อให้ผู้ปฏิบัติงานสามารถแลกเวลาแฝงกับคุณภาพต่อเส้นทางได้
  • ครอบคลุมการฝึกอบรมหลายภาษา — Meta ระบุข้อมูลการฝึกอบรมจากมากกว่า 100 ภาษา

สำหรับสแต็ค TenthMatrix ความหมายของผลิตภัณฑ์คือ: ถือว่า Glimmer เป็น สมองรันไทม์ของตัวแทน เบื้องหลังเครื่องมือ MCP, เชลล์, เบราว์เซอร์ และเครื่องมือแก้ไขไฟล์ — ไม่ใช่เป็นการแทนที่แบบดรอปอินสำหรับการเรียก API ชายแดนแบบปิดทุกครั้ง

สแต็กตัวแทนท้องถิ่น: โครง, Ollama, Muse Glimmer, เครื่องมือ, ระนาบควบคุม

2. การกระจาย Ollama (แท็ก, รอยเท้า, I/O)

ตามที่เผยแพร่บนการ์ดไลบรารี Ollama (ตรวจสอบขนาดจริง):

แท็ก ประมาณ ขนาด บริบท ป้อนข้อมูล หมายเหตุ
muse-glimmer:latest / :30b~18GB128Kข้อความ รูปภาพเส้นทาง GPU เดียวเริ่มต้น
muse-glimmer:30b-mlx~21GB128Kข้อความ รูปภาพเครื่องยนต์ Ollama MLX; DFlash + รูปภาพบน Apple Silicon
# Pull + interactive
ollama run muse-glimmer

# Apple Silicon (MLX)
ollama run muse-glimmer:30b-mlx

# HTTP chat (localhost Ollama)
curl http://localhost:11434/api/chat \
  -d '{"model":"muse-glimmer","messages":[{"role":"user","content":"Hello!"}]}'

# Scaffold launchers (from Ollama applications list)
ollama launch claude --model muse-glimmer
ollama launch opencode --model muse-glimmer
ollama launch hermes --model muse-glimmer
ollama launch openclaw --model muse-glimmer

ไคลเอนต์ Python / JS ควรปักหมุดแท็กที่คุณตรวจสอบแล้ว (muse-glimmer เทียบกับ :30b-mlx) ในการกำหนดค่า ไม่ใช่ฮาร์ดโค้ด latest ในตัวแทนการผลิต

3. พื้นผิวความสามารถ (การอ่านทางวิศวกรรม)

  • การสำเร็จเอเจนต์แบบครบวงจร — Meta อ้างอิงผลลัพธ์ที่ชัดเจนในงาน DeepSearch QA, MCP-Atlas, τ3-Bench (การธนาคาร) และงานตระกูล SWE-Bench ที่วัดความสำเร็จแบบหลายเทิร์นแบบนั่งร้าน ไม่ใช่เกร็ดความรู้เรื่องเดียว
  • การใช้เครื่องมือที่เชื่อถือได้ — ความครอบคลุมการเรียกใช้ฟังก์ชันที่กว้างขวางพร้อมความแม่นยำของสคีมาตลอดเวิร์กโฟลว์ที่ขยาย (สำคัญอย่างยิ่งสำหรับกลุ่มเครื่องมือ MCP)
  • การใช้เหตุผลหลายขั้นตอน — วางแผนการเชื่อมโยงกันในขอบเขตอันยาวไกล จับคู่กับหน้าต่างบริบท 128K สำหรับการถอดเสียงและการเก็บรักษาเอกสาร
  • การกู้คืนความล้มเหลว — วินิจฉัยผลลัพธ์ของเครื่องมือที่ไม่คาดคิดแล้วลองอีกครั้ง ลด "สารเปราะ" ยกเลิกงานข้ามคืน
  • การใช้เหตุผลหลายรูปแบบ - ตัวเข้ารหัสการรับรู้เปิดใช้งานภาพหน้าจอ / แผนภูมิ / เอกสารที่แทรกด้วยข้อความ (การต่อสายดิน GUI และม้านั่งแยกวิเคราะห์เอกสารรวมอยู่ในเมทริกซ์ของ Meta)
  • ความเข้ากันได้ของนั่งร้าน — OpenClaw, Hermes Agent และรูปแบบการเรียบเรียงที่คล้ายกัน Ollama แสดงรายการตัวเรียกใช้งาน Claude Code และ OpenCode ว่าเป็นแอปชั้นหนึ่ง

4. เมทริกซ์เกณฑ์มาตรฐาน (รายงาน Meta, ให้เหตุผลสูง)

Meta เปรียบเทียบ Muse Glimmer-30B (การให้เหตุผลสูง) กับ Gemma4-31B และ Qwen3.6-27B ในโหมดการคิด การอ่านพาดหัว TenthMatrix: Glimmer เป็นผู้นำหลายอย่าง ตัวแทน ชุดสาธารณะ (MCP-Atlas, DeepSearch QA, WildClawBench, Gaia2, SWE-Bench Pro) ในขณะที่ติดตามหรือเชื่อมโยงเพียร์บนตัววัด desktop-agent และ GDP-val บางตัว เรียกใช้ใหม่เสมอ ของคุณ สายรัด

หมวดหมู่ เกณฑ์มาตรฐาน กลิมเมอร์-30B เจมม่า4-31B คิวเวน3.6-27B
ตัวแทนทั่วไปMCP-Atlas (สาธารณะ)75.554.262.5
ดีพเสิร์ช QA74.661.771.1
τ3-การธนาคาร23.515.116.7
WildClawBench47.637.643.2
GDPVal-AA เวอร์ชัน 29538111141
ไกอา243.336.440.0
SkillsBench (พร้อมทักษะ)44.332.446.6
ตรวจสอบ OSWorld แล้ว65.958.575.6
การเข้ารหัสตัวแทนSWE-Bench โปร51.236.950.2
ตรวจสอบ SWE-Bench แล้ว76.066.677.2
เทอร์มินัลเบนช์ 2.151.743.460.7
ไซโค้ด43.643.439.8
ต่อเนื่องหลายรูปแบบการใช้เหตุผล CharXiv78.877.778.4
สกรีนสปอตโปร75.475.976.1
OmniDocBench เวอร์ชัน 1.575.872.577.8
เอ็มเอ็มเอ็มยู โปร747375
การใช้เหตุผล / LCRไอเอฟเบนช์77.076.070.8
จุดมุ่งหมาย 202694.789.294.1
GPQA ไดมอนด์ (AA)83.585.784.2
ข้อความ HLE (AA)22.023.623.1
AA-LCR80.068.373.3
บีม128K65.158.263.0

ม้านั่งนิรภัย (CI Memories, Siren AgentDojo) แสดงให้เห็นถึงข้อดีข้อเสีย: Glimmer รายงานว่ามีประโยชน์ใช้สอยสูงภายใต้การฉีด AgentDojo ด้วย ASR ในระดับกลาง; ถือว่าความปลอดภัยเป็นปัญหาในการควบคุมการใช้งาน (ไฟร์วอลล์แจ้ง รายการเครื่องมือที่อนุญาต HITL) ไม่ใช่คุณสมบัติของโมเดลที่แก้ไขแล้ว ดู PDF วิธีการของ Meta สำหรับแบบจำลองการตัดสิน จำนวนความพยายาม และการควบคุมคำเตือน

5. วิธีการประเมินผล (ตัวเลขหมายถึงอะไร)

หมายเหตุวิธีการของ Meta เป็นสิ่งสำคัญก่อนที่คุณจะเสนอราคาเซลล์ใด ๆ ในสำรับกระดาน:

  • การเลือกเพื่อน: รุ่นเปิดระดับขนาด (Gamma4-31B, Qwen3.6-27B); เพื่อนร่วมงานอาจใช้คะแนนที่รายงานด้วยตนเองหรือทำซ้ำภายใน การวิเคราะห์เชิงประดิษฐ์ใช้เมื่อมีให้ทั้งสามแบบ
  • การสุ่มตัวอย่าง: Glimmer รายงานด้วยความมีเหตุผลสูงโดยมีอุณหภูมิ=1.0 / top_p=0.95 / top_k=64; เพื่อนร่วมงานใช้การกำหนดค่าการคิดที่ผู้ขายแนะนำ (Qwen ใช้อุณหภูมิที่เย็นกว่าบนม้านั่งตัวแทนบางตัว)
  • ข้อแม้อคติเทียม: Meta Notes โมเดลบุคคลที่สามอาจไม่สามารถปรับให้เข้ากับเครื่องมือ/ระบบของ Meta ได้ - อันดับสัมบูรณ์สามารถเปลี่ยนแปลงได้ภายใต้โครงแบบเพียร์เนทีฟ
  • MCP-Atlas: การใช้เครื่องมือหลายรอบในเซิร์ฟเวอร์ MCP มากกว่า 20 เครื่อง อัตราการผ่านของผู้ตัดสิน LLM (เกณฑ์ 0.75) ในงานสาธารณะ 500 งาน เฉลี่ยมากกว่า 4 รอบ
  • ดีพเสิร์ช QA: วนการสืบค้นอัตโนมัติ (ค้นหา/เปิด/ค้นหา) กับคำถามวิจัยยาก 900 ข้อ F1 ผ่านการสกัดผู้พิพากษา
  • WildClawBench / Gaia2: งานตัวแทนเชื่อมต่อขอบฟ้ายาวภายใต้สายรัดสไตล์ OpenClaw พร้อมการฉีดเหตุการณ์และการให้คะแนนแบบกำหนดแบบผสม/LLM
  • SWE-Bench: โครงเครื่องมือ bash + ไฟล์; ค่าเฉลี่ยแบบ Pro และ Verified สำหรับการรันหลายครั้ง — การเปรียบเทียบแบบ Pro จะหลีกเลี่ยงตัวแปรงานที่ปรับปรุงแล้วของ Qwen
  • OSWorld ได้รับการยืนยันแล้ว: การควบคุม Ubuntu VM ของ GUI เท่านั้นจากภาพหน้าจอ (ไม่มีเชลล์โดยตรง); ความแตกต่างระหว่างพื้นที่ปฏิบัติการระหว่างโมเดลมีความสำคัญ
  • บีม128K: โพรบหน่วยความจำบริบทยาวที่ไม่ใช่เอเจนต์ที่ 128K — เกี่ยวข้องหากคุณเก็บการถอดเสียงขนาดใหญ่ในบริบทโดยไม่มี RAG

นโยบาย TenthMatrix: เผยแพร่เมทริกซ์ของ Meta สำหรับการวางแนว จากนั้นเกตการผลิตบนชุดทองภายใน (เครื่องมือ MCP ของคุณ repos ของคุณ SLO เวลาในการตอบสนองของคุณ)

6. ฮาร์ดแวร์และการให้บริการความเป็นจริง

  • คลาส GPU เดี่ยว: ~18GB ฐานน้ำหนักแสดงถึงความทันสมัย ​​24GB+ Consumer/Pro GPU เป็นพื้น NVIDIA ที่ใช้งานได้จริงเมื่อพิจารณาการเปิดใช้งานแคช KV และการมองเห็น โปรไฟล์พร้อมบริบทสูงสุดและเซสชันที่เกิดขึ้นพร้อมกัน
  • Apple Silicon: ชอบมากกว่า :30b-mlx (~21GB) สำหรับเส้นทาง MLX ของ Ollama พร้อมการถอดรหัสเชิงคาดเดา DFlash และอินพุตรูปภาพเนทิฟ — การกำหนดค่า Mac Studio / Mac mini Max เป็นโหนด SME ชั้นนำ
  • ไม่ใช่คลาส Kimi-K3: นี่ไม่ใช่ MoE แบบหลายโหนด หากคุณต้องการตัวแทนแบบเปิดจำนวนล้านล้านพารามิเตอร์ โปรดดูของเรา คู่มือตุ้มน้ำหนักแบบเปิด; กลิมเมอร์เป็นเจ้าของ ด้านข้างโต๊ะเปิดตลอดเวลา ซอก.
  • คูเบอร์เนทีส: แพ็คเกจ Ollama หรือรถเทียมข้างรถจักรยานยนต์ที่เข้ากันได้กับ OpenAI ต่อโหนด เก็บโมเดลไว้ในรีจิสตรี / แคชส่วนตัวของคุณ อย่าเปิดเผย Ollama ที่ไม่ได้ผูกไว้กับอินเทอร์เน็ต

7. การรักษาความปลอดภัยและการกำกับดูแลสำหรับตัวแทนที่ทำงานตลอดเวลา

น้ำหนักท้องถิ่นจะช่วยลดข้อมูลขาออก แต่เพิ่มรัศมีการระเบิดของโฮสต์ตัวแทนที่ถูกบุกรุก พื้นฐาน TenthMatrix ขั้นต่ำ:

  1. MCP OAuth 2.1 + ความลับระยะสั้น (สัญญาเช่าห้องนิรภัย) — ดู บทความการรักษาความปลอดภัยตัวแทน.
  2. รายการเครื่องมือที่อนุญาตและนโยบายขาออกของเครือข่ายตามข้อมูลระบุตัวตนของตัวแทน
  3. HITL เปิดประตูสู่การดำเนินการที่ไม่สามารถย้อนกลับได้ (การชำระเงิน การใช้งานผลิตภัณฑ์ อีเมลจำนวนมาก)
  4. การตรวจสอบการแทรกทันทีในเนื้อหาที่ส่งคืนโดยเครื่องมือ (โมเดลภัยคุกคามสไตล์ Siren AgentDojo)
  5. โหมดออฟไลน์/ช่องว่างอากาศได้รับการทดสอบว่าเป็น Runbook ระดับเฟิร์สคลาส ไม่ใช่ความหวัง

8. รายการตรวจสอบการผลิต

  1. ปักหมุดแท็ก Ollama (30b เทียบกับ 30b-mlx) และบันทึกไดเจสต์/แฮชใน GitOps
  2. สร้างชุดงานสีทอง 20–50 งานที่สะท้อนเครื่องมือ MCP ของคุณและเวิร์กโฟลว์การเขียนโค้ด ติดตาม pass@1 และ p95 latency ในแต่ละระดับความพยายาม
  3. โครงลวด (ollama launch … หรือกำหนดเอง) พร้อมการบันทึกโครงสร้างการเรียกเครื่องมือและลองใหม่
  4. กำหนดเราเตอร์ไฮบริด: Glimmer local สำหรับ RAG/เอเจนต์ส่วนตัว การเฟลโอเวอร์บนคลาวด์สำหรับโอเวอร์โฟลว์ / พีคไอคิว
  5. เอกสาร VRAM/หน่วยความจำแบบรวมส่วนหัวที่ 32K / 64K / 128K พร้อมการมองเห็น
  6. ถูกกฎหมาย: การตรวจสอบ Apache 2.0 สำหรับโมเดลการจัดจำหน่ายของคุณ (โดยปกติจะเป็นแบบตรงไปตรงมาเทียบกับแบบ open-weight ที่จำกัด)
  7. จัดส่งบอทตรวจสอบ + ประตูตรวจประเมินก่อนที่จะเปิดใช้งานเจ้าหน้าที่ข้ามคืนแบบไม่ต้องดูแล
คำตัดสิน TenthMatrix Muse Glimmer เป็นเอเจนต์แบบเปิด “ที่เปิดใช้งานตลอดเวลาในกล่องเดียว” ที่ชัดเจนที่สุดในคลาสขนาด: Apache 2.0, Ollama-native, วิสัยทัศน์ + เครื่องมือ + การกู้คืนความล้มเหลว และม้านั่งตัวแทนที่รายงาน Meta ที่แข่งขันได้ ใช้เป็นช่องทางส่วนตัวของสถาปัตยกรรมไฮบริด พิสูจน์มันด้วยงานทองคำของคุณ ควบคุมมันเหมือนซอฟต์แวร์ที่ใช้งานจริง

จัดพิมพ์โดย TenthMatrix. การ์ดรุ่น: ollama.com/library/muse-gimmer.