Hướng dẫn đầy đủ về Kimi K2 — Thử nghiệm thực tế mô hình văn bản dài của Moonshot AI

Đã được xem xét và xác minh bởi FeiYueh · Lần xác minh gần nhất 2026-10-19

Kimi K2 là mô hình hỗn hợp chuyên gia (MoE) do Moonshot AI (月之暗面) phát hành mã nguồn mở vào tháng 7 năm 2025, với tổng cộng 1 nghìn tỷ tham số và chỉ kích hoạt

Kimi K2 là mô hình hỗn hợp chuyên gia (MoE) do Moonshot AI (月之暗面) phát hành mã nguồn mở vào tháng 7 năm 2025, với tổng cộng 1 nghìn tỷ tham số và chỉ kích hoạt 32 tỷ tham số cho mỗi token. Giá trị thực sự của nó không nằm ở trò chuyện, mà ở các tác vụ agent kết hợp "ngữ cảnh dài + gọi công cụ": phiên bản 0905 đã mở rộng cửa sổ ngữ cảnh lên 256K tokens, và điểm số trên benchmark sửa lỗi mã nguồn SWE-bench Verified cũng đạt 69,2%. Nếu bạn cần đọc hết một lượng lớn tài liệu trong một lần, hoặc muốn AI tự thực hiện công việc qua nhiều bước, dòng K2 hiện là một trong những lựa chọn mã nguồn mở có chi phí thấp nhất. Kimi K2 là gì: Kiến trúc và các phiên bản Kimi K2 sử dụng kiến trúc MoE, chia 1 nghìn tỷ tham số cho 384 chuyên gia; mỗi token chỉ chọn 8 chuyên gia cộng thêm 1 chuyên gia dùng chung để tính toán. Nhờ vậy, dung lượng kiến thức của mô hình đạt quy mô nghìn tỷ, trong khi chi phí suy luận lại gần với một mô hình dày đặc cỡ 30B. Thông số đầy đủ được công bố tại "Tổng tham số 1 nghìn tỷ, tham số kích hoạt 32 tỷ, dữ liệu tiền huấn luyện 15,5 nghìn tỷ tokens (tháng 7/2025)" (Nguồn: GitHub chính thức của Moonshot AI) . Độ ổn định khi huấn luyện là điểm nhấn kỹ thuật của K2. Moonshot AI đã bổ sung cơ chế QK-Clip vào bộ tối ưu Muon, gọi chung là MuonClip. Theo công bố chính thức, trong suốt quá trình tiền huấn luyện 15,5 nghìn tỷ tokens hoàn toàn không xuất hiện loss spike (hiện tượng loss tăng vọt đột ngột) — điều hiếm thấy với các mô hình quy mô nghìn tỷ. Chi tiết kỹ thuật có thể xem tại trang giới thiệu kỹ thuật Kimi K2 chính thức. Ba phiên bản chính Kimi-K2-Instruct (2025-07) : Phiên bản đầu tiên, ngữ cảnh 128K tokens, dùng cho hội thoại thông thường và tác vụ agent. Kimi-K2-Instruct-0905 (2025-09) : Ngữ cảnh mở rộng lên 256K tokens, tăng cường khả năng sinh mã frontend và gọi công cụ. Kimi K2 Thinking (2025-11) : Phiên bản suy luận, vừa suy nghĩ vừa gọi công cụ, hỗ trợ lượng tử hóa INT4 nguyên bản, có thể thực hiện liên tục 200–300 lần gọi công cụ mà không lệch khỏ

Hướng dẫn đầy đủ về Kimi K2 — Thử nghiệm thực tế mô hình văn bản dài của Moonshot AI

相關工具書