如果我告诉你，一个只有 10 亿参数（1B） 的开源大模型，在综合能力测试中，不仅超过了多个 3B、4B 模型，甚至把 Gemma 7B 和 Llama 7B 都甩在了身后，你会相信吗？

最近，OpenBMB 正式发布了 MiniCPM5-1B。虽然参数规模仅为 1B，但它却在多个公开评测中拿下了第一名，也让不少开发者重新认识了「小模型」的潜力。

那么，这款模型究竟有哪些亮点？它适合哪些用户？又该如何在本地部署？本文带大家详细了解。

MiniCPM5-1B 是什么？

MiniCPM5-1B 是 OpenBMB 推出的新一代轻量级开源语言模型。

相比传统的大模型，它最大的特点就是：

• 参数仅 1B
• 支持最长 131072 Token（128K）上下文
• 支持 Think / No Think 双模式
• 支持 Agent 工具调用
• 支持代码生成
• 提供 GGUF、MLX、Transformers、vLLM、SGLang 等多个版本

这意味着，无论是 Windows、本地 Linux、Mac，还是 Ollama、LM Studio、llama.cpp 等平台，都可以轻松部署。

1B 参数，却登顶排行榜

MiniCPM5-1B 最令人惊讶的地方，就是它的综合性能。

根据 Artificial Analysis 最新公布的 Artificial Analysis Intelligence Index 数据，在 Sub-4B 开源模型排行榜中，MiniCPM5-1B 取得了 17.9 分，位列第一。

它超过了：

• Qwen3.5-2B（16.3）
• Nanbeige4 3B（16.1）
• NVIDIA Nemotron Nano 4B（14.7）
• MiniCPM4.0-1.3B（12.7）
• Ministral 3B（11.2）
• Gemma3 270M（7.7）

不仅如此，如果把范围扩大到一些更大的模型，它依然表现亮眼。

例如：

• NVIDIA Nemotron Nano 4B：14.7
• Gemma 7B：8.4
• Llama 7B：8.1

可以看到，MiniCPM5-1B 的综合得分已经明显领先于这些模型。

当然，需要说明的是，这类排行榜属于综合基准测试，主要反映模型在多个公开评测集上的整体表现，并不意味着它在所有实际应用场景中都一定优于更大参数模型，但足以说明其在轻量级模型中的竞争力。

本地部署教程

一、模型下载

1、Huggingface 【点击前往】

2、打包下载：【点击前往】

模型里总共有3个版本：F16是满血全精度版（推荐下载），大小只有2G左右，对显卡几乎没什么要求，只要你的显存是2G左右的就足够，Q8量化版大小是1G左右，如果你的显存是低于2G的，那么你就选择Q8版，当然如果你用CPU或者微型设备，那么就选择最小的Q4量化版即可！

二、llama.cpp 部署模型

通过 llama.cpp 来加载模型，不仅非常方便，速度也是极快的！ 如果你使用的是 llama.cpp，只需要下载对应 GGUF 模型即可。

下载方式：

1、GitHub 【点击前往】

2、打包下载 【点击前往】含一键启动脚本

下载 llama.cpp 压缩包后将其解压，并在根目录下创建一个名为models的模型文件夹，然后将第一步下载的模型文件，放入到该文件夹下。

三、启动脚本

通过下面的一键启动脚本，可以轻松将模型在llama.cpp加载并运行，内置3个模型选项及Thinking （深度思考） 和 No Thinking（快速模式）切换选择

一键启动脚本：

【点击获取】

也可以将下方的代码另存为BAT批处理文件

@echo off
setlocal EnableDelayedExpansion
title MiniCPM5-1B Professional Launcher

:: ==========================
:: Configuration
:: ==========================

set MODEL_DIR=models
set PORT=8080
set CONTEXT=131072

if not exist "llama-server.exe" (
    echo.
    echo ERROR:
    echo llama-server.exe not found.
    pause
    exit
)

:MODEL_MENU

cls
echo ================================================
echo            MiniCPM5-1B Launcher
echo ================================================
echo.
echo Select Model
echo.
echo 1. Q4_K_M  
echo 2. Q8_0
echo 3. F16 (Recommended)
echo.
echo 0. Exit
echo.

set /p MODEL=

if "%MODEL%"=="1" (
set MODEL_FILE=MiniCPM5-1B-Q4_K_M.gguf
goto CHECK_MODEL
)

if "%MODEL%"=="2" (
set MODEL_FILE=MiniCPM5-1B-Q8_0.gguf
goto CHECK_MODEL
)

if "%MODEL%"=="3" (
set MODEL_FILE=MiniCPM5-1B-F16.gguf
goto CHECK_MODEL
)

if "%MODEL%"=="0" exit

goto MODEL_MENU

:CHECK_MODEL

if not exist "%MODEL_DIR%\%MODEL_FILE%" (
echo.
echo Model not found:
echo.
echo %MODEL_DIR%\%MODEL_FILE%
echo.
pause
goto MODEL_MENU
)

:MODE_MENU

cls
echo ================================================
echo            Reasoning Mode
echo ================================================
echo.
echo 1. Think
echo 2. No Think
echo.
echo 0. Back
echo.

set /p MODE=

if "%MODE%"=="1" (
set THINK=1
goto START
)

if "%MODE%"=="2" (
set THINK=0
goto START
)

if "%MODE%"=="0" goto MODEL_MENU

goto MODE_MENU

:START

cls

if "%THINK%"=="1" (
set SYSTEM=You are a helpful AI assistant. Think carefully before answering.
set MODE_NAME=Think
)

if "%THINK%"=="0" (
set SYSTEM=You are a helpful AI assistant. Answer directly without exposing your reasoning.
set MODE_NAME=No Think
)

echo ================================================
echo              Starting Server
echo ================================================
echo.
echo Model   : %MODEL_FILE%
echo Mode    : %MODE_NAME%
echo Context : %CONTEXT%
echo Port    : %PORT%
echo.

echo Local Address:
ipconfig | findstr /R "IPv4"

echo.

start "" http://127.0.0.1:%PORT%

llama-server ^
-m "%MODEL_DIR%\%MODEL_FILE%" ^
-c %CONTEXT% ^
-ngl 999 ^
--flash-attn auto ^
--host 0.0.0.0 ^
--port %PORT% ^
--temp 0.6 ^
--top-p 0.95 ^
--min-p 0.05 ^
--repeat-penalty 1.05 ^
--seed -1

echo.
echo Server Stopped.
pause

为什么 1B 模型还能这么强？

近年来，大模型的发展方向已经不仅仅是「堆参数」。

越来越多的研究开始关注：

• 更高质量的数据
• 更先进的训练策略
• 更合理的模型架构
• 推理能力优化

MiniCPM5-1B 正是在这些方面进行了大量优化。

官方表示，它重点提升了：

• 数学推理
• 代码生成
• Agent 能力
• 多轮对话
• 长文本理解

因此，在多个公开 Benchmark 中取得了不错的成绩。

支持 128K 超长上下文

MiniCPM5-1B 另一个值得关注的特点，就是支持 131072 Token 上下文。

这意味着它可以一次读取非常长的内容，例如：

• 一本电子书
• 大型项目源码
• 长篇论文
• 超长聊天记录
• 多份 PDF 文档

对于需要做知识整理、代码分析或者长文总结的用户来说，体验会比传统 8K、32K 上下文模型更好。

Think 与 No Think 双模式

MiniCPM5-1B 提供了两种不同的工作模式。

Think

适用于：

• 数学推理
• 编程
• 复杂逻辑
• 多步骤分析

模型会花更多时间思考，再给出答案。

No Think

适用于：

• 日常聊天
• 翻译
• 写作
• 问答

响应速度更快，更适合日常使用。

同一个模型即可切换，无需下载多个版本。

官方提供多个部署版本

为了方便不同平台使用，官方一次性提供了多个版本。

包括：

• GGUF（llama.cpp）
• MLX（Apple Silicon）
• Transformers
• vLLM
• SGLang

其中，GGUF 版本最适合普通用户。

目前提供三个量化版本：

如果只是日常聊天和体验，Q4_K_M 已经能够提供不错的效果。

实测案例

1、代码能力测试，编写一个小游戏，完全没问题

2、逻辑推理也顺利通过

3、代码纠错也可以轻松搞定

四、对接 Hermes、OpenClaw 等主流 Agent

1、Hermes 本地调用 MiniCPM5-1B 模型

【点击下载】 

对接成功以后就可以在Hermse上使用MiniCPM5-1B 本地模型来执行Agent 任务了