环境准备与 Harness 工具链安装
在 Python 3.10+ 环境下安装 DeepSeek Harness 官方测评套件,并配置本地或远程 API Endpoint 访问凭据。
| Python 版本 | >= 3.10 |
|---|---|
| 依赖库 | torch >= 2.1, accelerate, transformers |
首屏主张:DeepSeek官网 开发者中心以极简 OpenAI 规范为核心,助力全球工程师平滑迁移。
DeepSeek官网开发者中心,提供完全兼容 OpenAI 标准 SDK 的高性能推理接口。毫秒级首字吐出、显式思维链反思输出以及实打实的阶梯计费优惠,携手开发者践行 DeepSeek - 探索未至之境。
| 接入协议 | HTTPS RESTful / SSE 流式传输 |
|---|---|
| 首字时延 (TTFT) | 百毫秒级急速吐出 |
| 最大上下文支持 | 128,000 Tokens (128K) |
严谨可复现的自动化评测流程,避免评测榜单过拟合与数据污染。
标准自动化评测套件,正文写清 DeepSeek Harness 测评套件,严谨量化模型在数理推理与工程代码上的实力。
在 Python 3.10+ 环境下安装 DeepSeek Harness 官方测评套件,并配置本地或远程 API Endpoint 访问凭据。
| Python 版本 | >= 3.10 |
|---|---|
| 依赖库 | torch >= 2.1, accelerate, transformers |
挂载 AIME 2024、MATH-500、Codeforces 及 LiveCodeBench 等评测基准题库,定义评测并发数与采样温度。
| 采样温度 (Temperature) | 0.0 (决定性输出推荐) |
|---|---|
| 并发批次 (Batch Size) | 16 ~ 64 动态伸缩 |
启动评测流,框架将自动记录每道题目的推理步骤,校验格式有效性,并剔除作弊与污染样本。
| 形式化格式 | LaTeX 严格等式比对 |
|---|---|
| 思维链过滤 | 自动剔除空内容与截断样本 |
自动生成 Pass@1、Pass@K 统计学报表与收敛误差图,确保各批次量化评估具有 100% 可复现性。
| 度量标准 | Pass@1, Pass@16 (Majority Voting) |
|---|---|
| 导出文件格式 | JSON / Markdown 矩阵对照 |
参数名称全部写入单元格内,符合清晰结构化表格设计要求。
所有参数名与规格完全采用结构化文字单元格呈现,无须下载外部图片,清晰直观。
| 参数名称 (Parameter) | 数据类型 | 必填 | 说明与约束条件 | 缓存命中价格 (每百万Token) | 标准输出价格 (每百万Token) |
|---|---|---|---|---|---|
| model | String | 是 | 指定调用模型标识符,如 deepseek-chat 或 deepseek-reasoner。 |
¥ 0.10 | ¥ 2.00 |
| messages | Array[Object] | 是 | 对话历史上下文列表,包含 role 与 content 字段,支持 128K 超长上下文。 | ¥ 0.10 | ¥ 2.00 |
| temperature | Float | 否 | 采样温度参数 (0.0 ~ 2.0)。数理推理与逻辑推演推荐设为 0.0 ~ 0.3。 | 计入总计费 | 计入总计费 |
| max_tokens | Integer | 否 | 单次调用最大吐出 Token 上限,最大允许 8,192 Tokens。 | 计入总计费 | 计入总计费 |
| stream | Boolean | 否 | 是否开启 SSE 实时流式传输协议,默认 false。 | 不额外收费 | 不额外收费 |
| response_format | Object | 否 | 返回格式约束,支持 {"type": "json_object"} 结构化提取。 |
计入总计费 | 计入总计费 |
| frequency_penalty | Float | 否 | 重复词惩罚项 (-2.0 ~ 2.0),默认 0.0。 | 计入总计费 | 计入总计费 |
| reasoning_content | String (ReadOnly) | 系统吐出 | R1 模型显式思维链推演文本,在 SSE 流中独立分片输出。 | ¥ 0.10 | ¥ 4.00 |
面向金融、医疗等绝密内网环境的一键离线接入入口。
满足内网绝密审计、离线环境运行与低延迟私有化调优需求。
支持 1.5B 至 70B 蒸馏版本,可在消费级显卡(如 RTX 4090 或 Apple Silicon Mac)上毫秒级离线加载运行:
| 8B 模型显存要求 | 8 GB VRAM |
|---|---|
| 70B 模型显存要求 | 48 GB VRAM (双卡 RTX 4090 或 A100) |
针对 671B 完整 MoE 架构,推荐通过 SGLang 或 vLLM 搭配 8 卡 H800 / A800 节点进行张量并行与流水线部署:
| 张量并行 (TP) | 8 卡 NVLink 全互联节点 |
|---|---|
| 服务端口 | 0.0.0.0:30000 标准 HTTP 服务 |