AI编程大模型使用教程
为满足校内师生对智能辅助编程的需求,学校高性能计算中心搭建了 AI 编程大模型应用,全校师生免费使用(需校内网络访问)。该服务基于 Open WebUI 搭建,对外提供与 OpenAI 兼容的 API 接口,支持网页、桌面客户端、VS Code 插件、API 调用等多种使用方式。
本服务为校内服务,模型与参数可能随更新调整。本文写作时(2026-09)后台模型为 qwen3.8-27b,上线时(2025-11)曾为 qwen3-coder:30b。若模型再次更新,只需在客户端里修改模型名,地址不变。
服务信息
| 项目 | 内容 |
|---|---|
| 网页入口(Open WebUI) | http://202.204.64.234:8080 |
| API 基础地址(Base URL) | http://202.204.64.234:8080/api/ |
| 对话补全接口 | http://202.204.64.234:8080/api/chat/completions |
| 模型列表接口 | http://202.204.64.234:8080/api/models |
| 当前模型 | qwen3.8-27b(支持文本 + 图片输入) |
| API 协议 | OpenAI 兼容(Chat Completions) |
| 使用条件 | 校内网络访问;网页注册账号;API 调用需另建密钥 |
四种使用方式一览:
| 方式 | 适用场景 | 是否需要 API 密钥 |
|---|---|---|
| 网页(Open WebUI) | 随手问答、调试想法 | 否(注册登录即可) |
| 桌面客户端(Cherry Studio / ChatWise 等) | 日常对话 | 是 |
| VS Code Cline 插件 | 编辑器内 AI 辅助编程 | 是 |
| 直接 API 调用 / Agent Harness | 脚本、工具、AI 编程智能体 | 是 |
第一步:注册账号
在浏览器访问 http://202.204.64.234:8080,点击注册,填写用户名、邮箱与密码完成注册,然后登录。
登录后即可在网页界面直接向大模型提问:
注:截图中显示的是上线时的模型 qwen3-coder:30b,当前模型名以网页界面的模型列表为准。
第二步:创建 API 密钥
除直接访问网页外,其余使用方式都需要 API 密钥:
- 登录 Open WebUI 网站;
- 点击右上角圆形头像图标;
- 选择设置 → 账号;
- 在 API 密钥 一栏点击创建新安全密钥;
- 点击保存,并妥善复制保管密钥。
密钥只在创建时完整显示一次,请当场复制保存。若泄露,可在同一位置删除旧密钥并重新创建。
使用方式
1. 网页版
直接访问 http://202.204.64.234:8080 登录使用即可,适合随手提问和调试想法。
2. 桌面客户端
任选支持 OpenAI 兼容接口的客户端,如 Cherry Studio、ChatWise。以 Cherry Studio 为例:
- 进入设置 → 模型服务,选择 OpenRouter(OpenAI 兼容);
- 输入 API 密钥(从 Open WebUI 网页复制粘贴);
- API 地址填
http://202.204.64.234:8080/api/; - 点击管理,添加模型
qwen3.8-27b。
注:截图中配置的模型为公告时的 qwen3-coder:30b,请按当前模型名
qwen3.8-27b添加。
配置完成后,在使用界面选择 qwen3.8-27b 即可开始对话。
3. VS Code Cline 插件
- 在 VS Code 左侧栏点击 Cline 图标;
- 点击右上角齿轮设置;
- API Provider 选择 OpenAI Compatible;
- Base URL 填
http://202.204.64.234:8080/api/; - API Key 填你的密钥,Model 填
qwen3.8-27b。
4. 直接 API 调用
接口为标准的 OpenAI Chat Completions 格式,任意语言、任意 HTTP 客户端均可调用。
cURL:
curl http://202.204.64.234:8080/api/chat/completions \
-H "Authorization: Bearer 你的API密钥" \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3.8-27b",
"messages": [
{ "role": "user", "content": "写一段读取csv文件的python代码" }
]
}'Python:
import requests
url = "http://202.204.64.234:8080/api/chat/completions"
payload = {
"model": "qwen3.8-27b",
"messages": [
{"role": "user", "content": "写一段读取csv文件的python代码"},
],
}
headers = {
"Authorization": "Bearer 你的API密钥",
"Content-Type": "application/json",
}
response = requests.post(url, json=payload, headers=headers)
print("Status Code:", response.status_code)
try:
print("Response Body:", response.json()["choices"][0]["message"]["content"])
except ValueError:
print("Response is not in JSON format")在 Spyder 等编程工具中运行效果如下:
5. 在 DeepSeek Harness 中调用
如果你使用 DeepSeek Harness(DSH)作为 AI 编程智能体,只需添加一个自定义提供方即可把本机默认模型切换到校内服务。
方式一:图形界面(推荐)
- 打开 设置 → 模型;
- 选择添加自定义提供方,填写:
- Provider ID:小写标识,可任意取,如
ncepu-llm(勿与openai、anthropic等内置提供方名冲突); - 显示名称:仅用于展示,可任意取,如
NCEPU 校内大模型,创建后也可随时修改; - API 地址:
http://202.204.64.234:8080/api/; - API 协议:
openai-completions; - API 密钥:粘贴你的密钥(只写,保存后页面不再回显明文);
- Provider ID:小写标识,可任意取,如
- 在模型目录中点击获取可用模型,端点会返回当前提供的模型列表(
GET /api/models),勾选qwen3.8-27b并添加所选;探测失败时手动输入模型 IDqwen3.8-27b,效果相同; - 保存提供方,在会话的模型选择器中选择
ncepu-llm / qwen3.8-27b即可。
注意:Provider ID 创建后不可更改——会话历史、默认模型设置和凭据引用都以它为准。想换 ID 只能新建一个提供方再删除旧的;显示名称没有这个限制,随时可改。
方式二:直接编辑 $DSH_HOME/settings.yaml
以下配置在本机实测可用(2026-09 探测),密钥通过环境变量 OPENWEBUI_API_KEY 提供,不写入文件:
# 把默认模型设为校内服务
agent-default-model:
provider: ncepu-llm
model: qwen3.8-27b
reasoningEffort: high
llm-pi-ai:
providers:
ncepu-llm:
apiKeyEnv: OPENWEBUI_API_KEY
api: openai-completions
baseURL: http://202.204.64.234:8080/api/
models:
- id: qwen3.8-27b
input: [text, image] # 该端点支持图片输入
compat:
thinkingFormat: openai # 思考参数走 OpenAI 格式
supportsReasoningEffort: true # 端点支持推理等级
reasoningEfforts: # 等级映射:菜单项 -> 实际发送值
off: none
low: low
medium: medium
high: xhigh说明:
- 配置在下一次请求时自动生效,无需重启;
reasoningEfforts是「菜单项 → 协议上实际发送的值」的映射。本端点实测只接受none/low/medium/xhigh(high、max、auto等会被拒绝),因此把菜单里的high映射到xhigh;- 若某次更新后端点行为变化(如拒绝系统提示词或输出上限字段),可在路由上加
compat.supportsDeveloperRole: false、compat.maxTokensField: max_tokens修正请求形状。
常见问题
Q:现在到底有哪些模型?模型名怎么查? A:上线公告时是 qwen3-coder:30b,本文写作时为 qwen3.8-27b,之后仍可能更新。查询当前模型的两个办法:一是网页界面里的模型选择列表;二是用密钥调模型列表接口:
curl -H "Authorization: Bearer 你的API密钥" http://202.204.64.234:8080/api/models模型更新后,只需在客户端/脚本里把 model 字段改成新名称即可,地址与密钥都不用动。
Q:打不开网页 / 连不上服务器? A:服务部署在校内网络上。先确认已连接校园网;校内网段(202.204.x.x)通常无法从校外直接访问。
Q:调用返回 401 Unauthorized? A:密钥未填、填错或已被删除。回到 Open WebUI 的设置 → 账号 → API 密钥检查,必要时重新创建。
Q:返回 404 或提示模型不存在? A:多半是模型已更新,旧名字失效。按上一条查询当前模型名后修改配置。
Q:密钥安全注意什么? A:密钥以明文保存在你的客户端或环境变量中,不要分享给他人,也不要提交到 GitHub。校内服务不代表可以上传敏感资料,提交代码前注意内容脱敏。
参考资料
- 学校官方公告:AI编程大模型上线(2025-11-21,实验室管理处)
- 后台模型简介(上线时):qwen3-coder:30b
- 基础贡献:本文档写作规范
- 正文中截图转载自实验室管理处官网公告(lab.ncepu.edu.cn)





