平台介绍

平台技术更新

了解模型服务、接口能力与使用方式的更新。

中国科学技术大学 · 大模型公共服务平台

统一、安全的大模型能力入口

面向校内科研、教学与系统开发，平台以 API Key 为核心，提供统一的多模型调用、权限管理与用量控制能力。

288 张高端 AI 加速卡

约 200PFLOPS 算力

统一 API屏蔽底层差异，按需调用多模型能力

平台基于国产智能算力与异构 GPU 协同构建高性能算力底座，形成面向大模型推理服务的统一算力体系，为多模型高并发调用提供稳定支撑。

用户无需关注底层硬件与模型部署细节，即可通过标准化接口按需调用模型能力。

平台采用 “国产算力 + 异构 GPU” 融合架构，实现高性能与灵活调度的统一。

当前平台共部署：

具备：

在统一算力调度与模型服务框架下，平台实现以下能力：

能力	说明
异构算力统一调度	支持 GPU / NPU 资源统一纳管，实现算力融合与高效调度
多模型统一服务	提供统一模型接入与标准化 API 调用接口，屏蔽底层差异
高并发推理能力	支持高并发请求处理，保障多用户同时调用的稳定性与响应效率
复杂任务处理能力	支持长上下文、多轮对话及复杂推理任务，满足科研与工程场景需求
安全与权限管理	提供统一身份认证、项目隔离与权限控制机制，保障数据与调用安全

平台采用标准化服务模式：

STEP 01用户发起服务访问

→

STEP 02API Key身份与权限凭证

→

STEP 03统一模型网关标准化服务入口

→

STEP 04算力调度GPU / NPU 统一调度

→

STEP 05模型推理服务稳定返回调用结果

用户仅需完成：

即可快速使用大模型能力。

平台为用户提供：