贵州省行业大模型典型应用案例之八 | 贵州省人工智能大模型公共服务平台

发表于: 2025年10月31日
贵州省人工智能大模型公共服务平台

项目建设单位:贵州大数据产业集团有限公司

一 项目建设背景

在国家“人工智能+”行动与“东数西算”战略推进背景下,贵州省作为数字经济发展创新区和全国算力保障基地,实施人工智能高质量发展行动、抢占“三个制高点”,加速推动人工智能与实体经济、政务服务融合。但行业数字化转型有三大痛点:一是算力资源分散异构,协同调度导致利用率低;二是大模型应用门槛高,企业与政务部门面临全链条困境;三是安全可控要求突出,敏感数据流转与模型适配国产化硬件需求迫切。

为破解难题,贵州大数据集团2024年启动“贵州省人工智能大模型公共服务平台”研发,构建安全可控、高效协同、智能赋能的新型人工智能基础设施和大模型应用算力服务基座,助力政府和企业数字化转型,推动政务、社会治理、产业经济发展,实现“算力保障、数据共享、算法赋能、场景驱动、生态共赢”可持续发展目标。

二 解决方案

“AI大模型服务平台”以“算、数、模、用”一体化为核心架构,通过“大衍算力调度平台+AI大模型服务平台”双轮驱动,构建全栈式国产化解决方案,打通大模型应用从研发到落地的“最后一公里”。

(一)算力底座:筑牢智算支撑

通过与“大衍算力调度平台”连通,采用算力池化技术,将全省多园区重点企业和政务部门的异构算力资源(含GPU、NPU等)虚拟化整合,形成250P统一算力资源池,打破“算力孤岛”。引入细粒度切分机制,突破传统整卡独占模式,按标准拆分算力资源,支持精准分配,如拆分单GPU支撑多用户、多任务并行,使算力利用率从不足40%提至75%以上。优化部署显存超分技术,解决中小任务占大资源闲置问题。

(二)平台核心:打造全流程工具链

实现DeepSeek、通义千问、MiniMax等主流开源大模型多版本覆盖与多尺寸适配,构建全生命周期管理体系(含模型托管、训练、推理、评测)。构建低代码开发环境,通过拖拽操作,10分钟快速生成定制化智能体,降低开发门槛。建立全省政务服务知识库,归集多部门上亿条数据,完成5000余项事项语料集通俗化整理,提供数据支撑。依托贵州政务云实施集中统一安全管理与体系化防护,避免“碎片化”风险。内置数据安全治理体系,实现敏感数据政务网闭环运行,通过国家云安全评估认证,保障数据“可用不可见、可控可计量”。

(三)重点应用场景落地

在智慧政务服务、公共资源交易、城市治理等场景应用落地,同时向多领域智能延伸,已推出智能问政、政策咨询助手、党建小帮手等多款应用,并正在向酱酒、矿山、医疗等“8+4”重点领域拓展,形成可复用的行业解决方案。

三 创新点

(一)技术创新:构建自主可控的智算体系

基于“算力感知 - 任务建模 - 智能优化 - 执行反馈”全流程架构,实现国产算力资源整合,支撑算力券政策兑现,突破多模型协同部署技术,主流大模型支持按需调用与轻量化适配,结合国产化适配技术,响应延迟低于500毫秒。同时,研发低代码模型开发引擎,将应用开发周期从数周缩短至10分钟,实现零代码基础开发智能应用。

(二)应用创新:打造政务服务智改标杆,破解“模型孤岛”

创新集约化复用体系,落实《政务领域人工智能大模型部署应用指引》要求,打造省级统一建设政务大模型基础支撑底座,各地市、各部门无需重复搭建算力与模型框架,通过标准化接口直接复用核心能力。成熟应用经验证后上架“智能体中心”,供全省跨层级、跨部门“按需取用”,实现“一地建设、全省复用”,开发周期压缩至一半以下。

(三)模式创新:构建开放共赢的产业生态

通过“大衍算力调度+AI模型服务”协同,形成“算力供给-数据治理-模型开发-应用落地”产业闭环,推动算力需求与技术供给精准匹配。开源生态合作机制,搭建智能体广场,开放专属知识库与API接口,吸引多家生态企业入驻,建立数据与能力共享机制,将政务知识库拆解为原子化知识单元,统一数据标准与治理规范,实现“一处更新、全域同步”。如“贵人智办”政策解读能力可复用于12345热线智能分办、政务公文写作助手等场景,避免重复开发。

四 项目实施成效

(一)经济效益:高效利用算力资源,智能调度使国产算力集群利用率从不足40%提升至75%以上,节约运营成本。降低企业创新成本,平台开放52个API接口,为政企客户服务,帮助中小微企业平均节省模型开发成本60%,缩短转型周期30%。

(二)社会效益:构建省级政务大模型共性底座,提升AI开发效率,降低政企技术门槛,带动产业升级,通过“8 + 4”行业模型矩阵支撑数字经济增长。二是变革政务效能与民生服务,部署智能体应用提升普惠服务。

(三)战略效益:平台实践加速贵州“面向全国的算力保障基地”建设,为“东数西算”提供可复制样本,推动人工智能产业向“场景化应用”跨越发展,彰显数字经济创新区示范效应。

相关推荐