产品概述 

 

联信人工智能大模型服务平台是一个集成了大模型调度平台、智能平台门户、知识库管理中心、政务应用中心的综合性服务平台。

 

整体架构

 

它以推理引擎、语音引擎、视觉大模型引擎为支撑，提供了共性、组件和引擎能力，能够支持多种应用场景，并提供统一的基础引擎服务、模型调度管理服务、知识管理服务和应用开发服务。

平台的四大能力中心

 

1、大模型调度平台：智能资源管理与高效调度

 

 

模型管理

1.统一接入框架：标准化接口层，实现适配器模式，支持国内外主流大模型（DeepSeek/GPT/Claude等）的协议转换
2. 统一输入输出规范：支持文本/JSON/Protobuf等多种数据格式
3.动态负载均衡：基于Actuator服务健康检查与自动熔断

 
模型通道

基于Prometheus的自适应扩缩容，支持NVIDIA MIG/Triton推理服务器等高级特性，动态算力分配，根据任务优先级自动分配GPU/CPU资源，优化算力利用率，降低硬件成本。

 
模型监控

实时监控模型运行状态、响应延迟及资源占用，提供可视化报表，Echat定制看板：模型性能对比矩阵、资源消耗热力图、助力运维决策。

 
模型授权

权限分级管控，通过角色权限管理，确保敏感模型仅对授权用户开放，满足政企安全合规需求。

 

2、智能平台门户：极致体验与深度定制

 

 

3、知识库管理中心：精准检索与数据安全

 

实现从个人知识沉淀到跨组织协同的全流程支持，提升知识流通效率与安全性。

 
1. 多层级知识库：
自定义知识管理：支持多格式文件上传（文档/图片/PDF等），智能解析非结构化数据，提供可搜索、可预览的知识内容。  
精细化共享协作  
部门间共享：基于权限控制的团队协作，打破信息孤岛；  
单位间共享：跨组织安全协作（数据加密+权限管理），适用于合作项目与联合研发。  
多级管理体系：支持总公司-分公司-部门多级架构，按知识重要性分层存储，避免重复建设与管理混乱。  
核心价值：实现从个人知识沉淀到跨组织协同的全流程支持，提升知识流通效率与安全性。
2. 智能检索增强（RAG）：
多路混合检索：结合BM25（精确关键词匹配）与DPR/Sentence-BERT（语义向量检索），通过Reciprocal Rank Fusion动态融合结果，提升召回率。  
分层分块策略：递归迭代检索逐步细化范围，保留多跳依赖的上下文完整性，避免信息碎片化。  
精细化排序：基于交叉编码器（如BERT）重排序，叠加领域知识权重（如权威期刊优先），优化结果优先级 。 
隐私保护：数据全程本地存储，支持敏感字段脱敏处理，符合《数据安全法》要求。

 

4. 政务应用中心：动态管控与资源优化

 

动态权限控制引擎：属性基访问控制(ABAC)模型，支持按部门、按时间、按调用次数灵活分配模型权限，避免资源浪费
低代码集成方案：多语言SDK架构，提供RESTful API及SDK工具包，支持Java、Python等主流语言，3步完成系统对接。  
智能业务协同系统：打通数据孤岛，实现跨系统自动触发（如合同生成后同步至财务系统）。  
前沿技术扩展架构：基于插件式算法框架和未来兼容设计，预留AI算法扩展接口，支持未来接入AIGC、多模态等新技术。

 

应用场景

 

 

媒体聚焦

  

公司深度践行国家“发展自主可控人工智能”战略部署，聚焦核心技术攻关，成功研发自主可控的人工智能大模型服务平台解决方案。目前，该方案已在政务服务、公检法系统、金融机构、企业数字化转型及智能办公等领域实现规模化落地应用，创新成果获央视新闻、新华社等权威媒体专题报道。

 

服务宗旨

  

联信人工智能大模型服务平台不仅是技术工具，更是政企数字化转型的战略伙伴。通过“安全可控+场景深耕+生态开放”的三重优势，助力客户在AI时代赢得先机。