通过我司提供的智能体平台管理系统,可快速搭建AI大模型智能体应用,旨在为用户提供从应用创建、编排、知识管理到部署接入的全生命周期管理能力。平台采用模块化设计,支持可视化编排、多类型知识库集成、自定义工具开发以及多渠道接入等功能,同时提供完善的组织管理和权限控制系统。
方案先进性
系统提供了应用编排能力,支持多种文档(word、excel、ppt、pdf)、邮件、笔记等文件类型格式的知识纳管。
在智能体平台中,一个“应用”是指基于 GPT 等大语言模型构建的实际场景应用。通过创建应用,你可以将智能 AI 技术应用于特定的需求。它既包含了开发 AI 应用的工程范式,也包含了具体的交付物。
简而言之,一个应用为开发者交付了:
封装友好的 API,可由后端或前端应用直接调用,通过 Token 鉴权
开箱即用、美观且托管的 WebApp,你可以 WebApp 的模板进行二次开发
一套包含提示词工程、上下文管理、日志分析和标注的易用界面
你可以任选其中之一或全部,来支撑你的 AI 应用开发。
智能体平台中提供了五种应用类型:
聊天助手:基于 LLM 构建对话式交互的助手
文本生成应用:面向文本生成类任务的助手,例如撰写故事、文本分类、翻译等
Agent:能够分解任务、推理思考、调用工具的对话式智能助手
对话流:适用于定义等复杂流程的多轮对话场景,具有记忆功能的应用编排方式
工作流:适用于自动化、批处理等单轮生成类任务的场景的应用编排方式
方案效益性
使用情景
例如你希望基于现有知识库和产品文档建立一个 AI 客服助手,可以在智能体平台中将文档上传至知识库,并建立一个对话型应用。如果使用传统方式,从文本训练到 AI 客服助手开发,可能需要花费数周的时间,且难以持续维护并进行有效迭代。在智能体平台内,仅需三分钟即可完成上述过程并开始获取用户反馈。
知识库与文档
在智能体平台中,知识库(Knowledge)是一系列文档(Documents)的集合,一个文档内可能包含多组内容分段(Chunks),知识库可以被整体集成至一个应用中作为检索上下文使用。文档可以由开发者或运营人员上传,或由其它数据源同步。
如果你已自建文档库,可以通过连接外部知识库功能将自有知识库与智能体平台平台相关联。无需重复将内容上传至智能体平台平台内的知识库即可让 AI 应用实时读取自建知识库中的内容。
方案示范性
系统支持分布式部署,项目工程容器化,提供微服务部署。
技术架构说明
分布式部署:基于Kubernetes集群,跨可用区部署,支持自动伸缩(HPA)与持久化存储(PV/PVC)。
容器化:使用Docker容器化封装应用,确保环境一致性。采用K8s进行编排,支持自动化部署、滚动更新。
微服务:Spring Cloud微服务框架,API网关统一路由,链路追踪(SkyWalking)保障可观测性。
图片
示范案例(项目)的相关信息
一、舆情应用
简介:
自动调取中移互联网内部的舆情API接口, 获取最新的舆情记录, 发送站内消息提醒,保存舆情到本地系统,并支持对舆情信息的智能问答和总结。
特点:
自动爬取舆情来源地址的原文信息
自动结构化数据后转存到舆情知识库
发送站内消息提醒
效果:
解析舆情信息内容后,通过自动化标注技术将舆情信息转成结构化数据并存储到知识库。对新发生的舆情向相关人发送站内消息提醒。
用户可通过AI自然语言对话,询问舆情情况。可以结合时间维度、产品维度、地域维度、组合模式等方式,向AI询问相关舆情信息,AI结合舆情知识库进行总结并回复用户
二、节假日旅游小助手
简介:
集团持续发布旅游攻略期刊,结构化并上传至知识库, 通过旅游小助手结合旅游攻略期刊的知识库,自动回复用户并生成旅游行程攻略,助用户省心游玩