智能客服平台,可帮助用户完成机票预定、问题解答、机票改签、取消等动作,具体要求:
不过是用 Spring Boot 开发普通 Java 应用,要能持续接收用户提问,解决机票相关问题,叫它Agent应用是因为这应用可与 AI 交互,由 AI 帮助应用理解用户问题并为用户做决策,简化分解后的架构:
应用由 AI 模型理解用户问题,决策下一步动作、驱动业务流程。但任一通用大模型都能解决机票相关问题吗?依赖模型的决策是可靠的吗?如有用户提出机票改签的诉求,模型一定能很好理解用户意图,没疑问。但:
它咋知改签手续费的规定?在这样一个可能带来经济纠纷、法律风险的应用场景下,AI模型必须要知道改签规则的所有细节,并逐条确认用户信息复合规则后,才能最终作出是否改签的决策
显然,单纯依赖 AI 模型本身不能满足需求,就要用到RAG模式。通过 RAG 将机票退改签相关领域知识输入给应用和 AI 模型,让 AI 结合这些规则与要求辅助决策,增加 RAG 后的架构:
有了RAG,应用才真正成为智能化的机票问题专家,就像一个经公司业务培训的客服代表,既能人性化与用户对话,又能根据规则引导用户行为。
AI Agent可帮应用理解用户需求并决策,但没法代替应用完成决策执行,决策执行还是要由应用自己完成,这点和传统应用无区别,不论智能化的还是预先编排好的应用,都是要由应用本身去调用函数修改数据库记录实现数据持久化。
通过 Spring AI 框架,可将模型的决策转换为对某个具体函数的调用,从而完成机票的最终改签或者退票动作,将用户数据写入数据库,即Function Calling模式。
大模型是无状态的,它看到的只有当前这轮对话的内容。因此若要支持多轮对话效果,需应用每次都将之前对话上下文保留,并与最新问题一并作为 prompt 发送给模型。这时,我们可以利用 Spring AI Alibaba 提供的内置 Conversation Memory 支持,方便的维护对话上下文。
Spring AI Alibaba 不止提供了以上原子能力抽象,还提供了高阶 “智能体” API 抽象ChatClient,让我们可以非常方便的使用流式 Fluent API 把多个组件组装起来,成为一个AI Agent。
这样ChatClient就为我们屏蔽了所有与大模型交互的细节,只需要把ChatClient注入常规的 Spring Bean 就可以为我们的机票应用加入智能化能力了。
★ 作者简介:魔都架构师,多家大厂后端一线研发经验,在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。具有丰富的引领团队经验,深厚业务架构和解决方案的积累。 负责: 中央/分销预订系统性能优化 活动&券等营销中台建设 交易平台及数据中台等架构和开发设计 车联网核心平台-物联网连接平台、大数据平台架构设计及优化 LLM Agent应用开发 区块链应用开发 大数据开发挖掘经验 推荐系统项目 目前主攻市级软件项目设计、构建服务全社会的应用系统。 ”
编程严选网:专注分享软件开发全生态相关技术文章、视频教程资源、热点资讯等,全站资源免费学习,快来看看吧~ 【编程严选】星球
欢迎长按图片加好友,我会第一时间和你分享软件行业趋势,面试资源,学习方法等等。