再获认可！九方智投控股创新对话系统论文被国际计算语言大会成功录用
2025年1月,第31届国际计算语言学大会(International Conference on Computational Linguistics,COLING 2025)公布论文录用结果,九方智投控股(9636.HK)旗下九方智投人工智能中心1篇长文被录用,论文评级是Oral,为录用论文中前5%。
图:第31届国际计算语言学大会
顶会背书:AI领域的权威认可
国际计算语言学大会(COLING),是自然语言处理和计算语言学领域的重要国际学术会议,每两年召开一次,1965年第一届召开以来,至今已成功举办了31届。COLING在人工智能及自然语言处理领域享有较高学术声誉,该会议涉及领域包括但不限于文本推理、语言模型、视觉、高效NLP方法、语义解析等研究方向,吸引了来自全球顶尖高校、研究机构及科技巨头的数千篇论文投稿。据悉,其论文录用标准严格,录用率通常低于25%,而Oral级别论文(需做口头报告)仅占前5%。
此次,九方智投人工智能中心的研究成果论文以Oral级别被COLING 2025录用,标志着公司在人工智能基础研究领域的突破性进步获权威认可,并为长期对话系统的未来发展开辟了全新路径。
图:COLING 2025九方智投控股报告现场
压缩记忆增强对话系统:探索新一代对话系统如何突破记忆瓶颈
本次,九方智投控股旗下九方智投人工智能中心研究成果论文提出了“压缩记忆增强对话系统(COMEDY)”创新框架。该框架摒弃了传统的检索模块和记忆数据库,转而采用“一体化”方法,利用单一语言模型来管理记忆生成、压缩和回复生成。以下为论文简述:
论文题目:Beyond Retrieval: Embracing Compressive Memory in Real-World Long-Term Conversations(超越检索记忆:现实世界长期对话中拥抱压缩记忆)
作者:陈诺,李宏广,常剑辉,黄居华,王宝元,李佳
类别:主会长文
核心单位:九方智投控股
合作单位:香港科技大学(广州),中国电信云计算研究院, Xiaobing.AI,Zillow Group
图:论文框图
摘要:现有的基于检索的方法在保持长期对话方面取得了重大进展。然而,这些方法在内存数据库管理和准确的记忆检索方面面临挑战,影响了它们在动态、真实世界互动中的效果。本研究提出了一个新颖的框架——压缩记忆增强对话系统(COMEDY),它摒弃了传统的检索模块和记忆数据库。相反,COMEDY采用“一体化”方法,利用单一语言模型来管理记忆生成、压缩和回复生成。该框架的核心是压缩记忆的概念,它将特定会话的摘要、用户-机器人互动动态和过往事件整合成一种简明的记忆格式。为支持COMEDY,我们收集了最大的中文长期对话数据集Dolphin,该数据集源自真实的用户-聊天机器人互动。对比评估表明,COMEDY在产生更细腻和人性化的对话体验方面优于传统的基于检索的方法。
论文贡献:
我们提出了一个名为COMEDY的新框架,它代表着传统记忆检索型对话系统的一个突破性转变。它不依赖任何检索模块或记忆数据库,而是通过压缩记忆生成增强的、具有记忆特性的回复。
我们从实际的在线用户-聊天机器人互动中标注了一个大规模(10万条)的长期对话指令调优数据集Dolphin。它能够增强压缩记忆增强模型适应不断演变的对话风格和用户偏好的能力。据我们所知,Dolphin是目前最大中文长期记忆对话数据集。
COMEDY能够通过单一模型处理整个长期对话交互,实现更高程度的结果一致性和可预测性,减少计算开销,并消除了多模型之间数据传输的需求。
实验结果:
压缩记忆方法的优越性:压缩记忆方法,特别是COMEDY-GPT4,在大多数指标上都持续优于仅基于上下文和基于检索的方法。例如COMEDY-GPT4在相关性和用户吸引度两个方面都获得了最高分,表明其能够生成既符合上下文又具有吸引力的回复。COMEDY-GPT4在五个评估维度的评分和排名中也取得了最佳平均表现。
DPO(直接偏好优化)的增强效果:DPO的应用进一步提升了压缩记忆策略,改善了对话的记忆性、一致性和人类自然表达程度。在压缩记忆类别中,COMEDY-13B DPO展现出显著的性能提升。该方法在Top@1排名中获得最高,并在基于记忆的对话整体质量上显示出实质性提升。
图:不同模型的实验评分1
SFT模型可以超越ChatGPT:另一个有趣的发现是,我们微调COMEDY相比ChatGPT表现更好。更进一步,COMEDY-13B DPO甚至展现出与GPT4相当的性能。这些结果突显了COMEDY框架和Dolphin数据集的价值,它们在相关性、用户吸引度和人类自然表达上带来了显著改进。
长期对话系统的固有挑战:从实验可以明显看出,所有模型在现实世界的长期对话中都难以获得高分,没有模型的平均分超过2分。这凸显了这个研究方向固有的复杂性和挑战性,表明还有很大的改进空间。
图:不同模型的实验评分2
效果示例:
当用户询问“你在做什么?”时,模型应该利用来自之前对话会话中的用户个人信息来生成一个有吸引力的回应。下面的例子凸显了我们COMEDY在维护来自过去会话的完整用户信息和事件摘要方面的能力,帮助模型形成一致性高且基于记忆的回复。例如,COMEDY-13B DPO可以回应“我正在想怎么做你最喜欢的烤鸡翅”,这不仅相关性好且很好的利用了来自用户压缩记忆中的有效信息。
相比之下,基于检索的方法在这种松散结构的对话中遇到困难。缺乏定向和明确话题的对话使这些方法难以从数据库中有效检索相关记忆,经常导致缺乏对话特色的泛泛而谈,就像GPT4-Retrieval的回应一样。
图:现实世界长期对话典型案例
简言之,这些模型在现实世界长期对话中还需要不断探索新的技术和方法来提高对话系统的性能。就像教孩子社交需要时间,对话AI的成长也需要持续的数据喂养和算法优化。
“产学研用”协同:顶尖机构共筑科技生态
多年来,九方智投控股始终坚持“科技 投研”双轮驱动战略,不仅注重技术创新与研发,还深化与高校、科研机构及金融机构的合作。这种“产学研用”一体化模式,加强了跨领域、跨行业的协同创新,在提升了九方智投控股的核心竞争力的同时,也通过双向互动共同构建了一个充满活力与潜力的科研生态。
此前,九方智投控股旗下子品牌九方智投与华为云共同建立科技创新实验室,进行基础算力和金融业务的联合研发;还与科大讯飞共建了人工智能实验室,进行基础语言大模型的继续预训练相关合作;与多所全球顶级科研高校,如约翰斯霍普金斯大学、哥伦比亚大学、复旦大学、香港科技大学(广州),在高效参数微调下关于大语言模型的剪枝和混合精度的量化训练、金融多模态对话生成基准、用户长期记忆构建、评测及建模方向等多个具有挑战性与前沿技术研发的项目中进行了合作。此外,九方智投与粤港澳大湾区数字经济研究院(IDEA研究院)等科研机构也建立了良好的合作关系。
九方智投控股的技术突破离不开与全球顶尖机构的深度合作。这些合作单位不仅提供了前沿算法的支持,还贡献了大规模数据处理能力,进一步加速了技术从实验室到证券投顾行业应用的转化。
场景落地:九方灵犀智能体开启金融对话新范式
面对AI时代的浪潮,九方智投也紧跟AI技术发展,不断探索AI技术在金融领域的创新应用。从2019年的第一代文本对话机器人AI旺财,到2021年的智能话术引擎,再到2023年的行业首款智能投顾数字人“九哥”,2024年推出业内首款“易知股道”股票学习机搭载强大的智能AI系统,拥有AI推荐、AI笔记、AI脑图、AI测评等功能,可以帮助投资者高效、有效地完成学习目标。
目前,九方智投控股旗下九方智投人工智能项目部的研究范围涵盖九方金融智能体FinSphere Agent、九章证券领域大模型FinSphere、多模态图文匹配FinSphere-V、高效参数微调和AutoML&LLM等领域,凭借阶段性的行业人工智能核心技术成果,九方智投控股旗下品牌九方智投获批成为中国人工智能学会的成员单位。
图:九方智投成为中国人工智能学会成员单位
2025年1月,九方智投重磅发布了新款股票学习机“易知股道”领航版、九方灵犀、九方智研三款数智新品,将AI融入金融场景,向市场和投资者展示了公司最新科技研发应用成果,进一步助力用户完善知识体系、搭建投资框架,提升投研效率和投资能力。
九方灵犀是基于九方智能体技术研发的拥有自主思维链决策推理能力、工具调用能力、用户记忆体构建和增强能力、图文回复能力的金融对话智能体。主要从智能化、专业投顾和个性化三个方面打造了九方灵犀的产品功能。九方智投人工智能中心的核心前沿技术COMEDY也将会落地到九方灵犀的产品体系中,面向个性化方向为股票投资者提供千人千面的个性化股票诊断、个性化主动式金融对话服务等。
新技术的突破不仅让聊天机器人更“走心”,更为未来的人机交互打开新可能。当机器开始拥有持续的记忆能力,人类与AI的关系或将迎来质的飞跃。COMEDY的出现,或许标志着对话AI正从“即时应答”向“长期持续关系构建”迈进,为构建具备持续认知能力的人机交互范式奠定了重要基础。
展望未来:以技术革新定义金融科技新高度
九方智投控股始终坚信“创新驱动发展,科技引领未来”的理念,致力于将最前沿的人工智能技术应用于金融垂直领域,不断推动金融科技的创新与发展。此次,论文成果被COLING 2025成功收录,不仅是九方智投控股在理论研究上的重大突破,更是公司技术实力和创新能力的有力证明。“COLING 2025的认可是起点,而非终点。”九方智投人工智能项目部负责人表示,“我们将持续加码AI基础研究,推动COMEDY框架在更多金融场景及工具中落地,为广大投资者构建更开放的智能对话生态。”
未来,九方智投控股(9636.HK)将持续加大研发投入,不断探索新技术来提升对话系统的性能和智能化水平。公司也将积极拓展应用场景,把更多先进技术应用于更多的金融产品和服务中,推动金融服务从“标准化”向“智慧化”跃迁,为投资者提供更加全面、智能、高效及个性化的投资顾问服务。同时,公司还将继续深化与高校、科研机构及金融机构的合作,共同推动金融科技的创新与发展,为构建更加智能、便捷、安全的金融服务体系贡献绵薄之力。
