> 技术 > AI/人工智能

微软 GraphRAG AI 提效:改善数据检索,tokens 成本降低 77%

人阅读 2024-11-16 11:57:43

11 月 16 日消息,科技媒体 winbuzzer 昨日(11 月 15 日)发布博文,报道称微软研究院已更新 GraphRAG 系统,新增了动态社区选择(Dynamic Community Selection)功能,在改善全局搜索的数据检索同时,tokens 成本减少了 77%。

GraphRAG 简介

注:微软的 GraphRAG(图基检索增强生成)是一种新型的检索增强生成(RAG)框架,旨在利用知识图谱和大型语言模型(LLMs)来提升信息处理和问答能力。

图源:微软

GraphRAG 通过构建知识图谱,从非结构化文本中提取结构化数据,这使得模型能够更好地理解和处理复杂信息。

自 2024 年 7 月 2 日开源以来,GraphRAG 在 GitHub 上迅速获得了超过万次的星标。

支持动态社区

新引入的动态社区选择优化了知识图谱的访问方式,从而提高了响应的质量和效率。

该过程使用轻量级模型 GPT-4o-mini 来识别相关数据部分,只有这些部分进入主要处理阶段,从而显著减少计算工作负载。内部测试显示,采用动态选择后,tokens 成本平均降低了 77%。

2024 年 11 月发布的 GraphRAG 版本 0.4.0 还包括增量索引和 DRIFT(动态检索推理与过滤技术)模块。

这些功能使得知识图谱的更新变得更为高效,同时提高了搜索的准确性。通过这种结构,GraphRAG 能够生成更具上下文的答案,减少了传统文档系统中常见的碎片化输出。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。

LOT物联网

iot产品 iot技术 iot应用 iot工程

Powered By LOT物联网  闽ICP备2024036174号-1

联系邮箱:support1012@126.com