昨日,网易有道宣布将自研的知识库问答引擎QAnything正式开源,除了可以调用云端大模型服务,还支持纯本地部署,所有用户可免费在开源社区Github内进行下载,一键部署即可使用。该系统目前支持word、ppt、excel、pdf、图片等多种文档格式,直接导入进去即可实现像"ChatGPT"一样问答。
据了解,QAnything的主要原理是基于检索增强的生成(Retrieval Augmented Generation,简称RAG),RAG是目前很火的一种技术框架,它能够利用检索外部内容的方式增强大语言模型的准确度、专业能力和个性化等各方面的性能。
目前,通用大模型能力很强,但无法使用用户的私有数据,且存在胡乱编造的幻觉问题。QAnything作为有道自研的RAG引擎,则结合了用户私有数据和大模型的优势——用户的任何内容,以任意的形式存在,比如各种格式的文档,音频,数据库等,都可以在QAnything的支持下,变成可以针对其内容进行问答的使用方式,通过这个技术框架用户可以很方便地搭建自己的智能知识助手。
(QAnything系统架构图)
值得一提的是,本次开源的QAnything是一套完整的RAG系统,包括专门优化的自研的embedding和rerank模型,微调后的LLM,优化后的推理代码,向量数据库,以及一个立即上手可用的前端。所有的算法模型(包括7B大模型+embedding/rerank+OCR)占用显存不超过16G。
如今,QAnything已在有道的多个产品中应用,包括有道翻译文档问答、有道速读及有道内部业务的客服系统等。
以有道速读为例,它是前不久子曰教育大模型最新发布的创新应用成果之一,目前上线在有道翻译中。针对大家在日常生活中的阅读文档需求,有道速读内置了文档问答、文章摘要、要点解读、引文口碑和领域综述五大功能,能够帮大家更快更准地获得信息和对文档的理解。而该功能背后的驱动就是QAnything,在大模型技术的加持下,用户能够实现快速理解文档、定位要点,实现1分钟读完万字长文。
“目前,QAnything项目还在不断迭代,欢迎大家参与开发,并给予我们更多反馈。我们希望能帮助有需要的开发者们,和更多伙伴一起推动大模型的落地。”网易有道首席科学家段亦涛介绍道。
关键词:
凡注有"环球传媒网"或电头为"环球传媒网"的稿件,均为环球传媒网独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"环球传媒网",并保留"环球传媒网"的电头。
- 雪域任运#爱唱歌#爱学习#爱分享#传播快乐#传递好运,一路厚爱相随,感恩遇见
- 开好头!兴业消金续播“希望的种子” 天天亮点
- 世界热议:冬季幼儿经常便秘怎么办?妈咪爱促肠道健康助通便
- 全球热议:杏林中医:古方传承特制能量沐浴包 洁净身心续写健康篇章
- 环球速递!奥莱照明——乘势而上 质赢未来
- 今日快看!践行可持续 思念食品荣获市界2023年商业力量-ESG绿色先锋奖
- 天天日报丨新野县法院:送法进社区 普法零距离
- 商丘金管家物业华都御府项目中心举行庆元旦文艺汇演-最新消息
- 新动态:驻马店市驿城区古城街道:入户走访解民忧 养老保险认证暖人心
- 商城县冯店乡:坚持三“字”诀 扎实做好今冬明春森林防灭火工作-天天新消息
资讯
焦点
- 民建福建省委会直属智媒体支部、民建福建省委会书画院联合举办迎新联谊活动
- 世界快消息!杭州(春夏)服装电商供应链博览会,3月18-19在杭州举办
- 郑州首店|宫中燕郑州旗舰店盛大开业
- 世界快讯:安捷伦 “指纹图谱相似度智能判读”方案
- 一嗨租车荣获“2023年度ESG可持续发展创新先锋企业”称号 天天新要闻
- 中医外治|药透立体动态干扰电疗仪,在家就能做药透,家有孩子老人的了解一下-全球焦点
- 西平县应急管理局积极推进辖区工贸领域电气焊作业数字化监管工作 世界快播报
- 罗山县楠杆镇:“冬日暖阳 巾帼关爱”活动温暖起航
- 公募基金坚守长期 谋篇布局FOF产品 浦银安盛招睿精选FOF正在发行中 天天滚动
- 当前速讯:淄博沂源首届花灯节即将开幕