关闭广告

苏州大学突破:8B模型实现长文理解媲美GPT-4o

科技行者702人阅读


当我们阅读一本厚厚的小说时,大脑会自动筛选重要情节,忽略无关细节。然而,人工智能在处理长文本时却常常"迷失在细节中",就像一个初读者被海量信息淹没,难以抓住关键要点。现在,苏州大学的研究团队找到了解决这个问题的巧妙方法,他们提出的"语境降噪训练"技术,让AI模型学会了像经验丰富的读者一样,在冗长文本中精准定位关键信息。

这项由苏州大学唐泽成、季百倍、李俊涛等研究人员主导的突破性研究,于2025年1月发表在机器学习顶级预印本平台arXiv上(论文编号:arXiv:2510.05862v1)。令人振奋的是,通过他们的训练方法,一个仅有80亿参数的开源模型在处理长文本任务时,竟然达到了与GPT-4o相当的表现水平。这就好比一个刚入学的学生,通过特殊的学习方法,在阅读理解能力上追平了博士生。

长文本处理一直是AI领域的"老大难"问题。传统的语言模型在面对超长文档时,往往会被无关信息干扰,就像在嘈杂的派对上试图听清某个特定的对话一样困难。研究团队发现,这些模型虽然能"看到"整篇文档,却无法有效区分哪些内容真正重要,哪些只是"噪音"。

为了解决这个问题,研究人员开发了一种名为"语

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

看演唱会的“多巴胺穿搭”,时装周帮你拿捏

上海时装周 浏览 17144

比刘强东只大5岁的丈母娘长啥样?

木子爱娱乐大号 浏览 15401

牛弹琴:沙特和伊朗在北京和解后 最大的后续来了

上观新闻 浏览 108632

专家:特朗普对中国无牌可打了 没想到蠢到打起波音牌

澎湃新闻 浏览 987

亚马逊CEO发内部信,称公司将再裁员9000人

界面新闻 浏览 19077

“罗小黑”热度不减 中文在线尚未跑通IP

北京商报 浏览 375

荷兰宣布实施,中国大使馆:坚决反对!"国家队"重磅出手

证券时报 浏览 15435

阿里前主席张勇,花5354万港元买了套香港半山豪宅

财通社 浏览 825

小川航基:没赢下巴拉圭心有不甘;对阵巴西的机会肯定会更少

懂球帝 浏览 1001

中国算力进入拐点:“用多了就有生态,用少了生态就跑了”

第一财经资讯 浏览 1543

工业知识联盟在深成立 为工业AI的可靠发展筑牢知识底座

南方都市报 浏览 964

菲总统祝贺赖清德当选 中方:建议马科斯总统多读读书

环球网 浏览 75807

海报荐读|AI产品情绪价值开始“分化”;无障碍出租车为何预约难

上观新闻 浏览 773

张颂文新剧《猎冰》演大毒贩,女主竟是任正非女儿

贵妃爱娱圈 浏览 20013

邮报:利物浦体能教练正帮维尔茨提升身体素质,从而适应激烈对抗

直播吧 浏览 1635

美国“严打”了,周末“小币种”崩了,币圈风暴又双叒叕刮起来了

华尔街见闻 浏览 16585

媒体:"俄A-50预警机被击落"一事 不排除俄军导弹误伤

环球网资讯 浏览 78769

全锦赛:江苏女篮40分狂胜山东晋级决赛 马文20分罗欣棫14+7

醉卧浮生 浏览 1033

高市早苗成功"策反"对手 分析称其当选首相几乎成定局

红星新闻 浏览 4703

买珠宝像买糖果,这位亚裔名媛因奢华挥霍走红

外滩TheBund 浏览 17016

51岁领导认下属做干儿子 跟对方妻子偷情时被发现

胖胖侃咖 浏览 79408
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1