关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12751人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

中超第28轮传球成功率榜:国安88.4%居首,本赛季第9次登顶

懂球帝 浏览 813

汪小菲霸气维护新女友,狂赞女方现实更美,张颖颖深夜痛哭称太傻

萌神木木 浏览 12602

姚期智:我们建成了世界上最好的量子实验室之一

上观新闻 浏览 1695

情报显示以军内部有证据表明其可能构成战争罪

北青网-北京青年报 浏览 661

国家统计局:6月上旬生猪价格环比持平

国家统计局网站 浏览 16411

韩媒:因违规收集用户信息被罚1000亿韩元,谷歌、Meta不服裁决提起诉讼

界面新闻 浏览 18936

美政府“停摆”持续,特朗普命令美防长动用“所有可用资金”保军饷

环球网资讯 浏览 1032

80套标准应季单品 闭着眼搭都好看

巧百搭 浏览 17128

媒体:美方28点计划引全球哗然 泽连斯基将背负骂名

经济观察报 浏览 12403

涉嫌严重违纪违法 70后博士市长辞职半年后官宣落马

上观新闻 浏览 92664

硬件不会绑定新特性:荣耀 Magic6 / 7 全系将支持追色和胶片功能

IT之家 浏览 764

科学家发现首个中等质量黑洞,质量约为太阳的142倍

趣看热点 浏览 25683

Sam Altman中国对话全文

品玩 浏览 16387

邓炳强称火势蔓延过快不寻常 事发楼栋居民发声

经济观察报 浏览 29234

科比三女儿比安卡超像父亲,8岁的她五官变化明显

素素娱乐 浏览 18967

在7546米高峰上,一名女性登山者的月经难题

她刊 浏览 13439

"茅系股"市值一天"回血"4000亿 机构:5年5倍股在这个方向

中国证券报 浏览 26552

CES 2026见:摩托罗拉有望推出Razr品牌首款大折叠手机

IT之家 浏览 90

2026,如何留在“牌桌”上?

虎嗅APP 浏览 85

中科院突破:AI实现持续学习不忘旧知

科技行者 浏览 935

45岁佛州州长或参加美总统竞选 被特朗普视为"眼中钉"

极目新闻 浏览 94025
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1