首页 > 科技 > 机器有了“心” AI能“读懂”人类价值观

机器有了“心” AI能“读懂”人类价值观

来源:科技日报

科技日报北京7月13日电 (记者华凌 通讯员董亦飞)记者13日从北京大学人工智能研究院获悉,由该院教授朱松纯领衔的联合团队取得一项重大研究成果,构建出一种机器实时理解人类价值观的计算框架,让机器人与人类用户通过实时沟通完成一系列复杂人机协作任务。这一研究可谓为机器立“心”,让AI(人工智能)赋能机器人“读懂”人类价值观。相关论文以“实时双向人机价值对齐”为题刊发在最新一期的国际期刊《科学·机器人学》上。

据了解,当今广泛应用的AI系统是一种被动的智能,只能机械地按照人类给定的任务行事,缺乏像人类一样的认知和推理能力以及情感和价值观。在缺“心”的情况下,AI很难理解人类真正的意图及价值需求,自然也就难以获取人类的信任、融入社会。

在发现之前的研究范式存在局限性之后,朱松纯带领研究团队转换赛道,让AI系统按照人的方式自主定义任务,“学习”人从自身的价值需求出发,由此为机器立“心”,让AI学会人的价值函数,具有实时对齐当前人类价值目标的能力,探索出“小数据,大任务”的范式。

该研究团队提出一个基于即时双向价值对齐模型的可解释AI系统,让机器通过与人类的即时交互并通过相应反馈来推断人类用户的价值目标,并通过“解释”将其决策过程传达给用户,以了解机器人作出判断的价值依据。研究结果表明,该学习模型可在复杂协作任务中提高人机协作效率,进而提升人机信赖关系,实现真正自主智能,在迈向通用AI的道路上更进一步。

本文来自网络,不代表趣头条立场,转载请注明出处:https://www.ngnnn.com/article/4_17819.html
上一篇盖茨将向基金会捐200亿美元,基金会年度支出将提高50%
下一篇PS5供货量或将在今年年底增加

为您推荐

首个移动机器人保险生态圈落地深圳

首个移动机器人保险生态圈落地深圳

作 者丨石恩泽编 辑丨孙超逸图 源丨图虫9月26日,优艾智合作为半导体行业工业移动机器人龙头,联合中国移动机器人(AGV/AMR)产业联盟、中再产险、人保财险及鼎和财险成立移动机器人保险生态伙伴圈。本月初,优艾智合机器人与中再产险、人保财险及鼎和财险联合推出国内首份针对移动机器人的商业保险《移动机器人质量责任保
盖茨盛赞ChatGPT:人工智能历史意义不亚于“PC或互联网诞生”

盖茨盛赞ChatGPT:人工智能历史意义不亚于“PC或互联网诞生”

腾讯科技讯 2月3日消息,微软联合创始人比尔·盖茨表示,像ChatGPT这样的AI聊天机器人将变得与个人电脑或互联网同样重要。盖茨今日接受采访时表示:“AI将成为2023年最热门的话题。这是不可避免的。”他随后补充道:“ChatGPT将变得与个人电脑、互联网同样重要。”盖茨在20世纪80年代帮助开创了个人电脑时代。在微软和苹果等
专访墨奇科技CEO邰骋:人工智能需要新的AI数据基础设施

专访墨奇科技CEO邰骋:人工智能需要新的AI数据基础设施

“人工智能要发展到下一代,必然需要基础理论和基础设施的革新,特别是需要新的 AI 数据基础设施。”9月2日,新京报贝壳财经记者获悉,在近日举办的HICOOL2022全球创业者峰会上,AI(人工智能)基础技术和平台墨奇科技的项目团队获得“HICOOL 2022 全球创业大赛一等奖”。墨奇科技联合创始人、CEO 邰骋接受了新京报贝壳财
人工智能大会将举办智慧体育高峰论坛,发布AI+体育蓝皮书

人工智能大会将举办智慧体育高峰论坛,发布AI+体育蓝皮书

2022年世界人工智能大会智慧体育高峰论坛将于9月2日开幕。  主办方供图AI+体育,将成为世界人工智能大会的全新命题和新亮点。2022年世界人工智能大会智慧体育高峰论坛将于9月2日开幕。论坛上将发布由上海人工智能研究院牵头,联合上海交通大学、上海体育学院、首都体育学院、同济大学等单位编制的国内首本《“AI+体育”蓝
大脑还有多少秘密?世界人工智能大会首开脑机接口主题论坛

大脑还有多少秘密?世界人工智能大会首开脑机接口主题论坛

在2022世界人工智能大会上,天桥脑科学研究院(简称TCCI)转化中心联合中国科学院上海微系统与信息技术研究所、脑虎科技、中国神经科学学会、上海市神经科学学会共同举办“脑·机智能融合-让大脑连接未来”论坛,这也是脑机接口首次以主题论坛的形式登陆世界人工智能大会。英国皇家工程院院士、上海交大医疗机器人研究院院
我国人工智能学科主要奠基人涂序彦逝世,享年 88 岁

我国人工智能学科主要奠基人涂序彦逝世,享年 88 岁

IT之家 3 月 28 日消息,据北京科技大学消息,我国人工智能领域著名科学家、人工智能学科的主要奠基人、中国人工智能学会的主要创始人之一、第二和第三届中国人工智能学会理事长、北京科技大学计算机与通信工程学院教授涂序彦先生,因病医治无效,于 2023 年 1 月 1 日 0 时 10 分在北京逝世,享年 88 岁。IT之家附讣告原文
梁建章:人工智能如何影响经济和各行各业

梁建章:人工智能如何影响经济和各行各业

近日人工智能再次成为了热门话题。很多人好奇的是,人工智能未来到底会如何影响经济、人口和创新?今天,我跟大家分享个人的一些看法——谈谈人工智能对于经济以及各行各业的影响。自从深度神经网络出现以来,人工智能的发展速度超乎想象。ChatGPT的出现是个奇迹,超出了几乎所有计算机科学家的预料。一个简单的神经网络模
AI炒股新纪元?头部量化私募幻方宣布全力探索人工智能应用

AI炒股新纪元?头部量化私募幻方宣布全力探索人工智能应用

头部量化私募幻方宣布成立新的独立的研究组织,探索AGI(即通用人工智能,Artificial General Intelligence)的本质。4月14日,幻方发布公告显示,幻方将集中资源和力量,全力投身到服务于全人类共同利益的人工智能之中,成立新的独立的研究组织,探索AGI的本质,“我们将充分而持续地投入,不做中庸的事,用最长期的眼光去
AMD 前全球副总裁单羿加入自动驾驶公司鉴智机器人

AMD 前全球副总裁单羿加入自动驾驶公司鉴智机器人

“新供应商的机会是,高级别辅助驾驶的渗透率仍不到 10%。”文|张家豪编辑|程曼祺《晚点 Auto》独家获悉,AMD 前全球副总裁单羿已正式加入去年 8 月成立的自动驾驶公司鉴智机器人,以联合创始人身份担任 CEO。鉴智机器人还于近日完成了数千万美元的 A+ 轮融资,领投方为襄禾资本,跟投方为老股东渶策资本。据了解,鉴智机
卷完模型卷芯片!为提升效率,微软准备推出专属人工智能芯片

卷完模型卷芯片!为提升效率,微软准备推出专属人工智能芯片

在早期成功押注ChatGPT的研发公司OpenAI之后,市场发现,微软在其武器库中还拥有另一个秘密武器:自研人工智能芯片,这一芯片将为生成式AI背后的大型语言模型提供强大动力。4月18日周二,据媒体援引两位知情人士的话说,微软早在2019年就开始开发内部代号为Athena的AI芯片。其中一位知情人士称,一些微软和OpenAI的员工已经
真正的应用级量子人工智能距离我们还有多远?

真正的应用级量子人工智能距离我们还有多远?

·“量子科技是强国竞争的战略制高点,但不能一哄而上,低水平重复内卷,或片面追求发论文、抢专利,各自为战,闭门造车,而缺少真正的技术投入和系统配合。”·“当下量子系统的规模非常重要,而这很大程度上取决于芯片。”当前,发展量子计算和人工智能已成为世界各国的重要战略,两者交汇而生的量子人工智能更是发展迅速
消息称谷歌正测试一款类似ChatGPT的聊天机器人

消息称谷歌正测试一款类似ChatGPT的聊天机器人

鞭牛士 2月2日消息,据外媒报道,据知情人士表示,谷歌正在测试新的人工智能驱动的聊天产品,可能会影响未来公共产品的发布。这些产品包括一个新的聊天机器人,以及一种将其整合到搜索引擎的潜在方式。
返回顶部