新研究发现:部分人工智能系统已擅长“说谎”

发布时间:May 12, 2024 18:28 PM

2023年7月7日,在瑞士日内瓦“人工智能造福人类全球峰会”上,一名参会者给仿真机器人索菲亚拍照。记者连漪摄

人工智能系统是否会欺骗人类,一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。

文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献,重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗,它们系统地学会了“操纵”他人。

研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统,它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称,“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”,并且在玩游戏时“从不故意背刺”它的人类盟友,但该公司发表的论文数据显示,该系统并没有公平地玩游戏。

“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”帕克说,“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”

其他人工智能系统则具有在扑克游戏中虚张声势的能力,或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力,以及为了在谈判游戏中占上风而歪曲偏好的能力等。

研究人员表示,虽然人工智能系统在游戏中作弊似乎是无害的,但它可能会导致“欺骗性人工智能能力的突破”,并在未来演变成更高级的人工智能欺骗形式。

帕克说:“我们需要尽可能多的时间,为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”


新研究发现:部分人工智能系统已擅长“说谎”
促进新消费模式持续壮大消费升级|消费|模式
促进新消费模式持续壮大消费升级|消费|模式

随着多项政策逐步落地、消费场景有序恢复,我国消费持续回升向好。4月份,社会消费品零售总额同比增长18.4%,比上月加快7.8个百分点。随着消费升级态势持续显现,不断促进新消费模式壮大,将为消费扩大带来新的增长点。4月份消费数据延续了今年以来持续向好的恢复态势。特别是前期受到压抑的服务性消费需求快速释放。假期旅游出行、外出购物、住宿餐饮等消费非常火爆,“五一”假期的旅游人数、旅游收入按可比口径计算,已超过2019年同期水平。目前消费呈现出一些较为突出的特点。接触型服务消费快速增长。居民外出购物、就餐、旅游

换个角度“瞰”田野 一起来感受色彩之下的丰收喜悦轮廓|肥。广西|喜悦
换个角度“瞰”田野一起来感受色彩之下的丰收喜悦轮廓|肥。广西|喜悦

三夏丰收时节,处处紧张忙碌,换一个视角从空中看,田野轮廓特别饱满,庄稼色块特别鲜明,获得感本身就是一种美感。江苏淮安:洪泽湖畔小麦喜获丰收秸秆还田绿色增肥抢收小麦,机不可失。江苏淮安洪泽区,收割机正在大手笔打理46万亩小麦。这里水网密布,土壤肥沃,麦子茁壮饱满,联合收割机来回穿梭,切割、剥壳、脱粒一次性完成,部分秸秆就地粉碎还田,增加土壤肥力。田野就像彩色平面效果图,打包的秸秆点缀其中,它们能做饲料、肥料,还能制造新型燃料。秸秆华丽转身,粮食颗粒归仓,现代农业就是这么精打细算。广西博白:水稻“赶花”

多人拟任省直单位正厅级,湖南发布省管干部任前公示工作|举报|单位
多人拟任省直单位正厅级,湖南发布省管干部任前公示工作|举报|单位

省委管理干部任前公示公告为了加强对干部选拔工作的监督,提高识别和任用干部的准确程度,现对省委常委会会议研究决定的下列拟任人选进行任前公示:欢迎广大干部群众反映和举报拟任人选思想作风、道德品质、工作能力、廉政勤政等方面的情况和问题。举报人可以通过信函、电话、网络举报或到受理举报地当面举报。为便于了解情况,请举报人签署或告知本人真实姓名和工作单位。所举报的问题,必须真实、准确,内容尽量具体详细,并尽可能提供有关调查核实线索。严禁借机造谣中伤,串联诬告。举报人将受到严格的保护。受理举报时间:2023年6月4

看衰人工智能?罗斯柴尔德家族“减持”英伟达分析师|AI|家族
看衰人工智能?罗斯柴尔德家族“减持”英伟达分析师|AI|家族

中国基金报安曼就在全球为AI疯狂的时候,百年欧洲金融巨头罗斯柴尔德家族却悄然减仓。据6月2日彭博社报道,资管机构EdmonddeRothschild的全球首席投资官BenjaminMelman透露,公司自2020年年底以来一直超配英伟达,但是目前已经部分获利了结,现在所持头寸“要远远小得多”。据了解,这家总部位于瑞士日内瓦的资管机构为拥有200多年历史的欧洲老牌金融世家罗斯柴尔德家族所有,目前管理资产规模790亿瑞郎。持有8年期间“踩准”节奏增减持根据Fintel整理的Edmondd

目标:成为正式体育运动!掼蛋已被列为第五届全国智力运动会表演项目项目|掼牌|运动会
目标:成为正式体育运动!掼蛋已被列为第五届全国智力运动会表演项目项目|掼牌|运动会

在目标成为正式体育运动项目的道路上,起源于江苏淮安的扑克牌游戏掼牌已取得不小的成绩。今年10月25日-11月4日,第五届全国智力运动会将在安徽合肥举行,该届运动会将增设大众公开组及表演项目。据国家体育总局棋牌运动管理中心近日公开信息披露,掼牌已被列为第五届全国智力运动会表演项目。此外,在第五届全国智力运动会增设的大众公开组中,掼牌也与象棋、国际象棋、桥牌、五子棋、国际跳棋等项目一同被列入网络组。而第五届全国智力运动会正式竞赛项目则包括围棋、象棋、国际象棋、桥牌、五子棋、国际跳棋6个大项,58个小项。