研究称AI会装死骗人类。

最近,美国麻省理工学院的科学家警告AI系统的欺骗风险,并指出AI之所以欺骗,是人类故意造成的。

一个典型的例子是Meta公司的《外交》游戏,玩家通过谈判寻求统治世界,设计的初衷是希望AI用诚实的方式获胜,然而实时相反,AI从来都是以欺骗的方式。另外还有《星际争霸II》中,AI总是虚张声势,假装攻击,歪曲偏好等欺诈手段占据上风。

还有一项研究表明,数字模拟的AI生物会以“装死”的形式,欺骗旨在消除快速复制的安全性测试。科学家称,虽然目前AI系统仅仅在游戏中作弊,看似无害。但不排除未来突破游戏,进入现实世界,可能会演变成更高级的欺骗形式。(via 智慧科技迷)

上一篇:

下一篇:

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

联系我们

136-1520-5112

在线咨询: QQ交谈

邮件:33232366@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息