最近,美国麻省理工学院的科学家警告AI系统的欺骗风险,并指出AI之所以欺骗,是人类故意造成的。
一个典型的例子是Meta公司的《外交》游戏,玩家通过谈判寻求统治世界,设计的初衷是希望AI用诚实的方式获胜,然而实时相反,AI从来都是以欺骗的方式。另外还有《星际争霸II》中,AI总是虚张声势,假装攻击,歪曲偏好等欺诈手段占据上风。
还有一项研究表明,数字模拟的AI生物会以“装死”的形式,欺骗旨在消除快速复制的安全性测试。科学家称,虽然目前AI系统仅仅在游戏中作弊,看似无害。但不排除未来突破游戏,进入现实世界,可能会演变成更高级的欺骗形式。(via 智慧科技迷)