最近，美国麻省理工学院的科学家警告AI系统的欺骗风险，并指出AI之所以欺骗，是人类故意造成的。
一个典型的例子是Meta公司的《外交》游戏，玩家通过谈判寻求统治世界，设计的初衷是希望AI用诚实的方式获胜，然而实时相反，AI从来都是以欺骗的方式。另外还有《星际争霸II》中，AI总是虚张声势，假装攻击，歪曲偏好等欺诈手段占据上风。
还有一项研究表明，数字模拟的AI生物会以“装死”的形式，欺骗旨在消除快速复制的安全性测试。科学家称，虽然目前AI系统仅仅在游戏中作弊，看似无害。但不排除未来突破游戏，进入现实世界，可能会演变成更高级的欺骗形式。（via 智慧科技迷）
