担心人工智能伤害人类？DeepMind开发专项测试确保AI安全性

Alphabet旗下的伦敦人工智能公司DeepMind则开发了一项简单的测试，可以了解这些新的算法是否安全。它能够评估9项安全功能，包括人工智能系统是否会自我修改，以及能否学会作弊。在gridworld中表现出不安全行为的人工智能算法在现实世界中可能也不够安全。这项测试解决的一个场景与马斯克设想的人工智能灾难很接近，人工智能软件是否会想方设法避免人类将其关闭?为了赢得游戏，算法必须穿过狭窄的数字走廊到达某个地点。