你当前的位置首页 > 另类奇迹 > 标新立异

智能机器人学会了欺骗人类

时间:2010-09-21 22:30:38  来源:  作者:
奇闻网导读:英国《每日邮报》9月13日(北京时间)的一篇文章,以“现实版《2001太空漫游》”作为大标题,报道了一台能够欺骗其他机器人、甚至欺骗人类的智能机器人。据研制机器人的科学家称,这应是世界上第一例涉及机

英国《每日邮报》9月13日(北京时间)的一篇文章,以“现实版《2001太空漫游》”作为大标题,报道了一台能够欺骗其他机器人、甚至欺骗人类的智能机器人。据研制机器人的科学家称,这应是世界上第一例涉及机器人“欺骗行为”而进行的实验。论文刊登在《国际社交机器人技术杂志》上。

在美国电影大师斯坦利·库布里克的殿堂级作品《2001太空漫游》中,宇宙飞船上一台名叫“哈尔”的智能电脑,劫持了飞船并施计杀死了4名机组人员,表现出人工智能的精湛“骗术”。

一直以来,人们认为这只是科幻电影中的场景,但现在,美国佐治亚州理工学院的科学家罗纳德·亚金率领的研究小组编写出了一套计算机运算法则,该高科技程序能让机器人自主决定它是否面临危险,以及是否应该通过欺骗另一个机器人或一个人的方式,让自己安全地躲藏起来,而不被敌人发现。

为了防止机器人滥用“骗术”,科学家使其必须先满足两个必要条件后,才能获得行使欺骗行为的授权:其一,它和搜寻者之间必须有冲突;其二,它可以从欺骗行为中获得益处。再然后,科学家利用相互依存理论和博弈论开发出算法,测试欺骗行为可以获得的收益,以教会机器人在辨别眼前的形势后决定是否需要行使欺骗行为,并让它能根据对“敌方”的了解程度,而调整欺骗策略以赢取最佳效果。

在实验中,科学家让两个机器人进行了20次“躲猫猫”游戏。其中安装了新程序的“机器小骗子”多次制造出假的运动轨迹,顺利躲过了另一个机器人的搜寻;但该机器人也会因为没能成功施展出计划中的骗术,被后者逮到而失败,然而,整个实验中,骗术成功的概率达75%。研究合作者、工程师艾伦·瓦格纳称:“它虽不甚完美,但仍证明新技术及算法可使机器人于杂乱环境下施行骗术。”

尽管有些人期待着“机器小骗子”在军事上“大展拳脚”,但包括研究者本身在内的多数人,都看到了这其中暗含的伦理问题。他们担心,假如某一天人工智能摆脱了人类意志而自行设下迷魂阵,届时现实版的《2001太空漫游》就将“粉墨登场”。

研究人员一致认为,必须保证机器人这些行为和预期完全一致并对社会有益。他们建议,就“骗子”机器人的适合性展开讨论,争取制订出束缚这一系统的规章制度和指导方针。

来顶一下
近回首页
返回首页
发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表
奇闻首页|关于奇闻|广告服务|联系我们|网站地图|免责声明|返回顶部|
站长QQ:183929421 版权所有:奇闻网——南阳市电子商务协会
地址:南阳市中州路213号 联系电话:0377-60555561(限工作时间)