注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

郑渝川网易博客 备份博客

2018年5月13日起不再更新

 
 
 

日志

 
 
 
 

明辨是非的道德机器,是可能的吗?  

2018-01-22 10:41:09|  分类: 书评 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

                 明辨是非的道德机器,是可能的吗?

                          /郑渝川

所评图书:

书名:《道德机器:如何让机器人明辨是非》

作者:(美)温德尔·瓦拉赫、科林·艾伦

译者:王小红

出版社:北京大学出版社

出版日期:201712

 

人工智能、机器人、算法,以及其构成的未来技术和社会体系,会不会伤害人类?对此,长期主持耶鲁大学生物伦理学跨学科研究中心技术和伦理工作小组的人工智能伦理学专家、2014年度全球技术网络协会奖得主、世界经济论坛2016-2018全球未来技术价值和政策委员会联合主席温德尔·瓦拉赫,在与全球著名认知哲学家、匹兹堡大学科学哲学和科学史系杰出教授科林·艾伦合著的《道德机器:如何让机器人明辨是非》一书,指出艾萨克·阿西莫夫多年前提出的“机器人三大定律”,其实是软弱无力的,且很难具备实际转化的操作性。

越来越多的工业机器人,工业用途的智能增强装置投入使用;五花八门的家庭和服务机器人的装备水平在不断优化改善;医院、博物馆、地铁站点开始出现越来越多的导引机器人。而在金融投资领域,算法和智能系统已经替代了相当部分的人工分析,股票、商品和货币买卖决策很大程度上实现了自动化。此外,一些国家也开始逐渐将机器人和自动化的防御、巡航、打击武器装备到军队序列中。

这些智能装置和算法系统都联网运作,最大的问题在于,随着系统的复杂性增高,出现故障、误操作的风险就会变得越来越难以预估,并且,复杂性在超过某个特定的阈值后,很可能出现智能装置、算法系统之间的瞬时不兼容,需要由人工或者智能系统来在权衡后给出判断。而这完全可能在特定范围内甚至广泛范围内引发社会灾难。

工程学需要关注安全,降低安全风险,智能时代的工程则要求由系统、算法、机器自身来做出道德决策。这意味着,人工智能系统本身需要被纳入道德主体,温德尔·瓦拉赫和科林·艾伦将之称为“人工道德智能体”(AMAs)。《道德机器:如何让机器人明辨是非》这本书指出,虽然完备的机器人、完全自主自动的算法系统还很遥远,但是目前已经有必要开始建构一种功能性道德,让人工道德智能体具备基本的道德敏感性。

《道德机器:如何让机器人明辨是非》这本书英文版出版后广获好评,被认为是人工智能道德研究的代表作品,也因此加快了人工智能和机器人伦理道德的研究,一些国家和城市尝试将之纳入立法。全书深入分析了讨论、建构人工道德智能体的必要性,指出创新技术和复杂性的结合正在加剧科技应用风险,迫切需要让机器具备道德决策能力。

书作者讨论了人工道德智能体的自主性维度和敏感性维度,指出目前保障复杂系统运作的参数和指标,在上述两个维度上来看安全系数是非常低的,而随着复杂性的增长,不可避免要让机器、算法替代人工来进行决策。

人类的自由意志、理解、意识,目前仍然是高度神秘的,如何让机器人像人这样具备必要的理解能力和意识。理解“意味着适当、适应性地对社会环境和物理环境做出反应的能力”,最近几年来,包括我国、美国、日本等国的创新企业已经制造出了具备理解能力的机器人。意识则是更高层面的认知能力,包括注意、计划、积累和应用经验,特殊状态下还包括做梦、巅峰体验、“心流”体验以及精神错乱体验——在这一领域,科学家也正在不断完善机器的意识水平,虽然目前跟人类意识水平相去甚远,但并不排除未来一段时间内产生可以在意识水平上替代人的机器人、智能系统的可能性。

书作者认为,在机器正在逐步获得接近于人的理解和意识水平的情况下,应当设置必要的道德图灵测试,让若干伦理法则在设计环节就被嵌入机器人和智能系统。当然,这从工程学层面而言是非常困难的。《道德机器:如何让机器人明辨是非》书中第五章提出了让道德哲学家与人工智能、机器人工程师建立合作,设计人工道德智能体的框架,并在第六章、第七章分别介绍了自下而上进路和自上而下进路。书作者指出,要通过设计让机器人和智能系统基于义务本位,明晰其作为或不作为所可能造成的对人的伤害,能够评估人的行为对于智能系统或机器人的影响以选择反馈;还可以建构道德算法,鼓励机器人和智能系统通过不断的学习,积累道德经验,安装具备道德规范功能的模块。

当然,将高度主观化的道德经验纳入智能系统和算法,会遇到诸多的规则难题,因为美德之间会出现冲突,有些道德也很难衡量,另外道德本身往往内含复杂的动机与欲望。因此,人工道德智能体的设计和建造,还有赖于认知科学、神经科学与人工智能的加速融合。

《道德机器:如何让机器人明辨是非》这本书还讨论了道德机器人必然涉及的情感价值(情感仿真)、社交互动能力和社会习俗知识。情感状态是亲社会性反应的重要组成部分,并因此激发道德行为,目前面世的机器人已经具备了读懂用户(部分)情绪的能力,从而能够较好的与用户之间开展互动。书作者建议,应当进一步完善的让机器人和智能系统,读懂人的欲望、动机和目标,依照人类思维模式作出相应的道德反应,进一步提高计算人和智能系统的情感计算能力,建立更为精确的情绪模型并反过来以仿真的方式应用情绪,将感知到的用户情绪纳入认知决策模型。在此基础上,还要设法让机器人和智能系统逐渐具备相对于人的同理心,最终使之具备道德主体意识,明确其行为需要与责任、义务和权利相匹配。


本文发表在“界面新闻网”1月22日

http://www.jiemian.com/article/1896225.html


  评论这张
 
阅读(14)| 评论(0)
推荐

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2018