注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

郑渝川网易博客

读然后知广阔,评之中寻深邃

 
 
 

日志

 
 
 
 

为人工智能嵌入道德  

2016-06-14 10:21:22|  分类: 书评 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
书名:技术奇点
豆瓣评分:7.0分(78人评价)
博主评价:
未评价很差较差还行推荐力荐
来自豆瓣读书资源

                       为人工智能嵌入道德

                           文/郑渝川

所评图书:

书名:《技术奇点》

作者:(英)默里·沙纳汉

译者:霍斯亮

出版社:中信出版集团

出版日期:20166

 

奇点这个概念在物理学上,指的是时空中某一点会出现类似黑洞或者大爆炸的情况。此概念而今越来越频繁的出现在媒体报道和舆论讨论之中,人们担忧,随着人工智能和神经技术两个领域的技术进步,人类水平人工智能基础上将产生所谓的“超级智能”。按照库兹韦尔的奇点理论,超级智能降生之日起,人工智能或进行过认知改造的生物智能就会取代人类,占据主导地位,人类或者说绝大多数人类面临被淘汰的命运。

默里·沙纳汉此前曾作为奥斯卡获奖影片《机械姬》的科学顾问,在大众媒体上崭露头角。他是伦敦帝国理工学院认知机器人学系教授,作品跨越人工智能、机器人学、逻辑学、动力系统、计算神经科学、哲学等诸多学科领域。默里·沙纳汉所著的《技术奇点》一书探讨了人类水平人工智能及超级智能的可行性,并就奇点到来对人类社会将产生的深远影响发表了独到见解。

机器(人)在国际象棋、围棋等棋类领域战胜人类中的顶尖选手,这能够解读为人工智能(智能机器)全面超越人类吗?默里·沙纳汉提出了否定看法。在他看来,人类几乎是什么都会做的万事通,可以兼顾自己的工作、生活各方面事宜,但现在的人工智能(智能机器)只能在其设定的领域发挥出优势。谷歌自动驾驶汽车不能帮人做菜,下棋的机器人也做不到与人交流文学,如果要让医学护理机器人代理慕课课程,当然也是强“机”所难。

要克服专业能力的缺陷,让机器拥有普通智力、常识、创造力、直觉,这不是可以短期实现的目标。科学家提出借助仿生手段创造人工智能,即所谓的“全脑仿真”,正在循着“测绘-模拟-实体化”三个阶段推进。乐观估计,当“全脑仿真”解决了仿真生物的功能设计难题后,将会使仿真生物具备学习和适应能力,这使得与人类水平相当的人工智能、超过人类水平的人工智能(超级智能)具备了可行性。

人工智能的另一个方向,是无实体人工智能,例如苹果的siri和谷歌的Google Now。目前,这些无实体人工智能尚不与真实世界实现无缝隙沟通的能力,对于人类用户的心理把握也很不到位。但进化中的机器学习算法,已经开始从处理静态数据转向识别动态数据,借助大数据将逐渐具备接近于人的分析能力、预测能力。

人工智能的功能进化,看上去并不具备太大悬念,真正值得探讨的其实是一组哲学命题,包括是否应当赋予人工智能以道德概念、是否应当让人工智能为其行为负责、要界定清楚人工智能的权利,等等。如果未来的人工智能、机器智能,仍然仅仅是纯粹意义上的非生物体,没有独立意识、直觉、感情,也就谈不上要从道德、法律、权利等概念对之作出限定;但反过来,如果人工智能本身具有机器智能、神经系统与人体(生物体)的融合性,具备了类似于人的意识、学习能力和感情,上述问题就显得不可逃避。

默里·沙纳汉认为,如果通往人类水平人工智能、超级智能,就应当建立善待这类智能的体系,为之嵌入道德,对之设定法律、伦理限制(例如不得攻击人类,不得启动摧毁社会基础设施的行动,等等),也赋予其基本的权利。只有这样,才能“让人工智能拥有和人类类似的基本动机与价值观,包括求知、创造、探索、提高和取得成功的欲望”,在奇点之后,也不至于产生驱逐、消灭人类的念头。

默里·沙纳汉判断,人工智能会在未来几代人(30-100年)的时间里重塑人类社会,目前没有必要为之的进化设定时间表,也不必明确超级智能出现的时间点(因为根本无法做到)。当前,专业化人工智能(尽管尚未达到人类水平人工智能水平)正在起到替代人类工作的作用,的确减少了人类可参与的工作岗位数量,未来这一影响还可能进一步放大,亟待各国政府围绕智能产业的发展,改善教育和职业技能培训水平,以减少人工智能带来的社会震荡。

书作者还提出,人类必须跟人工智能一道升级进步,“如果我们严重依赖人工智能度日,那么拥有这项技术的人就有办法完全控制被动的人群”,“算法现代只是操纵我们的购物方式,明天也可能控制我们从哪里获得新闻、我们相信谁的意见”,甚至从哪里赚钱。



本文发表在《深圳特区报》6月14日

http://sztqb.sznews.com/html/2016-06/14/content_3546797.htm


  评论这张
 
阅读(10)| 评论(0)
推荐

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017