注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

郑渝川网易博客

读然后知广阔,评之中寻深邃

 
 
 

日志

 
 
 
 

人工智能时代会带来哪些风险?   

2016-06-05 14:08:34|  分类: 书评 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
书名:人工智能时代
豆瓣评分:7.9分(240人评价)
博主评价:
未评价很差较差还行推荐力荐
来自豆瓣读书资源

                  人工智能时代会带来哪些风险?

                            文/郑渝川

   所评图书:

   书名:《人工智能时代》

   作者:(美)杰瑞·卡普兰

   译者:李盼

   出版社:浙江人民出版社

   出版日期:20165

 

谷歌研发的自动驾驶汽车已经累积了数十万英里的安全驾驶记录,预计数年内这种无需人类驾驶的车辆将广泛投放市场。但随之而来的一个伦理性问题是,如果无人驾驶汽车出了车祸,责任应该归结于谁?如果搭乘车主的无人驾驶汽车,正要经过一座狭窄的桥,桥对面开来了满载儿童的校车,这座桥无法容载两辆车,必须要有车马上掉下桥去。无人驾驶汽车会毫不犹豫的冲上前去,为车主清除隐患,把校车撞下桥去,还是自己开下桥,以保全更多儿童的性命安全?

类似的伦理疑问还包括,如果你或你的家人突发重病,但无人驾驶汽车却拒绝超速将病号送至医院,你该怎么办?如果有家长让未成年的孩子喝酒,家佣机器人是否应当马上启动报警程序?

人工智能时代已经到来,机器人的智能化程度大幅提升,拥有学习能力的机器人可以从经验中学习,还能快速对现实问题作出反应。但有关人工智能、机器人的伦理性问题显然比技术问题、功能设计更难得以解决。

享誉世界的顶尖级人工智能专家、斯坦福大学人工智能与伦理学教授杰瑞·卡普兰曾创建过Go公司、Onsale(全球首家在线拍卖公司),设计了世界上首台笔触式计算机。卡普兰在美国科学界、产业界和政界有着很强影响力。他所著的《人工智能时代》一书,主要从人工智能和机器人的更新换代、广泛使用,所必然带来的技术和社会风险入手,探讨了应对处置这些风险的可行之策。

在卡普兰看来,机器学习相比于过去的智能化机器,有了本质的区别,前者“发展出自己的直觉力,然后用直觉来行动”,这也将使得机器人可以更为踊跃的进入人类世界,接管过去仅能由人执行完成的工作。在过去,投放到医学、工业等多领域的机器人,都存在功能方面的精准性、力量、持久性不足,这也使得机器人适应环境的能力较差,只能在启动之前尽可能精准的设定,但随着机器感知领域的突破发展,“未来的机器人可以看到、听到、做计划,还能根据混乱而复杂的真实世界来挑战自己”。

卡普兰预言,终有一天,随着传感器、反应器以及无线通信的不断进步,人工智能将以合成智能的方式,与人体、其他物体合二为一。“未来看起来会比你想象中的更像过去”。

智能时代毫无疑问会释放更多的技术应用红利,但风险也不可小觑。卡普兰书中特意提到,随着金融交易越来越多的加入人工智能,高频交易程序一方面减少了市场震荡,另一方面却会努力将风险转嫁给一般的交易者,让交易者获得的交易价格偏离于最佳价格。这种情况在商业环境中也有反映,全球知名电商企业亚马逊通过复杂算法,使得不同顾客在不同时段获得的报价都有不同,并通过智能化的购买数据分析,推出更具诱惑力的促销方案,诱导顾客购买更多原本不需要购买的、也并不优价实惠的商品。从目前情况来看,在合成智能方面投入最多的企业,无不热衷于将之用于操控用户的注意力和购买。

更进一步的风险在于,由于人工智能的设计仅仅是服务于单一目的,因而不考虑是否存在副作用。人工智能会抢在人之前,(帮助主人)抢占车位等稀缺资源,在大风暴之前购买超市货架上的所有应急商品;今后与人对弈的机器人,不排除会使用“黑社会”的手段,即为了战胜经计算很难取胜的对手而去威胁其家人,在更厉害的对手去往比赛的路上破坏其交通工具。

结合本文开篇所引述的由机器人行为引发的伦理争议,可以认为,要避免人工智能时代的到来,造成人工智能对于社会体系甚至人类安全造成威胁,相关的智能设备、机器人开发和使用的伦理准则及立法,都应尽快提上议事日程;并且,在人工智能开发过程中,在增强智能体行为能力的同时,也应尝试赋予其如同人类的“感受同情和怜悯的能力”。

《人工智能时代》一书还探讨了人工智能时代将带来的另两大风险,一是因为智能化潮流所造成的持续性失业,很可能急速扩大赤贫群体,继而引发社会震荡;二是人工智能、机器人、大数据等新科技应用,会在现有基础上进一步加剧贫富差距。

卡普兰在书中指出,目前人们已经意识到了人工智能因而大幅度的提高了自动化作业的效能,从而产生了对工人的替代性,减少了工作机会;但人们通常还没有意识到,“很多科技进步会通过让商家重组和重建运营方式来改变游戏规则。这样的组织进化和流程改进不仅经常会淘汰工作岗位,也会淘汰技能”——无论是蓝领工作,还是律师、医生等带有很强专业性的技术岗位,传统的技能都将因为智能化的替代,变得低效,这也将迫使学校和职业培训机构改变课程体系,以确保(部分)学生、培训对象能够拥有强于智能设备、算法的技能,这必然意味着无法通过新型教育、培训课程检验的其他人被未来的职场所抛弃。

这本书认为,未来贫富差距进一步拉大,已成无法避免的事实前景,关键是能否通过更为有效的再分配政策,来确保所有人获得生存发展机会和起码的利益,而不至于造成一个数量很大的被剥夺者群体,继而引发严重的社会危机。

 

 

本文发表在《羊城晚报》65

http://ep.ycwb.com/epaper/ycwb/html/2016-06/05/content_56038.htm#article

 

本文发表在《广州日报》6月8日
http://gzdaily.dayoo.com/html/2016-06/08/content_3209541.htm
  评论这张
 
阅读(697)| 评论(0)
推荐

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017