注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

郑渝川网易博客

读然后知广阔,评之中寻深邃

 
 
 

日志

 
 
 
 

自动化会把人关进玻璃笼子吗?   

2015-12-03 13:47:03|  分类: 书评 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
书名:玻璃笼子
豆瓣评分:6.8分(182人评价)
博主评价:
未评价很差较差还行推荐力荐
来自豆瓣读书资源

                    自动化会把人关进玻璃笼子吗?

                            文/郑渝川

 

    所评图书:

书名:《玻璃笼子》

作者:(美)尼古拉斯·卡尔

译者:杨柳

出版社:中信出版集团

出版日期:201511

 

 

    大数据时代、机器人时代、自动化时代,会让人类的未来变得更好,还是更糟?

    不同的专家权威给出了不同的解读。与其说他们的观点各自对立,倒不如说是高度互补的。我们需要X大奖创始人、奇点大学执行主席彼得·戴曼迪斯在《富足》一书中就技术带来美好未来的乐观解答,以及具体的行动路线图;科普作家马特·里德利的《理性乐观派》回顾了科技史和经济史,相当鼓舞人心。

    美国著名思想家、《哈佛商业评论》前主编尼古拉斯·卡尔则要悲观得多。他的《浅薄:互联网如何毒化了我们的大脑》等作品已成为互联网、新科技时代的“警世恒言”,强调人类绝不能因为新科技、互联网、智能化、自动化而丢弃主体性。某种意义可以认为,因为尼古拉斯·卡尔这样的人存在,以其影响力促使公共管理部门、公众以及互联网行业发生转向,从盲目乐观,变得更加注重新科技应用的安全,以及是否合乎伦理原则,技术的用户因而获得了更为安全、放心的体验。

    我们现在看到的这本《玻璃笼子》,是尼古拉斯·卡尔的新作。这本书延续了尼古拉斯·卡尔的一贯立场,揭示了自动化、智能化趋势潮流下,技术崇拜带来的应用偏差,而这种偏差正在伤害人类自身。

    我国医疗卫生系统正在推进电子病历、数字化的国民医疗档案的普及。这被认为在不损害患者隐私的情况下,可以通过数据的发掘利用,极其有效的提高诊疗水平和响应速度。尼古拉斯·卡尔在书中举出了截然相反的例子。从小布什任内,到2009年初上任的奥巴马,美国政府十多年来积极推进电子病历普及,为此花费了多达数百亿美元的投入。但在奥巴马的第二任任期开始后,医疗界却不断曝出这项自动化新技术的弊端。

    首先是电子病历的应用,促使医生进行更多的不必要检查,导致医疗成本的增加。这是因为电子病历数据系统会自动推荐许多诊断检查项目,系统默认设置为选取检查,如果医生要选择不检查,则要进行一番手动操作。第二项弊端是造成病历档案的随意篡改,尽管这本可以通过系统设置来杜绝,但医院和系统维护企业通常默许医生所为。第三项弊端是弱化了医生技能。医生不再手写病历,而是大量通过剪切+粘贴的操作完成病历描述,这确实提高了效率,却诱使医生忽略病人、类似病情之间的差异,诊断的专属性和准确性降低了。与之同时,不再手写病历,加快了诊疗效率,却因此减少了医患沟通。此外,电子病历系统还会事无巨细的提示诊断错误、处方配伍问题等,医生通常烦不胜烦,会关闭问题提示,而这恰恰会诱发诊断和处方错误。

    电子病历系统的以上特征,实际上是在加速实现医生诊疗过程的智能化和自动化,方向当然是创造出完全智能化的机器人医生。智能化、自动化、机器化替代人的进程,实际上始于20世纪中期,最早出现在军事领域,然后是制造业,最近十多年来在金融业、新闻业、法律服务业等更多行业获得了广泛应用。尼古拉斯·卡尔指出,机器具有学习能力,可以不断规范现象间复杂的统计关系,反馈能力不断提高,变得相比过去更为准确。医疗领域而今已经悄无声息的实现了大部分的智能化和自动化,医生而今扮演的角色其实只是一个人类传感器,负责整合多项医疗设备和仪器的判断,什么时候机器可以替代扮演人类传感器的角色,人类医生很可能就失去了就业市场。

    当然,医生们可以感到稍许安慰的是,迄今为止,不管是何等精妙和智能化的机器,还没有掌握的直觉,面对概率性问题的判断也常常面临局限,数据出现失真。机器人医生很可能会在不久的将来出现,但如果离开人类医生的把关,很可能会在连续运转下产生致命的计算错误,并因此为人类医生保留就业岗位创造机会。

    《玻璃笼子》一书用了大量的篇幅来谈论各类领域内,自动化、智能化、机器化的新科技应用所无法避免的局限性。例如GPS的广泛使用,让曾经是北极圈内的天才向导因纽特人失去了探路能力,事故相反频发。又如自动飞行系统投入使用后,相反使得飞行员的技能被弱化,进而降低了应对突发危险情况的判断能力,如果危急时刻存在两难选择的情况,自动化系统也给不出很好的解答——对于飞行员来说,安装了自动飞行系统的飞机,实际上已经变成具有更大危险性的“玻璃笼子”。

    归结起来,尼古拉斯·卡尔强调的自动化弊端,主要包括两大方面:一是数据挖掘分析、算法本身存在的缺陷,无法做到尽善尽美,概率上百万分之一、千万分之一的差错会以更高频度出现,给应用了自动化系统的设备、系统带来致命危机;二是自动化的应用,让人产生过度依赖和偏好,从而降低了技能,也容易分散注意力和意识,无法做到安全可靠的应对突发风险。

尼古拉斯·卡尔不是“卢德主义者”,他不反对自动化的使用,但非常警惕盲目、过度而不设保障的自动化应用。他希望自动化、智能化、机器化潮流下,设计者、发明家、创新企业家能够抛弃技术优先的策略,真正回到以人类为中心的自动化的怀抱,回归人类工程学的人本主义原则。毕竟,只有切实的参与和劳动,才让人在这个世界上产生存在感。

 

 

本文发表在“凤凰网”123

http://book.ifeng.com/a/20151203/18182_0.shtml

 

本文发表在《信息时报》12月7日
http://epaper.xxsb.com/showNews/2015-12-07/279665.html
  评论这张
 
阅读(1765)| 评论(0)
推荐

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017