注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

郑渝川网易博客

读然后知广阔,评之中寻深邃

 
 
 

日志

 
 
 
 

预防失控,为科技创新搭设堤防  

2017-04-07 00:43:03|  分类: 书评 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
书名:科技失控:用科技思维重新看懂未来
豆瓣评分:8.2分(51人评价)
博主评价:
未评价很差较差还行推荐力荐
来自豆瓣读书资源

                   预防失控,为科技创新搭设堤防

                           /郑渝川

所评图书:

书名:《科技失控》

作者:(美)温德尔·瓦拉赫

译者:萧黎黎

出版社:江苏凤凰文艺出版社

出版日期:20172

 

生物工程、基因工程领域的研究,已经催生出一个庞大且前景看好的产业。科学家兴奋的告诉民众,合成生物会改善人体健康,而转基因作物具有抗虫害、抵御极端天气、高产、营养价值高等优点,有助于让全球部分地区彻底摆脱饥饿。

但上述领域的研究,绝不仅仅限于那些直接有益于人体、人类社会的项目。哈佛大学分子生物学家乔治·切齐希望复活猛犸象等已经灭绝的物种,认为这将恢复地球过去的物种多样性,但这种想法也引起了质疑,人们担心将食肉性物种重新引入自然环境会对现存物种造成致命威胁。更加令人不安的项目是人兽杂交,一些科学家主持的实验室在秘密开展这方面的实验,据称是更好的检验新药的效果,并为治病救人提供肾脏、心脏等器官,怎样衡量这种杂交产物的性质(究竟是不是人),如果这种杂交导致普通的动物疾病发展为对于人体会产生致命性威胁的快速传染疾病,又将如何应对?

20世纪初期,欧美社会曾进行过所谓的人种优化社会实验,对被认定为劣等人种的居民采取强制绝育等手法剥夺其生育权。这项实验很快变得臭名昭著。但在近年来,随着基因工程的研究取得重大进展,通过基因筛选、基因增能等手段,“设计”更为优秀的下一代已经不再是天方夜谭。欧美国家的相关宗教、社会组织对此提出了强烈批评,但这种批评和质疑并没有真正阻碍相关科学机构从事这方面研究,即便未来有关国家完善了监管,这方面研究也完全能够轻易迁入到监管标准较低、伦理约束缺失的国家开展。

在冷冻条件下对人体进行保存,自然也引起了一连串的法律、伦理问题。冷冻人体的目的在于延长生命,为了这项目的展开的各类科学研究,在争议中前行。考虑到智能机器人装置正在造成更多失业的背景下,那么用冷冻人体法实现的部分人的更长寿命,无疑也将造成相似的社会影响。再进一步,就是生物医学研究、人工智能研究、机器人研究的融合,产生的所谓“半机器人”,就像电影中出现过的钢铁侠、金刚狼。在不久的将来,在人的皮肤上植入纳米传感器,通过血液循环,再在身体不同部位植入不会引起排异反应的磁条和芯片,这样的“人”事实上同时具备了一般人和机器人的特征。再往后,就是认知增能,正如一些科幻小说所描绘那样,人将因此变成超人类,但这同样意味着实验对象患上精神疾病的较大风险。

斯坦福大学神经学家罗伯特·萨博斯基主张,通过生物化学手段治疗抑郁、焦虑、注意力缺陷多动障碍以及其他精神疾病。但依照这种理解,人就被从智能生物,降格到与其他生物体、机器人没有差别的机械化的个体,基于此开展的科学研究、实验、治疗(干预)完全忽略人性本身。

以上所述,仅仅是生物工程、基因工程及相关的神经科学、人工智能研究,所引发的一小部分争议。新科技革命潮流涌动,新技术的应用前景令人惊叹,乐观的科学家大多认为,科学进步终将较为彻底的解放人类,让全人类过上空前美好的生活。但现在的问题是,无论是生物工程、基因工程,还是计算机科学等新兴学科,不同学科本身日渐复杂化,学科之间的交融也加剧了复杂性。伦理学家、耶鲁大学生物伦理学跨学科中心主管温德尔·瓦拉赫警告指出,新技术研究和应用对于人类社会、人类本身的影响还没有充分显现,“单从科学角度进行安全评估已远远不够”。

如前所述,新技术的研究和应用,往往不可避免会带来伦理、法律等层面的争议,而尤为值得关注的是,这些争议的依据,即新技术创造出的多重不确定性,往往并不会在开始阶段就得以充分释放,风险值无法计算。特别是一些前沿领域的研究和应用,往往隐藏在科学家或大企业的实验室中,谈不上对之进行有效的政府监管或者最起码的伦理约束。温德尔·瓦拉赫还指出,新技术研究和应用在引发社会强烈争议的同时,有关科学机构、研究个人或大企业往往会拒绝对公众开诚布公。这意味着,公众对于一些新技术研究和应用可能存在的问题的担忧,不是什么毫无根据的杞人忧天,而是担心在毫无准备的情况下成为新技术试错的牺牲品。

温德尔·萨拉赫在其所著的《科技失控》书中,详细探讨了飞速的技术发展所引发的道德和伦理争议,并指出技术本身可能逐渐成为脱离人类控制的强大力量,他希望科学界、产业界、投资界能够真正将前沿科技的研究纳入到监管范畴之列,确保新技术的研究和应用符合伦理基本原则,以真正实现技术服务于人而不是变成伤害人、瓦解社会的祸根。

新技术带来的种种问题,事实上在19世纪以来尤其是20世纪中期之后就逐步变成现实。安眠新药萨力多胺曾造成了欧洲几千名婴儿出生缺陷,而目前正在大量投入使用的纳米材料的消费品存在突出的致癌风险。发生在201056日的美国股市“闪电暴跌”事件,主要原因是因为计算机高频交易系统出现问题。这些例子都表明,新技术的风险很难被预知,“前沿技术的倡导者因追求研究结果的热情掩盖了潜在的风险”。

温德尔·瓦拉赫在书中详细阐述了多类新技术同期投入使用,对于技术、商业管理及社会带来的复杂性压力,强调复杂系统往往会因为管理、设计缺陷等因素使得问题更易发生,此外还会出现技术薄弱漏洞,这一切不是将风险因素通过复杂建模就能够得以解决的。

温德尔·萨拉赫不是所谓的卢德主义者(反技术、反创新者),在他看来,呈现指数级增长的新技术,很多情况下让人的理解和应对难以与之匹配。他的观点是,应当继续支持科技创新及创新成果投入应用,但要加强上游预防,要控制存在潜在好处和风险的技术开发以及其投入社会使用的方式。很显然,如果将这项建议付诸实践,必然要使得一些领域的科技研发被放缓,却可以起到帮助人类社会尽可能有效的规避因过多、未经风险验证的新技术应用所带来的系统性危机。

《科技失控》最后三章阐述了加强新技术上游预防的三大操作建议。首先,要建立负责任的工程设计文化。要让科技、设计担负对于人类社会的责任,最重要的就是完善相关的伦理和法律准则,在新科技产品、服务的设计过程中确保其安全性,并对于失控等状态下的责任作出预设。温德尔·萨拉赫还强调,科学界、产业界都应当要求,复杂系统必须具备从故障中恢复的能力,必须预设应对复杂问题的解决方案。其次,建立灵活有效的监督机制。这其中涉及政府监管体系、非政府组织与相关行业组织共同参与的监督体系,还要加大对于新闻媒体对于科技创新问题的议程把握能力。第三,响应互联网时代去中心化运作的潮流要求,培育可以质疑、制衡专家的知情公民。也就是说,在包括基因工程、人工智能等领域的研究中,必须确保创新进展纳入公众监督——事实上,完善公众监督,也有助于祛除人们对于不透明的新技术研究和应用的恐惧心理。


本文发表在《经济参考报》4月7日

http://dz.jjckb.cn/www/pages/webpage2009/html/2017-04/07/content_30401.htm


  评论这张
 
阅读(5)| 评论(0)
推荐

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017