【科海观潮】
在过去数年里，人工智能领域各种创新技术大批涌现，并在自动驾驶、语音和图像识别、医疗诊断、智力竞技运动等领域取得关键突破，人们曾经只能在科幻电影中畅想的智能场景正在悄然来临，一个充满无限可能的智能时代已经全面开启。
几度起落的人工智能
人工智能在科学领域不是一个新概念。早在半个世纪以前，以图灵、维纳、麦卡锡、香农等为代表的计算机科学巨擘们就开始了对人工智能的科学探索。图灵在1950年发表的论文《计算机器和智能》中就率先提出了“机器能思考吗”这一人工智能的基本命题，并设计了著名的“图灵测试”——如果一台机器能够与人类展开对话而不被辨别出其机器身份，那么这台机器就是智能的，这也成为第一个从科学层面界定人工智能标准的研究。同一时期，维纳提出了著名的“控制论”，探讨了机器与人的统一性——人或机器都是通过反馈完成某种目的，揭示了用机器模拟人的可能性，为人工智能的提出奠定了重要基础。1955年麦卡锡与明斯基、香农等人作为共同发起人，邀请一批学者在美国达特茅斯学院共同讨论人工智能，并使用人工智能（Artificial Intelligence）这一术语，人工智能科学研究由此兴起。
尽管人工智能一直备受科学界的关注，但由于计算能力、算法和数据等基础技术条件的制约，人工智能技术和商业发展并非一帆风顺，甚至一度陷入低谷。直到1997年5月，IBM计算机系统“深蓝”战胜了国际象棋世界冠军卡斯帕罗夫，再次引发全球对人工智能的关注。此后，加拿大多伦多大学希尔顿教授在以深度学习为技术主线的人工智能领域取得关键突破，人工智能开始在自然语言处理、语音识别、图像识别、机器翻译、欺诈检测、产品推荐等方面得到应用，加上移动互联网、云计算、大数据、物联网等不断成熟并形成技术群落效应，为人工智能的技术突破提供了技术环境。谷歌、微软、IBM、Facebook、百度、腾讯等一批IT巨头也因此预见到了人工智能的商业曙光，加快了人工智能的产业布局。2016年10月，美国时任总统奥巴马在白宫前沿峰会上发布报告《国家人工智能研究和发展战略计划》，这项被称为美国新“阿波罗登月计划”的战略规划，标志着美国政府对人工智能的重视，人工智能走到了突破的拐点。
国外一些专家根据人工智能发展阶段和水平将人工智能分为弱人工智能（Artificial Narrow Intelligence，ANI）、强人工智能（Artificial General Intelligence，AGI）和超人工智能（Artificial Super Intelligence，ASI）三个阶段，弱人工智能擅长单方面能力，比如只具备下棋的智能；强人工智能是指在各方面都具备和人类相同认知能力的人工智能；超人工智能是指在所有领域超越人类智慧的极限。总体来看，目前人类人工智能还处于弱人工智能向强人工智能迈进的阶段。
颠覆未来的前沿技术
作为具有“奇点”特性的颠覆性技术，人工智能不仅能驱动新一轮科技创新和经济增长，还能克服人类在交通、环境、健康医疗等领域面临的一系列发展困境，从而开创全球经济社会发展的全新范式。
2016年著名咨询公司埃森哲发布报告称，人工智能将成为全球新一轮经济增长的动力源泉。到2035年，通过改变工作属性并创造新型人机关系，人工智能将会把经济增长率提升一倍，生产停滞、
错配、劳动力短缺等长期困扰世界经济的难题也将迎刃而解，人们得以从“低效”工作中抽身出来，做真正高效和创造性的工作。
智能交通和无人驾驶是当前人工智能发展的重点领域。未来，具有人工智能应用的交通设施将不仅限于客车，还将包含货车、飞行器和个人机器人，自动化交通无处不在，汽车变成了比人类更好的司机，智能交通系统将有效地克服城市交通堵塞和停车困难，降低车祸发生率，降低汽车排放，城市居民私家车将会更少，进而改变城市的整体面貌，带来一种全新的城市组织形式。
人工智能在医疗领域也将大有所为，将在很大程度上辅助人类攻克一系列医疗难题，并解决医疗
分布不平衡的问题。以IBM Watson为例，美国北卡罗林那大学医学院专家让Watson分析诊断了超过1000例癌症病例，结果发现在超过99%的病例中Watson给出了和人类肿瘤科专家一样的治疗方案，一位患有白血病的东京女性已经被医生判了死刑，但是Watson在10分钟内阅读了相关的4000米厚的医学资料，给出治疗方案救活了她。近期，英国一位少年接受基于人工智能技术的医疗手术，摆脱了长达7年的癫痫病痛，医生让机器人钻入他的大脑，通过电极刺激大脑皮层，找出引起癫痫发作的部分，医生将病灶切除。
不许试错的失控难题
当人工智能技术不断重塑人们工作、学习和生活方式，并为人类带来无限福祉的同时，也正在产生越来越多的开放式问题。
1.人工智能失控。能否保持对有朝一日远比人类更“聪明”的人工智能系统的控制，是人工智能一个古老而又终极的问题。控制与失控问题之所以如此重要，是因为人类可能根本就没有试错的机会。尽管人们普遍认为现有的人工智能技术仍停留在弱人工智能阶段，但是也有许多专家认为超人工智能时代并不遥远，超人工智能形态能够实现递归式的自我改善，并导致最终的“智能爆炸”。2008年，在牛津大学召开的全球灾难性风险会议上对专家进行的一项调查显示，机器超级智已超越核战争、各种被操纵的流行病和气候变化而成为人类现存的最大威胁，到2100年的时候，这种人工智能导致人类灭绝的可能性为5%。对此，《未来简史》一书的作者、以色列历史学家赫拉利指出人类可能的三大方向：人类将失去他们的经济和军事用途，经济系统将不再有价值；对系统来说，人类整体将具有价值但个体将没有价值；然而，系统将在一些个体身上发现价值，但他们将成为一个超人的新物种，而不是普通大众，“系统”指的是生物科学和信息技术以当前极快速度发展下去产生的新的社会形态。
2.机器歧视。在万物互联的环境下，基于海量数据和强大算法的人工智能系统正在影响甚至替代个体行为决策，在人工智能取代个体决策的趋势下，算法偏差和机器歧视并不鲜见且影响重大。例如，谷歌的图片软件就曾错将黑人标记为“大猩猩”，Flickr的自动标记系统也曾错将黑人的照片标记为“猿猴”或者“动物”，谷歌的算法歧视问题已引起人们注意，在谷歌搜索中相比搜索白人的名字搜索黑人的名字更容易出现暗示具有犯罪历史的广告，在谷歌的广告服务中，男性比女性看到更多高薪招聘广告。
3.技术性失业。技术性失业也是人工智能发展所产生的重大挑战。斯坦福大学人工智能与伦理学教授卡普兰认为，人类要应对人工智能带来的最重大挑战在于劳动力的变革和整个社会财富的分配方面，这对现有社会的稳定造成冲击。世界经济论坛主席施瓦布也提出，在由计算机控制、全自动化、网络化的生产以及服务业中高科技的广泛应用，比如使用机器人，在今后可能导致大量就业岗位流失。
4.人机情感伦理。人工智能技术发展将引发人类传统伦理观念的颠覆。2015年秋季，英国BBC和美国CNBC等媒体报道了一家美国企业制造出女性形象“性爱机器人”的消息，该公司负责人认为该产品可以帮助丧偶者解决生活烦恼。据悉，该机器人预设了“交际型”“服从型”等多种性格模式，但该产品却引起了广泛的伦理讨论。
正如DeepMind创始人哈撒比斯所言：“人工智能是一个伟大的技术，它本身都是中性的，可能被用于好的地方或者坏的地方，所以我们必须确保它的使用者是负责任的。”在此方面，美国、英国、日本，以及联合国、欧盟、IEEE等国际组织已经纷纷出台人工智能的战略、法律、标准和规范，希望通过人工智能政策和伦理引导，推动人工智能技术和产业的健康发展。我们应从法律法规、社会保障、技术标准和应用规范等多个维度对人工智能进行科学规范，推动人工智能技术和产业的健康发展，为人工智能的未来做好准备。
（作者惠志斌为上海社会科学院信息研究所副研究员）
来源：《光明日报》（2017年04月26日14版）