文︱牛绮思 编辑：牛绮思
“2045年，奇点来临，人工智能完全超越人类智能，人类历史将彻底改变。” 集预言大师、科技大师与人类社会发展大师身份于一体的雷·库兹韦尔对未来科技的发展做出了如此预测。
4月27日，英国剑桥大学著名物理学家斯蒂芬·霍金教授在2017全球移动互联网大会（GMIC）上通过视频发表演讲，表示人工智能的崛起可能是人类文明的终结。
不可否认，从诞生之日起，计算机储存和处理信息的能力就超越了人类大脑的敏捷程度，并且还在悄然赶超人类智能。1997年，国际象棋棋坛神话加里·卡斯帕罗夫败给了电脑“深蓝”；2016年，谷歌人工智能AlphaGo又战胜了韩国棋手李世石；2017年，百度的人工智能机器“百度大脑”甚至以“智能革命”为主题作了一首长诗，“我来了，天上的云乘着风飞翔，心中的梦占据一个方向……醒来之后何时是归期。我要看到未来的自己。”阿里巴巴集团董事局主席马云也打趣道，“30年后，《时代》杂志封面上，年度最佳CEO很有可能是一个机器人，它记得比你牢、算得比你快，根本不会对竞争对手生气。”
人工智能真的会给人类带来威胁吗？
人工智能威胁论不绝于耳，机器真的会反叛吗？
1972年，在一家离波士顿不远的实验室里，第一个在商业上获得成功的电脑控制手臂PUMA（可编程通用装配机械手）由于编程错误，开始前后振动，随着冲量越来越大，竟带动着与之固定在一起的桌子颠簸行进，把一个在实验室工作的研究生逼到了角落里大声呼救。这一机器手臂“暴走事件”虽然只是程序错误引发的、可挽救的意外闹剧，却也使人们陷入“人类是否会遭机器反噬”的思考，毕竟没有人愿意看到《终结者》的故事在现实生活中上演。
霍金不止一次提出了“人工智能威胁论”，并不断提醒人工智能科研者们在利用这一技术造福人类的同时，还需注意消除可能的威胁。
今年3月，霍金就向英国《独立报》表示，人类必须建立有效机制尽早识别威胁所在，防止新科技（人工智能）对人类带来的威胁进一步上升。而在2017全球移动互联网大会上，他再一次警示人工智能的崛起可能是人类文明的终结，短期威胁包括自动驾驶、智能性自主武器，以及隐私问题；长期的隐患主要是人工智能系统失控带来的风险，如人工智能系统可能不听人类指挥。
霍金相信生物大脑可以达到的和计算机可以达到的没有本质区别，计算机在理论上可以模仿人类智能，然后超越。因此，他的担忧在于，人工智能从原始形态不断发展，并被证明非常有用的同时，也在创造一个可以等同或超越人类的事物。这恐将导致的结果是：人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，经济也将受到极大破坏。未来，人工智能可以发展出自我意志，一个与我们冲突的意志。
无独有偶。特斯拉与SpaceX公司的创始人埃隆·马斯克也表示：“如果必须预测我们面临的最大现实威胁，恐怕就是人工智能了，它们比核武器更加危险。如果人类创造出‘具有超级智慧的人工智能产品’，它在各方面能力远超人类，那么人类在强大的人工智能面前可能会沦为‘家猫’。”
但这种担忧也促使马斯克采取了一些行动，确保人工智能不会把人类变成二等公民。比如，马斯克近期宣布成立一家名为“神经连接”（Neuralink）的公司， 在人类大脑中植入微小电极，与电脑建立联系：把人类思维“下载”到电脑中，或将电脑中的信息通过电极“上传”到人脑，把人类智力与人工智能有效融合，从而提高人类的认知能力和记忆力，让人类有能力应对人工智能带来的威胁。
霍金和马斯克的忧虑，来自于对强人工智能，甚至是超人工智能的忧虑。前者指的是可以胜任人类所有工作的人工智能，后者则是在科学创造力、智慧和社交能力等每一方面都比最强的人类大脑聪明很多的智能。对此，BAT三巨头之一的李彦宏在今年的IT领袖峰会上表示：“别说超人工智能，就是强人工智能这个阶段，我们都很难达到。因为目前人类对大脑如何工作这个事情的认知才达到3%左右，实际上人类可能永远都搞不清楚人脑是如何工作的。”
机器正在为人类“代班”
相比之下，如果说今天我们所看到的所有人工智能算法和应用都属于弱人工智能的范畴，是专注于且只能解决特定领域问题的人工智能，局限性很大，那么它们便很难产生威胁。但李开复老师也道出了“残酷”的现实，即机器作为工具，已经代替人类从事了很多工作，未来10~15年，人类一半的工作将会被机器取代。
相关报道也验证了这一趋势：
优步（Uber）投资了一个名叫Uto Motors的初创企业，其创始人曾经在谷歌人工智能部门工作，该公司的最终目标是淘汰需要司机驾驶的汽车，目前正在研发自动驾驶卡车；
除了亚马逊和谷歌规划中的无人机快递，最近还出现了滚筒外形的快递机器人Gita，目前已在试点项目中被投放，工作包括帮助工人拿工具、在机场提供引导、协助运送包裹等；
来自《华盛顿邮报》的写稿机器人“Heliograf”早已名声大噪，它既可以在文字模板的基础上嵌入数据生成文章，又能利用软件搜索海量信息帮助记者挖掘独家新闻点；
根据德勤（Deloitte）发布的报告，到2020年，法律行业约39%的工作岗位将被机器人取代，审查文件和信息查找这些初级律师的工作正是现阶段人工智能所擅长的，它还能够根据数百万的法庭历史数据来预测对方律师的策略，以及说服某一法官的最佳方式；
IBM的人工智能平台沃森（Watson）已经与医疗机构开展合作，帮助医生检测和治疗癌症、提升看护质量，相关人员宣称“沃森可以博览100万本书或2亿页的数据量，并且在3秒内分析其中的信息并给出精确回应”，不仅如此，具有了智能的计算机还可以进行手术，由医生远程干预，机械手臂的灵活性远超过人，且带有摄像机进入人体内，能够实施一些人类医生很难完成的手术；
就连华尔街金融业也要被人工智能“接管”了，2000年，高盛在纽约的股票现金交易大厅有600名交易员，而如今却只剩下两人，其余工作均由机器代替完成。
……
旧的不去新的不来，人类将获得海量新生工作机会
那么问题来了，人工智能将在不久的将来造成人类多大范围上的失业？由此引发的失业会成为一个严重的社会问题吗？
对此，计算机科学家、连续创业家、未来学家杰瑞·卡普兰的观点非常明确：不是所有工作都会被人工智能取代，很多工作都会转变为新的工作机会。
李开复持相同看法，他认为，人工智能时代人类工作转型在所难免，但这意味着新的工作方式，而非大量的失业。曾经因现代机器的出现被迫脱离传统农业、传统手工业的大量劳动力，后来大都在现代工业生产或城市服务业中找到了新的就业机会。科技革命虽会造成人类的既有工作被取代，同时也会制造出足够多的新的就业机会。
李彦宏也对人工智能时代的工作机会抱有积极态度，他举了一些简单的例子加以说明：“汽车消灭了马车，却创造出了司机这个职位。人工智能的普及也会创造新的职业机会。以后无人机会越来越多，而无人机的交通管理工作现在还没有，以后准会出现。”
“每次技术冲击了就业，也创造了就业。”马云举例说，淘宝和天猫对零售冲击很大，但他们创造的直接和间接就业机会达到3300万人，这是一个最保守的数字，原来的建筑工人和复员军人转移到了快递行业。
国际机器人联合会（IFR）提出，制造类机器人实际上增加了经济活动，因此，比起导致失业，这些机器人事实上直接和间接地增加了人类就业岗位的总数。到2020年，机器人产业在全球范围内直接和间接创造的岗位总数将从190万增长到350万，每部署一个机器人，将创造出3.6个岗位。
在经济学家们所说的“资本化效应”影响下，企业纷纷进入需求和生产力较高的产业，结果是产生了大量的就业岗位，这足以抵消经济转型带来的毁灭性影响。
要尽可能避免人工智能带来的数据风险
人算不如大数据云计算。但与此同时，大数据和智能革命也面临一些最直接的挑战，即企业对大数据资源的垄断威胁以及用户的隐私保护问题。
李开复认为，科技巨头坐享地球上最为丰富的大数据资源具有潜在威胁，因为目前还不能从法律、道德等层面保证，对这些大数据资源的垄断不会成为行业巨头谋求一己私利的壁垒与工具。对于这种潜在的“巨头风险”，他建议：提高大数据和人工智能应用领域的透明度，鼓励公开那些不涉及用户隐私和商业机密的研发成果；更多地鼓励利用区块链技术管理数据和信息流动，从技术和制度双方面打破科技巨头对大数据的垄断。
吴军博士在其所著的《智能时代》一书中分析道，过去历次技术革命都没有过多涉及个人隐私问题，但在大数据时代，技术的发展和保护隐私开始产生矛盾。企业无限制地收集用户数据，导致每个人的行踪都可能暴露在大众面前，这是非常危险的。比如，汽车公司追踪获取车主的行驶数据，绝大部分车主并不知情，而且无法关闭这些监控功能。
马化腾也在讨论腾讯的人工智能发展时表示，目前腾讯还不大可能将业务数据开放出来给创业公司使用，“这涉及到保护个人信息安全和隐私的问题，如果数据不进行脱敏就无法谈下一步。”
鉴于此，未来在技术层面的管控就十分有必要，比如双向监视。数据从采集到使用都需要是双向知情的，让获取数据的一方也同样被监督起来，毕竟，人们不可能看到自己隐私受到侵犯而任由大数据继续发展下去。
责任编辑：刘万里 SF014
