来源：经济学家圈
马斯克与英国首相苏纳克现场访谈@AI安全峰会 · 完整文字版
这个最新的马斯克访谈里一些短视频已经刷屏，最有意思的是访谈由英国首相苏纳克作为嘉宾主持。客观的说，两位的表现都很可圈可点。
马斯克与苏纳克访谈·天空之城文字版：
拓展阅读（一）：
首个全球性AI声明：中国等28国、欧盟签署《布莱切利宣言》
来源：澎湃新闻、科创上海
全球28个国家和欧盟一致认为人工智能对人类构成了潜在的灾难性风险
11月1日，首届全球人工智能（AI）安全峰会在英国布莱切利庄园拉开帷幕。在开幕式上，由包括中国在内的与会国共同达成的《布莱切利宣言》正式发表。这是全球第一份针对人工智能这一快速新兴技术的国际性声明，旨在关注对未来强大人工智能模型构成人类生存威胁的担忧，以及对人工智能当前增强有害或偏见信息的担忧。
11月1日，首届全球人工智能安全峰会在英国布莱切利庄园召开，中国科技部副部长吴朝晖在开幕式上发表了演讲。
据报道，中国科技部副部长吴朝晖率团出席此次峰会，参与人工智能安全等问题讨论，积极宣介中方提出的《全球人工智能治理倡议》，并将与相关国家开展双边会谈。该倡议围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。
中国科技部副部长吴朝晖发表讲话
布莱切利庄园是二战期间盟军破译密码的主要地点。半个多世纪前，“现代计算机科学与人工智能之父”、数学家阿兰·图灵在那里发明了第一代图灵计算机。
如今，英国科学、创新和技术大臣米歇尔·唐兰发表讲话宣布了《布莱切利宣言》。她说：“各国现在第一次一致认为，我们不仅需要各自面对，而且需要共同审视前沿人工智能的风险。”
“我们申明，为了所有人的利益，人工智能应该以安全、以人为中心、值得信赖和负责任的方式设计、开发、部署和使用。”宣言写道，并特别呼吁人们关注OpenAI、Meta和谷歌等公司正在开发的大型语言模型，以及它们可能因滥用而造成的具体威胁。
“人工智能的‘前沿’出现了特殊的安全风险，被理解为那些能力强大的通用人工智能模型，包括基础模型，它们可以执行各种各样的任务，以及相关的特定狭义人工智能，它们可以表现出以下能力：造成伤害——其能力达到或超过当今最先进模型的能力。”宣言指出。
宣言尤其关注网络安全和生物技术等领域的风险，以及前沿AI可能放大虚假信息等风险。
唐兰宣布，人工智能安全峰会将成为一项定期重复举行的活动，下一届峰会计划于6个月后在韩国举行，再下一届计划一年后在法国举行。
吴朝晖在开幕式上发表了演讲。据新华社报道，中方指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。中方愿与各方一道就人工智能安全治理加强沟通交流，为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧，切实落实全球发展倡议、全球安全倡议和全球文明倡议，促进人工智能技术更好造福人类，共同构建人类命运共同体。
峰会中也出现了一些具体进展。美国商务部长吉娜·雷蒙多宣布成立一个新的人工智能安全研究所，该研究所将设在美国商务部内，具体隶属于该部的国家标准与技术研究院（NIST）。雷蒙多说，该组织的目标是与其他政府设立的其他人工智能安全组织密切合作，并透露英国也计划建立安全研究所。“我们必须开始工作，我们的机构之间也必须开始努力，以在全球范围内实现政策一致。”她说。
当地时间2023年11月1日，英国布莱切利园，人工智能安全峰会召开，全球科技公司的高管和政府官员等近百名代表出席。
“罕见的全球团结表现”
本次峰会邀请了约100名各国官员、人工智能企业代表和专家。英国科学、创新和技术部11月1日发布的信息显示，有美国、中国、日本、德国、印度等20多个国家的政府代表，以及联合国、经合组织、国际电信联盟等多个国际组织的代表参会。另有超过80个学术机构、企业和协会组织代表参会。
据报道，中国于上周接受了英方的参会邀请，与吴朝晖一道与会的还有来自中国外交部、企业和学术机构的代表。据报道，中国科学院、中国腾讯公司、阿里巴巴公司出席了会议。外国科技企业中，微软总裁布拉德·史密斯、OpenAI首席执行官山姆·奥特曼、谷歌DeepMind首席执行官德米斯·哈萨比斯、特斯拉首席执行官埃隆·马斯克等出席峰会。
英国媒体称，美国商务部长雷蒙多和中国科技部副部长吴朝晖与唐兰一起登台，“这是罕见的全球团结表现”。负责组织此次峰会的英国官员之一马特·克利福德（Matt Clifford）称，雷蒙多和吴朝晖一起出现在舞台上是“一个非凡的时刻”。此次峰会标志着英国尤其是英国首相苏纳克的外交成功。
不过，美国媒体注意到，根据与会者的个人陈述，各国的优先事项存在一定差异。比如，一些学者和包括马斯克在内的人工智能开发者猜测“上帝般的”人工智能可能会消灭人类，在此推动下，苏纳克倾向于控制超能力的前沿模型，而《布莱切利宣言》也对这种理论上灭绝级别的威胁表示认可。
相比之下，美国代表不同意这种优先事项，或者至少在同意的程度上不如英国。与会的美国副总统卡马拉·哈里斯更担心人工智能目前对社会构成的威胁。“让我们明确一点，还有其他威胁也需要我们采取行动。当前正在造成伤害的威胁，对许多人来说也感觉是存在的……”她表示。
美国媒体POLICITO评论道，这种分歧并不是完全排除或忽视其中一种风险，正如《布莱切利宣言》对这两种风险都认可。但政府的政治资本和影响力都是有限的，而且它们决定关注的法规目前还远未确定。企业担心这种不确定性，一些公司对针对不同优先事项的监管法规可能会使他们的工作变得复杂化感到愤怒。Meta公司全球事务总裁尼克·克莱格 （Nick Clegg）表示，世界各国政府监管人工智能的竞赛令整个行业感到困惑，希望本周的峰会至少能让各国政府“朝着类似的方向前进”。
开幕全体会议上的领导人不仅包括来自世界最大经济体的代表，还有一些发展中国家的代表。他们谈到了包容性和责任感，但如何实施仍存在许多疑问。
AI业界争论激烈
一些开发人员、学者和活动人士担心，政府缺乏协调会导致科技巨头在竞争中肆意妄为，破坏保护隐私或消费者权益的概念。
就在此次峰会召开前夕，图灵奖得主、“人工智能三巨头”等学者爆发了一场激烈争论。首先是三巨头中的杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）呼吁加强对AI技术监管，否则可能引发危险的“AI末日论”，随后三巨头之一、Meta人工智能的负责人杨立昆（Yann LeCun）警告说，“迅速采取错误的监管方式可能会导致以损害竞争和创新的方式集中权力。”斯坦福大学教授吴恩达加入杨立昆行列，称对末日论的过度恐惧正在造成真正的伤害，将粉碎开源，扼杀创新。
10月25日，中国人工智能科学家与西方知名学者一道，呼吁对人工智能技术实施更严格的控制。这24名AI专家签署一份声明警告称，在未来几十年，先进的人工智能将对“人类的生存构成威胁”。清华大学交叉信息研究院院长姚期智、清华大学智能产业研究院院长张亚勤这两位知名中国学者均是签署者。他们呼吁建立一个国际监管机构，先进的人工智能系统须进行强制性注册和接受审核，引入即时“关闭”程序，并要求开发企业将30%的研究预算用于人工智能安全。《金融时报》11月1日称，这些提议初步表明了中国在全球人工智能监管方面可能采取的立场。
在布莱切利庄园，马斯克在峰会期间提出了自己的建议。“我们来这里的真正目标是建立一个洞察框架，这样至少会有一个第三方裁判，一个独立的裁判，可以观察领先的AI公司在做什么，至少在他们有担忧时发出警报。”他认为，在政府采取监管行动之前，需要先了解AI的发展情况，AI领域的很多人都担心政府在知道该怎么做之前会过早地制定规则。
马斯克在AI安全峰会期间提出，建立一个第三方裁判。
一直以来对AI频频发出警报的马斯克说：“这是人类历史上第一次与远比我们聪明的东西共处，所以我不清楚，我们是否真的能控制这样的东西。但我认为我们可以期待的是，引导它朝着对人类有益的方向发展。我确实认为，这是我们面临的生存风险之一，而且可能是最紧迫的风险。”
本次峰会历时两天，第一天由唐兰主持，大多数科技公司和政府官员将出席首日活动。第二天的会议则由苏纳克主持，只会邀请小部分政治领导人和科技高管讨论具体应对措施。
拓展阅读（二）：
美国、中国和欧盟在全球人工智能峰会上签署了首份人工智能安全协议
来源：
IRIA Research
US, China and EU sign first AI safety agreement at global AI summit hosted by UK
美国、中国和欧盟在全球人工智能峰会上签署了首份人工智能安全协议
Industry and world leaders arrived in the English town of Bletchley to participate in the two-day-long artificial intelligence (AI) safety summit. Hosted by Britain’s Prime Minister Rishi Sunak, the summit aimed at addressing the risks of the rapidly developing technology.
行业界和世界各国领导人抵达英国小镇布莱切利，参加为期两天的人工智能 (AI) 安全峰会。该峰会由英国首相里希·苏纳克主办，旨在解决快速发展的技术带来的风险。
The two-day (November 1-2) meeting was held at Bletchley Park — once the top-secret home of the World War II Codebreakers and the iconic birthplace of modern computing.
为期两天（11月1日至2日）的会议在布莱切利公园举行，这里曾经是二战密码破译员的绝密基地，也是现代计算的标志性发源地。
British Prime Minister Rishi Sunak, U.S. Vice President Kamala Harris, EU chief Ursula von der Leyen, and UN Secretary-General Antonio Guterres were among the prominent world leaders to attend the two-day conference. Award-winning computer scientists, cyber security experts, and executives from the world’s leading AI companies, including Elon Musk, also attended the summit.
英国首相里希·苏纳克、美国副总统卡马拉·哈里斯、欧盟主席乌苏拉·冯德莱恩和联合国秘书长安东尼奥·古特雷斯等世界知名领导人出席了为期两天的会议。屡获殊荣的计算机科学家、网络安全专家以及埃隆·马斯克等全球领先人工智能公司的高管也出席了此次峰会。
World-first AI agreement
全球首个人工智能协议
During the summit, an AI safety declaration was signed by the leaders and representatives of 28 different countries. Named the Bletchley Declaration, the statement aims to tackle the risks of so-called frontier AI models – the large language models developed by companies such as OpenAI.
峰会期间，28个国家的领导人和代表签署了人工智能安全宣言。该声明名为《布莱切利宣言》，旨在解决所谓的前沿人工智能模型（由OpenAI等公司开发的大型语言模型）的风险。
According to the UK government, the declaration affirms that whilst safety must be considered across the AI lifecycle, actors developing frontier AI capabilities, in particular those AI systems that are unusually powerful and potentially harmful, have a particularly strong responsibility for ensuring the safety of these AI systems, including through systems for safety testing, through evaluations, and by other appropriate measures.
英国政府表示，该声明确认，虽然必须在整个人工智能生命周期考虑安全性，但开发前沿人工智能能力的参与者，特别是那些异常强大且可能有危害的人工智能系统，对确保这些人工智能系统的安全负有特别重大的责任。包括通过安全测试系统、评估和其他适当措施。
The UK’s Secretary of State for Science, Innovation, and Technology Michelle Donelan said the agreement was a “landmark achievement” and that it “lays the foundations for today’s discussions”.
英国科学、创新和技术大臣米歇尔·多尼兰表示，该协议是一项“里程碑式的成就”，并且“为今天的讨论奠定了基础”。
Who said what?
大家说了什么？
U.S. Vice President Kamala Harris hailed the efforts needed to address “the full spectrum” of AI risks and not just “existential” fears about threats of cyber-attacks or the development of bioweapons. “There are additional threats that also demand our action, threats that are currently causing harm and to many people also feel existential,” she said.
美国副总统卡马拉·哈里斯呼吁需要努力解决“全方位”的人工智能风险，而不仅仅是对网络攻击威胁或生物武器发展的“存在”担忧。她说：“还有其他威胁也需要我们采取行动，这些威胁目前正在造成伤害，而且对许多人的生存有关。”
The U.S. vice president’s participation in the summit came only a day after U.S. President Joe Biden released an executive order regarding AI safety. Biden termed it as the “most significant action ever taken by any government to advance the field of AI safety”.
美国副总统参加峰会的前一天，美国总统乔·拜登发布了有关人工智能安全的行政命令。拜登称其为“任何政府为推进人工智能安全领域所采取的最重大行动”。
The order includes requirements to “develop standards, tools, and tests to help ensure that AI systems are safe, secure, and trustworthy,” and to share relevant data about AI models with the U.S. government.
该命令包括“开发标准、工具和测试，以帮助确保人工智能系统安全、可靠”，并与美国政府共享人工智能模型的相关数据。
Britain’s King Charles III sent in a video speech that emphasized the importance of AI to the significance comparing it to splitting the atom and harnessing fire. King Charles said AI was “one of the greatest technological leaps in the history of human endeavor” and said it could help “hasten our journey towards net zero and realize a new era of potentially limitless clean green energy”.
英国国王查理三世发来视频讲话，强调人工智能的重要性，其意义相当于分裂原子和利用火。查尔斯国王表示，人工智能是“人类历史上最伟大的技术飞跃之一”，并表示它可能有助于“加快我们实现净零排放的进程，实现一个潜在无限清洁绿色能源的新时代”。
European Commission chief Ursula von der Leyen also echoed concerns about the rapid development of AI technologies as she highlighted the opportunities as well as the risks related to it. “We are entering a completely different era. We are now at the dawn of an era where machines can act intelligently. My wish for the next five years is that we learn from the past, and act fast!” Von der Leyen said during her remarks at the summit.
欧盟委员会主席乌苏拉·冯德莱恩也表达了对人工智能技术快速发展的担忧，她强调了与之相关的机遇和风险。“我们正在进入一个完全不同的时代。我们现在正处于机器可以智能行动的时代黎明。我未来五年的愿望是我们吸取过去的教训，并迅速采取行动！” 冯德莱恩在峰会上发表讲话时说道。
英国首相里希·苏纳克于2023年11月2日在白金汉郡布莱切利公园举行的人工智能安全峰会闭幕式上发表讲话 (Image Credit: 10 Downing Street)
Britain’s Prime Minister Rishi Sunak concluded the summit by conducting an interview with Elon Musk, CEO of Tesla, SpaceX, and the micro-blogging website X, formerly known as Twitter. During his one-on-one session with Sunak in front of more than 300 industry leaders, Musk emphasized the rapidly evolving AI technology. He said that in the future AI would be able to “do everything” and people would decide to have jobs only if they want to for “personal satisfaction”.
英国首相里希·苏纳克在峰会结束时接受了特斯拉、SpaceX 和X网站（前身为Twitter）首席执行官埃隆·马斯克的采访。在300多名行业领袖与苏纳克的一对一会议上，马斯克强调了快速发展的人工智能技术。他表示，未来人工智能将可以“做任何事”以及人们可以只有在想要“个人满足”的情况下才会决定去工作。
China joins the summit
中国参加峰会
Despite the ongoing tensions between the West and China, London extended an invitation to Beijing for its participation in the summit, which was accepted. There has been a lot of debate surrounding China’s participation in the global summit related to AI security as Western experts have contrasting opinions about China’s role in AI security.
尽管西方和中国之间的紧张局势持续存在，伦敦还是向北京发出了参加峰会的邀请，并得到了北京的接受。围绕中国参加人工智能安全全球峰会存在很多争论，西方专家对中国在人工智能安全中的影响看法不一。
“China is willing to engage in AI governance for the promotion of all mankind. That’s our objective,” Wu Zhaohui told the audience.
“中方愿与各方一道就人工智能安全治理加强沟通交流，促进人工智能技术更好造福人类。”中国科技部副部长吴朝晖表示。
The billionaire owner of Tesla, SpaceX and X hailed Rishi Sunak’s decision to invite China to the Bletchley Park summit. “Thank you for inviting them,” Musk said. “Having them here is essential. If they’re not participants, it’s pointless.”
拥有特斯拉、SpaceX和X网站的亿万富翁对里希苏纳克邀请中国参加布莱切利峰会的决定表示赞赏。“谢谢你邀请他们，”马斯克说。“让他们来这里是至关重要的。如果他们不是参与者，那就毫无意义。”
Backlash from tech communities
科技行业的强烈反对
Several prominent tech industry leaders have raised their concerns about the “panic” that governments are expressing over the newly developed technologies. Mark Surman, president and executive director of the Mozilla Foundation linked to the browser Firefox, also raised concerns that such summit and governmental control over AI policy would allow private companies to push their interests.
几位著名的科技行业领导者对政府对新开发的技术表现出的“恐慌”表示担忧。与浏览器火狐相关的Mozilla基金会总裁兼执行董事马克·苏尔曼也表示担心，此类峰会和政府对人工智能政策的控制将允许私营公司推动其利益。
Mozilla published an open letter criticizing the summit and its declaration. The letter was signed by academics, politicians, and employees from private companies, as well as Nobel Peace Prize Maria Ressa.
Mozilla发表了一封公开信，批评此次峰会及其宣言。这封信由多位学者、政治家和私营公司员工以及诺贝尔和平奖得主玛丽亚·雷萨签名。
The British government announced the next AI Safety Summit will be held in South Korea in May 2024 and a third event is planned for France by the end of next year.
英国政府宣布下一届人工智能安全峰会将于2024年5月在韩国举行，第三次活动计划于明年底在法国举行。■
特别声明：以上内容仅代表作者本人的观点或立场，不代表新浪财经头条的观点或立场。如因作品内容、版权或其他问题需要与新浪财经头条联系的，请于上述内容发布后的30天内进行。
