人工智能军备竞赛中的人道技术倡导者

Table of Contents

1. 🤖 Introduction
2. 🤔 Concerns about AI Impact
   1. First Contact with AI: Social Media Effect
   2. Second Contact with AI: Risks of Generative AI
3. 😨 Terrifying Arms Race in AI Development
   1. Urgent Need for Emergency Brake
   2. Importance of Liability and Regulation
4. 👥 Collaboration and Multilateral Agreements
   1. Building Trust between Nations
   2. UK Summit as a Convening Moment
5. 💰 Funding for ai in healthcare and Climate Solutions
   1. Potential Benefits of AI in Medicine and Climate Change
   2. The Importance of Changing Incentives
6. 💻 Understanding the Impact as Social Media Users
   1. Overwhelm and the Abstract Nature of Technology
   2. The Power of Awareness and Education
7. ⏳ Creating a Better Future in the Next 10 Years
   1. Pessimistic Default Path
   2. Unprecedented Action and Responsibility

🤖 Introduction

在世界上广泛使用的社交媒体和人工智能已经对我们的生活产生了巨大影响。然而，由于AI的快速发展和应用，我们对其潜在风险和后果也应该十分关注。本文将探讨人工智能对社会的影响，并讨论如何应对与AI发展相关的重大挑战。

🤔 Concerns about AI Impact

First Contact with AI: Social Media Effect

社交媒体是AI与人类互动的第一次接触。社交媒体公司通过选择用户看到的内容，影响了我们的社会现实，导致民主国家分化为极端派别。人们对社交媒体的过度使用也引发了许多问题，如成瘾、孤独、对年轻女性的性化包装和网络骚扰等。这些问题的根源在于社交媒体公司追求用户关注和参与度的歪曲激励机制。

Second Contact with AI: Risks of Generative AI

现在，AI的应用正越来越广泛，像OpenAI和Anthropic这样的人工智能公司正在努力将AI能力快速部署到社会中。尽管这些技术有许多积极的应用，如语音克隆、合成媒体和蛋白质合成等，但它们也带来了危险的潜在能力。这些技术的快速发展使得我们没有足够的时间来准备和解决相应的问题。缺乏监管措施可能导致不可预料的后果和风险。

😨 Terrifying Arms Race in AI Development

Urgent Need for Emergency Brake

当前，不同的人工智能公司正在开展激烈的竞争，推动着人工智能的快速发展。然而，对于追求技术部署速度的公司来说，没有设定适当的紧急停止措施。例如，当下一代模型具备危险能力时，如能够窃取自身代码或自主进行科学研究时，应有一个红色按钮来暂停该技术的使用。然而，目前并没有相应的计划来应对红色警报的出现。我们迫切需要一个紧急制动器来解决这个问题。

Importance of Liability and Regulation

我们需要建立责任制度，而不仅仅是道德和责任感。如果你对自己的AI负有责任的后果，你就会更加谨慎行事，以避免造成昂贵的后果。政府在这方面也需要有所行动，确保AI公司承担责任并协调行业的发展速度。一个关键时刻是即将召开的英国人工智能峰会，这是协商风险并协调AI发展速度的重要时刻。

👥 Collaboration and Multilateral Agreements

Building Trust between Nations

要让各国合作，必须存在对风险的共同认识。就像气候变化问题，当美国首次与中国协商时，中国可能会认为这是美国的心理战，试图说服他们减缓GDP增长。为了解决这个问题，中国和美国都必须同意这是一个真正的问题，并且我们都需要认真考虑减缓GDP增长的可能性，可能需要一些碳税来共同完成过渡。在人工智能方面也是如此，美国对中国说我们需要减缓人工智能发展，而中国可能会说你们自己仍然在快速部署人工智能，你此时只是想减缓我们对这项新技术的采纳和GDP增长。要建立值得信赖的协议，需要找到一个基础，即我们共同看到同样的风险，我们真正共同面对相同的风险。

UK Summit as a Convening Moment

即将举行的英国峰会是一个极好的机会，可以讨论各国之间风险协商的问题。我们需要思考如何为多边协议创造基础。当然，每个人都在谈论着人工智能对医疗和解决气候问题的好处。我们需要资金支持来利用人工智能为医疗和气候变化等问题提供解决方案。

💰 Funding for AI in Healthcare and Climate Solutions

Potential Benefits of AI in Medicine and Climate Change

人工智能有望帮助我们发现疾病的解决方案，解决气候变化等问题。AI技术的确有这样的潜力。然而，就像社交媒体一样，问题在于激励机制。AI公司的激励并不是为了治愈癌症或解决气候变化问题，而是为了部署能力并超越竞争对手。我们需要改变这种激励机制，使得AI技术的应用更加有益于人类社会。

The Importance of Changing Incentives

我们都希望人工智能能带来好处，我们都希望人工智能仅用于解决气候变化和治愈癌症等问题。然而，为了实现这个目标，我们需要改变激励机制。只有这样，我们才能确保未来是我们所期望的。

💻 Understanding the Impact as Social Media Users

Overwhelm and the Abstract Nature of Technology

21世纪技术的一个问题是，我们所面临的最大问题日益抽象化。化学永久污染物、气候变化等问题都很抽象，因为我们无法直接触摸或感知它们。人工智能同样带来了这种抽象性。然而，我们拍摄的纪录片《社交困境》在全球190个国家的30种语言中吸引了超过1.5亿观众，表明人们对这个问题的认识是强烈的。通过让人们意识到观看屏幕背后的真相，即针对人们大脑的超级计算机，可以激发公众力量。

The Power of Awareness and Education

作为社交媒体用户，了解这种技术的影响对个人来说可能是压倒性的。然而，通过宣传和教育，我们可以提高人们的意识，并加强对这个问题的理解。

⏳ Creating a Better Future in the Next 10 Years

Pessimistic Default Path

默认情况下，未来并不乐观。要让未来变得光明，我们需要采取前所未有的行动。

Unprecedented Action and Responsibility

当人们都承认这一点时，我们需要采取前所未有的行动。面对气候变化和新冠疫情，人们已经筋疲力尽和不知所措。然而，在AI领域的那些磁铁一样的人，我们需要协同行动，共同努力，在接下来的10年中做出正确的决策，为我们的孩子和世界创造一个更好的未来。