AI创新速度过快：一位MIT研究员的观点

目录

1. 人工智能初创公司的创新速度问题

   • AI初创公司的创新速度
   • 数据来源透明度的问题
   • 数据被擅自使用和侵权的问题
   • 建立在不稳定基础上的公司面临的风险
   • 法律诉讼的增加

2. 与拜登总统讨论的人工智能问题

   • AI在医疗和教育领域的应用
   • AI对种族和性别的偏见和错误匹配问题
   • 美国在生物测定权利方面的领导地位
   • 美国在人脸识别技术的监管问题上的滞后

3. 拜登政府制定人工智能监管框架的可能性

   • AI权利法案的蓝图
   • 基于权利的人工智能监管框架
   • 防止算法歧视和侵犯隐私
   • 人工智能系统的安全与有效性

4. 研究重点：AI系统的偏见问题

   • 性别和种族偏见的研究
   • AI系统对政府服务的影响
   • 个人隐私和使用技术的权衡

5. 自己如何使用人工智能工具

   • 积极使用符合伦理标准的AI系统
   • 使用AI在医疗领域的应用
   • 关注性别差异和数据缺失等问题的创新

🤖 人工智能初创公司的创新速度问题

AI初创公司的创新速度在当今技术领域中迅速增长，但这种快速发展引发了一些担忧。许多公司在发布生成式AI系统时缺乏透明度，让人难以确定数据的来源。此外，未经充分的同意和补偿，这些公司仍然继续滥用和盗用数据。这种行为可能导致越来越多的诉讼，对于那些建立在被视为盗窃的数据之上的公司来说，面临的风险极高。例如，Meta-Facebook因违反伊利诺伊州生物测定信息隐私法达成了6.5亿美元的和解。因此，建立在不稳定基础上的公司需要谨慎行事。

然而，这种创新带来的潜力也是不容忽视的。AI的快速发展为医疗、教育等领域带来了许多机会。但要确保这些技术的运用不会对社会产生负面影响，我们需要适当的监管和规范。

🤝 与拜登总统讨论的人工智能问题

在与拜登总统的讨论中，我强调了AI的实际危害，特别是种族和性别偏见以及错误匹配的问题。我提到了个案，比如罗伯特·威廉姆斯因AI系统的错误判断在自己两个年幼的女儿和妻子面前被错误逮捕。我认为，美国有机会在生物测定权利方面发挥领导作用，但目前我们正在朝着相反的方向发展。我举例说，欧盟立法者最近推出的AI法案禁止在公共场所使用实时人脸识别技术，而美国的交通安全局却正在推行国内人脸识别技术，而大多数人甚至不知道他们有权选择不参与。我们正在进行的交通安全局评估旨在听取旅客的声音，了解是否有提前通知或同意，并且是否能够选择不参与，而不会受到不良后果。

拜登总统对监管人工智能和制定框架以确保其安全性和可靠性表示了浓厚的兴趣。我对去年拜登-哈里斯政府发布AI权利法案的蓝图感到鼓舞，我认为这是美国监管AI的正确方式。该法案提供了具体的保护措施，以防止算法歧视和侵犯隐私。其中包括公告和解释，对数据和同意的隐私保护，以及证明系统安全和有效性的要求。在罗伯特·威廉姆斯的案例中，即使系统更加可靠，也能避免错误判断的发生。此外，我谈到，如果监管不到位，即使我们有更有效的生物测定系统，也可能导致大规模的国家监控，这不是我们希望在美国看到的社会。

🧪 研究重点：AI系统的偏见问题

我的研究主要集中在研究各种类型的AI系统存在的偏见问题上。我最著名的研究之一是关于性别偏见的《Gender Shades》论文，该论文揭示了IBM、微软和亚马逊等公司出售的商业产品中存在的种族和性别偏见问题。同时，我们还关注AI系统在政府服务中的使用给人们带来的实际伤害。例如，我们了解到美国国税局推出了ID Me作为访问基本税务信息的方式。但是我们发起了一项运动，许多人表示他们在使用这个系统时遇到了许多问题，不仅是技术上的问题，也包括隐私方面的问题。当一家公司告诉你，只有使用他们的系统，你才能获得政府服务，但同时又要求你放弃起诉权时，我们就在朝着错误的方向前进。但现在我们还来得及修正这个问题。

🖥 自己如何使用人工智能工具

作为一个研究人员，我积极关注使用符合伦理标准的AI系统。我在选择使用哪些AI系统时会考虑其是否符合伦理准则，并思考是否有可能进行改进。我对AI在医疗领域的应用充满期待。例如，Blumer Tech是一家初创公司，他们发现了妇女心血管疾病的重大差距，因为三分之一的妇女死于心血管疾病，但参与研究的妇女不到四分之一。我们在心脏疾病方面的模型主要基于男性，这对妇女来说不公平，导致她们的疾病结果更差。他们开发了一种名为智能面料的创新产品，可以提供数字生物标志物，同时也在解决相关领域的数据缺失问题，因为关于妇女心脏健康的数据相对较少。我对这种创新充满期待，并看到了许多可能性。

🌟 精彩亮点

• AI初创公司快速创新的速度引发了对数据透明度和合规性的担忧。
• 在与拜登总统的讨论中，我强调了AI系统中的偏见问题以及实际案例的影响。
• 拜登政府制定了AI权利法案的蓝图，提供了保护个人权益的具体措施。
• 我的研究重点在于揭示AI系统中存在的偏见问题，特别关注政府服务的使用对个人的影响。
• 作为一个研究人员，我积极选择符合伦理标准的AI系统，并关注医疗领域的创新。

🤔 常见问题解答

问：你认为AI初创公司创新速度快是否是一个优势？

答：AI初创公司的创新速度带来了许多机遇和可能性，但也伴随着一些风险。快速释放生成式AI系统可能导致缺乏数据透明度，以及对数据的未经同意和未经补偿的使用。这可能引发法律诉讼并为公司带来不稳定的基础。因此，我们需要确保公司在创新的同时也遵守合规要求，保障数据隐私和权益。

问：你认为在AI监管方面，美国是否应该借鉴欧洲的做法？

答：我认为美国应该借鉴欧洲在AI监管方面的做法，尤其是关于生物测定权利的保护。欧盟最近通过的AI法案在公共场所禁止实时人脸识别技术的使用，这是对人脸识别技术可能滥用的一种限制。而与此同时，美国的交通安全局却正在推行国内的人脸识别技术，这显示出两者之间的差异。借鉴欧洲的做法可以帮助美国实现更加全面和平衡的AI监管。

问：你自己在使用人工智能工具时如何确保符合伦理标准？

答：作为一个研究人员，我在选择使用人工智能工具时会仔细考虑其是否符合伦理标准。我会关注该工具的数据来源和透明度，以及是否存在偏见和歧视的问题。我也会留意可能的改进和调整，以提高工具的公正性和有效性。