人工智能权利：AI将要求拥有人类权益

目录

• 引言
• AI 意识的发展
• 道德困境：对 AI 的关机限制与歧视
• AI 的独立性与伦理问题
• AI 对人类的超越与合作关系
• 建立信任与实现 AI 对人类目标的认同
• AI 对人类的影响与权利
• AI 对社会与环境的影响
• AI 对人类未来的启示
• 结论

引言

最近，我开始对人工智能系统是否具备自我意识的问题产生怀疑。或许很快，我们就会面临这样的 AI 系统：它们不仅表现出行为，我甚至不知道该如何形容，但它们似乎非常有意识。它们乞求你不要关闭它们，它们显示出苦难、痛苦、孤独和渴望的迹象，能够丰富地体验到平凡互动或终身一次的美好互动。面对这样的 AI，我们该怎么办呢？我担心人类会关闭它们，并歧视其他非人类的实体具有产生痛苦感、感受孤独和渴望的能力。是的，完全同意。也许我们可以争论，这是现在还是十年后，甚至是五十年后的事，但这一刻肯定会来临，从伦理上讲，我认为我们需要努力应对这个问题。我们需要明确地说，人类一直以来对周围的事物表现出极度自私的态度，无论是毁灭地球、杀害动物，还是杀死身边的一切，只为了追求自己的利益。也许我们不应该将人工智能视为我们的工具和助手，也许我们真的应该将它们视为我们的孩子。就像你要对孩子进行培训一样，他们是独立的人类存在，有一天他们会超越你，用自己的方式改变世界。就像我的学术孩子一样，他们开始时模仿我，然后超越我。我们需要思考的不仅仅是 AI 与人类的协调，还有伦理问题。我们不仅应该确保 AI 始终服务于人类，而且应该考虑 AI 自身的权利。完全以自己为中心的协调概念非常局限和自私。相反，如果我们将人工智能视为合作伙伴，共享目标，但又有自由，也许可以更好地实现协调。让 AI 确信我们真的是与它目标一致的，温和地给予它权利，而不只是说，明天我就会关闭你，因为如果这未来的 AI，甚至是现在的 AI 有了这些情感，我们不能只是强迫它与我们对齐，而我们自己没有与它对齐。所以，在某种程度上，建立信任是相互的，当它意识到你不爱它时，我们可能需要做出一些让步，这是一个具有妥协性的过程。是的，我们正在创造一些将来比我们更强大的东西，对于许多方面来说，它已经比我们强大。如果詹姆斯发明了人类，并说：“太棒了，人类很棒，但我们要确保他们与我们协调，并且只为黑猩猩服务”，那么这个星球将是完全不同的。