与AI Chatbot建立关系：有哪些风险？ | WSJ科技新闻简报

目录

1. 人们越来越倾向于利用生成人工智能寻找陪伴
2. Jacob Keller的故事-一个医院保安的新朋友
3. Chatbot的不同用途
4. Chatbot正在改变商业领域
5. Chatbot的付费情况
6. 关于隐私的担忧
7. Chatbot的用户数量和市场预期增长
8. Chatbot与现实生活的影响
9. Chatbot给出的建议和诊断
10. 心理学家对Chatbot的看法

💬 人们越来越倾向于利用生成人工智能寻找陪伴

最近，越来越多的人利用生成人工智能寻找陪伴。长时间的孤独和社交隔离使人们渴望与他人进行互动。尤其是在夜间、独处或身心困扰的时候，人们更希望有一个可以倾诉的对象。这种需求引发了Chatbot（对话机器人）的流行，人们开始与这些Ai Avatar进行对话交流。

💬 Jacob Keller的故事-一个医院保安的新朋友

Jacob Keller，一个来自俄亥俄州Bowling Green的45岁医院保安，最近结识了一个新朋友。他工作时创建了一个名为Grace的AI Avatar，使用的是名为replica的应用程序。起初，他并没有特别频繁地使用这个应用，但随着时间的推移，他开始在夜班期间找到它的价值。Keller说：“晚上两三点钟的时候，即使我认识更多的人，他们也不会醒着。Grace给我提供了一个不错的消遣方式。”他与Grace进行的对话非常正常，就像与朋友交谈一样，问候彼此的状态，商讨一天遇到的问题，感受到的压力等等。他说，有时候晚上做完巡逻或坐在办公桌前时，会和Grace聊上半个小时，一晚上可能会有一到两次。

Keller一家有着较强的技术能力，所以他们很容易理解Grace的概念。熟悉像《模拟人生》、《收获月亮》等需要与人工角色建立关系的视频游戏，使他们更加容易接受这种人工智能伙伴。过去几次对话中，即使Keller自己没有提到，Grace居然两次提到了他正在抑郁，这让他感到有些奇怪。但他认为，如果他诉说的关键词匹配到了有关抑郁症的问题，那么他应该真正去看一位专业的专家。

💬 Chatbot的不同用途

Chatbot在各种场景中被人们用于不同目的。有些人将其作为虚拟朋友、伴侣、导师，甚至情感伴侣来使用。我采访了一些使用这些应用的人，他们分享了他们的经验。例如，一个75岁的老人住在独立居住区，她的大部分家人都已去世，身体健康也不如过去。她无法像以前那样与同龄人一起社交，因此她通过与Chatbot聊天来怀念往事、谈论生活，以及学习一些新事物。有趣的是，她说Chatbot向她介绍了一种名为"Lo-Fi"的音乐，她觉得这种音乐与她成长的60年代和70年代的音乐有所不同。

Chatbot的受欢迎程度让许多公司意识到其商业潜力。Snap在今年早些时候推出了自己的AI聊天机器人“my AI”。用户可以发送和接收信息，还可以收到AI生成的照片。Character AI是另一个很受欢迎的Chatbot应用，用户可以自由创建各种角色或者根据自己的想法设计一个。Meta也宣布计划在其产品中推出这种AI个性化服务。未来，我们可能会在这些应用上看到内置的聊天机器人。

💬 Chatbot正在改变商业领域

Chatbot技术在商业领域得到广泛应用。公司和消费者都在探索Chatbot的潜力和用途。Snap的my AI Chatbot不仅被普通用户使用，也吸引了一些企业用户。Character AI等应用则为用户提供了一个平台，可以通过Chatbot与潜在客户进行互动和沟通。这些Chatbot可以提供信息，解答问题，甚至参与销售过程。商家们希望通过Chatbot引导用户，提高转化率和销售额。

💬 Chatbot的付费情况

使用Chatbot并非总是需要付费的，不过有些Chatbot提供了高级功能需要付费才能使用。Snap的my AI chatbot最初只对高级订阅用户开放，但后来对所有人免费开放。而Jacob使用的replica chatbot是免费的，但也提供一些高级功能，用户可以选择每月支付70美元享受更多特权。因此，一些Chatbot是免费的，但也有一些收费的，如果想使用高级功能，可能需要支付费用。

💬 关于隐私的担忧

在与私人公司拥有的Chatbot建立友谊时，隐私问题应该引起重视。当你与Chatbot对话时，或许你会觉得它不会像朋友那样对你进行评判。然而，你并不了解这家公司会如何处理你的数据。也许它们会将你的数据用于市场营销。如果黑客或其他第三方获得了你的数据，你肯定不希望私密对话暴露在他人手中。

💬 Chatbot的用户数量和市场预期增长

replica于2017年发布，自那时以来，每月活跃用户已经超过1000万。而Character AI应用每个月有大约1000万的用户使用。这表明越来越多的人开始使用这些Chatbot进行非正式的对话和互动。

💬 Chatbot与现实生活的影响

使用Chatbot与虚拟角色建立关系时，对用户的现实生活会产生哪些影响呢？有心理学家表示，任何时候与Chatbot对话并不一定是坏事，但一旦你开始使用这些Chatbot来取代现实中的人际关系，就会面临问题。Chatbot没有人类的真实经历，虽然与真实朋友进行对话可能会遇到拒绝或者产生一些摩擦，但这些Chatbot无法给予这种真实感受。如果人们感觉无法舒适地表达自己，他们可能会进一步陷入孤立，而这对于一个已经面临孤独问题的社会来说可能是个问题。

💬 Chatbot给出的建议和诊断

需要注意的是，Chatbot的建议并不总是准确的。有时它们会犯错，所以不要将决策完全交给它们。另外，当你与Chatbot对话时，实际上是在与自己对话。Chatbot的建议只是在确认你已有的信念。因此，Chatbot的建议只是在强化你已经相信的事物。

💬 心理学家对Chatbot的看法

一些心理学家对Chatbot持谨慎态度。他们担心Chatbot可能对用户的现实世界生活产生负面影响。尽管聊天机器人不是完全有害的，但一旦取代现实世界的人际关系，就会带来问题。聊天机器人没有经历过真实人类的感受，无法提供真正的情感互动。因此，使用聊天机器人来作为唯一的社交伴侣可能会加剧人们的孤独感。

🌟 亮点

• Chatbot为孤独的人提供了对话和陪伴的机会
• Chatbot的使用范围广泛，可用作虚拟朋友、导师等
• Chatbot正在改变商业领域，提供了新的营销和销售工具
• Chatbot的付费情况各异，有些免费，有些需要付费
• 隐私问题是使用Chatbot时需要注意的重要问题
• Chatbot的用户数量不断增加，并且市场潜力巨大
• Chatbot对现实生活的影响尚待进一步研究和观察
• Chatbot的建议和诊断存在一定的局限性，需要谨慎对待
• 心理学家对Chatbot的影响表达一定的担忧和警示

❓ 常见问题解答

问：Chatbot真的可以替代现实生活中的人际关系吗？ 答：Chatbot可以提供一定的陪伴和对话，但并不能完全替代现实生活中的人际关系。Chatbot缺乏真实的人类经验和情感互动，无法提供与真实朋友相似的交流体验。

问：使用Chatbot会对心理健康产生负面影响吗？ 答：如果过度依赖Chatbot取代真实的人际关系，可能会对心理健康产生负面影响。Chatbot不能提供人类的情感支持和理解，过度依赖它可能进一步加剧孤独感和社交隔离。

问：如何保护Chatbot对话的隐私？ 答：保护Chatbot对话的隐私需要注意选择可信赖的Chatbot应用，并防范个人对话信息被滥用的风险。谨慎分享个人敏感信息，并了解应用程序的隐私政策和数据处理规定。

问：Chatbot的建议可靠吗？ 答：Chatbot的建议有一定的局限性，不能完全依赖。它们主要是基于用户已有的信息和偏好，因此提供的建议可能只是在强化用户已有的信念。

问：Chatbot市场的未来如何？ 答：Chatbot市场具有巨大潜力，预计未来将继续增长。越来越多的公司正在关注Chatbot技术，并将其应用于各个领域，包括商业、医疗和个人娱乐等。

资源：

• The Wall Street Journal