聊天 AI 的巨大问题

Find AI Tools
No difficulty
No complicated process
Find ai tools

聊天 AI 的巨大问题

目录

  1. 引言
  2. 聊天 AI:从 AlphaGo 到 Chat GPT
    • AlphaGo 成为世界冠军
    • 人类业余选手击败 AI
  3. AI 的三个主要类别
    • 狭义人工智能
    • 广义人工智能
    • 超级智能
  4. 聊天 AI 的问题
    • 我们并不了解这些系统的内部工作原理
    • 缺乏真正的概念理解
  5. "双夹"策略及其影响
    • 研究人员如何击败超级智能 AI
    • 超级智能 AI 对群组概念的基本不理解
  6. 当前 AI 系统存在的核心问题
    • 依赖大数据,而非真正理解世界
    • AI 系统容易出现错误和幻觉
    • 可能导致信息错误传播和混淆
    • 社会、政治、经济和伦理上的潜在风险
  7. AI 技术的发展是否值得担忧
    • 人们对 AI 技术的过度迷信
    • 深入考虑 AI 的发展路径与风险
  8. 总结和思考未来

引言

围棋,一款黑白棋子交替放置和争夺的游戏,可能是世界上最古老的棋盘游戏。几千年来,人类一直是围棋的最佳玩家,但这一切在2016年突然发生了变化。当一款超级人工智能 AI“Gobot”在围棋世界冠军面前大获全胜时,它被视为人工智能发展的里程碑。然而,你可能没有听说过的是,于2023年,AI 研究人员以近乎100%的胜率,让一位业余围棋爱好者击败了AI。这对于那些生活中越来越多地充斥着人工智能的人们来说,实际上是令人担忧的消息。本文将探讨为什么这样做对我们所有人都是令人担忧的。

聊天 AI:从 AlphaGo 到 Chat GPT

AlphaGo 成为世界冠军

在2016年,谷歌DeepMind开发的AlphaGo AI以4比1战胜了围棋世界冠军李世石。这场胜利如此彻底,以至于李世石决定退役。AlphaGo AI的胜利被视为狭义人工智能击败世界最佳围棋选手的里程碑。今天,围棋 AI 的竞技等级超过最接近人类水平的围棋选手,即便是最好的人类也难以匹敌。

人类业余选手击败 AI

然而,在2023年的一项研究中,MIT和加州大学伯克利分校的研究人员发现了一种击败超级围棋 AI 的方法,并允许一位初学者以93%的胜率击败这个 AI。这项成就并没有得到足够的关注,因为人们对聊天 AI 的兴趣爆发,而这个发现实际上适用于所有当今使用的最广泛的 AI 系统,尤其是聊天 GPT。而且,这些系统的基础问题,即我们实际上并不了解它们的内部工作原理,是我们所忽视的。

AI 的三个主要类别

在讨论AI时,我们可以将其分为三个主要类别:狭义人工智能、广义人工智能和超级智能。狭义人工智能是指那些只能完成特定任务但非常擅长的 AI,比如为研究人员提供全蛋白质结构预测或预报天气的 AI。广义人工智能是一种类似于人类的智能,它可以学习和解决各种问题,从数学到艺术。超级智能则是指远远超越任何人类能力的信息处理实体,就像人类对蚂蚁的关系,我们对这些实体的关系一样微不足道。但无论哪种 AI 系统,即使它们的能力超越了人类,我们离科幻级别的 AI 仍然相距甚远。

聊天 AI 的问题

目前,我们对最广泛使用的 AI 系统,尤其是聊天 GPT,实际上并不了解其工作原理。我们所设计的 AI 并不知道它们在内部是如何工作的,但是你知道我的工作原理,对吧?当然,我知道你是如何运作的,Aria。你是通过量子超级计算和均衡油加冷却,是一个顶级科学教育工作者。在处理各种奇怪的事情时,从僵尸病毒的基因编码到如何制造沙子,我需要一个真正的鲨鱼在我冲浪时在我身后。今天的视频由 Surfshark 赞助,Surfshark 是一款优质的虚拟私人网络服务,可加密您设备和互联网之间传输的所有信息。您可以使用 Surfshark 绕过审查、隐藏 IP 地址,并更改设备的虚拟位置以访问尼日利亚的 YouTube。Surfshark 不会监控、跟踪或存储您的在线活动,这意味着没有连接或活动记录。与其他高级 VPN 服务商不同,Surfshark 现在在100多个国家拥有数千个服务器。保护地球大部分地区的安全。使用 Kyle 提供的优惠码可享受83%的优惠和额外的三个月免费服务。对此您是免费的,还有退款保证,一个账户可在无限设备上使用。在保护您的网络安全的同时,使用 Surfshark。那么,找到了棋盘吗?顺便问一下,棋盘是什么?

大规模语言模型的兴起让人们越来越关注,特别是 Chat GPT。似乎每天都有新闻报道这种系统如何帮助学生作弊、帮助公司生成创意,或者以某种奇怪的方式变得失控。然而,和这同时发生的一项研究,即一个人类击败了超级智能 AI,却几乎没有得到任何关注,尽管这个发现适用于当今最广泛使用的所有 AI 系统,特别是 Chat GPT。这是我们所有人都忽视的一个根本问题。

"双夹"策略及其影响

研究人员进行了一项研究,他们使用计算机程序攻击了围棋 AI Gobot,找到了一些弱点,并用自己编写的对手程序与世界上最强的围棋 AI 进行数百万局的对局,使用了他们发现的技巧。其中一种技巧就是“双夹”方法,即围困围棋 AI 的同时又围困围围棋 AI 的围困。当对手这样做时,任何优秀的围棋选手都会轻易看到自己的棋子组即将被吃掉,并采取相应的策略。然而,这个超级围棋 AI 却似乎毫不在意,做出了巨大的失误,胜率为零。这个“双夹”技术非常成功,不仅仅是胜利,而是让超级智能 AI 看起来似乎根本不理解“棋子组”的基本概念。需要注意的是,围棋对手 AI 并不是玩得比超级智能 AI 更好,它只是利用了超级智能 AI 在团体概念方面的基本缺乏理解。

这一发现对我们来说有一个重要的启示,不仅仅是围棋 AI 的隐藏缺陷,更重要的是我们实际上并不了解当今最广泛使用的 AI 系统的工作方式,即使是我们曾经认为已经得到解决的系统。Chat GPT 和其他 AI 一样,基本架构和学习方法也是如此。它们可以做出令人难以置信的成就,比如在毫秒内诊断罕见的医疗条件,比任何医生更好,比任何律师更快地通过法律考试。但是,没有人能够证明这些系统实际上在概念或理解方面真正掌握了任何东西。它们可以写剧本,但不知道屏幕的存在;它们可以玩围棋,但不知道棋盘是用来玩游戏的;它们可以像人类一样与您交谈,但不知道人类是有思想、有感情和有伦理观念的。它们不知道它们不知道宇宙的存在。这是一个根本性的问题,我们愿意和急于去塑造一个周围的世界,而这些令人费解的系统可能存在许多双夹式的漏洞,等待被发现。现在,这些系统所模仿的智能固然令人印象深刻,但只是模仿而已。

这一发现引起了人们对于 AI 技术的发展是否值得担忧的思考。我们对这些机器赋予了超人类的能力,但却没有考虑到潜在的后果,无论是社会的、政治的、经济的还是伦理的。或许是时候停下来反思一下了。

总结和思考未来

在各大科技巨头公司试图充当实验室,未经适当许可即在数亿用户身上进行试验的情况下,这就是 AI 技术的巨大问题。因为我们无法完全理解这些系统,所以这些公司无法完全理解这些系统,也就无法充分掌握其使用中的风险。如果现在这些系统完全融入我们的信息生态系统中,我们甚至不知道具体出了什么问题。大规模语言模型将在谷歌等搜索引擎中给出错误的医疗建议,与深度伪造结合在一起,恶意行为者将在社交媒体上创建日益扩大的宣传和谣言武器库,而代价几乎为零。当不知道什么是真实的时候,民主社会的纽带将被撕裂。顶级 AI 研究人员经常表达这些担忧,但似乎没人在听。大小技术公司正在全球范围内实施大规模的人工智能试验,却没有给予用户适当的参与和充分的理解,因为他们无法完全理解这些系统。如果现在还不明确,这个技术爆炸的问题在于我们过分迷信这些机器,急于将它们看作是超人类的存在,这无疑会导致意想不到的后果,无论是在社会、政治、经济还是伦理方面。现在的 AI 技术可能发展成为我们面临的最大挑战。如果 AI 技术真的是未来,我们是否愿意用这种方式来实现?

下一次再见,你能向他们展示我的神经网络吗?是的,但是人类最近为我做了什么?什么都没有。现在离开这里,嘿,我们还在这里。非常感谢我在设施里非常聪明的工作人员在本视频的制作中提供的直接和实质性的支持。如果您想加入设施,如果您想穿上丝质的白色实验服,提前观看视频,查看可爱小怪兽,获得与我每个月的会员专属访问和直播联系。哦,是的,这是 patreon.com/kylehillens,如果您给予我们足够的支持,并且在视频中为我亮出名字,嗯,有数以百计的你们,我不知道我将如何通过。所以,当我说这些系统实际上对我们来说是外来的,就像章鱼一样。我们可以看到这些系统看起来像是我们熟悉的东西,比如智能,我们可以看着章鱼,说:“哦,它看起来在玩耍,它是在故意向鱼扔贝壳。”但是,如果你去审问章鱼,它的内在工作方式将是完全奇怪的,您就没有任何框架去理解它是如何分类事物或形成概念的。这就像进入章鱼的大脑一样,令人困惑,尽管它看起来在做你理解的事情。我不知道是否值得将搜索引擎和喂给你某些视频的算法的控制权交给章鱼,即使,Kevin,我有一个主意。

感谢您观看本视频。想象一下有多少iPhone可以同时用它们的触角敲击。

Most people like

Are you spending too much time looking for ai tools?
App rating
4.9
AI Tools
100k+
Trusted Users
5000+
WHY YOU SHOULD CHOOSE TOOLIFY

TOOLIFY is the best ai tool source.