当前位置: 首页 > 其它资源 > 正文
为什么 ChatGPT-4 比 ChatGPT-3.5 慢?

为什么 ChatGPT-4 比 ChatGPT-3.5 慢?

作者:大眼仔~旭 日期:1个月前 (04-13) 评论:0 条

摘要:随着 ChatGPT 的最新版本 GPT-4 于 2023 年 3 月发布,许多人现在想知道为什么它与其前身 GPT-3.5 相比速度如此之慢。 那么,这里的核心原因是什么? 为什么 ChatGPT-4 如此缓慢,您是否应该坚持使用 GPT-3.5?下面就和大眼仔一起看看 ChatGPT-4 如此缓慢的原因以及未来吧。…

随着 ChatGPT 的最新版本 GPT-4 于 2023 年 3 月发布,许多人现在想知道为什么它与其前身 GPT-3.5 相比速度如此之慢。 那么,这里的核心原因是什么?

为什么 ChatGPT-4 如此缓慢,您是否应该坚持使用 GPT-3.5?下面就和大眼仔一起看看 ChatGPT-4 如此缓慢的原因以及未来吧。

什么是 ChatGPT-4?

ChatGPT-4 是 OpenAI 聊天机器人的最新模型,通常称为 ChatGPT。 ChatGPT 由人工智能提供支持,使其能够比以前的聊天机器人更好地回答您的问题和提示。 ChatGPT 使用由 GPT(生成式预训练转换器)提供支持的大型语言模型来向用户提供信息和内容,同时还能够进行对话。

ChatGPT 具有广泛的功能,使其对数百万人有用。 例如,ChatGPT 可以写故事、编笑话、翻译文本、教育用户等等。 虽然 ChatGPT 也可以用于更多的非法行为,例如创建恶意软件,但它的多功能性在某种程度上是革命性的。

ChatGPT 的 GPT-4 模型于 2023 年 3 月 14 日发布。此版本的 ChatGPT 旨在通过文本更好地理解情感语言,同时也更好地理解不同语言的方言和图像处理。 GPT-4 还可以进行更长时间的对话,并有效地响应更长的用户提示。

此外,GPT-4 的参数在很大程度上超过了 GPT-3.5。 ChatGPT 的参数决定了 AI 如何处理和响应信息。 简而言之,参数决定了聊天机器人与用户交互的技能。 虽然 GPT-3.5 有 1750 亿个参数,但 GPT-4 有令人难以置信的 100 万亿到 170 万亿(传言 – OpenAI 尚未证实这个数字)。

ChatGPT 是 OpenAI 的 GPT-3.5,它现在是世界上最受欢迎的人工智能聊天机器人。 因此,GPT-3.5 在 AI 领域取得了不可否认的成绩。 但科技行业总是在进步,因此 GPT-3.5 现在有了 GPT-4 的继任者也就不足为奇了。

然而,GPT-4 绝不是完美的。 事实上,GPT-4 冗长的响应时间引起了不小的轰动。 因此,让我们研究一下这个问题及其发生的原因。

ChatGPT-4 很慢

许多人在 GPT-4 发布后注意到 OpenAI 的新聊天机器人非常慢。 这让许多用户感到沮丧,因为 GPT-4 应该是 GPT-3.5 的升级版,而不是倒退版。 因此,GPT-4 用户一直在使用 Reddit 和 OpenAI 的社区委员会等在线平台来讨论这个问题。

在 OpenAI 的社区论坛上,许多用户提出了他们对 GPT-4 延迟的不满。 一位用户表示,GPT-4 在他们这一端“极其缓慢”,即使是向聊天机器人发出的小请求也会导致超过 30 秒的异常长时间延迟。

其他用户很快分享了他们使用 GPT-4 的经验,其中一位用户在帖子下评论说“使用相同数据的相同呼叫可能比 3.5 Turbo 慢 4 倍”。

在另一篇 OpenAI 社区论坛帖子中,一位用户评论说,他们的提示有时会遇到“正文流错误”消息,导致没有响应。 在同一个线程中,另一个人表示他们无法让 GPT-4“用完整的脚本成功响应”。 另一位用户评论说,他们在尝试使用 GPT-4 时不断遇到网络错误。

由于延迟和失败或半生不熟的响应,GPT-4 似乎充斥着迅速让用户望而却步的问题。

那么,究竟为什么会发生这种情况呢? GPT-4 有问题吗?

ChatGPT

ChatGPT

为什么 GPT-4 比 GPT-3.5 慢?

在上面提到的 OpenAI 社区论坛帖子中,一位用户回应称延迟是由于“当前整个基础设施过载的问题”,并补充说“在如此短的时间内解决可扩展性问题以及这种流行和聊天和 API 的用户数量。”

在 r/singularity subreddit 上传的一篇 Reddit 帖子中,一位用户列出了 GPT-4 运行缓慢的几个可能原因,从更大的上下文大小开始。 在 GPT 生态系统中,上下文大小是指给定的聊天机器人版本可以处理并产生信息的信息量。 GPT-3.5 的上下文大小为 4K,而 GPT-4 的上下文大小是它的两倍。 因此,具有 8K 上下文大小可能会对 GPT-4 的整体速度产生影响。

Reddit 作者还表示,GPT-4 增强的可操纵性和控制力可以在聊天机器人的处理时间中发挥作用。 在这里,作者表示 GPT-4 更强的可控性和对幻觉和不恰当语言的控制可能是罪魁祸首,因为这些特性为 GPT-4 处理信息的方法增加了额外的步骤。

此外,有人提出 GPT-4 处理图片的能力可能会减慢速度。 这个有用的功能受到许多人的喜爱,但可能会带来麻烦。 鉴于传闻 GPT-4 需要 10-20 秒来处理提供的图像,该组件有可能会延长响应时间(尽管这不能解释仅提供文本提示的用户所经历的延迟)。

其他用户表示,ChatGPT-4 的新颖性在这些延迟中发挥了重要作用。 换句话说,一些人认为 OpenAI 最新的聊天机器人需要经历一些成长的痛苦才能消除所有缺陷。

但 GPT-4 速度慢的最大原因是 GPT-4 与 GPT-3.5 相比可以调用的参数数量。 参数的显着增加仅仅意味着更新的 GPT 模型需要更长的时间来处理信息和准确响应。 随着复杂性的增加,您会得到更好的答案,但到达那里需要更长的时间。

你应该选择 GPT-3.5 而不是 GPT-4 吗?

那么,考虑到这些问题,您应该使用 GPT-3.5 还是 GPT-4?

在撰写本文时,GPT-3.5 似乎比 GPT-4 更快捷。 如此多的用户经历了延迟,时间问题很可能是普遍存在的,而不仅仅是少数人。 因此,如果 ChatGPT-3.5 目前满足您的所有期望,并且您不想等待响应以换取额外的功能,那么现在坚持使用此版本可能是明智的。

但是,您应该注意到 GPT-4 不仅仅是 GPT-3.5,而且速度更慢。 这个版本的 OpenAI 聊天机器人与它的前身相比有很多优势。 如果您正在寻找更高级的 AI 聊天机器人并且不介意等待更长的响应时间,那么从 GPT-3.5 过渡到 GPT-4 可能是值得的。

随着时间的推移,GPT-4 的延迟可能会减少或完全解决,因此耐心在这里可能是一种美德。 无论您是现在尝试切换到 GPT-4 还是稍等片刻,看看这个版本的效果如何,您仍然可以从 OpenAI 漂亮的小聊天机器人中获益良多。

GPT-4 更先进但有滞后

虽然 GPT-4 比 GPT-3.5 具有许多高级功能,但其严重的延迟和响应错误使其对某些人来说无法使用。 这些问题可能会在不久的将来得到解决,但就目前而言,GPT-4 在被更广泛地接受之前肯定还有一些障碍需要克服。

声明:大眼仔旭 | 本文采用署名-非商业性使用-相同方式共享 4.0 国际许可协议[CC BY-NC-SA]进行授权
文章名称:《为什么 ChatGPT-4 比 ChatGPT-3.5 慢?
文章固定链接:http://www.dayanzai.me/why-is-chatgpt-4-so-slow.html
本站资源仅供个人学习交流,请于下载后 24 小时内删除,不允许用于商业用途,否则法律问题自行承担。
转载声明
全部评论: (0条)
^_^ 暂无评论!

发表评论

返回顶部