ChatGPT 将用户引导至一个网站，因为它没有这个功能——所以创始人创建了它

当你的网站被海量上传文件轰炸，无法处理时，你会怎么做？软件开发人员兼音乐家 Adrian Holovaty 就遇到了这种情况，他发现公司乐谱扫描仪上传失败的文件数量出现了异常激增。

令他没想到的是，罪魁祸首竟然是ChatGPT。

在最近的博客文章声音片段 联合创始人解释说，他在查看错误日志时发现，ChatGPT 指示用户将 ASCII“tabs”（吉他手和其他人用来代替乐谱的简单音乐格式）上传到 Soundslice 中，以便收听音频回放。问题是，这项功能根本不存在。因此，Holovaty 决定开发它。

Holovaty 写道：“据我所知，这是第一家公司开发一项功能的案例，因为 ChatGPT 错误地告诉人们它的存在。”

于 2012 年推出，Soundslice是一个交互式音乐学习和共享平台，可以将照片或 PDF 中的乐谱数字化。

“我们的扫描系统原本就不支持这种符号风格，”霍洛瓦蒂写道。“那么，为什么我们会被这么多 ASCII 标签的 ChatGPT 截图轰炸呢？我困惑了好几个星期——直到我自己动手尝试了一下 ChatGPT。”

我们从未支持过 ASCII 标签；ChatGPT 完全是在欺骗用户。这不仅让我们颜面扫地，还给我们的服务带来了错误的预期。

AI 幻觉现象屡见不鲜。自 2022 年 ChatGPT 公开发布以来，已有无数实例聊天机器人，包括 ChatGPT、Google双子座以及 Anthropic 的克劳德·艾，将虚假或误导性信息当作事实。

虽然 OpenAI 没有提及 Holovaty 的说法，但该公司承认幻觉仍然是一个问题。

OpenAI 的一位发言人表示：“解决幻觉问题是一个正在进行的研究领域。”解密“除了明确告知用户ChatGPT可能会犯错误之外，我们还在不断努力通过各种方法提高模型的准确性和可靠性。”

OpenAI 建议用户将 ChatGPT 的回复视为初稿，并通过可靠来源验证任何关键信息。它在系统卡和安全评估中心发布模型评估数据。

“幻觉不会消失，”西北人工智能咨询公司联合创始人兼首席执行官 Wyatt Mayham 告诉解密“在某些情况下，比如创意写作或头脑风暴，幻觉实际上是有用的。”

这正是霍洛瓦蒂所采取的方法。

“我们最终决定：管他呢？我们不如满足市场需求，”他说。“所以我们定制了一个 ASCII 标签导入器，这在我‘预计在 2025 年开发的软件’清单中排名靠后，我们还修改了扫描系统的 UI 文案，以便向大家介绍这个功能。”

Holovaty 没有回应解密请求评论。