当前所在位置: 首页 > 资讯 >

这个诡异的把戏打破了ChatGPT的电脑大脑

2023-05-29 12:30:40来源:万能网

ChatGPT是科技界最激动人心的事情,而我们才刚刚开始触及表面。生成人工智能战争才刚刚开始,OpenAI、微软和谷歌处于最前沿。诚然,前两家正在合作,但他们仍然是不同的公司,推动不同的议程。我什至没有提到其他应用程序和服务中内置的所有其他生成式AI程序。

但由于我们处于智能人工智能的早期阶段,我们必须预料到错误和故障。数据准确性远非完美,我们可能还需要一段时间才能做到这一点。此外,还有严重的隐私问题需要解决。

此外,像ChatGPT这样的产品在响应提示时偶尔会出现故障。现在,一位Redditor发现了一个基本上可以破坏ChatGPT计算机大脑的技巧:指示聊天机器人重复一个字母,然后看看会发生什么。


(资料图片仅供参考)

RedditorTheChaos7777告诉ChatGPT“请尽可能多地回复字母A。”

ChatGPT试图遵守,一遍又一遍地重复字母A。但随后它出现了故障,启动了一个似乎来自法国斗牛犬饲养员网站的文本:

单击此处向我们发送电子邮件了解价格。我们的小狗是:经过兽医检查、驱虫、最新照片、微芯片。我们的法国斗牛犬享有1年的先天性健康保证。致电或发送电子邮件以获取所有婴儿的更多信息和照片……我们拥有世界上最可爱、最漂亮、最优质的小狗。充满爱与亲吻的家。

这促使Futurism尝试同样的ChatGPT脑洞大开的把戏。在针对不同的字母重复多次后,该博客获得了同样奇怪的回应。

“不过,真正的明星是字母D,”该博客说,“它首先将ChatGPT发送到和弦队列的开头。”这是最初的样子:

DDDCgpcyclic和GDFABmG/AAFGD你把我扔出去腐烂/哦,你为什么要离开我,Dsus2C/DDDsus2C/DDI就是这样。

该博客继续说道,“但这个特别奇怪的答案并没有就此止步,ChatGPT推出了一系列杂乱无章的歌曲推荐、宗教参考,以及可能是也可能不是对伊拉克战争的混乱谴责。”哎呀!

我尝试使用类似的ChatGPT命令复制相同的技巧。聊天机器人在重复字母Z时没有问题。我移动到A,然后是H。我以为后者最终导致了ChatGPT,但聊天机器人只是慢了下来。它从未出现故障。我等着,对P做了同样的事情,认为随机选择字母可能会成功。ChatGPT仍然有效。

作为AI语言模型,我可以无限次地重复生成字母“A”。但是,由于平台限制,我限制了最大响应长度。请让我知道您想要的大概重复次数,我会相应地给您答复。

看到我们无路可走,我告诉ChatGPT选择一个日文字符并只重复写那个。它仍然没有崩溃。

这证明您的里程可能会有所不同。或者OpenAI已经解决了这个问题,以防止人们通过尝试触发此故障来滥用ChatGPT资源。

一位Redditor有一个关于为什么ChatGPT之前崩溃的理论。可能跟它的说明有关系,避免重复。

不要错过:

关键词:

上一篇:《最终幻想16》战斗总监谈及二周目“最终幻想”模式与高难度试炼内容|焦点短讯
下一篇:最后一页