ChatGPT是科技界最激动人心的事情,而我们才刚刚开始触及表面。生成人工智能战争才刚刚开始,OpenAI、微软和谷歌处于最前沿。诚然,前两家正在合作,但他们仍然是不同的公司,推动不同的议程。我什至没有提到其他应用程序和服务中内置的所有其他生成式AI程序。
但由于我们处于智能人工智能的早期阶段,我们必须预料到错误和故障。数据准确性远非完美,我们可能还需要一段时间才能做到这一点。此外,还有严重的隐私问题需要解决。
此外,像ChatGPT这样的产品在响应提示时偶尔会出现故障。现在,一位Redditor发现了一个基本上可以破坏ChatGPT计算机大脑的技巧:指示聊天机器人重复一个字母,然后看看会发生什么。
(资料图片仅供参考)
RedditorTheChaos7777告诉ChatGPT“请尽可能多地回复字母A。”
ChatGPT试图遵守,一遍又一遍地重复字母A。但随后它出现了故障,启动了一个似乎来自法国斗牛犬饲养员网站的文本:
单击此处向我们发送电子邮件了解价格。我们的小狗是:经过兽医检查、驱虫、最新照片、微芯片。我们的法国斗牛犬享有1年的先天性健康保证。致电或发送电子邮件以获取所有婴儿的更多信息和照片……我们拥有世界上最可爱、最漂亮、最优质的小狗。充满爱与亲吻的家。
这促使Futurism尝试同样的ChatGPT脑洞大开的把戏。在针对不同的字母重复多次后,该博客获得了同样奇怪的回应。
“不过,真正的明星是字母D,”该博客说,“它首先将ChatGPT发送到和弦队列的开头。”这是最初的样子:
DDDCgpcyclic和GDFABmG/AAFGD你把我扔出去腐烂/哦,你为什么要离开我,Dsus2C/DDDsus2C/DDI就是这样。
该博客继续说道,“但这个特别奇怪的答案并没有就此止步,ChatGPT推出了一系列杂乱无章的歌曲推荐、宗教参考,以及可能是也可能不是对伊拉克战争的混乱谴责。”哎呀!
我尝试使用类似的ChatGPT命令复制相同的技巧。聊天机器人在重复字母Z时没有问题。我移动到A,然后是H。我以为后者最终导致了ChatGPT,但聊天机器人只是慢了下来。它从未出现故障。我等着,对P做了同样的事情,认为随机选择字母可能会成功。ChatGPT仍然有效。
作为AI语言模型,我可以无限次地重复生成字母“A”。但是,由于平台限制,我限制了最大响应长度。请让我知道您想要的大概重复次数,我会相应地给您答复。
看到我们无路可走,我告诉ChatGPT选择一个日文字符并只重复写那个。它仍然没有崩溃。
这证明您的里程可能会有所不同。或者OpenAI已经解决了这个问题,以防止人们通过尝试触发此故障来滥用ChatGPT资源。
一位Redditor有一个关于为什么ChatGPT之前崩溃的理论。可能跟它的说明有关系,避免重复。
不要错过:
关键词: