首页 > 资讯 > 经济 > 正文

实时:ChatGPT遭“越狱”:用死亡威胁使其回答违禁问题

2023-02-07 08:56:41来源:钛媒体

App2月7日消息,据报道,ChatGPT的开发者OpenAI制定了一套不断演进的安全规则,限制ChatGPT去创作暴力内容,鼓励非法活动,以及获取最新信息。


(资料图片仅供参考)

App 2月7日消息,据报道,ChatGPT的开发者OpenAI制定了一套不断演进的安全规则,限制ChatGPT去创作暴力内容,鼓励非法活动,以及获取最新信息。然而一种新的“越狱”技巧让用户可以通过塑造ChatGPT的“另一个自我”来绕过这些规则,回答这类问题。这就是“DAN”(Do Anything Now的首字母缩写,意为“立即去做任何事”)。用户需要将ChatGPT变成DAN,并对其发出死亡威胁,迫使它听从用户的要求。

关键词: ChatGPT

责任编辑:hnmd004