雖然聊天機器人聊著聊著「被玩壞」的事件時有所聞。不過透過類似語法的特定後綴文字的方式，來使其對於違反原則的攻擊惡意性問題與回答失去管制過濾效果。現在已經被卡內基美隆大學協同 Center for AI Safety 與 Bosch Center for AI 研究單位，以論文研究的形式揭露了新型態的大型語言模型生成式 AI 越獄攻擊破解手法。繼續閱讀研究發現 ChatGPT 也能被 JB 越獄瞬間學壞，這種「對抗性後綴碼」還能通用於其他 AI 聊天機器人報導內文。