随着ChatGPT等产品的广泛应用，确保其输出的安全性成为场景化落地的关键。传统方法是使用RLHF来进行安全对齐，但有两大局限性难以持续使用。在内部安全评估中，RBR训练的模在《炉石传说》国服宣布回归，并送出2023年全卡时，就引起...