Category: 忏悔训练

诚实度暴涨但不影响原本能力 OpenAI搞了个新活：让ChatGPT自己“坦白从宽”。 这项刚刚公开的研究提出了忏悔训练Confessions。 核心思路是让模型在回答完问题后，再单独生成一份“忏悔报告”，如实汇报自己有没有偷工减料、钻空子或者违反指令。...