GPT-5-Thinking新训练方法公开:让AI学会忏悔
诚实度暴涨但不影响原本能力 OpenAI搞了个新活:让ChatGPT自己“坦白从宽”。 这项刚刚公开的研究提出了忏悔训练Confessions。 核心思路是让模型在回答完问题后,再单独生成一份“忏悔报告”,如实汇报自己有没有偷工减料、钻空子或者违反指令。...
诚实度暴涨但不影响原本能力 OpenAI搞了个新活:让ChatGPT自己“坦白从宽”。 这项刚刚公开的研究提出了忏悔训练Confessions。 核心思路是让模型在回答完问题后,再单独生成一份“忏悔报告”,如实汇报自己有没有偷工减料、钻空子或者违反指令。...
wisemodel开源社区 2025-12-09 18:09始智AI wisemodel官方账号 你是否想过,我们是如何“修正”大模型(LLM)的记忆的?这个过程叫做“模型编辑”(Model Editing)。它就像是给大模型“打补丁”或“更新记忆” ,比如告诉它一个新事实,...