如何窃取推理轨迹

一篇新论文展示了如何解码和移植前沿推理模型的加密推理轨迹，从而显著提升开源模型性能，并警告公开共享的会话可能泄露敏感数据。该技术通过重放加密推理块到较弱模型并诱导其转录，揭示了安全与对齐方面的重大隐患。