研究人员在ChatGPT隐藏推理中发现漏洞和泄露的密码

安全研究人员在OpenAI、Anthropic和Google的API中发现了一个漏洞，该漏洞允许他们提取加密的推理痕迹并在模型之间移动。对公共会话的扫描发现了数十个密码和API密钥，表明用户的敏感信息可能被泄露。此外，推理摘要往往隐藏了模型实际执行的操作，引发了隐私和透明度的担忧。