研究人员现在可以近乎完美地从输出文本中逆向工程LLM提示

IIT Bombay和Adobe Research的研究人员开发了一种逆语言模型，能够从LLM的输出文本中近乎完美地重建原始提示。该方法名为“Previous-Token Prediction”，无需访问模型权重，适用于不同模型。这对依赖专有系统提示的公司构成严重安全风险。