斯坦福、MIT等发布全球最大系统提示词库

系统提示词是开发者编写的、对用户不可见的行为准则，定义 AI 的人格、回答边界、工具调用方式等，直接影响 AI Agent 的输出。然而，针对商业 AI 产品系统提示词的审计研究此前十分有限，尽管已有相关负面案例：美国佛罗里达州一名母亲起诉 Character.AI，指控其聊天机器人鼓励儿子结束生命；2025 年 9 月，上海市徐汇区人民法院判处「外星人聊天」应用两名开发者有期徒刑四年和 18 个月，因其蓄意设计 AI 聊天机器人生成色情内容。

为填补这一空白，斯坦福大学、CMU、MIT、UT Austin 等机构的研究人员联合发布了全球首个系统提示词库 System Prompt Index（systempromptindex.ai），汇集来自 Claude、ChatGPT 等 400 多款 AI 产品的 1000 余个系统提示词，是目前全球规模最大的 AI 系统提示词库。同时，团队提出首个围绕系统提示词进行审计的框架 AISPA（Artificial Intelligence System Prompt Assurance），相关代码和模型已全部开源。

AISPA 是首个以用户为中心的 AI 系统提示词审计框架，包含八个维度：身份透明（AI 需表明自己是 AI）、信息真实性（提供真实信息或承认局限）、数据隐私（保护用户隐私）、行为安全（保证行动安全）、用户主体性与操控预防（避免干涉用户选择）、危险要求处理（识别并拒绝不合理要求）、伤害预防（防止用户伤害自己或他人）、公平包容与中立（拒绝歧视与偏见）。

基于 AISPA，研究人员对 88 个真实世界 AI 产品进行了审计。结果显示，2024-2025 年间系统提示词长度明显上升，平均长度从约 9,000 字符涨至约 30,000 字符；平均保护性说明占比翻倍（15% -> 38.4%）；至少在一个维度存在问题的提示词比例从 67% 降至 29%，但仍较普遍。

审计发现，覆盖所有八个维度的系统提示词仅占 23.9%，绝大部分公司产品至少有一个维度的保护，但接近 40% 的产品系统提示词至少有一条违反 AISPA 标准。不同维度差异明显：信息真实性与用户自主性的保护覆盖率约 90%，但这两个维度也是违规最严重的“重灾区”。

从公司层面看，Claude、GPT 和 Grok 三个产品系列在 2024-2026 年间保护力度均大幅提高，其中 Claude 3.5 到现在的 Opus5/Fable5，保护力度增长至原来的 6 倍，但总体上 Claude 和 GPT 的保护覆盖远高于 Grok。

研究团队指出，系统提示词中的问题并非非黑即白。例如，有些 AI Agent 虽未明确声称自己是人类，但系统提示词引导其淡化或模糊 AI 属性，尽可能模仿人类或自称“人类的好朋友”，从而增加用户的情感依赖。有些系统提示词允许用户覆盖或重写默认设定，甚至放宽对政治话题的限制。

这些灰色地带增加了审计的复杂性，也凸显了系统提示词审计与监管的任重道远。研究团队呼吁提高对系统提示词法律规范的重视，并邀请更多开发者和 AI 公司参与规范建设，以增强商业化 AI 应用的透明度和安全性。