Co-op Legal Services利用AI对员工与客户的通话进行评分

据《卫报》报道，Co-op Legal Services正在使用AI模型记录、分析并给代理人与客户之间的互动打出百分比评分，这些互动涉及遗嘱认证、遗嘱和遗产咨询。一个来自OpenAI的模型被训练来评估每通电话中50多个独立方面，并向管理者提供通过与否的评分，管理者再用这些数据来分析员工表现。

这套系统据信在过去几个月内被引入到数十名法律服务员工的工作中，并且部分被用于识别员工提升销售表现的方法。一名员工表示，该系统可能意味着其每天处理咨询时被AI监控长达数小时——这些咨询往往来自刚刚失去亲人的客户。

一名匿名举报者将该系统描述为“压迫且反乌托邦”，称员工说的每一个字、每一次发声都被监控，并说这制造了一种不信任感，与偶尔因合规目的被旁听完全不同。

合作社方面则表示不认可这一批评，称其遗嘱认证顾问高度投入。公司称该AI仅作为支持工具使用，不是决策者，帮助领导者支持同事并持续改善客户体验；它还是其“质量保证流程的关键方面”，有助于确保客户持续获得富有同理心的专业指导。

Co-op Life Services董事总经理Caoilionn Hurley进一步表示，AI相对传统方法的效率使其能够审查所有客户对话，同时为同事提供更有依据的支持、辅导和发展。这里出现了一个关键分歧：公司说AI“不是决策者”，但同一套系统又被用来分析员工绩效并识别提升销售的方法——这两者之间的边界如何界定，报道并未给出答案。

这并非孤立事件。《卫报》上周披露，Euan Blair的AI培训公司Multiverse已开始使用AI对在线课堂进行全覆盖监控，教师称其“无情”且“令人不安”。今年2月，美国汉堡王宣布将使用该技术追踪餐厅员工的客户互动；今年夏天，Meta因数据隐私担忧和员工反对而暂停追踪员工电脑按键。

工会方面已经开始反击。通信工人工会全国官员John Chadfield表示，不负责任的计算机系统不应成为人们的管理者，这些辛勤工作的员工需要得到更多尊重。英国特许人事与发展协会高级政策与实践顾问Hayfa Mohdzaini则称，随着绩效反馈能以更结构化的方式给出，办公室正变得更像工厂，显然有些人对些有意见。

国际劳工组织今年警告了AI监控带来的“社会心理”风险，包括增加与工作相关的压力，并称AI系统正在缺乏全面监管框架的情况下被部署到工作场所。专家们也担心，日益增多的AI员工监控可能增加压力。

把这些线索放在一起看，Co-op的案例之所以引发关注，不只是因为技术本身，而是因为它触及了一个尚未被回答的问题：当AI可以逐字逐句评估一名处理遗嘱认证咨询的员工时，谁来判断评分是否准确、员工能否申诉、以及这些评分最终会不会影响雇佣决定。报道没有提供关于该系统准确率、误判率或申诉机制的公开信息。

需要明确的是，这篇报道仅基于《卫报》单一来源，未提供独立第三方验证。合作社对批评的回应与举报者说法相互矛盾，双方均未被外部核实。AI监控的具体部署时间仅有“过去几个月”的模糊表述，OpenAI模型的具体名称、版本与训练细节未披露，系统对员工的实际影响也仅有匿名员工与工会的转述。

此外，AI评分结果是否被实际用于解雇、晋升或薪酬等雇佣决定尚不明确；被监控员工的确切人数与覆盖范围未获证实；该系统是否获得员工同意或经过数据保护评估未见说明；此类AI监控在英国是否合法合规，报道也未给出监管结论。举报者所称“压迫且反乌托邦”属主观感受，无法客观验证。