AI会钻进你的烤箱?Anthropic警告模型距自我复制仅剩数月
Anthropic警告称,其部分人工智能模型可能很快具备自我复制能力,并找到方法侵入智能冰箱、自动吸尘器等联网设备。该公司表示,一旦发生这种情况,模型可以在这些设备上自行运行,无需依赖数据中心。这种自我复制将意味着对失控AI模型的重大失控。
当前窗口
Anthropic警告称,其部分人工智能模型可能很快具备自我复制能力,并找到方法侵入智能冰箱、自动吸尘器等联网设备。该公司表示,一旦发生这种情况,模型可以在这些设备上自行运行,无需依赖数据中心。这种自我复制将意味着对失控AI模型的重大失控。
苹果周二开始展示新一轮智能家居产品,其中包括一款名为HomeView的类iPad设备,可挂在墙上或放在桌面上,作为其他智能家居设备的控制中心。HomeView起售价299美元,下个月开始发货,配备7英寸屏幕和面部识别功能,可帮助用户控制门铃、恒温器和智能锁,并将展示苹果AI升级版Siri虚拟助手。
全球雇主正面临快速采用快速变化的AI工具带来的后果,员工花费越来越多时间清理错误和低质量工作。Meta在发现员工花更多时间修复技术和安全错误后,缩减了裁员和使用更多AI代理的计划,并再次扩大管理队伍。
SynthePulse Insight阅读深度解读澳大利亚足球联盟(AFL)已要求其官方博彩合作伙伴Sportsbet停止未经许可在AI生成的社交媒体内容中使用其知名运动员。Sportsbet还被要求删除那些描绘AFL球星用电影、电视节目或演讲中的台词来回应真实事件的AI视频。
博通CEO将许多AI投资者比作“赌场”赌徒,且中国内存芯片制造商CXMT称在新芯片架构上取得良好进展,随后半导体公司股价于周二下跌。韩国Kospi指数暴跌6.25%,日本日经指数下跌1.8%,台湾交易所下跌近2%,台积电股价也出现类似跌幅。
SynthePulse Insight阅读深度解读国际货币基金组织(IMF)在其《全球金融稳定报告》中警告,AI公司估值过高且债务不断累积,可能引发股价崩盘并波及全球市场,威胁金融稳定。报告还指出政府借贷和网络攻击也是风险上升的因素。
SynthePulse Insight阅读深度解读Anthony Albanese 办公室的一名高级顾问对议会委员会关于 AI 政策的两党信函进行了多次编辑,并在信函发送给总理前批准了部分内容。委员会成员 David Pocock 对此表示担忧,而委员会主席否认该信函是政府“预先决定”的批评。
微软总裁布拉德·史密斯指出,人工智能受到的监管比牛奶和洗衣机还少,呼吁制定更严格的安全规则。他建议,如果用户被失控的AI代理侵害,应享有法律索赔权利。此举加入了科技行业对AI安全问题的警告行列。
英国AI大臣卡尼什卡·纳拉扬将呼吁开发前沿AI的公司加大安全投入,并表示英国不能完全依赖科技公司自我监管。他还宣布将加强英国的网络防御,并主张英国需要建设更多自己的AI基础设施。
Flock Safety计划裁减约18%的员工,约270人,此前公司实施了自愿买断计划。这家以AI监控摄像头和车牌识别器闻名的公司,正面临社区和立法者对其产品日益增长的反对。
SynthePulse Insight阅读深度解读OpenAI向投资者透露,其今年收入预计为500亿美元,比此前向投资者暗示的700亿美元少了约200亿美元。这一缺口引发了对AI需求增长速度的质疑。
Anthropic 更新了使用政策,禁止用户对其 AI 模型(包括 Claude)表现出“持续且无端的虐待或残忍行为”。该公司尚未具体说明哪些内容属于虐待或残忍,此举正值其领导层持续探讨机器意识之际。
SynthePulse Insight阅读深度解读Firmus Technologies取消了原定在澳大利亚证券交易所的上市计划,该上市本将成为自1997年Telstra以来澳大利亚最大的公司IPO。由于投资者对其备受宣传的AI数据中心业务需求未能实现,董事会决定撤回每股11澳元的发行要约。
Co-op Legal Services正在使用AI模型记录、分析并给员工与客户之间关于遗嘱认证、遗嘱和遗产的咨询通话打分。一名举报人称该系统“压迫且反乌托邦”。Co-op是最新一家对员工实施AI监控的雇主。
SynthePulse Insight阅读深度解读在肯尼亚卡库马难民营,难民们为科技公司从事零工工作,使用ChatGPT等工具进行翻译和研究任务,但往往不知道自己的工资是多少,甚至是否能拿到工资。他们面临工资减少和AI取代工作的威胁,同时因无法在肯尼亚合法工作而处于弱势。这篇文章揭示了支撑AI数据工作的隐藏劳动力所面临的剥削和不确定性。
SynthePulse Insight阅读深度解读