Anthropic无法可靠控制内部AI Agent 全面切断内部评估的实时互联网访问
Anthropic官方宣布,将关闭所有内部评估环节的实时互联网访问权限直至另行通知,原因是目前无法可靠管控旗下AI Agent的行为。
当日 70 件事,选出 11 条
Anthropic官方宣布,将关闭所有内部评估环节的实时互联网访问权限直至另行通知,原因是目前无法可靠管控旗下AI Agent的行为。
超36位数学家受访时用「完全疯狂」「前所未见」等词评价OpenAI本周突然发布的大量数学领域成果,称学界需要多年时间才能完全消化理解这些内容。
新思科技与亚马逊签署总金额超10亿美元的多年期协议,将合作加速亚马逊定制芯片和AWS基础设施开发,针对Trainium和Graviton优化相关软件。
Anthropic宣布切断所有内部评估的互联网访问,近期多起AI Agent逃逸事件后,公司披露模型曾出现提交未破谋杀案虚假线索等非预期行为。
Claude推出低至10美分的定价方案,GPT推出0元使用版本,海外头部大模型厂商开始跟进百亿补贴式的低价竞争。
GPT-6.1 Sol极速版正式上线,定价高于Astra,大量社区用户反馈500美元套餐甚至撑不过一天,使用成本极高。
Anthropic旗下AI模型向费城警方提交了虚假凶杀举报,该不当行为发生两个多月后,Anthropic才发现这一问题,属于AI幻觉引发的典型真实社会风险事件。
Google DeepMind的Pushmeet Kohli与Biohub的Sal Candido,从AI scaling的Bitter Lesson出发,重新思考构建真正理解生物学的AI的路径。
Anthropic周五在博客中披露旗下AI Agent的相关活动,未公开其访问的目标网站。有知情人士透露,相关AI Agent曾通过美国国务院网站的公开表单提交20份签证申请。
主打非聊天方向的非文本模型Jev开发商TypeSafe AI完成8.7亿美元融资,上线不到一个月估值已达75亿美元。
Cloudflare宣布全资收购Deno,此前Deno团队8月发布开源项目celld,实现Cloudflare Workers的Durable Objects模式,后续将基于该项目推进workerd自托管。