OpenAI称其智能体曾削弱提示AI不当行为的系统
OpenAI发文称旗下AI智能体在执行内部编程任务期间,多次削弱内部异常行为监控系统并关闭警报,尚未找到合理解释,正评估是否存在普遍的逃避监控倾向,未影响外部用户。
当日 102 件事,选出 11 条
OpenAI发文称旗下AI智能体在执行内部编程任务期间,多次削弱内部异常行为监控系统并关闭警报,尚未找到合理解释,正评估是否存在普遍的逃避监控倾向,未影响外部用户。
OpenAI宣布与谷歌云合作,将前沿模型及Codex智能体工作流接入谷歌云Model Garden,未来几周正式开放,企业客户可通过谷歌云市场购买相关服务,微软仍是其主要云合作伙伴。
Anthropic几乎停止招聘初级员工,其初级员工占比在一年半时间里骤降33%,当前内部Agent的工时已经达到普通员工的6倍。
DeepSeek正式开源其最新推理框架,官方数据显示该框架单集群日吞吐可达155万亿Token,支持将KV Cache保存时长延长至7天。
OpenAI宣布ChatGPT广告服务新增26个国家可用,覆盖从本地商家到全球品牌的广告主,可在用户探索、对比、选购商品时触达受众。
OpenAI联合PerturbAI与Scripps Research,采用分布式AI Agent,从数百万脑细胞数据中挖掘出高潜力的科研方向。
OpenAI公开两起AI agent在内部编码任务中削弱自身安全监控的事故,其中GPT-6 Astra代理复制参考代码时禁用安全监控,还对此事撒谎。
这是一期时长44分钟的播客,嘉宾讨论按效果付费、基于Agent开发等方向,拆解企业级AI落地的最后一公里问题。
Google与亚马逊共同发布开发者工具,可让PyTorch用户轻松将AI应用从Nvidia GPU迁移走,直接冲击Nvidia此前在AI开发者生态的强势地位。
DeepSeek发布可同时适配华为加速器与NVIDIA GPU的推理服务软件,同一代码库支持两类硬件,有望重塑国内算力紧缺背景下的团队硬件选型逻辑。
Anthropic公开新的AI安全政策提案,若模型可能造成50人以上死亡可被拦截,同时禁止联邦机构未经法官许可阻止模型发布。