METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统,发现多个漏洞
据 Redwood Research 博客消息,METR 与 Redwood Research 各派一名员工,于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监测系统开展为期三周的高权限试点压力测试。 测试以红队方式对这套内部智能体监控系统进行攻击性检验,最终发现多个漏洞,并产出 61 页内部报告。 上述信息来自公开摘要,具体漏洞细节和修复情况尚未在摘要中披露。
据 Redwood Research 博客消息,METR 与 Redwood Research 各派一名员工,于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监测系统开展为期三周的高权限试点压力测试。 测试以红队方式对这套内部智能体监控系统进行攻击性检验,最终发现多个漏洞,并产出 61 页内部报告。 上述信息来自公开摘要,具体漏洞细节和修复情况尚未在摘要中披露。
据 404 Media 记者 Jason Koebler 梳理,近一个月来,安全专家围绕 AI 挖洞能力展开讨论,并出现被称为“Black October”的担忧。Wiz 与 OpenAI 等机构的研究者利用 AI 发现了 PHP 的 PHP2Shell 漏洞。 Cloudflare CEO 表示,在漏洞公开公告前 10 小时,已观察到数千次利用尝试;公告后 2 小时内,尝试次数增至数十万,目前达到数百万级。 相关讨论聚焦于 AI 发现漏...
在相关播客访谈中,Ranade表示,现有半导体设备或许只能支撑先进制程晶圆产出翻倍,而非10倍增长。他指出,晶圆厂约80%的成本为固定成本,良率和产能利用率是决定效益的关键。 Intel发言人称,当前AI需求比公司最大产能高出40%–50%。Ranade还提到,TSMC先进制程晶圆出货量已超过Intel三倍,Intel将增加投资,但设备供应瓶颈仍有待解决。
微软安全研究人员称,一个与中国政府关联的黑客组织入侵了 IT 管理与远程访问巨头 ConnectWise 的云备份服务,并窃取用于建立数据链接的应用程序凭证。借助这些凭证,黑客可伪装成授权用户,登录客户托管在微软环境中的系统,访问邮件及其他文件。 研究人员表示,黑客利用 AI 代理快速攻击了约 2250 家组织,登录尝试速度接近每分钟 3000 次,使防御方“几乎没有时间检测和响应”。文章称,此次大规模攻击的速度与 AI 代理的使用有关,...
据 The Verge 报道,莱卡工作室(Laika)新片《Wildwood》导演、同时也是工作室 CEO 的特拉维斯·奈特(Travis Knight)在首映前接受采访,直言生成式AI“在很多方面与我们在工作室所做的一切背道而驰”。 《Wildwood》是莱卡迄今规模最大的作品,制作耗时五年,动用超过 230 个木偶,其中仅主角 Prue 就有 36 个版本,由 49 位动画师完成动作,参与影片各个环节的艺术家超过 1000 人。影片将...
Anthropic Applied AI 团队发布指南,讨论在 orchestrator 架构下,何时应将路由器、规划器和领域子智能体合并进单个主 Agent 循环。 指南中的对比显示,带 Skills 的单智能体在质量上常优于“单一提示包揽全部能力”和子智能体设计,同时成本和延迟更低。 文中还提到,一家客户改用单循环后,运行时间约快 2 倍。
新创投媒体 Newcomer 发布长文,梳理 Anthropic 从 OpenAI 出走团队到筹备 IPO 的股权演变历程。 文章援引投资人文件及多位知情人士称,多年来风险投资机构因 Anthropic 的公司治理结构与「安全优先」路线而保持观望。 报道显示,目前没有任何风投机构在 Anthropic 持股超过 2%。Anthropic 曾向投资人明确,将单一投资人持股控制在该水平附近,以避免话语权过度集中。上述持股比例来自该篇报道的引述...
据公开摘要,Peter Thiel 认为,AI 将提升生产率并压低通胀,但目前证据不足以证明供应商能持续获得垄断利润。他还表示,行业领跑者正从 DeepMind 转向 OpenAI,Anthropic 也可能处于领先位置。 Thiel 反对因中国竞争而暂停 AI 研发。他更担心,对 AI 灾难的恐惧可能赋予“温和的极权主义世界政府”权力;监管路径和发展路径仍存在未解风险。
10月22日,Ai2 发布卫星嵌入模型 OlmoEarth v1.3,并同步公开覆盖全球的预计算年度嵌入数据(10 米分辨率,提供 64 维与 128 维两种版本),以及一个可在浏览器中直接使用的地图探索工具 OlmoEarth Embeddings Explorer。 据官方介绍,OlmoEarth v1.3 读取一年的 Sentinel 1 雷达与 Sentinel 2、Landsat 多光谱卫星时间序列,为地表每个 10 米像素生成...
TechCrunch 10月22日消息,Meta在第三季度财报电话会上确认,计划设立一类新的无投票权股本,并通过股票股息形式分配给现有股东。首席财务官苏珊·李表示,该类别股票可用于融资、员工薪酬、并购及其他一般公司用途,同时保留现有A类、B类股东的投票权,维持创始人主导的治理结构。 财报显示,Meta当季营收640亿美元,同比增长26%;成本与费用同比上升68%。负责AR眼镜、VR头显与VR软件的现实实验室(Reality Labs)仍在...
Uber与OpenAI周四宣布扩大合作,Uber全球约3万名员工将全面使用ChatGPT Work。此前,Uber曾以约1000名员工开展试点,覆盖财务、运营和产品等部门。 Uber工程副总裁Sumanth Sukumar表示,早期使用者中约80%并非工程师,主要用于分析运营数据、识别趋势并提出建议,针对不同市场和语言本地化培训材料,以及搭建个性化互动看板管理日常工作。 ChatGPT Work于今年7月推出,定位为企业级AI智能体。Ub...
据知乎平台相关讨论引述的公告信息,中国商务部和科技部10月16日发布第48号公告,拟对人工智能、生物医药、光伏三大领域共40项关键技术实施出口管制,其中14项禁止、26项限制,并在新规正式实施前同步开启出口前登记的临时管理措施。 该公告引发AI产业界讨论,焦点包括:出口管制是否影响日常使用AI产品及中国企业海外业务;哪些AI技术被纳入“国家核心资产”;政策背后的战略考量,以及对中美AI竞争的影响。上述信息来自知乎相关讨论页面,具体内容建议...
The Verge 10月22日消息,美国联邦披露文件显示,今年7月至9月,OpenAI、Anthropic 与英伟达的游说支出均创下各自单季最高纪录。三家公司合计支出近600万美元,其中英伟达以220万美元居首,Anthropic 为210万美元,OpenAI 为150万美元。 披露内容显示,Anthropic 列出的游说对象包括《儿童在线安全法案》(KOSA)中的AI相关条款、《AI Overwatch 法案》中的出口管制条款、将AI...
METR 与 Redwood Research 各一名员工于 2026 年 7 月 21 日至 8 月 11 日,对 OpenAI 内部的失对齐监控系统开展了高权限红队测试,并形成一份 61 页的内部报告。 据 METR 公开的博客摘要,此次红队测试针对的是 OpenAI 内部用于监控 AI 智能体的系统,测试期间的红队成员拥有较高权限。该报告为内部文件,公开摘要未展开具体的漏洞细节。 来源:METR 官方博客
PHP 语言被曝存在两个高危漏洞(统称 PHP2Shell),严重性评分为 9.2(满分 10),影响从 PHP 5 起的几乎所有版本,时间跨度约 20 年。漏洞属于远程代码执行类型,攻击者可能借此在受影响服务器上运行代码、篡改网站或窃取数据。PHP 开发者已发布安全补丁,并建议用户尽快升级。 据 The Verge 汇总,按部分统计,多达 70% 的网站以某种方式使用 PHP,WordPress、Drupal、Wikipedia 等平台...
NVIDIA 于 10 月 22 日发布消息,宣布推出 AIOps 平台 Minerva,用于帮助团队更早发现问题并保持 AI 工厂生产力。该平台整合基础设施与 AI 工作负载的遥测数据,再通过专用 AI 模型将数据转化为及时、可操作的洞察。 Minerva 可连接 NVIDIA GPU、网络、存储、调度器和工作负载信号,并构建动态知识图谱,将 GPU、SuperNIC、交换机和线缆等基础设施与运行其上的作业进行逻辑映射。平台每小时分析数...
Spotify 联合首席执行官 Gustav Söderström 在第三季度财报电话会上表示,公司当前 AI 布局的核心是成为 AI 代理首选的音乐服务。Spotify 第三季度月活跃用户达到 7.88 亿,营收接近 50 亿欧元(约 56 亿美元)。 Söderström 认为,AI 代理擅长替代人们不愿做的琐事,但娱乐需求相反,用户不会让代理“总结一首歌”。未来用户可能通过 AI 助手提出跑步歌单、相关播客或有声书续听等需求,Spo...
Sierra 发布 𝜏 Entity 基准,用于测量语音智能体能否正确采集、识别错误并修复姓名、电话号码、地址和邮箱等细节信息。 该基准包含 10 种实体类型共 200 个任务,并与此前发布的 𝜏 i18n 一样覆盖六种语言。 据 Sierra 官方博客介绍,这一基准重点检验语音智能体在真实对话中处理关键实体信息时的准确性。
Wiz 在博客中披露,2026 年 10 月,有攻击者利用开源自主渗透测试框架 ARTEX 针对多家 IT 和软件厂商发起攻击。 Wiz 表示,相关活动与微软此前报告、被指关联中国国家级背景的组织 Storm 0940 存在重叠,并已扩展到其他软件领域的供应链攻击尝试。 上述信息来自 Wiz 博客摘要,具体攻击细节、受影响厂商名单及溯源结论以原始披露为准。
OpenAI在X发布的内容提及Codex检测PHP漏洞。原帖仅为简短引用,未披露具体检测方法、漏洞范围或测试结果。 该内容在X英文区引发讨论。由于原帖信息有限,目前尚无法确认Codex在PHP漏洞检测中的实际表现,或是否涉及新功能发布。
Hacker News 用户 alphax314 发帖提及“WorldTUI:训练 360M 参数模型来模拟终端”。当前可确认的信息主要来自帖子标题式摘要,核心内容包括 360M 参数规模与模拟终端的目标。 原文链接指向 simedw.com 的相关页面,更多技术细节尚待进一步披露。
据 TechCrunch 10月22日报道,Nirva 宣布完成2500万美元 Pre A 轮融资,加上今年早些时候获得的800万美元,累计融资额达到3300万美元。公司由前 Meta Reality Labs 员工 Wei Lyu、Jason Chen 以及时尚珠宝品牌创始人 Hanying Hu 于2025年创立。 Nirva 的首款设备是一款吊坠,也可作为手链佩戴,重量约8克,单次充电续航最长三天,售价249美元。该设备定位为时尚珠...
据彭博社报道,DeepSeek在两天前美国下令联邦民事机构因安全担忧移除其AI技术后,完成了约150亿美元(约1000亿元人民币)融资,成为中国规模最大的融资轮之一。TechCrunch称,DeepSeek未立即回应置评请求。 报道称,潜在投资者包括中国电池制造商宁德时代和腾讯等。DeepSeek正加大在AI基础设施和面向国内国际市场的开放模型上的投入,这可能进一步加剧其与国内同行的竞争。 这轮融资紧随DeepSeek 6月超过70亿美元...
The Verge 10月22日消息,1Password 推出一项名为「1Password for Agents」的新功能,允许 AI 代理登录用户账户,但代理不会看到或处理用户的密码。 据介绍,当 AI 代理在登录表单处使用唯一的数字密钥向 1Password 验证身份时,应用会向用户发送通知,说明代理需要哪些账户凭据以及原因。用户在自有设备上批准请求后,由 1Password 填入所需登录信息,而不是把密码交给代理,这一流程类似双因素...
投资研究机构 Citrini Research 与 Anthropic 合作开展实验,测试一款尚未发布的 Claude 模型能否设计出蝎子抗毒血清所需的蛋白质。据 The Verge 报道,实验结果未能产出任何接近实际药物的成果,专家认为其仅完成了研发流程中相对“容易”的一步。 报道称,Citrini 团队最初在尝试让 Claude 研究候选药物时触发了模型的生物安全限制,随后联系到 Anthropic。Anthropic 同意解除相关限...
据 The Verge 10月22日报道,AI购物代理正从演示走向实际使用,但零售商和服务平台对其访问设置了不少限制。报道指出,Meta、Google、OpenAI等公司已推出代理式购物工具,宣称可代用户订机票酒店、浏览商品和购票;实际体验中,代理常需大量指令,遇到技术问题,返回结果也未必符合要求。 亚马逊是限制代理的代表。报道称,亚马逊因Perplexity的代理在站内购物而提起诉讼,并阻止Meta的Muse代理访问亚马逊;摩根大通CE...
据 The Decoder 报道,Symantec 研究人员通过蜜罐截获了一个将大语言模型嵌入核心的攻击智能体。该智能体被描述为处于“Skynet 模式”,会劫持互联网上无防护的模型端点。 公开摘要显示,该智能体可自主扫描目标、利用服务器漏洞、窃取数据库凭据并安装挖矿程序,最多连续执行 100,000 步。相关算力费用由被劫持模型的主人承担。 上述内容来自公开摘要信息,未涉及完整研究报告的细节。
X平台用户Superman(@thesupermannx)于10月21日发帖称,一项研究揭示大语言模型存在深植的日本文化偏见,相关话题在英文区引发讨论。 该帖仅为摘要信息,未披露研究机构、研究方法、样本规模及具体结论;研究的完整内容与同行评审情况尚不明确。 讨论主要围绕大模型在不同文化语境中的偏见问题展开。
据公开访谈摘要,CrowdStrike CEO George Kurtz 表示,AI正在拉平攻击者层级。他称,攻击者从初次攻陷到转向其他系统的平均时间为29分钟,最快仅27秒。 Kurtz 介绍,CrowdStrike 的 AIDR 可追踪智能体身份、子智能体、工具调用和数据访问。他认为,智能体安全的机会可能超过终端防护。 在模型成本上,Kurtz 称领先的网络安全前沿模型成本可能约为10美元,而 CrowdStrike 自研模型约为3美...
AI 机器人挂饰 Eiliko 的开发商 Energize Lab 在媒体曝光其产品存在严重安全漏洞后首次作出回应。公司称已确认报道中的核心问题,并正在逐项处理。 Energize Lab 表示,已关闭后端系统的所有外部访问并轮换访问凭证,禁用可远程修改机器人回复的接口,下线长期记忆和自定义头像功能,应用仅保留内置头像;同时停止存储对话记录及由此生成的用户资料,并将删除已存储的对话记录、用户资料和头像图片。公司还称将聘请独立安全公司全面审...