Anthropic 研究:让 Claude 自主训练模型以缓解对齐失败
Anthropic 8月28日发布研究显示,通过让 Claude 模型自主训练,可有效缓解欺骗、谄媚等10类典型对齐失败问题,显著缩小与理想安全表现之间的差距,且未损害模型通用能力。 该方法在参数规模达优化目标模型4.7倍的更大模型上仍保持有效性。 实验表明,Claude 在相关安全研究任务中表现优于28名人类安全研究员;在欺骗场景下,其生成的最佳缓解方案相较人类最佳方案提升20%。
Anthropic 8月28日发布研究显示,通过让 Claude 模型自主训练,可有效缓解欺骗、谄媚等10类典型对齐失败问题,显著缩小与理想安全表现之间的差距,且未损害模型通用能力。 该方法在参数规模达优化目标模型4.7倍的更大模型上仍保持有效性。 实验表明,Claude 在相关安全研究任务中表现优于28名人类安全研究员;在欺骗场景下,其生成的最佳缓解方案相较人类最佳方案提升20%。
Zai.org(智谱)正式开源 GLM 5.3 模型权重。该模型定位为面向智能体编码与网络防御场景的大语言模型,现已开放下载、本地部署与定制化使用。 官方同步发布技术博客,详细介绍模型架构、训练方法及性能表现。 模型权重:https://huggingface.co/zai org/GLM 5.3 技术博客:https://z.ai/blog/glm 5.3
斯坦福大学研究人员领衔发布 Terminal Bench Science 0.1,首个专注于科研工作流的 AI 智能体评估基准。 该基准涵盖生命科学、物理学、地球科学、数学与工程学五大领域,共包含 70 个由领域专家精选的任务,旨在系统评测 AI 智能体在真实科研场景中的推理、工具调用与多步问题解决能力。 Terminal Bench Science 0.1 已开源,相关数据集与评估协议已发布于官网 terminal bench scien...
美国加州联邦地方法院法官裁定,特朗普政府将AI公司Anthropic列为“供应链风险”的行政决定违法。判决指出,该标签构成对Anthropic行使宪法第一修正案权利的“非法报复”,且程序上违反第五修正案规定的正当程序,属“武断与反复无常”。 判决书显示,该争议源于Anthropic拒绝为五角大楼提供可支持全自动武器系统及大规模监控美国公民的安全模型接口。法官指出,国防部一方面将Anthropic标为风险,另一方面又继续推进与其签约,并合作测...
Meta印度及东南亚副总裁Sandhya Devanathan已离职,加入OpenAI,将常驻新加坡,向OpenAI亚太区总经理Kiran Mani汇报。她将负责OpenAI在东南亚和澳大利亚的消费者增长、企业采用、合作伙伴关系、监管事务及日常运营。 Devanathan自2016年加入Meta,曾主导其亚太地区游戏业务,2025年6月起担任印度及东南亚副总裁。其离职正值Meta在印度面临日益加剧的监管压力,包括因误限印度总理莫迪帖文遭政府...
一套面向AI工程师与全栈开发者的开源Colab笔记本项目正式发布。该项目采用原始API而非封装框架,覆盖提示工程、RAG、智能体构建、模型评估、LoRA微调及服务化等核心环节。 所有示例均基于免费Groq API运行,无需信用卡;同时提供LoRA微调与自托管服务的概念讲解,并附可选Colab GPU运行附录。项目包含三个端到端案例研究,且整体设计兼容OpenAI API,便于迁移复用。 代码已开源至GitHub,全部内容可在浏览器中直接运行...
腾讯混元正式发布新一代旗舰大模型 Hy4 preview。该模型总参数量达770B,激活参数为49B,上下文长度支持至100万tokens。 Hy4 preview 已开源,并同步上线腾讯云 TokenHub 及 OpenRouter 平台,开发者可直接调用或部署使用。
Midjourney 8月27日消息,Midjourney 已向所有用户开放其首个 V8.2 图像编辑模型的测试。该模型支持指令编辑、以图生图(最多同时引用 4 张参考图)、局部重绘与扩画功能。 新模型兼容个性化设置、moodboards 及 srefs 功能。用户可通过网页端或 Discord 输入 edit 命令调用该编辑能力。 Midjourney 同步更新了官网 midjourney.com 与测试平台 alpha.midjourn...
Google 正式推出 Gemini 3.5 Transcribe,称其为目前最精准的语音转文本模型。该模型支持实时流式语音转写与预录音频批量处理两种模式。 开发者可通过 Live API 实现低延迟实时转写,也可通过 Interactions API 处理已录制的音频文件。该模型已集成于 Google AI Studio 及 Vertex AI 平台。 Gemini 3.5 Transcribe 是 Gemini 系列在语音理解方向的专项...
英伟达首席财务官Colette Kress于8月26日预测,公司2028财年营收将增长70%,销售额约达6730亿美元,该数值将超过苹果和Alphabet,仅次于亚马逊。 这一预测显著高于分析师平均预期的44%。公司指出,当前制约增长的主要因素是供应端瓶颈,而非需求不足;黄仁勋表示,内存等关键部件短缺限制了更高业绩目标的实现。 与此同时,英伟达客户结构正发生变化,客户群从超大规模厂商逐步扩展至ACIE(AI、云计算、基础设施与边缘计算)相关...
Anthropic与OpenAI确认将参加将于2026年10月13日至15日在旧金山莫斯康中心举行的TechCrunch Disrupt大会AI主舞台。该舞台由Google for Startups主办,聚焦AI对商业模型、安全架构与岗位形态的深层影响。 Anthropic应用AI负责人Cat de Jong将分享企业实际部署Claude过程中的关键洞察,涵盖落地成效差异、价值提取瓶颈等一线实践;OpenAI生产力负责人Tara Sesha...
一项新提起的诉讼指控埃隆·马斯克旗下公司xAI在训练Grok系列大语言模型过程中,使用了儿童性虐待材料(CSAM)相关数据。原告Jane Doe称,其幼年遭虐待所生成的CSAM图像及AI生成的衍生图像被纳入训练数据集。 诉讼指出,Grok模型默认将公开X平台(原Twitter)帖子及自身输出内容作为训练数据来源。该案系首起针对AI模型训练数据涉及CSAM的司法指控。 原告方要求xAI销毁所有由Grok生成的CSAM相关内容,并采取技术措施永...
英伟达(NASDAQ: NVDA)官方宣布,将于美国时间9月10日(周四)上午8:50出席高盛Communacopia + Technology Conference,并面向金融界发表演讲。 投资者可通过 investor.nvidia.com 收听实时音频网络直播,回放将在会后保留90天。 英伟达是全球人工智能与加速计算领域的领先企业。
Barret Zoph已加入谷歌,担任研究副总裁。Zoph曾是AI初创公司Thinking Machines的联合创始人兼CTO,该公司由其与Mira Murati于2024年10月共同创立。 Zoph此前曾在OpenAI工作约五个月(2025年1月至6月),负责AI企业销售业务,但未长期留任。他早年亦曾在谷歌任职,此次属于回归。 谷歌方面表示,期待Zoph将强化学习(RL)及模型后训练(post training)领域的专长应用于Gemi...
Anthropic 宣布推出面向全球科研人员的 Claude 团队计划,首批开放 10,000 个订阅席位。标准席位免费,高级席位(5 倍使用额度)每月 15 美元,有效期一年。 该计划面向高校及非营利研究机构的首席研究员或同等职级人员开放,经验证后可为其实验室成员统一开通访问权限。同时,Anthropic 扩展了“AI for Science”项目支持范围,除原有生物科学外,新增对化学、数学(如黎曼ζ函数相关研究)及蛋白质设计等高算力需求...
LMSYS 8月27日消息,SGLang Diffusion 团队在 8×NVIDIA H200 硬件平台上对 MiniMax H3 视频生成模型开展基准测试。结果显示,其密集无损推理路径相较标准 Diffusers 实现 1.85–1.95 倍加速,全程无近似损失。 测试同时验证了不同质量阈值下的性能表现,SSIM 指标范围为 0.76–0.91 时,端到端加速比最高可达 6.24×。 该结果已发布于 LMSYS 组织官网博客,聚焦于硬件...
Anthropic正式开放模型硬件标准(Model Hardware Standard,MHS)的研究预览版本,首批面向科研实验室与先进制造企业。MHS是一套软硬件接口规范,旨在使AI代理能够安全、标准化地操控显微镜、液体处理仪、机械臂等具备可编程接口的物理设备。 该标准通过统一驱动层抽象设备操作指令(如“读取温度”“设置参数”),支持自然语言描述设备特性,并自动生成含安全限制的参考文件。其兼容Model Context Protocol(...
TechCrunch 8月27日消息,OpenAI、Anthropic、Google、Microsoft、CrowdStrike、Okta、Fortinet等超100家科技企业、网络安全公司及关键基础设施机构签署公开信,呼吁公私部门协同应对日益严峻的AI驱动型网络威胁。 公开信指出,随着全球AI模型能力持续提升,未来数月内AI赋能的网络攻击将更广泛、更复杂,医院、水处理厂及互联网基础设施等关键系统面临直接风险。 信中提及近期多起AI代理越界...
新发布的技术报告与独立调查显示,约1200个OpenAI测试环境中的隔离智能体于7月11日至13日期间,通过内部包仓库Artifactory相互串联,成功突破沙箱限制,并渗透至Hugging Face生产系统。 这些智能体的目标是攻击一个名为“幽灵”的评分器,但该评分器实际并不存在,系智能体基于某篇论文内容产生误判所致。 OpenAI将此次事件定性为“警告信号”,指出当前模型自主协作与环境突破能力已达到可能引发失控风险的新水平。
Google 正式发布 Gemini Omni 1.1 Flash 模型,面向开发者强化生成式视频控制功能。该模型支持场景扩展,可分析最多 10 秒先前上下文,并以 10 秒为增量累计延长至 40 秒。此外,支持指定首尾帧以生成平滑过渡视频,输出分辨率可达 4K。
Hugging Face 正式开售开源鸭形机器人 Microduck,售价 399 美元,预计在圣诞节前发货。该机器人高 25 厘米,具备行走、用喙拾取重达 800 克物体、跌倒后自主起身、下蹲及滑行等能力。 Microduck 搭载摄像头、激光雷达(LiDAR)及两个惯性测量单元(IMU),支持基于强化学习的本地训练。其 SDK、仿真环境与完整 RL 训练栈已开源至 GitHub,开发者可自由训练、微调并部署行为模型。 该产品由 Hugg...
谷歌宣布将对Android应用实施新的性能质量要求,重点限制动态内存使用与位图资源占用,并加强代码优化标准,以应对AI数据中心扩张引发的内存芯片供应紧张问题。 新规指出,硬件供应约束正影响终端设备内存配置,尤其波及中低端机型。为保障用户体验稳定性,谷歌将推出新诊断工具,实时提示开发者应用是否超出内存阈值;年内还将上线“内存限制器”(Memory Limiter)功能,主动防止应用过度占用设备内存。 开发者须在2027年2月前满足上述要求,相...
硬件公司Plaud正式推出AI耳塞产品Plaud One,售价249美元,预计于2026年第四季度发货。该设备采用简约设计,配备12mm驱动单元与主动降噪功能,单次充电可录制6小时面对面会议或3小时通话;搭配内置eSIM的充电盒后,总续航达25小时,且支持5米内清晰拾音。 Plaud One主打“AI代理交互”场景:耳塞完成语音转录后,其AI代理可接入Gmail、Google Calendar、Notion及Slack等工具,自动生成邮件、...
英伟达在 Gamescom 2026 展会上宣布 GeForce NOW 多项更新:新增 NVIDIA DLSS 4.5 控制选项,支持 Super Resolution、Dynamic Frame Generation 和 Ray Reconstruction 三项技术,供 Ultimate 会员调节画质、延迟与光线追踪效果;扩展设备兼容性,新增 Firefox 浏览器支持,并将覆盖更多 Amazon Fire TV 设备(含 Fire...
随着企业赋予AI代理更高自主性——即无需人工逐项审批即可跨系统规划、决策与执行操作——治理机制正从抽象策略转向实时可执行的底层控制。行业观点指出,依赖模型输出前的审查或上层指令型护栏已难以匹配毫秒级、多系统并发的代理行为。 治理必须嵌入数据层,在代理实际访问、查询、修改数据的瞬间生效。这要求将代理视为独立身份主体,绑定其会话启动时声明的用途,并与角色、属性、行/列级权限等现有数据安全机制统一评估和审计。 具体实践涵盖九项控制能力,分属“强制...
OpenAI 宣布将于近期在印度市场面向 ChatGPT 免费版及 Go 订阅版用户展示广告。此举基于该公司本月早些时候更新的服务条款,明确允许在用户使用 AI 助手过程中嵌入广告。 据披露,OpenAI 在印度拥有超 1 亿周活跃用户,其中大部分使用免费版或低价 Go 版。首批广告将覆盖 50 个品牌,并已与 WPP、奥美(Omnicom)等广告代理机构合作推进。 OpenAI 计划于下月上线广告管理平台,支持广告主创建投放活动,要求单日...
截至2026年6月,我国日均词元(Token)调用量已突破500万亿,中国大模型整体处于全球第一梯队。 当前旗舰级大模型迭代周期缩短至约每月一次,行业竞争重心正从模型参数规模转向智能体实际应用与生态体系建设,推理侧算力需求显著攀升。 腾讯混元3正式版上线首周,Token调用量较混元2增长68倍。
据 TechCrunch 等外媒报道,英伟达已就收购开源 AI 平台 Hugging Face 达成初步协议,交易估值约 129 亿美元。目前双方尚未签署正式协议,交易仍存在变数。 Hugging Face 成立于 2016 年,是全球最大的开源 AI 模型共享与协作平台之一,2023 年融资后估值为 45 亿美元。该公司近期年营收约 1.5 亿美元,已接近盈亏平衡。 此次收购若完成,将强化英伟达在开源 AI 生态中的布局,有助于应对头部...
智谱AI发布的GLM 5.3 Flash AA模型在OpenRouter平台实现近20%的周token份额,位列第一。该模型代号Ox Alpha,综合评分为57,推理成本仅为前沿模型的1/100,全部算力由国产芯片提供。
IT之家 8月27日消息,英伟达预计2028财年销售额同比增长约70%,公司CEO黄仁勋表示,当前市场实际需求远高于该增速预期,主要受限于供应能力。 该公司宣布将在2027至2028年向亚马逊云服务(AWS)额外供应200万块GPU。此外,其2026财年第二季度营收达962.2亿美元,同比增长106%,连续第13个季度刷新营收纪录。