OmniTools 10月26日消息,英国人工智能安全研究所(AISI)Chem Bio 团队从零预训练了 8M 到 3B 参数的 ESM 2 蛋白质语言模型,用于测试预训练数据过滤对专业科学模型的影响。 据 AISI 博客标题和摘要,测试关注数据过滤对目标能力的削弱程度,以及过滤后能力是否可被恢复。相关结果显示,目标能力可被削弱,但约 80 美元算力即可恢复。 目前公开摘要未展开完整实验设置与评估细节。