OmniTools 7月13日消息，德国AI协会协调的研究联盟正式发布开源大语言模型Soofi S 30B-A3B。该模型总参数量316亿，采用Mamba-2与标准注意力层混合的MoE架构，每个token仅激活约32亿参数。
模型全程在德国电信慕尼黑工业AI云上训练，训练数据中德语占比从第一阶段的7.2%提升至第二阶段的15.3%。在多项基准测试中，Soofi S在所有完全开源模型中取得英语和德语综合最高分，超越OLMo 3 32B与Apertus 70B；HumanEval得分为73.8%，MBPP为70.2%，德语版MBPP达84.2%。
Soofi S支持最高100万token上下文窗口，在4万token长度下生成吞吐量约为同规模稠密模型的8倍。模型权重已全面开源。
