Category: 小模型

“小鸟，快速的翅膀，Kolibri 来了。” 10月3日，德国AI公司Aleph Alpha 正式发布 Kolibri，一个采用Mixture-of-Experts（MoE）架构的开放权重模型。 模型总参数为78.1B，单个token实际激活参数仅3.46B，...