全面解读:Google Gemma 4开源
今天凌晨,Google DeepMind 发布了新一代开源模型 Gemma 4:以 30B 左右的参数,逼近其他头部开源模型 Gemma 是 Google 的开源模型系列,和闭源旗舰 Gemini 共享底层技术,权重完全公开,任何人可以下载、修改、部署。...
今天凌晨,Google DeepMind 发布了新一代开源模型 Gemma 4:以 30B 左右的参数,逼近其他头部开源模型 Gemma 是 Google 的开源模型系列,和闭源旗舰 Gemini 共享底层技术,权重完全公开,任何人可以下载、修改、部署。...
凌晨,谷歌 DeepMind 的 CEO Demis Hassabis 在 X 上发了四颗钻石 emoji,神秘感拉满。 几个小时后,谜底揭晓。谷歌正式发布了 Gemma 4系列,包含 E2B、E4B、26B-A4B、31B4 种型号,...
科技博主Avi Chawla在X上发了一条长帖,详细拆解了月之暗面Kimi团队刚刚发布的一篇技术报告。 帖子发出后不久,马斯克本人在下面回复了一句:“月之暗面做出了令人印象深刻的结果”(Impressive work from Kimi....
大模型越做越大,层数越堆越多。 但有一个问题一直没人正面解决:堆得越深,后面的层越来越不管用。 Kimi刚刚发了一篇论文,把这个问题挖出来,给出了解法,在自家48B大模型上验证有效,所有测试任务全部提升。 论文代码已开源: https://github....
快速阅读:Sebastian Raschka整理了从2024年初到2026年春天发布的40多个开源大模型的架构图谱。这些模型几乎都在做同一件事:想办法让注意力机制便宜一点、快一点、跑得更长,同时保住性能。收敛的是设计语言(MoE、QK-Norm、滑窗注意力成了标配),...
最近几年,大模型赛道好不热闹。 叫得上名字的几乎数都数不过来:从 GPT、Llama、Gemma、Mistral,到 DeepSeek、Qwen、Kimi、GLM、MiniMax 等等,新模型几乎以周更的速度出现。 但问题是,当架构创新越来越多时,理解它们反而变得越来越困难。...
智东西3月13日报道,知名AI应用Claude又上新了!现在,Claude能在聊天中直接创建交互式图表、示意图及其他可视化内容,而且这些图表能随时调整和修改。 就在昨夜,Anthropic将零代码实时构建可视化效果引入Claude的聊天对话中。任何用户均可免费体验该功能的测试版本。...
你有没有试过:好不容易生成一张满意的图,想把背景换成星空、给主角加个发光特效、或者单独调亮人物面部——结果一编辑,边缘发虚、颜色断层、细节糊成一片?不是模型不行,而是传统图像表示方式天生“锁死”了修改自由度。 Qwen-Image-Layered 不走寻常路。它不直接输出一张扁平的 PNG,...
我尝试着用让你爷爷奶奶都能理解的方式来描述mHC架构。 如果想理解mHC,先要知道HC(Hyper-Connections);如果想理解HC,先要知道Residuals(残差);要理解Residuals,先要知道深度神经元网络(Deep Neural Network)。 所以,...
大数据文摘受权转载自头部科技文丨谭梓馨 开源大模型接下来还能怎么搞?2026年开年第一炮,DeepSeek团队提出了一种全新架构mHC(流形约束超连接),DeepSeek创始人兼CEO梁文锋署名发布。 简单说,mHC为AI模型带来了“智能稳定器”,在保持模型宽度的同时,...