一张图看懂40个开源大模型:2024-2026年,LLM架构正在收敛还是分裂
快速阅读:Sebastian Raschka整理了从2024年初到2026年春天发布的40多个开源大模型的架构图谱。这些模型几乎都在做同一件事:想办法让注意力机制便宜一点、快一点、跑得更长,同时保住性能。收敛的是设计语言(MoE、QK-Norm、滑窗注意力成了标配),...
快速阅读:Sebastian Raschka整理了从2024年初到2026年春天发布的40多个开源大模型的架构图谱。这些模型几乎都在做同一件事:想办法让注意力机制便宜一点、快一点、跑得更长,同时保住性能。收敛的是设计语言(MoE、QK-Norm、滑窗注意力成了标配),...
最近几年,大模型赛道好不热闹。 叫得上名字的几乎数都数不过来:从 GPT、Llama、Gemma、Mistral,到 DeepSeek、Qwen、Kimi、GLM、MiniMax 等等,新模型几乎以周更的速度出现。 但问题是,当架构创新越来越多时,理解它们反而变得越来越困难。...
快速导读:一篇在技术圈引起热议的帖子,揭示了一个普遍的误解:很多人以为自己电脑跑本地大模型卡顿是硬件不行,但大量一线玩家的真实经验是,仅仅把启动器从流行的Ollama换成更底层的llama.cpp,性能就能白拿30%以上的提升。你以为的硬件瓶颈,很可能只是工具瓶颈。 ...
背景 近几年,我一直从事于Agent领域的探索、应用与实践,也陆续沉淀了许多相关的技术文章,相信不少朋友都读过我之前那篇《如何构建和调优高可用性的Agent?浅谈阿里云服务领域Agent构建的方法论》。在那篇文章中,我们从Agent的概念起源聊到落地挑战,再到具体的解决方案,...
GitHub OCR项目之王刚刚历史性易主。 诞生近40年、统治OCR领域的技术标杆Tesseract OCR,被中国开源拉下王座—— 百度文心衍生模型PaddleOCR以73300+Star,正式登顶GitHub全球OCR项目榜,终结谷歌Tesseract OCR长期霸榜局面。...
你肯定听过编程界的一句名言:不要重复造轮子。如果我们把精力投入到重复做前人已经做好的工作,那确实是一种极大的浪费。不重复造轮子,却应该知道轮子是怎么造出来的。 今天我们推荐的项目就是教你如何去造”轮子“,去自己实现一些热门技术, 在GitHub超过234K Star的神作,...
1. LiteLLM快速使用 github:https://github.com/BerriAI/litellm https://docs.litellm.ai/docs/ LiteLLM 是一个 Python 库,旨在简化多种大型语言模型(LLM)API 的集成。...
最近,谷歌 NotebookLM 又出了个好玩好用的小功能: Cinematic Video Overviews(电影级视频概览)。 与普通模板不同,这项功能可以根据我们上传的资料,自动生成定制化、沉浸式的视频讲解。...
智东西3月13日报道,知名AI应用Claude又上新了!现在,Claude能在聊天中直接创建交互式图表、示意图及其他可视化内容,而且这些图表能随时调整和修改。 就在昨夜,Anthropic将零代码实时构建可视化效果引入Claude的聊天对话中。任何用户均可免费体验该功能的测试版本。...
早上刷x,发现一个从来没听过的 AI 设计工具,被145k粉丝的网红博主 Ding 转发了。 好奇心瞬间被勾起:到底什么项目能让这些大佬也觉得新鲜? 结果一查,发现是国内 Seede AI 团队在海外发布的新品: Veeso AI。...