跑本地模型,换个工具性能提升30%
快速导读:一篇在技术圈引起热议的帖子,揭示了一个普遍的误解:很多人以为自己电脑跑本地大模型卡顿是硬件不行,但大量一线玩家的真实经验是,仅仅把启动器从流行的Ollama换成更底层的llama.cpp,性能就能白拿30%以上的提升。你以为的硬件瓶颈,很可能只是工具瓶颈。 ...
快速导读:一篇在技术圈引起热议的帖子,揭示了一个普遍的误解:很多人以为自己电脑跑本地大模型卡顿是硬件不行,但大量一线玩家的真实经验是,仅仅把启动器从流行的Ollama换成更底层的llama.cpp,性能就能白拿30%以上的提升。你以为的硬件瓶颈,很可能只是工具瓶颈。 ...
背景 近几年,我一直从事于Agent领域的探索、应用与实践,也陆续沉淀了许多相关的技术文章,相信不少朋友都读过我之前那篇《如何构建和调优高可用性的Agent?浅谈阿里云服务领域Agent构建的方法论》。在那篇文章中,我们从Agent的概念起源聊到落地挑战,再到具体的解决方案,...
GitHub OCR项目之王刚刚历史性易主。 诞生近40年、统治OCR领域的技术标杆Tesseract OCR,被中国开源拉下王座—— 百度文心衍生模型PaddleOCR以73300+Star,正式登顶GitHub全球OCR项目榜,终结谷歌Tesseract OCR长期霸榜局面。...
你肯定听过编程界的一句名言:不要重复造轮子。如果我们把精力投入到重复做前人已经做好的工作,那确实是一种极大的浪费。不重复造轮子,却应该知道轮子是怎么造出来的。 今天我们推荐的项目就是教你如何去造”轮子“,去自己实现一些热门技术, 在GitHub超过234K Star的神作,...
1. LiteLLM快速使用 github:https://github.com/BerriAI/litellm https://docs.litellm.ai/docs/ LiteLLM 是一个 Python 库,旨在简化多种大型语言模型(LLM)API 的集成。...
最近,谷歌 NotebookLM 又出了个好玩好用的小功能: Cinematic Video Overviews(电影级视频概览)。 与普通模板不同,这项功能可以根据我们上传的资料,自动生成定制化、沉浸式的视频讲解。...
智东西3月13日报道,知名AI应用Claude又上新了!现在,Claude能在聊天中直接创建交互式图表、示意图及其他可视化内容,而且这些图表能随时调整和修改。 就在昨夜,Anthropic将零代码实时构建可视化效果引入Claude的聊天对话中。任何用户均可免费体验该功能的测试版本。...
早上刷x,发现一个从来没听过的 AI 设计工具,被145k粉丝的网红博主 Ding 转发了。 好奇心瞬间被勾起:到底什么项目能让这些大佬也觉得新鲜? 结果一查,发现是国内 Seede AI 团队在海外发布的新品: Veeso AI。...
海外又一个被大 V 点赞的设计工具,不画图、不写咒语,居然靠内容取胜? 我让 AI 给我调研了一下后发现,这原来是国内 Seede AI 团队发布的海外新产品。听说他们没有融资新闻,没有投放推广,纯口碑传播,半年积累了 10 万用户。 好奇心驱使下,...
Lovart最近又悄悄上线了两个王炸级别的新功能:多角度(Multi-Angle) 和 矢量化(Vectorize)。简单来说多角度可以直接把 AI 变成你的私人虚拟摄影棚,矢量化则可以一键把AI图变成真正的设计资产。 做过电商或者产品包装的设计师都知道,同一个产品,...