【大模型后训练专题】 QLoRA微调原理及实战项目
前面QLoRA主要在讲“怎么在全精度模型上优雅地加一个低秩增量 ΔW”。工业界真实场景里依然存在着两个很常见的问题: 显存实在不够,8B / 14B 模型都快撑不住了,LoRA微调依然爆显存,如何进一步解决? LoRA 只是往权重上“加一个低秩偏移”,...
前面QLoRA主要在讲“怎么在全精度模型上优雅地加一个低秩增量 ΔW”。工业界真实场景里依然存在着两个很常见的问题: 显存实在不够,8B / 14B 模型都快撑不住了,LoRA微调依然爆显存,如何进一步解决? LoRA 只是往权重上“加一个低秩偏移”,...
如果你用 Claude Code 做过稍微复杂一点的开发,大概率都遇到过这些问题:上下文一重置,TodoWrite 就消失;工具调用一多,目标开始漂移;错误没有被持续记录,最后上下文越来越重,但真正有用的信息却越来越少。 这些问题并不是使用方式不对,...
Everything Claude Code 是由 Anthropic 黑客松冠军 Affaan Mustafa 创建的开源项目,提供了一套较为完整的 Claude Code 配置体系。其核心思路不是把 Claude Code 当作单一的编程工具,...
谷歌最新推出的 Gemini 3.1 Flash TTS,是一款面向工业化场景的新一代文本转语音模型,凭借顶级音质、精细可控性、多语言支持与内置安全水印,迅速登顶 TTS 行业排行榜,成为有声内容、AI 助手、影视游戏等场景的强力解决方案。...
分析Mistral于2026年3月发布的4B参数开放权重TTS模型Voxtral:盲测中以更自然语调击败ElevenLabs Flash v2.5,3秒音频即可完成零样本语音克隆,且仅需8GB显存本地运行。然而日语和韩语的缺席是进军亚洲市场的致命短板。详解CC BY NC 4....
在发出我的 OpenClaw 可以开口说话|NoizAI 技能安装使用教程后,有朋友问:Noiz 有本地吗? 我说:NoizAI是个在线的。本地转语音需要安装文本转语音的模型。想看的话,我可以找找。...
法国 AI 公司 Mistral 于 2026 年 3 月 26 日发布了一款全新的开源文本转语音(TTS)模型——Voxtral TTS。这款模型专为企业级语音助手和客户服务场景设计,...
先说结论 — DeepSeek 挑了 OpenAI 发 GPT-5.5 的同一天发 V4 预览版。1.6T Pro + 284B Flash,都给 1M 上下文,权重直接 Apache 2.0 开源,API 当天上线。V4-Pro 输出单价 $3.48,只有 GPT-5....
Step-by-step guide to run DeepSeek V4 on your own hardware. Covers vLLM and SGLang setup, quantization, V4-Flash on 1-2 GPUs, V4-Pro on a cluster,...
深度求索(DeepSeek)正式开源并上线 V4 预览版!此次发布包含 1.6T 参数的 V4-Pro 与高性能的 V4-Flash。全新的混合注意力架构与 mHC 超连接技术,让国产 AI 在 100 万 Token 上下文场景下实现了质的飞跃。AGI 的天平正在倾斜。...