# Self-hosted LLM

2 篇文章

AI Tools

自托管 Qwen 2.5 14B 做 SEO 改写:每月 $0 替代 Claude Sonnet

30 天盲测:800 条 Meta Title + 800 条产品描述,同时用自托管的 Qwen 2.5 14B 和 Claude Sonnet 4 改写,3 位 SEO 承包商独立打分。结论不是开源模型一面倒——是五五开。Qwen 在哪里打平、在哪里崩盘,以及自托管做重复模式 SEO 任务的真实成本账。

自建 Llama 3.3 70B 做营销:Docker + Ollama + 4 个真正值回票房的 Prompt
AI Tools

自建 Llama 3.3 70B 做营销:Docker + Ollama + 4 个真正值回票房的 Prompt

对营销团队来说,自建 70B 模型听起来很激进。90% 的团队确实不该碰。但有 4 类工作——批量工单归类、私密竞品情报、凌晨批量生成 SEO meta、PII 脱敏的邮件列表清洗——成本账会反转:一张 A100 + Ollama 4-7 个月回本。硬件现实、Docker compose、真实吞吐、还有那 4 个 prompt。