Reddit AI 一手情报日报 · 11月5日

适合想省 API 钱、捡免费 AI 工具、避本地部署坑的读者：5 条 Reddit 一手实测，全部带数字。

采集窗口：2026 年 11 月 4 日 12:40 至 2026 年 11 月 5 日 12:39（北京时间）。以下数字均来自原帖原句，未经验证的部分已标注「待核验」。

56% 的 AI 钱都花在重复读上下文上，怎么省？

结论：先把重复上下文本地压缩，而不是直接换更贵的模型。作者实测发现，“56% of my AI usage costs came from rereading context”。

工具是 optimAIzr：免费、开源、本地运行的 VS Code 扩展，v0.13.0，已有 200+ stars，作者称“no API costs, everything runs locally, works completely offline”。做法是把重复代码和对话历史先压缩，再交给模型。局限：帖子没有给出压缩后实际省了百分之多少，节省幅度「待核验」；且它面向自建 Ollama、Codex、Claude 服务器的用户，不是开箱即用的云端省钱方案。

来源：r/OpenAI，作者 u/stichstichstich，发帖时间：2026 年 11 月 5 日 06:45:02（GMT+8）。原帖：https://www.reddit.com/r/OpenAI/comments/1xo2cjx/spending_fewer_tokens_on_the_same_work/

8 张旧 RTX 3060 能跑出多少 token/秒？

结论：8 张 12GB 的 RTX 3060 组两台老 X79 机器，能把 GLM 5.3 flash 跑到 38-42 token/秒，单轮 agent 约 6-7 秒，够日常 coding 用。

作者原句：“38-42 tok/s decode, ~1100 tok/s prompt processing at 30K context, 6-7s per agent turn”。模型在内部 coding 基准上“48/48 coding bench”，提示处理在 30K 上下文下约 1100 token/秒。瓶颈不在显卡算力，而在内存带宽：“RAM bandwidth is the real bottleneck at ~30 tok/s per channel”。硬件是 2 台 X79 主板、8 张 RTX 3060 12GB、1GbE 组网，每卡功耗限制 130W，无 NVLink。局限：这是二手旧卡集群的折腾方案，电费、噪音和维护成本帖子未量化，「待核验」。

来源：r/LocalLLaMA，作者 u/alexlucaci，发帖时间：2026 年 11 月 5 日 02:00:23（GMT+8）。原帖：https://www.reddit.com/r/LocalLLaMA/comments/1xnv3s3/glm_53_flashmayas24_42_toks_on_8x_rtx_3060/

100M 参数的免费图像模型，真的能用吗？

结论：能跑、能免费用，但别指望它替代大模型出图。AuroraIMG2-100M 只有 100M 参数，作者称其 GenEval 达到 SDXL 级别，且采用 Apache 2.0 开源协议。

原句：“100M parameter model at SDXL-level GenEval”。它主打小体积、可本地部署，适合对成本敏感、只想快速验证想法的场景。局限：帖子评论区对比表标注其固定分辨率为 256×256，细节和放大能力有限；“SDXL 级别”只是作者给出的基准口径，独立复测结果「待核验」。

来源：r/LocalLLaMA，作者 u/Tall_Abrocoma_3533，发帖时间：2026 年 11 月 5 日 05:07:51（GMT+8）。原帖：https://www.reddit.com/r/LocalLLaMA/comments/1xnzynf/auroraimg2100m_releases/

20GB 内存的老笔记本能跑 27B 模型吗？

结论：能跑，但慢到只能当“没有 API 时的备用方案”。作者在 20GB 内存、4GB 显存的老笔记本上跑 Qwen3.8 27B Q4，速度只有 0.67-0.77 token/秒。

原句：“Running at 0.67-0.77 tok/s with 3k context, has processed over 100k tokens in two days”。作者称它已成为自己的主力 coding 模型，原因是“not having access to any APIs”。局限非常明显：0.7 token/秒意味着长输出要等很久，3K 上下文也偏小；这条的价值是“零 API 成本能跑起来”，不是“跑得快”。

来源：r/LocalLLaMA，作者 u/Adventurous_Boat_637，发帖时间：2026 年 11 月 5 日 05:13:02（GMT+8）。原帖：https://www.reddit.com/r/LocalLLaMA/comments/1xnzo38/qwen38_27b_q4_on_my_lowend_laptop_and_it_became/

网站改版单月从 2 万美元做到 7.4 万美元，靠什么？

结论：不是多接单，而是涨价加改销售打法。作者称平时月份约 2 万美元，10 月只做网站改版就做到 7.4 万美元。

原句：“our usual months were around $20K”；“We ended up doing $74K in October, just from website redesign projects”。打法是：高频冷邮件找已有网站的企业，售前用 AI 先做一份改版草稿，电话里直接展示；同时作者称全年一直在练销售技巧。提醒：评论区有人质疑这篇是推广其 outreach 平台，收入数字本身「待核验」，不要直接照抄定价。

来源：r/artificial，作者 u/Murky_Explanation_73，发帖时间：2026 年 11 月 5 日 02:36:54（北京时间，原帖标注 2026 年 11 月 4 日 UTC 18:36:54）。原帖：https://www.reddit.com/r/artificial/comments/1xnw2gv/we_made_74k_redesigning_websites_in_october/