Reddit AI 一手情报日报 · 10月17日
想省 AI 成本、找免费工具、看真实搞钱案例的人,3 分钟读完 Reddit 过去 24 小时 6 条一手情报。
本地跑 Qwen3.8 要什么配置?实测 40-50 tok/s 怎么做到的?
u/bodhi371 在 12GB 显存 + 32GB 内存 + NVMe 的机器上,用 Qwen3.8-Flash-Next-GSQ-RCO(IQ3_S 量化)实测 decode 40-50 tok/s、prefill 1300-1500 tok/s(131k 上下文)。用的是去审查(abliterated)版 GSQ-RCO 量化,作者称保留约 99% BF16 性能,配合自研的 llama.cpp 分叉 Strata。
局限:IQ3_S 是激进低精度量化,质量有损;fork 非常实验性;有评论者按配方复现效果差很多。
原帖:r/LocalLLaMA · Qwen3.8-Flash-Next-GSQ-RCO (IQ3_S)
怎么用 $1.68 做完 107 个目录提交?
u/GapNew4766 用“双模型”架构:本地 Qwen3.8-27B 做编排(写任务指令,零成本)+ Claude Opus 5 云端 API 做执行(8 个隔离 worker,各跑各的 headless Chrome),1 小时 52 分钟完成 107 个 AI 工具目录提交,总 API 成本约 $1.68。
结果:91 个提交成功、7 个解掉验证码后提交、8 个待邮件验证;失败 11 个(4 个 ReCAPTCHA v2 解不开、3 个站点失效、4 个重复被拒)。局限:约 15% 的提交没成功,且目录提交的 SEO 价值因站而异。
原帖:r/AI_Agents · Uncensored Qwen3.8-27b did my directory submissions in under 2 hours
扩散模型真能跑到 2788 tok/s?ORL 开源了什么?
研究团队开源 ORL(On-Policy Residual Learning)与自研推理引擎 dlmrt:LLaDA-2.1-mini + ORL(NVFP4)在单张消费级 RTX 5090 上达到 2788 tokens/s,8×B200 上 7708 tokens/s。模型、训练代码、评估管线、推理引擎全部开源,论文见 arXiv:2610.20687。
局限:数字是 batch size 1 的单请求解码峰值;对比口径是 NVFP4 对 BF16;评论区多位用户指出扩散模型在质量和生态上仍明显落后自回归模型,生产环境先观望。
原帖:r/LocalLLaMA · [Research] 2,788 tokens/s on a single RTX 5090 with a diffusion LLM — Introducing ORL
Photoshop 的 Relight 要花 AI 点数?有免费本地替代吗?
有。开发者把 Adobe Photoshop 新出的 Relight(重打光)功能 vibe-coded 进了自己的免费修图工具 Photon,完全本地运行、不消耗 AI 点数。作者的理由很直接:自己有 GPU,为本地就能跑的功能付点数不合理。
局限:与 Photoshop 原生 Relight 的效果对标程度未经第三方验证;Photon 是个人独立项目。
原帖:r/vibecoding · Photoshop charges AI credits for Relight feature, I vibe-coded it and made it free
AI 语音客服用了 3 个月,转化率真的降了吗?
降了约 8%。一位小企业主用 AI 语音客服接了 3 个月电话后,转化率下降约 8%——但他原话是“不能确定是 AI 造成的”,今年整体生意也有变化。省人力是实打实的:不用再被来电打断工作;短信补发邮箱链接的完成率约 60%;邮编靠知识库纠错解决。
局限:n=1 个案,因果未证实;早期延迟和背景噪音是主要坑,已通过优化缓解。
原帖:r/AI_Agents · What I’ve learnt from using an AI voice agent in our business for the last 3 months
一个人用 Claude 5 个月能做 15 万用户的产品吗?
能。开发者 Joey 几乎全用 Claude Code 写代码,花 5 个月做出 Mini Skyline(3D 打印任意地点的微缩景观网站),已积累 15 万用户,托管在 Cloudflare 静态页面上,每月费用不到 $50。产品已迭代 78 版、内置 3500+ 地标模型,商用授权随包附带。
局限:作者自述每天下班后投入近 60 小时/周;冷启动靠 Reddit 发帖加同类老站关停的运气;移动端体验一般。
原帖:r/vibecoding · Mini Skyline – 150k Users – 3D Print Any Place! Made With Claude Over 5 Months
FAQ
本地跑大模型最低要什么配置?
参考本期实测:12GB 显存 + 32GB 内存 + NVMe 就能跑 Qwen3.8-Flash-Next 的 IQ3_S 量化(40-50 tok/s)。量化越激进速度越快、质量越差,IQ3_S 属于激进档,建议先从小量化档试起。
AI 目录提交对 SEO 有用吗?
本期案例用 107 个提交换来了外链增长,但约 15% 失败(验证码、失效表单、重复被拒)。目录提交只是外链手段之一,效果看目录质量;批量操作注意控制频率,避免被判作弊。
小企业适合上 AI 语音客服吗?
能省人力,但本期实测转化率掉了约 8%(因果未证实)。建议先并行试运行、盯紧转化数据再决定;邮编、邮箱这类信息要做专门纠错,纯语音识别容易错。
vibe coding 做产品最大的坑是什么?
本期 Mini Skyline 作者的经验:测试、支付、数据备份这些“脏活”最花时间。AI 写代码快,但工程化细节省不了——他每周投入近 60 小时、5 个月才打磨到 15 万用户。
扩散语言模型(dLLM)值得现在入场吗?
速度数字亮眼(ORL 在 5090 上 2788 tok/s),但质量和生态仍落后自回归模型,且多为单请求峰值数据。尝鲜可以,生产环境先观望。
以上内容转述自 Reddit 公开帖子,仅供信息参考。