M1 Max 跑 Qwen3.8 Flash-Next:从 15 到 31 token/s,再试到 128K

M1 Max 跑 Qwen3.8 Flash-Next:从 15 到 31 token/s,再试到 128K

这轮最让我意外的结果,是我的 M1 Max 64GB、24 核 GPU,最后把 Qwen3.8 Flash-Next 跑到了每秒约 31 token。模型加载后,短问题通常半秒左右开始出字,接近 128K 的长输入也完整跑通了,后续追问还能复用缓存。

这是 2021 年那一代芯片。我原本也没指望它到现在还能运行这么大的模型,64GB 统一内存倒是又派上了用场。

我想要的本地模型,主要是拿来随意聊聊、写点东西、试一些表达更自由的内容。认真写代码和跑复杂 Agent,我已经有 Codex、Claude 等工具,不需要本地模型把它们全替掉。只要响应足够快、中文正常、偶尔能看图,就已经值得玩。

最后留下来用过的组合是 SC117 的 GSQ-RCO Abliterated Q2_0,加上针对 M1 优化的 DS4 Metal 引擎。从第一套方案到这个结果,中间换了引擎、量化和输入分块,也纠正了我对内存和上下文的几个判断。

阅读更多
Qwen Image 2.1 版本探索与 MOSS Image 实测:我的 M1 Max 最后留下了谁

Qwen Image 2.1 版本探索与 MOSS Image 实测:我的 M1 Max 最后留下了谁

先说最后的选择:暂时保留 Qwen Image 2.1 在本机。对我这台 M1 Max 64GB、24 核 GPU 的 Mac,以及这轮用到的生图和角色参考流程来说,它功能最全,性能也比较平衡。MOSS Image 等社区进一步挖掘。

留下的具体版本是 Qwen Image 2.1 Turbo Heretic MLX BF16,八步、原生计算、完整 VAE 解码。它不是这轮所有图里最好看的,也不是每个任务都最快,但两分钟左右就能出一张复杂方图,又能接参考图,比较适合继续留着玩。

MOSS 的动漫效果其实不错。八步版已经有可玩性,原版 50 步也能画出漂亮的脸和衣饰,只是竖图要等二十多分钟。至于复杂服装设计,把两者和之前的 GPT Image 放到一起,我还是更喜欢 GPT Image 的审美和工艺细节。

阅读更多
Seedance 2.5 视频延长怎么计费:从黑屏省钱到同价上下文

Seedance 2.5 视频延长怎么计费:从黑屏省钱到同价上下文

先说结果:在我这次 Seedance 2.5 的测试条件下,固定输出 30 秒,输入 1~20 秒参考视频,接口返回的 token 数完全一样;官方计算器里,这一段区间的价格也都一样,记录下来是约 45 元,和不输入视频、直接生成 30 秒相当。把输入加到 30 秒,再生成 30 秒,价格约 54 元。

所以,“塞一秒黑屏就能便宜一大截”的想法不成立。但对连续视频制作来说,这仍然是个好消息:既然短参考和较长参考处在同一计费档,就可以在不增加这部分费用的情况下,多给模型一些有用的前情。

我的关注点也跟着变了。最初想弄清楚视频续写究竟贵不贵,后来差点以为找到了省钱办法,最后发现真正值得利用的是这段同价的视频上下文。

阅读更多
M1 Max 本地跑 MiniMax H3 和 Music 3:从观望到删掉 51GB 权重

M1 Max 本地跑 MiniMax H3 和 Music 3:从观望到删掉 51GB 权重

最近一段时间,我在 M1 Max 上连续试了两个刚开放权重的 MiniMax 模型:负责视频与音频联合生成的 H3,以及负责音乐生成的 Music 3。

这台机器是 64GB 统一内存、24 核 GPU。参数看起来不差,但面对几十 GB 的模型,“能不能跑”仍然不是看一眼内存容量就能回答的问题。权重能不能装下、运行时有没有 Apple Silicon 路径、真正生成一次要等多久、最后的东西值不值得留下,都是不同的问题。

我也不想为了抢一个“首跑”去下载几十 GB,再花半天证明某个尚未成熟的转换根本不能用。所以这次的过程有不少等待:先看上游实现,找社区量化,等别人给出 Mac 实测,确认有退路以后才动手。两个模型最后都跑通了。然后,我把 51GB 左右的权重删了。

阅读更多
开发圈的流行词:Vibe Coding

开发圈的流行词:Vibe Coding

前阵子,开发圈突然多了一个很顺口的词:Vibe Coding。

它来自 Andrej Karpathy 在 2025 年 2 月发的一条推文。大意是:别太纠结代码本身,告诉 AI 你想要什么,看到效果不对就继续说,遇到报错就把报错丢回去。一路说、一路跑,居然也能把东西做出来。

我看到这个说法时觉得很形象。过去用 AI 写代码,多少还像高级一点的自动补全:它写几行,我逐行检查,再决定要不要收下。现在这个关系开始倒过来了。人负责描述意图、判断结果,模型负责在代码里钻来钻去。有时改动已经铺开好几个文件,我先看到的是“它跑起来了”,而不是每一行究竟怎么写。

这感觉确实很好,尤其面对一个迟迟不想动手的小工具。原本要先搭环境、翻文档、想目录,兴致往往在第一步就耗完了;现在可以从一句很含糊的“我想要……”开始,先让东西出现,再慢慢修。Vibe Coding 最吸引我的地方,不是让谁突然变成了程序员,而是它把“开始做”这件事变轻了。

但它也很容易让人上头。页面能打开、按钮能点,并不等于代码真的可靠。只要项目需要长期维护,或者碰到账号、付款、隐私这些问题,我还是得知道数据去了哪里、错误怎么处理,以及哪一段出了问题该由谁接手。AI 可以帮我跑得很快,但不能替我判断方向,更不能替我承担结果。

所以我暂时把它理解成一种很适合探索的工作方式:做原型、写一次性脚本、验证一个念头时,尽管跟着感觉走;真要留下来长期使用,就得在某个时刻停下来,把代码重新读懂,把测试、边界和退路补上。

也许以后我们不会再特意叫它 Vibe Coding。就像现在很少有人强调自己在用代码补全一样,它可能只是慢慢混进日常开发里。不过在 2025 年春天,这个有点玩笑意味的名字,确实说中了我刚刚感受到的变化:写代码第一次不再总是从代码开始。

补记于 2026 年

一年多后再看,这篇小记有点青涩,但我不想把它改写成一篇事后诸葛亮式的趋势总结。

这段时间,AI 已经不只是在编辑器里补几行代码。它会读整个项目、查日志、修改文件、运行测试,再根据结果继续修。最近为了在 Mac 上折腾 CrossOver 游戏,我就是这样和它一起排查问题:很多时候我说的是现象,它去找真正的故障点;我否掉一个方向,它再换一条路验证。这个过程比我当时理解的 Vibe Coding 更认真,也更接近协作。

不过当年的提醒仍然有效:探索时可以跟着感觉跑,留下来的东西还是要讲证据、能复现、可回退。下一篇,就从这次折腾说起。