开源工具·Hacker News

h3.c 在 Apple Silicon 上实现 Native MiniMax-H3 推理

antirez 发布了 h3.c,提供在 Apple Silicon 上原生运行 MiniMax-H3 的推理工具。项目按功能切片逐步实现,目前已完成提示到视频/音频、首尾帧条件化与有序 Ref2VA 图像/视频/音频引用等端到端功能,并在 M3 Max 与 M5 Max 上做了 Metal 性能和内存优化。对开发者和使用者而言,这意味着可在 macOS 机器上用命令行生成有条件的视频,支持会话内持久首/尾帧、顺序参考图像和 SSD 流式以降低显存占用。

antirez 在其仓库中发布了 h3.c,用于在 Apple Silicon 上进行 Native MiniMax-H3 推理。项目以垂直切片方式迭代开发,先实现确定性的宿主/模型元数据,再实现可移植的 Metal 区块并行、提示编码、提示到视频/音频、首/尾帧条件化,最后实现有序引用(Ref2VA)。目前提示到视频/音频、首/尾帧条件化和有序 Ref2VA 的图像/视频/音频引用已经端到端可用;当前工作集中在针对 M3 Max 和 M5 Max 的 H3 专用 Metal 性能与内存优化。文档说明如何检查模型、启动交互式会话和使用命令行生成视频。运行 ./h3 --info -d ./MiniMax-H3 可检查模型布局并打印所选 Metal 设备;不带 -p 的二进制可启动类似 Iris 的交互会话,示例命令包括设置宽高、帧数、步数等,并支持会话内命令如 !status、!seed、!seconds、!show、!save、!cache,以及对首帧/尾帧的持久化设置(!first、!last)和引用图像管理(!ref-image、!refs、!ref-remove)。 文档给出多个示例预设和运行模式:一个“balanced”预设会生成 22 帧、24 fps 的短视频并在支持的图形终端显示中间帧;可通过 --steps、--layers、--reuse 等参数调整去噪次数、运行的 Transformer 层数和重用策略以权衡质量与速度。还提供更短的迭代配置(例如 --steps 4)以及低内存运行的 --ssd-streaming 模式,后者在 M5 Max 上将被跟踪的 DiT 张量存储从约 36.5 GiB 降到约 2.0–2.1 GiB(在不同分辨率下),但会带来运行速度下降,文中给出了具体的秒级对比。文档明确指出 --ssd-streaming 是显存/速度的权衡,且不能与 --use-int8-row-fc2 组合使用。

#Apple Silicon#推理优化#开源

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。