0.3.14 版本更新说明:
解决了在系统内存较小的情况下使用 AMD GPU 时发生的崩溃问题。
解决了在 macOS 11 Big Sur 上运行时出现的错误。
解决了从 bf16 文件类型创建模型时的问题。
优化了在 CPU 上运行时的默认线程数逻辑,以提高性能。
由 @gabe-l-hart 贡献,增加了对 IBM granite 和 granitemoe 架构的支持。
0.3.14 版本更新说明:
解决了在系统内存较小的情况下使用 AMD GPU 时发生的崩溃问题。
解决了在 macOS 11 Big Sur 上运行时出现的错误。
解决了从 bf16 文件类型创建模型时的问题。
优化了在 CPU 上运行时的默认线程数逻辑,以提高性能。
由 @gabe-l-hart 贡献,增加了对 IBM granite 和 granitemoe 架构的支持。