IT 之家 8 月 6 日讯息，摩尔线程 MUSA 架构是 MT GPU 辅助的通用贪图架构，摩尔线程刚刚证明 llama.cpp 照旧适配了这种贪图架构，"纵贯大家 AI 生态圈"。

IT 之家注：llama.cpp 是一个纯 C / C++ 罢了的口头，旨在简化妄言语模子 ( LLM ) 的推理经由，并在多种硬件环境下提供来源进的性能辅助，不管是土产货部署如故云表开动。其主要计算所以最小的诞生和依赖，让用户在正常的硬件平台上松懈进行 LLaMA 等大模子的推理。

妄言语模子因其出色的当然话语融会和生成才气而飞速被正常使用，llama.cpp 大幅裁汰了进行妄言语模子推理的门槛，或者充分诈欺硬件的性能来助力用户的妄言语模子应用。

llama.cpp 辅助多种话语模子，包括 LLaMA、Mistral、Falcon、Gemma、Qwen、Baichuan、Aquila 等主流模子，以及多样多模态模子如 LLaVA 和 MobileVLM，诡秘正常的推理需求。

摩尔线程 MUSA 架构是 MT GPU 辅助的通用贪图架构，llama.cpp 适配了这种贪图架构。在 MTT S80 / S3000 / S4000 GPU 上，用户不错通过 llama.cpp 官方提供的一系列容器镜像来使用。

本年 4 月现金九游体育app平台，MUSA SDK 升级到了 4.0.1 版块，辅助 Intel 束缚器＋Ubuntu 操作系统、海光束缚器＋Kylin 麒麟操作系统构成的平台。