Open Source deep learning training/inference framework that could be used for mobile, edge and cloud scenarios.
MindSpore is a new open source deep learning training/inference framework that could be used for mobile, edge and cloud scenarios.
MindSpore Transformers套件的目标是构建一个大模型预训练、微调、推理、部署的全流程开发套件,提供业内主流的Transformer类大语言模型(Large Language Models, LLMs)和多模态理解模型(Multimodal Models, MMs)。期望帮助用户轻松地实现大模型全流程开发。
MindSpore的vLLM插件,支持基于vLLM框架部署MindSpore模型的推理服务。
MindSpore Lite
MindSpore愿景:通过社区合作,面向全场景构建最佳昇腾匹配、支持多处理器架构的开放AI框架,为算法工程师和数据科学家提供开发友好、运行高效、部署灵活的体验,帮助人工智能软硬件应用生态繁荣发展。
加入方式参见:https://www.mindspore.cn/community