本仓库为天数智芯Iluvatar Corex IxRT高性能推理引擎的开源代码部分,提供IxRT相关插件、部署工具和演示IxRT平台用法和能力的应用示例。
最近更新: 3天前DeepSparkInference推理模型示例库甄选了216个推理大小模型示例,小模型涵盖计算机视觉,自然语言处理,语音识别等领域;大模型涉及vLLM,TGI等多种框架,并将持续扩展更多、更新的模型示例。
最近更新: 13天前DeepSpark开源社区致力于打造和推广国内领先的AI和通用计算应用开发及评测平台-百大应用开放平台,甄选上百个与行业应用深度耦合的开源算法和模型,支持主流生态应用框架,并针对行业需求构建多维度评测体系,广泛支持各类落地场景。
最近更新: 13天前Iluvatar Corex Volcano Plugin是基于 Volcano 调度器开发的调度扩展,专为天数 GPU 集群设计,可在多节点环境下为多 GPU 任务实现最优的拓扑调度策略。
最近更新: 1个月前IX device plugin是针对天数智芯GPGPU开发的Kubernetes集群设备扩展插件,通过DaemonSet的方式部署到集群,使能Kubernetes集群调度天数智芯GPGPU资源。
最近更新: 2个月前IX Exporter是针对天数智芯GPGPU开发的Kubernetes集群资源监控插件。IX Exporter是一个HTTP后台应用程序,使得集群用户可以远程实时获取天数智芯GPGPU指标统计。
最近更新: 2个月前ixGDB是在CUDA-GDB的基础上开发的针对天数智芯通用GPU加速卡的开源调试工具,是GNU项目调试器GDB的扩展。目前的ixGDB是基于CUDA-GDB 10.2开发。
最近更新: 4个月前