moon-ort

    Native MoonBit CPU inference SDK for ONNX Runtime

    onnx
    onnxruntime
    inference
    native
    ffi
    Download zip
    Version
    0.1.0
    License
    MIT
    Last updated
    4 hours ago
    Downloads
    2

    #moon-ort

    moon-ort 是 MoonBit 的 ONNX Runtime CPU 推理绑定。它通过官方 C API 在运行时加载 ONNX Runtime 1.30.0;包本身不携带、下载或链接 ONNX Runtime 二进制。

    #快速开始

    准备官方 ONNX Runtime 1.30.0 的共享库后,设置其路径:

    export MOON_ORT_LIBRARY=/path/to/libonnxruntime.1.30.0.dylib

    在源码仓库中先确认运行时可被加载:

    moon run src/raw/cmd

    再用仓库自带的微型模型查看输入输出契约:

    moon run src/session/cmd -- testdata/add_f32.onnx

    完整的推理示例位于 examples/add_f32,运行方式为:

    moon run examples/add_f32 -- "$MOON_ORT_LIBRARY" testdata/add_f32.onnx

    #文档

    #当前限制

    首个版本不支持 Windows、GPU 执行提供程序、训练、I/O Binding、字符串张量或 ONNX Runtime 二进制分发。详见 支持说明

    #许可证

    本项目采用 MIT 许可证。ONNX Runtime C API 头文件的来源与许可证见 THIRD_PARTY_NOTICES.md