【亲测免费】 ONNX.js使用教程

2026-01-23 06:45:22作者：胡唯隽

ONNX.js: run ONNX models using JavaScript

项目地址：https://gitcode.com/gh_mirrors/on/onnxjs

项目介绍

ONNX.js是一个由微软开发的JavaScript库，它使开发者能够在浏览器端和Node.js环境中运行ONNX模型。ONNX（Open Neural Network Exchange）作为一个开放标准，用于表示机器学习模型，促进不同AI框架之间的互操作性。ONNX.js通过采用WebAssembly和WebGL技术，提供了针对CPU和GPU优化的ONNX模型推理运行环境，旨在减少服务器到客户端的通信需求，保护用户隐私，并实现无需安装的跨平台浏览器内机器学习体验。

项目快速启动

在HTML中直接使用

要快速开始在网页上使用ONNX.js，您可以通过以下简单的步骤来实现：

<!DOCTYPE html>
<html>
<head>
    <!-- 加载ONNX.js -->
    <script src="https://cdn.jsdelivr.net/npm/onnxjs/dist/onnx.min.js"></script>
</head>
<body>
    <script>
        async function runInference() {
            const session = new onnx.InferenceSession();
            await session.loadModel('/path/to/your-model.onnx');
            
            let inferenceInputs = {}; // 根据您的模型准备输入数据
            const output = await session.run(inferenceInputs);
            console.log('模型输出:', output.values().next().value);
        }
        runInference();
    </script>
</body>
</html>

使用npm和现代构建工具

如果您正在构建基于React、Angular或Vue.js等现代前端框架的应用，可以通过npm安装ONNX.js并将其集成到您的TypeScript或JavaScript项目中：

import { Tensor, InferenceSession } from "onnxjs";

async function start() {
    const session = new InferenceSession();
    await session.loadModel('./models/model.onnx');

    const inputs = [new Tensor(new Float32Array(/* 模型所需输入数据 */), 'float32', [/* 输入形状 */])];
    const outputMap = await session.run(inputs);
    const outputTensor = outputMap.values().next().value;
    console.log('模型输出:', outputTensor.data);
}
start();

应用案例和最佳实践

ONNX.js适用于多种场景，比如实时图像识别、自然语言处理任务的前端实现。最佳实践中，应确保对模型进行适当的优化以适应Web环境，例如，减小模型大小、预处理数据以匹配模型输入要求，并利用Web Worker进行多线程处理，以提升性能。

典型生态项目

ONNX不仅仅是ONNX.js本身，其生态系统还包括ONNX Runtime，一个高性能的模型执行引擎，支持包括Web环境在内的多种平台。对于更复杂的需求，可以考虑将ONNX模型部署在后端服务中，使用ONNX Runtime提供服务，而前端仅负责发送请求和接收响应，以此来扩展应用的可能性。

在实际应用中，结合Azure Machine Learning、Custom Vision Service等云服务生成或训练ONNX模型，再通过ONNX.js在前端实现交互式预测，是常见的实践路径。

本教程旨在提供ONNX.js的基本使用指南，更多高级特性和详细操作，请参考官方文档和GitHub仓库的最新更新。

ONNX.js: run ONNX models using JavaScript

项目地址：https://gitcode.com/gh_mirrors/on/onnxjs

登录后查看全文

热门内容推荐

1 【亲测免费】开源项目 `build-your-own-x` 使用指南 2 【亲测免费】探索科技之旅：《Build Your Own X》项目详解

项目优选

收起

deepin linux kernel

OpenHarmony documentation | OpenHarmony开发者文档

本项目是CANN提供的数学类基础计算算子库，实现网络在NPU上加速计算。

Ascend Extension for PyTorch

flutter_flutter

ohos_react_native

React Native鸿蒙化仓库

openEuler内核是openEuler操作系统的核心，既是系统性能与稳定性的基石，也是连接处理器、设备与服务的桥梁。

🎉 (RuoYi)官方仓库基于SpringBoot，Spring Security，JWT，Vue3 & Vite、Element Plus 的前后端分离权限管理系统

Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台，包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分，采用java语言实现，可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用

华为昇腾面向大规模分布式训练的多模态大模型套件，支撑多模态生成、多模态理解。