入门指南

欢迎使用 Tiny-DL-Inference！本指南将帮助你开始使用这款高性能 WebGPU 深度学习推理引擎。

什么是 Tiny-DL-Inference？

Tiny-DL-Inference 是一个生产就绪、零依赖的深度学习推理引擎，基于 WebGPU 构建。它通过从零开始实现神经网络算子，展示了对 AI 加速和异构计算的深入理解。

快速导航

🚀 第一步

刚接触 Tiny-DL-Inference？从这里开始：

• 快速开始 - 5 分钟内上手
• 安装指南 - 详细安装说明
• 架构设计 - 了解系统设计

📚 核心概念

学习基础知识：

• GPU 上下文 - WebGPU 资源管理
• 张量操作 - 多维数据结构
• 算子 - 神经网络层
• 内存布局 - NCHW 与 NHWC

💡 示例

查看实际应用：

• MNIST 分类 - 手写数字识别
• 自定义模型 - 从零构建模型
• Web 集成 - 浏览器应用
• 性能调优 - 优化技巧

🔧 高级主题

深入优化：

• 内核融合 - 自定义融合算子
• 自定义算子 - 编写 WGSL 算子
• 基准测试 - 性能测量
• 优化指南 - 最佳实践

安装

npm

npm install tiny-dl-inference

pnpm

pnpm add tiny-dl-inference

yarn

yarn add tiny-dl-inference

首次推理

以下是一个最小示例：

import { GPUContext, Tensor, ReLUOperator } from 'tiny-dl-inference';

// 初始化 GPU 上下文
const context = new GPUContext();
await context.init();

// 创建输入张量
const input = Tensor.fromArray(context, 
  new Float32Array([1.0, -2.0, 3.0, -4.0]),
  [1, 4, 1, 1]
);

// 运行 ReLU 激活
const relu = new ReLUOperator(context);
const output = await relu.forward([input]);

// 获取结果
const result = await output.download();
console.log(result); // Float32Array([1, 0, 3, 0])

// 清理资源
input.destroy();
output.destroy();
context.destroy();

下一步

1. 阅读 快速开始指南 获取完整教程
2. 查看 API 参考 获取详细文档
3. 尝试 MNIST 示例 了解实际用例

浏览器支持

Tiny-DL-Inference 需要 WebGPU 支持。详情请参见 浏览器兼容性。

获取帮助

• 📖 完整文档
• 💻 GitHub 仓库
• 🐛 问题追踪