高通 AI 中心模型项目教程

项目目录结构及介绍

高通 AI 中心模型项目（Qualcomm® AI Hub Models）是一个集合了多种优化过的机器学习模型的开源项目，旨在提供高性能的模型部署解决方案。项目的目录结构如下：

ai-hub-models/
├── models/
│   ├── baichuan_7b_quantized/
│   ├── llama_v2_7b_chat_quantized/
│   ├── llama_v3_8b_chat_quantized/
│   ├── huggingface_wavlm_base_plus/
│   ├── whisper_base_en/
│   ├── whisper_small_en/
│   ├── whisper_tiny_en/
│   ├── trocr/
│   ├── openai_clip/
│   ├── controlnet_quantized/
│   ├── riffusion_quantized/
│   ├── stable_diffusion_v1_5_quantized/
│   ├── stable_diffusion_v2_1_quantized/
│   ├── convnext_tiny/
│   ├── convnext_tiny_w8a16_quantized/
│   ├── convnext_tiny_w8a8_quantized/
│   ├── densenet121/
│   ├── efficientnet_b0/
│   ├── googlenet/
│   ├── googlenet_quantized/
│   ├── inception_v3/
│   ├── inception_v3_quantized/
│   ├── mnasnet05/
├── README.md
├── LICENSE

目录结构说明

• models/：包含所有优化过的机器学习模型。
  • baichuan_7b_quantized/：Baichuan-7B 量化模型。
  • llama_v2_7b_chat_quantized/：Llama-v2-7B-Chat 量化模型。
  • llama_v3_8b_chat_quantized/：Llama-v3-8B-Chat 量化模型。
  • huggingface_wavlm_base_plus/：Hugging Face WavLM Base Plus 模型。
  • whisper_base_en/：Whisper Base En 模型。
  • whisper_small_en/：Whisper Small En 模型。
  • whisper_tiny_en/：Whisper Tiny En 模型。
  • trocr/：TrOCR 模型。
  • openai_clip/：OpenAI Clip 模型。
  • controlnet_quantized/：ControlNet 量化模型。
  • riffusion_quantized/：Riffusion 量化模型。
  • stable_diffusion_v1_5_quantized/：Stable Diffusion v1.5 量化模型。
  • stable_diffusion_v2_1_quantized/：Stable Diffusion v2.1 量化模型。
  • convnext_tiny/：ConvNext Tiny 模型。
  • convnext_tiny_w8a16_quantized/：ConvNext Tiny w8a16 量化模型。
  • convnext_tiny_w8a8_quantized/：ConvNext Tiny w8a8 量化模型。
  • densenet121/：DenseNet-121 模型。
  • efficientnet_b0/：EfficientNet-B0 模型。
  • googlenet/：GoogLeNet 模型。
  • googlenet_quantized/：GoogLeNet 量化模型。
  • inception_v3/：Inception-v3 模型。
  • inception_v3_quantized/：Inception-v3 量化模型。
  • mnasnet05/：MNASNet0.5 模型。
• README.md：项目说明文档。
• LICENSE：项目许可证文件。

项目启动文件介绍

项目的启动文件通常位于每个模型的目录中，例如 models/baichuan_7b_quantized/ 目录下可能包含启动该模型的脚本文件。具体启动文件的名称和内容会根据不同模型有所不同，但通常会包含以下内容：

• 模型加载代码
• 输入