Files
ascend-tools/msame
liuchengju 71a48df4ae clean code
2020-09-01 12:24:26 +08:00
..
2020-09-01 12:24:26 +08:00
2020-08-23 22:57:46 -07:00
2020-09-01 11:51:28 +08:00
2020-08-23 22:57:46 -07:00
2020-08-24 14:00:58 +08:00

msame工具为模型推理工具

功能

输入.om模型和模型所需要的输入bin文件,输出模型的输出数据文件,支持多次推理(指对同一输入数据进行推理)。

模型必须是通过c7x版本的atc工具转换的om模型,输入bin文件需要符合模型的输入要求(支持模型多输入)。

使用环境

按照《驱动和开发环境安装指南》装好C7x环境。

获取

  1. 下载压缩包方式获取。

    https://gitee.com/ascend/tools 仓中的脚本下载至服务器的任意目录。

    例如存放路径为:$HOME/AscendProjects/tools。

  2. 命令行使用git命令方式获取。

    在命令行中:$HOME/AscendProjects目录下执行以下命令下载代码。

    git clone https://gitee.com/ascend/tools.git

使用方法

a. 使用已编译好的工具直接运行。

环境要求:架构为arm、已安装c7x的运行环境。如环境不符,请使用方法b,进行源码编译。

进入msame目录

cd $HOME/AscendProjects/tools/msame/

进入out目录

cd out

工具就在out目录下

工具为命令行的运行方式,例如

./msame --model /home/HwHiAiUser/ljj/colorization.om --input /home/HwHiAiUser/ljj/colorization_input.bin --output /home/HwHiAiUser/ljj/AMEXEC/out/output1 --outfmt TXT --loop 2

如果有多个输入,需要用英文逗号隔开,注意逗号两边不能有空格。
其他参数详情可使用--help查询。

b. 源码编译运行。

环境要求:已安装c7x的开发运行环境,分设合设都可以。
工具也支持源码编译,或者使用者需要添加或者修改代码,使用者重新编译 进入msame目录

cd $HOME/AscendProjects/tools/msame/

运行编译脚本

./build.sh g++ $HOME/AscendProjects/tools/msame/out

第一个参数指定编译器,由运行环境决定。
第二个参数指定工具生成的目录,填相对路径的话,是相对out目录。

注意事项

运行工具的用户在当前目录需要有创建目录以及执行工具的权限,使用前请自行检查。
dump、动态多batch功能暂不支持。

参数说明

参数名 说明
--model 需要进行推理的om模型
--input 模型需要的输入,若不填,会自动生成都为0的数据
--output 推理数据输出路径
--outfmt 输出数据的格式,TXT或者BIN
--loop 推理次数 [1,100],可选参数,默认1profiler为true时,推荐为1
--debug 调试开关,可打印model的desc信息,true或者false,可选参数,默认fasle
--profiler profiler开关,可选参数,默认false
--device 指定运行设备 [0,255],可选参数,默认0
--help 工具使用帮助信息