AI.MRTP 融合永道AI视觉分析模型训练平台
1. 概述
AI.MRTP是深圳融合永道科技有限公司研发的视觉检测模型训练平台服务器一体机产品,为公司AI视觉分析服务器一体机、AI视觉分析盒子终端、AI视觉分析摄像机提供了强有力的技术支撑,该系统操作简易便捷,功能强大稳定,具有良好的可用性,对操作人员无技术门槛要求,训练生产的模型能支持全Nvidia显卡/GPU卡、Ascend 310(Atlas 全系卡)、RK 3568/3588/1109/1126等,并支持将模型转换为我司AIBOX系列产品需要的模型,大大提升了视觉分析模型生产定制效率。
本系统采用Client/Server架构,训练服务器程序部署于训练服务器运行,操作客户端和序部署在Windows客户端电脑,所有操作全部用客户端操作完成。
2. 客户端操作功能
2.1 登录
如上图客户端登录界面,在服务器地址填写上训练服务器的IP,服务器端口项填写通讯端口(默认为9501),在用户名/密码项填写登录用户名及密码(默认超级用户名密码都是admin),点击“登录”按钮,进入主界面:
2.2 模型管理
2.2.1 建立模型
在客户端主界面,点击“创建模型”工具栏按钮,弹出如下界面:
如 上图示,输入模型名称(可以用英文字母和数字,不要出现特殊字符和中文汉字),备注字段可以使用中文,模型的对象类别预置时,对象类别栏用英文字母或数字,类别名称可以汉字,不要出现特殊字符
点击“确定”按钮,保存模型信息。服务器上会自动建立一个该模型的初始信息目录。
点击“取消”按钮,放弃退出。
2.2.2 修改模型
模型信息支持修改备注信息,添加修改删除对象类别信息,模型名称一旦建立,不可修改。界面与创建模型一致。
2.1.3 删除模型
点击主界面工具栏的“删除模型”按钮,弹出提示框,点击“是” 按钮,删除模型,注意模型一旦删除不可恢复。
2.3 数据集管理
2.3.1 添加、移除数据集
点击主界面模型列表,某个模型行中的“数据集”按钮列,弹出数据集管理界面,如下图:
如上图,点击“创建数据集”按钮,弹出如下界面:
如上图,输入数据集名称,名称不要存在汉字和特殊字符,点击“确定”按钮保存,点击“取消”按钮放弃创建。
2.3.2 上传样本图片到数据集
在数据集管理界面内,先点击选中数据集列表中的项目,点击工具栏菜单内的“导入图片”按钮,弹出导入图片样本的UI界面:
如上图,点击“浏览...”按钮,选中您的图片样本目录,如果本地目录内的文件可能与服务器上的样本图片重点的话,选中重新自动命名选项,如果本地目录已经用别的工具打好的标注的样本目录,则可以选中导入Txt标注文件选项,点击“开始导入”按钮,将本地目录的样本图像集提交到服务器,导入过程中,尽量不要选择点击“停止导入”按钮中止上传,以避免造成样本图像不一致,导入开始时,关闭按钮不可用, 导入完成时,关闭按钮可用,点击“关闭”按钮关闭此界面。
2.3.3 标注
在数据集管理界面内,先点击选中数据集列表中的项目,点“标注...”按钮,弹出标注界面,如下图:
如上图,点击左边目标类别列表中的项目,则表示当前操作标注项为此类别,标注方法为用鼠点击目标的左上角再点击目标的右下角完成标注,或者点击目标的左上角后拉到右下角松开完成该目标标注,完成标注时在右边标签栏生成一项目标注数据,选中其中一项再点击“移除选中”按钮将此项标注数据移除,点击“保存”按钮,保存此图片的标注信息,点击键盘空格或键盘-->跳到下一张图片,点击键盘<--跳到上一张图片,切换图片前自动保存当前图片标注数据。
右边的功能和工具,是针对数据集的批量删除、批量修改类别号、批量导出样本、图片翻转、图片模拟生成、导出对象图片等操作。
2.3.4 建立训练文件
如果您当前阶段样本都标注完了,准备训练之前先生成训练文件,如下图:
在数据集管理界面里,点击工具栏菜单内“生成训练文件”按钮,弹出确认对话框:
点击“是”按钮,开始生成练文件,看生成提示界面,出现
提示界面,表示生成功,可以进行下一步的模型训练了。
2.4 模型训练
在客户端主界面里,选中模型列表中的您要训练的模型项目,点击选中项行中的“训练”按钮,弹出模型训练界面,如下图:
如上图,点击“开始训练”按钮后,服务器将启动模型训练引擎,同时客户端界面打开训练界面时,将回传训练消息到客户端,方便查看训练服务是否在正常运行,提供良好的模型训练操作体验。客户端的界面可以关闭,下次再登录时再进入此界面可实时查看模型训练状态, 同时右边训练列和输出模型可以列出训练过程产生的PT模型文件,以便用户了解当前训练进度状态。
如果您觉得训练生成的模型够用了,也可以不用等训练完成,点击“停止训练”按钮,中断训练,使用最近生成的模型即可。
2.5 模型输出
在客户端主界面里,选中模型列表选中的您要输出的模型项目,点击选中项行中的“输出”按钮,弹出模型输出界面,如下图:
可以选择“训练批次”列出该训练批次生成的所有PT模型文件列表。
2.5.1 输出PT模型文件转换为ONNX
在模型输出主界面里,选中pt项,点击“转换为Onnx模型”按钮,弹出转化UI界面,并在服务器执行转换,转换过程消息数据回传到转化UI界面,如下图:
此界面,回传转换过程消息,并接收转换是否成功的消息事件,界面提示转换成功时,表示模型转换成功,否则表示转换失败。点击“关闭”按钮,关闭此界面。界面关闭后,在输出主界面列表中,该项出现“下载”按钮,表示转换成功了,可以提供onnx模型下载功能了。
2.5.2 PT模型文件转换AIBOX系统Nvidia架构DB模型
在模型输出主界面里,选中pt项,点击“转换为NV模型(AiBox/Server)”按钮,将pt模型转化为可以在我司AI系统中基于Nvidia显卡/GPU运行的模型文件,弹出转化UI界面,并在服务器执行转换,转换过程消息数据回传到转化UI界面,如下图:
此界面,回传转换过程消息,并接收转换是否成功的消息事件,界面提示转换成功时,表示模型转换成功,否则表示转换失败。点击“关闭”按钮,关闭此界面。界面关闭后,在输出主界面列表中,该项出现“下载”按钮,表示转换成功了,可以提供模型下载功能了。
2.5.3 PT模型文件转换为RK 3568 RKNN模型
在模型输出主界面里,选中pt项,点击“转换为RK3568 RKNN模型”按钮,将pt模型转化为可以在基于RK 3568方案运行的模型文件,弹出转化UI界面,并在服务器执行转换,转换过程消息数据回传到转化UI界面,如下图:
此界面,回传转换过程消息,并接收转换是否成功的消息事件,界面提示转换成功时,表示模型转换成功,否则表示转换失败。点击“关闭”按钮,关闭此界面。界面关闭后,在输出主界面列表中,该项出现“下载”按钮,表示转换成功了,可以提供模型下载功能了。
2.5.4 PT模型文件转换为RK 3588 RKNN模型
在模型输出主界面里,选中pt项,点击“转换为RK3588 RKNN模型”按钮,将pt模型转化为可以在基于RK 3588方案运行的模型文件,弹出转化UI界面,并在服务器执行转换,转换过程消息数据回传到转化UI界面,如下图:
此界面,回传转换过程消息,并接收转换是否成功的消息事件,界面提示转换成功时,表示模型转换成功,否则表示转换失败。点击“关闭”按钮,关闭此界面。界面关闭后,在输出主界面列表中,该项出现“下载”按钮,表示转换成功了,可以提供模型下载功能了。
2.5.5 PT模型文件转换AIBOX系统RK 3568架构DB模型
在模型输出主界面里,选中pt项,点击“转换为RK3568 (AiBox)模型”按钮,将pt模型转化为可以在基于我司AI系统运行RK 3568方案运行的模型文件,弹出转化UI界面,并在服务器执行转换,转换过程消息数据回传到转化UI界面,如下图:
此界面,回传转换过程消息,并接收转换是否成功的消息事件,界面提示转换成功时,表示模型转换成功,否则表示转换失败。点击“关闭”按钮,关闭此界面。界面关闭后,在输出主界面列表中,该项出现“下载”按钮,表示转换成功了,可以提供模型下载功能了。
2.5.6 PT模型文件转换AIBOX系统RK 3588架构DB模型
在模型输出主界面里,选中pt项,点击“转换为RK3588 (AiBox)模型”按钮,将pt模型转化为可以在基于我司AI系统运行RK 3588方案运行的模型文件,弹出转化UI界面,并在服务器执行转换,转换过程消息数据回传到转化UI界面,如下图:
此界面,回传转换过程消息,并接收转换是否成功的消息事件,界面提示转换成功时,表示模型转换成功,否则表示转换失败。点击“关闭”按钮,关闭此界面。界面关闭后,在输出主界面列表中,该项出现“下载”按钮,表示转换成功了,可以提供模型下载功能了。
2.5.7 PT模型文件转换为昇腾ASCEND 310 OM模型
2.5.8 PT模型文件转换AIBOX系统昇腾ASCEND 310架构DB模型
3. 融合永道AI系统中使用自训练模型
使用融合永道AI系统客户端软件,登录AIBOX或AI服务器一体机,进系统系统配置,自定义模型管理界面,选中从训练平台训练输出的对应硬件方案的模型文件,上传到AI系统,然后在对应的支持调用自定义模型的应用规则中选择对应的自训练模型,检测模型内的目标类别,如应用规则提供组合检测逻辑应用(比较特别的需求可按客户要求定制),设置上传事件到第三方平台。
4. 训练服务器配置
4.1 MRTP AI-9000 视觉模型训练服务器一体机
序号 | 项目 | 参数 |
1 | CPU | Intel 2.6ghz 40核80线程 |
2 | 内存 | 256GB |
3 | 硬盘 | 256固态(系统)+4T固态(训练)+4TB 机械(备份) |
4 | NvidiaGPU | RTX 3090 24G*2或RTX 4090 24G |
5 | Ascend NPU | Atlas 300v 24G |
6 | 电源 | 长城巨龙 1000w |
7 | 系统 | Ubuntu 20.04 |
8 | 模型支持 平台 | Nvidia,Ascend,RK |
4.2 MRTP AI-8000 视觉模型训练服务器一体机
序号 | 项目 | 参数 |
1 | CPU | Intel 到强 3.0 ghz 20核40线程 |
2 | 内存 | 128GB |
3 | 硬盘 | 256固态(系统)+2T固态(训练)+2TB 机械(备份) |
4 | NvidiaGPU | RTX 3090 24G |
5 | Ascend NPU | |
6 | 电源 | 长城巨龙 1000w |
7 | 系统 | Ubuntu 20.04 |
8 | 模型支持 平台 | Nvidia,RK |