如未购买大模型相关产品,可忽略本手册;
大模型产品需要与平台软件结合使用,目前其主要功能是对上位机平台中的告警进行智能复审;
本手册是使用大模型产品的必读文档,所有的功能操作在这里都有详细介绍;
请每一个用户在使用过程中牢记,访问大模型页面的电脑基本要求:≥ WIN10、≥ I5 CPU、必须使用Chrome浏览器新版本。
1 开篇说明 2 产品清单 3 使用说明 4 提示词推荐 |
如未购买大模型相关产品,可忽略本手册;
大模型产品需要与平台软件结合使用,目前其主要功能是对上位机平台中的告警进行智能复审;
本手册是使用大模型产品的必读文档,所有的功能操作在这里都有详细介绍;
请每一个用户在使用过程中牢记,访问大模型页面的电脑基本要求:≥ WIN10、≥ I5 CPU、必须使用Chrome浏览器新版本。
为保证使用效果,使用前请阅读操作流程与配置方法,正确接入大模型,对小模型检测结果进行智能复审。
如上图,网络摄像头经局域网或公网接入智能分析盒。盒子内置AI小模型算法,产生的告警通过局域网或公网进入上位机管理平台。平台内置多模态大模型,基于自定义的复审提示词,对小模型告警数据进行二次复审。
使用流程如上所示。分为盒子端、引擎端、平台端三部分。
(1)盒子端操作: 告警推送地址配置。在盒子端填写平台推送地址,将告警推送至上位机管理平台。
(2)引擎端操作: 复审结果地址配置。在引擎端填写平台推送地址,将复审结果推送至上位机管理平台。
(3)平台端操作: 首先在人机交互中测试提示词是否有效。如果有效,创建复审任务,填写任务名称与提示词,关联复审算法。在任务查看中,可查看复审任务,在告警列表中可查看大模型的复审结果。
在浏览器地址栏中输入盒子访问地址:http://盒子IP:9092 进入盒子管理系统,在系统【数据推送】-【云平台】中设置上位机管理平台的推送地址、端口号与设备名称,配置如下图。这个地址为上位机管理平台服务器的IP地址,端口号默认为11883,设备名称可自定义输入,完成后点击网络检测并保存。
引擎端的访问地址:http://大模型一体机服务器IP:9392 在引擎端配置大模型复审结果推送地址。配置如下图。这个地址为上位机管理平台服务器的IP地址、http默认端口为9192,mqtt默认端口为11883,设备名称可自定义,完成后点击保存。
部分推荐提示词见链接。在对话框中输入交互内容,可上传图片,完成后点击发送,等待多模态大模型回复。
支持多轮多模态交互,可输入图片与文本指令对多模态理解能力进行测试,同时,优化文本指令引导大模型输出最佳的图像理解内容。
点击右下角清除按钮,清除当前对话内容,可开启新一轮对话。
将提示词后缀删除,并进行重置。
选择要复审的设备、算法、视频通道,填入在交互任务中测试好的提示词,完成后点击保存,创建任务。
选择要复审的设备、算法、视频通道,填入在交互任务中测试好的提示词,完成后点击保存,创建任务。大模型复审一栏可查看复审结果。包括已确认、未处理以及误报三类。已确认表示大模型复审结果为正报,误报表示大模型复审结果为误报。
如下图,大模型对小模型识别结果进行复审,并确定为误报。
提示词对大模型复审准确度非常关键。为保证大模型复审效果,可使用推荐提示词进行任务配置。可在人机交互模块中测试提示词是否满足场景要求。
由于大模型是图像级二次复审,目前,可使用大模型进行二次复审的部分标准算法与推荐提示词如下。后期,拟上线区域级大模型二次复审功能。
算法名称 | 推荐提示词 | 使用要求 |
---|---|---|
未佩戴安全帽检测 | 图片中有几个人?图片中的人员是否都戴了安全帽,若都戴了安全帽,请输出:{"alert":0},否则,请输出:{"alert":1} | 1、支持红黄蓝白工地安全帽检测 2、画面可清晰分辨头部及安全帽特征 3、识别距离小于15m |
打架检测 | 图片中是否有人存在打架行为?如果是请输出:{"alert": 1},否则请输出:{"alert": 0} | 1、支持动作幅度大、特征明显的群体打架行为检测 2、可清晰分辨打架行为 3、识别距离小于10m |
睡岗检测 | 图片中是否有人在睡觉?如果是请输出:{"alert": 1},否则请输出:{"alert": 0} | 1、支持办公室、值班室场景睡觉行为检测 2、画面清晰,可辨别人员特征 3、识别距离小于10m |
使用手机检测 | 图片中是否有人使用手机?如果是请输出:{"alert": 1},否则请输出:{"alert": 0} | 1、支持加油站、化工厂、违禁区域使用手机检测 2、画面清晰,可辨别人体、手部以及手机特征 3、识别距离小于10m |
电瓶车进电梯检测 | 图片是电梯监控画面,里面有没有电瓶车?如果有电瓶车请输出:{"alert": 1},否则请输出:{"alert": 0} | 1、支持电梯场景电瓶车检测 2、电瓶车清晰可见 3、识别距离小于10m |
明火检测 | 图片中是否存在明火?若存在明火,请输出:{"alert": 1},否则请输出:{"alert": 0} | 1、支持红色火焰识别 2、画面清晰,可辨别火焰特征 3、识别距离小于15m |
烟雾检测 | 图片中是否存在烟雾?若存在烟雾,请输出:{"alert": 1},否则请输出:{"alert": 0} | 1、支持大面积的白色或黑色浓烟识别 2、画面清晰,可辨别烟雾特征 3、识别距离小于20m |
|