本发明公开了一种基于目标检测与动作识别的多目标视觉监管方法,包括以下步骤,采集工人穿戴制服和安全帽的图像,数据增强后构成第一数据集;采用第一数据集对Yolov3‑mobilenetv3网络进行训练,搭建tfpose人体骨架信息提取模型采集工人打电话和摔倒动作的骨架数据,构成第二数据集;采用第二数据集对IndRnn网络进行训练,利用deepsort多目标追踪算法对工人正在进行工作的图像进行追踪检测,检测识别每个工人,分割出个工人图像并为其分配固定ID;Yolov3‑mobilenetv3目标检测模型检测分割出的工人图像,得到每个工人的安全帽和制服的穿戴情况;IndRnn动作识别模型识别每个工人的动作异常情况;该方法使用了deepsort算法能够对每个工人实时追踪检测,更方便对工人进行视觉管理。