有效
一种基于大模型的多摄像头网络优化选择方法
史坤、应国刚、张一名、杨宇宸、杨超、杨超群
宁波朗达科技有限公司
摘要
本申请公开了一种基于大模型的多摄像头网络优化选择方法,包括如下步骤:提取摄像头网络的多维度表征信息;通过多模态大模型的逐步推理和对贪心搜索的指导,生成摄像头网络的选择方案;通过多维度评估指标对生成的选择方案进行评估,将满足指标要求的选择方案进行输出;构建综合健康度评分对摄像头网络进行异常检测;对局部异常的摄像头网络执行增量优化策略,求解成本最低的摄像头网络选择调整方案。本申请的有益效果:通过引入多模态大模型,赋予系统看懂场景和理解规则的能力;通过多模态场景理解、语义约束推理、混合智能优化与动态适应调整,能够自动生成高质量、可解释的摄像头选择方案。
1.一种基于大模型的多摄像头网络优化选择方法,其特征在于,包括如下步骤:S100:根据摄像头网络的摄像头数量以及外参,提取摄像头网络监控场景的空间拓扑、时序同步、语义场景以及可视化四个维度的表征信息;S200:将语义场景表征和可视化表征结合作为多模态大模型的输入提示,通过多模态大模型的逐步推理和对贪心搜索的指导,生成摄像头网络的选择方案;S300:通过多维度评估指标对生成的选择方案进行评估,将满足指标要求的选择方案进行输出,将不满足指标要求的选择方案通过人机交互的优化调整后重新执行步骤S200;S400:基于摄像头的各项性能指标构建综合健康度评分;在摄像头网络执行输出的选择方案时,根据综合健康度评分对摄像头网络进行异常检测;对局部异常的摄像头网络执行增量优化策略,求解成本最低的摄像头网络选择调整方案。
2.如权利要求1所述的基于大模型的多摄像头网络优化选择方法,其特征在于,对于空间拓扑的表征信息提取包括如下过程:计算各摄像头的视野覆盖区域以及有效覆盖质量函数;根据摄像头网络中各摄像头的视野重叠关系,构建摄像头网络的空间邻接关系图;将监控场景离散化为多个网格单元,生成区域-摄像头覆盖矩阵;对于时序同步的表征信息提取包括如下过程:提取摄像头网络中各摄像头的时间同步信息,计算车辆在行驶过程中于任意相邻摄像头视野出没的合理时间窗口;根据摄像头外参,定义时序兼容性判别函数对合理时间窗口进行真假判别;对于语义场景的表征信息提取包括如下过程:将监控场景根据职能需求划分为多类语义区域,并对各类语义区域赋予语义权重;根据区域类型、车流密度和监控需求,构建区域语义重要度函数;根据各摄像头对各类语义区域的加权覆盖质量,构建语义区域-摄像头关联矩阵;生成结构化场景描述向量并转化为自然语言文本用于多模态大模型的输入;对于可视化的表征信息提取包括如下过程:生成场景俯视图,在图像中标注出所有摄像头的位置、各摄像头的视野覆盖范围、车辆主要行驶路线以及关键区域边界。
3.如权利要求2所述的基于大模型的多摄像头网络优化选择方法,其特征在于,语义区域 的区域语义重要度函数 的表达式如下: ;摄像头C i 对语义区域 的加权覆盖质量S ki 的表达式如下: ; ;其中,w k 表示语义权重,β表示车辆密度影响系数, 表示语义区域 的平均车流密度, 表示全场景平均车流密度, 表示强制覆盖标志, 表示区域-摄像头关联矩阵, 表示语义区域 的面积, 表示有效覆盖质量函数,c r 表示网格单元r的中心坐标, 表示摄像头C i 投影至地面的投影坐标位置,v i 表示摄像头C i 的朝向单位向量,d i 表示摄像头C i 的有效监控距离。
4.如权利要求1所述的基于大模型的多摄像头网络优化选择方法,其特征在于,在步骤S200中,将场景俯视图以及结构化文本描述进行组合作为多模态大模型的输入,构建包括任务目标和约束条件的提示;任务目标为:从摄像头网络的N个摄像头中选择M个摄像头实现全域车辆跟踪;约束条件包括硬约束集合H和软约束集合;其中,硬约束集合 包括关键区域完全覆盖约束H 1 ,邻接摄像头重叠约束H 2 、时空兼容性约束H 3 以及连通性约束H 4 ;软约束集合为对应任务目标的多目标损失函数L(x),x表示摄像头选择向量。
5.如权利要求4所述的基于大模型的多摄像头网络优化选择方法,其特征在于,在步骤S200中,采用思维链推理方式引导多模态大模型进行多轮迭代推理,具体包括如下过程:定义多模态大模型第t轮推理优化的输入 与输出 的映射关系: ; ;定义迭代终止条件: ;通过定义硬约束满足度评分函数 和软约束优化度评分函数 ,构建综合评分函数 进行迭代结果的评价; ; , ;其中, 和 分别表示摄像头选择向量 和 对应的多目标损失函数,S VLM 表示多模态大模型生成的策略向量, 表示第t轮的约束违反向量, 表示指示函数, 、 、 、 分别表示第t轮的不同硬约束, 表示当前损失与目标损失的差值,h表示硬约束集合H中的任意约束, 表示硬约束集合H中的元素数量,ε表示收敛阈值, 表示理论最优损失, 表示最差损失。
6.如权利要求5所述的基于大模型的多摄像头网络优化选择方法,其特征在于,步骤S200中通过多模态大模型指导传统算法的贪心搜索的过程为:根据当前选择方案添加新摄像头前后的综合评分差值,构建增益函数 ;定义多模态大模型的加权增益函数 ; ;设置贪心选择策略从当前选择方案中选择最优位置进行迭代优化;迭代更新方式为当前选择方案加上最优位置 为1的单位向量;在每次迭代后计算优化后的加权增益函数,在新添加的摄像头无法提供显著增益时终止迭代;其中,η表示多模态大模型的启发权重系数, 表示新添加的摄像头的优先级得分, 表示全部摄像头中的最大优先级得分。
7.如权利要求1-6任一项所述的基于大模型的多摄像头网络优化选择方法,其特征在于,在步骤S300中,用于对选择方案进行评估的多维度指标包括覆盖率指标、效率指标、质量指标以及鲁棒性指标;其中,覆盖率指标通过空间覆盖率、时间覆盖率以及关键区域加权覆盖率进行加权得到;效率指标通过压缩率、计算资源利用率和成本节约率进行加权得到;质量指标通过相邻摄像头加权重叠率、跟踪切换成功率估计进行加权得到;鲁棒性指标通过单点故障容忍度、冗余覆盖度以及负载均衡度进行加权得到;在得到所有维度的指标后,根据各维度指标的重要性不同赋予不同的权重,得到对选择方案进行评估的总体评估得分。
8.如权利要求1所述的基于大模型的多摄像头网络优化选择方法,其特征在于,在步骤S400中,综合健康度评分 的表达式为: ;构建异常检测判别函数 进行摄像头网络的异常判断; ;其中, 表示设备状态函数, 表示跟踪丢失率, 表示误匹配率,C i 表示任意的摄像头, 表示健康度阈值, 表示健康度下降速率阈值。
9.如权利要求8所述的基于大模型的多摄像头网络优化选择方法,其特征在于,在步骤S400中检测到摄像头网络存在局部异常后,多模态大模型采用分层故障诊断与方案生成框架进行自适应调整,具体包括如下过程:构建多维度异常信息向量作为多模态大模型分析的结构化输入,多维度异常信息向量包括摄像头状态、性能指标、环境因素和历史信息;多模态大模型采用思维链推理方法,依次进行故障类型分类、物理机制分析和影响评估,识别异常的根本原因;多模态大模型根据异常根本原因的分析结果,生成多种类型的候选解决方案,并对每个候选解决方案执行增量优化策略进行成本效益评估。
10.如权利要求9所述的基于大模型的多摄像头网络优化选择方法,其特征在于,增量优化策略包括如下过程:通过汉明距离计算当前选择方案 与候选解决方案 的差异度量 ;根据获得的差异度量构建增量优化目标函数 ; ;给定约束条件:故障摄像头必须移除,必须满足所有硬约束;对覆盖缺口Gap进行量化: ;构建备用摄像头的选择优先级 , ;根据选择优先级 通过贪心选择策略进行备用摄像头的添加,将覆盖缺口Gap是否被完全填补作为迭代终止条件;其中, 表示切换成本权重系数, 表示故障摄像头集合, 表示候选解决方案 的多目标优化函数, 表示仅将故障摄像头位置置0的向量, 表示区域-摄像头关联矩阵, 表示第j个位置为1,其余位置为0的单位向量, 表示区域-摄像头关联矩阵的第j列。



