有效
基于视线估计的VR交互式双眼视功能训练系统
乐孜纯、唐欣悦、张晓源、莫奕蓬
浙江工业大学
乐
乐孜纯机构 暂无
技术领域 暂无
唐
唐欣悦机构 暂无
技术领域 暂无
张
张晓源机构 暂无
技术领域 暂无
莫
莫奕蓬机构 暂无
技术领域 暂无
摘要
一种基于视线估计的VR交互式双眼视功能训练系统,属于视觉训练技术领域,所述VR交互式双眼视功能训练系统包括光学系统和处理控制系统,所述光学系统包括左侧红外LED光源、右侧红外LED光源、左眼微型红外摄像头和右眼微型红外摄像头,所述左侧红外LED光源对准左眼,所述右侧红外LED光源对准右眼;所述处理控制系统包括左眼VR显示屏、右眼VR显示屏、双眼视功能训练模块、人眼注视点预测模块和优势眼抑制模块。本发明结合实时视线估计技术,提高用户训练的效果和适配度。
1.一种基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述系统包括光学系统和处理控制系统,所述光学系统包括左侧红外LED光源、右侧红外LED光源、左眼微型红外摄像头和右眼微型红外摄像头,所述左侧红外LED光源对准左眼,所述右侧红外LED光源对准右眼;所述处理控制系统包括左眼VR显示屏、右眼VR显示屏、双眼视功能训练模块、人眼注视点预测模块和优势眼抑制模块,所述左眼微型红外摄像头位于左眼VR显示屏外侧下方,所述右眼微型红外摄像头位于右眼VR显示屏外侧下方,所述双眼视功能训练模块包括针对VR头戴式显示屏为终端显示设备的视功能训练游戏;所述人眼注视点预测模块对红外摄像头获取的人脸部姿态图像进行存储、双眼及面部图像分割和分析得出注视点预测坐标,同时与双眼视功能训练模块进行多软件交互;所述优势眼抑制模块包括遮挡模型的生成和实时显示,所述的遮挡模型的生成是指利用三维建模软件生成虚拟遮挡模型;所述的遮挡模型的实时显示是指在基于视线估计的深度学习神经网络输出的用户注视点坐标位置上叠加显示虚拟遮挡模型,且仅叠加显示在预设的优势眼终端显示设备屏幕上;所述的人眼注视点预测模块包括深度学习神经网络,所述的深度学习神经网络是基于视线估计的深度学习神经网络模型的基础上,通过更改数据的加载方式以及坐标生成方式改进训练的:通过调用微型红外摄像头获取用户当前的注视信息,实时预测注视点的坐标数据;所述的微型红外摄像头在以针对VR头戴式显示为终端显示设备的系统中处于双眼透镜外侧下方的两个微型红外摄像头,与双眼显示屏中心水平线的夹角为45°,其获取的用户实时注视信息具体为:双眼瞳孔信息,通过对左眼、右眼图片做特征提取,通过直接调用微型红外摄像头达到实时生成预测点坐标的效果,利用全连接层回归实现注视点的预测;通过将左眼图像 、右眼图像 输入到注视点预测模型最后得到预测点 ,首先将 与 输入至 得到输出的特征向量 和 , ; ;然后将左眼与右眼的特征向量进行连接, ;并在最后通过全连接层进行处理, ;整合 包含的所有数据信息通过全连接层预测,得到实时注视点的标准坐标 , ;式中的 是左眼图像 和右眼图像 通过网络模型后得到的输出。
2.如权利要求1所述的基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述双眼视功能训练模块中,所述的针对VR头戴式显示为终端显示设备的视功能检测游戏和视功能训练游戏是通过VR设备构建三维虚拟环境场景、视功能检测图片、Gabor视标和空间频率光栅,符合左手柄控制角色移动、右手柄切换视角画面,游戏过程始终保持第一视角显示画面,完成游戏要求得分或条件完成通关,游戏结束后保存游戏时长、得分记录。
3.如权利要求2所述的基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述的视功能检测游戏包括基于VR头戴式显示为终端显示设备的同时视检测游戏、融合视检测游戏和立体视检测游戏,通过Unity 3D软件进行VR端检测游戏开发:同时视检测游戏利用VR设备实现双眼分视效果,对左、右VR显示屏进行单独交替渲染呈现给用户观察;融合视检测游戏利用随机算法调用符合左、右眼视差的两张图像,用户通过观察图像聚合关系以判断感觉性融合和运动性融合能力范围;立体视检测游戏利用随机算法调用符合色差原理的随机点立体视觉检查图,用户通过辨别立体图形以判断立体视觉锐度值;所述的视功能训练游戏包括基于VR头戴式显示为终端显示设备的同时视训练游戏、融合视训练游戏和立体视训练游戏,通过Unity 3D软件进行VR端游戏开发。
4.如权利要求3所述的基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述的同时视检测游戏、融合视检测游戏和立体视检测游戏的图像类型根据用户的训练计划进行调整,包括图像的大小尺寸、对比度、清晰图、色相和立体视锐度数值对应的图片类型;所述的同时视训练游戏、融合视训练游戏和立体视训练游戏的难度和类型根据用户的训练计划进行调整,分为Gabor视标参数和障碍物参数调节,包括Gabor视标的数量、Gabor视标的方向、Gabor视标的空间频率、Gabor视标的相邻性、障碍物的数量、障碍物的速度、障碍物的大小尺寸、障碍物的对比清晰度和障碍物的横向和纵向距离参数的调节。
5.如权利要求1所述的基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述优势眼抑制模块中,所述的虚拟遮挡模型是根据用户具体的视觉功能和制定的训练方案而有针对地进行设计和构建的,并且可以随着用户训练反馈的结果进行调整,可调整的参数包括虚拟遮挡模型的颜色、形状、材质、大小、对比度、清晰度、出现频率和速度。
6.如权利要求5所述的基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述的仅叠加显示在预设的优势眼终端显示设备屏幕在以针对VR头戴式显示为终端显示设备的系统中对视功能训练游戏进行VR游戏开发,设计并建立符合双眼视差的视功能训练游戏场景,分别对VR的左、右显示屏进行渲染,通过三维建模生成虚拟遮挡模型并对预设优势眼的显示屏进行单一渲染,实现对优势眼的抑制效果。
7.如权利要求1所述的基于视线估计的VR交互式双眼视功能训练系统,其特征在于,所述处理控制系统还包括用户信息管理模块,所述的用户信息管理模块包括用户信息录入系统和用户信息查询系统,所述的用户信息录入系统包括获取用户个人信息、诊断数据和游戏训练数据,需要用户在使用双眼视功能模块训练时进行注册或登录账号,以方便存储信息数据;所述的用户信息查询系统包括独立于双眼视功能模块训练之外用户查看用户训练效果,需要用户注册或登录同一账号;所述的个人信息包括用户的年龄、性别、名字、弱视情况;所述弱视情况包括双眼裸眼视力、验光、矫正视力、是否斜视、优/弱视眼位置、立体视和制定的训练方案强度参数;所述的游戏训练数据通过在双眼视功能训练模块中的三级视功能游戏完成后及时保存训练时长、训练周期和游戏得分信息到系统中。



