1.本发明涉及照明设备控制技术领域,具体涉及一种灯效控制方法、灯效控制装置、计算机程序产品、计算机可读存储介质以及灯效控制设备。
背景技术:
2.随着人们生活质量的提高,对物质生活有了更高的要求,因此智能家居得以迅猛发展,越来越多的人开始使用智能家居。而照明设备作为智能家居的重要组成部分,人们对它的要求逐渐不再满足于单纯的照明功能。
3.传统技术中,通过实时检测显示设备的边缘区域显示
画面的颜,驱动照明设备发出相同的颜,呈现一种将显示画面的彩延伸至显示设备之外的灯效,形成更为广阔的视觉效果。按照这种方式实施灯效控制,形式单一,并且不具备根据显示设备的画面内容进行适应性控制灯效的效果,依然无法丰富用户体验。
技术实现要素:
4.本发明的首要目的在于解决上述问题至少之一而提供灯效控制方法、装置、产品、介质及灯效控制设备。
5.为满足本发明的各个目的,本发明采用如下技术方案:
6.适应本发明的目的之一而提供一种灯效控制方法,包括如下步骤:
7.获取图像序列,
所述图像序列包括同一游戏
场景在连续时序下呈现的多个画面;
8.采用预设的游戏
事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;
9.检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;
10.调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。
11.进一步的,调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效,包括:
12.判断当前的目标事件类型与前一个目标事件类型一致时,继续前一个目标事件类型的灯效控制指令对所述照明设备的氛围灯效的控制;
13.判断当前的目标事件类型与前一个目标事件类型不一致时,替换前一个目标类型的灯效控制指令为当前的目标事件类型的灯效控制指令,输入所述照明设备控制其氛围灯效。
14.进一步的,采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型之前,包括:
15.采用预设的场景识别模型识别出所述图像序列中各个所述画面相对应的播放场景,所述播放场景包括自玩场景、比赛场景;
16.采用预设的队伍识别模型识别出所述图像序列中各个所述画面相对应的游戏队
伍;
17.确定所述画面对应的游戏队伍是否属于所述画面对应的播放场景下预设的游戏队伍,当不属于时,忽略将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息。
18.进一步的,获取图像序列之前,包括:
19.获取原始视频流,基于所述原始视频流生成两路视频流;
20.将其中一路所述视频流发送至显示设备,以使显示设备根据所述视频流进行显示;
21.对其中另一路所述视频流进行格式化处理以获得图像序列。
22.进一步的,获取图像序列之前,包括:
23.采集自玩场景及比赛场景的画面构造出训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,训练场景识别模型至收敛状态,使其适于预测画面对应的播放场景;
24.采集同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,训练队伍识别模型至收敛状态,使其适于预测画面对应的游戏队伍。
25.进一步的,采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息之前,包括:
26.根据所述图像序列中的多个画面判断当前游戏场景;
27.根据游戏场景确定灯效控制方案,所述灯效控制方案包括所述游戏场景所包含的各种事件类型及其相对应的灯效控制指令;
28.根据游戏场景调用相应的权重参数配置游戏事件检测模型。
29.适应本发明的目的之一而提供一种灯效控制装置,包括:
30.数据获取模块,用于获取图像序列,所述图像序列包括同一游戏场景在连续时序下呈现的多个画面;
31.类型预测模块,用于采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;
32.类型确定模块,用于检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;
33.灯效控制模块,用于调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。
34.进一步的,所述灯效控制模块,包括:
35.第一判断子模块,用于判断当前的目标事件类型与前一个目标事件类型一致时,继续前一个目标事件类型的灯效控制指令对所述照明设备的氛围灯效的控制;
36.第二判断子模块,用于判断当前的目标事件类型与前一个目标事件类型不一致时,替换前一个目标类型的灯效控制指令为当前的目标事件类型的灯效控制指令,输入所述照明设备控制其氛围灯效。
37.进一步的,所述类型预测模块之前,包括:
38.场景识别模块,用于采用预设的场景识别模型识别出所述图像序列中各个所述画
面相对应的播放场景,所述播放场景包括自玩场景、比赛场景;
39.队伍识别模块,用于采用预设的队伍识别模型识别出所述图像序列中各个所述画面相对应的游戏队伍;
40.队伍确定模块,用于确定所述画面对应的游戏队伍是否属于所述画面对应的播放场景下预设的游戏队伍,当不属于时,忽略将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息。
41.进一步的,所述数据获取模块之前,包括:
42.视频流获取模块,用于获取原始视频流,基于所述原始视频流生成两路视频流;
43.视频显示模块,用于将其中一路所述视频流发送至显示设备,以使显示设备根据所述视频流进行显示;
44.格式化处理模块,用于对其中另一路所述视频流进行格式化处理以获得图像序列。
45.进一步的,所述数据获取模块之前,包括:
46.第一模型训练模块,用于采集自玩场景及比赛场景的画面构造出训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,训练场景识别模型至收敛状态,使其适于预测画面对应的播放场景;
47.第二模型训练模块,用于采集同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,训练队伍识别模型至收敛状态,使其适于预测画面对应的游戏队伍。
48.进一步的,所述类型预测模块之前,包括:
49.场景判断模块,用于根据所述图像序列中的多个画面判断当前游戏场景;
50.方案确定模块,用于根据游戏场景确定灯效控制方案,所述灯效控制方案包括所述游戏场景所包含的各种事件类型及其相对应的灯效控制指令;
51.模型配置模块,用于根据游戏场景调用相应的权重参数配置游戏事件检测模型。
52.适应本发明的目的之一而提供一种计算机可读取存储介质,其以计算机可读指令的形式存储有依据所述的灯效控制方法所实现的计算机程序,该计算机程序被计算机调用运行时,执行该方法所包括的步骤。
53.适应本发明的目的之一而提供一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现本技术任意一种实施例中所述方法的步骤。
54.相对于现有技术,本发明的优势如下:
55.本技术通过对图像序列中的多个画面采用游戏事件检测模型确定出各个画面相对应的事件类型,确定连续多个画面的事件类型一致时,产生目标事件类型,以此调用相应的灯效控制指令控制照明设备呈现相应的氛围灯效。一方面确保目标事件类型的置信度,保证目标事件类型的准确性和可靠性,另一方面,实现适应不同目标事件类型而进行多样化的灯效控制,提升用户的沉浸式视觉体验。
56.本发明附加的方面和优点将在下面的描述中部分给出,这些将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
57.本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
58.图1为本发明典型实施例的灯效控制设备的电路原理示意图。
59.图2为本发明典型实施例的灯效控制方法的流程示意图。
60.图3为本发明一种实施例的灯效控制方法的氛围灯效切换的流程示意图。
61.图4为本发明另一种实施例的灯效控制方法的对图像序列进行预处理流程示意图。
62.图5为本发明一种实施例的灯效控制方法的获得图像序列的流程示意图。
63.图6为本发明一种实施例的灯效控制方法的生成两路视频流的流程示意图。
64.图7为本发明一种实施例的灯效控制方法的训练场景识别模型及队伍识别模型的流程示意图。
65.图8为本发明一种实施例的灯效控制方法的判断当前游戏场景并进行相应的预处理的流程示意图。
66.图9为本发明为本发明典型实施例的灯效控制装置的结构示意图。
具体实施方式
67.下面详细描述本发明的实施例,所述实施例的实例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是实例性的,仅用于解释本发明而不能解释为对本发明的限制。
68.本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
69.本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
70.在本发明的典型实施例中,所述灯效控制方法基于灯效控制设备10实施,结合图1,所述灯效控制设备10包括控制单元11以及照明设备12。
71.控制单元11和照明设备12之间可以通过网络连接。网络通常为因特网,但也可以是任何网络,包括但不限于局域网(loca l areanetwork,l an)、城域网(metropo l itan area network,man)、广域网(wi de area network,wan)、移动、有线或者无线网络、专用网络或者虚拟专用网络的任何组合。在一些实施方式中,控制单元11和照明设备12之间也可
以通过特定的通信协议进行通信传输,通信协议包括但不限于ble(b l uetooth l ow energy,低功耗蓝牙)协议、wlan(wi re l ess loca l area network,无线局域网)协议、蓝牙协议、zigbee(紫蜂)协议或者wi-fi(wi re l ess fide l ity,无线保真)协议等。网络中还可以包括路由器、网关等等网络实体,图中并未示意出。
72.在一些实施方式中,所述控制单元11可以用于获取原始视频流。控制单元11可以包括硬件接口,以便通过所述硬件接口获取原始视频流。
73.在一些实施方式中,所述控制单元11可以通过硬件接口与xbox(家用电视游戏机),ps(playstation,电子游戏机)等设备相连,以获取原始视频流。
74.在一些实施方式中,所述控制单元11可以采用soc(system on ch ip,系统级芯片)、cpu(centra l process i ng un it,中央处理器)、mpu(mi crocontro l l er un it,微控制单元)等,具体可以根据实际使用需要进行设置,本技术对此不作限制。
75.在一些实施方式中,照明设备12可以是带状、条状灯、灯柱、平面灯(含有多个灯珠)。
76.在一些实施方式中,照明设备12可以包括一个或多个灯光单元,以根据实际使用需要进行对应的组合。
77.在一些实施方式中,每个灯光单元可以包含一个或者多个灯珠,且控制单元11可以控制灯光单元的灯珠的亮度、颜等,还可以控制亮灯的数量,从而实现照明设备12的不同灯效。
78.在一些实施方式中,可以根据实际使用需要,设置照明设备12的位置和数量,根据照明设备12的位置,还可以对灯效实施长度、高度以及面积上的控制。
79.所述灯效控制方法基于上文所述的灯效控制设备实施,具体言之,结合图2,所述灯效控制方法包括如下步骤:
80.步骤s1100、获取图像序列,所述图像序列包括同一游戏场景在连续时序下呈现的多个画面;
81.可以理解,不同的游戏对应不同的游戏场景,每个游戏对应一种游戏场景。
82.一种实施例中,控制单元通过与显示设备相连接,获取与显示设备上显示的视频流相同的视频流,对该视频流进行格式化处理,即把视频流转换为能被控制单元中的多媒体处理芯片接收的图像格式,从而获得以时间顺序排列各帧画面所对应的图像序列。所述多媒体处理芯片可以例如是soc(system on chip,系统级芯片)芯片、npu(neural-network processing unit,嵌入式神经网络处理器)芯片。
83.另一实施例中,可以所述灯效控制设备现有结构的基础上,接入摄像单元,通过摄像单元摄录显示设备上显示的画面而生成视频流,由所述控制单元获取所述视频流。
84.步骤s1200、采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;
85.所述控制单元可以通过端侧部署的预设的游戏事件检测模型对所述图像序列中的各个画面相对应进行事件识别处理,根据画面的图像特征信息确定出其映射至预设的多个事件类型相对应的分类概率,确定所述分类概率最大的事件类型,判定该最大的分类概率是否超过预设阈值,当超过预设阈值时,确定该最大的分类概率对应的事件类型作为该画面的动作识别结果,继续对该画面进行后续操作,否则,忽略该画面终止对其进行后续操
作。
86.所述预设的游戏事件检测模型为预先训练至收敛的任意一种适用于目标检测任务的现成可用的模型,推荐的选型为yolo。
87.可预先采集足量的训练样本,以及为各个训练样本对应标注其监督标签,构造出训练集用于训练所述游戏事件检测模型,直至模型收敛,使得模型习得根据画面的图像特征信息确定出其映射至预设的多个事件类型相对应的分类概率的能力。所述训练样本包括存在事件的画面,所述事件包括但不限于游戏中对目标虚拟对象所预设其被攻略后触发在画面上相应的图示,以及游戏中对目标虚拟对象所预设其被攻击后触发在画面上相应的图示,例如击杀“大龙”、击杀一名“玩家”、限定时间内击杀两名以上“玩家”、攻击“玩家”或“怪物”出现“暴击、致盲、流血、反伤等游戏效果”等等,所述事件具体可由本领域技术人员灵活变通设定,不难理解,所述图示包含相应事件的图像特征,能够被所述模型所提取用于特征表示该事件。进一步,根据训练样本的画面存在的事件所属的类型标注该训练样本的监督标签。示范性举例,训练样本的画面存在的事件为限定时间内击杀两名“玩家”,该训练样本的监督标签为“二杀”,所述监督标签可由本领域技术人员灵活变通设定。
88.步骤s1300、检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;
89.可以理解,通常所述图像序列中存在连续多个事件类型一致对应的画面,因为例如事件类型是二杀,通常对应事件的相应的图示会持续几秒出现在游戏中的画面上,然而每秒通常包含多帧画面,故而这些连续多个画面对应的事件类型一致,且都是二杀。由于所述游戏事件检测模型能够每秒检测多张图像,而且小概率存在模型预测画面的事件类型错误的情况,据此,为了确保基于模型的预测结果所产生的目标事件类型的置信度,可以连续多个所述画面的事件类型均一致时,以一致的事件类型作为目标事件类型将其产出,从而保证所述目标事件类型的准确性和可靠性。
90.步骤s1400、调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。
91.进一步,检索预设的灯效控制表,确定所述目标事件类型相对应的灯效控制指令,所述灯效控制表可预先构建,用于存储各种目标事件类型及其对应的灯效控制指令,其中各个灯效控制指令可由本领域技术人员按照对应照明设备所需呈现的氛围灯效相应设定。
92.控制单元通过与照明设备相连接,将所述灯效控制指令输出至该照明设备,使得照明设备的灯效控制电路得以生成相应的灯效控制信号,控制照明设备内设的发光元件进行相应的发光,呈现与所述目标事件类型相应的氛围灯效。所述发光元件可以是能够发出单光的发光元件,也可以是能够发出rgb(红、绿、蓝)三种光的三种发光元件。
93.根据本技术的典型实施例可以知晓,本技术的技术方案存在多方面优势,包括但不限于如下各方面:
94.本技术通过对图像序列中的多个画面采用游戏事件检测模型确定出各个画面相对应的事件类型,确定连续多个画面的事件类型一致时,产生目标事件类型,以此调用相应的灯效控制指令控制照明设备呈现相应的氛围灯效。一方面确保目标事件类型的置信度,保证目标事件类型的准确性和可靠性,另一方面,实现适应不同目标事件类型而进行多样化的灯效控制,提升用户的沉浸式视觉体验。
95.结合图3,进一步的,步骤s1400、调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效,包括:
96.步骤s1410、判断当前的目标事件类型与前一个目标事件类型一致时,继续前一个目标事件类型的灯效控制指令对所述照明设备的氛围灯效的控制;
97.比对当前的目标事件类型与前一个目标事件类型是否一致,判断一致时,确定前一个目标事件类型的灯效控制指令对所述照明设备的灯效控制是否结束,未结束则中止所述灯效控制,使其结束后,无需检索灯效控制表,重新向照明设备输入所述前一个目标事件类型的灯效控制指令,控制照明设备产生相应的氛围灯效。
98.步骤s1420、判断当前的目标事件类型与前一个目标事件类型不一致时,替换前一个目标类型的灯效控制指令为当前的目标事件类型的灯效控制指令,输入所述照明设备控制其氛围灯效。
99.比对当前的目标事件类型与前一个目标事件类型是否一致,判断不一致时,确定前一个目标事件类型的灯效控制指令对所述照明设备的灯效控制是否结束,未结束则中止所述灯效控制,使其结束后,检索灯效控制表,确定当前的目标事件类型的灯效控制指令,以其替换前一个目标类型的灯效控制指令,输入至所述照明设备控制其产生当前目标事件类型的灯效控制指令相应的氛围灯效。
100.本实施例中,通过判断当前的目标事件类型与前一个目标事件类型是否一致,相应的确定出控制照明设备对应的灯效控制指令,以此控制照明设备产生的氛围灯效,实现针对实时情况呈现相应的氛围灯效,确保灯效控制的实时性。
101.结合图4,进一步的,步骤s1200、采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型之前,包括:
102.步骤s2200、采用预设的场景识别模型识别出所述图像序列中各个所述画面相对应的播放场景,所述播放场景包括自玩场景、比赛场景;
103.通常玩游戏场景包括玩家自己玩及玩家之间比赛竞技,所述玩家之间比赛竞技的玩游戏场景对应的画面上一般存在表征比赛的图示,例如比赛双方队伍名称、比赛实况数据、比赛双方队伍选角等,然而,玩家自己玩的玩游戏场景对应的画面则不存在表征比赛的图示。据此,可根据画面上是否存在表征比赛的图示而对应确定相应的画面所属的玩游戏场景,进而可预先设定玩家自己玩的玩游戏场景对应的画面的播放场景为自玩场景,以及玩家之间比赛竞技的玩游戏场景对应的画面的播放场景为比赛场景。
104.基于上述,所述控制单元可以通过端侧部署的预设的场景识别模型对所述图像序列中的各个所述画面相对应进行场景识别处理,根据画面上表征比赛的图示对应的图像特征信息确定出其映射至预设的两类播放场景相对应的分类概率,确定所述分类概率最大的播放场景作为该画面的场景识别结果。
105.所述预设的场景识别模型为预先训练至收敛的任意一种适用于目标检测任务的现成可用的模型,推荐的选型为yolo。
106.可采集自玩场景及比赛场景的画面构造出训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,构造出训练集用于训练所述场景识别模型,直至模型收敛,使得模型习得根据画面上表征比赛的图示对应的图像特征信息确定出其映射至预设的
两类播放场景相对应的分类概率的能力。
107.步骤s2210、采用预设的队伍识别模型识别出所述图像序列中各个所述画面相对应的游戏队伍;
108.通常不同的游戏队伍对应在画面上的图像均不完全相同,即不同的游戏队伍有其对应的区别于其他游戏队伍的图像特征,例如颜不同、造型不同等等,所述画面上的图像包括但不限于虚拟对象对应的图像、各种所述事件类型对应的事件在画面上相应的图示,所述虚拟对象可以是玩家选角、怪物、装备等,具体可由本领域技术人员灵活变通设定。据此,可根据所述画面上表征游戏队伍的图像特征确定该画面相对应的游戏队伍。
109.基于上述,所述控制单元可以通过端侧部署的预设的队伍识别模型对所述图像序列中的各个所述画面相对应进行场景识别处理,根据画面上表征游戏队伍的图像特征对应的图像特征信息确定出其映射至预设的多个游戏队伍相对应的分类概率,确定所述分类概率最大的播放场景作为该画面的场景识别结果,所述游戏队伍具体可由本领域技术人员灵活变通设定。
110.所述预设的队伍识别模型为预先训练至收敛的任意一种适用于目标检测任务的现成可用的模型,推荐的选型为yolo。
111.可采集同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,构造出训练集用于训练所述队伍识别模型,直至模型收敛,使得模型习得根据画面上表征游戏队伍的图像特征信息确定出其映射至预设的多个游戏队伍相对应的分类概率的能力。
112.步骤s2220、确定所述画面对应的游戏队伍是否属于所述画面对应的播放场景下预设的游戏队伍,当不属于时,忽略将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息。
113.可由用户预先选定播放场景下的游戏队伍作为预设,所述选定的游戏队伍的数量不限,例如在播放场景为自玩场景下,用户可选定相应的游戏队伍为自己的游戏队伍,在播放场景为比赛场景下,用户可选定相应的游戏队伍为全量的游戏队伍或者是某一支游戏队伍等等。
114.针对图像序列中的各个画面,根据基于上述步骤s2200-2210所述画面相对应的播放场景及游戏队伍,确定该游戏队伍是否属于所述画面对应的由用户预先选定播放场景下的游戏队伍,当属于时,将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息,当不属于时,则忽略将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息。
115.本实施例中,通过识别出图像序列中各个画面相对应的播放场景及游戏队伍,确定画面的游戏队伍是否属于预设的游戏队伍,而对应是否对在所述图像序列中相应的画面进行后续操作,使得仅对图像序列中播放场景下预设的游戏队伍的画面采用游戏事件检测模型及后续进一步的操作,以呈现这些用户选定的游戏队伍的画面的氛围灯效,满足用户的个性化需求,提升用户满意度。
116.结合图5,进一步的,步骤s1100、获取图像序列之前,包括:
117.步骤s1000、获取原始视频流,基于所述原始视频流生成两路视频流;
118.如图6所示,控制单元中通过硬件接口实现视频流的接入,获得原始视频流后将其
一分为二生成至少两路视频流,所述硬件接口可以例如是vga(video graphics array,视频图形阵列)、dp(displayport,显示接口)、hdmi(high definit ion mul timedia interface,高清多媒体接口)、dvi(digital visual interface,数字视频接口)等。所述原始视频流包含但不限于游戏应用程序渲染的视频流、直播玩游戏的视频流、播放游戏的视频等任意一种。进一步,对原始视频流环出可以通过调用视频采集卡实现。
119.步骤s1010、将其中一路所述视频流发送至显示设备,以使显示设备根据所述视频流进行显示;
120.显示设备接收到其中一路所述视频流便可将其进行显示,显示相应的具体图像内容。
121.步骤s1020、对其中另一路所述视频流进行格式化处理以获得图像序列。
122.进一步,控制单元通过视频接口将其中另一路所述视频流转换成多媒体处理芯片能够接收的图像格式,获得相应的图像序列,所述图像序列中包含多张时间上连续的画面,从而可通过多媒体处理芯片对图像序列中的画面进行后续ai处理,视频接口可以例如是mipi(mobi le industry processor interface,移动行业处理器接口)、lvds(low-voltage different ial signal ing,低压差分信号传输接口)等,多媒体处理芯片可以例如是soc(system on chip,系统级芯片)芯片、npu(neural-network process ing uni t,嵌入式神经网络处理器)芯片。
123.本实施例中,揭示了控制单元通过硬件接口获得原始视频流,将其一分而二中的一路视频流进行格式化处理获得图像序列,并将另一路视频流于显示设备上显示。由于原始视频流是通过硬件接口直接获取得来的,相比于获取摄像单元拍摄采集的视频流,具备延迟低,画质清晰的优势。
124.结合图7,进一步的,步骤s1100、获取图像序列之前,包括:
125.步骤s1001、采集自玩场景及比赛场景的画面构造出训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,训练场景识别模型至收敛状态,使其适于预测画面对应的播放场景;
126.通常玩游戏场景包括玩家自己玩及玩家之间比赛竞技,所述玩家之间比赛竞技的玩游戏场景对应的画面上一般存在表征比赛的图示,例如比赛双方队伍名称、比赛实况数据、比赛双方队伍选角等,然而,玩家自己玩的玩游戏场景对应的画面则不存在表征比赛的图示。据此,可根据画面上是否存在表征比赛的图示而对应确定相应的画面所属的玩游戏场景,进而可预先设定玩家自己玩的玩游戏场景对应的画面的播放场景为自玩场景,以及玩家之间比赛竞技的玩游戏场景对应的画面的播放场景为比赛场景。
127.将自玩场景、比赛场景的画面作为训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,示范性举例,训练样本为比赛场景的画面对应的监督标签可为画面中表征比赛的图示对应的坐标及该图示对应的表征比赛场景的具体类别,例如比赛双方队伍名称类型、比赛实况数据类型或者比赛双方队伍选角类型;训练样本为自玩场景的画面对应的监督标签可为画面中表征比赛的图示对应的坐标及该图示对应的表征自玩场景的具体类别,例如背景类型。
128.在完成各个训练样本的标注的基础上,便可将各个训练样本及其监督标签相映射构造出训练集。获取所述训练集中的单个训练样本及其监督标签,将该训练样本输入至场
景识别模型,提取出该训练样本的画面中相应的监督标签所标注的坐标对应的区域的图像特征信息,将其分类映射至预设的表征各个具体类别相对应的多分类空间,获得映射至各个分类空间相对应的分类概率,确定分类概率最大的分类空间表征的具体类别作为目标类别。进一步,采用损失函数,根据监督标签的具体类别计算所述目标类别对应的损失值,当所述损失值达到预设阈值时,表明场景识别模型已被训练至收敛状态,从而可以终止模型训练,否则,表明模型未收敛,于是根据该损失值对模型实施梯度更新,通常通过反向传播修正模型各个环节的权重参数使模型进一步逼近收敛,然后,继续调用所述训练集中的下一个训练样本对该模型实施迭代训练,直至模型训练至收敛状态为止,所述损失函数可由本领域技术人员根据先验知识或实验经验灵活变通设置。
129.进一步,设定训练至收敛的场景识别模型预测的目标类别对应表征的播放场景作为模型的输出。
130.步骤s1002、采集同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,训练队伍识别模型至收敛状态,使其适于预测画面对应的游戏队伍。
131.通常不同的游戏队伍对应在画面上的图像均不完全相同,即不同的游戏队伍有其对应的区别于其他游戏队伍的图像特征,例如颜不同、造型不同等等,所述画面上的图像包括但不限于虚拟对象对应的图像、各种所述事件类型对应的事件在画面上相应的图示,所述虚拟对象可以是玩家选角、怪物、装备等,具体可由本领域技术人员灵活变通设定。据此,可根据所述画面上表征游戏队伍的图像特征确定该画面相对应的游戏队伍。
132.基于上述采集足量的同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,示范性举例,监督标签可为训练样本的画面上表征游戏队伍的图像对应的坐标及该图像表征的游戏队伍类型。进而以各个训练样本及其监督标签构造出训练集。获取训练集中的单个训练样本及其监督标签,将该训练样本输入至队伍识别模型,提取出该训练样本的画面上相应的监督标签所标注的坐标对应的区域的图像特征信息,将其分类映射至预设的表征各个游戏队伍的多分类空间,获得映射值各个分类空间相对应的分类概率,确定分类概率最大的分类空间表征的游戏队伍类型。进一步,采用损失函数,根据监督标签的游戏队伍计算所述分类获得的游戏队伍对应的损失值,当所述损失值达到预设阈值时,表明队伍识别模型已被训练至收敛状态,从而可以终止模型训练,否则,表明模型未收敛,于是根据该损失值对模型实施梯度更新,通常通过反向传播修正模型各个环节的权重参数使模型进一步逼近收敛,然后,继续调用所述训练集中的下一个训练样本对该模型实施迭代训练,直至模型训练至收敛状态为止,所述损失函数可由本领域技术人员根据先验知识或实验经验灵活变通设置。
133.本实施例中,揭示了场景识别模型及队伍识别模型相对应的预先训练至收敛的训练过程,使得场景识别模型能够精准地识别出画面对应的播放场景,队伍识别模型能够精准地识别出画面对应的游戏队伍,无需人为干预,执行高效。
134.结合图8,进一步的,步骤s1200、采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息之前,包括:
135.步骤s2201、根据所述图像序列中的多个画面判断当前游戏场景;
136.在控制单元对原始视频流对其进行格式化处理获得图像序列后,所述控制单元可
以通过端侧部署的预设的游戏场景识别模型对所述图像序列中的多个画面相对应的进行游戏场景识别,根据画面的图像特征信息预测出该画面对应的游戏场景,进而确定出各个所述画面相对应的游戏场景相同,确保模型预测结果的置信度,从而以所述相同的游戏场景作为当前游戏场景,所述多个画面数量上可由本领域技术人员按需设定,具体选取的画面推荐的可以随机抽样方式,以确保判断当前游戏场景的置信度。
137.所述预设的游戏场景识别模型为预先训练至收敛的适用于执行图像分类任务的模型,一般采用基于卷积神经网络后接分类器实现的模型,所述卷积神经网络包括但不限于基于cnn、rnn等基础网络模型架构实现的应用型神经网络模型,例如resnet、vision transformer(vit)、efficientnet等,所述分类器可为mlp(多层感知机)。
138.可采集足量的不同游戏场景下对应的全量画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏场景的监督标签例如是游戏名称,构造出训练集用于训练所述游戏场景识别模型,直至模型收敛,使得模型习得根据画面上表征游戏场景的图像特征信息确定出其映射至预设的多个游戏场景相对应的分类概率的能力。
139.步骤s2202、根据游戏场景确定灯效控制方案,所述灯效控制方案包括所述游戏场景所包含的各种事件类型及其相对应的灯效控制指令;
140.可预先为各种游戏场景预设相应的灯效控制方案,确定游戏场景所包含的各种事件类型,检索灯效控制表,确定所述各种事件类型相对应的灯效控制指令,以此构建出灯效控制方案。
141.步骤s2203、根据游戏场景调用相应的权重参数配置游戏事件检测模型。
142.针对不同的游戏场景,可参考步骤s1200预先训练出相应的游戏事件检测模型,直至其收敛后投入使用,游戏事件检测模型收敛后可获得模型中各层相对应的权重参数,将这些权重参数关联对应的游戏场景,后续需要调用游戏场景相对应的游戏事件检测模型,即可根据调用关联该游戏场景的模型中各层对应的权重参数快速配置出相应的游戏事件检测模型。
143.本实施例中,通过对图像序列中的多个画面采用游戏场景识别模型确定出当前游戏场景,无需人为干预,执行高效。
144.一种实施例中,当需要对图像序列中的同一画面采用游戏事件检测模型、场景识别模型、队伍识别模型、游戏场景识别模型中任意多个模型时,控制单元可采用多线程并发运行的方式,每个线程对应启用其中一个模型,通过多线程并发运行多个模型实现同时处理同一画面,以便基本同步获得各个模型相对应的输出结果,大大缩短通过多个模型获得相应输出结果的总体时间,提升执行和响应效率。
145.本发明还提供了一种灯效控制装置,结合图9,该装置包括:
146.数据获取模块1100,用于获取图像序列,所述图像序列包括同一游戏场景在连续时序下呈现的多个画面;
147.类型预测模块1200,用于采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;
148.类型确定模块1300,用于检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;
149.灯效控制模块1400,用于调用所述目标事件类型相对应的灯效控制指令输入照明
设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。
150.进一步的,所述灯效控制模块1400,包括:
151.第一判断子模块,用于判断当前的目标事件类型与前一个目标事件类型一致时,继续前一个目标事件类型的灯效控制指令对所述照明设备的氛围灯效的控制;
152.第二判断子模块,用于判断当前的目标事件类型与前一个目标事件类型不一致时,替换前一个目标类型的灯效控制指令为当前的目标事件类型的灯效控制指令,输入所述照明设备控制其氛围灯效。
153.进一步的,所述类型预测模块1200之前,包括:
154.场景识别模块,用于采用预设的场景识别模型识别出所述图像序列中各个所述画面相对应的播放场景,所述播放场景包括自玩场景、比赛场景;
155.队伍识别模块,用于采用预设的队伍识别模型识别出所述图像序列中各个所述画面相对应的游戏队伍;
156.队伍确定模块,用于确定所述画面对应的游戏队伍是否属于所述画面对应的播放场景下预设的游戏队伍,当不属于时,忽略将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息。
157.进一步的,所述数据获取模块1100之前,包括:
158.视频流获取模块,用于获取原始视频流,基于所述原始视频流生成两路视频流;
159.视频显示模块,用于将其中一路所述视频流发送至显示设备,以使显示设备根据所述视频流进行显示;
160.格式化处理模块,用于对其中另一路所述视频流进行格式化处理以获得图像序列。
161.进一步的,所述数据获取模块1100之前,包括:
162.第一模型训练模块,用于采集自玩场景及比赛场景的画面构造出训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,训练场景识别模型至收敛状态,使其适于预测画面对应的播放场景;
163.第二模型训练模块,用于采集同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,训练队伍识别模型至收敛状态,使其适于预测画面对应的游戏队伍。
164.进一步的,所述类型预测模块1200之前,包括:
165.场景判断模块,用于根据所述图像序列中的多个画面判断当前游戏场景;
166.方案确定模块,用于根据游戏场景确定灯效控制方案,所述灯效控制方案包括所述游戏场景所包含的各种事件类型及其相对应的灯效控制指令;
167.模型配置模块,用于根据游戏场景调用相应的权重参数配置游戏事件检测模型。
168.本技术还提供一种存储有计算机可读指令的存储介质,计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行本技术任一实施例的灯效控制方法的步骤。
169.本技术还提供一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被一个或多个处理器执行时实现本技术任一实施例所述方法的步骤。
170.本领域普通技术人员可以理解实现本发明上述实施例方法中的全部或部分流程,
是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的计算机可读存储介质可为磁碟、光盘、只读存储记忆体(read-only memory,rom)等,或随机存储记忆体(random access memory,ram)等。
171.综上所述,本技术实现迎合实时游戏时画面而提供相对应的氛围灯效展示,实现适应不同目标事件类型而进行多样化的灯效控制,提升用户的沉浸式视觉体验。进一步,能够实现适配用户选取的游戏队伍针对展示其对应的氛围灯效,满足用户的个性化需求,提升用户满意度。
172.本技术领域技术人员可以理解,本技术中已经讨论过的各种操作、方法、流程中的步骤、措施、方案可以被交替、更改、组合或删除。进一步地,具有本技术中已经讨论过的各种操作、方法、流程中的其他步骤、措施、方案也可以被交替、更改、重排、分解、组合或删除。进一步地,现有技术中的具有与本技术中公开的各种操作、方法、流程中的步骤、措施、方案也可以被交替、更改、重排、分解、组合或删除。
173.以上所述仅是本技术的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本技术原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本技术的保护范围。
技术特征:
1.一种灯效控制方法,其特征在于,包括如下具体步骤:获取图像序列,所述图像序列包括同一游戏场景在连续时序下呈现的多个画面;采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。2.如权利要求1所述的方法,其特征在于,调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效,包括:判断当前的目标事件类型与前一个目标事件类型一致时,继续前一个目标事件类型的灯效控制指令对所述照明设备的氛围灯效的控制;判断当前的目标事件类型与前一个目标事件类型不一致时,替换前一个目标类型的灯效控制指令为当前的目标事件类型的灯效控制指令,输入所述照明设备控制其氛围灯效。3.如权利要求1所述的方法,其特征在于,采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型之前,包括:采用预设的场景识别模型识别出所述图像序列中各个所述画面相对应的播放场景,所述播放场景包括自玩场景、比赛场景;采用预设的队伍识别模型识别出所述图像序列中各个所述画面相对应的游戏队伍;确定所述画面对应的游戏队伍是否属于所述画面对应的播放场景下预设的游戏队伍,当不属于时,忽略将所述图像序列中相应的画面用于采用预设的游戏事件检测模型提取该画面的图像特征信息。4.如权利要求1所述的方法,其特征在于,获取图像序列之前,包括:获取原始视频流,基于所述原始视频流生成两路视频流;将其中一路所述视频流发送至显示设备,以使显示设备根据所述视频流进行显示;对其中另一路所述视频流进行格式化处理以获得图像序列。5.如权利要求1所述的方法,其特征在于,获取图像序列之前,包括:采集自玩场景及比赛场景的画面构造出训练样本,为各个训练样本对应标注表征其画面的播放场景的监督标签,训练场景识别模型至收敛状态,使其适于预测画面对应的播放场景;采集同一游戏场景下全量的游戏队伍的画面构造出训练样本,为各个训练样本对应标注表征其画面的游戏队伍的监督标签,训练队伍识别模型至收敛状态,使其适于预测画面对应的游戏队伍。6.如权利要求1所述的方法,其特征在于,采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息之前,包括:根据所述图像序列中的多个画面判断当前游戏场景;根据游戏场景确定灯效控制方案,所述灯效控制方案包括所述游戏场景所包含的各种事件类型及其相对应的灯效控制指令;根据游戏场景调用相应的权重参数配置游戏事件检测模型。
7.一种灯效控制设备,包括控制单元、照明设备,所述照明设备内置灯效控制电路,其特征在于,所述控制单元用于运行计算机程序产品,当所述计算机程序产品运行时,执行如权利要求1至6中任意一项所实现的灯效控制方法。8.一种灯效控制装置,其特征在于,包括:数据获取模块,用于获取图像序列,所述图像序列包括同一游戏场景在连续时序下呈现的多个画面;类型预测模块,用于采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;类型确定模块,用于检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;灯效控制模块,用于调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。9.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行如权利要求1至6任一项所述的灯效控制方法。10.一种计算机程序产品,其特征在于,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现权利要求1至6中任意一项所述方法的步骤。
技术总结
本发明提供了一种灯效控制方法、装置、产品、介质及灯效控制设备,所述方法包括如下步骤:获取图像序列,所述图像序列包括同一游戏场景在连续时序下呈现的多个画面;采用预设的游戏事件检测模型提取所述图像序列中的各个画面的图像特征信息,根据所述图像特征信息预测相应的画面相对应的事件类型;检测连续多个所述画面的事件类型是否一致,当一致时,确认产生目标事件类型;调用所述目标事件类型相对应的灯效控制指令输入照明设备的灯效控制电路以产生与所述目标事件类型相应的氛围灯效。所述方法能够根据画面对应的目标事件类型而相应控制照明设备发光,实现适应不同目标事件类型而进行多样化的灯效控制,提升用户的沉浸式视觉体验。式视觉体验。式视觉体验。
技术研发人员:
洪俊艺 吴文龙
受保护的技术使用者:
深圳市千岩科技有限公司
技术研发日:
2022.11.30
技术公布日:
2023/3/9