异构实时信息处理系统设计方法

阅读：评论：0

1.本技术涉及嵌入式系统技术领域，特别是涉及一种异构实时信息处理系统设计方法。

背景技术：

2.超大规模集成电路和自动化智能化技术的飞速发展使得嵌入式计算系统融入我们日常生活，并向多核化、异构化和网络化发展。如今，异构嵌入式系统将计算与网络深度融合演化成一个复杂的系统。大量的处理单元（pe）分布在网络的各个位置。由于不同的计算任务负载和工作环境需要，pe可以使用不同的芯片、指令集架构，拥有不同的硬件协处理器，集成不同的电子单元从而呈现出明显的异构特性。pe之间可以通过如can、uart、lin、most以及ethernet等多种网络互连，不同网络之间又可以通过中央网关相连。
3.从计算机系统的角度看，异构嵌入式系统由计算单元、控制器单元、执行器单元以及网络系统构成。异构性表现在pe计算效率的不同，pe集成了不同指令集的cpu、数字信号处理器、fpga和其他专门定制的芯片，对于相同的计算任务，不同的pe耗时不同。例如，执行计算密集型的密码学任务，使用高效的fpga会比使用通用计算的cpu更加迅速。从通信的角度看，物理分布的pe在网络中也是分布式的，网络可以是单总线网络。
4.根据应用场景不同，异构分布式嵌入式系统的设计实现着重考虑的系统约束和性能要求也不同。由此提出很多不同的优化设计方法，用于给出满足不同性能约束和优化目标的异构分布式嵌入式系统的任务划分策略。大体可以分为以下几种：软硬件划分启发式的优化方法，在系统执行时间约束、各处理器内存约束和各硬件部件面积约束下，最小化系统能源消耗。以时间优化作为核心目标的优化方法，在应用程序和系统环境相关的特定约束条件下，将并行应用程序任务分配给异构分布式计算资源，使系统完成时间最小化。以负载平衡和功率分配作为目标的优化方法，结合负载平衡、能源效率和任务优先级，使一般任务的平均响应时间最小化。这些方法各具特点，各自适应不同的应用场景，但较为理论化，较难投入实际应用。

技术实现要素：

5.基于此，有必要针对上述技术问题，提供一种异构实时信息处理系统设计方法，以便确保信息处理速度。
6.一种异构实时信息处理系统设计方法，方法包括：获取当前的异构分布式嵌入式系统以及当前部署的任务；异构分布式嵌入式系统包括多个节点；每一节点均为一个异构嵌入式系统；每一节点执行一个子任务，所有子任务组成当前部署的任务；当任一节点执行的子任务发生变化时，确定对应节点中的待更新芯片，根据变化后的子任务确定新程序，对比新程序与待更新芯片的现有程序得到初始更新部分和对应的初始更新区域；
根据初始更新区域与待更新芯片的flash的覆盖度，以更新时间最短原则自适应调整更新粒度，以确定优化更新部分和对应的优化更新区域，由对应节点的上级控制设备通过对应节点的通信接口向待更新芯片发送新程序，并在优化更新区域写入对应的优化更新部分，完成程序更新，以满足对应的子任务需求；更新粒度包括扇区、块和整片flash。
7.上述异构实时信息处理系统设计方法，由多个异构嵌入式系统即多个节点组成异构分布式嵌入式系统，每一节点执行一个子任务，所有子任务组成当前部署的任务。当任一节点的子任务发生变化时，需要对相应节点中的至少一个芯片进行程序更新，以满足子任务需求。考虑到程序更新对flash寿命的影响，本方法首先对比新程序与待更新芯片的现有程序，以此得到初始更新部分及其在待更新芯片flash中的位置，即对应的初始更新区域；接着根据初始更新区域与flash的覆盖度，以更新时间最短原则自适应调整更新粒度，即选择以扇区为更新单位、以块为更新单位还是以整片flash为更新单位，动态调整更新粒度，在确保程序更新的实时性的前提下，可以延长flash的使用寿命；调整更新粒度后可以确定优化更新部分和对应的优化更新区域，由对应节点的上级控制设备通过对应节点的通信接口向待更新芯片发送新程序，并在优化更新区域写入对应的优化更新部分，完成程序更新，以满足对应的子任务需求，可以知道，在程序更新过程中，本方法可以有选择地选择更新分布式系统中各节点中芯片核心上运行的应用程序，其他芯片核心不受影响。综上，本发明的系统设计方法，可以根据实际部署的任务需求，实时更新程序以满足任务需求。
附图说明
8.图1为一个实施例中异构实时信息处理系统设计方法的流程示意图；图2为一个实施例中通过卷积神经网络执行异构分布式嵌入式系统部署的任务的示意图；图3为一个实施例中异构嵌入式系统示意图；图4为另一个实施例中异构嵌入式系统部署lstm网络的示意图。
具体实施方式
9.为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本技术，并不用于限定本技术。
10.在一个实施例中，如图1所示，提供了一种异构实时信息处理系统设计方法，包括以下步骤：步骤102，获取当前的异构分布式嵌入式系统以及当前部署的任务。
11.异构分布式嵌入式系统包括多个节点，每一节点均为一个异构嵌入式系统，每一节点执行一个子任务，所有子任务组成当前部署的任务。异构是指嵌入式系统中包含几种不同的核心芯片，例如arm+dsp等。本方法中的分布式嵌入式系统是一种紧耦合互联架构，这种紧耦合互联架构可以基于srio总线网络实现。
12.步骤104，当任一节点执行的子任务发生变化时，确定对应节点中的待更新芯片，根据变化后的子任务确定新程序，对比新程序与待更新芯片的现有程序得到初始更新部分和对应的初始更新区域。
13.当某一节点的子任务需求提高，相应地需要提高该节点的计算能力，由于每个节点中包括多种核心芯片，若以节点为更新单位，将造成不必要的资源浪费，因此本方法根据新的子任务需求和节点中各个芯片的计算资源，确定节点中的待更新芯片，并通过对比待更新芯片的现有程序与新程序得到初始更新部分，即新程序相对现有程序的改动部分，以及改动部分对应的位置，即初始更新区域。
14.步骤106，根据初始更新区域与待更新芯片的flash的覆盖度，以更新时间最短原则自适应调整更新粒度，以确定优化更新部分和对应的优化更新区域。
15.其中，更新粒度包括扇区、块和整片flash，即对flash中程序进行更新时，可以按照扇区、块、整片flash擦除然后写入数据的方式进行，一般flash只有几千次烧写寿命，如果更新程序频繁会导致flash损坏。flash包含若干个块，每个块包含若干扇区，各个块中的扇区连续存在，以块为单位进行擦除并写入花费的时间小于单独对块中每个扇区擦除写入的时间，对整个flash进行更新时间小于以块为单位对所有块更新时间。
16.由于程序更新时不会改变所有的数据，因此使用增量更新的方式更新程序，仅对需要更新部分进行更新可以减少程序更新时间，并且动态改变程序烧写位置可以延长flash使用寿命。
17.一般情况下，自适应调整更新粒度会导致除去初始更新区域中的现有程序需要被擦除重写外，还需要对其他区域进行擦除重写的更新操作，以满足更新时间最短原则，对应地会得到优化更新部分和对应的优化更新区域。
18.步骤108，由对应节点的上级控制设备通过对应节点的通信接口向待更新芯片发送新程序，并在优化更新区域写入对应的优化更新部分，完成程序更新，以满足对应的子任务需求。
19.可以理解，本方法在不破坏系统硬件整体设计和额外引入调试接口的情况下，通过已有的对上一级通信接口对指定多核芯片上指定核心的信息处理算法进行热更新，即可以有选择地选择更新分布式系统中各节点中芯片核心上运行的应用程序，其他芯片核心不受影响。
20.上述异构实时信息处理系统设计方法，由多个异构嵌入式系统即多个节点组成异构分布式嵌入式系统，每一节点执行一个子任务，所有子任务组成当前部署的任务。当任一节点的子任务发生变化时，需要对相应节点中的至少一个芯片进行程序更新，以满足子任务需求。考虑到程序更新对flash寿命的影响，本方法首先对比新程序与待更新芯片的现有程序，以此得到初始更新部分及其在待更新芯片flash中的位置，即对应的初始更新区域；接着根据初始更新区域与flash的覆盖度，以更新时间最短原则自适应调整更新粒度，即选择以扇区为更新单位、以块为更新单位还是以整片flash为更新单位，动态调整更新粒度，在确保程序更新的实时性的前提下，可以延长flash的使用寿命；调整更新粒度后可以确定优化更新部分和对应的优化更新区域，由对应节点的上级控制设备通过对应节点的通信接口向待更新芯片发送新程序，并在优化更新区域写入对应的优化更新部分，完成程序更新，以满足对应的子任务需求，可以知道，在程序更新过程中，本方法可以有选择地选择更新分布式系统中各节点中芯片核心上运行的应用程序，其他芯片核心不受影响。综上，本发明的系统设计方法，可以根据实际部署的任务需求，实时更新程序以满足任务需求。
21.在一个实施例中，根据初始更新区域与待更新芯片的flash的覆盖度，以更新时间
最短原则自适应调整更新粒度，包括：分别获取初始更新区域在待更新芯片的flash的各个块中覆盖的扇区数，根据扇区数确定以扇区为更新粒度时的扇区更新总时间，将扇区更新总时间与对应的块更新时间比较，当块更新时间更短时，将对应的块中的更新粒度初步调整为块；根据以块为更新粒度的块总数得到块更新总时间，比较块更新总时间和整片flash更新时间，当整片flash更新时间较短时，将更新粒度进一步调整为整片flash。
22.在第一次比较之后得到的更新粒度结果中可能包括a个块以扇区为更新粒度，b个块以块为更新粒度，那么进行第二次比较时是以b个块的块更新总时间与整片flash更新时间比较，若整片flash更新时间相比之下更短，则将待更新芯片的整片flash擦除重写进行更新，否则第一次比较的结果为准进行更新。
23.假设某芯片使用flash对单个扇区进行擦除并写入即更新需要的时间为t1，对一个块更新时间为t2，对整片flash更新时间为t3，上位机编译好新程序之后会与系统现有程序进行对比，得到需要更新的部分在flash中的位置，先对各个块内需要更新的扇区计算更新时间，假设某块内需要更新n1个扇区，则以扇区为单位更新该块需要n1*t1时间，按照时间最短原则，取min[t1*n1,t2]为该块更新最小时间，当t2小于t1*n1时以块为单位对该块以块为单位更新，反之对该块以扇区为单位更新。计算出所有需要更新块时间，假设共有m个块需要更新，再判断对块进行更新和对整片flash进行更新时间，取对应方式进行更新，此时更新时间最短。
[0024]
例如当芯片是soc芯片如zynq时，zynq中两个arm核与fpga共用一个flash，现有技术会将整个zynq的flash都更新，没有针对性地选择更新。而本方法可以更准确更新到zynq的某个核或是某部分处理资源，实现更准确地更新。这需要提前对zynq的flash进行规划，指定出各核在flash中占的地址。
[0025]
在一个实施例中，在确定对应节点中的待更新芯片之前，包括：由异构分布式嵌入式系统通过自举过程获取各个节点的的存储空间映射关系，由任务调度节点创建通用命名空间描述表，由各个节点基于通用命名空间描述表和存储空间映射关系得到全局存储映射描述表。当接入或移除节点时会动态更新全局存储映射描述表，这样每个节点都知道当前系统拥有的计算资源情况。基于srio总线实现的紧耦合系统互联架构，具备较强的灵活性，方便分系统（节点）内部、或是分系统（节点）之间进行灵活高效的互联，在互联架构上接入新的节点或是删除节点，都不会对以往的节点软硬件产生很大的影响，各个节点间可进行实时高效的网络通信。
[0026]
在一个实施例中，在多个节点中包含一个任务调度节点；由对应节点的上级控制设备通过对应节点的通信接口向待更新芯片发送新程序，并在优化更新区域写入对应的优化更新部分，完成程序更新，包括：由任务调度节点调用数据访问api，根据全局存储映射描述表得到待更新芯片对应的指定节点的局部地址，将局部地址和物理地址查询指令封装后传入事务控制层；由事务控制层根据协议将指定节点的id、功能配置参数、数据以及计算结果返回地址组成事务层数据包发送给任务调度节点；由任务调度节点根据事务层数据包通过事务控制层解析得到指定节点的物理地
址，将更新指令根据对应的物理地址通过通信接口传输至指定节点的待更新芯片，并在优化更新区域写入对应的优化更新部分，完成程序更新，并将更新结果返回给任务调度节点；更新指令中包含优化更新部分和优化更新区域；由任务调度节点通过事务控制层解析得到更新结果，通过全局存储映射描述表将更新结果存储到任务调度节点用于存放计算结果的存储空间中。
[0027]
在一个实施例中，每一节点包括一颗多核dsp芯片以及若干zynq芯片；每颗zynq芯片包括fpga和arm。
[0028]
由一颗zynq芯片作为中央处理单元，对应的arm与外部上级控制设备通过通信接口进行通信，接收外部上级控制设备的控制指令并在对应节点内转发；由一颗zynq芯片作为数据预处理单元，接收并对外部下级数据进行预处理后转发到对应的数据处理单元；由一颗多核dsp芯片和其余若干zynq芯片作为数据处理单元，由作为数据处理单元的zynq芯片接收数据预处理单元发送的原始的外部下级数据以及预处理后的外部下级数据并进行处理得到相应的处理结果，由多核dsp芯片对处理结果进行综合分析得到最终结果并经中央处理单元传输至外部上级控制设备。
[0029]
zynq和多核dsp的软件均分为监控软件和应用软件两类。软件二进制文件均存储在各自芯片配套的flash存储器中。
[0030]
监控软件指在本信息处理系统正式工作前所运行的程序，包括以下功能：初始化ddr，pll，flash和gpio等外围硬件设备；接受上级控制设备的自检指令，用以测试硬件是否能够正常工作，测试各单元之间和整个系统对外的连通性；接收上级控制设备的更新指令，逐帧接收更新程序文件并校验，然后更新对应flash上各自芯片核心指定应用软件文件，其中包括zynq上pl端应用程序，ps端指定arm核应用程序和多核dsp指定核应用程序；应用程序指在本信息处理系统正式工作后所运行的程序，用以完成本信息处理系统所分配的信息处理任务。
[0031]
本信息处理系息处理数据的流程如下：1、上电后，各处理单元的主核通过自加载的方法从各自的flash中将二进制文件搬运到内存指定位置，设置主pc指针，然后引导各处理单元的监控程序启动。
[0032]
2、当上级控制设备发来运行指令时，当前处理单元芯片主核（core0）的监控程序响应该指令并传递到本系统内下一层处理单元，同时将指定的多核应用程序文件逐个搬运内存指定位置，分别在指定寄存器填入程序在内存中的入口地址，并等待下一层处理单元回复，与本处理单元回复一起返回上一层处理单元，最后以中断方式触发多核跳转，使每个核的pc指针跳转到指定位置，开始运行各自应用程序，实现由主核启动监控程序，其他核休眠的监控阶段切换到多核均启动各自应用程序的应用阶段。
[0033]
3、当上级控制设备发来自检指令时，当前处理单元芯片主核（core0）的监控程序或处理程序响应该指令并传递给本系统内下一层处理单元，然后完成本级单元以下操作：1)测试本级单元所用到的各类硬件接口，例如gpio，srio，ddr，flash等硬件设备是否工作正常；2)读取本级单元所用到的软件版本信息，上电次数和其他软件配置信息等；3)在等待时间结束时，读取下级单元的自检结果，与本自检结果拼接返回上级处理单元。
[0034]
最终在对外控制接口单元返回整个系统的自检结果，以便上级控制设备根据自检结果发送后续控制指令。
[0035]
4、自检无误后，开始正常的数据处理流程，在预处理单元zynq-1中进行数据预处理，通过数据传输通道在数据处理单元zynq-2和zynq-3中分别对不同通路的数据进行处理，并将处理后的数据通过数据传输通道发送给多核dsp单元进行数据融合处理，得到最终处理结果，结果通过通信通道转发给中央处理单元zynq-4，并最终返回给上级控制单元。
[0036]
在一个实施例中，程序更新的步骤包括：由待更新芯片对应的指定节点的中央处理单元解析外部上级控制设备发送的更新控制指令，得到待更新芯片的主核位置以及含有帧头信息和数据段的更新帧，并根据指定芯片主核位置将更新帧逐帧转发至待更新芯片的主核；由主核根据帧头信息解析出需要更新的程序所属的核心编号core_n（对于多核dsp或多核arm），待更新程序文件传输完成并校验无误后，将完整的更新程序文件写入核心编号core_n位置对应的flash地址，完成对待更新芯片的待更新核心的在线更新。等待后续运行时，该指定核心会将更新程序文件搬运到内存指定位置并运行。
[0037]
在一个实施例中，任务通过神经网络执行；本方法还包括：将神经网络的多个网络层对应的计算任务依序分配给各个节点，由每一节点执行至少一个网络层的计算任务，当前节点执行完成当前输入在对应网络层的计算任务并传输计算结果至下一节点后，由下一节点执行计算结果在对应网络层的计算任务，并由当前节点继续接收下一输入并执行计算任务。如图2所示，提供通过卷积神经网络执行多异构分布式嵌入式系统部署的任务的示意图。在此示意图中，卷积神经网络包含9个网络层，多异构分布式嵌入式系统包括3个节点，每一节点负责执行3个网络层的计算任务。可以看到当节点1执行完成网络层1、2、3的计算任务后，将计算结果输入到网络层4，此时节点2开始执行计算任务，以此类推。可以注意到，当节点2开始执行任务时，节点1会接着接收下一网络输入并执行计算任务，也就是说，当网络运行一小段时间后，每个节点都在执行计算任务，例如在网络层1、2、3中为层间串行，在网络层1、2、3和网络层4、5、6之间为层间并行，层间串行+层间并行实现了信息的流水线处理，有效提高了信息处理速度和处理效率，充分利用了系统的计算资源。如果节点数足够多，即计算资源充足时，可以用多个节点完成一个计算任务，例如，假设有n个节点，可以给每一节点分配一个网络层的计算任务，同时如果节点的计算任务负担相差不大时，宏观上计算速度可增大n倍。
[0038]
当节点数发生改变或部署的任务发生改变时，将神经网络的多个网络层对应的计算任务进行重新分配，得到每一节点的更新子任务，根据对应的更新子任务进行待更新节点的程序更新。
[0039]
节点数发生变化，可能是因为部署的任务的需求发生变化，需要增/减节点数。通过通信接口对指定节点中的指定芯片进行在线更新，为独立更新，不影响其他节点中的芯片的使用，也不影响同一指定节点中其他芯片的使用。
[0040]
当部署任务发生变化时，例如，当前执行目标检测任务，下一任务为目标跟踪，但是现有节点不足以同时运行两项任务，此时可以对指定芯片进行在线升级，使得升级后的分布式系统的计算资源可以满足目标跟踪任务的需求。
[0041]
在一个实施例中，神经网络为卷积神经网络；将神经网络的多个网络层对应的计
算任务依序分配给各个节点，由每一节点执行至少一个网络层的计算任务，包括：将卷积神经网络的多个网络层对应的计算任务依序分配给各个节点，在对应节点的fpga上例化卷积神经网络的卷积层、池化层和/或激活层，由对应的arm根据卷积神经网络的结构并配置网络参数；由arm将卷积神经网络各个网络层的权重和当前网络层的输入写入fpga的ddr中，并调用对应的卷积层、池化层/或激活层进行运算得到当前网络层的输出；将当前网络层对应节点的fpga的ddr的输出中作为下一网络层的输入，由下一网络层对应节点的arm控制下一网络层的运算。
[0042]
可以选择例化使用较多数量的3*3大小的卷积核和较少数量的其他尺寸的卷积核，算法使用不同尺寸卷积核进行训练，在部署推理时使用重参数化方法，将其余尺寸卷积核重参数化等效为3*3大小后部署，充分利用fpga上的硬件资源。由于非线性函数计算复杂而且计算延迟大，所以采用了查表的方式来实现激活函数运算层，以前一层计算的结果在提前写好的非线性函数映射表中寻址，完成非线性变换。所有层运算结束后，得到最后一层输出。由于fpga中例化的ip是以层为单位计算的，当系统计算资源足够时，可以以流水线的方式将顺序网络分为n层，由n个节点共同完成一个算法，宏观上可加速算法n倍。
[0043]
只要单次计算数据缓存速度不大于ddr的带宽，不会带来额外的开销，对计算实时性不会有太大影响。
[0044]
如图3所示，提供一个异构嵌入式系统的示意图。在该示意图中，该节点包括一颗多核dsp芯片和4颗zynq芯片，zynq芯片的型号为zynq-7000。
[0045]
在一个实施例中，神经网络为lstm网络；将神经网络的多个网络层对应的计算任务依序分配给各个节点，由每一节点执行至少一个网络层的计算任务，包括：将lstm网络的多个网络层对应的计算任务依序分配给各个节点，在对应节点的fpga上例化lstm网络的l-pu（lstm处理单元）；l-pu包括ct模块（状态计算模块）和多个pu模块（处理单元模块）；每一pu模块包括矩阵缓冲模块、矩阵乘法模块、矩阵加法模块以及第一寻址模块；ct模块包括锁存模块，缓冲模块和第二寻址模块；第一寻址模块和第二寻址模块用于通过查表法完成对应网络层的非线性激活函数的运算。
[0046]
一个l-pu中有pu0，pu1，pu2，pu3，因其功能一致，用pux表示。使用pux模块完成矩阵乘法、矩阵加法、非线性激活，ct模块将pux模块计算的结果和缓存中的数据进行矩阵乘法、矩阵加法、非线性激活，然后得到计算结果，同时将结果写入缓存。
[0047]
如图4所示，提供异构嵌入式系统部署lstm网络的示意图。其中w为权重，b为偏置，h
t-1
为上一时刻隐藏层输出， c
t-1
为上一时刻隐藏层状态，h
t
为当前时刻隐藏层输出， c
t
为当前时刻隐藏层状态。
[0048]
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0049]
以上实施例仅表达了本技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本技术构思的前提下，还可以做出若干变形和改进，这些都属于本技术的保护范围。因此，本技术专利的保护范围应以所附权利要求为准。

技术特征：

1.一种异构实时信息处理系统设计方法，其特征在于，所述方法包括：获取当前的异构分布式嵌入式系统以及当前部署的任务；所述异构分布式嵌入式系统包括多个节点；每一节点均为一个异构嵌入式系统；每一节点执行一个子任务，所有子任务组成当前部署的任务；当任一节点执行的子任务发生变化时，确定对应节点中的待更新芯片，根据变化后的子任务确定新程序，对比所述新程序与待更新芯片的现有程序得到初始更新部分和对应的初始更新区域；根据所述初始更新区域与所述待更新芯片的flash的覆盖度，以更新时间最短原则自适应调整更新粒度，以确定优化更新部分和对应的优化更新区域；所述更新粒度包括扇区、块和整片flash；由对应节点的上级控制设备通过所述对应节点的通信接口向所述待更新芯片发送新程序，并在所述优化更新区域写入对应的优化更新部分，完成程序更新，以满足对应的子任务需求。2.根据权利要求1所述的方法，其特征在于，根据所述初始更新区域与所述待更新芯片的flash的覆盖度，以更新时间最短原则自适应调整更新粒度，包括：分别获取所述初始更新区域在所述待更新芯片的flash的各个块中覆盖的扇区数，根据所述扇区数确定以扇区为更新粒度时的扇区更新总时间，将所述扇区更新总时间与对应的块更新时间比较，当所述块更新时间更短时，将对应的块中的更新粒度初步调整为块；根据以块为更新粒度的块总数得到块更新总时间，比较所述块更新总时间和整片flash更新时间，当所述整片flash更新时间较短时，将更新粒度进一步调整为整片flash。3.根据权利要求1或2所述的方法，其特征在于，在确定对应节点中的待更新芯片之前，包括：由所述异构分布式嵌入式系统通过自举过程获取各个节点的的存储空间映射关系，由任务调度节点创建通用命名空间描述表，由各个节点基于所述通用命名空间描述表和所述存储空间映射关系得到全局存储映射描述表。4.根据权利要求3所述的方法，其特征在于，在所述多个节点中包含一个任务调度节点；由对应节点的上级控制设备通过所述对应节点的通信接口向所述待更新芯片发送新程序，并在所述优化更新区域写入对应的优化更新部分，完成程序更新，包括：由所述任务调度节点调用数据访问api，根据所述全局存储映射描述表得到待更新芯片对应的指定节点的局部地址，将所述局部地址和物理地址查询指令封装后传入事务控制层；由所述事务控制层根据协议将指定节点的id、功能配置参数、数据以及计算结果返回地址组成事务层数据包发送给所述任务调度节点；由所述任务调度节点根据所述事务层数据包通过事务控制层解析得到指定节点的物理地址，将更新指令根据对应的物理地址通过通信接口传输至指定节点的待更新芯片，并在所述优化更新区域写入对应的优化更新部分，完成程序更新，并将更新结果返回给所述任务调度节点；所述更新指令中包含所述优化更新部分和所述优化更新区域；由所述任务调度节点通过所述事务控制层解析得到所述更新结果，通过所述全局存储
映射描述表将所述更新结果存储到所述任务调度节点用于存放计算结果的存储空间中。5.根据权利要求1所述的方法，其特征在于，每一所述节点包括一颗多核dsp芯片以及若干zynq芯片；每颗zynq芯片包括fpga和arm；由一颗zynq芯片作为中央处理单元，对应的arm与外部上级控制设备通过通信接口进行通信，接收所述外部上级控制设备的控制指令并在对应节点内转发；由一颗zynq芯片作为数据预处理单元，接收并对外部下级数据进行预处理后转发到对应的数据处理单元；由一颗多核dsp芯片和其余若干zynq芯片作为数据处理单元，由作为数据处理单元的zynq芯片接收数据预处理单元发送的原始的外部下级数据以及预处理后的外部下级数据并进行处理得到相应的处理结果，由所述多核dsp芯片对所述处理结果进行综合分析得到最终结果并经所述中央处理单元传输至所述外部上级控制设备。6.根据权利要求5所述的方法，其特征在于，程序更新的步骤包括：由待更新芯片对应的指定节点的所述中央处理单元解析所述外部上级控制设备发送的更新控制指令，得到待更新芯片的主核位置以及含有帧头信息和数据段的更新帧，并根据所述主核位置将所述更新帧逐帧转发至待更新芯片的主核；由所述主核根据所述帧头信息解析出需要更新的程序所属的核心编号，待更新程序文件传输完成并校验无误后，将完整的更新程序文件写入所述核心编号对应的flash地址，完成对待更新芯片的待更新核心的在线更新。7.根据权利要求5所述的方法，其特征在于，所述任务通过神经网络执行；所述方法还包括：将所述神经网络的多个网络层对应的计算任务依序分配给各个节点，由每一节点执行至少一个网络层的计算任务，当前节点执行完成当前输入在对应网络层的计算任务并传输计算结果至下一节点后，由所述下一节点执行所述计算结果在对应网络层的计算任务，并由所述当前节点继续接收下一输入并执行计算任务；当节点数发生改变或部署的任务发生改变时，将所述神经网络的多个网络层对应的计算任务进行重新分配，得到每一节点的更新子任务，根据对应的更新子任务进行待更新节点的程序更新。8.根据权利要求7所述的方法，其特征在于，所述神经网络为卷积神经网络；将所述神经网络的多个网络层对应的计算任务依序分配给各个节点，由每一节点执行至少一个网络层的计算任务，包括：将所述卷积神经网络的多个网络层对应的计算任务依序分配给各个节点，在对应节点的fpga上例化所述卷积神经网络的卷积层、池化层和/或激活层，由对应的arm根据所述卷积神经网络的结构并配置网络参数；由所述arm将所述卷积神经网络各个网络层的权重和当前网络层的输入写入所述fpga的ddr中，并调用对应的卷积层、池化层和/或激活层进行运算得到当前网络层的输出；将当前网络层对应节点的fpga的ddr中的输出作为下一网络层的输入，由下一网络层对应节点的arm控制所述下一网络层的运算。9.根据权利要求7所述的方法，其特征在于，所述神经网络为lstm网络；将所述神经网络的多个网络层对应的计算任务依序分配给各个节点，由每一节点执行
至少一个网络层的计算任务，包括：将所述lstm网络的多个网络层对应的计算任务依序分配给各个节点，在对应节点的fpga上例化所述lstm网络的lstm处理单元；所述lstm处理单元包括状态计算模块和多个处理单元模块；每一所述处理单元模块包括矩阵缓冲模块、矩阵乘法模块、矩阵加法模块以及第一寻址模块；所述状态计算模块包括锁存模块，缓冲模块和第二寻址模块；所述第一寻址模块和所述第二寻址模块用于通过查表法完成对应网络层的非线性激活函数的运算。

技术总结

本申请涉及一种异构实时信息处理系统设计方法，由多个异构嵌入式系统即多个节点组成分布式嵌入式系统，每一节点执行一个子任务，所有子任务组成当前部署的任务。当任一节点的子任务发生变化时，需要对相应节点中的至少一个芯片进行程序更新，以满足子任务需求。首先对比新程序与待更新芯片的现有程序，得到初始更新部分和初始更新区域；接着根据初始更新区域与Flash的覆盖度，以更新时间最短原则自适应动态调整更新粒度，确定优化更新部分和对应的优化更新区域，由对应节点的上级控制设备通过对应节点的通信接口向待更新芯片发送新程序，在优化更新区域写入对应的优化更新部分。综上，本发明可以实时更新程序以满足任务需求。求。求。