CN111837141A - 信息处理装置、信息处理方法以及存储介质 - Google Patents

信息处理装置、信息处理方法以及存储介质 Download PDF

Info

Publication number
CN111837141A
CN111837141A CN201980018597.3A CN201980018597A CN111837141A CN 111837141 A CN111837141 A CN 111837141A CN 201980018597 A CN201980018597 A CN 201980018597A CN 111837141 A CN111837141 A CN 111837141A
Authority
CN
China
Prior art keywords
real
nodes
virtual
information processing
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980018597.3A
Other languages
English (en)
Inventor
伊藤秀将
釜谷幸男
花井克之
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Digital Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Digital Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Digital Solutions Corp filed Critical Toshiba Corp
Publication of CN111837141A publication Critical patent/CN111837141A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/29—Graphical models, e.g. Bayesian networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Neurology (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

实施方式的信息处理装置具有数据取得部以及网络处理部。取得部取得包含多个真实节点和一个以上的真实边缘的图结构数据，所述真实边缘连接所述多个真实节点中的两个。网络处理部基于所述数据取得部所取得的图结构数据，执行在神经网络中使多个虚拟节点各自的第k－1层的特征量至少传播到其他虚拟节点的第k层的特征量的处理(k为1以上的自然数)，所述多个虚拟节点包含所述多个真实节点以及所述一个以上的真实边缘，所述其他虚拟节点与所述各个虚拟节点有连接关系。

Description

信息处理装置、信息处理方法以及存储介质
技术领域
本发明的实施方式关于信息处理装置、信息处理方法以及存储介质。
背景技术
近年来，进行了将人工智能运用于产业领域的尝试。其利用被研究的人工智能技术多是深度学习及其相关技术，适用范围扩展至图像识别、故障分析、特性预测等。
特别是，图像识别中积极地进行了运用卷积神经网络(CNN；ConvolutionalNeural Network)的研究和实际应用。CNN中，对于图像的各像素点实施使用了附近的像素信息的过滤器处理(卷积处理、池化(pooling)处理)后，通过输入至全连接(fullconnection)的神经网络，能够实现提高计算的效率化和精度。可以认为作为过滤器处理的卷积、池化是将实际的视觉系统的结构反映到神经网络的结构中的处理，该实际的视觉系统的结构是指实际的视觉区上的感受野上的处理仅以附近的视觉细胞的信号为对象的局部处理。该过滤器处理中，由视觉区整体来分散并列地进行相同的处理。并且，在反映了视觉系统的神经网络中，各像素彼此的连接结构至少作为刚刚输入后的处理而成为具有局部连接图(graph)结构的处理。与之相关，为了将图结构的数据适用于人工智能，正在进行反映了图结构的神经网络的研究(参照非专利文献1)。
然而，在以往的反映了图结构的神经网络的技术中，存在无法应对大规模化、多样性、变动性等需求的情况。
现有技术文献
非专利文献
非专利文献1：“GRAPH ATTENTION NETWORKS”。Petar Velickovic et al，Published as a conference paper at ICLR 2018
发明内容
发明要解决的课题
本发明要解决的课题是提供一种能够应对更广泛的需求的信息处理装置、信息处理方法、以及存储介质。
用于解决课题的手段
实施方式的信息处理装置具有数据取得部和网络处理部。数据取得部取得包含多个真实节点和一个以上的真实边缘的图结构数据，所述真实边缘连接所述多个真实节点中的两个。网络处理部基于所述数据取得部所取得的图结构的数据，执行在神经网络中使多个虚拟节点各自的第k－1层的特征量至少传播到其他虚拟节点的第k层的特征量的处理，所述多个虚拟节点包含所述多个真实节点以及所述一个以上的真实边缘，所述其他虚拟节点与所述各个虚拟节点有连接关系(k为1以上的自然数)。
附图说明
图1是表示通过以往的构思从图结构的数据生成神经网络的样子的图。
图2是表示通过第一实施方式的方法从图结构的数据生成神经网络的样子的图。
图3是用于对信息处理装置决定系数αi,j的方法进行说明的图。
图4是第一实施方式的信息处理装置的框图。
图5是表示虚拟节点AN的种类的定义的一个例子的图。
图6是表示通过第二实施方式的方法从图结构的数据生成的神经网络的图。
图7是表示根据对象数据的变更而变更神经网络的样子的图。
图8是第二实施方式的信息处理装置的框图。
图9是用于对将第二实施方式适用于电力输电配电网的样子进行说明的图。
图10是表示变形例的神经网络的一个例子的图。
具体实施方式
以下，参照附图对实施方式的信息处理装置、信息处理方法、以及程序进行说明。
首先，对信息处理装置制作的神经网络的原理进行说明。图1是表示通过以往的构思从图结构的数据生成神经网络的样子的图。
图1的上图示意性地示出了图结构的数据。图示的构成中存在真实节点RN1～RN4。“真实节点”是用于与后述的“虚拟节点”区分的概念，意味着信息处理装置所取得的图结构的数据(处理对象数据、元数据)中的节点。真实节点RN1具有特征量h1，真实节点RN2具有特征量h2，真实节点RN3具有特征量h3，真实节点RN4具有特征量h4。特征量例如是向量，但在本说明书以及附图中，标量和向量在表述上不进行区分。
图1的上图中，真实节点RN1与真实节点RN2在真实边缘RE12上被连接，真实节点RN1与真实节点RN3在真实边缘RE13上被连接，真实节点RN1与真实节点RN4在真实边缘RE14上被连接，真实节点RN2与真实节点RN3在真实边缘RE23上被连接。“真实边缘”是用于与后述的“虚拟边缘”区分的概念，意味着信息处理装置所取得的图结构的数据的边缘。这里的“被连接”意味着相互的特征量在下一个状态下对双方的特征量互相带来影响的关系。该定义以无向图作为前提，但在处理有向图的情况下，“被连接”意味着一方的特征量在下一个状态下对另一方的特征量带来影响的关系。
图1的下图是表示基于图1的上图所示的图结构的数据所生成的神经网络的一个例子的图。h1#、h2#、h3#、h4#分别是真实节点RN1、RN2、RN3、RN4各自的特征量的、中间第1层的特征量。如图所示，图1的上图中的真实边缘RE原样地成为神经网络的连接结构。特征量h1#如式(1)所示。式中，α1,1～α1,4是表示传播程度的系数。由此，某真实节点RN的第k层的特征量通过相对于有连接关系的其他真实节点RN以及该真实节点RN自身的、k－1层的特征量分别乘以系数与传播矩阵W并合计而求得。关于传播矩阵将后述。
h1#＝α1,1·W·h1+α1,2·W·h2+α1,3·W·h3+α1,4·W·h4…(1)
(第一实施方式)
图2是表示通过第一实施方式的方法从图结构的数据生成神经网络的样子的图。如图所示，第一实施方式的信息处理装置不仅设定包含真实节点RN的虚拟节点AN，还设定包含真实边缘RE的虚拟节点AN，并生成神经网络，该神经网络是使虚拟节点AN的第k－1层的特征量传播到有连接关系的其他虚拟节点AN的第k层的特征量、以及该虚拟节点AN自身的第k层的特征量的神经网络。k为1以上的自然数，k＝0的层例如意味着输入层。
信息处理装置例如基于式(2)决定中间第1层的特征量。式(2)相当于虚拟节点(RN1)的中间第1层的特征量h1#的计算方法。作为一个例子，α1、12是表示虚拟节点(RN1)与虚拟节点(RE12)之间的传播程度的系数。虚拟节点(RN1)的中间第2层的特征量h1##如式(3)所示。中间第3层以后也依次以同样的规则决定特征量。
h1#＝α1,1·W·h1+α1,12·W·h12+α1,13·W·h13+α1,14·W·h14…(2)
h1##＝α1,1·W·h1#+α1,12·W·h12#+α1,13·W·h13#+α1,14·W·h14#…(3)
信息处理装置例如通过基于图注意力网络(Graph Attention Network)的规则决定系数αi,j。图3是用于对信息处理装置决定系数αi,j的方法进行说明的图。信息处理装置将向量(Whi，Whj)输入到单独神经网络a(注意力)，该向量(Whi，Whj)结合了传播源的虚拟节点RNi的特征量hi乘以传播矩阵W而得的向量Whi与传播目标的虚拟节点RNj的特征量hj乘以传播矩阵W而得的向量Whj，并将输出层的向量输入到S型函数(sigmoid函数)、ReLU、归一化指数函数(softmax函数)等的激励函数并归一化并全部相加，从而导出系数αi,j。个别神经网络a是关于成为分析对象的现象预先求得参数等的神经网络。
信息处理装置以一边依照上述的规则，一边按照神经网络的目的的方式决定神经网络的参数(W，αi,j)。神经网络的目的是在以虚拟节点AN作为现在的状态的情况下输出将来的状态，或者是输出用于评价现在的状态的指标，或者是对现在的状态进行分类。
图4是第一实施方式的信息处理装置1的框图。信息处理装置1例如具备数据取得部10、网络处理部30、以及输出部60。这些功能部例如通过CPU(Central Processing Unit)等的硬件处理器来执行程序(软件)来实现。这些构成要素中的一部分或者全部可以通过LSI(Large Scale Integration，大规模集成电路)、ASIC(Application SpecificIntegrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)、GPU(Graphics Processing Unit)等的硬件(回路部；包含circuitry(电路系统))来实现，也可以通过软件与硬件的协作来实现。程序可以预先保存于HDD(Hard DiskDrive)、闪存等的存储装置中，也可以保存于DVD、CD－ROM等的能够装卸的存储介质中，并且通过将存储介质装载于驱动器装置而安装。
数据取得部10例如从外部装置取得图结构的数据20，使该图结构的数据20存储于存储部。存储部例如通过RAM(Random Access Memory)、HDD(Hard Disk Drive)，闪存等实现。图结构的数据20例如是使如图1、图2的上图所示的那样的图结构作为真实节点RN和真实边缘RE的各自的记录而表现的数据。图结构的数据20也可以被赋予作为各个真实节点RN的初始状态的特征量。作为真实节点RN的初始状态的特征量也可以作为与图结构的的数据20不同的数据组而被准备。数据取得部10也可以取代从外部装置取得图结构的数据20而取得预先存储于存储部的图结构的数据20(读出)，也可以取得用户使用输入器件输入的图结构的数据20。
网络处理部30例如具备真实节点真实边缘邻接关系提取部32、虚拟节点元图(meta graph)化部36、以及元图卷积(meta graph convolution)部40。
真实节点真实边缘邻接关系提取部32参照图结构的数据20提取有邻接关系(连接关系)的真实节点RN和真实边缘RE。例如真实节点真实边缘邻接关系提取部32对于各个真实节点RN以及真实边缘RE网罗式地提取有邻接关系(连接关系)的真实节点RN或者真实边缘RE，将它们以建立了对应地形式存储于存储部。
虚拟节点元图化部36，以由真实节点真实边缘邻接关系提取部32所提取的真实节点RN和真实边缘RE被连接的方式生成将虚拟节点AN状态层状地相连的神经网络。此时，虚拟节点元图化部36以一边依照基于上述图注意力网络的规则，一边按照上述神经网络的目的的方式决定传播矩阵W以及系数αi,j。
元图卷积部40例如将虚拟节点AN中的作为真实节点RN的初始值的特征量输入到神经网络，导出各层的虚拟节点AN的状态(特征量)。通过重复执行上述内容，输出部60将虚拟节点AN的特征量输出到外部。
根据以上说明的第一实施方式，能够应对更加广泛的需求。
(第二实施方式)
以下，对第二实施方式进行说明。第二实施方式中，信息处理装置对于成为虚拟节点AN的源的真实节点RN和真实边缘的至少一方设定种类(换言之，对于虚拟节点AN设定种类)，按种类变更设定系数时的规则。更具体而言，信息处理装置按虚拟节点AN的种类使用于决定系数αi,j的传播矩阵W不同，该系数αi,j规定从该虚拟节点AN传播的特征量。
图5是表示虚拟节点AN的种类的定义的一个例子的图。该例中，第二实施方式的信息处理装置对于作为真实节点RN的虚拟节点设定A、B二种的种类，对于作为真实边缘RE的虚拟节点设定L、T二种的种类。图5的上图表示图结构的数据20的内容的一个例子，图5的下图示意性地表示将真实节点RN和真实边缘RE变换为虚拟节点AN的样子。
种类为“A”的真实节点RN(A)仅与种类为“L”真实边缘RE(L)连接。
种类为“B”的真实节点RN(B)与种类为“L”的真实边缘RE(L)和种类为“T”的真实边缘RE(T)双方连接。
种类为“L”的真实边缘RE(L)和种类为“T”的真实边缘RE(T)与连接于自身的真实节点RN的特征量的传播特性相互不同。
接续A，B，L，T的数字是真实节点RN、真实边缘RE、虚拟节点AN的标识符。以下，使A1，B1，L1，T2等的附图标记作为虚拟节点AN的标识符，并且，表示它们的特征量。
图6是表示通过第二实施方式的方法从图结构的数据20生成的神经网络的图。关于神经网络的生成规则与第一实施方式相同，但是第二实施方式的信息处理装置按虚拟节点AN的种类使用于决定系数αi,j的传播矩阵W不同，该决定系数αi,j规定从该虚拟节点AN传播的特征量。具体而言，信息处理装置对从作为真实节点RN(A)的虚拟节点AN传播的特征量适用传播矩阵WA，对从作为真实节点RN(B)的虚拟节点AN传播的特征量适用传播矩阵WB，对从作为真实边缘RE(L)的虚拟节点AN传播的特征量适用传播矩阵WL，对从作为真实节点RE(T)的虚拟节点AN传播的特征量适用传播矩阵WT。各个传播矩阵WA，WB，WL，WT也可以按层而不同。
由此，能够更加正确地跟踪真实节点RN、真实边缘RE的特性的不同，并正确地预测虚拟节点AN的状态(特征量)。
根据第一或者第二实施方式的信息处理装置，能够对对象数据的变更灵活地应对。图7是表示根据对象数据的变更而变更神经网络的样子的图。图7的上图的例子与图5的例子相比，追加有连接真实节点RN(B1)与真实节点RN(B2)的真实边缘RE(T2)。该情况下，如图7的下图所示，在神经网络中追加虚拟节点AN(T2)，并且追加将虚拟节点AN(T2)与虚拟节点AN(B1)、AN(B2)及虚拟节点AN(T2)自身连接的虚拟边缘AE即可。因而，能够对对象数据的变更灵活地应对。
图8是第二实施方式的信息处理装置2的框图。信息处理装置2与第一实施方式相比，例如进一步具备种类设定部34。种类设定部34例如通过CPU等的硬件处理器执行程序(软件)来实现。这些构成要素中的一部分或者全部可以通过LSIASIC、FPGA、GPU等的硬件(回路部；包含circuitry)来实现，也可以通过软件与硬件的协作来实现。程序可以预先保存于HDD、闪存等的存储装置中，也可以保存于DVD、CD－ROM等的能够装卸的存储介质中并且通过将存储介质装载于驱动器装置而安装。
种类设定部34参照由真实节点真实边缘邻接关系提取部32所提取的结果，对真实节点RN以及真实边缘RE的各个赋予上述那样的种类。
虚拟节点元图化部36根据基于上述图注意力网络的规则，并且根据特征量的传播源的种类适用传播矩阵W，决定系数αi,j。
关于其他构成要素的功能与第一实施方式相同。
根据以上说明的第二实施方式，能够应对更广泛的需求。
上述的构成适合分析社会基础设施的状态。例如通过将电力输电配电网、上下水道网等的分析对象作为图结构而捕捉，从而能够进行正确的分析。
图9是用于对将第二实施方式适用于电力输电配电网的样子进行说明的图。图示的构成包含总线(日语原文：バス)1～总线4。总线是指电力的供给源、需求者所连接的“位置”那样的概念。总线1与总线2之间设有变压器。总线2连接有60[MW]的需求者。总线2与总线3之间通过70[km]的电力线连接。总线3连接有发电机和70[MW]的需求者。总线2与总线4之间通过40[km]的电力线连接，总线3与总线4之间通过50[km]的电力线连接。总线4连接有发电机和10[MW]的需求者。在这样的构成中，若以总线为真实节点、变压器为种类「T」的真实边缘、电力线为种类「L」的真实边缘来考虑，则能够通过图7所示的图结构的数据以及神经网络来分析状态。该情况下，作为基于真实节点RN的对于虚拟节点AN输入的输入属性有种类、连接的负荷、并联电阻等。作为基于种类「T」的真实边缘RE的对于虚拟节点AN输入的输入属性有回路常数，作为基于种类「L」的真实边缘RE的对于虚拟节点AN输入的输入属性有距离、单元自由度等。输入属性是特征量中的静态信息。
对于被图结构模拟的社会基础设施，通过神经网络进行分析处理的情况下，优选满足以下的要件。
1.大规模性
对社会基础设施的适用基本上需要规模的大小和扩张性。例如，若考虑电力输电配电网，存在成为总线(设备机器、需要负荷等的连接点)数为1万以上的大规模回路网。
2.多样性
应用了以往的神经网络的输入信息大多为均匀的属性信号。例如，图像处理情况下，输入是像素信号这一种类的信息或是其特征信号。然而，社会基础设施的情况下，存在其输入信号数(纬度)为数千以上的情况，网络层也存在为几十层这样的较大规模的情况。若考虑上述的电力输电配电网，则是发电机、变压器、负荷、变换器(日语原文：トランス)、电线等多种的设备相连的大规模系统。
3.变动性
通常，社会基础设施自身的运作期间长，其间机器的维护、改进、置换被反复进行，并且每次进行运作管理的重新评价、投资研究。对于这样的社会基础设施的局部改善、变更，正在寻求不进行模型的再学习就能够跟踪的功能。
与之相对，实施方式的信息处理装置通过在多个虚拟节点AN之间共用使用传播矩阵W，不需要网罗式地搜索关于传播的参数，因此，即使分析对象为大规模也能够抑制处理负荷的增大。通过对于虚拟节点AN设定种类，并且根据种类使传播矩阵W不同，从而能够应对多样性的要求。由于将神经网络中的连接数限定于原始的图结构的数据中有邻接关系(连接关系)的图结构的数据，因此也能够应对变动性的要求。
(第一或者第二实施方式的变形例)
上述各实施方式中使真实节点RN和真实边缘RE为虚拟节点后，将它们在神经网络上不区分而进行处理，但也可以将对于基于真实节点RN的虚拟节点AN的处理和对于基于真实边缘RE的虚拟节点AN的处理一边错开定时一边交替地进行。图10是表示变形例的神经网络的一个例子的图。通过该构成，能够将某真实节点RN的状态更迅速传播到邻接(经由一个真实边缘而连接)的其他真实节点。该情况下，对于从真实边缘的传播，也可以以与图注意力网络的规则不同的规则使信息传播。
根据以上说明至少一个实施方式，通过具有：数据取得部10，取得包含多个真实节点RN和一个以上的真实边缘RE的图结构的数据20，该一个以上的真实边缘RE连接多个真实节点RN中的两个；以及网络处理部30，该网络处理部30基于数据取得部10所取得的图结构的数据20，执行在神经网络中使多个虚拟节点AN的各自的第k－1层的特征量传播到其他虚拟节点AN的第k层的特征量的处理，该多个虚拟节点AN包含多个真实节点RN以及一个以上的真实边缘RE，该其他虚拟节点AN至少与各个虚拟节点AN有连接关系(k为1以上的自然数)，从而能够应对更广泛的需求。
对本发明的几个实施方式进行了说明，但这些实施方式是作为例而提示的，并不意图限定发明的范围。这些实施方式能够以其他各种方式实施，在不脱离发明的主旨的范围内，能够进行各种省略、置换、变更。这些实施方式、其变形与发明的范围、主旨所含的同样地包含于专利权利要求的范围所记载的发明和其均等的范围内。

Claims (7)

1.一种信息处理装置，具备：
数据取得部，取得包含多个真实节点和一个以上的真实边缘的图结构的数据，所述真实边缘连接所述多个真实节点中的两个；以及
网络处理部，基于所述数据取得部所取得的图结构的数据，执行在神经网络中使多个虚拟节点各自的第k－1层的特征量至少传播到其他虚拟节点的第k层的特征量的处理(k为1以上的自然数)，所述多个虚拟节点包含所述多个真实节点以及所述一个以上的真实边缘，所述其他虚拟节点与所述各个虚拟节点有连接关系。
2.根据权利要求1所述的信息处理装置，其中，
所述网络处理部还使所述多个虚拟节点各自的第k－1层的特征量传播到所述各个虚拟节点自身的第k层的特征量。
3.根据权利要求1所述的信息处理装置，其中，
所述网络处理部从多个种类中设定所述虚拟节点的种类，按所述设定的虚拟节点的每个种类，使对系数进行设定的规则不同，所述系数是使所述特征量传播时的系数。
4.根据权利要求1所述的信息处理装置，其中，
所述网络处理部利用基于图注意力网络的规则来设定使所述特征量传播时的系数的至少一部分。
5.根据权利要求4所述的信息处理装置，其中，
所述网络处理部根据传播源的所述虚拟节点的种类来设定传播矩阵，该传播矩阵分别作用于传播源的虚拟节点的特征量和传播目标的虚拟节点的特征量。
6.一种信息处理方法，其中，由计算机执行以下步骤：
取得包含多个真实节点和一个以上的真实边缘的图结构的数据，所述真实边缘连接所述多个真实节点中的两个；以及
基于所述取得的图结构的数据，执行在神经网络中使多个虚拟节点各自的第k－1层的特征量至少传播到其他虚拟节点的第k层的特征量的处理(k为1以上的自然数)，所述多个虚拟节点包含所述多个真实节点以及所述一个以上的真实边缘，所述其他虚拟节点与所述各个虚拟节点有连接关系。
7.一种存储介质，存储有程序，该程序使计算机执行以下步骤：
取得包含多个真实节点和一个以上的真实边缘的图结构的数据，所述真实边缘连接所述多个真实节点中的两个；以及
基于所述取得的图结构的数据，执行在神经网络中使多个虚拟节点各自的第k－1层的特征量至少传播到其他虚拟节点的第k层的特征量的处理(k为1以上的自然数)，所述多个虚拟节点包含所述多个真实节点以及所述一个以上的真实边缘，所述其他虚拟节点与所述各个虚拟节点有连接关系。
CN201980018597.3A 2018-05-23 2019-05-14 信息处理装置、信息处理方法以及存储介质 Pending CN111837141A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018099175A JP6906478B2 (ja) 2018-05-23 2018-05-23 情報処理装置、情報処理方法、およびプログラム
JP2018-099175 2018-05-23
PCT/JP2019/019077 WO2019225399A1 (ja) 2018-05-23 2019-05-14 情報処理装置、情報処理方法、および記憶媒体

Publications (1)

Publication Number Publication Date
CN111837141A true CN111837141A (zh) 2020-10-27

Family

ID=68615581

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980018597.3A Pending CN111837141A (zh) 2018-05-23 2019-05-14 信息处理装置、信息处理方法以及存储介质

Country Status (4)

Country Link
US (1) US20210064978A1 (zh)
JP (1) JP6906478B2 (zh)
CN (1) CN111837141A (zh)
WO (1) WO2019225399A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112560211A (zh) * 2020-12-16 2021-03-26 北京百度网讯科技有限公司 用于调整电网结构的方法、相关装置及计算机程序产品
CN113324754A (zh) * 2021-05-27 2021-08-31 西安交通大学 一种基于多感受野图卷积的齿轮传动系统故障识别方法
CN113759854A (zh) * 2021-09-18 2021-12-07 深圳市裕展精密科技有限公司 基于边缘计算的智能工厂管控系统及方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210287067A1 (en) * 2020-03-11 2021-09-16 Insilico Medicine Ip Limited Edge message passing neural network
CN112284736B (zh) * 2020-10-23 2022-02-01 天津大学 一种基于多通道注意力模块的卷积神经网络故障诊断方法
EP4310747A1 (en) 2021-03-18 2024-01-24 Toshiba Energy Systems & Solutions Corporation Information processing device, information processing method, and program
CN117609824B (zh) * 2023-11-09 2024-05-07 武汉华源电力设计院有限公司 有源配电网拓扑识别和故障诊断分析方法、装置及设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340650A (ja) * 1991-05-17 1992-11-27 Mitsubishi Electric Corp ニューラルネットワークシステム
JPH0561984A (ja) * 1991-09-03 1993-03-12 Nikon Corp 有向グラフ表示装置
JP2014054151A (ja) * 2012-09-10 2014-03-20 Toshiba Corp 輸送ネットワークのグラフ構造構築装置、グラフ構造構築システム、グラフ構造構築方法及びグラフ構造構築プログラム
CN105787439A (zh) * 2016-02-04 2016-07-20 广州新节奏智能科技有限公司 一种基于卷积神经网络的深度图像人体关节定位方法
WO2016174725A1 (ja) * 2015-04-28 2016-11-03 株式会社日立製作所 計算機及びニューラルネットワークを用いた演算方法
US20170061276A1 (en) * 2015-09-01 2017-03-02 Google Inc. Neural network for processing graph data

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11094015B2 (en) * 2014-07-11 2021-08-17 BMLL Technologies, Ltd. Data access and processing system
CN108431832B (zh) * 2015-12-10 2022-09-13 渊慧科技有限公司 利用外部存储器扩增神经网络
US10728120B2 (en) * 2016-12-13 2020-07-28 Sap Se Weighted node layering in graph drawing
US11023817B2 (en) * 2017-04-20 2021-06-01 International Business Machines Corporation Probabilistic estimation of node values
US20210081717A1 (en) * 2018-05-18 2021-03-18 Benevolentai Technology Limited Graph neutral networks with attention

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340650A (ja) * 1991-05-17 1992-11-27 Mitsubishi Electric Corp ニューラルネットワークシステム
JPH0561984A (ja) * 1991-09-03 1993-03-12 Nikon Corp 有向グラフ表示装置
JP2014054151A (ja) * 2012-09-10 2014-03-20 Toshiba Corp 輸送ネットワークのグラフ構造構築装置、グラフ構造構築システム、グラフ構造構築方法及びグラフ構造構築プログラム
WO2016174725A1 (ja) * 2015-04-28 2016-11-03 株式会社日立製作所 計算機及びニューラルネットワークを用いた演算方法
US20170061276A1 (en) * 2015-09-01 2017-03-02 Google Inc. Neural network for processing graph data
CN105787439A (zh) * 2016-02-04 2016-07-20 广州新节奏智能科技有限公司 一种基于卷积神经网络的深度图像人体关节定位方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ITO: "A Malicious Web Detection Technique Using a Link Structure", PROCEEDINGS OF COMPUTER SECURITY SYMPOSIUM 2016, vol. 2016, no. 2, pages 1229 - 1233 *
郭尊华;李少洪;: "基于BP网络的雷达目标距离像识别性能仿真", 现代雷达, no. 10 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112560211A (zh) * 2020-12-16 2021-03-26 北京百度网讯科技有限公司 用于调整电网结构的方法、相关装置及计算机程序产品
CN112560211B (zh) * 2020-12-16 2023-07-25 北京百度网讯科技有限公司 用于调整电网结构的方法、相关装置及计算机程序产品
CN113324754A (zh) * 2021-05-27 2021-08-31 西安交通大学 一种基于多感受野图卷积的齿轮传动系统故障识别方法
CN113324754B (zh) * 2021-05-27 2022-05-06 西安交通大学 一种基于多感受野图卷积的齿轮传动系统故障识别方法
CN113759854A (zh) * 2021-09-18 2021-12-07 深圳市裕展精密科技有限公司 基于边缘计算的智能工厂管控系统及方法
CN113759854B (zh) * 2021-09-18 2023-09-05 富联裕展科技(深圳)有限公司 基于边缘计算的智能工厂管控系统及方法

Also Published As

Publication number Publication date
JP2019204294A (ja) 2019-11-28
JP6906478B2 (ja) 2021-07-21
US20210064978A1 (en) 2021-03-04
WO2019225399A1 (ja) 2019-11-28

Similar Documents

Publication Publication Date Title
CN111837141A (zh) 信息处理装置、信息处理方法以及存储介质
JP7413580B2 (ja) ニューラルネットワークを使用した集積回路フロアプランの生成
Mirhoseini et al. A graph placement methodology for fast chip design
US20150254554A1 (en) Information processing device and learning method
JP7103341B2 (ja) 関係性探索システム、情報処理装置、方法およびプログラム
JP7271216B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN111126668B (zh) 基于图卷积网络的Spark作业时间预测方法和装置
KR102430483B1 (ko) 반도체 소자의 배치를 평가하는 방법
Liang et al. Fast search of the optimal contraction sequence in tensor networks
Wu et al. Generative design for resilience of interdependent network systems
JP7225874B2 (ja) モデル出力プログラム、モデル出力方法及びモデル出力装置
Iquebal et al. Emulating the evolution of phase separating microstructures using low-dimensional tensor decomposition and nonlinear regression
CN115841580A (zh) 一种基于标记分布的轴承剩余使用寿命预测方法
WO2020255634A1 (ja) 情報処理システム及び情報処理方法
Khumprom et al. A hybrid evolutionary CNN-LSTM model for prognostics of C-MAPSS aircraft dataset
Cardoso et al. Diversity-driven wide learning for training distributed classification models
Zhang et al. Dimension Reduction Algorithm of Big Data Based on Deep Neural Network
US20220083905A1 (en) Framework for providing improved predictive model
Gupta et al. Understanding of Cellular Network Workload and Prediction Using Machine Learning Approach
Tuo The collaborative degree prediction method of urban agglomeration innovation system based on VSACS-GNN model
Bader et al. Nonlinear Impulse Pattern Formulation dynamical social and political prediction algorithm for city planning and public participation
JP2022083776A (ja) 情報処理システム
Chang et al. Towards Fully Automated Machine Learning for Routability Estimator Development
Wendlinger et al. Pooling Graph Convolutional Networks for Structural Performance Prediction
CN114565446A (zh) 信用卡的风险预测方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination