JP7658397B2 - 情報処理装置、データ生成方法、及びプログラム - Google Patents

情報処理装置、データ生成方法、及びプログラム Download PDF

Info

Publication number
JP7658397B2
JP7658397B2 JP2023112633A JP2023112633A JP7658397B2 JP 7658397 B2 JP7658397 B2 JP 7658397B2 JP 2023112633 A JP2023112633 A JP 2023112633A JP 2023112633 A JP2023112633 A JP 2023112633A JP 7658397 B2 JP7658397 B2 JP 7658397B2
Authority
JP
Japan
Prior art keywords
mesh
data
resolution
mesh data
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023112633A
Other languages
English (en)
Other versions
JP2025009552A (ja
Inventor
考徳 重田
聡 辻
茂央 鈴木
裕介 國井
浩 松本
隆輔 今井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2023112633A priority Critical patent/JP7658397B2/ja
Priority to US18/753,043 priority patent/US20250014280A1/en
Publication of JP2025009552A publication Critical patent/JP2025009552A/ja
Application granted granted Critical
Publication of JP7658397B2 publication Critical patent/JP7658397B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)

Description

本開示は、情報処理装置、データ生成方法、及びプログラムに関する。
変電所に設置されている設備を点検する際に、LiDAR(Light Detection And Ranging)等のセンサを用いて撮影された画像を用いて設備の点検を行うことがある。設備の点検を行う者は、それぞれの設備の立体形状を確認して、設備の正常性を判定する。例えば、設備の点検を行う者は、LiDAR等を用いて生成された点群データに基づいて生成されたメッシュデータが示す立体形状を確認することによって、設備の正常性を判定する。
特許文献1には、画像データを用いた無人車両の制御を行うシステムの構成が開示されている。特許文献1に開示されているシステムは、LiDARセンサを用いて収集されたセンサデータを処理することによって、画像データを生成する。さらに、システムは、画像データの解像度等を調整する。無人車両を監視するオペレータは、解像度等が調整された画像データ、例えば、3Dビデオを確認することによって無人車両を制御する。
特表2018-523331号公報
LiDARセンサを用いて収集されたセンサデータは点群データに相当する。特許文献1に開示されたシステムを用いて、点群データから、3Dビデオ用の画像データを生成する際に、点群データに含まれる物体の形状を高精度に示した場合、画像データの容量が増加する。一方、点群データに含まれる物体の形状の精度を低下させた場合、画像データの容量は減少する。しかし、点群データに含まれる物体の形状の精度を低下させた場合、物体の形状を正確に認識することができなくなる。このように、特許文献1に開示されたシステムを用いた場合、点群データから画像データを生成する際に、画像データの容量と物体の形状を示す精度とのバランスをとることが困難であるという問題が生じる。
本開示の目的は、点群データに基づいた画像データを生成する際に、容量の増加を抑えると共に、物体の形状の精度を低下させることを防止することができる情報処理装置、データ生成方法、及びプログラムを提供することにある。
本開示の第1の態様にかかる情報処理装置は、点群データに含まれる物体の形状を識別する識別部と、形状が識別された第1の物体の第1のメッシュデータを生成し、形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成する生成部と、前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する統合部と、を備える。
本開示の第2の態様にかかるデータ生成方法は、点群データに含まれる物体の形状を識別し、形状が識別された第1の物体の第1のメッシュデータを生成し、形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成し、前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する。
本開示の第3の態様にかかるプログラムは、点群データに含まれる物体の形状を識別し、形状が識別された第1の物体の第1のメッシュデータを生成し、形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成し、前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する、ことをコンピュータに実行させる。
本開示により、点群データに基づいた画像データを生成する際に、容量の増加を抑えると共に、物体の形状の精度を低下させることを防止することができる情報処理装置、データ生成方法、及びプログラムを提供することができる。
本開示にかかる情報処理装置の構成図である。 本開示にかかるデータ生成方法の処理の流れを示す図である。 本開示にかかる情報処理装置の構成図である。 本開示にかかる管理部が管理する管理情報を示す図である。 本開示にかかる表示部が表示する3次元データを示す図である。 本開示にかかる3次元データの表示処理の流れを示す図である。 本開示にかかる管理部が管理する管理情報を示す図である。 本開示にかかる3次元データの表示処理の流れを示す図である。 本開示にかかる情報処理装置の構成図である。
(実施の形態1)
以下、情報処理装置10の構成例を図1を用いて説明する。情報処理装置10は、プロセッサがメモリに格納されたプログラムを実行することによって動作するコンピュータ装置であってもよい。
情報処理装置10は、識別部11、生成部12、及び統合部13を有している。識別部11、生成部12、及び統合部13は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアもしくはモジュールであってもよい。または、識別部11、生成部12、及び統合部13は、回路もしくはチップ等のハードウェアであってもよい。
識別部11は、点群データに含まれる物体の形状を識別する。点群データは、3次元情報を有する点の集合である。点群データは、例えば、距離を測定するセンサもしくは撮像装置によって生成されてもよい。距離を測定するセンサは、例えば、LiDAR(Light Detection And Ranging)を用いてセンサから物体までの距離を測定するセンサであってもよい。点群データは、距離を測定するセンサにおいて測定された距離情報と、GPS(Global Positioning System)を用いて測定された位置情報とを用いて生成されてもよい。
点群データを生成する各種センサは、情報処理装置10に搭載されてもよく、情報処理装置10とネットワークを介して接続されてもよい。識別部11は、各種センサにおいて生成された点群データを取得する。
もしくは、ユーザが、各種センサにおいて生成された点群データを、オフラインデータとして、情報処理装置10へ入力してもよい。また、識別部11が、各種センサにおいて測定されたデータを用いて点群データを生成してもよい。
例えば、点群データは、複数の2次元画像データを用いて、3次元情報を生成するソフトウェア等を用いて生成されてもよい。
点群データに含まれる物体は、例えば、地面もしくは床に固定的に設置された物体であってもよく、移動可能な物体であってもよい。また、物体は、人間、人間以外の動物、植物等を含んでもよい。具体的には、物体は、変電所内に配置されている装置、部品等であってもよい。
物体の形状を識別するとは、物体の輪郭を示す点を特定することであってもよい。さらに、物体の形状を識別するとは、物体の輪郭に加えて、物体の表面を示す点を特定することであってもよい。
生成部12は、形状が識別された第1の物体の第1のメッシュデータを生成する。メッシュデータは、点群データに含まれる点を頂点とし、各頂点を組み合わせた三角形面もしくは四角形面を物体の表面として、立体的形状を示すデータである。メッシュデータは、例えば、メッシュモデル、ポリゴンデータ、オブジェクトデータ等と言い換えられてもよい。メッシュデータ、メッシュモデル、ポリゴンデータ、オブジェクトデータ等は、物体の3次元形状を示すデータである。
生成部12は、メッシュ分解能を用いて第1のメッシュデータを生成する。メッシュ分解能は、例えば、物体の形状を示す精度を規定するパラメータであってもよい。例えば、メッシュ分解能が高くなるにつれて、メッシュデータが示す物体の形状が明確になる。物体の形状が明確になるとは、背景もしくは他の物体との境界を鮮明に表示することであってもよい。また、物体の形状が明確になるとは、実際の物体を示す再現度が高いことであってもよい。物体と背景もしくは他の物体との境界は、物体のエッジと称されてもよい。
メッシュ分解能が低くなるにつれて、メッシュデータが示す物体の形状が不明確になる。物体の形状が不明確になるとは、背景もしくは他の物体との境界があいまいになる、もしくはぼやける、ことであってもよい。物体の形状が不明確になるとは、物体の境界を示す線が不鮮明になることであってもよい。また、物体の形状が不明確になるとは、実際の物体を示す再現度が低いことであってもよい。
生成部12は、さらに、第2の物体の第2のメッシュデータを、第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成する。つまり、生成部12は、形状が識別された物体毎にメッシュデータを生成する際に用いるメッシュ分解能を決定してもよい。もしくは、生成部12は、いくつかの物体を含むグループ毎に、メッシュデータを生成する際に用いるメッシュ分解能を決定してもよい。例えば、同一の種類の物体は、一つのグループに含められてもよい。または、一つの装置を構成する複数種類の物体は、一つのグループに含められてもよい。
統合部13は、第1のメッシュデータ及び第2のメッシュデータを組み合わせた3次元データを生成する。3次元データは、3次元形状を示す画像データであってもよい。3次元データは、異なるメッシュ分解能を用いて生成された複数のメッシュデータを含む。つまり、3次元データは、所定の基準より高いメッシュ分解能を用いて生成されたメッシュデータと、所定の基準より低いメッシュ分解能を用いて生成されたメッシュデータとを含んでもよい。
続いて、情報処理装置10において実行されるデータ生成方法の処理の流れを図2を用いて説明する。はじめに、識別部11は、点群データに含まれる物体の形状を識別する(S11)。次に、生成部12は、形状が識別された第1の物体の第1のメッシュデータを生成する(S12)。次に、生成部12は、形状が識別された第2の物体の第2のメッシュデータを、第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成する(S13)。次に、統合部13は、第1のメッシュデータ及び第2のメッシュデータを組み合わせた3次元データを生成する(S14)。
以上説明したように、情報処理装置10は、異なるメッシュ分解能を用いて複数の物体のメッシュデータを含む3次元データを生成する。全ての物体に対して、高い分解能を用いて生成されたメッシュデータを含む3次元データの容量と比較して、高い分解能及び低い分解能を用いて生成されたメッシュデータを含む3次元データの容量は小さくなる。ここで、高い分解能及び低い分解能とは、所定の基準の分解能と比較して高い分解能もしくは低い分解能であってもよい。もしくは、高い分解能及び低い分解能とは、他方の分解能と比較して高い分解能もしくは低い分解能であってもよい。
また、高い分解能を用いて生成されたメッシュデータが示す物体は、低い分解能を用いて生成されたメッシュデータが示す物体よりも、形状が明確に示される。そのため、例えば、ユーザ等が、物体の形状に基づいて物体の正常性を判定する場合に、高い分解能を用いて生成されたメッシュデータが示す物体の正常性を適切に判定することができる。
(実施の形態2)
続いて、情報処理装置20の構成例を図3を用いて説明する。情報処理装置20は、情報処理装置10に管理部21及び表示部22が追加された構成である。情報処理装置20を構成する構成要素は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアであってもよい。または、情報処理装置20を構成する構成要素は、回路もしくはチップ等のハードウェアであってもよい。以下においては、情報処理装置10と同様の機能もしくは動作等の説明を省略する。
識別部11は、物体の形状を学習済みの学習モデルを用いて、点群データから、点群データに含まれる物体の形状を特定する。物体の形状を特定するとは、物体の形状を抽出する、出力する、決定する、等と言い換えられてもよい。
学習モデルは、物体の形状を示す点群データを教師データとして、物体の形状を機械学習してもよい。学習モデルは、LiDARを用いたセンサによって生成された点群データを入力として、物体の形状を示す点群データを出力してもよい。学習モデルは、複数の物体の形状を示す点群データを教師データとして複数の物体の形状を学習している場合、点群データに含まれる複数の物体の形状を示す複数の点群データを出力してもよい。学習モデルは、例えば、変電所内に設置されている変電設備の形状を学習してもよい。
さらに、学習モデルは、物体の形状及び物体の名称を教師データとして、物体の形状及び物体の名称を機械学習してもよい。この場合、学習モデルは、点群データを入力として、物体の形状及び物体の名称を出力してもよい。
識別部11は、学習モデルを用いた物体の形状の特定として、セマンティックセグメンテーションを用いて物体の形状を特定してもよい。
管理部21は、点群データに含まれる物体に対応付けられたメッシュ分解能を規定したパラメータを管理する。ここで、管理部21が管理する管理情報を図4を用いて説明する。図4は、物体名称と分解能レベルを示すパラメータとが予め対応付けて管理されることを示している。
物体名称は、点群データに含まれる物体の名称である。物体名称は、識別部11において識別された物体の名称であってもよい。図4は、物体名称として、変電所内に設置される変電設備が示されている。
図4には、分解能レベルとして、「HIGH」及び「LOW」が示されている。分解能レベル「HIGH」は、高い分解能を示している。また、分解能レベル「LOW」は、低い分解能レベルを示している。分解能レベルは、所定の基準よりも高い分解能である場合に分解能レベルが「HIGH」と示され、所定の基準よりも低い分解能である場合に分解能レベルが「LOW」と示されてもよい。もしくは、異なる分解能レベルが二つ存在する場合に、高い方の分解能レベルが「HIGH」と示され、低い方の分解能レベルが「LOW」と示されてもよい。また、図4には2つの分解能レベルが示されているが、分解能レベルは、3つ以上規定されてもよい。
物体名称と分解能レベルとの対応付けは、例えば、情報処理装置20の操作者によって入力された情報に基づいて行われてもよい。具体的には、操作者が、それぞれの物体のメッシュデータを生成する際に用いられるメッシュ分解能を情報処理装置20に入力してもよい。操作者は、例えば、ディスプレイに表示される物体名称を確認しながら、物体毎に分解能レベルを設定してもよい。
もしくは、管理部21は、他の情報処理装置等に格納されていた物体名称と分解能レベルとを対応付けた情報をネットワークを介して取得してもよく、もしくはオフラインにて物体名称と分解能レベルとを対応付けた情報を取得してもよい。
生成部12は、識別部11において識別された物体に対応付けられたメッシュ分解能を管理部21において管理されている管理情報を用いて特定する。生成部12は、識別部11において識別された物体に予め対応付けられたメッシュ分解能を用いて、物体のメッシュデータを生成する。
生成部12は、識別部11において識別された物体が、管理部21において管理されていない場合、予め定められたメッシュ分解能を用いてメッシュデータを生成してもよい。予め定められたメッシュ分解能は、「HIGH」と示されたメッシュ分解能であってもよく、「LOW」と示されたメッシュ分解能であってもよく、「HIGH」と「LOW」との間のレベルのメッシュ分解能であってもよい。
ここで、メッシュ分解能について詳細に説明する。メッシュ分解能は、例えば、メッシュデータに用いられる複数の点における2点間の距離を規定してもよい。2点間の距離が短くなるほど、メッシュデータに用いられる点の数は増加する。2点間の距離が長くなるほど、メッシュデータに用いられる点の数は減少する。つまり、2点間の距離が短くなるほど、メッシュデータのデータ容量は増加する。2点間の距離が長くなるほど、メッシュデータのデータ容量は減少する。言い換えると、2点間の距離が短くなるほど、メッシュデータが物体を示す精度が向上する。2点間の距離が長くなるほど、メッシュデータが物体を示す精度が低下する。
または、メッシュ分解能は、所定の大きさのエリア内においてメッシュデータに用いられる点の数の上限数を定めてもよい。つまり、メッシュ分解能は、所定の大きさのエリア内における点の密度の上限を定めてもよい。
図3に戻り、表示部22は、異なるレベルのメッシュ分解能を用いて生成されたそれぞれの物体のメッシュデータが統合された3次元データを表示する。表示部22は、例えば、情報処理装置20と一体として用いられるディスプレイであってもよく、情報処理装置20とケーブルもしくはネットワーク等を介して接続されたディスプレイであってもよい。統合部13は、それぞれの物体のメッシュデータを統合することによって3次元データを生成した場合、3次元データを表示部22へ出力する。表示部22は、受け取った3次元データを表示する。
図5は、表示部22が表示する3次元データの一例を示している。点線で囲まれるエリアA、エリアB、及びエリアCには、物体のメッシュデータが示されているとする。また、エリアA~Cに含まれるそれぞれの物体のメッシュデータを生成する際に用いられたメッシュ分解能は、それぞれ異なっていてもよい。例えば、エリアA及びBが同一のメッシュ分解能を用いて生成されたメッシュデータであり、エリアCがエリアA及びエリアBと異なるメッシュ分解能を用いて生成されたメッシュデータであってもよい。エリアA~Cを表す点線は、エリアの位置を容易に説明するために便宜的に使用している点線であり、表示部22に表示される実際の3次元データには、点線は表示されず、点線の中に含まれる物体のメッシュデータのみが表示されてもよい。
表示部22は、エリアA~Cに含まれるそれぞれの物体のメッシュデータを、メッシュ分解能の違いを区別することなく表示してもよい。この場合、表示部22に表示される3次元データを視認したユーザは、エリアA~Cのそれぞれの物体を生成する際に用いられたメッシュ分解能の違いを把握できないか、もしくは、物体の境界の鮮明さによってメッシュ分解能の違いを把握できる。
または、表示部22は、エリアA~Cに含まれるそれぞれの物体のメッシュデータを、メッシュ分解能の違いを区別して表示してもよい。例えば、表示部22は、同一のメッシュ分解能を用いて生成された物体のメッシュデータの色を同一にしてもよい。つまり、表示部22は、メッシュ分解能毎に生成されるメッシュデータの色を変更してもよい。例えば、表示部22は、分解能レベルが「HIGH」であるメッシュ分解能によって生成された物体のメッシュデータを赤色とし、「LOW」であるメッシュ分解能によって生成された物体のメッシュデータを青色としてもよい。色の種類は単なる例示であり、使用される色はこれに制限されない。
もしくは、表示部22は、図5に示されるように、物体を囲む点線を表示してもよい。さらに、表示部22は、物体のメッシュデータを生成する際に用いられたメッシュ分解能毎に物体を囲む点線の色を変更してもよい。例えば、表示部22は、分解能レベルが「HIGH」であるメッシュ分解能によって生成された物体のメッシュデータを囲む点線を赤色としてもよい。さらに、表示部22は、分解能レベルが「LOW」であるメッシュ分解能によって生成された物体のメッシュデータを囲む点線を青色としてもよい。色の種類は単なる例示であり、使用される色はこれに制限されない。また、物体のメッシュデータを囲む点線は、実線であってもよい。
もしくは、表示部22は、物体のメッシュデータを生成する際に用いられたメッシュ分解能毎に物体を囲む線の種類もしくは線の太さを変更してもよい。
統合部13が、物体のメッシュデータを、メッシュ分解能の違いによって区別する3次元データを生成してもよい。または、表示部22が、統合部13から受け取った3次元データを表示する際に、メッシュ分解能の違いによって物体のメッシュデータを区別するように表示してもよい。
続いて、情報処理装置20において実行される3次元データの表示処理の流れを図6を用いて説明する。はじめに、識別部11は、点群データに含まれる物体の形状を識別する(S21)。次に、生成部12は、メッシュデータを生成する物体を選択する(S22)。点群データには複数の物体が含まれている。そのため、識別部11は、複数の物体を識別もしくは抽出する。生成部12は、識別部11によって識別もしくは抽出された複数の物体の中から一つの物体を選択する。
次に、生成部12は、選択した物体に対応付けられた分解能レベルのメッシュ分解能を用いて、選択した物体のメッシュデータを生成する(S23)。生成部12は、管理部21を用いて、選択した物体に対応付けられた分解能レベルを決定する。生成部12は、生成したメッシュデータを、情報処理装置20内のメモリ等に一時的に記録してもよい。
次に、生成部12は、全ての物体を選択済みであるか否かを判定する(S24)。例えば、識別部11は、識別した全ての物体の一覧を示す情報、例えば、リスト情報を生成してもよい。生成部12は、リスト情報に含まれるそれぞれの物体について、ステップS22において選択済みかどうかを示す情報を追加してもよい。例えば、生成部12は、リスト情報において、ステップS22において選択済みの物体にチェック済みのフラグを設定してもよい。生成部12は、それぞれの物体に選択済みの情報が追加されているか否かを判定することによって、全ての物体が選択済みであるか否かを判定してもよい。
生成部12は、ステップS24において、全ての物体を選択済みではないと判定した場合、ステップS22以降の処理を繰り返す。全ての物体を選択済みではない、とは、未選択の物体が存在する、ことを意味する。生成部12は、ステップS22の処理を繰り返す場合、未選択の物体を選択する。
生成部12が、ステップS24において、全ての物体を選択済みである、と判定した場合、統合部13は、全ての物体のメッシュデータを統合する(S25)。全ての物体のメッシュデータを統合することは、全ての物体のメッシュデータを組み合わせることを意味する。統合部13は、メッシュデータを組み合わせる際に、用いられたメッシュ分解能の違いを区別するようにメッシュデータを組み合わせた3次元データを生成してもよい。次に、表示部22は、3次元データを表示する(S26)。
以上説明したように、情報処理装置20は、点群データに含まれるそれぞれの物体に対して、分解能レベルを予め対応付けておく。例えば、変電所の管理者等が、変電所内の変電設備を、3次元画像データを用いて監視する場合、管理部21は、監視対象の設備、詳細な形状を確認する必要がある設備等に、高い分解能レベルを対応付けて管理してもよい。また、管理部21は、監視対象外の設備等には、低い分解のレベルを対応付けて管理してもよい。これにより、全ての物体のメッシュデータを高い分解能レベルのメッシュ分解能を用いて生成する場合と比較して、3次元データのデータ容量の増加を抑えることができる。その一方、監視対象の物体のメッシュデータは、高い分解能レベルのメッシュ分解能を用いて生成されるため、物体の形状の表示精度を高めることができる。
また、情報処理装置20は、異なる分解能レベルのメッシュ分解能を用いて生成されたメッシュデータを区別して表示してもよい。これにより、管理者等は、監視対象の設備を容易に特定することができる。
(実施の形態3)
続いて、管理部21が管理する管理情報を図7を用いて説明する。図7は、管理情報が、管理者等によって、監視対象の設備として指定された物体を含むことを示している。さらに、図7は、管理情報が、分解能レベルとして、「HIGH」及び「LOW」のメッシュ分解能を含むことを示している。図7には2つの分解能レベルが示されているが、分解能レベルは、3つ以上規定されてもよい。
生成部12は、選択した物体が、管理情報に含まれている場合、選択した物体に分解能レベルが「HIGH」であるメッシュ分解能を用いてメッシュデータを生成する。また、生成部12は、選択した物体が、管理情報に含まれていない場合、選択した物体に分解能レベルが「LOW」であるメッシュ分解能を用いてメッシュデータを生成する。
続いて、情報処理装置20において実行される3次元データの表示処理の流れを図8を用いて説明する。ステップS31及びS32は、図6におけるステップS21及びS22と同様であるため詳細な説明を省略する。
次に、生成部12は、ステップS32において選択した物体が、予め指定された物体であるか否かを判定する(S33)。生成部12は、管理部21に管理されている管理情報に、ステップS32において選択した物体が含まれている場合に、選択した物体が予め定められた物体であると判定してもよい。また、生成部12は、管理部21に管理されている管理情報に、ステップS32において選択した物体が含まれていない場合に、選択した物体が予め定められた物体ではないと判定してもよい。
生成部12は、ステップS32において選択した物体が予め指定された物体であると判定した場合、管理部21において「HIGH」と示されているメッシュ分解能を用いて、選択した物体のメッシュデータを生成する(S34)。
生成部12は、ステップS32において選択した物体が予め指定された物体ではないと判定した場合、管理部21において「LOW」と示されているメッシュ分解能を用いて、選択した物体のメッシュデータを生成する(S35)。
ステップS36以降の処理は、図6におけるステップS24以降の処理と同様であるため詳細な説明を省略する。
以上説明したように、管理部21は、指定された物体と、分解能レベルとを、関連付けることなく別々の情報として管理する。これにより、物体と分解能レベルとが対応付けられて管理されている場合と比較して、物体と、その物体のメッシュデータを生成する際に用いられる分解能レベルとを柔軟に管理することができる。例えば、指定された物体のメッシュデータを作成する際に用いられる分解能レベルを変更する場合、分解能レベルにおいて指定されたパラメータを変更すればよい。または、分解能レベルが「HIGH」であるメッシュ分解能を用いる物体を変更する場合、指定物体として指定する物体を変更すればよい。このように、物体と分解能レベルとの組み合わせを変更する場合に、それぞれの物体毎に分解能レベルを変更する必要が無くなる。
また、実施の形態3においては、監視対象の設備として指定された物体のメッシュデータを生成する際には、「HIGH」と示されているメッシュ分解能を用いることとしている。さらに、指定されていない物体のメッシュデータを生成する際には、「LOW」と示されているメッシュ分解能を用いることとしている。物体とメッシュ分解能との対応付けはこれに制限されない。
例えば、物体とメッシュ分解能との対応付けは、学習モデルを用いて決定されてもよい。例えば、学習モデルは、物体の構造の複雑さに応じて、適切なメッシュ分解能を決定するように機械学習されたモデルであってもよい。具体的には、学習モデルは、物体の構造が複雑な場合には、高い分解能のメッシュ分解能を対応付け、物体の構造が単純な場合には、低い分解能のメッシュ分解能を対応付けてもよい。
生成部12は、識別部11において形状が識別された物体を学習モデルに入力することによって、入力した物体に対応付けられたメッシュ分解能のパラメータを取得してもよい。このように物体とメッシュ分解能とを対応付けることによって、複雑な構造の物体には高い分解能のメッシュ分解能を用いてメッシュデータが示す物体の形状の精度を向上することができる。一方、単純な構造の物体には低い分解能のメッシュ分解能を用いることによって、メッシュデータの容量を減少させることができる。
図9は、上述の実施の形態において説明した情報処理装置10及び情報処理装置20(以下、情報処理装置10等とする)の構成例を示すブロック図である。図9を参照すると、情報処理装置10等は、ネットワークインターフェース1201、プロセッサ1202、及びメモリ1203を含む。ネットワークインターフェース1201は、ネットワークノードと通信するために使用されてもよい。ネットワークインターフェース1201は、例えば、IEEE 802.3 seriesに準拠したネットワークインタフェースカード(NIC)を含んでもよい。IEEEは、Institute of Electrical and Electronics Engineersを表す。
プロセッサ1202は、メモリ1203からソフトウェア(コンピュータプログラム)を読み出して実行することで、上述の実施形態においてフローチャートを用いて説明された情報処理装置10等の処理を行う。プロセッサ1202は、例えば、マイクロプロセッサ、MPU、又はCPUであってもよい。プロセッサ1202は、複数のプロセッサを含んでもよい。
メモリ1203は、揮発性メモリ及び不揮発性メモリの組み合わせによって構成される。メモリ1203は、プロセッサ1202から離れて配置されたストレージを含んでもよい。この場合、プロセッサ1202は、図示されていないI/O(Input/Output)インタフェースを介してメモリ1203にアクセスしてもよい。
図9の例では、メモリ1203は、ソフトウェアモジュール群を格納するために使用される。プロセッサ1202は、これらのソフトウェアモジュール群をメモリ1203から読み出して実行することで、上述の実施形態において説明された情報処理装置10等の処理を行うことができる。
図9を用いて説明したように、上述の実施形態における情報処理装置10等が有するプロセッサの各々は、図面を用いて説明されたアルゴリズムをコンピュータに行わせるための命令群を含む1又は複数のプログラムを実行する。
上述の例において、プログラムは、コンピュータに読み込まれた場合に、実施形態で説明された1又はそれ以上の機能をコンピュータに行わせるための命令群(又はソフトウェアコード)を含む。プログラムは、非一時的なコンピュータ可読媒体又は実体のある記憶媒体に格納されてもよい。限定ではなく例として、コンピュータ可読媒体又は実体のある記憶媒体は、random-access memory(RAM)、read-only memory(ROM)、フラッシュメモリ、solid-state drive(SSD)又はその他のメモリ技術、CD-ROM、digital versatile disc(DVD)、Blu-ray(登録商標)ディスク又はその他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ又はその他の磁気ストレージデバイスを含む。プログラムは、一時的なコンピュータ可読媒体又は通信媒体上で送信されてもよい。限定ではなく例として、一時的なコンピュータ可読媒体又は通信媒体は、電気的、光学的、音響的、またはその他の形式の伝搬信号を含む。
以上、実施の形態を参照して本開示を説明したが、本開示は上述の実施の形態に限定されるものではない。本開示の構成や詳細には、本開示のスコープ内で当業者が理解し得る様々な変更をすることができる。そして、各実施の形態は、適宜他の実施の形態と組み合わせることができる。
各図面は、1又はそれ以上の実施形態を説明するための単なる例示である。各図面は、1つの特定の実施形態のみに関連付けられるのではなく、1又はそれ以上の他の実施形態に関連付けられてもよい。当業者であれば理解できるように、いずれか1つの図面を参照して説明される様々な特徴又はステップは、例えば明示的に図示または説明されていない実施形態を作り出すために、1又はそれ以上の他の図に示された特徴又はステップと組み合わせることができる。例示的な実施形態を説明するためにいずれか1つの図に示された特徴またはステップのすべてが必ずしも必須ではなく、一部の特徴またはステップが省略されてもよい。いずれかの図に記載されたステップの順序は、適宜変更されてもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
点群データに含まれる物体の形状を識別する識別部と、
形状が識別された第1の物体の第1のメッシュデータを生成し、形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成する生成部と、
前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する統合部と、を備える情報処理装置。
(付記2)
前記生成部は、
前記点群データに含まれるそれぞれの物体に予め対応付けられたメッシュ分解能を用いて、それぞれの物体のメッシュデータを生成する、付記1に記載の情報処理装置。
(付記3)
前記生成部は、
形状が識別された物体にメッシュ分解能が対応付けられていない場合、予め定められた分解能を用いてメッシュデータを生成する、付記1又は2に記載の情報処理装置。
(付記4)
それぞれの前記物体に用いられるメッシュ分解能を規定したパラメータを管理する管理部をさらに備える、付記1から3のいずれか1項に記載の情報処理装置。
(付記5)
前記メッシュ分解能は、
メッシュデータに用いられる複数の点における2点間の距離を規定する、付記1から4のいずれか1項に記載の情報処理装置。
(付記6)
前記メッシュ分解能は、
特定の領域内のメッシュデータを生成する際に使用される点の上限数を定める、付記1から5のいずれか1項に記載の情報処理装置。
(付記7)
前記第1のメッシュデータに用いられた分解能と、前記第2のメッシュデータに用いられた分解能とが異なることを示す前記3次元データを表示する表示部をさらに備える、付記1から6のいずれか1項に記載の情報処理装置。
(付記8)
前記識別部は、
前記物体の形状を学習済みの学習モデルを用いて、前記点群データから前記点群データに含まれる前記物体の形状を特定する、付記1から7のいずれか1項に記載の情報処理装置。
(付記9)
前記学習モデルは、
前記物体の形状を示す点群データを教師データとして、前記物体の形状を学習する、付記8に記載の情報処理装置。
(付記10)
点群データに含まれる物体の形状を識別し、
形状が識別された第1の物体の第1のメッシュデータを生成し、
形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成し、
前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する、データ生成方法。
(付記11)
前記第1及び第2のメッシュデータを生成する際に、
前記点群データに含まれるそれぞれの物体に対応付けられたメッシュ分解能を用いて、それぞれの物体のメッシュデータを生成する、付記10に記載のデータ生成方法。
(付記12)
前記第1及び第2のメッシュデータを生成する際に、
形状が識別された物体にメッシュ分解能が対応付けられていない場合、予め定められた分解能を用いてメッシュデータを生成する、付記10又は11に記載のデータ生成方法。
(付記13)
それぞれの前記物体に用いられるメッシュ分解能を規定したパラメータは、管理部において管理される、付記10から12のいずれか1項に記載のデータ生成方法。
(付記14)
前記メッシュ分解能は、
メッシュデータに用いられる複数の点における2点間の距離を規定する、付記10から13のいずれか1項に記載のデータ生成方法。
(付記15)
前記メッシュ分解能は、
特定の領域内のメッシュデータを生成する際に使用される点の上限数を定める、付記10から14のいずれか1項に記載のデータ生成方法。
(付記16)
前記3次元データを生成した後に、
前記第1のメッシュデータに用いられた分解能と、前記第2のメッシュデータに用いられた分解能とが異なることを示す前記3次元データを表示する、付記10から15のいずれか1項に記載のデータ生成方法。
(付記17)
前記点群データに含まれる物体の形状を識別する際に、
前記物体の形状を学習済みの学習モデルを用いて、前記点群データから前記点群データに含まれる前記物体の形状を特定する、付記10から16のいずれか1項に記載のデータ生成方法。
(付記18)
前記学習モデルは、
前記物体の形状を示す点群データを教師データとして、前記物体の形状を学習する、付記17に記載のデータ生成方法。
(付記19)
点群データに含まれる物体の形状を識別し、
形状が識別された第1の物体の第1のメッシュデータを生成し、
形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成し、
前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する、ことをコンピュータに実行させるプログラム。
(付記20)
前記第1及び第2のメッシュデータを生成する際に、
前記点群データに含まれるそれぞれの物体に対応付けられたメッシュ分解能を用いて、それぞれの物体のメッシュデータを生成する、ことをコンピュータに実行させる付記19に記載のプログラム。
(付記21)
前記第1及び第2のメッシュデータを生成する際に、
形状が識別された物体にメッシュ分解能が対応付けられていない場合、予め定められた分解能を用いてメッシュデータを生成する、ことをコンピュータに実行させる付記19又は20に記載のプログラム。
(付記22)
それぞれの前記物体に用いられるメッシュ分解能を規定したパラメータは、管理部において管理される、付記19から21のいずれか1項に記載のプログラム。
(付記23)
前記メッシュ分解能は、
メッシュデータに用いられる複数の点における2点間の距離を規定する、付記19から22のいずれか1項に記載のプログラム。
(付記24)
前記メッシュ分解能は、
特定の領域内のメッシュデータを生成する際に使用される点の上限数を定める、付記19から23のいずれか1項に記載のプログラム。
(付記25)
前記3次元データを生成した後に、
前記第1のメッシュデータに用いられた分解能と、前記第2のメッシュデータに用いられた分解能とが異なることを示す前記3次元データを表示する、ことをコンピュータに実行させる付記19から24のいずれか1項に記載のプログラム。
(付記26)
前記点群データに含まれる物体の形状を識別する際に、
前記物体の形状を学習済みの学習モデルを用いて、前記点群データから前記点群データに含まれる前記物体の形状を特定する、ことをコンピュータに実行させる付記19から25のいずれか1項に記載のプログラム。
(付記27)
前記学習モデルは、
前記物体の形状を示す点群データを教師データとして、前記物体の形状を学習する、付記17に記載のプログラム。
10 情報処理装置
11 識別部
12 生成部
13 統合部
20 情報処理装置
21 管理部
22 表示部

Claims (10)

  1. 点群データに含まれる物体の形状を識別する識別部と、
    形状が識別された第1の物体の第1のメッシュデータを生成し、形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成する生成部と、
    前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成する統合部と、
    前記3次元データを表示する場合、異なるメッシュ分解能を用いて生成された前記第1のメッシュデータと前記第2のメッシュデータとを異なる色を用いて表示する表示部と、を備える情報処理装置。
  2. 前記生成部は、
    前記点群データに含まれるそれぞれの物体に対応付けられたメッシュ分解能を用いて、それぞれの物体のメッシュデータを生成する、請求項1に記載の情報処理装置。
  3. 前記生成部は、
    形状が識別された物体にメッシュ分解能が対応付けられていない場合、予め定められた分解能を用いてメッシュデータを生成する、請求項2に記載の情報処理装置。
  4. それぞれの前記物体に用いられるメッシュ分解能を規定したパラメータを管理する管理部をさらに備える、請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記メッシュ分解能は、
    メッシュデータに用いられる複数の点における2点間の距離を規定する、請求項1から3のいずれか1項に記載の情報処理装置。
  6. 前記メッシュ分解能は、
    特定の領域内のメッシュデータを生成する際に使用される点の上限数を定める、請求項1から3のいずれか1項に記載の情報処理装置。
  7. 前記表示部は、
    前記第1のメッシュデータに用いられた分解能と、前記第2のメッシュデータに用いられた分解能とが異なることを示す前記3次元データを表示する、請求項1から3のいずれか1項に記載の情報処理装置。
  8. 前記識別部は、
    前記物体の形状を学習済みの学習モデルを用いて、前記点群データから前記点群データに含まれる前記物体の形状を特定する、請求項1から3のいずれか1項に記載の情報処理装置。
  9. 点群データに含まれる物体の形状を識別し、
    形状が識別された第1の物体の第1のメッシュデータを生成し、
    形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成し、
    前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成
    前記3次元データを表示する場合、異なるメッシュ分解能を用いて生成された前記第1のメッシュデータと前記第2のメッシュデータとを異なる色を用いて表示する、データ生成方法。
  10. 点群データに含まれる物体の形状を識別し、
    形状が識別された第1の物体の第1のメッシュデータを生成し、
    形状が識別された第2の物体の第2のメッシュデータを、前記第1のメッシュデータを生成する際に用いられたメッシュ分解能と異なるメッシュ分解能を用いて生成し、
    前記第1のメッシュデータ及び前記第2のメッシュデータを組み合わせた3次元データを生成
    前記3次元データを表示する場合、異なるメッシュ分解能を用いて生成された前記第1のメッシュデータと前記第2のメッシュデータとを異なる色を用いて表示することをコンピュータに実行させるプログラム。
JP2023112633A 2023-07-07 2023-07-07 情報処理装置、データ生成方法、及びプログラム Active JP7658397B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023112633A JP7658397B2 (ja) 2023-07-07 2023-07-07 情報処理装置、データ生成方法、及びプログラム
US18/753,043 US20250014280A1 (en) 2023-07-07 2024-06-25 Information processing apparatus, data generation method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023112633A JP7658397B2 (ja) 2023-07-07 2023-07-07 情報処理装置、データ生成方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2025009552A JP2025009552A (ja) 2025-01-20
JP7658397B2 true JP7658397B2 (ja) 2025-04-08

Family

ID=94175495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023112633A Active JP7658397B2 (ja) 2023-07-07 2023-07-07 情報処理装置、データ生成方法、及びプログラム

Country Status (2)

Country Link
US (1) US20250014280A1 (ja)
JP (1) JP7658397B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008191710A (ja) 2007-01-31 2008-08-21 Canon Inc 解析装置及びその制御方法
JP2016103265A (ja) 2014-10-23 2016-06-02 株式会社東芝 対象の3次元モデルを生成する方法とシステム
WO2022176722A1 (ja) 2021-02-18 2022-08-25 キヤノン株式会社 情報処理装置、情報処理方法、及び、プログラム
JP2023518908A (ja) 2020-03-30 2023-05-08 ユーム.コム リミテッド ラベル付き入力を使用してメッシュ精度を向上させる技法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008191710A (ja) 2007-01-31 2008-08-21 Canon Inc 解析装置及びその制御方法
JP2016103265A (ja) 2014-10-23 2016-06-02 株式会社東芝 対象の3次元モデルを生成する方法とシステム
JP2023518908A (ja) 2020-03-30 2023-05-08 ユーム.コム リミテッド ラベル付き入力を使用してメッシュ精度を向上させる技法
WO2022176722A1 (ja) 2021-02-18 2022-08-25 キヤノン株式会社 情報処理装置、情報処理方法、及び、プログラム

Also Published As

Publication number Publication date
JP2025009552A (ja) 2025-01-20
US20250014280A1 (en) 2025-01-09

Similar Documents

Publication Publication Date Title
CN110427917B (zh) 用于检测关键点的方法和装置
KR102151365B1 (ko) 이미지 기반 차량 손실 평가 방법, 장치 및 시스템, 및 전자 디바이스
CN113724259B (zh) 井盖异常检测方法、装置及其应用
CN110516665A (zh) 识别图像叠加文字区域的神经网络模型构建方法与系统
JPWO2020179065A1 (ja) 画像処理装置、画像処理方法及びプログラム
CN110059608A (zh) 一种物体检测方法、装置、电子设备和存储介质
JP7285834B2 (ja) 三次元再構成方法および三次元再構成装置
WO2021181647A1 (ja) 画像処理装置、画像処理方法、およびコンピュータ可読媒体
US20170280130A1 (en) 2d video analysis for 3d modeling
KR101992044B1 (ko) 정보 처리 장치, 방법, 및 컴퓨터 프로그램
CN117670979B (zh) 一种基于固定点位单目相机的大宗货物体积测量方法
US20210158089A1 (en) Generating training data for object detection
CN114359891A (zh) 一种三维车辆检测方法、系统、装置及介质
CN109063603A (zh) 基于区域动态筛选的图像预测方法和装置及电子设备
US20210029345A1 (en) Method of generating three-dimensional model, device for generating three-dimensional model, and storage medium
CN115424221A (zh) 点云与图像融合的方法、相关检测方法、设备及存储介质
US20250069324A1 (en) Methods and systems for instance-wise segmentation of a 3d point cloud based on segmented 2d images
KR20230055816A (ko) 이동식 3차원 촬영 장치를 이용한 점 군 데이터 표현 방법 및 시스템
JP7658397B2 (ja) 情報処理装置、データ生成方法、及びプログラム
CN115496890A (zh) 图像预处理方法和缺陷检测方法、装置及计算机设备
CN114821407B (zh) 基于特征点匹配的设备巡检方法、处理器及装置
KR102538012B1 (ko) 가상공간 내 객체의 3차원 모델을 갱신하는 방법 및 장치
CN112270753B (zh) 三维建图方法及装置、电子设备
JP2018113648A (ja) 映像生成装置、映像生成方法、プログラム
WO2024174136A1 (en) Method for improving prediction accuracy of ai model, electronic device and medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240917

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250310

R150 Certificate of patent or registration of utility model

Ref document number: 7658397

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150