JP7468002B2 - 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム - Google Patents

異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム Download PDF

Info

Publication number
JP7468002B2
JP7468002B2 JP2020041198A JP2020041198A JP7468002B2 JP 7468002 B2 JP7468002 B2 JP 7468002B2 JP 2020041198 A JP2020041198 A JP 2020041198A JP 2020041198 A JP2020041198 A JP 2020041198A JP 7468002 B2 JP7468002 B2 JP 7468002B2
Authority
JP
Japan
Prior art keywords
point cloud
cloud data
time
photographing
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020041198A
Other languages
English (en)
Other versions
JP2021143875A (ja
Inventor
茂央 鈴木
泰祐 田邉
浩 松本
考徳 重田
淳一 安部
聡 辻
善将 小野
次朗 安倍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2020041198A priority Critical patent/JP7468002B2/ja
Priority to EP21156255.8A priority patent/EP3879260A1/en
Priority to US17/193,136 priority patent/US11869179B2/en
Publication of JP2021143875A publication Critical patent/JP2021143875A/ja
Application granted granted Critical
Publication of JP7468002B2 publication Critical patent/JP7468002B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • G01N2021/8893Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques providing a video image and a processed signal for helping visual decision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本開示は、異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラムに関するものであり、特に、対象物の異常箇所の視認性を向上させることが可能な異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラムに関する。
対象物の異常箇所を特定するため、ユーザは、レーザ測距(LiDAR:Light Detection and Ranging)装置を用いて対象物の点群データを取得し、点群データはデータ処理された後、例えば、パソコン等の端末の画面上に表示される。ユーザはこれを閲覧することにより、対象物の異常箇所を特定していた。
特許文献1には、「部材の点群データ及び3次元CADデータを取得する。点群データ及び3次元CADデータを複数のセグメントに分割する。点群データを分割したセグメントをノードとした第1のグラフ及び3次元CADデータを分割したセグメントをノードとした第2のグラフを生成する。第1のグラフと第2のグラフとをマッチングする。マッチング結果に基づいて、点群データの基となる部材を3次元CADデータが存在する部品としない部品とに分類する。分類結果に基づいて点群データに基づいた3次元モデルを生成する。点群データの基となる部材の3次元CADデータが存在する場合には、3次元CADデータを参照して3次元モデルを生成する。」ことが記載されている。特許文献1には、「レーザ測距機器が測定した対象物の点群データと、撮影機器が撮影した撮影画像と、を所定の画面上(同じ画面上)に表示すること」は記載されていない。
特許文献2には、「距離測定装置は、光源部からの赤外光を含む光を対象物の点に照射して反射を含む光を入射する光学系における光軸において波長選択ミラーで赤外光と可視光とを分離する。距離測定装置は、分離された赤外光を光検出器で検出して距離測定の信号とし、分離された可視光を色センサで検出して色情報の信号とする。距離測定装置は、対象物の複数の対象点を走査するための旋回部と、同じ対象点に関する、距離測定の信号、色情報の信号、及び走査の状態を表す信号を、同期して取得する集約器とを有し、当該信号を用いて対象点との距離を計算し、色付き点群データを得る。」ことが記載されている。特許文献2には、「レーザ測距機器が測定した対象物の点群データと、撮影機器が撮影した撮影画像と、を所定の画面上(同じ画面上)に表示すること」は記載されていない。
国際公開第2014/091837号 特開2015-175629号公報
上記のように、ユーザは、レーザ測距機器を用いて対象物の異常箇所を特定していた。しかしながら、異常箇所を特定するための点群データは対象物の形状の情報は有するが、色の情報が乏しいため、ユーザが画面上に表示された点群データを閲覧した際、視認性が良くないという問題があった。すなわち、画面上に何が表示されているのかが直感的に分かりにくいという問題があった。
本開示の目的は、上述した課題のいずれかを解決する異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラムを提供することにある。
本開示に係る異常箇所表示装置は、
レーザ測距機器を用いて対象物を測定した前記対象物の点群データと、撮影機器を用いて前記対象物を撮影した前記対象物の撮影画像と、を取得する取得部と、
前記点群データと前記撮影画像とを所定の画面上に表示する表示部と、
前記表示部に表示する前記点群データと前記撮影画像とを制御する制御部と、
を備える。
本開示に係る異常箇所表示システムは、
レーザ測距機器と撮影機器と異常箇所表示装置とを備え、
前記レーザ測距機器は、
対象物を測定して前記対象物の点群データを取得し、
前記撮影機器は、
前記対象物を撮影して前記対象物の撮影画像を取得し、
前記異常箇所表示装置は、
前記レーザ測距機器が測定した前記対象物の前記点群データと、前記撮影機器が撮影した前記対象物の前記撮影画像と、を取得する取得部と、
前記点群データと前記撮影画像とを所定の画面上に表示する表示部と、
前記表示部に表示する前記点群データと前記撮影画像とを制御する制御部と、を有する。
本開示に係る異常箇所表示方法は、
対象物を測定した前記対象物の点群データと、前記対象物を撮影した前記対象物の撮影画像と、を取得することと、
前記点群データと前記撮影画像とを所定の画面上に表示することと、
前記表示する前記点群データと前記撮影画像とを制御することと、
を備える。
本開示に係る異常箇所表示プログラムは、
対象物を測定した前記対象物の点群データと、前記対象物を撮影した前記対象物の撮影画像と、を取得することと、
前記点群データと前記撮影画像とを所定の画面上に表示することと、
前記表示する前記点群データと前記撮影画像とを制御することと、
をコンピュータに実行させるプログラム。
本開示によれば、対象物の異常箇所の視認性を向上させることが可能な異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラムを提供することができる。
実施の形態に係る異常箇所表示装置を例示するブロック図である。 実施の形態に係る異常箇所表示装置の表示部の画面を例示する図である。 実施の形態に係る異常箇所表示システムのデータフローを例示するブロック図である。
以下、図面を参照して本発明の実施の形態について説明する。各図面において、同一又は対応する要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明を省略する。
[実施の形態]
実施の形態に係る異常箇所表示装置の構成を説明する。
図1は、実施の形態に係る異常箇所表示装置を例示するブロック図である。
図2は、実施の形態に係る異常箇所表示装置の表示部の画面を例示する図である。
図1に示すように、実施の形態に係る異常箇所表示システム10は、レーザ測距機器12と撮影機器13と異常箇所表示装置11とを備える。
レーザ測距機器12は、対象物を測定して対象物の点群データを取得する。具体的には、レーザ測距機器12は、レーザを対象物に照射し、その反射輝度を測定して対象物までの距離データを3次元的に取得し、通常状態(異常箇所が無い状態)の測定結果と比較し、それらの差分を求めることにより対象物の異常箇所を検出する。レーザ測距機器12が検出した異常箇所は、点群データとして表示部112に表示される。レーザ測距機器12は、ユーザが対象物に行って直接異常箇所を確認できない場合や夜間で人が行けない場合でも対象物の異常箇所を検出することができる。
撮影機器13は、対象物を撮影して対象物の撮影画像を取得する。撮影機器13は、例えば、カメラである。レーザ測距機器12と撮影機器13とは、基本的には同一の位置から対象物を測定又は撮影することが望ましいが、実際には同一の位置から測定又は撮影することは難しい。よって、レーザ測距機器12が対象物を測定した測定位置と、撮影機器13が対象物を撮影した撮影位置と、の間の距離は、所定距離以内を許容範囲として測定又は撮影が行われる。撮影画像をカメラ画像と称することもある。
異常箇所表示装置11は、取得部111と表示部112と制御部113とを有する。取得部111は、レーザ測距機器12が測定した対象物の点群データと、撮影機器13が撮影した対象物の撮影画像と、を取得する。
表示部112は、点群データと撮影画像とを所定の画面上に表示する。具体的には、図2に示すように、点群データを表示する画面範囲の一部と撮影画像を表示する画面範囲とを重ね、点群データと撮影画像とを表示する。このように、点群データと撮影画像とを所定の画面上(同一画面上)に表示することにより、点群データだけを表示した場合に比べて視認性が向上する。尚、図2は、点群データと撮影画像とを表示する1つの例であり、これには限定されない。
制御部113は、表示部112に表示する点群データと撮影画像とを制御する。
例えば、制御部は、レーザ測距機器12が対象物を測定した複数の測定位置と撮影機器13が対象物を撮影した複数の撮影位置とを表示部112に表示するように制御してもよい。そして、ユーザが表示部112に表示された内容に基づき、複数の測定位置の中から所定の測定位置を選択し、複数の撮影位置の中から所定の撮影位置を選択した場合、制御部113は、所定の測定位置からレーザ測距機器12が測定した点群データと、所定の撮影位置から撮影機器13が測定した撮影画像と、を表示部112に表示してもよい。
尚、制御部113は、レーザ測距機器12が対象物の表面に異常箇所が有ることを検出した場合、異常箇所を含む所定領域内の点群データと所定領域内の撮影画像とを表示部112に表示してもよい。
制御部113は、レーザ測距機器12が対象物の表面に異常箇所が有ることを検出した場合、異常箇所を選択するための選択画面を表示部112に表示してもよい。そして、ユーザが選択画面に基づいて所定の異常箇所を選択した場合、所定の異常箇所を含む所定領域内の点群データと所定領域内の撮影画像とを表示してもよい。これにより、ユーザは、自身が希望する異常箇所を選択し、選択された異常箇所の点群データと撮影画像とが表示される。
制御部113は、レーザ測距機器12が対象物の表面に異常箇所が有ることを検出した場合、点群データと共に表示部112に表示する撮影画像を、撮影画像の撮影時の明るさに基づいて決定してもよい。
具体的には、制御部113は、撮影時の明るさが所定の明るさ以上の時に撮影した撮影画像を、点群データと共に表示部112に表示する撮影画像としてもよい。明るさは、例えば、照度計で測定した照度で決めてもよい。
制御部113は、点群データと共に表示部112に表示する撮影画像を、天気予報の情報に基づいて決定してもよい。
具体的には、制御部113は、撮影時の天気が晴れの時に撮影した撮影画像を、点群データと共に表示部112に表示する撮影画像としてもよい。また、撮影時の天気が雨の時以外に撮影した撮影画像を、点群データと共に表示部112に表示する撮影画像としてもよい。
制御部113は、撮影画像が逆光時に撮影した画像の場合、逆光時以外の時に撮影した撮影画像を、点群データと共に表示部112に表示する撮影画像としてもよい。
制御部113は、レーザ測距機器12が対象物の表面に異常箇所が有ることを検出した場合、点群データと共に表示部112に表示する撮影画像を、撮影画像の輝度、又は、明度に基づいて決定してもよい。
具体的には、制御部113は、撮影画像の輝度が所定輝度値以上、又は、明度が所定明度以上の撮影画像を、点群データと共に表示部112に表示する撮影画像としてもよい。
制御部113は、第1時刻に測定された点群データと第1時刻から所定の時間だけ過去の第2時刻に撮影された撮影画像とを表示部112に表示してもよい。第1時刻は、例えば、夜間の時刻であり、第2時刻は、例えば、昼間の時刻である。
このように、夜間に撮影された撮影画像の代わりに、適切な過去の撮影画像である昼間に撮影された撮影画像を用いることで、ユーザにとって視認性が向上する。
以上、説明したように、異常箇所表示装置11は、レーザ測距機器12を用いて対象物を測定した対象物の点群データと、撮影機器13を用いて対象物を撮影した対象物の撮影画像(カメラ画像)と、を表示部112の所定の画面上に並べて表示する。
点群データは撮影画像よりも視認性が悪いので、点群データにと撮影画像とを並べて表示することにより、点群データだけを表示する場合と比べて、ユーザの視認性が向上する。そして、対象物に異常箇所があれば、ユーザは異常箇所をより明確に特定することができる。
その結果、実施の形態によれば、対象物の異常箇所の視認性を向上させることが可能な異常箇所表示装置、及び異常箇所表示システムを提供することができる。
実施の形態に係る異常箇所表示システムのデータフローを説明する。
図3は、実施の形態に係る異常箇所表示システムのデータフローを例示するブロック図である。
図3においては、簡単のため、取得部111と制御部113とを省略している。
図3に示すように、レーザ測距機器12の分析部は、所定の時刻に所定の測定位置で、レーザ測距機器12のLiDARセンサが測定した点群データを、LiDARセンサから取得する(ステップS101)。尚、取得する時刻(採取タイミング)は、所定のタイミングを設定することができる。
撮影機器13のカメラデータ管理部は、所定の時刻に所定の測定位置(LiDARセンサと同じ時刻で同じ位置)で、撮影機器13のカメラが撮影した撮影画像を、カメラから取得する(ステップS102)。カメラデータ管理部は、取得した撮影画像を記憶部に記憶し、必要に応じて記憶部から取り出す。
異常箇所表示装置11の表示部112は、LiDARセンサが測定した点群データと、カメラが撮影した撮影画像と、を表示する(ステップS103)。このとき、レーザ測距機器12が対象物の異常箇所を検出した場合に、点群データと撮影画像とを表示するようにしてもよい。
撮影画像(カメラ画像)が夜間等で視認性が悪い場合、記憶部に記憶された過去の撮影画像を代わりに表示する(ステップS104)。すなわち、撮影画像の履歴を遡り、過去の適切な撮影画像を表示する。また、撮影画像は、ユーザが指定した所定の時刻や所定の位置で撮影されたものを任意に切り替えて表示するようにしてもよい。
尚、上記の実施の形態では、本発明をハードウェアの構成として説明したが、本発明はこれに限定されるものではない。本発明は、各構成要素の処理を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。
上記の実施の形態において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実態のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(具体的にはフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(具体的には光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリ(具体的には、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM))、フラッシュROM、RAM(Random Access Memory)を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
尚、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
レーザ測距機器を用いて対象物を測定した前記対象物の点群データと、撮影機器を用いて前記対象物を撮影した前記対象物の撮影画像と、を取得する取得部と、
前記点群データと前記撮影画像とを所定の画面上に表示する表示部と、
前記表示部に表示する前記点群データと前記撮影画像とを制御する制御部と、
を備える異常箇所表示装置。
(付記2)
前記レーザ測距機器が前記対象物を測定した測定位置と、前記撮影機器が前記対象物を撮影した撮影位置と、の間の距離は、所定距離以内である、
付記1に記載の異常箇所表示装置。
(付記3)
前記制御部は、
前記レーザ測距機器が前記対象物を測定した複数の前記測定位置と前記撮影機器が前記対象物を撮影した複数の前記撮影位置とを前記表示部に表示し、
複数の前記測定位置の中から所定の測定位置が選択され、複数の前記撮影位置の中から所定の撮影位置が選択された場合、前記所定の測定位置から前記レーザ測距機器が測定した前記点群データと、前記所定の撮影位置から前記撮影機器が測定した前記撮影画像と、を前記表示部に表示する、
付記2に記載の異常箇所表示装置。
(付記4)
前記制御部は、前記レーザ測距機器が前記対象物の表面に異常箇所が有ることを検出した場合、前記異常箇所を含む所定領域内の前記点群データと前記所定領域内の前記撮影画像とを前記表示部に表示する、
付記1から3のいずれか1つに記載の異常箇所表示装置。
(付記5)
前記制御部は、
前記レーザ測距機器が前記対象物の表面に異常箇所が有ることを検出した場合、前記異常箇所を選択するための選択画面を前記表示部に表示し、
前記選択画面に基づいて所定の異常箇所が選択された場合、前記所定の異常箇所を含む所定領域内の前記点群データと前記所定領域内の前記撮影画像とを表示する、
付記1から3のいずれか1つに記載の異常箇所表示装置。
(付記6)
前記制御部は、前記レーザ測距機器が前記対象物の表面に異常箇所が有ることを検出した場合、前記点群データと共に前記表示部に表示する前記撮影画像を、前記撮影画像の撮影時の明るさに基づいて決定する、
付記1から3のいずれか1つに記載の異常箇所表示装置。
(付記7)
前記制御部は、前記撮影時の明るさが所定の明るさ以上の時に撮影した前記撮影画像を、前記点群データと共に前記表示部に表示する前記撮影画像とする、
付記6に記載の異常箇所表示装置。
(付記8)
前記制御部は、前記レーザ測距機器が前記対象物の表面に異常箇所が有ることを検出した場合、前記点群データと共に前記表示部に表示する前記撮影画像を、前記撮影画像の輝度、又は、明度に基づいて決定する、
付記1から3のいずれか1つに記載の異常箇所表示装置。
(付記9)
前記制御部は、前記撮影画像の前記輝度が所定輝度値以上、又は、前記明度が所定明度以上の前記撮影画像を、前記点群データと共に前記表示部に表示する前記撮影画像とする、
付記8に記載の異常箇所表示装置。
(付記10)
前記制御部は、第1時刻に測定された前記点群データと前記第1時刻から所定の時間だけ過去の第2時刻に撮影された前記撮影画像とを前記表示部に表示する、
付記1から3のいずれか1つに記載の異常箇所表示装置。
(付記11)
前記第1時刻は、夜間の時刻であり、前記第2時刻は、昼間の時刻である、
付記10に記載の異常箇所表示装置。
(付記12)
前記撮影機器は、カメラである、
付記1から11のいずれか1つに記載の異常箇所表示装置。
(付記13)
レーザ測距機器と撮影機器と異常箇所表示装置とを備え、
前記レーザ測距機器は、
対象物を測定して前記対象物の点群データを取得し、
前記撮影機器は、
前記対象物を撮影して前記対象物の撮影画像を取得し、
前記異常箇所表示装置は、
前記レーザ測距機器が測定した前記対象物の前記点群データと、前記撮影機器が撮影した前記対象物の前記撮影画像と、を取得する取得部と、
前記点群データと前記撮影画像とを所定の画面上に表示する表示部と、
前記表示部に表示する前記点群データと前記撮影画像とを制御する制御部と、を有する、
異常箇所表示システム。
(付記14)
対象物を測定した前記対象物の点群データと、前記対象物を撮影した前記対象物の撮影画像と、を取得することと、
前記点群データと前記撮影画像とを所定の画面上に表示することと、
前記表示する前記点群データと前記撮影画像とを制御することと、
を備える方法。
(付記15)
対象物を測定した前記対象物の点群データと、前記対象物を撮影した前記対象物の撮影画像と、を取得することと、
前記点群データと前記撮影画像とを所定の画面上に表示することと、
前記表示する前記点群データと前記撮影画像とを制御することと、
をコンピュータに実行させるプログラム。
10:異常箇所表示システム
11:異常箇所表示装置
111:取得部
112:表示部
113:制御部
12:レーザ測距機器
13:撮影機器

Claims (8)

  1. レーザ測距機器を用いて対象物を測定した前記対象物の点群データと、撮影機器を用いて前記対象物を撮影した前記対象物の撮影画像と、を取得する取得部と、
    前記点群データと前記撮影画像とを所定の画面上に表示する表示部と、
    前記表示部に表示する前記点群データと前記撮影画像とを制御する制御部と、
    を備え
    前記制御部は、第1時刻に測定された前記点群データと前記第1時刻から所定の時間だけ過去の第2時刻に撮影された前記撮影画像とを前記表示部に表示し、
    前記レーザ測距機器はレーザを前記対象物に照射し、照射による反射輝度を測定して前記対象物までの距離データを3次元的に取得し、
    取得した前記距離データと、通常状態の測定の結果得られる前記距離データと、の差分が所定差分以上の場合、前記対象物の表面に異常箇所が有ることが検出される、
    異常箇所表示装置。
  2. 前記レーザ測距機器が前記対象物を測定した測定位置と、前記撮影機器が前記対象物を撮影した撮影位置と、の間の距離は、所定距離以内である、
    請求項1に記載の異常箇所表示装置。
  3. 前記制御部は、
    前記レーザ測距機器が前記対象物を測定した複数の前記測定位置と前記撮影機器が前記対象物を撮影した複数の前記撮影位置とを前記表示部に表示し、
    複数の前記測定位置の中から所定の測定位置が選択され、複数の前記撮影位置の中から所定の撮影位置が選択された場合、前記所定の測定位置から前記レーザ測距機器が測定した前記点群データと、前記所定の撮影位置から前記撮影機器が測定した前記撮影画像と、を前記表示部に表示し、
    複数の前記測定位置は、前記対象物に前記異常箇所が現れる前後における前記レーザ測距機器の測定位置を示し、
    複数の前記撮影位置は、前記対象物に前記異常箇所が現れる前後における前記撮影機器の撮影位置を示す、
    請求項2に記載の異常箇所表示装置。
  4. 前記第1時刻は、夜間の時刻であり、前記第2時刻は、昼間の時刻である、
    請求項1に記載の異常箇所表示装置。
  5. 前記撮影機器は、カメラである、
    請求項1から4のいずれか1つに記載の異常箇所表示装置。
  6. レーザ測距機器と撮影機器と異常箇所表示装置とを備え、
    前記レーザ測距機器は、
    対象物を測定して前記対象物の点群データを取得し、
    前記撮影機器は、
    前記対象物を撮影して前記対象物の撮影画像を取得し、
    前記異常箇所表示装置は、
    前記レーザ測距機器が測定した前記対象物の前記点群データと、前記撮影機器が撮影した前記対象物の前記撮影画像と、を取得する取得部と、
    前記点群データと前記撮影画像とを所定の画面上に表示する表示部と、
    前記表示部に表示する前記点群データと前記撮影画像とを制御する制御部と、を有し、
    前記制御部は、第1時刻に測定された前記点群データと前記第1時刻から所定の時間だけ過去の第2時刻に撮影された前記撮影画像とを前記表示部に表示し、
    前記レーザ測距機器はレーザを前記対象物に照射し、照射による反射輝度を測定して前記対象物までの距離データを3次元的に取得し、
    取得した前記距離データと、通常状態の測定の結果得られる前記距離データと、の差分が所定差分以上の場合、前記対象物の表面に異常箇所が有ることが検出される、
    異常箇所表示システム。
  7. 対象物を測定した前記対象物の点群データと、前記対象物を撮影した前記対象物の撮影画像と、を取得することと、
    前記点群データと前記撮影画像とを所定の画面上に表示することと、
    前記表示する前記点群データと前記撮影画像とを制御することと、
    第1時刻に測定された前記点群データと前記第1時刻から所定の時間だけ過去の第2時刻に撮影された前記撮影画像とを前記所定の画面上に表示することと、
    レーザを前記対象物に照射し、照射による反射輝度を測定して前記対象物までの距離データを3次元的に取得することと、
    取得した前記距離データと、通常状態の測定の結果得られる前記距離データと、の差分が所定差分以上の場合、前記対象物の表面に異常箇所が有ると検出することと、
    を備える方法。
  8. 対象物を測定した前記対象物の点群データと、前記対象物を撮影した前記対象物の撮影画像と、を取得することと、
    前記点群データと前記撮影画像とを所定の画面上に表示することと、
    前記表示する前記点群データと前記撮影画像とを制御することと、
    第1時刻に測定された前記点群データと前記第1時刻から所定の時間だけ過去の第2時刻に撮影された前記撮影画像とを前記所定の画面上に表示することと、
    レーザを前記対象物に照射し、照射による反射輝度を測定して前記対象物までの距離データを3次元的に取得することと、
    取得した前記距離データと、通常状態の測定の結果得られる前記距離データと、の差分が所定差分以上の場合、前記対象物の表面に異常箇所が有ると検出することと、
    をコンピュータに実行させるプログラム。
JP2020041198A 2020-03-10 2020-03-10 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム Active JP7468002B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020041198A JP7468002B2 (ja) 2020-03-10 2020-03-10 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム
EP21156255.8A EP3879260A1 (en) 2020-03-10 2021-02-10 Abnormal part display apparatus, abnormal part display system, abnormal part display method, and abnormal part display program
US17/193,136 US11869179B2 (en) 2020-03-10 2021-03-05 Abnormal part display apparatus, abnormal part display system, abnormal part display method, and abnormal part display program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020041198A JP7468002B2 (ja) 2020-03-10 2020-03-10 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム

Publications (2)

Publication Number Publication Date
JP2021143875A JP2021143875A (ja) 2021-09-24
JP7468002B2 true JP7468002B2 (ja) 2024-04-16

Family

ID=74586881

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020041198A Active JP7468002B2 (ja) 2020-03-10 2020-03-10 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム

Country Status (3)

Country Link
US (1) US11869179B2 (ja)
EP (1) EP3879260A1 (ja)
JP (1) JP7468002B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023058098A1 (ja) * 2021-10-04 2023-04-13 日本電気株式会社 表示装置、表示方法及び非一時的なコンピュータ可読媒体

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003032589A (ja) 2001-07-11 2003-01-31 Namco Ltd アルバム作成支援システムおよびアルバム作成支援方法
JP2004212129A (ja) 2002-12-27 2004-07-29 Ishikawajima Harima Heavy Ind Co Ltd 環境状況把握装置
JP2016037808A (ja) 2014-08-08 2016-03-22 株式会社ExH メンテナンスシステム
JP2018136340A (ja) 2018-04-26 2018-08-30 株式会社キーエンス 外観検査装置
JP2019023568A (ja) 2017-07-21 2019-02-14 株式会社タダノ 測定対象物の上面推定方法、ガイド情報表示装置およびクレーン
WO2019031386A1 (ja) 2017-08-09 2019-02-14 シャープ株式会社 画像処理装置、表示装置、画像送信装置、画像処理方法、制御プログラム及び記録媒体
JP2019124659A (ja) 2018-01-19 2019-07-25 佐藤工業株式会社 監視装置及び監視方法
CN110458177A (zh) 2019-07-12 2019-11-15 中国科学院深圳先进技术研究院 图像深度信息的获取方法、图像处理装置以及存储介质

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10318805A (ja) * 1997-05-15 1998-12-04 Toshiba Fa Syst Eng Kk 移動点検システム
JP5480914B2 (ja) * 2009-12-11 2014-04-23 株式会社トプコン 点群データ処理装置、点群データ処理方法、および点群データ処理プログラム
US10019812B2 (en) * 2011-03-04 2018-07-10 General Electric Company Graphic overlay for measuring dimensions of features using a video inspection device
JP5830004B2 (ja) 2012-12-11 2015-12-09 株式会社日立製作所 3次元モデル生成装置、3次元モデル生成方法及び3次元モデル生成プログラム
JP2015175629A (ja) 2014-03-13 2015-10-05 株式会社日立ハイテクノロジーズ 距離測定装置及び距離測定システム
JP2018045587A (ja) * 2016-09-16 2018-03-22 株式会社トプコン 画像処理装置、画像処理方法、画像処理用プログラム
JP7003594B2 (ja) * 2017-11-20 2022-01-20 三菱電機株式会社 3次元点群表示装置、3次元点群表示システム、3次元点群表示方法および3次元点群表示プログラム、記録媒体
JP7050476B2 (ja) * 2017-12-07 2022-04-08 日立Geニュークリア・エナジー株式会社 形状情報操作システム
WO2019163211A1 (ja) * 2018-02-22 2019-08-29 コニカミノルタ株式会社 監視システムおよび監視システムの制御方法
US10914191B2 (en) * 2018-05-04 2021-02-09 Raytheon Technologies Corporation System and method for in situ airfoil inspection
JP7095418B2 (ja) * 2018-06-08 2022-07-05 株式会社リコー 描画装置、診断システム、描画方法、及びプログラム
JP2020021465A (ja) * 2018-07-18 2020-02-06 エヌ・ティ・ティ・コムウェア株式会社 点検システム及び点検方法
JP6623266B1 (ja) 2018-09-12 2019-12-18 古河電気工業株式会社 分散液及び導電性接合部材の製造方法
US11055546B2 (en) * 2018-12-18 2021-07-06 Here Global B.V. Automatic positioning of 2D image sign sightings in 3D space

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003032589A (ja) 2001-07-11 2003-01-31 Namco Ltd アルバム作成支援システムおよびアルバム作成支援方法
JP2004212129A (ja) 2002-12-27 2004-07-29 Ishikawajima Harima Heavy Ind Co Ltd 環境状況把握装置
JP2016037808A (ja) 2014-08-08 2016-03-22 株式会社ExH メンテナンスシステム
JP2019023568A (ja) 2017-07-21 2019-02-14 株式会社タダノ 測定対象物の上面推定方法、ガイド情報表示装置およびクレーン
WO2019031386A1 (ja) 2017-08-09 2019-02-14 シャープ株式会社 画像処理装置、表示装置、画像送信装置、画像処理方法、制御プログラム及び記録媒体
JP2019124659A (ja) 2018-01-19 2019-07-25 佐藤工業株式会社 監視装置及び監視方法
JP2018136340A (ja) 2018-04-26 2018-08-30 株式会社キーエンス 外観検査装置
CN110458177A (zh) 2019-07-12 2019-11-15 中国科学院深圳先进技术研究院 图像深度信息的获取方法、图像处理装置以及存储介质

Also Published As

Publication number Publication date
US20210287356A1 (en) 2021-09-16
EP3879260A1 (en) 2021-09-15
US11869179B2 (en) 2024-01-09
JP2021143875A (ja) 2021-09-24

Similar Documents

Publication Publication Date Title
US20120307046A1 (en) Methods and apparatus for thermographic measurements
US8743238B2 (en) Image processing apparatus, imaging apparatus, image processing method, and white balance adjustment method
US9993154B2 (en) Eye gaze detection supporting device and eye gaze detection supporting method
KR20170091677A (ko) 체온이 증가한 개체를 식별하기 위한 방법 및 시스템
KR20170025781A (ko) 열화상 카메라를 이용한 전력설비 진단 장치 및 방법
JPWO2018042481A1 (ja) 撮影装置及び撮影方法
JP2017504017A (ja) 計測機器、システム、及びプログラム
JP2009192332A (ja) 3次元処理装置における3次元データの表示制御方法および3次元処理装置
US20160005156A1 (en) Infrared selecting device and method
JP7468002B2 (ja) 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム
JP7273726B2 (ja) 表面特性検査装置及び表面特性検査プログラム
US20190273845A1 (en) Vibration monitoring of an object using a video camera
US11887349B2 (en) Interest determination apparatus, interest determination system, interest determination method, and non-transitory computer readable medium storing program
CN112833812A (zh) 用于检验样品的测量仪器和用于确定样品高度图的方法
JP2003329780A (ja) 夜間雲量測定方法および夜間雲量測定装置
JP6166631B2 (ja) 3次元形状計測システム
US20200278203A1 (en) A method, a system and a computer program for measuring a distance to a target
JP6885764B2 (ja) レンズメータ
US20180365840A1 (en) Optical module and a method for objects' tracking under poor light conditions
JP2009092409A (ja) 3次元形状測定装置
US20150350571A1 (en) Device and method for selecting thermal images
JPWO2019008936A1 (ja) 画像処理装置、コンピュータプログラム、および画像処理システム
CN113701894A (zh) 人脸测温方法、装置、计算机设备及存储介质
JP7040627B2 (ja) 算出装置、情報処理方法およびプログラム
JP3755319B2 (ja) 主被写体検出装置およびそれを用いた機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240318

R150 Certificate of patent or registration of utility model

Ref document number: 7468002

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150