JP6335389B2 - 点群画像生成装置および表示システム - Google Patents

点群画像生成装置および表示システム Download PDF

Info

Publication number
JP6335389B2
JP6335389B2 JP2017518724A JP2017518724A JP6335389B2 JP 6335389 B2 JP6335389 B2 JP 6335389B2 JP 2017518724 A JP2017518724 A JP 2017518724A JP 2017518724 A JP2017518724 A JP 2017518724A JP 6335389 B2 JP6335389 B2 JP 6335389B2
Authority
JP
Japan
Prior art keywords
point
dimensional
data
measurement
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017518724A
Other languages
English (en)
Other versions
JPWO2016185637A1 (ja
Inventor
健司 富樫
健司 富樫
小澤 正
正 小澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2016185637A1 publication Critical patent/JPWO2016185637A1/ja
Application granted granted Critical
Publication of JP6335389B2 publication Critical patent/JP6335389B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3602Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01TMEASUREMENT OF NUCLEAR OR X-RADIATION
    • G01T1/00Measuring X-radiation, gamma radiation, corpuscular radiation, or cosmic radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Molecular Biology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Traffic Control Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、道路等を走行しながら周辺の地物の三次元形状を表す三次元点群データを取得する地物計測システムに関するものであり、特に、取得した三次元点群データにより表される地物の点群画像を生成する技術に関する。
測量分野において、移動しながら地物の三次元情報を取得するモービルマッピングシステム(MMS)が普及しつつある。
MMSは、GPS衛星が可視である環境下において、高精度な計測が可能である。また、測位補強情報を用いることにより、走行中に高精度な三次元点群データを生成し、三次元点群をリアルタイムで表示することも可能となる。GPSは、Global Positioning Systemの略称である。
国際公開2008/099915号 特開2015−31018号
本発明は、走行中に取得される地物の点群画像をリアルタイムで表示可能なシステムにおいて、計測地点において取得される地物の点群画像を所望の態様で表示するための点群画像生成装置を提供することを目的とする。
本発明の点群画像生成装置は、
計測車両に取り付けられたレーザスキャナからレーザを周辺物体に照射することによって複数の照射点までの方位と距離とを計測して得られた各照射点における計測値に基づいて、前記各照射点の三次元座標値を示すデータである三次元点群データを生成する三次元点群生成部と、
視点位置、および視線方向に基づいて、前記三次元点群データに対し二次元投影処理を行い、点群画像を生成する二次元投影部と、
前記視点位置、および前記視線方向の各々を独立に変更するためのユーザインタフェースとを備える。
本発明によれば、走行中に取得される地物の点群画像をリアルタイムで表示可能なシステムにおいて、計測地点において取得される地物の点群画像を所望の態様で表示するための点群画像生成装置を提供することができる。
実施の形態1における点群画像生成装置100の構成図。 実施の形態1における計測車両110の外観図。 実施の形態1における表示装置300の表示例を示す図。 実施の形態1における視点位置の説明図。 実施の形態1における点群画像310の構成図。 実施の形態1におけるインタフェース画像320の構成図。 実施の形態1において点群画像生成方法のフローチャート。 実施の形態1における視線方向別の点群画像310を示す図。 実施の形態1における上下左右の移動オフセット別の点群画像310を示す図。 実施の形態1における前後の移動オフセット別の点群画像310を示す図。 実施の形態1における上下左右の回転オフセット別の点群画像310を示す図。 実施の形態における点群画像生成装置100のハードウェア構成図。 実施の形態2による表示システムを備えた計測車両の一例を示す図。 実施の形態2による表示システムの構成を示す図。 実施の形態2による表示システムにおける、点群画像を表示する表示装置の表示画面を示す図。 実施の形態2による表示システムにおける、点群画像の視点を操作する操作部の表示例を示す図。 実施の形態2による操作部の5つの入力ボタンの選択により、切換表示される点群画像の一例を示す図。 実施の形態2による操作部のオフセット値設定部において、基準となる視点位置に対し水平および垂直方向に所定のオフセット値を設定した場合に表示される点群画像の一例を示す図。 実施の形態2による操作部のオフセット値設定部において、基準となる視点位置に対し、前後に所定のオフセット値を設定した場合に表示される点群画像の一例を示す図。 実施の形態2による操作部のオフセット値設定部において、基準となる視線方向に対し、水平および垂直方向に所定角度のオフセット値を設定した場合に表示される点群画像の一例を示す図。 実施の形態3による表示システムの構成を示す図。 実施の形態3による表示システムの点群認識処理部における、基準データ生成部の基準3次元点群データの生成処理を説明する図。 実施の形態3による表示システムの点群認識処理部における、基準データ生成部および差分処理部の格子点整列処理の流れを説明する図。 実施の形態4における<実施例1>の点群画像310の変化を示す図。 実施の形態4における<実施例2、3>の点群画像310の変化を示す図。 実施の形態5における視点操作モード切り替えボタン314を示す図。 実施の形態5におけるスライド(315、316)がオーバーレイ表示された点群画像310を示す図。 実施の形態5における視点位置マーク317がオーバーレイ表示された点群画像310を示す図。
実施の形態1.
道路等を走行しながら、周辺の地物の三次元形状を表す三次元点群データを取得し、取得した三次元点群データにより表される地物の三次元形状をリアルタイムで表示する点群画像生成装置100について、図1から図12に基づいて説明する。
***構成の説明***
図1に基づいて、点群画像生成装置100の構成について説明する。
点群画像生成装置100は、計測車両110と、計測データ処理部200と、表示装置300と、操作部400とを備える。
計測車両110は、道路を走行しながら各種の計測を行う車両である。
各種の計測によって、測位補強データ101と、測位データ102と、慣性計測データ103と、走行距離データ104と、方位距離データ105とが得られる。
図2に基づいて、計測車両110の構成について説明する。
計測車両110は、車体の屋根に設けられた天板119を備えている。また、計測車両110は、オドメータ114を備えている。
天板119には、測位補強信号受信機111と、測位信号受信機112と、慣性計測装置113と、レーザスキャナ115とが取り付けられている。
測位補強信号受信機111は、GNSS衛星または地上の無線LANまたは携帯電話回線から、計測車両110の位置を高精度に測位するために用いる測位補強データ101を受信する。GNSSは全地球測位システムの略称である。
測位補強データ101は、GNSS衛星から配信される場合と、GNSS補正情報配信サービス事業者から携帯電話網を介して配信される場合とが考えられる。
GNSS衛星が測位補強データ101を配信する準天頂衛星である場合、センチメートル級の精度の測位補強データ101は、準天頂衛星から送信されるL6帯の信号に含まれる。この場合、測位補強データ101は、GPS衛星の衛星時計の誤差、GPS衛星の軌道誤差、周波数間バイアス、電離層伝搬遅延の誤差および対流圏遅延の誤差を示す。
測位信号受信機112は、測位衛星から送信される測位信号を受信し、測位信号の受信結果を用いて計測車両110の位置を測位する。測位衛星の一例はGPS衛星である。
測位データ102は、測位信号受信機112によって測位された計測車両110の位置を示すデータである。
慣性計測装置113は、計測車両110の3軸方向の角度および角速度を計測するジャイロと、計測車両110の3軸方向の加速度を計測する加速度センサとを備える。計測車両110の3軸方向の角度は仰角と回転角と方位角である。
慣性計測データ103は、慣性計測装置113によって得られた情報を示すデータである。
オドメータ114は、計測車両110の車輪が回転する毎に出力される車速パルスを検出し、タイヤの回転半径と車輪の回転量とを用いた積分計算によって走行距離を算出する。
走行距離データ104は、オドメータ114によって算出された走行距離を示すデータである。
レーザスキャナ115は、1秒間に100回転程度の速さで回転しながらレーザを出射して、計測車両110の周囲に位置する地物をスキャンする。
その際、レーザスキャナ115は、レーザが照射された地点(照射点)毎に、レーザを出射した時刻と地物から反射されたレーザを受信した時刻との時刻差を計測し、計測した時刻差を用いてレーザが照射された地点までの距離を求める。また、レーザスキャナ115は、レーザが出射された方向を示す方位を求める。
方位距離データ105は、計測時刻と距離と方位とを互いに対応付けたデータである。計測時刻は、レーザスキャナ115による計測が行われたときの時刻である。計測時刻の一例は、レーザが出射された時刻またはレーザが受信された時刻である。
図1に戻り、点群画像生成装置100の説明を続ける。
計測データ処理部200は、位置演算部121と、姿勢演算部122と、三次元点群生成部123と、位置推定部220と、二次元投影部230とを備える。
位置演算部121は、測位補強データ101と測位データ102と慣性計測データ103と走行距離データ104とを用いて、計測時刻における計測車両110の位置である計測位置の三次元座標値を算出する。計測位置は自己位置または自車位置ともいう。
そして、位置演算部121は、算出した計測位置を示す計測位置データ201を生成する。
姿勢演算部122は、測位データ102と慣性計測データ103と走行距離データ104とを用いて、計測時刻における計測車両110(またはレーザスキャナ115)の姿勢である計測姿勢を算出する。
そして、姿勢演算部122は、算出した計測姿勢を示す計測姿勢データ202を生成する。
三次元点群生成部123は、方位距離データ105と計測位置データ201と計測姿勢データ202とを用いて、レーザスキャナ115によって計測された地物を表す三次元点群で表す三次元点群データ203を生成する。
この際、三次元点群生成部123は、方位距離データ105が示す方位を計測姿勢データ202が示す計測姿勢を用いて補正し、補正後の方位と計測位置データ201が示す計測位置と方位距離データ105が示す距離とを用いて、レーザが照射された地点の三次元座標値を算出する。
三次元点群データ203は、計測車両110に取り付けられたレーザスキャナ115を周辺の地物に照射することによって複数のレーザ照射点までの方位と距離とを計測して得られる方位距離データ105を用いて生成されるデータであって、複数のレーザ照射点それぞれの三次元座標値を示すデータである。
位置推定部220は、計測位置の三次元座標値を示す計測位置データ201を用いて、点群画像310が表示されるときの計測車両110の位置である推定位置の三次元座標値を推定する。推定位置は、現在位置または推定自己位置ともいう。
そして、位置推定部220は、推定した三次元座標値を示す推定位置データ229を生成する。
二次元投影部230は、計測位置データ201と計測姿勢データ202と三次元点群データ203と推定位置データ229とを用いて、操作部400から出力される操作データ204が示す情報に従って、投影点群データ235と投影マークデータ236とを生成する。図示を省略するが、計測位置データ201は位置演算部121から二次元投影部230に入力され、計測姿勢データ202は姿勢演算部122から二次元投影部230に入力される。
投影点群データ235は、三次元点群データ203を二次元座標値に変換したデータである。生成された投影点群データ235および投影マークデータ236は、表示装置300に出力される。
二次元投影部230における座標変換処理(投影処理)については後述する。
図5は、投影点群データ235および投影マークデータ236に基づいて表示装置300に表示される点群画像310の一例を示す図である。
点群画像310は、三次元点群311と、計測位置マーク312と、推定位置マーク313とを含んでいる。
三次元点群311は、計測車両110に取り付けられたレーザスキャナ115を周辺の地物に照射して得られる複数の照射点を表し、三次元点群データ203に基づいて表示される。三次元点群311を構成する各点は三角形により表されている。
計測位置マーク312は、計測車両110が各種の計測データを取得したときの計測車両110の位置である計測位置を表す。計測位置は自己位置または自車位置ともいう。
推定位置マーク313は、点群画像310が表示されるときの計測車両110の位置である推定位置を表す。推定位置は現在位置または自車位置ともいう。
計測位置マーク312および推定位置マーク313は、投影マークデータ236に基づいて表示される。
図1に戻り、点群画像生成装置100の説明を続ける。
操作部400は、利用者が指定した視点位置および視線方向を示す操作データ204を出力する。
操作部400は、インタフェース画像320、または、インタフェース画像320が表すユーザインタフェースを操作するためのソフトウェアまたはハードウェアである。
インタフェース画像320は、視点位置および視線方向を変更するためのユーザインタフェースを表す画像である。
利用者は、キーボードおよびマウスなどの入力装置を用いて、インタフェース画像320が表すユーザインタフェースを操作することによって、視点位置および視線方向を指定する。利用者は、タッチパッドまたはタッチパネルなどの入力装置を用いて、視点位置および視線方向を指定してもよい。
図3に基づいて、表示装置300の表示例について説明する。
表示装置300は、点群画像310と操作部400に対応するインタフェース画像320とを表示する。表示装置300は、利用者によって操作されるタッチパネルを備えてもよい。
図4は、表示装置300に表示される点群画像310の視点位置について説明するための図である。
計測車両110の位置(自車位置401)から所定距離を隔てた位置に基準視点位置411が設定される。初期状態においては、当該基準視点位置411から計測車両110の進行方向(前方)に向かう視線方向に見える地物の点群画像310が表示される。基準視点位置411は、基準位置または視点基準位置ともいう。
利用者は、操作部400を介し、基準視点位置411からの視線方向を所望の方向に変えるとともに、基準視点位置411に対し所定のオフセット値を設けた視点位置を設定することが可能である。
図6に基づいて、インタフェース画像320の構成について説明する。
インタフェース画像320は、前方ボタン321Fと、後方ボタン321Bと、左ボタン321Lと、右ボタン321Rと、下方ボタン321Dとを含んでいる。
前方ボタン321Fと後方ボタン321Bと左ボタン321Lと右ボタン321Rとは矢印の形状を有するボタンであり、下方ボタン321Dは正方形の形状を有するボタンである。
前方ボタン321Fは下方ボタン321Dの上に配置され、後方ボタン321Bは下方ボタン321Dの下に配置され、左ボタン321Lは下方ボタン321Dの左に配置され、右ボタン321Rは下方ボタン321Dの右に配置されている。
前方ボタン321Fは、視線方向を計測車両110の進行方向に向けるためのボタンである。
後方ボタン321Bは、視線方向を計測車両110の進行方向に対して逆方向に向けるためのボタンである。
左ボタン321Lは、視線方向を計測車両110の進行方向に対して左方向に向けるためのボタンである。
右ボタン321Rは、視線方向を計測車両110の進行方向に対して右方向に向けるためのボタンである。
下方ボタン321Dは、視線方向を下方向に向けるためのボタンである。
インタフェース画像320は、左右ウィジェット322Xと、前後ウィジェット322Yと、上下ウィジェット322Zと、仰角ウィジェット323Pと、方位角ウィジェット323Yと、取消ボタン329とを含んでいる。
左右ウィジェット322Xは、視点位置を基準視点位置411に対し、計測車両110の左右方向に移動させる移動量を指定するためのユーザインタフェースである。
前後ウィジェット322Yは、視点位置を基準視点位置411に対し、計測車両110の前後方向に移動させる移動量を指定するためのユーザインタフェースである。
上下ウィジェット322Zは、視点位置を基準視点位置411に対し、計測車両110の上下方向に移動させる移動量を指定するためのユーザインタフェースである。
仰角ウィジェット323Pは、基準視点位置411からの視線方向を垂直方向に所定角度ずらすためのオフセット量を設定するためのユーザインタフェースである。
方位角ウィジェット323Yは、基準視点位置411からの視線方向を水平方向に所定角度ずらすためのオフセット量を設定するためのユーザインタフェースである。
取消ボタン329は、指定された移動量および指定されたオフセット量を取り消すためのボタンである。
以下、二次元投影部230の投影処理について説明する。
二次元投影部230は、計測位置データ201と計測姿勢データ202とを用いて基準視点位置411を算出し、当該基準視点位置411と操作部400からの操作データ204とを用いて利用者が指定した視点位置と視点方向を求める。
二次元投影部230は、利用者が指定した視点位置と視線方向に基づいて三次元点群データ203を二次元座標データに変換する二次元投影処理を行い、投影点群データ235を生成する。
同様に、二次元投影部230は、利用者が指定した視点位置と視点方向に基づいて、計測位置データ201および推定位置データ229をそれぞれ二次元座標データに変換する二次元投影処理を行い、投影マークデータ236を生成する。
***動作の説明***
点群画像生成装置100の動作は点群画像生成方法に相当する。また、点群画像生成方法は点群画像生成プログラムの処理手順に相当する。
図7に基づいて、点群画像生成方法について説明する。
ステップS110は計測処理である。
ステップS110において、計測車両110の各機器は計測を行い、計測に得られたデータを出力する。出力されるデータは、測位補強データ101、測位データ102、慣性計測データ103、走行距離データ104および方位距離データ105である。
ステップS120は位置演算処理である。
ステップS120において、位置演算部121は、測位補強データ101と測位データ102と慣性計測データ103と走行距離データ104とを用いて、計測位置の三次元座標値を算出する。計測位置は、計測時の計測車両110の位置である。
そして、位置演算部121は、計測位置の三次元座標値を示す計測位置データ201を生成し、生成した計測位置データ201を出力する。
ステップS130は姿勢演算処理である。
ステップS130において、姿勢演算部122は、測位データ102と慣性計測データ103と走行距離データ104とを用いて、計測姿勢を算出する。計測姿勢は、計測時の計測車両110の姿勢である。
そして、姿勢演算部122は、計測姿勢を示す計測姿勢データ202を生成し、生成した計測姿勢データ202を出力する。
ステップS140は三次元点群生成処理である。
ステップS140において、三次元点群生成部123は、計測位置データ201と計測姿勢データ202と方位距離データ105とを用いて、レーザが照射された各照射点の三次元座標値を算出する。
そして、三次元点群生成部123は、各照射点の三次元座標値を示す三次元点群データ203を生成し、生成した三次元点群データ203を出力する。
ステップS150は位置推定処理である。
ステップS150において、位置推定部220は、計測位置データ201を用いて、推定位置の三次元座標値を算出する。推定位置は、点群画像310が表示されるときの計測車両110の位置として推定される位置である。
そして、位置推定部220は、推定位置の三次元座標値を示す推定位置データ229を生成し、生成した推定位置データ229を出力する。
位置推定部220は、以下のように推定位置を算出する。
位置推定部220は、最新の計測位置データ201が取得された時刻と現在時刻との差を求め、最新の計測位置データ201が取得された時点における走行軌跡、角速度および加速度から現在時刻における自己位置を推定位置として算出する。ここで、現在時刻とは二次元投影部230から出力された投影点群データ235と投影マークデータ236とに基づいて表示装置300が点群画像310を表示する時刻である。この現在時刻は、計測位置データ201が取得されてから、計測位置データ201が取得された時刻と同時刻に取得された点群画像310が表示装置300に表示されるまでに要する処理時間を考慮して求められる。
例えば、時刻T0において、地点P0に存在する計測車両110がX軸方向に時速50キロメートルで等速直線運動しているものとする。この場合、現在時刻T1において、計測車両110は、(50*1000/3600)*(T1−T0)[メートル]だけ、地点P0からX軸方向に進んだ地点P1に存在するものと推定される。
ステップS160は二次元投影処理である。
ステップS160において、二次元投影部230は、三次元点群データベースと計測位置データ201と計測姿勢データ202とを用いて、操作データ204が示す情報に従って、投影点群データ235を生成する。
二次元投影部230は、計測位置データ201を用いて、操作データ204が示す情報に従って、投影マークデータ236を生成する。
そして、二次元投影部230は、投影点群データ235と投影マークデータ236とを表示装置300に出力する。
ステップS170は点群画像表示処理である。
ステップS170において、表示装置300は、投影点群データ235と投影マークデータ236とを用いて点群画像310を生成し、生成した点群画像310を表示する。
図8に、視線方向別の点群画像310を示す。
図8の(F)は、前方ボタン321Fが押下された場合、つまり、視線方向が計測車両110の進行方向である場合の点群画像310を示している。
図8の(B)は、後方ボタン321Bが押下された場合、つまり、視線方向が計測車両110の進行方向に対して逆方向である場合の点群画像310を示している。
図8の(L)は、左ボタン321Lが押下された場合、つまり、視線方向が計測車両110の進行方向に対して左方向である場合の点群画像310を示している。
図8の(R)は、右ボタン321Rが押下された場合、つまり、視線方向が計測車両110の進行方向に対して右方向である場合の点群画像310を示している。
図8の(D)は、下方ボタン321Dが押下された場合、つまり、視線方向が下方向である場合の点群画像310を示している。
図9に、上下左右の移動オフセット別の点群画像310を示す。
図9の(0)は、上下ウィジェット322Zで指定された移動量および左右ウィジェット322Xで指定された移動量がゼロである場合、つまり、視点位置が基準視点位置411と同じである場合の点群画像310を示している。
図9の(U)は、上下ウィジェット322Zで+5.0メートルが指定された場合、つまり、視点位置が基準視点位置411から上方に移動した場合の点群画像310を示している。
図9の(D)は、上下ウィジェット322Zで−5.0メートルが指定された場合、つまり、視点位置が基準視点位置411から下方に移動した場合の点群画像310を示している。
図9の(L)は、左右ウィジェット322Xで+5.0メートルが指定された場合、つまり、視点位置が基準視点位置411から左に移動した場合の点群画像310を示している。
図9の(R)は、左右ウィジェット322Xで−5.0メートルが指定された場合、つまり、視点位置が基準視点位置411から右に移動した場合の点群画像310を示している。
図10に、前後の移動オフセット別の点群画像310を示す。
図10の(O)は、前後ウィジェット322Yで指定された移動量がゼロである場合、つまり、視点位置が基準視点位置411と同じである場合の点群画像310を示している。
図10の(F)は、前後ウィジェット322Yで+5.0メートルが指定された場合、つまり、視点位置が基準視点位置411から前方に移動した場合の点群画像310を示している。
図10の(B)は、前後ウィジェット322Yで−5.0メートルが指定された場合、つまり、視点位置が基準視点位置411から後方に移動した場合の点群画像310を示している。
図11に、上下左右の回転オフセット別の点群画像310を示す。
図11の(O)は、仰角ウィジェット323Pで指定されたオフセット量および方位角ウィジェット323Yで指定されたオフセット量がゼロである場合、つまり、二次元投影面が回転していない場合の点群画像310を示している。
図11の(U)は、仰角ウィジェット323Pで+10度が指定された場合、つまり、二次元投影面が上向きに傾いた場合の点群画像310を示している。
図11の(D)は、仰角ウィジェット323Pで−10度が指定された場合、つまり、二次元投影面が下向きに傾いた場合の点群画像310を示している。
図11の(L)は、方位角ウィジェット323Yで+10度が指定された場合、つまり、二次元投影面が左向きに傾いた場合の点群画像310を示している。
図11の(R)は、方位角ウィジェット323Yで−10度が指定された場合、つまり、二次元投影面が右向きに傾いた場合の点群画像310を示している。
***効果の説明***
実施の形態1により、走行中に取得される地物の点群画像をリアルタイムで表示可能なシステムにおいて、計測地点において取得される地物の点群画像を所望の態様で表示するための点群画像生成装置100を提供することができる。
点群画像生成装置100は、利用者が指定する視線方向から見た三次元点群311を表す点群画像310を表示することができる。
利用者は、インタフェース画像320のボタンを押下することによって、三次元点群311を参照する視線方向を容易に変更することができる。
利用者は、インタフェース画像320のウィジェットで移動量およびオフセット量を指定することによって、三次元点群311を参照する視線方向を容易に変更することができる。
利用者は、取消ボタン329を押下することによって、指定した移動量およびオフセット量をリセットすることができる。
利用者は、三次元点群311を参照する視線方向を変更することによって、道路に置かれた障害物および道路の陥没箇所を様々な方向から参照することができる。
点群画像生成装置100は、計測位置マーク312と推定位置マーク313とを点群画像310に含めることができる。
利用者は、計測位置マーク312と推定位置マーク313とを参照することによって、計測位置と現在位置(推定位置)と三次元点群311との関係を把握することができる。
利用者は、計測位置と現在位置と三次元点群311との関係を把握することによって、道路に置かれた障害物の位置および道路の陥没箇所を把握することができる。
三角形の描画は円形の描画よりも容易であるため、点群画像生成装置100は、三次元点群の各三次元点の形状を三角形にすることによって、安価なグラフィックボードを用いて三次元点群を短時間で描画することができる。
***他の構成***
計測データ処理部200は、1台のコンピュータで構成してもよいし、複数台のコンピュータで構成してもよい。例えば、計測データ処理部200は、位置演算部121と姿勢演算部122と三次元点群生成部123とを備える第一の装置と、位置推定部220と二次元投影部230とを備える第二の装置とによって構成してもよい。第一の装置は計測車両110に搭載される。一方、第二の装置は、計測車両110に搭載されてもよいし、遠隔地のセンタに設けられてもよい。表示装置300および操作部400は、計測車両110に搭載されてもよいし、遠隔地のセンタに設けられてもよい。
点群画像310において、計測位置マーク312と推定位置マーク313とのいずれかを省略してもよい。
計測車両110の走行軌跡を示す走行軌跡マークを点群画像310に加えてもよい。
インタフェース画像320において、少なくともいずれかのボタンまたはウィジェットを省略してもよい。
***ハードウェア構成の説明***
図12に基づいて、点群画像生成装置100のハードウェア構成例について説明する。
点群画像生成装置100は、プロセッサ901、補助記憶装置902、メモリ903、通信装置904、入力インタフェース905、出力インタフェース906といったハードウェアを備えるコンピュータである。
プロセッサ901は信号線910を介して他のハードウェアと接続されている。入力インタフェース905はケーブル911を介して入力装置907に接続されている。出力インタフェース906はケーブル912を介して出力装置908に接続されている。
プロセッサ901は、プロセッシングを行うICであり、他のハードウェアを制御する。プロセッサ901の一例は、CPU、DSP、GPUである。ICはIntegrated Circuitの略称である。CPUはCentral Processing Unitの略称であり、DSPはDigital Signal Processorの略称であり、GPUはGraphics Processing Unitの略称である。
補助記憶装置902はデータを記憶する。補助記憶装置902の一例は、ROM、フラッシュメモリ、HDDである。ROMはRead Only Memoryの略称であり、HDDはHard Disk Driveの略称である。
メモリ903はデータを記憶する。メモリ903の一例はRAMである。RAMはRandom Access Memoryの略称である。
通信装置904は、データを受信するレシーバ9041と、データを送信するトランスミッタ9042とを備える。通信装置904の一例は、通信チップ、NICである。NICはNetwork Interface Cardの略称である。
入力インタフェース905はケーブル911が接続されるポートであり、ポートの一例はUSB端子である。USBはUniversal Serial Busの略称である。
出力インタフェース906はケーブル912が接続されるポートであり、USB端子およびHDMI端子はポートの一例である。HDMI(登録商標)はHigh Definition Multimedia Interfaceの略称である。
入力装置907はデータ、命令および要求を入力する。入力装置907の一例は、マウス、キーボード、タッチパネル、タッチパッドである。
出力装置908はデータ、結果および応答を出力する。出力装置908の一例は、ディスプレイ、プリンタである。ディスプレイの一例はLCDである。LCDはLiquid
Crystal Displayの略称である。
補助記憶装置902にはOSが記憶されている。OSはOperating Systemの略称である。
また、補助記憶装置902には、位置演算部121、姿勢演算部122、三次元点群生成部123、位置推定部220、二次元投影部230といった「部」の機能を実現するプログラムが記憶されている。「部」の機能を実現するプログラムは記憶媒体に記憶することができる。
OSの少なくとも一部はメモリ903にロードされ、プロセッサ901はOSを実行しながら「部」の機能を実現するプログラムを実行する。「部」の機能を実現するプログラムは、メモリ903にロードされ、プロセッサ901に読み込まれ、プロセッサ901によって実行される。
なお、点群画像生成装置100が複数のプロセッサ901を備えて、複数のプロセッサ901が「部」の機能を実現するプログラムを連携して実行してもよい。
「部」の処理の結果を示すデータ、情報、信号値および変数値などは、メモリ903、補助記憶装置902、プロセッサ901内のレジスタ、または、プロセッサ901内のキャッシュメモリに記憶される。
「部」は「サーキットリ」で実装してもよい。「部」は「回路」、「工程」、「手順」または「処理」に読み替えてもよい。
「回路」及び「サーキットリ」は、プロセッサ901、ロジックIC、GA、ASIC、FPGAといった処理回路を包含する概念である。GAはGate Arrayの略称であり、ASICはApplication Specific Integrated
Circuitの略称であり、FPGAはField−Programmable Gate Arrayの略称である。
実施の形態2.
図13はこの発明に係る実施の形態2による表示システムを備えた計測車両の一例を示す図である。図14は実施の形態2による表示システムの構成を示す図である。図13において、移動体である計測車両1110は、ルーフ(屋根)上に設置された天板上に、計測部1100を構成する各種計測機器を外装している。計測車両1110は、計測部1100、並びに後述の計測データ処理部1200、表示装置1300、および操作部1400を搭載して、MMSを構成している。計測車両1110は、運転手と、表示システムの操作者と、表示システムの画面表示を凝視して路面を検査する検査員等が搭乗する。
図14において、実施の形態2による表示システムは、計測車両1110に外装された計測部1100と、計測データ処理部1200と、表示装置1300と、操作部1400から構成されて、表示装置1300に路面状態を表示する。計測データ処理部1200はデータ処理ユニットを構成し、計測車両1110の車内に搭載される。計測データ処理部1200は、位置姿勢計測部1206と、レーザ点群3次元化処理部1203と、2次元投影変換処理部1204と、自己位置設定部1205と、点群認識処理部1250から構成される。また、表示装置1300および操作部1400は、計測車両1110の車内に搭載される。
なお、表示装置1300または操作部1400は、計測車両1110の外部に構成されても良く、この場合は、計測データ処理部1200と、表示装置1300および操作部1400を、無線データ伝送装置により接続する。
計測部1100は、測位補強信号受信部1101と、GNSS受信機1102と、IMU1103と、オドメトリ装置1104と、レーザスキャナ1105から構成されて、各種の計測データを各測定時刻で取得する。IMUはInertial Measurement Unitの略称である。計測部1100は、クロックパルスを計数して測定時刻を計測する。計測データ処理部1200は、計測部1100により得られた各種の計測データを処理し、点群画像データ1013を生成する。計測データ処理部1200は、CPU(Central Processing Unit)と記憶装置等から構成する。表示装置1300は、計測データ処理部1200により生成された点群画像データ1013から点群画像を表示する。操作部1400は、表示装置1300に表示される点群画像の視点、視点方向等の視点情報1012を入力することにより点群画像の表示態様を指定する。
測位補強信号受信部1101は、全地球測位システムGNSS(Global Navigation Satellite System)衛星または地上の無線LANまたは携帯電話回線により、後述する自己位置演算部1201における自己位置の高精度測位演算に用いる測位補強データ1001を取得する。GNSS衛星は、GPS、GLONASS(Global Navigation Satellite System)、GALILEO、準天頂衛星等である。
なお、準天頂衛星は、日本国内において60°以上の高仰角に位置するため、測位補強信号受信部1101は、準天頂衛星から比較的絶え間なく測位補強情報を受信することができる。
測位補強情報は、GNSS衛星から配信される場合と、GNSS補正情報配信サービス事業者から無線LANまたは携帯電話網を介して配信される場合とが考えられる。測位補強情報を配信するGNSS衛星が準天頂衛星である場合、cm(センチメータ)級測位精度の補強を行う測位補強情報は、準天頂衛星が送信するL6帯の信号に含まれる。測位補強情報は、GNSS衛星の衛星時計誤差、軌道誤差、および周波数間バイアスと、GNSS衛星と観測点の間におけるL6帯の信号の電離層伝搬遅延誤差および対流圏遅延誤差からなる。
GNSS受信機1102は、GPS、GLONASS、GALILEO、準天頂衛星等のGNSS測位信号を受信し、計測車両の位置を示す測位データ1002を例えば0.1秒より短い間隔(例えば10Hz)で取得する。取得した測位データ1002は、計測時刻の時刻タグとともに出力される。GNSS測位信号は、GPS衛星、GLONASS衛星、GALILEO衛星等のGNSS衛星から発信されるL1帯、L2帯、L5帯のGNSS信号であり、GNSS衛星と観測点の間の時間差(疑似距離)、搬送波位相、時刻を計測することができる。また、GNSS測位信号の観測データは、アルマナック、軌道情報、時計の補正値、電離層補正データ、ヘルスデータ等からなる航法メッセージと、信号搬送波を変調したC/Aコード、Pコード等のコード情報が含まれる。GNSS測位信号のコード、搬送波位相等の観測データを用いて、高精度なリアルタイム測位を行うことができる。
なお、GNSS受信機1102は、3つのGNSS信号受信アンテナと、それぞれのGNSS信号受信アンテナに接続された3つの受信機から構成されると良い。この場合、3つのGNSS信号受信アンテナおよび受信機を用いることで、GNSS測位信号を用いて計測車両1110の姿勢を計測することができる。
勿論、1つまたは2つのGNSS信号受信アンテナと、それぞれのGNSS信号受信アンテナに接続された1つまたは2つの受信機で構成されても良い。また、GNSS受信機1102と測位補強信号受信部1101を一体的に構成しても良い。
GNSS受信機1102がN個(Nは2以上の整数)のGNSS信号受信アンテナおよび受信機から構成される場合、予めN個のGNSS受信機1102の重心位置からレーザスキャナ1105までの位置ベクトルを求める。そして、N個のGNSS受信機1102の計測データの重心位置から当該位置ベクトルを差し引いて得られる位置座標を、計測車両1110のレーザスキャナ1105の位置として求める。
IMU1103は、計測車両の3軸方向の傾き(ピッチ角、ロール角、ヨー角)を示す角度データ、角速度データ1003を取得するジャイロと、3軸方向の加速度データ1006を取得する加速度センサから構成される。IMU1103は、角度データ、角速度データ1003、加速度データ1006を例えば0.1秒より短い間隔(例えば100Hz)で測定時刻とともに出力する。
オドメトリ装置1104は、オドメトリ手法により、計測車両の車輪の回転に応じて得られるタイヤの回転速度または車速パルスから、タイヤの回転半径と回転数の積分により走行距離を示す走行距離データ1004を取得する。オドメトリ装置1104は、走行距離データ1004を例えば0.1秒より短い間隔(例えば10Hz)で測定時刻とともに出力する。
レーザスキャナ1105はパルス変調したレーザを出射する。レーザスキャナ1105は、光学鏡を回転させることによりレーザの出射方向を変えて走査を行う。レーザスキャナ1105は、所定の走査速度(例えば100回転/秒)で計測車両の周囲に位置する地物をスキャンし、レーザの出射時刻と地物から反射されたレーザの受信時刻との差から求まる当該地物までの「距離」を複数の走査点において求める。また、レーザスキャナ1105は、各走査点におけるレーザの出射方向を表す「方向」を求め、距離方向データ1005として出力する。また、レーザスキャナ1105は、レーザの出射方向の物体におけるレーザ照射点から反射したレーザパルスを受信し、受信したレーザパルスのエネルギー受信強度を、「レーザ反射強度」として取得する。レーザスキャナ1105は、自己の測定時刻に関連づけて距離方向データ1005とレーザ反射強度を管理し、例えば1秒間に3万回の距離方向データ1005とレーザ反射強度データとデータの測定時刻を出力する。
なお、GNSS衛星から配信され、GNSS受信機1102によって受信された時刻データを元に、レーザスキャナ1105の測定時刻を補正しても良い。
次に、位置姿勢計測部1206は、計測車両1110の移動時間中に、計測車両1110の自己位置を計測する自己位置演算部1201、および計測車両1110の姿勢を計測する姿勢演算部1202から構成される。
自己位置演算部1201は、測位補強信号受信部1101からの測位補強データ1001、GNSS受信機1102からの測位データ1002、IMU1103からの計測情報、オドメトリ装置1104からの走行距離データ1004およびそれぞれの測定時刻に基づき、デットレコニングによるGNSS/INS複合航法演算を行う。GNSSはGlobal Navigation Satellite Systemの略称であり、INSはInertial Navigation Systemの略称である。自己位置演算部1201は、GNSS/INS複合航法演算によって、距離方向データ1005の測定時刻における計測車両1110の位置を示す自己位置データと、計測車両1110の速度,加速度,角速度のデータを算出する。IMU1103からの計測情報とは、角速度データ1003および加速度データ1006等である。自己位置演算部1201は、自己位置データとその測定時刻を、2次元投影変換処理部1204および自己位置設定部1205に出力する。また、自己位置演算部1201は、加速度データ1006と角速度データ1003とそれらの測定時刻を、自己位置設定部1205に出力する。
姿勢演算部1202は、GNSS受信機1102からの測位データ1002、IMU1103からの計測情報、オドメトリ装置1104からの走行距離データ1004およびそれぞれの測定時刻に基づき、デットレコニングによるGNSS/INS複合航法演算を行う。このGNSS/INS複合航法演算によって、姿勢演算部1202は、距離方向データ1005の測定時刻における計測車両1110に搭載されたレーザスキャナ1105の姿勢を示す姿勢データ1008を算出する。姿勢演算部1202は、姿勢データ1008とその測定時刻を、2次元投影変換処理部1204および自己位置設定部1205に出力する。
レーザ点群3次元化処理部1203は、計測車両1110の移動時間中に、姿勢演算部1202からの姿勢データ1008および測定時刻、自己位置演算部1201からの自己位置データ1007および測定時刻、レーザスキャナ1105からの計測データに基づいて、それぞれの時刻の同期を取りながら、3次元座標点群データ1010を生成する。レーザスキャナ1105からの計測データは、距離方向データ1005、レーザ反射強度および測定時刻からなる。3次元座標点群データ1010は、上記計測データにおいて各測定時刻に順次取得される、地物または路面におけるレーザスキャナ1105の各レーザ反射点(以下、レーザ計測点または計測点)を表す3次元座標およびその輝度データからなる3次元座標点の集まりで構成される。レーザ点群3次元化処理部1203は、生成した3次元座標点群データ1010を点群認識処理部1250に順次出力する。このとき3次元座標点群データ1010における各3次元座標点の輝度データは、対応するレーザ反射点のレーザ反射強度を所定ビット数の階調(例えばグレースケール階調)で表現する。
ここでレーザ点群3次元化処理部1203は、計測車両1110に搭載されたレーザスキャナ1105の姿勢を表す姿勢データ1008に基づいて、距離方向データ1005に含まれる「方向」を、ENU座標系で表現された「方向」に補正する処理を行う。距離方向データ1005に含まれる「方向」は、計測車両1110の固定座標系(局所座標系)で表現されたレーザの出射方向を表す。ENU座標系は、E(東方向)、N(北方向)、U(天頂方向)の3軸の絶対座標系である。
また、レーザ点群3次元化処理部1203は、自己位置演算部1201の自己位置データ1007から計測車両1110の位置を得る。そして、レーザ点群3次元化処理部1203は、上記補正後のレーザの出射方向の距離方向データ1005に含まれるレーザの反射点までの「距離」と計測車両1110の位置に基づいて、レーザ照射点の位置をENU座標系で表現することで、上記3次元座標点群データ1010における各3次元座標点の3次元座標を求める。
点群認識処理部1250は、計測車両1110の移動時間中に、レーザ点群3次元化処理部1203から出力される3次元座標点群データ1010における各3次元座標点について、その高さと計測車両1110の基準高さとの差を求める。そして、点群認識処理部1250は、求めた高さの差に応じて予め設定された色情報を選択し、3次元座標点を着色する。計測車両1110の基準高さは、例えば計測車両1110のタイヤの接地面の高さ(計測車両1110が走行する面の高さ)に設定する。色情報は、例えば基準高さから、上下方向(高さ方向)に5cmの高さ間隔で区切った区域毎に、異なる色を予め設定しておく。これにより、例えば、3次元座標点が計測車両1110の基準高さよりも0cm以上5cm未満高い場合は第1の色(例えば黄色)、5cm以上10cm未満高い場合は第2の色(例えば赤色)とし、10cm以上15cm未満高い場合は第3の色(例えば桃色)とする。また、例えば、3次元座標点が計測車両1110の基準高さよりも0cm以上5cm未満低い場合は第4の色(例えば黄緑色)とし、5cm以上10cm未満低い場合は第5の色(例えば水色)とし、10cm以上15cm未満低い場合は第6の色(例えば青色)とする。また、3次元座標点群データ1010において、基準高さから所定の高さまでの範囲である色分け範囲から外れた各3次元座標点については、輝度データに基づくグレースケールの色情報を付与する。例えば路面より15cm以上高い位置および路面より15cm以上低い位置については、黒色から白色の間の輝度データに応じた階調の灰色を色情報とする。
なお、点群認識処理部1250は、姿勢演算部1202から姿勢データ1008を得て、姿勢データ1008に基づいて自己の進行方向(計測車両1110の車輪が転がって進む方向または計測車両1110の前後方向)を認識しも良い。これによって、点群認識処理部1250は、自己の進行方向に垂直な計測車両1110の車幅方向に、一般的な道路の幅(例えば幅員4m以上の幅)以上の位置を道路の境界線と見做すことができる。そして、点群認識処理部1250は、道路の境界線よりも外側の領域について、3次元座標点群データ1010に対して輝度データに応じた階調のグレースケールの色情報を付与して、色付き3次元座標点群データ1011を生成しても良い。
点群認識処理部1250は、レーザ点群3次元化処理部1203が測定時刻毎に順次生成する、3次元座標点群データ1010における各レーザ反射点に対応した3次元座標点の3次元座標およびその輝度データに対して、上記選択した色情報を付与して色付き3次元座標点群データ1011を生成する。そして、点群認識処理部1250は、生成データを2次元投影変換処理部1204に入力する。
自己位置設定部1205は、自己位置演算部1201から3次元座標(ENU座標系)で表現される自己位置データ1007および加速度,角速度データ1003が入力される。自己位置設定部1205は、3次元座標系(ENU座標系)で表現される姿勢演算部1202から姿勢データ1008が入力される。自己位置設定部1205は、入力された自己位置データ1007をメモリに格納する。自己位置設定部1205は、現在時刻t0に自己位置演算部1201から入力される自己位置データ1007と、現在時刻t0から所定時刻nΔt(n=1、2、・・、N(正の整数))前までの複数の自己位置データ(t0−Δt、t0−2Δt、・・、t0−NΔt)からなる軌跡データを出力する。また、自己位置設定部1205は、最新の自己位置データ1007が取得された時刻と現在時刻との差を求める。次に、自己位置設定部1205は、最新の自己位置データ1007が取得された時点における走行軌跡を構成する軌跡データ、速度、加速度、角速度から、運動学に基づいて現在時刻における自己位置を推定し、推定自己位置データとして2次元投影変換処理部1204に出力する。また、複数の自己位置データ1007を通過するスプライン曲線を算出し、推定自己位置を求めても良い。スプライン曲線を用いる場合、軌跡データとして複数の速度,加速度,角速度を用いても良い。
2次元投影変換処理部1204は、計測車両1110の移動時間中に、操作部1400により指定された視点情報1012と姿勢演算部1202から入力される姿勢データ1008と自己位置設定部1205から入力される自己位置データ1007または推定自己位置データ1009に基づいて、色付き3次元座標点群データ1011から、3次元座標点群データ1010の各3次元座標点を画面表示用に2次元画面に順次投影する。なお、色付き3次元座標点群データ1011は、色情報の付与された3次元座標点群データ1010であって、点群認識処理部1250が測定時刻毎に順次生成する。
次に、2次元投影変換処理部1204は、2次元座標点で表現した点群データ(以下、2次元座標点群データ)を、点群画像データ1013として生成する。
そして、2次元投影変換処理部1204は、生成した点群画像データ1013を表示装置1300に入力することで、表示装置1300に路面周辺が着色した点群画像を画面表示する。
また、2次元投影変換処理部1204は、計測車両1110の移動時間中に、操作部1400により指定された視点情報1012と姿勢演算部1202から入力される姿勢データ1008と自己位置設定部1205から入力される自己位置データ1007または推定自己位置データ1009に基づいて、マークデータ1014を生成する。マークデータ1014は、自己位置マークまたは推定自己位置マークと、軌跡マークとをそれぞれ形成する
操作部1400は、計測車両1110の移動時間中に、操作者の入力情報に基づいて、計測車両1110に固定された局所座標系から見た視点情報1012を出力する。視点情報1012は、視点と視線方向から構成されて、操作者の入力により視点と視線方向が変更される。操作部1400は、表示装置1300に表示される点群画像の視点位置、視点位置の調整量等を入力することにより、点群画像の表示態様を指定する。
図15は、実施の形態2による点群画像を表示する表示装置1300の表示画面を例示する図である。図に示すように、表示装置1300は、走行中の計測車両1110により取得された3次元座標点群1501から形成される点群画像を表示する。点群画像は、地物1502を示す画像、および路面1503を示す画像が含まれる。また、点群画像は、点群認識処理部1250により付与される色情報に基づいて、3次元座標点に着色した等高線様の点群グラフ(以下、等高線グラフ1509)を形成する。等高線グラフ1509は、等高線様の点群グラフであって、点群で表現した段彩図またはコンター図である。また、表示装置1300は、2次元投影変換処理部1204のマークデータ1014に基づいて、自己位置マーク504、推定自己位置マーク1505、軌跡マーク1506の画像をそれぞれ表示する。
図15に示すように、計測車両1110の移動時間中において、表示装置1300の表示画面に路面1503の等高線グラフ1509を表示する。これにより、路面1503における凹凸具合、路面高さの低い領域、路面高さの高い領域、路面が盛り上がっている領域、路面に穴が開いていると類推される領域等を、表示装置1300の表示画面上に即座に明示することができる。そして、路面の検査員は、計測車両1110の移動時間中に、表示システム1210を用いて、道路の路面状態の変化を即座に見つけることができる。したがって、何等かの路面変状(路面状態の変化)や路面上の障害物が発生した場合であっても、その場で道路管理者に路面状態の情報を通報する、他の通行車両に路面状態の情報を伝達する等の対処を行うことが可能となる。
図16は、実施の形態2の表示システムにおける、点群画像の視点を操作する操作部1400の表示例を示す図である。
操作部1400は、計測車両の前方、後方、右、左の4方向に見える地物の点群画像を切り換えて表示するための前方視選択ボタン1601、後方視選択ボタン1602、右方視選択ボタン1603、左方視選択ボタン1604の4つの入力ボタンを備える。さらに、操作部1400は、上から下方に見た地物の点群画像(俯瞰図)を表示するための下方視選択ボタン1605の入力ボタンを中央に備える。前方視選択ボタン1601、後方視選択ボタン1602、右方視選択ボタン1603、左方視選択ボタン1604の各入力ボタンは、操作者が直観的に理解し易いように、例えば視線方向を向いた矢印形状で表現される。下方視選択ボタン1605の入力ボタンは、操作者が直観的に理解し易いように、例えば四角形状で表現される。
操作部1400はさらに、基準の視点位置に対し、水平(X)、垂直(Z)、前後(Y)の方向のオフセット値1606を入力設定するための設定部を備える。また、操作部1400は、基準視点位置からの視線方向を水平方向(Yaw)および垂直方向(Pitch)に所定角度ずらすための視点位置の調整量であるオフセット値1607を入力設定するための設定部を備える。
さらに、操作部1400は、オフセット値(1606,1607)を初期化するためのクリアボタン1608を備える。
2次元投影変換処理部1204は、操作部1400を介して入力される基準の視点位置に対するオフセット値(1606,1607)に基づいて視点位置を算出する。そして、2次元投影変換処理部1204は、操作部1400により指定される前方、後方、右、左、下方の何れかの視線方向に見える地物の点群画像の3次元座標データを、算出した視点位置および前方、後方、右、左、下方の何れかの視線方向を基準に2次元平面に投影して、2次元投影変換処理を行う。2次元投影変換処理は、3次元座標データを2次元座標データに変換する処理である。
点群画像データ1013は、2次元投影変換処理部1204により2次元投影処理された地物および路面を含む。この点群画像データ1013は、自己位置マーク1504の2次元座標データと、推定自己位置マーク1505の2次元座標データと、軌跡マーク1506の2次元座標データとともに、表示装置1300に出力される。
自己位置マーク1504の2次元座標データは、自己位置設定部1205から入力される自己位置データ1007(3次元座標のデータ)により表される。
現在の自己位置を表す推定自己位置マーク1505の2次元座標データは、自己位置設定部1205から入力される推定自己位置データ1009(3次元座標のデータ)により表される。
軌跡マーク1506の2次元座標データは、自己位置設定部1205から入力される過去の複数の自己位置データ1007(3次元座標のデータ)を表す。
ここで、現在時刻とは、2次元投影変換処理部1204から出力された2次元点群座標データに基づいて、表示装置1300が画像表示を行う時刻である。この現在時刻は、自己位置演算部1201により自己位置データ1007が取得されてから、当該自己位置データ1007と同時刻に取得された点群画像が、2次元投影変換処理部1204にて生成され、表示装置1300に伝送された後、表示装置1300にて表示されるまでに要する処理時間(遅延時間)を考慮して求められる。例えば当該遅延時間として概ね1秒程度が設定される。この遅延時間は、計測データ処理部1200を構成するCPUの処理速度や、データ伝送遅延時間等に応じて変化する(遅延時間は構成機器によって異なるが、例えば0.1秒から3秒程度である)。このため自己位置マーク1504は、推定自己位置マーク1505よりも上記遅延時間分だけ遅延した位置に表示される。換言すると、推定自己位置マーク1505は自己位置マーク1504の表示位置における上記遅延時間分を補正した位置であって、より現在時刻の計測車両1110およびレーザスキャナ1105の現在自己位置に近い位置を表示することとなる。
例えば車両が時刻T0[s]において地点P0にあり、X軸方向に50[km/h]で等速直線運動していたとすると、現在時刻T1[s]には、P0から50*1000/3600*(T1−T0)[m]だけ、X軸方向に進んだ地点P1に存在すると推定する。
なお、操作部1400は、自己位置1609および推定自己位置1610の表示可否を制御する切換ボタンを設けても良い。例えば自己位置1609を押下することで自己位置マークを表示し、自己位置1609を再び押下することで自己位置マークを非表示とする。また、例えば推定自己位置1610を押下することで推定自己位置マークを表示し、推定自己位置1610を再び押下することで推定自己位置マークを非表示とする。
2次元投影変換処理部1204は、上述した通り、自己位置設定部1205から自己位置データ1007および推定自己位置データ1009が入力されると、自己位置マークおよび推定自己位置マークについて、操作部1400の視点情報1012に基づいて2次元座標データに変換する変換処理を行う。自己位置マークは3次元座標での自己位置データ1007を示し、推定自己位置マークは推定自己位置データ1009を示す。
そして、2次元投影変換処理部1204は、自己位置マークと推定自己位置マークとについての2次元座標データを点群画像データ1013とともに表示装置1300に出力する。
以上の処理を行うことにより、2次元投影変換処理部1204は、測定時刻毎に生成される点群画像データ1013の座標データ、および自己位置、現在の推定自己位置を表す座標データに、視点から見た2次元画像への投影変換処理を行う。そして、2次元投影変換処理部1204は、レーザスキャナ1105により順次取得される地物の3次元形状を表す画像を表示装置1300に出力する。
図17は、図16に示す操作部1400の5つの入力ボタンの各選択により、切換表示される点群画像の一例を示す図である。図17において、(a)は下方、(b)は左、(c)は右、(d)は前方、(e)は後方に見える点群画像をそれぞれ示している。図示の簡略化のため、図中に等高線グラフ1509の表示を省いている。
図18は、図16に示す操作部1400のオフセット値の設定部において、基準となる視点位置に対し水平および垂直方向に所定のオフセット値を設定した場合に表示される点群画像の一例を示す図である。図18において、(a)は基準視点位置から見た点群画像であり、(b)は左に5m、(c)は右に5m、(d)は上に5m、(e)は下に5mのオフセット値を設定した場合の画像である。図示の簡略化のため、図中に等高線グラフ1509の表示を省いている。
図19は、図16に示す操作部1400のオフセット値の設定部において、基準となる視点位置に対し、前後に所定のオフセット値を設定した場合に表示される点群画像の一例を示す図である。図19において、(a)は基準視点位置から見た点群画像であり、(b)は前に5m、(c)は後ろ5mのオフセット値を設定した場合の画像である。図示の簡略化のため、図中に等高線グラフ1509の表示を省いている。
図20は、図16に示す操作部1400のオフセット値の設定部において、基準となる視線方向に対し、水平および垂直方向に所定角度のオフセット値を設定した場合に表示される点群画像の一例を示す図である。図20において、(a)は基準視線方向に見た点群画像であり、(b)は左方向に10°、(c)は右方向に10°、(d)は上方向に10°、(e)は下方向に10°のオフセット値を設定した場合の画像である。図示の簡略化のため、図中に等高線グラフ1509の表示を省いている。
以上説明したように、実施の形態2による表示システム1210は、位置姿勢計測部1206と、レーザ点群3次元化処理部1203と、点群認識処理部1250と、操作部1400と、2次元投影変換処理部1204と、表示装置1300とを備えたことを特徴とする。
位置姿勢計測部1206は、移動体である計測車両1110の移動中に、当該計測車両1110の位置および姿勢を計測する。
レーザ点群3次元化処理部1203は、計測車両1110の移動中に、当該計測車両1110の有するレーザスキャナ1105によって順次得られる計測点の距離および方向情報と、上記位置姿勢計測部1206によって順次得られる計測車両1110の位置および姿勢に基づいて、当該計測点の3次元位置座標を順次計測する。計測点はレーザ照射点に対応する。また、計測点の距離および方向情報は、レーザスキャナ1105が路面を含む周囲物体へのレーザ走査を行うことによって順次得られる。
そして、レーザ点群3次元化処理部1203は、計測した3次元位置座標点を3次元座標点群データ1010として出力する。
点群認識処理部1250は、計測車両1110の移動中に、上記レーザ点群3次元化処理部1203から順次出力される3次元座標点群データ1010における、色分け範囲内の高さを有した3次元位置座標点に、当該高さに応じた色情報を順次付与する。
操作部1400は、視点情報1012が入力される。
2次元投影変換処理部1204は、計測車両1110の移動中に、上記操作部1400にて入力された視点情報1012と、計測車両1110の位置および姿勢に基づいて、点群画像データ1013を生成する。点群画像データ1013は、上記点群認識処理部1250により色情報の付与された3次元座標点群データ1010における3次元位置座標点を2次元画面内の対応点に投影変換して生成される。
表示装置1300は、上記計測車両1110の移動中に、上記2次元投影変換処理部1204の生成した点群画像データ1013を画面表示する。
実施の形態2の表示システム1210によれば、移動体である計測車両1110の移動中に、路面の高さに応じた等高線グラフ1509(等高線様の点群グラフであって、点群で表現した段彩図またはコンター図である)を表示するとともに、当該路面を見る視点を変更することができる。そのため、計測車両1110の移動に伴って時事刻々と変化する路面状態を、視覚的に把握し易い状態で即座に表示することができる。
また、計測車両1110の移動中に、実時間(例えば遅延時間1秒以内)で等高線グラフ1509(等高線様の点群グラフであって、点群で表現した段彩図またはコンター図である)および周囲物体に対する視点の変更ができる。また、2次元投影変換処理部1204は、自己位置、推定自己位置、および自己位置の軌跡の3次元位置座標点を、2次元画面内の対応点に投影変換して点群画像データ1013を生成する。これにより、2次元投影変換処理部1204は、計測車両1110の移動中に、3次元座標点群データ1010の取得計画もしくは取得タイミングもしくは取得位置もしくは移動速度を変更することができる。
また、操作部1400は、前方視選択ボタン1601、後方視選択ボタン1602、右方視選択ボタン1603、左方視選択ボタン1604、および下方視選択ボタン1605を有する。そして、操作部1400は、それぞれのボタン選択に基づいて、視点および視線方向を変更する。そのため、計測車両1110の移動中に視点変更を簡便かつ即座に行うことができる。また、下方視選択ボタン1605を中央に配置する。そして、左方視選択ボタン1604を下方視選択ボタン1605の左に配置し、右方視選択ボタン1603を下方視選択ボタン1605の右に配置し、前方視選択ボタン1601を下方視選択ボタン1605の上に配置し、後方視選択ボタン1602を下方視選択ボタン1605の下に配置する。さらに、各選択ボタンを矢印で表示する。これにより、操作が直観的に理解できるという利点がある。
実施の形態3.
図21はこの発明に係る実施の形態3による表示システムの構成を示す図である。図21による実施の形態3の表示システムは、図14で説明した実施の形態2による表示システムにおいて、点群認識処理部1250が、差分処理部1510と基準データ生成部1520と認識部1530から構成されたことを特徴とする。
なお、図21において、図14と同じ構成のものについては、構成および信号または入出力データの図示を省略している。
点群認識処理部1250において、レーザ点群3次元化処理部1203から入力された3次元座標点群データ1010は、順次基準データ生成部1520に入力されるとともに、差分処理部1510に入力される。基準データ生成部1520は、3次元座標点群データ1010を時系列的に格納し、格納データから基準3次元点群データ1015を生成する。基準3次元点群データ1015は、例えば路面の基準モデルを表す3次元座標点群データ1010から構成される。
差分処理部1510は、レーザ点群3次元化処理部1203から入力された3次元座標点群データ1010の近傍で基準データ生成部1520に格納された基準3次元点群データ1015と、レーザ点群3次元化処理部1203から入力された3次元座標点群データ1010との差分3次元点群座標データ1016を求める。そして、差分処理部1510は、差分3次元点群座標データ1016を認識部1530に入力する。認識部1530は、この差分3次元点群座標データ1016に基づいて、レーザ点群3次元化処理部1203から入力された3次元座標点群データ1010の近傍における路面を表す基準3次元点群データ1015との高さの差が色分け範囲内の3次元点群座標データに対して、その高さの差に応じた色情報を付与する。
2次元投影変換処理部1204は、点群認識処理部1250の認識部1530にて色情報を付与した色付き3次元座標点群データ1011について、3次元座標点群データ1010の各3次元座標点を画面表示用に2次元画面に順次投影する。そして、2次元投影変換処理部1204は、2次元座標点で表現した点群データ(以下、2次元座標点群データ)を、点群画像データ1013として生成する。2次元投影変換処理部1204は、生成した点群画像データ1013を表示装置1300に入力する。表示装置1300は、路面周辺が着色した点群画像として、路面を示す基準3次元点群データ1015からの差分画像を画面表示する。
ここで基準データ生成部1520の3次元点群の生成処理について説明する。
図22は、点群認識処理部1250における、基準データ生成部1520の基準3次元点群データ1015の生成処理を説明する図である。図22の(a)はレーザ点群3次元化処理部1203から入力される3次元座標点群データ1010の点群を示す。図22の(b)は基準データ生成部1520が生成した基準3次元点群データ1015の点群を示す。
レーザ点群3次元化処理部1203から入力される3次元座標点群データ1010は、計測車両1110から計測点までの距離、計測車両1110の速度により、3次元座標点群データ1010の3次元座標点の点密度にばらつきを生じる。レーザ点群3次元化処理部1203にて異なる時刻に計測された複数の3次元座標点群データ1010の座標を比較する場合、その座標間がばらつくことにより、比較処理が複雑になる。
このため基準データ生成部1520は、ENU座標系の水平面(XY平面)に平行なグリッド(以下、基準グリッド)を形成して3次元座標点群データ1010の比較を行い、基準3次元点群データ1015を生成する。
具体的には、レーザ点群3次元化処理部1203から入力される3次元座標点群データ1010において、それぞれの3次元座標点毎に、近傍の基準3次元点群データ1015を抽出する。
次に、レーザ点群3次元化処理部1203にて計測した図22の(a)に示すような3次元座標点群データ1010について、各3次元座標点(X0、Y0、H1)の高さ座標H1はそのままにする。そして、それぞれの3次元座標点を、図22の(b)に示すような基準グリッドにおける近傍の格子点のXY座標(例えば(X1、Y1))で代表させる格子点上の3次元座標点に移動する。この移動後の格子点上の3次元座標点群データ1010(例えば3次元座標点(X1、Y1、H1))を、当該路面の基準面を表す基準3次元点群データ1015として更新する。
この基準3次元点群データ1015は、レーザ点群3次元化処理部1203からの3次元座標点群データ1010の入力に伴い、順次最新の値に更新されていく。なお、基準3次元点群データ1015の初期値は、別に計測されたデータを用いて予め設定しておく。
次に、差分処理部1510は、図22の(a)に示すようなレーザ点群3次元化処理部1203にて新たに計測した新3次元座標点群データのそれぞれの3次元座標点(X2、Y2、H2)を、図22の(b)に示すような近傍の格子点のXY座標(例えば(X1、Y1))に移動する。なお、当該3次元座標点の近傍の基準3次元点群データ1015における基準グリット格子点の3次元座標点の高さH2はそのままにする。そして、差分処理部1510は、新3次元座標点群データにおける3次元座標点を、例えば格子点上3次元座標点(X1、Y1、H2)で代表させる格子点整列処理を行う。
新3次元座標点群データの3次元座標点(X1、Y1、H2)は、新たに計測した新3次元座標点群データの近傍の基準3次元点群データ1015における基準グリッドの格子点(X1、Y1)に移動した3次元座標点である。
差分処理部1510は、当該新3次元座標点群データの3次元座標点(X1、Y1、H2)の高さH2と、当該新3次元座標点群データの近傍の基準3次元点群データ1015における基準グリッドの格子点の3次元座標点群データの高さH1との差Z2(=H2−H1)を、所定の高さ基準H0と比較する。
また、差分処理部1510は、新3次元座標点群データの近傍の基準3次元点群データ1015における基準グリッドの各格子点について、新3次元座標点群データの3次元座標点の高さH2(=Z2+H1)を高さ座標とする。また、差分処理部1510は、新3次元座標点群データの近傍の基準3次元点群データ1015における基準グリッドの格子点のXY座標をそのままとする。そして、差分処理部1510は、差分3次元座標点(X、Y、H2)から構成される差分3次元点群座標データ1016を算出する格子点整列処理を行う。差分処理部1510は、差分3次元座標点群データを出力する。
なお、差分処理部1510は、新3次元座標点群データの近傍の基準3次元点群データ1015における基準グリッドの格子点の3次元点群データを併用して出力しても良い。
認識部1530は、差分処理部1510からの差分3次元点群座標データ1016の高さ座標Zについて、高さ基準H0との差に応じた色情報を選択し、差分3次元点群座標データ1016を着色する。例えば、高さ基準H0=n×Δh(n=−N、・・・、−2、−1、1、2、・・・、N)とし、高さ座標Zと高さ基準H0との差Z2が、n−1からnの間で段階的に変化する度に、着色する色を変更する。Δh=5cmの場合、次のように色を変更する。Z2=0cm以上5cm未満の場合は第1の色(例えば黄色)、Z2=5cm以上10cm未満の場合は第2の色(例えば赤色)、Z2=10cm以上15cm未満の場合は第3の色(例えば桃色)とする。また、Z2=−15cm以上−10cm未満の場合は第4の色(例えば青色)、Z2=−10cm以上−5cm未満の場合は第5の色(例えば水色)、Z2=−5cm以上0cm未満の場合は第3の色(例えば黄緑色)とする。
また、認識部1530は、実施の形態2の図14と同様、レーザ点群3次元化処理部1203から出力される3次元座標点群データ1010における各3次元座標点について、その高さと計測車両1110の基準高さとの差を求め、求めた高さの差に応じて予め設定された色情報を選択しても良い。そして、認識部1530は、3次元座標点を着色して、色付き3次元点群データを生成しても良い。これによって、路面を示す等高線グラフと差分画像の両方を、表示装置1300に表示することができる。
また、3次元座標点群データ1010における色分け範囲外の各3次元座標点については、輝度データに基づくグレースケールの色情報を付与し、色付き3次元点群データを生成しても良い。例えば路面より15cm以上高い位置および路面より15cm以上低い位置については、黒色から白色の間の輝度データに応じた階調の灰色を色情報としても良い。このとき、何らかの手法により道路の境界線または道路端を認識して、道路範囲外の3次元座標点群データ1010における各3次元座標点にグレースケールの色情報を付与しても良い。
路面を示す3次元座標点群データ1010は、レーザ点群3次元化処理部1203において測定時刻毎に順次生成される。
認識部1530は、順次生成される3次元座標点群データ1010における各レーザ反射点に対応した3次元座標点の3次元座標およびその輝度データについて、上記選択した色情報を付与して色付き3次元座標点群データ1011を生成する。そして、認識部1530は、生成したデータを2次元投影変換処理部1204に入力する。
次に、基準データ生成部1520および差分処理部1510が行う格子点整列処理について説明する。格子点整列処理において、3次元座標点群データ1010を構成する各3次元座標点は、対応する基準グリッドの格子点である近傍の格子点で代表される。ここでは、対象とする基準グリッドの格子点で代表させる3次元座標点の高さの選択処理について説明する。図23は、基準データ生成部1520および差分処理部1510の格子点整列処理の流れを説明する図である。
図23において、基準データ生成部1520および差分処理部1510は、ステップS1101において、レーザ点群3次元化処理部1203からの3次元座標点群データ1010について当該基準グリッドのそれぞれの格子点の近傍3点となる、3次元座標点を選択する。
次に、ステップS1102において、3次元座標点群データ1010から選択した各3次元座標点から、当該基準グリッドの格子点までの距離が閾値(例えば格子の一辺の長さ)以下であると判別した場合、ステップS1103に移行する。3次元座標点群データ1010から選択した各3次元座標点は、対応する基準グリッドの格子点における近傍点である。
また、上記基準グリッドの格子点までの距離が閾値(例えば格子の一辺の長さ)より大きいと判別した場合、ステップS1105に移行する。ここで、上記基準グリッドの格子点までの距離は、XY座標差の平方和における平方根から求める。
続いて、ステップS1103において、3次元座標点群データ1010から選択した、対応する基準グリッドの格子点の近傍3点となる3次元座標点について、これら近傍点の高さの差が閾値以下となる場合、ステップS1104に移行する。また、これら近傍点の高さの差が閾値より大きい場合、ステップS1105に移行する。なお、ここでの閾値を路面から所定範囲の高さに設定することで、認識部1530が色情報を付与する3次元座標点が路面を示すようにする。
次に、ステップS1104において、3次元座標点群データ1010から選択した、対応する基準グリッドの格子点の近傍3点から、当該基準グリッドの格子点までの距離について重み付けを行うことにより、基準グリッドの格子点で代表させる3次元座標点の高さZaveを決定する。
ここで、近傍3点の高さがW1、W2、W3であって、近傍点の当該基準グリッドの格子点からの水平距離がD1、D2、D3である場合、格子点の3次元座標点の高さZaveは、次式で求めて重み付けを行う。
Zave=(1/D1*Z1+1/D2*Z2+1/D3*Z3)/(1/D1+1/D2+1/D3)
ステップS1105では、ステップS1102において、3次元座標点群データ1010から選択した近傍3点のうち1つまたは2つの近傍点から、対応する基準グリッドの格子点までの距離が閾値より大きいと判別した場合、選択した近傍3点のうち当該格子点の最近傍1点の高さを当該格子点上の3次元座標点の高さとして選択する。
なお、3次元座標点群データ1010から選択した近傍3点から対応する基準グリッドの格子点までの何れの距離も閾値(例えば格子の一辺の長さ)よりも大きくなる場合は、当該格子点上の3次元座標点がないと判別する。
また、ステップS1105では、ステップS1103において、3次元座標点群データ1010を選択した基準グリッドの格子点の近傍点の高さの差が閾値(例えば5cm)より大きい場合、当該基準グリッドの格子点の最近傍1点の高さを格子点上3次元座標点の高さとして選択する。
以上説明した通り、実施の形態3による表示システム1210は、レーザ点群3次元化処理部1203と、点群認識処理部1250と、操作部1400と、2次元投影変換処理部1204とを備える。
レーザ点群3次元化処理部1203は、移動体の移動中に、路面を含む周囲物体へのレーザ走査により得られるレーザ計測点までの距離および方向情報並びに上記移動体の位置および姿勢の計測値に基づいて、当該レーザ計測点の3次元位置座標を順次計測し、3次元座標点群データ1010として出力する。
点群認識処理部1250は、上記移動体の移動中に、上記レーザ点群3次元化処理部1203から順次出力される3次元座標点群データ1010に、路面からの高さに応じた色情報を付与する。
操作部1400は、視点情報1012が入力される。
2次元投影変換処理部1204は、上記移動体の移動中に、上記操作部1400にて入力された視点情報1012と、上記移動体の位置および姿勢の計測値に基づいて、上記点群認識処理部1250により色情報の付与された3次元座標点群データ1010における3次元位置座標点を投影する。そして、2次元投影変換処理部1204は点群画像データ1013を生成する。
点群認識処理部1250は、レーザ点群3次元化処理部1203により新たに取得された3次元座標点群データ1010と、予め設定された路面形状を表す基準3次元点群データ1015との高さの差に応じた色情報を付与することを特徴とする。
これによって、3次元座標点群データ1010により、過去に取得した路面の形状モデルを表す基準3次元点群データ1015からの差分画像を得ることができるので、過去からの路面の変化を視認し易くなるという効果が得られる。
実施の形態3において、以下のような点群認識処理部1250について説明した。
点群認識処理部1250は、基準グリッドの格子点毎に、新3次元座標点群データと基準3次元点群データとのそれぞれから複数の3次元座標点を選択する。次に、点群認識処理部1250は、新3次元座標点群データから選択した複数の3次元座標点を用いて上記新3次元座標点群データの当該格子点の高さを決定する。また、点群認識処理部1250は、基準3次元点群データから選択した複数の3次元座標点を用いて基準3次元点群データの当該格子点の高さを決定する。そして、点群認識処理部1250は、新3次元座標点群データの当該格子点の高さと基準3次元点群データの当該格子点の高さとの差に応じた色情報を、新3次元座標点群データの当該格子点で代表させる3次元座標点に付与する。
点群認識処理部1250は、選択した複数の3次元座標点から当該格子点までの水平方向における距離がいずれも距離閾値以下であり、且つ、選択した複数の3次元座標点の高さの差がいずれも高さ閾値以下である場合、選択した複数の3次元座標点のそれぞれの高さに当該3次元座標点から当該格子点までの水平方向における距離に応じた重み付けを行う。そして、点群認識処理部1250は、重み付けした複数の高さを用いて当該格子点の高さを算出する。
点群認識処理部1250は、選択した複数の3次元座標点から当該格子点までの距離の少なくともいずれかが距離閾値以下であり、且つ、選択した複数の3次元座標点から当該格子点までの距離の少なくともいずれかが距離閾値を超える場合、選択した複数の3次元座標点から当該格子点に最も近い3次元座標点を選択する。そして、点群認識処理部1250は、選択した3次元座標点の高さを当該格子点の高さとする。
点群認識処理部1250は、選択した複数の3次元座標点から当該格子点までの距離がいずれも距離閾値以下であり、且つ、選択した複数の3次元座標点の高さの差の少なくともいずれかが高さ閾値を超える場合、選択した複数の3次元座標点から当該格子点に最も近い3次元座標点を選択する。そして、点群認識処理部1250は、選択した3次元座標点の高さを当該格子点の高さとする。
ここで、実施の形態2、3の技術分野について説明する。
実施の形態2、3は、移動体に搭載され、移動体の移動する路面並びに移動体周辺の地物および他の移動体について、その3次元形状を表す3次元点群データを取得し、取得した3次元点群データに基づいて路面状態を表示する表示システムに関する。
次に、実施の形態2、3の背景技術について説明する。
従来、MMS(Mobile Mapping System)を用いて、走行する舗装路面の計測点の集合である3次元点群データを取得し、取得した3次元点群データを用いて、この舗装路面の凹凸を計測する路面性状計測システムが知られている。MMSは、自己位置および姿勢標定器とレーザとを搭載した車両により構成される。自己位置および姿勢標定器は、GPS(Global Positioning System)およびIMU等である。
MMSは、GPS衛星が可視である環境下において、高精度な計測が可能である。また、測位補強情報を用いることにより、走行中に取得された3次元点群データをリアルタイムで表示することも可能となる。
例えば特許文献2には、路面性状計測システムおよび表示システムが開示されている。路面性状計測システムは、基準線設定手段と、基準領域設定手段と、基準路面モデル作成手段と、計測路面モデル作成手段と、差分抽出手段とを備え、差分に基づいて舗装路面の凹凸を検出する。表示システムは、凹凸度合を表示する。
この路面性状計測システムは、基準路面モデルと計測路面モデルとが得られると、両者を重ね合わせて差分を抽出する。そして、路面性状計測システムは、基準路面モデルを定規としてとらえ、基準路面モデルと計測路面モデルとの間で高低差が生じた箇所を差分として抽出する。抽出された差分は、その程度に応じた等高線図(コンター図)や、差分の程度に応じて彩色した段彩図などで表される。これらの図は、轍掘れといった路面の凹凸を検出するために確認される。また、差分を閾値と比較することで、轍掘れや有害な凹凸を自動的に検出することもできる。
次に、実施の形態2、3が解決しようとする課題について説明する。
従来の路面性状計測システムは、等高線図や段彩図などを用いて、移動体の移動中に路面の凹凸度合を表示するものではない。このため移動体の移動に伴って時事刻々と変化する路面状態を、移動体の移動時間中に視認することができない。
例えば道路の路面を定期検査する場合、移動体である計測車両が道路を定期的に走行して路面状態を計測するとともに、検査員が道路の路面を目視確認する。その計測車両による計測データはハードディスクに格納され、検査員がハードディスクを計測事務所に持ち帰り解析を行う。このため移動体の移動中に路面の凹凸度合を即座に確認することができない。そして、検査員が路面変状を見逃すと、何等かの路面変状または路面上の障害物が発生した場合に、その対応が遅れてしまう。
実施の形態2、3は、係る課題を解決するためになされたものであって、移動体の移動に伴って時事刻々と変化する路面状態を、移動体の移動時間中に視認し易い状態で表示することを目的とする。
次に、実施の形態2、3における課題を解決するための手段について説明する。
表示システムは、レーザ点群3次元化処理部と、点群認識処理部と、操作部と、2次元投影変換処理部とを備えたものである。
レーザ点群3次元化処理部は、移動体の移動中に、路面を含む周囲物体へのレーザ走査により得られるレーザ計測点までの距離および方向情報並びに上記移動体の位置および姿勢の計測値に基づいて、当該レーザ計測点の3次元位置座標を順次計測し、3次元座標点群データとして出力する。
点群認識処理部は、上記移動体の移動中に、上記レーザ点群3次元化処理部から順次出力される3次元座標点群データに、路面からの高さに応じた色情報を付与する。
操作部は、視点情報が入力される。
2次元投影変換処理部は、上記移動体の移動中に、上記操作部にて入力された視点情報と、上記移動体の位置および姿勢の計測値に基づいて、上記点群認識処理部により色情報の付与された3次元座標点群データにおける3次元位置座標点を投影し、点群画像データを生成する。
次に、実施の形態2、3の効果について説明する。
実施の形態2、3によれば、移動体の移動中に、路面の高さに応じた等高線様の点群グラフ(点群で表現した段彩図またはコンター図)を表示するとともに、当該路面を見る視点を変更することができる。そのため、移動体の移動に伴って時事刻々と変化する路面状態を視覚的に把握し易い状態で表示することができる。
実施の形態2、3で説明した要素と実施の形態1で説明した要素との対応関係を以下に示す。対応する要素同士は少なくとも一部が共通する要素である。矛盾が生じなければ、各要素は対応する要素に置き換えてもよく、各要素の名称は対応する要素の名称に読み替えてよい。
計測車両1110は計測車両110に対応する。測位補強信号受信部1101、GNSS受信機1102、IMU1103、オドメトリ装置1104は、それぞれ測位補強信号受信機111、測位信号受信機112、慣性計測装置113、オドメータ114に対応する。
表示システム1210は、点群画像生成装置100に対応するものであり、点群画像生成装置100と同様のハードウェアを備える。
計測データ処理部1200は計測データ処理部200に対応する。位置姿勢計測部1206は位置演算部121および姿勢演算部122に対応する。自己位置演算部1201、姿勢演算部1202、レーザ点群3次元化処理部1203は、それぞれ位置演算部121、姿勢演算部122、三次元点群生成部123に対応する。自己位置設定部1205、2次元投影変換処理部1204は、それぞれ位置推定部220、二次元投影部230に対応する。
表示装置1300、操作部1400は、それぞれの表示装置300、操作部400に対応する。
3次元座標点群1501、自己位置マーク1504、推定自己位置マーク1505は、それぞれ三次元点群311、計測位置マーク312、推定位置マーク313に対応する。自己位置、推定自己位置は、それぞれ計測位置、推定位置に対応する。
3次元座標点群データ1010および色付き3次元座標点群データ1011は、三次元点群データ203に対応する。点群画像データ1013は、投影点群データ235に対応する。
操作部1400の表示例は、インタフェース画像320に対応する。前方視選択ボタン1601、後方視選択ボタン1602、右方視選択ボタン1603、左方視選択ボタン1604、下方視選択ボタン1605は、それぞれ前方ボタン321F、後方ボタン321B、右ボタン321R、左ボタン321L、下方ボタン321Dに対応する。オフセット値1606は、左右ウィジェット322X、前後ウィジェット322Yおよび上下ウィジェット322Zに対応する。オフセット値1607は、仰角ウィジェット323Pおよび方位角ウィジェット323Yに対応する。クリアボタン1608は、取消ボタン329に対応する。
実施の形態4.
点群画像310の視点位置を決定する方法について、図4、図24および図25に基づいて説明する。但し、実施の形態1と重複する説明は省略する。
***構成の説明***
点群画像生成装置100の構成は、実施の形態1と同じである。
点群画像生成装置100の二次元投影部230は、レーザスキャナ115が計測を行ったときの計測車両110の位置である計測位置と、点群画像310が表示されるときの計測車両110の位置である推定位置とのいずれかを基点として、視点位置を決定する。そして、二次元投影部230は、決定した視点位置に基づいて二次元投影処理を行う。この二次元投影処理により、点群画像310のデータである投影点群データ235が生成される。
***動作の説明***
二次元投影部230が視点位置を決定する方法として、<実施例1>から<実施例3>を説明する。
実施の形態1で説明した図4において、自車位置401から基準視点位置411までのベクトルを基準のオフセット量という。基準のオフセット量は、計測車両110の左右方向の距離Dxと、計測車両110の前後方向の距離Dyと、計測車両110の上下方向の距離Dzとを含む。具体的に、距離Dxはゼロであり、距離Dyはマイナスの値であり、距離Dzはプラスの値である。つまり、基準視点位置411は、自車位置401の後方の斜め上に位置する地点である。基準のオフセット量は予め決められている。
<実施例1>
二次元投影部230は、計測位置を基点として視点位置を決定する。つまり、図4に示した自車位置401は計測位置である。
具体的に、二次元投影部230は視点位置を以下のように決定する。
まず、二次元投影部230は、計測位置データ201が示す計測位置の座標値に基準のオフセット量を足して、基準視点位置411の座標値を算出する。
そして、二次元投影部230は、基準視点位置411の座標値に操作データ204が示すオフセット量を足して、視点位置の座標値を算出する。
図24に、計測位置を基点として視点位置を決定した場合の点群画像310の変化を示す。(1)は計測車両110が停止したときの点群画像310を示し、(2)は計測車両110が停止してから遅延時間が経過したときの点群画像310を示している。遅延時間は、レーザスキャナ115が計測を行ってから、計測によって得られた点群を含んだ点群画像310が表示されるまでの時間である。(2)において、計測位置マーク312は推定位置マーク313に重なっている。
図24に示すように、計測車両110が停止してから遅延時間が経過するまでの間、視点位置が前方に移動しながら、点群が前方に追加される。そのため、計測車両110が停止しても遅延時間が経過するまでの間、道路周辺を描画した点群画像310が前方にスクロールする。(2)の点群画像310は、計測車両110が停止した後、幅Wだけ前方にスクロールした画像である。
<実施例2>
二次元投影部230は、推定位置を基点として視点位置を決定する。つまり、図4に示した自車位置401は推定位置である。
具体的に、二次元投影部230は視点位置を以下のように決定する。
まず、二次元投影部230は、推定位置データ229が示す推定位置の座標値に基準のオフセット量を足して、基準視点位置411の座標値を算出する。
そして、二次元投影部230は、基準視点位置411の座標値に操作データ204が示すオフセット量を足して、視点位置の座標値を算出する。
図25に、推定位置を基点として視点位置を決定した場合の点群画像310の変化を示す。(1)は計測車両110が停止したときの点群画像310を示し、(2)は計測車両110が停止してから遅延時間が経過したときの点群画像310を示している。(2)において、計測位置マーク312は推定位置マーク313に重なっている。
図25に示すように、計測車両110が停止してから遅延時間が経過するまでの間、視点位置が変わらずに、点群が前方に追加される。そのため、計測車両110が停止すると、道路周辺を描画した点群画像310のスクロールも停止する。そして、遅延時間が経過するまでの間、点群が前方に追加される。(2)の点群画像310は、計測車両110が停止した後、幅Wだけ点群が前方に追加された画像である。
<実施例3>
二次元投影部230は、計測位置と推定位置とのいずれかを計測車両110の速度に応じて選択し、選択した位置を基点として視点位置を決定する。つまり、図4に示した自車位置401は計測位置または推定位置である。
具体的に、二次元投影部230は視点位置を以下のように決定する。
二次元投影部230は、三次元点群データ203が入力される度に、計測車両110の速度を計測車両110から取得する。
次に、二次元投影部230は、計測車両110の速度を速度閾値と比較する。そして、計測車両110の速度が速度閾値以上である場合、二次元投影部230は計測位置を基点として選択する。また、計測車両110の速度が速度閾値より小さい場合、二次元投影部230は推定位置を基点として選択する。つまり、二次元投影部230は、計測車両110が十分に速い速度で走行している間は計測位置を基点として選択し、計測車両110が停止しそうになると基点を推定位置に切り換える。
次に、二次元投影部230は、基点の座標値に基準のオフセット量を足して、基準視点位置411の座標値を算出する。
そして、二次元投影部230は、基準視点位置411の座標値に操作データ204が示すオフセット量を足して、視点位置の座標値を算出する。
計測車両110が停止するときには推定位置を基点として視点位置が決定されるため、計測車両110が停止した後の点群画像310は、図25のように変化する。
***実施の形態の効果***
<実施例1>の場合、計測車両110が停止しても遅延時間が経過するまでの間、点群画像310が前方にスクロールする。そのため、計測車両110に乗車しながら点群画像310を確認する作業者に違和感を与える可能性がある。
一方、<実施例2>または<実施例3>の場合、計測車両110が停止すると点群画像310のスクロールも停止するため、作業者に違和感を与えることはない。
実施の形態5.
点群画像310の視点位置および視線方向を変更するためのユーザインタフェースの別例について説明する。但し、実施の形態1と重複する説明は省略する。
表示装置300は、利用者によって操作されるタッチパネルをユーザインタフェースとして備える。
点群画像310の視点位置および視線方向はタッチパネルに対する操作によって変更される。
利用者は、タッチパネルに対する操作またはインタフェース画像320に対する操作によって、点群画像310の視点位置および視線方向を変更させることができる。
視線方向は、タッチパネルに対する操作の一種であるフリックまたはタップによって以下のように変更される。
タッチパネルに対して下から上へのフリックが行われた場合、操作部400は、前方ボタン321Fが押下されたときと同じく、視線方向を計測車両110の進行方向に変更する。
タッチパネルに対して上から下へのフリックが行われた場合、操作部400は、後方ボタン321Bが押下されたときと同じく、視線方向を計測車両110の進行方向に対して逆方向に変更する。
タッチパネルに対して右から左へのフリックが行われた場合、操作部400は、左ボタン321Lが押下されたときと同じく、視線方向を計測車両110の進行方向に対して左方向に変更する。
タッチパネルに対して左から右へのフリックが行われた場合、操作部400は、右ボタン321Rが押下されたときと同じく、視線方向を計測車両110の進行方向に対して右方向に変更する。
タッチパネルがタップされた場合、操作部400は、下方ボタン321Dが押下されたときと同じく、視線方向を下方向に変更する。
図26の(A)において、視点操作モード切り替えボタン314は、視線方向調整モードと視点位置調整モードとを切り替えるために、点群画像310が表示される画面にオーバーレイ表示されるボタンである。
視線方向調整モードは、タッチパネルに対する操作で、視線方向の調整が可能となるモードである。
視点位置調整モードは、タッチパネルに対する操作で、視点位置の調整が可能となるモードである。
図26の(B)において、視線方向調整モードでは、視点操作モード切り替えボタン314の表面に「Direction」と表示される。そして、視線方向は、点群画像310が表示された画面上でのドラッグによって、以下のように変更される。ドラッグはタッチパネルに対する操作の一種である。
上方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の仰角ウィジェット323Pの数値が増えた場合と同じく、計測車両110の進行方向に対して上方向に、視線方向を回転させる。回転させる量はドラッグされた量に比例する。
下方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の仰角ウィジェット323Pの数値が減った場合と同じく、計測車両110の進行方向に対して下方向に、視線方向を回転させる。回転させる量はドラッグされた量に比例する。
右方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の方位角ウィジェット323Yの数値が増えた場合と同じく、計測車両110の進行方向に対して右方向に、視線方向を回転させる。回転させる量はドラッグされた量に比例する。
左方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の方位角ウィジェット323Yの数値が減った場合と同じく、計測車両110の進行方向に対して左方向に、視線方向を回転させる。回転させる量はドラッグされた量に比例する。
図26の(B)において、視点位置調整モードでは、視点操作モード切り替えボタン314の表面に「Position」と表示される。そして、視点位置は、点群画像310が表示された画面上でのドラッグによって、以下のように変更される。
上方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の上下ウィジェット322Zの数値が増えた場合と同じく、計測車両110の進行方向に対して上方向に、視点位置を移動させる。移動させる量はドラッグされた量に比例する。
下方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の上下ウィジェット322Zの数値が減った場合と同じく、計測車両110の進行方向に対して下方向に、視点位置を移動させる。移動させる量はドラッグされた量に比例する。
右方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の左右ウィジェット322Xの数値が増えた場合と同じく、計測車両110の進行方向に対して右方向に、視点位置を移動させる。移動させる量はドラッグされた量に比例する。
左方向へのドラッグ操作が行われた場合、操作部400は、インタフェース画像320の左右ウィジェット322Xの数値が減った場合と同じく、計測車両110の進行方向に対して左方向に、視点位置を移動させる。移動させる量はドラッグされた量に比例する。
また、視点位置調整モードでは、視点位置は、点群画像310が表示された画面上でのピンチインまたはピンチアウトによって、以下のように変更される。ピンチインおよびピンチアウトはタッチパネルに対する操作の一種である。ピンチインとピンチアウトとを総称してピンチという。
ピンチイン操作が行われた場合、操作部400は、インタフェース画像320の前後ウィジェット322Yの数値が増えた場合と同じく、計測車両110の進行方向に対して前方に、視点位置を移動させる。移動させる量はピンチインされた量に比例する。
ピンチアウト操作が行われた場合、操作部400は、インタフェース画像320の前後ウィジェット322Yの数値が減った場合と同じく、計測車両110の進行方向に対して後方に、視点位置を移動させる。移動させる量はピンチインされた量に比例する。
図27において、縦スライド315および横スライド316は、視線方向を変更するために、点群画像310が表示される画面にオーバーレイ表示されるスライドである。縦スライド315のインジケータ315Iおよび横スライド316のインジケータ316Iは、互いに独立して動かすことができる。
視線方向は、タッチパネルに対する操作の一種であるスライドによって以下のように変更される。
縦スライド315のインジケータ315Iが上下に動かされた場合、または、横スライド316のインジケータ316Iが左右に動かされた場合、操作部400は、インジケータ(315I、316I)が動かされた方向に視線方向を回転させる。回転させる量は、インジケータがスライドされた量に比例する。
図28において、視点位置マーク317は、視点位置を変更するために、点群画像310が表示される画面にオーバーレイ表示されるマークである。視点位置マーク317の丸部分は視点位置を表し、丸部分とは反対側の先端の部分は視点中心を表している。
視点位置は、タッチパネルに対する操作の一種であるドラッグによって以下のように変更される。
視点位置マーク317がドラッグされた場合、操作部400は、視点位置マーク317がドラッグされた方向に、視点位置を移動させる。移動させる量は、視点位置マーク317がドラッグされた量に比例する。
なお、視点位置マーク317は、ドラッグされるとドロップ先に移動する。そして、ドロップ先が新しい視点位置となり、点群画像310の表示が切り替わる。
図26、図27および図28に基づいて説明した視線方向または視点位置を変更する複数の方法は、独立で実施されてもよいし、併用で実施されてもよい。
具体的には、視線方向を変更するために、図26の方法と図27の方法とのいずれかが実装されてもよいし、両方の方法が実装されてもよい。
また、視点位置を変更するために、図26の方法と図28の方法とのいずれかが実装されてもよいし、両方の方法が実装されてもよい。
また、視線方向と視点位置とを変更するために、図27の方法と図28の方法とが実装してもよいし、加えて、図26の方法が実装されてもよい。
複数の方法が実装される場合、視点操作モード切り替えボタン314とスライド(315、316)と視点位置マーク317とのうちの複数が、点群画像310に重畳表示される。但し、視点操作モード切り替えボタン314または別途の切り替えボタンが押下されることによって、図26の方法と図27の方法と図28の方法とが切り替わってもよい。
***実施の形態の補足***
実施の形態は、好ましい形態の例示であり、本発明の技術的範囲を制限することを意図するものではない。実施の形態は、部分的に実施してもよいし、他の形態と組み合わせて実施してもよい。
フローチャート等を用いて説明した処理手順は、点群画像生成装置、点群画像生成方法および点群画像生成プログラムの処理手順、または、表示システム、表示方法および表示プログラムの処理手順の一例である。
100 点群画像生成装置、101 測位補強データ、102 測位データ、103 慣性計測データ、104 走行距離データ、105 方位距離データ、110 計測車両、111 測位補強信号受信機、112 測位信号受信機、113 慣性計測装置、114 オドメータ、115 レーザスキャナ、119 天板、121 位置演算部、122 姿勢演算部、123 三次元点群生成部、200 計測データ処理部、201 計測位置データ、202 計測姿勢データ、203 三次元点群データ、204 操作データ、220 位置推定部、229 推定位置データ、230 二次元投影部、235 投影点群データ、236 投影マークデータ、300 表示装置、310 点群画像、311 三次元点群、312 計測位置マーク、313 推定位置マーク、314 視点操作モード切り替えボタン、315 縦スライド、315I インジケータ、316 横スライド、316I インジケータ、317 視点位置マーク、320 インタフェース画像、321B 後方ボタン、321D 下方ボタン、321F 前方ボタン、321L 左ボタン、321R 右ボタン、322X 左右ウィジェット、322Y 前後ウィジェット、322Z 上下ウィジェット、323P 仰角ウィジェット、323Y 方位角ウィジェット、329 取消ボタン、400 操作部、401 自車位置、411 基準視点位置、901 プロセッサ、902 補助記憶装置、903 メモリ、904 通信装置、9041 レシーバ、9042 トランスミッタ、905 入力インタフェース、906 出力インタフェース、907 入力装置、908 出力装置、910 信号線、911 ケーブル、912 ケーブル、1001 測位補強データ、1002 測位データ、1003 角速度データ、1004 走行距離データ、1005 距離方向データ、1006 加速度データ、1007 自己位置データ、1008 姿勢データ、1009 推定自己位置データ、1010 3次元座標点群データ、1011 色付き3次元座標点群データ、1012 視点情報、1013 点群画像データ、1014 マークデータ、1015 基準3次元点群データ、1016 差分3次元点群座標データ、1100 計測部、1101 測位補強信号受信部、1102 GNSS受信機、1103 IMU、1104 オドメトリ装置、1105 レーザスキャナ、1110 計測車両、1200 計測データ処理部、1201 自己位置演算部、1202 姿勢演算部、1203 レーザ点群3次元化処理部、1204 2次元投影変換処理部、1205 自己位置設定部、1206 位置姿勢計測部、1210 表示システム、1250 点群認識処理部、1300 表示装置、1400 操作部、1501 3次元座標点群、1502 地物、1503 路面、1504 自己位置マーク、1505 推定自己位置マーク、1506 軌跡マーク、1509 等高線グラフ、1510 差分処理部、1520 基準データ生成部、1530 認識部、1601 前方視選択ボタン、1602 後方視選択ボタン、1603 右方視選択ボタン、1604 左方視選択ボタン、1605 下方視選択ボタン、1606 オフセット値、1607 オフセット値、1608 クリアボタン、1609 自己位置、1610 推定自己位置。

Claims (18)

  1. 計測車両に取り付けられたレーザスキャナからレーザを周辺物体に照射することによって複数の照射点までの方位と距離とを計測して得られた各照射点における計測値に基づいて、前記各照射点の三次元座標値を示すデータである三次元点群データを生成する三次元点群生成部と、
    視点位置、および視線方向に基づいて、前記三次元点群データに対し二次元投影処理を行い、点群画像を生成する二次元投影部とを備え、
    前記点群画像は、計測時の前記計測車両の位置を表す計測位置マークを含む
    ことを特徴とする点群画像生成装置。
  2. 前記視線方向は、ユーザインタフェースによって変更され、
    前記二次元投影部は、前記視線方向から見た場合の態様で前記計測位置マークに対し前記二次元投影処理を行う
    ことを特徴とする請求項に記載の点群画像生成装置。
  3. 前記点群画像生成装置は、計測時の前記計測車両の三次元座標値を示す計測位置データを用いて、前記点群画像が表示されるときの前記計測車両の位置である推定位置の三次元座標値を推定し、推定した三次元座標値を示す推定位置データを生成する位置推定部を備え、
    前記二次元投影部は、生成された推定位置データを用いて、前記推定位置を表す推定位置マークに対し前記二次元投影処理を行い、三次元点群と前記計測位置マークと前記推定位置マークとを含んだ画像を前記点群画像として生成する
    ことを特徴とする請求項に記載の点群画像生成装置。
  4. 計測車両に取り付けられたレーザスキャナからレーザを周辺物体に照射することによって複数の照射点までの方位と距離とを計測して得られた各照射点における計測値に基づいて、前記各照射点の三次元座標値を示すデータである三次元点群データを生成する三次元点群生成部と、
    視点位置、および視線方向に基づいて、前記三次元点群データに対し二次元投影処理を行い、点群画像を生成する二次元投影部と、
    前記点群画像が表示されるときの前記計測車両の位置である推定位置の三次元座標値を、計測時の前記計測車両の三次元座標値を示す計測位置データを用いて推定し、推定した三次元座標値を示す推定位置データを生成する位置推定部とを備え、
    前記二次元投影部は、生成された推定位置データを用いて、前記推定位置を表す推定位置マークに対し前記二次元投影処理を行い、三次元点群と前記推定位置マークとを含んだ画像を前記点群画像として生成する
    ことを特徴とする点群画像生成装置。
  5. 前記視線方向は、ユーザインタフェースによって変更され、
    前記二次元投影部は、前記視線方向から見た場合の態様で前記推定位置マークに対し前記二次元投影処理を行う
    ことを特徴とする請求項に記載の点群画像生成装置。
  6. 前記点群画像に含まれる三次元点群を構成する三次元点の形状が、三次元空間上において視線方向に対し正対する平面上に配置した三角形である
    ことを特徴とする請求項から請求項のいずれか1項に記載の点群画像生成装置。
  7. 前記二次元投影部は、前記レーザスキャナが計測を行ったときの前記計測車両の位置である計測位置を基点として前記視点位置を決定する
    請求項から請求項のいずれか1項に記載の点群画像生成装置。
  8. 前記二次元投影部は、前記点群画像が表示されるときの前記計測車両の位置である推定位置を基点として前記視点位置を決定する
    請求項から請求項のいずれか1項に記載の点群画像生成装置。
  9. 前記二次元投影部は、前記レーザスキャナが計測を行ったときの前記計測車両の位置である計測位置と、前記点群画像が表示されるときの前記計測車両の位置である推定位置とのいずれかを、前記計測車両の速度に応じて選択し、選択した位置を基点として前記視点位置を決定する
    請求項から請求項のいずれか1項に記載の点群画像生成装置。
  10. 路面を含む周囲物体への移動体からのレーザ走査により得られるレーザ計測点までの距離および方向情報並びに前記移動体の位置および姿勢の計測値に基づいて、当該レーザ計測点の3次元位置座標を順次計測し、3次元座標点群データとして出力するレーザ点群3次元化処理部と、
    前記移動体の移動中に、前記レーザ点群3次元化処理部から順次出力される3次元座標点群データに、高さの区域毎に異なる色情報を付与する点群認識処理部と、
    視点情報が入力される操作部と、
    前記移動体の移動中に、前記操作部にて入力された視点情報と、前記移動体の位置および姿勢の計測値に基づいて、前記点群認識処理部により色情報の付与された3次元座標点群データにおける3次元位置座標点を投影し、点群画像データを生成する2次元投影変換処理部と、
    を備えた表示システム。
  11. 移動体の移動中に、当該移動体の位置および姿勢を計測する位置姿勢計測部と、
    前記移動体の移動中に、当該移動体の有するレーザスキャナの路面を含む周囲物体へのレーザ走査によって順次得られる、レーザ照射点に対応した計測点の距離および方向情報と、前記位置姿勢計測部によって順次得られる移動体の位置および姿勢に基づいて、当該計測点の3次元位置座標を順次計測し、計測した3次元位置座標点を3次元座標点群データとして出力するレーザ点群3次元化処理部と、
    前記移動体の移動中に、前記レーザ点群3次元化処理部から順次出力される3次元座標点群データにおける、色分け範囲内の高さを有した3次元位置座標点に、当該高さに応じた色情報を順次付与する点群認識処理部と、
    視点情報が入力される操作部と、
    前記移動体の移動中に、前記操作部にて入力された視点情報と、前記移動体の位置および姿勢に基づいて、前記点群認識処理部により色情報の付与された3次元座標点群データにおける3次元位置座標点を2次元画面内の対応点に投影変換して点群画像データを生成する2次元投影変換処理部と、
    前記移動体の移動中に、前記2次元投影変換処理部の生成した点群画像データを画面表示する表示装置と、
    を備えた表示システム。
  12. 操作部は、前方視選択ボタン、後方視選択ボタン、右方視選択ボタン、左方視選択ボタン、下方視選択ボタンを有し、何れかのボタン選択に基づいて、視点および視線方向を変更することを特徴とした請求項10または請求項11に記載の表示システム。
  13. 2次元投影変換処理部は、自己位置、推定自己位置、および自己位置の軌跡の3次元位置座標点を、2次元画面内の対応点に投影変換して点群画像データを生成することを特徴とした請求項10から請求項12の何れか1項に記載の表示システム。
  14. 点群認識処理部は、前記3次元座標点群データと、予め設定された路面形状を表す基準3次元点群データとの高さの差に応じた色情報を、前記3次元座標点群データに付与することを特徴とした請求項10から請求項13の何れか1項に記載の表示システム。
  15. 前記点群認識処理部は、基準グリッドの格子点毎に、前記3次元座標点群データと前記基準3次元点群データとのそれぞれから複数の3次元座標点を選択し、前記3次元座標点群データから選択した複数の3次元座標点を用いて前記3次元座標点群データの当該格子点の高さを決定し、前記基準3次元点群データから選択した複数の3次元座標点を用いて前記基準3次元点群データの当該格子点の高さを決定し、前記3次元座標点群データの当該格子点の高さと前記基準3次元点群データの当該格子点の高さとの差に応じた色情報を、前記3次元座標点群データの当該格子点で代表させる3次元座標点に付与することを特徴とする請求項14に記載の表示システム。
  16. 前記点群認識処理部は、選択した複数の3次元座標点から当該格子点までの距離がいずれも距離閾値以下であり、且つ、選択した複数の3次元座標点の高さの差がいずれも高さ閾値以下である場合、選択した複数の3次元座標点のそれぞれの高さに当該3次元座標点から当該格子点までの距離に応じた重み付けを行い、重み付けした複数の高さを用いて当該格子点の高さを算出することを特徴とする請求項15に記載の表示システム。
  17. 前記点群認識処理部は、選択した複数の3次元座標点から当該格子点までの距離の少なくともいずれかが距離閾値以下であり、且つ、選択した複数の3次元座標点から当該格子点までの距離の少なくともいずれかが距離閾値を超える場合、選択した複数の3次元座標点から当該格子点に最も近い3次元座標点を選択し、選択した3次元座標点の高さを当該格子点の高さとすることを特徴とする請求項15に記載の表示システム。
  18. 前記点群認識処理部は、選択した複数の3次元座標点から当該格子点までの距離がいずれも距離閾値以下であり、且つ、選択した複数の3次元座標点の高さの差の少なくともいずれかが高さ閾値を超える場合、選択した複数の3次元座標点から当該格子点に最も近い3次元座標点を選択し、選択した3次元座標点の高さを当該格子点の高さとすることを特徴とする請求項15に記載の表示システム。
JP2017518724A 2015-05-20 2015-12-25 点群画像生成装置および表示システム Active JP6335389B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2015103152 2015-05-20
JP2015103152 2015-05-20
JP2015103240 2015-05-20
JP2015103240 2015-05-20
PCT/JP2015/086323 WO2016185637A1 (ja) 2015-05-20 2015-12-25 点群画像生成装置および表示システム

Publications (2)

Publication Number Publication Date
JPWO2016185637A1 JPWO2016185637A1 (ja) 2017-08-31
JP6335389B2 true JP6335389B2 (ja) 2018-05-30

Family

ID=57319589

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017518724A Active JP6335389B2 (ja) 2015-05-20 2015-12-25 点群画像生成装置および表示システム

Country Status (7)

Country Link
EP (1) EP3299763B1 (ja)
JP (1) JP6335389B2 (ja)
KR (1) KR101928689B1 (ja)
AU (1) AU2015395741B2 (ja)
HK (1) HK1252900A1 (ja)
PH (1) PH12017502098A1 (ja)
WO (1) WO2016185637A1 (ja)

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018151872A (ja) * 2017-03-13 2018-09-27 富士通株式会社 描画プログラム、描画方法および描画装置
JP6727161B2 (ja) * 2017-03-24 2020-07-22 三菱電機株式会社 地中表示装置及び地中表示プログラム
CN109285188B (zh) * 2017-07-21 2020-04-21 百度在线网络技术(北京)有限公司 用于生成目标物体的位置信息的方法和装置
JP6541924B1 (ja) 2017-11-22 2019-07-10 三菱電機株式会社 地図収集システム、地図サーバ装置、車載装置および地図収集方法
US11796343B2 (en) 2017-11-27 2023-10-24 Mitsubishi Electric Corporation Map maintenance system and map maintenance method
JP2019117053A (ja) * 2017-12-26 2019-07-18 パイオニア株式会社 表示制御装置
JP7333445B2 (ja) * 2017-12-26 2023-08-24 パイオニア株式会社 画像生成装置
JP6833099B2 (ja) 2018-02-20 2021-02-24 三菱電機株式会社 計測監視装置および計測監視プログラム
US20200116484A1 (en) * 2018-10-12 2020-04-16 Id Technologies Inc. Mobile Surface Scanner And Associated Method
CN111174788B (zh) * 2018-11-13 2023-05-02 北京京东乾石科技有限公司 一种室内二维建图方法和装置
CN111238494B (zh) * 2018-11-29 2022-07-19 财团法人工业技术研究院 载具、载具定位系统及载具定位方法
JP7004636B2 (ja) * 2018-12-04 2022-01-21 三菱電機株式会社 表示データ生成装置、表示データ生成方法、および表示データ生成プログラム
CN111308448B (zh) * 2018-12-10 2022-12-06 杭州海康威视数字技术股份有限公司 图像采集设备与雷达的外参确定方法及装置
US10353073B1 (en) * 2019-01-11 2019-07-16 Nurulize, Inc. Point cloud colorization system with real-time 3D visualization
JP2020165729A (ja) * 2019-03-28 2020-10-08 東北電力株式会社 距離測定装置、距離測定方法及び距離測定プログラム
DE102019208384A1 (de) * 2019-06-07 2020-12-10 Robert Bosch Gmbh Verfahren zum Erstellen einer universell einsetzbaren Merkmalskarte
CN110619663A (zh) * 2019-08-28 2019-12-27 山东科技大学 一种基于三维激光点云的视频影像目标定位方法
CN110789533B (zh) * 2019-09-25 2021-08-13 华为技术有限公司 一种数据呈现的方法及终端设备
US11262759B2 (en) * 2019-10-16 2022-03-01 Huawei Technologies Co., Ltd. Method and system for localization of an autonomous vehicle in real time
CN115516337A (zh) * 2019-10-21 2022-12-23 派珀网络公司 使用lidar的交通测位系统和方法
WO2021077315A1 (en) * 2019-10-23 2021-04-29 Beijing Voyager Technology Co., Ltd. Systems and methods for autonomous driving
CN110929612A (zh) * 2019-11-13 2020-03-27 北京云聚智慧科技有限公司 一种目标对象标注方法、装置及设备
CN110927765B (zh) * 2019-11-19 2022-02-08 博康智能信息技术有限公司 激光雷达与卫星导航融合的目标在线定位方法
CN110926341A (zh) * 2019-11-26 2020-03-27 湖南农业大学 一种利用三维扫描点云测度谷粒长宽厚形态参数的新方法
CN112950785B (zh) * 2019-12-11 2023-05-30 杭州海康威视数字技术股份有限公司 点云标注方法、装置及系统
CN111273704B (zh) * 2020-01-21 2023-09-15 上海万物新生环保科技集团有限公司 一种自动插入外接设备孔的方法及装置
CN111427451B (zh) * 2020-03-25 2022-11-01 中国人民解放军海军特色医学中心 采用扫描仪与眼动仪确定注视点在三维场景中位置的方法
JP7461817B2 (ja) 2020-07-08 2024-04-04 三菱重工業株式会社 表示情報作成装置、表示システム、及び表示情報作成方法
WO2022024259A1 (ja) * 2020-07-29 2022-02-03 日本電信電話株式会社 データ補正方法及びデータ補正装置
CN112102496B (zh) * 2020-09-27 2024-03-26 安徽省农业科学院畜牧兽医研究所 牛体格测量方法、模型训练方法和系统
CN112669364A (zh) * 2020-12-07 2021-04-16 盎锐(上海)信息科技有限公司 用于实测实量的显示方法及测量系统
CN112802097B (zh) * 2020-12-30 2024-07-12 深圳市慧鲤科技有限公司 一种定位方法、装置、电子设备及存储介质
CN112991149A (zh) * 2021-02-02 2021-06-18 武汉光庭信息技术股份有限公司 一种激光点云二维视图浏览渲染方法
CN113033564B (zh) * 2021-02-20 2022-10-14 意欧斯物流科技(上海)有限公司 一种高精度和鲁棒性的2d激光点云匹配的方法
CN112819805B (zh) * 2021-02-23 2024-05-10 北京布科思科技有限公司 一种基于一字激光的物体位置识别方法及装置
CN115412721B (zh) * 2021-05-26 2024-05-28 荣耀终端有限公司 一种点云二维规则化平面投影方法及装置
CN115412717B (zh) * 2021-05-26 2024-05-17 荣耀终端有限公司 一种点云方位角信息的预测编解码方法及装置
CN114485592B (zh) * 2022-02-28 2023-05-05 中国电建集团西北勘测设计研究院有限公司 一种确保排水箱涵三维点云坐标转换精度的方法
CN114894167B (zh) * 2022-04-06 2024-01-30 西北工业大学 一种基于多传感器技术的洞穴自动测绘系统及方法
CN114863695B (zh) * 2022-05-30 2023-04-18 中邮建技术有限公司 一种基于车载激光和摄像机的超标车辆检测系统和方法
CN114827711B (zh) * 2022-06-24 2022-09-20 如你所视(北京)科技有限公司 图像信息显示方法和装置
CN115097976B (zh) * 2022-07-13 2024-03-29 北京有竹居网络技术有限公司 用于图像处理的方法、装置、设备和存储介质
CN115097977A (zh) * 2022-07-13 2022-09-23 北京有竹居网络技术有限公司 用于点云处理的方法、装置、设备和存储介质
CN115631329B (zh) * 2022-12-08 2023-04-28 杭州明度智能科技有限公司 一种用于开放式车厢的装载控制方法、系统和存储介质
CN116008991B (zh) * 2022-12-12 2024-08-06 北京斯年智驾科技有限公司 一种岸桥下车辆定位方法、装置、电子设备及存储介质
CN117053729B (zh) * 2023-10-10 2024-01-16 武汉奋进智能机器有限公司 酒甑的布料方法及装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3466970B2 (ja) * 1999-09-08 2003-11-17 キヤノン株式会社 視点位置設定方法
JP2003153248A (ja) * 2001-11-16 2003-05-23 Canon Inc インターネット公開カメラにおいてカメラ制御情報による集計及び集計情報公開装置
JP2005321370A (ja) * 2004-04-05 2005-11-17 Sony Corp ナビゲーション装置、およびデータ処理方法、並びにコンピュータ・プログラム
JP2008070705A (ja) * 2006-09-15 2008-03-27 Cad Center:Kk 画像提供システムおよび画像提供サーバ装置
JP5347988B2 (ja) * 2009-03-30 2013-11-20 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置
JP5473383B2 (ja) * 2009-04-17 2014-04-16 三菱電機株式会社 断面計測装置、断面計測方法および断面計測プログラム
US20130300740A1 (en) * 2010-09-13 2013-11-14 Alt Software (Us) Llc System and Method for Displaying Data Having Spatial Coordinates
JP5706715B2 (ja) * 2011-02-25 2015-04-22 株式会社ジオ技術研究所 3次元地図表示システム
JP6198190B2 (ja) * 2013-08-01 2017-09-20 国際航業株式会社 路面性状計測システム、及び路面性状計測方法
US9013286B2 (en) * 2013-09-23 2015-04-21 Volkswagen Ag Driver assistance system for displaying surroundings of a vehicle
JP6347934B2 (ja) * 2013-10-11 2018-06-27 株式会社デンソーテン 画像表示装置、画像表示システム、画像表示方法、及び、プログラム

Also Published As

Publication number Publication date
EP3299763A1 (en) 2018-03-28
WO2016185637A1 (ja) 2016-11-24
KR20170140353A (ko) 2017-12-20
PH12017502098A1 (en) 2018-05-07
KR101928689B1 (ko) 2018-12-12
EP3299763A4 (en) 2019-01-16
AU2015395741A1 (en) 2017-11-09
AU2015395741B2 (en) 2019-06-27
HK1252900A1 (zh) 2019-06-06
EP3299763B1 (en) 2020-08-26
JPWO2016185637A1 (ja) 2017-08-31

Similar Documents

Publication Publication Date Title
JP6335389B2 (ja) 点群画像生成装置および表示システム
US10341633B2 (en) Systems and methods for correcting erroneous depth information
JP7328282B2 (ja) 乗物を測位するための方法、装置、機器及び記憶媒体
US9378558B2 (en) Self-position and self-orientation based on externally received position information, sensor data, and markers
AU2016402225B2 (en) Method and apparatus for augmented reality display on vehicle windscreen
JP5501101B2 (ja) 位置標定装置、位置標定方法および位置標定プログラム
JP2008134224A (ja) 三次元レーダー像のレンダリングのための装置及び方法
CN103376442A (zh) 信息显示装置以及信息显示方法
US12061276B2 (en) Perception data based GNSS multipath identification and correction
JP5473383B2 (ja) 断面計測装置、断面計測方法および断面計測プログラム
US10353389B2 (en) Augmented reality cross-cueing systems and methods
US9423506B2 (en) Tactical differential GPS
JP6529420B2 (ja) 道路監視装置および道路監視プログラム
JP2012242318A (ja) 位置補正データ生成装置、位置標定装置、ユーザインタフェース装置、位置補正データ生成装置の位置補正データ生成方法、位置標定装置の位置標定方法、ユーザインタフェース装置の情報処理方法、位置補正データ生成プログラム、位置標定プログラムおよびユーザインタフェースプログラム
JP6768051B2 (ja) 道路監視装置および道路監視プログラム
JP2014071655A (ja) 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法
US20230136186A1 (en) Position measurement apparatus, positioning method and program
JP7349909B2 (ja) 位置同定装置、移動体位置同定システム、及び位置同定方法
RU2549350C1 (ru) Способ отображения радиолокационной информации
Kim et al. Optimal smoothing based mapping process of road surface marking in urban canyon environment
CN116953687A (zh) 一种雷达目标探驱跟踪处理方法及处理装置
KR20150134127A (ko) Slam 시스템을 위한 레이더 신호 처리 장치 및 방법

Legal Events

Date Code Title Description
A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A527

Effective date: 20170426

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180427

R150 Certificate of patent or registration of utility model

Ref document number: 6335389

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250