JP6404525B2 - 全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラム - Google Patents

全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラム Download PDF

Info

Publication number
JP6404525B2
JP6404525B2 JP2018517983A JP2018517983A JP6404525B2 JP 6404525 B2 JP6404525 B2 JP 6404525B2 JP 2018517983 A JP2018517983 A JP 2018517983A JP 2018517983 A JP2018517983 A JP 2018517983A JP 6404525 B2 JP6404525 B2 JP 6404525B2
Authority
JP
Japan
Prior art keywords
omnidirectional
subject
captured image
parallel
omnidirectional camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018517983A
Other languages
English (en)
Other versions
JPWO2017199352A1 (ja
Inventor
俊二 菅谷
俊二 菅谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Optim Corp
Original Assignee
Optim Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Optim Corp filed Critical Optim Corp
Application granted granted Critical
Publication of JP6404525B2 publication Critical patent/JP6404525B2/ja
Publication of JPWO2017199352A1 publication Critical patent/JPWO2017199352A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • H04N5/2226Determination of depth image, e.g. for foreground/background separation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、複数の全天球カメラが撮像した撮像画像を表示する全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラムに関する。
近年、上下左右全方位360度パノラマ画像を撮像可能な全天球カメラが提案されている。このような全天球カメラでは、全視野を撮像するために、複数のカメラを一の装置とした撮像装置や、特殊なレンズを複数備えた撮像装置により全方位を撮像し、360度パノラマ画像を表示画像として表示することを可能としている。
このような構成として、複数の撮像装置を備え、各撮像装置から取得した複数の画像を一の画像として合成し、全天球画像を生成する構成が開示されている(特許文献1参照)。
特開2016−27744号公報
しかしながら、特許文献1の構成では、全天球画像として表示された被写体の奥行きが不明であるため、全天球カメラから被写体までの距離を知ることや全天球画像に表示された被写体に対応する3Dモデルを作成することが困難であった。
本発明の目的は、全天球カメラの位置から被写体までの距離を表示することにより、全天球カメラから被写体までの距離を知ることや全天球画像に表示された被写体に対応する3Dモデルを作成することを容易にすることが可能な全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラムを提供することを目的とする。
本発明では、以下のような解決手段を提供する。
第1の特徴に係る発明は、複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示システムであって、
前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示する距離表示手段と、
を備えることを特徴とする全天球カメラ撮像画像表示システムを提供する。
第1の特徴に係る発明によれば、複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示システムは、前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示する。
ここで、第1の特徴に係る発明は、全天球カメラ撮像画像表示システムのカテゴリであるが、方法又はプログラム等の他のカテゴリにおいても、そのカテゴリに応じた同様の作用・効果を発揮する。
第2の特徴に係る発明は、複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示システムであって、
前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示する距離表示手段と、
を備えることを特徴とする全天球カメラ撮像画像表示システムを提供する。
第2の特徴に係る発明によれば、複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示システムは、前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示する。
ここで、第2の特徴に係る発明は、全天球カメラ撮像画像表示システムのカテゴリであるが、方法又はプログラム等の他のカテゴリにおいても、そのカテゴリに応じた同様の作用・効果を発揮する。
第3の特徴に係る発明は、ユーザ操作を受け付ける受付手段と、
前記ユーザ操作を受け付けることにより、前記距離の表示のON/OFFを切り替える切替手段と、
を備えることを特徴とする第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムを提供する。
第3の特徴に係る発明によれば、第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムは、ユーザ操作を受け付け、前記ユーザ操作を受け付けることにより、前記距離の表示のON/OFFを切り替える。
第4の特徴に係る発明は、前記撮像画像の歪みから、前記距離の補正を行う距離補正手段と、
を備えることを特徴とする第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムを提供する。
第4の特徴に係る発明によれば、第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムは、前記撮像画像の歪みから、前記距離の補正を行う。
第5の特徴に係る発明は、前記複数の全天球カメラの向きを平行にする向き補正手段と、
を備えることを特徴とする第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムを提供する。
第5の特徴に係る発明によれば、第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムは、前記複数の全天球カメラの向きを平行にする。
第6の特徴に係る発明は、前記複数の全天球カメラの間の距離を計測する計測手段と、
を備えることを特徴とする第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムを提供する。
第6の特徴に係る発明によれば、第1又は第2のいずれかの特徴に係る発明である全天球カメラ撮像画像表示システムは、前記複数の全天球カメラの間の距離を計測する。
第7の特徴に係る発明は、複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示方法であって、
前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップと、
を備えることを特徴とする全天球カメラ撮像画像表示方法を提供する。
第8の特徴に係る発明は、複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示方法であって、
前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップと、
を備えることを特徴とする全天球カメラ撮像画像表示方法を提供する。
第9の特徴に係る発明は、複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示システムに、
前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップ、
を実行させることを特徴とするプログラムを提供する。
第10の特徴に係る発明は、複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示システムに、
前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップ、
を実行させることを特徴とするプログラムを提供する。
本発明によれば、全天球カメラの位置から被写体までの距離を表示することにより、全天球カメラから被写体までの距離を知ることや全天球画像に表示された被写体に対応する3Dモデルを作成することを容易にすることが可能な全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラムを提供することが可能となる。
図1は、全天球カメラ撮像画像表示システム1の概要を示す図である。 図2は、全天球カメラ撮像画像表示システム1の全体構成図である。 図3は、全天球カメラ100、情報端末200の機能ブロック図である。 図4は、全天球カメラ100、情報端末200が実行する撮像画像表示処理を示すフローチャートである。 図5は、全天球カメラ100、情報端末200が実行する3Dモデル表示処理を示すフローチャートである。 図6は、情報端末200が実行する距離の計測方法の一例を示す図である。 図7は、情報端末200が表示する距離の一例を示す図である。
以下、本発明を実施するための最良の形態について、図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
[全天球カメラ撮像画像表示システム1の概要]
本発明の好適な実施形態である全天球カメラ撮像画像表示システム1の概要について、図1に基づいて説明する。図1は、本発明の好適な実施形態である全天球カメラ撮像画像表示システム1の概要を説明するための図である。全天球カメラ撮像画像表示システム1は、全天球カメラ100a,100b(以下、特に断りがない限り単に全天球カメラ100と称す)、情報端末200から構成される。
なお、全天球カメラ100aと全天球カメラ100bとは、平行に配置することが望ましいが、平行に配置されていない場合、全天球カメラ撮像画像表示システム1は、平行に配置する補正を実行することが可能である。また、全天球カメラ100a又は全天球カメラ100bと情報端末200とが別体ではなく、一体の端末装置であってもよい。
また、全天球カメラ撮像画像表示システム1において、全天球カメラ100は、1つ又は2つに限らずそれ以上であってもよい。また、情報端末200は、1つに限らず複数であってもよい。また、情報端末200は、実在する装置又は仮想的な装置のいずれか又は双方により実現されてもよい。また、後述する各処理は、全天球カメラ100又は情報端末200のいずれか又は双方により実現されてもよい。
全天球カメラ100は、情報端末200とデータ通信可能であり、複数のカメラを組合せ、一のカメラとした構成や、特殊なレンズを複数備えた構成等の撮像装置である。全天球カメラ100は、上下左右全方位を撮像し、360度パノラマ画像である全天球画像を撮像可能な撮像装置である。なお、全天球カメラ100は、ある一点から各方位の画像を其々撮像し、撮像した各方位の画像を合成処理することにより、360度パノラマ画像を撮像可能な撮像装置であってもよい。また、全天球カメラ100は、その他の構成により360度パノラマ画像を撮像可能な撮像装置であってもよい。
情報端末200は、全天球カメラ100とデータ通信可能であり、全天球カメラ100が撮像した360度パノラマ画像を表示可能な端末装置である。情報端末200は、例えば、携帯電話、携帯情報端末、タブレット端末、パーソナルコンピュータに加え、ネットブック端末、スレート端末、電子書籍端末、携帯型音楽プレーヤ等の電化製品や、操作者が装着するスマートグラス、ヘッドマウントディスプレイ等のウェアラブル端末や、その他の物品である。
全天球カメラ100は、操作者からの入力を受け付け、全天球画像を撮像する(ステップS01)。全天球画像には、複数の被写体が存在する。被写体とは、例えば、樹木、建築物、人物、風景である。
全天球カメラ100は、撮像した全天球画像のデータである全天球画像データを、情報端末200に送信する(ステップS02)。
情報端末200は、全天球カメラ100aから受信した全天球画像データと、全天球カメラ100bから受信した全天球画像データと、全天球カメラ100aと全天球カメラ100bとの間の距離とに基づいて、全天球カメラ100から被写体までの間の距離を計測する。情報端末200は、全天球画像データに基づいた全天球画像を表示し、この全天球画像に表示する被写体に計測した距離を表示する(ステップS03)。
また、情報端末200は、全天球画像データに基づいて、この全天球画像データに含まれる被写体の3Dモデルを作成し、表示する構成であってもよい。この場合、情報端末200は、全天球画像データに基づいた各被写体の3Dモデルを表示し、この3Dモデルに計測した距離を表示する。
以上が、全天球カメラ撮像画像表示システム1の概要である。
[全天球カメラ撮像画像表示システム1のシステム構成]
図2に基づいて、全天球カメラ撮像画像表示システム1のシステム構成について説明する。図2は、本発明の好適な実施形態である全天球カメラ撮像画像表示システム1のシステム構成を示す図である。全天球カメラ撮像画像表示システム1は、複数の全天球カメラ100a,100b(以下、特に断りがない限り全天球カメラ100と称す。)、情報端末200、公衆回線網(インターネット網や、第3、第4世代通信網等)5から構成される。
なお、全天球カメラ100の数は、2つに限らず、1つであってもよいし、3つ以上であってもよい。また、情報端末200の数は、1つに限らず複数であってもよい。また、情報端末200は、実在する装置又は仮想的装置のいずれか又は双方により実現されてもよい。また、後述する各処理は、全天球カメラ100又は情報端末200のいずれか又は双方により実現されてもよい。
また、全天球カメラ撮像画像表示システム1は、上述した構成に加え、サーバ等が存在する構成であってもよい。この場合、例えば、後述する各処理は、全天球カメラ100、情報端末200又はサーバのいずれか又は複数の組合せにより実行する構成であればよい。
全天球カメラ100は、後述の機能を備え、上述した撮像装置である。
情報端末200は、後述の機能を備え、上述した端末装置である。
[各機能の説明]
図3に基づいて、本発明の好適な実施形態である全天球カメラ撮像画像表示システム1の機能について説明する。図3は、全天球カメラ100、情報端末200の機能ブロック図である。
全天球カメラ100は、制御部110として、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備え、通信部120として、他の機器と通信可能にするためのデバイス、例えば、IEEE802.11に準拠したWiFi(Wireless Fidelity)対応デバイス等を備える。また、全天球カメラ100は、入出力部130として、制御部110で制御したデータや画像を出力表示する表示部や、ユーザからの入力を受け付けるタッチパネルやキーボード、マウス等の入力部等や、被写体を撮像する撮像デバイス等を備える。
全天球カメラ100は、制御部110が所定のプログラムを読み込むことにより、通信部120と協働して、データ送信モジュール150、補正指示受信モジュール151を実現する。また、全天球カメラ100は、制御部110が所定のプログラムを読み込むことにより、入出力部130と協働して、撮像モジュール160、向き調整モジュール161を実現する。
情報端末200は、全天球カメラ100と同様に、制御部210として、CPU、RAM、ROM等を備え、通信部220として、無線対応デバイス等を備え、入出力部230として、表示部や、入力部等を備える。
情報端末200は、制御部210が所定のプログラムを読み込むことにより、通信部220と協働して、データ受信モジュール250、補正指示送信モジュール251を実現する。また、情報端末200は、制御部210が所定のプログラムを読み込むことにより、入出力部230と協働して、平行判断モジュール260、距離計測モジュール261、歪み判断モジュール262、補正モジュール263、表示モジュール264、入力受付モジュール265、3Dモデル作成モジュール266を実現する。
[撮像画像表示処理]
図4に基づいて、全天球カメラ100、情報端末200が実行する撮像画像表示処理について説明する。図4は、全天球カメラ100、情報端末200が実行する撮像画像表示処理のフローチャートを示す図である。上述した各装置のモジュールが実行する処理について、本処理に併せて説明する。
撮像モジュール160は、操作者からの入力を受け付け、被写体を撮像し、全天球画像を撮像する(ステップS10)。被写体とは、例えば、樹木、建築物、人物、風景である。また、全天球画像とは、360度パノラマ画像である。ステップS10において、全天球カメラ100a及び全天球カメラ100bは、其々が全天球画像を撮像する。
ステップS10において、全天球カメラ100は、操作者がコントローラ等の端末装置に撮像指示の入力を実行することにより全天球画像を撮像してもよいし、情報端末200からの撮像指示の入力を受け付けることにより全天球画像を撮像してもよいし、その他の構成により全天球画像を撮像してもよい。
データ送信モジュール150は、撮像した全天球画像を全天球画像データとして、情報端末200に送信する(ステップS11)。ステップS11において、全天球カメラ100a及び全天球カメラ100bの其々が、全天球画像データを送信する。
データ受信モジュール250は、複数の全天球画像データを受信する。平行判断モジュール260は、受信した複数の全天球画像データに基づいて、全天球カメラ100a,100bの向きが互いに平行であるか否かを判断する(ステップS12)。ステップS12において、平行判断モジュール260は、受信した複数の全天球画像データを画像解析し、一の被写体の画像データを抽出する。平行判断モジュール260は、この抽出した一の被写体の画像データに基づいて全天球カメラ100a,100bが平行であるか否かを判断する。すなわち、平行判断モジュール260は、一の被写体の画像データの特徴量が一致するか否かに基づいて平行であるか否かを判断する。一致している場合、平行であると判断し、一致していない場合、平行ではないと判断する。なお、ステップS12において、平行判断モジュール260は、上述した判断方法以外の構成により、全天球カメラ100a,100bが平行であるか否かを判断してもよい。また、全天球カメラ100が3台以上である場合にも、同様の処理を実行することにより、平行でない全天球カメラ100を判断することが可能となる。
ステップS12において、平行判断モジュール260は、平行ではないと判断した場合(ステップS12 NO)、補正指示送信モジュール251は、全天球カメラ100a又は全天球カメラ100bのいずれか又は双方の向きを補正する補正指示を対象とする全天球カメラ100に送信する(ステップS13)。ステップS13において、補正指示送信モジュール251は、例えば、撮像モジュール160の撮像方向の変更や、撮像モジュール160を構成するレンズの位置の変更や、全天球カメラ100の位置の変更を指示する補正指示を送信する。
補正指示受信モジュール151は、補正指示を受信する。向き調整モジュール161は、受信した補正指示に基づいて、全天球カメラ100aと全天球カメラ100bとが互いに平行となる向きに全天球カメラ100a,100bの向きを補正する(ステップS14)。
撮像モジュール160は、補正された向きにおいて、全天球画像を撮像する(ステップS15)。なお、ステップS15において、補正された全天球カメラ100が全天球画像を撮像するだけでなく、補正されなかった全天球カメラ100も全天球画像を撮像する構成であってもよい。
データ送信モジュール150は、撮像した全天球画像の全天球画像データを情報端末200に送信する(ステップS16)。データ受信モジュール250は、全天球画像データを受信し、情報端末200は、後述するステップ17を実行する。
一方、ステップS12において、平行判断モジュール260は、平行であると判断した場合(ステップS12 YES)、距離計測モジュール261は、全天球カメラ100から被写体までの距離を計測する(ステップS17)。
図6に基づいて、全天球カメラ撮像画像表示システム1が実行する全天球カメラ100から被写体までの距離を計測する計測方法の一例について説明する。なお、距離の計測方法は、本実施形態の方法に限らず、その他の方法により実行されてもよい。
情報端末200は、全天球カメラ100aと全天球カメラ100bとの間の距離Xを計測する。情報端末200は、例えば、全天球カメラ100aと全天球カメラ100bとの各々の位置情報を取得し、取得した位置情報に基づいて、距離Xを計測する。また、情報端末200は、予め距離Xが設定されており、この設定された距離Xを取得する構成であってもよい。また、情報端末200は、サーバ等の外部装置から距離Xを取得する構成であってもよい。また、情報端末200は、距離Xをその他の構成により計測する構成であってもよい。
情報端末200は、全天球カメラ100aから取得した全天球画像データのうち、距離を計測する被写体300を一方の端部に含んだ画角Zの部分画像400を抽出する。また、情報端末200は、全天球カメラ100bから取得した全天球画像データのうち、距離を計測する被写体300を一方の端部に含んだ画角Zの部分画像410を抽出する。
情報端末200は、抽出した部分画像400,410に含まれる被写体300を重畳させた重畳画像420を作成する。情報端末200は、距離Xと全天球カメラ100の画角Zとに基づいて、全天球カメラ100から被写体までの距離Yを計測する。情報端末200は、全天球画像データに存在する全ての被写体について距離Yを計測する。なお、情報端末200は、距離Xに基づいて、距離Yを計測する構成であってもよい。また、情報端末200は、他の構成により、距離Yを計測する構成であってもよい。
歪み判断モジュール262は、全天球画像データに含まれる被写体に歪みが存在しているか否かを判断する(ステップS18)。歪みとは、例えば、樽型収差、糸巻き型収差、ビネット、色収差等である。ステップS18において、歪み判断モジュール262は、歪みが存在すると判断した場合(ステップS18 YES)、補正モジュール263は、被写体の歪みを補正し、この歪みに基づいて、ステップS17において計測した距離Yを補正し(ステップS19)、後述するステップS20の処理に移行する。ステップS19において、補正モジュール263は、歪みが存在する全ての被写体に対して距離Yを補正する。
一方、ステップS18において、歪み判断モジュール262は、歪みが存在していないと判断した場合(ステップS18 NO)、表示モジュール264は、全天球画像データに基づいた全天球画像と、ステップS17において計測した全天球カメラ100から被写体までの距離とを表示する(ステップS20)。ステップS20において、表示モジュール264は、全天球カメラ100a又は全天球カメラ100bのいずれかが撮像した全天球画像を表示する。なお、ステップS20において、表示モジュール264は、全天球カメラ100a及び全天球カメラ100bが撮像した全天球画像を合成し、合成した全天球画像を表示する構成であってもよい。
図7に基づいて、表示モジュール264が表示する全天球画像について説明する。図7は、表示モジュール264が、被写体300及び全天球カメラ100から被写体300までの距離表示領域500を表示した状態を示す図である。なお、本実施形態において、全天球画像に被写体300のみを表示する状態を示しているが、他の被写体が表示されていてもよく、以下の説明において、他の被写体に対しても同様の構成にすればよい。
表示モジュール264は、被写体300の近傍又は被写体300の一部に重畳させて、距離表示領域500を表示する。近傍とは、例えば、被写体300に重畳しない周囲である。距離表示領域500は、全天球カメラ100から被写体300までの距離を表示する領域である。なお、全天球画像の表示領域とは異なる領域に距離表示領域500を表示する構成であってもよい。この場合、距離表示領域500がどの被写体の距離を示しているのかを矢印、引張線、記号等により識別する構成であればよい。また、距離表示領域500の表示位置及び形状は適宜変更可能である。また、距離表示領域500は、予め指定した被写体のみに表示する構成であってもよいし、全ての被写体に表示する構成であってもよい。
入力受付モジュール265は、操作者からの距離の表示のON/OFFを切り替える入力を受け付けたか否かを判断する(ステップS21)。ステップS21において、入力受付モジュール265は、入力を受け付けたと判断した場合(ステップS21 YES)、入力内容に基づいて、距離の表示を切り替える(ステップS22)。ステップS22において、受け付けた入力が表示のONである場合、被写体の近傍に距離を表示し、受け付けた入力が表示のOFFである場合、被写体の近傍に表示した距離を非表示にする。入力受付モジュール265は、表示を切り替えた後、再度ステップS21の処理を実行する。なお、ステップ22において、操作者は一の被写体又は複数の被写体を指定し、この指定した被写体の距離のON/OFFを切り替える構成であってもよい。
一方、ステップS21において、入力受付モジュール265は、入力を受け付けていないと判断した場合(ステップS21 NO)、全天球画像の表示を終了する入力を受け付けたか否かを判断する(ステップS23)。ステップS23において、入力受付モジュール265は、入力を受け付けていないと判断した場合(ステップS23 NO)、上述したステップS21の処理を再度実行する。
一方、ステップS23において、入力受付モジュール265は、入力を受け付けたと判断した場合(ステップS23 YES)、本処理を終了する。
以上が、撮像画像表示処理である。
[3Dモデル表示処理]
次に、上述した全天球カメラ撮像画像表示システム1が実行する3Dモデル表示処理について、図5に基づいて説明する。図5は、全天球カメラ100、情報端末200が実行する3Dモデル表示処理のフローチャートを示す図である。上述した各装置のモジュールが実行する処理について、本処理に併せて説明する。なお、上述した撮像画像表示処理と同様の処理については、その詳細な説明は省略する。
全天球カメラ100及び情報端末200は、上述したステップS10〜ステップS19までの処理を実行する(ステップS30〜ステップS39)。ステップS30〜ステップS39の各処理は、上述したステップS10〜ステップS19の処理と同様であるため、詳細な説明は省略する。
3Dモデル作成モジュール266は、全天球画像データに基づいて、各被写体の3Dモデルを作成する(ステップS40)。3Dモデル作成モジュール266は、3Dモデルを、例えば、ソリッド、サーフェス、ワイヤーフレーム、ポリゴンにより作成する。ステップS40において、3Dモデル作成モジュール266は、全天球カメラ100a又は全天球カメラ100bのいずれかが撮像した全天球画像データに基づいて、各被写体の3Dモデルを作成する。なお、ステップS40において、3Dモデル作成モジュール266は、全天球カメラ100a及び全天球カメラ100bが撮像した全天球画像データを合成し、合成した全天球画像データに基づいて3Dモデルを作成する構成であってもよい。
表示モジュール264は、作成した被写体の3Dモデルを全天球画像において、被写体に替えて表示する(ステップS41)。すなわち、ステップS41において、表示モジュール264は、各被写体の3Dモデルを全天球画像として表示する。
表示モジュール264は、この3Dモデルに、ステップS37において計測した全天球カメラ100から被写体までの距離を表示する(ステップS42)。ステップS42の処理は、上述したステップS20の処理において、表示する被写体の画像が3Dモデルに変更された以外は同様の構成であるため、詳細な説明は省略する。
入力受付モジュール265は、操作者からの距離の表示のON/OFFを切り替える入力を受け付けたか否かを判断する(ステップS43)。ステップS43において、入力受付モジュール265は、入力を受け付けたと判断した場合(ステップS43 YES)、入力内容に基づいて、距離の表示を切り替える(ステップS44)。ステップS43及びステップS44の処理は、上述したステップS21及びステップS22の処理において、表示する被写体の画像が3Dモデルに変更された以外は同様の構成であるため、詳細な説明は省略する。
一方、ステップS43において、入力受付モジュール265は、入力を受け付けていないと判断した場合(ステップS43 NO)、3Dモデルの表示を終了する入力を受け付けたか否かを判断する(ステップS45)。ステップS45において、入力受付モジュール265は、入力を受け付けていないと判断した場合(ステップS45 NO)、上述したステップS42の処理を実行する。ステップS45の処理は、上述したステップS23の処理と同様であるため、詳細な説明は省略する。
一方、ステップS45において、入力受付モジュール265は、入力を受け付けたと判断した場合(ステップS45 YES)、本処理を終了する。
以上が、3Dモデル表示処理である。
上述した手段、機能は、コンピュータ(CPU、情報処理装置、各種端末を含む)が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、フレキシブルディスク、CD(CD−ROMなど)、DVD(DVD−ROM、DVD−RAMなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置又は外部記憶装置に転送し記憶して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記憶装置(記録媒体)に予め記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
1 全天球カメラ撮像画像表示システム、100 全天球カメラ、200 情報端末

Claims (9)

  1. 複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示システムであって、
    前記複数の全天球カメラが撮像した全天球画像データから一の被写体の画像データを抽出し、当該一の被写体の画像データの特徴量が一致するか否かに基づいて複数の全天球カメラの向きが平行であるか否かを判断する平行判断手段と、
    前記平行判断手段が平行ではないと判断した場合に、前記複数の全天球カメラの向きを平行にする向き補正手段と、
    前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示する距離表示手段と、
    を備えることを特徴とする全天球カメラ撮像画像表示システム。
  2. 複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示システムであって、
    前記複数の全天球カメラが撮像した全天球画像データから一の被写体の画像データを抽出し、当該一の被写体の画像データの特徴量が一致するか否かに基づいて複数の全天球カメラの向きが平行であるか否かを判断する平行判断手段と、
    前記平行判断手段が平行ではないと判断した場合に、前記複数の全天球カメラの向きを平行にする向き補正手段と、
    前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示する距離表示手段と、
    を備えることを特徴とする全天球カメラ撮像画像表示システム。
  3. ユーザ操作を受け付ける受付手段と、
    前記ユーザ操作を受け付けることにより、前記距離の表示のON/OFFを切り替える切り替え手段と、
    を備えることを特徴とする請求項1又は2に記載の全天球カメラ撮像画像表示システム。
  4. 前記撮像画像の歪みから、前記距離の補正を行う距離補正手段と、
    を備えることを特徴とする請求項1又は2に記載の全天球カメラ撮像画像表示システム。
  5. 前記複数の全天球カメラの間の距離を計測する計測手段と、
    を備えることを特徴とする請求項1又は2に記載の全天球カメラ撮像画像表示システム。
  6. 複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示システムが実行する全天球カメラ撮像画像表示方法であって、
    前記複数の全天球カメラが撮像した全天球画像データから一の被写体の画像データを抽出し、当該一の被写体の画像データの特徴量が一致するか否かに基づいて複数の全天球カメラの向きが平行であるか否かを判断するステップと、
    前記複数の全天球カメラの向きが平行でないと判断した場合に、前記複数の全天球カメラの向きを平行にするステップと、
    前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップと、
    を備えることを特徴とする全天球カメラ撮像画像表示方法。
  7. 複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示システムが実行する全天球カメラ撮像画像表示方法であって、
    前記複数の全天球カメラが撮像した全天球画像データから一の被写体の画像データを抽出し、当該一の被写体の画像データの特徴量が一致するか否かに基づいて複数の全天球カメラの向きが平行であるか否かを判断するステップと、
    前記複数の全天球カメラの向きが平行でないと判断した場合に、前記複数の全天球カメラの向きを平行にするステップと、
    前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップと、
    を備えることを特徴とする全天球カメラ撮像画像表示方法。
  8. 複数の全天球カメラが被写体を撮像した撮像画像を表示する全天球カメラ撮像画像表示システムに、
    前記複数の全天球カメラが撮像した全天球画像データから一の被写体の画像データを抽出し、当該一の被写体の画像データの特徴量が一致するか否かに基づいて複数の全天球カメラの向きが平行であるか否かを判断するステップと、
    前記複数の全天球カメラの向きが平行でないと判断した場合に、前記複数の全天球カメラの向きを平行にするステップと、
    前記撮像画像として表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップ、
    を実行させるためのコンピュータ読み取り可能なプログラム。
  9. 複数の全天球カメラが被写体を撮像した撮像画像から作成した当該被写体の3Dモデルを表示する全天球カメラ撮像画像表示システムに、
    前記複数の全天球カメラが撮像した全天球画像データから一の被写体の画像データを抽出し、当該一の被写体の画像データの特徴量が一致するか否かに基づいて複数の全天球カメラの向きが平行であるか否かを判断するステップと、
    前記複数の全天球カメラの向きが平行でないと判断した場合に、前記複数の全天球カメラの向きを平行にするステップと、
    前記3Dモデルとして表示された被写体に、前記全天球カメラから当該被写体までの距離を表示するステップ。
    を実行させるためのコンピュータ読み取り可能なプログラム。
JP2018517983A 2016-05-17 2016-05-17 全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラム Active JP6404525B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/064661 WO2017199352A1 (ja) 2016-05-17 2016-05-17 全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラム

Publications (2)

Publication Number Publication Date
JP6404525B2 true JP6404525B2 (ja) 2018-10-10
JPWO2017199352A1 JPWO2017199352A1 (ja) 2018-10-18

Family

ID=60325114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018517983A Active JP6404525B2 (ja) 2016-05-17 2016-05-17 全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラム

Country Status (3)

Country Link
US (1) US20180352158A1 (ja)
JP (1) JP6404525B2 (ja)
WO (1) WO2017199352A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11455074B2 (en) * 2020-04-17 2022-09-27 Occipital, Inc. System and user interface for viewing and interacting with three-dimensional scenes

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10115506A (ja) * 1996-10-11 1998-05-06 Fuji Heavy Ind Ltd ステレオカメラの調整装置
JP2007024647A (ja) * 2005-07-14 2007-02-01 Iwate Univ 距離算出装置、距離算出方法、構造解析装置及び構造解析方法。
JP2007263669A (ja) * 2006-03-28 2007-10-11 Denso It Laboratory Inc 3次元座標取得装置
JP2008304248A (ja) * 2007-06-06 2008-12-18 Konica Minolta Holdings Inc 車載用ステレオカメラの校正方法、車載用距離画像生成装置及びプログラム
JP2011192228A (ja) * 2010-03-17 2011-09-29 Casio Computer Co Ltd 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム
WO2011121841A1 (ja) * 2010-03-31 2011-10-06 富士フイルム株式会社 立体撮像装置
WO2014171052A1 (ja) * 2013-04-16 2014-10-23 コニカミノルタ株式会社 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP2014224410A (ja) * 2013-05-16 2014-12-04 住友建機株式会社 作業機械用周辺監視装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10115506A (ja) * 1996-10-11 1998-05-06 Fuji Heavy Ind Ltd ステレオカメラの調整装置
JP2007024647A (ja) * 2005-07-14 2007-02-01 Iwate Univ 距離算出装置、距離算出方法、構造解析装置及び構造解析方法。
JP2007263669A (ja) * 2006-03-28 2007-10-11 Denso It Laboratory Inc 3次元座標取得装置
JP2008304248A (ja) * 2007-06-06 2008-12-18 Konica Minolta Holdings Inc 車載用ステレオカメラの校正方法、車載用距離画像生成装置及びプログラム
JP2011192228A (ja) * 2010-03-17 2011-09-29 Casio Computer Co Ltd 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム
WO2011121841A1 (ja) * 2010-03-31 2011-10-06 富士フイルム株式会社 立体撮像装置
WO2014171052A1 (ja) * 2013-04-16 2014-10-23 コニカミノルタ株式会社 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP2014224410A (ja) * 2013-05-16 2014-12-04 住友建機株式会社 作業機械用周辺監視装置

Also Published As

Publication number Publication date
JPWO2017199352A1 (ja) 2018-10-18
WO2017199352A1 (ja) 2017-11-23
US20180352158A1 (en) 2018-12-06

Similar Documents

Publication Publication Date Title
EP3373236B1 (en) Image processing system, image generation apparatus, and image generation method
CN105659287B (zh) 图像处理装置、图像处理方法和成像系统
US8953036B2 (en) Information processing apparatus, information processing method, program, and information processing system
JP6627352B2 (ja) 画像表示装置、画像表示方法及びプログラム
US20110305368A1 (en) Storage medium having image recognition program stored therein, image recognition apparatus, image recognition system, and image recognition method
JP2012174116A (ja) オブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラム
CN107197137A (zh) 图像处理装置、图像处理方法以及记录介质
JP2017017689A (ja) 全天球動画の撮影システム、及びプログラム
WO2020255766A1 (ja) 情報処理装置、情報処理方法、プログラム、投映装置、および情報処理システム
JP6374849B2 (ja) ユーザ端末、色彩補正システム及び色彩補正方法
JPWO2018189880A1 (ja) 情報処理装置、情報処理システム、および画像処理方法
CN107560637B (zh) 头戴显示设备校准结果验证方法及头戴显示设备
JP5448739B2 (ja) 画像再生装置、撮像装置、画像再生方法
JP6246441B1 (ja) 画像解析システム、画像解析方法、およびプログラム
JP6267809B1 (ja) パノラマ画像合成解析システム、パノラマ画像合成解析方法及びプログラム
JP6404525B2 (ja) 全天球カメラ撮像画像表示システム、全天球カメラ撮像画像表示方法及びプログラム
JP6200604B1 (ja) 全天球カメラロボット高度調整システム、全天球カメラロボット高度調整方法及びプログラム
JP2013038454A (ja) 画像処理装置および方法、並びにプログラム
JP5805013B2 (ja) 撮像画像表示装置、撮像画像表示方法、プログラム
JP6650998B2 (ja) 鏡、画像表示方法及びプログラム
WO2018061175A1 (ja) 画面共有システム、画面共有方法及びプログラム
WO2020080101A1 (ja) 映像処理装置、映像処理方法、及び映像処理プログラム
JP2014222471A (ja) 表示装置、及びそのプログラム
CN117579933A (zh) 拍摄方法及电子设备
JP6079102B2 (ja) 被写体検出装置、被写体検出方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180623

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180623

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180623

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180912

R150 Certificate of patent or registration of utility model

Ref document number: 6404525

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250