JPWO2017104448A1 - 情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム - Google Patents
情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム Download PDFInfo
- Publication number
- JPWO2017104448A1 JPWO2017104448A1 JP2017521599A JP2017521599A JPWO2017104448A1 JP WO2017104448 A1 JPWO2017104448 A1 JP WO2017104448A1 JP 2017521599 A JP2017521599 A JP 2017521599A JP 2017521599 A JP2017521599 A JP 2017521599A JP WO2017104448 A1 JPWO2017104448 A1 JP WO2017104448A1
- Authority
- JP
- Japan
- Prior art keywords
- dimensional model
- image
- display image
- unit
- camera module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
様々な角度から見た対象物画像を容易に生成できる技術を提供する。情報処理装置は、対象物の3次元モデルと、対象物の周囲を含む撮像画像と、を受信する通信部と、受信した3次元モデルから対象物を表す対象物表示画像と、受信した撮像画像から場面表示画像と、を生成する画像生成部と、対象物表示画像と場面表示画像とを表示部に表示させる表示制御部と、対象物表示画像を操作する操作指示を受け付ける入力部と、を備え、画像生成部は、操作指示が対象物表示画像を回転させる回転指示である場合に、3次元モデルから回転指示に応じた対象物表示画像を生成する。
Description
本発明は、3次元モデルについての技術に関する。
従来、撮像側で撮像した画像を表示側で表示するテレビ会議において、撮像側の空間の3次元画像を生成し、3次元画像から表示側の参加者の視点位置に応じた2次元画像を表示装置に表示させる技術が知られている(例えば、特許文献1)。
従来の技術では、表示側の参加者の視点位置に応じて2次元画像を表示させるため、参加者が意図する任意の方向から見た2次元画像を表示できない場合があった。例えば、表示画面に表示された2次元画像の裏側を見たい場合であっても、視点位置に応じて2次元画像が生成されているため裏側を見ることができない場合がある。また、時系列に生成された3次元モデルから生成された2次元画像が動画像のように順次表示される場合、ある特定の時点における2次元画像を別の角度から見ることが困難となる場合があり、3次元モデルから2次元画像を表示する技術について柔軟性に欠ける場合があった。また、従来の技術では、撮像側において人物に加え人物が位置する空間全体の3次元モデルを生成しているため、高いデータ処理能力が要求される。
すなわち、従来の技術においては、よって、データ処理能力を低減しつつ利用者の意図する方向からの画像を容易に表示できなかった。また、低コスト化、省資源化、製造の容易化、使い勝手の向上等にも課題があった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現することが可能である。
(1)本発明の一形態によれば、情報処理装置が提供される。この情報処理装置は、対象物の3次元モデルと、前記対象物の周囲含む撮像画像と、を受信する通信部と、受信した前記3次元モデルから前記対象物を表す対象物表示画像と、受信した前記撮像画像から場面表示画像と、を生成する画像生成部と、前記対象物表示画像と前記場面表示画像とを表示部に表示させる表示制御部と、前記対象物表示画像を操作する操作指示を受け付ける入力部と、を備え、前記画像生成部は、前記操作指示が前記対象物表示画像を回転させる回転指示である場合に、前記3次元モデルから前記回転指示に応じた前記対象物表示画像を生成する。この形態によれば、対象物の3次元モデルと、対象物の周囲に位置する人物を含む撮像画像とを受信し、3次元モデルから回転指示に応じた対象物表示画像を生成すると共に撮像画像から人物を含む場面表示画像とを生成し、対象物表示画像と場面表示画像とを表示部に表示できる。なお、ここでいう回転指示とは、別の角度(視点)から見た対象物表示画像を表示すること、すなわち、対象物表示画像を回転した結果を示す画像を表示することを含む。これにより、3次元モデルを用いて別の角度(視点)から見た対象物表示画像を容易に生成できる。また、3次元モデルと撮像画像とを分けて受信しているため、データ処理能力をあげることなく、対象物について様々な角度から見た対象物表示画像を表示部に表示できると共に、人物を含む場面表示画像も表示部に表示できる。
(2)上記形態であって、前記画像生成部は、前記操作指示が前記対象物表示画像の大きさを変更する拡大縮小指示である場合に、前記3次元モデルから前記拡大縮小指示に応じた前記対象物表示画像を生成しても良い。この形態によれば、3次元モデルから拡大縮小指示に応じた対象物表示画像を容易に生成できる。
(3)本発明の他の一形態によれば、3次元モデル生成装置が提供される。この3次元モデル生成装置は、対象物までの距離を検出できる機能を有する、少なくとも2つのカメラモジュールと、前記カメラモジュールが撮像した撮像画像のうち前記対象物の画像である対象物画像と、前記カメラモジュールが検出した前記対象物までの距離を表す深度情報とに基づいて前記対象物の3次元モデルを生成する3次元モデル生成部と、前記3次元モデルを外部に送信する通信部と、を備える。この形態によれば、撮像画像に基づいて対象物の3次元モデルを容易に生成できる。
(4)上記形態であって、さらに、前記少なくとも2つのカメラモジュールのそれぞれに対応して設けられ、前記カメラモジュールを配置する支持部を有し、前記支持部は、前記カメラモジュールの高さ位置を変更する高さ変更機構を有しても良い。この形態によれば、高さ変更機構によってカメラモジュールの高さを容易に変更できる。これにより、対象物をカメラモジュールを用いて容易に撮像できる。
(5)上記形態であって、前記支持部は、前記カメラモジュールを回転させて前記カメラモジュールの光軸方向を変更する回転機構を有しても良い。この形態によれば、回転機構によってカメラモジュールの光軸方向を容易に変更できる。これにより、対象物をカメラモジュールを用いて容易に撮像できる。
(6)上記形態であって、さらに、前記対象物を配置するための配置部を有する基台を有し、前記支持部は、前記基台のうち前記配置部よりも外側の部分から立ち上がるように前記基台に配置されていても良い。この形態によれば、配置部に対象物を配置してカメラモジュールによって対象物を撮像することで、撮像した画像から容易に対象物の3次元モデルを生成できる。
(7)上記形態であって、さらに、キャリブレーションターゲットを用いて前記カメラモジュールの外部パラメーターを決定するパラメーター決定部を有していても良い。この形態によれば、カメラモジュールの外部パラメーターを容易に決定できる。
(8)上記形態であって、さらに、前記キャリブレーションターゲットを有していても良い。この形態によれば、キャリブレーションターゲットを新たに準備する必要がない。
(9)上記形態であって、さらに、前記対象物の周囲に位置する人物を含む領域を撮像する場面用カメラモジュールを有し、前記3次元モデル生成装置は、外部に送信するデータの種類が異なる第1と第2の送信モードを有し、前記第1の送信モードは、前記カメラモジュールによって所定の時点に撮像された前記対象物画像と前記所定の時点に検出された前記深度情報とに基づいて生成された前記3次元モデルと、前記場面用カメラモジュールによって前記所定の時点を含む時系列に撮像された複数の前記撮像画像と、を外部に送信するモードであり、前記第2の送信モードは、前記カメラモジュールによって時系列に撮像された複数の前記対象物画像と時系列の各時点において検出された前記深度情報とに基づいて生成された複数の前記3次元モデルと、前記場面用カメラモジュールによって時系列に撮像された複数の撮像画像とを外部に送信するモードであっても良い。この形態によれば、第1と第2の送信モードを有することで、送信するデータ内容に関する利用者の要求に柔軟に対応できる。
例えば、本発明の一形態において、通信部と、画像生成部と、表示制御部と、入力部との複数の要素の内の1つ以上の要素を備えた装置としても実現可能である。すなわち、この装置は、通信部を有していても良く、有していなくても良い。また、この装置は、画像生成部を有していても良く、有していなくても良い。また、この装置は、表示制御部を有していても良く、有していなくても良い。また、この装置は、入力部を有していても良く、有していなくても良い。また例えば、本発明の他の一形態において、カメラモジュールと、3次元モデル生成部と、通信部とのの複数の要素の内の1つ以上の要素を備えた装置としても実現可能である。すなわち、この装置は、カメラモジュールを有していても良く、有していなくても良い。また、この装置は、3次元モデル生成部を有していても良く、有していなくても良い。また、この装置は、通信部を有していても良く、有していなくても良い。このような各種形態によれば、装置の小型化、低コスト化、省資源化、製造の容易化、使い勝手の向上等の種々の課題の少なくとも1つを解決できる。また前述した情報処理装置の各形態の技術的特徴の一部又は全部は、いずれもこの装置又は方法に適用することが可能である。
なお、本発明は、種々の形態で実現することが可能であり、情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、これらの装置、方法を実現するためのコンピュータープログラム、そのコンピュータープログラムを記憶した記憶媒体等の形態で実現することができる。
A.実施形態:
A−1:画像送受信システムの構成:
図1は、本発明の実施形態としての画像送受信システム1000を説明するための図である。画像送受信システム1000は、インターネットINTを介して会議室など異なる場所30,60間で相手側の画像と音声を互いに送信するテレビ会議システムである。画像送受信システム1000は、互いに動画と音声を送受信してリアルタイムに会議を行うシステムである。画像は、例えば、30フレーム毎秒のフレームレートで相手側の場所に向けて送信されて表示部に表示されても良い。なお、送信されるフレーム画像は、1フレーム前のフレーム画像との差分のみを送信しても良い。ここで、場所30を送信側30とも呼び、場所60を受信側60とも呼ぶ。
A−1:画像送受信システムの構成:
図1は、本発明の実施形態としての画像送受信システム1000を説明するための図である。画像送受信システム1000は、インターネットINTを介して会議室など異なる場所30,60間で相手側の画像と音声を互いに送信するテレビ会議システムである。画像送受信システム1000は、互いに動画と音声を送受信してリアルタイムに会議を行うシステムである。画像は、例えば、30フレーム毎秒のフレームレートで相手側の場所に向けて送信されて表示部に表示されても良い。なお、送信されるフレーム画像は、1フレーム前のフレーム画像との差分のみを送信しても良い。ここで、場所30を送信側30とも呼び、場所60を受信側60とも呼ぶ。
送信側30では、3人の人物32A,32B,32Cが会議に出席している。3人の人物32A,32B,32Cは机33を囲んでいる。また、送信側30には、3次元モデル生成装置20と、表示装置34と、場面用カメラモジュールとしてのカメラモジュール10と、が配置されている。3次元モデル生成装置20とカメラモジュール10と表示装置34とは、情報処理システム100を構成する。
3次元モデル生成装置20は、対象物を含む領域の撮像画像に基づいて対象物の3次元モデルFMTを生成するための装置である。生成された3次元モデルFMTは第1外部情報DT1を構成するデータとして受信側60に送信される。本実施形態では、対象物の一例としてプリンター36を用いる。3次元モデル生成装置20は持ち運び可能である。本実施形態では、3次元モデル生成装置20は机33上に配置されている。ここで、人物32A,32B,32Cを区別することなく用いる場合は符号「32」を用いる。3次元モデル生成装置20の詳細は後述する。
表示装置34は、表示部39と、スピーカー35とを備える。表示装置34は、例えば、送信側30の壁に配置されている。表示部39は、受信側60から送信された受信側60の画像を表示部39に表示する。また、スピーカー35は、受信側60から送信された受信側60の音声を出力する。
カメラモジュール10は、カメラ12とマイクロフォン14とを備える。カメラ12は、外部から光を受光して撮像する機能を有する。撮像された撮像画像IMGWは動画を構成するフレーム画像として受信側60の情報処理装置50に送信される。カメラ12は、送信側30のプリンター36の周囲に位置する人物32と、3次元モデル生成装置20と、を含む全体領域を撮像できるように配置されている。マイクロフォン14は、音声を電気信号に変換する。電気信号としての音声情報SDは撮像画像IMGWに同期して受信側60に送信される。詳細には、撮像画像IMGWと音声情報SDとは第2外部情報DT2を構成するデータとして、3次元モデル生成装置20の制御装置40に送信され、制御装置40を経由して受信側60に送信される。なお、撮像画像IMGWと音声情報SDとは制御装置40を経由することなくカメラモジュール10から受信側60に送信されても良い。ここで、第1外部情報DT1と第2外部情報DT2とを併せて外部情報DTと呼ぶ。
受信側60では、一人の人物53が会議に出席している。受信側60には、情報処理装置50が配置されている。情報処理装置50は、パーソナルコンピューター(PC)である。人物53は情報処理装置50の表示部51を見て会議を行っている。情報処理装置50の表示部51には、第1外部情報DT1が有する3次元モデルFMTから生成された対象物を表す対象物表示画像と、第2外部情報DT2の撮像画像IMGWとが表示される。また、情報処理装置50のスピーカー(図示せず)から、送信側30から受信した音声情報SDが音声として出力される。また情報処理装置50は、カメラモジュール58を有する。カメラモジュール58は、受信側60の人物53を含む領域を撮像するカメラと、音声を電気信号に変換するマイクロフォンを有する。電気信号としての音声情報SDPは、カメラモジュール58で取得された撮像画像(フレーム画像)IMGVに同期して送信側30に送信される。ここで、情報処理装置50はPCを例に説明したが、これに限定されるものではない。例えば、情報処理装置50と表示部51とが別体であっても良い。具体的には、情報処理装置50としてPCを用い、表示部51としてプロジェクターを用いても良い。プロジェクターは表示装置として機能し、投写画面が表示部51として機能する。また、プロジェクターは、投写画面上にペンなどの指示体による指示内容(例えば、文字入力)を表示できるインタラクティブプロジェクターであっても良い。
図2は、3次元モデル生成装置20の外観模式図である。3次元モデル生成装置20は、第1〜第4支持部24A,24B,24C,24Dと、第1〜第4カメラモジュール28A,28B,28C,28Dと、対象物を配置するための基台29と、基台29に配置された制御装置40と、を備える。ここで、第1〜第4支持部24A,24B,24C,24Dを区別することなく用いる場合は、「支持部24」を用いる。また、第1〜第4カメラモジュール28A,28B,28C,28Dを区別することなく用いる場合は、「カメラモジュール28」を用いる。
基台29は、平板状の部材であり、略直方体形状である。基台29の4隅には、第1〜第4支持部24A,24B,24C,24Dが取り付けられている。基台29のうち第1〜第4支持部24A,24B,24C,24Dで取り囲まれた中央領域は、プリンター36等の対象物を配置するための配置部292を形成する。すなわち、基台29はプリンター36等の対象物を配置するための配置部292を有し、支持部24は基台29のうち配置部292よりも外側の部分から立ち上がるように基台29に配置されている。
支持部24は、基台29から鉛直上方向に延びる棒状部材である。支持部24は、カメラモジュール28A〜28Dのそれぞれに対応して設けられ、カメラモジュール28を配置する。支持部24は、基台29に接続された本体部262と、本体部262に対して上下方向にスライド可能な移動部261とを備える。移動部261にはカメラモジュール28が配置されている。本体部262には、上下方向に沿って複数の貫通孔262Hが形成されている。この貫通孔262Hのいずれかに、移動部261の外周に形成された突起261Pを挿通させることで、移動部261の位置が固定される。すなわち、移動部261の突起261Pが挿通される複数の貫通孔262Hのいずれかを選択すること、カメラモジュール28の高さ位置を変更できる。この突起261Pと複数の貫通孔262Hとは、高さ変更機構を構成する。なお、高さ変更機構は上記に限定されるものではなく、例えばガス圧などの圧力によって移動部261の高さ位置を変更できる機構であっても良い。高さ変更機構によって変更されたカメラモジュール28の基台29からの高さ位置は、制御装置40によって計測されて記憶される。なお、基台29は省略しても良い。基台29を省略した場合、支持部24は配置面(例えば、机29)に配置できるよう下側端部が平板状であっても良い。
また、移動部261は、カメラモジュール28を回転させてカメラモジュール28の光軸方向LDを変更する回転機構242を有する。回転機構242は、例えば、3軸ジンバル構造によって実現される。なお、回転機構242は上記に限定されるものではなく、例えば移動部261の途中が自由な角度に折れ曲がる機構を設けることで実現しても良い。
カメラモジュール28は、配置部に配置された対象物を含む領域を撮像する機能を有する。また、カメラモジュール28は、対象物までの距離を検出できる機能を有する。この詳細は後述する。
制御装置40は、基台29に埋設されている。制御装置40は、3次元モデル生成装置20の動作を制御する。制御装置40の配置位置はこれに限定されるものではない。例えば、制御装置40は、基台29上に配置されていても良いし、基台29とは離れた箇所に配置されていても良い。
図3は、送信側30に配置された情報処理システム100の機能を示すブロック図である。情報処理システム100は、対象物であるプリンター36を含む領域を撮像するためのカメラモジュール28と、送信側30の出席者である人物32を含む領域、すなわち、全体領域を撮像するカメラモジュール10と、制御装置40と、表示装置34とを備える。
カメラモジュール28は、カメラ282と、深度センサー284とを有する。カメラ282は、カメラ12と同様に、外部から光を受光して撮像する機能を有する。深度センサー284は、カメラ12によって撮像される対象物までの距離を検出する。深度センサー284を用いた距離の検出方式としては、例えば、光源からの射出した光が対象物によって反射して受光部によって受光される時間に基づいて距離を検出する方式(TOF方法)や、光の射出位置と受光位置とに基づいた三角測距方式が用いられる。深度センサー284によって検出された対象物までの距離を表す深度情報DDXは、カメラ282の撮像画像IMGXに付加情報として付加されて、制御装置40に送信される。
制御装置40は、通信部42と、ROM44と、RAM45と、制御部としてのCPU46と、入力部48と、を備える。通信部42と、ROM44と、RAM45と、CPU46と、入力部48とは互いにバスを介して接続されている。
通信部42は、USB、LAN、Blluetooth,IrDA等の規格に準拠した入出力インターフェイスを備え、データを送受信する。例えば、通信部42は、カメラモジュール10から撮像画像IMGWなどのデータを受信したり、受信側60の情報処理装置50へ外部情報DT1,DT2を送信したりする。
RAM45は、モードテーブル452と変換テーブル454とを記憶する。モードテーブル452は、情報処理装置50に向けて送信する外部情報DT1,DT2の種類と、動作モードとを対応付けたテーブルである。変換テーブル454には、各カメラモジュール28A,28B,28C,28Dのそれぞれに固有の座標系(カメラ座標系)をワールド座標系に変換するための変換行列式が規定されている。変換テーブル454には、カメラモジュール28が基準状態の場合に用いられる変換行列式(基準変換行列式)が予め規定されている。基準状態とは、カメラモジュール28の高さ位置が予め定められた基準の位置であり、かつ、光軸方向LDが予め定められた基準の方向である状態である。また、変換テーブル454には、カメラモジュール28の高さ位置と光軸方向LDが基準状態から変更された場合に、後述するパラメーター決定部469がカメラキャリブレーションを行うことで導出した新たな変換行列式がデータとして書き加えられる。
入力部48は、外部からの入力を受け付ける。例えば、入力部48は、3次元モデル生成装置20のモードを設定する際の利用者からの入力を受け付ける。入力部48は、例えば、マウスやキーボードや音声を用いた入力を受け付ける。
CPU46は、ROM44に記憶された各種プログラムをRAM45にロードして実行することで、モジュール制御部462と、抽出部464と、3次元モデル生成部465と、モード設定部466と、外部情報生成部467と、表示制御部468と、パラメーター決定部469として機能する。なお、各機能は各種プログラムに基づく動作によって実現されるが、各種プログラムの少なくとも一部は、回路などのハード的な構成によって実現しても良い。
モジュール制御部462は、カメラモジュール10,28を制御する。モジュール制御部462は、通信部42を介してカメラモジュール10,28からデータを取得してRAM45に記憶させる。
抽出部464は、撮像画像IMGXから対象物を表す対象物画像と、対象物以外の背景を表す背景画像とを抽出する。例えば、抽出部464は、撮像画像IMGXから対象物であるプリンター36のエッジ(特徴部)を検出することでプリンター36を表す対象物画像を抽出する。また例えば、抽出部664は、撮像画像IMGXのうち対象物以外の画像を背景画像として抽出する。対象物画像と背景画像とは、RAM65に記憶される。
3次元モデル生成部465は、4つのカメラモジュール28A,28B,28C,28Dが撮像した画像に基づいて、対象物であるプリンター36の3次元モデルFMTを生成する。すなわち、3次元モデル生成部465は、計測点が異なる4つのカメラモジュール28A,28B,28C,28Dから取得した深度情報DDXと、撮像画像IMGX(詳細には、抽出部464が抽出したプリンター36の画像)とに基づいて3次元モデルFMTを生成する。具体的には、3次元モデルFMTは、4つのカメラモジュール28A,28B,28C,28Dのそれぞれから取得した撮像画像IMGXを深度情報DDXに基づいてつなぎ合わせる(Traiangulation)。そして、4方向からのデータを合成し、合成した画像にRGBの表面情報を付加する(テクスチャーマッピング)。この3次元モデルFMTの生成工程については後述する。
モード設定部466は、モードテーブル452を参照して制御装置40のモードを設定する。モード設定部466とモードテーブル452との詳細は後述する。
外部情報生成部467は、モード設定部466によって設定されたモードに応じてカメラモジュール10,28から取得したデータIMGW,SD,DDX,IMGXに基づいて外部情報DTを生成する。
表示制御部468は、表示装置34を制御する。具体的には、受信側60の情報処理装置50から受信した音声情報SDPと撮像画像IMGVとを同期させて、音声情報SDPをスピーカー35(図1)によって出力させると共に撮像画像IMGVを表示部39(図1)に表示させる。
パラメーター決定部469は、キャリブレーションターゲットを用いてカメラモジュール28の外部パラメーターを決定する。パラメーター決定部469は、カメラモジュール28の高さ位置と光軸方向LDが基準状態から変更された場合に、カメラキャリブレーションによってカメラ282の新たに用いる外部パラメーターを決定する。また、パラメーター決定部469は、決定した外部パラメーターとRAM45に記憶されたカメラ282の内部パラメーターとを用いてカメラ座標系をワールド座標系に変換するための変換行列式を導出する。なお、カメラモジュール28が基準状態から状態を変更できない構成である場合は、予め定められた基準変換行列式を用いてカメラ座標系からワールド座標系への座標変換ができるので、パラメーター決定部469の機能は省略しても良い。
カメラキャリブレーションの方法は、種々の公知の手法を採用できる。例えば、各カメラモジュール28A,28B,28C,28Dによって撮像された撮像画像IMGXから空間点の座標を判別できるキャリブレーションターゲットを用いて外部パラメーターを決定する方法である。キャリブレーションターゲットとしては、例えば、表面に格子模様が形成された複数の平板部材からなる3次元状のキャリブレーションターゲットや、表面に格子模様が形成された平板状のキャリブレーショターゲットや、立方体の部材の表面に縦方向及び横方向に一定間隔を開けて配置された複数の近赤外線LEDを配置したキャリブレーションターゲットが用いられる。
また、PLC(Point Cloud library)と呼ばれるOSS(Open Source software)が有するRegistrationと呼ばれるモジュールを用いて、複数の深度情報DDXが付加された撮像画像IMGXが表すそれぞれの3次元空間の位置合わせを行う方法もある。すなわち、Registrationと呼ばれるモジュールを用いて、カメラ座標系をワールド座標系に変換するための変換行列式を導出しても良い。
また、ワイヤーフレームの正6面体の各頂点およびその中央の色つきマーカーを配置したものを用いて、4つのカメラモジュール28A,28B,28C,28Dで正6面体の頂点を計測して、変換行列式を決定しても良い。
図4は、カメラキャリブレーションに用いるキャリブレーション治具80を説明するための図である。以下では、カメラモジュール28の深度センサー284は、近赤外線を検出できる構成を有することを前提として説明する。
キャリブレーション治具80は、直方体形状の本体部84と、本体部84の上面84faに配置されたキャリブレーションターゲットとしての複数の近赤外線LED86と、本体部84内に配置された制御部82とを備える。近赤外線LED86は、縦5個、横5個の合計25個設けられている。
制御部82は、複数の近赤外線LED86の発光状態を制御する。また、制御部82は、Bluetooh等の無線通信手段や有線ケーブルを用いた有線通信手段を備え、3次元モデル生成装置20の制御装置40から受信したコマンドに応じて、制御部82は複数の近赤外線LED86の発光状態を制御する。
カメラキャリブレーションを実行する際には、まず、上面84faが上側に位置するようにキャリブレーション治具80を基台29(詳細には配置部292)に設置する。そして、キャリブレーション治具80の制御部82と3次元モデル生成装置20の制御装置40とをデータ通信可能な状態に設定する。次に、制御装置40からのコマンドに応じて25個の近赤外線LED86を順番に発光させて、発光する各近赤外線LED86を4つのカメラモジュール28A,28B,28C,28Dで順番に撮像する。これにより、各近赤外線LED86の各カメラモジュール28A,28B,28C,28Dのカメラ座標系における位置が制御装置40のRAM45に記憶される。
ここで、ワールド座標系とカメラ座標系の関係は次式となる。
ここで、(Xw,Yw,Zw)はワールド座標系で表された空間の位置であり、(Xc,Yc,Zc)は同じ点をカメラ座標系で表した位置である。また、Rは3×3の回転行列であり、tは3次元の平行移動ベクトルである。この回転行列Rと平行移動ベクトルtはそれぞれ以下の式(2)によって表すことができる。
外部パラメーターは、上記のα、β、γ、tx、ty、tzの6個のパラメーターであり、この6個のパラメーターをパラメーター決定部469によって決定すれば良い。
従って、カメラ座標と画像平面上の座標との関係式は以下の式(5),式(6)によって表される。
ここで、kx=−1/Sx,ky=−1/syであり、sx,syは画素サイズであり、焦点fと主点のズレ(cx,cy)は内部パラメーターである。カメラの焦点距離や画像中心などの内部パラメーターは、カメラモジュール28A,28B,28C,28Dごとに予め導出されてRAM45に記憶されている。
上記の式(8)を用いて、ワールド座標系における各近赤外線LED86の位置と、各近赤外線LED86の各カメラモジュール28A,28B,28C,28Dのカメラ座標系における位置が特定されると、透視変換行列Pを求めることができる。実際には、最小二乗法を利用して透視変換行列Pを求めて、カメラ282の外部パラメーターを導出する。
図5は、モードテーブル452を説明するための図である。モードテーブル452は、各モードを識別するためのモード番号と、利用者にモード内容を識別させるためのモード名称と、各モードの内容を対応付けたテーブルである。モード番号とモード名称とは、表示部39(図1)に表示され人物32によってモード番号が選択されることで制御装置40が実行するモードが決定される。
モード番号1は、最小データモードである。最小データモードが設定された場合、制御装置40は、全体領域の2次元動画を受信側60の情報処理装置50に送信にする。つまり、最小データモードでは、制御装置40は、カメラモジュール10から取得した全体領域の撮像画像IMGWを外部情報DTとして所定のフレームレートで受信側60の情報処理装置50に送信する。なお、カメラモジュール10から取得した音声情報SDは送信される撮像画像IMGWに付加されている。最小データモードでは、外部情報生成部467は、音声情報SDが付加された撮像画像IMGWを第2外部情報DT2として生成して、通信部42を介して第2外部情報DT2を情報処理装置50に送信する。なお、最小データモードでは、制御装置40は、カメラモジュール28からカメラ深度情報DDXや撮像画像IMGXの取得は不要である。つまり、外部情報DTは、第2外部情報DT2を含み、第1外部情報DT1を含まない。
モード番号2は、第1対象物送信モードである。第1対象物送信モードが設定された場合、制御装置40は、全体領域の2次元動画像と対象物の2次元静止画像とを受信側60の情報処理装置50に送信する。つまり、第1対象物送信モードでは、外部情報生成部467は、カメラモジュール10から取得した全体領域の撮像画像IMGWを第2外部情報DT2として生成する。この第2外部情報DT2は、所定のフレームレートで受信側60の情報処理装置50に送信される。また、第1対象物送信モードでは、外部情報生成部467は、カメラモジュール28から取得したプリンター36を含む撮像画像IMGXを元にプリンター36を含む画像を第1外部情報DT1として生成する。この第1外部情報DT1は、1フレーム分のデータが受信側60の情報処理装置50に送信される。この1フレームのプリンター36を含む画像は、時系列に撮像された複数フレームの撮像画像IMGXの中から人物32が入力部48を介して選択した選択情報に基づいたり、所定のタイミングで撮像された撮像画像IMGXを元に外部情報生成部467が生成する。また、外部情報生成部467は、第1外部情報DT1としてのプリンター36を含む画像を4つのカメラ282によって撮像された4つの撮像画像IMGXを合成して生成しても良い。また、外部情報生成部467は、4つの撮像画像IMGXのいずれか1つの撮像画像IMGXを第1外部情報DT1としてのプリンター36を含む画像として生成しても良い。
モード番号3は、第2対象物送信モードである。第2対象物送信モードが設定された場合、制御装置40は、全体領域の2次元動画像と対象物の2次元動画像とを受信側60の情報処理装置50に送信する。つまり、第2対象物送信モードでは、外部情報生成部467は、カメラモジュール10から取得した全体領域の撮像画像IMGWを第2外部情報DT2として生成し、カメラモジュール28から取得した撮像画像IMGXを用いて生成したプリンター36を含む画像を第1外部情報DTとして生成する。この第1外部情報DT1と第2外部情報DT2とは外部情報生成部467によって同期されて所定のフレームレートで受信側60の情報処理装置50に送信される。
モード番号4は、第3対象物送信モードである。第3対象物送信モードが設定された場合、制御装置40は、全体領域の2次元動画像と対象物の3次元静止画像とを受信側60の情報処理装置50に送信する。つまり、第3対象物送信モードでは、外部情報生成部467は、第1対象物送信モードと同様に、撮像画像IMGWを第2外部情報DT2として生成し、生成した第2外部情報DT2を所定のフレームレートで通信部42を介して受信側60の情報処理装置50に送信する。また、第3対象物送信モードでは、外部情報生成部467は、3次元モデル生成部465が生成したプリンター36の3次元モデルFMTを第1外部情報DT1として生成する。1フレーム分の第1外部情報DT1が、情報処理装置50に送信される。外部情報生成部467は、1フレーム分の3次元モデルFMTを、時系列に撮像された複数フレームの撮像画像IMGXに基づいて生成された複数の3次元モデルFMTの中から人物32が入力部48を介して選択した選択情報に基づいて生成しても良い。また、外部情報生成部467は、所定のタイミングで撮像された撮像画像IMGXに基づいて生成された3次元モデルFMTを1フレーム分の3次元モデルFMTとしても良い。
モード番号5は、第4対象物送信モードである。第4対象物送信モードが設定された場合、制御装置40は、全体領域の2次元動画像と対象物の3次元動画像とを受信側60の情報処理装置50に送信する。つまり、第4対象物送信モードでは、外部情報生成部467は、カメラモジュール10から取得した全体領域の撮像画像IMGWを第2外部情報DT2として生成する。また、第4対象物送信モードでは、3次元モデル生成部465が生成した3次元モデルFMTを第1外部情報DT1として生成する。この第1外部情報DT1と第2外部情報DT2とは外部情報生成部467によって同期されて所定のフレームレートで受信側60の情報処理装置50に送信される。
ここで、第3対象物送信モードが課題を解決するための手段に記載の「第1の送信モード」に相当し、第4対象物送信モードが課題を解決するための手段に記載の「第2の送信モード」に相当する。
図6は、3次元モデルFMTの生成工程のフロー図である。はじめにCPU46は、4つのカメラモジュール28A,28B,28C,28Dの位置と方向(姿勢)をワールド座標系で特定する(ステップS10)。3次元モデル生成部465が変換テーブル454(図3)を参照することで変換行列式を特定することで実行される。ステップS10は、カメラモジュール28が基準状態にある場合は、RAM454の変換テーブル454に記憶された基準変換行列式を用いる。ここでワールド座標系とは、4つのカメラモジュール28A,28B,28C,28Dの個々の座標系(カメラ座標系)から独立している3軸直交座標系である。なお、受信側60の情報処理装置50において実行される、ワールド座標系から対象物を任意の視点から見るための座標系(視点座標系)への変換は、視野変換によって行われる。また、視点座標系から表示部51に表示するためのスクリーン座標系への変換は、視点座標系に置かれた対象物に対して透視変換等の射影変換によって行われる。
カメラモジュール28が基準状態から変更された場合は、上記のカメラキャリブレーションによって変換行列式を導出する。すなわち、4つのカメラモジュール28A,28B,28C,28Dのそれぞれの位置関係と方向が正確に分かると、適当な原点を定めることにより4つのカメラモジュール28A,28B,28C,28Dの位置と方向をワールド座標系で定めることができる。実際には、カメラキャリブレーションを実施することにより定めることができる。例えば、カメラキャリブレーションのための既知のターゲットの周りの予め決められたおよそ位置に予め決められたおよその姿勢で4つのカメラモジュール28A,28B,28C,28Dを設置した後に、4つの深度センサー284のそれぞれが生成する深度情報DDXに基づいて導出される既知のターゲットの形状の一部が既知のターゲットの同一領域を表していることを前提として4つのカメラモジュール28A,28B,28C,28Dの位置と方向、すなわち撮像位置と撮像方向と深度の計測位置と深度の計測方向を導出する。具体的には、4つのカメラモジュール28A,28B,28C,28Dが生成する深度情報DDXに基づいて、実際のカメラモジュール28A,28B,28C,28Dの位置と方向を、例えばICP(iterative closest point)等のパターンマッチングの手法を用いてワールド座標系で数学的に特定しておけば良い。各4つのカメラモジュール28A,28B,28C,28Dの位置を示す座標と方向を示す単位ベクトルがワールド座標系で特定されると、各カメラモジュール28A,28B,28C,28Dに固有の座標系(カメラ座標系)をワールド座標系に変換するための変換行列式を導出可能になる。この変換行列式を変換テーブル454に記憶しておき、後述する3次元モデルFMTを生成する際に使用する。
CPU46は、モード設定部466によってモード番号4とモード番号5のいずれかのモードが設定された場合に、モジュール制御部462がカメラモジュール28A,28B,28C,28Dから深度情報DDXと撮像画像IMGXとを取得する(ステップS12)。
次に、抽出部464は撮像画像IMGXから対象物画像と背景画像とを抽出する(ステップS14)。次に、3次元モデル生成部465は、4つのカメラモジュール28A,28B,28C,28Dから取得した4つの深度情報DDXに基づいて3次元モデルFMTを生成する(ステップS16)。具体的には、3次元モデル生成部465は、カメラモジュール28A,28B,28C,28Dから取得した深度情報DDX毎に対象であるプリンター36のポリゴンモデルを上述した変換行列式を用いてワールド座標系で特定する。また3次元モデル生成部465は、特定したポリゴンモデルの各ポリゴンと撮像画像IMGXとしてのRGB画像との対応付けをカメラモジュール28A,28B,28C,28D毎に生成する。すなわち、ポリゴンモデルの各ポリゴンの表面に、RGBの情報(色情報)をテクスチャとして貼り付けて3次元モデルFMTを生成する。以上のように、3次元モデル生成部465は、4つのカメラモジュール28A,28B,28C,28Dがそれぞれ撮像した撮像画像のうち対象物の画像である対象物画像と、4つのカメラモジュール28A,28B,28C,28Dが有するそれぞれの深度センサー284が検出した深度情報DDXとに基づいて3次元モデルFMTを生成する。
図7は、受信側60の構成を説明するための図である。受信側60の情報処理装置50は、キーボード59Aやマウス59Bなどの入力装置59と、表示画面である表示部51とを備える。表示部51には、表示画像IMDが表示されている。表示画像IMDは、対象物用画面521と全体用画面522とが重畳した画像である。対象物用画面521は、全体用画面522の前面に重ねて配置されている。図7は、第3対象物送信モード(図5)で送信された外部情報DTを用いて生成された表示画像IMDであり、全体用画面522には動画像が表示され、対象物用画面521には3次元モデルFMTから生成されたプリンター36の静止画像が表示されている。
全体用画面522は、第2外部情報DT2の撮像画像IMGWに基づいて情報処理装置50が生成した場面表示画像30Iを表示する。本実施形態では、場面表示画像30Iは撮像画像IMGWとなる。すなわち、場面表示画像30Iは、送信側30の人物32を含む全体領域を表す画像である。なお、画像生成部565は、撮像画像IMGWの一部(例えば、人物32A,32B,32Cが位置する領域)を切り出して場面表示画像30Iを生成しても良い。図7に示す場面表示画像30Iは、送信側30の人物32A,32B,32Cを表す人物画像32AI,32BI,32CIや背景物である机33を表す画像33Iを含む。
対象物用画面521は、第1外部情報DT1に基づいて情報処理装置50が生成した対象物表示画像36DIを表示するための画面である。本実施形態では、対象物表示画像36DIはプリンター36を表す画像である。対象物用画面521は、対象物用画面521を表示するための表示部51に表示されたアイコン(図示せず)をマウス59Bなどの入力装置59によって選択することによって表示部51に表示される。対象物用画面521の表示部51に対する大きさや位置は入力装置59からの指示によって変更できる。例えば、対象物用画面521は、全画面表示できる。
対象物用画面521には、対象物を画面上で操作するための回転受付アイコンS1,S2及び拡大縮小受付アイコンS3が表示されている。回転受付アイコンS1,S2は、対象物表示画像36DIを回転させる回転指示を受け付ける。拡大縮小受付アイコンS3は、対象物表示画像36DIの大きさを変更する拡大縮小指示を受け付ける。なお、以降の説明のために対象物用画面521には、スクリーン座標系の座標軸U,Vを図示している。
回転受付アイコンS1は、対象物用画面521上において座標軸Vを中心とした回転指示を受け付ける。回転受付アイコンS1は、回転操作バーB1と、回転操作ボタンBS1,BS2とを有する。回転操作バーB1を上下方向に移動させると座標軸Vを中心に対象物表示画像36DIが回転する。また、回転操作ボタンBS1,BS2をクリックすることによっても座標軸Vを中心に対象物表示画像36DIが回転する。
回転受付アイコンS2は、対象物用画面521上において座標軸Uを中心とした回転指示を受け付ける。回転受付アイコンS2は、回転操作バーB2と、回転操作ボタンBT1,BTとを有する。回転操作バーB2を左右方向に移動させると座標軸Uを中心に対象物表示画像36DIが回転する。また、回転操作ボタンBT1,BT2をクリックすることによっても座標軸Vを中心に対象物表示画像36DIが回転する。
拡大縮小受付アイコンS3は、対象物用画面521上において対象物表示画像36DIの拡大縮小指示を受け付ける。拡大縮小受付アイコンS3は、拡大アイコンBP1と縮小アイコンBP2とを有する。拡大アイコンBP1をクリックすることによって対象物表示画像36DIが拡大される。縮小アイコンBP2をクリックすることによって対象物表示画像36DIが縮小される。
なお、対象物表示画像36DIの回転指示や拡大縮小指示などの操作指示の受付方法は上記に限定されるものではない。例えば、回転指示や拡大縮小指示などの操作指示は、音声認識や人物53のジェスチャーを認識することによって受け付けてられても良いし、タッチパネルを採用して人物53の対象物用画面521への直接の操作によって受け付けられても良い。また、回転指示や拡大縮小指示などの操作指示は、表示部51がインタラクティブプロジェクターの投写画面である場合、投写画面に接触しているペンや指などの指示体による操作によって受け付けられても良い。
図8は、受信側60に配置された情報処理装置50の機能を示すブロック図である。情報処理装置50は、カメラモジュール58と、入力装置59と、表示部51と、制御装置500とを備える。なお、カメラモジュール58、入力装置59、表示部51と、制御装置500とは別体であっても良い。この場合、制御装置500が課題を解決するための手段に記載の「情報処理装置」に相当する。
カメラモジュール58は、カメラ582とマイクロフォン584とを有する。カメラ282は、外部から光を受光して撮像する機能を有する。マイクロフォン584は、音声を電気信号に変換する。電気信号としての音声情報SDPは撮像画像IMGVに同期して通信部52を介して送信側30に送信される。入力装置59は、上述のごとく、キーボード59Aやマウス59Bである。
制御装置500は、通信部52と、ROM54と、RAM55と、制御部としてのCPU56と、入力部57と、を備える。通信部52と、ROM54と、RAM55と、CPU56と、入力部57とは互いにバスを介して接続されている。
通信部52は、USB、LAN、Blluetooth,IrDA等の規格に準拠した入出力インターフェイスを備え、データを送受信する。例えば、通信部52は、制御装置40から対象物の3次元モデルFMTを含む第1外部情報DT1や撮像画像IMGWを含む第2外部情報DT2を受信したり、音声情報SDPや撮像画像IMGVなどのデータを送信側30の制御装置40へ送信したりする。
RAM55は、変換テーブル554を記憶する。変換テーブル554は、入力部57を介して入力装置59から受け付けた回転指示や拡大縮小指示などの操作指示に応じて、ワールド座標系に置かれた3次元モデルFMTをスクリーン座標系の座標に変換する変換行列式を導出するためのテーブルである。詳細には、変換テーブル554は、回転受付アイコンS1,S2や拡大縮小受付アイコンS3を用いた操作指示内容と、ワールド座標系からスクリーン座標系への変換行列式とを対応付けたテーブルである。
入力部57は、対象物表示画像36DIを回転させる回転指示や対象物表示画像36DIの大きさを変更する拡大縮小指示などの操作指示を受け付ける。後述する画像生成部565は、受け付けた操作指示内容と変換テーブル554とを参照することで変換行列式を導出する。
CPU56は、ROM54に記憶された各種プログラムをRAM55にロードして実行することで、モジュール制御部562と、画像生成部565と、表示制御部568として機能する。なお、各機能は各種プログラムに基づく動作によって実現されるが、各種プログラムの少なくとも一部は、回路などのハード的な構成によって実現しても良い。
モジュール制御部562は、カメラモジュール58を制御する。モジュール制御部462は、カメラモジュール58からデータを取得してRAM55に記憶させる。
画像生成部565は、受信した外部情報DTから対象物表示画像36DIを含む表示画像IMDを生成する。例えば、画像生成部565は、受信した3次元モデルFMTから対象物表示画像36DIを生成する。また、画像生成部565は、入力部57が受け付けた回転指示や拡大縮小指示などの操作指示と、変換テーブル554とを参照することで変換行列式を導出する。そして、画像生成部565は、導出した変換行列式を用いて3次元モデルFMTから操作指示に応じた対象物表示画像36DIを生成する。すなわち、画像生成部565は、導出した変換行列式を用いてワールド座標系に配置された3次元モデルFMTの座標を視点座標系に変換し、視点座標系に変換された3次元モデルFMTの座標をスクリーン座標系に変換する。また例えば、画像生成部565は、第2外部情報DT2から場面表示画像30Iを生成する。
表示制御部568は、画像生成部565で生成した表示画像IMDを表示部51に表示させる。
図9は、3次元モデルFMTから対象物画像を生成する処理フローである。まず、入力部57が操作指示を受け付ける(ステップS20)。この操作指示は、上述の回転指示や拡大縮小指示である。次に、画像生成部565は、操作指示に応じて3次元モデルFMTから対象物画像を生成する(ステップS22)。例えば、画像生成部565は、操作指示が対象物画像を回転させる回転指示である場合に、変換テーブル554を参照して3次元モデルFMTから回転指示に応じた対象物画像を生成する。また例えば、画像生成部565は、操作指示が対象物画像の大きさを変更する拡大縮小指示である場合に、変換テーブル554を参照して3次元モデルFMTから拡大縮小指示に応じた対象物画像を生成する。
上記実施形態によれば、対象物の3次元モデルFMTと、対象物の周囲に位置する人物32を含む撮像画像IMGWとを受信し、3次元モデルFMTから回転指示に応じた対象物表示画像36DIを生成すると共に撮像画像IMGWから人物32を含む場面表示画像30Iとを生成し、対象物表示画像36DIと場面表示画像30Iとを表示部51に表示できる。これにより、別の角度(視点)から見た対象物表示画像36DIを3次元モデルFMTを用いて容易に生成できる。また、情報処理装置50は3次元モデルFMTと撮像画像IMGWとを分けて受信しているため、画像送受信システム1000のデータ処理能力をあげることなく、対象物について様々な角度から見た対象物表示画像36DIを表示部51に表示できると共に、人物53を含む場面表示画像30Iも表示部51に表示できる。また、上記実施形態によれば、3次元モデルFMTを用いて拡大縮小指示に応じた対象物表示画像36DIを容易に生成できる。
また上記実施形態によれば、3次元モデル生成装置20の配置部292に対象物を配置してカメラモジュール28によって撮像することで撮像画像から3次元モデルFMTを容易に生成できる。また、上記実施形態によれば、3次元モデル生成装置20は、突起261Pと複数の貫通孔262Hなどの高さ変更機構によってカメラモジュールの高さを容易に変更できる。また、3次元モデル生成装置20は、回転機構242によってカメラモジュール28の光軸方向LDを容易に変更できる。すなわち、3次元モデルFMTの元となる対象物の大きさや形状によって、対象物を撮影するための適切な位置にカメラモジュール28を容易に設定できる。
また上記実施形態によれば、3次元モデル生成装置20はキャリブレーションターゲットを用いてカメラモジュール28の外部パラメーターを決定するためのパラメーター決定部469を有する。これにより、カメラモジュール28の高さ位置や光軸方向LDが変更になった場合でも、変更後のカメラモジュール28の外部パラメーターを容易に決定できる。
また、3次元モデル生成装置20は、外部に送信するデータの種類が異なるモードを定めたモードテーブル452を有する(図5)。これにより、送信するデータ内容に関する利用者の要求に柔軟に対応できる。ここで、3次元モデルFMTを所定のフレームレートで受信側60に送信する場合、常に大きいデータ量を高速で通信するためのネットワーク基盤を構築する必要があり、データ通信に要するコストが高くなる。しかしながら上記実施形態では、送信するデータ量が異なる複数のモードを有するため、必要なときに必要な量のデータを送信できるので、ネットワーク基盤に関するコストを低減できる。
また、3次元モデル生成装置20は、第3対象物送信モードと第4対象物送信モードとを有する(図5)。第3対象物送信モードは、カメラモジュール28を用いて所定の時点に撮像された対象物画像と所定の時点に検出された深度情報DDXとに基づいて生成された3次元モデルFMTと、カメラモジュール28を用いて所定の時点を含む時系列に撮像された複数の撮像画像IMGWと、を外部に送信するモードである。また、第4対象物送信モードは、カメラモジュール28を用いて時系列に撮像された複数の対象物画像と時系列の各時点において検出された深度情報DDXとに基づいて生成された複数の3次元モデルFMTと、カメラモジュール10を用いて時系列に撮像された複数の撮像画像IMGWとを外部に送信するモードである。これにより、送信するデータ内容に関する利用者の要求により柔軟に対応できる。つまり、利用者は、対象物が静止している物体(例えば、動作停止中のプリンター36)である場合は第3対象物送信モードを選択し、対象物が動いている物体(例えば、動作中のプリンター36)である場合は第4対象物送信モードを選択することで、そのときの要求に応じたデータを外部に送信できる。
B.変形例:
B−1.第1変形例:
上記実施形態では、キャリブレーションターゲットを有するキャリブレーション治具80が3次元モデル生成装置20とは別体で設けられていたが、3次元モデル生成装置20がキャリブレーションターゲットを有していても良い。例えば、基台29に複数の近赤外線LED86を埋設しても良いし、キャリブレーション治具80が埋設されていても良い。キャリブレーション時には、これらの埋設された複数の近赤外線LED86やキャリブレーション治具80は、基台29から上方に出現する。
B−1.第1変形例:
上記実施形態では、キャリブレーションターゲットを有するキャリブレーション治具80が3次元モデル生成装置20とは別体で設けられていたが、3次元モデル生成装置20がキャリブレーションターゲットを有していても良い。例えば、基台29に複数の近赤外線LED86を埋設しても良いし、キャリブレーション治具80が埋設されていても良い。キャリブレーション時には、これらの埋設された複数の近赤外線LED86やキャリブレーション治具80は、基台29から上方に出現する。
上記変形例によれば、3次元モデル生成装置20がキャリブレーションターゲットを有するので、キャリブレーションターゲットを新たに準備する必要がない。
B−2.第2変形例:
上記実施形態によれば、3次元モデル生成装置20は4つのカメラモジュール28A,28B,28C,28Dを有していたが(図2)、重力方向を中心とした対象物の全周を撮像できればカメラモジュール28は3以下であっても良いし5つ以上であっても良い。
上記実施形態によれば、3次元モデル生成装置20は4つのカメラモジュール28A,28B,28C,28Dを有していたが(図2)、重力方向を中心とした対象物の全周を撮像できればカメラモジュール28は3以下であっても良いし5つ以上であっても良い。
B−3.第3変形例:
上記実施形態によれば、カメラモジュール28は深度センサー284を有していたが、対象物までの距離(深度)を検出できればこれに限定されるものではない。例えば、カメラモジュール28はステレオカメラであっても良い。
上記実施形態によれば、カメラモジュール28は深度センサー284を有していたが、対象物までの距離(深度)を検出できればこれに限定されるものではない。例えば、カメラモジュール28はステレオカメラであっても良い。
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…カメラモジュール、12…カメラ、14…マイクロフォン、20…3次元モデル生成装置、24,24A,24B,24C,24D…支持部、28,28A,28B,28C,28D…カメラモジュール、29…基台、30…送信側、30I…場面表示画像、32,32A,32B,32C…人物、32AI,32BI,32CI…人物画像、33…机、33I…画像、34…表示装置、35…スピーカー、36…プリンター、36DI…対象物表示画像、39…表示部、40…制御装置、42…通信部、44…ROM、45…RAM、46…CPU、48…入力部、50…情報処理装置、51…表示部、52…通信部、53…人物、54…ROM、55…RAM、56…CPU、57…入力部、58…カメラモジュール、59…入力装置、59A…キーボード、59B…マウス、60…受信側、65…RAM、80…キャリブレーション治具、82…制御部、84…本体部、84fa…上面、86…近赤外線LED、100…情報処理システム、242…回転機構、261…移動部、261P…突起、262…本体部、262H…貫通孔、282…カメラ、284…深度センサー、292…配置部、452…モードテーブル、454…変換テーブル、462…モジュール制御部、464…抽出部、465…3次元モデル生成部、466…モード設定部、467…外部情報生成部、468…表示制御部、469…パラメーター決定部、500…制御装置、521…対象物用画面、522…全体用画面、554…変換テーブル、562…モジュール制御部、565…画像生成部、568…表示制御部、582…カメラ、584…マイクロフォン、664…抽出部、1000…画像送受信システム、B2…回転操作バー、BP1…拡大アイコン、BP2…縮小アイコン、BT1…回転操作ボタン、DT…外部情報、DT1…第1外部情報、DT2…第2外部情報、FMT…3次元モデル、IMGV,IMGW…撮像画像、SD,SDP…音声情報、U…座標軸、V…座標軸
Claims (11)
- 情報処理装置であって、
対象物の3次元モデルと、前記対象物の周囲を含む撮像画像と、を受信する通信部と、
受信した前記3次元モデルから前記対象物を表す対象物表示画像と、受信した前記撮像画像から場面表示画像と、を生成する画像生成部と、
前記対象物表示画像と前記場面表示画像とを表示部に表示させる表示制御部と、
前記対象物表示画像を操作する操作指示を受け付ける入力部と、を備え、
前記画像生成部は、前記操作指示が前記対象物表示画像を回転させる回転指示である場合に、前記3次元モデルから前記回転指示に応じた前記対象物表示画像を生成する、情報処理装置。 - 請求項1に記載の情報処理装置であって、
前記画像生成部は、前記操作指示が前記対象物表示画像の大きさを変更する拡大縮小指示である場合に、前記3次元モデルから前記拡大縮小指示に応じた前記対象物表示画像を生成する、情報処理装置。 - 3次元モデル生成装置であって、
対象物までの距離を検出できる機能を有する、少なくとも2つのカメラモジュールと、
前記カメラモジュールが撮像した撮像画像のうち前記対象物の画像である対象物画像と、前記カメラモジュールが検出した前記対象物までの距離を表す深度情報とに基づいて前記対象物の3次元モデルを生成する3次元モデル生成部と、
前記3次元モデルを外部に送信する通信部と、を備える、3次元モデル生成装置。 - 請求項3に記載の3次元モデル生成装置であって、さらに、
前記少なくとも2つのカメラモジュールのそれぞれに対応して設けられ、前記カメラモジュールを配置する支持部を有し、
前記支持部は、前記カメラモジュールの高さ位置を変更する高さ変更機構を有する、3次元モデル生成装置。 - 請求項4に記載の3次元モデル生成装置であって、
前記支持部は、前記カメラモジュールを回転させて前記カメラモジュールの光軸方向を変更する回転機構を有する、3次元モデル生成装置。 - 請求項4又は請求項5に記載の3次元モデル生成装置であって、さらに、
前記対象物を配置するための配置部を有する基台を有し、
前記支持部は、前記基台のうち前記配置部よりも外側の部分から立ち上がるように前記基台に配置されている、3次元モデル生成装置。 - 請求項3から請求項6までのいずれか一項に記載の3次元モデル生成装置であって、さらに、
キャリブレーションターゲットを用いて前記カメラモジュールの外部パラメーターを決定するパラメーター決定部を有する、3次元モデル生成装置。 - 請求項7に記載の3次元モデル生成装置であって、さらに、
前記キャリブレーションターゲットを有する、3次元モデル生成装置。 - 請求項3から請求項8までのいずれか一項に記載の3次元モデル生成装置であって、さらに、
前記対象物の周囲を含む領域を撮像する場面用カメラモジュールを有し、
前記3次元モデル生成装置は、外部に送信するデータの種類が異なる第1と第2の送信モードを有し、
前記第1の送信モードは、前記カメラモジュールによって所定の時点に撮像された前記対象物画像と前記所定の時点に検出された前記深度情報とに基づいて生成された前記3次元モデルと、前記場面用カメラモジュールによって前記所定の時点を含む時系列に撮像された複数の前記撮像画像と、を外部に送信するモードであり、
前記第2の送信モードは、前記カメラモジュールによって時系列に撮像された複数の前記対象物画像と時系列の各時点において検出された前記深度情報とに基づいて生成された複数の前記3次元モデルと、前記場面用カメラモジュールによって時系列に撮像された複数の撮像画像とを外部に送信するモードである、3次元生成装置。 - 情報処理装置の制御方法であって、
(a)対象物の3次元モデルと、前記対象物の周囲を含む撮像画像と、を受信する工程と、
(b)受信した前記3次元モデルから前記対象物を表す対象物表示画像と、受信した前記撮像画像から場面表示画像と、を生成する工程と、
(c)前記対象物表示画像と前記場面表示画像とを表示部に表示させる工程と、
(d)前記対象物表示画像を操作する操作指示を受け付ける工程と、を備え、
前記工程(b)は、前記操作指示が前記対象物表示画像を回転させる回転指示である場合に、前記3次元モデルから前記回転指示に応じた前記対象物表示画像を生成する工程を含む、制御方法。 - コンピュータープログラムであって、
(a)対象物の3次元モデルと、前記対象物の周囲を含む撮像画像と、を受信する機能と、
(b)受信した前記3次元モデルから前記対象物を表す対象物表示画像と、受信した前記撮像画像から場面表示画像と、を生成する機能と、
(c)前記対象物表示画像と前記場面表示画像とを表示部に表示させる機能と、
(d)前記対象物表示画像を操作する操作指示を受け付ける機能と、をコンピューターに実現させ、
前記機能(b)は、前記操作指示が前記対象物表示画像を回転させる回転指示である場合に、前記3次元モデルから前記回転指示に応じた前記対象物表示画像を生成する機能を含む、コンピュータープログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015245974 | 2015-12-17 | ||
JP2015245974 | 2015-12-17 | ||
PCT/JP2016/085928 WO2017104448A1 (ja) | 2015-12-17 | 2016-12-02 | 情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2017104448A1 true JPWO2017104448A1 (ja) | 2018-10-11 |
Family
ID=59056361
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017521599A Pending JPWO2017104448A1 (ja) | 2015-12-17 | 2016-12-02 | 情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2017104448A1 (ja) |
WO (1) | WO2017104448A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019065458A1 (ja) * | 2017-09-27 | 2019-04-04 | シャープ株式会社 | 映像生成装置、映像撮影装置、映像撮影システム、映像生成方法、制御プログラム及び記録媒体 |
CN115426444A (zh) * | 2022-08-25 | 2022-12-02 | 维沃移动通信(杭州)有限公司 | 拍摄方法及其装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7788323B2 (en) * | 2000-09-21 | 2010-08-31 | International Business Machines Corporation | Method and apparatus for sharing information in a virtual environment |
JP2003044519A (ja) * | 2001-07-27 | 2003-02-14 | Lion Corp | 容器包装製品開発会議システム |
JP2003271993A (ja) * | 2002-03-18 | 2003-09-26 | Hitachi Ltd | モニタ画像処理方法及び画像モニタシステム並びに保全作業システム |
US11699247B2 (en) * | 2009-12-24 | 2023-07-11 | Cognex Corporation | System and method for runtime determination of camera miscalibration |
JP6381262B2 (ja) * | 2014-04-11 | 2018-08-29 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
-
2016
- 2016-12-02 JP JP2017521599A patent/JPWO2017104448A1/ja active Pending
- 2016-12-02 WO PCT/JP2016/085928 patent/WO2017104448A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2017104448A1 (ja) | 2017-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10964108B2 (en) | Augmentation of captured 3D scenes with contextual information | |
US9584766B2 (en) | Integrated interactive space | |
CN107330978B (zh) | 基于位置映射的增强现实建模体验系统及方法 | |
KR101187500B1 (ko) | 광 투영 장치, 조명 장치 | |
KR101591493B1 (ko) | 각각의 사용자의 시점에 대해 공유된 디지털 인터페이스들의 렌더링을 위한 시스템 | |
JP2016006627A (ja) | 画像処理装置と画像処理方法 | |
JP2020182251A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JPWO2017017790A1 (ja) | 画像生成装置、画像生成システム及び画像生成方法 | |
CN109743892A (zh) | 虚拟现实内容的显示方法和装置 | |
CN107950019A (zh) | 信息处理装置、信息处理方法和程序 | |
CN107408003A (zh) | 信息处理设备、信息处理方法和程序 | |
JP5727207B2 (ja) | 画像監視装置 | |
JP2023546739A (ja) | シーンの3次元モデルを生成するための方法、装置、およびシステム | |
JP2016162392A (ja) | 3次元画像処理装置および3次元画像処理システム | |
US20210287330A1 (en) | Information processing system, method of information processing, and program | |
JPWO2017104448A1 (ja) | 情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム | |
US10609305B2 (en) | Electronic apparatus and operating method thereof | |
JP2004030408A (ja) | 三次元画像表示装置及び表示方法 | |
US20200184222A1 (en) | Augmented reality tools for lighting design | |
JP2009212582A (ja) | バーチャルスタジオ用フィードバックシステム | |
JP6413521B2 (ja) | 表示制御方法、情報処理プログラム、及び情報処理装置 | |
US10632362B2 (en) | Pre-visualization device | |
JP5656809B2 (ja) | 会話映像表示システム | |
WO2017098999A1 (ja) | 情報処理装置、情報処理システム、情報処理装置の制御方法、及び、コンピュータープログラム | |
JP7111416B2 (ja) | 携帯端末、情報処理システム、制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A524 | Written submission of copy of amendment under section 19 (pct) |
Free format text: JAPANESE INTERMEDIATE CODE: A527 Effective date: 20170420 |
|
RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20180906 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181119 |