JP2023102947A - 情報処理装置、その制御方法およびプログラム - Google Patents
情報処理装置、その制御方法およびプログラム Download PDFInfo
- Publication number
- JP2023102947A JP2023102947A JP2022003713A JP2022003713A JP2023102947A JP 2023102947 A JP2023102947 A JP 2023102947A JP 2022003713 A JP2022003713 A JP 2022003713A JP 2022003713 A JP2022003713 A JP 2022003713A JP 2023102947 A JP2023102947 A JP 2023102947A
- Authority
- JP
- Japan
- Prior art keywords
- image
- display device
- information processing
- image display
- hmd
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】ユーザが画像表示装置を装着していないときの処理を軽減することを目的とする。【解決手段】本発明は、受信者が装着する画像表示装置に画像を送信する情報処理装置であって、前記画像を歪みが抑制されるように変換する変換手段と、前記画像表示装置の使用状態を示す情報を取得する取得手段と、前記取得手段により取得された使用状態を示す情報に応じて、前記変換手段により変換される前または前記変換手段により変換された後の画像を送信する送信手段と、を有することを特徴とする。【選択図】図6
Description
本発明は、情報処理装置、その制御方法およびプログラムに関するものである。
2台のカメラで視差のある2つの画像を撮像し、撮像した2つの画像を立体視可能に表示する技術が知られている。特許文献1には、2つの光学系を有するレンズユニットを装着して、視差のある2つの画像を一度に撮像できるカメラが開示されている。
2つの光学系が同じ方向を撮像するように配置されていれば、それぞれ取得した2つの視差のある画像から、180度の範囲を撮像した画像(半天球の画像)や立体視が可能な画像を生成することができる。2つの光学系が正反対の方向を撮像するように配置されていれば、それぞれ取得した2つの画像から、360度の範囲の画像(全天球の画像)を生成することができる。
このような2つのレンズ光学系を有するカメラは、インターネット等の通信ネットワークを介してビデオ通話を行うシステムに利用することも可能である。カメラで撮像された立体視可能な画像は、ユーザが適切に視聴できるように変換され、送信側から遠隔地の受信側の通信端末に送信される。受信側では変換された画像をヘッドマウントディスプレイ(HMD)等の表示装置に表示することで、受信者はあたかも送信者と同じ空間にいるような感覚でコミュニケーションを図ることができる。
このようなシステムにおいて、長時間視聴による吐き気やめまい等の身体的な不調の発症といった、いわゆるVR酔いがある。VR酔いを軽減するためには定期的にHMDをとり外すことが効果的である。また、VR酔い対策以外でも、例えば、ユーザがメモを取ったり外部資料を見たりするために、HMDをとり外すことがある。このように、ユーザがHMDを装着していないにもかかわらず、一律に画像を変換しつづけるのは処理に負荷が掛かってしまう。
本発明は、上述したような問題点に鑑みてなされたものであり、ユーザが画像表示装置を装着していないときの処理を軽減することを目的とする。
本発明は、受信者が装着する画像表示装置に画像を送信する情報処理装置であって、前記画像を歪みが抑制されるように変換する変換手段と、前記画像表示装置の使用状態を示す情報を取得する取得手段と、前記取得手段により取得された使用状態を示す情報に応じて、前記変換手段により変換される前または前記変換手段により変換された後の画像を送信する送信手段と、を有することを特徴とする。
本発明によれば、ユーザが画像表示装置を装着していないときの処理を軽減することができる。
以下、本発明の好ましい実施形態について添付の図面を参照して説明する。
<第1の実施形態>
図1は、第1の実施形態のシステムの全体構成の一例を示す模式図である。
本実施形態に係るシステムは、通信ネットワークを介して通信する複数の視聴環境の間でビデオ通話が可能に構成されている。
送信側環境151は、立体視可能な画像を撮像する送信者155がいる環境である。送信側環境151は、デジタルカメラ(カメラ)100とパーソナルコンピュータ(PC)500aとを含んで構成される。一方、受信側環境152は、撮像された画像を視聴する受信者156がいる環境である。受信側環境152は、ヘッドマウントディスプレイ(HMD)154とPC500bとを含んで構成される。送信側環境151と受信側環境152とは、インターネット等の通信ネットワーク153を介して通信可能である。
<第1の実施形態>
図1は、第1の実施形態のシステムの全体構成の一例を示す模式図である。
本実施形態に係るシステムは、通信ネットワークを介して通信する複数の視聴環境の間でビデオ通話が可能に構成されている。
送信側環境151は、立体視可能な画像を撮像する送信者155がいる環境である。送信側環境151は、デジタルカメラ(カメラ)100とパーソナルコンピュータ(PC)500aとを含んで構成される。一方、受信側環境152は、撮像された画像を視聴する受信者156がいる環境である。受信側環境152は、ヘッドマウントディスプレイ(HMD)154とPC500bとを含んで構成される。送信側環境151と受信側環境152とは、インターネット等の通信ネットワーク153を介して通信可能である。
カメラ100にはレンズユニット300が装着(接続)されている。カメラ100は、レンズユニット300を装着することで、所定の視差を有する2つの画像(静止画または動画)を一度に撮像することができる。なお、レンズユニット300についての詳細は、後述する。PC500aは、カメラ100で撮像された画像を処理する情報処理装置である。PC500bは、送信側環境151から受信した画像を処理する情報処理装置である。PC500aとPC500bは、通信ネットワーク153を介して通信可能に接続され、互いにデータの送受信が可能である。ここでは、PC500aおよびPC500bはそれぞれ、表示装置と一体の構成であるが、別体の表示装置と接続されていてもよい。カメラ100とPC500aとの間およびHMD154とPC500bとの間は無線や有線等で互いに通信可能に接続されている。なお、PC500aとPC500bとを区別しない場合にはPC500という。
図2(a),(b)は、カメラ100の外観の一例を示す外観図である。図2(a)はカメラ100を前面側から見た斜視図であり、図2(b)はカメラ100を背面側から見た斜視図である。
カメラ100は、上面に、シャッターボタン101、電源スイッチ102、モード切替スイッチ103、メイン電子ダイヤル104、サブ電子ダイヤル105、動画ボタン106、ファインダ外表示部107を有する。シャッターボタン101は、撮影準備指示あるいは撮影指示を行うための操作部である。電源スイッチ102は、カメラ100の電源のオンとオフとを切り替えるための操作部である。モード切替スイッチ103は、各種モードを切り替えるための操作部である。メイン電子ダイヤル104は、シャッター速度や絞り等の設定値を変更するための回転式の操作部である。サブ電子ダイヤル105は、選択枠(カーソル)の移動や画像送り等を行うための回転式の操作部である。動画ボタン106は、動画撮影(記録)の開始や停止の指示を行うための操作部である。ファインダ外表示部107は、シャッター速度や絞り等の様々な設定値を表示する。
カメラ100は、上面に、シャッターボタン101、電源スイッチ102、モード切替スイッチ103、メイン電子ダイヤル104、サブ電子ダイヤル105、動画ボタン106、ファインダ外表示部107を有する。シャッターボタン101は、撮影準備指示あるいは撮影指示を行うための操作部である。電源スイッチ102は、カメラ100の電源のオンとオフとを切り替えるための操作部である。モード切替スイッチ103は、各種モードを切り替えるための操作部である。メイン電子ダイヤル104は、シャッター速度や絞り等の設定値を変更するための回転式の操作部である。サブ電子ダイヤル105は、選択枠(カーソル)の移動や画像送り等を行うための回転式の操作部である。動画ボタン106は、動画撮影(記録)の開始や停止の指示を行うための操作部である。ファインダ外表示部107は、シャッター速度や絞り等の様々な設定値を表示する。
カメラ100は、背面に、表示部108、タッチパネル109、方向キー110、SETボタン111、AEロックボタン112、拡大ボタン113、再生ボタン114、メニューボタン115、接眼部116、接眼検知部118、タッチバー119を有する。表示部108は、画像や各種情報を表示する。タッチパネル109は、表示部108の表示面(タッチ操作面)に対するタッチ操作を検出する操作部である。方向キー110は、上下左右にそれぞれ押下可能なキー(4方向キー)から構成される操作部である。方向キー110の押下した位置に応じた処理が可能である。SETボタン111は、主に選択項目を決定するときに押下される操作部である。AEロックボタン112は、撮影待機状態で露出状態を固定するときに押下される操作部である。拡大ボタン113は、撮影モードのライブビュー表示(LV表示)において拡大モードのオンとオフとを切り替えるための操作部である。拡大モードがオンである場合にはメイン電子ダイヤル104を操作することにより、ライブビュー画像(LV画像)が拡大または縮小する。また、拡大ボタン113は、再生モードにおいて再生画像を拡大したり、拡大率を大きくしたりするときに用いられる。再生ボタン114は、撮影モードと再生モードとを切り替えるための操作部である。撮影モードの場合に再生ボタン114を押下することで再生モードに移行し、後述する記録媒体227に記録された画像のうち最新の画像を表示部108に表示することができる。
メニューボタン115は、各種設定が可能なメニュー画面を表示部108に表示するために押下される操作部である。ユーザは、表示部108に表示されたメニュー画面と、方向キー110やSETボタン111とを用いて、直感的に各種設定を行うことができる。接眼部116は、接眼ファインダ(覗き込み型のファインダ)117に対して接眼して覗き込む部位である。ユーザは接眼部116を介して、カメラ100内部の後述するEVF217(Electronic View Finder)に表示された画像を視認することができる。接眼検知部118は、接眼部116(接眼ファインダ117)にユーザが接眼しているか否かを検知するセンサである。
タッチバー119は、タッチ操作を受け付けることが可能なライン状のタッチ操作部(ラインタッチセンサ)である。タッチバー119は、右手の人差し指でシャッターボタン101を押下可能なようにグリップ部120を右手で握った状態(右手の小指、薬指、中指で握った状態)で、右手の親指でタッチ操作可能(タッチ可能)な位置に配置される。すなわち、タッチバー119は、接眼ファインダ117に接眼して接眼部116を覗き、いつでもシャッターボタン101を押下できるように構えた状態(撮影姿勢)で操作可能である。タッチバー119は、タッチバー119に対するタップ操作(タッチして所定期間以内にタッチ位置を移動せずに離す操作)、左右へのスライド操作(タッチした後、タッチしたままタッチ位置を移動する操作)等を受け付け可能である。タッチバー119は、タッチパネル109とは異なる操作部であり、表示機能を備えていない。タッチバー119は、例えば各種機能を割当可能なマルチファンクションバー(M-Fnバー)として機能する。
また、カメラ100は、グリップ部120、サムレスト部121、端子カバー122、蓋123、通信端子124等を有する。グリップ部120は、ユーザがカメラ100を構える際に右手で握りやすい形状に形成された保持部である。グリップ部120を右手の小指、薬指、中指で握ってカメラ100を保持した状態で、右手の人差指で操作可能な位置にシャッターボタン101とメイン電子ダイヤル104が配置される。また、同様な状態で、右手の親指で操作可能な位置にサブ電子ダイヤル105とタッチバー119が配置される。サムレスト部121(親指待機位置)は、カメラ100の背面側の、どの操作部も操作しない状態でグリップ部120を握った右手の親指を置きやすい箇所に設けられたグリップ部である。サムレスト部121は、保持力(グリップ感)を高めるためのラバー部材等で構成される。端子カバー122は、カメラ100を外部機器(外部装置)に接続する接続ケーブル等のコネクタを保護する。蓋123は、後述する記録媒体227を格納するためのスロットを閉塞することで記録媒体227およびスロットを保護する。通信端子124は、カメラ100に対して着脱可能なレンズユニット(後述するレンズユニット200や、レンズユニット300等)側と通信を行うための端子である。
図3は、カメラ100の構成の一例を示すブロック図である。なお、図2と同一の構成要素には図2と同一の符号を付し、その構成要素の説明は適宜、省略する。図3では、カメラ100にレンズユニット200が装着されている。
まず、レンズユニット200について説明する。レンズユニット200は、カメラ100に対して着脱可能な交換レンズの一種である。レンズユニット200は、1眼レンズであり、通常のレンズの一例である。レンズユニット200は、絞り201、レンズ202、絞り駆動回路203、AF(オートフォーカス)駆動回路204、レンズシステム制御回路205、通信端子206等を有する。
まず、レンズユニット200について説明する。レンズユニット200は、カメラ100に対して着脱可能な交換レンズの一種である。レンズユニット200は、1眼レンズであり、通常のレンズの一例である。レンズユニット200は、絞り201、レンズ202、絞り駆動回路203、AF(オートフォーカス)駆動回路204、レンズシステム制御回路205、通信端子206等を有する。
絞り201は、開口径が調整可能に構成される。レンズ202は、複数枚のレンズから構成される。絞り駆動回路203は、絞り201の開口径を制御することで光量を調整する。AF駆動回路204は、レンズ202を駆動して焦点を合わせる。レンズシステム制御回路205は、後述するシステム制御部50の指示に基づいて、絞り駆動回路203、AF駆動回路204等を制御する。レンズシステム制御回路205は、絞り駆動回路203を介して絞り201の制御を行い、AF駆動回路204を介してレンズ202の位置を変えることで焦点を合わせる。レンズシステム制御回路205は、カメラ100との間で通信可能である。具体的には、レンズユニット200の通信端子206と、カメラ100の通信端子124とを介して通信が行われる。通信端子206は、レンズユニット200がカメラ100側と通信を行うための端子である。
次に、カメラ100について説明する。カメラ100は、シャッター210、撮像部211、A/D変換器212、メモリ制御部213、画像処理部214、メモリ215、D/A変換器216、EVF217、表示部108、システム制御部50を有する。
シャッター210は、システム制御部50の指示に基づいて撮像部211の露光時間を自由に制御できるフォーカルプレーンシャッターである。撮像部211は、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子(イメージセンサ)である。撮像部211は、システム制御部50にデフォーカス量情報を出力する撮像面位相差センサを有していてもよい。A/D変換器212は、撮像部211から出力されるアナログ信号をデジタル信号に変換する。画像処理部214は、A/D変換器212からのデータまたはメモリ制御部213からのデータに対し所定の処理(画素補間、縮小等のリサイズ処理、色変換処理等)を行う。また、画像処理部214は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御部50が露光制御や測距制御を行う。この処理により、TTL(スルー・ザ・レンズ)方式のAF処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理等が行われる。更に、画像処理部214は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御部50がTTL方式のAWB(オートホワイトバランス)処理を行う。
シャッター210は、システム制御部50の指示に基づいて撮像部211の露光時間を自由に制御できるフォーカルプレーンシャッターである。撮像部211は、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子(イメージセンサ)である。撮像部211は、システム制御部50にデフォーカス量情報を出力する撮像面位相差センサを有していてもよい。A/D変換器212は、撮像部211から出力されるアナログ信号をデジタル信号に変換する。画像処理部214は、A/D変換器212からのデータまたはメモリ制御部213からのデータに対し所定の処理(画素補間、縮小等のリサイズ処理、色変換処理等)を行う。また、画像処理部214は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御部50が露光制御や測距制御を行う。この処理により、TTL(スルー・ザ・レンズ)方式のAF処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理等が行われる。更に、画像処理部214は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御部50がTTL方式のAWB(オートホワイトバランス)処理を行う。
A/D変換器212からの画像データは、画像処理部214およびメモリ制御部213を介してメモリ215に書き込まれる。あるいは、A/D変換器212からの画像データは、画像処理部214を介さずにメモリ制御部213を介してメモリ215に書き込まれる。メモリ215は、撮像部211によって得られA/D変換器212によりデジタルデータに変換された画像データや、表示部108やEVF217に表示するための画像データを格納する。メモリ215は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。また、メモリ215は画像表示用のメモリ(ビデオメモリ)を兼ねている。
D/A変換器216は、メモリ215に格納されている表示用の画像データをアナログ信号に変換して表示部108やEVF217に供給する。したがって、メモリ215に書き込まれた表示用の画像データは、D/A変換器216を介して表示部108やEVF217に表示される。表示部108やEVF217は、D/A変換器216からのアナログ信号に応じた表示を行う。表示部108やEVF217は、例えば、LCDや有機EL等のディスプレイである。A/D変換器212によってA/D変換されメモリ215に蓄積されたデジタル信号をD/A変換器216でアナログ信号に変換し、表示部108やEVF217に逐次転送して表示することで、ライブビュー表示が行われる。
システム制御部50は、少なくとも1つのプロセッサおよび/または少なくとも1つの回路からなる制御部である。すなわち、システム制御部50は、プロセッサであってもよく、回路であってもよく、プロセッサと回路の組み合わせであってもよい。システム制御部50は、カメラ100全体を制御する。システム制御部50は、不揮発性メモリ219に記録されたプログラムを実行する。また、システム制御部50は、メモリ215、D/A変換器216、表示部108、EVF217等を制御することにより表示制御も行う。
また、カメラ100は、システムメモリ218、不揮発性メモリ219、システムタイマ220、通信部221、姿勢検知部222、接眼検知部118を有する。
システムメモリ218は、例えばRAMが用いられる。システムメモリ218には、システム制御部50の動作用の定数、変数、不揮発性メモリ219から読み出したプログラ等が展開される。不揮発性メモリ219は電気的に消去・記録可能なメモリである。不揮発性メモリ219は、例えばEEPROMが用いられる。不揮発性メモリ219には、システム制御部50の動作用の定数、プログラム等が記録される。システムタイマ220は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
システムメモリ218は、例えばRAMが用いられる。システムメモリ218には、システム制御部50の動作用の定数、変数、不揮発性メモリ219から読み出したプログラ等が展開される。不揮発性メモリ219は電気的に消去・記録可能なメモリである。不揮発性メモリ219は、例えばEEPROMが用いられる。不揮発性メモリ219には、システム制御部50の動作用の定数、プログラム等が記録される。システムタイマ220は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
通信部221は、無線または有線ケーブルによって接続された外部機器との間で、映像信号や音声信号の送受信を行う。通信部221は無線LAN(Local Area Network)やインターネットとも接続可能である。また、通信部221は、Bluetooth(登録商標)やBluetooth Low Energyでも外部機器と通信可能である。通信部221は撮像部211で撮像された画像(ライブ画像を含む)や、記録媒体227に記録された画像を送信可能である。また、通信部221は、外部機器から画像やその他の各種情報を受信可能である。
姿勢検知部222は、重力方向に対するカメラ100の姿勢を検知する。姿勢検知部222で検知された姿勢に基づいて、撮像部211で撮像された画像が、カメラ100を横に構えて撮像された画像であるか、縦に構えて撮像された画像であるかを判別可能である。システム制御部50は、姿勢検知部222で検知された姿勢に応じた向き情報を撮像部211で撮像された画像の画像ファイルに付加したり、検知された姿勢に応じて画像を回転したりすることが可能である。姿勢検知部222には、例えば、加速度センサやジャイロセンサ等を用いることができる。姿勢検知部222を用いて、カメラ100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
接眼検知部118は、接眼部116(接眼ファインダ117)に対する何らかの物体の接近を検知することができる。接眼検知部118には、例えば、赤外線近接センサを用いることができる。物体が接近した場合、接眼検知部118の投光部から投光した赤外線が物体で反射して赤外線近接センサの受光部で受光される。受光された赤外線の量によって接眼部116から物体までの距離を判別することができる。このように、接眼検知部118は、接眼部116に対する物体の近接距離を検知する接眼検知を行う。接眼検知部118は、接眼部116に対する眼(物体)の接近(接眼)および離反(離眼)を検知する接眼検知センサである。非接眼状態(非接近状態)から、接眼部116に対して所定距離以内に近づく物体が検知された場合に、接眼されたと検知する。一方、接眼状態(接近状態)から、接近を検知していた物体が所定距離以上離れた場合に、離眼されたと検知する。接眼を検知する閾値と、離眼を検知する閾値とは例えばヒステリシスを設ける等して異なっていてもよい。また、接眼を検知した後は、離眼を検知するまでは接眼状態であるものとする。離眼を検知した後は、接眼を検知するまでは非接眼状態であるものとする。システム制御部50は、接眼検知部118で検知された状態に応じて、表示部108とEVF217の表示(表示状態)/非表示(非表示状態)を切り替える。具体的には、少なくとも撮影待機状態であって、かつ、表示先の切替設定が自動切替である場合、非接眼中は表示先を表示部108として表示をオンとし、EVF217は非表示とする。また、接眼中は表示先をEVF217として表示をオンとし、表示部108は非表示とする。なお、接眼検知部118は赤外線近接センサに限られず、接眼とみなせる状態を検知できるものであればよく、他のセンサを用いてもよい。
また、カメラ100は、ファインダ外表示部107、ファインダ外表示駆動回路223、電源制御部224、電源部225、記録媒体I/F226、操作部228等を有する。
ファインダ外表示部107は、ファインダ外表示駆動回路223によって駆動され、シャッター速度や絞り等のカメラ100の様々な設定値を表示する。電源制御部224は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出等を行う。また、電源制御部224は、その検出結果およびシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体227を含む各部へ供給する。電源部225は、アルカリ電池およびリチウム電池等の一次電池、NiCd電池、NiMH電池およびLi電池等の二次電池、ACアダプター等である。記録媒体I/F226は、メモリカードやハードディスク等の記録媒体227とのインターフェースである。記録媒体227は、撮像された画像を記録するためのメモリカード等であり、半導体メモリや磁気ディスク等から構成される。記録媒体227は、カメラ100に対して着脱可能であってもよいし、カメラ100に内蔵されていてもよい。
ファインダ外表示部107は、ファインダ外表示駆動回路223によって駆動され、シャッター速度や絞り等のカメラ100の様々な設定値を表示する。電源制御部224は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出等を行う。また、電源制御部224は、その検出結果およびシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体227を含む各部へ供給する。電源部225は、アルカリ電池およびリチウム電池等の一次電池、NiCd電池、NiMH電池およびLi電池等の二次電池、ACアダプター等である。記録媒体I/F226は、メモリカードやハードディスク等の記録媒体227とのインターフェースである。記録媒体227は、撮像された画像を記録するためのメモリカード等であり、半導体メモリや磁気ディスク等から構成される。記録媒体227は、カメラ100に対して着脱可能であってもよいし、カメラ100に内蔵されていてもよい。
操作部228は、ユーザからの操作(ユーザ操作)を受け付ける入力部であり、システム制御部50に各種の指示を入力するために用いられる。操作部228は、シャッターボタン101、電源スイッチ102、モード切替スイッチ103、タッチパネル109、他の操作部229等が含まれる。他の操作部229には、メイン電子ダイヤル104、サブ電子ダイヤル105、動画ボタン106、方向キー110、SETボタン111、AEロックボタン112、拡大ボタン113、再生ボタン114、メニューボタン115、タッチバー119等が含まれる。
シャッターボタン101は、第1シャッタースイッチ230と第2シャッタースイッチ231を有する。第1シャッタースイッチ230は、シャッターボタン101の操作途中、いわゆる半押し(撮影準備指示)でオンとなり、第1シャッタースイッチ信号SW1を出力する。システム制御部50は、第1シャッタースイッチ信号SW1に応じて、AF処理、AE処理、AWB処理、EF処理等の撮影準備処理を開始する。第2シャッタースイッチ231は、シャッターボタン101の操作完了、いわゆる全押し(撮影指示)でオンとなり、第2シャッタースイッチ信号SW2を出力する。システム制御部50は、第2シャッタースイッチ信号SW2に応じて、撮像部211からの信号読み出しから、撮像された画像を含む画像ファイルを生成して記録媒体227に書き込むまでの一連の撮影処理を開始する。
モード切替スイッチ103は、システム制御部50の動作モードを静止画撮影モード、動画撮影モード、再生モード等の何れかに切り替える。静止画撮影モードに含まれるモードには、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、プログラムAEモード(Pモード)がある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。ユーザは、モード切替スイッチ103により、上述した撮影モードの何れかに直接、切り替えることができる。あるいは、ユーザは、モード切替スイッチ103により撮影モードの一覧画面に一旦切り替えた後に、表示された複数のモードの何れかに操作部228を用いて選択的に切り替えることができる。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
タッチパネル109は、表示部108の表示面(タッチパネル109の操作面)への各種タッチ操作を検出するタッチセンサである。タッチパネル109と表示部108とは一体的に構成することができる。例えば、タッチパネル109は、光の透過率が表示部108の表示を妨げないように、表示部108の表示面の上層に取り付けられる。そして、タッチパネル109における入力座標と、表示部108の表示面上の表示座標とを対応付けることで、あたかもユーザが表示部108上に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザインターフェース)を構成できる。タッチパネル109には、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等の様々な方式のうち何れかの方式を用いることができる。方式によって、タッチパネル109に対する接触があったことでタッチがあったと検知する方式や、タッチパネル109に対する指やペンの接近があったことでタッチがあったと検知する方式があるが、何れの方式であってもよい。
システム制御部50は、タッチパネル109に対する以下の操作あるいは状態を検出できる。
・タッチパネル109にタッチしていなかった指やペンが新たにタッチパネル109にタッチしたこと、すなわちタッチの開始(以下、タッチダウン(Touch-Down)という)。
・タッチパネル109を指やペンでタッチしている状態(以下、タッチオン(Touch-On)という)。
・タッチパネル109を指やペンがタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)という)。
・タッチパネル109へタッチしていた指やペンがタッチパネル109から離れた(リリースされた)こと、すなわちタッチの終了(以下、タッチアップ(Touch-Up)という)。
・タッチパネル109に何もタッチしていない状態(以下、タッチオフ(Touch-Off)という)。
・タッチパネル109にタッチしていなかった指やペンが新たにタッチパネル109にタッチしたこと、すなわちタッチの開始(以下、タッチダウン(Touch-Down)という)。
・タッチパネル109を指やペンでタッチしている状態(以下、タッチオン(Touch-On)という)。
・タッチパネル109を指やペンがタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)という)。
・タッチパネル109へタッチしていた指やペンがタッチパネル109から離れた(リリースされた)こと、すなわちタッチの終了(以下、タッチアップ(Touch-Up)という)。
・タッチパネル109に何もタッチしていない状態(以下、タッチオフ(Touch-Off)という)。
タッチダウンが検出されると、同時にタッチオンも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出された場合も、同時にタッチオンが検出される。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出された後は、タッチオフとなる。
これらの操作・状態や、タッチパネル109上に指やペンがタッチしている位置座標は内部バスを通じてシステム制御部50に通知される。システム制御部50は通知された情報に基づいてタッチパネル109上にどのような操作(タッチ操作)が行われたかを判定する。タッチムーブについてはタッチパネル109上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル109上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行われたと判定される。タッチパネル109上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックという。フリックは、言い換えればタッチパネル109上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行われたと判定される(スライド操作に続いてフリックがあったものと判定できる)。更に、複数箇所(例えば2点)を共にタッチして(マルチタッチして)、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトという。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)という。
図4は、レンズユニット300の構成の一例を示す模式図である。図4では、レンズユニット300をカメラ100に装着した状態を示している。なお、図4に示すカメラ100のうち、図3で説明した構成要素と同一の構成要素には、図3と同一の符号を付し、その構成要素の説明は適宜、省略する。
レンズユニット300は、カメラ100に対して着脱可能な交換レンズの一種である。レンズユニット300は、視差のある右像および左像を撮像可能な2眼レンズである。本実施形態では、レンズユニット300は2つの光学系を有し、2つの光学系それぞれで、略180度の広視野角の範囲を撮像できる。具体的に、レンズユニット300の2つの光学系それぞれで、左右方向(水平角度、方位角、ヨー角)180度、上下方向(垂直角度、仰俯角、ピッチ角)180度の視野分(画角分)の被写体を撮像できる。つまり、2つの光学系それぞれで、前方半球の範囲を撮像できる。
レンズユニット300は、カメラ100に対して着脱可能な交換レンズの一種である。レンズユニット300は、視差のある右像および左像を撮像可能な2眼レンズである。本実施形態では、レンズユニット300は2つの光学系を有し、2つの光学系それぞれで、略180度の広視野角の範囲を撮像できる。具体的に、レンズユニット300の2つの光学系それぞれで、左右方向(水平角度、方位角、ヨー角)180度、上下方向(垂直角度、仰俯角、ピッチ角)180度の視野分(画角分)の被写体を撮像できる。つまり、2つの光学系それぞれで、前方半球の範囲を撮像できる。
レンズユニット300は、複数のレンズと反射ミラー等を有する右眼光学系301R、複数のレンズと反射ミラー等を有する左眼光学系301L、レンズシステム制御回路303を有する。右眼光学系301Rは第1の光学系の一例であり、左眼光学系301Lは第2の光学系の一例である。右眼光学系301Rは被写体側に配置されるレンズ302Rを有し、左眼光学系301Lは被写体側に配置されるレンズ302Lを有する。レンズ302Rとレンズ302Lは同じ方向を向いており、それらの光軸は略平行である。
レンズユニット300は、2眼立体視が可能なVR(Virtual Reality)画像のフォーマットの1つであるVR180の画像を得るための2眼レンズ(VR180レンズ)である。本実施形態では、レンズユニット300は、右眼光学系301Rおよび左眼光学系301Lのそれぞれに、略180度の範囲を捉えることが可能な魚眼レンズを有する。なお、右眼光学系301Rおよび左眼光学系301Lのそれぞれが有するレンズで捉えることが可能な範囲は、180度の範囲よりも狭い160度程度であってもよい。レンズユニット300は、右眼光学系301Rを介して形成される右像(第1画像)と、左眼光学系301Lを介して形成される左像(第2画像)とを、レンズユニット300が装着されたカメラの1つまたは2つの撮像素子上に結像することができる。
レンズユニット300は、レンズマウント部304と、カメラ100のカメラマウント部305とを介して、カメラ100に装着される。こうすることで、カメラ100の通信端子124と、レンズユニット300の通信端子306とを介して、カメラ100のシステム制御部50とレンズユニット300のレンズシステム制御回路303とが電気的に接続される。
本実施形態では、右眼光学系301Rを介して形成される右像と、左眼光学系301Lを介して形成される左像とが、同時に(セットで)カメラ100の撮像部211に結像される。すなわち、右眼光学系301Rおよび左眼光学系301Lにより形成される2つの光学像が1つの撮像素子上に形成される。撮像部211は、結像された被写体像(光信号)をアナログ電気信号に変換する。このようにレンズユニット300を用いることで、右眼光学系301Rと左眼光学系301Lとの2つの箇所(光学系)から、視差がある2つの画像を同時に(セットで)取得することができる。取得された画像を左眼用の画像と右眼用の画像とに分けてVR表示することで、ユーザは略180度の範囲の立体的なVR画像を視聴することができる。つまり、ユーザは、VR180の画像を立体視することができる。
ここで、VR画像とは、後述するVR表示することができる画像である。VR画像には、全方位カメラ(全天球カメラ)で撮像した全方位画像(全天球画像)や、表示部に一度で表示できる表示範囲より広い映像範囲(有効映像範囲)を持つパノラマ画像等が含まれる。また、VR画像は、静止画に限られず、動画、ライブ画像(カメラからほぼリアルタイムで取得した画像)も含まれる。VR画像は、最大で、左右方向360度、上下方向360度の視野分の映像範囲(有効映像範囲)を持つ。また、VR画像には、左右方向360度未満、上下方向360度未満であっても、通常のカメラで撮像可能な画角よりも広範な画角、あるいは、表示部に一度で表示できる表示範囲より広い映像範囲を持つ画像も含まれる。上述したレンズユニット300を用いてカメラ100で撮像される画像は、VR画像の一種である。
HMD154は、表示装置が実装されており、PC500bにより送信された画像を表示する。HMD154は、受信者156の頭部に装着される画像表示装置の一例である。HMD154は、PC500bと無線または有線ケーブルによって接続されている。HMD154には、PC500bによる制御に基づいて画像が表示される。
ここで、HMD154は、表示モードを「VRビュー」に設定することで、VR画像をVR表示することができる。360度の画角を有するVR画像をVR表示して、ユーザが表示装置の姿勢を左右方向(水平回転方向)に変化させることで、左右方向に継ぎ目のない全方位の画像を視聴することができる。
ここで、HMD154は、表示モードを「VRビュー」に設定することで、VR画像をVR表示することができる。360度の画角を有するVR画像をVR表示して、ユーザが表示装置の姿勢を左右方向(水平回転方向)に変化させることで、左右方向に継ぎ目のない全方位の画像を視聴することができる。
VR表示(VRビュー)とは、VR画像のうち、表示装置の姿勢に応じた視野範囲の映像を表示する、表示範囲を変更可能な表示方法(表示モード)である。VR表示には、VR画像を仮想球体にマッピングする変形(歪曲補正)を行って1つの画像を表示する「1眼VR表示(1眼VRビュー)」がある。また、VR表示には、左眼用のVR画像と右眼用のVR画像とをそれぞれ仮想球体にマッピングする変形を行って左右の領域に並べて表示する「2眼VR表示(2眼VRビュー)」がある。互いに視差のある左眼用のVR画像と右眼用のVR画像を用いて「2眼VR表示」を行うことで、それらVR画像を立体視することが可能である。何れのVR表示であっても、例えば、ユーザがHMDを装着した場合、ユーザの顔の向きに応じた視野範囲の画像が表示される。例えば、VR画像のうち、ある時点で左右方向に0度(特定の方位、例えば北)、上下方向に90度(天頂から90度、すなわち水平)を中心とした視野範囲の画像を表示しているとする。この状態から表示装置の姿勢を表裏反転させる(例えば、表示面を南向きから北向きに変更する)と、同じVR画像のうち、左右方向に180度(逆の方位、例えば南)、上下方向に90度を中心とした視野範囲の画像に、表示範囲が変更される。すなわち、ユーザがHMDを装着した状態で、顔を北から南に向く(すなわち後ろを向く)ことで、HMDに表示される画像も北の画像から南の画像に変更される。なお、本実施形態のレンズユニット300を用いて撮像したVR画像は、前方略180度の範囲を撮像した画像(180°画像)であり、後方略180度の範囲の画像は存在しない。このような画像をVR表示して、画像が存在しない側に表示装置の姿勢を変更した場合にはブランク領域が表示される。
このようにVR画像をVR表示することによって、ユーザは視覚的にあたかもVR画像内(VR空間内)にいるような感覚(没入感)を得ることができる。なお、VR画像の表示方法は表示装置の姿勢を変更する方法に限られない。例えば、カメラ100やPC500a、500bにおいてタッチパネルや方向ボタン等を介したユーザ操作に応じて、表示範囲を移動(スクロール)させてもよい。また、VR表示時(表示モード「VRビュー」)において、姿勢変化による表示範囲の変更に加え、カメラ100やPC500a、500bにおいてタッチパネルでのタッチムーブ、マウス等でのドラッグ操作、方向ボタンの押下等に応じて表示範囲を変更してもよい。なお、VRゴーグル(ヘッドマウントアダプタ)に装着されたスマートフォン端末やタブレット端末はHMDの一種である。
図5は、PC500(500a、500b)の構成の一例を示すブロック図である。
制御部501は、例えばCentral Processing Unit(CPU)であり、PC500全体を制御する。Read Only Memory(ROM)502は、プログラムやパラメータを非一時的に記憶する。Random Access Memory(RAM)503は、外部機器等から供給されるプログラムやデータを一時的に記憶する。記録媒体504は、PC500に固定して設置されたハードディスクやフラッシュメモリ、あるいはPC500に対して着脱可能な光ディスク、磁気カード、光カード、ICカード、メモリカード等である。操作部505は、PC500に対するユーザの操作を受け付ける。操作部505は、ユーザが操作を行う際に用いられる、PC500に設けられたボタンやタッチパネル等であってもよいし、PC500に対して着脱可能なキーボードやマウス等であってもよい。表示部506は、PC500が保持するデータや外部装置から送信された画像等を制御部501による制御に基づいて表示する。表示部506は、HMD154とは異なり、ユーザが装着することなく視認可能な表示装置である。また、表示部506は、画像を2次元で表示する2次元表示装置である。なお、表示部506はPC500の一部であってもよいし、PC500とは別体の表示装置であってもよい。通信部507は、他のPC等の外部装置、カメラ100あるいはHMD154との通信を行う。例えば、PC500aから見てPC500bは外部装置であり、PC500bから見てPC500aは外部装置である。システムバス508は、PC500の構成要素間を通信可能に接続する。
制御部501は、例えばCentral Processing Unit(CPU)であり、PC500全体を制御する。Read Only Memory(ROM)502は、プログラムやパラメータを非一時的に記憶する。Random Access Memory(RAM)503は、外部機器等から供給されるプログラムやデータを一時的に記憶する。記録媒体504は、PC500に固定して設置されたハードディスクやフラッシュメモリ、あるいはPC500に対して着脱可能な光ディスク、磁気カード、光カード、ICカード、メモリカード等である。操作部505は、PC500に対するユーザの操作を受け付ける。操作部505は、ユーザが操作を行う際に用いられる、PC500に設けられたボタンやタッチパネル等であってもよいし、PC500に対して着脱可能なキーボードやマウス等であってもよい。表示部506は、PC500が保持するデータや外部装置から送信された画像等を制御部501による制御に基づいて表示する。表示部506は、HMD154とは異なり、ユーザが装着することなく視認可能な表示装置である。また、表示部506は、画像を2次元で表示する2次元表示装置である。なお、表示部506はPC500の一部であってもよいし、PC500とは別体の表示装置であってもよい。通信部507は、他のPC等の外部装置、カメラ100あるいはHMD154との通信を行う。例えば、PC500aから見てPC500bは外部装置であり、PC500bから見てPC500aは外部装置である。システムバス508は、PC500の構成要素間を通信可能に接続する。
ここで、レンズユニット300(2眼レンズ)を装着して撮像される画像の特徴について説明する。レンズユニット200(通常の1眼レンズ)の場合、撮像部211上には、実際の見えに対して上下左右に反転した像(180度回転した像)が結像する。そのため、結像された画像全体を180度回転して、実際の見えに合った画像を取得(撮像)している。一方で、レンズユニット300(2眼レンズ)の場合は、右像と左像それぞれが、実際の見えに対して180度回転して撮像部211上に結像する。右像と左像の並びは特に限定されないが、本実施形態では、撮像部211上において、右像が右側に結像され、左像が左側に結像されるとする。そして、レンズユニット200(通常の1眼レンズ)の場合と同様に、結像された画像(右像と左像を含む画像)全体を180度回転すると、右像と左像それぞれを実際の見えに合わせることはできるが、右像と左像の位置が入れ替わってしまう。つまり、左右の位置関係が反転して、右像が左側に配置され、左像が右側に配置された画像が撮像されることになる。本実施形態では、右像と左像の位置を2つの光学系(右眼光学系301Rと左眼光学系301L)と対応するような表示を可能にする。
次に、上述したように構成されるシステムのうち、PC500aによる処理について図6のフローチャートを用いて説明する。図6のフローチャートは、PC500aの制御部501がROM502に記憶されたプログラムをRAM503に展開して実行することにより実現される。また、図6のフローチャートは、PC500aとPC500bとの間で通信可能に接続され、レンズユニット300を装着したカメラ100が画像を撮像することにより開始され、定期的に実行される。
S601では、PC500aの制御部501は、カメラ100で撮像された画像を取得する。具体的には、カメラ100で撮像された画像が通信部507を介してPC500aに転送され、PC500aの制御部501は転送された画像を読み込むことで画像を取得する。読み込まれた画像は、図7(a)に示すような2眼レンズで得られた左右2つの円周魚眼画像702a、702bを含む画像701である。円周魚眼画像702aは右眼光学系301Rを介して撮像された画像であり、円周魚眼画像702bは左眼光学系301Lを介して撮像された画像である。円周魚眼画像702a、702bは、円形の外縁に近づくほど大きく歪んでいる。
S602では、PC500aの制御部501は、通信部507を介して受信側環境152のHMD154の使用情報をPC500bから取得する。HMD154の使用情報とは、HMD154の使用状態を示す情報である。PC500bはHMD154から使用情報を取得しており、PC500aの制御部501はPC500bを介してHMD154の使用情報を継続的に取得する。なお、S601とS602とは処理の順序が逆であってもよく、S601とS602とを並行に処理してもよい。
ここで、HMD154の使用情報には様々なものがある。
HMD154の使用情報として、HMD154の電源がオンであるかオフであるかを示す情報(電源のオンオフ信号)を用いることができる。例えば、PC500aの制御部501は、HMD154の電源のオンオフ信号をHMD154からPC500bを介して受信することでHMD154の使用情報を取得することができる。
また、HMD154の使用情報として、ユーザとしての受信者がHMD154を装着しているか否かを示す装着状態を示す情報(加速度センサの信号データ)を用いることができる。HMD154に加速度センサを設けておき、PC500aの制御部501が加速度センサの信号データをHMD154からPC500bを介して受信することでHMD154の使用情報を取得することができる。
HMD154の使用情報として、HMD154の電源がオンであるかオフであるかを示す情報(電源のオンオフ信号)を用いることができる。例えば、PC500aの制御部501は、HMD154の電源のオンオフ信号をHMD154からPC500bを介して受信することでHMD154の使用情報を取得することができる。
また、HMD154の使用情報として、ユーザとしての受信者がHMD154を装着しているか否かを示す装着状態を示す情報(加速度センサの信号データ)を用いることができる。HMD154に加速度センサを設けておき、PC500aの制御部501が加速度センサの信号データをHMD154からPC500bを介して受信することでHMD154の使用情報を取得することができる。
S603では、PC500aの制御部501は、取得したHMD154の使用情報に基づいて、受信側環境152のHMD154が使用状態であるか否か、すなわちHMD154が使用中であるか否かを判定する。使用中である場合にはS604に進み、使用中ではない場合にはS605に進む。
例えば、HMD154の使用情報がHMD154の電源のオンオフ信号である場合、制御部501は、電源がオンである場合にはHMD154が使用中であると判定し、電源がオフである場合にはHMD154が使用中ではないと判定する。
また、例えば、HMD154の使用情報が、HMD154に設けられた加速度センサの信号である場合、制御部501は、加速度センサの信号によって使用中であるか否かを判定する。すなわち、受信者156がHMD154を頭部に装着した状態では頭部の動きに合わせて加速度センサの信号が変動する。したがって、制御部501は加速度センサの信号の変化を検知してから一定の時間内に次の変化を検知している限り、HMD154が使用中であると判定する。一方、制御部501は、加速度センサの信号が一定の時間内に変化を検知しなかった場合にはHMD154が使用中ではないと判定する。
例えば、HMD154の使用情報がHMD154の電源のオンオフ信号である場合、制御部501は、電源がオンである場合にはHMD154が使用中であると判定し、電源がオフである場合にはHMD154が使用中ではないと判定する。
また、例えば、HMD154の使用情報が、HMD154に設けられた加速度センサの信号である場合、制御部501は、加速度センサの信号によって使用中であるか否かを判定する。すなわち、受信者156がHMD154を頭部に装着した状態では頭部の動きに合わせて加速度センサの信号が変動する。したがって、制御部501は加速度センサの信号の変化を検知してから一定の時間内に次の変化を検知している限り、HMD154が使用中であると判定する。一方、制御部501は、加速度センサの信号が一定の時間内に変化を検知しなかった場合にはHMD154が使用中ではないと判定する。
このように、制御部501は、S602で取得したHMD154の電源のオンオフ信号やHMD154に設けられた加速度センサの信号に基づいて現在のHMD154の使用状態を判定する。ただし、HMD154の使用状態を判定する方法は、上述した方法に限られない。
また、送信側環境151のPC500aの制御部501が、HMD154の使用状態を判定する場合に限られず、受信側環境152のPC500bの制御部501がHMD154の使用状態を判定してもよい。この場合には、PC500aの制御部501は判定結果をPC500bから受信し、判定結果に基づいてHMD154の使用状態を判定することができる。このようにPC500aの制御部501が判定結果をPC500bから受信する場合には、判定結果の情報がHMD154の使用情報に相当する。
また、送信側環境151のPC500aの制御部501が、HMD154の使用状態を判定する場合に限られず、受信側環境152のPC500bの制御部501がHMD154の使用状態を判定してもよい。この場合には、PC500aの制御部501は判定結果をPC500bから受信し、判定結果に基づいてHMD154の使用状態を判定することができる。このようにPC500aの制御部501が判定結果をPC500bから受信する場合には、判定結果の情報がHMD154の使用情報に相当する。
S604は、制御部501は、HMD154に画像をVR表示に対応させるために必要な画像の変換として、画像の歪みが抑制される変換を行う。S604に進む場合とはHMD154が使用中、すなわち受信者156がHMD154を装着している状態であるため、ここではHMD154に画像をVR表示するために必要あるいは適切な処理を行う。具体的に、制御部501は、S601で取得した2つの円周魚眼画像に対して、それぞれ正距円筒変換(第1の変換)を適用することで、「2眼VR表示」に対応させる。ここで、図7(a)に示す画像701に含まれる2つの円周魚眼画像702a、702bのそれぞれに対して、正距円筒変換を適用した結果の画像を図7(b)に示す。変換された画像は、図7(b)に示すような画像704a、画像704bを含む画像703である。画像704a、704bのそれぞれに注目すると、円形の外縁が引き伸ばされることなく外縁の歪みが抑制されている。
S605では、制御部501は、上述した正距円筒変換を行わず、2つの円周魚眼画像のうち一部を切り出す。S605に進む場合とはHMD154が使用中ではない、すなわち受信者156がHMD154を装着していない状態であるため、ここではHMD154に画像をVR表示させるための正距円筒変換を行わない。具体的には、制御部501は、S601で取得した2つの円周魚眼画像のうち左側の円周魚眼領域のみを切り出す。このように、正距円筒変換を行わないことにより画像を変換する処理の軽減を図ることができる。ここで、図7(a)に示す画像701に含まれる2つの円周魚眼画像702a、702bのうち左側の円周魚眼画像702bを切り出した結果の画像を図7(c)に示す。変換された画像は、図7(c)に示すような画像705である。
なお、ここでは、左側の円周魚眼領域を切り出す場合について説明したが、左右の何れか一方を切り出せばよく、右側の円周魚眼領域を切り出してもよい。
また、片側の円周魚眼領域の切り出した画像を、2次元表示装置への表示に対応させるために必要あるいは適切な変換を行ってもよい。具体的には、制御部501は、片側の円周魚眼領域の切り出した画像に対して透視投影変換(第2の変換)を行ってもよい。透視投影変換することで、変換された画像は外縁の歪みが抑制される。透視投影変換された画像は図7(d)に示すような画像706であり、正距円筒変換の中心部分だけ切り出したような見た目になり、円周魚眼画像や正距円筒変換画像に比べて歪みが少なく、2次元表示の場合では、ユーザにとって自然に見えるものである。
なお、ここでは、左側の円周魚眼領域を切り出す場合について説明したが、左右の何れか一方を切り出せばよく、右側の円周魚眼領域を切り出してもよい。
また、片側の円周魚眼領域の切り出した画像を、2次元表示装置への表示に対応させるために必要あるいは適切な変換を行ってもよい。具体的には、制御部501は、片側の円周魚眼領域の切り出した画像に対して透視投影変換(第2の変換)を行ってもよい。透視投影変換することで、変換された画像は外縁の歪みが抑制される。透視投影変換された画像は図7(d)に示すような画像706であり、正距円筒変換の中心部分だけ切り出したような見た目になり、円周魚眼画像や正距円筒変換画像に比べて歪みが少なく、2次元表示の場合では、ユーザにとって自然に見えるものである。
S606では、制御部501は、処理した画像を受信側環境152に送信する。ここで、HMD154が使用中である場合にはS604において正距円筒変換された後の画像が送信される。一方、HMD154が使用中ではない場合には正距円筒変換される前の画像であって、S605において左側の円周魚眼領域のみ切り出された画像が送信される。
受信側環境152ではPC500bの制御部501は、受信した画像をそれぞれHMD154および表示部506に表示する。具体的には、PC500bの制御部501は、受信した画像を表示部506に表示すると共に、HMD154に表示されるようにHMD154に転送する。
ここで、HMD154が使用中である場合、すなわちHMD154が装着された状態では、HMD154および表示部506に正距円筒変換された後の画像が表示される。したがって、HMD154を装着している受信者156はHMD154を介して、「2眼VR表示」に対応した画像を視聴することができる。なお、PC500bの制御部501は、表示部506にも正距円筒変換された後の画像を表示しているが、受信者156はHMD154を視聴していることになる。
一方、HMD154が使用中ではない場合、すなわちHMD154が装着されていない状態では、HMD154および表示部506に正距円筒変換される前の画像が表示される。したがって、受信者156はHMD154を装着していない場合には、表示部506を視認することにより画像を視聴することができる。したがって、受信者156はHMD154を装着していなくても、表示部506に表示される画像に基づいて、送信側環境151の送信者155とコミュニケーションを図ることができる。なお、表示部506に表示される画像が一方の円周魚眼領域のみに透視投影変換された画像である場合には、受信者156は外縁の歪みが抑制された画像を視聴することができる。
ここで、HMD154が使用中である場合、すなわちHMD154が装着された状態では、HMD154および表示部506に正距円筒変換された後の画像が表示される。したがって、HMD154を装着している受信者156はHMD154を介して、「2眼VR表示」に対応した画像を視聴することができる。なお、PC500bの制御部501は、表示部506にも正距円筒変換された後の画像を表示しているが、受信者156はHMD154を視聴していることになる。
一方、HMD154が使用中ではない場合、すなわちHMD154が装着されていない状態では、HMD154および表示部506に正距円筒変換される前の画像が表示される。したがって、受信者156はHMD154を装着していない場合には、表示部506を視認することにより画像を視聴することができる。したがって、受信者156はHMD154を装着していなくても、表示部506に表示される画像に基づいて、送信側環境151の送信者155とコミュニケーションを図ることができる。なお、表示部506に表示される画像が一方の円周魚眼領域のみに透視投影変換された画像である場合には、受信者156は外縁の歪みが抑制された画像を視聴することができる。
したがって、上述した処理によれば、受信者156がHMD154を装着した状態から装着していない状態に移行することで、HMD154および表示部506では表示される画像が、正距円筒変換された後の画像から正距円筒変換される前の画像に切り替わる。具体的には、図7(b)に示す画像703から図7(c)に示す画像705に切り替わる。
一方、受信者156がHMD154を装着していない状態から装着した状態に移行することで、HMD154および表示部506では表示される画像が、正距円筒変換される前の画像から正距円筒変換された後の画像に切り替わる。具体的には、図7(c)に示す画像705から図7(b)に示す画像703に切り替わる。
一方、受信者156がHMD154を装着していない状態から装着した状態に移行することで、HMD154および表示部506では表示される画像が、正距円筒変換される前の画像から正距円筒変換された後の画像に切り替わる。具体的には、図7(c)に示す画像705から図7(b)に示す画像703に切り替わる。
ただし、PC500bの制御部501は、受信者156がHMD154を装着している状態では正距円筒変換された後の画像を表示部506に表示せず、HMD156のみに表示してもよい。また、PC500bの制御部501は、受信者156がHMD154を装着していない状態では正距円筒変換される前の画像をHMD156に表示せず、表示部506のみに表示してもよい。
以上のように本実施形態によれば、HMD154の使用状態を示す情報に応じて、変換する前または変換した後の画像を送信することから、画像を変換する処理の軽減を図ることができる。具体的には、HMD154が使用中ではない場合には、正距円筒変換せずに一部のみを切り出すことから、正距円筒変換する処理の軽減を図ることができる。また、HMD154が使用中ではない場合に、正距円筒変換せずに一部のみを切り出した画像を透視投影変換する場合であっても、一部のみの画像に対して変換することから、処理の軽減を図ることができる。また、必要な画像のみを送信することができるため、不要な画像の送信を削減でき、処理の軽減を図ることができると共に、送信するデータ量を抑制することができる。
<第2の実施形態>
本実施形態では、HMD154の使用情報として、受信者を撮像した画像を用いる場合について説明する。なお、第1の実施形態と同一の符号は、第1の実施形態と同様の処理を行うものとして適宜、説明は省略する。
図8は、第2の実施形態のシステムの全体構成の一例を示す模式図である。
本実施形態の受信側環境152は、HMD154を装着する受信者156を撮像するカメラ800を含んで構成される。カメラ800が撮像した画像はPC500bに入力され、送信側環境151のPC500aに送信される。送信側環境151では、カメラ800で撮像された画像がPC500aに設けられた表示部506上にリアルタイムで表示される。本実施形態では、カメラ800により撮像された画像がHMD154の使用情報として用いられる。
本実施形態では、HMD154の使用情報として、受信者を撮像した画像を用いる場合について説明する。なお、第1の実施形態と同一の符号は、第1の実施形態と同様の処理を行うものとして適宜、説明は省略する。
図8は、第2の実施形態のシステムの全体構成の一例を示す模式図である。
本実施形態の受信側環境152は、HMD154を装着する受信者156を撮像するカメラ800を含んで構成される。カメラ800が撮像した画像はPC500bに入力され、送信側環境151のPC500aに送信される。送信側環境151では、カメラ800で撮像された画像がPC500aに設けられた表示部506上にリアルタイムで表示される。本実施形態では、カメラ800により撮像された画像がHMD154の使用情報として用いられる。
次に、上述したように構成されるシステムのうち、PC500aによる処理について図9のフローチャートを用いて説明する。なお、図9のフローチャートのうち、図6のフローチャートと同様の処理は、同一のステップ番号を付して適宜、説明を省略する。本実施形態では、S601とS603との間にS901とS902とが追加されている。
S901では、PC500aの制御部501は、受信者156を撮像しているカメラ800からの画像を通信部507を介して受信することで取得する。ここでは、カメラ800により撮像されている画像がPC500bに取り込まれ、PC500bに取り込まれた画像がPC500aに送信されることで、PC500aの制御部501はカメラ800からの画像を取得する。また、PC500aの制御部501は、受信した画像をPC500aに設けられた表示部506に表示する。
S902では、PC500aの制御部501は、カメラ800により撮像された画像に対して画像認識処理を行う。なお、S901およびS902は、S601と並行に処理してもよい。
S603では、PC500aの制御部501は、カメラ800により撮像された画像をHMD154の使用情報として用いて、受信側環境152のHMD154が使用中であるか否かを判定する。具体的には、制御部501は、カメラ800により撮像された画像を画像認識処理した結果からHMD154が使用中であるか否かを判定する。
例えば、HMD154の存在の有無を画像認識して、制御部501がHMD154の存在を認識できた場合にはHMD154が使用中であると判定し、HMD154の存在を認識できない場合にはHMD154が使用中ではないと判定する。
また、例えば、人間の瞳を画像認識して、制御部501が瞳を検出できない場合にはHMD154の使用中であると判定し、瞳が検出できた場合にはHMD154の使用中ではないと判定する。
また、例えば、人間の瞳を画像認識して、制御部501が瞳を検出できない場合にはHMD154の使用中であると判定し、瞳が検出できた場合にはHMD154の使用中ではないと判定する。
HMD154が使用中である場合にはS604に進み、使用中ではない場合にはS605に進む。以降のS604~S606の処理は、第1の実施形態と同様の処理であり説明を省略する。
以上のように本実施形態によれば、受信者156を撮像しているカメラ800からの画像に基づいて現在のHMD154の使用状態を判定する。したがって、HMD154の使用状態を精度よく判定することができる。なお、カメラ800はPC500bと一体で設けられていてもよいし、PC500bとは別体であってもよい。
<他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記録媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記録媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明を種々の実施形態と共に説明したが、本発明はこれらの実施形態にのみ限定されるものではなく、本発明の範囲内で変更等が可能である。
本実施形態では、画像の歪みが抑制される変換として、正距円筒変換する場合について説明したが、この場合に限られず、その他の変換をしてもよい。
本実施形態では、画像の歪みが抑制される変換として、正距円筒変換する場合について説明したが、この場合に限られず、その他の変換をしてもよい。
100:カメラ(撮像装置) 154:HMD(画像表示装置) 156:受信者 500a:PC(情報処理装置) 501:制御部 507:通信部
Claims (16)
- 受信者が装着する画像表示装置に画像を送信する情報処理装置であって、
前記画像を歪みが抑制されるように変換する変換手段と、
前記画像表示装置の使用状態を示す情報を取得する取得手段と、
前記取得手段により取得された使用状態を示す情報に応じて、前記変換手段により変換される前または前記変換手段により変換された後の画像を送信する送信手段と、
を有することを特徴とする情報処理装置。 - 前記送信手段は、
前記取得手段により取得された情報が、前記画像表示装置が使用されていないことを示す情報である場合には、前記変換手段により変換される前の画像を送信することを特徴とする請求項1に記載の情報処理装置。 - 前記送信手段は、
前記取得手段により取得された情報が、前記画像表示装置が使用されていないことを示す情報である場合には、前記変換手段により変換される前の画像を前記受信者が装着することなく視認可能な表示装置に表示させるように送信することを特徴とする請求項1または2に記載の情報処理装置。 - 前記送信手段は、
前記取得手段により取得された情報が、前記画像表示装置が使用されていないことを示す情報である場合には、前記変換手段により変換される前の画像の一部を送信することを特徴とする請求項1ないし3の何れか1項に記載の情報処理装置。 - 前記画像は、第1の光学系を介して撮像された画像と第2の光学系を介して撮像された画像とを含み、
前記送信手段は、
前記取得手段により取得された情報が、前記画像表示装置が使用されていないことを示す情報である場合には、前記変換手段により変換される前の画像であって、前記第1の光学系を介して撮像された画像および前記第2の光学系を介して撮像された画像のうち何れか一方の画像を送信することを特徴とする請求項1ないし4の何れか1項に記載の情報処理装置。 - 前記送信手段は、
前記取得手段により取得された情報が、前記画像表示装置が使用されていることを示す情報である場合には、前記変換手段により変換された後の画像を送信することを特徴とする請求項1ないし5の何れか1項に記載の情報処理装置。 - 前記画像は、魚眼レンズを介して撮像された画像であって、
前記変換手段は、前記撮像された画像を正距円筒変換することを特徴とする請求項1ないし6の何れか1項に記載の情報処理装置。 - 前記変換手段を、第1の変換手段とすると、
前記第1の変換手段とは異なる方式で前記画像を変換する第2の変換手段を有し、
前記送信手段は、
前記取得手段により取得された情報が、前記画像表示装置が使用されていないことを示す情報である場合には、前記第1の変換手段により変換される前であって、前記第2の変換手段により変換された後の画像を送信することを特徴とする請求項1ないし7の何れか1項に記載の情報処理装置。 - 前記第2の変換手段は、前記画像を透視投影変換することを特徴とする請求項8に記載の情報処理装置。
- 前記画像表示装置の使用状態を示す情報は、前記画像表示装置の電源のオンオフを示す情報であることを特徴とする請求項1ないし9の何れか1項に記載の情報処理装置。
- 前記画像表示装置の使用状態を示す情報は、前記画像表示装置の装着状態を示す情報であることを特徴とする請求項1ないし9の何れか1項に記載の情報処理装置。
- 前記画像表示装置の使用状態を示す情報は、前記受信者を撮像した画像であることを特徴とする請求項1ないし9の何れか1項に記載の情報処理装置。
- 前記送信手段は、
前記変換手段により変換された後の画像を、前記画像表示装置を制御する外部装置を介して前記画像表示装置に送信することを特徴とする請求項1ないし12の何れか1項に記載の情報処理装置。 - 前記画像表示装置は、ユーザの頭部に装着される表示装置であることを特徴とする請求項1ないし13の何れか1項に記載の情報処理装置。
- 受信者が装着する画像表示装置に画像を送信する情報処理装置の制御方法であって、
前記画像を歪みが抑制されるように変換する変換ステップと、
前記画像表示装置の使用状態を示す情報を取得する取得ステップと、
前記取得ステップにより取得された使用状態を示す情報に応じて、前記変換ステップにより変換される前または前記変換ステップにより変換された後の画像を送信する送信ステップと、
を有することを特徴とする制御方法。 - コンピュータを、請求項1ないし14の何れか1項に記載された情報処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022003713A JP2023102947A (ja) | 2022-01-13 | 2022-01-13 | 情報処理装置、その制御方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022003713A JP2023102947A (ja) | 2022-01-13 | 2022-01-13 | 情報処理装置、その制御方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023102947A true JP2023102947A (ja) | 2023-07-26 |
Family
ID=87377571
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022003713A Pending JP2023102947A (ja) | 2022-01-13 | 2022-01-13 | 情報処理装置、その制御方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023102947A (ja) |
-
2022
- 2022-01-13 JP JP2022003713A patent/JP2023102947A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7442330B2 (ja) | 音声入力装置およびその制御方法ならびにプログラム | |
US11949977B2 (en) | Electronic equipment, method for controlling the same, and recording medium | |
US11849100B2 (en) | Information processing apparatus, control method, and non-transitory computer readable medium | |
JP2023102947A (ja) | 情報処理装置、その制御方法およびプログラム | |
US20230209177A1 (en) | Imaging apparatus | |
US11843894B2 (en) | Electronic apparatus, method of controlling the same, and storage medium | |
JP2021069045A (ja) | 表示制御装置、表示制御方法、プログラムおよび記憶媒体 | |
US20240073511A1 (en) | Electronic apparatus, control method for electronic apparatus and storage medium | |
EP4307660A1 (en) | Information processing apparatus, information processing method, and program | |
US20220385877A1 (en) | Electronic equipment, control method therefor, and storage medium | |
US20230384236A1 (en) | Information processing apparatus, imaging apparatus, information processing method, and non-transitory computer readable medium | |
JP2023184106A (ja) | 表示制御装置、表示制御方法、プログラム、および記憶媒体 | |
US20220398688A1 (en) | Image processing apparatus, image processing method, and storage medium | |
US20230300453A1 (en) | Electronic apparatus, control method of electronic apparatus, and non-transitory computer readable medium | |
US20220385830A1 (en) | Electronic apparatus, control method, and non-transitory computer readable medium | |
US20220385829A1 (en) | Information processing apparatus, control method, and storage medium | |
JP2024030580A (ja) | 電子機器および電子機器の制御方法 | |
JP2021158559A (ja) | 電子機器、その制御方法およびプログラム | |
JP2023181634A (ja) | 電子機器、電子機器の制御方法、プログラム | |
JP2022183844A (ja) | 電子機器及びその制御方法及びプログラム及び記録媒体 | |
JP2023129925A (ja) | 電子機器、電子機器の制御方法、プログラム、および記憶媒体 | |
JP2022184712A (ja) | 情報処理装置、撮像装置、制御方法、プログラム、および記憶媒体 | |
JP2022184139A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2023083876A (ja) | 制御装置、制御方法およびプログラム | |
JP2022191143A (ja) | 画像処理装置および画像処理方法 |