JPWO2016208539A1 - 双眼立体視画像の提供方法、配信装置及びカメラユニット - Google Patents

双眼立体視画像の提供方法、配信装置及びカメラユニット Download PDF

Info

Publication number
JPWO2016208539A1
JPWO2016208539A1 JP2017524895A JP2017524895A JPWO2016208539A1 JP WO2016208539 A1 JPWO2016208539 A1 JP WO2016208539A1 JP 2017524895 A JP2017524895 A JP 2017524895A JP 2017524895 A JP2017524895 A JP 2017524895A JP WO2016208539 A1 JPWO2016208539 A1 JP WO2016208539A1
Authority
JP
Japan
Prior art keywords
screen
omnidirectional
eye
screens
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017524895A
Other languages
English (en)
Other versions
JP6845506B2 (ja
Inventor
健吾 市來
健吾 市來
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZENKEI KABUSHIKI KAISHA
Original Assignee
ZENKEI KABUSHIKI KAISHA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZENKEI KABUSHIKI KAISHA filed Critical ZENKEI KABUSHIKI KAISHA
Publication of JPWO2016208539A1 publication Critical patent/JPWO2016208539A1/ja
Application granted granted Critical
Publication of JP6845506B2 publication Critical patent/JP6845506B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/04Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • H04N13/279Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/001Constructional or mechanical details

Abstract

【課題】カメラの設置場所における全方位かつ全高さの双眼立体視画像を提供する技術手段に関し、複数のカメラで撮影した画面を繋ぎ合わせるという時間のかかる処理を不要にして、全天球双眼立体視ライブ動画を配信可能にする。【解決手段】観察しようとする地点に正多角形の各頂点位置に複数の全天球カメラを配置したカメラユニット1を設置する。複数のカメラが撮影した同一タイミングの撮影画面Bi(i=1〜n)を一組の画面Cにして観察装置に提供する。観察装置は、観察者が観察する方向に応じて、一組の画面Cから当該方向を挟む2個の撮影画面Bi、Bi±1を左目用及び右目用の画面として選択し、選択した撮影画面からディスプレイに表示する画面を切り出して表示する。【選択図】図3

Description

この発明は、カメラの設置場所における全天球(全方位かつ全高さ)ないし全方位(全周)の双眼立体視画像を提供する方法、当該画像を観察する装置及びカメラユニットに関するものである。
本願出願人は、特許文献1において、カメラ設置場所の全方位の双眼立体視画像を提供する方法を開示している。この方法は、複数個の全方位カメラを人間の両眼の間隔に相当する間隔で配置し、これらのカメラが取得した全方位画面からそれぞれのカメラが分担する左目用と右目用の表示画面を切り出して繋ぎ合わせることによって、左目用と右目用の全方位画面を生成する。そして、それぞれの全方位画面から観察者が見ようとする方向の左目用と右目用の矩形画面を切り出して、観察者のディスプレイに表示するというものである。
また、カメラ設置場所の全天球画像を撮影するカメラは、例えば特許文献2に開示されている。この種のカメラは、通常、複数の魚眼レンズで撮影した画像を、レンズの向きなどに関わりなく、上辺が真上で下辺が真下の全方位(360度)かつ全高さ(180度)の、高さ:幅が1:2の、矩形画像に変換して出力している。
特許第4183466号公報 特開2013−66163号公報
特許文献1で提案した方法は、複数のカメラで撮影した画像を繋ぎ合わせて左目用と右目用の全方位画面を作成している。撮影中心や撮影方向の異なる2つのカメラの画面を繋ぎ合わせると、その繋ぎ目の所で撮影対象物の画像に微小なずれが生ずる。そのため、画面を繋ぎ合わせる際に、このずれを補正するための補正処理を行わねばならない。
しかし、カメラから撮影対象物までの距離によって繋ぎ目におけるずれの量が異なるので、補正が困難である。更に、この補正には複雑な処理が必要で、処理に時間がかかるため、動画を提供しようとすると処理量が膨大になり、ライブ動画を提供することができない。
この発明は、撮影方向が異なる複数のカメラで撮影した全天球ないし全方位の画面を繋ぎ合わせるという処理を行うことなく、全天球ないし全方位の双眼立体視画像を配信する手段を提供することを課題としている。この発明により、全天球ないし全方位の双眼立体視ライブ動画を配信することが可能になる。
一辺の長さを人間の両眼の間隔に等しいか又は立体視が不自然とならない範囲で広くした正多角形の各頂点位置に、全方位ないし全天球カメラAi(i=1〜n)を配置する。各カメラAiが撮影した同一タイミングの撮影画面Biを一組の画面Cにして観察装置3に提供する。
全天球画像を提供するときは、複数のカメラAi(i=1〜n)及びこれらを保持するホルダ11は、前記正多角形の中心Oから各カメラの撮影中心Pを通る方向を中心とする横方向に(2×360/n)+α度の領域外で、かつ、高さ方向に180+β度の領域外に位置させる。ここで、αは、観察装置3のディスプレイ31(31l、31r)の観察者に対する横方向の視野角、βは、同高さ方向の視野角、nは、正多角形の角数である。これにより、観察装置3は、カメラAiやホルダ11が写っていない全天球双眼立体視画像をディスプレイ31に表示することができる。
提供する画像が全方位画像のときは、高さ方向については、複数のカメラAi及びホルダ11をβ度の領域外に位置させれば良い。
一組の画面Cの提供を受けた観察装置は、観察者の観察方向を検出し、一組の画面Cから検出した方向を挟む2個の撮影画面Bi、Bi±1を左目用及び右目用の画面として選択し、選択した画面から前記検出した方向を中心としかつ観察装置が備えるディスプレイ31l、31rの横方向の視野角αに相当する幅w及び高さ方向の視野角に相当する高さhを備えた表示画面Dl、Drを切り出してディスプレイ31l、31rに表示する。
通常、一組の画面の提供は、画像配信用のサーバ2によってインターネット4を介して行われる。インターネット4を介して一組の画面Cを受信する観察装置3は、当該画像の受信手段32と、左目用と右目用の画像を表示するための2個のディスプレイ31l、31rと、ゴーグルが向く方向(全天球画像を受信するときは横方向及び高さ方向、全方位画像を受信するときは少なくとも横方向)を検出する方向検出手段33と、方向検出手段33が検出した方向に応じて一組の画面Cから左目用と右目用の画面を選択する画面選択手段34と、選択した画面Bi、Bi±1から左目用と右目用の表示画面Dl、Drを切り出す画面切り出し手段35と、切り出した画面をディスプレイに表示する表示手段36とを備えている。
この発明により、それぞれの方向の画像の撮影を受け持つ複数のカメラが撮影した画面を繋ぎ合わせることなく、観察装置の方向に応じた全天球ないし全方位の画像を遠隔地で観察できる。
そして、画面の繋ぎ処理を必要としないので、画像データの複雑な処理が不要となり、データ処理に時間がかからないため多数の画像を次々と配信しなければならないライブ動画の提供が可能になるという効果がある。
ハードウェアの全体構成図 カメラユニットの斜視図 サーバーにおける画像の変換を示す図 観察装置における画像処理手段を示す図 各カメラの撮影範囲を示すカメラユニットの平面図 各カメラの撮影範囲を示すカメラユニットの側面図 撮影画面からの表示画面の切り出しを示す説明図 撮影画面がどのように選択されるかを示す説明図 レンズ間隔を可変にしたカメラユニットの一例を示す側面図
以下、図面を参照してこの発明の実施形態を説明する。図1において、1はカメラユニット、2は画像配信用のコンピュータ(以下「配信サーバ」という)、3、3・・・は配信された画像の観察装置(立体視用端末。以下「ゴーグル」という)、4はインターネットである。
カメラユニット1は、図2に拡大して示すように、ホルダ11にn個(図では6個)の全天球カメラAi(i=1〜n)を放射状に取り付けた構造で、図2のホルダ11は、支柱15の上端に取り付けられている。各カメラAiが撮影した静止画及び動画は、それぞれのカメラに接続したケーブル12で配信サーバ2に送られている。各カメラAiは、複数のレンズ(図では2個)13、14を備えており、レンズ間の中心点を撮影中心とする全天球画像を撮影する。
双眼立体視画像を得るためには、少なくとも2個のカメラが必要である。各カメラAiの撮影画像には自分自身は写らないが、隣接して配置される他のカメラやカメラを保持しているホルダ11は映る。複数のカメラAiは、隣接するカメラやホルダが写っている複数の画像から、隣接するカメラやホルダが写っていない右目用と左目用の全天球画像が得られるようにホルダ11に装着されている。
図の例では、各カメラAiは、そのレンズ13、14の光軸を同一平面上にして、それらの光軸が当該平面上の正多角形の各辺の方向を向くように取り付けられている。ホルダ11は、複数のカメラAiの配置中心に位置しており、あるカメラの撮影画像中のホルダや隣接するカメラが写り込んでいる方角が他のカメラの撮影画像で補填されるように、複数個のカメラAiが取り付けられている。複数のカメラAiは、静止画であれ動画であれ、同一のタイミングで撮影動作を行うように同期制御されている。
配信サーバ2は、図3に示すように、カメラユニットのn個の各カメラAiが同時に撮影したn個の撮影画面Biを受信し、それらを一組の画面Cにしてインターネット4を介してゴーグル3・・・に配信する。複数のカメラAiには同時に撮影信号が与えられるが、カメラの性能によっては、正確にタイミングの一致した撮影を行うことができない場合がある。そのような場合には、複数の撮影画面Biを一組の画面Cとする前に、撮影タイミングのずれを修正するための補正を行う。例えば短い時間間隔で撮られた画像間のずれから、タイミングがずれた分の画像の変位を演算して画像を補正する。
ゴーグル3は、左目用と右目用のディスプレイ31l、31rと、ジャイロと角加速度計や、水準器とコンパスなど、ゴーグルを付けた観察者が見る方向、少なくとも見る方向の変化を検出する方向検出手段33を備えている。ゴーグル3は、更に、方向検出手段33が検出した方向に応じて一組の画面C内のn個の撮影画面Biから左目用と右目用の画面を選択する画面選択手段34と、選択した画面から左目用と右目用のディスプレイに映し出す表示画面Dl、Drを切り出す画面切り出し手段35と、切り出した画面をそれぞれのディスプレイ31l、31rに表示する表示手段36とを備えている。
カメラユニット1が、図5に示すように、カメラA1とA2の2等分線の方向Nを基準方向である北に向けて設置されているとする。ゴーグル3がコンパスを備えていれば、基準方向からの自分自身の向きを検出できるので、その向いている方向の両側に配置されたカメラを右目用と左目用の撮影画面Bi、Bi±1として選択し、画面切り出し手段35は、それぞれの画面B1、B2から左右のディスプレイ31l、31rに映し出す幅wと高さhの表示画面Dl、Drを切り出す。
ゴーグル3が角加速度計と水準器を備えており、電源が投入されたときのゴーグルの向きを基準方向に設定する仕様であれば、観察者がゴーグルの電源を入れたとき、画面選択手段34は、受信した一組の画面Cから、カメラA1の撮影画面B1を左目用の画面、カメラA2の撮影画面B2を右目用の画面として選択し、画面切り出し手段35は、それぞれの画面B1、B2から左右のディスプレイ31l、31rに映し出す幅wと高さhの表示画面Dl、Drを切り出す。
全ての撮影画面Bの幅中心をカメラユニットの基準方向Nにすれば、図7(a)に示すように、ゴーグルが基準方向を向いているときに切り出される左目用と右目用の表示画面Dl、Drは、それぞれの撮影画面B1、B2の幅中心を幅中心として切り出される。
図及び以下の記述では、切り出される画面を単純な矩形や扇形としているが、ゴーグルのディスプレイは単純な矩形ばかりでなく、また、ゴーグルには通常、接眼レンズが付いていてディスプレイ上の画像に歪みが生じることもあるので、切り出す画面Dl、Drは、それぞれのディスプレイや接眼レンズに応じた形状で切り出される。
全天球双眼立体視用のゴーグルでは、その横方向の向きを変えないでゴーグルを上方に向けると、切り出される表示画面Dlu、Druは上方に移動するが、球面を円筒面に展開している関係上、ゴーグルを上方に向けたときに切り出される画面は、上に向けるに従って横方向に広がり、かつ上辺が下辺より広い扇形に変形した画面Dlu、Druとなる。ゴーグルを水平から下方に向けたときは、横方向に広がった下辺が上辺より長い扇形に変形した画面Dld、Drdとなる。
表示手段36は、赤道上から切り出された画面Dl、Drをゴーグルの画角や接眼レンズに応じた適切な画像に変換してディスプレイ31l、31rに表示する。上方又は下方に向けた全天球双眼立体視用のゴーグルでは、幅広い扇形に切り出された画面DluとDru又はDldとDrdは、赤道上の表示画面Dl、Drと同じ縦横比の画面に変換してそれぞれのディスプレイに表示する。
ゴーグル3の方向を基準方向Nから右回りに移動させると、撮影画面B1とB2から切り出す表示画面Dl、Drの中心もゴーグルの向く方向に従って右へと移動する。ゴーグルの方向が同一高さの横方向のみの変化であれば、切り出される表示画面の幅wは一定である。カメラが6個の場合は、ゴーグルの方向が基準方向から左右に30度(±30度)の方向である間は、左目用と右目用の表示画面Dl、Drは、それぞれ撮影画面B1、B2からゴーグルが向いている方向を幅中心にして切り出される。
ゴーグル3の方向が基準方向Nから±360/2n度(カメラAiの配置間隔の半分の角度、n=6では±30度)を超えたとき、撮影画面の変換が行われる。すなわち、カメラが6個の場合、ゴーグルの移動方向が右方向に30度を超えると、今まで右目用であった撮影画面B2が左目用の画面として選択され、右目用の画面としてカメラA2の1つ右側のカメラA3の撮影画面B3が選択される。更にゴーグルの向きが変わり、右回りに90度を超えたとき、左目用として撮影画面B3が選択され、右目用として撮影画面B4が選択される。図7(b)は、ゴーグルが基準方向Nから右回りにθ=120度移動したときの、選択される撮影画面と切り出し画面とが図7(a)からどのように変化するかを示している。
同様に、ゴーグルの方向が当初の方向から左方向に30度を超えたときには、左目用として撮影画面B6が選択され、右目用として撮影画面B1が選択され、更に移動して左方向に90度超えたときには左目用として撮影画面B5が選択され、右目用として撮影画面B6が選択されることになる。
全ての撮影画面Biをカメラユニットの基準方向Nを幅中心にして作成すれば、どの撮影画面が選択されているかに関わらず、切り出す表示画面Dl、Drの幅中心は、ゴーグルが向いている方向である。
図8は、カメラが6個の場合について、ゴーグルの方向と撮影画面Bi(i=1〜6)の選択状態がどのようになるかを示した図である。図5に示すように、それぞれのカメラAi(i=1〜n)は、ゴーグルの水平方向の視野角をαとして、(2×360/n)+α度の領域、ここではn=6なので120+α度の領域を受け持っている。
すなわち、各カメラAiが向いている方向から右回りに60度の範囲がその右隣のカメラと対となって左目用の画像を撮影する範囲L、右回りに60度の範囲がその左隣のカメラと対となって右目用の画像を撮影する範囲Rであり、切り出す表示画面の幅wの視野角がαなので、これらの範囲の外にα/2広げた範囲(2×360/n)+αが各カメラAiが受け持つ撮影範囲となる。
各カメラの上記の受け持ち領域は、赤道上での領域である。全天球双眼立体視用のゴーグルでは、ゴーグルを上方や下方に向けたときに表示画面として撮影画面から切り取られる角度幅αが広がるので受け持つ領域も広がることになる。隣のカメラやホルダは、この各カメラが受け持つ領域内に写り込まないように、ホルダの形状寸法及びカメラの個数を決めれば良い。
ゴーグル3を真上及び真下に向けたときに切り出される画面にホルダ11が写り込まないようにするためには、ゴーグル3の高さ方向の視野角をβとして、高さ方向に180度+β度の領域にホルダ11が入り込まない大きさ及び形状とする(図6参照)。これにより、ゴーグルを真上及び真下に向けたとき、撮影画面を変換しないでゴーグル3が備える高さ方向の視野角βの画像をディスプレイに表示することができる。ゴーグルが真上及び真下を超えて移動したときは、その時点で選択されている撮影画面が変更されることになる。
上記の説明で理解されるように、各カメラの撮影した画面のなかにはゴーグルのディスプレイに表示されることのない範囲が存在する。従って、使用するカメラは、完全な全天球ないし全方位を撮影できるカメラに限らず、一部が欠けた全天球ないし全方位カメラであっても良い。例えば真下部分の頂角60度の円錐部分が写らない全天球カメラであっても、直下の方向をホルダ中心の方向にして配置して配信サーバでその方向を変換するようにすれば、この発明の全天球双眼立体視画像を提供できる。
ホルダ11は、支柱15やヘルメットに取り付けられるが、このときの支柱15やヘルメットを装着している人の体などは、ゴーグルで観察する画像に写ることになる。この支柱やヘルメットは、人が現場で観察する場合も当然視野に入ることとなるので、これらが写り込んだ画像は、むしろ自然な画像であり、通常では、全天球画像や全方位画像を提供することの障害になることはない。
また、飛翔体にホルダ11を搭載して空中での全天球双眼立体視画像を提供することが可能である。この場合、小型の飛翔体であれば、ホルダ及び飛翔体を上述したカメラの横方向及び高さ方向の領域に入らない大きさ及び形状とし、撮影画面を無線で配信サーバーに送信すれば、空中からの双眼立体視画像を提供できる。
このように、ゴーグルの向いている方向が60度(カメラの配置個数が6個の場合)変化する毎に左目用と右目用の撮影画面を、ゴーグルが向く方向の左側と右側のカメラの撮影画面とし、これらの撮影画面からゴーグルが向いている方向を幅中心として、ゴーグルに備えられているディスプレイの視野角に相当する幅w(横方向の角度α)、高さh(高さ方向の角度β)の表示画面を切り出して、左目用と右目用のディスプレイに表示することにより、全方位ないし全方位かつ全高さの双眼立体視が可能になるのである。
なお、表示画面を切り取る元となる撮影画面の切り換えは、図8の例では基準方向Nから±30度、±90度、±150度の方向で行われるが、必ずしも常にこれらの角度で撮影画面の切り換えを行わねばならない訳ではない。各撮影画面Biは、全方位の画面なので、例えば撮影画面B1から基準方向Nから35度右へ移動した表示画面を切り出すことも可能だからである。従って、ゴーグルの動きに対して少し時間遅れを与えて切り換えるようにすれば、ゴーグルが撮影画面を切り換える方向を向いているときのゴーグルの僅かな移動や振動によって、画像が頻繁に切り換えられるのを防止することができる。また、この切り換えの際に、短い時間でのフェードインとフェードアウトをしながら切り換えるようにして、画像が滑らかに切り換えられるようにすることもできる。
複数のカメラAの隣のカメラとのレンズ間距離は、人間の両眼の間隔を基準とするが、撮影対象物やゴーグルの仕様によっては、この距離を少し広げた方が自然な立体視に見える場合がある。このことを考慮すると、ホルダ11として隣のカメラとのレンズ間間隔を調整できるような構造のホルダを用いることが考えられる。
そのようなホルダの構造として、例えばそれぞれのカメラを放射方向に摺動自在に取り付けて、円錐形のコーンの進退動作によって、レンズ間距離を可変にする構造などが考えられる。例えば図9に示すように、ホルダベース11aに放射方向に摺動自在に取り付けた支持台16に各カメラを搭載し、これらの支持台を縮退方向(放射方向内側へと移動する方向)に付勢するばね17を設け、ホルダ中心に設けたねじ18に螺合したコーン(円錐部材)19に支持台16の基端を当接させる構造である。
コーン19を回すと、ねじ作用によりコーンは上下する。コーン19を左向きに回してコーン19を上昇すれば、支持台16及びこれに取り付けたカメラAは、放射方向外側へと移動し、コーン19を右向きに回して下降すれば、ばね17の力によって支持台16及びこれに取り付けたカメラAは、放射方向内側へ移動するから、隣接するカメラ相互のレンズ間隔を調整することが可能である。
なお、全天球画面の一部が全方位画面となることから理解されるように、この発明により、全方位画像の配信も行うことが可能で、カメラとして全方位カメラを用いて、全方位の双眼立体視画像を提供することもできる。
1 カメラユニット
2 サーバ
3 観察装置
4 インターネット
11 カメラホルダ
31l、31r ディスプレイ
32 受信手段
33 方向検出手段
34 画面選択手段
35 画面切り出し手段
36 表示手段
Ai(i=1〜n) 全天球カメラ
Bi(i=1〜n)撮影画面
C 一組の画像
Dl、Dr 表示画面
h 表示画面の高さ
w 表示画面の幅
α 横方向の視野角
β 高さ方向の視野角
【0001】
技術分野
[0001]
この発明は、カメラの設置場所における全天球(全方位かつ全高さ)ないし全方位(全周)の双眼立体視画像を提供する方法、当該画像を配信する装置及びカメラユニットに関するものである。
背景技術
[0002]
本願出願人は、特許文献1において、カメラ設置場所の全方位の双眼立体視画像を提供する方法を開示している。この方法は、複数個の全方位カメラを人間の両眼の間隔に相当する間隔で配置し、これらのカメラが取得した全方位画面からそれぞれのカメラが分担する左目用と右目用の表示画面を切り出して繋ぎ合わせることによって、左目用と右目用の全方位画面を生成する。そして、それぞれの全方位画面から観察者が見ようとする方向の左目用と右目用の矩形画面を切り出して、観察者のディスプレイに表示するというものである。
[0003]
また、カメラ設置場所の全天球画像を撮影するカメラは、例えば特許文献2に開示されている。この種のカメラは、通常、複数の魚眼レンズで撮影した画像を、レンズの向きなどに関わりなく、上辺が真上で下辺が真下の全方位(360度)かつ全高さ(180度)の、高さ:幅が1:2の、矩形画像に変換して出力している。
先行技術文献
特許文献
[0004]
特許文献1:特許第4183466号公報
特許文献2:特開2013−66163号公報
発明の概要
発明が解決しようとする課題
【0002】
[0005]
特許文献1で提案した方法は、複数のカメラで撮影した画像を繋ぎ合わせて左目用と右目用の全方位画面を作成している。撮影中心や撮影方向の異なる2つのカメラの画面を繋ぎ合わせると、その繋ぎ目の所で撮影対象物の画像に微小なずれが生ずる。そのため、画面を繋ぎ合わせる際に、このずれを補正するための補正処理を行わねばならない。
[0006]
しかし、カメラから撮影対象物までの距離によって繋ぎ目におけるずれの量が異なるので、補正が困難である。更に、この補正には複雑な処理が必要で、処理に時間がかかるため、動画を提供しようとすると処理量が膨大になり、ライブ動画を提供することができない。
[0007]
この発明は、撮影方向が異なる複数のカメラで撮影した全天球ないし全方位の画面を繋ぎ合わせるという処理を行うことなく、全天球ないし全方位の双眼立体視画像を配信する手段を提供することを課題としている。この発明により、カメラやカメラを保持するホルダが写っていない全天球ないし全方位の双眼立体視ライブ動画を配信することが可能になる。
課題を解決するための手段
[0008]
一辺の長さを人間の両眼の間隔に等しいか又は立体視が不自然とならない範囲で広くした正多角形の各頂点位置に、全方位ないし全天球カメラAi(i=1〜n)を配置する。各カメラAiが撮影した同一タイミングの撮影画面Biを一組の画面Cにして観察装置3に提供する。
[0009]
全天球画像を提供するときは、複数のカメラAi(i=1〜n)及びこれらを保持するホルダ11は、前記正多角形の中心Oから各カメラの撮影中心Pを通る方向を中心とする横方向に(2×360/n)+α度の領域外で、かつ、高さ方向に180+β度の領域外に位置させる。ここで、αは、観察装置3のディスプレイ31(31l、31r)の観察者に対する横方向の視野角、βは、同高さ方向の視野角、nは、正多角形の角数である。これにより、観察装置3は、カメラAiやホルダ11が写っていない全天球双眼立体視画像をディスプレイ31に表示することができる。
提供する画像が全方位画像のときは、高さ方向については、複数のカメラ
【0003】
Ai及びホルダ11をβ度の領域外に位置させれば良い。
[0010]
一組の画面Cの提供を受けた観察装置は、観察者の観察方向を検出し、一組の画面Cから検出した方向を挟む2個の撮影画面Bi、Bi±1を左目用及び右目用の画面として選択し、選択した画面から前記検出した方向を中心としかつ観察装置が備えるディスプレイ31l、31rの横方向の視野角αに相当する幅w及び高さ方向の視野角に相当する高さhを備えた表示画面Dl、Drを切り出してディスプレイ31l、31rに表示する。
[0011]
通常、一組の画面の提供は、画像配信用のサーバ2によってインターネット4を介して行われる。インターネット4を介して一組の画面Cを受信する観察装置3は、当該画像の受信手段32と、左目用と右目用の画像を表示するための2個のディスプレイ31l、31rと、ゴーグルが向く方向(全天球画像を受信するときは横方向及び高さ方向、全方位画像を受信するときは少なくとも横方向)を検出する方向検出手段33と、方向検出手段33が検出した方向に応じて一組の画面Cから左目用と右目用の画面を選択する画面選択手段34と、選択した画面Bi、Bi±1から左目用と右目用の表示画面Dl、Drを切り出す画面切り出し手段35と、切り出した画面をディスプレイに表示する表示手段36とを備えている。
発明の効果
[0012]
この発明により、それぞれの方向の画像の撮影を受け持つ複数のカメラが撮影した画面を繋ぎ合わせることなく、観察装置の方向に応じた全天球ないし全方位の画像であって当該画像にカメラやカメラを保持するホルダが写っていない画像を遠隔地で観察できる。
[0013]
そして、画面の繋ぎ処理を必要としないので、画像データの複雑な処理が不要となり、データ処理に時間がかからないため多数の画像を次々と配信しなければならないライブ動画の提供が可能になるという効果がある。
図面の簡単な説明
[0014]
[図1]ハードウェアの全体構成図
[図2]カメラユニットの斜視図
[図3]サーバーにおける画像の変換を示す図

Claims (9)

  1. 全方位ないし全方位かつ全高さにおける双眼立体視画像を提供する双眼立体視画像の提供方法であって、
    隣接するカメラ相互のレンズ間間隔を略両眼の間隔とした正多角形の頂点位置に全方位ないし全天球カメラを配置し、
    各カメラが撮影した同一タイミングの全方位ないし全天球画面を一組の画面として観察装置に提供し、
    観察装置は、観察する方向を検出したときに、
    提供された前記一組の画面から当該方向を挟む2個のカメラの撮影画面を左目用及び右目用の撮影画面として選択し、当該選択した撮影画面から前記方向を中心としかつ観察装置が備えるディスプレイの視野角に相当する幅及び高さを備えた表示画面を切り出して当該ディスプレイに表示する、双眼立体視画像の提供方法。
  2. 前記一組の画面を複数の観察装置にインターネットを介して提供する、請求項1記載の双眼立体視画像の提供方法。
  3. 双眼立体視画像が動画像である、請求項1又は2記載の双眼立体視画像の提供方法。
  4. 左目用と右目用の画像を表示するための2個のディスプレイと、方向検出手段と、複数のカメラが撮影した全方位ないし全天球画面を一組として受信する受信手段と、方向検出手段が検出した方向に応じて前記一組の画面から左目用と右目用の画面を選択する画面選択手段と、選択した画面から前記方向を幅中心とする左目用と右目用の表示画面を切り出す画面切り出し手段と、切り出した画面をそれぞれのディスプレイに表示する表示手段とを備えている、双眼立体視画像の観察装置。
  5. 前記受信手段がn個の全方位ないし全天球画面を一組として受信しているとき、前記画面選択手段は、前記方向検出手段の検出方向が現に選択している左目用と右目用の画面の中心の方向から360/2n度を超えたときに、選択する左目用と右目用の画面を変更する、請求項4記載の双眼立体視画像の観察装置。
  6. 前記画面選択手段は、前記方向検出手段の検出方向が現に選択している左目用と右目用の画面の中心の方向から右方向に360/2n度を超えたときに、現に選択している右目用の画面を左目用の画面として選択し、左方向に360/2n度を超えたときに、現に選択している左目用の画面を右目用の画面として選択する、請求項5記載の双眼立体視画像の観察装置。
  7. 切り出し手段が、前記選択された撮影画面から方向検出手段が検出した高さ方向に応じた扇形の画面を切り出し、表示手段が、当該扇形の画面を高さ0における形状の画面に変換して表示する、請求項4、5又は6記載の双眼立体視画像の観察装置。
  8. 観察者に対する横方向の視野角がα、高さ方向の視野角がβのディスプレイを備えた請求項4記載の観察装置に提供する画像を撮影するカメラユニットであって、角数がnの正多角形の頂点位置に配置されたn個の全方位カメラを保持するホルダを備え、当該ホルダ及び各カメラは、前記正n角形の中心から各カメラの撮影中心Pを通る放射方向を中心とする横方向に(2×360/n)+α度の領域外及び高さ方向にβ度の領域外に配置されている、全方位双眼立体視画像を提供するためのカメラユニット。
  9. 観察者に対する横方向の視野角がα、高さ方向の視野角がβのディスプレイを備えた請求項4記載の観察装置に提供する画像を撮影するカメラユニットであって、角数がnの正多角形の頂点位置に配置されたn個の全天球カメラを保持するホルダを備え、当該ホルダ及び各カメラは、前記正n角形の中心から各カメラの撮影中心Pを通る放射方向を中心とする横方向に(2×360/n)+α度の領域外及び高さ方向に180+β度の領域外に配置されている、全天球双眼立体視画像を提供するためのカメラユニット。
JP2017524895A 2015-06-22 2016-06-20 双眼立体視画像の提供方法、配信装置及びカメラユニット Active JP6845506B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015124978 2015-06-22
JP2015124978 2015-06-22
PCT/JP2016/068272 WO2016208539A1 (ja) 2015-06-22 2016-06-20 双眼立体視画像の提供方法、観察装置及びカメラユニット

Publications (2)

Publication Number Publication Date
JPWO2016208539A1 true JPWO2016208539A1 (ja) 2018-05-24
JP6845506B2 JP6845506B2 (ja) 2021-03-24

Family

ID=57585719

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017524895A Active JP6845506B2 (ja) 2015-06-22 2016-06-20 双眼立体視画像の提供方法、配信装置及びカメラユニット

Country Status (5)

Country Link
US (1) US20180184067A1 (ja)
EP (1) EP3313071A4 (ja)
JP (1) JP6845506B2 (ja)
CN (1) CN107646193B (ja)
WO (1) WO2016208539A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111670577A (zh) * 2018-02-09 2020-09-15 索尼公司 图像处理装置、图像处理方法和图像处理程序
WO2020104989A1 (en) * 2018-11-22 2020-05-28 Slovenská Technická Univerzita V Bratislave Arrangement of multiple cameras in a multi-directional stereo camera system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08191419A (ja) * 1995-01-10 1996-07-23 Yamaha Corp 頭部装着型表示システム
US20040027451A1 (en) * 2002-04-12 2004-02-12 Image Masters, Inc. Immersive imaging system
US20070024701A1 (en) * 2005-04-07 2007-02-01 Prechtl Eric F Stereoscopic wide field of view imaging system
JP2013033321A (ja) * 2011-08-01 2013-02-14 Dainippon Printing Co Ltd 動画提示装置
JP2014095808A (ja) * 2012-11-09 2014-05-22 Nintendo Co Ltd 画像生成方法、画像表示方法、画像生成プログラム、画像生成システム、および画像表示装置
JP2014131154A (ja) * 2012-12-28 2014-07-10 Pioneer Electronic Corp 映像処理装置、映像受信装置、映像送信装置及び映像処理方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5020398B1 (ja) * 2011-06-29 2012-09-05 パナソニック株式会社 画像変換装置、カメラ、画像変換方法およびプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08191419A (ja) * 1995-01-10 1996-07-23 Yamaha Corp 頭部装着型表示システム
US20040027451A1 (en) * 2002-04-12 2004-02-12 Image Masters, Inc. Immersive imaging system
US20070024701A1 (en) * 2005-04-07 2007-02-01 Prechtl Eric F Stereoscopic wide field of view imaging system
JP2013033321A (ja) * 2011-08-01 2013-02-14 Dainippon Printing Co Ltd 動画提示装置
JP2014095808A (ja) * 2012-11-09 2014-05-22 Nintendo Co Ltd 画像生成方法、画像表示方法、画像生成プログラム、画像生成システム、および画像表示装置
JP2014131154A (ja) * 2012-12-28 2014-07-10 Pioneer Electronic Corp 映像処理装置、映像受信装置、映像送信装置及び映像処理方法

Also Published As

Publication number Publication date
JP6845506B2 (ja) 2021-03-24
WO2016208539A1 (ja) 2016-12-29
EP3313071A4 (en) 2019-01-23
CN107646193A (zh) 2018-01-30
CN107646193B (zh) 2020-01-21
EP3313071A1 (en) 2018-04-25
US20180184067A1 (en) 2018-06-28

Similar Documents

Publication Publication Date Title
CN107111928B (zh) 远程控制作业机用显示系统
US20170269367A1 (en) Microlens array-based near-eye display (ned)
US11184597B2 (en) Information processing device, image generation method, and head-mounted display
EP2569951B1 (en) System and method for multi-viewpoint video capture
US10416757B2 (en) Telepresence system
IL139995A (en) System and method for spherical stereoscopic photographing
CN104823105A (zh) 用于照相机的可变三维适配器组件
JP2018110295A5 (ja)
CN101285935A (zh) 用于图像显示器的防晕装置
CN107333051B (zh) 一种室内全景视频生成方法及装置
ES2824049T3 (es) Sistema y método para la monitorización remota de al menos un área de observación
EP3729166A1 (en) Head-mountable apparatus and methods
WO2016208539A1 (ja) 双眼立体視画像の提供方法、観察装置及びカメラユニット
US11833698B2 (en) Vision system for a robot
US20130021448A1 (en) Stereoscopic three-dimensional camera rigs
US20120154543A1 (en) Document camera, method for controlling document camera, program, and display processing system
CN205318020U (zh) 一种头戴显示设备
JP2011141381A (ja) 立体画像表示装置及び立体画像表示方法
JP5223096B2 (ja) 3d映像撮影制御システム、3d映像撮影制御方法、およびプログラム
KR20150103528A (ko) 실감형 자유시점 영상 제공을 위한 반구형 스마트 카메라 형성 장치 및 방법
JP4183466B2 (ja) 全方位双眼立体視画像の生成方法
KR101803816B1 (ko) 360도 입체영상 촬영 장치
JP7395296B2 (ja) 画像処理装置、画像処理方法、及びプログラム
CN202995248U (zh) 一种用于环幕立体摄像的设备及系统
JP2011182003A (ja) パノラマカメラ及び360度パノラマ立体映像システム

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20171219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20171219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210210

R150 Certificate of patent or registration of utility model

Ref document number: 6845506

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250