JP6262890B1 - 視聴装置、水中空間視聴システム及び水中空間視聴方法 - Google Patents

視聴装置、水中空間視聴システム及び水中空間視聴方法 Download PDF

Info

Publication number
JP6262890B1
JP6262890B1 JP2017004568A JP2017004568A JP6262890B1 JP 6262890 B1 JP6262890 B1 JP 6262890B1 JP 2017004568 A JP2017004568 A JP 2017004568A JP 2017004568 A JP2017004568 A JP 2017004568A JP 6262890 B1 JP6262890 B1 JP 6262890B1
Authority
JP
Japan
Prior art keywords
viewing
display screen
video
viewing device
omnidirectional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017004568A
Other languages
English (en)
Other versions
JP2018113653A (ja
Inventor
倫明 二宮
倫明 二宮
友和 満留
友和 満留
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NIHON SC MANAGEMENT LTD.
Original Assignee
NIHON SC MANAGEMENT LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NIHON SC MANAGEMENT LTD. filed Critical NIHON SC MANAGEMENT LTD.
Priority to JP2017004568A priority Critical patent/JP6262890B1/ja
Priority to PCT/JP2018/000699 priority patent/WO2018131688A1/ja
Application granted granted Critical
Publication of JP6262890B1 publication Critical patent/JP6262890B1/ja
Publication of JP2018113653A publication Critical patent/JP2018113653A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/214Specialised server platform, e.g. server located in an airplane, hotel, hospital
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Studio Devices (AREA)

Abstract

【課題】水中空間を自分の意思で探検するような景観の映像を視聴者に提供することができる水中空間視聴システムを提供する。【解決手段】移動ブイ110内の制御装置を、防水ケーブルホルダ120に収容された通信ケーブルで、海中のカメラボックス130内の全天球カメラと接続する。移動ブイ110内の制御装置は、全天球映像を陸上の管理装置に無線で伝える。管理装置は、全天球映像から視聴装置の姿勢に応じて抽出した部分映像を当該視聴装置へ出力するとともに、視聴装置の動きに応じて全天球カメラの位置又は撮像倍率を変更させる。【選択図】図11

Description

本発明は、水中の映像を視聴者に提供する水中空間視聴システム及び水中空間視聴方法に関する。
海や池の中は、通常はその上からしか見ることができない。近年は、ダイバーが海や水族館の水槽の中に水上の無線装置と接続された水中カメラを持ちこみ、視聴者の意図に従って水中の光景を撮影して陸上のモニタに映し出すサービスも行われている。また、特許文献1には、水族館の水槽内にそれぞれ異なる方向を撮影する水中カメラを設置し、水槽の外部あるいは遠隔地にいる視聴者が、自分が見ている方向に存在する生物の名前を自動的に知ることができる水族館リアルタイム図鑑画像表示システムが開示されている。このシステムでは、水中カメラで撮影した水槽画像に映っている生物を特定し、その生物の名前をデータベースから読み出して水槽画像に合成して、水槽画像をリアルタイム図鑑画像へと変換する。このシステムにおいて、水中カメラで撮影する方向は、リアルタイム図鑑画像を視聴中の者(視聴者)が操作する携帯端末を通じて任意に指定することができる。
また、最近は、特許文献2の特許権者が提供する、スマートフォンやファブレット等を装着することによりヘッドマウンドディプレイを簡易に実現するアタッチメントも市場に登場している。3次元姿勢センサなどを搭載したスマートフォンなどをこのようなアタッチメントを使用し、特許文献2に開示された技術を適用することにより、視聴者が視たい範囲外の視界を遮りながら、3次元画像への没入を与えることができる。
特開2011−60130号公報 特許第5961892号公報
特許文献1に開示されたシステムでは、水中カメラの位置が固定されている。そのため、水中カメラの数を増やしたり、各水中カメラの撮影方向や撮影倍率を変えても、撮影できる範囲は限られてしまう。池、海、水族館の水槽などでは、例えば岩陰に隠れる習性の生物は出てきてくれないこともある。見たい生物もそれが近づいてこないと大きくは見えない。小さい生物は間近で観察することが非常に難しく、その存在に気づかない場合もある。そのため、特許文献1に開示されたシステムでは、視聴者の意思で探検するような景観の映像を提供することは困難である。特に、水中カメラと視聴する側の表示装置とが1対1に対応するものでないにもかかわらず、視聴する側の表示装置が多数になる場合は、各表示装置に映る映像を個別的に変更できるものとすることができないという課題が残る。
また、特許文献2に開示された技術を用いて3次元画像の視聴装置を実現しようとすると、視る側の目の動きが特殊となるため、小さい子供にとって好ましくない影響を与えるおそれがある。
本発明の目的は、これらの問題を解消し、あたかも水中空間を自分の意思で探検するような景観の映像を視聴者に提供することができる水中空間視聴システム及び水中空間視聴方法を提供することにある。
本発明の視聴装置は、視聴者が頭部に装着可能なゴーグルと、表示画面を有する携帯端末とを含み、前記ゴーグルは、前記視聴者が外光を遮断した状態で前記表示画面を視聴可能な位置に前記携帯端末を離脱自在に収容する端末収容部と、前記表示画面を拡大させる単眼レンズを有する単眼レンズ板と前記表示画面を拡大させる双眼レンズを有する双眼レンズ板とを交換自在に収容するレンズ収容部と、前記レンズ収容部に前記双眼レンズ板を収容したときに前記表示画面の視聴空間を二つに分割する仕切板を離脱自在に収容する仕切板収容部とを備えており、前記携帯端末は、前記表示画面における特定部位である注目点、前記携帯端末の3次元姿勢及び該3次元姿勢の変化状態を検出する検出手段と、水中空間を撮像した全天球映像から前記注目点を包含する部分の映像である部分映像を抽出するとともに前記3次元姿勢及びその変化状態に応じて前記部分映像の抽出部位を変更させる所定の管理装置に対して、前記検出手段の検出結果を送信し、該管理装置から前記部分映像を取得する通信手段と、前記取得した部分映像を前記表示画面に表示させる表示制御手段と、を備えて成る。
「全天球映像」とは、360度の全方位を撮像した映像をいう。
また、本発明の水中空間視聴システムは、水中空間を撮像した全天球映像を取得する取得手段と、視聴者が外光を遮断した状態で視聴可能な表示画面を有する視聴装置と、前記視聴装置から前記表示画面における特定部位である注目点、前記視聴装置の3次元姿勢及び該3次元姿勢の変化状態を検出する検出手段と、前記取得手段で取得した前記全天球映像から前記検出手段で検出した前記注目点を包含する部分の映像である部分映像を抽出し、抽出した前記部分映像を前記表示画面へ表示させるとともに前記検出手段で検出した前記3次元姿勢及びその変化状態に応じて前記部分映像の抽出部位を変更する制御手段と、を有し、前記視聴装置は、前記表示画面を拡大させる単眼レンズを有する単眼レンズ板と前記表示画面を拡大させる双眼レンズを有する双眼レンズ板とを交換自在に収容するレンズ収容部と、前記レンズ収容部に前記双眼レンズ板を収容したときに前記表示画面の視聴空間を二つに分割する仕切板を離脱自在に収容する仕切板収容部と、を備えて成る。
本発明の水中空間視聴方法は、水中空間を撮像した全天球映像を、視聴者が外光を遮断した状態で視聴可能な表示画面を有する視聴装置を用いて視聴する方法であって、前記視聴装置の所定部位に、前記表示画面を拡大させる単眼レンズを有する単眼レンズ板と前記表示画面を拡大させる双眼レンズを有する双眼レンズ板のいずれか一方を選択的に収容し、前記双眼レンズ板が収容されたときは前記表示画面の視聴空間を二つに分割する仕切板をさらに収容する収容工程と、前記視聴装置が、前記表示画面における特定部位である注目点、前記視聴装置の3次元姿勢及び該3次元姿勢の変化状態を検出する検出工程と、前記視聴装置が、前記全天球映像から前記注目点を包含する部分の映像である部分映像を抽出するとともに前記3次元姿勢及びその変化状態に応じて前記部分映像の抽出部位を変更させる所定の管理装置に対して、前記検出工程の検出結果を送信し、該管理装置から前記部分映像を取得する取得工程と、前記視聴装置が、前記取得した部分映像を前記表示画面に表示する表示工程と、を有することを特徴とする。
本発明によれば、あたかも水中空間を自分の意思で探検するような景観の映像を視聴者に提供することができる。
本実施形態に係る水中空間視聴システムの全体構成図。 水中撮像装置の構成例を示す模式図。 全天球カメラ及びその周辺部品のハードウエア構成図。 管理装置のハードウエア構成図。 管理装置の機能構成図。 (a)はゴーグルの上面図、(b)は正面図、(c)は背面図。 ゴーグルの使用状態を示す模式図。 (a),(b)は使用時のゴーグルの状態を示す模式図。 視聴装置に収容されるスマートフォンの機能構成図。 水中撮像装置、視聴装置及び管理装置のシーケンス図。 水中撮像装置の水中における状態説明図。
以下、図面を参照して本発明の実施形態例を説明する。ここでは、海中で生息する生物及びその生息環境を、陸上に存在する視聴者が、水中空間のうち視たい部位を自らの意思でコントロールして視聴できるようにする水中空間視聴システムに適用した場合の例を説明する。水中空間とは、水中を空気に例えた場合の3次元領域をいう。
[第1実施形態]
図1は、第1実施形態に係る水中空間視聴システムの全体構成図である。この水中空間視聴システムは、それぞれ複数台の水中撮像装置10と、それぞれ視聴者が着用する複数台の視聴装置20と、管理装置30とを備えて構成される。水中撮像装置10と視聴装置20は、管理装置30を介して無線通信により接続される。以下、各装置の構成例を説明する。
<水中撮像装置>
図2は、水中撮像装置10の構成例を示す模式図である。水中撮像装置10は、移動ブイ110、防水ケーブルホルダ120及び全天球カメラ133を収容したカメラボックス130を含んで構成される。全天球カメラ133は、360度の全方位を撮像できるカメラであり、全方位カメラとも呼ばれる。移動ブイ110は、水面を移動しながらカメラボックス130(全天球カメラ133)を深さ方向に変位自在に吊持するものである。移動ブイ110は、水に浮かぶ電波透過性の硬質樹脂製であり、空洞を有する。空洞内には、アンテナを有する通信装置1101、推進機構1102、ケーブル巻取機構1103及び制御装置1104が設置されている。なお、図示を省略したが、移動ブイ110の所定部位には、大容量の充電式のリチウムイオン電池が、通信装置1101、推進機構1102、制御装置1104の電源として配置されている。
通信装置1101は、管理装置30と制御装置1104との間の双方向通信を可能にする。また、GPS受信機を備え、移動ブイ110の緯度・経度・時刻情報などを受信して制御装置1104へ伝える。方位検出機能を備えるようにしてもよい。緯度・経度・時刻情報は、撮像時の移動ブイ110の位置及び姿勢、すなわち静かな水面をX座標系とそれに水平面上で直交するY座標系で定義し,水平面に直交するZ座標系で定義したときに、移動ブイ110の3次元座標系(X,Y,Z座標で特定される座標空間)を特定するために用いられる。
制御装置1104は、通信装置1101を介して接続された管理装置30の指示に基づき、移動ブイ110の水平方向及び全天球カメラ133の深さ方向の変位制御を行うとともに、カメラボックス130内の全天球カメラ133からの全天球映像及び音データを、移動ブイ110の緯度・経度・時刻情報及び移動ブイ110からカメラボックス130までの距離と関連付けて管理装置30へ伝達する。
移動ブイ110の水平方向の変位制御は、通信装置1101で受信した緯度・経度と、管理装置30からの変位指示に基づいて推進機構1102を制御することにより行う。全天球カメラ133の深さ方向の変位制御は、通信装置1101で受信した管理装置30からの変位指示に基づいてケーブル巻取機構1103を制御することにより行う。深さ方向の変位制御に際しては、変位量を通信ケーブル121の巻取量に換算する。すなわち、予め通信ケーブル121の外径とケーブル巻取機構1103のリール径に基づき、実際にカメラボックス130を昇降させたときの移動ブイ110からカメラボックス130までの距離を計測し、計測結果を記録しておく。
上記処理手順は概ねルーチン化が可能なので、ワンチップコンピュータあるいはFPGA(Field-Programmable Gate Array)などで構成することができる。
推進機構1102は、移動ブイ110を水面における2次元の任意の方向へ変位させるものであり、スクリュー、モータ及び操舵部を含んで構成される。移動ブイ110の変位方向及び変位量は、制御装置1104が、スクリューを回転させるモータ及び操作部を制御することにより決定される。ケーブル巻取機構1103は、制御装置1104と同軸線路である通信ケーブル121の基端部芯線との電気的な接続を可能にするとともに、通信ケーブル121の巻取量を変える機構である。
カメラボックス130は、少なくとも一部が透明ガラスとなる防水性のハウジング部131と、このハウジング部131に水密に固定されるジョイント部材132と、ハウジング部131の所定部位に収納される全天球カメラ133とを備えて構成される。ハウジング部131は、海底方向に容易に沈むように十分な重量を持つ材質で構成される。
全天球カメラ133は、水中空間の全天球映像を撮像するカメラであり、光学系部品、録音系部品、各種センサ、ストレージのほかこれらの部品の動作を制御する制御ユニットを備えて構成される。光学系部品は、ハウジング部131の透明ガラス付近に設置される。制御ユニットの詳細構成については、後述する。
防水ケーブルホルダ120は、両端部のうち一方端が移動ブイ110の下面に水密に固定される第1コネクタ部121と、他方端がカメラボックス130のジョイント部材132に水密に固定される第2コネクタ部122と、第1コネクタ部121及び第2コネクタ部122をつなぐ耐蝕性の蛇腹部123とを含んで構成される。
防水ケーブルホルダ120は、長さ方向の軸部が中空であり、この軸部に通信ケーブル121が変位自在に収容される。上記のとおり、通信ケーブル121は同軸線路であり、その基端部芯線は移動ブイ110に設置される制御装置1104と電気的に接続される。先端部芯線は、全天球カメラ133の制御ユニットと電気的に接続される。通信ケーブル121は、その先端部がジョイント部材132に固定されるが、基端部以外の部分は第1コネクタ部121を貫通し、移動ブイ110のケーブル巻取機構1103に巻き取られ、あるいは、巻き戻される。巻き取られると蛇腹部123が短くなり、カメラボックス130が水面方向に引き上げられる。巻き戻されると蛇腹部123が長くなり、カメラボックス130が水中に引き下げられる。
防水ケーブルホルダ120は海水に晒される。そのため、防錆ないし海水の浸入防止対策が不可欠となる。特に、海水は溶存酸素を含むほぼ中性の水溶液であり、塩化物などの塩類を多量に含む。そのため、第1コネクタ部121及び第2コネクタ部122は、その表面にフッ素樹脂加工あるいは少なくともその表面に防錆処理(絶縁化)が施されたニッケル材あるいは硬質ダイカスト材などで作成されたものが望ましい。超高分子量ポリエチレン(UHMW−PE)を成型したものを用いてもよい。また、蛇腹部123は、耐食性の高いベリリウム−銅合金、工業用ゴムあるいは樹脂などで作成されたものが望ましい。
ここで、全天球カメラ133の構成例、特に制御ユニットとその周辺デバイスの構成例について説明する。図3は、その構成例を示す図である。制御ユニットは、バスB1を介して接続されたCPU(Central Processing Unit)301、RAM(Random Access Memory)302、ROM(Read Only Memory)303を主要部品とするコンピュータを有する。バスB1には、さらに、外部記憶装置304、入力I/F(I/Fはインタフェースの略、以下同じ)305、画像処理ブロック306、動画圧縮ブロック307、音処理ブロック308、出力I/F309が接続されている。なお、図示を省略したが、全天球カメラ133には、充電式のバッテリーが設けられている。
CPU301は、上記各ブロックの動作及び全体動作を制御する。RAM302は、CPU301のワークエリアとして使用される。ROM303は、CPU301が解読可能なコードで記述された各種パラメータを格納する。外部記憶装置304は画像データや音データ等を記憶するものであるが、CPU301が読み取って実行可能なカメラ制御用プログラムも記憶される。
入力I/F305には、それぞれ表面方向に180度の撮像範囲を持つ2つの撮像素子311,312から出力される画像信号がマウント313を介して入力される。入力I/F305には、また、姿勢センサ315及び音センサ317の検知信号が入力される。姿勢センサは、3軸の加速度センサ、3軸のジャイロセンサ、地磁気センサまたはこれらの組み合わせで構成され、全天球カメラ133の姿勢変化を検出するために用いられる。すなわち、移動ブイ110の位置及び全天球カメラ133の撮像時のX,Y,Z方向の3次元座標を特定するために用いられる。姿勢センサ315から得られる情報は、管理装置30において、全天球映像から視聴者が注目する部分(後述する注目点)を包含する部分映像を抽出する際に用いられる。音センサ317は、音源からの距離が近いほど強く、遠いほど弱くなる音量の音を集音する。音源は全天球映像の3次元座標と関連付けられる。
画像処理ブロック306は、ISP(Image Signal Processor)などを含んで構成され、画像信号に対して、シェーディング補正、ベイヤー補間、ホワイト・バランス補正、ガンマ補正などの画像処理を行う。画像処理ブロック306は、さらに、上記処理を経て取得された複数の画像信号を合成し、これにより、全天球映像を生成する処理を行う。
動画圧縮ブロック307は、MPEG−4 AVC/H.264などの動画圧縮及び伸張を行うコーデック・ブロックである。動画圧縮ブロック307は、生成された全天球映像を保存し、または、保存された全天球映像を再生出力するブロックである。
音処理ブロック308は、音センサで集音されたデータを管理装置30側で認識可能なデジタルの音データに変換し、CPU301へ伝えるとともに、RAM302及び外部記憶装置304へ記録させる。
出力I/F309は、外部記憶装置304への記録前、記録中、記録された全天球映像及び音データを、通信ケーブル121、制御装置1104、管理装置30を経て視聴装置20に向けて出力する。記録前、記録中の全天球映像及び音データにより、リアルタイム通信が可能な状態で接続された視聴装置20に対して、いわゆるライブビュー及びライブサウンドを提供することができる。
<管理装置>
次に、管理装置30について説明する。管理装置30は、水中撮像装置10及び視聴装置20の動作を監視制御する装置であり、無線通信機能を備えたコンピュータ及び管理用プログラムにより実現される。図4は、管理装置30のハードウエア構成図である。管理装置30は、バスB2を介して接続されたCPU401、RAM402、ROM403を有する。バスB2には、さらに、大容量ストレージ404、画像処理ブロック405、動画圧縮ブロック406、音処理ブロック407、通信I/F408が接続されている。なお、図示を省略したが、管理装置30は、電源回路又はバッテリーが設けられている。
CPU401は、上記管理用プログラムを読み込んで実行することにより、上記各ブロックの動作を制御する。RAM402は、CPU401のワークエリアとして使用される。ROM403は、CPU401が解読可能なコードで記述された各種パラメータを格納する。大容量ストレージ404は、上記管理プログラムを記録するためのプログラムブロック、映像及び音を記録するためのデータブロックを有するとともに、後述するデータベース(DB)を構築するための記録媒体である。
画像処理ブロック405は、上述した画像処理ブロック306と基本動作は同じであるが、本実施形態では、該画像処理ブロック306の処理により得られた全天球映像から部分映像を抽出する。また、部分映像を徐々に変更したり、抽出した各部分映像の注目点における部分映像の表示倍率を変更したりする。さらに、抽出する部分映像を解析して振動の有無、振動の大きさ、振動周波数などの振動情報を検出し、これを音に変換できるようにする。
動画圧縮ブロック406は、動画圧縮ブロック307と同様、動画圧縮及び伸張を行うコーデック・ブロックである。本実施形態では、部分映像に対して動画圧縮及び伸張を行う。画像処理ブロック306の処理により得られた全天球映像、及び/又は、抽出された部分映像、表示倍率、振動情報は、RAM402及び大容量ストレージ404のデータブロックに保存され、適宜、再生出力される。
音処理ブロック407は、視聴装置20から入力される音データ(音声)及び水中撮像装置10から入力される音データ(水中からの集音)をCPU401へ伝えるとともに、RAM402及び大容量ストレージ404のデータブロックへ記録させる。画像処理ブロック405が被写体の振動情報を解析して音に変換できる場合は、変換後の音を表すデータあをデータブロックに記録しておく。
通信I/F408は、水中撮像装置10及び視聴装置20との間で無線通信を行うためのインタフェースである。
次に、管理装置30が有する機能について説明する。図5はCPU401が管理用プログラムを実行することにより形成される管理装置30の機能構成図である。管理装置30は、全体動作を制御する主制御部501と、水中撮像装置10及び視聴装置20との間の通信を制御する通信制御部502とを有する。また、大容量ストレージ404に構築された視聴装置管理DB503及び撮像装置管理DB504を備えている。
管理装置30は、また、さまざまなデータを取得して主制御部501へ伝達する取得手段を有する。すなわち、カメラID取得部511は、全天球カメラ133の電源オンを契機に識別情報(ID)を取得する。このとき、当該全天球カメラ133の位置情報(カメラボックス130、移動ブイ110の位置情報を含む)も併せて取得する。画像データ取得部512は、電源オン後の全天球カメラ133で撮像した全天球映像を取得する。音データ取得部513は電源オン後の全天球カメラ133で集音した音データを取得する。装置ID取得部514は視聴装置20の電源オンを契機にそのIDを取得する。装置姿勢取得部515は電源オン後の視聴装置20の姿勢及び変化を表すデータを取得する。音声データ取得部516は、電源オン後の視聴装置20からの視聴者の音声などを取得する。
操作内容取得部517は、視聴装置20に対する視聴者の操作内容を取得する。操作内容は、RAM402に展開された操作内容テーブルに対応するスイッチないしボタンに対する操作と、RAM402に展開されたパターン辞書より特定される視聴装置20の注目点の姿勢ないし姿勢の変化パターン(例えば上下左右方向への所定速度での姿勢変化、姿勢変化後の停止、停止から姿勢変化開始など)である。
取得したこれらのデータは、視聴装置DB503及び撮像装置管理DB504へ格納され、適宜、読み出される。また、全天球映像及び音データは、直接あるいは必要な処理がなされた後、通信制御部502を通じて視聴装置20に向けて送信される。なお、姿勢内容取得部507で取得した操作内容を表すデータは、RAM402への記録にとどめるようにしてもよい。
視聴装置管理DB503には、個々の視聴装置20の属性情報が格納される。すなわち、視聴装置20毎に、そのID、電源オン/オフの情報、当該視聴装置20が実行可能な画像処理の性能(3次元映像の出力可否など)などが、属性情報として視聴装置管理DB503に格納される。また、関連する他の視聴装置(例えば同じグループのメンバーが着用する視聴装置20)のIDなどが関連付けられ、属性情報に含めて格納される。
撮像装置DB504には、水中撮像装置10の属性情報が格納される。すなわち水中撮像装置10毎に、全天球カメラ133の識別情報(ID)、全天球カメラ133の電源オン/オフの情報、電源オン時の全天球カメラ133の現在位置、時刻、姿勢の情報などが、属性情報として撮像装置DB504に格納される。全天球カメラ133の現在位置は、移動ブイ110の緯度・経度と、カメラボックス130の移動ブイ110からの距離とに基づいて算出することができる。
管理装置30は、また、認証処理部521、リンク設定部522、指示内容認識部523、注目点検出部524、音声認識部525、画像編集部526及び音データ補正部527の機能ブロックを有する。
認証処理部521は、視聴装置20のログイン時に当該視聴装置20の認証処理を行う。認証処理は、当該視聴装置20のID等が予め登録されたものかどうかを確認する処理である。リンク設定部521は、水中撮像装置10と視聴装置20とをそれらのIDをもとにリンクさせる。水中撮像装置10と視聴装置20とを1対1でリンクさせる場合、つまり一台の視聴装置20において特定の一台の水中撮像装置10からの全天球映像及び音データを視聴できるようにする場合は、視聴装置20からの指示に基づいてペアリンクを設定する。また、1対N(Nは2以上の自然数)でリンクさせる場合は、一台の水中撮像装置10からの全天球映像及び音データをN台の視聴装置20で視聴できるようにリンクを設定する。
指示内容認識部523は、装置姿勢取得部515で取得したデータ及び操作内容取得部517で取得したデータに基づいて視聴者の指示内容を認識する。例えば装置姿勢取得部515で取得したデータが表す視聴装置20の姿勢が基準位置から鉛直上下方向又は水平左右方向へ姿勢を所定速度で変化し、そのまま所望の時間だけ姿勢を維持した後に基準位置に戻ったとする。指示内容認識部523は、RAM402に展開された認識辞書との比較により、このような姿勢変化のパターンが変位指示であると認識する。あるいは、視聴装置20の姿勢が、鉛直上下方向、左右方向、斜め方向へ徐々に変化した場合、指示内容認識部523は、このような姿勢変化のパターンが注目点変位指示であると認識する。また、徐々に変化した後に停止し、かつ、停止状態が所定時間を超えて継続した場合、指示内容認識部523は、視聴者が注目点の映像を直視ないし凝視していると認識する。操作内容取得部517から取得した操作が、上述したボタン操作以外のタッチ操作である場合は、そのタッチ操作に応じた視聴態様を認識する。
注目点検出部524は、視聴装置20の注目点及びその3次元姿勢の変化状態を検出する。「注目点」は、全天球映像の視聴者が注目していることが推定される全天球映像の特定部位(3次元座標により特定される特定点)をいう。本実施形態では、視聴装置20の表示画面の略中央部分を注目点とする。また、操作内容取得部517で取得した操作内容が注目点を指定するものであった場合(ポインティング指示)、あるいは、後述する音声認識部525で認識された音声が視点移動の指示であった場合は、当該指定された部位を注目点として検出する。注目点の3次元姿勢及びその変化状態は、装置姿勢取得部515で取得した姿勢及び変化を表すデータに基づいて検出する。変化状態には、停止から変化開始、変化維持、変化後の停止、停止が継続している状態などがある。
音声認識部525は、視聴装置20より取得した音声データの内容を認識する。認識結果が予め定めた定型文であった場合は、主制御部501において所定の処理を実行できるようにする。所定の処理は、例えば、上下左右方向の全天球映像における注目点変更などの処理を行う。また、設定により、ある視聴装置20からの音声データを他の視聴装置20へ伝達するように構成することもできる。
画像編集部526は、取得した全天球映像の3次元座標系における注目点の3次元座標系(X,Y,Z座標で表される座標空間)の相対位置を演算により求め、この演算結果に基づいて、注目点を中心とする一定範囲の座標空間を全天球映像から切り出す処理を行う。また、当該一定範囲の映像を部分映像として全天球映像から抽出する処理を行う。相対位置を求める演算は、全天球映像の3次元座標を注目点に応じた傾きで3次元回転変換するものであり、全天球映像全体に対する画像処理を行う場合よりも処理負荷を小さくすることができる。そのため、視聴者にとって違和感のない(つまり、再生が途中で止まることのない)部分映像を視聴装置20に向けて出力することができる。画像編集部526は、また、注目点における停止状態が一定時間継続する場合に、部分映像の表示倍率を拡大する処理を行う。
音データ補正部527は、部分映像における相対的な位置に対応した音量の音データに補正する。すなわち、全天球カメラ133より取得した全天球映像の3次元座標と集音した音データとに基づき、当該音データから復元される音の音量の補正を行う。例えば、集音した音の音源の位置が注目点から離れていると判定される場合は、離れた距離に応じて音量を小さくする。なお、水中の雑音については、バンドパスフィルタなどでフィルタリングすることにより消去することができる。
<視聴装置>
次に、視聴装置20について説明する。視聴装置20は、視聴者が着用する装置であり、視聴者の意図に即して全天球カメラ133で撮像した全天球映像のうち注目点を包含する部分映像と、その全天球カメラ133で集音した音とを管理装置30から取得して視聴者に視聴させる装置である。部分映像については、それ以外の視界を遮る態様で視聴者に視聴させるように構成される。本実施形態では、所定のアプリケーションプログラム(以下、「AP」と略す)が予めインストールされたスマートフォンと、交換レンズ板と、これらを離脱自在に収容するゴーグルとで視聴装置20を構成する場合の例を説明する。
スマートフォンは、表示画面のほか、ジャイロセンサあるいは加速度センサのような姿勢センサ、無線通信機能、マイクロフォンからの入力機構、スピーカないしイヤホンへの出力機構を有するものである。また、姿勢センサで筐体の姿勢ないしその変化状態を検出し、検出結果を自己のIDと共に管理装置30へ送信できるものである。また、視聴者が発した音声を管理装置30へ送信するとともに管理装置30からの音データないし音声を出力できるものである。また、管理装置30との間で、自己のIDを用いたログイン/ログオフ機能を有するものである。
まず、図6〜図8を参照して視聴装置20のゴーグルについて説明する。図6(a)はゴーグルの上面図、同(b)は正面図、同(c)は背面図である。図7はゴーグルの使用状態を示す模式図である。図8(a),(b)は使用時のゴーグルの状態を示す模式図である。これらの図に示されるように、ゴーグルは、それぞれ樹脂材を成型して成る端末収容部21とレンズ収容部22とを有する。端末収容部21とレンズ収容部22は、その一部に設けられた係合機構、例えば蝶番を軸として開閉自在に構成される。レンズ収容部22の外表面には、ゴーグルを視聴者の頭部に装着するためのベルト部材23,24,25をそれぞれ3点で固定するためのバックルが設けられている。
端末収容部21には、スマートフォンを挿入できる狭い幅広U字溝状の隙間、すなわち上底面の部分だけが開口した端末収容機構211と、仕切板273を挿入するための仕切板収容機構212とが形成されている。端末収容部21の前面パネル215は、レンズ収容部22との接合部位までの筐体とレンズ収容部22の筐体と協働して外光を遮断する。この前面パネル215の背面側には、スマートフォンを弾性保持する軟質樹脂が貼り付けられている。仕切板273は、スマートフォンの表示画面280に対して垂直方向に延びる樹脂板であり、表示画面280を視聴する視聴空間を二つに分割する役目をもつ。一方、レンズ収容部22は、交換レンズ板を交換自在に挿入できる狭い幅広U字溝状の隙間、すなわち上底面の部分だけが開口したレンズ板収容機構213と、視聴者の顔の鼻を当てる部分221から両目周辺を覆う柔らかい弾性素材で縁取るように形成された接顔部222とを有している。
レンズ板収容機構213に収容された交換レンズ板は、レンズ面が、スマートフォンの表示画面280と重なるように位置決めされる。なお、本実施形態では、交換レンズ板として、スマートフォンの表示画面280を、図8(a)に示されるようにそのまま、あるいは所定の倍率に拡大して視聴する際に装着する単眼レンズ板271と、表示画面280に表示される映像がステレオ映像である場合に、図8(b)に示されるように、そのステレオ映像を視聴する際に装着する双眼レンズ板272とを用いる。例えば前者は大人用、後者は子供用として使用することができる。各レンズは、1枚又は2枚のレンズを枠体で抑えたものである。いずれのレンズも平凸レンズ、平凹レンズ、両凸レンズ、両凹レンズなどである。フレネルレンズを用いることもできる。必要に応じて、視力矯正レンズを用いることもできる。
以上のように構成されるゴーグルを視聴者が頭部に装着し、接顔部222を接顔すると、外界の光が遮断され、目に見える光はスマートフォンの表示画面280の照明だけとなる。これにより視聴者の両目は表示画面280の映像だけに焦点を合わせ、集中することができる。そのため、表示画面280に表示される映像への没入感を高めることができる。スマートフォンから出力される音は、イヤホンなどを通じて聴くことができる。
また、視聴者が小さい子供の場合は単眼レンズ板271を装着し、大人の場合は双眼レンズ板272に切り替えて装着できることから、子供用にも大人用にも対応できる視聴装置20を実現することができる。
<スマートフォンの機能>
図9は、視聴装置20に収容されるスマートフォンの機能構成図である。これらの機能は、APを読み込んで実行するスマートフォンのCPUにより実現される。スマートフォンは、姿勢検出部231を有する。姿勢検出部231は姿勢センサの検出結果を通信制御部232を介してリアルタイムに管理装置30へ送信する。すなわち、管理装置30において、スマートフォンが向いている方位・方向・変化状態に対応した注目点を特定する際に必要なデータが取得され、送信される。
管理装置30からは、方位・方向・変化状態に対応する全天球映像のうち注目点を包含する部分映像を表示するための画像データと、全天球カメラ133で集音した音データが、それぞれ画像データ入力部241及び音データ入出力部251を通じて入力される。画像データは、画像処理部242でスマートフォンの表示画面280に表示可能な解像度及び表示サイズの映像に復元され、表示制御部243に入力される。表示制御部243は、スマートフォンに単眼映像の表示が設定されている場合は単眼表示用画像281、スマートフォンに3次元ステレオ映像の表示が設定されている場合はステレオ映像表示用画像282に切り換え、表示画面280への表示制御を行う。
管理装置30から入力された音データは、音処理部252でスマートフォンで再生可能な音に復元され、スピーカないしイヤホンから出力される。一方、マイクロフォンから入力された音声データは、音声入力部253を経て音処理部252に入力され、音データ入出力部251及び通信制御部232を管理装置30へ送信される。
[運用形態例]
次に、上記のように構成される水中撮像装置10、視聴装置20及び管理装置30の運用形態例について説明する。図10は、各装置のシーケンス図であり、図11は水中撮像装置10の水中における状態説明図である。
図10を参照し、管理装置30には、複数の水中撮像装置10からそれぞれ全天球映像のうち所定方向の所定部位を注目点とする、つまり全天球カメラ133にデフォルトで設定された方向・部位の部分映像と、当該全天球カメラ133で集音された音データとが入力されている(ST00)。
視聴者は、図6〜図8に示される構造の視聴装置20を頭部に装着する前に、スマートフォンの表示画面280に表示されるログイン画面を通じて管理装置30にアクセスし、ログインする(ST01)。管理装置30は、視聴装置20からのログインを契機に認証を行う(ST02)。認証に成功すると、視聴装置20に対して、現在動作している全天球カメラ133からの部分映像を、通常表示時よりも解像度の低いサムネイル映像として提示する(ST03)。視聴装置20は、表示画面280にサムネイル映像を表示して視聴者による全天球カメラ133の選択を待つ。視聴者が所望の部位を撮像している全天球カメラ133を選択すると(ST04)、管理装置30は、当該全天球カメラ133を収容した水中撮像装置10及び視聴装置20とのリンクを開始する(ST05)。
リンクに成功すると、視聴装置20は、全天球カメラ133を特定する(ST06)。一方、水中撮像装置10(制御装置1104)は、リンクの対象となる視聴装置20を特定し(ST07)、特定した視聴装置20用に、全天球映像を撮像するとともに音データの集音を行う。また、撮像した全天球映像のうちデフォルトの方向・部位の部分映像を出力する(ST08)。視聴者は、視聴装置20を頭部に装着し、スマートフォンに接続されたイヤホンを耳へ装着する。
部分映像を視聴中の視聴者は、全天球カメラ133を水中で視聴したい方向へ移動させたり、部分映像を変更させるために、視聴装置20の姿勢を変化させる。すると、スマートフォンの姿勢センサが姿勢変化を検出し、管理装置30へ伝える(ST09)。管理装置30は、姿勢変化の検出結果が所定の第1条件を満たす場合は全天球カメラ133の変位制御を行う(ST10)。姿勢変化の検出結果が所定の第2条件を満たす場合は部分映像の抽出部位を連続的に変化させるための注目点変更制御(ST11)を行う。
<第1条件の例>
例えば視聴者が視聴装置20を装着し、表示画面280の部分映像を視聴している状態で、頭部を鉛直下方向へ所定速度で変化させ、そのまま所望の時間だけ姿勢を維持した後に水平に戻したとする。所定速度は、例えば表示画面280への映像が途切れる速度である。管理装置30は、視聴装置20のこのような姿勢変化を深さ方向の変位制御指示と認識し、全天球カメラ133の変位制御を行う(ST10)。具体的には、水中撮像装置10の制御装置1104に、ケーブル巻取機構1103に通信ケーブル121の巻き戻しをさせる。巻き戻し量は、視聴者が鉛直下方向の姿勢を維持した時間が長くなるにつれて多くなる。これにより、全天球カメラ133の位置が当該時点から深さ方向へ変位する。全天球カメラ133は、変位した位置で全天球映像の撮像及び集音を行い(ST12)、その結果得られたデータをリアルタイムに管理装置30へ送信する。
管理装置30は受信したデータに対して画像編集及び音処理を行い、その結果データを視聴装置20へ送信する(ST13)。視聴装置20は、管理装置30から受信した結果データに基づいて部分映像の出力及び音出力を行う(ST14)。
全天球カメラ133を上昇させる場合も同様に、視聴者は、視聴装置20を装着したまま、頭部を鉛直上方向へ姿勢を所定速度で変化させ、そのまま所望の時間だけ姿勢を維持した後に水平に戻す。スマートフォンの姿勢センサがこの姿勢変化を検出し、管理装置30へ伝える(ST09)。管理装置30は、全天球カメラ133の変位制御(ST10)を行う。すなわち、管理装置30は、水中撮像装置10の制御装置1104に、ケーブル巻取機構1103に通信ケーブル121の巻き取りをさせる(ST11)。巻き取り量は、視聴者が鉛直上方向の姿勢を維持した時間が長くなるにつれて多くなる。これにより、全天球カメラ133の位置が当該時点から水面方向へ変位する。全天球カメラ133は、変位した位置で全天球映像の撮像及び集音を行い(ST12)、これにより得られたデータをリアルタイムに管理装置30へ送信する。
管理装置30は、受信したデータに対して画像編集及び音処理を行い、その結果データを視聴装置20へ送信する(ST13)。視聴装置20は、管理装置30から受信した結果データに基づいて部分映像の出力及び音出力を行う(ST14)。
同様に、全天球カメラ133を水平左方向へ移動させたい場合、視聴者は、視聴装置20を装着したまま、頭部を水平左方向へ所定速度で変化させ、そのまま所望の時間だけ姿勢を維持する。スマートフォンの姿勢センサが姿勢変化を検出し、管理装置30へ伝える(ST09)。管理装置30は、全天球カメラ133の変位制御(ST10)を行う。すなわち、管理装置30は水平方向の変位制御指示と認識し、水中撮像装置10の操舵機構を制御して、スクリュー、モータ及び操舵部を駆動させ、移動ブイ110を当該時点から水平左方向へ移動させる(ST11)。全天球カメラ133を水平右方向へ移動させたい場合も同様に、視聴者は、視聴装置20を装着したまま、頭部を水平右方向へ所定速度で変化させ、そのまま所望の時間だけ姿勢を維持する。その後の管理装置30及び全天球カメラ133の動作は上下方向への変位について説明した上記と同様の処理となる。なお、全天球カメラ133は、水平方向では任意の方角への移動が可能である。この場合、視聴者は、視聴装置20を装着したまま、頭部を所望の方角へ所定速度で変化させ、そのまま所望の時間だけ姿勢を維持した後に水平に戻すことになる。
<第2条件の例>
一方、視聴者が視聴装置20を装着し、表示画面280の部分映像の表示が途切れない速度で、頭部を鉛直上下方向、左右方向、斜め方向へ徐々に変化させたとする。また、このような変化が継続された後に停止し、かつ、停止状態が所定時間を超えて継続したとする。スマートフォンの姿勢センサは、このような姿勢変化(変化後の停止状態を含む)を検出し、管理装置30へ伝える(ST09)。管理装置30は、姿勢の変化が継続している状態を視聴装置20からの注目点変更指示と認識し、注目点変更(ST11)を行う。この場合、管理装置30は、変化した注目点を包含する部分映像の画像編集を行うとともに、音処理を行い、その結果データを視聴装置20へ送信する(ST13)。管理装置30は、また、視聴装置20の姿勢の停止状態が所定時間を超えて継続された場合、当該部分映像の撮像倍率を拡大させるための画像編集を行う。そして、管理装置30は、これらの処理の結果データを視聴装置20に向けて出力する。視聴装置20は、管理装置30から受信した結果データに基づいて部分映像の出力及び音出力を行う(ST14)。
視聴装置20は、視聴者がログオフするまで、ST09以降の動作を繰り返す(ST15:N)。視聴者がログオフした場合(ST15:Y)、管理装置30は、その視聴装置20と水中撮像装置10とのリンクを解消する(ST16)。これにより、水中撮像装置10は待機モードに移る(ST17)。
[第1実施形態による効果]
このように、本実施形態の水中空間撮像システムでは、視聴者による視聴態様(姿勢変化など)を視聴装置20が管理装置30へ伝え、管理装置30が、その視聴態様に応じて全天球カメラ133の変位制御や注目点変更の処理を行う。また、全天球映像から部分映像を抽出し、視聴者の視聴態様に応じて部分映像の画像編集を行う。例えば注目点が変化後に停止した状態が一定時間以上維持される場合、注目点を中心として部分映像の表示倍率を大きくする。
これにより、例えば図11に示すように、海の岩礁の窪み部分の近くまで全天球カメラ133を変位させ、当該部位の部分映像及び当該部位で集音した音を視聴することができる。そのため、例えば岩陰に隠れる習性の生物を視聴することが容易になる。また、見たい生物が近づいてこなくとも、あるいは、生物が小さい場合であっても、それらを注目点として部分映像の中心位置にとらえた状態で一定時間以上停止させることにより、撮像倍率が拡大するため、あたかも、それらの生物を間近で視聴しているような体験が可能となる。このように、本実施形態によれば、水中空間を視聴者が自分の意思で探検するような景観の映像を提供することができる。
なお、親子連れで水中空間視聴システムを利用する場合、親の視聴装置20には、ゴーグルの端末収容部21に双眼レンズ板272を収容することで3次元ステレオ映像を表示させ、子供の視聴装置20には、ゴーグルの端末収容部21に単眼レンズ板271を収容することで単眼映像を表示させることができる。また、各視聴装置20でそれぞれ独立に水中撮像装置10を制御することができるので、親子でそれぞれ視たい映像を視聴することができる。視聴装置20間で相互通話できる構成の場合は、視聴装置20を装着した状態で、視たい方向や部位に併せることもできる。
また、管理装置30において、部分映像に映った被写体の振動を検知する機能を持ち、視聴装置20に、検知した振動をそれぞれ当該部分映像を映した視聴装置20の視聴者に伝える振動伝達媒体を備える構成にすれば、陸上からは観察することができない振動を視聴者に与えることができる。なお、振動を音に変換する場合は、当該振動を音として聴くことができる。
[第2実施形態]
本発明は、以下の工程を有する水中空間視聴方法としての実施が可能である。
(1)水中撮像装置10を水中に配置して水中空間の全天球映像を撮像する撮像工程。
(2)水中撮像装置10が撮像した全天球映像をリアルタイムに取得し、取得した全天球映像から所定の注目点を包含する部分映像を抽出するとともに、抽出した部分映像を、視聴者が外光を遮断した状態で視聴可能な視聴装置20に表示させる表示工程。
(3)視聴装置20の3次元姿勢の変化状態に応じて注目点を連続的に変更し、これにより視聴装置20に表示される部分画像を変更させる変更工程。
バーチャルリアリティ技術ではなく、実際に水中を撮像した全天球映像から注目点を包含する部分映像を視聴装置20に表示させるので、この実施形態によっても、水中空間を視聴者が自分の意思で探検するような景観の映像を提供することができる。この場合、水中撮像装置10は、第1実施形態のように水平方向及び深さ方向へ移動可能としてもよいが、景観のよい特定部位に据え付けるようにしてもよい。
[変形例1]
第1実施形態及び第2実施形態では、移動ブイ110の推進機構1102やケーブル巻取機構1103を視聴装置20の姿勢の変化に応じて制御することにより水中撮像装置10の撮像位置や撮像方向、及び全天球映像から部分映像を抽出するための注目点を変位させる場合の例について説明したが、本発明は、このような制御態様に限定されるものではない。例えば、視聴装置20の表示画面がタッチパネルで構成され、あるいは表示画面にポインティングデバイスが接続されている場合、視聴装置20の姿勢はそのままで、タッチ操作やポインティングデバイスの操作によって注目点等を変位させるようにしてもよい。あるいは、視聴装置20の姿勢や表示画面の操作のほかに、移動部位110の推進機構102、ケーブル巻取機構1103、制御装置1104を独自に制御するコントローラを設け、このコントローラによって注目点等を変位させるようにしてもよい。
[変形例2]
第1実施形態では、水中撮像装置10及び視聴装置20をそれぞれ複数台備えた場合の例を説明したが、1台ずつで水中空間視聴システムを構成してもよい。また、第1実施形態では、水中撮像装置10と視聴装置20との間に管理装置30が介在する場合の例を説明したが、図4に示したハードウエア部品及び図5に示した管理装置30の機能ブロックを水中撮像装置10の制御装置1104又は視聴装置20のスマートフォンの機能として設けることで、管理装置30を省略してもよい。
[変形例3]
第1実施形態では、陸上において視聴者が外光を遮断した状態で視聴可能な表示画面を有する視聴装置20として、ゴーグルにスマートフォンを挿入した場合の例を説明したが、タブレット端末の表示画面やパーソナルコンピュータに接続された液晶ディスプレイを所定の筐体ないし膜で囲う構造にしてもよい。この場合、上記のAPはタブレット端末やパーソナルコンピュータにインストールすることになる。
[変形例4]
第1実施形態の水中空間視聴システムにおいて、部分映像に映った物体の振動を検知する1つ又は複数の検知手段を各水中撮像装置10に設けるとともに、各視聴装置20に振動伝達媒体を設け、水中撮像装置10で検知した振動をそれぞれ当該部分映像を映した視聴装置20の視聴者に振動伝達媒体を通じて伝える構成にしてもよい。このような構成にすることで、視覚及び聴覚のみならず、触覚を通じて水中空間の様子を視聴者に伝達することができる。
[変形例5]
第1実施形態では、視聴装置20同士が通話する場合に管理装置30を介在させる例について説明したが、少なくとも二つの視聴装置20に、相互に通話可能な通信手段を備えるようにしてもよい。このような構成にすることで、親子やカップル同士で、視聴装置20を装着した状態で会話しながら、同一の部分映像の視聴を楽しむことができる。
[変形例6]
なお、第1実施形態では、海中で生息する生物及びその生息環境を視聴する場合の例について説明したが、本発明は、湖、ダムあるいは水族館の大型水槽などの水中空間の視聴においても適用が可能なものである。また、全天球映像及び部分映像は、動画像のみならず静止画像をも含むものである。

Claims (10)

  1. 視聴者が頭部に装着可能なゴーグルと、表示画面を有する携帯端末とを含み、
    前記ゴーグルは、前記視聴者が外光を遮断した状態で前記表示画面を視聴可能な位置に前記携帯端末を離脱自在に収容する端末収容部と、前記表示画面を拡大させる単眼レンズを有する単眼レンズ板と前記表示画面を拡大させる双眼レンズを有する双眼レンズ板とを交換自在に収容するレンズ収容部と、前記レンズ収容部に前記双眼レンズ板を収容したときに前記表示画面の視聴空間を二つに分割する仕切板を離脱自在に収容する仕切板収容部とを備えており、
    前記携帯端末は、前記表示画面における特定部位である注目点、前記携帯端末の3次元姿勢及び該3次元姿勢の変化状態を検出する検出手段と、
    水中空間を撮像した全天球映像から前記注目点を包含する部分の映像である部分映像を抽出するとともに前記3次元姿勢及びその変化状態に応じて前記部分映像の抽出部位を変更させる所定の管理装置に対して、前記検出手段の検出結果を送信し、該管理装置から前記部分映像を取得する通信手段と、
    前記取得した部分映像を前記表示画面に表示させる表示制御手段と、を備えている、
    視聴装置。
  2. 前記ゴーグルは、前記端末収容部と前記レンズ収容部とが開閉自在に構成されていることを特徴とする、
    請求項1に記載の視聴装置。
  3. 水中空間を撮像した全天球映像を取得する取得手段と、
    視聴者が外光を遮断した状態で視聴可能な表示画面を有する視聴装置と、
    前記視聴装置から前記表示画面における特定部位である注目点、前記視聴装置の3次元姿勢及び該3次元姿勢の変化状態を検出する検出手段と、
    前記取得手段で取得した前記全天球映像から前記検出手段で検出した前記注目点を包含する部分の映像である部分映像を抽出し、抽出した前記部分映像を前記表示画面へ表示させるとともに前記検出手段で検出した前記3次元姿勢及びその変化状態に応じて前記部分映像の抽出部位を変更する制御手段と、を有し、
    前記視聴装置は、前記表示画面を拡大させる単眼レンズを有する単眼レンズ板と前記表示画面を拡大させる双眼レンズを有する双眼レンズ板とを交換自在に収容するレンズ収容部と、前記レンズ収容部に前記双眼レンズ板を収容したときに前記表示画面の視聴空間を二つに分割する仕切板を離脱自在に収容する仕切板収容部と、を備えている、
    水中空間視聴システム。
  4. 前記制御手段は、前記全天球映像の3次元座標系における前記注目点の3次元座標系の相対位置を演算により求め、この演算結果に基づいて前記全天球映像から前記部分映像を抽出する、
    請求項3に記載の水中空間視聴システム。
  5. 前記検出手段は、前記視聴装置の3次元姿勢の変化状態をも検出するものであり、
    前記制御手段は、前記変化状態が第1条件を満たす場合は前記部分映像の抽出部位を連続的に変化させるための注目点変更制御を行う、
    請求項3に記載の水中空間視聴システム。
  6. 前記制御手段は、前記視聴装置の3次元姿勢が変化した後に停止した状態が所定時間を超えて維持される場合、当該注目点の表示倍率を拡大させる、
    請求項5に記載の水中空間視聴システム。
  7. 前記部分映像に映った被写体の振動を検知する振動検知手段と、
    検知した振動をそれぞれ当該部分映像を映した前記視聴装置の視聴者に伝える振動伝達媒体と、をさらに備えて成る、
    請求項3ないし6のいずれか一項に記載の水中空間視聴システム。
  8. 前記視聴装置は、音データに基づいて音を出力する音出力手段を備えており、
    前記取得手段は、前記全天球映像と共に前記全天球映像の撮像と同期して集音された水中の音を取得し、
    前記制御手段は、前記取得した音を、前記全天球映像に対する当該部分映像における相対的な位置に対応した音量の音データに補正し、補正した音データを前記部分映像と共に前記視聴装置へ出力する、
    請求項3ないし7のいずれか一項に記載の水中空間視聴システム。
  9. 前記視聴装置をそれぞれ複数台備えており、
    前記視聴装置の3次元姿勢に応じた部分映像が前記表示画面に表示される、
    請求項3ないし8のいずれか一項に記載の水中空間視聴システム。
  10. 水中空間を撮像した全天球映像を、視聴者が外光を遮断した状態で視聴可能な表示画面を有する視聴装置を用いて視聴する方法であって、
    前記視聴装置の所定部位に、前記表示画面を拡大させる単眼レンズを有する単眼レンズ板と前記表示画面を拡大させる双眼レンズを有する双眼レンズ板のいずれか一方を選択的に収容し、前記双眼レンズ板が収容されたときは前記表示画面の視聴空間を二つに分割する仕切板をさらに収容する収容工程と、
    前記視聴装置が、前記表示画面における特定部位である注目点、前記視聴装置の3次元姿勢及び該3次元姿勢の変化状態を検出する検出工程と、
    前記視聴装置が、前記全天球映像から前記注目点を包含する部分の映像である部分映像を抽出するとともに前記3次元姿勢及びその変化状態に応じて前記部分映像の抽出部位を変更させる所定の管理装置に対して、前記検出工程の検出結果を送信し、該管理装置から前記部分映像を取得する取得工程と、
    前記視聴装置が、前記取得した部分映像を前記表示画面に表示する表示工程と、
    を有することを特徴とする、水中空間視聴方法。
JP2017004568A 2017-01-13 2017-01-13 視聴装置、水中空間視聴システム及び水中空間視聴方法 Active JP6262890B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017004568A JP6262890B1 (ja) 2017-01-13 2017-01-13 視聴装置、水中空間視聴システム及び水中空間視聴方法
PCT/JP2018/000699 WO2018131688A1 (ja) 2017-01-13 2018-01-12 視聴装置、水中空間視聴システム及び水中空間視聴方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017004568A JP6262890B1 (ja) 2017-01-13 2017-01-13 視聴装置、水中空間視聴システム及び水中空間視聴方法

Publications (2)

Publication Number Publication Date
JP6262890B1 true JP6262890B1 (ja) 2018-01-17
JP2018113653A JP2018113653A (ja) 2018-07-19

Family

ID=60989228

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017004568A Active JP6262890B1 (ja) 2017-01-13 2017-01-13 視聴装置、水中空間視聴システム及び水中空間視聴方法

Country Status (2)

Country Link
JP (1) JP6262890B1 (ja)
WO (1) WO2018131688A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020054456A1 (ja) * 2018-09-14 2020-03-19 ソニー株式会社 表示制御装置および表示制御方法、並びにプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6665981B2 (ja) * 2016-06-08 2020-03-13 株式会社ザクティ 全天球カメラ

Citations (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS628895A (ja) * 1985-07-06 1987-01-16 Kaiken:Kk ラジオコントロ−ル潜水ロボツト
JPH03169796A (ja) * 1989-11-29 1991-07-23 Kansai Electric Power Co Inc:The 水質測定用ロボット装置
JPH04225478A (ja) * 1990-12-27 1992-08-14 Fujitsu Ltd 視線検出装置
JPH04238296A (ja) * 1991-01-22 1992-08-26 Nuclear Fuel Ind Ltd 水中遊泳検査装置
JPH10304351A (ja) * 1997-02-25 1998-11-13 Masanobu Kujirada 動物移動映像等提供システム
JP2001354193A (ja) * 2000-06-14 2001-12-25 Mitsubishi Heavy Ind Ltd 捜索用水中航走体システム、水中航走体、船舶用捜索指令装置、および画像処理方法
JP2003134505A (ja) * 2001-10-22 2003-05-09 Ishikawajima Harima Heavy Ind Co Ltd 宇宙展望台
JP2003319418A (ja) * 2002-04-24 2003-11-07 Hitachi Zosen Corp ステレオ画像表示方法およびステレオ画像表示装置
JP2011157795A (ja) * 2010-02-04 2011-08-18 Nec Corp 鉱物採取システムおよび鉱物採取方法
JP2011191384A (ja) * 2010-03-12 2011-09-29 Panasonic Corp 表示装置
JP2012220859A (ja) * 2011-04-13 2012-11-12 Fujita Corp 全方位撮影システム
JP2012257021A (ja) * 2011-06-08 2012-12-27 Sony Corp 表示制御装置および方法、プログラム、並びに記録媒体
JP2013190451A (ja) * 2010-09-30 2013-09-26 Panasonic Corp ステレオビューア及び表示装置
JP2014113209A (ja) * 2012-12-06 2014-06-26 Toshiba Corp X線診断装置及び制御プログラム
WO2015126987A1 (en) * 2014-02-18 2015-08-27 Merge Labs, Inc. Head mounted display goggles for use with mobile computing devices
WO2015145863A1 (ja) * 2014-03-28 2015-10-01 国立研究開発法人理化学研究所 表示システム、アタッチメント、表示方法、ならびに、プログラム
JP2016005125A (ja) * 2014-06-17 2016-01-12 株式会社ネクストシステム ヘッドマウント型装置及びヘッドマウント型情報表示システム
JP2016084021A (ja) * 2014-10-27 2016-05-19 三菱電機株式会社 車両用表示装置及び車両用表示システム
JP2016092691A (ja) * 2014-11-07 2016-05-23 キヤノン株式会社 画像処理装置及びその制御方法、プログラム、並びに記憶媒体
JP2016171577A (ja) * 2016-04-13 2016-09-23 株式会社リコー 撮像装置および撮像システム
JP2016213808A (ja) * 2015-04-29 2016-12-15 パナソニックIpマネジメント株式会社 カメラ選択方法及び映像配信システム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007075300A (ja) * 2005-09-13 2007-03-29 Konami Digital Entertainment:Kk 立体視眼鏡

Patent Citations (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS628895A (ja) * 1985-07-06 1987-01-16 Kaiken:Kk ラジオコントロ−ル潜水ロボツト
JPH03169796A (ja) * 1989-11-29 1991-07-23 Kansai Electric Power Co Inc:The 水質測定用ロボット装置
JPH04225478A (ja) * 1990-12-27 1992-08-14 Fujitsu Ltd 視線検出装置
JPH04238296A (ja) * 1991-01-22 1992-08-26 Nuclear Fuel Ind Ltd 水中遊泳検査装置
JPH10304351A (ja) * 1997-02-25 1998-11-13 Masanobu Kujirada 動物移動映像等提供システム
JP2001354193A (ja) * 2000-06-14 2001-12-25 Mitsubishi Heavy Ind Ltd 捜索用水中航走体システム、水中航走体、船舶用捜索指令装置、および画像処理方法
JP2003134505A (ja) * 2001-10-22 2003-05-09 Ishikawajima Harima Heavy Ind Co Ltd 宇宙展望台
JP2003319418A (ja) * 2002-04-24 2003-11-07 Hitachi Zosen Corp ステレオ画像表示方法およびステレオ画像表示装置
JP2011157795A (ja) * 2010-02-04 2011-08-18 Nec Corp 鉱物採取システムおよび鉱物採取方法
JP2011191384A (ja) * 2010-03-12 2011-09-29 Panasonic Corp 表示装置
JP2013190451A (ja) * 2010-09-30 2013-09-26 Panasonic Corp ステレオビューア及び表示装置
JP2012220859A (ja) * 2011-04-13 2012-11-12 Fujita Corp 全方位撮影システム
JP2012257021A (ja) * 2011-06-08 2012-12-27 Sony Corp 表示制御装置および方法、プログラム、並びに記録媒体
JP2014113209A (ja) * 2012-12-06 2014-06-26 Toshiba Corp X線診断装置及び制御プログラム
WO2015126987A1 (en) * 2014-02-18 2015-08-27 Merge Labs, Inc. Head mounted display goggles for use with mobile computing devices
WO2015145863A1 (ja) * 2014-03-28 2015-10-01 国立研究開発法人理化学研究所 表示システム、アタッチメント、表示方法、ならびに、プログラム
JP2016005125A (ja) * 2014-06-17 2016-01-12 株式会社ネクストシステム ヘッドマウント型装置及びヘッドマウント型情報表示システム
JP2016084021A (ja) * 2014-10-27 2016-05-19 三菱電機株式会社 車両用表示装置及び車両用表示システム
JP2016092691A (ja) * 2014-11-07 2016-05-23 キヤノン株式会社 画像処理装置及びその制御方法、プログラム、並びに記憶媒体
JP2016213808A (ja) * 2015-04-29 2016-12-15 パナソニックIpマネジメント株式会社 カメラ選択方法及び映像配信システム
JP2016171577A (ja) * 2016-04-13 2016-09-23 株式会社リコー 撮像装置および撮像システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
丹羽健太(外6名): "スマートホンを用いた全天球映像音声配信・視聴系の実装", 日本音響学会 2016年 春季研究発表会講演論文集CD−ROM, JPN6017020600, 24 February 2016 (2016-02-24), JP, pages 1609 - 1610 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020054456A1 (ja) * 2018-09-14 2020-03-19 ソニー株式会社 表示制御装置および表示制御方法、並びにプログラム

Also Published As

Publication number Publication date
JP2018113653A (ja) 2018-07-19
WO2018131688A1 (ja) 2018-07-19

Similar Documents

Publication Publication Date Title
JP6094190B2 (ja) 情報処理装置および記録媒体
WO2020192458A1 (zh) 一种图像处理的方法及头戴式显示设备
US9927948B2 (en) Image display apparatus and image display method
CN105684074B (zh) 图像显示装置和图像显示方法、图像输出装置和图像输出方法与图像显示系统
CN110506249B (zh) 信息处理设备、信息处理方法和记录介质
JP6252849B2 (ja) 撮像装置および方法
JP6262890B1 (ja) 視聴装置、水中空間視聴システム及び水中空間視聴方法
JP6580516B2 (ja) 処理装置および画像決定方法
CN111630852A (zh) 信息处理设备、信息处理方法和程序
WO2020059327A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2019040005A (ja) 読み上げシステム及び読み上げ方法
JP2017216643A (ja) アクチュエータ装置
GB2558283A (en) Image processing
KR20070113067A (ko) 휴대용 입체 카메라
US20210058611A1 (en) Multiviewing virtual reality user interface
CN110809148A (zh) 一种海域搜索系统及三维环境沉浸式体验vr智能眼镜
GB2571286A (en) Virtual reality
JPWO2016002322A1 (ja) 画像処理装置、画像処理方法およびプログラム
CN217987951U (zh) 一种智能助盲仪
WO2022220305A1 (ja) 映像表示システム、情報処理方法、及び、プログラム
WO2022240319A1 (ru) Устройство для получения панорамного обзора
WO2018096315A1 (en) Virtual reality
JP2012013924A (ja) 立体表示装置
JP2017195521A (ja) 位相差増幅装置
JP2016019257A (ja) 立体映像表示システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171214

R150 Certificate of patent or registration of utility model

Ref document number: 6262890

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250