JP2011109462A - 映像送信装置、撮影装置および遠隔作業支援システム - Google Patents

映像送信装置、撮影装置および遠隔作業支援システム Download PDF

Info

Publication number
JP2011109462A
JP2011109462A JP2009262967A JP2009262967A JP2011109462A JP 2011109462 A JP2011109462 A JP 2011109462A JP 2009262967 A JP2009262967 A JP 2009262967A JP 2009262967 A JP2009262967 A JP 2009262967A JP 2011109462 A JP2011109462 A JP 2011109462A
Authority
JP
Japan
Prior art keywords
unit
image
video
communication
trimming
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009262967A
Other languages
English (en)
Inventor
Takuya Kishimoto
卓也 岸本
Yasushi Tanijiri
靖 谷尻
Tetsuya Noda
哲也 野田
Hiromi Yoshii
洋美 吉井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Opto Inc
Original Assignee
Konica Minolta Opto Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Opto Inc filed Critical Konica Minolta Opto Inc
Priority to JP2009262967A priority Critical patent/JP2011109462A/ja
Priority to PCT/JP2010/006445 priority patent/WO2011055526A1/ja
Publication of JP2011109462A publication Critical patent/JP2011109462A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】本発明は、ネットワークの通信状態に応じて映像の通信量を変更することができる映像送信装置、前記映像を撮影する撮影手段を頭部に装着可能な構成で備え、前記映像送信装置を備える頭部装着式の撮影装置およびこの撮影装置を用いた遠隔作業支援システムを提供する。
【解決手段】本発明の撮影装置1は、被写体を撮影する撮影ユニット20と、ネットワークを介した通信を行うネットワークIF部68と、ネットワークの通信状態に応じた通信可能な画像サイズで前記被写体の映像をトリミングし、このトリミングされた被写体の映像をネットワークIF部68に送信させる送信画像制御部63とを備える。
【選択図】図4

Description

本発明は、撮影手段によって撮影された被写体の映像を送信手段によって送信する映像送信装置に関する。そして、本発明は、前記撮影手段を頭部に装着可能な構成で備え、前記映像送信装置を備える頭部装着式の撮影装置およびこの撮影装置を用いた遠隔作業支援システムに関する。
従来、観察者の頭部や顔面に着脱自在に装着され、小型のCRTや液晶表示素子等の映像表示手段から得られる映像(画像)を接眼光学系によって観察者の視野内に表示させることで、前記映像を観察者に観察可能に構成したいわゆるHMD(Head Mount Display)が知られている。このようなHMDの適用例の一つとして、外部の指示者から適宜な指示を受信してHMDに表示することでHMDの装着者が指示者から遠隔に指示を受ける遠隔作業支援システムがある。このような遠隔作業支援システムに適用されるHMDには、例えば、特許文献1に開示されているように、指示者から的確な指示を受けるために、HMDにカメラ等の撮影手段や通信を行う通信手段をさらに設け、この撮影手段によって撮影された被写体の映像を送信手段によって送信するものも知られている。
この送信手段による被写体の映像の送信では、その被写体の映像を送るために必要な通信量が映像(画像)であるが故に比較的多くなることから、ネットワークの通信状態によっては、装着者および指示者がストレスを感じない程度にスムーズに送信することができないことが起こり得る。
この画像を送信する技術に関し、例えば特許文献2および特許文献3がある。この特許文献2には、ビデオ装置によって撮影された被写体のビデオ・イメージの中からコンピュータによって注目領域を特定し、この特定した注目領域だけをMPEG−4圧縮してセルラ電話に配信する技術が開示されている。このような技術によって特許文献2には、セルラ電話のように帯域が限られた通信手段であっても、動きの激しいスポーツやニュースのダイジェストといったコンテンツを、画像的に見劣りさせずに配信することができる、と記載されている。
また特許文献3には、被写体を撮影レンズにより投影し撮像素子により電気信号に変換して生成された画像を有線通信や無線通信等の通信手段を介してPC等の情報処理装置へ送信する撮像装置(カメラ)が開示されており、この画像を情報処理装置へ送信する際に、前記撮像装置は、前記画像を注目ウィンドウと注目ウィンドウ以外のウィンドウとに分割し、ウィンドウごとに異なる圧縮率で圧縮処理しかつ異なるフレームレートで送信するものである。これによって特許文献3には、撮影状態に合わせて撮像画像データの圧縮率を変更することと転送するフレームレートを変更することによって、通信の限られた伝送容量を有効的に使用することができ、撮像画像の動きを滑らかに表現しつつユーザが必要とする被写体周辺の画像は高精度で表現することができる、と記載されている。
特開2008−123257号公報 特開2002−281506号公報 特開2006−033160号公報
ところで、上述の特許文献2に開示の技術や特許文献3に開示の技術によって、通信量を元の通信量よりも低減することができるが、ネットワークの通信状態は、考慮されておらず、ネットワークの通信状態によっては通信量の低減が充分ではない場合も起こり得る。このため、画質が劣化したり表示に滑らかさを欠いてしまったりし得る。
本発明は、上述の事情に鑑みて為された発明であり、その目的は、ネットワークの通信状態に応じて映像の通信量を変更することができる映像送信装置を提供することである。そして、本発明は、前記映像を撮影する撮影手段を頭部に装着可能な構成で備え、前記映像送信装置を備える頭部装着式の撮影装置およびこの撮影装置を用いた遠隔作業支援システムを提供することである。
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる映像送信装置は、被写体を撮影する撮影部と、通信網を介した通信を行う通信部と、前記通信網の通信状態に応じた通信可能な画像サイズで前記被写体の映像をトリミングし、このトリミングされた被写体の映像を前記通信部に送信させる送信画像制御部とを備えることを特徴とする。
このような構成の映像送信装置では、撮影部によって撮影された被写体の映像を通信部で送信する際に、通信網の通信状態に応じた通信可能な画像サイズで前記被写体の映像がトリミングされ、すなわち、被写体のキャプチャー画像のうちの一部の画像領域が切り出され、このトリミングされた被写体の映像(一部の画像領域)が送信される。したがって、このような構成の映像送信装置は、通信網(ネットワーク)の通信状態に応じて被写体の映像の通信量を変更することができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記送信画像制御部は、予め用意された所定の画像をダミー画像として前記通信網に送信することによって前記通信網の通信レートを前記通信網の通信状態として検出する通信状態検出部を備えることである。
この構成によれば、ダミー画像であるが実際の画像データを収容した通信信号が送信され、送信の際における実際の通信網の通信状態に、より適切に対応した通信可能な画像サイズを求めることができ、通信網(ネットワーク)の通信状態に応じて被写体の映像の通信量を適応的に変更することができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記送信画像制御部は、前記通信状態検出部で検出された前記通信網の通信レートから予め設定された所定のマージンを差し引いた通信レート以下の所定の通信レートで、前記通信可能な画像サイズを求めるサイズ決定部を備えることである。もちろん、前記所定の通信レートには、前記通信状態検出部で検出された前記通信網の通信レートから前記予め設定された所定のマージンを差し引いた通信レート自体も含まれる。
この構成によれば、所定のマージンを考慮した通信レート以下の所定の通信レートで、通信可能な画像サイズが求められる。このため、このような構成の映像送信装置は、トリミングされた被写体の映像を送信している間に、通信網の通信状態が変化した場合でも、その所定のマージンの範囲で、例えば通信エラーや画像劣化等の障害が発生することなく、トリミングされた被写体の映像を送信することができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記サイズ決定部は、前記所定の通信レートでの最大の画像サイズを前記通信可能な画像サイズとして求めることである。
この構成によれば、前記所定の通信レートでの最大の画像サイズでトリミングされた被写体の映像が送信される。このため、このような構成の映像送信装置は、通信網の通信状態において最大の解像度で映像を送信することができる。
また、他の一態様では、これら上述の映像送信装置において、好ましくは、前記送信画像制御部は、前記通信可能な画像サイズで前記被写体の映像をトリミングするトリミング制御部をさらに備えることである。
この構成によれば、トリミング制御部をさらに備えた映像送信装置が提供される。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記トリミングするトリミング領域の位置を受け付けるトリミング領域位置受付部をさらに備え、前記トリミング制御部は、前記トリミング領域位置受付部で受け付けたトリミング領域の位置で、前記被写体の映像をトリミングすることである。
この構成によれば、トリミング領域の位置がトリミング領域位置受付部で受け付けられる。したがって、このような構成の映像送信装置は、ユーザが所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記トリミング領域位置受付部は、前記被写体の映像上で前記トリミング領域の位置を変更する指示を受け付けるスイッチ部である。
このような構成の映像送信装置は、スイッチ部のスイッチ操作によって、映像送信装置のユーザが所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記通信部は、前記トリミング領域位置受付部と兼用され、前記トリミング制御部は、前記トリミング領域の位置を指定するトリミング領域位置情報を収容する通信信号を前記通信部で受信した場合に、前記通信信号に収容されたトリミング領域位置情報によって指定されたトリミング領域の位置で、前記被写体の映像をトリミングすることである。
この構成によれば、外部から通信網を介して通信信号によってトリミング領域の位置を指定することができる。このため、このような構成の映像送信装置は、外部の者が所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記トリミング領域位置受付部は、前記被写体の映像から予め設定された所定のマーカを検出し、この検出したマーカに基づいて前記トリミング領域の位置を求めることである。
このような構成の映像送信装置は、被写体の映像から所定のマーカを検出することで、自動的に、トリミング領域の位置を決定することができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記所定のマーカは、予め設定された所定の形状のマーク部材である。
この構成によれば、ユーザがマーク部材を配置することで、自動的に、ユーザが所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記マーク部材は、作業マットまたは作業マット上に形成されたマークである。
この構成によれば、ユーザが作業マットを使うだけで、トリミング領域の位置を指定でき、自動的に、そのトリミング領域の位置で被写体の映像をトリミングすることができる。
また、他の一態様では、上述の映像送信装置において、好ましくは、前記所定のマーカは、手を撮影した手画像領域である。
この構成によれば、ユーザが手を用いて、トリミング領域の位置を指定でき、自動的に、そのトリミング領域の位置で被写体の映像をトリミングすることができる。
また、本発明の他の一態様にかかる撮影装置は、被写体を撮影する撮影部を備え、前記撮影部で撮影した被写体の映像を通信網を介して送信する映像送信部と、前記撮影部を頭部に装着するための装着部とを備える撮影装置であって、前記映像送信部は、これら上述のいずれかの映像送信装置であることを特徴とする。
このような構成の撮影装置は、これら上述のいずれかの映像送信装置を備えるので、通信網の通信状態に応じて映像の通信量を変更することができる。
また、本発明の他の一態様にかかる遠隔作業支援システムは、撮影装置と、通信網を介して前記撮影装置と通信可能に接続される遠隔作業支援装置とを備える遠隔作業支援システムであって、前記撮影装置は、上述の撮影装置であり、前記遠隔作業支援装置は、前記通信網を介して受信され、前記撮影装置の撮影部によって撮影された被写体の映像を表示する表示部と、指示者の指示を受け付けて該指示を前記通信網を介して前記撮影装置へ送信する指示受付部とを備えることを特徴とする。
このような構成の遠隔作業支援システムは、撮影装置を備えるので、通信網の通信状態に応じて映像の通信量を変更することができる。
本発明にかかる映像送信装置、撮影装置および遠隔作業支援システムは、通信網の通信状態に応じて映像の通信量を変更することができる。
実施形態にかかる遠隔作業支援システムの構成を示す図である。 実施形態にかかる撮影装置の構成を示す外観斜視図である。 実施形態にかかる撮影装置における表示ユニットの側断面図である。 実施形態にかかる撮影装置の電気的な構成を示すブロック図である。 実施形態にかかる撮影装置における制御ユニットの正面外観を示す図である。 本実施形態の遠隔作業支援システムにおける撮影装置の動作を示すフローチャートである。 実施形態にかかる他の第1態様の撮影装置におけるトリミング領域の位置の調整および設定を説明するための図である。 実施形態にかかる他の第2態様の撮影装置におけるトリミング領域の位置の調整および設定を説明するための図である。 実施形態にかかる他の第3態様の撮影装置におけるトリミング領域の位置の調整および設定を説明するための図である。
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。
図1は、実施形態にかかる遠隔作業支援システムの構成を示す図である。図2は、実施形態にかかる撮影装置の構成を示す外観斜視図である。図3は、実施形態にかかる撮影装置における表示ユニットの側断面図である。図4は、実施形態にかかる撮影装置の電気的な構成を示すブロック図である。図5は、実施形態にかかる撮影装置における制御ユニットの正面外観を示す図である。
実施形態にかかる遠隔作業支援システムは、作業者における所定の方向の被写体を撮影し、この撮影した被写体の映像を前記作業者とは離れた別の場所に居る指示者が観察することができるように表示し、この被写体の映像を参照した前記指示者の指示を前記作業者に提供するシステムである。このような遠隔作業支援システムSは、例えば、図1ないし図5に示すように、作業者Wに使用され、作業者Wにおける所定の方向、例えば作業者Wの視線方向の例えば作業対象物等の被写体を撮影し、この撮影した被写体の映像を送信する撮影装置1と、ネットワーク(通信網)NTを介してこの撮影装置1によって撮影された被写体の映像を受信し、指示者Aが見ることができるようにこの受信した被写体の映像を表示し、この被写体の映像を参照した指示者Aの指示を受け付け、この受け付けた指示者Aの指示を撮影装置1から出力させるべく、この受け付けた指示者Aの指示をネットワークNTを介して撮影装置1へ送信する遠隔支援装置5とを備えて構成されている。
遠隔支援装置5は、撮影装置1から離れた場所に設けられ、撮影装置1と互いにデータを交換することができるように、ネットワークNTを介して通信可能に撮影装置1と接続され、例えば、図1に示すように、メインサーバコンピュータ装置(以下、「メインサーバPC」と略記する。)6と、支援記録サーバコンピュータ装置(以下、「支援記録サーバPC」と略記する。)7と、コンテンツサーバコンピュータ装置(以下、「コンテンツサーバPC」と略記する。)8とを備えて構成される。
ネットワークNTは、例えば、電話網、ディジタル通信網および無線通信網等の通信網であり、所定の通信プロトコルを用いてデータが伝送される。本実施形態では、ネットワークNTは、例えば公衆電話網(固定電話網)、ISDN等のディジタル通信網および移動体電話網(携帯電話網)等の公衆ネットワークNTaと、例えばイーサネット(登録商標)等のローカル・エリア・ネットワーク(LAN;プライベートネットワーク)NTbとを備えて構成される。公衆ネットワークNTaは、例えば、通信プロトコルにFTP(File Transfer Protocol)やTCP/IP(Transmission Control Protocol/Internet Protocol)等のインターネットプロトコルが用いられてインターネットを構成し、プライベートネットワークNTbは、例えば、前記インターネットプロトコルが用いられてイントラネットを構成する。撮影装置1は、公衆ネットワークNTaと通信可能に接続され、遠隔支援装置5のメインサーバPC6、支援記録サーバPC7およびコンテンツサーバPC7の各サーバPCは、互いにデータを交換することができるように、プライベートネットワークNTbと通信可能に接続され、そして、公衆ネットワークNTaとプライベートネットワークNTbとは、通信可能に接続されている。
メインサーバPC6は、ネットワークNTを介して撮影装置1から受信した被写体の映像を表示するとともに、この被写体の映像を参照した指示者Aの指示を受け付け、この受け付けた指示者Aの指示をネットワークNTを介して撮影装置1へ送信するサーバコンピュータであり、例えば、メインサーバPC6の全体制御を司るコンピュータ161と、指示者Aの指示を受け付け、入力するための例えばキーボード162aやマウス162b等の入力装置162と、例えば映像を表示するディスプレイ163a等の出力装置163とを備えて構成される。
なお、本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
このコンピュータ161は、ネットワークNT(プライベートネットワークNTb)と通信可能に接続するための、撮影装置1における後述のネットワークインタフェース部68と同様の通信インタフェース回路(ネットワークカード)を備えており、撮影装置1からネットワークNTを介して受信した被写体の映像をディスプレイ163aに表示するとともに、キーボード162aやマウス162bから受け付けた(入力された)指示者Aの指示をネットワークNTを介して撮影装置1へ送信する制御を行う。この指示者Aの指示は、撮影装置1にネットワークNTを介して受信され、撮影装置1における後述の表示ユニット40に表示される。
支援記録サーバPC7は、撮影装置1と遠隔支援装置5との間でやり取りされた支援データを記憶して記録し、クライアント装置の要求に従ってこの要求に対応する支援データをクライアント装置に提供するサーバコンピュータである。支援記憶サーバPC7は、コンピュータ161の制御に従って、あるいは、プライベートネットワークNTbを伝送する通信信号を監視(モニタ)することによって独自に、撮影映像装置1による被写体の映像を日付や時刻等の日時情報と対応付けて支援データとして記録するとともに遠隔支援装置5による作業者Aの指示を日付や時刻等の日時情報と対応付けて支援データとして記録する。このように支援記録サーバPC7は、遠隔作業支援システムSの履歴として支援データを保存し、記録する。
そして、本実施形態の遠隔作業支援システムSは、映像だけでなく、例えば音声等の音も撮影装置1と遠隔支援装置5との間で互いに交換することができるように構成されており、撮影装置1には、後述するように、音入出力ユニット50としてイヤホン51L、Rとマイクロホン52とを備えており、メインサーバPC6には、入力装置162としてマイクロホン162cをさらに備え、出力装置163としてスピーカ163bをさらに備えている。そして、コンピュータ161は、撮影装置1からネットワークNTを介して受信した音声等の音(マイクロホン52で集音した音)をスピーカ163bから出力するとともに、マイクロホン162cから受け付けた(入力された)指示者Aの指示(音声指示)をネットワークNTを介して撮影装置1へ送信する制御を行う。この指示者Aの音声指示は、撮影装置1にネットワークNTを介して受信され、撮影装置1における前記イヤホン51L、51Rから出力される。また、支援記録サーバPC7は、コンピュータ161の制御に従って、あるいは、独自に、撮影装置1による前記音を日時情報と対応付けて支援データとして記録するとともに遠隔支援装置5による作業者Aの音声指示を日時情報と対応付けて支援データとして記録する。
そして、本実施形態における遠隔作業支援システムSでは、指示者Aの指示には、作業者Wが遠隔支援装置5へ直接入力した例えばテキストデータや音声指示等のデータだけでなく、例えば作業対象物を表す参照映像や、作業手順を示す作業マニュアルや、製品の取り扱い方を示す取り扱い説明書等の、作業者Wが作業を行う際にその作業の支援となる映像や音声等の支援コンテンツ(支援情報)も含まれる。コンテンツサーバPC8は、この支援コンテンツを格納し、クライアント装置の要求に従ってこの要求に対応する支援コンテンツをクライアント装置に提供するサーバコンピュータである。メインサーバPC6のコンピュータ161は、キーボード162aやマウス162bから指示者Aの支援コンテンツを選択する指示(コンテンツ選択指示)を受け付け、このコンテンツ選択指示に対応する支援コンテンツをネットワークNTを介して撮影装置1へ送信するようにコンテンツサーバPC8を制御する。コンテンツサーバPC8は、コンピュータ161の制御に従って、コンテンツ選択指示に対応する支援コンテンツをネットワークNTを介して撮影装置1へ送信し、撮影装置1に支援コンテンツを提供する。
このような遠隔支援装置5と組み合わせて好適に使用される撮影装置1は、作業者Wの頭部に装着され、作業者W(装着者)の視線方向に略沿った被写体を撮影し、この撮影した被写体の映像をネットワークNTを介して遠隔支援装置5へ送信する頭部装着式の撮影装置(カメラ)であり、例えば、図2ないし図5に示すように、装着ユニット10と、撮影ユニット20と、表示ユニット40と、音入出力ユニット50と、制御ユニット60とを備えて構成される。
装着ユニット10は、作業者Wの頭部に装着するための装置であり、本実施形態では、視力矯正用のメガネを模した構造で構成されている。すなわち、本実施形態の装着ユニット10は、左右一対のテンプル11L、11Rと、ブリッジ12と、左右一対の鼻パッド13L、13Rと、左右一対の透明部材14L、14Rとを備えて構成されている。
テンプル11L、11Rは、例えば弾性素材等から構成される長尺棒状の部材であり、その一方端部には装着者(ここでは作業者W)の耳に掛けられる耳掛け部分を有し、その他方端部には回動部11La、11Raを介して透明部材14L、14Rに固定されて保持する保持部分を有しており、作業者Wの耳や側頭部に掛け止められ、作業者Wの頭部への保持および装着位置を調整するためのものである。テンプル11L、11Rと透明部材14L、14Rとの固定には、例えば接着剤による接着やねじによるねじ留め等の固定手段が用いられる。また、撮影装置1は、回動部11La、11Raによる回動により、テンプル11L、11Rを互いに回転方向の異なる矢印P、Q方向へ回動させて、テンプル11L、11Rを透明部材14L、14Rに沿わせることによって、不使用時にコンパクトに折り畳めるようになっている。
ブリッジ12は、左右一対の透明部材14L、14Rを互いに連結するための短尺棒状の部材であり、テンプル11L、11Rの固定手段と同様の手段によって、その両端で透明部材14L、14Rに固定される。左右一対の透明部材14L、14Rは、このブリッジ12によって一定の間隔を空けた相対位置関係で保持される。
鼻パッド13L、13Rは、装着ユニット10の装着者(ここでは作業者W)に対する顔面への保持を行うための部材であり、各脚部を介してブリッジ12に接続されている。
透明部材14L、14Rは、例えばポリカーボネートやポリメチルメタクリレート等の樹脂やガラス等の可視光線に対し透明な素材等から構成され、視力矯正用のメガネレンズの外形形状のような、角を丸く縁取りした長方形状の板状部材である。もちろん、透明部材14L、14Rは、撮影装置1の本来の機能の観点において視力矯正用の調整度数を備える必要はないが、視力矯正用の調整度数を備えていても良い。透明部材14L、14Rの一方には、本実施形態では、右眼に対応する透明部材14Rに表示ユニット40の接眼光学系41を嵌め込むための略U字形状の切り欠き部14Rsが形成されている。
これらテンプル11L、11R、ブリッジ12および鼻パッド13L、13Rによっていわゆるメガネフレームが構成され、このメガネフレームが装着者に対し掛け止められ、透明部材14L、14Rが装着者の眼に対し所定の状態(所定の距離、所定の位置)で装着される。
なお、本実施形態では、装着ユニット10は、テンプル11L、11Rおよびブリッジ12によって透明部材14L、14Rを固定、保持するように構成されたが、左右一対のリムを備え、この各リムを介して透明部材14L、14Rを固定、保持するように構成されてもよい。この各リムは、例えば内溝を持った環状または半環状の部材であり、この環または半環に透明部材14L、14Rの外周部分を嵌め込むことによって透明部材14L、14Rを固定、保持するものである。
撮影ユニット20は、例えば作業物体や装着者(ここでは作業者W)の周囲の外界情景等の被写体を撮影する装置であり、装着者(作業者W)に装着され前記装着者が前方略水平方向を見た場合に、その光軸が装着者の視線方向に略一致するように、装着ユニット10に対し固定的に保持される。これによって撮影ユニット20は、装着者の前方視野内を撮影することが可能となる。本実施形態では、撮影ユニット20は、表示ユニット本体45の一方端部に外付けされており、表示ユニット本体45が接眼光学系41を介して装着ユニット10の透明部材14Rに固定的に取り付けられることによって、装着ユニット10に対し固定的に保持される。このように撮影ユニット20は、本実施形態では、装着者(ここでは作業者W)の視野内撮影カメラとして機能し、また装着ユニット10に保持されるので、撮影装置1がコンパクトに構成され、また作業者Wは、ハンズフリーとなって、両手を使った作業が可能となる。なお、撮影ユニット20を装着ユニット10に前記光軸と前記視線方向に略一致するように固定的に保持する機構は、撮影ユニット20が脱着可能な構造であってもよい。このように構成することによって撮影ユニット20を適宜に変えることができる。
撮影ユニット20は、例えば、図4に示すように、撮影光学系21と、撮像素子22と、アナログフロントエンド23と、映像制御部24とを備えて構成される。
撮影光学系21は、被写体の光学像(光像)を撮像素子22の受光面に結像するための光学系である。撮影光学系21は、単焦点光学系であってもよく、またズーミングすべくズーム機能を備えた変倍光学系であってもよい。また撮影光学系21は、オートフォーカス(AF)機能を備えて構成されてよい。
撮像素子22は、この撮影光学系21によって受光面上に形成された被写体の光学像における光量に応じてR(赤)、G(緑)、B(青)の各成分の画像信号に光電変換してアナログフロントエンド23へ出力する装置である。撮像素子22には、例えば、CCD型カラーイメージセンサやCMOS型カラーイメージセンサ等が用いられる。本実施形態では、CMOS型カラーイメージセンサが用いられ、このCMOS型カラーイメージセンサは、例えば、R(赤)光、G(緑)光、B(青)光の各光に対応した各色透過フィルタをピクセル単位(画素単位)で市松模様に配置されたカラーエリア撮影センサであって、撮影光学系21により結像された被写体光像を、R(赤)光、G(緑)光、B(青)光の各成分の画像信号(各画素単位で受光された画素信号の信号列から成る信号)に光電変換するものである。
アナログフロントエンド23は、所定の基準クロックに基づいて撮像素子22の駆動を制御し、撮像素子22で得られた画像信号に周知のアナログ信号処理を施した後にディジタル映像信号に変換し、映像制御部24へ出力する回路である。
映像制御部24は、アナログフロントエンド23から入力された映像信号に、例えば黒レベル補正処理、画素補間処理、ホワイトバランス調整処理、ガンマ(γ)補正処理、シェーディング補正処理等の、周知の画像処理を施す回路である。映像制御部24は、アナログフロントエンド23から入力された映像信号を、CMOS型カラーイメージセンサにおける画像信号の読み出しクロックに同期して、制御ユニット60内の画像メモリ61に書き込む。すなわち、映像信号は、アナログフロントエンド23から一旦画像メモリ61に書き込まれ、所定の各画像処理が施される際に、画像メモリ61から映像制御部24に読み込まれ、各画像処理が施される。そして、これら各画像処理の施された映像信号は、再度、画像メモリ61に書き込まれ、記憶(格納)される。
表示ユニット40は、所定の画像(映像)を表示する装置であり、遠隔支援装置5からネットワークNTを介して送信されてきた指示者Aの指示を表示するものである。前記指示者Aの指示には、上述したように、指示者Aが遠隔支援装置5へ直接入力した例えばテキストデータ等のデータだけでなく、作業者Wが作業を行う際にその作業の支援となる映像や音声等のコンテンツサーバPC8による支援コンテンツも含まれる。そして、本実施形態では、表示ユニット40は、撮影ユニット20の電子ファインダの機能を兼ねており、撮影ユニット20によって撮影された映像も表示することができるようにされている。撮影ユニット20によって撮影された被写体の映像が別体の表示装置に表示される場合には、作業者Wは、撮影ユニット20によって撮影されている領域(被写体)を見るために前記表示装置の方に向かなければならないが、これによって撮影ユニット20の撮影者である作業者Wは、撮影ユニット20によって撮影されている領域(被写体)を見るために、その頭部の方向を変える必要がなく、視線をそらせる必要もなく、作業者W自信が撮影ユニット20によって撮影している領域(被写体)を正確に認識することができる。
表示ユニット40は、装着ユニット10に取り付けられることなく別体で構成されてもよいが、作業者Wの視界内に指示者Aの指示を表示し、作業者Wが指示者Aの指示を参照しながら作業を行うことができるように、本実施形態では、装着ユニット10に、しかも一方の透明部材14Rに取り付けられている。このような表示ユニット40は、例えば、図2ないし図4に示すように、接眼光学系41と、映像生成部42と、照明光学系43と、光源部44と、これら映像生成部42、照明光学系43および光源部44を収容するとともに接眼光学系41に取り付けられる筐体である表示ユニット本体45とを備えて構成される。表示ユニット本体45には、上述したように、その一方端に撮影ユニット20が外付けされており、そして、底面から外部に接眼光学系41が延びている。さらに、表示ユニット本体45の他方端から、ケーブル46が延び、撮影ユニット20、表示ユニット40および音入出力ユニット50と制御ユニット60とは、相互にデータを交換することができるようにこのケーブル46によって電気的に接続されている。
光源部44は、所定波長の光を発光する装置であり、例えば、所定波長色を含む白色発光ダイオード(以下、「白色LED」と略記する)から成る点光源である。
照明光学系43は、光源部44の発光光が入射され、この入射された発光光から映像生成部42を照明する照明光を生成する装置であり、例えば、本実施形態では、方向により拡散度が異なり、前記入射された発光光を一方向に拡散する一方向拡散板43aと、一方向拡散板43aで拡散された光を集光する集光レンズ43bとを備えて構成される。より具体的には、例えば、本実施形態では、一方向拡散板43aは、光源部44から入射された発光光を図3の紙面に垂直な方向に約40度で拡散するとともに図3の紙面に平行な方向に約0.2度で拡散する。
映像生成部42は、照明光学系43の照明光が入射され、各画素において、この照明光をRGBごとにVRAM64の映像信号に応じて強度変調することによって映像を生成する装置であり、例えば、透過型LCD装置(透過型液晶表示装置)を備えて構成される。
接眼光学系41は、映像生成部42で生成された映像を装着者(作業者W)の眼に導くための装置であり、例えば、光学プリズム41aと、反射部41bとを備えて構成される。
光学プリズム41aは、例えばガラスや透明樹脂等の可視光に対して透明な材料より成る部材であって、互いに対向する一対の主面が略平行となるように形成された平行平板である。光学プリズム41aの上端部(上面部)は、上面が映像生成部42で生成された映像光の入射面であり、映像光の大部分を内部に採光することができるように、肉厚部411が形成されている。この肉厚部411は、上方に向かってより肉厚となるように前面側(接眼面と反対側)が突き出るくさび形状に形成される。そして、光学プリズム41aの下端部(底面部)は、斜めにカットされた傾斜部412が形成されており、この傾斜部412に反射部41bが設けられている。光学プリズム41aは、その上端部から入射された映像光をその内部で複数回の反射を行わせ、前記映像光を反射部41bへ導光する。より具体的には、光学プリズム41aは、その上端部から入射された映像光を前記一対の主面で交互に全反射を繰り返し、前記映像光を反射部41bへ導光する。
反射部41bは、光学プリズム41aによって導光された映像光を、光学プリズム41aの傾斜部412と協働して光学プリズム41aの外部の後面側(接眼面側)へ反射する光学素子であり、例えば、ハーフミラー、多層膜およびホログラム光学素子等である。本実施形態では、反射部41bは、ホログラムを生成するホログラム光学素子(HOE)であり、例えば、波長選択性および角度選択性がともに比較的高いことから、感光材料の厚さにより位相差で情報を記録する体積位相型の反射型ホログラム光学素子である。体積位相型のホログラム光学素子は、本実施形態では、被写体の映像光を拡大反射する、光学的に軸非対称ないわゆる自由曲面で構成されて正の光学的パワーを有する。このように本実施形態では、反射型ホログラム光学素子が、正の光学的パワーを持つ反射面を有して被写体の映像光を拡大反射し、接眼光学系を兼ねるので、表示ユニット40を小型化することができる。そして、反射部41bの反射面は、軸非対象であるので、所定の収差を補正するように反射型ホログラム光学素子を構成することができ、作業者W(装着者、観察者)は、収差補正された被写体の映像を観察することが可能となる。このように反射部41bの反射面は、所定の収差を補正することができるように適宜に設計される。
この反射型ホログラム光学素子は、所定波長の映像光を回折反射するように構成されており、前記光源部44は、この反射型ホログラム光学素子の回折波長に応じた所定波長の光を発光するように構成される。より具体的には、本実施形態では、反射型ホログラム光学素子は、RGB(赤緑青)に対応した各波長465nm±10nm、520nm±10nmおよび635nm±10nmの映像光を回折するように製作され、これに応じて、光源部44は、中心波長465nm、520nmおよび635nmのRGB一体型の白色LEDを備えて構成される。この反射型ホログラム光学素子の感光材料として、例えば、フォトポリマ、銀塩材料、重クロム酸ゼラチン等を挙げることができ、特に、ドライプロセスで製造することができることから、フォトポリマが好ましい。
そして、前記透明部材14Rの切り欠き部14Rsは、光学プリズム41aが隙間無く嵌め込まれるように、光学プリズム41aの形状に対応した形状とされており、透明部材14Rの切り欠き部14Rsに接眼光学系41が嵌め込まれた場合に、透明部材14Rと接眼光学系41とは1枚の板状に一体化され、傾斜部412に設けられた反射部41bは、光学プリズム41aと透明部材14Rとに挟まれて埋設する。このように透明部材14Rと光学プリズム41aとは、反射部41bを2つの透明材料に埋設した接合光学プリズムを構成している。このため、反射部41bが外気に触れることが無く、反射部41bがホログラム光学素子である場合に、ホログラムを安定にその性能を保つことが可能となる。
光学プリズム41aによって導光された映像光は、反射部41bで反射し、より具体的には、本実施形態では、反射型ホログラム光学素子によって回折され、虚像として光学瞳Eに導かれる。装着者(作業者W)は、この光学瞳Eの映像光をその瞳に入射することで、映像を見ることができる。このように表示ユニット40では、VRAM64の映像信号による映像が映像生成部42の透過型LCD装置に表示され、この映像生成部42の透過型LCD装置によって得られた映像が、接眼光学系41によって装着者(作業者W)の眼球に直接投影され、あたかも該映像が空中に拡大投影されているかのような虚像の観察が可能になっている。
また、透明部材14Rは、光学プリズム41aの傾斜部412での屈折をキャンセル(相殺)するので、装着者(作業者W)は、外界光を略歪むことなく見ることができる。また、体積位相型の反射型ホログラム光学素子は、上述のように、特定入射角の特定波長の光のみを回折するので、外界光にはほとんど影響せず、外界光は、透明部材14R、反射部41bの反射型ホログラム光学素子および光学プリズム41aを透過し、装着者(作業者W)は、略通常通り、外界を見ることができる。このように体積位相型の反射型ホログラム光学素子は、特定波長域の反射光とそれ以外の波長域の透過光とを合成するコンバイナ光学素子として機能している。このような構成によって表示ユニット40における外界光の可視光透過率を約85%以上に確保することが可能となり、外界光の透過率が高く、装着者(作業者W)がシースルーで外界を良好に見ることができ、装着者(作業者W)の作業性を向上することが可能となる。そして、本実施形態では、接眼光学系41は、右眼に対応する透明部材14Rに配設され、表示ユニット40に表示される映像を右眼で観察することができると同時に外界を右眼でも観察することができる(もちろん、左眼は、外界を観察することができる)。
また、接眼光学系41は、本実施形態では、映像光を光学プリズム41aの内部で反射するとともに反射部41bの体積位相型の反射型ホログラム光学素子によって光学瞳Eに導くように構成されているので、透明部材14Rの厚みは、通常のメガネレンズと略同程度の厚み(例えば3mm程度)とすることができ、小型で軽量となる。そして、前記反射は、本実施形態では、全反射であるので、装着者(作業者W)は、透明部材14Rの一対の両主面を通して外界光の透過率を略落とすことなく、外界を見ることができる。
音入出力ユニット50は、音を入出力するための回路であり、音を出力する左右一対のイヤホン51L、51Rと、音を集音するマイクロホン52とを備えて構成される。マイクロホン52は、装着ユニット10を作業者Wが装着した場合に、作業者Wの音声を集音すべく、装着ユニット10のテンプル11Lから延びる略L字状のアーム53の先端に取り付けられている。この音入力ユニット50のマイクロホン52によって作業者Wの音声が集音され、この音声の音声データが撮影装置1からネットワークNTを介して遠隔支援装置5へ送信され、遠隔支援装置5のメインサーバPC6におけるスピーカ163bからこの音声データの音声が出力される。一方、この遠隔支援装置5のメインサーバPC6におけるマイクロホン162cによって指示者Aの音声が集音され、この音声の音声データが遠隔支援装置5からネットワークNTを介して撮影装置1へ送信され、撮影装置1のイヤホン51L、51Rからこの音声データの音声が出力される。あるいは、コンテンツサーバPC8から音声の支援コンテンツがネットワークNTを介して撮影装置1へ送信され、撮影装置1のイヤホン51L、51Rからこの音声の支援コンテンツが出力される。なお、撮影装置1のイヤホン51L、51Rは、一方のみであっても良い。これによって本実施形態の遠隔作業支援システムSは、音声指示を作業者Wに与えることができ、また、例えば音声等の音も撮影装置1と遠隔支援装置5との間で互いに交換することができ、作業者Wと指示者Aとは、音声によってコミュニケーションを図ることができる。
制御ユニット60は、撮影装置1の全体制御を司る回路である。制御ユニット60は、撮影ユニット20および表示ユニット40のように装着ユニット10に取り付けられても良いが、撮影装置1における作業者Wの頭部に装着される部分の重量を軽減するために、本実施形態では、装着ユニット10に取り付けられることなく装着ユニット10とは別体に設けられており、上述したように、ケーブル46によって撮影ユニット20、表示ユニット40および音入出力ユニット50と電気的に接続されている。制御ユニット60は、例えば、図1、図2、図4および図5に示すように、画像メモリ61と、制御部62と、VRAM64と、音入力処理部65と、音出力処理部66と、スイッチ部80と、モニタ部67と、ネットワークIF部68とを備えて構成され、これら画像メモリ61、制御部62、VRAM64、音入力処理部65、音出力処理部66、スイッチ部80、モニタ部67およびネットワークIF部68は、略直方体形状の筐体69に収容されている。なお、スイッチ部80(81〜83)は、その操作部分が筐体69の外部に臨むように筐体69内に配設され、モニタ部67は、その表示画面が筐体69の外部に臨むように筐体69内に配設され、ネットワークIF部68は、そのコネクタ部分が筐体69の外部に臨むように筐体69内に配設される。
画像メモリ61は、例えば、RAM(Random Access Memory)等の揮発性の記憶素子およびその周辺回路を備えて構成され、上述したように、撮影ユニット20における映像制御部24の作業領域として用いられる。
VRAM64は、RAMおよびその周辺回路を備えて構成される、いわゆるビデオラム(Video RAM)であり、表示ユニット40における映像生成部42の画素数に対応した映像信号の記憶容量を少なくとも有し、映像生成部42で再生表示される映像を構成する映像信号をバッファするためのバッファメモリである。
音入力処理部65は、音入出力ユニット50におけるマイクロホン52から入力されてきた音信号に対し、例えば、増幅やノイズカット等の所定の信号処理を行って制御部62へ出力する回路である。
音出力処理部66は、制御部62から入力されてきた音信号に対し、例えば、増幅やノイズカット等の所定の信号処理を行って音入出力ユニット50におけるイヤホン51L、51Rへ出力する回路である。
スイッチ部67は、電源スイッチ(電源SW)81と、トリミング領域調整スイッチ部(トリミング領域調整SW)82と、トリミング領域設定スイッチ部(トリミング領域設定SW)83とを備えて構成されている。
電源SW81は、撮影装置1を稼動するために、撮影装置1を起動するスイッチ回路である。電源SW81は、例えば、プッシュスイッチ等であり、図2に示すように、その操作釦が筐体69の外部に臨むように、筐体69の側面に配設され、その操作釦のスイッチ操作によるオン信号およびオフ信号は、制御部62へ出力される。
トリミング領域調整SW82は、撮影ユニット20によって撮影(キャプチャー)された被写体の映像(被写体のキャプチャー画像)からその一部の領域を切り出す場合に、その切り出す領域(トリミング領域)の位置を調整するための操作入力を受け付け、入力するスイッチ回路である。トリミング領域調整SW82は、本実施形態では、例えば、トリミング領域の位置を4方向のそれぞれにずらして調整するために、各方向を指示する操作入力を受け付け、入力するための例えば十字キーのような複数のスイッチ回路を備えている。例えば、図5に示すように、トリミング領域調整SW82は、図5の紙面上方向にトリミング領域の位置を移動させる操作入力を受け付け、入力するための上方向調整スイッチ(上方向調整SW)82aと、図5の紙面下方向にトリミング領域の位置を移動させる操作入力を受け付け、入力するための下方向調整スイッチ(下方向調整SW)82bと、図5の紙面左方向にトリミング領域の位置を移動させる操作入力を受け付け、入力するための左方向調整スイッチ82c(左方向調整SW)と、図5の紙面右方向にトリミング領域の位置を移動させる操作入力を受け付け、入力するための右方向調整スイッチ(右方向調整SW)82dとを備えている。これら上方向調整SW82a、下方向調整SW82b、左方向調整SW82cおよび右方向調整SW82dは、それぞれ、例えば、プッシュスイッチ等であり、図5に示すように、その操作釦が筐体69の外部に臨むように、筐体69の主面下段の紙面左側に配設され、その操作釦のスイッチ操作によるオン信号は、制御部62へ出力される。
トリミング領域設定SW83は、撮影ユニット20によって撮影(キャプチャー)された被写体の映像(被写体のキャプチャー画像)からその一部の領域を切り出す場合に、その切り出す領域(トリミング領域)の位置を設定するための操作入力を受け付け、入力するスイッチ回路である。トリミング領域設定SW83は、本実施形態では、例えば、図5に示すように、撮影装置1の動作モードを、通常の動作である通常モードから、トリミング領域の位置を調整し設定するためのトリミング領域調整設定モードに切り替えるためのADJUSTスイッチ(ADJUSTSW)83aと、トリミング領域の位置を制御部62に記憶し、トリミング領域の位置を設定するためのSETスイッチ(SETSW)83bと、トリミング領域調整設定モードを終了し、撮影装置1の動作モードを通常モードへ復帰させるCLEARスイッチ(CLEARSW)83cとを備えている。これらADJUSTSW83a、SETSW83bおよびCLEARSW83cは、それぞれ、例えば、プッシュスイッチ等であり、図5に示すように、その操作釦が筐体69の外部に臨むように、筐体69の主面下段の紙面右側に配設され、その操作釦のスイッチ操作によるオン信号は、制御部62へ出力される。
モニタ部67は、制御部62の制御に従って、所定の画像(映像)を表示する装置であり、撮影ユニット20によって撮影された映像およびトリミング領域を表示するものである。トリミング領域は、例えば、図5に示すように、キャプチャー画像からトリミングされる領域部分(送信画像エリア)を示す枠線FLによって表され、前記枠線FLは、キャプチャー画像に重畳されてモニタ部67に表示される。モニタ部67は、例えば、LCD装置や有機EL表示装置等であり、図5に示すように、その表示画面が筐体69の外部に臨むように、筐体69の主面上段に配設される。
ネットワークIF部68は、ネットワークNTを介して撮影装置1と遠隔支援装置5との間で通信を行うための通信インタフェース回路であり、制御部62から入力されてきたデータをネットワークNTの通信プロトコルに対応した通信信号に収容し、この収容した通信信号をネットワークNTへ送信するとともに、ネットワークNTから撮影装置1宛ての通信信号を受信し、この受信した通信信号に収容されているデータを取り出して制御部62で処理可能な形式に変換し、この変換したデータを制御部62へ出力するものである。
制御部62は、撮影装置1の各部を当該機能に応じて制御する回路であり、例えば、撮影装置1の各部を当該機能に応じて制御するための制御プログラム等の各種の所定のプログラムや例えばダミー画像のデータやスイッチ部80によって設定されたトリミング領域の位置のデータ等の前記所定のプログラムの実行に必要なデータ等の各種の所定のデータ等を記憶する、不揮発性の記憶素子であるROM(Read Only Memory)や書き換え可能な不揮発性の記憶素子であるEEPROM(Electrically Erasable Programmable Read Only Memory)、前記所定のプログラムを読み出して実行することによって所定の演算処理や制御処理を行うCPU(Central Processing Unit)、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる前記CPUのワーキングメモリとなるRAM、および、これらの周辺回路を備えたマイクロコンピュータ等によって構成される。制御部62は、機能的に、送信画像制御部63を備えている。
送信画像制御部63は、撮影ユニット20によって撮影された被写体の映像のうち、遠隔支援装置5へ送信すべき映像を制御するものであって、本実施形態では、ネットワークNTの通信状態に応じた通信可能な画像サイズで前記被写体の映像をトリミングし、このトリミングされた被写体の映像をネットワークIF部68に送信させるものであり、例えば、機能的に、通信状態検出部631と、サイズ決定部632と、トリミング制御部633とを備えて構成される。
通信状態検出部631は、ネットワークNTの通信状態を検出するものであり、例えば、本実施形態では、予め用意された所定の画像をダミー画像としてネットワークNTに送信することによってこのネットワークNTの通信レートをこのネットワークNTの通信状態として検出するものである。ダミー画像は、データ容量が予め既知であれば、任意の画像でよく、例えば、本実施形態では、ダミー画像として、XGA(1024×768)サイズのサンプル画像(カラーバー等のテスト画像)が利用される。そして、通信状態検出部631は、このダミー画像を収容した通信信号が撮影装置1からネットワークNTを介して遠隔支援装置5へ伝送されるまでの送信時間に基づいて通信レート(通信速度)を求める。この送信時間は、例えば、撮影装置1が前記ダミー画像を収容した通信信号を送信した時刻(送信時刻)を記憶しておき、前記通信信号に対する遠隔支援装置5による受信応答(いわゆるAck通信信号)に、遠隔支援装置5で前記通信信号を受信した時刻(遠隔支援装置5での受信時刻)を遠隔支援装置5によって収容させることによって、前記遠隔支援装置5での受信時刻と前記送信時刻との差として計測することができる。また例えば、前記送信時間は、撮影装置1が前記ダミー画像を収容した通信信号を送信した時刻(送信時刻)を記憶しておき、前記通信信号に対する遠隔支援装置5による受信応答(いわゆるAck通信信号)を撮影装置1で受信した時刻(撮影装置1での受信時刻)を計時することによって、前記撮影装置1での受信時刻と前記送信時刻との差の半分として計測することができる。このようにネットワークNTの通信状態の検出に当たって、本実施形態では、ダミー画像であるが実際の画像データを収容した通信信号が送信され、送信の際における実際のネットワークNTの通信状態に、より適切に対応した通信可能な画像サイズを求めることができ、ネットワークNTの通信状態に応じて被写体の映像の通信量を適応的に変更することができる。
サイズ決定部632は、通信状態検出部631で検出されたネットワークNTの通信レートから予め設定された所定のマージンを差し引いた通信レート以下の所定の通信レートで、通信可能な画像サイズを求めるものである。
例えば、サイズ決定部632は、(通信レート)=(ダミー画像の画素数)/(送信時間+α)の式によって通信レートを求める。ただし、前記αは、通信余裕であり、前記所定のマージンに相当するものである。そして、サイズ決定部632は、(通信可能な画像サイズ)=(決定された通信レート)×(1/送信すべき映像のフレームレート)の式によって前記通信可能な画像サイズを求める。このようにサイズ決定部632は、決定された通信レートと、送信すべき映像のフレームレートとに基づいて、前記通信可能な画像サイズを決定する。このように本実施形態では、所定のマージンを考慮した通信レート以下の所定の通信レートで、通信可能な画像サイズが求められるので、撮影装置1は、トリミングされた被写体の映像を送信している間に、ネットワークNTの通信状態が変化した場合でも、その所定のマージンの範囲で、例えば通信エラーや画像劣化等の障害が発生することなく、トリミングされた被写体の映像を送信することができる。また、本実施形態では、このようにサイズ決定部632は、前記決定された所定の通信レートでの最大の画像サイズを前記通信可能な画像サイズとして求め、そして、この前記所定の通信レートでの最大の画像サイズでトリミングされた被写体の映像が送信される。このため、撮影装置1は、ネットワークNTの通信状態において最大の解像度で映像を送信することができる。
トリミング制御部633は、通信状態検出部631で検出されたネットワークNTの通信状態において通信可能な画像サイズとしてサイズ決定部632で決定された画像サイズで、撮影ユニット20によって撮影された被写体の映像をトリミングするものである。より具体的には、トリミング制御部633は、前記トリミングするトリミング領域の位置を受け付けるトリミング領域位置受付部で受け付けたトリミング領域の位置で、前記被写体の映像をトリミングする。このトリミング領域位置受付部は、本実施形態では、上述した、前記被写体の映像上で前記トリミング領域の位置を変更する指示を受け付けるスイッチ部80が対応する。このような構成の撮影装置1は、後述するように撮影装置1のユーザがスイッチ部80を後述するようにスイッチ操作することによって、撮影装置1のユーザが所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
次に、本実施形態の動作について説明する。図6は、本実施形態の遠隔作業支援システムにおける撮影装置の動作を示すフローチャートである。
本実施形態の遠隔作業支援システムSにおける撮影装置1は、撮影ユニット20によって撮影された被写体の映像を遠隔支援装置5へ送信する制御に関し、図6に示すように動作している。すなわち、図6において、ステップS11では、制御部62の送信画像制御部63における通信状態検出部631によって、ネットワークNTの通信状態が検出される。
続いて、ステップS12では、制御部62の送信画像制御部63におけるサイズ決定部632によって、通信状態検出部631によって検出されたネットワークNTの通信状態に基づいて所定のマージンを考慮することによって、通信可能な所定の通信レート(通信速度)が求められ、決定される。本実施形態では、サイズ決定部632は、通信状態検出部631で検出されたネットワークNTの通信レートから所定のマージンを差し引いた通信レート以下の所定の通信レートを、より具体的には、上述した、(通信レート)=(ダミー画像の画素数)/(送信時間+α)の式によって通信レートを求め、この求めた通信レートを前記通信可能な所定の通信レート(通信速度)として決定する。
続いて、ステップS13では、サイズ決定部632は、通信可能な画像サイズを求め、決定する。より具体的には、サイズ決定部632は、上述した、(通信可能な画像サイズ)=(決定された通信レート)×(1/送信すべき映像のフレームレート)の式によって前記通信可能な画像サイズを求め、決定する。
続いて、ステップS14では、制御部62の送信画像制御部63におけるトリミング制御部633によって、トリミング領域の位置を調整するか否かが判断される。この判断の結果、トリミング領域の位置を調整する場合(Y)には、ステップS15が実行され、トリミング領域の位置を調整しない場合(N)には、ステップS15およびステップS16がスキップされ、ステップS17が実行される。より具体的には、トリミング制御部633は、スイッチ部80のADJUSTSW83aがスイッチ操作されたか否かが判断され、このADJUSTSW83aがスイッチ操作された場合には、トリミング領域の位置を調整する場合であると判断され、動作モードが通常モードからトリミング領域調整設定モードへ移行される。
ステップS15では、トリミング制御部633によって、スイッチ部80のトリミング領域調整SW82におけるそのスイッチ操作に応じてトリミング領域の位置が変更されて調整され、スイッチ部80のSETSW83bにおけるそのスイッチ操作に応じてトリミング領域の位置が決定され、制御部62にこの決定されたトリミング領域の位置が記憶され、設定される。
例えば、ADJUSTSW83aがスイッチ操作されると、動作モードが通常モードからトリミング領域調整設定モードへ移行され、モニタ部67には、制御部63によって、例えば、図5に示すように、トリミング領域を示す枠線FLが表示される。撮影装置1のユーザは、例えば、このモニタ部67に表示された枠線FLを図5の紙面上方向に移動させる場合には、上方向調整SW82aをスイッチ操作する。この上方向調整SW82aのスイッチ操作を受け付けると、トリミング制御部633は、ユーザによって上方向調整SW82aがスイッチ操作されている間だけ枠線FLを上方向に移動させる。また例えば、撮影装置1のユーザは、例えば、このモニタ部67に表示された枠線FLを図5の紙面左方向に移動させる場合には、左方向調整SW82cをスイッチ操作する。この左方向調整SW82cのスイッチ操作を受け付けると、トリミング制御部633は、ユーザによって左方向調整SW82cがスイッチ操作されている間だけ枠線FLを左方向に移動させる。トリミング領域の位置が下方向や右方向に調整される場合も同様である。
そして、ユーザは、トリミング領域の位置を調整すると、この調整した位置で撮影装置1にトリミング領域の位置を設定すべく、SETSW83bをスイッチ操作する。このSETSW83bがスイッチ操作されると、トリミング制御部633によって、モニタ部67に表示されている枠線FLでトリミング領域の位置が決定され、この決定されたトリミング領域の位置が制御部62のEEPROM等のメモリ素子に格納され、設定される。次回のトリミング領域の調整および設定では、この制御部62に記憶されているトリミング領域の位置で枠線FLがモニタ部67に表示される。
続いて、ステップS16では、トリミング制御部633によって、トリミング領域の位置の調整を終了するか否かが判断される。この判断の結果、トリミング領域の位置の調整を終了する場合(Y)には、ステップS17が実行され、トリミング領域の位置の調整を終了しない場合(N)には、処理がステップS15に戻される。より具体的には、トリミング制御部633は、スイッチ部80のCLEARSW83cがスイッチ操作されたか否かが判断され、このCLEARSW83cがスイッチ操作された場合には、トリミング領域の位置の調整を終了する場合であると判断され、動作モードがトリミング領域調整設定モードから通常モードへ復帰される。
そして、ステップS17では、トリミング制御部633によって前記設定されたトリミング領域の位置で、かつ、サイズ決定部632によって決定された前記画像サイズで、撮影ユニット20によって撮影された被写体の映像(キャプチャー画像)がトリミングされ、このトリミングされた被写体の映像がネットワークIF部68によってネットワークNTを介して遠隔支援装置5へ送信される。
遠隔支援装置5では、このトリミングされた被写体の映像を収容した通信信号が受信されると、このトリミングされた被写体の映像がディスプレイ163aに表示される。
このように動作するので、本実施形態にかかる遠隔作業支援システムSおよび撮影装置1では、撮影ユニット20によって撮影された被写体の映像をネットワークIF部68で送信する際に、ネットワークNTの通信状態に応じた通信可能な画像サイズで前記被写体の映像がトリミングされ、すなわち、被写体のキャプチャー画像のうちの一部の画像領域が切り出され、このトリミングされた被写体の映像(一部の画像領域)が送信される。したがって、このような構成の遠隔作業支援システムSおよび撮影装置1は、ネットワークNTの通信状態に応じて被写体の映像の通信量を変更することができる。このため、遠隔作業支援システムSの遠隔支援装置5では、ネットワークの通信状態にかかわらずフレームレートを維持した滑らかな被写体の動画映像がそのディスプレイ163aに表示される。
なお、上述の実施形態では、トリミング領域の位置は、撮影装置1のユーザ(本実施形態では作業者W)が、撮影装置1に備えられたモニタ部67を参照しながら、撮影装置1に備えられたトリミング領域調整SW82およびトリミング領域設定SW83をスイッチ操作することよって調整および設定されたが、撮影装置1のモニタ部67、トリミング領域調整SW82およびトリミング領域設定SW83に相当する入力操作部を遠隔支援装置5にさらに設け、遠隔支援装置5のユーザ(本実施形態では指示者A)によってトリミング領域の位置を調整および設定するように、遠隔作業支援システムSおよび撮影装置1が構成されてもよい。
例えば、メインサーバPC6に、撮影装置1のモニタ部67、トリミング領域調整SW82およびトリミング領域設定SW83に相当する各部がさらに設けられる。例えば、メインサーバPC6のディスプレイ163aが撮影装置1のモニタ部67として機能し、メインサーバPC6のキーボード162aのカーソルキーがトリミング領域調整SW82として機能し、メインサーバPC6のキーボード162aのファンクションキーがトリミング領域設定SW83として機能するように、メインサーバPC6が構成される。
そして、トリミング領域の位置の調整および設定では、上述したステップS11ないしステップS13の各動作によって決定された通信可能な画像サイズが撮影ユニット20によって撮影された被写体の映像とともに、撮影装置1から遠隔支援装置5へ送信され、メインサーバPC6のディスプレイ163aには、枠線FLを重畳した被写体の映像が表示される。そして、上述したステップS14ないしステップS16で説明したスイッチ操作と同様の操作によって、遠隔支援装置5のユーザ(本実施形態では指示者A)が、このディスプレイ163aの表示を参照しながら、キーボード162aをスイッチ操作することよってトリミング領域の位置を調整および設定する。この調整および設定されたトリミング領域の位置は、このトリミング領域の位置を指定するトリミング領域位置情報として、コンピュータ161によって、通信信号に収容される。そして、この通信信号がコンピュータ161によってネットワークNTを介して撮影装置1へ送信される。撮影装置1では、このトリミング領域位置情報を収容するこの通信信号をネットワークIF部68で受信すると、被写体の映像を撮影装置1から遠隔支援装置5へ送信する場合に、トリミング制御部633によって、この通信信号に収容されたトリミング領域位置情報によって指定されたトリミング領域の位置で、前記被写体の映像がトリミングされる。この他の形態では、ネットワークIF部68は、前記トリミング領域位置受付部として機能し、このトリミング領域位置受付部と兼用される。
このような構成の遠隔作業支援システムSおよび撮影装置1では、外部からネットワークNTを介して通信信号によってトリミング領域の位置を指定することができる。このため、このような構成の遠隔作業支援システムSおよび撮影装置1は、例えば指示者A等の外部の者が所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
また、上述の実施形態において、遠隔作業支援システムSおよび撮影装置1は、撮影ユニット20によって被写体の映像から予め設定された所定のマーカMKを検出し、この検出したマーカMKに基づいてトリミング領域の位置を求めるように、構成されてもよい。このような構成では、所定のマーカMKが予め用意され、撮影装置1のユーザ(ここでは作業者W)は、トリミング領域として設定したい領域を表すように、前記所定のマーカMKを被写体として配置する。そして、撮影装置1の制御部62には、この所定のマーカMKの形状が画像パターンとして予め記憶され、トリミング制御部633は、トリミング領域の位置を調整および設定する場合に、撮影ユニット20によって撮影された被写体の映像から、公知の常套手段によるパターン認識によって、前記所定のマーカMKの画像パターンを検出し、この検出した前記所定のマーカMKの位置に基づいてトリミング領域の位置を求め、この求めたトリミング領域の位置で枠線FLをモニタ部67に表示し、そして、この求めたトリミング領域の位置を制御部62のEEPROM等のメモリ素子に格納し、設定する。
なお、この検出した前記所定のマーカMKの画像パターンの位置に基づいて求められたトリミング領域が前記通信可能な画像サイズよりも大きい場合には、前記検出した前記所定のマーカMKの画像パターンの位置に基づいて求められたトリミング領域内に、前記通信可能な画像サイズに合ったトリミング領域が設定される。例えば、前記検出した前記所定のマーカMKの画像パターンの位置に基づいて求められたトリミング領域における中心位置と、前記通信可能な画像サイズに合ったトリミング領域の中心位置とが一致するように、前記通信可能な画像サイズに合ったトリミング領域が設定される。また例えば、前記検出した前記所定のマーカMKの画像パターンの位置に基づいて求められたトリミング領域における一の角と、前記通信可能な画像サイズに合ったトリミング領域における一の角とが一致するように、前記通信可能な画像サイズに合ったトリミング領域が設定される。
このように構成することによって、遠隔作業支援システムSおよび撮影装置1は、被写体の映像から所定のマーカを検出することで、自動的に、トリミング領域の位置を決定することができる。このため、撮影装置1のユーザ(ここでは作業者W)における頭部が揺動して撮影ユニット20によって撮影されている被写体の領域に変動があっても、前記所定のマーカが撮影されていれば、所望のトリミング領域の映像、例えば作業対象物を撮した映像を、遠隔支援装置5へ送信し続けることができる。
図7は、実施形態にかかる他の第1態様の撮影装置におけるトリミング領域の位置の調整および設定を説明するための図である。図8は、実施形態にかかる他の第2態様の撮影装置におけるトリミング領域の位置の調整および設定を説明するための図である。図9は、実施形態にかかる他の第3態様の撮影装置におけるトリミング領域の位置の調整および設定を説明するための図である。図7ないし図9には、主に、制御ユニット60におけるモニタ部67の表示画面が示されている。
前記所定のマーカMKは、予め既知であれば任意のもの(形状や色)であってよく、例えば、作業の邪魔にならないシールや、自動認識の容易な蛍光シール等であってよい。
また例えば、前記所定のマーカMKは、図7に示す円柱形状等の予め設定された所定の形状のマーク部材MKaであってよい。このマーク部材MKaは、例えば、図7に示すように、トリミング領域として設定したい領域の四隅に配置されてもよく、また例えば、マーク部材MKaは、トリミング領域として設定したい領域における所定の位置に配置されてもよい。トリミング領域の位置は、前記所定の位置を基準とした所定の矩形として設定される。前記所定の位置の基準は、矩形の一の角や、対角線の交点等に設定される。このような構成では、ユーザがマーク部材MKaを配置することで、自動的に、ユーザが所望するトリミング領域の位置で、被写体の映像をトリミングすることができる。
また例えば、前記所定のマーカMKは、図8に示すように、ユーザが作業を行うための作業マットMKbであってよい。あるいは、前記所定のマーカMKは、作業マット上に形成されたマークであってよい(不図示)。このような構成では、ユーザが作業マットを使うだけで、トリミング領域の位置を指定でき、自動的に、そのトリミング領域の位置で被写体の映像をトリミングすることができる。
なお、このように作業マットMKbをマーカMKとして使用する場合に、トリミング領域の位置は、作業マットMKbが物体(例えば作業対象物)によって隠されている位置を検出し、この隠された位置がトリミング領域の中央位置となるように、決定されてもよい。
また例えば、前記所定のマーカMKは、手を撮影した手画像領域MKcであってよい。このような場合では、トリミング制御部633は、例えば、公知の常套手段である肌色検知によって手画像領域MKcを検出するように構成される。このように手画像領域MKcをマーカMKとして使用する場合に、トリミング領域の位置は、各手に対応する各手画像領域MKcの中心位置がトリミング領域の中央位置となるように、決定される。このような構成では、ユーザが手を用いて、トリミング領域の位置を指定でき、自動的に、そのトリミング領域の位置で被写体の映像をトリミングすることができる。このため、両手を使って作業する場合に、作業対象物が動いたとしても、作業対象物を扱う両手によってトリミング領域の位置が決定されるから、作業対象物を撮した映像を、遠隔支援装置5へ送信し続けることができる。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
S 遠隔作業支援システム
1 撮影装置
5 遠隔支援装置
6 メインサーバコンピュータ装置
7 支援記録サーバコンピュータ装置
8 コンテンツサーバコンピュータ装置
10 装着ユニット
20 撮影ユニット
40 表示ユニット
41 接眼光学系
41a 光学プリズム
41b 反射部
50 音入出力ユニット
60 制御ユニット
63 送信画像制御部
67 モニタ部
68 ネットワークインタフェース部
631 通信状態検出部
632 サイズ決定部
633 トリミング制御部
82 トリミング領域調整スイッチ部
83 トリミング領域設定スイッチ部

Claims (14)

  1. 被写体を撮影する撮影部と、
    通信網を介した通信を行う通信部と、
    前記通信網の通信状態に応じた通信可能な画像サイズで前記被写体の映像をトリミングし、このトリミングされた被写体の映像を前記通信部に送信させる送信画像制御部とを備えること
    を特徴とする映像送信装置。
  2. 前記送信画像制御部は、予め用意された所定の画像をダミー画像として前記通信網に送信することによって前記通信網の通信レートを前記通信網の通信状態として検出する通信状態検出部を備えること
    を特徴とする請求項1に記載の映像送信装置。
  3. 前記送信画像制御部は、前記通信状態検出部で検出された前記通信網の通信レートから予め設定された所定のマージンを差し引いた通信レート以下の所定の通信レートで、前記通信可能な画像サイズを求めるサイズ決定部を備えること
    を特徴とする請求項2に記載の映像送信装置。
  4. 前記サイズ決定部は、前記所定の通信レートでの最大の画像サイズを前記通信可能な画像サイズとして求めること
    を特徴とする請求項3に記載の映像送信装置。
  5. 前記送信画像制御部は、前記通信可能な画像サイズで前記被写体の映像をトリミングするトリミング制御部をさらに備えること
    を特徴とする請求項1ないし請求項4のいずれか1項に記載の映像送信装置。
  6. 前記トリミングするトリミング領域の位置を受け付けるトリミング領域位置受付部をさらに備え、
    前記トリミング制御部は、前記トリミング領域位置受付部で受け付けたトリミング領域の位置で、前記被写体の映像をトリミングすること
    を特徴とする請求項5に記載の映像送信装置。
  7. 前記トリミング領域位置受付部は、前記被写体の映像上で前記トリミング領域の位置を変更する指示を受け付けるスイッチ部であること
    を特徴とする請求項6に記載の映像送信装置。
  8. 前記通信部は、前記トリミング領域位置受付部と兼用され、
    前記トリミング制御部は、前記トリミング領域の位置を指定するトリミング領域位置情報を収容する通信信号を前記通信部で受信した場合に、前記通信信号に収容されたトリミング領域位置情報によって指定されたトリミング領域の位置で、前記被写体の映像をトリミングすること
    を特徴とする請求項6に記載の映像送信装置。
  9. 前記トリミング領域位置受付部は、前記被写体の映像から予め設定された所定のマーカを検出し、この検出したマーカに基づいて前記トリミング領域の位置を求めること
    を特徴とする請求項6に記載の映像送信装置。
  10. 前記所定のマーカは、予め設定された所定の形状のマーク部材であること
    を特徴とする請求項9に記載の映像送信装置。
  11. 前記マーク部材は、作業マットまたは作業マット上に形成されたマークであること
    を特徴とする請求項10に記載の映像送信装置。
  12. 前記所定のマーカは、手を撮影した手画像領域であること
    を特徴とする請求項9に記載の映像送信装置。
  13. 被写体を撮影する撮影部を備え、前記撮影部で撮影した被写体の映像を通信網を介して送信する映像送信部と、
    前記撮影部を頭部に装着するための装着部とを備える撮影装置であって、
    前記映像送信部は、請求項1ないし請求項12のいずれか1項に記載の映像送信装置であること
    を特徴とする撮影装置。
  14. 撮影装置と、通信網を介して前記撮影装置と通信可能に接続される遠隔作業支援装置とを備える遠隔作業支援システムであって、
    前記撮影装置は、請求項13に記載の撮影装置であり、
    前記遠隔作業支援装置は、前記通信網を介して受信され、前記撮影装置の撮影部によって撮影された被写体の映像を表示する表示部と、指示者の指示を受け付けて該指示を前記通信網を介して前記撮影装置へ送信する指示受付部とを備えること
    を特徴とする遠隔作業支援システム。
JP2009262967A 2009-11-09 2009-11-18 映像送信装置、撮影装置および遠隔作業支援システム Pending JP2011109462A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009262967A JP2011109462A (ja) 2009-11-18 2009-11-18 映像送信装置、撮影装置および遠隔作業支援システム
PCT/JP2010/006445 WO2011055526A1 (ja) 2009-11-09 2010-11-01 映像送信装置、撮影装置および遠隔作業支援システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009262967A JP2011109462A (ja) 2009-11-18 2009-11-18 映像送信装置、撮影装置および遠隔作業支援システム

Publications (1)

Publication Number Publication Date
JP2011109462A true JP2011109462A (ja) 2011-06-02

Family

ID=44232458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009262967A Pending JP2011109462A (ja) 2009-11-09 2009-11-18 映像送信装置、撮影装置および遠隔作業支援システム

Country Status (1)

Country Link
JP (1) JP2011109462A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103197757A (zh) * 2012-01-09 2013-07-10 癸水动力(北京)网络科技有限公司 一种沉浸式虚拟现实系统及其实现方法
US10013889B2 (en) 2014-03-31 2018-07-03 Konica Minolta Laboratory U.S.A., Inc. Method and system for enhancing interactions between teachers and students
US10037708B2 (en) 2014-03-31 2018-07-31 Konica Minolta Laboratory U.S.A., Inc. Method and system for analyzing exam-taking behavior and improving exam-taking skills

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103197757A (zh) * 2012-01-09 2013-07-10 癸水动力(北京)网络科技有限公司 一种沉浸式虚拟现实系统及其实现方法
US10013889B2 (en) 2014-03-31 2018-07-03 Konica Minolta Laboratory U.S.A., Inc. Method and system for enhancing interactions between teachers and students
US10037708B2 (en) 2014-03-31 2018-07-31 Konica Minolta Laboratory U.S.A., Inc. Method and system for analyzing exam-taking behavior and improving exam-taking skills

Similar Documents

Publication Publication Date Title
JP5250834B2 (ja) 頭部装着式映像表示装置
EP1564585A1 (en) Head-mounted camera with field-of-view indicating and selecting means
US20050195277A1 (en) Image capturing apparatus
JP2015186020A (ja) 表示機器、撮影機器及び表示方法
JP2009010987A (ja) 電子カメラ
JP6464729B2 (ja) 表示装置、及び、表示装置の制御方法
JP2008017501A (ja) 電子カメラ
JP2011101300A (ja) 撮影装置および遠隔作業支援システム
JP4900277B2 (ja) 頭部装着式映像表示装置
JP2009075610A (ja) 危険防止機能付きシースルー型表示装置、及びシースルー型表示装置を使用するときの危険防止方法
JP2008009490A (ja) 情報入力装置
WO2011058707A1 (ja) 撮影装置および遠隔作業支援システム
JP5199156B2 (ja) カメラ及び装着型画像表示装置
JP2008123257A (ja) 遠隔作業支援システム、表示制御方法
JP2011109462A (ja) 映像送信装置、撮影装置および遠隔作業支援システム
JP2007122340A (ja) 画像表示システム
US10171751B2 (en) Superimposing an image on an image of an object being photographed
JP2008113317A (ja) 遠隔作業支援システム
JP4952204B2 (ja) 遠隔作業支援システム、及びその表示方法
JP2011109463A (ja) 撮影装置および遠隔作業支援システム
KR20070113067A (ko) 휴대용 입체 카메라
JP2011109276A (ja) カメラファインダ、撮影装置および遠隔作業支援システム
JP2010193287A (ja) カメラ
WO2011055526A1 (ja) 映像送信装置、撮影装置および遠隔作業支援システム
JP2005303842A (ja) 頭部装着型カメラ