以下、図面を参照して本発明の実施形態を説明する。
[第1の実施形態]
第1の実施形態について説明する。図1は、各実施形態に係る通信システムの一例の構成を示す図である。通信システム1は、例えば、撮像装置100と、端末200とを有している。撮像装置100と端末200とは、例えば無線で通信をする。無線通信の方式は、例えばWi−Fi(登録商標)である。無線通信の方式は、Wi−Fiに限らず、Bluetooth(登録商標)等であってもよい。
通信装置の一例としての撮像装置100は、撮像によって画像を取得する。撮像装置100は、例えばデジタルカメラ(デジタルスチルカメラ又はデジタルムービーカメラ)である。撮像装置100は、音声も取得できてよい。図1の例では、撮像装置100は、制御回路102と、キャプチャ回路104と、メモリ106と、記録媒体108と、表示素子110と、操作部112と、通信回路114とを有している。撮像装置100は、図1で示した以外の構成を有していてもよいし、図1で示した一部の構成を有していなくてもよい。例えば、撮像装置100は、表示素子を有していなくてもよい。
制御回路102は、撮像装置100の各部の動作を制御する。また、制御回路102は、キャプチャ回路104で取得される画像に対して種々の画像処理を施す。この画像処理は、画像表示のための処理、画像記録のための処理を含む。さらに、この画像処理は、通信が失敗したときの画像の加工処理を含む。制御回路102は、CPU、GPU、ASIC、FPGA、メインメモリといったハードウェアを備えている。制御回路102は、単独のCPU等によって構成されてもよいし、複数のCPU等によって構成されてもよい。また、制御回路102による一部の処理は、ソフトウェアによって実現されてもよい。
キャプチャ回路104は、対象物の画像を取得する。キャプチャ回路104は、例えば光学系、撮像素子及び前処理回路を含む。光学系は、対象物からの光を撮像素子に入射させる。撮像素子は、対象物からの光を電気信号に変換する。前処理回路は、撮像素子で得られた電気信号に対して前処理を施す。この前処理は、例えば相関二重サンプリング処理、ゲイン調整処理、アナログ/デジタル変換処理を含む。また、キャプチャ回路104は、対象物の音声も取得するように構成されていてもよい。この場合、キャプチャ回路104は、マイクロホン及び前処理回路を含む。マイクロホンは、対象物からの音声を電気信号に変換する。前処理回路は、マイクロホンで得られた電気信号に対して前処理を施す。この前処理は、例えばゲイン調整、ノイズ除去、アナログ/デジタル変換処理を含む。
メモリ106は、RAM及びROMといったメモリである。メモリ106には、撮像装置100の動作のためのプログラム及びパラメータが記憶される。メモリ106は、単一であっても複数であってもよい。
記録媒体108は、フラッシュメモリといったメモリを含む。記録媒体108には、撮像装置100で取得される画像が記録される。記録媒体108は、撮像装置100に内蔵されていなくてもよい。例えば、記録媒体108は、撮像装置100に対して着脱できるように構成されていてもよい。
表示素子110は、各種の画像を表示する。表示素子110は、液晶ディスプレイ又は有機ELディスプレイといった表示素子である。また、表示素子110は、音声を再生するためのスピーカ等を有していてもよい。
操作部112は、ボタン、スイッチ、ダイヤルといった機械的な操作部材を含む。また、操作部112は、タッチパネルを含んでいてもよい。撮像装置100が表示素子を含んでいるときには、タッチパネルは表示素子と一体的に設けられていてもよい。
通信回路114は、撮像装置100が端末200と通信するための回路を含む。通信回路114は、例えばWi−Fiのための通信回路である。通信回路114は、例えばBluetoothのための通信回路を含んでいてもよい。
端末200は、スマートホン、タブレット端末、携帯ゲーム機、パーソナルコンピュータ(PC)といった表示素子を備えた外部表示装置である。端末200は、撮像装置100から送られてきた画像を表示したり、記憶したりする。図1の例では、端末200は、制御回路202と、メモリ204と、記録媒体206と、表示素子208と、操作部210と、通信回路212とを有している。端末200は、図1で示した以外の構成を有していてもよい。例えば、端末200は、キャプチャ回路を有していてもよい。
制御回路202は、端末200の各部の動作を制御する。制御回路202は、CPU、GPU、ASIC、FPGA、メインメモリといったハードウェアを備えている。制御回路202は、単独のCPU等によって構成されてもよいし、複数のCPU等によって構成されてもよい。また、制御回路202による一部の処理は、ソフトウェアによって実現されてもよい。
メモリ204は、RAM及びROMといったメモリである。メモリ204には、端末200の動作のためのプログラム及びパラメータが記憶される。また、メモリ204には、撮像装置100との連携撮影のための連携アプリケーションが記憶されてもよい。メモリ204は、単一であっても複数であってもよい。
記録媒体206は、フラッシュメモリといったメモリを含む。記録媒体206には、例えば撮像装置100から送られてきた画像が記録される。記録媒体206は、端末200に内蔵されていなくてもよい。例えば、記録媒体206は、端末200に対して着脱できるように構成されていてもよい。
表示素子208は、各種の画像を表示する。表示素子208は、液晶ディスプレイ又は有機ELディスプレイといった表示素子である。また、表示素子208は、音声を再生するためのスピーカ等を有していてもよい。
操作部210は、ボタン、スイッチ、ダイヤルといった機械的な操作部材を含む。また、操作部210は、タッチパネルを含んでいてもよい。タッチパネルは、表示素子208と一体的に設けられていてもよい。
通信回路212は、端末200が撮像装置100と通信するための回路を含む。例えば、通信回路212は、例えばWi−Fiのための通信回路である。通信回路212は、例えばBluetoothのための通信回路を含んでいてもよい。
以下、第1の実施形態に係る通信システム1の動作を説明する。図2A及び図2Bは、第1の実施形態に係る通信システム1の動作を説明するための図である。
図2Aは、第1の実施形態における通信システム1の適用例を示している。図2Aの例では、撮影現場への適用例が示されている。つまり、カメラマンCは、撮像装置100を用いて被写体Sを撮影する。撮像装置100は、例えばデジタルスチルカメラである。
撮像装置100で取得された画像は、端末200に送られる。端末200の表示素子208には、撮像装置100から送られてきた画像が表示される。端末200は、例えばPCである。ユーザUは、表示素子208に表示された画像を見て必要に応じてカメラマンCに対して被写体Sをどのように撮影すべきかを指示する。
端末200において被写体Sの状態をリアルタイムで確認できるようにするため、撮像装置100は、例えば図2Bの(a)で示すように一定間隔で連続して被写体Sを撮像する。そして、図2Bの(b)で示すように、撮像装置100は、連続の撮像で得られた第1の画像を順次に端末200に送信する。この結果、端末200の表示素子208には、図2Bの(c)で示すように、撮像装置100で得られた第1の画像がリアルタイムで表示される。
ここで、撮像装置100と端末200との通信は、種々の障害によって失敗し得る。通信が失敗している間、撮像装置100で取得された画像I1、I2、I3は、端末200には送信されないことになる。このままでは、端末200のユーザUは、画像I1、I2、I3を確認することできない。
本実施形態の撮像装置100は、未送信の第1の画像を加工し、加工により得られた第2の画像を通信の再開後に端末200に送信する。例えば、撮像装置100は、通信が失敗している間に取得した未送信の画像I1、I2、I3、及び通信が再開した直後に取得した未送信の画像I4の縮小画像を1フレームの画像内に並べる加工をする。そして、撮像装置100は、図2Bの(c)に示すようにして、組画像I5を画像I4の送信タイミングに合わせて端末200に送信する。ここで、組画像I5の画像サイズは、画像I1、I2、I3及びI4と同一のサイズであってよい。このような組画像の生成は、未送信の画像の内容の要約を生成することに対応する。なお、組画像の中に並べられる画像の数は、4フレームに限るものではない。未送信の画像の数が少なければ3フレーム以下の画像が並べられてもよいし、未送信の画像の数が多ければ5フレーム以上の画像が並べられてもよい。また、組画像が2フレーム以上生成されてもよい。組画像が4フレームの画像を並べるものである場合、例えば、5フレーム目以降の未送信の画像が2フレーム目の組画像の中に並べられてもよい。複数の縮小画像が1フレームの画像内に並べられる場合、縮小画像の数が多くなると、並べられたときに個々の画像を判別することが困難になる。したがって、縮小画像の数が所定数以上となったときにはその後に取得される画像が別の画像内に並べられることで、個々の画像の判別が容易になる。
このように、撮像装置100は、通信の再開後に組画像I5を端末200に送信する。これにより、端末200のユーザUは、通信が失敗している間に撮像装置100で取得された画像も確認することができる。また、組画像I5の画像サイズと画像I1、I2、I3及びI4とが同一のサイズであれば、組画像I5は、画像I1、I2、I3又はI4と同一の時間長で送信される。このため、撮像装置100は、通信再開後も通信再開前と同様のタイミングで画像を送信することができる。
以下、第1の実施形態における通信システム1の動作をさらに詳しく説明する。図3は、第1の実施形態における撮像装置100の動作の一例を示すフローチャートである。図3の処理は、例えば制御回路102によって制御される。
ステップS1において、制御回路102は、撮像装置100の動作モードが連携撮影モードに設定されているか否かを判定する。撮像装置100は、例えば連携撮影モードと通常撮影モードの2つの動作モードを有している。連携撮影モードは、撮像装置100と端末200との通信を伴って撮影が行われる動作モードである。通常撮影モードは、撮像装置100の単独で撮影が行われる動作モードである。勿論、撮像装置100は、連携撮影モードと通常撮影モード以外の動作モードを有していてもよい。動作モードは、例えばカメラマンCによる操作部112の操作によって設定される。ステップS1において、撮像装置100の動作モードが連携撮影モードに設定されていないと判定されたときには、処理はステップS2に移行する。ステップS1において、撮像装置100の動作モードが連携撮影モードに設定されていると判定されたときには、処理はステップS3に移行する。
ステップS2において、撮像装置100は、通常撮影モードの処理を行う。その後、処理は、ステップS13に移行する。通常撮影モードの処理については簡単に説明する。通常撮影モードにおいては、ユーザの操作部112による撮影開始の操作を受けて、制御回路102は、キャプチャ回路104による撮像を実行する。そして、制御回路102は、キャプチャ回路104で得られた画像を記録できるような形式となるように画像処理し、画像処理によって得られる画像ファイルを記録媒体108に記録する。
ステップS3において、制御回路102は、通信回路114によって、端末200から通信要求信号を受信したか否かを判定する。ステップS3において、端末200から通信要求信号を受信していないと判定されたときに、処理はステップS13に移行する。ステップS3において、端末200からの通信要求信号を受信したと判定されたときに、処理はステップS4に移行する。
ステップS4において、制御回路102は、通信回路114を用いて、端末200に対して応答信号を送信する。
ステップS5において、制御回路102は、キャプチャ回路104による撮像を実行する。ステップS5における撮像は、カメラマンCの操作部112による撮影開始の操作を受けて行われてもよい。この場合、一定時間、撮影開始の操作がなかったときには、処理はステップS9に移行してよい。また、制御回路102は、キャプチャ回路104による撮像とともにキャプチャ回路104による収音も実行してよい。ステップS6において、制御回路102は、キャプチャ回路104で得られた画像をメモリ106に記憶させる。ステップS7において、制御回路102は、通信回路114を用いて、メモリ106に記憶された画像を端末200に送信する。このとき、制御回路102は、送信する画像をメモリ106にコピーしておく。メモリ106に記憶されるコピーは、例えば一定数の画像の送信が完了する毎に古いものから削除されてもよい。
ステップS8において、制御回路102は、画像の送信が失敗したか否かを判定する。送信の失敗は、実際に失敗した場合及び失敗と見なせる場合の両方を含む。具体的には、送信の失敗は、例えば画像の送信ができない状態、画像の送信はできたけれども端末200において正しく画像が受信されなかった状態を含む。例えば、制御回路102は、通信回路114によって検出される端末200からの電波の電波強度が閾値以下であるときに、画像の送信ができない状態であると判定する。また、例えば、制御回路102は、通信回路114によって、端末200から所定の回数以上のパケットの再送要求を受信したときに、端末200において画像が正しく受信されなかったと判定する。この他、撮像装置100と端末200との通信がアクセスポイントを介したWi−Fi通信によって行われているときには、制御回路102は、アクセスポイントに接続しているか否か、通信回路114によって検出されるアクセスポイントにおける電波強度が閾値以下であるか否かによって、通信ができる状態であるか否かを判定してもよい。また、撮像装置100と端末200との通信がBluetooth通信によって行われているときには、制御回路102は、通信回路114による撮像装置100と端末200とのペアリングが継続しているか否かによって、通信ができる状態であるか否かを判定してもよい。このように、ステップS8における判定は、特定の手法に限定されるものではない。ステップS8において、通信が失敗したと判定されたときには、処理はステップS9に移行する。ステップS8において、通信が失敗していないと判定されたときには、処理はステップS10に移行する。
ステップS9において、制御回路102は、通信失敗時の対策処理を行う。対策処理の詳細については後で説明する。対策処理の終了後、処理はステップS10に移行する。
ステップS10において、制御回路102は、画像の送信を終了するか否かを判定する。例えば、端末200から画像の送信の終了指示が通信回路114で受信されたときに、画像の送信を終了すると判定される。ステップS10において、画像の送信を終了しないと判定されたときに、処理はステップS5に戻る。この場合、制御回路102は、画像の取得、記憶及び送信を継続する。ステップS10において、画像の送信を終了すると判定されたときに、処理はステップS11に移行する。
ステップS11において、制御回路102は、端末200から画像の再送信の要求を通信回路114で受信したか否かを判定する。後で説明するように、本実施形態では、画像の送信が失敗したときであっても、端末200において画像の表示が継続している間は、未送信の画像を加工することによって生成された画像が端末200に送信される。一方で、未送信の画像のそのものが必要となる場合もあり得る。このため、端末200における画像の表示が終了した後に、端末200からの要求に応じて未送信の画像を送信できるようにしておく。ステップS11は、この再送信の有無の判定である。ステップS11において、画像の再送信の要求があったと判定されたときに、処理はステップS12に移行する。ステップS11において、画像の再送信の要求がないと判定されたときに、処理はステップS13に移行する。
ステップS12において、制御回路102は、通信回路114を用いて、端末200から要求された未送信の画像を端末200に送信する。画像の送信の完了後、処理はステップS13に移行する。ステップS12では、端末200における画像のリアルタイムの表示が行われていないので、撮像装置100からの画像の送信は成功するまで繰り返されてもよい。
ステップS13において、制御回路102は、撮像装置100の動作を終了させるか否かを判定する。例えば、カメラマンCの操作部112によって撮像装置100の電源のオフが指示されたとき、操作部112の無操作状態が継続されたときには、撮像装置100の動作を終了させると判定される。ステップS13において、撮像装置100の動作を終了させないと判定されたときには、処理はステップS1に戻る。ステップS13において、撮像装置100の動作を終了させると判定されたときには、制御回路102は、撮像装置100の動作を終了させる。
図4は、対策処理について示すフローチャートである。ステップS101において、キャプチャ回路104による撮像を実行する。ステップS101における撮像は、カメラマンCの操作部112による撮影開始の操作を受けて行われてもよい。この場合、一定時間、撮影開始の操作がなかったときには、処理はステップS104に移行してよい。ステップS102において、制御回路102は、キャプチャ回路104で得られた画像をメモリ106に記憶させる。
ステップS103において、制御回路102は、メモリ106にコピーされている未送信の画像を取得し、取得した未送信の画像を加工する。例えば、制御回路102は、ステップS7においてメモリ106にコピーされている画像の縮小画像と、ステップS102において新たにメモリ106に記憶された画像の縮小画像とを1フレームの画像内に並べる加工をする。その後、処理はステップS104に移行する。
ステップS104において、制御回路102は、通信が回復したか否かを判定する。例えば、制御回路102は、端末200からの電波の電波強度が閾値を超えたときに、通信が回復したと判定する。ステップS104における判定は、特定の手法に限定されるものではない。ステップS104において、通信が回復したと判定されていないときには、処理はステップS101に戻る。つまり、通信が回復するまでは、画像の取得、記憶、加工が繰り返される。この繰り返しにおいては、加工によって変化が生じない画像については加工が行われず、加工によって変化が生じる画像についてのみ加工が行われるようにしてもよい。ステップS104において、通信が回復したと判定されたときには、処理はステップS105に移行する。
ステップS105において、制御回路102は、通信回路114を用いて、加工によって得られた画像と、未送信の画像の情報とを端末200に送信する。未送信の画像の情報は、例えば未送信のフレーム番号を含む。未送信の画像の情報は、端末200において未送信の画像を特定できる情報であればよく、フレーム番号に限るものではない。
ステップS106において、制御回路102は、すべての加工によって得られた画像の送信が完了しているか否かを判定する。ステップS106において、すべての加工によって得られた画像の送信が完了していないと判定されたときには、処理はステップS101に戻る。ステップS106において、すべての加工によって得られた画像の送信が完了したと判定されたときには、処理はステップS107に移行する。
ステップS107において、制御回路102は、最初の画像の送信から所定時間が経過したか否かを判定する。ステップS107において、所定時間が経過していないと判定されていないときには、処理はステップS101に戻る。つまり、通信が回復した場合であっても、所定時間が経過して通信が安定したと判定されるまでは、画像の取得、記憶、加工、送信が繰り返される。ステップS107において、所定時間が経過したと判定されたときには、制御回路102は図4の処理を終了させる。この場合、処理は図3のステップS9に移行する。そして、ステップS9において画像の送信を終了しないと判定されれば、処理はステップS5に戻る。以降、通常の画像の取得、記憶、送信の動作が再開される。
図5は、第1の実施形態における端末200の動作の一例を示すフローチャートである。図5の処理は、例えば制御回路202によって制御される。
ステップS201において、制御回路202は、連携アプリケーションが起動されたか否かを判定する。ステップS201において、連携アプリケーションが起動されていないと判定されたときには、処理はステップS202に移行する。ステップS201において、連携アプリケーションが起動されたと判定されたときには、処理はステップS203に移行する。
ステップS202において、制御回路202は、連携アプリケーションが起動されたとき以外のその他の処理を行う。その他の処理は、例えば電子メールの送受信の処理、ブラウザの起動処理といった処理を含む。その他の処理の後、処理はステップS214に移行する。
ステップS203において、制御回路202は、通信回路212を用いて、撮像装置100に対して通信要求信号を送信する。ステップS204において、制御回路202は、通信回路212により、撮像装置100から応答信号を受信したか否かを判定する。ステップS204において、応答信号を受信していないと判定されたとき、処理はステップS203に戻る。つまり、応答信号が受信されるまで、通信回路212による通信要求信号の送信が繰り返される。一定回数の通信要求信号の送信をした後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理はステップS214に移行する。ステップS204において、応答信号を受信したと判定されたとき、処理はステップS205に移行する。
ステップS205において、制御回路202は、画像の受信が失敗したか否かを判定する。例えば、制御回路202は、所定時間の間に誤りなく画像を受信することができたか否かを判定する。そして、所定時間の間に誤りなく画像を受信することができたと判定したときには、制御回路202は、画像の受信が失敗していないと判定する。一方、所定時間の間に画像を受信することができなかった又は受信した画像に誤りがあったと判定したときには、制御回路202は、撮像装置100に対して画像の再送を要求する。この画像の再送の要求回数が所定回数以上となったとき、画像の受信が失敗したと判定する。ステップS205において、画像の受信が失敗していないと判定されたとき、処理はステップS209に移行する。ステップS205において、画像の受信が失敗したと判定されたとき、処理はステップS206に移行する。
ステップS206において、制御回路202は、最も新しく受信された画像を画像ファイルとして記録媒体206に記録する。通信の失敗直前に受信された最新の画像を残しておくことで、この最新の画像は、通信の失敗直前の証拠となる画像として何等かの形で利用され得る。
ステップS207において、制御回路202は、通信が回復したか否かを判定する。例えば、制御回路202は、通信回路212によって検出される撮像装置100からの電波の電波強度が閾値を超えたときに、通信が回復したと判定する。ステップS207における判定は、特定の手法に限定されるものではない。ステップS207において、通信が回復したと判定されるまで、判定は繰り返される。一定回数の判定の後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理は、ステップS214に移行する。ステップS207において、通信が回復したと判定されたときには、処理はステップS208に移行する。
ステップS208において、制御回路202は、撮像装置100からの画像の受信を待つ。通信回路212によって撮像装置100から画像が受信されたとき、制御回路202は、受信された画像をメモリ204に記憶させる。また、制御回路202は、画像とともに受信された未送信の画像の情報を、自身の未受信の画像の情報としてメモリ204に記憶させる。その後、処理はステップS209に移行する。
ステップS209において、制御回路202は、受信した画像を表示素子208に表示させる。これにより、図2Aに示すように、ユーザUは、撮像装置100で取得された画像を端末200において確認することができる。ここで、通信の再開直後は、前述したように撮像装置100において加工された画像が撮像装置100から送信される。この場合も、制御回路202は、撮像装置100において加工された画像を表示素子208に表示させる。
ステップS210において、制御回路202は、画像の表示を終了するか否かを判定する。例えば、ユーザUの操作部210の操作によって連携アプリケーションを終了させる指示がされたときに、画像の表示を終了すると判定される。ステップS210において、画像の表示を終了しないと判定されたときに、処理はステップS205に戻る。ステップS210において、画像の表示を終了すると判定されたときに、処理はステップS211に移行する。
ステップS211において、制御回路202は、加工された要約画像しか受信しておらず、オリジナルの画像を受信していないことから、自身の未受信の画像の情報を記録媒体206に記録する。その後、処理はステップS212に移行する。未受信の画像の情報を記録媒体206に記録しておくことにより、端末200は、例えば連携アプリケーションの終了後であっても、必要に応じて未受信の画像の送信を撮像装置100に対して要求することができる。また、受信画像をファイルとして記録してもよい。未受信の画像は、他の順調に受信された画像と合わせて(加工された画像のフレームと置き換えて)動画ファイルとして記録されてもよい。例えば、通信が不調な時に、何か出来事が起こった場合等は、未受信の画像の中に重要なエビデンスがあることから、こうして撮像したものと同じような画像が記録されることが好ましい。また、エビデンスである以上、未受信であったが、後から修復されたフレームがどれであるかを示す信号を記録する仕様とすることで、データの信頼性や証拠性を高めることができる。このように送信側と受信側が連携して成り立つシステムであるが、受信側にも重要なポイントがある。つまり、無線通信によって撮像装置から送信された画像を受信する受信装置において、失敗なしに連続して送信されてきた第1の画像を受信し、通信に失敗があった場合は、第1の画像の送信ができなかった事を判定した情報を受信し、通信の回復した後の表示終了後に、送信が失敗したフレームの画像を受信する画像受信装置の通信方法は、通信に失敗があったとしても、その回復後に前記送信が失敗したフレームの画像を受信して、送信が失敗しなかったフレームと合わせて動画ファイルとして記録する通信方法の工夫と言える。画像送受信の失敗のあった時には、副次的に様々なトラブルがあった可能性もあり、逆に他のトラブルの副次作用として画像送受信が失敗した可能性もあるので、この通信中断中に起こった事を確認可能に、あるいは証拠として記録可能にしておく仕様は、監視カメラのようなものでも重要な技術となる。
ステップS212において、制御回路202は、未受信の画像の再送信が指示されたか否かを判定する。例えば、ユーザUの操作部210の操作によって特定の未受信の画像の再送信が指示されたときに、未受信の画像の再送信が指示されたと判定される。ステップS212において、未受信の画像の再送信が指示されたと判定されたときに、処理はステップS213に移行する。ステップS212において、未受信の画像の再送信が指示されていないと判定されたときに、処理はステップS214に移行する。
ステップS213において、制御回路202は、通信回路212を用いて、未受信の画像の再送信を撮像装置100に対して要求する。なお、再送信の要求後に受信される画像は、表示されてもよいし、記録されてもよい。
ステップS214において、制御回路202は、端末200の動作を終了させるか否かを判定する。例えば、ユーザUの操作部210によって端末200の電源のオフが指示されたとき、端末200の動作を終了させると判定される。ステップS214において、端末200の動作を終了させないと判定されたときには、処理はステップS201に戻る。ステップS214において、端末200の動作を終了させると判定されたときには、制御回路202は、端末200の動作を終了させる。
以上説明したように本実施形態の撮像装置は、通信が失敗している間に取得した画像を加工し、加工した画像を通信の再開後に端末に送信する。この加工は、例えば通信が失敗している間に取得した画像及び通信が再開した直後に取得した画像の縮小画像を1フレームの画像内に並べる加工を含む。このような加工によって生成される組画像により、端末のユーザは、通信が失敗している間に撮像装置で取得された画像を通信の遅れなく確認することができる。すなわち、本実施形態は、通信の障害等の発生によって通信の失敗が発生したときに、多少の通信の失敗を許容して画像の再送信の回数を抑制するものである。
[第1の実施形態の変形例]
以下、第1の実施形態の変形例を説明する。第1の実施形態では、通信が失敗している間に取得した画像に対する加工の例として、通信が失敗している間に取得した画像及び通信が再開した直後に取得した画像の縮小画像を1フレームの画像内に並べる加工が例示されている。しかしながら、加工は、必ずしも縮小画像を1フレームの画像内に並べる加工に限るものではない。
例えば、撮像装置100は、図6の(a)のようにして取得している画像のうちの通信が失敗している間に取得した未送信の画像I1、I2、I3の縮小画像だけを1フレームの画像内に並べる加工をし、この加工によって得られた組画像I6と通信が再開した直後に取得した現在の未送信の画像I4の縮小画像I7とを図6の(b)のようにしてそれぞれ端末200に送信してもよい。そして、端末200は、図6の(c)に示すように、組画像I6と現在の画像I7とを表示素子208の別の表示領域に表示させてもよい。図6のような表示では、ユーザUは、組画像によって通信の失敗時の画像を要約して見ることができるとともに、現在の画像もリアルタイムで見ることができる。
また、例えば、撮像装置100は、図7の(a)のようにして取得している画像のうちの通信が失敗している間に取得した未送信の画像I1、I2、I3の縮小画像を生成するだけの加工をしてもよい。このとき、撮像装置100は、図7の(b)のようにして、未送信の画像の縮小画像I7、I8、I9を通常の画像よりも速い送信速度で送信してもよい。そして、端末200は、図7の(c)に示すように、縮小画像I7、I8、I9を順次に表示素子208に表示させてもよい。なお、縮小画像が送信される場合、端末200は、通信失敗中に取得された画像を早送りで再生したり、タイムラプスで再生したりしてもよい。縮小画像であれば、比較的に短時間で送信が完了するので、通信の回復後に縮小画像が送信されたとしても、比較的に短時間で元の表示に復帰させることができる。
また、撮像装置100は、通信失敗中に取得される画像の画像特徴が同一の場合には、一部の未送信の画像だけを用いて組画像を生成したり、一部の未送信の画像だけの縮小画像を生成したりしてもよい。例えば、撮像装置100は、図8の(a)のようにして取得している画像のうちの、例えば通信失敗中に取得された最初の画像I1と通信が再開した直後に取得された画像I4を1フレームの画像に並べる加工をし、この加工によって得られた組画像I10を図8の(b)のようにして端末200に送信してもよい。そして、端末200は、図8の(c)に示すように、組画像I10を表示素子208に表示させてもよい。また、撮像装置100は、図9の(a)のようにして取得している画像のうちの、例えば通信失敗中に取得された最初の画像I1の縮小画像を生成するだけの加工をし、この加工によって得られた縮小画像I11を図9の(b)のようにして端末200に送信してもよい。そして、端末200は、図9の(c)に示すように、縮小画像I11を表示素子208に表示させてもよい。
この他、撮像装置100は、通信失敗中に取得される画像の画像特徴からシーンの変化、対象物の変化といった特徴的な変化が検出されたときだけ、その変化の前後の画像を1フレームの画像に並べたり、その変化の前後の画像の縮小画像を生成したりしてもよい。例えば、対象物である人物が部屋に入ってから出るまでの一連の画像を取得している際に通信の失敗が生じたときには、撮像装置100は、人物が部屋に入ったときの画像と出たときの画像だけを1フレームの画像に並べたり、それらの画像の縮小画像を生成したりしてもよい。また、製品製造の一連の流れの画像を取得している際に通信の失敗が生じたときには、撮像装置100は、工程の変化が生じている画像だけを1フレームの画像に並べたり、それらの画像の縮小画像を生成したりしてもよい。さらには、通信失敗時に送るべき画像の特徴をユーザ等のボタン操作や音声指示の入力によって設定できるようにしてもよい。
また、加工された画像は、必ずしも通信の回復の直後に送信される必要はない。例えば、撮像装置100は、図10の(a)のようにして取得している画像のうちの、通信が失敗している間に取得した未送信の画像I1、I2、I3の縮小画像を1フレームの画像内に並べる加工をする。そして、撮像装置100は、図10の(b)に示すように、加工によって生成された組画像I5を、撮像の終了後に端末200に送信してもよい。そして、端末200は、図10の(c)に示すように、組画像I5を表示素子208に表示させてもよい。撮像装置100の撮像の終了後であれば通信のための十分な時間を確保することができる。このため、画像は、確実に送信され得る。
また、撮像装置100は、画像の取得とともに音声の取得をすることもあり得る。加工された画像の送信時には、音声も併せて送信されてよい。それぞれの加工された画像に対応づけられる音声は、例えばそのまま送信されてもよいし、圧縮されて送信されてもよい。図2Bのように、1フレームの画像に複数の縮小画像が並べられて構成される組画像については、個々の縮小画像に対して音声が関連付けされている。この場合、端末200は、例えば図11Aに示すように組画像とともに音声再生マークMも表示素子208に表示させる。音声再生マークMが選択されたとき、端末200の制御回路202は、選択された音声再生マークMと対応する音声を再生する。
また、撮像装置100は、取得した音声を周知の音声認識技術によって文字化してもよい。この場合、撮像装置100は、組画像とともに文字データを端末200に送信してよい。この場合、端末200は、例えば図11Bに示すように組画像とともに音声を表す文字をテロップTとして表示素子208に表示させてよい。テロップTは、すべての音声について生成される必要はない。例えば、撮像装置100は、通信失敗中に取得される画像の画像特徴からシーンの変化、対象物の変化といった特徴的な変化が検出されたとき又は特徴のある音声が発生されたときだけ、テロップを生成してもよい。さらには、テロップを生成すべき画像又は音声の特徴を端末200において設定できるようにしてもよい。各画像に対応した音声をさらに取得できるようにしておけば、制御回路は、通信失敗の回復後に、送れなかった画像のそれぞれと対応する音声を文字化して加工した画像送信するように送信回路を制御するといった工夫が可能となる。もちろん、この加工は受信側の機器が重畳表示するように行ってもよい。この場合、音声か、その音声をテキスト化した信号を受信して表示時に加工すればよい。
[第2の実施形態]
次に第2の実施形態について説明する。図12は、第2の実施形態における通信システム1の適用例を示す図である。図12の例では、工場等への適用例が示されている。つまり、作業員Wは、設備の点検等の作業をしている。作業員Wは、撮像装置100である装着型の端末300を身に着けている。端末300は、作業員Wの顔の方向の画像を取得する。撮像装置100によって取得された画像は、遠隔地に居るオペレータOの端末200に送られる。
図13Aは、端末300の概略の構成を示す図である。端末300は、例えば眼鏡型の端末である。一例の端末300は、作業者Wの片耳に装着される眼鏡状の外形を有しており、1つのテンプル(つる)302を有している。ここで、つる302の先端側をモダンの側、基端側をフレームの側としたとき、つる302の先端側、より詳しくは端末300が装着される際におおよそ作業者Wの耳に位置する位置には、スピーカ304が設けられている。スピーカ304は、各種の音声を発する。なお、スピーカ304は、さらに圧電素子等からなる振動発生器を有していてもよい。この場合、スピーカ304は、必要に応じて作業者Wの耳の付近に振動を与える。
また、つる302の基端から回路収納部306が延びている。回路収納部306には、前述した制御回路102と、キャプチャ回路104と、メモリ106と、記録媒体108と、表示素子110と、操作部112と、通信回路114とが設けられている。そして、回路収納部306の前面、すなわち端末300が装着される際に作業者の目線の向きに位置する回路収納部306の面には、キャプチャ回路104の対物光学系104aが露出している。また、回路収納部306の側面、すなわち端末300が装着される際に作業者の顔と対向する回路収納部306の面には、表示素子110の表示パネル110aが露出している。
さらに、表示パネル110aと対向するように導光素子308が配置されている。導光素子308は、例えばプリズムによって構成され、表示パネル110aから射出された表示光を、端末300を装着した作業者Wの目Eまで導く。この導光素子308は、端末が装着された際に図13Bに示すように作業者の目の半分程度を隠す程度の幅を有している。このような構成により、作業者Wは、導光素子308によって隠されていない部分に目線を向けることで素通しの視界を得ることができる一方、導光素子308に目線を向けることで表示パネル110aに表示された画像を見ることができる。
また、導光素子308には、キャプチャ回路104のマイクロホン104bが取り付けられている。このマイクロホン104bによって作業者Wの音声が取得される。
端末200は、スマートホン、タブレット端末、パーソナルコンピュータ(PC)といった表示素子を備えた外部表示装置である。端末200は、撮像装置100から送られてきた画像を表示したり、記憶したりする。端末200は、図1で示した制御回路202と、メモリ204と、記録媒体206と、表示素子208と、操作部210と、通信回路212とを有している。また、端末200は、図1で示した以外の構成を有していてもよい。例えば、端末200は、キャプチャ回路を有していてもよい。
以下、第2の実施形態における通信システム1の動作をさらに詳しく説明する。図14A及び図14Bは、第2の実施形態における端末300の動作の一例を示すフローチャートである。図14A及び図14Bの処理は、例えば制御回路102によって制御される。なお、図14A及び図14Bにおいて、図3と共通の処理については説明を適宜に省略する。
ステップS401において、制御回路102は、通信回路114によって、端末200から通信要求信号を受信したか否かを判定する。ステップS401において、端末200から通信要求信号を受信していないと判定されたときに、処理はS416に移行する。ステップS401において、端末200からの通信要求信号を受信したと判定されたときに、処理はステップS402に移行する。
ステップS402において、制御回路102は、通信回路114を用いて、端末200に対して応答信号を送信する。
ステップS403において、制御回路102は、動作モードが画像送信モードに設定されているか否かを判定する。端末300は、動作モードとして画像送信モードとガイドモードとを有している。画像送信モードは、キャプチャ回路104で取得された画像を端末200に送信するモードである。端末200に送信された画像は、端末200の表示素子208に表示される。一方、ガイドモードは、端末300の表示素子110に作業者Wのためのガイドを表示させるモードである。ガイドの内容は、作業の内容等に応じて種々に変更され得る。ステップS403において、動作モードが画像送信モードに設定されていないと判定されたときに、処理はステップS404に移行する。ステップS403において、動作モードが画像送信モードに設定されたと判定されたときに、処理はステップS405に移行する。
ステップS404において、制御回路102は、現在の状況に応じたガイドを表示素子110に表示させる。その後、処理はステップS416に移行する。前述したように、表示素子110に表示された画像に基づく表示光は、表示パネル110aから射出されて導光素子308に入射する。導光素子308は、入射した表示光を作業者Wの目Eまで導く。作業者Wは、目線を導光素子308に向けることでガイドを見ることができる。
ステップS405において、制御回路102は、キャプチャ回路104による撮像を実行する。また、制御回路102は、キャプチャ回路104による撮像とともにキャプチャ回路104のマイクロホン104bによる収音も実行してよい。ステップS406において、制御回路102は、キャプチャ回路104で得られた画像をメモリ106に記憶させる。ステップS407において、制御回路102は、通信回路114を用いて、メモリ106に記憶された画像を端末200に送信する。このとき、制御回路102は、送信する画像をメモリ106にコピーしておく。メモリ106に記憶されるコピーは、例えば一定数の画像の送信が完了する毎に古いものから削除されてもよい。また、ステップS407において、制御回路102は、音声も端末200に送信してよい。
ステップS408において、制御回路102は、画像の送信が失敗したか否かを判定する。画像の送信が失敗したか否かの判定は、第1の実施形態のステップS8と同様でよい。ステップS408において、通信が失敗したと判定されたときには、処理はステップS409に移行する。ステップS408において、通信が失敗していないと判定されたときには、処理はステップS411に移行する。なお、通信失敗時には作業者Wに通信が失敗したことを報知するようにしてもよい。
ステップS409において、制御回路102は、通信が失敗してから所定の時間が経過したか否かを判定する。この所定の時間は、端末200における表示が中断しても影響のない程度の時間である。短時間で画像の変化が生じる場合には、この所定時間は短く設定される。例えば、キャプチャ回路104による撮像の対象物の動きが速かったり、撮像されるシーンが短時間で変化したりするときには所定時間は短く設定される。逆に、対象物の動きが遅かったり、撮像されるシーンが殆ど変化しなかったりするときには所定時間は長く設定される。また、対象物の動きではなく、端末300の動きが速かったりする場合にも所定時間は短くされてよい。さらに、所定時間は、作業者W等のユーザによって設定されてもよい。ステップS409において、通信が失敗してから所定の時間が経過していないと判定されたときには、処理はステップS408に戻る。つまり、短時間の障害等で表示に影響がないと考えられるときには、対策処理が行われない。ステップS409において、通信が失敗してから所定の時間が経過したと判定されたときには、処理はステップS410に移行する。
ステップS410において、制御回路102は、通信失敗時の対策処理を行う。対策処理は、第1の実施形態と同様でよいので説明を省略する。対策処理の終了後、処理はステップS411に移行する。
ステップS411において、制御回路102は、端末300からの指示を通信回路114で受信したか否かを判定する。ステップS411において、端末300からの指示を受信したと判定されたときには、処理はステップS412に移行する。ステップS411において、端末300からの指示を受信していないと判定されたときには、処理はステップS413に移行する。
ステップS412において、制御回路102は、端末200からの指示を再生する。端末200から音声が受信されてきたときには、制御回路102は、受信された音声をスピーカ304から再生する。これにより、作業者Wは、オペレータOからの音声指示を聞くことができる。また、端末200から画像が受信されてきたときには、制御回路102は、受信された画像を表示素子110に再生する。これにより、作業者Wは、表示パネル110aに再生されているオペレータOからの画像による指示を、導光素子308を介して確認できる。なお、音声又は画像による指示があったときには、制御回路102は、必要に応じてスピーカ304から振動を発生させることで指示があったことを作業者Wに認知させてもよい。
ステップS413において、制御回路102は、画像の送信を終了するか否かを判定する。例えば、端末200から画像の送信の終了指示が通信回路114で受信されたときに、画像の送信を終了すると判定される。ステップS413において、画像の送信を終了しないと判定されたときに、処理はステップS405に戻る。この場合、制御回路102は、画像の取得、記憶及び送信を継続する。ステップS413において、画像の送信を終了すると判定されたときに、処理はステップS414に移行する。
ステップS414において、制御回路102は、端末200から画像の再送信の要求を通信回路114で受信したか否かを判定する。ステップS414において、画像の再送信の要求があったと判定されたときに、処理はステップS415に移行する。ステップS414において、画像の再送信の要求がないと判定されたときに、処理はステップS416に移行する。
ステップS415において、制御回路102は、通信回路114を用いて、端末200から要求された未送信の画像を端末200に送信する。画像の送信の完了後、処理はステップS416に移行する。ステップS415では、端末200におけるリアルタイムの画像の表示が行われていないので、撮像装置100からの画像の送信は成功するまで繰り返されてもよい。
ステップS416において、制御回路102は、端末300の動作を終了させるか否かを判定する。例えば、作業者Wの操作部112によって端末300の電源のオフが指示されたとき、操作部112の無操作状態が継続されたときには、端末300の動作を終了させると判定される。ステップS416において、端末300の動作を終了させないと判定されたときには、処理はステップS401に戻る。ステップS416において、端末300の動作を終了させると判定されたときには、制御回路102は、端末300の動作を終了させる。
図15A及び図15Bは、第2の実施形態における端末200の動作の一例を示すフローチャートである。図15A及び図15Bの処理は、例えば制御回路202によって制御される。
ステップS501において、制御回路202は、連携アプリケーションが起動されたか否かを判定する。ステップS501において、連携アプリケーションが起動されていないと判定されたときには、処理はステップS502に移行する。ステップS501において、連携アプリケーションが起動されたと判定されたときには、処理はステップS503に移行する。
ステップS502において、制御回路202は、連携アプリケーションが起動されたとき以外のその他の処理を行う。その他の処理は、例えば電子メールの送受信の処理、ブラウザの起動処理といった処理を含む。その他の処理の後、処理はステップS516に移行する。
ステップS503において、制御回路202は、通信回路212を用いて、端末300に対して通信要求信号を送信する。ステップS504において、制御回路202は、端末300から応答信号を通信回路212で受信したか否かを判定する。ステップS504において、応答信号を受信していないと判定されたとき、処理はステップS503に戻る。つまり、応答信号が受信されるまで、通信要求信号の送信が繰り返される。通信回路212によって一定回数の通信要求信号の送信をした後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理はステップS516に移行する。ステップS504において、応答信号を受信したと判定されたとき、処理はステップS505に移行する。
ステップS505において、制御回路202は、画像の受信が失敗したか否かを判定する。画像の受信が失敗したか否かの判定は、第1の実施形態のステップS205と同様でよい。ステップS505において、画像の受信が失敗していないと判定されたとき、処理はステップS509に移行する。ステップS505において、画像の受信が失敗したと判定されたとき、処理はステップS506に移行する。
ステップS506において、制御回路202は、最も新しく受信された画像を画像ファイルとして記録媒体206に記録する。
ステップS507において、制御回路202は、通信が回復したか否かを判定する。通信が回復したか否かの判定は、第1の実施形態のステップS207と同様でよい。ステップS507において、通信が回復したと判定されるまで、判定は繰り返される。一定回数の判定の後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理は、ステップS516に移行する。ステップS507において、通信が回復したと判定されたときには、処理はステップS508に移行する。
ステップS508において、制御回路202は、通信回路212による撮像装置100からの画像の受信を待つ。撮像装置100から画像が受信されたとき、制御回路202は、受信された画像をメモリ204に記憶させる。また、制御回路202は、画像とともに受信された未送信の画像の情報を、自身の未受信の画像の情報としてメモリ204に記憶させる。その後、処理はステップS509に移行する。
ステップS509において、制御回路202は、受信した画像を表示素子208に表示させる。ここで、第1の実施形態と同様に第2の実施形態においても、通信の再開直後は、前述したように撮像装置100において加工された画像が撮像装置100から送信される。この場合も、制御回路202は、端末300において加工された画像を表示素子208に表示させる。
ステップS510において、制御回路202は、オペレータOから端末300に対する指示が入力されたか否かを判定する。この指示は、音声による指示であってもよいし、画像による指示であってもよい。また、この指示は、特定のボタンの操作による指示であってもよい。ステップS510において、オペレータOから端末300に対する指示が入力されたと判定されたとき、処理はステップS511に移行する。ステップS510において、オペレータOから端末300に対する指示が入力されていないと判定されたとき、処理はステップS512に移行する。
ステップS511において、制御回路202は、通信回路212を用いて、端末300に対して指示を送信する。
ステップS512において、制御回路202は、画像の表示を終了するか否かを判定する。例えば、ユーザUの操作部210の操作によって連携アプリケーションを終了させる指示がされたときに、画像の表示を終了すると判定される。ステップS512において、画像の表示を終了しないと判定されたときに、処理はステップS505に戻る。ステップS512において、画像の表示を終了すると判定されたときに、処理はステップS513に移行する。
ステップS513において、制御回路202は、自身の未受信の画像の情報を記録媒体206に記録する。その後、処理はステップS514に移行する。未受信の画像の情報を記録媒体206に記録しておくことにより、端末200は、例えば連携アプリケーションの終了後であっても、必要に応じて未受信の画像の送信を撮像装置100に対して要求することができる。
ステップS514において、制御回路202は、未受信の画像の再送信が指示されたか否かを判定する。例えば、オペレータOの操作部210の操作によって特定の未受信の画像の再送信が指示されたときに、未受信の画像の再送信が指示されたと判定される。ステップS514において、未受信の画像の再送信が指示されたと判定されたときに、処理はステップS515に移行する。ステップS514において、未受信の画像の再送信が指示されていないと判定されたときに、処理はステップS516に移行する。
ステップS515において、制御回路202は、通信回路212を用いて、未受信の画像の再送信を撮像装置100に対して要求する。なお、再送信の要求後に受信される画像は、表示されてもよいし、記録されてもよい。
ステップS516において、制御回路202は、端末200の動作を終了させるか否かを判定する。例えば、ユーザUの操作部210によって端末200の電源のオフが指示されたとき、端末200の動作を終了させると判定される。ステップS516において、端末200の動作を終了させないと判定されたときには、処理はステップS501に戻る。ステップS516において、端末200の動作を終了させると判定されたときには、制御回路202は、端末200の動作を終了させる。
以上説明したように本実施形態の撮像装置は、通信が失敗している間に取得した画像を加工し、加工した画像を通信の再開後に端末に送信する。このような加工により、端末のユーザは、通信が失敗している間に撮像装置で取得された画像を通信の遅れなく確認することができる。また、本実施形態では、通信が失敗してから外部表示装置における表示に影響を与えない程度の所定の時間が経過するまでは対策処理が行われない。これにより、撮像装置100における処理の負荷を軽減することができる。
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。本実施形態の技術は、特に遠隔地で取得された画像をリアルタイムで確認することが要求される状況に好適である。このため、本実施形態の技術は、セキュリティ用途等でも利用され得る。
また、前述の各動作フローチャートの説明において、便宜上「まず」、「次に」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。
また、上述した実施形態による各処理は、コンピュータである制御回路102に実行させることができるプログラムとして記憶させておくこともできる。この他、磁気ディスク、光ディスク、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、制御回路102は、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。
なお、実施形態において、「部」(セクションやユニット)として記載した部分は、専用の回路や、複数の汎用の回路を組み合わせて構成してもよく、必要に応じて、予めプログラムされたソフトウェアに従って動作を行うマイコン、CPU等のプロセッサ、又はFPGA等のシーケンサを組み合わせて構成されてもよい。また、その制御の一部又は全部を外部の装置が引き受けるような設計も可能で、この場合、有線又は無線の通信回路が介在する。通信は、Bluetooth通信、Wi−Fi通信、電話回線等で行われればよく、USB等で行われてもよい。専用の回路、汎用の回路や制御部を一体としてASICとして構成してもよい。