JP7214414B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP7214414B2
JP7214414B2 JP2018171986A JP2018171986A JP7214414B2 JP 7214414 B2 JP7214414 B2 JP 7214414B2 JP 2018171986 A JP2018171986 A JP 2018171986A JP 2018171986 A JP2018171986 A JP 2018171986A JP 7214414 B2 JP7214414 B2 JP 7214414B2
Authority
JP
Japan
Prior art keywords
image
communication
images
control circuit
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018171986A
Other languages
Japanese (ja)
Other versions
JP2020043554A (en
Inventor
理彰 高橋
義久 尾形
真琴 尾崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2018171986A priority Critical patent/JP7214414B2/en
Publication of JP2020043554A publication Critical patent/JP2020043554A/en
Application granted granted Critical
Publication of JP7214414B2 publication Critical patent/JP7214414B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、撮像装置に関する。 The present invention relates to an imaging device .

通信中に障害が発生することにより、通信が失敗することがある。通信が失敗した場合の対策として、例えば送信できなかったデータの再送を要求する技術が知られている。また、特許文献1では、eラーニングのシンクロナス型での学習中にネットワーク障害によって通信が中断されたときには、オンデマンド型の学習に切り替えることが提案されている。 Communication may fail due to a failure occurring during communication. As a countermeasure against communication failure, for example, a technique of requesting retransmission of data that could not be transmitted is known. Further, Patent Document 1 proposes switching to on-demand learning when communication is interrupted due to a network failure during synchronous learning of e-learning.

特開2007-334797号公報JP 2007-334797 A

通信の失敗時にデータの再送を要求するシステムでは遅延が発生しやすい。その一方で再送が要求されないと、必要なデータは送信されないことになる。また、特許文献1において開示されているような通信の中断時に別の通信方式に切り替えるシステムでは、構成が複雑化しやすい。 Delays are likely to occur in systems that require retransmission of data when communication fails. On the other hand, if no retransmission is requested, the required data will not be transmitted. Also, in a system that switches to another communication method when communication is interrupted, as disclosed in Patent Document 1, the configuration tends to be complicated.

本発明は、前記の事情に鑑みてなされたものであり、簡易な構成で通信の失敗に対応できる撮像装置を提供することを目的とする。 SUMMARY OF THE INVENTION It is an object of the present invention to provide an imaging apparatus that can cope with communication failures with a simple configuration.

本発明の第1の態様の撮像装置は、撮像により複数の第1の画像を取得するキャプチャ回路と、前記第1の画像を連続して外部表示装置に送信する送信回路と、前記送信回路による1フレーム以上の前記第1の画像の送信が失敗したか否かを判定し、前記第1の画像の送信が失敗したと判定したときに未送信の前記第1の画像を加工し、通信の回復後に、前記加工により得られた第2の画像を送信するように前記送信回路を制御するように構成された制御回路とを具備し、未送信の前記第1の画像は2枚以上であり、前記制御回路は、前記未送信の前記第1の画像を並べることによって前記第2の画像である組画像を生成する加工をし、前記通信の回復後に前記組画像を送信するAn imaging device according to a first aspect of the present invention comprises a capture circuit for acquiring a plurality of first images by imaging, a transmission circuit for continuously transmitting the first images to an external display device, and the transmission circuit. determining whether or not transmission of the first image of one frame or more has failed, processing the untransmitted first image when it is determined that the transmission of the first image has failed, and performing communication; and a control circuit configured to control the transmission circuit to transmit the second image obtained by the processing after recovery, wherein the number of untransmitted first images is two or more. , the control circuit arranges the untransmitted first images to generate a set of images, which is the second image, and transmits the set of images after the communication is restored .

本発明の第2の態様の撮像装置は、撮像により複数の第1の画像を取得するキャプチャ回路と、前記第1の画像を連続して外部表示装置に送信する送信回路と、前記送信回路による1フレーム以上の前記第1の画像の送信が失敗したか否かを判定し、前記第1の画像の送信が失敗したと判定したときに未送信の前記第1の画像を加工し、通信の回復後に、前記加工により得られた第2の画像を送信するように前記送信回路を制御するように構成された制御回路とを具備し、前記制御回路は、前記未送信の前記第1の画像を縮小することによって前記第2の画像である縮小画像を生成する加工をし、前記通信の回復後に、前記縮小画像を、連続して前記第1の画像を送信するときの送信速度よりも速い送信速度で送信するように前記送信回路を制御するAn imaging device according to a second aspect of the present invention comprises a capture circuit that acquires a plurality of first images by imaging, a transmission circuit that continuously transmits the first images to an external display device, and the transmission circuit. determining whether or not transmission of the first image of one frame or more has failed, processing the untransmitted first image when it is determined that the transmission of the first image has failed, and performing communication; and a control circuit configured to control the transmission circuit to transmit a second image obtained by the processing after recovery, wherein the control circuit controls the untransmitted first image. is processed to generate a reduced image that is the second image by reducing the size of the second image, and after the communication is restored, the reduced image is transmitted at a speed faster than the transmission speed when the first image is continuously transmitted. The transmitter circuitry is controlled to transmit at a transmission rate .

本発明によれば、簡易な構成で通信の失敗に対応することができる撮像装置を提供することができる。 According to the present invention, it is possible to provide an imaging device that can cope with communication failures with a simple configuration.

図1は、各実施形態に係る通信システムの一例の構成を示す図である。FIG. 1 is a diagram showing an example configuration of a communication system according to each embodiment. 図2Aは、第1の実施形態における通信システムの適用例を示す図である。FIG. 2A is a diagram showing an application example of the communication system in the first embodiment. 図2Bは、第1の実施形態における通信システムの動作を示す図である。FIG. 2B is a diagram showing the operation of the communication system in the first embodiment; 図3は、第1の実施形態における撮像装置の動作の一例を示すフローチャートである。FIG. 3 is a flow chart showing an example of the operation of the imaging device according to the first embodiment. 図4は、対策処理について示すフローチャートである。FIG. 4 is a flowchart showing countermeasure processing. 図5は、第1の実施形態における端末の動作の一例を示すフローチャートである。FIG. 5 is a flow chart showing an example of the operation of the terminal according to the first embodiment. 図6は、第1の実施形態における通信システムの第1の変形例を示す図である。FIG. 6 is a diagram showing a first modification of the communication system according to the first embodiment. 図7は、第1の実施形態における通信システムの第2の変形例を示す図である。FIG. 7 is a diagram showing a second modification of the communication system in the first embodiment. 図8は、第1の実施形態における通信システムの第3の変形例を示す図である。FIG. 8 is a diagram showing a third modification of the communication system in the first embodiment. 図9は、第1の実施形態における通信システムの第4の変形例を示す図である。FIG. 9 is a diagram showing a fourth modification of the communication system in the first embodiment. 図10は、第1の実施形態における通信システムの第5の変形例を示す図である。FIG. 10 is a diagram showing a fifth modification of the communication system in the first embodiment. 図11Aは、第1の実施形態における通信システムの第6の変形例を示す図である。FIG. 11A is a diagram showing a sixth modification of the communication system according to the first embodiment. 図11Bは、第1の実施形態における通信システムの第7の変形例を示す図である。FIG. 11B is a diagram showing a seventh modification of the communication system in the first embodiment; 図12は、第2の実施形態における通信システムの適用例を示す図である。FIG. 12 is a diagram showing an application example of a communication system according to the second embodiment. 図13Aは、眼鏡型の端末の概略の構成を示す図である。FIG. 13A is a diagram showing a schematic configuration of a glasses-type terminal. 図13Bは、眼鏡型の端末の装着時の状態を示す図である。FIG. 13B is a diagram showing a state when the glasses-type terminal is worn. 図14Aは、第2の実施形態における眼鏡型の端末の動作の一例を示すフローチャートである。FIG. 14A is a flowchart illustrating an example of the operation of the glasses-type terminal according to the second embodiment. 図14Bは、第2の実施形態における眼鏡型の端末の動作の一例を示すフローチャートである。14B is a flowchart illustrating an example of the operation of the glasses-type terminal according to the second embodiment; FIG. 図15Aは、第2の実施形態における端末の動作の一例を示すフローチャートである。FIG. 15A is a flowchart illustrating an example of terminal operation in the second embodiment. 図15Bは、第2の実施形態における端末の動作の一例を示すフローチャートである。15B is a flowchart illustrating an example of the operation of the terminal according to the second embodiment; FIG.

以下、図面を参照して本発明の実施形態を説明する。
[第1の実施形態]
第1の実施形態について説明する。図1は、各実施形態に係る通信システムの一例の構成を示す図である。通信システム1は、例えば、撮像装置100と、端末200とを有している。撮像装置100と端末200とは、例えば無線で通信をする。無線通信の方式は、例えばWi-Fi(登録商標)である。無線通信の方式は、Wi-Fiに限らず、Bluetooth(登録商標)等であってもよい。
Embodiments of the present invention will be described below with reference to the drawings.
[First Embodiment]
A first embodiment will be described. FIG. 1 is a diagram showing an example configuration of a communication system according to each embodiment. The communication system 1 has, for example, an imaging device 100 and a terminal 200 . The imaging device 100 and the terminal 200 communicate wirelessly, for example. The wireless communication method is, for example, Wi-Fi (registered trademark). The wireless communication method is not limited to Wi-Fi, and may be Bluetooth (registered trademark) or the like.

通信装置の一例としての撮像装置100は、撮像によって画像を取得する。撮像装置100は、例えばデジタルカメラ(デジタルスチルカメラ又はデジタルムービーカメラ)である。撮像装置100は、音声も取得できてよい。図1の例では、撮像装置100は、制御回路102と、キャプチャ回路104と、メモリ106と、記録媒体108と、表示素子110と、操作部112と、通信回路114とを有している。撮像装置100は、図1で示した以外の構成を有していてもよいし、図1で示した一部の構成を有していなくてもよい。例えば、撮像装置100は、表示素子を有していなくてもよい。 An imaging device 100 as an example of a communication device acquires an image by imaging. The imaging device 100 is, for example, a digital camera (digital still camera or digital movie camera). The imaging device 100 may also acquire audio. In the example of FIG. 1, the imaging device 100 has a control circuit 102, a capture circuit 104, a memory 106, a recording medium 108, a display element 110, an operation section 112, and a communication circuit 114. The imaging device 100 may have a configuration other than that shown in FIG. 1, or may not have a part of the configuration shown in FIG. For example, the imaging device 100 may not have a display element.

制御回路102は、撮像装置100の各部の動作を制御する。また、制御回路102は、キャプチャ回路104で取得される画像に対して種々の画像処理を施す。この画像処理は、画像表示のための処理、画像記録のための処理を含む。さらに、この画像処理は、通信が失敗したときの画像の加工処理を含む。制御回路102は、CPU、GPU、ASIC、FPGA、メインメモリといったハードウェアを備えている。制御回路102は、単独のCPU等によって構成されてもよいし、複数のCPU等によって構成されてもよい。また、制御回路102による一部の処理は、ソフトウェアによって実現されてもよい。 A control circuit 102 controls the operation of each unit of the imaging apparatus 100 . Also, the control circuit 102 performs various image processing on the image acquired by the capture circuit 104 . This image processing includes processing for image display and processing for image recording. Furthermore, this image processing includes image processing when communication fails. The control circuit 102 includes hardware such as a CPU, GPU, ASIC, FPGA, and main memory. The control circuit 102 may be configured by a single CPU or the like, or may be configured by a plurality of CPUs or the like. Also, part of the processing by the control circuit 102 may be realized by software.

キャプチャ回路104は、対象物の画像を取得する。キャプチャ回路104は、例えば光学系、撮像素子及び前処理回路を含む。光学系は、対象物からの光を撮像素子に入射させる。撮像素子は、対象物からの光を電気信号に変換する。前処理回路は、撮像素子で得られた電気信号に対して前処理を施す。この前処理は、例えば相関二重サンプリング処理、ゲイン調整処理、アナログ/デジタル変換処理を含む。また、キャプチャ回路104は、対象物の音声も取得するように構成されていてもよい。この場合、キャプチャ回路104は、マイクロホン及び前処理回路を含む。マイクロホンは、対象物からの音声を電気信号に変換する。前処理回路は、マイクロホンで得られた電気信号に対して前処理を施す。この前処理は、例えばゲイン調整、ノイズ除去、アナログ/デジタル変換処理を含む。 A capture circuit 104 acquires an image of the object. The capture circuit 104 includes, for example, an optical system, an imaging device, and a preprocessing circuit. The optical system causes light from an object to enter the imaging element. The imaging device converts light from an object into an electrical signal. The preprocessing circuit preprocesses the electrical signal obtained by the imaging device. This preprocessing includes, for example, correlated double sampling processing, gain adjustment processing, and analog/digital conversion processing. The capture circuit 104 may also be configured to capture the audio of the object. In this case, capture circuitry 104 includes a microphone and preprocessing circuitry. A microphone converts sound from an object into an electrical signal. The preprocessing circuit preprocesses the electrical signal obtained by the microphone. This preprocessing includes, for example, gain adjustment, noise removal, and analog/digital conversion processing.

メモリ106は、RAM及びROMといったメモリである。メモリ106には、撮像装置100の動作のためのプログラム及びパラメータが記憶される。メモリ106は、単一であっても複数であってもよい。 The memory 106 is memory such as RAM and ROM. The memory 106 stores programs and parameters for the operation of the imaging device 100 . Memory 106 may be single or multiple.

記録媒体108は、フラッシュメモリといったメモリを含む。記録媒体108には、撮像装置100で取得される画像が記録される。記録媒体108は、撮像装置100に内蔵されていなくてもよい。例えば、記録媒体108は、撮像装置100に対して着脱できるように構成されていてもよい。 The recording medium 108 includes memory such as flash memory. Images captured by the imaging device 100 are recorded on the recording medium 108 . The recording medium 108 does not have to be built in the imaging device 100 . For example, the recording medium 108 may be configured to be detachable from the imaging device 100 .

表示素子110は、各種の画像を表示する。表示素子110は、液晶ディスプレイ又は有機ELディスプレイといった表示素子である。また、表示素子110は、音声を再生するためのスピーカ等を有していてもよい。 The display element 110 displays various images. The display element 110 is a display element such as a liquid crystal display or an organic EL display. Moreover, the display element 110 may have a speaker or the like for reproducing sound.

操作部112は、ボタン、スイッチ、ダイヤルといった機械的な操作部材を含む。また、操作部112は、タッチパネルを含んでいてもよい。撮像装置100が表示素子を含んでいるときには、タッチパネルは表示素子と一体的に設けられていてもよい。 The operation unit 112 includes mechanical operation members such as buttons, switches, and dials. Moreover, the operation unit 112 may include a touch panel. When the imaging device 100 includes a display element, the touch panel may be provided integrally with the display element.

通信回路114は、撮像装置100が端末200と通信するための回路を含む。通信回路114は、例えばWi-Fiのための通信回路である。通信回路114は、例えばBluetoothのための通信回路を含んでいてもよい。 The communication circuit 114 includes circuits for the imaging device 100 to communicate with the terminal 200 . Communication circuit 114 is, for example, a communication circuit for Wi-Fi. Communication circuitry 114 may include communication circuitry for Bluetooth, for example.

端末200は、スマートホン、タブレット端末、携帯ゲーム機、パーソナルコンピュータ(PC)といった表示素子を備えた外部表示装置である。端末200は、撮像装置100から送られてきた画像を表示したり、記憶したりする。図1の例では、端末200は、制御回路202と、メモリ204と、記録媒体206と、表示素子208と、操作部210と、通信回路212とを有している。端末200は、図1で示した以外の構成を有していてもよい。例えば、端末200は、キャプチャ回路を有していてもよい。 The terminal 200 is an external display device having a display element such as a smart phone, a tablet terminal, a portable game machine, or a personal computer (PC). The terminal 200 displays and stores images sent from the imaging device 100 . In the example of FIG. 1, the terminal 200 has a control circuit 202, a memory 204, a recording medium 206, a display element 208, an operation section 210, and a communication circuit 212. Terminal 200 may have a configuration other than that shown in FIG. For example, terminal 200 may have a capture circuit.

制御回路202は、端末200の各部の動作を制御する。制御回路202は、CPU、GPU、ASIC、FPGA、メインメモリといったハードウェアを備えている。制御回路202は、単独のCPU等によって構成されてもよいし、複数のCPU等によって構成されてもよい。また、制御回路202による一部の処理は、ソフトウェアによって実現されてもよい。 The control circuit 202 controls the operation of each unit of the terminal 200 . The control circuit 202 includes hardware such as a CPU, GPU, ASIC, FPGA, and main memory. The control circuit 202 may be composed of a single CPU or the like, or may be composed of a plurality of CPUs or the like. Also, part of the processing by the control circuit 202 may be realized by software.

メモリ204は、RAM及びROMといったメモリである。メモリ204には、端末200の動作のためのプログラム及びパラメータが記憶される。また、メモリ204には、撮像装置100との連携撮影のための連携アプリケーションが記憶されてもよい。メモリ204は、単一であっても複数であってもよい。 The memory 204 is memory such as RAM and ROM. Memory 204 stores programs and parameters for operation of terminal 200 . In addition, the memory 204 may store a cooperative application for cooperative shooting with the imaging apparatus 100 . Memory 204 may be single or multiple.

記録媒体206は、フラッシュメモリといったメモリを含む。記録媒体206には、例えば撮像装置100から送られてきた画像が記録される。記録媒体206は、端末200に内蔵されていなくてもよい。例えば、記録媒体206は、端末200に対して着脱できるように構成されていてもよい。 The recording medium 206 includes memory such as flash memory. For example, an image sent from the imaging device 100 is recorded on the recording medium 206 . Recording medium 206 may not be built in terminal 200 . For example, the recording medium 206 may be configured to be removable from the terminal 200 .

表示素子208は、各種の画像を表示する。表示素子208は、液晶ディスプレイ又は有機ELディスプレイといった表示素子である。また、表示素子208は、音声を再生するためのスピーカ等を有していてもよい。 The display element 208 displays various images. A display element 208 is a display element such as a liquid crystal display or an organic EL display. Further, the display element 208 may have a speaker or the like for reproducing sound.

操作部210は、ボタン、スイッチ、ダイヤルといった機械的な操作部材を含む。また、操作部210は、タッチパネルを含んでいてもよい。タッチパネルは、表示素子208と一体的に設けられていてもよい。 The operation unit 210 includes mechanical operation members such as buttons, switches, and dials. Moreover, the operation unit 210 may include a touch panel. The touch panel may be provided integrally with the display element 208 .

通信回路212は、端末200が撮像装置100と通信するための回路を含む。例えば、通信回路212は、例えばWi-Fiのための通信回路である。通信回路212は、例えばBluetoothのための通信回路を含んでいてもよい。 The communication circuit 212 includes circuits for the terminal 200 to communicate with the imaging device 100 . For example, the communication circuit 212 is a communication circuit for Wi-Fi, for example. Communication circuitry 212 may include communication circuitry for Bluetooth, for example.

以下、第1の実施形態に係る通信システム1の動作を説明する。図2A及び図2Bは、第1の実施形態に係る通信システム1の動作を説明するための図である。 The operation of the communication system 1 according to the first embodiment will be described below. 2A and 2B are diagrams for explaining the operation of the communication system 1 according to the first embodiment.

図2Aは、第1の実施形態における通信システム1の適用例を示している。図2Aの例では、撮影現場への適用例が示されている。つまり、カメラマンCは、撮像装置100を用いて被写体Sを撮影する。撮像装置100は、例えばデジタルスチルカメラである。 FIG. 2A shows an application example of the communication system 1 in the first embodiment. The example of FIG. 2A shows an example of application to a shooting site. That is, the cameraman C photographs the subject S using the imaging device 100 . The imaging device 100 is, for example, a digital still camera.

撮像装置100で取得された画像は、端末200に送られる。端末200の表示素子208には、撮像装置100から送られてきた画像が表示される。端末200は、例えばPCである。ユーザUは、表示素子208に表示された画像を見て必要に応じてカメラマンCに対して被写体Sをどのように撮影すべきかを指示する。 An image acquired by the imaging device 100 is sent to the terminal 200 . The image sent from the imaging device 100 is displayed on the display element 208 of the terminal 200 . Terminal 200 is, for example, a PC. The user U looks at the image displayed on the display device 208 and instructs the cameraman C how to photograph the subject S as necessary.

端末200において被写体Sの状態をリアルタイムで確認できるようにするため、撮像装置100は、例えば図2Bの(a)で示すように一定間隔で連続して被写体Sを撮像する。そして、図2Bの(b)で示すように、撮像装置100は、連続の撮像で得られた第1の画像を順次に端末200に送信する。この結果、端末200の表示素子208には、図2Bの(c)で示すように、撮像装置100で得られた第1の画像がリアルタイムで表示される。 In order to allow the terminal 200 to check the state of the subject S in real time, the imaging device 100 continuously images the subject S at regular intervals as shown in (a) of FIG. 2B, for example. Then, as shown in (b) of FIG. 2B , the imaging device 100 sequentially transmits the first images obtained by continuous imaging to the terminal 200 . As a result, the first image obtained by the imaging device 100 is displayed in real time on the display element 208 of the terminal 200, as shown in (c) of FIG. 2B.

ここで、撮像装置100と端末200との通信は、種々の障害によって失敗し得る。通信が失敗している間、撮像装置100で取得された画像I1、I2、I3は、端末200には送信されないことになる。このままでは、端末200のユーザUは、画像I1、I2、I3を確認することできない。 Here, communication between the imaging device 100 and the terminal 200 may fail due to various failures. The images I1, I2, and I3 acquired by the imaging device 100 will not be transmitted to the terminal 200 while the communication is unsuccessful. In this state, user U of terminal 200 cannot check images I1, I2, and I3.

本実施形態の撮像装置100は、未送信の第1の画像を加工し、加工により得られた第2の画像を通信の再開後に端末200に送信する。例えば、撮像装置100は、通信が失敗している間に取得した未送信の画像I1、I2、I3、及び通信が再開した直後に取得した未送信の画像I4の縮小画像を1フレームの画像内に並べる加工をする。そして、撮像装置100は、図2Bの(c)に示すようにして、組画像I5を画像I4の送信タイミングに合わせて端末200に送信する。ここで、組画像I5の画像サイズは、画像I1、I2、I3及びI4と同一のサイズであってよい。このような組画像の生成は、未送信の画像の内容の要約を生成することに対応する。なお、組画像の中に並べられる画像の数は、4フレームに限るものではない。未送信の画像の数が少なければ3フレーム以下の画像が並べられてもよいし、未送信の画像の数が多ければ5フレーム以上の画像が並べられてもよい。また、組画像が2フレーム以上生成されてもよい。組画像が4フレームの画像を並べるものである場合、例えば、5フレーム目以降の未送信の画像が2フレーム目の組画像の中に並べられてもよい。複数の縮小画像が1フレームの画像内に並べられる場合、縮小画像の数が多くなると、並べられたときに個々の画像を判別することが困難になる。したがって、縮小画像の数が所定数以上となったときにはその後に取得される画像が別の画像内に並べられることで、個々の画像の判別が容易になる。 The imaging device 100 of the present embodiment processes the untransmitted first image, and transmits the second image obtained by the processing to the terminal 200 after resuming communication. For example, the image capturing apparatus 100 may store reduced images of the unsent images I1, I2, and I3 acquired while the communication failed and the unsent image I4 acquired immediately after the communication was resumed, within one frame image. It is processed to line up. Then, the imaging device 100 transmits the combined image I5 to the terminal 200 in synchronization with the transmission timing of the image I4, as shown in (c) of FIG. 2B. Here, the image size of the combined image I5 may be the same size as the images I1, I2, I3 and I4. Generating such a set of images corresponds to generating a summary of the content of the unsent images. Note that the number of images arranged in a set of images is not limited to four frames. If the number of untransmitted images is small, images of three frames or less may be arranged, and if the number of untransmitted images is large, images of five frames or more may be arranged. Also, two or more frames of combined images may be generated. In the case where a set of images consists of images of four frames, for example, untransmitted images of the fifth and subsequent frames may be arranged in the set of images of the second frame. When a plurality of reduced images are arranged in one frame image, if the number of reduced images increases, it becomes difficult to distinguish each image when arranged. Therefore, when the number of reduced images reaches a predetermined number or more, the images acquired after that are arranged in another image, thereby facilitating discrimination of individual images.

このように、撮像装置100は、通信の再開後に組画像I5を端末200に送信する。これにより、端末200のユーザUは、通信が失敗している間に撮像装置100で取得された画像も確認することができる。また、組画像I5の画像サイズと画像I1、I2、I3及びI4とが同一のサイズであれば、組画像I5は、画像I1、I2、I3又はI4と同一の時間長で送信される。このため、撮像装置100は、通信再開後も通信再開前と同様のタイミングで画像を送信することができる。 In this way, the imaging device 100 transmits the combined image I5 to the terminal 200 after resuming communication. Thereby, the user U of the terminal 200 can also check the images acquired by the imaging device 100 during communication failure. Also, if the image size of the combined image I5 and the images I1, I2, I3 and I4 are the same size, the combined image I5 is transmitted with the same time length as the images I1, I2, I3 or I4. Therefore, even after resuming communication, the imaging device 100 can transmit an image at the same timing as before resuming communication.

以下、第1の実施形態における通信システム1の動作をさらに詳しく説明する。図3は、第1の実施形態における撮像装置100の動作の一例を示すフローチャートである。図3の処理は、例えば制御回路102によって制御される。 The operation of the communication system 1 according to the first embodiment will be described in more detail below. FIG. 3 is a flow chart showing an example of the operation of the imaging device 100 according to the first embodiment. The processing in FIG. 3 is controlled by the control circuit 102, for example.

ステップS1において、制御回路102は、撮像装置100の動作モードが連携撮影モードに設定されているか否かを判定する。撮像装置100は、例えば連携撮影モードと通常撮影モードの2つの動作モードを有している。連携撮影モードは、撮像装置100と端末200との通信を伴って撮影が行われる動作モードである。通常撮影モードは、撮像装置100の単独で撮影が行われる動作モードである。勿論、撮像装置100は、連携撮影モードと通常撮影モード以外の動作モードを有していてもよい。動作モードは、例えばカメラマンCによる操作部112の操作によって設定される。ステップS1において、撮像装置100の動作モードが連携撮影モードに設定されていないと判定されたときには、処理はステップS2に移行する。ステップS1において、撮像装置100の動作モードが連携撮影モードに設定されていると判定されたときには、処理はステップS3に移行する。 In step S1, the control circuit 102 determines whether or not the operation mode of the imaging apparatus 100 is set to the cooperative shooting mode. The imaging apparatus 100 has two operation modes, for example, a cooperative shooting mode and a normal shooting mode. The cooperative shooting mode is an operation mode in which shooting is performed with communication between the imaging device 100 and the terminal 200 . The normal shooting mode is an operation mode in which shooting is performed by the imaging device 100 alone. Of course, the imaging apparatus 100 may have operation modes other than the cooperative shooting mode and the normal shooting mode. The operation mode is set by the cameraman C operating the operation unit 112, for example. When it is determined in step S1 that the operation mode of the imaging device 100 is not set to the cooperative shooting mode, the process proceeds to step S2. When it is determined in step S1 that the operation mode of the imaging device 100 is set to the cooperative shooting mode, the process proceeds to step S3.

ステップS2において、撮像装置100は、通常撮影モードの処理を行う。その後、処理は、ステップS13に移行する。通常撮影モードの処理については簡単に説明する。通常撮影モードにおいては、ユーザの操作部112による撮影開始の操作を受けて、制御回路102は、キャプチャ回路104による撮像を実行する。そして、制御回路102は、キャプチャ回路104で得られた画像を記録できるような形式となるように画像処理し、画像処理によって得られる画像ファイルを記録媒体108に記録する。 In step S2, the image capturing apparatus 100 performs normal image capturing mode processing. After that, the process moves to step S13. The processing in normal shooting mode will be briefly described. In the normal shooting mode, the control circuit 102 executes the shooting by the capture circuit 104 in response to the user's operation of the operation unit 112 to start shooting. Then, the control circuit 102 performs image processing so that the image obtained by the capture circuit 104 is in a recordable format, and records the image file obtained by the image processing on the recording medium 108 .

ステップS3において、制御回路102は、通信回路114によって、端末200から通信要求信号を受信したか否かを判定する。ステップS3において、端末200から通信要求信号を受信していないと判定されたときに、処理はステップS13に移行する。ステップS3において、端末200からの通信要求信号を受信したと判定されたときに、処理はステップS4に移行する。 In step S<b>3 , the control circuit 102 determines whether or not a communication request signal has been received from the terminal 200 by the communication circuit 114 . When it is determined in step S3 that the communication request signal has not been received from terminal 200, the process proceeds to step S13. When it is determined in step S3 that the communication request signal from terminal 200 has been received, the process proceeds to step S4.

ステップS4において、制御回路102は、通信回路114を用いて、端末200に対して応答信号を送信する。 In step S<b>4 , control circuit 102 uses communication circuit 114 to transmit a response signal to terminal 200 .

ステップS5において、制御回路102は、キャプチャ回路104による撮像を実行する。ステップS5における撮像は、カメラマンCの操作部112による撮影開始の操作を受けて行われてもよい。この場合、一定時間、撮影開始の操作がなかったときには、処理はステップS9に移行してよい。また、制御回路102は、キャプチャ回路104による撮像とともにキャプチャ回路104による収音も実行してよい。ステップS6において、制御回路102は、キャプチャ回路104で得られた画像をメモリ106に記憶させる。ステップS7において、制御回路102は、通信回路114を用いて、メモリ106に記憶された画像を端末200に送信する。このとき、制御回路102は、送信する画像をメモリ106にコピーしておく。メモリ106に記憶されるコピーは、例えば一定数の画像の送信が完了する毎に古いものから削除されてもよい。 In step S<b>5 , the control circuit 102 executes imaging by the capture circuit 104 . The imaging in step S<b>5 may be performed in response to the cameraman C's operation of the operation unit 112 to start imaging. In this case, if there is no operation to start shooting for a certain period of time, the process may proceed to step S9. In addition, the control circuit 102 may perform sound collection by the capture circuit 104 as well as image capturing by the capture circuit 104 . In step S6, the control circuit 102 causes the memory 106 to store the image obtained by the capture circuit 104. FIG. In step S<b>7 , the control circuit 102 uses the communication circuit 114 to transmit the image stored in the memory 106 to the terminal 200 . At this time, the control circuit 102 copies the image to be transmitted to the memory 106 . The copies stored in memory 106 may be deleted, starting with the oldest, for example, each time a certain number of images have been transmitted.

ステップS8において、制御回路102は、画像の送信が失敗したか否かを判定する。送信の失敗は、実際に失敗した場合及び失敗と見なせる場合の両方を含む。具体的には、送信の失敗は、例えば画像の送信ができない状態、画像の送信はできたけれども端末200において正しく画像が受信されなかった状態を含む。例えば、制御回路102は、通信回路114によって検出される端末200からの電波の電波強度が閾値以下であるときに、画像の送信ができない状態であると判定する。また、例えば、制御回路102は、通信回路114によって、端末200から所定の回数以上のパケットの再送要求を受信したときに、端末200において画像が正しく受信されなかったと判定する。この他、撮像装置100と端末200との通信がアクセスポイントを介したWi-Fi通信によって行われているときには、制御回路102は、アクセスポイントに接続しているか否か、通信回路114によって検出されるアクセスポイントにおける電波強度が閾値以下であるか否かによって、通信ができる状態であるか否かを判定してもよい。また、撮像装置100と端末200との通信がBluetooth通信によって行われているときには、制御回路102は、通信回路114による撮像装置100と端末200とのペアリングが継続しているか否かによって、通信ができる状態であるか否かを判定してもよい。このように、ステップS8における判定は、特定の手法に限定されるものではない。ステップS8において、通信が失敗したと判定されたときには、処理はステップS9に移行する。ステップS8において、通信が失敗していないと判定されたときには、処理はステップS10に移行する。 In step S8, the control circuit 102 determines whether or not image transmission has failed. Transmission failure includes both actual failure and failure. Specifically, transmission failure includes, for example, a state in which an image cannot be transmitted, and a state in which the terminal 200 does not receive the image correctly even though the image has been transmitted. For example, the control circuit 102 determines that image transmission is not possible when the radio wave intensity of the radio wave from the terminal 200 detected by the communication circuit 114 is equal to or less than a threshold. Further, for example, the control circuit 102 determines that the terminal 200 has not correctly received the image when the communication circuit 114 receives a packet retransmission request from the terminal 200 a predetermined number of times or more. In addition, when communication between the imaging device 100 and the terminal 200 is performed by Wi-Fi communication via an access point, the control circuit 102 detects whether or not the communication circuit 114 is connected to the access point. It may be determined whether or not communication is possible based on whether or not the radio field intensity at the access point is equal to or less than a threshold. Further, when communication between the imaging device 100 and the terminal 200 is performed by Bluetooth communication, the control circuit 102 determines whether the pairing between the imaging device 100 and the terminal 200 by the communication circuit 114 continues. You may judge whether it is in the state where it can do. Thus, the determination in step S8 is not limited to a specific technique. When it is determined in step S8 that communication has failed, the process proceeds to step S9. When it is determined in step S8 that communication has not failed, the process proceeds to step S10.

ステップS9において、制御回路102は、通信失敗時の対策処理を行う。対策処理の詳細については後で説明する。対策処理の終了後、処理はステップS10に移行する。 In step S9, the control circuit 102 performs countermeasure processing for communication failure. Details of the countermeasure processing will be described later. After the countermeasure process ends, the process moves to step S10.

ステップS10において、制御回路102は、画像の送信を終了するか否かを判定する。例えば、端末200から画像の送信の終了指示が通信回路114で受信されたときに、画像の送信を終了すると判定される。ステップS10において、画像の送信を終了しないと判定されたときに、処理はステップS5に戻る。この場合、制御回路102は、画像の取得、記憶及び送信を継続する。ステップS10において、画像の送信を終了すると判定されたときに、処理はステップS11に移行する。 In step S10, the control circuit 102 determines whether or not to end image transmission. For example, when the communication circuit 114 receives an image transmission end instruction from the terminal 200, it is determined to end the image transmission. When it is determined in step S10 that the image transmission is not finished, the process returns to step S5. In this case, control circuitry 102 continues to acquire, store and transmit images. When it is determined in step S10 that the image transmission is finished, the process proceeds to step S11.

ステップS11において、制御回路102は、端末200から画像の再送信の要求を通信回路114で受信したか否かを判定する。後で説明するように、本実施形態では、画像の送信が失敗したときであっても、端末200において画像の表示が継続している間は、未送信の画像を加工することによって生成された画像が端末200に送信される。一方で、未送信の画像のそのものが必要となる場合もあり得る。このため、端末200における画像の表示が終了した後に、端末200からの要求に応じて未送信の画像を送信できるようにしておく。ステップS11は、この再送信の有無の判定である。ステップS11において、画像の再送信の要求があったと判定されたときに、処理はステップS12に移行する。ステップS11において、画像の再送信の要求がないと判定されたときに、処理はステップS13に移行する。 In step S<b>11 , the control circuit 102 determines whether or not the communication circuit 114 has received an image retransmission request from the terminal 200 . As will be described later, in the present embodiment, even if the image transmission fails, while the image continues to be displayed on the terminal 200, the image generated by processing the untransmitted image The image is transmitted to terminal 200 . On the other hand, there may be cases where the unsent image itself is required. Therefore, after the terminal 200 finishes displaying the image, it is made possible to transmit the untransmitted image in response to a request from the terminal 200 . Step S11 is a judgment of the presence or absence of this retransmission. When it is determined in step S11 that there is a request to resend the image, the process proceeds to step S12. When it is determined in step S11 that there is no request to resend the image, the process proceeds to step S13.

ステップS12において、制御回路102は、通信回路114を用いて、端末200から要求された未送信の画像を端末200に送信する。画像の送信の完了後、処理はステップS13に移行する。ステップS12では、端末200における画像のリアルタイムの表示が行われていないので、撮像装置100からの画像の送信は成功するまで繰り返されてもよい。 In step S<b>12 , the control circuit 102 uses the communication circuit 114 to transmit the unsent image requested by the terminal 200 to the terminal 200 . After the image transmission is completed, the process moves to step S13. In step S12, since the image is not displayed in real time on the terminal 200, the transmission of the image from the imaging device 100 may be repeated until successful.

ステップS13において、制御回路102は、撮像装置100の動作を終了させるか否かを判定する。例えば、カメラマンCの操作部112によって撮像装置100の電源のオフが指示されたとき、操作部112の無操作状態が継続されたときには、撮像装置100の動作を終了させると判定される。ステップS13において、撮像装置100の動作を終了させないと判定されたときには、処理はステップS1に戻る。ステップS13において、撮像装置100の動作を終了させると判定されたときには、制御回路102は、撮像装置100の動作を終了させる。 In step S<b>13 , the control circuit 102 determines whether or not to end the operation of the imaging device 100 . For example, when the operation unit 112 of the cameraman C instructs to turn off the imaging device 100 and the operation unit 112 remains in a non-operating state, it is determined that the operation of the imaging device 100 is to be terminated. When it is determined in step S13 that the operation of the imaging device 100 is not to be terminated, the process returns to step S1. In step S<b>13 , when it is determined to end the operation of the imaging device 100 , the control circuit 102 ends the operation of the imaging device 100 .

図4は、対策処理について示すフローチャートである。ステップS101において、キャプチャ回路104による撮像を実行する。ステップS101における撮像は、カメラマンCの操作部112による撮影開始の操作を受けて行われてもよい。この場合、一定時間、撮影開始の操作がなかったときには、処理はステップS104に移行してよい。ステップS102において、制御回路102は、キャプチャ回路104で得られた画像をメモリ106に記憶させる。 FIG. 4 is a flowchart showing countermeasure processing. In step S101, imaging by the capture circuit 104 is performed. The imaging in step S<b>101 may be performed in response to an operation by the cameraman C to start imaging through the operation unit 112 . In this case, the process may proceed to step S104 when there is no operation to start shooting for a certain period of time. In step S<b>102 , control circuit 102 causes memory 106 to store the image obtained by capture circuit 104 .

ステップS103において、制御回路102は、メモリ106にコピーされている未送信の画像を取得し、取得した未送信の画像を加工する。例えば、制御回路102は、ステップS7においてメモリ106にコピーされている画像の縮小画像と、ステップS102において新たにメモリ106に記憶された画像の縮小画像とを1フレームの画像内に並べる加工をする。その後、処理はステップS104に移行する。 In step S103, the control circuit 102 acquires the unsent image copied to the memory 106 and processes the acquired unsent image. For example, the control circuit 102 arranges the reduced image of the image copied to the memory 106 in step S7 and the reduced image of the image newly stored in the memory 106 in step S102 within the image of one frame. . After that, the process moves to step S104.

ステップS104において、制御回路102は、通信が回復したか否かを判定する。例えば、制御回路102は、端末200からの電波の電波強度が閾値を超えたときに、通信が回復したと判定する。ステップS104における判定は、特定の手法に限定されるものではない。ステップS104において、通信が回復したと判定されていないときには、処理はステップS101に戻る。つまり、通信が回復するまでは、画像の取得、記憶、加工が繰り返される。この繰り返しにおいては、加工によって変化が生じない画像については加工が行われず、加工によって変化が生じる画像についてのみ加工が行われるようにしてもよい。ステップS104において、通信が回復したと判定されたときには、処理はステップS105に移行する。 In step S104, control circuit 102 determines whether or not communication has been restored. For example, the control circuit 102 determines that communication has been restored when the radio wave intensity of the radio wave from the terminal 200 exceeds a threshold. The determination in step S104 is not limited to a specific technique. When it is determined in step S104 that communication has not recovered, the process returns to step S101. In other words, image acquisition, storage, and processing are repeated until communication is restored. In this repetition, it is also possible that an image that does not change due to processing is not processed, and only an image that changes due to processing is processed. When it is determined in step S104 that communication has recovered, the process proceeds to step S105.

ステップS105において、制御回路102は、通信回路114を用いて、加工によって得られた画像と、未送信の画像の情報とを端末200に送信する。未送信の画像の情報は、例えば未送信のフレーム番号を含む。未送信の画像の情報は、端末200において未送信の画像を特定できる情報であればよく、フレーム番号に限るものではない。 In step S<b>105 , the control circuit 102 uses the communication circuit 114 to transmit to the terminal 200 the image obtained by processing and the information of the untransmitted image. The information of the untransmitted image includes, for example, the untransmitted frame number. The information of the untransmitted image may be any information that can identify the untransmitted image in the terminal 200, and is not limited to the frame number.

ステップS106において、制御回路102は、すべての加工によって得られた画像の送信が完了しているか否かを判定する。ステップS106において、すべての加工によって得られた画像の送信が完了していないと判定されたときには、処理はステップS101に戻る。ステップS106において、すべての加工によって得られた画像の送信が完了したと判定されたときには、処理はステップS107に移行する。 In step S106, the control circuit 102 determines whether or not transmission of all images obtained by processing has been completed. When it is determined in step S106 that transmission of all images obtained by processing has not been completed, the process returns to step S101. When it is determined in step S106 that transmission of all images obtained by processing has been completed, the process proceeds to step S107.

ステップS107において、制御回路102は、最初の画像の送信から所定時間が経過したか否かを判定する。ステップS107において、所定時間が経過していないと判定されていないときには、処理はステップS101に戻る。つまり、通信が回復した場合であっても、所定時間が経過して通信が安定したと判定されるまでは、画像の取得、記憶、加工、送信が繰り返される。ステップS107において、所定時間が経過したと判定されたときには、制御回路102は図4の処理を終了させる。この場合、処理は図3のステップS9に移行する。そして、ステップS9において画像の送信を終了しないと判定されれば、処理はステップS5に戻る。以降、通常の画像の取得、記憶、送信の動作が再開される。 In step S107, the control circuit 102 determines whether or not a predetermined time has passed since the transmission of the first image. If it is determined in step S107 that the predetermined time has not elapsed, the process returns to step S101. That is, even when communication is restored, image acquisition, storage, processing, and transmission are repeated until it is determined that communication has stabilized after a predetermined period of time has elapsed. When it is determined in step S107 that the predetermined time has passed, the control circuit 102 terminates the processing of FIG. In this case, the process proceeds to step S9 in FIG. Then, if it is determined in step S9 that the image transmission is not finished, the process returns to step S5. Thereafter, normal image acquisition, storage, and transmission operations are resumed.

図5は、第1の実施形態における端末200の動作の一例を示すフローチャートである。図5の処理は、例えば制御回路202によって制御される。 FIG. 5 is a flow chart showing an example of the operation of the terminal 200 according to the first embodiment. The processing in FIG. 5 is controlled by the control circuit 202, for example.

ステップS201において、制御回路202は、連携アプリケーションが起動されたか否かを判定する。ステップS201において、連携アプリケーションが起動されていないと判定されたときには、処理はステップS202に移行する。ステップS201において、連携アプリケーションが起動されたと判定されたときには、処理はステップS203に移行する。 In step S201, the control circuit 202 determines whether or not the cooperative application has been activated. When it is determined in step S201 that the cooperative application has not been activated, the process proceeds to step S202. When it is determined in step S201 that the cooperative application has been activated, the process proceeds to step S203.

ステップS202において、制御回路202は、連携アプリケーションが起動されたとき以外のその他の処理を行う。その他の処理は、例えば電子メールの送受信の処理、ブラウザの起動処理といった処理を含む。その他の処理の後、処理はステップS214に移行する。 In step S202, the control circuit 202 performs processing other than when the cooperative application is activated. Other processing includes, for example, e-mail transmission/reception processing and browser start-up processing. After other processing, the processing moves to step S214.

ステップS203において、制御回路202は、通信回路212を用いて、撮像装置100に対して通信要求信号を送信する。ステップS204において、制御回路202は、通信回路212により、撮像装置100から応答信号を受信したか否かを判定する。ステップS204において、応答信号を受信していないと判定されたとき、処理はステップS203に戻る。つまり、応答信号が受信されるまで、通信回路212による通信要求信号の送信が繰り返される。一定回数の通信要求信号の送信をした後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理はステップS214に移行する。ステップS204において、応答信号を受信したと判定されたとき、処理はステップS205に移行する。 In step S<b>203 , the control circuit 202 uses the communication circuit 212 to transmit a communication request signal to the imaging apparatus 100 . In step S<b>204 , the control circuit 202 determines whether or not the communication circuit 212 has received a response signal from the imaging device 100 . When it is determined in step S204 that no response signal has been received, the process returns to step S203. That is, the transmission of the communication request signal by the communication circuit 212 is repeated until the response signal is received. After transmitting the communication request signal a certain number of times, the control circuit 202 may timeout the process. In this case, the process proceeds to step S214. When it is determined in step S204 that the response signal has been received, the process proceeds to step S205.

ステップS205において、制御回路202は、画像の受信が失敗したか否かを判定する。例えば、制御回路202は、所定時間の間に誤りなく画像を受信することができたか否かを判定する。そして、所定時間の間に誤りなく画像を受信することができたと判定したときには、制御回路202は、画像の受信が失敗していないと判定する。一方、所定時間の間に画像を受信することができなかった又は受信した画像に誤りがあったと判定したときには、制御回路202は、撮像装置100に対して画像の再送を要求する。この画像の再送の要求回数が所定回数以上となったとき、画像の受信が失敗したと判定する。ステップS205において、画像の受信が失敗していないと判定されたとき、処理はステップS209に移行する。ステップS205において、画像の受信が失敗したと判定されたとき、処理はステップS206に移行する。 In step S205, the control circuit 202 determines whether image reception has failed. For example, the control circuit 202 determines whether or not the image has been received without error for a predetermined period of time. Then, when it is determined that the image has been successfully received within the predetermined time, the control circuit 202 determines that the image reception has not failed. On the other hand, when the control circuit 202 determines that the image could not be received within the predetermined time or that the received image has an error, the control circuit 202 requests the imaging apparatus 100 to resend the image. When the number of requests for retransmission of the image reaches a predetermined number of times or more, it is determined that the reception of the image has failed. When it is determined in step S205 that image reception has not failed, the process proceeds to step S209. When it is determined in step S205 that image reception has failed, the process proceeds to step S206.

ステップS206において、制御回路202は、最も新しく受信された画像を画像ファイルとして記録媒体206に記録する。通信の失敗直前に受信された最新の画像を残しておくことで、この最新の画像は、通信の失敗直前の証拠となる画像として何等かの形で利用され得る。 In step S206, the control circuit 202 records the most recently received image on the recording medium 206 as an image file. By keeping the latest image received immediately before the communication failure, this latest image can be used in some form as an evidence image immediately before the communication failure.

ステップS207において、制御回路202は、通信が回復したか否かを判定する。例えば、制御回路202は、通信回路212によって検出される撮像装置100からの電波の電波強度が閾値を超えたときに、通信が回復したと判定する。ステップS207における判定は、特定の手法に限定されるものではない。ステップS207において、通信が回復したと判定されるまで、判定は繰り返される。一定回数の判定の後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理は、ステップS214に移行する。ステップS207において、通信が回復したと判定されたときには、処理はステップS208に移行する。 In step S207, the control circuit 202 determines whether communication has been restored. For example, the control circuit 202 determines that communication has been restored when the radio wave intensity of the radio waves from the imaging device 100 detected by the communication circuit 212 exceeds a threshold. The determination in step S207 is not limited to a specific method. The determination is repeated until it is determined in step S207 that communication has been restored. After a certain number of determinations, the control circuit 202 may timeout the process. In this case, the process proceeds to step S214. When it is determined in step S207 that communication has recovered, the process proceeds to step S208.

ステップS208において、制御回路202は、撮像装置100からの画像の受信を待つ。通信回路212によって撮像装置100から画像が受信されたとき、制御回路202は、受信された画像をメモリ204に記憶させる。また、制御回路202は、画像とともに受信された未送信の画像の情報を、自身の未受信の画像の情報としてメモリ204に記憶させる。その後、処理はステップS209に移行する。 In step S<b>208 , the control circuit 202 waits for reception of an image from the imaging device 100 . When an image is received from the imaging device 100 by the communication circuit 212 , the control circuit 202 causes the memory 204 to store the received image. Further, the control circuit 202 causes the memory 204 to store the information of the unsent image received together with the image as the information of its own unreceived image. After that, the process moves to step S209.

ステップS209において、制御回路202は、受信した画像を表示素子208に表示させる。これにより、図2Aに示すように、ユーザUは、撮像装置100で取得された画像を端末200において確認することができる。ここで、通信の再開直後は、前述したように撮像装置100において加工された画像が撮像装置100から送信される。この場合も、制御回路202は、撮像装置100において加工された画像を表示素子208に表示させる。 In step S209, the control circuit 202 causes the display element 208 to display the received image. Thereby, as shown in FIG. 2A , the user U can check the image acquired by the imaging device 100 on the terminal 200 . Here, immediately after resuming communication, the image processed by the imaging device 100 as described above is transmitted from the imaging device 100 . Also in this case, the control circuit 202 causes the display element 208 to display the image processed by the imaging device 100 .

ステップS210において、制御回路202は、画像の表示を終了するか否かを判定する。例えば、ユーザUの操作部210の操作によって連携アプリケーションを終了させる指示がされたときに、画像の表示を終了すると判定される。ステップS210において、画像の表示を終了しないと判定されたときに、処理はステップS205に戻る。ステップS210において、画像の表示を終了すると判定されたときに、処理はステップS211に移行する。 In step S210, the control circuit 202 determines whether or not to end the display of the image. For example, when the user U operates the operation unit 210 to give an instruction to end the cooperative application, it is determined to end the display of the image. When it is determined in step S210 that the image display is not finished, the process returns to step S205. When it is determined in step S210 that the display of the image is finished, the process proceeds to step S211.

ステップS211において、制御回路202は、加工された要約画像しか受信しておらず、オリジナルの画像を受信していないことから、自身の未受信の画像の情報を記録媒体206に記録する。その後、処理はステップS212に移行する。未受信の画像の情報を記録媒体206に記録しておくことにより、端末200は、例えば連携アプリケーションの終了後であっても、必要に応じて未受信の画像の送信を撮像装置100に対して要求することができる。また、受信画像をファイルとして記録してもよい。未受信の画像は、他の順調に受信された画像と合わせて(加工された画像のフレームと置き換えて)動画ファイルとして記録されてもよい。例えば、通信が不調な時に、何か出来事が起こった場合等は、未受信の画像の中に重要なエビデンスがあることから、こうして撮像したものと同じような画像が記録されることが好ましい。また、エビデンスである以上、未受信であったが、後から修復されたフレームがどれであるかを示す信号を記録する仕様とすることで、データの信頼性や証拠性を高めることができる。このように送信側と受信側が連携して成り立つシステムであるが、受信側にも重要なポイントがある。つまり、無線通信によって撮像装置から送信された画像を受信する受信装置において、失敗なしに連続して送信されてきた第1の画像を受信し、通信に失敗があった場合は、第1の画像の送信ができなかった事を判定した情報を受信し、通信の回復した後の表示終了後に、送信が失敗したフレームの画像を受信する画像受信装置の通信方法は、通信に失敗があったとしても、その回復後に前記送信が失敗したフレームの画像を受信して、送信が失敗しなかったフレームと合わせて動画ファイルとして記録する通信方法の工夫と言える。画像送受信の失敗のあった時には、副次的に様々なトラブルがあった可能性もあり、逆に他のトラブルの副次作用として画像送受信が失敗した可能性もあるので、この通信中断中に起こった事を確認可能に、あるいは証拠として記録可能にしておく仕様は、監視カメラのようなものでも重要な技術となる。 In step S211, since the control circuit 202 has received only the processed digest image and not the original image, it records the information of its own unreceived image on the recording medium 206. FIG. After that, the process moves to step S212. By recording the information of the unreceived image in the recording medium 206, the terminal 200 can transmit the unreceived image to the imaging device 100 as necessary even after the cooperative application is terminated. can be requested. Also, the received image may be recorded as a file. The unreceived image may be recorded as a movie file along with other successfully received images (replaced with frames of the processed image). For example, if something happens when communication is not working well, it is preferable to record images similar to those taken in this way, because there is important evidence in the images that have not been received. In addition, as long as it is evidence, it is possible to improve the reliability and evidence of the data by recording a signal indicating which frame was not received but was later restored. In this way, the system consists of the sending side and the receiving side working together, but there are also important points on the receiving side. That is, in a receiving device that receives images transmitted from an imaging device by wireless communication, the first images that have been continuously transmitted without failure are received, and if there is a failure in communication, the first image is received. The communication method of the image receiving device that receives the information that it was determined that the transmission of the frame was not possible, and receives the image of the frame whose transmission failed after the display after the communication is restored. can also be said to be a devised communication method for receiving the image of the frame whose transmission failed after recovery, and recording it together with the frame whose transmission did not fail as a moving image file. When image transmission/reception fails, there is a possibility that various secondary troubles have occurred, and conversely, image transmission/reception may have failed as a side effect of other troubles. Specifications that make it possible to confirm what happened or record it as evidence are important technologies for things like surveillance cameras.

ステップS212において、制御回路202は、未受信の画像の再送信が指示されたか否かを判定する。例えば、ユーザUの操作部210の操作によって特定の未受信の画像の再送信が指示されたときに、未受信の画像の再送信が指示されたと判定される。ステップS212において、未受信の画像の再送信が指示されたと判定されたときに、処理はステップS213に移行する。ステップS212において、未受信の画像の再送信が指示されていないと判定されたときに、処理はステップS214に移行する。 In step S212, the control circuit 202 determines whether or not an instruction to resend an image that has not been received has been issued. For example, when retransmission of a specific unreceived image is instructed by the user U operating the operation unit 210, it is determined that retransmission of the unreceived image has been instructed. When it is determined in step S212 that retransmission of the unreceived image has been instructed, the process proceeds to step S213. When it is determined in step S212 that retransmission of the unreceived image has not been instructed, the process proceeds to step S214.

ステップS213において、制御回路202は、通信回路212を用いて、未受信の画像の再送信を撮像装置100に対して要求する。なお、再送信の要求後に受信される画像は、表示されてもよいし、記録されてもよい。 In step S<b>213 , the control circuit 202 uses the communication circuit 212 to request the imaging apparatus 100 to resend the unreceived image. Note that the image received after the request for retransmission may be displayed or recorded.

ステップS214において、制御回路202は、端末200の動作を終了させるか否かを判定する。例えば、ユーザUの操作部210によって端末200の電源のオフが指示されたとき、端末200の動作を終了させると判定される。ステップS214において、端末200の動作を終了させないと判定されたときには、処理はステップS201に戻る。ステップS214において、端末200の動作を終了させると判定されたときには、制御回路202は、端末200の動作を終了させる。 In step S214, the control circuit 202 determines whether or not to end the operation of the terminal 200. FIG. For example, when the operation unit 210 of the user U instructs to turn off the power of the terminal 200, it is determined that the operation of the terminal 200 is finished. When it is determined in step S214 that the operation of terminal 200 is not to be ended, the process returns to step S201. When it is determined in step S214 that the operation of the terminal 200 should be terminated, the control circuit 202 terminates the operation of the terminal 200. FIG.

以上説明したように本実施形態の撮像装置は、通信が失敗している間に取得した画像を加工し、加工した画像を通信の再開後に端末に送信する。この加工は、例えば通信が失敗している間に取得した画像及び通信が再開した直後に取得した画像の縮小画像を1フレームの画像内に並べる加工を含む。このような加工によって生成される組画像により、端末のユーザは、通信が失敗している間に撮像装置で取得された画像を通信の遅れなく確認することができる。すなわち、本実施形態は、通信の障害等の発生によって通信の失敗が発生したときに、多少の通信の失敗を許容して画像の再送信の回数を抑制するものである。 As described above, the imaging apparatus of this embodiment processes an image acquired while communication fails, and transmits the processed image to the terminal after communication is resumed. This processing includes, for example, processing of arranging reduced images of an image acquired during communication failure and an image acquired immediately after communication is resumed in one frame image. The set of images generated by such processing allows the user of the terminal to check the images captured by the imaging device while the communication is unsuccessful without any communication delay. That is, in this embodiment, when a communication failure occurs due to the occurrence of a communication failure or the like, the number of retransmissions of images is suppressed by allowing some communication failures.

[第1の実施形態の変形例]
以下、第1の実施形態の変形例を説明する。第1の実施形態では、通信が失敗している間に取得した画像に対する加工の例として、通信が失敗している間に取得した画像及び通信が再開した直後に取得した画像の縮小画像を1フレームの画像内に並べる加工が例示されている。しかしながら、加工は、必ずしも縮小画像を1フレームの画像内に並べる加工に限るものではない。
[Modification of First Embodiment]
Modifications of the first embodiment will be described below. In the first embodiment, as an example of processing an image acquired while communication is unsuccessful, an image acquired while communication is unsuccessful and a reduced image of an image acquired immediately after communication is resumed are reduced to 1 The process of arranging in the image of the frame is exemplified. However, the processing is not necessarily limited to arranging the reduced images in one frame image.

例えば、撮像装置100は、図6の(a)のようにして取得している画像のうちの通信が失敗している間に取得した未送信の画像I1、I2、I3の縮小画像だけを1フレームの画像内に並べる加工をし、この加工によって得られた組画像I6と通信が再開した直後に取得した現在の未送信の画像I4の縮小画像I7とを図6の(b)のようにしてそれぞれ端末200に送信してもよい。そして、端末200は、図6の(c)に示すように、組画像I6と現在の画像I7とを表示素子208の別の表示領域に表示させてもよい。図6のような表示では、ユーザUは、組画像によって通信の失敗時の画像を要約して見ることができるとともに、現在の画像もリアルタイムで見ることができる。 For example, the image capturing apparatus 100 selects only the reduced images of the images I1, I2, and I3 that have not been transmitted from among the images that have been acquired as shown in FIG. A group image I6 obtained by this processing and a reduced image I7 of the current unsent image I4 obtained immediately after the communication is resumed are arranged as shown in FIG. 6(b). may be transmitted to the terminal 200 respectively. Then, the terminal 200 may display the combined image I6 and the current image I7 in different display areas of the display element 208, as shown in (c) of FIG. In the display as shown in FIG. 6, the user U can view a summary of the images at the time of communication failure using the combined images, and can also view the current image in real time.

また、例えば、撮像装置100は、図7の(a)のようにして取得している画像のうちの通信が失敗している間に取得した未送信の画像I1、I2、I3の縮小画像を生成するだけの加工をしてもよい。このとき、撮像装置100は、図7の(b)のようにして、未送信の画像の縮小画像I7、I8、I9を通常の画像よりも速い送信速度で送信してもよい。そして、端末200は、図7の(c)に示すように、縮小画像I7、I8、I9を順次に表示素子208に表示させてもよい。なお、縮小画像が送信される場合、端末200は、通信失敗中に取得された画像を早送りで再生したり、タイムラプスで再生したりしてもよい。縮小画像であれば、比較的に短時間で送信が完了するので、通信の回復後に縮小画像が送信されたとしても、比較的に短時間で元の表示に復帰させることができる。 Further, for example, the imaging device 100 may reduce the unsent images I1, I2, and I3 acquired while the communication fails among the images acquired as shown in FIG. 7A. You may process only to generate. At this time, the imaging device 100 may transmit the reduced images I7, I8, and I9 of the untransmitted images at a transmission speed higher than that of normal images, as shown in FIG. 7B. Then, the terminal 200 may sequentially display the reduced images I7, I8, and I9 on the display element 208 as shown in (c) of FIG. Note that when a reduced image is transmitted, the terminal 200 may reproduce the image acquired during communication failure in fast-forward mode or in time-lapse mode. If it is a reduced image, the transmission is completed in a relatively short time, so even if the reduced image is transmitted after the communication is restored, the original display can be restored in a relatively short time.

また、撮像装置100は、通信失敗中に取得される画像の画像特徴が同一の場合には、一部の未送信の画像だけを用いて組画像を生成したり、一部の未送信の画像だけの縮小画像を生成したりしてもよい。例えば、撮像装置100は、図8の(a)のようにして取得している画像のうちの、例えば通信失敗中に取得された最初の画像I1と通信が再開した直後に取得された画像I4を1フレームの画像に並べる加工をし、この加工によって得られた組画像I10を図8の(b)のようにして端末200に送信してもよい。そして、端末200は、図8の(c)に示すように、組画像I10を表示素子208に表示させてもよい。また、撮像装置100は、図9の(a)のようにして取得している画像のうちの、例えば通信失敗中に取得された最初の画像I1の縮小画像を生成するだけの加工をし、この加工によって得られた縮小画像I11を図9の(b)のようにして端末200に送信してもよい。そして、端末200は、図9の(c)に示すように、縮小画像I11を表示素子208に表示させてもよい。 Further, when images acquired during communication failure have the same image characteristics, the imaging device 100 generates a group image using only some of the unsent images, or uses only some of the unsent images. You may generate|occur|produce the reduced image of only. For example, of the images acquired as shown in FIG. may be arranged in one frame image, and the combined image I10 obtained by this processing may be transmitted to the terminal 200 as shown in FIG. 8(b). Then, the terminal 200 may display the combined image I10 on the display element 208 as shown in (c) of FIG. In addition, the imaging device 100 performs processing only to generate a reduced image of the first image I1 acquired during communication failure among the images acquired as shown in FIG. 9A, The reduced image I11 obtained by this processing may be transmitted to the terminal 200 as shown in FIG. 9(b). Then, the terminal 200 may display the reduced image I11 on the display element 208, as shown in (c) of FIG.

この他、撮像装置100は、通信失敗中に取得される画像の画像特徴からシーンの変化、対象物の変化といった特徴的な変化が検出されたときだけ、その変化の前後の画像を1フレームの画像に並べたり、その変化の前後の画像の縮小画像を生成したりしてもよい。例えば、対象物である人物が部屋に入ってから出るまでの一連の画像を取得している際に通信の失敗が生じたときには、撮像装置100は、人物が部屋に入ったときの画像と出たときの画像だけを1フレームの画像に並べたり、それらの画像の縮小画像を生成したりしてもよい。また、製品製造の一連の流れの画像を取得している際に通信の失敗が生じたときには、撮像装置100は、工程の変化が生じている画像だけを1フレームの画像に並べたり、それらの画像の縮小画像を生成したりしてもよい。さらには、通信失敗時に送るべき画像の特徴をユーザ等のボタン操作や音声指示の入力によって設定できるようにしてもよい。 In addition, only when a characteristic change such as a scene change or an object change is detected from the image characteristics of the image acquired during communication failure, the imaging apparatus 100 captures images before and after the change as one frame. It may be aligned with the image, or a reduced image of the image before and after the change may be generated. For example, when a communication failure occurs while acquiring a series of images from when a person, who is an object, enters a room until it leaves the room, the imaging device 100 can generate an image when the person enters the room and an image when the person exits the room. It is also possible to arrange only the images in one frame, or to generate a reduced image of those images. Further, when a communication failure occurs while acquiring images of a series of flow of product manufacturing, the imaging device 100 arranges only images in which process changes occur in one frame image, or arranges those images in one frame. A reduced image of the image may be generated. Furthermore, the characteristics of the image to be sent when communication fails may be set by the user or the like by operating buttons or inputting voice instructions.

また、加工された画像は、必ずしも通信の回復の直後に送信される必要はない。例えば、撮像装置100は、図10の(a)のようにして取得している画像のうちの、通信が失敗している間に取得した未送信の画像I1、I2、I3の縮小画像を1フレームの画像内に並べる加工をする。そして、撮像装置100は、図10の(b)に示すように、加工によって生成された組画像I5を、撮像の終了後に端末200に送信してもよい。そして、端末200は、図10の(c)に示すように、組画像I5を表示素子208に表示させてもよい。撮像装置100の撮像の終了後であれば通信のための十分な時間を確保することができる。このため、画像は、確実に送信され得る。 Also, the processed image need not necessarily be sent immediately after communication is restored. For example, the image capturing apparatus 100 reduces the unsent images I1, I2, and I3 acquired while the communication fails among the images acquired as shown in FIG. 10A to 1 Process to arrange in the image of the frame. Then, as shown in (b) of FIG. 10, the imaging device 100 may transmit the combined image I5 generated by the processing to the terminal 200 after finishing the imaging. Then, the terminal 200 may display the combined image I5 on the display element 208 as shown in (c) of FIG. Sufficient time for communication can be secured after the end of imaging by the imaging device 100 . Thus, images can be reliably transmitted.

また、撮像装置100は、画像の取得とともに音声の取得をすることもあり得る。加工された画像の送信時には、音声も併せて送信されてよい。それぞれの加工された画像に対応づけられる音声は、例えばそのまま送信されてもよいし、圧縮されて送信されてもよい。図2Bのように、1フレームの画像に複数の縮小画像が並べられて構成される組画像については、個々の縮小画像に対して音声が関連付けされている。この場合、端末200は、例えば図11Aに示すように組画像とともに音声再生マークMも表示素子208に表示させる。音声再生マークMが選択されたとき、端末200の制御回路202は、選択された音声再生マークMと対応する音声を再生する。 In addition, the imaging device 100 may acquire audio as well as acquiring an image. Audio may also be transmitted together with the transmission of the processed image. The sound associated with each processed image may be transmitted as it is, or may be transmitted after being compressed. As shown in FIG. 2B, with respect to a group image formed by arranging a plurality of reduced images in one frame image, audio is associated with each reduced image. In this case, the terminal 200 causes the display element 208 to display the audio reproduction mark M together with the combined image, as shown in FIG. 11A, for example. When the audio reproduction mark M is selected, the control circuit 202 of the terminal 200 reproduces the selected audio reproduction mark M and the corresponding audio.

また、撮像装置100は、取得した音声を周知の音声認識技術によって文字化してもよい。この場合、撮像装置100は、組画像とともに文字データを端末200に送信してよい。この場合、端末200は、例えば図11Bに示すように組画像とともに音声を表す文字をテロップTとして表示素子208に表示させてよい。テロップTは、すべての音声について生成される必要はない。例えば、撮像装置100は、通信失敗中に取得される画像の画像特徴からシーンの変化、対象物の変化といった特徴的な変化が検出されたとき又は特徴のある音声が発生されたときだけ、テロップを生成してもよい。さらには、テロップを生成すべき画像又は音声の特徴を端末200において設定できるようにしてもよい。各画像に対応した音声をさらに取得できるようにしておけば、制御回路は、通信失敗の回復後に、送れなかった画像のそれぞれと対応する音声を文字化して加工した画像送信するように送信回路を制御するといった工夫が可能となる。もちろん、この加工は受信側の機器が重畳表示するように行ってもよい。この場合、音声か、その音声をテキスト化した信号を受信して表示時に加工すればよい。 In addition, the imaging device 100 may convert the acquired voice into characters using a well-known voice recognition technique. In this case, the imaging device 100 may transmit character data to the terminal 200 together with the combined image. In this case, the terminal 200 may cause the display element 208 to display, as a telop T, characters representing voice together with the combined image, as shown in FIG. 11B, for example. The telop T need not be generated for all sounds. For example, the imaging apparatus 100 detects a characteristic change such as a change in scene or a change in an object from the image characteristics of an image acquired during communication failure, or only when characteristic sound is generated. may be generated. Furthermore, the terminal 200 may be configured to set features of an image or sound for which a telop is to be generated. If further audio corresponding to each image can be acquired, the control circuit causes the transmission circuit to transmit the processed image in which the audio corresponding to each of the images that could not be transmitted is converted into characters after recovery from the communication failure. It is possible to devise a control method. Of course, this processing may be performed so that the device on the receiving side superimposes and displays. In this case, it is sufficient to receive the voice or a signal obtained by converting the voice into text and process it at the time of display.

[第2の実施形態]
次に第2の実施形態について説明する。図12は、第2の実施形態における通信システム1の適用例を示す図である。図12の例では、工場等への適用例が示されている。つまり、作業員Wは、設備の点検等の作業をしている。作業員Wは、撮像装置100である装着型の端末300を身に着けている。端末300は、作業員Wの顔の方向の画像を取得する。撮像装置100によって取得された画像は、遠隔地に居るオペレータOの端末200に送られる。
[Second embodiment]
Next, a second embodiment will be described. FIG. 12 is a diagram showing an application example of the communication system 1 in the second embodiment. The example of FIG. 12 shows an example of application to a factory or the like. In other words, the worker W is doing work such as inspection of equipment. A worker W wears a wearable terminal 300 that is the imaging device 100 . The terminal 300 acquires an image in the direction of the worker W's face. The image acquired by the imaging device 100 is sent to the terminal 200 of the operator O at a remote location.

図13Aは、端末300の概略の構成を示す図である。端末300は、例えば眼鏡型の端末である。一例の端末300は、作業者Wの片耳に装着される眼鏡状の外形を有しており、1つのテンプル(つる)302を有している。ここで、つる302の先端側をモダンの側、基端側をフレームの側としたとき、つる302の先端側、より詳しくは端末300が装着される際におおよそ作業者Wの耳に位置する位置には、スピーカ304が設けられている。スピーカ304は、各種の音声を発する。なお、スピーカ304は、さらに圧電素子等からなる振動発生器を有していてもよい。この場合、スピーカ304は、必要に応じて作業者Wの耳の付近に振動を与える。 FIG. 13A is a diagram showing a schematic configuration of terminal 300. As shown in FIG. The terminal 300 is, for example, a glasses-type terminal. An example terminal 300 has a spectacle-like external shape that is worn on one ear of the worker W, and has one temple (vine) 302 . Here, assuming that the tip side of the temple 302 is the side of the modulus and the proximal side is the side of the frame, the tip side of the temple 302, more specifically, when the terminal 300 is worn, it is positioned approximately at the ear of the worker W. A speaker 304 is provided at the position. Speaker 304 emits various sounds. Note that the speaker 304 may further have a vibration generator made up of a piezoelectric element or the like. In this case, the speaker 304 vibrates near the ears of the worker W as needed.

また、つる302の基端から回路収納部306が延びている。回路収納部306には、前述した制御回路102と、キャプチャ回路104と、メモリ106と、記録媒体108と、表示素子110と、操作部112と、通信回路114とが設けられている。そして、回路収納部306の前面、すなわち端末300が装着される際に作業者の目線の向きに位置する回路収納部306の面には、キャプチャ回路104の対物光学系104aが露出している。また、回路収納部306の側面、すなわち端末300が装着される際に作業者の顔と対向する回路収納部306の面には、表示素子110の表示パネル110aが露出している。 A circuit housing portion 306 extends from the proximal end of temple 302 . The circuit housing section 306 is provided with the aforementioned control circuit 102 , capture circuit 104 , memory 106 , recording medium 108 , display element 110 , operation section 112 , and communication circuit 114 . The objective optical system 104a of the capture circuit 104 is exposed on the front surface of the circuit housing portion 306, that is, the surface of the circuit housing portion 306 positioned in the line of sight of the operator when the terminal 300 is attached. Further, the display panel 110a of the display element 110 is exposed on the side surface of the circuit housing portion 306, that is, the surface of the circuit housing portion 306 facing the face of the operator when the terminal 300 is worn.

さらに、表示パネル110aと対向するように導光素子308が配置されている。導光素子308は、例えばプリズムによって構成され、表示パネル110aから射出された表示光を、端末300を装着した作業者Wの目Eまで導く。この導光素子308は、端末が装着された際に図13Bに示すように作業者の目の半分程度を隠す程度の幅を有している。このような構成により、作業者Wは、導光素子308によって隠されていない部分に目線を向けることで素通しの視界を得ることができる一方、導光素子308に目線を向けることで表示パネル110aに表示された画像を見ることができる。 Further, a light guide element 308 is arranged so as to face the display panel 110a. The light guide element 308 is composed of, for example, a prism, and guides the display light emitted from the display panel 110a to the eye E of the worker W wearing the terminal 300 . This light guide element 308 has a width that covers about half of the eyes of the operator as shown in FIG. 13B when the terminal is attached. With such a configuration, the operator W can obtain a clear field of view by directing his/her line of sight to the portion not hidden by the light guide element 308, while directing his/her line of sight to the light guide element 308 allows the operator W to view the display panel 110a. You can see the image displayed in

また、導光素子308には、キャプチャ回路104のマイクロホン104bが取り付けられている。このマイクロホン104bによって作業者Wの音声が取得される。 A microphone 104 b of the capture circuit 104 is attached to the light guide element 308 . The voice of the worker W is acquired by this microphone 104b.

端末200は、スマートホン、タブレット端末、パーソナルコンピュータ(PC)といった表示素子を備えた外部表示装置である。端末200は、撮像装置100から送られてきた画像を表示したり、記憶したりする。端末200は、図1で示した制御回路202と、メモリ204と、記録媒体206と、表示素子208と、操作部210と、通信回路212とを有している。また、端末200は、図1で示した以外の構成を有していてもよい。例えば、端末200は、キャプチャ回路を有していてもよい。 The terminal 200 is an external display device having a display element such as a smart phone, tablet terminal, or personal computer (PC). The terminal 200 displays and stores images sent from the imaging device 100 . Terminal 200 has control circuit 202, memory 204, recording medium 206, display element 208, operation unit 210, and communication circuit 212 shown in FIG. Also, the terminal 200 may have a configuration other than that shown in FIG. For example, terminal 200 may have a capture circuit.

以下、第2の実施形態における通信システム1の動作をさらに詳しく説明する。図14A及び図14Bは、第2の実施形態における端末300の動作の一例を示すフローチャートである。図14A及び図14Bの処理は、例えば制御回路102によって制御される。なお、図14A及び図14Bにおいて、図3と共通の処理については説明を適宜に省略する。 The operation of the communication system 1 according to the second embodiment will be described in more detail below. 14A and 14B are flowcharts showing an example of the operation of terminal 300 in the second embodiment. The processes of FIGS. 14A and 14B are controlled by the control circuit 102, for example. In FIGS. 14A and 14B, descriptions of the processes common to those in FIG. 3 will be omitted as appropriate.

ステップS401において、制御回路102は、通信回路114によって、端末200から通信要求信号を受信したか否かを判定する。ステップS401において、端末200から通信要求信号を受信していないと判定されたときに、処理はS416に移行する。ステップS401において、端末200からの通信要求信号を受信したと判定されたときに、処理はステップS402に移行する。 In step S<b>401 , the control circuit 102 determines whether or not the communication circuit 114 has received a communication request signal from the terminal 200 . When it is determined in step S401 that the communication request signal has not been received from the terminal 200, the process proceeds to S416. When it is determined in step S401 that the communication request signal from terminal 200 has been received, the process proceeds to step S402.

ステップS402において、制御回路102は、通信回路114を用いて、端末200に対して応答信号を送信する。 In step S<b>402 , control circuit 102 uses communication circuit 114 to transmit a response signal to terminal 200 .

ステップS403において、制御回路102は、動作モードが画像送信モードに設定されているか否かを判定する。端末300は、動作モードとして画像送信モードとガイドモードとを有している。画像送信モードは、キャプチャ回路104で取得された画像を端末200に送信するモードである。端末200に送信された画像は、端末200の表示素子208に表示される。一方、ガイドモードは、端末300の表示素子110に作業者Wのためのガイドを表示させるモードである。ガイドの内容は、作業の内容等に応じて種々に変更され得る。ステップS403において、動作モードが画像送信モードに設定されていないと判定されたときに、処理はステップS404に移行する。ステップS403において、動作モードが画像送信モードに設定されたと判定されたときに、処理はステップS405に移行する。 In step S403, the control circuit 102 determines whether or not the operation mode is set to the image transmission mode. The terminal 300 has an image transmission mode and a guide mode as operation modes. The image transmission mode is a mode for transmitting an image acquired by the capture circuit 104 to the terminal 200 . The image transmitted to terminal 200 is displayed on display element 208 of terminal 200 . On the other hand, the guide mode is a mode in which a guide for worker W is displayed on display element 110 of terminal 300 . The contents of the guide can be changed variously according to the contents of the work. When it is determined in step S403 that the operation mode is not set to the image transmission mode, the process proceeds to step S404. When it is determined in step S403 that the operation mode has been set to the image transmission mode, the process proceeds to step S405.

ステップS404において、制御回路102は、現在の状況に応じたガイドを表示素子110に表示させる。その後、処理はステップS416に移行する。前述したように、表示素子110に表示された画像に基づく表示光は、表示パネル110aから射出されて導光素子308に入射する。導光素子308は、入射した表示光を作業者Wの目Eまで導く。作業者Wは、目線を導光素子308に向けることでガイドを見ることができる。 In step S404, the control circuit 102 causes the display element 110 to display a guide corresponding to the current situation. After that, the process moves to step S416. As described above, the display light based on the image displayed on the display element 110 is emitted from the display panel 110 a and enters the light guide element 308 . The light guide element 308 guides the incident display light to the eye E of the worker W. As shown in FIG. The worker W can see the guide by directing the line of sight to the light guide element 308 .

ステップS405において、制御回路102は、キャプチャ回路104による撮像を実行する。また、制御回路102は、キャプチャ回路104による撮像とともにキャプチャ回路104のマイクロホン104bによる収音も実行してよい。ステップS406において、制御回路102は、キャプチャ回路104で得られた画像をメモリ106に記憶させる。ステップS407において、制御回路102は、通信回路114を用いて、メモリ106に記憶された画像を端末200に送信する。このとき、制御回路102は、送信する画像をメモリ106にコピーしておく。メモリ106に記憶されるコピーは、例えば一定数の画像の送信が完了する毎に古いものから削除されてもよい。また、ステップS407において、制御回路102は、音声も端末200に送信してよい。 In step S405, the control circuit 102 causes the capture circuit 104 to perform imaging. Further, the control circuit 102 may also perform sound pickup by the microphone 104 b of the capture circuit 104 as well as the image pickup by the capture circuit 104 . In step S406, the control circuit 102 causes the memory 106 to store the image obtained by the capture circuit 104. FIG. In step S<b>407 , the control circuit 102 uses the communication circuit 114 to transmit the image stored in the memory 106 to the terminal 200 . At this time, the control circuit 102 copies the image to be transmitted to the memory 106 . The copies stored in memory 106 may be deleted, starting with the oldest, for example, each time a certain number of images have been transmitted. Further, in step S407, the control circuit 102 may also transmit voice to the terminal 200. FIG.

ステップS408において、制御回路102は、画像の送信が失敗したか否かを判定する。画像の送信が失敗したか否かの判定は、第1の実施形態のステップS8と同様でよい。ステップS408において、通信が失敗したと判定されたときには、処理はステップS409に移行する。ステップS408において、通信が失敗していないと判定されたときには、処理はステップS411に移行する。なお、通信失敗時には作業者Wに通信が失敗したことを報知するようにしてもよい。 In step S408, the control circuit 102 determines whether or not image transmission has failed. The determination as to whether or not image transmission has failed may be performed in the same manner as in step S8 of the first embodiment. When it is determined in step S408 that communication has failed, the process proceeds to step S409. When it is determined in step S408 that communication has not failed, the process proceeds to step S411. Incidentally, when the communication fails, the operator W may be notified of the communication failure.

ステップS409において、制御回路102は、通信が失敗してから所定の時間が経過したか否かを判定する。この所定の時間は、端末200における表示が中断しても影響のない程度の時間である。短時間で画像の変化が生じる場合には、この所定時間は短く設定される。例えば、キャプチャ回路104による撮像の対象物の動きが速かったり、撮像されるシーンが短時間で変化したりするときには所定時間は短く設定される。逆に、対象物の動きが遅かったり、撮像されるシーンが殆ど変化しなかったりするときには所定時間は長く設定される。また、対象物の動きではなく、端末300の動きが速かったりする場合にも所定時間は短くされてよい。さらに、所定時間は、作業者W等のユーザによって設定されてもよい。ステップS409において、通信が失敗してから所定の時間が経過していないと判定されたときには、処理はステップS408に戻る。つまり、短時間の障害等で表示に影響がないと考えられるときには、対策処理が行われない。ステップS409において、通信が失敗してから所定の時間が経過したと判定されたときには、処理はステップS410に移行する。 In step S409, the control circuit 102 determines whether or not a predetermined time has passed since the communication failed. This predetermined time is a time during which there is no effect even if the display on the terminal 200 is interrupted. If the image changes in a short time, the predetermined time is set short. For example, the predetermined time is set short when the object to be imaged by the capture circuit 104 moves quickly or when the scene to be imaged changes in a short period of time. Conversely, when the movement of the object is slow or when the scene to be imaged changes little, the predetermined time is set longer. Also, the predetermined time may be shortened when the terminal 300 moves quickly instead of the movement of the object. Furthermore, the predetermined time may be set by a user such as the worker W. When it is determined in step S409 that the predetermined time has not elapsed since the communication failed, the process returns to step S408. In other words, when a short-time failure or the like is considered to have no effect on the display, countermeasure processing is not performed. When it is determined in step S409 that the predetermined time has passed since communication failed, the process proceeds to step S410.

ステップS410において、制御回路102は、通信失敗時の対策処理を行う。対策処理は、第1の実施形態と同様でよいので説明を省略する。対策処理の終了後、処理はステップS411に移行する。 In step S410, the control circuit 102 performs countermeasure processing for communication failure. The countermeasure processing may be the same as that of the first embodiment, so the explanation is omitted. After the countermeasure process ends, the process moves to step S411.

ステップS411において、制御回路102は、端末300からの指示を通信回路114で受信したか否かを判定する。ステップS411において、端末300からの指示を受信したと判定されたときには、処理はステップS412に移行する。ステップS411において、端末300からの指示を受信していないと判定されたときには、処理はステップS413に移行する。 In step S<b>411 , control circuit 102 determines whether communication circuit 114 has received an instruction from terminal 300 . When it is determined in step S411 that an instruction from terminal 300 has been received, the process proceeds to step S412. When it is determined in step S411 that an instruction from terminal 300 has not been received, the process proceeds to step S413.

ステップS412において、制御回路102は、端末200からの指示を再生する。端末200から音声が受信されてきたときには、制御回路102は、受信された音声をスピーカ304から再生する。これにより、作業者Wは、オペレータOからの音声指示を聞くことができる。また、端末200から画像が受信されてきたときには、制御回路102は、受信された画像を表示素子110に再生する。これにより、作業者Wは、表示パネル110aに再生されているオペレータOからの画像による指示を、導光素子308を介して確認できる。なお、音声又は画像による指示があったときには、制御回路102は、必要に応じてスピーカ304から振動を発生させることで指示があったことを作業者Wに認知させてもよい。 In step S<b>412 , control circuit 102 reproduces the instruction from terminal 200 . When voice is received from terminal 200 , control circuit 102 reproduces the received voice from speaker 304 . Thereby, the worker W can hear the voice instruction from the operator O. Also, when an image is received from the terminal 200 , the control circuit 102 reproduces the received image on the display element 110 . Thereby, the operator W can confirm, through the light guide element 308, the instruction by the operator O reproduced on the display panel 110a. In addition, when there is an instruction by voice or image, the control circuit 102 may cause the worker W to recognize the instruction by generating vibration from the speaker 304 as necessary.

ステップS413において、制御回路102は、画像の送信を終了するか否かを判定する。例えば、端末200から画像の送信の終了指示が通信回路114で受信されたときに、画像の送信を終了すると判定される。ステップS413において、画像の送信を終了しないと判定されたときに、処理はステップS405に戻る。この場合、制御回路102は、画像の取得、記憶及び送信を継続する。ステップS413において、画像の送信を終了すると判定されたときに、処理はステップS414に移行する。 In step S413, the control circuit 102 determines whether or not to end image transmission. For example, when the communication circuit 114 receives an image transmission end instruction from the terminal 200, it is determined to end the image transmission. When it is determined in step S413 that image transmission is not to end, the process returns to step S405. In this case, control circuitry 102 continues to acquire, store and transmit images. When it is determined in step S413 that the image transmission is finished, the process proceeds to step S414.

ステップS414において、制御回路102は、端末200から画像の再送信の要求を通信回路114で受信したか否かを判定する。ステップS414において、画像の再送信の要求があったと判定されたときに、処理はステップS415に移行する。ステップS414において、画像の再送信の要求がないと判定されたときに、処理はステップS416に移行する。 In step S<b>414 , the control circuit 102 determines whether or not the communication circuit 114 has received an image retransmission request from the terminal 200 . When it is determined in step S414 that there is a request to resend the image, the process proceeds to step S415. When it is determined in step S414 that there is no request for image retransmission, the process proceeds to step S416.

ステップS415において、制御回路102は、通信回路114を用いて、端末200から要求された未送信の画像を端末200に送信する。画像の送信の完了後、処理はステップS416に移行する。ステップS415では、端末200におけるリアルタイムの画像の表示が行われていないので、撮像装置100からの画像の送信は成功するまで繰り返されてもよい。 In step S<b>415 , the control circuit 102 uses the communication circuit 114 to transmit the unsent image requested by the terminal 200 to the terminal 200 . After the image transmission is completed, the process proceeds to step S416. In step S415, since no real-time image is displayed on the terminal 200, transmission of the image from the imaging device 100 may be repeated until successful.

ステップS416において、制御回路102は、端末300の動作を終了させるか否かを判定する。例えば、作業者Wの操作部112によって端末300の電源のオフが指示されたとき、操作部112の無操作状態が継続されたときには、端末300の動作を終了させると判定される。ステップS416において、端末300の動作を終了させないと判定されたときには、処理はステップS401に戻る。ステップS416において、端末300の動作を終了させると判定されたときには、制御回路102は、端末300の動作を終了させる。 In step S416, the control circuit 102 determines whether or not to end the operation of the terminal 300. FIG. For example, when the operation unit 112 of the worker W instructs to turn off the power of the terminal 300 and the operation unit 112 remains in a non-operating state, it is determined to end the operation of the terminal 300 . When it is determined in step S416 that the operation of terminal 300 is not to end, the process returns to step S401. When it is determined in step S<b>416 that the operation of terminal 300 should be terminated, control circuit 102 terminates the operation of terminal 300 .

図15A及び図15Bは、第2の実施形態における端末200の動作の一例を示すフローチャートである。図15A及び図15Bの処理は、例えば制御回路202によって制御される。 15A and 15B are flowcharts showing an example of the operation of terminal 200 in the second embodiment. The processes of FIGS. 15A and 15B are controlled by the control circuit 202, for example.

ステップS501において、制御回路202は、連携アプリケーションが起動されたか否かを判定する。ステップS501において、連携アプリケーションが起動されていないと判定されたときには、処理はステップS502に移行する。ステップS501において、連携アプリケーションが起動されたと判定されたときには、処理はステップS503に移行する。 In step S501, the control circuit 202 determines whether or not the cooperative application has been activated. When it is determined in step S501 that the cooperative application has not been activated, the process proceeds to step S502. When it is determined in step S501 that the cooperative application has been activated, the process proceeds to step S503.

ステップS502において、制御回路202は、連携アプリケーションが起動されたとき以外のその他の処理を行う。その他の処理は、例えば電子メールの送受信の処理、ブラウザの起動処理といった処理を含む。その他の処理の後、処理はステップS516に移行する。 In step S502, the control circuit 202 performs processing other than when the cooperative application is activated. Other processing includes, for example, e-mail transmission/reception processing and browser start-up processing. After other processing, the processing moves to step S516.

ステップS503において、制御回路202は、通信回路212を用いて、端末300に対して通信要求信号を送信する。ステップS504において、制御回路202は、端末300から応答信号を通信回路212で受信したか否かを判定する。ステップS504において、応答信号を受信していないと判定されたとき、処理はステップS503に戻る。つまり、応答信号が受信されるまで、通信要求信号の送信が繰り返される。通信回路212によって一定回数の通信要求信号の送信をした後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理はステップS516に移行する。ステップS504において、応答信号を受信したと判定されたとき、処理はステップS505に移行する。 In step S<b>503 , the control circuit 202 uses the communication circuit 212 to transmit a communication request signal to the terminal 300 . In step S<b>504 , the control circuit 202 determines whether or not the communication circuit 212 has received a response signal from the terminal 300 . When it is determined in step S504 that no response signal has been received, the process returns to step S503. In other words, transmission of the communication request signal is repeated until the response signal is received. After the communication circuit 212 has transmitted the communication request signal a certain number of times, the control circuit 202 may timeout the process. In this case, the process moves to step S516. When it is determined in step S504 that the response signal has been received, the process proceeds to step S505.

ステップS505において、制御回路202は、画像の受信が失敗したか否かを判定する。画像の受信が失敗したか否かの判定は、第1の実施形態のステップS205と同様でよい。ステップS505において、画像の受信が失敗していないと判定されたとき、処理はステップS509に移行する。ステップS505において、画像の受信が失敗したと判定されたとき、処理はステップS506に移行する。 In step S505, the control circuit 202 determines whether image reception has failed. Determination as to whether image reception has failed may be performed in the same manner as in step S205 of the first embodiment. When it is determined in step S505 that image reception has not failed, the process proceeds to step S509. When it is determined in step S505 that image reception has failed, the process proceeds to step S506.

ステップS506において、制御回路202は、最も新しく受信された画像を画像ファイルとして記録媒体206に記録する。 In step S506, the control circuit 202 records the most recently received image on the recording medium 206 as an image file.

ステップS507において、制御回路202は、通信が回復したか否かを判定する。通信が回復したか否かの判定は、第1の実施形態のステップS207と同様でよい。ステップS507において、通信が回復したと判定されるまで、判定は繰り返される。一定回数の判定の後、制御回路202は、処理をタイムアウトさせてもよい。この場合、処理は、ステップS516に移行する。ステップS507において、通信が回復したと判定されたときには、処理はステップS508に移行する。 In step S507, the control circuit 202 determines whether communication has been restored. The determination as to whether or not communication has been restored may be the same as in step S207 of the first embodiment. The determination is repeated until it is determined in step S507 that communication has been restored. After a certain number of determinations, the control circuit 202 may timeout the process. In this case, the process moves to step S516. When it is determined in step S507 that communication has recovered, the process proceeds to step S508.

ステップS508において、制御回路202は、通信回路212による撮像装置100からの画像の受信を待つ。撮像装置100から画像が受信されたとき、制御回路202は、受信された画像をメモリ204に記憶させる。また、制御回路202は、画像とともに受信された未送信の画像の情報を、自身の未受信の画像の情報としてメモリ204に記憶させる。その後、処理はステップS509に移行する。 In step S<b>508 , the control circuit 202 waits for the communication circuit 212 to receive an image from the imaging device 100 . When an image is received from imaging device 100 , control circuit 202 causes memory 204 to store the received image. Further, the control circuit 202 causes the memory 204 to store the information of the unsent image received together with the image as the information of its own unreceived image. After that, the process moves to step S509.

ステップS509において、制御回路202は、受信した画像を表示素子208に表示させる。ここで、第1の実施形態と同様に第2の実施形態においても、通信の再開直後は、前述したように撮像装置100において加工された画像が撮像装置100から送信される。この場合も、制御回路202は、端末300において加工された画像を表示素子208に表示させる。 In step S509, the control circuit 202 causes the display element 208 to display the received image. Here, in the second embodiment, as in the first embodiment, the image processed by the imaging device 100 as described above is transmitted from the imaging device 100 immediately after resuming communication. Also in this case, the control circuit 202 causes the display element 208 to display the image processed in the terminal 300 .

ステップS510において、制御回路202は、オペレータOから端末300に対する指示が入力されたか否かを判定する。この指示は、音声による指示であってもよいし、画像による指示であってもよい。また、この指示は、特定のボタンの操作による指示であってもよい。ステップS510において、オペレータOから端末300に対する指示が入力されたと判定されたとき、処理はステップS511に移行する。ステップS510において、オペレータOから端末300に対する指示が入力されていないと判定されたとき、処理はステップS512に移行する。 In step S510, the control circuit 202 determines whether or not an instruction to the terminal 300 has been input from the operator O. This instruction may be an audio instruction or an image instruction. Also, this instruction may be an instruction by operating a specific button. When it is determined in step S510 that the operator O has input an instruction to the terminal 300, the process proceeds to step S511. When it is determined in step S510 that the operator O has not input an instruction to the terminal 300, the process proceeds to step S512.

ステップS511において、制御回路202は、通信回路212を用いて、端末300に対して指示を送信する。 In step S<b>511 , the control circuit 202 uses the communication circuit 212 to transmit an instruction to the terminal 300 .

ステップS512において、制御回路202は、画像の表示を終了するか否かを判定する。例えば、ユーザUの操作部210の操作によって連携アプリケーションを終了させる指示がされたときに、画像の表示を終了すると判定される。ステップS512において、画像の表示を終了しないと判定されたときに、処理はステップS505に戻る。ステップS512において、画像の表示を終了すると判定されたときに、処理はステップS513に移行する。 In step S512, the control circuit 202 determines whether or not to end the display of the image. For example, when the user U operates the operation unit 210 to give an instruction to end the cooperative application, it is determined to end the display of the image. When it is determined in step S512 that the image display is not to end, the process returns to step S505. When it is determined in step S512 that the display of the image is finished, the process proceeds to step S513.

ステップS513において、制御回路202は、自身の未受信の画像の情報を記録媒体206に記録する。その後、処理はステップS514に移行する。未受信の画像の情報を記録媒体206に記録しておくことにより、端末200は、例えば連携アプリケーションの終了後であっても、必要に応じて未受信の画像の送信を撮像装置100に対して要求することができる。 In step S<b>513 , the control circuit 202 records information of its own unreceived image on the recording medium 206 . After that, the process moves to step S514. By recording the information of the unreceived image in the recording medium 206, the terminal 200 can transmit the unreceived image to the imaging device 100 as necessary even after the cooperative application is terminated. can be requested.

ステップS514において、制御回路202は、未受信の画像の再送信が指示されたか否かを判定する。例えば、オペレータOの操作部210の操作によって特定の未受信の画像の再送信が指示されたときに、未受信の画像の再送信が指示されたと判定される。ステップS514において、未受信の画像の再送信が指示されたと判定されたときに、処理はステップS515に移行する。ステップS514において、未受信の画像の再送信が指示されていないと判定されたときに、処理はステップS516に移行する。 In step S514, the control circuit 202 determines whether or not an instruction to retransmit an image that has not been received has been issued. For example, when retransmission of a specific unreceived image is instructed by operator O's operation of the operation unit 210, it is determined that retransmission of the unreceived image has been instructed. When it is determined in step S514 that retransmission of the unreceived image has been instructed, the process proceeds to step S515. When it is determined in step S514 that retransmission of the unreceived image has not been instructed, the process proceeds to step S516.

ステップS515において、制御回路202は、通信回路212を用いて、未受信の画像の再送信を撮像装置100に対して要求する。なお、再送信の要求後に受信される画像は、表示されてもよいし、記録されてもよい。 In step S<b>515 , the control circuit 202 uses the communication circuit 212 to request the imaging apparatus 100 to resend the unreceived image. Note that the image received after the request for retransmission may be displayed or recorded.

ステップS516において、制御回路202は、端末200の動作を終了させるか否かを判定する。例えば、ユーザUの操作部210によって端末200の電源のオフが指示されたとき、端末200の動作を終了させると判定される。ステップS516において、端末200の動作を終了させないと判定されたときには、処理はステップS501に戻る。ステップS516において、端末200の動作を終了させると判定されたときには、制御回路202は、端末200の動作を終了させる。 In step S516, the control circuit 202 determines whether or not to end the operation of the terminal 200. FIG. For example, when the operation unit 210 of the user U instructs to turn off the power of the terminal 200, it is determined that the operation of the terminal 200 is finished. When it is determined in step S516 that the operation of terminal 200 is not to be ended, the process returns to step S501. When it is determined in step S516 to end the operation of the terminal 200, the control circuit 202 ends the operation of the terminal 200. FIG.

以上説明したように本実施形態の撮像装置は、通信が失敗している間に取得した画像を加工し、加工した画像を通信の再開後に端末に送信する。このような加工により、端末のユーザは、通信が失敗している間に撮像装置で取得された画像を通信の遅れなく確認することができる。また、本実施形態では、通信が失敗してから外部表示装置における表示に影響を与えない程度の所定の時間が経過するまでは対策処理が行われない。これにより、撮像装置100における処理の負荷を軽減することができる。 As described above, the imaging apparatus of this embodiment processes an image acquired while communication fails, and transmits the processed image to the terminal after communication is resumed. With such processing, the user of the terminal can check the image acquired by the imaging device while the communication is unsuccessful without any communication delay. Further, in the present embodiment, countermeasure processing is not performed until a predetermined period of time has elapsed after the communication has failed to such an extent that the display on the external display device is not affected. As a result, the processing load on the imaging device 100 can be reduced.

以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。本実施形態の技術は、特に遠隔地で取得された画像をリアルタイムで確認することが要求される状況に好適である。このため、本実施形態の技術は、セキュリティ用途等でも利用され得る。 Although the present invention has been described above based on the embodiments, the present invention is not limited to the above-described embodiments, and various modifications and applications are of course possible within the scope of the present invention. The technology of the present embodiment is particularly suitable for situations where real-time confirmation of an image acquired at a remote location is required. Therefore, the technique of this embodiment can also be used for security purposes.

また、前述の各動作フローチャートの説明において、便宜上「まず」、「次に」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。 In addition, in the explanation of each of the operation flowcharts described above, the operations are described using "first", "next", etc. for the sake of convenience, but it does not mean that it is essential to perform the operations in this order. Absent.

また、上述した実施形態による各処理は、コンピュータである制御回路102に実行させることができるプログラムとして記憶させておくこともできる。この他、磁気ディスク、光ディスク、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、制御回路102は、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。 Further, each process according to the above-described embodiment can also be stored as a program that can be executed by the control circuit 102, which is a computer. In addition, it can be distributed by being stored in a storage medium of an external storage device such as a magnetic disk, an optical disk, or a semiconductor memory. The control circuit 102 reads the program stored in the storage medium of the external storage device, and the operation is controlled by the read program, thereby executing the above-described processing.

なお、実施形態において、「部」(セクションやユニット)として記載した部分は、専用の回路や、複数の汎用の回路を組み合わせて構成してもよく、必要に応じて、予めプログラムされたソフトウェアに従って動作を行うマイコン、CPU等のプロセッサ、又はFPGA等のシーケンサを組み合わせて構成されてもよい。また、その制御の一部又は全部を外部の装置が引き受けるような設計も可能で、この場合、有線又は無線の通信回路が介在する。通信は、Bluetooth通信、Wi-Fi通信、電話回線等で行われればよく、USB等で行われてもよい。専用の回路、汎用の回路や制御部を一体としてASICとして構成してもよい。 In the embodiments, parts described as "parts" (sections or units) may be configured by combining a dedicated circuit or a plurality of general-purpose circuits, and if necessary, according to pre-programmed software It may be configured by combining a microcomputer that operates, a processor such as a CPU, or a sequencer such as an FPGA. Also, it is possible to design such that part or all of the control is taken over by an external device, in which case a wired or wireless communication circuit intervenes. Communication may be performed by Bluetooth communication, Wi-Fi communication, telephone line, or the like, and may be performed by USB or the like. A dedicated circuit, a general-purpose circuit, and a control unit may be integrated into an ASIC.

1 通信システム、100 撮像装置、102 制御回路、104 キャプチャ回路、106 メモリ、108 記録媒体、110 表示素子、112 操作部、114 通信回路、200 端末、202 制御回路、204 メモリ、206 記録媒体、208 表示素子、210 操作部、212 通信回路、300 端末。 Reference Signs List 1 communication system 100 imaging device 102 control circuit 104 capture circuit 106 memory 108 recording medium 110 display element 112 operation unit 114 communication circuit 200 terminal 202 control circuit 204 memory 206 recording medium 208 Display element, 210 operation unit, 212 communication circuit, 300 terminal.

Claims (12)

撮像により複数の第1の画像を取得するキャプチャ回路と、
前記第1の画像を連続して外部表示装置に送信する送信回路と、
前記送信回路による1フレーム以上の前記第1の画像の送信が失敗したか否かを判定し、
前記第1の画像の送信が失敗したと判定したときに未送信の前記第1の画像を加工し、
通信の回復後に、前記加工により得られた第2の画像を送信するように前記送信回路を制御する、
ように構成された制御回路と、
を具備し、
未送信の前記第1の画像は2枚以上であり、
前記制御回路は、
前記未送信の前記第1の画像を並べることによって前記第2の画像である組画像を生成する加工をし、
前記通信の回復後に前記組画像を送信する、
撮像装置。
a capture circuit that acquires a plurality of first images by imaging;
a transmission circuit for continuously transmitting the first image to an external display device;
Determining whether transmission of the first image of one frame or more by the transmission circuit has failed;
processing the first image that has not been transmitted when it is determined that transmission of the first image has failed;
after communication is restored, controlling the transmission circuit to transmit the second image obtained by the processing;
a control circuit configured to
and
The number of the unsent first images is two or more,
The control circuit is
processing to generate a group image that is the second image by arranging the untransmitted first images;
transmitting the set of images after the communication is restored;
Imaging device.
前記制御回路は、通信の回復後、かつ、前記キャプチャ回路による前記撮像の終了後に、前記第2の画像を送信するように前記送信回路を制御する、
請求項1に記載の撮像装置。
The control circuit controls the transmission circuit to transmit the second image after communication is restored and after the capture circuit finishes the imaging.
The imaging device according to claim 1 .
記制御回路は、未送信の前記第1の画像のうちの前記外部表示装置から要求された前記第1の画像を再送信するように前記送信回路を制御する、
請求項1に記載の撮像装置。
The control circuit controls the transmission circuit to retransmit the first image requested from the external display device among the untransmitted first images.
The imaging device according to claim 1 .
前記制御回路は、前記第1の画像の送信が失敗している期間が所定期間よりも長いときに前記加工をする、
請求項1に記載の撮像装置。
The control circuit performs the processing when a period during which transmission of the first image fails is longer than a predetermined period.
The imaging device according to claim 1 .
前記キャプチャ回路は、それぞれの前記第1の画像に対応した音声をさらに取得し、
前記制御回路は、前記通信の回復後に、前記第2の画像のそれぞれと対応する前記音声も送信するように前記送信回路を制御する、
請求項1に記載の撮像装置。
the capture circuit further acquires audio corresponding to each of the first images;
the control circuitry controls the transmission circuitry to also transmit the audio corresponding to each of the second images after the communication is restored;
The imaging device according to claim 1 .
前記キャプチャ回路は、それぞれの前記第1の画像に対応した音声をさらに取得し、
前記制御回路は、前記通信の回復後に、前記第2の画像のそれぞれと対応する前記音声を文字化し、前記第2の画像とともに送信するように前記送信回路を制御する、
請求項1に記載の撮像装置。
the capture circuit further acquires audio corresponding to each of the first images;
the control circuit, after the communication is restored, controls the transmission circuit to transcribe the audio corresponding to each of the second images and transmit with the second images;
The imaging device according to claim 1 .
撮像により複数の第1の画像を取得するキャプチャ回路と、a capture circuit that acquires a plurality of first images by imaging;
前記第1の画像を連続して外部表示装置に送信する送信回路と、a transmission circuit for continuously transmitting the first image to an external display device;
前記送信回路による1フレーム以上の前記第1の画像の送信が失敗したか否かを判定し、Determining whether transmission of the first image of one frame or more by the transmission circuit has failed;
前記第1の画像の送信が失敗したと判定したときに未送信の前記第1の画像を加工し、processing the first image that has not been transmitted when it is determined that transmission of the first image has failed;
通信の回復後に、前記加工により得られた第2の画像を送信するように前記送信回路を制御する、after communication is restored, controlling the transmission circuit to transmit the second image obtained by the processing;
ように構成された制御回路と、a control circuit configured to
を具備し、and
前記制御回路は、The control circuit is
前記未送信の前記第1の画像を縮小することによって前記第2の画像である縮小画像を生成する加工をし、processing to generate a reduced image that is the second image by reducing the untransmitted first image;
前記通信の回復後に、前記縮小画像を、連続して前記第1の画像を送信するときの送信速度よりも速い送信速度で送信するように前記送信回路を制御する、After the communication is restored, the transmission circuit is controlled so as to transmit the reduced images at a transmission speed higher than a transmission speed when the first images are continuously transmitted.
撮像装置。Imaging device.
前記制御回路は、通信の回復後、かつ、前記キャプチャ回路による前記撮像の終了後に、前記第2の画像を送信するように前記送信回路を制御する、The control circuit controls the transmission circuit to transmit the second image after communication is restored and the imaging by the capture circuit is finished.
請求項7に記載の撮像装置。The imaging device according to claim 7.
未送信の前記第1の画像は2枚以上であり、The number of the unsent first images is two or more,
前記制御回路は、未送信の前記第1の画像のうちの前記外部表示装置から要求された前記第1の画像を再送信するように前記送信回路を制御する、The control circuitry controls the transmission circuitry to retransmit the first image requested from the external display device among the first images not yet transmitted.
請求項7に記載の撮像装置。The imaging device according to claim 7.
前記制御回路は、前記第1の画像の送信が失敗している期間が所定期間よりも長いときに前記加工をする、The control circuit performs the processing when a period during which transmission of the first image fails is longer than a predetermined period.
請求項7に記載の撮像装置。The imaging device according to claim 7.
前記キャプチャ回路は、それぞれの前記第1の画像に対応した音声をさらに取得し、the capture circuit further acquires audio corresponding to each of the first images;
前記制御回路は、前記通信の回復後に、前記第2の画像のそれぞれと対応する前記音声も送信するように前記送信回路を制御する、the control circuitry controls the transmission circuitry to also transmit the audio corresponding to each of the second images after the communication is restored;
請求項7に記載の撮像装置。The imaging device according to claim 7.
前記キャプチャ回路は、それぞれの前記第1の画像に対応した音声をさらに取得し、the capture circuit further acquires audio corresponding to each of the first images;
前記制御回路は、前記通信の回復後に、前記第2の画像のそれぞれと対応する前記音声を文字化し、前記第2の画像とともに送信するように前記送信回路を制御する、the control circuit, after the communication is restored, controls the transmission circuit to transcribe the audio corresponding to each of the second images and transmit with the second images;
請求項7に記載の撮像装置。The imaging device according to claim 7.
JP2018171986A 2018-09-14 2018-09-14 Imaging device Active JP7214414B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018171986A JP7214414B2 (en) 2018-09-14 2018-09-14 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018171986A JP7214414B2 (en) 2018-09-14 2018-09-14 Imaging device

Publications (2)

Publication Number Publication Date
JP2020043554A JP2020043554A (en) 2020-03-19
JP7214414B2 true JP7214414B2 (en) 2023-01-30

Family

ID=69798886

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018171986A Active JP7214414B2 (en) 2018-09-14 2018-09-14 Imaging device

Country Status (1)

Country Link
JP (1) JP7214414B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004343421A (en) 2003-05-15 2004-12-02 Olympus Corp Camera with communication function
JP2005026866A (en) 2003-06-30 2005-01-27 Sony Corp Network camera
JP2006080919A (en) 2004-09-09 2006-03-23 Sharp Corp Transmission device, data transmission method, program, computer readable recording medium with program recorded thereon
JP2007174247A (en) 2005-12-21 2007-07-05 Sharp Corp Transmitter, receiver, transmission program, receive program, and recoding medium
JP2008205715A (en) 2007-02-19 2008-09-04 Nikon Corp Electronic camera, server
JP2010239389A (en) 2009-03-31 2010-10-21 Kddi R & D Laboratories Inc Video transmission system

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004343421A (en) 2003-05-15 2004-12-02 Olympus Corp Camera with communication function
JP2005026866A (en) 2003-06-30 2005-01-27 Sony Corp Network camera
JP2006080919A (en) 2004-09-09 2006-03-23 Sharp Corp Transmission device, data transmission method, program, computer readable recording medium with program recorded thereon
JP2007174247A (en) 2005-12-21 2007-07-05 Sharp Corp Transmitter, receiver, transmission program, receive program, and recoding medium
JP2008205715A (en) 2007-02-19 2008-09-04 Nikon Corp Electronic camera, server
JP2010239389A (en) 2009-03-31 2010-10-21 Kddi R & D Laboratories Inc Video transmission system

Also Published As

Publication number Publication date
JP2020043554A (en) 2020-03-19

Similar Documents

Publication Publication Date Title
JP6743691B2 (en) Display control device, display control method, and computer program
JP6432130B2 (en) Display system, display device, photographing device, display method, and program
JP2016123137A (en) Image communication apparatus and imaging apparatus
US9924087B2 (en) Information terminal apparatus, information acquisition apparatus, information support method, and recording medium recording information support program
JP2012204987A (en) Imaging apparatus, synchronization control method, reproducing apparatus, and stereoscopic video imaging system
WO2016013309A1 (en) Display control device, image capturing apparatus and display control method
WO2016072238A1 (en) Image processing device, image display device, image processing method, and image display method
JP5838852B2 (en) Imaging system, imaging apparatus, imaging method, and program
JP2006270263A (en) Photographing system
JP2019040005A (en) Reading aloud system and reading aloud method
JP7214414B2 (en) Imaging device
US8760552B2 (en) Shooting apparatus
KR101393147B1 (en) Mobile Terminal and Shooting method thereof
JP6261191B2 (en) Display control apparatus, display control method, and program
JP6655895B2 (en) Imaging device, control method therefor, program and system
JP7494000B2 (en) Worker terminal, work support system
JP6426969B2 (en) Imaging device, control method therefor, system, and program
JP2015162822A (en) Electronic apparatus, imaging apparatus, and communication apparatus
JP2019161483A (en) Portable terminal and image cut-out method
JP6500419B2 (en) Terminal device, communication system and program
JP5657223B2 (en) Imaging apparatus, image reproduction system, and image reproduction method
WO2020006664A1 (en) Control method for camera device, camera device, camera system, and storage medium
JP2017063276A (en) Video display device, video display method and program
JP4515005B2 (en) Electronic camera
JP2008022081A (en) Image processing apparatus, information processor and their control method, computer program and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230118

R151 Written notification of patent or utility model registration

Ref document number: 7214414

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151