JP2005348449A - Imaging, displaying, recording, reproducing, transmitting device and recording medium - Google Patents

Imaging, displaying, recording, reproducing, transmitting device and recording medium Download PDF

Info

Publication number
JP2005348449A
JP2005348449A JP2005254056A JP2005254056A JP2005348449A JP 2005348449 A JP2005348449 A JP 2005348449A JP 2005254056 A JP2005254056 A JP 2005254056A JP 2005254056 A JP2005254056 A JP 2005254056A JP 2005348449 A JP2005348449 A JP 2005348449A
Authority
JP
Japan
Prior art keywords
imaging
video signal
control
unit
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005254056A
Other languages
Japanese (ja)
Other versions
JP4148251B2 (en
JP2005348449A5 (en
Inventor
Toshiyuki Iijima
利幸 飯島
Tadafusa Tomitaka
忠房 富高
Masakazu Koyanagi
正和 小柳
Naoyasu Hosonuma
直泰 細沼
Ken Tamayama
研 玉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005254056A priority Critical patent/JP4148251B2/en
Publication of JP2005348449A publication Critical patent/JP2005348449A/en
Publication of JP2005348449A5 publication Critical patent/JP2005348449A5/ja
Application granted granted Critical
Publication of JP4148251B2 publication Critical patent/JP4148251B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To obtain a panorama image free from strange feeling for variation in weather, time, or the like. <P>SOLUTION: A video signal from an imaging apparatus 10 as an imaging means is supplied to the video capture board 31 of a computer 30. A magnification zoom lens at a lens block section 11 is driven with a drive instruction from a camera controller 41. The imaging apparatus 10 is arranged on a rotary universal head 50 and driven in each direction with a drive instruction from a pan/tilter controller 43. A mode controller 42 controls the imaging apparatus 10 and the rotary universal head 50 in response to an absolute position drive request from the computer 30. The computer 30 is provided with a storage 32, an image processor 33 and a controller 34, and video signal processing and control are carried out by them. A video signal formed by the computer 30 is supplied to a computer monitor 60 as user interface. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、例えばコンピュータネットワークを利用して遠隔地からの監視を行う際に使用して好適な撮像、表示、記録、再生、伝送装置及び記録媒体に関するものである。   The present invention relates to an imaging, display, recording, reproduction, transmission device, and recording medium suitable for use when monitoring from a remote location using a computer network, for example.

事象の観察や監視、案内等の目的で、遠隔地からの画像を例えばコンピュータネットワーク(インターネット)を利用して観視を行うことが考えられている。そのような遠隔地からの観視を行う場合に、水平方向の画角を広げたいわゆるパノラマ画像が観視には好適である。   For the purpose of observing, monitoring, and guiding events, it is considered to view images from a remote location using, for example, a computer network (Internet). When viewing from such a remote place, a so-called panoramic image with a wide angle of view in the horizontal direction is suitable for viewing.

そこでこのようなパノラマ画像を得る方法としては、例えば広角系のレンズを用いる方法が知られているが、一般的に広角系のレンズは高価であり、また通常の広角系のレンズでは垂直方向の画角も広げられるために、パノラマ画像の範囲の走査線数が減少し解像度が低下してしまう恐れがある。   Therefore, as a method for obtaining such a panoramic image, for example, a method using a wide-angle lens is known, but in general, a wide-angle lens is expensive, and a normal wide-angle lens is perpendicular. Since the angle of view is also widened, there is a possibility that the number of scanning lines in the panoramic image range is reduced and the resolution is lowered.

これに対して、パノラマ画像を予め撮像してハードディスク等の記憶装置に保存しておき、新たに撮像された画像をその中に嵌め込み合成してパノラマ画像を形成する方法が実施されている。しかしながらこの方法では、疑似的なパノラマ画像が形成されているに過ぎず、また天候や時間の変化に対して、嵌め込み合成された新たな画像と保存画像との間で違和感を生じる等の問題があった。   On the other hand, a method has been implemented in which a panoramic image is captured in advance and stored in a storage device such as a hard disk, and the newly captured image is inserted and synthesized therein to form a panoramic image. However, with this method, only a pseudo panoramic image is formed, and there is a problem such as a feeling of incongruity between a new image that has been fitted and synthesized and a stored image due to changes in weather and time. there were.

この出願はこのような点に鑑みて成されたものであって、解決しようとする問題点は、従来の装置では、高価な広角系のレンズを用いても解像度が低下してしまう恐れがあり、また保存画像に嵌め込み合成してパノラマ画像を形成する方法では、例えば天候や時間の変化に対して違和感を生じる等の問題があったというものである。   This application has been made in view of the above points, and the problem to be solved is that the resolution of conventional devices may be reduced even if an expensive wide-angle lens is used. In addition, in the method of forming a panoramic image by fitting and synthesizing with a stored image, there is a problem that, for example, a sense of incongruity occurs with respect to changes in weather and time.

このため本発明においては、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を合成して広い画角を有する映像信号を形成するようにしたものであって、これによれば、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができる。   Therefore, in the present invention, the imaging range of the imaging means is changed, and the video signals from such imaging means are synthesized to form a video signal having a wide angle of view. For example, it is possible to obtain a panoramic image with high resolution with a simple configuration and without causing a sense of incongruity with changes in weather, time, and the like.

また、本発明においては、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を正規化して広い画角を有する映像信号を形成するようにしたものであって、これによれば、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができる。   In the present invention, the imaging range of the imaging unit is curved, and the video signal from such an imaging unit is normalized to form a video signal having a wide angle of view. For example, it is possible to obtain a panoramic image with high resolution with a simple configuration and without causing a sense of incongruity with changes in weather, time, and the like.

さらに本発明においては、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができる。   Furthermore, in the present invention, imaging necessary for monitoring is performed by imaging with an imaging unit and panoramic image formation at set time intervals or under specific conditions, and is always good. Can be seen.

請求項1の発明によれば、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を合成して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができるようになった。   According to the first aspect of the present invention, by changing the imaging range of the imaging means and synthesizing the video signals from such imaging means to form a video signal having a wide angle of view, the weather can be achieved with a simple configuration. A panoramic image that does not feel uncomfortable with changes in time and time can be obtained with high resolution.

これによって、従来は従来の装置では、高価な広角系のレンズを用いても解像度が低下してしまう恐れがあり、また保存画像に嵌め込み合成してパノラマ画像を形成する方法では、例えば天候や時間の変化に対して違和感を生じる等の問題があったものを、本発明によればこれらの問題点を解消することができるものである。   As a result, in the conventional apparatus, there is a risk that the resolution may be lowered even if an expensive wide-angle lens is used, and in the method of forming a panoramic image by fitting into a stored image, for example, weather or time According to the present invention, these problems can be solved in the case where there is a problem such as an uncomfortable feeling with respect to the change of the above.

請求項2の発明によれば、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を正規化して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができるものである。   According to the second aspect of the present invention, the imaging range of the imaging unit is curved, and the video signal from such an imaging unit is normalized to form a video signal having a wide angle of view. It is possible to obtain a panoramic image with high resolution that does not give a sense of incongruity to changes in time and time.

請求項3〜8の発明によれば、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができるものである。   According to the third to eighth aspects of the present invention, imaging of an event necessary for monitoring is performed by performing imaging with the imaging unit and formation of a panoramic image at set time intervals or under specific conditions. Therefore, it is always possible to perform a good viewing.

請求項9の発明によれば、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を合成して広い画角を有する映像信号を形成すると共に、この映像信号を表示手段に表示することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で観視することができる。   According to the invention of claim 9, the imaging range of the imaging means is changed, and the video signals from such imaging means are synthesized to form a video signal having a wide angle of view, and this video signal is used as the display means. By displaying it, it is possible to view a panoramic image with a high resolution with a simple configuration and without causing a sense of incongruity with changes in weather, time, and the like.

請求項10の発明によれば、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を正規化して広い画角を有する映像信号を形成すると共に、この映像信号を表示手段に表示することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができる。   According to the invention of claim 10, the imaging range of the imaging means is curved, the video signal from such an imaging means is normalized to form a video signal having a wide angle of view, and this video signal is displayed on the display means. By displaying, it is possible to obtain a panoramic image with high resolution with a simple configuration and without causing a sense of incongruity with respect to changes in weather, time, and the like.

請求項11〜16の発明によれば、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができるものである。   According to the inventions of claims 11 to 16, an image of an event necessary for monitoring is performed by performing imaging with the imaging unit and formation of a panoramic image at a set time or under specific conditions. Therefore, it is always possible to perform a good viewing.

請求項17の発明によれば、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で合成されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録することができるものである。   According to the seventeenth aspect of the present invention, the image pickup range of the image pickup means is changed, and the video signal from such an image pickup means is recorded directly or sequentially, or the panoramic image synthesized by the video signal processing means is recorded. With this configuration, it is possible to record a panoramic image with high resolution that does not cause a sense of incongruity with changes in weather, time, and the like.

請求項18の発明によれば、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で正規化されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録することができるものである。   According to the invention of claim 18, by curving the imaging range of the imaging means and recording the video signal from such an imaging means directly sequentially or by recording the panoramic image normalized by the video signal processing means, With a simple configuration, it is possible to record a panoramic image with high resolution that does not cause a sense of incongruity with changes in weather, time, or the like.

請求項19〜22の発明によれば、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な記録を行うことができるものである。   According to the nineteenth to twenty-second aspects of the present invention, an image of an event necessary for monitoring is performed by performing imaging with the imaging unit and formation of a panoramic image at set time intervals or under specific conditions. As a result, good recording can always be performed.

請求項23の発明によれば、撮像範囲が順次変化された映像信号を再生し、この再生映像信号を合成して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で再生することができるものである。   According to the invention of claim 23, by reproducing a video signal whose imaging range has been sequentially changed and synthesizing the reproduced video signal to form a video signal having a wide angle of view, the weather and A panoramic image that does not cause a sense of incongruity with changes in time or the like can be reproduced with high resolution.

請求項24の発明によれば、撮像手段の撮像範囲の湾曲された映像信号を再生し、この再生映像信号を正規化して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で再生することができるものである。   According to the invention of claim 24, by reproducing the curved video signal of the imaging range of the imaging means and normalizing the reproduced video signal to form a video signal having a wide angle of view, with a simple configuration, A panoramic image that does not give a sense of incongruity to changes in weather, time, etc. can be reproduced with high resolution.

請求項25の発明によれば、遠隔地に設置された撮像手段で撮像された映像信号を合成して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で観視することができるものである。   According to the invention of claim 25, by forming a video signal having a wide angle of view by synthesizing the video signals picked up by the image pickup means installed at a remote place, the weather, time, etc. can be obtained with a simple configuration. A panoramic image that does not cause a sense of incongruity with changes can be viewed with high resolution.

請求項26の発明によれば、遠隔地に設置された撮像手段で撮像された撮像範囲の湾曲された映像信号を正規化して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で観視することができるものである。   According to the invention of claim 26, by normalizing the curved video signal in the imaging range imaged by the imaging means installed at a remote place to form a video signal having a wide angle of view, with a simple configuration. A panoramic image that does not cause a sense of incongruity with changes in weather, time, etc. can be viewed with high resolution.

請求項27〜32の発明によれば、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができるものである。   According to the twenty-seventh to thirty-second aspects of the present invention, the imaging of the event necessary for monitoring is performed by imaging by the imaging means and formation of a panoramic image at set time intervals or under specific conditions. Therefore, it is always possible to perform a good viewing.

請求項33の発明によれば、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で合成されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録した記録媒体を得ることができるものである。   According to the invention of claim 33, it is easy to change the imaging range of the imaging means and directly record the video signals from such imaging means or record the panoramic image synthesized by the video signal processing means. With this configuration, it is possible to obtain a recording medium on which a panoramic image that does not cause a sense of incongruity with changes in weather, time, etc. is recorded with high resolution.

請求項34の発明によれば、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で正規化されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録した記録媒体を得ることができるものである。   According to the invention of claim 34, by curving the imaging range of the imaging means and recording video signals from such imaging means directly sequentially or by recording a panoramic image normalized by the video signal processing means, With a simple configuration, it is possible to obtain a recording medium in which a panoramic image that does not cause a sense of incongruity with changes in weather, time, or the like is recorded with high resolution.

請求項35〜38の発明によれば、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な記録媒体を得ることができるものである。   According to the inventions of claims 35 to 38, an image of an event necessary for monitoring is performed by performing imaging by the imaging means and formation of a panoramic image at a set time or under specific conditions. Thus, a good recording medium can always be obtained.

すなわち本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を変化させる駆動手段と、撮像手段からの映像信号が供給され撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、撮像手段での撮像と駆動手段での駆動と映像信号処理手段での処理とを制御する制御手段とからなるものである。   That is, the present invention provides an image pickup means for generating a video signal, a drive means for changing the image pickup range of the image pickup means, and a video signal supplied with a video signal from the image pickup means and having a wider angle of view than one image pickup range of the image pickup means. And a control means for controlling the imaging by the imaging means, the driving by the driving means, and the processing by the video signal processing means.

あるいは本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を湾曲させて撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、撮像手段からの映像信号が供給され歪曲させて撮像された映像信号を正規化して撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、撮像手段での撮像と映像信号処理手段での処理とを制御する制御手段とからなるものである。   Alternatively, according to the present invention, an imaging unit that generates a video signal, an optical unit that curves the imaging range of the imaging unit to perform imaging with a wider angle of view than the original imaging range of the imaging unit, and the video signal from the imaging unit The video signal processing means for normalizing the supplied and distorted video signal to form a video signal having a wider angle of view than the original imaging range of the imaging means, and the imaging by the imaging means and the video signal processing means And control means for controlling the processing.

また本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を変化させる駆動手段と、撮像手段からの映像信号が供給され撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、撮像手段での撮像と駆動手段での駆動と映像信号処理手段での処理とを制御する制御手段と、映像信号処理手段で形成された映像信号を表示する表示手段とからなるものである。   The present invention also provides an imaging means for generating a video signal, a driving means for changing the imaging range of the imaging means, and a video signal supplied with the video signal from the imaging means and having a wider angle of view than one imaging range of the imaging means. Video signal processing means for forming the image, control means for controlling imaging by the imaging means, driving by the driving means, and processing by the video signal processing means, and a display for displaying the video signal formed by the video signal processing means Means.

あるいは本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を湾曲させて撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、撮像手段からの映像信号が供給され歪曲させて撮像された映像信号を正規化して撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、撮像手段での撮像と映像信号処理手段での処理とを制御する制御手段と、映像信号処理手段で形成された映像信号を表示する表示手段とからなるものである。   Alternatively, according to the present invention, an imaging unit that generates a video signal, an optical unit that curves the imaging range of the imaging unit to perform imaging with a wider angle of view than the original imaging range of the imaging unit, and the video signal from the imaging unit The video signal processing means for normalizing the supplied and distorted video signal to form a video signal having a wider angle of view than the original imaging range of the imaging means, and the imaging by the imaging means and the video signal processing means It comprises control means for controlling the processing and display means for displaying the video signal formed by the video signal processing means.

また本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を変化させる駆動手段と、撮像手段からの映像信号を直接順次記録、若しくは撮像範囲の変化された映像信号から撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録する記録手段と、撮像手段での撮像と駆動手段での駆動と映像信号処理手段での処理と記録手段での記録とを制御する制御手段とからなるものである。   The present invention also provides an image pickup means for generating a video signal, a drive means for changing the image pickup range of the image pickup means, and a video signal from the image pickup means directly and sequentially recorded, or an image pickup means from a video signal whose image pickup range is changed Recording means for recording through a video signal processing means for forming a video signal having a wider angle of view than one imaging range, imaging at the imaging means, driving at the driving means, processing at the video signal processing means, and recording at the recording means And a control means for controlling recording.

あるいは本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を湾曲させて撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、撮像手段からの映像信号を直接順次記録、若しくは歪曲させて撮像された映像信号を正規化して撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録する記録手段と、撮像手段での撮像と映像信号処理手段での処理と記録手段での記録とを制御する制御手段とからなるものである。   Alternatively, the present invention relates to an imaging unit that generates a video signal, an optical unit that curves an imaging range of the imaging unit to perform imaging with a wider angle of view than the original imaging range of the imaging unit, and a video signal from the imaging unit. Recording means for recording through a video signal processing means for normalizing a video signal picked up by direct recording or distortion and forming a video signal having a wider angle of view than the original imaging range of the imaging means; It comprises control means for controlling imaging, processing by the video signal processing means, and recording by the recording means.

また本発明は、撮像範囲の変化された映像信号が順次記録されてなる記録媒体を再生する再生手段と、再生手段によって再生された映像信号が供給され撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、再生手段での再生と映像信号処理手段での処理とを制御する制御手段とからなるものである。   The present invention also provides a reproducing means for reproducing a recording medium in which a video signal with a changed imaging range is sequentially recorded, and a wider angle of view than the one imaging range of the imaging means supplied with the video signal reproduced by the reproducing means. Video signal processing means for forming a video signal having a control signal and control means for controlling reproduction by the reproduction means and processing by the video signal processing means.

あるいは本発明は、撮像範囲の湾曲された映像信号が順次記録されてなる記録媒体を再生する再生手段と、再生手段によって再生された映像信号が供給され歪曲させて撮像された映像信号を正規化して撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、再生手段での再生と映像信号処理手段での処理とを制御する制御手段とからなるものである。   Alternatively, the present invention normalizes a playback unit that plays back a recording medium in which video signals having a curved imaging range are sequentially recorded, and a video signal that is supplied with the video signal played back by the playback unit and is distorted. The video signal processing means for forming a video signal having a wider angle of view than the original imaging range of the imaging means, and the control means for controlling the reproduction by the reproduction means and the processing by the video signal processing means. .

また本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を変化させる駆動手段と、撮像手段からの映像信号を直接順次伝送、若しくは撮像範囲の変化された映像信号から撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて伝送する伝送手段と、撮像手段での撮像と駆動手段での駆動と映像信号処理手段での処理と伝送手段での伝送とを制御する制御手段とからなるものである。   The present invention also provides an image pickup means for generating a video signal, a drive means for changing the image pickup range of the image pickup means, and a video signal from the image pickup means directly or sequentially transmitted from a video signal whose image pickup range has been changed. Transmission means for transmitting through a video signal processing means for forming a video signal having a wider angle of view than one imaging range, imaging by the imaging means, driving by the driving means, processing by the video signal processing means, and transmission means And control means for controlling transmission.

あるいは本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を湾曲させて撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、撮像手段からの映像信号を直接順次伝送、若しくは歪曲させて撮像された映像信号を正規化して撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて伝送する伝送手段と、撮像手段での撮像と映像信号処理手段での処理と伝送手段での伝送とを制御する制御手段とからなるものである。   Alternatively, the present invention relates to an imaging unit that generates a video signal, an optical unit that curves an imaging range of the imaging unit to perform imaging with a wider angle of view than the original imaging range of the imaging unit, and a video signal from the imaging unit. Transmission means for direct transmission or normalization of image signals captured by distortion and transmission through image signal processing means for forming an image signal having a wider angle of view than the original imaging range of the imaging means; It comprises control means for controlling imaging, processing by the video signal processing means, and transmission by the transmission means.

また本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を変化させる駆動手段と、撮像手段での撮像と駆動手段での駆動とを制御する制御手段とを用いて、撮像手段からの映像信号が直接順次記録、若しくは撮像範囲の変化された映像信号から撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録されてなるものである。   The present invention also provides an imaging means using an imaging means for generating a video signal, a driving means for changing an imaging range of the imaging means, and a control means for controlling imaging by the imaging means and driving by the driving means. Video signals are recorded directly or sequentially through video signal processing means for forming a video signal having an angle of view wider than one imaging range of the imaging means from the video signal whose imaging range has been changed.

あるいは本発明は、映像信号を発生する撮像手段と、撮像手段の撮像範囲を湾曲させて撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、撮像手段での撮像を制御する制御手段とを用いて、撮像手段からの映像信号が直接順次記録、若しくは歪曲させて撮像された映像信号を正規化して撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録されてなるものである。   Alternatively, the present invention controls an imaging unit that generates a video signal, an optical unit that curves the imaging range of the imaging unit to perform imaging with a wider angle of view than the original imaging range of the imaging unit, and imaging by the imaging unit The video signal from the imaging means is directly recorded or distorted to normalize the video signal and form a video signal having a wider angle of view than the original imaging range of the imaging means. It is recorded through video signal processing means.

さらに本発明は、設定された時間ごと、または撮像された映像信号に差異が検出されたとき、または撮像手段の設けられた場所の音声が検出または認識されたとき、または撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上述の制御手段による制御が行われてなるものである。   Further, the present invention provides a method for detecting a difference at a set time or when a captured video signal is detected, or detecting or recognizing a sound at a location where an imaging means is provided, or provided with an imaging means. When a change in the physical state of the place is detected or recognized, control by the above-described control means is performed.

以下、図面を参照して本発明を説明するに、図1は本発明を適用した装置の一例の構成を示すブロック図である。   Hereinafter, the present invention will be described with reference to the drawings. FIG. 1 is a block diagram showing a configuration of an example of an apparatus to which the present invention is applied.

この図1において、撮像手段としての撮像装置10は全体としてビデオカメラを示し、被写体(図示せず)から到達する撮像光は、レンズブロック部11のレンズ、絞り等を通して固体撮像素子、例えばCCD12に結像される。そしてこのCCD12で、任意の視野映像が映像信号に変換された後、信号分離(サンプルホールド:SH)/自動利得制御(AGC)装置13に与えられる。   In FIG. 1, an image pickup apparatus 10 as an image pickup means shows a video camera as a whole, and image pickup light reaching from a subject (not shown) passes through a lens, a diaphragm, etc. of a lens block unit 11 to a solid-state image pickup device, for example, a CCD 12. Imaged. An arbitrary visual field image is converted into a video signal by the CCD 12, and is then supplied to a signal separation (sample hold: SH) / automatic gain control (AGC) device 13.

信号分離/自動利得制御装置13では、CCD12からの映像出力信号が、例えば所定の画素クロックに従ってサンプルホールドされると共に、例えばオートアイリス(AE)の制御信号によって所定のゲインを持つように自動利得制御が行われる。かくして得られた映像出力信号は、A/D変換装置14を介して信号処理装置15に供給される。   In the signal separation / automatic gain control device 13, the video output signal from the CCD 12 is sampled and held according to a predetermined pixel clock, for example, and automatic gain control is performed so as to have a predetermined gain by an auto iris (AE) control signal, for example. Done. The video output signal thus obtained is supplied to the signal processing device 15 via the A / D conversion device 14.

信号処理装置15では、入力されてきた信号が、輝度、色差、ビデオ信号といった各信号に変換され、映像信号としてテレビジョンモニタ20や、後述するコンピュータ30のビデオキャプチャーボード31に供給される。これによってこのビデオキャプチャーボード31に供給された映像信号が、順次コンピュータ装置30に取り込まれる。   In the signal processing device 15, the input signal is converted into each signal such as luminance, color difference, and video signal, and supplied as a video signal to the television monitor 20 or a video capture board 31 of a computer 30 described later. As a result, the video signals supplied to the video capture board 31 are sequentially taken into the computer device 30.

また、撮像装置10のレンズブロック部11は、変倍用のレンズを駆動することによって撮像する画角を変化させることが可能なズームレンズである。そして後述するカメラコントローラ41からの駆動命令によって、モータ、例えばズーム用ステッピングモータ16が回転されて、上述の変倍用のレンズが駆動される如く構成されている。   The lens block unit 11 of the imaging device 10 is a zoom lens that can change the angle of view for imaging by driving a zoom lens. A motor, for example, a zooming stepping motor 16 is rotated by a drive command from a camera controller 41, which will be described later, and the above-described zoom lens is driven.

カメラコントローラ41は、撮像装置10のレンズ制御(フォーカス、ズーム)、露出制御(絞り、ゲイン、電子シャッタースピード)、白バランス制御、画質制御等を常時行うと共に、モードコントローラ42とのインターフェースが行われる。そして例えばズームの駆動要求に対しては、変倍用レンズを要求位置に駆動する制御信号がモータ16の駆動回路(図示せず)に出力されると共に、変倍用レンズの位置情報が常時モードコントローラ42に通信される。   The camera controller 41 always performs lens control (focus, zoom), exposure control (aperture, gain, electronic shutter speed), white balance control, image quality control, and the like of the imaging apparatus 10 and also interfaces with the mode controller 42. . For example, in response to a zoom drive request, a control signal for driving the zoom lens to the required position is output to a drive circuit (not shown) of the motor 16, and the zoom lens position information is always in the mode. Communicated to the controller 42.

さらに撮像装置10は、駆動手段として例えばパン(左右)及びチルト(上下)といった2軸の回転方向の自由度を持つ装置、例えば回転雲台50の上に設置される。そして後述するパンチルタコントローラ43からの駆動命令によって、モータ、例えばパン用ステッピングモータ51及びチルト用ステッピングモータ52が回転されて、回転雲台50が各方向に駆動される如く構成されている。   Further, the imaging device 10 is installed on a device having a degree of freedom in two-axis rotational directions, such as pan (left and right) and tilt (up and down), for example, as a driving unit, for example, a rotating pan head 50. In accordance with a drive command from a pantilter controller 43 described later, a motor, for example, a panning stepping motor 51 and a tilting stepping motor 52 are rotated, and the rotary head 50 is driven in each direction.

パンチルタコントローラ43では、モードコントローラ42とのインターフェースが行われる。そして例えばパン、チルトの各方向の駆動要求に対しては、回転雲台50を要求された方向に駆動する制御信号がモータ51、52の駆動回路(図示せず)に出力されると共に、回転雲台50の例えばパン、チルトの各方向の位置情報が常時モードコントローラ42に通信される。   In the pantilter controller 43, an interface with the mode controller 42 is performed. For example, in response to a drive request in each direction of pan and tilt, a control signal for driving the rotary head 50 in the requested direction is output to a drive circuit (not shown) of the motors 51 and 52 and rotated. The position information of the pan head 50 in, for example, pan and tilt directions is always communicated to the mode controller 42.

さらにモードコントローラ42は、撮像装置10及び回転雲台50の内部状態や、装置外部からのインターフェース情報に従ってシステム全体の制御を行う。そしてこのモードコントローラ42は、例えばRS232Cによってコンピュータ装置30に接続され、コンピュータ装置30からの絶対位置駆動要求に対して制御が行われる。   Further, the mode controller 42 controls the entire system in accordance with the internal state of the imaging device 10 and the rotary pan head 50 and interface information from outside the device. The mode controller 42 is connected to the computer apparatus 30 by, for example, RS232C, and controls the absolute position drive request from the computer apparatus 30.

すなわちモードコントローラ42では、コンピュータ装置30からの絶対位置駆動要求に対し、撮像装置10でその位置を撮像するべく、レンズブロック部11のモータ16及び回転雲台50のモータ51、52を駆動する駆動命令が、カメラコントローラ41及びパンチルタコントローラ43に振り分けられる。それと共に、これらのコントローラ41及び43からの位置情報が、モードコントローラ42を通じてコンピュータ装置30に送信される。   That is, the mode controller 42 drives to drive the motor 16 of the lens block unit 11 and the motors 51 and 52 of the rotary head 50 in order to image the position by the imaging device 10 in response to the absolute position drive request from the computer device 30. The command is distributed to the camera controller 41 and the pantilter controller 43. At the same time, position information from these controllers 41 and 43 is transmitted to the computer apparatus 30 through the mode controller 42.

さらにこのコンピュータ装置30には、記憶装置32と画像処理装置33と制御装置34とが設けられ、これらの装置によってこのコンピュータ装置30は、例えばパノラマ画像の形成のための映像信号処理手段、及び制御手段として使用される。また、このコンピュータ装置30で形成された映像信号がコンピュータモニタ60に供給されてユーザーインターフェースとされ、この管面上にグラフィック表示される画像を用いて内部処理の条件等が決定される。   Further, the computer device 30 is provided with a storage device 32, an image processing device 33, and a control device 34. With these devices, the computer device 30 can control, for example, video signal processing means for forming a panoramic image, and control. Used as a means. A video signal formed by the computer device 30 is supplied to the computer monitor 60 to be used as a user interface, and internal processing conditions and the like are determined using an image displayed graphically on the tube surface.

またこのコンピュータ装置30には、例えば撮像装置10から入力される映像信号がビデオキャプチャーボード31を通じて取り込まれる。ビデオキャプチャーボード31では、取り込まれた映像信号を任意のクォリティでモニタ60に表示すると共に、キャプチャー信号により任意の画像フォーマット(例えばビットマップ形式、JPEG形式の静止画、動画等)に任意のクォリティでキャプチャーし、ハードディスク等の記憶装置32に記憶することができる。   In addition, for example, a video signal input from the imaging device 10 is taken into the computer device 30 through the video capture board 31. In the video capture board 31, the captured video signal is displayed on the monitor 60 with an arbitrary quality, and an arbitrary image format (for example, a bitmap format, a JPEG still image, a moving image, etc.) is displayed with an arbitrary quality by the capture signal. It can be captured and stored in a storage device 32 such as a hard disk.

さらにこのコンピュータ装置30で実行される制御アルゴリズムについて図2を用いて説明する。   Further, a control algorithm executed by the computer device 30 will be described with reference to FIG.

図2においてプログラムがスタートされると、まずステップ〔1〕で撮像映像とパノラマ画像の各々の表示領域をモニタ60上に設定する処理が行われる。これによってモニタ60上には、例えば図1中に示すように、撮像映像の表示領域61と、パノラマ画像の表示領域62とが設定される。そしてこの内の表示領域61に例えば撮像装置10から入力される映像信号が表示される。   When the program is started in FIG. 2, first, in step [1], a process of setting the display areas of the captured video and the panoramic image on the monitor 60 is performed. Thereby, on the monitor 60, as shown in FIG. 1, for example, a display area 61 for captured images and a display area 62 for panoramic images are set. Then, for example, a video signal input from the imaging device 10 is displayed in the display area 61.

さらにステップ〔2〕で、例えばモードコントローラ42と周期的に通信を行うためのタイマーが設定される。そしてこれらの初期設定が完了すると、ステップ〔3〕で、各種の発生されるイベントの待機状態に推移される。なお発生されるイベントは、上述のステップ〔2〕で設定されたタイマーイベント(詳細は後述)と、後述のパノラマ画像の作成要求イベントである。   Furthermore, in step [2], for example, a timer for periodically communicating with the mode controller 42 is set. When these initial settings are completed, in step [3], a transition is made to a waiting state for various events to be generated. The generated events are a timer event set in step [2] described above (details will be described later) and a panorama image creation request event described later.

ここでタイマーイベントの詳細について図4を用いて説明する。なおこのタイマーイベントは、例えばモードコントローラ42と周期的に通信を行うために発生されるイベントである。   Details of the timer event will be described with reference to FIG. Note that this timer event is an event that is generated in order to periodically communicate with the mode controller 42, for example.

そこでこのイベントが発生されると、ステップ〔11〕で通信ポートの設定が完了しているか否か判断され、初回のみ通信ポートの設定が完了していないのでステップ〔12〕で通信ポートの開設処理が行われる。なお、上述の装置では、通信ポートとして例えばコンピュータ装置30上のRS232Cポートの開設が行われる。   When this event occurs, it is determined in step [11] whether or not the communication port setting has been completed. Since the communication port setting has not been completed only for the first time, the communication port establishment process is performed in step [12]. Is done. In the above-described device, for example, an RS232C port on the computer device 30 is opened as a communication port.

さらに2回目以降のタイマーイベントでは、ステップ〔13〕で受信データの有無が判断され、受信データが有る時はステップ〔14〕で受信データの解析処理が行われる。すなわちこのステップ〔14〕では、例えばモードコントローラ42との通信によって、レンズブロック部11の変倍用レンズの位置情報、回転雲台50のパン、チルトの各方向の位置情報が取得される。そしてこれらの情報からそれぞれズームの倍率情報、パン、チルトの角度情報が取り出される。   Further, in the second and subsequent timer events, the presence / absence of received data is determined in step [13], and when there is received data, the received data is analyzed in step [14]. That is, in this step [14], for example, the position information of the zoom lens of the lens block unit 11 and the pan and tilt position information of the rotary head 50 are acquired by communication with the mode controller 42, for example. From these pieces of information, zoom magnification information and pan / tilt angle information are extracted.

次にステップ〔15〕では、データの転送要求(Flag so)の有無が確認される。そして転送要求が有る(True)のときは、データはすでに送信バッファに格納されているので、ステップ〔16〕で直ちにこの送信バッファのデータを用いて転送処理が行われると共に、転送要求が無し(Flag so=False)にされる。   Next, in step [15], it is confirmed whether or not there is a data transfer request (Flag so). When there is a transfer request (True), since the data has already been stored in the transmission buffer, the transfer processing is immediately performed using the data in this transmission buffer in Step [16], and there is no transfer request ( Flag so = False).

そしてステップ〔15〕で転送要求が無い(False)のときは、ステップ〔17〕〔18〕〔19〕でそれぞれ内部カウンタ(req cnt)の値が判断される。ここで(req cnt=0)のときは、ステップ〔17〕からステップ〔20〕に進められて、回転雲台50のモータ51、52を駆動するための絶対位置駆動要求の通信データの転送処理が行われる。   If there is no transfer request (False) in step [15], the value of the internal counter (req cnt) is determined in steps [17] [18] [19]. Here, when (req cnt = 0), the process proceeds from step [17] to step [20] to transfer the communication data of the absolute position drive request for driving the motors 51 and 52 of the rotary head 50. Is done.

また(req cnt=1)のときは、ステップ〔18〕からステップ〔21〕に進められて、レンズブロック部11のモータ16を駆動するための絶対位置駆動要求の通信データの転送処理が行われる。また(req cnt=2)のときは、ステップ〔19〕からステップ〔22〕に進められて、後述するパノラマ画像の作成処理が行われる。   When (req cnt = 1), the process proceeds from step [18] to step [21], and communication data transfer processing for absolute position drive request for driving the motor 16 of the lens block unit 11 is performed. . When (req cnt = 2), the process proceeds from step [19] to step [22], and a panoramic image creation process to be described later is performed.

そしてステップ〔20〕〔21〕が実行された後は、ステップ〔23〕で(req cnt)をカウントアップする処理が行われる。またステップ〔22〕が実行された後は、ステップ〔24〕で(req cnt)を0に戻す処理が行われる。これによって、これらのステップ〔20〕〔21〕〔22〕の処理が、各イベントの処理ごとに循環して実行される。   After steps [20] and [21] are executed, a process of counting up (req cnt) is performed in step [23]. After step [22] is executed, a process of returning (req cnt) to 0 is performed in step [24]. As a result, the processes of these steps [20], [21] and [22] are executed in a circulating manner for each event process.

さらに上述のパノラマ画像の作成処理は以下に述べるようにして行われる。すなわちこのパノラマ画像の作成処理は、例えば図3に示すステップ〔30〕において、パノラマ作成要求(Flag pa)が設定されることによって、上述のタイマーイベントのステップ〔22〕においてこの処理が実行される。   Further, the above panoramic image creation process is performed as described below. That is, this panorama image creation process is executed in step [22] of the above-described timer event by setting a panorama creation request (Flag pa) in step [30] shown in FIG. 3, for example. .

ここでパノラマ画像の作成処理の詳細について図5を用いて説明する。なおこの例では、処理の手順が、内部カウンタ(Pano cnt)に従って行われるものである。   Details of the panorama image creation process will be described with reference to FIG. In this example, the processing procedure is performed according to an internal counter (Pano cnt).

そこでまずステップ〔31〕〔32〕で内部カウンタ(Pano cnt)の値が判断される。ここで(Pano cnt=1)のときは、ステップ〔31〕からステップ〔33〕に進められて、撮像装置10の画角を最広角に設定するようにレンズブロック部11のモータ16を駆動する処理が行われると共に、(Pano cnt)をカウントアップする処理が行われる。なお、画角が最広角に設定されることで、より少ない回数の画像取得でパノラマ画像が形成される。   Therefore, first, in steps [31] and [32], the value of the internal counter (Pano cnt) is determined. Here, when (Pano cnt = 1), the process proceeds from step [31] to step [33], and the motor 16 of the lens block unit 11 is driven so as to set the angle of view of the imaging device 10 to the widest angle. Along with the process, a process of counting up (Pano cnt) is performed. In addition, by setting the angle of view to the widest angle, a panoramic image is formed with a smaller number of image acquisitions.

また、(Pano cnt=2)のときは、ステップ〔32〕からステップ〔34〕に進められて、撮像装置10の撮像範囲をパノラマ画像の作成処理で最初に画像取得を行う位置に設定するように、回転雲台50のモータ51、52を駆動する処理が行われると共に、(Pano cnt)をカウントアップする処理が行われる。   When (Pano cnt = 2), the process proceeds from step [32] to step [34], and the imaging range of the imaging device 10 is set to a position where the first image acquisition is performed in the panorama image creation process. In addition, processing for driving the motors 51 and 52 of the rotary head 50 is performed, and processing for counting up (Pano cnt) is performed.

さらに(Pano cnt)が3以上のときは、ステップ〔35〕〔36〕で上述のステップ〔33〕〔34〕で設定されたズーム位置及び撮像範囲に移動されたことが確認される。そしてこれらの設定位置に到達した場合には、ステップ〔37〕で最初の画像取得が行われる。さらにステップ〔38〕で次の画像取得位置に回転雲台50のモータ51、52を駆動する処理が行われる。   Further, when (Pano cnt) is 3 or more, it is confirmed in steps [35] and [36] that the zoom position and the imaging range set in steps [33] and [34] are moved. When these set positions are reached, the first image acquisition is performed in step [37]. Further, in step [38], processing for driving the motors 51 and 52 of the rotary head 50 to the next image acquisition position is performed.

また、ステップ〔39〕で先に取得した画像の水平、垂直方向への圧縮処理等が行われ、ステップ〔40〕でパノラマ画像の作成状況がモニタ60の表示領域62に表示される。さらにステップ〔41〕で(Pano cnt)をカウントアップする処理が行われ、ステップ〔42〕でパノラマ画像が完成されたか否か判断され、完成していないときは以上の動作が繰り返される。   In step [39], the previously acquired image is compressed in the horizontal and vertical directions, and the panorama image creation status is displayed in the display area 62 of the monitor 60 in step [40]. Further, in step [41], a process of counting up (Pano cnt) is performed. In step [42], it is determined whether or not the panoramic image is completed. When the panorama image is not completed, the above operation is repeated.

そしてステップ〔42〕でパノラマ画像が完成されると、ステップ〔43〕でパノラマ作成要求(Flag pa)が無し(Flag pa=False)にされると共に、ステップ〔44〕で完成されたパノラマ画像が保存されて、動作が終了される。   When the panorama image is completed in step [42], the panorama creation request (Flag pa) is not made (Flag pa = False) in step [43], and the panorama image completed in step [44] is Saved and the operation is finished.

このようにして、例えば回転雲台50によって撮像装置10の撮像範囲が順次移動されながら取得された画像が圧縮処理されながら連結されて、パノラマ画像が形成される。なお、ここで回転雲台50は、指令される目標位置に対して常に同じ方向から進入するように動作される。これによって、例えば画像の連結の際に発生し得る駆動系の機構の遊び(ギアのバックラッシュ等)による連結画像のずれを補正することができるものである。   In this manner, for example, images acquired while the imaging range of the imaging device 10 is sequentially moved by the rotating pan head 50 are connected while being compressed, and a panoramic image is formed. Here, the rotary head 50 is operated so as to always enter the commanded target position from the same direction. As a result, for example, it is possible to correct the shift of the linked image due to play of the drive system mechanism (gear backlash, etc.) that may occur when the images are linked.

従ってこの装置において、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を合成して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができる。   Therefore, in this apparatus, by changing the imaging range of the imaging means and synthesizing the video signals from such imaging means to form a video signal having a wide angle of view, the weather, time, etc. A panoramic image that does not give a sense of incongruity to the change can be obtained with high resolution.

これによって、従来は従来の装置では、高価な広角系のレンズを用いても解像度が低下してしまう恐れがあり、また保存画像に嵌め込み合成してパノラマ画像を形成する方法では、例えば天候や時間の変化に対して違和感を生じる等の問題があったものを、本発明によればこれらの問題点を解消することができる。   As a result, in the conventional apparatus, there is a risk that the resolution may be lowered even if an expensive wide-angle lens is used, and in the method of forming a panoramic image by fitting into a stored image, for example, weather or time According to the present invention, these problems can be solved in the case where there is a problem such as a sense of incongruity with respect to the change of.

なお、上述の装置においては、例えば撮像装置10の1台を回転雲台50によって撮像範囲を変化させてパノラマ画像の撮像を行うこととしたが、これは回転雲台50を用いる代わりに複数台の撮像装置を、パノラマ画像を形成する各方向に向けて配置し、これらの撮像装置からの映像信号を順次切り換えて駆動手段としても、同様の映像信号の取得を行うことができるものである。   In the above-described apparatus, for example, one imaging apparatus 10 is used to capture a panoramic image by changing the imaging range by the rotating pan head 50. However, instead of using the rotating pan head 50, a plurality of units are used. The same image signal can be obtained by arranging the image pickup devices in the respective directions for forming the panoramic image and sequentially switching the video signals from these image pickup devices as a driving means.

あるいは上述の装置において、撮像装置10のレンズブロック部11自体、またはその前に、魚眼レンズ等の周囲の画像を湾曲させて広範囲の画像を撮像する手段を設置することが考えられる。この場合には、映像信号処理手段を構成する例えばコンピュータ装置30の画像処理装置33にて、緯度、経度方向の座標の変換を行い、平面に投射されるように画像処理を施してパノラマ画像を形成することができる。   Alternatively, in the above-described apparatus, it is conceivable to install means for capturing a wide range of images by curving a surrounding image such as a fisheye lens or the like in front of the lens block unit 11 itself of the imaging apparatus 10. In this case, for example, the image processing device 33 of the computer device 30 constituting the video signal processing means converts the coordinates in the latitude and longitude directions, performs image processing so as to be projected onto a plane, and generates a panoramic image. Can be formed.

従ってこの装置においては、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を正規化して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができるものである。   Accordingly, in this apparatus, the imaging range of the imaging unit is curved, and the video signal from such an imaging unit is normalized to form a video signal having a wide angle of view, so that the weather, time, etc. can be obtained with a simple configuration. It is possible to obtain a high-resolution panoramic image that does not cause a sense of incongruity with respect to the change.

さらに上述の装置において、上述の図3のステップ〔30〕におけるパノラマ作成要求(Flag pa)の設定は、例えば使用者がモニタ60上に示されるボタンを操作したり、いわゆるリモートコントロールによって行うこともできるが、さらに撮影時刻の指定による設定や、画像認識(処理)、各種のセンサの検知等によって自動的に設定が行われるようにすることもできる。   Further, in the above-described apparatus, the panorama creation request (Flag pa) in step [30] of FIG. 3 described above may be set by, for example, a user operating a button shown on the monitor 60 or by so-called remote control. However, the setting can be automatically performed by setting by specifying the photographing time, image recognition (processing), detection of various sensors, and the like.

すなわち、例えば撮影時刻の指定による設定を行う場合には、例えば図1のコンピュータ装置30に付属されるキーボードやいわゆるマウス等のポインティングデバイス等の入力装置35によってパノラマ撮影を行う時刻を設定することにより、その時刻が記憶装置32に保存される。   That is, for example, when setting is performed by specifying the shooting time, the panorama shooting time is set by the input device 35 such as a keyboard or a pointing device such as a mouse attached to the computer device 30 of FIG. The time is stored in the storage device 32.

そして例えば図2のイベント判定のステップ〔3〕において、コンピュータ装置30に内蔵された時計(図示せず)と保存された設定時刻とを比較し、両者が一致したときにパノラマ画像の作成要求が指令され、撮影が行われる。なお、時刻は複数を設定したり、また一定の時間間隔を指示することによって、自動的に連続撮影を行うことも可能である。   Then, for example, in the event determination step [3] of FIG. 2, a clock (not shown) built in the computer device 30 is compared with the stored set time, and when they match, a panoramic image creation request is issued. Commanded and taken. Note that continuous shooting can be automatically performed by setting a plurality of times or by instructing a certain time interval.

あるいは、撮像装置10から得られる映像情報を現在と過去とで比較して、その差異を検出して自動的にパノラマ画像の作成要求が指令されるようにすることもできる。ここで得られる映像情報とは、画像の輝度、色差、輪郭、カラーバランス等である。   Alternatively, the video information obtained from the imaging device 10 can be compared between the present and the past, and the difference can be detected to automatically issue a panoramic image creation request. The video information obtained here is image brightness, color difference, contour, color balance, and the like.

そこで例えば輝度情報を利用する方法では、撮像装置10から現在映出されている画像の部分の輝度平均が、撮影されて記憶装置32に保存されているパノラマ画像の一部分の輝度平均と比較される。そしてその差が一定以上に開いたときにパノラマ画像の作成要求が指令され、撮影が行われる。そして作成されたパノラマ画像は直ちに、モニタ60等に映出される。   Therefore, for example, in a method using luminance information, the average luminance of the portion of the image currently displayed from the imaging device 10 is compared with the average luminance of a portion of the panoramic image that has been captured and stored in the storage device 32. . When the difference is larger than a certain level, a panoramic image creation request is instructed and photographing is performed. The created panoramic image is immediately displayed on the monitor 60 or the like.

なおこの方法では、風景等の撮影において、時間経過と共に周囲の明るさが変化しているような場合に、自動的にパノラマ画像が撮影更新されるので、常に現在の撮像装置10で撮像されている映像に近いパノラマ画像を提供することが可能となるものである。   In this method, when shooting the scenery or the like, when the ambient brightness changes with time, the panoramic image is automatically captured and updated, so that the current imaging device 10 always captures the image. It is possible to provide a panoramic image that is close to the existing video.

また、例えば図6に示すように、撮像装置10で撮像されている被写体について代表点を指定し、その輝度と色差情報を組み合わせてモデル化して、その位置情報と共に記憶装置32に保存する。そして同一の範囲を撮像装置10により常に撮像し、被写体モデルの位置座標に差異が生じたときにパノラマ画像の作成要求が指令され、撮影を行うことが可能である。   For example, as shown in FIG. 6, a representative point is designated for the subject imaged by the imaging device 10, and the luminance and color difference information are combined and modeled, and stored in the storage device 32 together with the position information. The same range is always imaged by the imaging device 10, and when a difference occurs in the position coordinates of the subject model, a panorama image creation request is instructed and imaging can be performed.

すなわち図6のAにおいて、元の被写体モデルの位置座標(X0、Y0)が、図6のBに示すように位置座標(X1、Y1)になったときに、X0≠X1またはY0≠Y1を判断して、図6のCに示すように被写体が移動したと認識し、パノラマ画像の作成要求を指令して、撮影を開始することができる。この方法によって、上述の装置を動態監視システムとして利用することができる。   That is, in A of FIG. 6, when the position coordinates (X0, Y0) of the original subject model become the position coordinates (X1, Y1) as shown in B of FIG. 6, X0 ≠ X1 or Y0 ≠ Y1 is set. As a result of the determination, it can be recognized that the subject has moved as shown in FIG. 6C, a panoramic image creation request can be commanded, and shooting can be started. By this method, the above-described apparatus can be used as a dynamic monitoring system.

この他、マイクロフォンのような音声情報を得られる手段を備え、音声の検出に伴ってパノラマ画像の作成要求を指令して撮影を開始することも可能である。この場合には、例えば図7に示すように、撮像装置10が回転雲台50等の駆動手段によって移動されて撮像可能な範囲に、例えば指向性マイクロフォンを複数設置する。これらの指向性マイクロフォンで収音された音声情報が図1のコンピュータ装置30に入力される。   In addition, it is also possible to provide a means for obtaining audio information such as a microphone, and start imaging by instructing a panoramic image creation request in accordance with detection of audio. In this case, for example, as shown in FIG. 7, for example, a plurality of directional microphones are installed in a range in which the imaging apparatus 10 is moved by a driving unit such as the rotary head 50 and can be imaged. Audio information collected by these directional microphones is input to the computer apparatus 30 shown in FIG.

そしてこのコンピュータ装置30では、マイクロフォンで収音された音声情報の中に特定の音声情報を検出すると、パノラマ画像の作成要求を指令すると共に、その音声情報を検出したマイクロフォンの指向性がどの方向であるか記憶し、必要ならばその方向から撮影を行ってパノラマ画像を更新することができる。   In the computer device 30, when specific audio information is detected in the audio information collected by the microphone, a panoramic image creation request is issued, and the directionality of the microphone from which the audio information is detected is determined in which direction. It is possible to store the panorama image by taking a picture from that direction if necessary.

このようにして、特定の音声情報の検出によって被写体の変化を認識し、パノラマ画像の作成要求を指令して、撮影を開始することができる。またこの方法では、同様に光センサや焦電センサ等の各種センサを用いて、それぞれ必要に応じた検出と、パノラマ画像の更新を行うことができるものである。   In this way, it is possible to recognize a change in the subject by detecting specific audio information, instruct a panoramic image creation request, and start shooting. In this method, similarly, various sensors such as an optical sensor and a pyroelectric sensor can be used to perform detection and update of a panoramic image as necessary.

さらに上述の説明では、例えば撮像装置10の視野全域に亙ってパノラマ画像の撮像、更新が行われることとしたが、例えば図8に示すように、モニタ60上に映出されるパノラマ画像上で、キーボードやポインティングデバイス(マウス)等の入力装置35を利用して、撮像及び更新したい領域を指定できるようにすることも可能である。   Furthermore, in the above description, for example, panorama images are captured and updated over the entire field of view of the imaging device 10. However, as shown in FIG. 8, for example, on the panorama image displayed on the monitor 60. It is also possible to specify an area to be imaged and updated using an input device 35 such as a keyboard or a pointing device (mouse).

また、撮像された画像や、各種センサからの情報によって、撮像可能範囲内の一部分で変化が検出された場合には、必要に応じてその部分をパノラマ画像上に表示すると共に、その部分を含む領域のみを撮像及び更新できるようにすることも可能である。   In addition, when a change is detected in a part of the imageable range by a captured image or information from various sensors, the part is displayed on the panoramic image as necessary, and the part is included. It is also possible to image and update only the area.

さらにこのような特定の領域のみを撮像及び更新領域とする方法では、特に、上述した被写体のモデル化による動態検出や、各種の指向性センサの検出による自動撮影といった監視目的の用途として有効である。   Furthermore, such a method that uses only a specific area as an imaging and update area is particularly effective as a monitoring purpose application such as the above-described dynamic detection by modeling of a subject or automatic imaging by detection of various directional sensors. .

従って上述の装置においては、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができるものである。   Therefore, in the above-described apparatus, an image of an event necessary for monitoring is performed by performing imaging with an imaging unit and formation of a panoramic image at a set time or under a specific condition. It is possible to perform a good viewing.

さらに上述の図1の装置において、表示手段としてのコンピュータモニタ60を設けたことによって、この装置は表示装置として実施することができる。   Further, in the apparatus of FIG. 1 described above, by providing a computer monitor 60 as a display means, this apparatus can be implemented as a display apparatus.

従ってこの装置において、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を合成して広い画角を有する映像信号を形成すると共に、この映像信号を表示手段に表示することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で観視することができる。   Therefore, in this apparatus, by changing the imaging range of the imaging means, combining the video signals from such imaging means to form a video signal having a wide angle of view, and displaying this video signal on the display means With a simple configuration, it is possible to view a panoramic image with high resolution that does not cause a sense of incongruity with changes in weather, time, or the like.

あるいはこの装置において、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を正規化して広い画角を有する映像信号を形成すると共に、この映像信号を表示手段に表示することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で得ることができる。   Alternatively, in this apparatus, by curving the imaging range of the imaging means, normalizing the video signal from such imaging means to form a video signal having a wide angle of view, and displaying this video signal on the display means With a simple configuration, it is possible to obtain a panoramic image with high resolution that does not cause a sense of incongruity with changes in weather, time, or the like.

そしてこれらの装置において、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができるものである。   In these devices, the imaging means picks up an image of an event necessary for monitoring by performing imaging with an imaging means and formation of a panoramic image at a set time or under specific conditions, and is always good. It is possible to perform a proper viewing.

さらに上述の図1の装置において、記録手段としての記憶装置32を設けたことによって、この装置は記録装置として実施することができる。なおこの場合に記憶装置32では、撮像装置10からの映像信号が直接順次記録されるか、映像信号処理装置33で形成されたパノラマ画像が記録されるものである。   Further, in the apparatus of FIG. 1 described above, by providing the storage device 32 as a recording means, this apparatus can be implemented as a recording apparatus. In this case, in the storage device 32, the video signal from the imaging device 10 is recorded directly or sequentially, or the panoramic image formed by the video signal processing device 33 is recorded.

従ってこの装置において、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で合成されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録することができる。   Therefore, in this apparatus, by changing the imaging range of the imaging means, recording video signals from such imaging means directly sequentially, or recording a panoramic image synthesized by the video signal processing means, with a simple configuration, A panoramic image that does not give a sense of incongruity to changes in weather or time can be recorded with high resolution.

あるいはこの装置において、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で正規化されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録することができる。   Alternatively, in this apparatus, the imaging range of the imaging unit is curved, and a video signal from such an imaging unit is recorded directly or sequentially, or a panoramic image normalized by the video signal processing unit is recorded with a simple configuration. Further, it is possible to record a panoramic image with high resolution without causing a sense of incongruity with changes in weather, time, and the like.

そしてこれらの装置において、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な記録を行うことができるものである。   In these devices, the imaging means captures an event necessary for monitoring by performing imaging with the imaging means and formation of a panoramic image at a set time or under specific conditions, and is always good. Recording can be performed.

さらに上述の図1の装置において、再生手段としての記憶装置32を設けたことによって、この装置は再生装置として実施することができる。なおこの場合に記憶装置32では、撮像装置10からの映像信号が直接順次記録されて再生されるか、映像信号処理装置33で形成されたパノラマ画像が記録されて再生されるものである。   Further, in the apparatus of FIG. 1 described above, by providing the storage device 32 as reproducing means, this apparatus can be implemented as a reproducing apparatus. In this case, in the storage device 32, the video signal from the imaging device 10 is directly recorded and reproduced sequentially, or the panoramic image formed by the video signal processing device 33 is recorded and reproduced.

従ってこの装置において、撮像範囲が順次変化された映像信号を再生し、この再生映像信号を合成して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で再生することができる。   Therefore, in this device, the video signal with the imaging range sequentially changed is reproduced, and the reproduced video signal is synthesized to form a video signal having a wide angle of view, thereby changing the weather, time, etc. with a simple configuration. Therefore, a panoramic image that does not cause a sense of incongruity can be reproduced with high resolution.

あるいはこの装置において、撮像手段の撮像範囲の湾曲された映像信号を再生し、この再生映像信号を正規化して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で再生することができる。   Alternatively, in this apparatus, by reproducing a curved video signal of the imaging range of the imaging means and normalizing the reproduced video signal to form a video signal having a wide angle of view, the weather, time, etc. can be obtained with a simple configuration. It is possible to reproduce a panoramic image that does not cause a sense of incongruity with the change in the high resolution.

さらに上述の図1の装置において、コンピュータ装置30からコンピュータモニタ60に送られる信号をモデム(図示せず)を介して、例えばインターネットのようなコンピュータネットワークに送出することによって、この装置は伝送装置として実施することができる。   Further, in the apparatus of FIG. 1 described above, a signal transmitted from the computer apparatus 30 to the computer monitor 60 is transmitted to a computer network such as the Internet via a modem (not shown), so that the apparatus becomes a transmission apparatus. Can be implemented.

すなわちこのようなコンピュータネットワークにおいて、遠隔地に設置された撮像装置10〜コンピュータ装置30〜回転雲台50の構成に対して、任意のコンピュータ装置と表示装置とモデムを有する使用者側の装置からネットワークを通じてアクセスを行う。これによって、その時の撮像画像と、例えばコンピュータ装置30の記憶装置32に保存されているパノラマ画像を、例えば図1のモニタ60と同様の画面構成で使用者側の表示装置に得ることができる。   That is, in such a computer network, with respect to the configuration of the imaging device 10 to the computer device 30 to the rotary head 50 installed in a remote place, a network from an arbitrary computer device, a display device, and a user side device having a modem. Access through. As a result, a captured image at that time and a panoramic image stored in the storage device 32 of the computer device 30, for example, can be obtained on the display device on the user side with the same screen configuration as that of the monitor 60 of FIG.

従ってこの装置において、遠隔地に設置された撮像手段で撮像された映像信号を合成して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で観視することができる。   Therefore, in this apparatus, by synthesizing the video signals picked up by the image pickup means installed at a remote place to form a video signal having a wide angle of view, it is possible to cope with changes in weather, time, etc. with a simple configuration. A panoramic image that does not cause a sense of incongruity can be viewed with high resolution.

あるいはこの装置において、遠隔地に設置された撮像手段で撮像された撮像範囲の湾曲された映像信号を正規化して広い画角を有する映像信号を形成することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で観視することができる。   Alternatively, in this apparatus, by normalizing the curved video signal of the imaging range imaged by the imaging means installed at a remote place to form a video signal having a wide angle of view, the weather and time can be obtained with a simple configuration. It is possible to view a panoramic image that does not cause a sense of incongruity with respect to such changes at a high resolution.

そしてこれらの装置において、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な観視を行うことができるものである。   In these devices, the imaging means captures an event necessary for monitoring by performing imaging with the imaging means and formation of a panoramic image at a set time or under specific conditions, and is always good. It is possible to perform a proper viewing.

さらに上述の図1の装置において、記憶装置32の記録媒体を着脱自在のものとし、この記録媒体を取り出すことによって、この装置は記録媒体として実施することができる。   Further, in the apparatus of FIG. 1 described above, the recording medium of the storage device 32 is removable, and this apparatus can be implemented as a recording medium by taking out the recording medium.

従ってこの装置において、撮像手段の撮像範囲を変化させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で合成されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録した記録媒体を得ることができる。   Therefore, in this apparatus, by changing the imaging range of the imaging means, recording video signals from such imaging means directly sequentially, or recording a panoramic image synthesized by the video signal processing means, with a simple configuration, It is possible to obtain a recording medium in which a panoramic image that does not cause a sense of incongruity with changes in weather, time, or the like is recorded with high resolution.

あるいはこの装置において、撮像手段の撮像範囲を湾曲させ、このような撮像手段からの映像信号を直接順次記録、または映像信号処理手段で正規化されたパノラマ画像を記録することによって、簡単な構成で、天候や時間等の変化に対して違和感を生じることのないパノラマ画像を、高解像度で記録した記録媒体を得ることができる。   Alternatively, in this apparatus, the imaging range of the imaging unit is curved, and a video signal from such an imaging unit is recorded directly or sequentially, or a panoramic image normalized by the video signal processing unit is recorded with a simple configuration. In addition, it is possible to obtain a recording medium on which a panoramic image that does not cause a sense of incongruity with changes in weather, time, etc. is recorded with high resolution.

そしてこれらの装置において、設定された時間ごと、あるいは特定の条件の元で、撮像手段での撮像とパノラマ画像の形成が行われることによって、監視に必要な事象の撮像が行われて、常に良好な記録媒体を得ることができるものである。   In these devices, the imaging means picks up an image of an event necessary for monitoring by performing imaging with an imaging means and formation of a panoramic image at a set time or under specific conditions, and is always good. Can be obtained.

本発明の適用される撮像、表示装置の一例のシステム全体の構成図である。It is a block diagram of the whole system of an example of the imaging and display apparatus with which this invention is applied. その動作の説明のためのフローチャート図である。It is a flowchart figure for description of the operation. その動作の説明のためのフローチャート図である。It is a flowchart figure for description of the operation. その動作の説明のためのフローチャート図である。It is a flowchart figure for description of the operation. その動作の説明のためのフローチャート図である。It is a flowchart figure for description of the operation. その説明のための図である。It is a figure for the description. その説明のための図である。It is a figure for the description. その説明のための図である。It is a figure for the description.

符号の説明Explanation of symbols

10…撮像装置、11…レンズブロック部、12…CCD、13…信号分離/自動利得制御装置、14…A/D変換装置、15…信号処理装置、16…ズーム用ステッピングモータ、20…テレビジョンモニタ、30…コンピュータ、31…ビデオキャプチャーボード、32…記憶装置、33…画像処理装置、34…制御装置、35…入力装置、41…カメラコントローラ、42…モードコントローラ、43…パンチルタコントローラ、50…回転雲台、51…パン用ステッピングモータ、52…チルト用ステッピングモータ、60…コンピュータモニタ、61…撮像映像の表示領域、62…パノラマ画像の表示領域   DESCRIPTION OF SYMBOLS 10 ... Imaging device, 11 ... Lens block part, 12 ... CCD, 13 ... Signal separation / automatic gain control device, 14 ... A / D conversion device, 15 ... Signal processing device, 16 ... Stepping motor for zoom, 20 ... Television Monitor 30. Computer 31 Capture video board 32 Storage device 33 Image processing device 34 Control device 35 Input device 41 Camera controller 42 Mode controller 43 Pantilter controller 50 Rotating head, 51 ... Stepping motor for panning, 52 ... Stepping motor for tilting, 60 ... Computer monitor, 61 ... Display area for captured image, 62 ... Display area for panoramic image

Claims (38)

映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を変化させる駆動手段と、
上記撮像手段からの映像信号が供給され上記撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、
上記撮像手段での撮像と上記駆動手段での駆動と上記映像信号処理手段での処理とを制御する制御手段とからなる
ことを特徴とする撮像装置。
Imaging means for generating a video signal;
Driving means for changing the imaging range of the imaging means;
Video signal processing means for supplying a video signal from the imaging means and forming a video signal having a wider angle of view than one imaging range of the imaging means;
An imaging apparatus comprising: control means for controlling imaging by the imaging means, driving by the driving means, and processing by the video signal processing means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を湾曲させて上記撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、
上記撮像手段からの映像信号が供給され上記歪曲させて撮像された映像信号を正規化して上記撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、
上記撮像手段での撮像と上記映像信号処理手段での処理とを制御する制御手段とからなる
ことを特徴とする撮像装置。
Imaging means for generating a video signal;
An optical unit configured to bend the imaging range of the imaging unit and perform imaging with a wider angle of view than the original imaging range of the imaging unit;
A video signal processing unit configured to normalize the video signal supplied with the video signal from the imaging unit and distorted to form a video signal having a wider angle of view than an original imaging range of the imaging unit;
An imaging apparatus comprising: control means for controlling imaging by the imaging means and processing by the video signal processing means.
時間設定手段を設け、
上記時間設定手段に設定された時間によって上記制御手段による制御が行われることを特徴とする請求項1または2に記載の撮像装置。
Provide time setting means,
The imaging apparatus according to claim 1, wherein the control unit performs control according to a time set in the time setting unit.
上記撮像手段からの映像信号を記憶する記憶手段と、
上記撮像手段からの映像信号と上記記憶手段に記憶された映像信号との差異を検出する比較手段とを設け、
上記比較手段で差異が検出されたときに上記制御手段による制御が行われることを特徴とする請求項1または2に記載の撮像装置。
Storage means for storing a video signal from the imaging means;
A comparison unit for detecting a difference between the video signal from the imaging unit and the video signal stored in the storage unit;
The imaging apparatus according to claim 1, wherein the control unit performs control when a difference is detected by the comparison unit.
上記撮像手段の設けられた場所の音声を検出または認識する手段を設け、
上記音声が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項1または2に記載の撮像装置。
Means for detecting or recognizing the sound of the place where the imaging means is provided;
The imaging apparatus according to claim 1, wherein the control unit performs control when the sound is detected or recognized.
上記撮像手段の設けられた場所の物理的状態の変化を検出または認識する手段を設け、
上記物理的状態の変化が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項1または2に記載の撮像装置。
A means for detecting or recognizing a change in a physical state of the place where the imaging means is provided;
The imaging apparatus according to claim 1, wherein control by the control unit is performed when a change in the physical state is detected or recognized.
上記映像信号処理手段で形成された映像信号中の任意の範囲を指定する手段を設け、
設定された時間ごと、または上記撮像された映像信号に差異が検出されたとき、または上記撮像手段の設けられた場所の音声が検出または認識されたとき、または上記撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上記任意の範囲に対する上記制御手段による制御が行われることを特徴とする請求項1または2に記載の撮像装置。
Means for designating an arbitrary range in the video signal formed by the video signal processing means;
Every time set or when a difference is detected in the imaged video signal, or when a sound at a location where the imaging means is provided is detected or recognized, or at a location where the imaging means is provided The imaging apparatus according to claim 1, wherein when the change in the physical state is detected or recognized, the control unit controls the arbitrary range.
上記撮像された映像信号に差異が検出されたとき、または上記撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上記差異または変化の検出または認識された範囲に対する上記制御手段による制御が行われると共に、
上記差異または変化の検出または認識された範囲を上記映像信号処理手段で形成される映像信号中に表示する手段を設けたことを特徴とする請求項1または2に記載の撮像装置。
When a difference is detected in the imaged video signal, or when a change in the physical state of the place where the imaging means is provided is detected or recognized, the difference or change is detected or recognized. While the control by the control means is performed,
3. The imaging apparatus according to claim 1, further comprising means for displaying a range in which the difference or change is detected or recognized in a video signal formed by the video signal processing means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を変化させる駆動手段と、
上記撮像手段からの映像信号が供給され上記撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、
上記撮像手段での撮像と上記駆動手段での駆動と上記映像信号処理手段での処理とを制御する制御手段と、
上記映像信号処理手段で形成された映像信号を表示する表示手段とからなる
ことを特徴とする表示装置。
Imaging means for generating a video signal;
Driving means for changing the imaging range of the imaging means;
Video signal processing means for supplying a video signal from the imaging means and forming a video signal having a wider angle of view than one imaging range of the imaging means;
Control means for controlling imaging by the imaging means, driving by the driving means, and processing by the video signal processing means;
A display device comprising: display means for displaying the video signal formed by the video signal processing means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を湾曲させて上記撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、
上記撮像手段からの映像信号が供給され上記歪曲させて撮像された映像信号を正規化して上記撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、
上記撮像手段での撮像と上記映像信号処理手段での処理とを制御する制御手段と、
上記映像信号処理手段で形成された映像信号を表示する表示手段とからなる
ことを特徴とする表示装置。
Imaging means for generating a video signal;
An optical unit configured to bend the imaging range of the imaging unit and perform imaging with a wider angle of view than the original imaging range of the imaging unit;
A video signal processing unit configured to normalize the video signal supplied with the video signal from the imaging unit and distorted to form a video signal having a wider angle of view than an original imaging range of the imaging unit;
Control means for controlling imaging by the imaging means and processing by the video signal processing means;
A display device comprising: display means for displaying the video signal formed by the video signal processing means.
時間設定手段を設け、
上記時間設定手段に設定された時間によって上記制御手段による制御が行われることを特徴とする請求項9または10に記載の表示装置。
Provide time setting means,
11. The display device according to claim 9, wherein control by the control unit is performed according to a time set in the time setting unit.
上記撮像手段からの映像信号を記憶する記憶手段と、
上記撮像手段からの映像信号と上記記憶手段に記憶された映像信号との差異を検出する比較手段とを設け、
上記比較手段で差異が検出されたときに上記制御手段による制御が行われることを特徴とする請求項9または10に記載の表示装置。
Storage means for storing a video signal from the imaging means;
A comparison unit for detecting a difference between the video signal from the imaging unit and the video signal stored in the storage unit;
11. The display device according to claim 9, wherein control by the control unit is performed when a difference is detected by the comparison unit.
上記撮像手段の設けられた場所の音声を検出または認識する手段を設け、
上記音声が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項9または10に記載の表示装置。
Means for detecting or recognizing the sound of the place where the imaging means is provided;
11. The display device according to claim 9, wherein control by the control means is performed when the voice is detected or recognized.
上記撮像手段の設けられた場所の物理的状態の変化を検出または認識する手段を設け、
上記物理的状態の変化が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項9または10に記載の表示装置。
A means for detecting or recognizing a change in a physical state of the place where the imaging means is provided;
11. The display device according to claim 9, wherein control by the control means is performed when a change in the physical state is detected or recognized.
上記映像信号処理手段で形成された映像信号中の任意の範囲を指定する手段を設け、
設定された時間ごと、または上記撮像された映像信号に差異が検出されたとき、または上記撮像手段の設けられた場所の音声が検出または認識されたとき、または上記撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上記任意の範囲に対する上記制御手段による制御が行われることを特徴とする請求項9または10に記載の表示装置。
Means for designating an arbitrary range in the video signal formed by the video signal processing means;
Every time set or when a difference is detected in the imaged video signal, or when a sound at a location where the imaging means is provided is detected or recognized, or at a location where the imaging means is provided The display device according to claim 9 or 10, wherein when the change in the physical state is detected or recognized, the control by the control unit is performed on the arbitrary range.
上記撮像された映像信号に差異が検出されたとき、または上記撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上記差異または変化の検出または認識された範囲に対する上記制御手段による制御が行われると共に、
上記差異または変化の検出または認識された範囲を上記映像信号処理手段で形成される映像信号中に表示する手段を設けたことを特徴とする請求項9または10に記載の表示装置。
When a difference is detected in the imaged video signal, or when a change in the physical state of the place where the imaging means is provided is detected or recognized, the difference or change is detected or recognized. While the control by the control means is performed,
11. The display device according to claim 9, further comprising means for displaying a range in which the difference or change is detected or recognized in a video signal formed by the video signal processing means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を変化させる駆動手段と、
上記撮像手段からの映像信号を直接順次記録、若しくは上記撮像範囲の変化された映像信号から上記撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録する記録手段と、
上記撮像手段での撮像と上記駆動手段での駆動と上記映像信号処理手段での処理と上記記録手段での記録とを制御する制御手段とからなる
ことを特徴とする記録装置。
Imaging means for generating a video signal;
Driving means for changing the imaging range of the imaging means;
Recording the video signal from the imaging unit directly or sequentially through the video signal processing unit that forms a video signal having a wider angle of view than the one imaging range of the imaging unit from the video signal whose imaging range has been changed. Means,
A recording apparatus comprising: control means for controlling imaging by the imaging means, driving by the driving means, processing by the video signal processing means, and recording by the recording means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を湾曲させて上記撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、
上記撮像手段からの映像信号を直接順次記録、若しくは上記歪曲させて撮像された映像信号を正規化して上記撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録する記録手段と、
上記撮像手段での撮像と上記映像信号処理手段での処理と上記記録手段での記録とを制御する制御手段とからなる
ことを特徴とする記録装置。
Imaging means for generating a video signal;
An optical unit configured to bend the imaging range of the imaging unit and perform imaging with a wider angle of view than the original imaging range of the imaging unit;
Through video signal processing means for recording video signals from the image pickup means directly sequentially or normalizing the video signals picked up by the distortion and forming a video signal having a wider angle of view than the original image pickup range of the image pickup means. Recording means for recording;
A recording apparatus comprising: control means for controlling imaging by the imaging means, processing by the video signal processing means, and recording by the recording means.
時間設定手段を設け、
上記時間設定手段に設定された時間によって上記制御手段による制御が行われることを特徴とする請求項17または18に記載の記録装置。
Provide time setting means,
19. The recording apparatus according to claim 17, wherein control by the control unit is performed according to a time set in the time setting unit.
上記撮像手段からの映像信号を記憶する記憶手段と、
上記撮像手段からの映像信号と上記記憶手段に記憶された映像信号との差異を検出する比較手段とを設け、
上記比較手段で差異が検出されたときに上記制御手段による制御が行われることを特徴とする請求項17または18に記載の記録装置。
Storage means for storing a video signal from the imaging means;
A comparison unit for detecting a difference between the video signal from the imaging unit and the video signal stored in the storage unit;
19. The recording apparatus according to claim 17, wherein control by the control unit is performed when a difference is detected by the comparison unit.
上記撮像手段の設けられた場所の音声を検出または認識する手段を設け、
上記音声が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項17または18に記載の記録装置。
Means for detecting or recognizing the sound of the place where the imaging means is provided;
The recording apparatus according to claim 17 or 18, wherein control by the control means is performed when the sound is detected or recognized.
上記撮像手段の設けられた場所の物理的状態の変化を検出または認識する手段を設け、
上記物理的状態の変化が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項17または18に記載の記録装置。
A means for detecting or recognizing a change in a physical state of the place where the imaging means is provided;
19. The recording apparatus according to claim 17, wherein control by the control unit is performed when a change in the physical state is detected or recognized.
撮像範囲の変化された映像信号が順次記録されてなる記録媒体を再生する再生手段と、
上記再生手段によって再生された映像信号が供給され上記撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、
上記再生手段での再生と上記映像信号処理手段での処理とを制御する制御手段とからなる
ことを特徴とする再生装置。
Playback means for playing back a recording medium in which video signals having a changed imaging range are sequentially recorded;
Video signal processing means for supplying a video signal reproduced by the reproducing means and forming a video signal having a wider angle of view than one imaging range of the imaging means;
A playback device comprising: control means for controlling playback by the playback means and processing by the video signal processing means.
撮像範囲の湾曲された映像信号が順次記録されてなる記録媒体を再生する再生手段と、
上記再生手段によって再生された映像信号が供給され上記歪曲させて撮像された映像信号を正規化して上記撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段と、
上記再生手段での再生と上記映像信号処理手段での処理とを制御する制御手段とからなる
ことを特徴とする再生装置。
Playback means for playing back a recording medium in which video signals having a curved imaging range are sequentially recorded;
Video signal processing means for normalizing the video signal that is supplied with the video signal reproduced by the reproducing means and distorted to form a video signal having a wider angle of view than the original imaging range of the imaging means;
A playback device comprising: control means for controlling playback by the playback means and processing by the video signal processing means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を変化させる駆動手段と、
上記撮像手段からの映像信号を直接順次伝送、若しくは上記撮像範囲の変化された映像信号から上記撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて伝送する伝送手段と、
上記撮像手段での撮像と上記駆動手段での駆動と上記映像信号処理手段での処理と上記伝送手段での伝送とを制御する制御手段とからなる
ことを特徴とする伝送装置。
Imaging means for generating a video signal;
Driving means for changing the imaging range of the imaging means;
Transmission of video signals from the image pickup means directly in sequence, or transmission through video signal processing means for forming a video signal having a wider angle of view than one image pickup range of the image pickup means from the video signal whose image pickup range has been changed. Means,
A transmission apparatus comprising: control means for controlling imaging by the imaging means, driving by the driving means, processing by the video signal processing means, and transmission by the transmission means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を湾曲させて上記撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、
上記撮像手段からの映像信号を直接順次伝送、若しくは上記歪曲させて撮像された映像信号を正規化して上記撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて伝送する伝送手段と、
上記撮像手段での撮像と上記映像信号処理手段での処理と上記伝送手段での伝送とを制御する制御手段とからなる
ことを特徴とする伝送装置。
Imaging means for generating a video signal;
An optical unit configured to bend the imaging range of the imaging unit and perform imaging with a wider angle of view than the original imaging range of the imaging unit;
Through the video signal processing means for transmitting the video signal from the imaging means directly in sequence or normalizing the distorted video signal to form a video signal having a wider angle of view than the original imaging range of the imaging means. Transmission means for transmitting;
A transmission apparatus comprising: control means for controlling imaging by the imaging means, processing by the video signal processing means, and transmission by the transmission means.
時間設定手段を設け、
上記時間設定手段に設定された時間によって上記制御手段による制御が行われることを特徴とする請求項25または26に記載の伝送装置。
Provide time setting means,
27. The transmission apparatus according to claim 25 or 26, wherein control by the control means is performed according to a time set in the time setting means.
上記撮像手段からの映像信号を記憶する記憶手段と、
上記撮像手段からの映像信号と上記記憶手段に記憶された映像信号との差異を検出する比較手段とを設け、
上記比較手段で差異が検出されたときに上記制御手段による制御が行われることを特徴とする請求項25または26に記載の伝送装置。
Storage means for storing a video signal from the imaging means;
A comparison unit for detecting a difference between the video signal from the imaging unit and the video signal stored in the storage unit;
27. The transmission apparatus according to claim 25 or 26, wherein control by the control means is performed when a difference is detected by the comparison means.
上記撮像手段の設けられた場所の音声を検出または認識する手段を設け、
上記音声が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項25または26に記載の伝送装置。
Means for detecting or recognizing the sound of the place where the imaging means is provided;
27. The transmission apparatus according to claim 25 or 26, wherein control by the control means is performed when the voice is detected or recognized.
上記撮像手段の設けられた場所の物理的状態の変化を検出または認識する手段を設け、
上記物理的状態の変化が検出または認識されたときに上記制御手段による制御が行われることを特徴とする請求項25または26に記載の伝送装置。
A means for detecting or recognizing a change in a physical state of the place where the imaging means is provided;
27. The transmission apparatus according to claim 25 or 26, wherein control by the control means is performed when a change in the physical state is detected or recognized.
上記映像信号処理手段で形成された映像信号中の任意の範囲を指定する手段を設け、
設定された時間ごと、または上記撮像された映像信号に差異が検出されたとき、または上記撮像手段の設けられた場所の音声が検出または認識されたとき、または上記撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上記任意の範囲に対する上記制御手段による制御が行われることを特徴とする請求項25または26に記載の伝送装置。
Means for designating an arbitrary range in the video signal formed by the video signal processing means;
Every time set or when a difference is detected in the imaged video signal, or when a sound at a location where the imaging means is provided is detected or recognized, or at a location where the imaging means is provided 27. The transmission apparatus according to claim 25 or 26, wherein when the change in the physical state is detected or recognized, the control by the control means for the arbitrary range is performed.
上記撮像された映像信号に差異が検出されたとき、または上記撮像手段の設けられた場所の物理的状態の変化が検出または認識されたときに、上記差異または変化の検出または認識された範囲に対する上記制御手段による制御が行われると共に、
上記差異または変化の検出または認識された範囲を上記映像信号処理手段で形成される映像信号中に表示する手段を設けたことを特徴とする請求項25または26に記載の伝送装置。
When a difference is detected in the imaged video signal, or when a change in the physical state of the place where the imaging means is provided is detected or recognized, the difference or change is detected or recognized. While the control by the control means is performed,
27. The transmission apparatus according to claim 25 or 26, further comprising means for displaying a range in which the difference or change is detected or recognized in a video signal formed by the video signal processing means.
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を変化させる駆動手段と、
上記撮像手段での撮像と上記駆動手段での駆動とを制御する制御手段とを用いて、
上記撮像手段からの映像信号が直接順次記録、若しくは上記撮像範囲の変化された映像信号から上記撮像手段の一つの撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録されてなる
ことを特徴とする記録媒体。
Imaging means for generating a video signal;
Driving means for changing the imaging range of the imaging means;
Using control means for controlling imaging by the imaging means and driving by the driving means,
The video signal from the imaging means is recorded directly or sequentially through the video signal processing means for forming a video signal having a wider angle of view than the one imaging range of the imaging means from the video signal whose imaging range is changed. A recording medium characterized by
映像信号を発生する撮像手段と、
上記撮像手段の撮像範囲を湾曲させて上記撮像手段の本来の撮像範囲より広い画角の撮像を行わせる光学手段と、
上記撮像手段での撮像を制御する制御手段とを用いて、
上記撮像手段か−の映像信号が直接順次記録、若しくは上記歪曲させて撮像された映像信号を正規化して上記撮像手段の本来の撮像範囲より広い画角を有する映像信号を形成する映像信号処理手段を通じて記録されてなる
ことを特徴とする記録媒体。
Imaging means for generating a video signal;
An optical unit configured to bend the imaging range of the imaging unit and perform imaging with a wider angle of view than the original imaging range of the imaging unit;
Using control means for controlling imaging by the imaging means,
Video signal processing means for forming a video signal having an angle of view wider than the original imaging range of the imaging means by normalizing the video signals picked up by the image pickup means-directly sequentially recorded or distorted Recording medium characterized by being recorded through.
時間設定手段を設け、
上記時間設定手段に設定された時間によって上記制御手段による制御と上記映像信号処理手段での処理が行われることを特徴とする請求項33または34に記載の記録媒体。
Provide time setting means,
The recording medium according to claim 33 or 34, wherein the control by the control means and the processing by the video signal processing means are performed according to the time set in the time setting means.
上記撮像手段からの映像信号を記憶する記憶手段と、
上記撮像手段からの映像信号と上記記憶手段に記憶された映像信号との差異を検出する比較手段とを設け、
上記比較手段で差異が検出されたときに上記制御手段による制御と上記映像信号処理手段での処理が行われることを特徴とする請求項33または34に記載の記録媒体。
Storage means for storing a video signal from the imaging means;
A comparison unit for detecting a difference between the video signal from the imaging unit and the video signal stored in the storage unit;
The recording medium according to claim 33 or 34, wherein when the difference is detected by the comparison means, the control by the control means and the processing by the video signal processing means are performed.
上記撮像手段の設けられた場所の音声を検出または認識する手段を設け、
上記音声が検出または認識されたときに上記制御手段による制御と上記映像信号処理手段での処理が行われることを特徴とする請求項33または34の記録媒体。
Means for detecting or recognizing the sound of the place where the imaging means is provided;
The recording medium according to claim 33 or 34, wherein when the sound is detected or recognized, control by the control means and processing by the video signal processing means are performed.
上記撮像手段の設けられた場所の物理的状態の変化を検出または認識する手段を設け、
上記物理的状態の変化が検出または認識されたときに上記制御手段による制御と上記映像信号処理手段での処理が行われることを特徴とする請求項33または34に記載の記録媒体。
A means for detecting or recognizing a change in a physical state of the place where the imaging means is provided;
The recording medium according to claim 33 or 34, wherein when the change in the physical state is detected or recognized, the control by the control means and the processing by the video signal processing means are performed.
JP2005254056A 2005-09-01 2005-09-01 Imaging device and display device Expired - Fee Related JP4148251B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005254056A JP4148251B2 (en) 2005-09-01 2005-09-01 Imaging device and display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005254056A JP4148251B2 (en) 2005-09-01 2005-09-01 Imaging device and display device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP09913497A Division JP3994469B2 (en) 1997-04-16 1997-04-16 Imaging device, display device, and recording device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008117861A Division JP2008236783A (en) 2008-04-28 2008-04-28 Control apparatus, control method, and monitoring system

Publications (3)

Publication Number Publication Date
JP2005348449A true JP2005348449A (en) 2005-12-15
JP2005348449A5 JP2005348449A5 (en) 2006-02-09
JP4148251B2 JP4148251B2 (en) 2008-09-10

Family

ID=35500324

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005254056A Expired - Fee Related JP4148251B2 (en) 2005-09-01 2005-09-01 Imaging device and display device

Country Status (1)

Country Link
JP (1) JP4148251B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008236783A (en) * 2008-04-28 2008-10-02 Sony Corp Control apparatus, control method, and monitoring system
CN103561209A (en) * 2013-10-21 2014-02-05 广东明创软件科技有限公司 Method for shooting panoramic photos or videos based on mobile terminal and mobile terminal

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107613195B (en) * 2017-08-31 2020-02-18 清远市奇盛科技有限公司 Mobile phone panoramic image playing device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008236783A (en) * 2008-04-28 2008-10-02 Sony Corp Control apparatus, control method, and monitoring system
CN103561209A (en) * 2013-10-21 2014-02-05 广东明创软件科技有限公司 Method for shooting panoramic photos or videos based on mobile terminal and mobile terminal

Also Published As

Publication number Publication date
JP4148251B2 (en) 2008-09-10

Similar Documents

Publication Publication Date Title
KR100986228B1 (en) Camera apparatus and image recording/reproducing method
JP4736381B2 (en) Imaging apparatus and method, monitoring system, program, and recording medium
JP2006245648A (en) Information processing system, information processing apparatus, information processing method, program and recording medium
JP2009164767A (en) Imaging apparatus and its display method
JP2005159731A (en) Imaging apparatus
JP2000305207A (en) Electronic still camera
JP2011205395A (en) Imaging apparatus, and program
JP3994469B2 (en) Imaging device, display device, and recording device
JP4583717B2 (en) Imaging apparatus and method, image information providing system, program, and control apparatus
JPH1118003A (en) Panorama image-pickup device
JP3948050B2 (en) Imaging, storage, processing, display, playback, transmission device and recording medium
JP2011035752A (en) Imaging apparatus
JP2005348449A (en) Imaging, displaying, recording, reproducing, transmitting device and recording medium
JP7146507B2 (en) Information processing device and its control method
JPWO2017150238A1 (en) Display control apparatus, display control method, and program
JP2005348449A5 (en)
JP4293280B2 (en) Control device, control method and monitoring system
JP4172352B2 (en) Imaging apparatus and method, imaging system, and program
WO2021014716A1 (en) Image processing device, image processing method, and program
WO2010061791A1 (en) Video control device, and image capturing apparatus and display apparatus which are provided with same
JP2008236783A (en) Control apparatus, control method, and monitoring system
JP3957168B2 (en) Motion control camera
JP2005348448A (en) Panorama imaging apparatus
JP2006050655A (en) Imaging apparatus and display device
JP6736289B2 (en) Information terminal device, imaging device, image information processing system, and image information processing method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050929

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080603

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080616

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees