JP4232682B2 - Electronic camera and program - Google Patents
Electronic camera and program Download PDFInfo
- Publication number
- JP4232682B2 JP4232682B2 JP2004129217A JP2004129217A JP4232682B2 JP 4232682 B2 JP4232682 B2 JP 4232682B2 JP 2004129217 A JP2004129217 A JP 2004129217A JP 2004129217 A JP2004129217 A JP 2004129217A JP 4232682 B2 JP4232682 B2 JP 4232682B2
- Authority
- JP
- Japan
- Prior art keywords
- document
- area
- image
- document area
- monitor image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
Description
この発明は、書画情報を撮影して記録保存する電子カメラおよびプログラムに関する。 The present invention relates to an electronic camera and a program for photographing and recording document information.
従来、文字、図形、画像などの書画情報を撮影して記録保存する電子カメラとしては、例えば、被写体を載せる台にアームを介して取り付けられているカメラ本体を有し、被写体とカメラ本体を動かすことなく、被写体の撮影位置を移動するようにした書画カメラが知られている(特許文献1参照)。また、名刺、葉書き、カタログ、看板、掲示板などに書かれた文字情報をデジタルカメラで撮影して取得した画像の歪みを補正するために、歪み補正の対象となる四角形の画像を抽出し、これを歪みのない長方形に補正するようにした歪み補正方法・装置が知られている(特許文献2参照)。
しかしながら、特許文献1の書画カメラにあっては、被写体の撮影位置を移動するスライド部材なども必要となり、装置全体が大掛かりなものとなる。また、特許文献2の歪み補正方法・装置にあっては、カメラ撮影後に撮影画像内から抽出した四角形の画像を歪みのない長方形に補正するものであるが、撮影後の画像補正を前提としているため、例えば、元の四角形の画像が最適な状態で撮影されていない場合、つまり、小さ過ぎる画像の場合や一部が欠けている画像の場合などでは、歪み補正を施したとしても、好ましい文字情報を得ることができない。例えば、名刺をカメラ撮影した場合に、名刺の撮影状態が悪いと、名刺内の文字が不鮮明になったり、名刺の枠全体を四角形として輪郭抽出することができなくなるため、名刺の撮影時には、レンズを向ける方向を微調整しながらズーム操作を行うなど、慎重な撮影を余儀なくされ、撮影者に大きな負担をかけるという問題があった。
However, the document camera disclosed in
第1の発明の課題は、通常のカメラあるいは書画情報を撮影する書画カメラとして使用可能である他、書画カメラとして使用する際に、書画情報の撮影状態を慎重にマニュアル調整しなくても、書画情報を常に最適な状態で撮影できると共に、ユーザの意向を確認しながら撮影できるようにすることである。
第2の発明の課題は、モニタ画像を解析して書画情報を含む領域を書画領域として特定する際に、当初のモニタ画像で書画領域の特定が不可能でも特別な操作を行うことなしに書画領域の自動特定が可能であると共に、特定された書画情報の撮影状態を慎重にマニュアル調整しなくても、書画情報を常に最適な状態で撮影できるようにすることである。
The subject of the first invention is that it can be used as a normal camera or a document camera for photographing document information, and when used as a document camera, the document information can be printed without carefully adjusting the photographing state of the document information. It is to be able to photograph information in an optimal state at all times and to photograph while confirming the user's intention.
According to a second aspect of the present invention, when an area including document information is identified as a document area by analyzing a monitor image, the document can be printed without performing a special operation even if the document area cannot be identified from the original monitor image. An area can be automatically specified, and document information can always be photographed in an optimum state without carefully adjusting the photographing state of the identified document information.
請求項1記載の発明(第1の発明)は、書画情報を撮影する書画撮影モードと任意の被写体を撮影する標準撮影モードとを有する電子カメラであって、前記書画撮影モードにおいて、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する特定手段と、この特定手段によって特定された書画領域がモニタ画面上に識別表示する識別表示手段と、この識別表示手段によって書画領域が識別表示されている状態において、この書画領域が撮影対象として指示された際、この書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する制御手段とを具備したことを特徴とする。
更に、コンピュータに対して、上述した請求項1記載の発明に示した主要機能を実現させるためのプログラムを提供する(請求項13記載の発明)。
The invention according to claim 1 (first invention) is an electronic camera having a document photographing mode for photographing document information and a standard photographing mode for photographing an arbitrary subject. In the document photographing mode, a monitor image is captured. By specifying, a specifying means for specifying an area including the document information in the monitor image as a document area by analyzing, an identification display means for identifying and displaying the document area specified by the specifying means on the monitor screen, and the identification display means When the document area is identified and displayed, when the document area is instructed to be photographed, the optical system is driven and controlled so that the document area is in a predetermined state with respect to the monitor image area. And a control means for changing the imaging conditions.
Furthermore, a program for realizing the main functions shown in the invention described in
なお、請求項1記載の発明は次のようなものであってもよい。
前記特定手段は、複数の書画領域が存在する場合に、この複数の書画領域のうち、最大サイズの書画領域を特定する(請求項2記載の発明)。
The invention described in
When there are a plurality of document areas, the specifying unit specifies a document area having the maximum size among the plurality of document areas (the invention according to claim 2).
前記特定手段は、複数の書画領域が存在する場合に、この複数の書画領域のうち、モニタ画面の中央部に位置している書画領域を特定する(請求項3記載の発明)。 When there are a plurality of document areas, the specifying unit specifies a document area located in a central portion of the monitor screen among the plurality of document areas (the invention according to claim 3).
前記識別表示手段は、特定された書画領域をモニタ画面上で識別表示する際に、その領域の輪郭部分を識別表示する(請求項4記載の発明)。 When the identified document area is identified and displayed on the monitor screen, the identification display means identifies and displays the outline portion of the area (the invention according to claim 4).
前記特定手段は、モニタ画像を解析することによってモニタ画像内に所定形状の画像部分が含まれているか否かに基づいて書画領域を特定する(請求項6記載の発明)。 The specifying unit specifies a document area based on whether or not an image portion having a predetermined shape is included in the monitor image by analyzing the monitor image.
前記特定手段は、モニタ画像を解析することによってモニタ画像内に文字列が含まれているか否かに基づいて書画領域を特定する(請求項7記載の発明)。 The specifying means specifies a document area based on whether or not a character string is included in the monitor image by analyzing the monitor image (the invention according to claim 7).
前記制御手段は、書画領域がモニタ画像の領域内において偏った位置に存在している場合に、書画領域がモニタ画像領域の中心部分に位置するように、光学系を駆動制御して撮影方向を変更する(請求項8記載の発明)。 The control means drives and controls the optical system so that the photographing direction is located in the central portion of the monitor image area when the document area is located at a biased position in the monitor image area. Change (Invention of Claim 8).
前記制御手段は、書画領域がモニタ画像領域の最大サイズに比べて小さい場合に、書画領域がモニタ画像領域内に収まり、かつ、その領域サイズと同等となるように、光学系を駆動制御して撮影倍率を変更する(請求項9記載の発明)。 When the document area is smaller than the maximum size of the monitor image area, the control means drives and controls the optical system so that the document area is within the monitor image area and is equal to the area size. The photographing magnification is changed (the invention according to claim 9).
前記書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更した後において、変更された撮影条件下で撮影された書画領域内の画像を加工する補正処理手段を設ける(請求項10記載の発明)。
ここで、前記補正処理手段によって加工された書画領域内の画像がモニタ画面上に表示されている状態において、その画像の記録指示に従って当該画像を記録メディアに記録保存し、その画像の解除指示に従って当該書画領域を撮影対象外として解除するようにすれば(請求項11記載の発明)、ユーザの意向を考慮することができる。
After changing the shooting condition of the document information by driving and controlling the optical system so that the document area is in a predetermined state with respect to the monitor image area, the document area in the document area shot under the changed shooting condition Correction processing means for processing the image is provided (the invention according to claim 10).
Here, in a state where the image in the document area processed by the correction processing means is displayed on the monitor screen, the image is recorded and stored in the recording medium according to the recording instruction of the image, and according to the cancellation instruction of the image If the document area is released as a non-photographing object (the invention according to claim 11), the user's intention can be taken into consideration.
請求項5記載の発明(第2の発明)は、書画情報を撮影する電子カメラであって、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する特定手段と、光学系を駆動制御して書画情報の撮影条件を変更する制御手段とを具備し、前記特定手段によって書画領域を特定することができなかった場合に、前記制御手段によって光学系を駆動制御して書画情報の撮影条件を変更しながらモニタ画面内に書画領域が含まれているか否かを再特定する動作を繰り返し、その結果、書画領域を特定することができた場合には、特定された書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更するようにしたことを特徴とする。
更に、コンピュータに対して、上述した請求項5記載の発明に示した主要機能を実現させるためのプログラムを提供する(請求項14記載の発明)。
The invention according to claim 5 (second invention) is an electronic camera for photographing document information, wherein the monitor image is analyzed to specify a region including the document information in the monitor image as a document region. And a control means for changing the photographing condition of the document information by driving the optical system, and when the document area cannot be specified by the specifying means, the optical system is driven and controlled by the control means. Repeat the operation to re-specify whether or not the document area is included in the monitor screen while changing the shooting condition of the document information, and if the document area can be identified as a result, the The imaging condition of the document information is changed by driving and controlling the optical system so that the document region is in a predetermined state with respect to the monitor image region.
Further, a program for realizing the main functions shown in the invention described in
なお、請求項5記載の発明は次のようなものであってもよい。
前記再特定動作を繰り返しても書画領域を特定することができなかった場合には、光学系を駆動制御して標準の撮影条件に戻す(請求項12記載の発明)。
更に、この請求項5記載の発明においては、上述した請求項6〜11記載の発明であってもよい。
The invention described in
If the document area cannot be specified even after repeating the re-specification operation, the optical system is driven and controlled to return to the standard photographing condition.
Further, the invention according to
請求項1記載の発明(第1の発明)によれば、書画撮影モードと標準撮影モードとを有し、書画撮影モードにおいては、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定すると共に、この書画領域がモニタ画面上に識別表示されている状態で、この書画領域が撮影対象として指示された際に、この書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更するようにしたから、通常のカメラあるいは書画情報を撮影する書画カメラとして使用可能である他、書画カメラとして使用する際に、書画情報の撮影状態を慎重にマニュアル調整しなくても、書画情報を常に最適な状態で撮影できると共に、ユーザの意向を確認しながら撮影することができ、撮影者の負担を大幅に軽減し、更には、最適状態で撮影された画像に各種の補正を施す際に、その補正を正確に行うことが可能となる。 According to the invention described in claim 1 (first invention), the document photographing mode and the standard photographing mode are provided, and in the document photographing mode, the monitor image is analyzed to analyze the monitor image and include the document information in the monitor image. Is specified as a document area, and when this document area is instructed as an object to be photographed in a state where the document area is identified and displayed on the monitor screen, the document area is set to a predetermined area with respect to the monitor image area. Since the optical system is driven and controlled so that it is in a state, the shooting conditions for document information are changed, so it can be used as a normal camera or a document camera for shooting document information, and when used as a document camera Even without carefully adjusting the shooting state of the document information, you can always shoot the document information in the optimal state and check the user's intention. Significantly reduce the burden on the photographer, further, when performing various corrections on the image captured at the optimum condition, it is possible to perform the correction accurately.
請求項2記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、複数の書画領域が存在する場合に、この複数の書画領域のうち、最大サイズの書画領域を特定するようにしたから、モニタ画像内から書画領域を特定する際に、蓋然性の高い書画領域を自動特定することができる。
According to the invention described in
請求項3記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、複数の書画領域が存在する場合に、この複数の書画領域のうち、モニタ画面の中央部に位置している書画領域を特定するようにしたから、請求項2記載の発明と同様、蓋然性の高い書画領域を自動特定することができる。
According to the invention described in
請求項4記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、特定された書画領域をモニタ画面上で識別表示する際に、その領域の輪郭部分を識別表示するようにしたから、自動特定された書画領域を容易に確認することが可能となる。
According to the invention described in
請求項6記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、モニタ画像を解析することによってモニタ画像内に所定形状の画像部分が含まれているか否かに基づいて書画領域を特定するようにしたから、名刺、葉書きなどの定型用紙、ホワイトボード、掲示板などの定型物を撮影したモニタ画像内から所定形状(例えば、四角形)を元に名刺、葉書き、ホワイトボードの撮影部分を書画領域として容易に特定することができる。 According to the sixth aspect of the invention, in addition to having the same effect as the first aspect of the invention described above, whether or not an image portion of a predetermined shape is included in the monitor image by analyzing the monitor image. Based on the specified shape (for example, a rectangle) from the monitor image obtained by capturing standard paper such as business cards and postcards, whiteboards, bulletin boards, etc. The photographing part of the whiteboard can be easily specified as the document area.
請求項7記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、モニタ画像を解析することによってモニタ画像内に文字列が含まれているか否かに基づいて書画領域を特定するようにしたから、文字情報が未記入の葉書き、ホワイトボード、掲示板などが偶然にあるいは誤って写っていたとしても、それを書画領域の対象外として処理することができ、書画領域の特定がより確実なものとなる。
According to the invention described in
請求項8記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、書画領域がモニタ画像の領域内において偏った位置に存在している場合に、書画領域がモニタ画像領域の中心部分に位置するように、光学系を駆動制御して撮影方向を変更するようにしたから、書画領域を常に適正な位置で撮影することが可能となる。
According to the invention described in
請求項9記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、書画領域がモニタ画像領域の最大サイズに比べて小さい場合に、書画領域がモニタ画像領域内に収まり、かつ、その領域サイズと同等となるように、光学系を駆動制御して撮影倍率を変更するようにしたから、常に最大倍率での撮影が可能となる。 According to the ninth aspect of the present invention, in addition to the same effect as the first aspect of the present invention, when the document area is smaller than the maximum size of the monitor image area, the document area is within the monitor image area. Since the optical magnification is changed by driving the optical system so that it is within the same area size as that of the area, photographing at the maximum magnification is always possible.
請求項10記載の発明によれば、上述した請求項1記載の発明と同様の効果を有する他、書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更した後において、変更された撮影条件下で撮影された書画領域内の画像を加工補正するようにしたから、歪みなどが補正された良質の画像を得ることができる。
ここで、加工補正された書画領域内の画像がモニタ画面上に表示されている状態において、その画像の記録指示に従って当該画像を記録メディアに記録保存し、その画像の解除指示に従って当該書画領域を撮影対象外として解除するようにしてもよい(請求項11記載の発明)。
According to the invention described in claim 10, in addition to the same effect as the invention described in
Here, in a state where the image in the document area after the correction is displayed on the monitor screen, the image is recorded and saved on a recording medium according to the recording instruction of the image, and the document area is stored according to the cancellation instruction of the image. You may make it cancel | release as imaging | photography object (Invention of Claim 11).
請求項5記載の発明(第2の発明)によれば、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する際に、書画領域を特定することができなかった場合には、光学系を駆動制御して書画情報の撮影条件を変更しながらモニタ画面内に書画領域が含まれているか否かを再特定する動作を繰り返し、その結果、書画領域を特定することができた場合には、特定された書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更するようにしたから、当初のモニタ画像で書画領域の特定が不可能でも特別な操作を行うことなしに書画領域の自動特定が可能であると共に、特定された書画情報の撮影状態を慎重にマニュアル調整しなくても、書画情報を常に最適な状態で撮影することができ、撮影者の負担を大幅に軽減し、更には、最適状態で撮影された画像に各種の補正を施す際に、その補正を正確に行うことが可能となる。 According to the invention described in claim 5 (second invention), when the area including the document information in the monitor image is specified as the document area by analyzing the monitor image, the document area cannot be specified. In such a case, the optical system is driven and controlled, and the operation for re-specifying whether or not the document area is included in the monitor screen is repeated while changing the photographing condition of the document information. As a result, the document area is identified. If it is possible to change the shooting condition of the document information by driving the optical system so that the specified document region is in a predetermined state with respect to the monitor image region, Even if it is impossible to specify the document area on the monitor image, the document area can be automatically specified without performing any special operation, and the document information can be obtained without carefully adjusting the shooting state of the specified document information. Always It is possible to shoot in an appropriate state, greatly reducing the burden on the photographer, and further, when performing various corrections on an image shot in the optimal state, it becomes possible to perform the correction accurately. .
請求項12記載の発明によれば、上述した請求項5記載の発明と同様の効果を有する他、再特定動作を繰り返しても書画領域を特定することができなかった場合には、光学系を駆動制御して標準の撮影条件に戻すようにしたから、書画情報の撮影を自動解除することができる。
その他、この第2の発明においては、上述した請求項6〜11記載の発明と同様の効果を有する。
According to the twelfth aspect of the present invention, in addition to the same effect as that of the fifth aspect of the invention described above, the optical system can be used when the document area cannot be specified even after repeating the respecifying operation. Since the drive control is performed to restore the standard shooting conditions, the shooting of document information can be automatically canceled.
In addition, the second invention has the same effects as those of the inventions described in
以下、図1〜図13を参照して本発明の実施例を説明する。
図1は、この実施例における電子カメラの全体構成の概要を示したブロック図である。
この電子カメラは、持ち運び自由な携帯型のデジタルスチルカメラであり、例えば、会社等における商談会、報告会、審議会などのビジネスミーティング用のカメラとして使用可能なもので、各種の資料、名刺、葉書き、カタログ、ホワイトボードなどを撮影対象として、それらに記載されている文字、図形、画像などの書画情報を撮影する書画カメラであるが、書画情報を撮影する以外にも、人物、風景などの一般的な被写体を撮影する通常のカメラとしても使用可能となっている。
Hereinafter, embodiments of the present invention will be described with reference to FIGS.
FIG. 1 is a block diagram showing an outline of the overall configuration of the electronic camera in this embodiment.
This electronic camera is a portable digital still camera that can be carried around. For example, it can be used as a camera for business meetings such as business meetings, debriefing meetings, and council meetings at companies. This is a document camera that shoots postcard information such as letters, figures, and images written on postcards, catalogs, whiteboards, etc., but in addition to shooting document information, people, landscapes, etc. It can also be used as a normal camera for photographing general subjects.
このデジタルスチルカメラは、書画情報を撮影対象とする際に、その時の撮影状態を慎重にマニュアル調整しなくても、書画情報を常に最適な状態で撮影できるようにしたことを特徴とするものである。つまり、被写体である書画情報に対してレンズを向ける方向、ズーム倍率、焦点を厳密にマニュアル調整しなくても、書画情報を最適な状態で撮影できるようにしたものである。
なお、この実施例の特徴部分を詳述する前に、この実施例のハードウェア上の構成について以下、説明しておく。
This digital still camera is characterized in that when document information is to be photographed, the document information can always be photographed in the optimum state without careful manual adjustment of the photographing state at that time. is there. In other words, the document information can be photographed in an optimum state without strict manual adjustment of the direction in which the lens is directed to the document information that is the subject, the zoom magnification, and the focus.
Before detailed description of the features of this embodiment, the hardware configuration of this embodiment will be described below.
CPU1は、記憶部2内のオペレーティングシステムや各種アプリケーションソフトに従ってこのデジタルスチルカメラの全体動作を制御する中央演算処理装置である。記憶部2は、ハードディスク等の固定的なメモリであり、プログラム記憶領域とデータ記憶領域とを有している。この記憶部2内のプログラム記憶領域には、後述する図7〜図12に示す動作手順に従って本実施例を実現する為のアプリケーションプログラムが格納されている。このプログラムやデータは、必要に応じてワークメモリ3にロードされたり、このワークメモリ3内のデータが記憶部2にセーブされる。なお、記録メディア4は、DVD等の着脱自在なメモリであり、記憶部2やワークメモリ3との間においてプログラムや画像データ等の受け渡しを行う。
The
一方、CPU1には、その入出力周辺デバイスである操作部5、表示部6、カメラ撮影部7がバスラインを介して接続されており、入出力プログラムに従ってCPU1は、これらの入出力デバイスの動作制御を行う。
操作部5は、シャッターボタンST、ズームボタンWDの他、後述するノーマルモード/書画モードに切り換えるモードボタンMD、レリーズボタンRS等、各種のファンクションボタンを有し、その操作信号はCPU1に与えられる。表示部6は、例えば、タッチパネル付きの液晶表示部であり、モニタ画面/ファインダ画面/画像再生画面として使用される。
On the other hand, an
In addition to the shutter button ST and zoom button WD, the
カメラ撮影部7は、撮影レンズ、ミラー等のレンズ・ミラーブロック、CCDイメージセンサ等の撮像素子、その駆動系等を備えたもので、CPU1は、光学ズーム機能を調整制御したり、レンズの向き(撮影方向)を調整制御したり、オートフォーカス時の駆動制御、シャッター駆動制御、露出、ホワイトバランス等を制御する。すなわち、図2は、カメラ撮影部7の詳細な構成を示した図で、カメラ撮影部7には、撮影レンズ71、撮影制御部72、撮像処理部73を有し、CPU1は、撮影制御部72に対してズーム駆動制御、フォーカス駆動制御、露出駆動制御、シャッター駆動制御を行うと共に、撮影レンズ71の向きを駆動制御して撮影方向の調整を行うが、その際、撮影レンズ71の向きを左右/上下方向に駆動して撮影方向を調整するようにしている。なお、CPU1は、撮像処理部73内のCCDイメージセンサから画像メモリ8を介して撮影画像を取り込んで記録メディア4に記録保存するようにしている。
The
ここで、上述したモードボタンMDは、ノーマルモード/書画モードに切り換えるもので、「ノーマルモード」は、人物、風景などの一般的な被写体を通常撮影する動作モードである。また、「書画モード」は、撮影対象である書画情報を撮影する際に、その撮影状態(光学ズーム、撮影方向)をマニュアル調整しなくても、書画情報を常に最適な状態で撮影可能とするために、光学系の駆動制御を行う動作モードである。この場合、書画情報の撮影条件を自動調整することによって最適な状態で実撮影された画像に対して予め決められている各種の補正処理を施した後に、その画像を記録保存するようにしている。 Here, the above-described mode button MD is for switching between the normal mode and the document mode, and the “normal mode” is an operation mode for normal photographing of a general subject such as a person or a landscape. In addition, the “Document Mode” allows you to always shoot the document information in the optimal state without manually adjusting the shooting state (optical zoom, shooting direction) when shooting the document information that is the subject of shooting. Therefore, this is an operation mode for performing drive control of the optical system. In this case, by automatically adjusting the shooting conditions of the document information, various correction processes determined in advance are performed on the image actually shot in an optimal state, and then the image is recorded and saved. .
すなわち、「書画モード」は、実際の撮影を行う前に撮影対象を仮撮影したモニタ画像を取得した際、CPU1は、このモニタ画像を解析することによって所定形状(例えば、四角形)が含まれ、かつ、この所定形状の領域内に文字列が含まれているか否かに基づいて書画情報の撮影か否かを判別し、書画情報の撮影であれば、この所定形状の画像部分を書画領域として特定すると共に、この書画領域が当該モニタ画像領域に対して所定の状態となるように、光学系を駆動制御して書画情報の撮影条件を変更した後に、この撮影条件下で実撮影された画像に対して、各種の補正処理を施して記録保存するようにした自動撮影モードである。
That is, in the “document mode”, when a monitor image obtained by provisionally photographing an object to be photographed before actual photographing is obtained, the
ここで、モニタ画像内に複数の書画領域が存在する場合、CPU1は、この複数の書画領域のうち、モニタ画面の中央部に位置している書画領域を特定したり、モニタ画面の中央部に位置している書画領域を特定するようにしている。そして、CPU1は、自動特定した書画領域をモニタ画像内で識別表示すると共に、書画領域が識別表示されている状態において、この書画領域が撮影対象としてユーザ指示された際、この書画情報の撮影条件を自動調整するようにしている。この場合、書画領域がモニタ画像枠内の中心部分に位置するように、レンズの向き(撮影方向)を自動調整したり、書画領域がモニタ画像枠内に収まり、かつ、その枠サイズと略同等となるように、光学ズームを自動調整するようにしている。
Here, when there are a plurality of document areas in the monitor image, the
そして、自動調整後に実撮影された画像に対して各種の補正処理を施して記録保存する場合、CPU1は、実撮影された画像から書画領域を抽出すると共に、この書画領域の全体が方形(例えば、長方形)となるように、その形状全体を補正するフォルム最適化処理(角度補正処理および台形補正処理) を実行した後、このフォルム最適化処理によって補正された方形の書画領域内から所定の画像情報を抽出するフィルタリング処理を実行する。更には、抽出した画像情報を鮮明に読み取れるようにその色合いを補正する色調補正処理を実行して記録保存するようにしている。
Then, when performing various correction processes on the image actually captured after automatic adjustment and recording and saving, the
図3および図4は、モニタ画像枠に対して書画領域が最適な状態となるように、撮影レンズの向き(撮影方向)をどのように自動調整するかを説明するための図である。
ここで、モニタ画像の中心点をXY座標系の原点とした場合に、CPU1は、書画情報が含まれている書画領域の中心点を求めると共に、この書画領域の中心点と原点とを比較することによって、書画領域の偏り方向およびその偏り割合を求め、この偏り割合が許容範囲内、つまり、書画領域がモニタ画像枠の中心部分にあるか否かをチェックすることによってモニタ画像に対して書画領域が最適な状態にあるか否かを判別し、書画領域がモニタ画像の枠領域内の中心部分に位置するように、撮影方向を自動調整するようにしている。
FIGS. 3 and 4 are diagrams for explaining how to automatically adjust the direction (shooting direction) of the photographic lens so that the document area is in an optimal state with respect to the monitor image frame.
Here, when the center point of the monitor image is the origin of the XY coordinate system, the
図中、「偏り割合」は、書画領域の中心点が原点に対して偏っている割合を横・縦方向に対応付けて示したもので、図3(A)の例では、横+40%、縦0%、図3(B)の例では、横0%、縦0%、図3(C)の例では、横−60%、縦−40%の場合を示している。この場合、許容範囲を±20%以内とすると、図3(A)および(C)の場合には、許容範囲外となり、その偏り方向および偏り割合に応じて撮影方向の自動調整が行われる。なお、図4は、書画領域がX軸の+/−方向に偏っている場合、その偏り方向および偏り割合に応じてレンズの向き(撮影方向)が左/右方向に自動調整されることを示している。 In the figure, the “bias ratio” indicates the ratio that the center point of the document area is biased with respect to the origin in association with the horizontal and vertical directions. In the example of FIG. In the example of vertical 0%, FIG. 3B shows the case of horizontal 0%, vertical 0%, and in the example of FIG. 3C, horizontal -60% and vertical -40%. In this case, assuming that the allowable range is within ± 20%, in the case of FIGS. 3A and 3C, it is outside the allowable range, and the photographing direction is automatically adjusted according to the deviation direction and the deviation ratio. FIG. 4 shows that when the document area is deviated in the +/− direction of the X axis, the lens direction (shooting direction) is automatically adjusted to the left / right direction according to the deviating direction and the deviating ratio. Show.
図5(A)〜(E)は、モニタ画像枠に対して書画領域が最適な状態となるように、撮影方向を自動調整しながら光学ズームを自動調整する過程を例示した図である。
図5(A)は、最初に取得したモニタ画像を示し、(B)は、光学ズームを1段階毎にズームインした状態を示している。ここで、CPU1は、モニタ画像枠に対して書画領域が最適な状態となるように、光学ズームを1段階毎にズームインしながらモニタ画像枠から書画領域がはみ出したか否かをチェックするが、図5(B)の例では、はみ出している場合であるから書画領域の偏り方向およびその偏り割合を求め、この偏り割合が許容範囲を超えたかをチェックする。
FIGS. 5A to 5E are diagrams illustrating a process of automatically adjusting the optical zoom while automatically adjusting the shooting direction so that the document area is in an optimal state with respect to the monitor image frame.
FIG. 5A shows a monitor image acquired first, and FIG. 5B shows a state in which the optical zoom is zoomed in step by step. Here, the
この場合、図5(B)の例では、偏り割合が許容範囲を超えているので、その偏り方向および偏り割合に応じて撮影方向の調整を行った後、再度、書画領域がはみ出したか否かをチェックする。図5(C)は、撮影方向を調整した後の画像を示し、この場合、書画領域はモニタ画像枠内に収まっているので、更に1段階のズームインが行われる。図5(D)は、ズームイン後の画像を示し、この場合も書画領域がモニタ画像枠内に収まっているので、更に1段階のズームインが行われると、図5(E)に示すように、偏り割合は許容範囲内であるが、書画領域がはみ出した状態となる。この場合、1段階のズームアウトを行うことで、図5(D)の状態に戻って書画領域がモニタ画像枠に対して最大サイズとなるように自動調整される。 In this case, in the example of FIG. 5B, since the deviation ratio exceeds the allowable range, whether or not the document area protrudes again after adjusting the photographing direction according to the deviation direction and the deviation ratio. Check. FIG. 5C shows an image after the shooting direction is adjusted. In this case, since the document area is within the monitor image frame, one more zoom-in is performed. FIG. 5D shows the image after zooming in. In this case as well, since the document area is within the monitor image frame, when one more stage of zooming in is performed, as shown in FIG. The deviation ratio is within the allowable range, but the document area is protruded. In this case, by performing one-stage zoom-out, the state returns to the state of FIG. 5D and the document area is automatically adjusted so as to be the maximum size with respect to the monitor image frame.
図6は、書画領域を特定する際、最初に取得したモニタ画像からでは、書画領域を特定することができなかった場合に、光学ズームを段階的にズームアウトしながら書画領域を特定することを示した図である。すなわち、書画領域を特定する際、最初に取得したモニタ画像内には所定形状の領域に文字列が含まれていても、その領域が大き過ぎてその全体形状(四角形)を認識することができない場合において(図6(A)参照)、この書画領域を特定することは不可能となるが、このような場合、光学ズームを段階的にズームアウトしながら特定形状の輪郭部分を発見してその全体形状の四角形を認識するようにしている(図6(B)参照)。この場合においても、書画領域がモニタ画像枠に対して最大サイズとなるように自動調整するようにしている。 FIG. 6 shows that when specifying a document area, if the document area cannot be specified from the monitor image acquired first, the document area is specified while gradually zooming out the optical zoom. FIG. That is, when specifying a document area, even if a character string is included in an area of a predetermined shape in the monitor image acquired first, the area is too large to recognize the entire shape (rectangle). In some cases (see FIG. 6 (A)), it is impossible to specify the document area. In such a case, the contour portion having a specific shape is found while gradually zooming out the optical zoom. The quadrangle of the overall shape is recognized (see FIG. 6B). Also in this case, the document area is automatically adjusted so as to be the maximum size with respect to the monitor image frame.
次に、この実施例におけるデジタルスチルカメラの動作概念を図7〜図12に示すフローチャートを参照して説明する。ここで、これらのフローチャートに記述されている各機能は、読み取り可能なプログラムコードの形態で格納されており、このプログラムコードにしたがった動作が逐次実行される。また、伝送媒体を介して伝送されてきた上述のプログラムコードに従った動作を逐次実行することもできる。すなわち、記録媒体の他に、伝送媒体を介して外部供給されたプログラム/データを利用してこの実施例特有の動作を実行することもできる。 Next, the operation concept of the digital still camera in this embodiment will be described with reference to the flowcharts shown in FIGS. Here, each function described in these flowcharts is stored in the form of a readable program code, and operations according to the program code are sequentially executed. In addition, the operation according to the above-described program code transmitted via the transmission medium can be sequentially executed. In other words, in addition to the recording medium, the program / data supplied externally via the transmission medium can be used to execute the operation specific to this embodiment.
図7〜図12は、撮影スイッチがオン操作された際に実行開始されるデジタルスチルカメラの全体動作を示したフローチャートである。
先ず、CPU1は、撮影スイッチがオン操作されると、ノーマルモードに初期設定した後(ステップS1)、カメラ撮影部7からモニタ画像を取得して画像メモリ8にセットすると共に(ステップS2)、モニタ画面に表示出力させる(ステップS3)。ここで、ボタン操作の有無をチェックし(ステップS4)、何らかのボタンが操作されるまでステップS2に戻って待機状態となるが、ボタン操作を検出した際には、操作ボタンの種類を判別し、モードボタンMDが操作されたか(ステップS5)、ズームボタンWDが操作されたか(ステップS6)、シャッターボタンかその他のボタンが操作されたかを調べる(ステップS7)。
7 to 12 are flowcharts showing the overall operation of the digital still camera that is started when the shooting switch is turned on.
First, when the photographing switch is turned on, the
いま、初期設定時のノーマルモードにおいて、ズームボタンWDが操作された際には(ステップS6でYES)、そのズームイン/ズームアウト操作に応じて光学ズームの駆動を制御する(ステップS8)。また、ノーマルモードにおいて、シャッターボタンが操作された際には(ステップS7でYES)、シャッター操作時の撮影画像を画像メモリ8から取得して直交変換方式(離散コサイン変換方式)に従ってデータ圧縮を行った後(ステップS9)、この圧縮画像を記録メディア4に記録保存させる通常の動作を行う(ステップS10)。なお、ノーマルモードにおいて、その他のボタンが操作された際には(ステップS7でNO)、操作ボタンに応じた他の処理を実行した後(ステップS11)、モニタ画像の取得処理に戻る(ステップS2)。
When the zoom button WD is operated in the normal mode at the initial setting (YES in step S6), the optical zoom drive is controlled according to the zoom-in / zoom-out operation (step S8). In the normal mode, when the shutter button is operated (YES in step S7), the photographed image at the time of the shutter operation is acquired from the
また、ノーマルモードにおいて、モードボタンMDが操作された場合には(ステップS5でYES)、ノーマルモードから書画モードに切り換えられる(ステップS12)。すると、図8のステップS21以降の処理に進み、書画情報を撮影した場合か否かの判別を行う。すなわち、書画モードに切り換えた時のモニタ画像を画像メモリ8から取得し、このモニタ画像を解析することによってモニタ画像領域内に特定形状(四角形)の領域が含まれているかを検索し、特定形状の領域の有無をチェックする(ステップS22)。この場合、予め設定されている書画領域の特徴情報、つまり、名刺、葉書き、カタログ、ホワイトボードなどの形状特性(例えば、四角形)を参照し、この特徴情報に一致する形状の画像部分が存在しているかをチェックする。
When the mode button MD is operated in the normal mode (YES in step S5), the normal mode is switched to the document mode (step S12). Then, the process proceeds to step S21 and subsequent steps in FIG. 8, and it is determined whether or not the document information is photographed. That is, a monitor image at the time of switching to the document mode is obtained from the
ここで、モニタ画像内に特定形状の領域が含まれている場合には、この特定形状の画像部分に文字情報が含まれているか否かをチェックする(ステップS23)。ここで、当該特定形状の領域内に文字情報が含まれていれば(ステップS23でYES)、書画情報を撮影したモニタ画像であると認識して、当該特定形状の領域を書画領域として特定する(ステップS24)。このようにして書画領域の特定が行われると、図10のステップS51以降に移るが、モニタ画像内に特定形状(四角形)が含まれていない場合(ステップS22でNO)、つまり、書画領域を特定できなかった場合には、モニタ画像内に文字情報が含まれているか否かをチェックする(ステップS28)。ここで、モニタ画像内に文字情報が含まれていれば、図6に示したように、特定形状の領域が大き過ぎてその全体形状を認識することができなかった可能性があるため、光学ズームの現在のセット状態をチェックし、ズームアウト最大値(最少倍率)にセットされているか否かを調べ(ステップS29)、ズームアウト最大値未満であることを条件に(ステップS29でNO)、光学ズームを1段階(例えば、0.5倍)だけズームアウト駆動すると共に、フォーカス制御を行う(ステップS30)。 Here, when a region having a specific shape is included in the monitor image, it is checked whether or not character information is included in the image portion having the specific shape (step S23). Here, if character information is included in the region of the specific shape (YES in step S23), the region is recognized as a monitor image obtained by photographing the document information, and the region of the specific shape is specified as the document region. (Step S24). When the document area is specified in this way, the process proceeds to step S51 and subsequent steps in FIG. 10, but when the specific shape (rectangle) is not included in the monitor image (NO in step S22), that is, the document area is set. If it cannot be identified, it is checked whether or not character information is included in the monitor image (step S28). Here, if character information is included in the monitor image, there is a possibility that the area of the specific shape is too large to recognize the entire shape as shown in FIG. The current zoom setting state is checked, and it is checked whether or not the zoom-out maximum value (minimum magnification) is set (step S29). If it is less than the zoom-out maximum value (NO in step S29), The optical zoom is zoomed out by one step (for example, 0.5 times), and focus control is performed (step S30).
これによって書画領域が縮小撮影されると、CPU1は、ズームアウト直後のモニタ画像をカメラ撮影部7から取得して画像メモリ8にセットすると共に(ステップS27)、この画像メモリ8内のモニタ画像を解析し、特定形状の領域の有無をチェックする(ステップS21、S22)。以下、1段階毎のズームアウト駆動を繰り返すことによって特定形状を認識することができ、その領域内に文字情報が含まれていることを認識した場合には、この特定形状の領域を書画領域として特定する(ステップS24)。
When the document area is photographed at a reduced size, the
また、モニタ画像内に特定形状が含まれていてもその領域内に文字情報が含まれていない場合には(ステップS23でNO)、文字情報が小さ過ぎてそれを正確に認識することができなかった可能性があるため、ステップS25に移り、光学ズームの現在のセット状態をチェックし、ズームイン最大値(最大倍率)にセットされているかを調べ、ズームイン最大値未満であることを条件に、光学ズームを1段階だけズームイン駆動すると共に、フォーカス制御を行う(ステップS26)。そして、ズームイン直後のモニタ画像をカメラ撮影部7から取得して画像メモリ8にセットすると共に(ステップS27)、この画像メモリ8内のモニタ画像を解析し、特定形状の領域有無をチェックする(ステップS21、S22)。以下、1段階毎のズームイン駆動を繰り返すことによって、特定形状を認識することができ、その領域内に文字情報が含まれていることを認識することができた場合には、この特定形状の領域を書画領域として特定する(ステップS24)。
If the monitor image includes a specific shape but no character information is included in the area (NO in step S23), the character information is too small and can be accurately recognized. Since there is a possibility that it has not, the process proceeds to step S25, where the current set state of the optical zoom is checked, whether or not the zoom-in maximum value (maximum magnification) is set is checked, The optical zoom is zoomed in only by one stage, and focus control is performed (step S26). Then, the monitor image immediately after zooming in is acquired from the
なお、書画領域の特定が不可能な場合には(ステップS25/S29でYES)、図9のステップS31に移り、ズーム駆動を解除してその標準状態に戻した後、カメラ撮影部7からモニタ画像を取得して画像メモリ8にセットすると共に(ステップS32)、モニタ表示させる(ステップS33)。その後、ボタン操作待ちあるいは今回のモニタ表示から所定時間の経過待ち状態において(ステップS34、S35)、モードボタンMDが操作された際には(ステップS36)、書画モードからノーマルモードに切り換えを行った後(ステップS37)、図7のステップS2に移るが、所定時間が経過した際には、図8のステップS21に戻り、以下、同様の動作が行われる。 If the document area cannot be specified (YES in steps S25 / S29), the process proceeds to step S31 in FIG. 9 to cancel the zoom drive and return to the standard state. An image is acquired and set in the image memory 8 (step S32) and displayed on a monitor (step S33). Thereafter, in a state of waiting for button operation or waiting for a predetermined time from the current monitor display (steps S34 and S35), when the mode button MD is operated (step S36), the document mode is switched to the normal mode. Thereafter (step S37), the process proceeds to step S2 in FIG. 7. When a predetermined time has elapsed, the process returns to step S21 in FIG. 8, and the same operation is performed thereafter.
一方、書画領域を特定することができた場合において、図10のステップS51では、モニタ画像内で特定した書画領域の数を計数して1つか否かのチェックを行い、1つであれば、当該書画領域を撮影対象として特定する(ステップS52)。また、書画領域が複数存在している場合には、そのモニタ画像内の中央部に位置している書画領域の有無をチェックし(ステップS53)、当該する書画領域が有れば、これを撮影対象として特定するが(ステップS54)、モニタ画像の中央部に書画領域が存在していなければ、各書画領域の大きさを求めてそれらを比較し(ステップS55)、その最大サイズの書画領域を撮影対象として特定する(ステップS56)。このようにして撮影対象の書画領域を特定した後は、モニタ画像を固定表示(表示ロック)させた後に(ステップS57)、撮影対象の書画領域の輪郭部分を太線によって識別表示する(ステップS58)。 On the other hand, when the document area can be specified, in step S51 of FIG. 10, the number of the document areas specified in the monitor image is counted to check whether it is one. The document area is specified as a photographing target (step S52). If there are a plurality of document areas, the presence / absence of the document area located in the central portion of the monitor image is checked (step S53). Although it is specified as a target (step S54), if there is no document area at the center of the monitor image, the size of each document area is obtained and compared (step S55), and the maximum size document area is determined. It is specified as a shooting target (step S56). After the document area to be imaged is specified in this way, the monitor image is fixedly displayed (display locked) (step S57), and then the outline portion of the image area to be imaged is identified and displayed by a bold line (step S58). .
ここで、ボタン操作待ちあるいは今回のモニタ表示から所定時間の経過待ち状態において(ステップS59、S60)、モードボタンMDが操作された際には(ステップS61)、書画モードからノーマルモードに切り換えると共に、モニタ固定表示を解除した後(ステップS62)、図7のステップS2に移る。また、所定時間が経過した際には(ステップS60でYES)、モニタ固定表示を解除して(ステップS64)、カメラ撮影部7からモニタ画像を取得して画像メモリ8にセットすると共に(ステップS65)、モニタ表示させた後(ステップS66)、図8のステップS21に移る。また、レリーズボタンRSが操作された場合には(ステップS63でYES)、図11のステップS71に移り、光学ズーム、撮影方向を自動調整する処理が行われる。
Here, when the mode button MD is operated (Step S59, S60) while waiting for button operation or waiting for the elapse of a predetermined time from the current monitor display (Steps S59, S60) (Step S61), the document mode is switched to the normal mode. After canceling the monitor fixed display (step S62), the process proceeds to step S2 in FIG. When the predetermined time has elapsed (YES in step S60), the monitor fixed display is canceled (step S64), the monitor image is acquired from the
すなわち、光学ズームの現在のセット状態をチェックし、ズームイン倍率がその最大値未満であることを条件に(ステップS71)、光学ズームを1段階だけズームイン駆動すると共に、フォーカス制御を行う(ステップS72)。これによって書画領域が拡大撮影されると、CPU1は、ズームイン直後のモニタ画像をカメラ撮影部7から取得して画像メモリ8にセットすると共に(ステップS73)、この画像メモリ8内のモニタ画像を解析し、書画領域がモニタ画像枠から溢れたか(はみ出したか)否かをチェックし(ステップS74)、書画領域がモニタ画像枠内であれば(ステップS75でNO)、上述のステップS71に戻る。
That is, the current set state of the optical zoom is checked, and on condition that the zoom-in magnification is less than the maximum value (step S71), the optical zoom is zoomed in by one stage and the focus control is performed (step S72). . When the document area is enlarged and photographed in this way, the
以下、ズームイン倍率がその最大値に達するか(ステップS71)、書画領域がモニタ画像枠から溢れるまで(ステップS75)、光学ズームを1段階毎にズームイン駆動しながら画像メモリ8の書き込み画像を順次更新してゆく。ここで、書画領域がモニタ画像枠から溢れる前にズームイン倍率がその最大値に達した場合には(ステップS71でYES)、図12のステップS81に移るが、ズームイン倍率がその最大値に達する前に書画領域がモニタ画像枠から溢れた場合には(ステップS75でYES)、図3に示したように、書画領域の中心点を求めると共に、この書画領域の中心点とモニタ画像枠の原点とを比較することによって書画領域の偏り方向およびその偏り割合を求め(ステップS76)、この偏り割合が許容範囲内、つまり、書画領域がモニタ画像枠の中心部分にあるか否かをチェックすることによってモニタ画像に対して書画領域が最適な状態にあるか否かの判別を行う(ステップS77)。
Thereafter, until the zoom-in magnification reaches the maximum value (step S71) or until the document area overflows from the monitor image frame (step S75), the written image in the
この場合、例えば、図5(A)の画像を1段階ズームインすることによって図5(B)に示すように偏り割合が許容範囲を超えた際には(ステップS77でYES)、その偏り方向および偏り割合に応じて撮影方向の自動調整が行われる(ステップS78)。そして、ステップS73に戻り、撮影方向を自動調整した後のモニタ画像を取得して解析し、書画領域が溢れたかをチェックする。この場合、図5(C)に示すように、撮影方向を調整した後の書画領域がモニタ画像枠内に収まっている場合には、ズームイン最大値でないことを条件に更に1段階のズームインを行う。以下、書画領域がモニタ画像枠内に収まり、ズームイン最大値でないことを条件に1段階毎にズームインを行った結果、例えば、図5(E)に示すように、書画領域が溢れた場合には(ステップS75)、その偏り割合が許容範囲内であることを条件に(ステップS77)、1段階のズームアウトを行う(ステップS79)。これによって図5(E)の状態から図5(D)の状態に戻される。 In this case, for example, when the image of FIG. 5A is zoomed in one step and the deviation ratio exceeds the allowable range as shown in FIG. 5B (YES in step S77), the deviation direction and The photographing direction is automatically adjusted according to the deviation ratio (step S78). Then, the process returns to step S73, and the monitor image after the photographing direction is automatically adjusted is acquired and analyzed to check whether the document area overflows. In this case, as shown in FIG. 5 (C), when the document area after adjusting the photographing direction is within the monitor image frame, one more zoom-in is performed on condition that the zoom-in maximum value is not satisfied. . Hereinafter, when the document area is within the monitor image frame and the zoom-in is performed step by step on the condition that the zoom-in maximum value is not satisfied, for example, as shown in FIG. (Step S75) On the condition that the deviation ratio is within the allowable range (Step S77), one-stage zoom out is performed (Step S79). Thus, the state shown in FIG. 5E is returned to the state shown in FIG.
このようにして光学ズーム、撮影方向を自動調整することで書画領域を最適な状態にセットした後は、図12のステップS81に移ってカメラ撮影部7からモニタ画像を取得して画像メモリ8にセットすると共に、画像メモリ8から取得した画像データをワークメモリ(加工メモリ)3にセットした後(ステップS32)、この加工メモリ内において、その撮影画像全体を解析しながら書画領域を特定して書画領域の抽出を行う(ステップS83)。そして、CPU1は、抽出した書画領域に対して角度補正を施す(ステップS84)。例えば、長方形の名刺を撮影した際にその真上から撮影せず、斜め方向から撮影したものとすると、名刺の全体形状は、カメラ位置からの遠近差によって台形の状態で撮影されるが、このように書画領域が傾いて撮影された場合には、その傾きに応じて書画領域を回転させる角度補正を行う。図13(A)は、抽出した書画領域を示し、図13(B)は、角度補正後の画像を示している。次に、角度補正後の書画領域(台形)を元の方形(長方形)に補正する台形補正を施す(ステップS85)。図13(C)は、台形補正後の画像を示している。
After the optical zoom and the shooting direction are automatically adjusted in this way to set the document area to an optimum state, the process proceeds to step S81 in FIG. 12 to acquire a monitor image from the
この場合、台形の短辺(上辺に相当する部分)をその長辺(下辺に相当する部分)に合わせ込むために、書画領域を伸張して書画領域を元の方形(長方形)に補正する。このようにして書画領域のフォルム最適化処理が実行されると、補正後の方形の書画領域内からノイズ除去と共に、所定の画像情報(例えば、文字などの画像情報)を抽出するフィルタリング処理を実行し(ステップS87)、更には、抽出した画像情報を鮮明に読み取れるようにその色合いを補正する色調補正処理を実行する(ステップS88)。 In this case, in order to match the short side (portion corresponding to the upper side) of the trapezoid with the long side (portion corresponding to the lower side), the print region is expanded and the print region is corrected to the original rectangle (rectangle). When the form optimization process of the document area is executed in this way, a filtering process for extracting predetermined image information (for example, image information such as characters) is executed together with noise removal from the corrected rectangular document area. (Step S87), and further, a tone correction process is performed to correct the hue so that the extracted image information can be read clearly (Step S88).
そして、加工メモリ内の画像をモニタ表示した後(ステップS89)、ボタン操作有無をチェックする(ステップS90)。ここで、レリーズボタンRSが全押し操作された場合には(ステップS91でYES)、加工メモリ内の画像を直交変換方式に従ってデータ圧縮を行い、この圧縮画像を記録メディア4に記録保存させた後(ステップS92)、カメラ撮影部7からモニタ画像を取得して画像メモリ8にセットすると共に(ステップS94)、モニタ表示させる(ステップS95)。また、レリーズボタンRSが半押し操作された場合には(ステップS93でYES)、カメラ撮影部7からモニタ画像を取得して画像メモリ8にセットすると共に(ステップS94)、モニタ表示させる(ステップS95)。そして、図8のステップS21に移る。
Then, after the image in the processing memory is displayed on the monitor (step S89), the presence / absence of button operation is checked (step S90). Here, when the release button RS is fully pressed (YES in step S91), the image in the processing memory is subjected to data compression according to the orthogonal transformation method, and the compressed image is recorded and stored in the
以上のように、この実施例のデジタルスチルカメラにおいてCPU1は、書画モードとノーマルモードとを有し、書画モードにおいては、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定すると共に、この書画領域がモニタ画面上に識別表示されている状態で、この書画領域が撮影対象として指示された際に、この書画領域がモニタ画像の領域に対して所定の状態となるようにカメラ撮影部7の撮影制御部72を駆動制御して書画情報の撮影条件を変更するようにしたから、通常のカメラあるいは書画情報を撮影する書画カメラとして使用可能である他、書画カメラとして使用する際に、書画情報の撮影状態を慎重にマニュアル調整しなくても、書画情報を常に最適な状態で撮影できると共に、ユーザの意向を確認しながら撮影することができ、撮影者の負担を大幅に軽減し、更には、最適状態で撮影された画像に各種の補正を施す際に、その補正を正確に行うことが可能となる。
As described above, in the digital still camera of this embodiment, the
この場合、複数の書画領域が存在する場合に、CPU1は、この複数の書画領域のうち、最大サイズの書画領域を特定したり、モニタ画面の中央部に位置している書画領域を特定するようにしたから、モニタ画像内から書画領域を特定する際に、蓋然性の高い書画領域を自動特定することができる。
また、特定された書画領域をモニタ画面上で識別表示する際に、その領域の輪郭部分を識別表示するようにしたから、自動特定された書画領域を容易に確認することが可能となる。
In this case, when there are a plurality of document areas, the
Further, when the specified document area is identified and displayed on the monitor screen, the outline portion of the area is identified and displayed, so that the automatically specified document area can be easily confirmed.
一方、CPU1は、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する際に、書画領域を特定することができなかった場合には、光学系を駆動制御して書画情報の撮影条件を変更しながらモニタ画面内に書画領域が含まれているか否かを再特定する動作を繰り返し、その結果、書画領域を特定することができた場合には、特定された書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更するようにしたから、当初のモニタ画像で書画領域の特定が不可能でも特別な操作を行わず、書画領域の自動特定が可能である。この場合、再特定動作を繰り返しても書画領域を特定することができなかった場合には、光学系を駆動制御して標準の撮影条件に戻すようにしたから、書画情報の撮影を自動解除することができる。
On the other hand, when the
更に、CPU1は、モニタ画像を解析することによってモニタ画像内に所定形状の画像部分が含まれているか否かに基づいて書画領域を特定するようにしたから、名刺、葉書きなどの定型用紙、ホワイトボード、掲示板などの定型物を撮影したモニタ画像内から所定形状(例えば、四角形)を元に名刺、葉書き、ホワイトボードの撮影部分を書画領域として容易に特定することができる。また、モニタ画像を解析することによってモニタ画像内に文字列が含まれているか否かに基づいて書画領域を特定するようにしたから、文字情報が未記入の葉書き、ホワイトボード、掲示板などが偶然にあるいは誤って写っていたとしても、それを書画領域の対象外として処理することができ、書画領域の特定がより確実なものとなる。
Furthermore, the
この場合、CPU1は、書画領域がモニタ画像の領域内において偏った位置に存在している場合に、書画領域がモニタ画像領域の中心部分に位置するように、光学系を駆動制御して撮影方向を変更するようにしたから、書画領域を常に適正な位置で撮影することが可能となる。また、書画領域がモニタ画像領域の最大サイズに比べて小さい場合に、書画領域がモニタ画像領域内に収まり、かつ、その領域サイズと同等となるように、光学系を駆動制御して撮影倍率を変更するようにしたから、常に最大倍率での撮影が可能となる。
In this case, when the document area is located at a biased position in the monitor image area, the
そして、書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更した後において、変更された撮影条件下で撮影された書画領域内の画像を加工補正するようにしたから、歪みなどが補正された良質の画像を得ることができる。ここで、加工補正された書画領域内の画像がモニタ画面上に表示されている状態において、その画像の記録指示に従って当該画像を記録メディアに記録保存し、その画像の解除指示に従って当該書画領域を撮影対象外として解除するようにしたから、ユーザの意向を考慮することができる。 Then, after changing the shooting condition of the document information by driving the optical system so that the document area is in a predetermined state with respect to the monitor image area, the inside of the document area shot under the changed shooting condition Therefore, it is possible to obtain a high-quality image in which distortion and the like are corrected. Here, in a state where the image in the document area after the correction is displayed on the monitor screen, the image is recorded and saved on a recording medium according to the recording instruction of the image, and the document area is stored according to the cancellation instruction of the image. Since it was canceled as a non-shooting target, the user's intention can be taken into consideration.
また、自動調整された撮影条件下で書画情報が撮影された際に、この撮影画像を解析することによって書画領域の全体が方形となるように、その形状を補正するフォルム最適化処理を実行するようにしたから、良質の画像を記録保存することができ、また、フォルム最適化処理によって補正された方形の書画領域内から所定の画像情報を抽出するフィルタリング処理を実行するようにしたから、所定の画像情報だけを記録保存することができる。 In addition, when document information is photographed under automatically adjusted photographing conditions, a form optimization process is performed to correct the shape of the document region so that the entire document region becomes a square by analyzing the photographed image. As a result, a high-quality image can be recorded and saved, and a filtering process for extracting predetermined image information from the rectangular document region corrected by the form optimization process is executed. Only image information can be recorded and saved.
なお、上述した実施例においては、モニタ画像内の書画領域を特定する際に、予め設定されている名刺、葉書き、カタログ、ホワイトボードなどの形状特性(例えば、四角形)、背景色を参照し、この形状特性、背景色に合致する画像部分を書画領域として特定するようにしたが、領域の形状、その背景色に限らず、例えば、領域の構成特性などを書画領域の特徴情報として設定するようにしてもよい。また、書画領域を特定する際に、形状特性と共に、その形状領域内に文字情報が含まれているか否かを判別するようにしたが、書画情報は、文字情報に限らず、記号、図形、写真等の画像等であってもよい。 In the above-described embodiment, when specifying the document area in the monitor image, reference is made to a preset shape characteristic (e.g., quadrangle) and background color such as business cards, postcards, catalogs, and whiteboards. The image portion matching the shape characteristic and the background color is specified as the document area. However, not only the shape of the area and the background color but also, for example, the region configuration characteristic is set as the characteristic information of the document area. You may do it. In addition, when specifying the document area, it is determined whether or not the character information is included in the shape area together with the shape characteristics. However, the document information is not limited to the character information, but includes symbols, figures, It may be an image such as a photograph.
上述した実施例においては、レンズの向きを駆動制御して撮影方向を自動変更したり、光学ズームを駆動制御して撮影倍率を自動変更するようにしたが、光学系の駆動制御としては、その他に、絞りを駆動制御して露出を自動変更するようにしてもよい。 In the above-described embodiments, the shooting direction is automatically changed by driving and controlling the lens direction, or the shooting magnification is automatically changed by driving and controlling the optical zoom. Further, the exposure may be automatically changed by driving the aperture.
上述した実施例においては、自動調整後の撮影条件下で実撮影された画像を記録保存する際に、書画領域内から抽出した画像のみを記録保存するようにしたが、自動調整後の撮影条件下で実撮影された撮影画像の全体を記録保存したり、この撮影画像から抽出した書画領域のみを記録保存するようにしてもよい。 In the above-described embodiment, when recording and saving an image actually taken under the shooting conditions after automatic adjustment, only the image extracted from the document area is recorded and saved. The entire photographed image actually taken below may be recorded and saved, or only the document area extracted from this photographed image may be recorded and saved.
上述した実施例においては、フォルム最適化処理を実行した後、このフォルム最適化処理によって補正された方形の書画領域内から所定の画像情報を抽出するフィルタリング処理を実行すると共に、抽出した画像情報を鮮明に読み取れるようにその色合いを補正する色調補正処理を実行するようにしたが、フィルタリング処理、色調補正処理をパーソナルコンピュータなどの他の電子機器で行うようにしてもよい。 In the embodiment described above, after performing the form optimization process, the filtering process for extracting predetermined image information from the rectangular document region corrected by the form optimization process is performed, and the extracted image information is Although the color tone correction process for correcting the color tone so that it can be read clearly is executed, the filtering process and the color tone correction process may be performed by another electronic device such as a personal computer.
更に、上述した実施例においては、商談会、報告会、審議会などでの各種の資料、名刺、葉書き、カタログ、ホワイトボードなどを撮影対象とするビジネスミーティング用の携帯型書画カメラに適用した場合を示したが、プロジェクターのオプションとして、その書画台にアームを介して取り付けた書画カメラであってもよい。この場合、プロジェクターから書画カメラを取り外し可能として、ホワイトボードなどを撮影可能としてもよく、更には、ビジネスミーティング用に限らず、一般用など、任意の用途にも適用可能であることは勿論である。 Furthermore, in the above-described embodiment, the present invention is applied to a portable document camera for a business meeting for photographing various materials, business cards, postcards, catalogs, whiteboards, etc. at business meetings, debriefings, and councils. Although the case has been shown, as a projector option, a document camera attached to the document table via an arm may be used. In this case, the document camera can be removed from the projector, and a whiteboard or the like may be photographed. Furthermore, it is of course applicable not only for business meetings but also for general purposes. .
一方、コンピュータに対して、上述した各手段を実行させるためのプログラムコードをそれぞれ記録した記録媒体(例えば、CD−ROM、フレキシブルディスク、RAMカード等)を提供するようにしてもよい。すなわち、コンピュータが読み取り可能なプログラムコードを有する記録媒体であって、書画撮影モードにおいて、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する機能と、特定された書画領域がモニタ画面上に識別表示する機能と、書画領域が識別表示されている状態において、この書画領域が撮影対象として指示された際、この書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する機能とを実現させるためのプログラムを記録したコンピュータが読み取り可能な記録媒体を提供するようにしてもよい。 On the other hand, a recording medium (for example, a CD-ROM, a flexible disk, a RAM card, etc.) on which program codes for executing the above-described units are recorded may be provided to the computer. That is, a recording medium having a program code that can be read by a computer, and in a document shooting mode, a function for specifying an area including document information in a monitor image by analyzing the monitor image as a document area A function for identifying and displaying the document area on the monitor screen and when the document area is instructed to be photographed when the document area is identified and displayed, the document area is in a predetermined state with respect to the monitor image area. It is also possible to provide a computer-readable recording medium that records a program for realizing a function of changing the photographing condition of the document information by driving and controlling the optical system.
また、コンピュータが読み取り可能なプログラムコードを有する記録媒体であって、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する機能と、光学系を駆動制御して書画情報の撮影条件を変更する機能と、書画領域を特定することができなかった場合に、光学系を駆動制御して書画情報の撮影条件を変更しながらモニタ画面内に書画領域が含まれているか否かを再特定する動作を繰り返し、その結果、書画領域を特定することができた場合には、特定された書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する機能とを実現させるためのプログラムを記録したコンピュータが読み取り可能な記録媒体を提供するようにしてもよい。 In addition, a computer-readable recording medium having a program code, the monitor image is analyzed to specify a region including the document information in the monitor image as a document region, and the optical system is driven to control the document Whether the document area is included in the monitor screen while changing the shooting condition of the document information by controlling the optical system when the function to change the shooting condition of the information and the document area cannot be specified If the document area can be identified as a result, the optical system is driven so that the identified document area is in a predetermined state with respect to the monitor image area. You may make it provide the computer-readable recording medium which recorded the program for implement | achieving the function to control and change the imaging conditions of document information.
1 CPU
2 記憶部
4 記録メディア
5 操作部
6 表示部
7 カメラ撮影部
8 画像メモリ
72 撮影制御部
73 撮像処理部
ST シャッターボタン
MD モードボタン
1 CPU
2
Claims (14)
前記書画撮影モードにおいて、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する特定手段と、
この特定手段によって特定された書画領域がモニタ画面上に識別表示する識別表示手段と、
この識別表示手段によって書画領域が識別表示されている状態において、この書画領域が撮影対象として指示された際、この書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する制御手段と、
を具備したことを特徴とする電子カメラ。 An electronic camera having a document shooting mode for shooting document information and a standard shooting mode for shooting an arbitrary subject,
In the document photographing mode, a specifying unit that identifies a region including the document information in the monitor image as a document region by analyzing the monitor image;
Identification display means for identifying and displaying the document area specified by the specifying means on the monitor screen;
When the document area is identified and displayed by the identification display means, the optical system is driven so that when the document area is instructed as an object to be photographed, the document area is in a predetermined state with respect to the monitor image area. Control means for controlling and changing the shooting conditions of the document information;
An electronic camera comprising:
ようにしたことを特徴とする請求項1記載の電子カメラ。 The specifying unit specifies a document area having a maximum size among the plurality of document areas when there are a plurality of document areas.
The electronic camera according to claim 1, which is configured as described above.
ようにしたことを特徴とする請求項1記載の電子カメラ。 The specifying means specifies a document area located in a central portion of the monitor screen among the plurality of document areas when there are a plurality of document areas.
The electronic camera according to claim 1, which is configured as described above.
ようにしたことを特徴とする請求項1記載の電子カメラ。 The identification display means, when identifying and displaying the specified document area on the monitor screen, to identify and display the outline portion of the area,
The electronic camera according to claim 1, which is configured as described above.
モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する特定手段と、
光学系を駆動制御して書画情報の撮影条件を変更する制御手段と、
を具備し、前記特定手段によって書画領域を特定することができなかった場合に、前記制御手段によって光学系を駆動制御して書画情報の撮影条件を変更しながらモニタ画面内に書画領域が含まれているか否かを再特定する動作を繰り返し、その結果、書画領域を特定することができた場合には、特定された書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する、
ようにしたことを特徴とする電子カメラ。 An electronic camera for photographing document information,
A specifying means for specifying a region including the document information in the monitor image as a document region by analyzing the monitor image;
Control means for changing the photographing condition of the document information by driving and controlling the optical system;
When the document area cannot be specified by the specifying means, the monitor area includes the document area while changing the photographing condition of the document information by driving the optical system by the control means. If the document area can be specified as a result, the optical system is set so that the specified document area is in a predetermined state with respect to the monitor image area. To change the shooting conditions for document information,
An electronic camera characterized by that.
ようにしたことを特徴とする請求項1あるいは請求項5記載の電子カメラ。 The specifying means specifies a document area based on whether or not an image portion of a predetermined shape is included in the monitor image by analyzing the monitor image;
6. The electronic camera according to claim 1, wherein the electronic camera is configured as described above.
ようにしたことを特徴とする請求項1あるいは請求項5記載の電子カメラ。 The specifying means specifies a document area based on whether or not a character string is included in the monitor image by analyzing the monitor image;
6. The electronic camera according to claim 1, wherein the electronic camera is configured as described above.
ようにしたことを特徴とする請求項1あるいは請求項5記載の電子カメラ。 The control means drives and controls the optical system so that the photographing direction is located in the central portion of the monitor image area when the document area is located at a biased position in the monitor image area. change,
6. The electronic camera according to claim 1, wherein the electronic camera is configured as described above.
ようにしたことを特徴とする請求項1あるいは請求項5記載の電子カメラ。 When the document area is smaller than the maximum size of the monitor image area, the control means drives and controls the optical system so that the document area is within the monitor image area and is equal to the area size. Change the magnification,
6. The electronic camera according to claim 1, wherein the electronic camera is configured as described above.
ようにしたことを特徴とする請求項10記載の電子カメラ。 In a state where the image in the document area processed by the correction processing means is displayed on the monitor screen, the image is recorded and stored on the recording medium in accordance with the recording instruction of the image, and the document area in accordance with the instruction to release the image To cancel
The electronic camera according to claim 10, which is configured as described above.
ようにしたことを特徴とする請求項5記載の電子カメラ。 If the document area cannot be specified even after repeating the re-specification operation, the optical system is driven and returned to the standard shooting conditions.
6. The electronic camera according to claim 5, wherein the electronic camera is configured as described above.
書画撮影モードにおいて、モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する機能と、
特定された書画領域がモニタ画面上に識別表示する機能と、
書画領域が識別表示されている状態において、この書画領域が撮影対象として指示された際、この書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する機能と、
を実現させるためのプログラム。 Against the computer,
In the document shooting mode, by analyzing the monitor image, a function for specifying an area including the document information in the monitor image as a document area;
A function for identifying and displaying the specified document area on the monitor screen;
When the document area is identified and displayed, when the document area is instructed to be photographed, the optical system is driven and controlled so that the document area is in a predetermined state with respect to the monitor image area. A function to change the shooting conditions of
A program to realize
モニタ画像を解析することによってモニタ画像内に書画情報を含む領域を書画領域として特定する機能と、
光学系を駆動制御して書画情報の撮影条件を変更する機能と、
書画領域を特定することができなかった場合に、光学系を駆動制御して書画情報の撮影条件を変更しながらモニタ画面内に書画領域が含まれているか否かを再特定する動作を繰り返し、その結果、書画領域を特定することができた場合には、特定された書画領域がモニタ画像の領域に対して所定の状態となるように光学系を駆動制御して書画情報の撮影条件を変更する機能と、
を実現させるためのプログラム。
Against the computer,
A function for identifying an area including document information in the monitor image as a document area by analyzing the monitor image;
A function to drive and control the optical system to change the shooting conditions of document information;
When the document area cannot be specified, the optical system is driven and controlled to change the shooting condition of the document information and repeat the operation to re-specify whether or not the document area is included in the monitor screen. As a result, when the document area can be specified, the optical system is driven and controlled so that the specified document area is in a predetermined state with respect to the monitor image area, thereby changing the shooting condition of the document information. Function to
A program to realize
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004129217A JP4232682B2 (en) | 2004-04-26 | 2004-04-26 | Electronic camera and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004129217A JP4232682B2 (en) | 2004-04-26 | 2004-04-26 | Electronic camera and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005311925A JP2005311925A (en) | 2005-11-04 |
JP4232682B2 true JP4232682B2 (en) | 2009-03-04 |
Family
ID=35440140
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004129217A Expired - Fee Related JP4232682B2 (en) | 2004-04-26 | 2004-04-26 | Electronic camera and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4232682B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016167311A (en) * | 2012-01-17 | 2016-09-15 | シャープ株式会社 | Image processing apparatus and image processing method |
-
2004
- 2004-04-26 JP JP2004129217A patent/JP4232682B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005311925A (en) | 2005-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4761146B2 (en) | Imaging apparatus and program thereof | |
US8102465B2 (en) | Photographing apparatus and photographing method for photographing an image by controlling light irradiation on a subject | |
KR100664565B1 (en) | Digital camera | |
CN102739962A (en) | Image processing device capable of generating wide-range image | |
JP4380644B2 (en) | Electronic camera device | |
JP2006094082A (en) | Image photographing device, and program | |
JP5013282B2 (en) | Imaging apparatus and program | |
JP4717867B2 (en) | Imaging apparatus and imaging method | |
JP4254604B2 (en) | Electronic camera and program | |
KR100816949B1 (en) | Optimal-state image pickup camera | |
JP4978724B2 (en) | Imaging apparatus and program | |
JP4232682B2 (en) | Electronic camera and program | |
JP2006203732A (en) | Digital camera, portrait/landscape aspect photographing switching method and program | |
JP2006128793A (en) | Image pickup device and control method thereof | |
JP4404200B2 (en) | Imaging apparatus and image file generation program | |
JP4418344B2 (en) | camera | |
JP2005341016A (en) | Camera apparatus and program | |
JP4355853B2 (en) | Image photographing apparatus and program | |
JP2004208281A (en) | Image correction apparatus and imaging unit | |
JP2006253761A (en) | Imaging device and program | |
JP2008178031A (en) | Imaging apparatus | |
JP2016004157A (en) | Image display device, image display method, and program | |
JP2006067278A (en) | Information terminal | |
JP2010009057A (en) | Camera | |
JP2006293123A (en) | Projector |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20060209 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060314 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061106 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061226 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080519 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081106 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081118 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081201 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111219 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111219 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121219 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121219 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131219 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |