JP4260718B2 - Portable device with photographing function and computer program - Google Patents

Portable device with photographing function and computer program Download PDF

Info

Publication number
JP4260718B2
JP4260718B2 JP2004297236A JP2004297236A JP4260718B2 JP 4260718 B2 JP4260718 B2 JP 4260718B2 JP 2004297236 A JP2004297236 A JP 2004297236A JP 2004297236 A JP2004297236 A JP 2004297236A JP 4260718 B2 JP4260718 B2 JP 4260718B2
Authority
JP
Japan
Prior art keywords
alarm
evaluation value
stopping
generating
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004297236A
Other languages
Japanese (ja)
Other versions
JP2006114957A (en
Inventor
武市 谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Ericsson Mobile Communications Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Ericsson Mobile Communications Japan Inc filed Critical Sony Ericsson Mobile Communications Japan Inc
Priority to JP2004297236A priority Critical patent/JP4260718B2/en
Publication of JP2006114957A publication Critical patent/JP2006114957A/en
Application granted granted Critical
Publication of JP4260718B2 publication Critical patent/JP4260718B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、アラーム機能および撮影機能を備えた携帯装置およびその上で動作するコンピュータプログラムに関する。   The present invention relates to a portable device having an alarm function and a photographing function, and a computer program that operates on the portable device.

携帯電話機のような携帯装置には、一般に、目覚まし等のために、設定した時刻にアラーム音などのアラームを発生するアラーム機能が標準的に付属している。ユーザがアラームを発生させたい時刻を設定して、アラーム機能をオンにすると、その時刻の到来時にアラーム音が所定の時間継続して発生する。通常、このアラーム音を当該所定の時間の経過前に停止させるには、携帯装置のいずれかのボタンを押下する。   In general, a portable device such as a cellular phone is normally provided with an alarm function for generating an alarm such as an alarm sound at a set time for alarming. When the user sets a time at which an alarm is to be generated and turns on the alarm function, an alarm sound is continuously generated for a predetermined time when the time arrives. Usually, in order to stop the alarm sound before the predetermined time elapses, any button of the portable device is pressed.

特許文献1には、アラームの時刻設定および事前設定解除をアラーム設定者本人のみが行えるように、指紋センサを用いて、予め登録された本人の指紋と必要時に読み取られた指紋とを比較し、両者が一致したとき当該設定および解除を可能とする目覚まし時計が開示されている。
特開2002−250785号
Patent Document 1 compares a fingerprint of a registered person in advance with a fingerprint read when necessary using a fingerprint sensor so that only the alarm setter can perform alarm time setting and pre-setting cancellation. An alarm clock is disclosed that enables the setting and cancellation when the two match.
JP 2002-250785 A

ところで、例えば、目覚ましとしてアラームを設定している場合、ボタン押下で簡単にアラーム解除できると、ユーザは十分に覚醒する前に無意識にアラームを解除し、その後再度寝入ってしまうような場合がある。このような場合、折角のアラーム設定が無意味となってしまう。   By the way, for example, when an alarm is set as an alarm, if the alarm can be easily canceled by pressing a button, the user may unconsciously cancel the alarm before sufficiently awakening and then fall asleep again. In such a case, the corner alarm setting becomes meaningless.

上記特許文献1に記載の技術は、予め登録した本人以外のユーザがアラームの設定や解除を行えないようにすることを主眼とするものであり、アラームの効果が確実となるまではアラームが停止しないようにするものではない。   The technique described in Patent Document 1 is intended to prevent users other than the registered person from setting or canceling the alarm, and the alarm is stopped until the effect of the alarm is assured. It's not something you don't want to do.

本発明はこのような背景においてなされたものであり、その目的は、撮影機能付き携帯装置の撮影機能を有効に利用して、アラームの効果が確実となるまではアラームが停止しないようにすることができる撮影機能付き携帯装置およびその上で動作するコンピュータプログラムを提供することにある。   The present invention has been made in such a background, and an object thereof is to effectively use the photographing function of the portable device with the photographing function so that the alarm does not stop until the effect of the alarm is assured. It is an object of the present invention to provide a portable device with a photographing function and a computer program that operates on the portable device.

本発明による撮影機能付き携帯装置は、予めアラームを発生させる時刻を設定するタイマ手段と、前記タイマ手段からの指示に応じてアラームを発生するアラーム発生手段と、デジタル撮像手段と、前記デジタル撮像手段で得られた画像データに基づいて評価値を生成する評価値生成手段と、アラームの発生後に、前記評価値生成手段により生成された評価値を所定の閾値と比較し、前記評価値が閾値以上となったとき前記アラーム発生手段のアラームを停止させる比較手段とを備えたことを特徴とする。   A portable device with a photographing function according to the present invention includes timer means for setting a time for generating an alarm in advance, alarm generating means for generating an alarm in response to an instruction from the timer means, digital imaging means, and digital imaging means An evaluation value generating means for generating an evaluation value based on the image data obtained in step (b), and comparing the evaluation value generated by the evaluation value generating means with a predetermined threshold after the occurrence of an alarm, and the evaluation value is greater than or equal to the threshold Comparing means for stopping the alarm of the alarm generating means when the alarm occurs is provided.

この構成では、タイマ手段に設定された時刻にアラーム発生手段からアラームが発生する。このアラームの発生時に携帯装置のユーザは、デジタル撮像手段で所定の被写体を撮影する。この撮影により得られた画像データに基づいて評価値生成手段により評価値が生成される。比較手段によりこの評価値が所定の閾値と比較され、評価値が閾値以上となったとき、アラームを停止させる。すなわち、撮影された被写体等の条件が所定の撮影条件を満たしたとき、アラームが停止する。その結果、ユーザはアラームを停止させるために、当該所定の撮影条件を満足するための撮影操作を行う必要があり、その過程で十分なアラームの効果(例えば目覚ましを目的とするアラーム時の十分な覚醒)が発揮される。   In this configuration, an alarm is generated from the alarm generation means at the time set in the timer means. When this alarm occurs, the user of the portable device photographs a predetermined subject with the digital imaging means. An evaluation value is generated by the evaluation value generation means based on the image data obtained by this photographing. The evaluation value is compared with a predetermined threshold value by the comparison means, and the alarm is stopped when the evaluation value becomes equal to or greater than the threshold value. That is, the alarm is stopped when the condition of the photographed subject or the like satisfies a predetermined photographing condition. As a result, in order to stop the alarm, the user needs to perform a shooting operation for satisfying the predetermined shooting condition, and in the process, a sufficient alarm effect (for example, a sufficient alarm at the time of alarm for alarming) Awakening) is demonstrated.

アラームを停止させるための前記デジタル撮像手段による撮影の条件をユーザに知らしめるメッセージ出力手段を備えてもよい。ユーザはアラーム発生時にアラームを停止させるためにそのメッセージを確認する必要がある。例えば、メッセージ出力が表示により行われる場合、ユーザは目を開けてそのメッセージを確認する必要がある。これはユーザが撮影条件を知らないときに、あるいは、後述するようにアラームの発生の度に使用すべき撮影の条件が切り替えられる場合に特に有効である。   You may provide the message output means which notifies a user of the conditions of imaging | photography by the said digital imaging means for stopping an alarm. The user needs to confirm the message to stop the alarm when the alarm occurs. For example, when message output is performed by display, the user needs to open the eyes and check the message. This is particularly effective when the user does not know the shooting conditions or when the shooting conditions to be used are switched every time an alarm occurs as will be described later.

発生したアラームを停止させるためのキーの操作を無効化するキーロック手段を備えてもよい。これにより、撮影によらずにアラームが容易に停止されることが防止される。   You may provide the key lock means which invalidates operation of the key for stopping the alarm which generate | occur | produced. This prevents the alarm from being easily stopped regardless of shooting.

前記キーロック手段は、アラームの発生後、所定の時間の経過後に前記キーの操作の無効化を解除するようにしてもよい。これにより、撮影による停止ができない場合に手動によるアラーム停止が可能となる。   The key lock means may cancel the invalidation of the operation of the key after a predetermined time has elapsed after the occurrence of the alarm. As a result, it is possible to manually stop the alarm when it cannot be stopped by photographing.

前記撮影の条件が複数用意され、ユーザの選択に供せられるようにしてもよい。これにより、個々のユーザにあった撮影の条件を設定できる。   A plurality of shooting conditions may be prepared for use by the user. This makes it possible to set shooting conditions suitable for individual users.

あるいは複数の条件の中から、アラームの発生の度に使用すべき撮影の条件が切り替えられるようにしてもよい。これにより、ユーザが毎回同じ撮影条件に慣れてしまうことが防止される。   Alternatively, a shooting condition to be used every time an alarm is generated may be switched from a plurality of conditions. This prevents the user from getting used to the same shooting conditions each time.

本発明によるコンピュータプログラムとしても把握される。すなわち、このコンピュータプログラムは、撮影機能付き携帯装置において実行されるコンピュータプログラムであって、アラームの発生時に撮影機能を起動するステップと、得られた画像データに基づいて評価値を生成するステップと、生成された評価値を所定の閾値と比較するステップと、前記評価値が閾値以上となったときアラームを停止させるとともに撮影機能を停止させるステップとを実行する。   It can also be understood as a computer program according to the present invention. That is, this computer program is a computer program executed in a portable device with a photographing function, the step of starting a photographing function when an alarm occurs, the step of generating an evaluation value based on the obtained image data, A step of comparing the generated evaluation value with a predetermined threshold value and a step of stopping the alarm function and stopping the photographing function when the evaluation value exceeds the threshold value are executed.

本発明によれば、アラーム停止の条件として、ユーザが所定の撮影条件での撮影操作を行うことを要求することにより、アラームの効果が確実となるまではアラームが停止しないようにすることができる。例えば、目覚ましを目的とするアラームの場合、アラーム停止のための撮影の過程で十分に覚醒することが期待される。また、現在、撮影機能付き携帯装置は広く普及しており、その撮影機能を有効に利用して、本発明を容易に実現することができる。   According to the present invention, it is possible to prevent the alarm from stopping until the effect of the alarm is assured by requesting the user to perform a shooting operation under a predetermined shooting condition as the alarm stop condition. . For example, in the case of an alarm for the purpose of alarming, it is expected that the user will be sufficiently awakened during the shooting process for stopping the alarm. At present, portable devices with a photographing function are widely used, and the present invention can be easily realized by effectively utilizing the photographing function.

以下、本発明の好適な実施の形態について図面を参照しながら詳細に説明する。   DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments of the invention will be described in detail with reference to the drawings.

まず、図1に本発明が適用される撮影機能付き携帯装置100(ここでは携帯電話機)のハードウェア構成例を示す。撮影機能付き携帯装置100は、制御部102、通信回路103、表示部104、操作部105、メモリ106、画像処理部107および時計部108を有し、これらの各部は制御ライン150で相互に接続されている。制御ライン150は、制御部102からの制御信号など、制御データを転送する伝送ラインである。また、スピーカ111、マイク112および撮像制御部113はデータライン160を介して相互に接続されている。データライン160には、通信回路103、表示部104も接続されている。データライン160は、音声データなどデータを転送する伝送ラインである。   First, FIG. 1 shows a hardware configuration example of a mobile device 100 with a photographing function (a mobile phone here) to which the present invention is applied. The portable device 100 with a photographing function includes a control unit 102, a communication circuit 103, a display unit 104, an operation unit 105, a memory 106, an image processing unit 107, and a clock unit 108, and these units are connected to each other through a control line 150. Has been. The control line 150 is a transmission line that transfers control data such as a control signal from the control unit 102. In addition, the speaker 111, the microphone 112, and the imaging control unit 113 are connected to each other via the data line 160. A communication circuit 103 and a display unit 104 are also connected to the data line 160. The data line 160 is a transmission line for transferring data such as audio data.

制御部102は、CPU等を含み、プログラム制御により装置各部を制御する。通信回路103は、アンテナ101に接続され、このアンテナ101を介して基地局(図示せず)に接続され、通話およびデータ通信のための電波による無線通信を行う。表示部104は、液晶ディスプレイ、有機ELディスプレイ等の表示デバイスにより構成され、テキストや画像等、視覚的な情報をユーザに提供する。操作部105は、テンキーを始め、通話キー、電源キー、クリアキー等、各種の操作キー、ジョグダイヤル等を含み、装置に対するユーザの操作を受け付ける。メモリ106は、制御部102で実行される制御プログラムの記憶領域、後述する画像データ、評価値、閾値等を含む各種データの記憶領域、作業領域等を提供する記憶部である。メモリ106の少なくとも一部は電源オフ時にも記憶内容を保持する不揮発性メモリを含む。この不揮発性メモリの少なくとも一部はユーザデータ等(撮影画像データ、メールデータ等を含む)を不揮発的に保持する再書き込み可能な不揮発性メモリを含む。画像処理部107は、カメラ114で撮影された画像を処理する機能部であり、本発明における評価値の生成も行う。時計部108は、装置内の基準クロック(図示せず)を基に日時情報を生成する機能部であり、本実施の形態におけるアラームのためのタイマ機能も提供する。   The control unit 102 includes a CPU and the like, and controls each unit of the apparatus by program control. The communication circuit 103 is connected to an antenna 101, is connected to a base station (not shown) via the antenna 101, and performs radio communication using radio waves for calling and data communication. The display unit 104 includes a display device such as a liquid crystal display or an organic EL display, and provides visual information such as text and images to the user. The operation unit 105 includes a numeric keypad, various call keys such as a call key, a power key, and a clear key, a jog dial, and the like, and accepts user operations on the apparatus. The memory 106 is a storage unit that provides a storage area for a control program executed by the control unit 102, a storage area for various data including image data, evaluation values, threshold values, and the like, which will be described later, and a work area. At least a part of the memory 106 includes a nonvolatile memory that retains stored contents even when the power is turned off. At least a part of the nonvolatile memory includes a rewritable nonvolatile memory that holds user data and the like (including photographed image data and mail data) in a nonvolatile manner. The image processing unit 107 is a functional unit that processes an image captured by the camera 114, and also generates an evaluation value in the present invention. The clock unit 108 is a functional unit that generates date and time information based on a reference clock (not shown) in the apparatus, and also provides a timer function for an alarm in the present embodiment.

スピーカ111はユーザに対して通話時の音声出力、着信音や着信メロディおよび音声メッセージの放音を行う機能部であり、通常、通話時音声出力と着信音等の出力とには別々の音声出力デバイスが設けられる。マイク112は音声通話等のためのユーザの発声した音声を電気信号に変換する機能部である。撮像制御部113は、制御部102の制御下で、CCD等の撮像素子を有するカメラ114を制御する。カメラ114は、撮像制御部113の制御下で、入力された光学像をデジタル画像信号に変換して撮像制御部113へ出力する。   The speaker 111 is a functional unit that outputs voice during a call to a user, and emits a ringtone, a ringtone, and a voice message. Usually, the voice output during a call and the output of the ringtone and the like are different voice outputs. A device is provided. The microphone 112 is a functional unit that converts a voice uttered by a user for a voice call or the like into an electric signal. The imaging control unit 113 controls the camera 114 having an imaging element such as a CCD under the control of the control unit 102. The camera 114 converts the input optical image into a digital image signal and outputs the digital image signal to the imaging control unit 113 under the control of the imaging control unit 113.

図2は、本実施の形態における図1の携帯装置100の機能ブロック図である。   FIG. 2 is a functional block diagram of the portable device 100 of FIG. 1 in the present embodiment.

本実施の形態において、撮像部(デジタル撮像手段)11は図1のカメラ114および撮像制御部113に相当し、撮影画像データを生成する。評価値生成部12は図1の画像処理部107に相当し、撮影条件に応じた評価値を生成する。撮影条件および評価値については後述する。閾値記憶部14は、図1のメモリ106に相当し、その評価値の撮影条件に対応して予め記憶された閾値を記憶する。比較部13は、図1の制御部102に相当し、評価値生成部12で生成された評価値と閾値記憶部14の閾値とを比較し、評価値が閾値以上となったとき後述するアラーム発生部16に対して停止信号を出力する。タイマ部15は、図1の時計部108に相当し、アラームの設定時刻(または日時)に対して計時を行い、設定時刻の到来時に起動信号を出力する。アラーム発生部16は、例えば図1の制御部102およびスピーカ111に相当し、設定された時間の間、タイマ部15からの起動信号に応じてアラーム(この例ではアラーム音)を発生する。タイマ部15の起動信号はCPUへの割込み信号として利用し、CPUからアラーム発生部16を起動するようにしてもよい。アラーム停止撮影条件メッセージ出力部17は、制御部102および表示部104に相当し、アラームを停止するための撮影条件をユーザに知らしめるためのメッセージを表示する。表示に代えて、または表示に加えて、アラーム音として当該メッセージを音声出力することも可能である。なお、アラーム停止撮影条件が固定的に定まっている場合には、メッセージの出力は必ずしも必要ではない。   In the present embodiment, the imaging unit (digital imaging unit) 11 corresponds to the camera 114 and the imaging control unit 113 in FIG. 1 and generates captured image data. The evaluation value generation unit 12 corresponds to the image processing unit 107 in FIG. 1 and generates an evaluation value according to the shooting conditions. Imaging conditions and evaluation values will be described later. The threshold storage unit 14 corresponds to the memory 106 in FIG. 1 and stores a threshold stored in advance corresponding to the imaging condition of the evaluation value. The comparison unit 13 corresponds to the control unit 102 in FIG. 1, compares the evaluation value generated by the evaluation value generation unit 12 with the threshold value of the threshold value storage unit 14, and an alarm described later when the evaluation value becomes equal to or greater than the threshold value. A stop signal is output to the generator 16. The timer unit 15 corresponds to the clock unit 108 in FIG. 1, measures the time for the alarm set time (or date and time), and outputs a start signal when the set time arrives. The alarm generation unit 16 corresponds to, for example, the control unit 102 and the speaker 111 of FIG. 1 and generates an alarm (in this example, an alarm sound) in accordance with an activation signal from the timer unit 15 for a set time. The activation signal of the timer unit 15 may be used as an interrupt signal to the CPU, and the alarm generation unit 16 may be activated from the CPU. The alarm stop shooting condition message output unit 17 corresponds to the control unit 102 and the display unit 104, and displays a message for informing the user of shooting conditions for stopping the alarm. It is also possible to output the message as an alarm sound instead of or in addition to the display. When the alarm stop shooting conditions are fixed, it is not always necessary to output a message.

ここで、本実施の形態における撮影条件および評価値について説明する。アラームの停止のためにユーザに要求される撮影条件としては、次のようなものが挙げられる。
(1)特定の形状を含む被写体を撮影すること
特定の形状とは、例えば、テレビ画面のような四角の形状、時計の輪郭の丸い形状、等である。撮影画像データの画像処理により、目的の形状との類似度を求め、これを評価値とすることができる。このような画像処理は既存の技術を用いて実現可能である。
(2)特定の色を主体とする被写体を撮影すること
特定の色を主体とする被写体とは、撮影領域の大部分が予め定めた特定の色(例えば、赤、青等)となるような被写体(例えば衣服やカーテン等)である。例えば、全撮影領域に対する特定の色の存在する領域の比率を評価値とすることができる。この撮影条件を用いる場合、ユーザは予めそのような被写体が身近にあることを確認しておく必要がある。
(3)所定の明るさ以上の被写体を撮影すること
所定の明るさとは、例えば室内の電灯などの照明器具を点灯させることにより被写体の明るさ(照度)を所定レベル以上に上げた状態を示す。評価値は撮影された被写体の撮影画像の平均的な明るさに基づいて生成することができる。すなわち、ストロボ発光を行わない場合に撮影画像の平均的な輝度値に基づいて判断することができる。カメラが自動ストロボ発光モードに設定されている場合、ストロボ発光を行うか否かの判断結果を用いて被写体の明るさを判断することもできる。
(4)予め登録された基準となる被写体を撮影すること
ユーザ本人の目を開いた顔を撮影してその撮影画像を登録しておき、アラーム停止時に、同じくユーザ本人の目を開いた顔を撮影することを条件とするものである。評価値としては登録画像と撮影画像の類似度を画像処理により求める。このような画像処理は既存の技術を用いて実現可能である。
Here, imaging conditions and evaluation values in the present embodiment will be described. Examples of the shooting conditions required for the user to stop the alarm include the following.
(1) Shooting a subject including a specific shape The specific shape is, for example, a square shape such as a television screen, a round shape of a clock or the like. The degree of similarity with the target shape can be obtained by image processing of the captured image data, and this can be used as an evaluation value. Such image processing can be realized using existing technology.
(2) Shooting a subject mainly having a specific color A subject mainly having a specific color is such that most of the shooting region has a predetermined specific color (for example, red, blue, etc.). A subject (for example, clothes or curtains). For example, the ratio of the area where a specific color exists to the entire shooting area can be used as the evaluation value. When using this shooting condition, the user needs to confirm in advance that such a subject is close.
(3) Shooting a subject with a predetermined brightness or more The predetermined brightness indicates a state in which the brightness (illuminance) of the subject is increased to a predetermined level or more by turning on a lighting device such as an indoor lamp. . The evaluation value can be generated based on the average brightness of the photographed image of the photographed subject. That is, the determination can be made based on the average luminance value of the photographed image when the strobe light is not emitted. When the camera is set to the automatic flash emission mode, the brightness of the subject can be determined using the determination result of whether or not to perform the flash emission.
(4) Shooting a reference subject registered in advance A face with the eyes opened by the user is registered and the photographed image is registered. This is based on the condition of shooting. As the evaluation value, the similarity between the registered image and the captured image is obtained by image processing. Such image processing can be realized using existing technology.

上記撮影条件に応じて、適切な閾値を設定し、閾値記憶部14に記憶しておく。採用する撮影条件は、いずれか単一であってもよいし、複数の撮影条件の中からユーザに選択させるようにしてもよい。あるいは、後述するように、携帯装置が複数の撮影条件の中からのその都度ランダムに選択するようにしてもよい。   An appropriate threshold value is set according to the photographing condition and stored in the threshold value storage unit 14. Any one of the shooting conditions to be adopted may be used, or the user may be allowed to select from a plurality of shooting conditions. Alternatively, as will be described later, the mobile device may randomly select from a plurality of shooting conditions each time.

図3は、本実施の形態におけるアラーム時処理の処理手順の一例を示すフローチャートである。この処理の全部または主要部は制御部102の制御プログラムとして、携帯装置内に、装置出荷時に予めインストールされるか、または、事後的にユーザの指示に応じてアプリケーションプログラムとして追加インストールされる。   FIG. 3 is a flowchart illustrating an example of a processing procedure of alarm processing in the present embodiment. All or a main part of this processing is installed as a control program of the control unit 102 in advance in the portable device at the time of shipment of the device, or is additionally installed as an application program according to a user instruction afterwards.

このアラーム時処理は、ユーザによりタイマ部15(図2)に設定された時刻の到来時に起動される。まず、アラーム発生部16によりアラーム音等のアラームの起動が行われる(S11)。次いで、アラーム停止のためにユーザが操作するキーの操作を無効化するキーロックを行う(S12)。これにより、ユーザが当該キーを操作してもアラームは停止しなくなる。そこで、アラーム停止撮影条件をメッセージ出力する(S13)。表示によるメッセージ出力の場合、例えば、図4に例示するようなメッセージの表示を行う。それぞれ、図4(a)の例は「目を開いた顔を撮影して下さい。」、図4(b)の例は「点灯した照明を撮影して下さい。」、図4(c)の例は「青色の物を撮影して下さい。」というメッセージを表示している。   This alarm processing is started when the time set by the user in the timer unit 15 (FIG. 2) comes. First, the alarm generator 16 activates an alarm such as an alarm sound (S11). Next, key lock is performed to invalidate the operation of the key operated by the user to stop the alarm (S12). Thereby, even if the user operates the key, the alarm does not stop. Therefore, the alarm stop shooting condition is output as a message (S13). In the case of message output by display, for example, a message as illustrated in FIG. 4 is displayed. In the example of FIG. 4 (a), “Please shoot a face with open eyes”, in the example of FIG. 4 (b), “Please shoot a lit illumination”, FIG. 4 (c). In the example, the message “Please shoot a blue object” is displayed.

その後、カメラを起動し(S14)、カメラ撮影を可能とする。カメラ起動後に所定の時間(タイムアウト時間)が経過した場合(S15,Yes)、後述するステップS22へ移行し、直ちにアラームを停止し(S22)、カメラも停止する(S23)。この「タイムアウト」はユーザが不在のときなどにアラームの発生を自動的に停止させるためのものである。具体的には、タイムアウト時間は、その経過時点でユーザが十分に覚醒していると考えられる比較的長い時間(例えば10分)であり、予め定められた固定値であってもよいし、ユーザが可変設定できるようにしてもよい。   Thereafter, the camera is activated (S14), and camera shooting is enabled. When a predetermined time (timeout time) has elapsed after the camera is started (S15, Yes), the process proceeds to step S22 described later, the alarm is immediately stopped (S22), and the camera is also stopped (S23). This “timeout” is for automatically stopping the generation of an alarm when the user is absent. Specifically, the timeout time is a relatively long time (eg, 10 minutes) at which the user is considered sufficiently awake, and may be a predetermined fixed value, May be variably settable.

ステップS15でタイムアウトでなければ、カメラから入力画像をキャプチャーする(S16)。すなわち、被写体のデジタル画像データをメモリに取り込む。この処理は、ユーザによるシャッタボタンの押下に応じて行う。あるいは、連続的に取り込まれる画像の1フレームを抽出するようにしてもよい。キャプチャーされた入力画像は評価値生成部12により処理され、画像評価値が生成される(S17)。比較部13はこの評価値を閾値と比較して、評価値が閾値以上であると判断されたとき(S18、Yes)、ステップS19へ進む。そうでなければ、ステップS13へ戻り、タイムアウトとなるまで、または、評価値が閾値以上となるまで、メッセージ出力とカメラ撮影および評価値生成、比較の処理を繰り返す。なお、カメラ撮影のモニタ表示とステップS13のメッセージ出力に同一の表示部104を共用するために両表示を交互に行うものとしたが、メッセージ出力をモニタ表示に重ね合わせるいわゆるスーパーインポーズ処理を行ったり、メッセージ出力を音声で行うような場合には、カメラのモニタ表示を連続的に行うことができる。メッセージ出力を音声で行う場合は、その音声メッセージ自体をアラーム音の代わりに用いることができる。   If it is not timed out in step S15, an input image is captured from the camera (S16). That is, the digital image data of the subject is taken into the memory. This process is performed in response to the user pressing the shutter button. Or you may make it extract 1 frame of the image taken in continuously. The captured input image is processed by the evaluation value generation unit 12, and an image evaluation value is generated (S17). The comparison unit 13 compares the evaluation value with a threshold value, and when it is determined that the evaluation value is equal to or greater than the threshold value (S18, Yes), the process proceeds to step S19. Otherwise, the process returns to step S13, and the process of message output, camera shooting, evaluation value generation, and comparison is repeated until a time-out occurs or the evaluation value becomes equal to or greater than the threshold value. Although both displays are alternately performed in order to share the same display unit 104 for the monitor display of camera photography and the message output in step S13, so-called superimpose processing is performed to superimpose the message output on the monitor display. If the message is output by voice, the monitor display of the camera can be continuously performed. When the message is output by voice, the voice message itself can be used instead of the alarm sound.

評価値が閾値以上となった後、キーロックを解除し(S19)、アラームを停止する(S20)。さらに、カメラも停止させる(S21)。   After the evaluation value becomes equal to or greater than the threshold value, the key lock is released (S19), and the alarm is stopped (S20). Further, the camera is also stopped (S21).

図3の処理により、アラーム発生からタイムアウト時間が経過するまでの間にアラームを停止させるためにはユーザは、メッセージ出力で指定されたアラーム停止撮影条件でのカメラ撮影を行う必要がある。すなわち、その操作を首尾よく行うためにはユーザは目を開けてある程度の集中力を持って撮影操作を行わなければならない。したがって、その操作によりアラームが停止した時点では十分な覚醒が行われていることが期待される。   In order to stop the alarm between the occurrence of the alarm and the elapse of the timeout time by the processing of FIG. 3, the user needs to perform camera shooting under the alarm stop shooting conditions specified by the message output. That is, in order to perform the operation successfully, the user must open the eyes and perform the shooting operation with a certain concentration. Therefore, it is expected that sufficient awakening is performed when the alarm is stopped by the operation.

図5に、図3の処理の変形例を表すフローチャートを示す。図5において、図3の処理と同様のステップには同じ参照符号を付し、重複した説明は省略する。図4の処理では、比較的長いタイムアウト時間が経過するまでは所定のカメラ撮影を行わなければアラームの停止が行えなかった。図5の例では、タイムアウト時間が経過したら(S15,Yes)、キーロックを解除し(S22)、アラーム停止のためのキー入力があったとき(S23、Yes)、直ちにアラームを停止し(S20)、カメラも停止する(S21)。これによりタイムアウト時間の経過後はユーザが手動でアラームを停止させることができるようになる。   FIG. 5 is a flowchart showing a modification of the process of FIG. In FIG. 5, the same steps as those in the process of FIG. In the process of FIG. 4, the alarm cannot be stopped unless a predetermined camera photographing is performed until a relatively long timeout time elapses. In the example of FIG. 5, when the time-out period has elapsed (S15, Yes), the key lock is released (S22), and when there is a key input for stopping the alarm (S23, Yes), the alarm is immediately stopped (S20). ), The camera is also stopped (S21). This allows the user to manually stop the alarm after the timeout period has elapsed.

なお、特に図示しないが、図5のステップS15におけるタイムアウト時間(第1のタイムアウト時間)よりさらに長い第2のタイムアウト時間を並行して設定し、第1のタイムアウト時間の経過後にアラームが停止しないまま第2のタイムアウト時間が経過したとき、アラームを自動停止するようにすることも可能である。   Although not particularly illustrated, a second timeout time longer than the timeout time (first timeout time) in step S15 in FIG. 5 is set in parallel, and the alarm does not stop after the first timeout time elapses. It is also possible to automatically stop the alarm when the second timeout period elapses.

次に図6に、本発明の他の実施の形態の機能ブロック図を示す。携帯装置100のハードウェア構成は第1の実施の形態と同じく図1に示したとおりである。図2に示したと同様の構成要素には同じ参照符号を付し、重複した説明は省略する。第1の実施の形態では常に同じアラーム停止撮影条件を用いた場合、ユーザはアラーム停止のために毎回同じ撮影を行うことになり、慣れが生じ、覚醒の効果が薄れてくる可能性がある。   Next, FIG. 6 shows a functional block diagram of another embodiment of the present invention. The hardware configuration of the portable device 100 is as shown in FIG. 1 as in the first embodiment. Constituent elements similar to those shown in FIG. 2 are given the same reference numerals, and redundant descriptions are omitted. In the first embodiment, when the same alarm stop shooting conditions are always used, the user performs the same shooting every time to stop the alarm, and there is a possibility that the user will get used and the effect of awakening will be diminished.

そこで、図6の構成では、アラーム停止撮影条件ランダム決定部18を設けている。このアラーム停止撮影条件ランダム決定部18は、予め用意された複数のアラーム停止撮影条件のうちから一つの撮影条件を、携帯装置100がその都度ランダムに選択する。閾値記憶部14aは、複数のアラーム停止撮影条件のそれぞれに対応する閾値を記憶しており、アラーム停止撮影条件ランダム決定部18から指示された撮影条件に応じた閾値を選択して比較部13へ出力する。アラーム停止撮影条件メッセージ出力部17は、当該選択された撮影条件での撮影を指示するメッセージを出力する。   Therefore, in the configuration of FIG. 6, an alarm stop shooting condition random determination unit 18 is provided. The alarm stop shooting condition random determination unit 18 causes the portable device 100 to randomly select one shooting condition from a plurality of alarm stop shooting conditions prepared in advance. The threshold value storage unit 14a stores a threshold value corresponding to each of the plurality of alarm stop shooting conditions, and selects a threshold value according to the shooting condition instructed from the alarm stop shooting condition random determination unit 18 and sends the threshold value to the comparison unit 13. Output. The alarm stop photographing condition message output unit 17 outputs a message instructing photographing under the selected photographing condition.

図7に、図6の実施の形態のアラーム時処理のフローチャートを示す。この処理は図5の処理に類似しており、図5と同じ処理ステップには同じ参照符号を付してある。   FIG. 7 shows a flowchart of the alarm processing in the embodiment of FIG. This process is similar to the process of FIG. 5, and the same processing steps as in FIG.

図7の処理は、図5のステップS12とステップS13の間にステップS31〜S33を挿入したものである。すなわち、ステップS31において、ランダムモードか否かをチェックする。ランダムモードか否かはユーザによる初期設定により決まる。ランダムモードでなければ、予め定められた(またはユーザが選択した)アラーム停止撮影条件を選択する(S33)。ランダムモードの場合には、アラーム静止撮影条件をランダムに決定する(S32)。このようにして選択または決定されたアラーム停止撮影条件に基づいて、後続のステップS13以降の処理へ移行する。この処理は上述したとおりなので、説明を省略する。ステップS13以降の処理は図5の処理ではなく図3の処理であってもよい。   In the process of FIG. 7, steps S31 to S33 are inserted between step S12 and step S13 of FIG. That is, in step S31, it is checked whether or not it is a random mode. Whether the mode is random or not is determined by the initial setting by the user. If not in the random mode, a predetermined alarm stop shooting condition (or selected by the user) is selected (S33). In the case of the random mode, the alarm still shooting condition is determined at random (S32). Based on the alarm stop shooting conditions selected or determined in this way, the process proceeds to the subsequent steps S13 and subsequent steps. Since this process is as described above, a description thereof will be omitted. The process after step S13 may be the process of FIG. 3 instead of the process of FIG.

図6の実施の形態によれば、アラーム発生の度にその停止に必要とされるアラーム停止撮影条件がランダムに変わるので、ユーザはアラーム停止のためにその都度、アラーム停止撮影条件メッセージの内容を確認して、それに応じた撮影を行う必要が生じる。その結果、ユーザを十分に覚醒させる効果が長期間にわたって持続すると考えられる。   According to the embodiment of FIG. 6, the alarm stop shooting condition required for stopping the alarm changes randomly every time an alarm occurs, so that the user can change the contents of the alarm stop shooting condition message each time the alarm stops. There is a need to confirm and perform shooting accordingly. As a result, it is considered that the effect of sufficiently awakening the user lasts for a long time.

以上、本発明の好適な実施の形態について説明したが、上記で言及した以外にも種々の変形、変更を行うことが可能である。例えば、図3の実施の形態では単一のアラーム停止撮影条件を用いることを想定したが、装置内に複数用意し、ユーザが任意の撮影条件を選択できるようにしてもよい。また、図6の実施の形態では複数用意されたアラーム停止撮影条件をランダムに切り替えることとしたが、予め定めた順番に切り替える構成でも相応の効果が期待される。   The preferred embodiments of the present invention have been described above, but various modifications and changes other than those mentioned above can be made. For example, in the embodiment of FIG. 3, it is assumed that a single alarm stop shooting condition is used. However, a plurality of shooting conditions may be prepared in the apparatus so that the user can select any shooting condition. In the embodiment shown in FIG. 6, a plurality of prepared alarm stop shooting conditions are switched at random. However, a corresponding effect can be expected even in a configuration in which switching is performed in a predetermined order.

本発明が適用される撮影機能付き携帯装置(ここでは携帯電話機)のハードウェア構成例を示すブロック図である。It is a block diagram which shows the hardware structural example of the portable apparatus (here mobile phone) with an imaging | photography function to which this invention is applied. 本発明の実施の形態における図1の携帯装置の機能ブロック図である。It is a functional block diagram of the portable apparatus of FIG. 1 in an embodiment of the present invention. 本発明の実施の形態におけるアラーム時処理の処理手順の一例を示すフローチャートである。It is a flowchart which shows an example of the process sequence of the process at the time of an alarm in embodiment of this invention. 本発明の実施の形態における停止撮影条件のメッセージの表示例を示す図である。It is a figure which shows the example of a display of the message of the stop imaging | photography condition in embodiment of this invention. 図3の処理の変形例を表すフローチャートである。It is a flowchart showing the modification of the process of FIG. 本発明の他の実施の形態の機能ブロック図である。It is a functional block diagram of other embodiments of the present invention. 図6の実施の形態のアラーム時処理のフローチャートである。It is a flowchart of the process at the time of the alarm of embodiment of FIG.

符号の説明Explanation of symbols

11…撮像部、12…評価値生成部、13…比較部、14…閾値記憶部、14a…閾値記憶部、15…タイマ部、16…アラーム発生部、17…アラーム停止撮影条件メッセージ出力部、18…アラーム停止撮影条件ランダム決定部、100…携帯装置、101…アンテナ、102…制御部、103…通信回路、104…表示部、105…操作部、106…メモリ、107…画像処理部、108…時計部、111…スピーカ、112…マイク、113…撮像制御部、114…カメラ、150…制御ライン、160…データライン DESCRIPTION OF SYMBOLS 11 ... Imaging part, 12 ... Evaluation value generation part, 13 ... Comparison part, 14 ... Threshold storage part, 14a ... Threshold storage part, 15 ... Timer part, 16 ... Alarm generation part, 17 ... Alarm stop imaging condition message output part, DESCRIPTION OF SYMBOLS 18 ... Alarm stop imaging condition random determination part, 100 ... Portable apparatus, 101 ... Antenna, 102 ... Control part, 103 ... Communication circuit, 104 ... Display part, 105 ... Operation part, 106 ... Memory, 107 ... Image processing part, 108 ... Clock part, 111 ... Speaker, 112 ... Microphone, 113 ... Imaging control part, 114 ... Camera, 150 ... Control line, 160 ... Data line

Claims (12)

予めアラームを発生させる時刻を設定するタイマ手段と、
前記タイマ手段からの指示に応じてアラームを発生するアラーム発生手段と、
デジタル撮像手段と、
前記デジタル撮像手段で得られた画像データに基づいて評価値を生成する評価値生成手段と、
アラームの発生後に、前記評価値生成手段により生成された評価値を所定の閾値と比較し、前記評価値が閾値以上となったとき前記アラーム発生手段のアラームを停止させる比較手段と、
アラームを停止させるための前記デジタル撮像手段による撮影の条件をユーザに知らしめるメッセージ出力手段と
を備えたことを特徴とする撮影機能付き携帯装置。
Timer means for setting a time for generating an alarm in advance;
Alarm generating means for generating an alarm in response to an instruction from the timer means;
Digital imaging means;
Evaluation value generating means for generating an evaluation value based on image data obtained by the digital imaging means;
Comparing means for comparing the evaluation value generated by the evaluation value generating means after occurrence of an alarm with a predetermined threshold, and stopping the alarm of the alarm generating means when the evaluation value is equal to or greater than the threshold;
Message output means for letting the user know the conditions of photographing by the digital imaging means for stopping the alarm;
A portable device with a photographing function characterized by comprising:
発生したアラームを停止させるためのキーの操作を無効化するキーロック手段を備えたことを特徴とする請求項1記載の撮影機能付き携帯装置。   2. The portable device with a photographing function according to claim 1, further comprising key lock means for invalidating an operation of a key for stopping the generated alarm. 前記キーロック手段は、アラームの発生後、所定の時間の経過後に前記キーの操作の無効化を解除することを特徴とする請求項記載の撮影機能付き携帯装置。 3. The portable device with a photographing function according to claim 2 , wherein the key lock unit cancels the invalidation of the operation of the key after a predetermined time elapses after an alarm is generated. 前記撮影の条件が複数用意され、ユーザの選択に供せられることを特徴とする請求項記載の撮影機能付き携帯装置。 Wherein is shooting conditions provides multiple, portable device with a photographing function according to claim 1, characterized in that it is subjected to the user selection. 前記撮影の条件が複数用意され、アラームの発生の度に、使用すべき撮影の条件が切り替えられることを特徴とする請求項記載の撮影機能付き携帯装置。 Wherein is shooting conditions provides multiple, every time an alarm occurs, according to claim 1, wherein the imaging conditions to be used is switched photographing function portable device. 予めアラームを発生させる時刻を設定するタイマ手段と、  Timer means for setting a time for generating an alarm in advance;
前記タイマ手段からの指示に応じてアラームを発生するアラーム発生手段と、  Alarm generating means for generating an alarm in response to an instruction from the timer means;
デジタル撮像手段と、  Digital imaging means;
前記デジタル撮像手段で得られた画像データに基づいて評価値を生成する評価値生成手段と、  Evaluation value generating means for generating an evaluation value based on image data obtained by the digital imaging means;
アラームの発生後に、前記評価値生成手段により生成された評価値を所定の閾値と比較し、前記評価値が閾値以上となったとき前記アラーム発生手段のアラームを停止させる比較手段と、  Comparing means for comparing the evaluation value generated by the evaluation value generating means after occurrence of an alarm with a predetermined threshold, and stopping the alarm of the alarm generating means when the evaluation value is equal to or greater than the threshold;
発生したアラームを停止させるためのキーの操作を無効化するキーロック手段とを備え、  A key lock means for disabling the key operation for stopping the generated alarm,
前記キーロック手段は、アラームの発生後、所定の時間の経過後に前記キーの操作の無効化を解除することを特徴とする撮影機能付き携帯装置。  The portable device with a photographing function, wherein the key lock means cancels the invalidation of the operation of the key after a predetermined time elapses after an alarm is generated.
撮影機能付き携帯装置において実行されるコンピュータプログラムであって、
アラームの発生時に撮影機能を起動するステップと、
得られた画像データに基づいて評価値を生成するステップと、
生成された評価値を所定の閾値と比較するステップと、
前記評価値が閾値以上となったときアラームを停止させるとともに撮影機能を停止させるステップと、
アラームを停止させるための撮影の条件をユーザに知らしめるメッセージを出力するステップと
をコンピュータに実行させるコンピュータプログラム。
A computer program executed in a portable device with a photographing function,
A step of activating the shooting function when an alarm occurs,
Generating an evaluation value based on the obtained image data;
Comparing the generated evaluation value with a predetermined threshold;
Stopping the alarm and stopping the shooting function when the evaluation value is equal to or greater than a threshold;
Outputting a message to inform the user of shooting conditions for stopping the alarm; and
A computer program that causes a computer to execute .
発生したアラームを停止させるためのキーの操作を無効化するステップを備えたことを特徴とする請求項7記載のコンピュータプログラム。   8. The computer program according to claim 7, further comprising a step of invalidating a key operation for stopping the generated alarm. アラームの発生後、所定の時間の経過後に前記キーの操作の無効化を解除するステップを備えたことを特徴とする請求項記載のコンピュータプログラム。 9. The computer program according to claim 8 , further comprising the step of canceling the invalidation of the operation of the key after a predetermined time has elapsed after the occurrence of the alarm. 前記撮影の条件を複数用意し、ユーザの選択に供するステップを備えたことを特徴とする請求項記載のコンピュータプログラム。 The computer program according to claim 7, further comprising a step of preparing a plurality of shooting conditions and providing them for user selection. 前記撮影の条件を複数用意し、アラームの発生の度に、使用すべき撮影の条件を切り替えるステップを備えたことを特徴とする請求項記載のコンピュータプログラム。 8. The computer program according to claim 7, further comprising a step of preparing a plurality of shooting conditions and switching a shooting condition to be used every time an alarm is generated. 撮影機能付き携帯装置において実行されるコンピュータプログラムであって、  A computer program executed in a portable device with a photographing function,
アラームの発生時に撮影機能を起動するステップと、  A step of activating the shooting function when an alarm occurs,
得られた画像データに基づいて評価値を生成するステップと、  Generating an evaluation value based on the obtained image data;
生成された評価値を所定の閾値と比較するステップと、  Comparing the generated evaluation value with a predetermined threshold;
前記評価値が閾値以上となったときアラームを停止させるとともに撮影機能を停止させるステップと、  Stopping the alarm and stopping the shooting function when the evaluation value is equal to or greater than a threshold;
発生したアラームを停止させるためのキーの操作を無効化するステップと、  A step of disabling the key operation for stopping the generated alarm,
アラームの発生後、所定の時間の経過後に前記キーの操作の無効化を解除するステップと  Canceling the invalidation of the operation of the key after a predetermined time has elapsed after the occurrence of the alarm; and
をコンピュータに実行させるコンピュータプログラム。  A computer program that causes a computer to execute.
JP2004297236A 2004-10-12 2004-10-12 Portable device with photographing function and computer program Expired - Fee Related JP4260718B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004297236A JP4260718B2 (en) 2004-10-12 2004-10-12 Portable device with photographing function and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004297236A JP4260718B2 (en) 2004-10-12 2004-10-12 Portable device with photographing function and computer program

Publications (2)

Publication Number Publication Date
JP2006114957A JP2006114957A (en) 2006-04-27
JP4260718B2 true JP4260718B2 (en) 2009-04-30

Family

ID=36383144

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004297236A Expired - Fee Related JP4260718B2 (en) 2004-10-12 2004-10-12 Portable device with photographing function and computer program

Country Status (1)

Country Link
JP (1) JP4260718B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5399880B2 (en) * 2009-12-11 2014-01-29 レノボ・シンガポール・プライベート・リミテッド Power control apparatus, power control method, and computer-executable program
JP2011217145A (en) * 2010-03-31 2011-10-27 Ntt Docomo Inc Information transmitter and information transmission method
JP5655927B2 (en) * 2011-03-07 2015-01-21 富士通株式会社 Electronics
JP5778481B2 (en) * 2011-05-25 2015-09-16 京セラ株式会社 Mobile terminal, display control program, and display control method
JP5951861B2 (en) * 2015-07-09 2016-07-13 京セラ株式会社 Mobile terminal, display control program, and display control method
KR101762685B1 (en) 2015-10-23 2017-08-04 신재명 Method for Ceasing a Function by Image Matching Technique of Mobile Terminal

Also Published As

Publication number Publication date
JP2006114957A (en) 2006-04-27

Similar Documents

Publication Publication Date Title
RU2626998C1 (en) Method and device for security notification processing
JP2007036928A (en) Mobile information terminal device
WO2009119777A1 (en) Electronic device, alarm control method, and recording medium
JPWO2004080065A1 (en) Electronic device, photographing control method, photographing control program, and processor
JP2010278962A (en) Imaging apparatus and program
JP4260718B2 (en) Portable device with photographing function and computer program
WO2005096619A1 (en) Portable terminal
JP2009153085A (en) Mobile terminal device and program
JP2002344598A (en) Display terminal with camera and program
JP2003333382A (en) Mobile phone with camera
JP4889568B2 (en) Imaging device and portable terminal device
JP2005136921A (en) Portable phone with unauthorized photography prevention function
KR101066339B1 (en) Wire and wireless terminal having remote monitoring function and method thereof
KR100513053B1 (en) Auto controlling method for previewing image data
US11617023B2 (en) Method for brightness enhancement of preview image, apparatus, and medium
JP2005079651A (en) Imaging function control apparatus and control method thereof
JP2007208627A (en) Portable terminal device with camera and its photographing method
JP2010220243A (en) Portable terminal
JP4708272B2 (en) Imaging device and portable terminal device
JP2012015827A (en) Terminal device and program
JP6290726B2 (en) Apparatus having photographing function, photographing control method and program
JP2006186685A (en) Imaging device
JP6510376B2 (en) Control device, electronic device, control method, and control program
JP2007300649A (en) Imaging apparatus and imaging method
JP2005333482A (en) Photographing limit system, photographing device and photographing limiting method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081119

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090204

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090204

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees