JP2019126042A - Camera apparatus, indoor imaging system, and indoor information acquisition apparatus - Google Patents
Camera apparatus, indoor imaging system, and indoor information acquisition apparatus Download PDFInfo
- Publication number
- JP2019126042A JP2019126042A JP2019027406A JP2019027406A JP2019126042A JP 2019126042 A JP2019126042 A JP 2019126042A JP 2019027406 A JP2019027406 A JP 2019027406A JP 2019027406 A JP2019027406 A JP 2019027406A JP 2019126042 A JP2019126042 A JP 2019126042A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- room
- refrigerator
- indoor
- camera device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明の実施形態は、カメラ装置、室内撮像システム、室内情報取得装置に関する。 Embodiments of the present invention relate to a camera device, an indoor imaging system, and an indoor information acquisition apparatus.
従来、例えば冷蔵庫にカメラを設けること等により、遠隔地からでも例えば冷蔵庫内の食材等の情報を取得可能なものが知られている(例えば、特許文献1参照)。 Conventionally, for example, there is known one that can acquire information such as food in a refrigerator even from a remote place, for example, by providing a camera in a refrigerator or the like (see, for example, Patent Document 1).
しかしながら、いつ遠隔地のユーザから室内の情報を取得するための指示が与えられるかを把握することができないことから、常にその指示を受信可能な状態で作動する必要があり、電力消費が増加する問題があった。 However, since it is not possible to know when an instruction for acquiring information in a room is given from a remote user, it is necessary to always operate in a state where the instruction can be received, and power consumption increases. There was a problem.
本発明が解決しようとする課題は、電力消費を抑制しつつ、室内の情報を任意に取得することができるカメラ装置、室内撮像システム、室内情報取得装置を提供することにある。 The problem to be solved by the present invention is to provide a camera device, an indoor imaging system, and an indoor information acquisition device capable of acquiring information in the room arbitrarily while suppressing power consumption.
実施形態によるカメラ装置は、室内を撮像する撮像手段と、外部の操作端末から与えられた室内を撮像するための撮像指示を、操作端末と通信可能な冷蔵庫を介して受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、受信手段で撮像指示が受信されると通常動作モードに復帰して撮像手段により室内を撮像する制御手段と、を備え、撮像手段、受信手段および制御手段を含むカメラ装置は、冷蔵庫の室内に設置されており、撮像指示が受信手段により検出されると、通常動作モードに復帰することを特徴とする。 The camera device according to the embodiment includes an imaging unit for imaging a room, a reception unit for receiving an imaging instruction for imaging a room given from an external operation terminal, via a refrigerator that can communicate with the operation terminal, The control means stands by in the low power mode, which consumes less power than the normal operation mode, and returns to the normal operation mode when the image receiving instruction is received by the receiving means, and controls the image of the room by the imaging means And a camera device including an imaging means, a receiving means, and a control means is installed in a room of the refrigerator, and returns to the normal operation mode when an imaging instruction is detected by the receiving means.
以下、一実施形態について図1から図11を参照しながら説明する。 Hereinafter, one embodiment will be described with reference to FIGS. 1 to 11.
図1に示すように、本実施形態の室内撮像システム100は、家電製品としての冷蔵庫1、室内を撮像するためのカメラ装置2、冷蔵庫1側との間で通信を行うためのアクセスポイント3、操作端末としての携帯端末4等により構成されている。このうち、アクセスポイント3は、外部ネットワーク5に接続しており、外部ネットワーク5を介して遠隔地の携帯端末4やサーバ6等と冷蔵庫1側との間を通信可能に接続している。本実施形態では、冷蔵庫1とアクセスポイント3との間、アクセスポイント3と携帯端末4との間、およびカメラ装置2とアクセスポイント3との間は、Bluetooth(登録商標)による無線通信にて通信が行われる。
As shown in FIG. 1, the
携帯端末4は、カメラ装置2に室内を撮像させるための撮像指示を入力する操作端末であり、いわゆるスマートフォン(高機能携帯電話)を想定している。ただし、操作端末としては、携帯端末4に限らず、例えばタブレット型のパソコン等であってもよい。この携帯端末4は、住宅7内に位置している場合には、アクセスポイント3との間で近距離無線方式により通信可能に接続される。また、携帯端末4は、住宅7外に位置している場合には、広域通信により外部ネットワーク5を介してアクセスポイント3との間で通信可能に接続される。また、携帯端末4は、住宅7内からであっても広域通信により外部ネットワーク5を介してアクセスポイント3に接続することが可能であるとともに、住宅7内においては、アクセスポイント3を介さずに冷蔵庫1側と直接的に通信可能でもある。
The
サーバ6は、周知のコンピュータシステムにより構成されており、冷蔵庫1にアクセスするための情報(例えばIPアドレス等)等を記憶しているとともに、本実施形態では、カメラ装置2により撮像された撮像データを記憶する。なお、図1では冷蔵庫1のみを図示しているが、図示しないエアコン等、他の家電製品もネットワーク化されている。
The
このように家電製品をネットワーク化することにより、各家電製品の消費電力をユーザに目に見える形で提供する見える化、夏場の昼間等の電力需要が大きくなる時間帯における電力消費を低減するピークシフト、一般家庭の定格を超えるような電力の瞬間的な使用を回避するピークカット等の電力コントロールや、家電製品の故障診断等、使い勝手や快適性あるいは利便性を提供するためのシステムを提供することが可能となる。また、カメラ装置2を例えば冷蔵室内に設置することにより、冷蔵庫1の室内の様子(物品の貯蔵状態等)を確認すること等も可能となる。そして、これら各種の情報や撮像データ等をサーバ6に記憶することで、遠隔地であっても外部ネットワーク5等を介して携帯端末4等によりそれらの情報を参照することが可能となる。
次に、カメラ装置2について説明する。
By networking home appliances in this way, the power consumption of each home appliance can be visually provided to the user in a visible manner, and the peak of reducing power consumption in a time zone where the power demand for summer daytime etc. increases We provide systems for providing ease of use, comfort, or convenience, such as shift control, peak-cut power control to avoid momentary use of power that exceeds general household ratings, fault diagnosis for home appliances, etc. It becomes possible. In addition, by installing the
Next, the
カメラ装置2は、図2および図3に示すように、概ね直方体の形状に形成された筐体10の表面に、撮像部11(図4参照)のレンズ12、本実施形態では2個の撮像ライト13、および光センサ14が露出するように設けられている。ただし、レンズ12や撮像ライト13および光センサ14は、筐体10外に露出するのではなく、その表面がカバー等で覆われた態様であってもよい。以下、レンズ12等が露出している側を(図3の図示右方側)をカメラ装置2の正面とし、反対側(図3の図示左方側)を背面として説明する。
As shown in FIG. 2 and FIG. 3, the
このカメラ装置2は、図3に示すように、筐体10内に、制御基板15、電池16、通信モジュール17、音センサ19および振動センサ20等が収容されている。制御基板15には、レンズ12や図示しない撮像素子を有する撮像部11、撮像ライト13、およびそれらを制御するためのカメラ側制御部18(図4参照)等が設けられている。撮像素子は、CCDやCMOS等の周知の撮像素子が用いられている。撮像ライト13は、LEDを採用している。なお、図示は省略するが、カメラ装置2には電源スイッチも設けられている。
As shown in FIG. 3, in the
電池16は、制御部や通信モジュール17、および光センサ14、音センサ19、振動センサ20等に電力を供給する。つまり、カメラ装置2は、内蔵する電池16により駆動される。このため、カメラ装置2は、電源ケーブル等が不要となり、任意の場所に設置することが可能となる。本実施形態では、上記したようにカメラ装置2は冷蔵室内に設置されている。
The
通信モジュール17は、撮像部11で撮像した庫内の撮像データを、アクセスポイント3を介して携帯端末4やサーバ6等に送信する。なお、サーバ6に送信するのは、撮像データをサーバ6に記憶させるためである。ここで、撮像データとは、室内の画像を含むデータであり、例えばビットマップ形式やJPEG形式或いはMPEG形式などの周知のフォーマットのデータ(静止画、動画)、そのデータを圧縮や暗号化あるいは画像処理することにより変換したデータ等、室内の様子を携帯端末4等で確認できるデータであれば、どのような形式のものであってもよい。
The
図4に示すように、カメラ側制御部18は、CPU18a、ROM18b、RAM18cおよびRTC18d等を有するマイクロコンピュータで構成されており、カメラ装置2全体を制御する。具体的には、カメラ側制御部18は、撮像部11による撮像タイミングの制御、撮像する際の撮像環境を整える制御(撮像ライト13の点灯制御)、通信モジュール17による撮像データの送信、各センサによる後述する撮像指示の受信(受け付け)等のための制御等を行っている。また、カメラ側制御部18は、本実施形態では、撮像した画像の補正等を行う画像処理も行っている。カメラ側制御部18は、制御手段を構成している。
As shown in FIG. 4, the camera
カメラ側制御部18に接続されている光センサ14は、いわゆる照度センサであり、カメラ装置2の周辺の照度を検出する。より詳細には、光センサ14は、所定の波長帯域の光エネルギー(本実施形態では、後述する室内LEDから発せられる光エネルギー)を検出する。光センサ14で検出された光エネルギーは、電気信号に変換されてカメラ側制御部18に出力される。
The
音センサ19は、カメラ装置2の周囲で発生した音を検出する。より詳細には、音センサ19は、予め設定されている周波数帯域で発せられる音エネルギー(本実施形態では、後述するパネルブザー29や室内ブザー33から発せられる音エネルギー)を検出する。音センサ19で検出された音エネルギーは、電気信号に変換されてカメラ側制御部18に出力される。
The
振動センサ20は、カメラ装置2に加わった振動を検出する。この振動センサ20は、例えば3軸加速度センサ等により構成されており、検出した振動エネルギーを電気信号に変換してカメラ側制御部18に出力する。そして、カメラ側制御部18は、加速度に基づいて、カメラ装置2に加わった振動を検出する。
The
これら光センサ14、音センサ19、および振動センサ20は、詳細は後述するが、物理的なエネルギーを検出するセンサであり、撮像指示を受信する受信手段を構成している。なお、光センサ14、音センサ19および振動センサ20の全てを必ずしも設ける必要は無く、撮像指示を例えば光エネルギーでのみ受信するのであれば、光センサ14のみを設ける構成としてもよい。
The
カメラ側制御部18は、検出された各エネルギーの強度やパターンに基づいて、後述するように撮像指示であるかを判定する。つまり、本実施形態の場合、ユーザからの撮像指示は、所定のパターンで発せられたエネルギーにより示される構成となっており、カメラ側制御部18は、各センサにより検出されたエネルギーのパターンと撮像指示を示すパターンとが一致するかを判定する判定手段としても機能する。
The camera-
このような構成のカメラ装置2は、常には通常動作モードよりも相対的に消費電力が少ない低電力モードにて待機しており、撮像指示を受信すると、通常動作モードに復帰して室内を撮像する。本実施形態の場合、カメラ装置2は冷蔵室内に設けられていることから、冷蔵室の室内が撮像される。
The
カメラ装置2が設置される冷蔵庫1は、庫側制御部21を有している。この庫側制御部21は、CPU21a、ROM21b、RAM21c、タイマ21d等を有するマイクロコンピュータで構成されており、冷蔵庫1全体を制御する。具体的には、庫側制御部21は、例えば操作パネル22から設定された運転状態となるように、温度センサ23で検出した庫内の温度や扉センサ24で検出した扉の開閉状態等に基づいて、周知の冷凍サイクルを構成する冷蔵用冷却機構25や冷凍用冷却機構26の運転状態を制御する。
The refrigerator 1 in which the
操作パネル22には、パネル表示器27、パネルLED28、パネルブザー29が設けられている。パネル表示器27は、設定値等を表示する。パネルLED28は、操作スイッチやや運転状態等を点灯させるために設けられている。パネルブザー29は、圧電ブザー等で構成され、操作に応じて音声(音エネルギー)を発することで、操作内容を報知する。本実施形態の場合、パネルブザー29は、6kHzの音を出力可能となっており、後述するように、カメラ装置2に対して撮像指示を伝達するために音エネルギーを発する伝達手段としても機能する。
The
室内照明30は、冷蔵室等に設けられており、扉が開放された際に点灯する。つまり、室内照明30は、光エネルギーを発生させる。この室内照明30は、庫側制御部21からの制御により点滅可能となっている。送風機31は、通常の動作においては冷蔵庫1内の冷気を循環させるために設けられている。この送風機31は、例えば回転数を通常の動作よりも高くすることにより、風切り音やモータ音等の音エネルギーを発生させることが可能となっている。
The
室内LED32は、カメラ装置2に対して撮像指示を伝達するために光エネルギーを発生するものであり、本実施形態では、上記した光センサ14で検出可能な所定の周波数帯域の光を発する構成となっている。また、室内LED32は、所定のパターンにて点滅可能であり、撮像指示に対応するパターンで点滅することで撮像指示をカメラ装置2側に伝達する伝達手段を構成している。なお、上記した室内照明30も、光エネルギーを発するものであることから、室内LED32の代わりに伝達手段として用いることが可能である。また、室内照明30を伝達手段として用いる場合には、室内LED32を設けなくてもよい。
The
室内ブザー33は、カメラ装置2に対して撮像指示を伝達するために音エネルギーを発生する例えば圧電ブザーで構成されている。室内ブザー33は、例えば20kHzの音声(つまり、可聴域から外れた音声)を出力可能であり、室内ブザー33から発せられた音声は、上記した音センサ19では検出可能である一方、人には聞こえない構成となっている。なお、パネルブザー29を伝達手段として用いる場合や送風機31を伝達手段として用いる場合には、室内ブザー33を設けなくてもよい。室内ブザーは、伝達手段を構成している。
The indoor buzzer 33 is configured of, for example, a piezoelectric buzzer that generates sound energy to transmit an imaging instruction to the
通信アダプタ34は、アクセスポイント3や室内の携帯端末4等との間で通信を行うものであり、本実施形態では、冷蔵庫1に着脱可能に設けられている。なお、図1には冷蔵庫1だけを図示しているが、通信アダプタ34は、エアコン等の他の家電製品にも設けられ、家電製品をネットワーク化している。通信アダプタ34は、通信手段を構成している。また、通信アダプタ34は、アクセスポイント3を介すること無く、カメラ装置2との間で直接的に通信を行うことも可能な構成となっている。この通信アダプタ34は、上記したように見える化等にも用いられていることから、冷蔵庫1が動作している状態では基本的に常時作動している。
次に、上記した構成の作用について説明する。
The
Next, the operation of the above configuration will be described.
上記したカメラ装置2を設けることにより、住宅7の室内や冷蔵室等の室内を撮像することができる。この場合、外部ネットワーク5を経由して携帯端末4からカメラ装置2に対して撮像指示を送信することで、遠隔地からであっても任意のタイミングで撮像データを取得することができる。ただし、いつ撮像指示が送られてくるかが不明なために通信モジュール17を常に動作させておく必要があり、その場合には電力消費が大きくなる。その結果、1日あるいは数日程度で電池16交換(あるいは充電)が必要となる。
By providing the
そこで、カメラ装置2および室内撮像システム100では、冷蔵庫1等の家電製品から撮像指示を伝達させることにより(家電製品と連携させることにより)、電力消費を抑制しつつ、撮像データ等の室内の情報を任意に取得することを可能としている。以下、説明の簡略化のために、撮像指示の伝達に光エネルギーを用いる場合と、音エネルギーを用いる場合と、振動エネルギーを用いる場合と、それらを組み合わせた場合の一例(光エネルギーとエネルギーとを用いる例)について、それぞれ個別に説明する。
<光エネルギーを用いる場合>
光エネルギーを用いて撮像指示を伝達する場合、冷蔵庫1は図5に示す庫側処理を実行し、カメラ装置2は図6に示すカメラ側処理を実行する。
Therefore, in the
<When using light energy>
When the imaging instruction is transmitted using light energy, the refrigerator 1 executes the storage-side processing shown in FIG. 5, and the
冷蔵庫1は、図5に示す庫側処理において、撮像指示を受信したかを判定する(R1)。ユーザからの撮像支持は、アクセスポイント3を経由して通信アダプタ34により冷蔵庫1にて受信される(図4参照)。冷蔵庫1は、撮像指示を受信していない場合には(R1:NO)、そのまま待機する。一方、冷蔵庫1は、撮像指示を受信した場合には(R1:YES)、扉が閉鎖されているかを判定し(R2)、扉が開放されている場合には(R2:NO)、扉が閉鎖されるまで待機する。
The refrigerator 1 determines whether an imaging instruction has been received in the storage-side processing illustrated in FIG. 5 (R1). The imaging support from the user is received at the refrigerator 1 by the
冷蔵庫1は、扉が閉鎖されている場合には(R2:YES)、操作パネル22等から撮像中であることを報知した後(R3)、エネルギー(ここでは光エネルギー)を発する。このステップR3では、冷蔵庫1は、室内LED32を撮像指示に対応する所定のパターンにて点滅させることで、光エネルギーを発している。具体的には、冷蔵庫1は、図7に示すように、撮像指示を受信すると予め設定されている点滅期間の間、室内LED32のON/OFFを繰り返す。つまり、本実施形態では、撮像指示を示すパターンとして、光エネルギーが5Hzで点滅するパターンが採用されている。この点滅パターンは、一般的な冷蔵庫1の使用状態では発生し得ないパターンである。すなわち、扉が開放されたときには室内照明30が点灯するものの、扉が5Hz(0.2s周期)で開閉されることは無いと考えられるため、扉の開閉と撮像指示とが誤判定されるおそれがない。
When the door is closed (R2: YES), the refrigerator 1 reports that imaging is in progress from the
さて、カメラ装置2は、図6に示すカメラ側処理において、電源がONされると(S1)、スリープモードに移行する(S2)。このスリープモードは、通常動作モードよりも電力消費が少ない低電力モードに相当する。そして、カメラ装置2は、エネルギーを検出したかを判定する(S3)。このステップS3では、より詳細には、カメラ側制御部18はスリープモードで待機している状態であり、光センサ14により光エネルギーを検出した旨が通知されたかが判定されることになる。この通知は、マイクロコンピュータ等では周知の割り込み信号等により通知される。
Now, in the camera side process shown in FIG. 6, when the power is turned on (S1), the
カメラ装置2は、エネルギーを検出していない場合には(S3:NO)、そのまま待機する一方、エネルギーを検出した場合には(S3:YES)、通常動作モードに復帰する(S4)。そして、検出したエネルギーのパターンが、撮像指示のパターンと一致するかを判定する(S5)。具体的には、カメラ装置2は、光エネルギーのON/OFFのエッジを検出し、そのエッジが例えば5秒間で10回以上検出されると、撮像指示を示すものであると判定する。
The
カメラ装置2は、撮像指示のパターンと一致する場合には(S5:YES)、室内を撮像し(S6)、撮像データを携帯端末4等に送信したりサーバ6等に記憶させたりした後(S7)、ステップS2に移行してスリープモードに移行する。また、カメラ装置2は、撮像指示のパターンと一致しない場合にも(S5:NO)、スリープモードに移行する。
このように、スリープモード中のカメラ装置2に対して、光エネルギーにより撮像指示を伝達することができる。
<音エネルギーを用いる場合>
If the
Thus, an imaging instruction can be transmitted to the
<When using sound energy>
音エネルギーを用いて撮像指示を伝達する場合、光エネルギーの場合と同様に、冷蔵庫1は図5に示す庫側処理を実行し、カメラ装置2は図6に示すカメラ側処理を実行する。以下、処理内容が異なる点について詳細に説明する。
When transmitting an imaging instruction using sound energy, the refrigerator 1 executes storage-side processing shown in FIG. 5 and the
冷蔵庫1は、撮像指示を受信すると(R1:YES)、扉が閉鎖されているかを確認し(R2:YES)、撮像中であることを報知した後(R3)、エネルギー(ここでは音エネルギー)を発する。この場合、冷蔵庫1は、パネルブザー29を所定のパターンにて鳴動させることで、音エネルギーを発している。具体的には、冷蔵庫1は、図8に示すように、撮像指示を受信すると予め設定されている鳴動期間の間、0.5秒ON(鳴動)、0.5秒間OFF(停止)するパターンで、パネルブザー29を鳴動させる。つまり、本実施形態では、撮像指示を示すパターンとして、予め設定された6kHz(室内ブザー33の場合には20kHzの非可聴域)の周波数帯域であって、予め定められた周期(0.5秒周期)で間欠的に鳴動するパターンが採用されている。この鳴動パターンは、通常の操作(ユーザの設定操作)とは異なるパターンであり、撮像指示以外では発生し得ないパターンである。
When the refrigerator 1 receives an imaging instruction (R1: YES), the refrigerator 1 confirms whether the door is closed (R2: YES), and after notifying that imaging is in progress (R3), energy (here, sound energy) Emits In this case, the refrigerator 1 emits sound energy by ringing the
さて、カメラ装置2は、図6に示すカメラ側処理において、電源がONされると(S1)、スリープモードに移行して待機する(S2)。そして、冷蔵庫1は、音センサ19から割り込み信号等により音エネルギーを検出した旨が通知されると、つまり、音エネルギーを検出すると(S3:YES)、通常動作モードに復帰して(S4)、音エネルギーのパターンが撮像指示のパターンと一致するかを判定する(S5)。この場合、カメラ装置2は、音エネルギーのON/OFFのエッジを検出し、そのエッジが例えば5秒間で10回以上検出されると、撮像指示を示すものであると判定する。
Now, in the camera side process shown in FIG. 6, when the power is turned on (S1), the
そして、カメラ装置2は、撮像指示のパターンと一致する場合には(S5:YES)、室内を撮像し(S6)、撮像データを携帯端末4等に送信したりサーバ6等に記憶させたりした後(S7)、ステップS2に移行してスリープモードに移行する。
このように、スリープモード中のカメラ装置2に対して、音エネルギーにより撮像指示を伝達することができる。
<振動エネルギーを用いる場合>
Then, when the
As described above, the imaging instruction can be transmitted to the
<When using vibration energy>
上記した光エネルギーと音エネルギーの場合には、ユーザがリアルタイムに撮像指示を送信する状況を想定したが、今回は、冷蔵庫1の扉が開閉されたとき(つまり、冷蔵庫1の貯蔵状態が変化した可能性があるとき)に撮像するという撮像指示が予め設定されている状況を想定している。すなわち、撮像指示を受信する受信手段とは、リアルタイムの撮像指示だけで無く、予め設定されている条件に基づいた撮像指示を受信する(受け付ける)ことも可能な構成となっている。 In the case of the light energy and the sound energy described above, it was assumed that the user transmitted an imaging instruction in real time, but this time the door of the refrigerator 1 is opened and closed (that is, the storage state of the refrigerator 1 has changed It is assumed that an imaging instruction for imaging at a time (when there is a possibility) is set in advance. That is, the receiving means for receiving the imaging instruction is configured to be able to receive (accept) the imaging instruction based on the conditions set in advance as well as the imaging instruction in real time.
このとき、冷蔵庫1は図9に示す庫側処理を実行し、カメラ装置2は図10に示すカメラ側処理を実行する。なお、図10に示すカメラ側処理の流れは概ね図6に示したカメラ側処理と共通するので、異なる点について詳細に説明する。
At this time, the refrigerator 1 executes storage-side processing shown in FIG. 9, and the
冷蔵庫1は、図9に示す庫側処理において、扉が開閉されたかを判定しており(R10)、扉が開閉されていない場合には(R10:NO)、待機する。一方、冷蔵庫1は、扉が開閉された場合には(R10:YES)、撮像中であることを報知した後(R11)、通信アダプタ34からカメラ装置2に対して撮像指示を送信する(R11)。
The refrigerator 1 determines whether the door is opened and closed in the storage-side processing shown in FIG. 9 (R10), and stands by when the door is not opened and closed (R10: NO). On the other hand, when the door is opened and closed (R10: YES), the refrigerator 1 sends an imaging instruction to the
カメラ装置2は、図10に示すカメラ側処理において、電源がONされると(S10)、スリープモードに移行し(S11)、振動(振動エネルギー)を検出したかを判定する(S12)。上記したように冷蔵庫1の扉を開閉した場合、それに伴って振動が発生する。そのため、カメラ装置2は、振動を検出すると(S12:YES)、通常動作モードに復帰し(S13)、冷蔵庫1から撮像指示を受信したかを判定する(S14)。このステップS14では、通信モジュール17を介して撮像指示を受信することになる。
In the camera side process shown in FIG. 10, when the power is turned on (S10), the
そして、カメラ装置2は、撮像指示を受信すると(S14:YES)、室内を撮像し(S15)、撮像データを送信、あるいはサーバ6等に記憶させた後(S16)、スリープモードに移行する。なお、ステップS16における送信先は、携帯端末4等である。つまり、カメラ装置2は、冷蔵庫1の扉が開閉された場合には、物品等の貯蔵状態が変化した可能性があるとして、その旨を撮像データとしてユーザに報知する。
このように、スリープモード中のカメラ装置2に対して、振動エネルギーにより撮像指示を伝達することができる。
<光エネルギーと振動エネルギーとを用いる場合>
When the
Thus, the imaging instruction can be transmitted to the
<When using light energy and vibration energy>
今回は、光エネルギーと振動エネルギーとを用い、冷蔵庫1の扉が開閉されたときに撮像するという撮像指示が予め設定されている状況において、カメラ装置2単体で撮像する例を説明する。このとき、カメラ装置2は、図11に示すカメラ側処理を実行する。なお、図11に示すカメラ側処理の流れは概ね図10に示したカメラ側処理と共通するので、異なる点について詳細に説明する。
This time, an example will be described in which a
カメラ装置2は、図11に示すカメラ側処理において、電源がONされると(S20)、スリープモードに移行し(S21)、光エネルギーを検出したかを判定する(S22)。冷蔵庫1の扉が開放された場合、冷蔵庫1は、例えば室内照明30を点灯する。また、扉が開放された場合には、庫外の明かりにより、カメラ装置2が照らされる。つまり、光エネルギーを検出することにより、扉の開閉状態を検出することができる。そのため、カメラ装置2は、光エネルギーを検出すると(S22:YES)、冷蔵庫1の扉が開放されたとして、通常動作モードに復帰する(S23)。
In the camera side process shown in FIG. 11, when the power is turned on (S20), the
続いて、カメラ装置2は、扉閉鎖に相当する状態であったかを判定する(S24)。ここで、「扉閉鎖に相当する状態」とは、扉が開放された後に扉が閉鎖された状態を意味している。より具体的には、このステップS24では、次の2点が判定されている。
a)光エネルギーを検出している期間が、瞬間的なものでは無く、物品等を取り出すのに要する程度の期間であったか。
b)扉が閉鎖された際の振動エネルギーを検出したか。
Subsequently, the
a) Whether the period during which light energy is detected is not instantaneous, but is a period necessary for taking out articles or the like.
b) Did you detect vibrational energy when the door was closed?
カメラ装置2は、これらを判定することにより、冷蔵庫1の扉が開閉されたことを判定する。そして、扉閉鎖に相当する状態であったと判定すると(S24:YES)、室内を撮像し(S25)、撮像データを送信、あるいはサーバ6等に記憶させた後(S26)、スリープモードに移行する。なお、ステップS26における送信先は、携帯端末4等である。
このように、スリープモード中のカメラ装置2に対して、光エネルギーと振動エネルギーとを組み合わせることによっても撮像指示を伝達することができる。
以上説明した実施形態によれば、次のような効果を得ることができる。
The
As described above, an imaging instruction can also be transmitted to the
According to the embodiment described above, the following effects can be obtained.
カメラ装置2は、室内を撮像する撮像部11と、撮像指示を家電製品を介して受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、受信手段で撮像指示が受信されると通常動作モードに復帰して撮像手段により室内を撮像する制御を行うカメラ側制御部18と、を備えているので、撮像指示がいつ送信されるかが想定できない場合であっても、通常動作状態のまま待機する必要が無い。これにより、待機中の電力消費を削減することができる。また、受信手段を設けているので、いつ撮像指示が送信されても室内を撮像することができる。したがって、電力消費を抑制しつつ、室内の情報である撮像データを任意に取得することができる。
The
撮像指示を家電製品から発せられる物理的なエネルギーで伝達するものとし、受信手段をそのエネルギーを検出する光センサ14、音センサ19、振動センサ20等で構成しているので、パネルブザー29や室内照明30等、家電製品に既存のものを撮像指示の伝達に利用することが可能となる。これにより、追加部品を設けなくても、カメラ装置2に撮像指示を伝達することができる。
Since the imaging instruction is transmitted by the physical energy emitted from the home appliance and the receiving means is constituted by the
室内LED32や室内ブザー33等、伝達手段として専用の構成を設けてもよい。この場合、例えば室内LED32を可視光以外の波長帯域の光エネルギーを発するようにしたり、室内ブザー33を可聴域を超える20kHz程度以上の音エネルギーを発するようにすること等により、ユーザに影響を与えること無く、撮像指示を伝達することができる。
A dedicated configuration may be provided as a transmission means, such as the
エネルギーを所定のパターンで発することで撮像指示を伝達し、パターンが一致するか否かを撮像条件に加えたので、外乱の影響を受けること無く、確実に撮像指示を伝達することができ、誤検出や誤撮像を防止することができる。 Since the imaging instruction is transmitted by emitting energy in a predetermined pattern, and whether or not the patterns match is added to the imaging condition, the imaging instruction can be transmitted reliably without being affected by the disturbance, which is an error. Detection and false imaging can be prevented.
撮像が終了したとき、および、検出されたエネルギーのパターンと撮像指示を示すパターンとが一致しなかったときにはスリープモード(低電力モード)に移行するので、電力消費を低減することができる。 When the imaging ends, and when the detected energy pattern and the pattern indicating the imaging instruction do not match, transition to the sleep mode (low power mode) is performed, and therefore power consumption can be reduced.
例えばパネルブザー29や室内照明30等の家電製品に予め設けられているものを利用する場合、当然のことながら、撮像指示以外の場合にそれらからエネルギーが発せられることがある。そこで、撮像指示のパターンを通常動作では発生し得ないパターン(図7に示した点滅パターンや図8に示した鳴動パターン等)とすることにより、誤撮像を防止することができる。
For example, when using what is previously provided in household appliances, such as the
上記したカメラ装置2と、カメラ装置2に対する前記撮像指示を入力するための携帯端末4等の操作端末と、操作端末から撮像指示を受信する通信アダプタ34および受信した撮像指示をカメラ装置2に伝達する伝達手段(室内LED32やパネルブザー29等)を有する家電製品と、により室内撮像システム100を構成しているので、待機中の電力消費を削減することができるとともに、電力消費を抑制しつつ、室内の情報である撮像データを任意に取得することができる。
(その他の実施形態)
The
(Other embodiments)
上記した実施形態にて例示した構成は、それに限定されることなく、例えば以下に示すような変形や組み合わせの変更等を行うことができる。そして、それらの構成によっても、一実施形態と同様の効果を得ることができる。 The configuration exemplified in the above-described embodiment is not limited thereto, and, for example, the following modifications, combination changes, and the like can be performed. And the effect similar to one Embodiment can be acquired also by those structures.
一実施形態で示した点滅周期や鳴動周期等の数値は一例であり、適宜設定することができる。また、光エネルギーを検出する際、ON/OFFのエッジを検出するのではなく、光エネルギーの強度(照度)が基準値を超えたか、ON/OFFの周期が一致するか、あるいは、ON/OFFのパルス幅が一致するか等、外乱光の影響を抑制することができれば、どのようなパターンや判定基準を採用してもよい。 The numerical values such as the blinking cycle and the ringing cycle described in the embodiment are merely examples, and can be set as appropriate. Also, when detecting light energy, instead of detecting the edge of ON / OFF, whether the intensity (illuminance) of light energy exceeds a reference value, whether the period of ON / OFF matches, or ON / OFF Any pattern or determination criterion may be adopted as long as the influence of disturbance light can be suppressed, such as whether the pulse widths of the two coincide.
その場合、例えば赤外線を用いる等、光エネルギーを可視光以外の波長帯域に設定してもよい。また、カメラ装置2を住宅7の室内に設けて照明機器(可視光)を伝達手段として用いる場合には、点滅周期を人の目では判断できない周期(例えば30Hz程度以上)にすることで、人の目では分からない状態で撮像指示を伝達することもできる。
In that case, light energy may be set to wavelength bands other than visible light, such as using infrared light. In addition, when the
また、音エネルギーを検出する際、音エネルギーの強度(いわゆる音圧やdB値)が基準値を超えたか、ON/OFFの周期が一致するか、あるいは、ON/OFFのパルス幅が一致するか等、外乱音の影響を抑制することができれば、どのようなパターンや判定基準を採用してもよい。 In addition, when detecting sound energy, does the intensity of sound energy (so-called sound pressure or dB value) exceed a reference value, does the ON / OFF period coincide, or does the ON / OFF pulse width coincide? Any other pattern or determination criterion may be adopted as long as the influence of disturbance noise can be suppressed.
その場合、人の可聴域を超える波長域(例えば、20kHz程度以上)の超音波を用いれば、ユーザが在宅中でも音の発生を気にすることが無くなる。また、パネルブザー29や室内ブザー33を用いることなく、上記した送風機31を通常運転では使用しない回転数(例えば2500rpm)まで上げて音エネルギーを発生させてもよい。
In that case, if an ultrasonic wave in a wavelength range (for example, about 20 kHz or more) exceeding the audible range of a person is used, the user does not have to be concerned about the generation of sound even at home. Further, without using the
一実施形態では家電製品として冷蔵庫1を例示したが、他の家電成否であってもよい。例えば、エアコンやテレビの音声を利用すれば、冷蔵庫1の室内だけでなく、カメラ装置2を住宅7の室内を同様の手法にて撮像することができる。さらには、撮像指示を家電製品と競合しない周波数帯域の音エネルギーにより伝達する等、撮像指示に対応する周波数を予め設定してもよい。また、光エネルギーについても、例えばエアコンにはリモコンとの間で赤外線による双方向通信が可能な赤外線送受信部が設けられていることから、その赤外線送受信部を伝達手段として用いることもできる。また、洗濯機であっても、運転終了のブザー等を利用して伝達手段として用いることができる。
Although the refrigerator 1 was illustrated as a household appliance in one embodiment, other household appliances success or failure may be sufficient. For example, if the sound of an air conditioner or a television is used, not only the room of the refrigerator 1 but also the room of the house 7 of the
一実施形態では光エネルギー、音エネルギーおよび振動エネルギーを検出するセンサをそれぞれ設けているが、いずれか1つ又は2つのセンサを設ける構成としてもよい。 In one embodiment, sensors for detecting light energy, sound energy and vibration energy are provided respectively, but any one or two sensors may be provided.
一実施形態では光エネルギーと振動エネルギーとを組み合わせた例を示したが、光エネルギーと音エネルギーとを組み合わせてもよいし、音エネルギーと振動エネルギーとを組み合わせてもよいし、それら全てを組み合わせてもよい。勿論、冷蔵庫1の扉が開閉されたときに撮像するという撮像指示が予め設定されている場合だけでなく、リアルタイムで送信された撮像指示を伝達する際にも各エネルギーを組み合わせて伝達するようにしてもよい。 Although the example which combined light energy and vibrational energy was shown in one embodiment, light energy and sound energy may be combined, sound energy and vibrational energy may be combined, or all of them are combined. It is also good. Of course, not only when the imaging instruction for imaging when the door of the refrigerator 1 is opened and closed is set in advance, but also when transmitting the imaging instruction transmitted in real time, each energy is combined and transmitted. May be
一実施形態では室内の情報としてカメラ装置2による撮像データを示したが、他の情報を取得するようにしてもよい。すなわち、一実施形態と同様の構成にて、撮像データや音声データ等の室内の情報を取得する情報取得装置を、室内の情報を取得する情報取得手段と、情報取得手段に対する取得指示を受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、受信手段により前記取得指示が受信されると通常動作モードに復帰し、室内の情報を取得するために情報取得手段を制御する制御手段と、により構成してもよい。このような構成によっても、電力消費を抑制しつつ、室内の情報を任意に取得することができる等、一実施形態と同様の効果を得ることができる。
また、本明細書には、以下の発明が記載されている。
In the embodiment, the imaging data by the
Also, the following inventions are described in the present specification.
前記制御手段は、前記受信手段により受信された前記光エネルギーのパターンと前記撮像指示を示すパターンとが一致すると、室内を撮像することを特徴とするカメラ装置。 A camera apparatus characterized in that the control means images the room when the pattern of the light energy received by the receiving means matches the pattern indicating the imaging instruction.
前記制御手段は、前記受信手段により受信された光エネルギーのパターンと前記撮像指示を示すパターンとが一致しなかったとき、および、前記撮像手段による撮像が終了したときには、低電力モードに移行することを特徴とするカメラ装置。
前記光エネルギーは、点滅する周期が30Hz以上に設定されていることを特徴とするカメラ装置。
前記光エネルギーは、可視光以外の波長帯域に設定されていることを特徴とするカメラ装置。
The control means shifts to a low power mode when the light energy pattern received by the receiving means does not match the pattern indicating the imaging instruction, and when the imaging by the imaging means is completed. Camera device characterized by
The light energy has a flashing cycle set to 30 Hz or more.
A camera apparatus characterized in that the light energy is set to a wavelength band other than visible light.
室内を撮像する撮像手段と、室内を撮像するための撮像指示を、冷蔵庫を介して受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、前記受信手段で前記撮像指示が受信されると通常動作モードに復帰して前記撮像手段により室内を撮像する制御手段と、を有するカメラ装置と、前記カメラ装置に対する前記撮像指示を入力するための操作端末と、前記操作端末から前記撮像指示を受信する通信手段と、前記通信手段により受信された前記撮像指示を前記カメラ装置に伝達する伝達手段と、を有する冷蔵庫と、を備え、前記撮像手段は、前記冷蔵庫の室内に設けられ、前記冷蔵庫の室内を撮像するものであり、撮像指示が受信手段により検出されると、通常動作モードに復帰することを特徴とする室内撮像システム。 Waiting in imaging mode for imaging the room, reception means for receiving the imaging instruction for imaging the room via the refrigerator, and low power mode, which consumes relatively less power than the normal operation mode. A camera device having control means for returning to the normal operation mode when the image pickup instruction is received by the reception means and imaging the room by the image pickup means; and for inputting the image pickup instruction to the camera device And a communication unit for receiving the imaging instruction from the operation terminal, and a refrigerator having a transmitting unit for transmitting the imaging instruction received by the communication unit to the camera device, The means is provided in the room of the refrigerator and picks up an image of the room of the refrigerator, and returns to the normal operation mode when an image pickup instruction is detected by the reception means. Indoor imaging system comprising.
前記撮像指示は、前記冷蔵庫の室内に設けられている室内照明から発せられた所定のパターンの光エネルギーによって伝達されるものであり、前記受信手段は、前記光エネルギーを検出する光センサで構成されており、前記制御手段は、前記室内照明から発せられた所定のパターンの光エネルギーが前記受信手段により検出されると通常動作モードに復帰することを特徴とする室内撮像システム。 The imaging instruction is transmitted by light energy of a predetermined pattern emitted from an indoor illumination provided in a room of the refrigerator, and the receiving means is constituted by an optical sensor for detecting the light energy. An indoor imaging system characterized in that the control means returns to the normal operation mode when the light energy of a predetermined pattern emitted from the indoor lighting is detected by the receiving means.
室内の情報を取得する情報取得手段と、前記情報取得手段に対する取得指示を受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、前記受信手段により前記取得指示が受信されると通常動作モードに復帰し、室内の情報を取得するために前記情報取得手段を制御する制御手段と、を備え、前記情報取得手段は、冷蔵庫の室内に設けられ、前記冷蔵庫の室内の情報を取得するものであり、撮像指示が受信手段により検出されると、通常動作モードに復帰することを特徴とする室内撮像システム。 An information acquisition means for acquiring information in the room, a reception means for receiving an acquisition instruction to the information acquisition means, and a standby mode in a low power mode that consumes relatively less power than the normal operation mode. The control unit returns to the normal operation mode when the acquisition instruction is received by the reception unit, and controls the information acquisition unit to acquire information in the room, and the information acquisition unit is installed in the refrigerator room An indoor imaging system, provided to acquire information in a room of the refrigerator, and returning to a normal operation mode when an imaging instruction is detected by the receiving means.
前記取得指示は、前記冷蔵庫の室内に設けられている室内照明から発せられた所定のパターンの光エネルギーによって伝達されるものであり、前記受信手段は、前記光エネルギーを検出する光センサで構成されており、前記制御手段は、前記室内照明から発せられた所定のパターンの光エネルギーが前記受信手段により検出されると通常動作モードに復帰することを特徴とする室内情報取得装置。 The acquisition instruction is transmitted by the light energy of a predetermined pattern emitted from the indoor lighting provided in the room of the refrigerator, and the receiving means is constituted by an optical sensor for detecting the light energy. The indoor information acquisition apparatus according to claim 1, wherein the control means returns to the normal operation mode when the light energy of the predetermined pattern emitted from the indoor lighting is detected by the receiving means.
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 While certain embodiments of the present invention have been described, these embodiments have been presented by way of example only, and are not intended to limit the scope of the invention. These novel embodiments can be implemented in various other forms, and various omissions, substitutions, and modifications can be made without departing from the scope of the invention. These embodiments and modifications thereof are included in the scope and the gist of the invention, and are included in the invention described in the claims and the equivalent scope thereof.
図面中、1は冷蔵庫(家電製品)、2はカメラ装置、情報取得装置、4は携帯端末(操作端末)、6はサーバ(操作端末)、11は撮像部(撮像手段、情報取得手段)、14は光センサ(センサ、検出手段、受信手段)、18はカメラ側制御部(制御手段)、19は音センサ(センサ、検出手段、受信手段)、20は振動センサ(センサ、検出手段、受信手段)、28はパネルLED(伝達手段)、29はパネルブザー(伝達手段)、30は室内照明(伝達手段)、31は送風機(伝達手段)、32は室内LED(伝達手段)、33は室内ブザー(伝達手段)、34は通信アダプタ(通信手段)、100は室内撮像システムを示す。 In the drawings, 1 is a refrigerator (home appliance), 2 is a camera device, 4 is a portable terminal (operation terminal), 6 is a server (operation terminal), 11 is an imaging unit (imaging means, information acquisition means), 14 is an optical sensor (sensor, detection means, reception means), 18 is a camera side control unit (control means), 19 is a sound sensor (sensor, detection means, reception means), 20 is a vibration sensor (sensor, detection means, reception) Means, 28: panel LED (transmission means), 29: panel buzzer (transmission means), 30: indoor lighting (transmission means), 31: fan (transmission means) 32, 32: indoor LED (transmission means), 33: indoor A buzzer (transmission means), 34 indicates a communication adapter (communication means), and 100 indicates an indoor imaging system.
Claims (1)
外部の操作端末から与えられた室内を撮像するための撮像指示を、前記操作端末と通信可能な冷蔵庫を介して受信する受信手段と、
常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、前記受信手段で前記撮像指示が受信されると通常動作モードに復帰して前記撮像手段により室内を撮像する制御手段と、を備え、
前記撮像手段、前記受信手段および前記制御手段を含むカメラ装置は、前記冷蔵庫の室内に設置されており、
前記撮像指示が前記受信手段により検出されると、通常動作モードに復帰することを特徴とするカメラ装置。 Imaging means for imaging the room;
A receiving unit that receives an imaging instruction for imaging a room given from an external operation terminal via a refrigerator that can communicate with the operation terminal;
It always stands by in the low power mode where power consumption is relatively less than that in the normal operation mode, and when the image capturing instruction is received by the receiving means, it returns to the normal operation mode and picks up the room by the imaging means Control means, and
A camera device including the imaging means, the receiving means, and the control means is installed in a room of the refrigerator,
A camera apparatus characterized by returning to a normal operation mode when the imaging instruction is detected by the receiving means.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019027406A JP6708766B2 (en) | 2019-02-19 | 2019-02-19 | Camera device, indoor imaging system, indoor information acquisition device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019027406A JP6708766B2 (en) | 2019-02-19 | 2019-02-19 | Camera device, indoor imaging system, indoor information acquisition device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013147563A Division JP6659204B2 (en) | 2013-07-16 | 2013-07-16 | Camera device, indoor imaging system, indoor information acquisition device |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020088090A Division JP7185659B2 (en) | 2020-05-20 | 2020-05-20 | refrigerator |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019126042A true JP2019126042A (en) | 2019-07-25 |
JP6708766B2 JP6708766B2 (en) | 2020-06-10 |
Family
ID=67399330
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019027406A Active JP6708766B2 (en) | 2019-02-19 | 2019-02-19 | Camera device, indoor imaging system, indoor information acquisition device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6708766B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114857852A (en) * | 2021-03-29 | 2022-08-05 | 青岛海尔电冰箱有限公司 | Method and equipment for acquiring high-quality image and refrigerator |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002340471A (en) * | 2001-05-18 | 2002-11-27 | Fujitsu General Ltd | Refrigerator interior display system |
JP2005286766A (en) * | 2004-03-30 | 2005-10-13 | Victor Co Of Japan Ltd | Remote photographing system |
-
2019
- 2019-02-19 JP JP2019027406A patent/JP6708766B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002340471A (en) * | 2001-05-18 | 2002-11-27 | Fujitsu General Ltd | Refrigerator interior display system |
JP2005286766A (en) * | 2004-03-30 | 2005-10-13 | Victor Co Of Japan Ltd | Remote photographing system |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114857852A (en) * | 2021-03-29 | 2022-08-05 | 青岛海尔电冰箱有限公司 | Method and equipment for acquiring high-quality image and refrigerator |
CN114857852B (en) * | 2021-03-29 | 2023-08-15 | 青岛海尔电冰箱有限公司 | High-quality image acquisition method, equipment and refrigerator |
Also Published As
Publication number | Publication date |
---|---|
JP6708766B2 (en) | 2020-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6659204B2 (en) | Camera device, indoor imaging system, indoor information acquisition device | |
JP6092049B2 (en) | Imaging system and imaging apparatus | |
US20130016211A1 (en) | Home Surveillance Device | |
US20130021473A1 (en) | Home Surveillance Device | |
JP7185659B2 (en) | refrigerator | |
JP2019126042A (en) | Camera apparatus, indoor imaging system, and indoor information acquisition apparatus | |
JP6501836B2 (en) | Indoor imaging system | |
JP6233737B2 (en) | Motion detection device and control system | |
KR20150126106A (en) | Robot cleaner and method for operating the same | |
JP6744444B2 (en) | Operating terminal, operating terminal program, home appliances | |
JP7010995B2 (en) | Operation terminal, operation terminal program | |
JP6184803B2 (en) | Indoor imaging system | |
JP2012150591A (en) | Equipment control device and security system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190319 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191113 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191119 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200428 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200521 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6708766 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |