JP6659204B2 - カメラ装置、室内撮像システム、室内情報取得装置 - Google Patents

カメラ装置、室内撮像システム、室内情報取得装置 Download PDF

Info

Publication number
JP6659204B2
JP6659204B2 JP2013147563A JP2013147563A JP6659204B2 JP 6659204 B2 JP6659204 B2 JP 6659204B2 JP 2013147563 A JP2013147563 A JP 2013147563A JP 2013147563 A JP2013147563 A JP 2013147563A JP 6659204 B2 JP6659204 B2 JP 6659204B2
Authority
JP
Japan
Prior art keywords
imaging
refrigerator
camera device
room
light energy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013147563A
Other languages
English (en)
Other versions
JP2015023306A (ja
Inventor
浩太 渡邊
浩太 渡邊
井澤 浩一
浩一 井澤
古田 和浩
和浩 古田
裕樹 丸谷
裕樹 丸谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Lifestyle Products and Services Corp
Original Assignee
Toshiba Lifestyle Products and Services Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2013147563A priority Critical patent/JP6659204B2/ja
Application filed by Toshiba Lifestyle Products and Services Corp filed Critical Toshiba Lifestyle Products and Services Corp
Priority to PCT/JP2014/066545 priority patent/WO2015008584A1/ja
Priority to KR1020157037086A priority patent/KR102099746B1/ko
Priority to CN201480045807.5A priority patent/CN105474621B/zh
Priority to CN201910659825.7A priority patent/CN110392210A/zh
Priority to CN201910659737.7A priority patent/CN110392208A/zh
Priority to CN201910659776.7A priority patent/CN110392209A/zh
Priority to EP14825813.0A priority patent/EP3024216A4/en
Priority to TW103123727A priority patent/TWI571124B/zh
Publication of JP2015023306A publication Critical patent/JP2015023306A/ja
Priority to US14/997,140 priority patent/US10194081B2/en
Application granted granted Critical
Publication of JP6659204B2 publication Critical patent/JP6659204B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/38Releasing-devices separate from shutter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
  • Studio Devices (AREA)

Description

本発明の実施形態は、カメラ装置、室内撮像システム、室内情報取得装置に関する。
従来、例えば冷蔵庫にカメラを設けること等により、遠隔地からでも例えば冷蔵庫内の食材等の情報を取得可能なものが知られている(例えば、特許文献1参照)。
特開2012−226748号公報
しかしながら、いつ遠隔地のユーザから室内の情報を取得するための指示が与えられるかを把握することができないことから、常にその指示を受信可能な状態で作動する必要があり、電力消費が増加する問題があった。
本発明が解決しようとする課題は、電力消費を抑制しつつ、室内の情報を任意に取得することができるカメラ装置、室内撮像システム、室内情報取得装置を提供することにある。
実施形態によるカメラ装置は、室内を撮像する撮像手段と、室内を撮像するための撮像指示を、家電製品を介して受信する受信手段と、常には通常動作モードよりも相対的に消費電力が少ない低電力モードにて待機しており、受信手段により撮像指示が受信されると通常動作モードに復帰して撮像手段により室内を撮像する制御手段と、を備える。
一実施形態の室内撮像システムを模式的に示す図 一実施形態のカメラ装置の外観を模式的に示す図 一実施形態のカメラ装置の内部を模式的に示す図 一実施形態のカメラ装置および室内撮像システムの電気的構成を模式的に示す図 一実施形態における冷蔵庫の処理の流れを示す図 一実施形態におけるカメラ装置の処理の流れを示す図 一実施形態において光エネルギーにより撮像指示を伝達する際の点滅パターンの一例を示す図 一実施形態において音エネルギーにより撮像指示を伝達する際の鳴動パターンの一例を示す図 一実施形態において振動エネルギーにより撮像指示を伝達する際の冷蔵庫の処理の流れを示す図 一実施形態において振動エネルギーにより撮像指示を伝達する際のカメラ装置の処理の流れを示す図 一実施形態において光エネルギーと振動エネルギーとにより撮像指示を伝達する際のカメラ装置の処理の流れを示す図
以下、一実施形態について図1から図11を参照しながら説明する。
図1に示すように、本実施形態の室内撮像システム100は、家電製品としての冷蔵庫1、室内を撮像するためのカメラ装置2、冷蔵庫1側との間で通信を行うためのアクセスポイント3、操作端末としての携帯端末4等により構成されている。このうち、アクセスポイント3は、外部ネットワーク5に接続しており、外部ネットワーク5を介して遠隔地の携帯端末4やサーバ6等と冷蔵庫1側との間を通信可能に接続している。本実施形態では、冷蔵庫1とアクセスポイント3との間、アクセスポイント3と携帯端末4との間、およびカメラ装置2とアクセスポイント3との間は、Bluetooth(登録商標)による無線通信にて通信が行われる。
携帯端末4は、カメラ装置2に室内を撮像させるための撮像指示を入力する操作端末であり、いわゆるスマートフォン(高機能携帯電話)を想定している。ただし、操作端末としては、携帯端末4に限らず、例えばタブレット型のパソコン等であってもよい。この携帯端末4は、住宅7内に位置している場合には、アクセスポイント3との間で近距離無線方式により通信可能に接続される。また、携帯端末4は、住宅7外に位置している場合には、広域通信により外部ネットワーク5を介してアクセスポイント3との間で通信可能に接続される。また、携帯端末4は、住宅7内からであっても広域通信により外部ネットワーク5を介してアクセスポイント3に接続することが可能であるとともに、住宅7内においては、アクセスポイント3を介さずに冷蔵庫1側と直接的に通信可能でもある。
サーバ6は、周知のコンピュータシステムにより構成されており、冷蔵庫1にアクセスするための情報(例えばIPアドレス等)等を記憶しているとともに、本実施形態では、カメラ装置2により撮像された撮像データを記憶する。なお、図1では冷蔵庫1のみを図示しているが、図示しないエアコン等、他の家電製品もネットワーク化されている。
このように家電製品をネットワーク化することにより、各家電製品の消費電力をユーザに目に見える形で提供する見える化、夏場の昼間等の電力需要が大きくなる時間帯における電力消費を低減するピークシフト、一般家庭の定格を超えるような電力の瞬間的な使用を回避するピークカット等の電力コントロールや、家電製品の故障診断等、使い勝手や快適性あるいは利便性を提供するためのシステムを提供することが可能となる。また、カメラ装置2を例えば冷蔵室内に設置することにより、冷蔵庫1の室内の様子(物品の貯蔵状態等)を確認すること等も可能となる。そして、これら各種の情報や撮像データ等をサーバ6に記憶することで、遠隔地であっても外部ネットワーク5等を介して携帯端末4等によりそれらの情報を参照することが可能となる。
次に、カメラ装置2について説明する。
カメラ装置2は、図2および図3に示すように、概ね直方体の形状に形成された筐体10の表面に、撮像部11(図4参照)のレンズ12、本実施形態では2個の撮像ライト13、および光センサ14が露出するように設けられている。ただし、レンズ12や撮像ライト13および光センサ14は、筐体10外に露出するのではなく、その表面がカバー等で覆われた態様であってもよい。以下、レンズ12等が露出している側を(図3の図示右方側)をカメラ装置2の正面とし、反対側(図3の図示左方側)を背面として説明する。
このカメラ装置2は、図3に示すように、筐体10内に、制御基板15、電池16、通信モジュール17、音センサ19および振動センサ20等が収容されている。制御基板15には、レンズ12や図示しない撮像素子を有する撮像部11、撮像ライト13、およびそれらを制御するためのカメラ側制御部18(図4参照)等が設けられている。撮像素子は、CCDやCMOS等の周知の撮像素子が用いられている。撮像ライト13は、LEDを採用している。なお、図示は省略するが、カメラ装置2には電源スイッチも設けられている。
電池16は、制御部や通信モジュール17、および光センサ14、音センサ19、振動センサ20等に電力を供給する。つまり、カメラ装置2は、内蔵する電池16により駆動される。このため、カメラ装置2は、電源ケーブル等が不要となり、任意の場所に設置することが可能となる。本実施形態では、上記したようにカメラ装置2は冷蔵室内に設置されている。
通信モジュール17は、撮像部11で撮像した庫内の撮像データを、アクセスポイント3を介して携帯端末4やサーバ6等に送信する。なお、サーバ6に送信するのは、撮像データをサーバ6に記憶させるためである。ここで、撮像データとは、室内の画像を含むデータであり、例えばビットマップ形式やJPEG形式或いはMPEG形式などの周知のフォーマットのデータ(静止画、動画)、そのデータを圧縮や暗号化あるいは画像処理することにより変換したデータ等、室内の様子を携帯端末4等で確認できるデータであれば、どのような形式のものであってもよい。
図4に示すように、カメラ側制御部18は、CPU18a、ROM18b、RAM18cおよびRTC18d等を有するマイクロコンピュータで構成されており、カメラ装置2全体を制御する。具体的には、カメラ側制御部18は、撮像部11による撮像タイミングの制御、撮像する際の撮像環境を整える制御(撮像ライト13の点灯制御)、通信モジュール17による撮像データの送信、各センサによる後述する撮像指示の受信(受け付け)等のための制御等を行っている。また、カメラ側制御部18は、本実施形態では、撮像した画像の補正等を行う画像処理も行っている。カメラ側制御部18は、制御手段を構成している。
カメラ側制御部18に接続されている光センサ14は、いわゆる照度センサであり、カメラ装置2の周辺の照度を検出する。より詳細には、光センサ14は、所定の波長帯域の光エネルギー(本実施形態では、後述する室内LEDから発せられる光エネルギー)を検出する。光センサ14で検出された光エネルギーは、電気信号に変換されてカメラ側制御部18に出力される。
音センサ19は、カメラ装置2の周囲で発生した音を検出する。より詳細には、音センサ19は、予め設定されている周波数帯域で発せられる音エネルギー(本実施形態では、後述するパネルブザー29や室内ブザー33から発せられる音エネルギー)を検出する。音センサ19で検出された音エネルギーは、電気信号に変換されてカメラ側制御部18に出力される。
振動センサ20は、カメラ装置2に加わった振動を検出する。この振動センサ20は、例えば3軸加速度センサ等により構成されており、検出した振動エネルギーを電気信号に変換してカメラ側制御部18に出力する。そして、カメラ側制御部18は、加速度に基づいて、カメラ装置2に加わった振動を検出する。
これら光センサ14、音センサ19、および振動センサ20は、詳細は後述するが、物理的なエネルギーを検出するセンサであり、撮像指示を受信する受信手段を構成している。なお、光センサ14、音センサ19および振動センサ20の全てを必ずしも設ける必要は無く、撮像指示を例えば光エネルギーでのみ受信するのであれば、光センサ14のみを設ける構成としてもよい。
カメラ側制御部18は、検出された各エネルギーの強度やパターンに基づいて、後述するように撮像指示であるかを判定する。つまり、本実施形態の場合、ユーザからの撮像指示は、所定のパターンで発せられたエネルギーにより示される構成となっており、カメラ側制御部18は、各センサにより検出されたエネルギーのパターンと撮像指示を示すパターンとが一致するかを判定する判定手段としても機能する。
このような構成のカメラ装置2は、常には通常動作モードよりも相対的に消費電力が少ない低電力モードにて待機しており、撮像指示を受信すると、通常動作モードに復帰して室内を撮像する。本実施形態の場合、カメラ装置2は冷蔵室内に設けられていることから、冷蔵室の室内が撮像される。
カメラ装置2が設置される冷蔵庫1は、庫側制御部21を有している。この庫側制御部21は、CPU21a、ROM21b、RAM21c、タイマ21d等を有するマイクロコンピュータで構成されており、冷蔵庫1全体を制御する。具体的には、庫側制御部21は、例えば操作パネル22から設定された運転状態となるように、温度センサ23で検出した庫内の温度や扉センサ24で検出した扉の開閉状態等に基づいて、周知の冷凍サイクルを構成する冷蔵用冷却機構25や冷凍用冷却機構26の運転状態を制御する。
操作パネル22には、パネル表示器27、パネルLED28、パネルブザー29が設けられている。パネル表示器27は、設定値等を表示する。パネルLED28は、操作スイッチやや運転状態等を点灯させるために設けられている。パネルブザー29は、圧電ブザー等で構成され、操作に応じて音声(音エネルギー)を発することで、操作内容を報知する。本実施形態の場合、パネルブザー29は、6kHzの音を出力可能となっており、後述するように、カメラ装置2に対して撮像指示を伝達するために音エネルギーを発する伝達手段としても機能する。
室内照明30は、冷蔵室等に設けられており、扉が開放された際に点灯する。つまり、室内照明30は、光エネルギーを発生させる。この室内照明30は、庫側制御部21からの制御により点滅可能となっている。送風機31は、通常の動作においては冷蔵庫1内の冷気を循環させるために設けられている。この送風機31は、例えば回転数を通常の動作よりも高くすることにより、風切り音やモータ音等の音エネルギーを発生させることが可能となっている。
室内LED32は、カメラ装置2に対して撮像指示を伝達するために光エネルギーを発生するものであり、本実施形態では、上記した光センサ14で検出可能な所定の周波数帯域の光を発する構成となっている。また、室内LED32は、所定のパターンにて点滅可能であり、撮像指示に対応するパターンで点滅することで撮像指示をカメラ装置2側に伝達する伝達手段を構成している。なお、上記した室内照明30も、光エネルギーを発するものであることから、室内LED32の代わりに伝達手段として用いることが可能である。また、室内照明30を伝達手段として用いる場合には、室内LED32を設けなくてもよい。
室内ブザー33は、カメラ装置2に対して撮像指示を伝達するために音エネルギーを発生する例えば圧電ブザーで構成されている。室内ブザー33は、例えば20kHzの音声(つまり、可聴域から外れた音声)を出力可能であり、室内ブザー33から発せられた音声は、上記した音センサ19では検出可能である一方、人には聞こえない構成となっている。なお、パネルブザー29を伝達手段として用いる場合や送風機31を伝達手段として用いる場合には、室内ブザー33を設けなくてもよい。室内ブザーは、伝達手段を構成している。
通信アダプタ34は、アクセスポイント3や室内の携帯端末4等との間で通信を行うものであり、本実施形態では、冷蔵庫1に着脱可能に設けられている。なお、図1には冷蔵庫1だけを図示しているが、通信アダプタ34は、エアコン等の他の家電製品にも設けられ、家電製品をネットワーク化している。通信アダプタ34は、通信手段を構成している。また、通信アダプタ34は、アクセスポイント3を介すること無く、カメラ装置2との間で直接的に通信を行うことも可能な構成となっている。この通信アダプタ34は、上記したように見える化等にも用いられていることから、冷蔵庫1が動作している状態では基本的に常時作動している。
次に、上記した構成の作用について説明する。
上記したカメラ装置2を設けることにより、住宅7の室内や冷蔵室等の室内を撮像することができる。この場合、外部ネットワーク5を経由して携帯端末4からカメラ装置2に対して撮像指示を送信することで、遠隔地からであっても任意のタイミングで撮像データを取得することができる。ただし、いつ撮像指示が送られてくるかが不明なために通信モジュール17を常に動作させておく必要があり、その場合には電力消費が大きくなる。その結果、1日あるいは数日程度で電池16交換(あるいは充電)が必要となる。
そこで、カメラ装置2および室内撮像システム100では、冷蔵庫1等の家電製品から撮像指示を伝達させることにより(家電製品と連携させることにより)、電力消費を抑制しつつ、撮像データ等の室内の情報を任意に取得することを可能としている。以下、説明の簡略化のために、撮像指示の伝達に光エネルギーを用いる場合と、音エネルギーを用いる場合と、振動エネルギーを用いる場合と、それらを組み合わせた場合の一例(光エネルギーとエネルギーとを用いる例)について、それぞれ個別に説明する。
<光エネルギーを用いる場合>
光エネルギーを用いて撮像指示を伝達する場合、冷蔵庫1は図5に示す庫側処理を実行し、カメラ装置2は図6に示すカメラ側処理を実行する。
冷蔵庫1は、図5に示す庫側処理において、撮像指示を受信したかを判定する(R1)。ユーザからの撮像支持は、アクセスポイント3を経由して通信アダプタ34により冷蔵庫1にて受信される(図4参照)。冷蔵庫1は、撮像指示を受信していない場合には(R1:NO)、そのまま待機する。一方、冷蔵庫1は、撮像指示を受信した場合には(R1:YES)、扉が閉鎖されているかを判定し(R2)、扉が開放されている場合には(R2:NO)、扉が閉鎖されるまで待機する。
冷蔵庫1は、扉が閉鎖されている場合には(R2:YES)、操作パネル22等から撮像中であることを報知した後(R3)、エネルギー(ここでは光エネルギー)を発する。このステップR3では、冷蔵庫1は、室内LED32を撮像指示に対応する所定のパターンにて点滅させることで、光エネルギーを発している。具体的には、冷蔵庫1は、図7に示すように、撮像指示を受信すると予め設定されている点滅期間の間、室内LED32のON/OFFを繰り返す。つまり、本実施形態では、撮像指示を示すパターンとして、光エネルギーが5Hzで点滅するパターンが採用されている。この点滅パターンは、一般的な冷蔵庫1の使用状態では発生し得ないパターンである。すなわち、扉が開放されたときには室内照明30が点灯するものの、扉が5Hz(0.2s周期)で開閉されることは無いと考えられるため、扉の開閉と撮像指示とが誤判定されるおそれがない。
さて、カメラ装置2は、図6に示すカメラ側処理において、電源がONされると(S1)、スリープモードに移行する(S2)。このスリープモードは、通常動作モードよりも電力消費が少ない低電力モードに相当する。そして、カメラ装置2は、エネルギーを検出したかを判定する(S3)。このステップS3では、より詳細には、カメラ側制御部18はスリープモードで待機している状態であり、光センサ14により光エネルギーを検出した旨が通知されたかが判定されることになる。この通知は、マイクロコンピュータ等では周知の割り込み信号等により通知される。
カメラ装置2は、エネルギーを検出していない場合には(S3:NO)、そのまま待機する一方、エネルギーを検出した場合には(S3:YES)、通常動作モードに復帰する(S4)。そして、検出したエネルギーのパターンが、撮像指示のパターンと一致するかを判定する(S5)。具体的には、カメラ装置2は、光エネルギーのON/OFFのエッジを検出し、そのエッジが例えば5秒間で10回以上検出されると、撮像指示を示すものであると判定する。
カメラ装置2は、撮像指示のパターンと一致する場合には(S5:YES)、室内を撮像し(S6)、撮像データを携帯端末4等に送信したりサーバ6等に記憶させたりした後(S7)、ステップS2に移行してスリープモードに移行する。また、カメラ装置2は、撮像指示のパターンと一致しない場合にも(S5:NO)、スリープモードに移行する。
このように、スリープモード中のカメラ装置2に対して、光エネルギーにより撮像指示を伝達することができる。
<音エネルギーを用いる場合>
音エネルギーを用いて撮像指示を伝達する場合、光エネルギーの場合と同様に、冷蔵庫1は図5に示す庫側処理を実行し、カメラ装置2は図6に示すカメラ側処理を実行する。以下、処理内容が異なる点について詳細に説明する。
冷蔵庫1は、撮像指示を受信すると(R1:YES)、扉が閉鎖されているかを確認し(R2:YES)、撮像中であることを報知した後(R3)、エネルギー(ここでは音エネルギー)を発する。この場合、冷蔵庫1は、パネルブザー29を所定のパターンにて鳴動させることで、音エネルギーを発している。具体的には、冷蔵庫1は、図8に示すように、撮像指示を受信すると予め設定されている鳴動期間の間、0.5秒ON(鳴動)、0.5秒間OFF(停止)するパターンで、パネルブザー29を鳴動させる。つまり、本実施形態では、撮像指示を示すパターンとして、予め設定された6kHz(室内ブザー33の場合には20kHzの非可聴域)の周波数帯域であって、予め定められた周期(0.5秒周期)で間欠的に鳴動するパターンが採用されている。この鳴動パターンは、通常の操作(ユーザの設定操作)とは異なるパターンであり、撮像指示以外では発生し得ないパターンである。
さて、カメラ装置2は、図6に示すカメラ側処理において、電源がONされると(S1)、スリープモードに移行して待機する(S2)。そして、冷蔵庫1は、音センサ19から割り込み信号等により音エネルギーを検出した旨が通知されると、つまり、音エネルギーを検出すると(S3:YES)、通常動作モードに復帰して(S4)、音エネルギーのパターンが撮像指示のパターンと一致するかを判定する(S5)。この場合、カメラ装置2は、音エネルギーのON/OFFのエッジを検出し、そのエッジが例えば5秒間で10回以上検出されると、撮像指示を示すものであると判定する。
そして、カメラ装置2は、撮像指示のパターンと一致する場合には(S5:YES)、室内を撮像し(S6)、撮像データを携帯端末4等に送信したりサーバ6等に記憶させたりした後(S7)、ステップS2に移行してスリープモードに移行する。
このように、スリープモード中のカメラ装置2に対して、音エネルギーにより撮像指示を伝達することができる。
<振動エネルギーを用いる場合>
上記した光エネルギーと音エネルギーの場合には、ユーザがリアルタイムに撮像指示を送信する状況を想定したが、今回は、冷蔵庫1の扉が開閉されたとき(つまり、冷蔵庫1の貯蔵状態が変化した可能性があるとき)に撮像するという撮像指示が予め設定されている状況を想定している。すなわち、撮像指示を受信する受信手段とは、リアルタイムの撮像指示だけで無く、予め設定されている条件に基づいた撮像指示を受信する(受け付ける)ことも可能な構成となっている。
このとき、冷蔵庫1は図9に示す庫側処理を実行し、カメラ装置2は図10に示すカメラ側処理を実行する。なお、図10に示すカメラ側処理の流れは概ね図6に示したカメラ側処理と共通するので、異なる点について詳細に説明する。
冷蔵庫1は、図9に示す庫側処理において、扉が開閉されたかを判定しており(R10)、扉が開閉されていない場合には(R10:NO)、待機する。一方、冷蔵庫1は、扉が開閉された場合には(R10:YES)、撮像中であることを報知した後(R11)、通信アダプタ34からカメラ装置2に対して撮像指示を送信する(R11)。
カメラ装置2は、図10に示すカメラ側処理において、電源がONされると(S10)、スリープモードに移行し(S11)、振動(振動エネルギー)を検出したかを判定する(S12)。上記したように冷蔵庫1の扉を開閉した場合、それに伴って振動が発生する。そのため、カメラ装置2は、振動を検出すると(S12:YES)、通常動作モードに復帰し(S13)、冷蔵庫1から撮像指示を受信したかを判定する(S14)。このステップS14では、通信モジュール17を介して撮像指示を受信することになる。
そして、カメラ装置2は、撮像指示を受信すると(S14:YES)、室内を撮像し(S15)、撮像データを送信、あるいはサーバ6等に記憶させた後(S16)、スリープモードに移行する。なお、ステップS16における送信先は、携帯端末4等である。つまり、カメラ装置2は、冷蔵庫1の扉が開閉された場合には、物品等の貯蔵状態が変化した可能性があるとして、その旨を撮像データとしてユーザに報知する。
このように、スリープモード中のカメラ装置2に対して、振動エネルギーにより撮像指示を伝達することができる。
<光エネルギーと振動エネルギーとを用いる場合>
今回は、光エネルギーと振動エネルギーとを用い、冷蔵庫1の扉が開閉されたときに撮像するという撮像指示が予め設定されている状況において、カメラ装置2単体で撮像する例を説明する。このとき、カメラ装置2は、図11に示すカメラ側処理を実行する。なお、図11に示すカメラ側処理の流れは概ね図10に示したカメラ側処理と共通するので、異なる点について詳細に説明する。
カメラ装置2は、図11に示すカメラ側処理において、電源がONされると(S20)、スリープモードに移行し(S21)、光エネルギーを検出したかを判定する(S22)。冷蔵庫1の扉が開放された場合、冷蔵庫1は、例えば室内照明30を点灯する。また、扉が開放された場合には、庫外の明かりにより、カメラ装置2が照らされる。つまり、光エネルギーを検出することにより、扉の開閉状態を検出することができる。そのため、カメラ装置2は、光エネルギーを検出すると(S22:YES)、冷蔵庫1の扉が開放されたとして、通常動作モードに復帰する(S23)。
続いて、カメラ装置2は、扉閉鎖に相当する状態であったかを判定する(S24)。ここで、「扉閉鎖に相当する状態」とは、扉が開放された後に扉が閉鎖された状態を意味している。より具体的には、このステップS24では、次の2点が判定されている。
a)光エネルギーを検出している期間が、瞬間的なものでは無く、物品等を取り出すのに要する程度の期間であったか。
b)扉が閉鎖された際の振動エネルギーを検出したか。
カメラ装置2は、これらを判定することにより、冷蔵庫1の扉が開閉されたことを判定する。そして、扉閉鎖に相当する状態であったと判定すると(S24:YES)、室内を撮像し(S25)、撮像データを送信、あるいはサーバ6等に記憶させた後(S26)、スリープモードに移行する。なお、ステップS26における送信先は、携帯端末4等である。
このように、スリープモード中のカメラ装置2に対して、光エネルギーと振動エネルギーとを組み合わせることによっても撮像指示を伝達することができる。
以上説明した実施形態によれば、次のような効果を得ることができる。
カメラ装置2は、室内を撮像する撮像部11と、撮像指示を家電製品を介して受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、受信手段で撮像指示が受信されると通常動作モードに復帰して撮像手段により室内を撮像する制御を行うカメラ側制御部18と、を備えているので、撮像指示がいつ送信されるかが想定できない場合であっても、通常動作状態のまま待機する必要が無い。これにより、待機中の電力消費を削減することができる。また、受信手段を設けているので、いつ撮像指示が送信されても室内を撮像することができる。したがって、電力消費を抑制しつつ、室内の情報である撮像データを任意に取得することができる。
撮像指示を家電製品から発せられる物理的なエネルギーで伝達するものとし、受信手段をそのエネルギーを検出する光センサ14、音センサ19、振動センサ20等で構成しているので、パネルブザー29や室内照明30等、家電製品に既存のものを撮像指示の伝達に利用することが可能となる。これにより、追加部品を設けなくても、カメラ装置2に撮像指示を伝達することができる。
室内LED32や室内ブザー33等、伝達手段として専用の構成を設けてもよい。この場合、例えば室内LED32を可視光以外の波長帯域の光エネルギーを発するようにしたり、室内ブザー33を可聴域を超える20kHz程度以上の音エネルギーを発するようにすること等により、ユーザに影響を与えること無く、撮像指示を伝達することができる。
エネルギーを所定のパターンで発することで撮像指示を伝達し、パターンが一致するか否かを撮像条件に加えたので、外乱の影響を受けること無く、確実に撮像指示を伝達することができ、誤検出や誤撮像を防止することができる。
撮像が終了したとき、および、検出されたエネルギーのパターンと撮像指示を示すパターンとが一致しなかったときにはスリープモード(低電力モード)に移行するので、電力消費を低減することができる。
例えばパネルブザー29や室内照明30等の家電製品に予め設けられているものを利用する場合、当然のことながら、撮像指示以外の場合にそれらからエネルギーが発せられることがある。そこで、撮像指示のパターンを通常動作では発生し得ないパターン(図7に示した点滅パターンや図8に示した鳴動パターン等)とすることにより、誤撮像を防止することができる。
上記したカメラ装置2と、カメラ装置2に対する前記撮像指示を入力するための携帯端末4等の操作端末と、操作端末から撮像指示を受信する通信アダプタ34および受信した撮像指示をカメラ装置2に伝達する伝達手段(室内LED32やパネルブザー29等)を有する家電製品と、により室内撮像システム100を構成しているので、待機中の電力消費を削減することができるとともに、電力消費を抑制しつつ、室内の情報である撮像データを任意に取得することができる。
(その他の実施形態)
上記した実施形態にて例示した構成は、それに限定されることなく、例えば以下に示すような変形や組み合わせの変更等を行うことができる。そして、それらの構成によっても、一実施形態と同様の効果を得ることができる。
一実施形態で示した点滅周期や鳴動周期等の数値は一例であり、適宜設定することができる。また、光エネルギーを検出する際、ON/OFFのエッジを検出するのではなく、光エネルギーの強度(照度)が基準値を超えたか、ON/OFFの周期が一致するか、あるいは、ON/OFFのパルス幅が一致するか等、外乱光の影響を抑制することができれば、どのようなパターンや判定基準を採用してもよい。
その場合、例えば赤外線を用いる等、光エネルギーを可視光以外の波長帯域に設定してもよい。また、カメラ装置2を住宅7の室内に設けて照明機器(可視光)を伝達手段として用いる場合には、点滅周期を人の目では判断できない周期(例えば30Hz程度以上)にすることで、人の目では分からない状態で撮像指示を伝達することもできる。
また、音エネルギーを検出する際、音エネルギーの強度(いわゆる音圧やdB値)が基準値を超えたか、ON/OFFの周期が一致するか、あるいは、ON/OFFのパルス幅が一致するか等、外乱音の影響を抑制することができれば、どのようなパターンや判定基準を採用してもよい。
その場合、人の可聴域を超える波長域(例えば、20kHz程度以上)の超音波を用いれば、ユーザが在宅中でも音の発生を気にすることが無くなる。また、パネルブザー29や室内ブザー33を用いることなく、上記した送風機31を通常運転では使用しない回転数(例えば2500rpm)まで上げて音エネルギーを発生させてもよい。
一実施形態では家電製品として冷蔵庫1を例示したが、他の家電成否であってもよい。例えば、エアコンやテレビの音声を利用すれば、冷蔵庫1の室内だけでなく、カメラ装置2を住宅7の室内を同様の手法にて撮像することができる。さらには、撮像指示を家電製品と競合しない周波数帯域の音エネルギーにより伝達する等、撮像指示に対応する周波数を予め設定してもよい。また、光エネルギーについても、例えばエアコンにはリモコンとの間で赤外線による双方向通信が可能な赤外線送受信部が設けられていることから、その赤外線送受信部を伝達手段として用いることもできる。また、洗濯機であっても、運転終了のブザー等を利用して伝達手段として用いることができる。
一実施形態では光エネルギー、音エネルギーおよび振動エネルギーを検出するセンサをそれぞれ設けているが、いずれか1つ又は2つのセンサを設ける構成としてもよい。
一実施形態では光エネルギーと振動エネルギーとを組み合わせた例を示したが、光エネルギーと音エネルギーとを組み合わせてもよいし、音エネルギーと振動エネルギーとを組み合わせてもよいし、それら全てを組み合わせてもよい。勿論、冷蔵庫1の扉が開閉されたときに撮像するという撮像指示が予め設定されている場合だけでなく、リアルタイムで送信された撮像指示を伝達する際にも各エネルギーを組み合わせて伝達するようにしてもよい。
一実施形態では室内の情報としてカメラ装置2による撮像データを示したが、他の情報を取得するようにしてもよい。すなわち、一実施形態と同様の構成にて、撮像データや音声データ等の室内の情報を取得する情報取得装置を、室内の情報を取得する情報取得手段と、情報取得手段に対する取得指示を受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、受信手段により前記取得指示が受信されると通常動作モードに復帰し、室内の情報を取得するために情報取得手段を制御する制御手段と、により構成してもよい。このような構成によっても、電力消費を抑制しつつ、室内の情報を任意に取得することができる等、一実施形態と同様の効果を得ることができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
図面中、1は冷蔵庫(家電製品)、2はカメラ装置、情報取得装置、4は携帯端末(操作端末)、6はサーバ(操作端末)、11は撮像部(撮像手段、情報取得手段)、14は光センサ(センサ、検出手段、受信手段)、18はカメラ側制御部(制御手段)、19は音センサ(センサ、検出手段、受信手段)、20は振動センサ(センサ、検出手段、受信手段)、28はパネルLED(伝達手段)、29はパネルブザー(伝達手段)、30は室内照明(伝達手段)、31は送風機(伝達手段)、32は室内LED(伝達手段)、33は室内ブザー(伝達手段)、34は通信アダプタ(通信手段)、100は室内撮像システムを示す。

Claims (7)

  1. 室内を撮像する撮像手段と、
    外部の操作端末から与えられた室内を撮像するための撮像指示を、前記操作端末と通信可能な冷蔵庫を介して受信する受信手段と、
    常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、前記受信手段で前記撮像指示が受信されると通常動作モードに復帰して前記撮像手段により室内を撮像する制御手段と、を備え、
    前記撮像手段、前記受信手段および前記制御手段を含むカメラ装置は、前記冷蔵庫の室内に設置されており、
    前記撮像指示は、前記冷蔵庫の室内に設けられている室内照明から発せられた所定のパターンの光エネルギーによって伝達されるものであり、
    前記受信手段は、前記光エネルギーを検出する光センサで構成されており、
    前記制御手段は、前記室内照明から発せられた光エネルギーが前記受信手段により検出されると通常動作モードに復帰することを特徴とするカメラ装置。
  2. 前記制御手段は、前記受信手段により受信された前記光エネルギーのパターンと前記撮像指示を示すパターンとが一致すると、室内を撮像することを特徴とする請求項1記載のカメラ装置。
  3. 前記制御手段は、前記受信手段により受信された光エネルギーのパターンと前記撮像指示を示すパターンとが一致しなかったとき、および、前記撮像手段による撮像が終了したときには、低電力モードに移行することを特徴とする請求項1または2記載のカメラ装置。
  4. 前記光エネルギーは、点滅する周期が30Hz以上に設定されていることを特徴とする請求項1から3のいずれか一項記載のカメラ装置。
  5. 前記光エネルギーは、可視光以外の波長帯域に設定されていることを特徴とする請求項1から4のいずれか一項記載のカメラ装置。
  6. 室内を撮像する撮像手段と、外部の操作端末から与えられた室内を撮像するための撮像指示を、前記操作端末と通信可能な冷蔵庫を介して受信する受信手段と、常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、前記受信手段で前記撮像指示が受信されると通常動作モードに復帰して前記撮像手段により室内を撮像する制御手段と、を有するカメラ装置と、
    前記カメラ装置に対する前記撮像指示を入力するための前記操作端末と、
    前記操作端末から前記撮像指示を受信する通信手段と、前記通信手段により受信された前記撮像指示を前記カメラ装置に伝達する伝達手段と、を有する冷蔵庫と、を備え、
    前記カメラ装置は、前記冷蔵庫の室内に設けられ、前記冷蔵庫の室内を撮像するものであり、
    前記撮像指示は、前記冷蔵庫の室内に設けられている室内照明から発せられた所定のパターンの光エネルギーによって伝達されるものであり、
    前記受信手段は、前記光エネルギーを検出する光センサで構成されており、
    前記制御手段は、前記室内照明から発せられた所定のパターンの光エネルギーが前記受信手段により検出されると通常動作モードに復帰することを特徴とする室内撮像システム。
  7. 室内の情報を取得する情報取得手段と、
    外部の操作端末から与えられた前記情報取得手段に対する取得指示を前記操作端末と通信可能な冷蔵庫を介して受信する受信手段と、
    常には通常動作モードよりも相対的に電力消費が少ない低電力モードにて待機しており、前記受信手段により前記取得指示が受信されると通常動作モードに復帰し、室内の情報を取得するために前記情報取得手段を制御する制御手段と、を備え、
    前記情報取得手段、前記受信手段および前記制御手段を含む室内情報取得装置は、冷蔵庫の室内に設けられ、前記冷蔵庫の室内情報を取得するものであり、
    前記取得指示は、前記冷蔵庫の室内に設けられている室内照明から発せられた所定のパターンの光エネルギーによって伝達されるものであり、
    前記受信手段は、前記光エネルギーを検出する光センサで構成されており、
    前記制御手段は、前記室内照明から発せられた所定のパターンの光エネルギーが前記受信手段により検出されると通常動作モードに復帰することを特徴とする室内情報取得装置。
JP2013147563A 2013-07-16 2013-07-16 カメラ装置、室内撮像システム、室内情報取得装置 Active JP6659204B2 (ja)

Priority Applications (10)

Application Number Priority Date Filing Date Title
JP2013147563A JP6659204B2 (ja) 2013-07-16 2013-07-16 カメラ装置、室内撮像システム、室内情報取得装置
EP14825813.0A EP3024216A4 (en) 2013-07-16 2014-06-23 Camera device, compartment-interior imaging system, and compartment-interior-information acquisition device
CN201480045807.5A CN105474621B (zh) 2013-07-16 2014-06-23 摄像机装置、室内摄像系统及室内信息取得装置
CN201910659825.7A CN110392210A (zh) 2013-07-16 2014-06-23 摄像机装置、室内摄像系统及室内信息取得装置
CN201910659737.7A CN110392208A (zh) 2013-07-16 2014-06-23 摄像机装置、室内摄像系统及室内信息取得装置
CN201910659776.7A CN110392209A (zh) 2013-07-16 2014-06-23 摄像机装置、室内摄像系统及室内信息取得装置
PCT/JP2014/066545 WO2015008584A1 (ja) 2013-07-16 2014-06-23 カメラ装置、室内撮像システム、室内情報取得装置
KR1020157037086A KR102099746B1 (ko) 2013-07-16 2014-06-23 카메라 장치, 실내 촬상 시스템, 실내정보 취득장치
TW103123727A TWI571124B (zh) 2013-07-16 2014-07-10 照相裝置、室內攝像系統以及室內資訊取得裝置
US14/997,140 US10194081B2 (en) 2013-07-16 2016-01-15 Camera device, compartment-interior imaging system, and compartment-interior-information acquisition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013147563A JP6659204B2 (ja) 2013-07-16 2013-07-16 カメラ装置、室内撮像システム、室内情報取得装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019027406A Division JP6708766B2 (ja) 2019-02-19 2019-02-19 カメラ装置、室内撮像システム、室内情報取得装置

Publications (2)

Publication Number Publication Date
JP2015023306A JP2015023306A (ja) 2015-02-02
JP6659204B2 true JP6659204B2 (ja) 2020-03-04

Family

ID=52346056

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013147563A Active JP6659204B2 (ja) 2013-07-16 2013-07-16 カメラ装置、室内撮像システム、室内情報取得装置

Country Status (7)

Country Link
US (1) US10194081B2 (ja)
EP (1) EP3024216A4 (ja)
JP (1) JP6659204B2 (ja)
KR (1) KR102099746B1 (ja)
CN (4) CN110392210A (ja)
TW (1) TWI571124B (ja)
WO (1) WO2015008584A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6184803B2 (ja) * 2013-08-27 2017-08-23 東芝ライフスタイル株式会社 室内撮像システム
JP2017011452A (ja) 2015-06-19 2017-01-12 ソニー株式会社 撮像装置および制御方法
CN108604400A (zh) 2015-12-15 2018-09-28 亚马逊技术股份有限公司 用于音频/视频记录和通信设备的视频点播
AU2016372164B2 (en) 2015-12-15 2021-04-29 Amazon Technologies, Inc. Video on demand for audio/video recording and communication devices
TWI764943B (zh) 2016-10-10 2022-05-21 大陸商蘇州盛迪亞生物醫藥有限公司 一種抗pd-1抗體和vegfr抑制劑聯合在製備治療癌症的藥物中的用途
JP6501836B2 (ja) * 2017-07-27 2019-04-17 東芝ライフスタイル株式会社 室内撮像システム
JP6970600B2 (ja) * 2017-12-05 2021-11-24 シャープ株式会社 制御装置、制御装置の制御方法およびプログラム
CN110933371B (zh) * 2019-12-02 2021-07-13 广州小鹏汽车科技有限公司 一种监测方法、装置和车辆
CN111238136B (zh) * 2020-01-19 2021-08-31 戴纳智慧医疗科技有限公司 一种冰箱结霜监控管理方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001208463A (ja) * 2000-01-25 2001-08-03 Osami Tsutsui 料理メニューを教えてくれる冷蔵庫
US20030174154A1 (en) * 2000-04-04 2003-09-18 Satoru Yukie User interface for interfacing with plural real-time data sources
JP2002156181A (ja) * 2000-11-16 2002-05-31 Yozan Inc 冷蔵庫
JP2002243335A (ja) * 2001-02-21 2002-08-28 Toshiba Corp 食品保存庫、ホームネットワーク装置、携帯情報端末、食品情報提供サーバ、献立情報提供サーバ及び保存庫内収納情報提供サーバ
JP2002340471A (ja) * 2001-05-18 2002-11-27 Fujitsu General Ltd 冷蔵庫内部表示システム
US6812971B2 (en) * 2001-09-11 2004-11-02 Olympus Optical Co., Ltd. Electronic apparatus, stand and electronic apparatus stand system
JP2004180077A (ja) * 2002-11-28 2004-06-24 Fuji Photo Film Co Ltd 通信装置及び通信方法
US20040212678A1 (en) 2003-04-25 2004-10-28 Cooper Peter David Low power motion detection system
JP2005217549A (ja) * 2004-01-27 2005-08-11 Nec Corp カメラ制御機能付携帯電話機
JP2005286766A (ja) * 2004-03-30 2005-10-13 Victor Co Of Japan Ltd 遠隔撮影システム
KR101213450B1 (ko) * 2004-11-02 2012-12-18 고쿠리츠다이가쿠호징 나라 센탄카가쿠기쥬츠 다이가쿠인 다이가쿠 촬상장치 및 그 신호 읽기 방법
JP2006279327A (ja) * 2005-03-28 2006-10-12 Nec Access Technica Ltd 遠隔監視システム,遠隔監視用ホルダーおよびカメラ付き携帯端末機器
US20060237427A1 (en) * 2005-04-07 2006-10-26 Logan James D Smart cabinets
JP5015058B2 (ja) * 2008-04-16 2012-08-29 オリンパスイメージング株式会社 撮影装置
JP5178621B2 (ja) * 2009-04-30 2013-04-10 三菱電機株式会社 冷蔵庫
KR101774054B1 (ko) 2011-04-15 2017-09-12 엘지전자 주식회사 네트워크 시스템 및 그 제어방법
CN202077050U (zh) * 2011-04-22 2011-12-14 李景魁 一种多功能家电远程控制系统
CN202907061U (zh) * 2011-05-25 2013-04-24 陈明荣 能用手机电脑遥控家电及其它电子产品的监控器
US9491404B2 (en) 2011-10-27 2016-11-08 Polycom, Inc. Compensating for different audio clocks between devices using ultrasonic beacon
WO2016179321A1 (en) * 2015-05-04 2016-11-10 Johnson Controls Technology Company User control device with housing containing angled circuit boards

Also Published As

Publication number Publication date
EP3024216A4 (en) 2017-01-25
JP2015023306A (ja) 2015-02-02
CN105474621B (zh) 2019-08-16
CN110392209A (zh) 2019-10-29
CN105474621A (zh) 2016-04-06
TW201513663A (zh) 2015-04-01
US10194081B2 (en) 2019-01-29
US20160134811A1 (en) 2016-05-12
KR20160016943A (ko) 2016-02-15
CN110392210A (zh) 2019-10-29
WO2015008584A1 (ja) 2015-01-22
CN110392208A (zh) 2019-10-29
KR102099746B1 (ko) 2020-04-10
EP3024216A1 (en) 2016-05-25
TWI571124B (zh) 2017-02-11

Similar Documents

Publication Publication Date Title
JP6659204B2 (ja) カメラ装置、室内撮像システム、室内情報取得装置
JP6782229B2 (ja) インテリジェント電気機器を動作させる方法及び装置
JP6092049B2 (ja) 撮像システム及び撮像装置
US20130016211A1 (en) Home Surveillance Device
US20160148493A1 (en) Monitoring system
US20130021473A1 (en) Home Surveillance Device
US9485111B2 (en) Monitoring system
JP7185659B2 (ja) 冷蔵庫
JP6708766B2 (ja) カメラ装置、室内撮像システム、室内情報取得装置
JP2010098900A (ja) 電力監視装置
KR20150126106A (ko) 로봇 청소기 및 그 동작방법
JP2017200237A (ja) 室内撮像システム
JP6184803B2 (ja) 室内撮像システム
JP2012150591A (ja) 機器制御装置及びセキュリティシステム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20140225

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160531

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170915

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180509

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190219

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190227

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20190419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200206

R150 Certificate of patent or registration of utility model

Ref document number: 6659204

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150