JP2018156275A - 情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム - Google Patents

情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム Download PDF

Info

Publication number
JP2018156275A
JP2018156275A JP2017051510A JP2017051510A JP2018156275A JP 2018156275 A JP2018156275 A JP 2018156275A JP 2017051510 A JP2017051510 A JP 2017051510A JP 2017051510 A JP2017051510 A JP 2017051510A JP 2018156275 A JP2018156275 A JP 2018156275A
Authority
JP
Japan
Prior art keywords
refrigerator
communication
unit
information
specific shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017051510A
Other languages
English (en)
Other versions
JP6937593B2 (ja
JP2018156275A5 (ja
Inventor
秀満 島元
Hidemitsu Shimamoto
秀満 島元
健介 上田
Kensuke Ueda
健介 上田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2017051510A priority Critical patent/JP6937593B2/ja
Publication of JP2018156275A publication Critical patent/JP2018156275A/ja
Publication of JP2018156275A5 publication Critical patent/JP2018156275A5/ja
Application granted granted Critical
Publication of JP6937593B2 publication Critical patent/JP6937593B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Devices That Are Associated With Refrigeration Equipment (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
  • Information Transfer Between Computers (AREA)
  • Selective Calling Equipment (AREA)

Abstract

【課題】情報を送受信するためのネットワーク接続の操作が容易で、ネットワーク接続のための手段を要しないためコストを低減することができる情報通信装置を提供する。【解決手段】開閉センサ22により冷蔵庫の閉扉を検知すると、カメラ21は庫内画像141を撮影する。形状判定部15は庫内画像141に表示物の特定形状が含まれているか否かを判別し、特定形状が含まれていると判別した場合に、無線接続制御部16は、通信部17が無線LANルータへの無線接続を開始する制御を行う。そして、通信部17は庫内画像141をサーバに送信し、携帯端末55はサーバから庫内画像141をダウンロードする。【選択図】図2

Description

本発明は、情報通信装置、情報を通信する機能を有する冷蔵庫、冷蔵庫の庫内画像を閲覧する庫内画像閲覧システム、情報通信方法及びプログラムに関する。
カメラで撮影した画像を携帯端末で閲覧する画像閲覧システムが数多く提案されている。例えば、冷蔵庫内をカメラで撮影し、撮影した庫内画像を携帯端末で閲覧可能にする庫内画像閲覧システムがある(例えば、特許文献1、2)。このようなシステムは、冷蔵庫本体を操作することなく冷蔵庫の情報を表示し、又は制御することを可能にしている。
特許文献1には、庫内を撮影したカメラ画像を記憶装置に記憶し、予め定めた時間に電気通信回線で接続されたサーバに転送してサーバに記憶し、携帯電話の操作でサーバから画像を取得して携帯電話の表示装置に出力する食品管理装置が開示されている。
特許文献2には、RFID無線通信を用いて携帯端末と冷蔵庫を通信させ、例えば冷蔵庫から扉開閉回数を取得して携帯端末に表示し、又は冷却の設定温度を変更する無線通信システムが開示されている。
特開2002−236798号公報 特開2013−238347号公報
冷蔵庫の画像をサーバに転送する場合、冷蔵庫をホームネットワークに接続する必要がある。ホームネットワークに接続するにはネットワーク接続用の操作ボタン、又はSSIDやパスワードを入力する手段が必要であり、また入力内容や接続状態を確認する手段も必要となる。これらの手段を設けるためにコストが高くなるという課題があった。
RFID無線通信を行う方法は、ユーザがタッチ操作できる場所にRFIDタグを配置する必要があり、RFIDタグや配線のコストがかかってしまうという課題があった。またRFID無線通信を搭載した携帯端末しか使用できず、またタッチ操作を行うためにその都度冷蔵庫の傍まで近づく必要があるという課題があった。
本発明は、上述のような事情に鑑みてなされたもので、情報を送受信するためのネットワーク接続の操作が容易で、ネットワーク接続のための手段を要しないためコストを低減することができる情報通信装置を提供することを目的とする。
上記目的を達成するため、本発明の情報通信装置は、情報を外部と通信する通信部と、予め定めた特定形状を表示する表示物を含む画像を撮影するカメラと、カメラが撮影した撮影画像に、特定形状が含まれているか否かを判別する形状判別部と、形状判別部が、撮影画像に特定形状が含まれていると判別した場合に、通信部に通信接続を開始させる制御を行う通信接続制御部と、を備えることを特徴とする。
本発明によれば、カメラが撮影した撮影画像に特定形状が含まれているか否かを判別し、撮影画像に特定形状が含まれていると判別した場合に、通信部に通信接続を開始させる制御を行うため、情報を送受信するためのネットワーク接続の操作は、表示物の特定形状をカメラに向けるという容易な操作であり、ネットワーク接続のための手段を別途要しないためコストを低減することが可能となる。
本発明の実施の形態1に係る冷蔵庫の構成の一例を示す図 実施の形態1に係る撮影通信モジュールの機能構成の一例を示す図 実施の形態1に係る撮影通信モジュールのハードウェア構成の一例を示す図 (a)表示物を閉じた閉状態を示した図(b)表示物を開いた開状態を示した図 実施の形態1に係る庫内画像閲覧システムの構成例を示すブロック図 実施の形態1に係る無線接続処理の一例を示すフローチャート 実施の形態1に係る画像送信処理の一例を示すフローチャート 実施の形態1に係る画像閲覧処理の一例を示すフローチャート 本発明の実施の形態2に係る撮影通信モジュールの機能構成の一例を示す図 (a)QRコードを示した図(b)文字列を示した図 実施の形態2に係る無線接続処理の一例を示すフローチャート 本発明の実施の形態3に係る冷蔵庫の無線接続処理の一例を示すフローチャート 本発明の実施の形態3に係る携帯端末の無線接続処理の一例を示すフローチャート 本発明の実施例に係る冷蔵庫の登録動作の一例を示すフローチャート 本発明の実施例に係る冷蔵庫の閲覧・操作動作の一例を示すフローチャート
(実施の形態1)
以下に、本発明を実施するための形態について図面を参照して詳細に説明する。なお、図中同一又は相当する部分には同じ符号を付す。
図1は、本発明の実施の形態1に係る冷蔵庫1の構成の一例を示す図である。冷蔵庫1は、例えばコンプレッサや蒸発器、循環ファン、温度センサ、ブザー(いずれも図示せず)を備え、庫内の物品を冷却する。また扉の開時間を計測して開時間が長い場合にブザーを鳴らしてユーザに報知する。
冷蔵庫1は、食品を含む物品を収納する収納庫として、例えば扉式の冷蔵室30と、引き出し式の冷凍室35と、引き出し式の野菜室36とを備える。また、冷蔵室30は物品を乗せる仕切り棚33と34、開閉機構を有する表示物37を備える。更に、冷蔵庫1は、冷蔵室30の庫内撮影用のカメラ21と、左扉31及び右扉32の開閉を検知する開閉センサ22と、を備える。カメラ21は、扉を閉じた状態で表示物37を含む庫内が十分に撮影できるような広角のカメラである。
図1の例では、冷蔵庫1は、上から冷蔵室30、冷凍室35及び野菜室36の順に3つの収納庫を備えるとしたが、収納庫は1つ以上であればよく、各収納庫の位置もこれに限定されない。冷蔵庫1の冷蔵室30は、1台のカメラ21を備えるとしたが、カメラ21は2台以上であってもよい。またカメラ21は、固定された広角のカメラに代えて、狭角のカメラを回転させてもよい。
冷蔵室30は、2つの仕切り棚33、34を備えるとしたが、仕切り棚は1つでも3つ以上でもよい。冷蔵室30は、左扉31及び右扉32の2つの扉を備えるとしたが扉は1つであってもよい。冷蔵室30は、カメラ21を左扉31の中央端部に備えるとしたが、冷蔵室30の庫内の必要な範囲を撮影できる他の任意の位置に備えてもよい。また、冷蔵室30は、開閉センサ22を冷蔵室30の中央上部付近に備えるとしたが、左扉31及び右扉32の開閉を検知できる他の任意の位置に備えてもよい。
冷蔵庫1は、さらに、開閉センサ22の出力に基づいて、カメラ21で撮影した画像を含む情報を送信する制御装置11を備える。カメラ21と、開閉センサ22と、制御装置11と、により、情報通信装置である撮影通信モジュール10を構成する。撮影通信モジュール10は、開閉センサ22が左扉31及び右扉32の少なくともいずれか一方の閉扉を検知すると、庫内撮影用のカメラ21を起動し、予め定められたタイミングで冷蔵室30の庫内を撮影する。撮影するタイミングは、カメラ21のレンズの曇りが取れる時間に基づいて定められる。
撮影通信モジュール10は、扉式の冷蔵室30だけでなく、引き出し式の冷凍室35や野菜室36の庫内も撮影する構成にしてもよい。この場合、撮影通信モジュール10は、冷凍室35や野菜室36にも庫内撮影用のカメラ21と開閉センサ22とを備える。撮影通信モジュール10は、開閉センサ22が冷凍室35や野菜室36の引き出しが閉められたことを検知すると、冷凍室35や野菜室36のカメラ21を起動し、予め定められたタイミングで冷凍室35や野菜室36の庫内を撮影する。
図2は、本発明の実施の形態1に係る撮影通信モジュール10の機能構成の一例を示す図である。撮影通信モジュール10の制御装置11は、扉開閉検知部12と、撮影制御部13と、記憶部14と、形状判別部15と、無線接続制御部16と、通信部17と、を備える。
扉開閉検知部12は、開閉センサ22を用いて冷蔵室1の開扉又は閉扉を検知する。撮影制御部13は、扉開閉検知部12が開扉状態から閉扉されたことを検知すると、その後予め定められたタイミングで扉に取り付けられたカメラ21を用いて冷蔵室30の庫内を撮影する制御する。記憶部14は、カメラ21が撮影した庫内画像141を記憶する。形状判別部15は、カメラ21が撮影した庫内画像141のうち、接続開始を指示する特定形状が含まれているか否かを判別する。無線接続制御部16は、形状判別部15の判別結果に基づいて、通信部17の無線接続を制御する。
図3は、実施の形態1に係る撮影通信モジュール10のハードウェア構成の一例を示す図である。撮影通信モジュール10の制御装置11は、プロセッサ23、メモリ24、無線通信モジュール25、カメラインターフェース26、センサインターフェース27を備える。
制御装置11の扉開閉検知部12、撮影制御部13、形状判別部15及び無線接続制御部16の各機能は、プロセッサ23により実現される。プロセッサ23は、メモリ24に格納されるプログラムを実行するCPU(Central Processing Unit)である。
制御装置11の記憶部14はメモリ24により実現され、メモリ24には、プロセッサ23が実行するプログラム及び庫内画像141が記憶される。メモリ24は、例えば、フラッシュメモリ、EPROM、EEPROMを含む、不揮発性又は揮発性の半導体メモリや、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD等である。なお、図3では、プロセッサ23及びメモリ24をそれぞれ一つで構成する例を示しているが、複数のプロセッサ及び複数のメモリが連携して上記機能を実現してもよい。
制御装置11の通信部17は、無線通信モジュール25により実現される。無線通信モジュール25は、例えばIEEE802.11b/g/nに準拠した無線LAN(Local Area Network)通信機能を備え、無線LANルータ51に接続して通信を確立させる。
カメラインターフェース26にはカメラ21が接続され、制御信号や撮影画像のデータを通信する。センサインターフェース27には開閉センサ22が接続され、制御信号やセンサ出力のデータを通信する。
扉開閉検知部12、撮影制御部13、形状判別部15、無線接続制御部16の各機能は、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアやファームウェアはプログラムとして記述され、メモリ24に格納される。プロセッサ23は、メモリ24に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。言い換えると、メモリ24に格納されているプログラムは、扉開閉検知部12、撮影制御部13、形状判別部15、無線接続制御部16及び通信部17による手順や方法をコンピュータに実行させるものである。
表示物37について図4を用いて説明する。図4(a)は、表示物37を閉じた閉状態を示した図であり、(b)は、表示物37を開いた開状態を示した図である。図4(a)は、冷蔵室30の内壁の、仕切り棚33と34との間の側面を示しており、表示物37は当該側面上に備えられている。表示物37は、ユーザの操作により通信指示を表すためのものである。表示物37は、例えば樹脂で成形され、切り欠き部41と回転部42を備える。ユーザが切り欠き41を用いて回転部42を支柱として回転させることにより開閉可能な機構を有している。
表示物37は図4(a)に示すように、閉状態では冷蔵室30の内壁の一部を構成し、内壁と同じ色で塗装されている。表示物37は図4(b)に示すように、開状態では、形状判別部15が判別可能なシンボルが露出する。
表示物37に表示されるシンボルは、冷蔵室30の白色の内壁とのコントラストが明確になり、庫内の物品との判別がつきやすい特定形状を有する。例えば、シンボルの特定形状は、黒の菱形形状である。表示物37は、閉状態から予め定めた角度で回転した後、表示物37上の特定形状がカメラ21により撮影されやすい位置で固定した状態を開状態としてもよい。
図5は、実施の形態1に係る庫内画像閲覧システム100の構成例を示すブロック図である。庫内画像閲覧システム100は、冷蔵庫1と、無線LANルータ51と、ネットワーク52と、サーバ53と、ストレージ54と、携帯端末55と、を備える。
冷蔵庫1の撮影通信モジュール10の通信部17である無線通信モジュール25は、宅内に設けられる無線LANルータ51と接続され、ネットワーク52を経由してサーバ53と接続される。撮影通信モジュール10の記憶部14であるメモリ24に記憶された庫内画像141は、無線通信モジュール25を介してサーバ53にアップロードされ、ストレージ54に蓄積される。ネットワーク52にはユーザの携帯端末55も接続される。
ユーザが携帯端末55を用いて、サーバ53に庫内閲覧要求を送信すると、サーバ53は、庫内閲覧要求に対応してストレージ54に蓄積された庫内画像141を携帯端末55に転送する。冷蔵庫1は、エコーネットライト(ECHONET Lite)に準拠した通信方式を用いて通信し、エネルギーマネージメントの制御を行うHEMS(Home Energy Management System)コントローラと通信する宅内家電機器被制御機能を含んでいてもよい。このとき、サーバ53が、HEMSコントローラであってもよい。図5の例では、庫内画像閲覧システム100は、冷蔵庫1と、携帯端末55とを1台ずつ備えるが、それぞれ2台以上であってもよい。
以上のように構成された庫内画像閲覧システム100の動作について、図6〜8に示すフローチャートを用いて説明する。
図6は、実施の形態1に係る無線接続処理の一例を示すフローチャートである。無線接続処理は、冷蔵庫1の撮影通信モジュール10を起動すると開始する。撮影通信モジュール10の扉開閉検知部12は、開閉センサ22からのセンサ信号に基づいて、冷蔵庫1が開扉状態から閉扉されたことを検知する。扉開閉検知部12が冷蔵庫1の閉扉を検知しない場合(ステップS101;No)、ステップS101を繰り返し冷蔵庫1の閉扉を検知するまで待機する。
扉開閉検知部12が冷蔵庫1の閉扉を検知すると(ステップS101;Yes)、撮影制御部13は、カメラ21を制御して冷蔵室30の庫内の画像を撮影させる(ステップS102)。ここで冷蔵庫1の庫内は図示しない照明器具により撮影を行う前に撮影に適した照度に照明され、撮影が完了した後の予め定めたタイミングで消灯される。
庫内画像141が撮影されると、形状判別部15は庫内画像141から予め定めた領域の特徴量を抽出する(ステップS103)。カメラ21及び表示物37の取付け位置は既知であり、予め庫内画像141において表示物37が撮影される領域は明らかであるため、当該領域の画像ブロックのみを形状判別の対象とすることで判別の精度を向上させることができる。
次に、形状判別部15は、抽出した特徴量を、記憶部14に予め記憶していた表示物37に表示されるシンボルの特定形状の特徴量と比較し、特徴量が一致するか否かを画像認識により判別し(ステップS104)、撮影画像に特定形状が含まれているか否かを判定する。
形状判別部15が、特徴量が一致し(ステップS105;Yes)撮影画像に特定形状が含まれていると判別した場合、無線接続制御部16は、予め記憶部14に記憶しておいた設定値を用いて通信部17を制御する。そして、通信部17は、無線LANルータ51への無線接続を開始する(ステップS106)。本動作は無線接続を初めて行う場合の他、無線LANルータ51を更新した場合を含め、再接続が必要となる度に実施される。
無線接続の方法としては、例えば、WPS(WiFi Protected Setup)が利用できる。すなわちユーザは冷蔵庫1をネットワーク52に接続したい場合、無線LANルータ51のWPSボタンを押し、表示物37を開状態にして冷蔵庫1の扉を閉めるだけで冷蔵庫1をネットワーク52に接続することができる。
ユーザが表示物37を閉状態にしていて、形状判別部15が特定形状と特徴量が一致しないと判別した場合は(ステップS105;No)、カメラ21で撮影した庫内画像141を記憶部14に保存して(ステップS108)ステップS101に戻る。
接続が成功した場合と、接続に失敗した場合で異なるパターンでブザーを鳴らしユーザに結果を報知する(ステップS107)。
特徴量は画像の領域全体のヒストグラム、局所領域の輝度やエッジ、色分布、及びこれらの組合せ等、適切なものを使用することができる。記憶部14の庫内画像141は、撮影の都度、上書きしてもよく、枚数を決めて保存することで容量を小さくすることができる。
図7は、実施の形態1に係る画像送信処理の一例を示すフローチャートである。画像送信処理は、冷蔵庫1がネットワーク52に接続されている状態で実行される。まず、撮影通信モジュール10の扉開閉検知部12は、開閉センサ22からのセンサ信号に基づいて冷蔵庫1が開扉状態から閉扉したことを検知する。扉開閉検知部12が冷蔵庫1の閉扉を検知しない場合(ステップS201;No)、ステップS201を繰り返し冷蔵庫1の閉扉を検知するまで待機する。
扉開閉検知部12が、冷蔵庫1が開扉状態から閉扉したことを検知すると(ステップS201;Yes)、撮影制御部13は、カメラ21を制御して冷蔵室30の庫内の画像を撮影させる(ステップS202)。ここで冷蔵庫1の庫内は図示しない照明器具により撮影を行う前に撮影に適した照度に照明され、撮影が完了した後の予め定めたタイミングで消灯される。その後、ステップS202で撮影した庫内画像141を記憶部14に保存する(ステップS203)。
次に、撮影通信モジュール10の通信部17は、サーバ53に庫内画像のアップロードの可否を問い合わせる(ステップS204)。アップロードの可否は、サーバ53の負荷状況やストレージ54の空き状況で決まる。アップロード不可の場合(ステップS205;No)、処理はステップS204に戻り、再度アップロードの可否を問い合わせる。アップロード可の場合(ステップS205;Yes)、通信部17は、記憶部14が記憶する最新の庫内画像141をサーバ53に送信し、アップロードする(ステップS206)。
サーバ53は、冷蔵庫1から受信した庫内画像141をストレージ54に保存する。アップロード可否の問い合わせは、予め定めた回数又は時間が経過してもアップロード可とならない場合は中止して終了させてもよい。冷蔵庫1がアップロード可否の問い合わせを行うことによりサーバ53への負荷の集中を避けることができる。
図8は、実施の形態1に係る画像閲覧処理の一例を示すフローチャートである。画像閲覧処理は、携帯端末55が実行する。携帯端末55は、ユーザ操作によって庫内画像閲覧のためのアプリケーションが起動されると(ステップS301)、サーバ53に庫内画像141のダウンロードの可否を問い合わせる(ステップS302)。ダウンロードの可否は、サーバ53の負荷状況や庫内画像141のダウンロードが許可された携帯端末55又はユーザであるか否かによって決まる。
ダウンロード不可の場合(ステップS303;No)、処理はステップS302に戻り、再度ダウンロードの可否を問い合わせる。ダウンロード可の場合(ステップS303;Yes)、サーバ53は、ストレージ54から庫内画像141を読み出して、携帯端末55に送信する。携帯端末55は、庫内画像141をダウンロードし(ステップS304)、表示画面に庫内画像141の最新画像を表示する(ステップS305)。
ダウンロード可否の問い合わせは、予め定めた回数又は時間を経過してもダウンロード可とならない場合は中止して終了させてもよい。またダウンロード可否の問い合わせは、携帯端末55ごとに異なる間隔、例えばユニークなシリアル番号やMACアドレスに対応して生成した間隔で行うことによりサーバ53への負荷の集中を避けることができる。
以上説明したように実施の形態1に係る冷蔵庫1によれば、形状判定部15はカメラ21が撮影した庫内画像141に表示物37の特定形状が含まれているか否かを判別し、特定形状が含まれていると判別した場合に、無線接続制御部16は、通信部17が無線LANルータ51への無線接続を開始する制御を行う。そして、通信部17は庫内画像141をサーバ53に送信し、携帯端末55はサーバ53から庫内画像141をダウンロードすることとした。これにより、冷蔵庫1に無線接続を開始するためのボタンを用意する必要が無く、ボタンや配線のコストを削減することができる。また、表示物37を庫内の壁に開閉可能に設けたので、食品の収納を邪魔することが無く、また表示物37を紛失することがない。また表示物37を閉じた状態では壁と同色に塗装されているので美観を損ねることが無い。更に無線接続の結果をブザーによって報知するので無線接続の結果を容易に知ることができる。
(実施の形態2)
図9は、本発明の実施の形態2に係る撮影通信モジュール10の機能構成の一例を示す図である。冷蔵庫1の構成は実施の形態1と同様であるが、表示物37を庫内に備えていない。撮影通信モジュール10の機能構成は、図9に示すように、実施の形態1の構成に加えてQRコード(登録商標)読取部18を備える。
庫内画像閲覧システム100の構成は実施の形態1と同様である。ただし、実施の形態1では、無線LANルータ51がWPS機能を使用する構成となっていたが、本実施の形態2では、セキュリティ強化のためにSSID(Service Set Identifier)のブロードキャストを行わず、ユーザが設定したSSIDとパスワードを含む認証情報を使用して接続する構成とする。この場合、冷蔵庫1の撮影通信モジュール10にSSIDとパスワードを入力する必要がある。このSSIDとパスワードを含む認証情報を格納したQRコード60を作成し、それを用いて無線接続を行う。
撮影通信モジュール10の構成について、図9を用いて説明する。扉開閉検知部12は、開閉センサ22を用いて冷蔵室の開扉及び閉扉を検知する。撮影制御部13は、扉開閉検知部12が開扉を検知すると、予め定められたタイミングで扉に取り付けられたカメラ21を用いてQRコード60を含む画像を撮影する制御を行う。
記憶部14は、カメラ21が撮影した画像を記憶する。形状判別部15は、カメラ21が撮影した画像に、QRコード60が含まれているか否かを判別する。形状判別部15が、QRコード60を判別すると、QRコード読取部18はQRコード60を解析し、QRコード60に含まれる文字列を取得する。無線接続制御部16はQRコード60に含まれる文字列を用いて通信部17の無線接続を開始する。
図10(a)はQRコード60を示す図であり、図10(b)は(a)のQRコード60に含まれる文字列61を示す図である。QRコード60は、例えば、携帯端末55で動作するQRコード生成アプリケーションを利用して容易に生成することができる。ユーザは、無線LANルータ51に設定しているSSIDとパスワードを含む文字列61をQRコード生成アプリケーションに入力することでQRコード60を生成し、携帯端末55の画面に表示させる。つまり、ここでは携帯端末55が、QRコードという特定形状を表示する表示物として機能する。
図11は、実施の形態2に係る無線接続処理の一例を示すフローチャートである。無線接続処理は、冷蔵庫1の撮影通信モジュール10が起動すると開始する。撮影通信モジュール10の扉開閉検知部12は、開閉センサ22を用いて冷蔵庫1の扉の開閉を監視する。扉開閉検知部12が冷蔵庫1の開扉を検知しない場合(ステップS401;No)、ステップS401を繰り返し冷蔵庫1の開扉を待機する。
扉開閉検知部12が冷蔵庫1の開扉を検知すると(ステップS401;Yes)、開閉センサ22を用いて冷蔵庫1の閉扉を監視する。開扉を検知してから一定時間以内に扉開閉検知部12が冷蔵庫1の閉扉を検知した場合(ステップS402;Yes)、処理を終了する。扉開閉検知部12が一定時間以内に冷蔵庫1の閉扉を検知しない場合(ステップS402;No)、撮影制御部13は、カメラ21を用いて画像を撮影する(ステップS403)。
画像が撮影されると、形状判別部15は画像から予め定めた領域内の特徴量を抽出する(ステップS404)。抽出した特徴量を、画像認識により、保存していたQRコード60の特徴量と比較し、形状が一致するか否かを判別する(ステップS405)。形状が一致しない場合(ステップS406;No)、ステップ402に戻り処理を繰り返す。形状が一致する場合(ステップS406;Yes)、QRコード読取部18がQRコード60を解析する(ステップS407)。解析したQRコード60に特定の文字列61が含まれない場合(ステップS408;No)、ステップ402に戻り処理を繰り返す。
QRコード60に特定の文字列61が含まれる場合(ステップS408;Yes)、文字列61に含まれるSSID及びパスワードを用いて無線接続を開始し(ステップS409)、通信部17を無線LANルータ51に接続する。接続が成功した場合と、接続に失敗した場合で異なるパターンでブザーを鳴らしユーザに結果を報知する(ステップS410)。
無線接続をした後は、実施の形態1と同様に、図7に示す画像送信処理を実行し、庫内画像141を撮影し、サーバ53に庫内画像141をアップロードする。
以上説明したように実施の形態2の冷蔵庫1によれば、開扉して一定時間以内に閉扉されなかった場合に、QRコード60を含む画像を撮影し、撮影した画像からQRコード60を判別して読み出し、QRコード60に含まれる情報を用いて無線接続を開始することとした。これにより、ユーザは冷蔵庫1の扉を開け、カメラ21にQRコード60が表示された携帯端末55の画面をかざすだけで無線接続設定を行うことができる。また、無線接続設定を開始するためのボタンを用意する必要が無く、ボタンや配線のコストを削減することができる。さらに、無線LANルータ51がWPS機能を備えていない場合や、SSIDのブロードキャストを行わない場合にも無線接続を行うことができる。
(実施の形態3)
本実施の形態3に係る冷蔵庫1及び庫内画像閲覧システム100の構成は実施の形態1と同様であるが、無線接続処理の方法が異なる。本実施の形態3では、Webサーバプログラムを利用して冷蔵庫1にSSIDとパスワードを入力し、無線接続処理を行う。
冷蔵庫1の撮影通信モジュール10の無線接続処理について図12を用いて説明する。図12は、本実施の形態3に係る冷蔵庫1の無線接続処理の一例を示すフローチャートである。無線接続処理は、冷蔵庫1の撮影通信モジュール10が起動すると開始する。撮影通信モジュール10の機能構成、及び撮影通信モジュール10が撮影画像を用いて特定形状の判別を行う動作は実施の形態1と同様である。
冷蔵庫1の撮影通信モジュール10は、起動するとWebサーバプログラムを実行して、Webサーバを起動する(ステップS501)。本WebサーバはWebブラウザにSSIDとパスワードを入力する画面を操作端末に提供する。形状判別部15が、カメラ21が撮影した画像に特定形状が含まれていると判別した場合、無線通信モジュール25はアクセスポイントモードで動作開始する(ステップS502)。
操作端末である携帯端末55へのユーザの操作により、ユーザの携帯端末55を冷蔵庫1のアクセスポイントに無線接続する(ステップS503)。この接続動作はWPSを用いてもよいし、あらかじめユーザに開示しておいた当該アクセスポイントのSSIDとパスワードを用いて携帯端末55を接続してもよい。
次に、ユーザが携帯端末55でWebブラウザプログラムを起動させて表示させた、撮影通信モジュール10のWebサーバのWebページへ入力することにより、冷蔵庫1のWebサーバは無線LANルータ51のSSIDとパスワードを取得する(ステップS504)。無線LANルータ51のSSIDとパスワードの取得が終わると、冷蔵庫1は無線通信モジュール25をステーションモードに切り替え、ユーザが入力したSSIDとパスワードを送信して無線LANルータ51に接続を開始する(ステップS505)。接続が成功した場合と、接続に失敗した場合とで異なるパターンでブザーを鳴らしユーザに結果を報知する(ステップS506)。
次に携帯端末55側の動作について図12、図13を用いて説明する。図13は、本実施の形態3に係る携帯端末55の無線接続処理の一例を示すフローチャートである。
冷蔵庫1の無線通信モジュール25がアクセスポイントモードで起動すると(ステップS502)、携帯端末55は、このアクセスポイントに無線接続する(ステップS601)。次に、携帯端末55はWebブラウザプログラムを起動し(ステップS602)、冷蔵庫1のWebサーバのWebページにアクセスする(ステップS603)。その後、ユーザのWebページへの入力により冷蔵庫1のWebサーバに無線LANルータ51のSSIDとパスワードを送信する(ステップS604)。冷蔵庫1のWebサーバは携帯端末55から送信されてきたSSIDとパスワードを用いて無線LANルータ51に無線接続する。
以上説明したように実施の形態3の冷蔵庫1によれば、冷蔵庫1の撮影通信モジュール10をWebサーバとして起動して、携帯端末55を当該Webサーバに無線接続させ、携帯端末55が、Webブラウザプログラムを起動し冷蔵庫1のWebサーバのWebページにアクセスして、無線LANルータ51のSSIDとパスワードを撮影通信モジュール10に送信し、撮影通信モジュール10の通信部17は、携帯端末55から受信したSSIDとパスワードを用いて無線LANルータ51に無線接続するとした。これにより、無線接続設定を開始するためのボタンを用意する必要が無く、ボタンや配線のコストを削減することができる。さらに、無線LANルータ51がWPS機能を備えていない場合や、SSIDのブロードキャストを行わない場合にも無線接続を行うことができる。
(実施例)
以下、実施の形態1から3のいずれか1つの方法により無線LANルータ51に接続した冷蔵庫1及び携帯端末55について、携帯端末55に冷蔵庫1を登録し、携帯端末55からネットワーク52を介して、冷蔵庫1の設定を変更し、冷蔵庫1の状態を表示する実施例について説明する。図14は冷蔵庫1の登録動作の一例を示すフローチャートであり、図15は冷蔵庫1の閲覧・操作動作の一例を示すフローチャートである。いずれも(a)が冷蔵庫1の処理、(b)が携帯端末55の処理を示している。
まず冷蔵庫1の登録動作について図14を用いて説明する。冷蔵庫1は、実施の形態1から3のいずれか1つの方法により無線LANルータ51に接続する(ステップS701)。携帯端末55も無線LANルータ51に接続すると(ステップS711)、冷蔵庫1と携帯端末55が無線LANルータ51を介して宅内のローカルネットワークに接続される。
携帯端末55から初めて庫内画像141を閲覧、操作する場合、携帯端末55に冷蔵庫1を登録する必要がある。携帯端末55の画像閲覧操作アプリを起動すると(ステップS712)、冷蔵庫探索コマンドをブロードキャスト送信する(ステップS713)。
次に冷蔵庫1の登録応答動作を説明する。冷蔵庫1の通信部17はローカルネットワークに接続した後、冷蔵庫探索コマンドがないときは(ステップS702:No)、当該コマンドの受信待ちを行う。通信部17が冷蔵庫探索コマンドを受信すると(ステップS702:Yes)、無線接続制御部16は、個体を識別するためのシリアル番号を含む識別情報を送信元、すなわち携帯端末55に送信するよう通信部17を制御する(ステップS703)。
ここで、シリアル番号はMACアドレスであってよい。また、識別情報は、冷蔵庫であること、カメラによる画像閲覧機能を有するという情報を含んでもよい。なお、登録動作は無線LANルータ51を介した、宅内のローカルネットワーク内で行うことにより、意図しない第三者の携帯端末が登録され、宅外のネットワーク52から不正なアクセスにより庫内画像141が閲覧されたり、冷蔵庫1が操作されたりすることが無い。
携帯端末55は、冷蔵庫探索コマンドを送信すると(ステップS713)、ネットワーク内の冷蔵庫からの識別情報の受信がないときは(ステップS714:No)、当該識別情報の受信待ちを行う。ローカルネットワークから識別情報を受信すると(ステップS714:Yes)、画像閲覧操作アプリは冷蔵庫1を登録する(ステップS715)。
なお、宅外のネットワーク52から冷蔵庫1にアクセスを行う場合は、携帯端末55はサーバ53にログインし、その際に冷蔵庫1のデータを登録しておけば冷蔵庫1と携帯端末55の関連付けを行うことができる。或いはステップS715で冷蔵庫1を登録後、冷蔵庫1にログイン情報を送信し、冷蔵庫1から携帯端末55の情報を送信して関連付けを行ってもよい。この場合、携帯端末55から冷蔵庫1のデータを登録することなく、すぐにサーバ53での関連付けを行うことができる。
次に、冷蔵庫1の閲覧・操作動作について、図15を用いて説明する。冷蔵庫1は携帯端末55からの閲覧・操作リクエストがないときは(ステップS801:No)、当該リクエスト待ちを行う。携帯端末55から閲覧・操作リクエストがあると(ステップS801:Yes)、リクエストに応じた操作データを冷蔵庫1に設定し(ステップS802)、冷蔵庫1の主機能部が操作データに従って動作する。また冷蔵庫1の状態データを携帯端末55に送信する(ステップS803)。
携帯端末55は、ユーザからの閲覧・操作リクエストがないときは(ステップS811:No)、当該リクエスト待ちを行う。ユーザから閲覧・操作リクエストがあると(ステップS811:Yes)、リクエストに応じた操作データを冷蔵庫1に送信する(ステップS812)。次に冷蔵庫1からの状態データ受信がないときは(ステップS813:No)、当該状態データの受信待ちを行い、冷蔵庫1から状態データを受信すると(ステップS813:Yes)、画像閲覧操作アプリの状態表示を更新する。例えば、操作データは庫内の温度、急速冷凍や省エネ設定であり、状態データは、庫内画像141、庫内の現在温度である。
このように本発明は、予め定めた特定形状を表示した表示物を含む画像を撮影し、撮影した画像に、特定形状が含まれているか否かを判別し、表示物の形状が含まれていると判別した場合に外部と通信を開始する制御を行うとした。これにより、情報を送受信するためのネットワーク接続の操作が容易となり、ネットワーク接続のための手段を要しないためコストを低減することが可能となる。
なお、本発明は、上記実施の形態に限定されず、本発明の要旨を逸脱しない範囲での種々の変更は勿論可能である。
例えば、上記実施の形態において、冷蔵庫1に備えたカメラ21によって撮影した撮影画像に基づいて、無線接続を制御するとしたが、他の装置又は空間に備えたカメラ21によって撮影した撮影画像に基づいて、他の装置又は空間からの無線接続を制御してもよい。例えば、他の装置又は空間は、貯蔵庫、ペットの飼育ケース、居住空間であってもよい。
また、上記実施の形態において、携帯端末55がネットワーク52を介して冷蔵庫1にアクセスし、庫内画像141を含む情報を取得するとしたが、携帯端末55が冷蔵庫1に直接アクセスする構成にしてもよい。この場合、ユーザが携帯端末55を用いて冷蔵庫1に庫内閲覧要求を送信すると、冷蔵庫1のプロセッサ23は、無線通信モジュール25を介して庫内閲覧要求を受信する。プロセッサ23は、受信した庫内閲覧要求に対応して記憶部14に記憶された庫内画像141を読み出し、無線通信モジュール25を介して携帯端末55に送信する。この場合、庫内画像閲覧システム100は、サーバ53又はストレージ54を備えなくてもよい。
また、上記実施の形態において、通信部17は、無線LANルータ51と無線接続をするとしたが、無線LANルータ51に代えて有線のルータを用いて、通信部17が有線の通信を行ってもよい。このとき無線接続制御部18に代えて、有線接続制御を含む制御を実行する通信接続制御部が通信部17を制御する。
また、上記実施の形態1において、冷蔵庫1の表示物37は庫内の壁に設けるとしたが、例えば仕切り棚33,34の一部を回転させて、庫内の構造物の形状を変化させてもよい。
また、上記実施の形態2において、QRコードに含まれる情報を用いて無線制御を行うとしたが、バーコードや他の2次元コードを含む他のデータ格納コードであってもよい。このときQRコード読取部18に代えて、データ格納コード読取部がデータ格納コードから情報を読み取る。
また、上記実施の形態に示したハードウェア構成やフローチャートは一例であり、任意に変更及び修正が可能である。プロセッサ23、メモリ24で構成される扉開閉検知部12、撮影制御部13、形状判別部15、無線接続制御部16及び通信部17の各機能を実現する部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。
例えば、上記実施の形態の動作を実行するためのプログラムを、コンピュータが読み取り可能なCD−ROM(Compact Disk Read-Only Memory)、DVD(Digital Versatile Disk)、MO(Magneto Optical Disk)、メモリカード等の記録媒体に格納して配布し、プログラムをコンピュータにインストールすることにより、各機能を実現することができるコンピュータを構成してもよい。そして、各機能をOS(Operating System)とアプリケーションとの分担、又はOSとアプリケーションとの協同により実現する場合には、OS以外の部分のみを記録媒体に格納してもよい。
さらに、搬送波に各プログラムを重畳し、通信ネットワークを介して配信することも可能である。例えば、通信ネットワーク上の掲示板(BBS,Bulletin Board System)に当該プログラムを掲示し、通信ネットワークを介して当該プログラムを配信してもよい。そして、これらのプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、上述の処理を実行させてもよい。
1 冷蔵庫、10 撮影通信モジュール、11 制御装置、12 扉開閉検知部、13 撮影制御部、14 記憶部、141 庫内画像、15 形状判別部、16 無線接続制御部、17 通信部、18 QRコード読取部、21 カメラ、22 開閉センサ、23 プロセッサ、24 メモリ、25 無線通信モジュール、26 カメラインターフェース、27 センサインターフェース、30 冷蔵室、31 左扉、32 右扉、33,34 仕切り棚、35 冷凍室、36 野菜室、37 表示物、41 切り欠き部、42 回転部、51 無線LANルータ、52 ネットワーク、53 サーバ、54 ストレージ、55 携帯端末、60 QRコード、61 文字列、100 庫内画像閲覧システム

Claims (11)

  1. 情報を外部と通信する通信部と、
    予め定めた特定形状を表示する表示物を含む画像を撮影するカメラと、
    前記カメラが撮影した撮影画像に、前記特定形状が含まれているか否かを判別する形状判別部と、
    前記形状判別部が、前記撮影画像に前記特定形状が含まれていると判別した場合に、前記通信部に通信接続を開始させる制御を行う通信接続制御部と、
    を備える情報通信装置。
  2. 前記表示物は、前記カメラの撮影範囲内に取り付けられ、前記特定形状が視認可能な開状態及び視認不可能な閉状態のいずれか1つに切り替える開閉機構を備え、
    前記通信接続制御部は、前記表示物が前記開状態であって前記形状判別部により前記特定形状が含まれていると判別されたときに通信接続を開始する制御を行い、前記表示物が前記閉状態であって前記形状判別部により前記特定形状が含まれていないと判別されたときに通信接続を開始しない制御を行う、
    請求項1に記載の情報通信装置。
  3. 前記形状判別部が判別する前記特定形状は、前記表示物の内部に印刷、加工又は貼付されたものであり、前記開状態で前記カメラに対向する面に設置され、前記閉状態で隠ぺいされる、
    請求項2に記載の情報通信装置。
  4. 前記通信部は、無線通信を実行し、
    前記特定形状は、データ格納コードであり、
    前記形状判別部が前記撮影画像の中に前記データ格納コードを判別した場合に、前記データ格納コードの情報を読み取るデータ格納コード読取部を更に備え、
    前記通信接続制御部は、前記データ格納コード読取部が読み取った情報に前記無線通信のための認証情報が含まれていた場合に、前記認証情報を用いて無線通信接続を開始する制御を行う、
    請求項1に記載の情報通信装置。
  5. 前記通信部は、無線通信を実行し、
    前記通信接続制御部は、
    前記形状判別部が前記撮影画像に前記特定形状が含まれていると判別すると、前記通信部をアクセスポイントモードで動作するよう制御し、
    前記アクセスポイントモードで動作する前記通信部に無線接続した操作端末からログイン情報を受信すると、前記通信部をステーションモードで動作させて前記ログイン情報を用いて外部と通信するよう制御する、
    請求項1から3のいずれか1項に記載の情報通信装置。
  6. ユーザに通信接続状態を報知するブザーを更に備え、
    前記通信部が通信接続に成功した場合と失敗した場合とで異なるパターンで、前記ブザーを鳴動させる、
    請求項1から5のいずれか1項に記載の情報通信装置。
  7. 請求項1から6のいずれか1項に記載の情報通信装置を備えた冷蔵庫。
  8. 前記通信部が操作端末から予め定めた範囲内のネットワークを介して冷蔵庫探索指示を受信すると、前記通信接続制御部が当該冷蔵庫の固有の識別情報を前記操作端末に送信するよう前記通信部を制御し、
    前記通信部が当該冷蔵庫の前記固有の識別情報を含む操作リクエストを受信すると、前記操作リクエストにしたがって当該冷蔵庫を動作させる主機能部を、更に備える、
    請求項7に記載の冷蔵庫。
  9. 請求項1から6のいずれか1項に記載の情報通信装置を備えた冷蔵庫と、操作端末と、がネットワークを介して接続されており、
    前記冷蔵庫は、前記カメラが撮影した庫内画像を含む情報を送信し、
    前記操作端末は、前記庫内画像を含む情報を受信する、
    庫内画像閲覧システム。
  10. 予め定めた特定形状を表示する表示物を含む画像を撮影する撮影ステップと、
    前記撮影ステップで撮影した撮影画像に、前記特定形状が含まれているか否かを判別する形状判別ステップと、
    前記形状判別ステップで前記特定形状が含まれていると判別した場合に、外部との情報通信を開始する通信開始ステップと、
    を有する情報通信方法。
  11. コンピュータを、
    予め定めた特定形状を表示する表示物を含む画像をカメラに撮影させる撮影制御部、
    前記撮影制御部が前記カメラに撮影させた前記撮影画像に、前記特定形状が含まれているか否かを判別する形状判別部、
    前記形状判別部が、前記特定形状が含まれていると判別した場合に、外部と情報通信を開始する制御を行う通信接続制御部、
    として機能させるプログラム。
JP2017051510A 2017-03-16 2017-03-16 情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム Active JP6937593B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017051510A JP6937593B2 (ja) 2017-03-16 2017-03-16 情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017051510A JP6937593B2 (ja) 2017-03-16 2017-03-16 情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2018156275A true JP2018156275A (ja) 2018-10-04
JP2018156275A5 JP2018156275A5 (ja) 2020-04-16
JP6937593B2 JP6937593B2 (ja) 2021-09-22

Family

ID=63716600

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017051510A Active JP6937593B2 (ja) 2017-03-16 2017-03-16 情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6937593B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021152419A (ja) * 2020-03-24 2021-09-30 日立グローバルライフソリューションズ株式会社 冷蔵庫
WO2022230649A1 (ja) * 2021-04-26 2022-11-03 パナソニックIpマネジメント株式会社 登録方法、及び、機器制御システム
WO2023193756A1 (zh) * 2022-04-07 2023-10-12 海尔智家股份有限公司 制冷设备及其控制方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014070796A (ja) * 2012-09-28 2014-04-21 Sharp Corp 庫内撮影装置および冷蔵庫
JP2017028454A (ja) * 2015-07-21 2017-02-02 キヤノン株式会社 通信装置、共有方法、および、プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014070796A (ja) * 2012-09-28 2014-04-21 Sharp Corp 庫内撮影装置および冷蔵庫
JP2017028454A (ja) * 2015-07-21 2017-02-02 キヤノン株式会社 通信装置、共有方法、および、プログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021152419A (ja) * 2020-03-24 2021-09-30 日立グローバルライフソリューションズ株式会社 冷蔵庫
JP7430085B2 (ja) 2020-03-24 2024-02-09 日立グローバルライフソリューションズ株式会社 冷蔵庫
WO2022230649A1 (ja) * 2021-04-26 2022-11-03 パナソニックIpマネジメント株式会社 登録方法、及び、機器制御システム
WO2023193756A1 (zh) * 2022-04-07 2023-10-12 海尔智家股份有限公司 制冷设备及其控制方法

Also Published As

Publication number Publication date
JP6937593B2 (ja) 2021-09-22

Similar Documents

Publication Publication Date Title
KR102708782B1 (ko) 허브를 통해 복수의 전자 장치를 서버에 연결시키는 방법 및 이를 수행하는 전자 장치
US10129746B2 (en) Mobile terminal, home appliance, and method of operating the same
US10225719B2 (en) Method and apparatus for establishing communication between an image photographing apparatus and a user device
US9143402B2 (en) Sensor based configuration and control of network devices
CN103916299B (zh) 家用电器及其操作方法
CN109672720B (zh) 用于控制IoT装置的电子装置及其操作方法
CN105607499A (zh) 设备分组方法及装置
US20170330439A1 (en) Alarm method and device, control device and sensing device
US20140118123A1 (en) Method and apparatus for controlling home device based on service logic in home network system
JP2017106671A (ja) 冷蔵庫、冷蔵庫内画像管理システムおよびプログラム
JP2012142907A (ja) ユーザインターフェースを変更する携帯端末、方法及びプログラム
JP6937593B2 (ja) 情報通信装置、冷蔵庫、庫内画像閲覧システム、情報通信方法及びプログラム
JP6655908B2 (ja) 冷蔵庫およびプログラム
US9819990B2 (en) Remote control programming using images
JP2015014401A (ja) 冷蔵庫
US20180267488A1 (en) Control device and operating method
KR102499917B1 (ko) 측위를 수행하는 전자 장치 및 전자 장치의 제어 방법
JP6566694B2 (ja) 制御装置、冷蔵庫、冷蔵庫撮影制御システムおよびプログラム
JP2018156275A5 (ja)
KR20120082786A (ko) 이미지 센서를 회전할 수 있는 네트워크 카메라 및 영상 인식 방법
US20120169899A1 (en) Electronic device and method for searching for object
WO2018092310A1 (ja) 冷蔵庫システム
KR20140139738A (ko) 이동통신 단말기 및 이를 이용한 냉장고 관리 시스템
JP2020020982A (ja) 制御装置、庫内撮影システム、物品保管庫、庫内撮影方法およびプログラム
JP2005277658A (ja) RFIDタグ識別監視IPv6カメラ・アクセス・システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200305

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210715

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210831

R150 Certificate of patent or registration of utility model

Ref document number: 6937593

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150