JP2017149105A - 情報処理装置 - Google Patents

情報処理装置 Download PDF

Info

Publication number
JP2017149105A
JP2017149105A JP2016035671A JP2016035671A JP2017149105A JP 2017149105 A JP2017149105 A JP 2017149105A JP 2016035671 A JP2016035671 A JP 2016035671A JP 2016035671 A JP2016035671 A JP 2016035671A JP 2017149105 A JP2017149105 A JP 2017149105A
Authority
JP
Japan
Prior art keywords
toe
unit
notification
determined
specified
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016035671A
Other languages
English (en)
Other versions
JP6812641B2 (ja
Inventor
英樹 山崎
Hideki Yamazaki
英樹 山崎
祐一 河田
Yuichi Kawada
祐一 河田
齋藤 玲子
Reiko Saito
玲子 齋藤
義文 板東
Yoshibumi Bando
義文 板東
健資 岡本
Kensuke Okamoto
健資 岡本
知世 西田
Tomoyo Nishida
知世 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2016035671A priority Critical patent/JP6812641B2/ja
Priority to US15/198,545 priority patent/US9928612B2/en
Priority to EP16182192.1A priority patent/EP3211563B1/en
Priority to CN201610663742.1A priority patent/CN107133554B/zh
Publication of JP2017149105A publication Critical patent/JP2017149105A/ja
Application granted granted Critical
Publication of JP6812641B2 publication Critical patent/JP6812641B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • G06V40/25Recognition of walking or running movements, e.g. gait recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/242Aligning, centring, orientation detection or correction of the image by image rotation, e.g. by 90 degrees
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00249Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a photographic apparatus, e.g. a photographic printer or a projector
    • H04N1/00251Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a photographic apparatus, e.g. a photographic printer or a projector with an apparatus for taking photographic images, e.g. a camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0008Connection or combination of a still picture apparatus with another apparatus
    • H04N2201/0015Control of image communication with the connected apparatus, e.g. signalling capability
    • H04N2201/0017Notifying a communication result
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0094Multifunctional device, i.e. a device capable of all of reading, reproducing, copying, facsimile transception, file transception

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Facsimiles In General (AREA)
  • Image Processing (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Control Or Security For Electrophotography (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Analysis (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】物の取り忘れの報知を、ユーザの顔の検出結果に基づいて行う場合に比べて、より的確に行うこと。
【解決手段】所在判定部101は、決められた場所に物があるか否か(物が所在するか否か)を判定する。つま先向き特定部103は、自装置を利用するユーザのつま先の向きを特定する。報知部105は、つま先向き特定部103により決められたつま先の向きが特定され、且つ、所在判定部101により上記決められた場所に物があると判定された場合に、ユーザへの報知を行う。さらにいうと、報知部105は、自装置の方を向いていないつま先の向きが片足でも特定された場合に、決められたつま先の向きが特定されたものとして、ユーザへの報知を行う。
【選択図】図3

Description

本発明は、情報処理装置に関する。
特許文献1には、利用者の媒体の取り忘れを検知すると、カメラで撮影した画像に対して顔認識を行い、画像に顔がなかった場合に媒体の取り忘れが発生したと判断して利用者に報知する技術が開示されている。
特開2011−086002号公報
特許文献1の技術では、カメラで顔を撮影するため、撮影された画像に天井に取り付けられた照明が写る場合がある。その場合、逆光になってユーザの顔が暗くなり、顔の検出の精度が低下して、その結果、ユーザが装置前にいるのに取り忘れが発生したと判断されて報知されるということが起こり得る。また、各ユーザの顔の位置はそれらのユーザの身長によってばらつくため、カメラの適切な取り付け位置や角度を決めることが難しく、あるユーザの顔が画像の中央に写るように設置したら、他のユーザの顔が画像の端近くにしか写らなくなるということが起こり得る。
そこで、本発明は、物の取り忘れの報知を、ユーザの顔の検出結果に基づいて行う場合に比べて、より的確に行うことを目的とする。
本発明の請求項1に係る情報処理装置は、決められた場所に物があるか否かを判定する判定部と、自装置を利用するユーザのつま先の向きを特定する特定部と、決められたつま先の向きが特定され、且つ、前記場所に物があると判定された場合に、前記ユーザへの報知を行う報知部とを備えることを特徴とする。
本発明の請求項2に係る情報処理装置は、請求項1に記載の構成において、前記報知部は、自装置の方を向いていないつま先の向きが片足でも特定された場合に、前記決められたつま先の向きが特定されたものとして、前記報知を行うことを特徴とする。
本発明の請求項3に係る情報処理装置は、請求項1に記載の構成において、前記報知部は、自装置の方を向いていないつま先の向きが両足とも特定された場合に、前記決められたつま先の向きが特定されたものとして、前記報知を行うことを特徴とする。
本発明の請求項4に係る情報処理装置は、請求項1から3のいずれか1項に記載の構成において、前記場所にあると判定された物の種類を判別する判別部を備え、前記報知部は、判別された前記種類に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法とを使い分けることを特徴とする。
本発明の請求項5に係る情報処理装置は、請求項1から4のいずれか1項に記載の構成において、前記場所にある物の量を測定する測定部を備え、前記報知部は、測定された前記量に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法とを使い分けることを特徴とする。
本発明の請求項6に係る情報処理装置は、請求項1から5のいずれか1項に記載の構成において、前記場所にある物の文字情報を検出する検出部を備え、前記報知部は、検出された前記文字情報に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法とを使い分けることを特徴とする。
請求項1に係る発明によれば、物の取り忘れの報知を、ユーザの顔の検出結果に基づいて行う場合に比べて、より的確に行うことができる。
請求項2に係る発明によれば、両足のつま先の向きが変わるのを待つ場合に比べて、早いタイミングで報知することができる。
請求項3に係る発明によれば、片足のつま先の向きが変わるだけで報知する場合に比べて、ユーザが自装置を利用し続けているのに報知が行われることを少なくすることができる。
請求項4に係る発明によれば、決められた場所にある物の種類によって報知のタイミングを変えることができる。
請求項5に係る発明によれば、決められた場所にある物の量によって報知のタイミングを変えることができる。
請求項6に係る発明によれば、決められた場所にある物の文字情報によって報知のタイミングを変えることができる。
実施例に係る画像処理装置のハードウェア構成を表す図 画像処理装置の外観を表す図 画像処理装置が実現する機能構成を表す図 足画像及び座標系の一例を表す図 決められたつま先の向きを説明するための図 報知処理における画像処理装置の動作手順の一例を表す図 変形例の決められたつま先の向きを説明するための図 変形例の画像処理装置が実現する機能構成を表す図 報知条件テーブルの一例を表す図 変形例の画像処理装置が実現する機能構成を表す図 報知条件テーブルの一例を表す図 変形例の画像処理装置が実現する機能構成を表す図 報知条件テーブルの一例を表す図 変形例に係る画像処理システムのハードウェア構成を表す図 画像処理装置が実現する機能構成を表す図 つま先向きテーブルの例を表す図
[1]実施例
図1は実施例に係る画像処理装置10のハードウェア構成を表す。画像処理装置10は、スキャンやプリント、コピー、ファクシミリなど、画像を処理する機能を提供する。画像処理装置10は、CPU(Central Processing Unit)11と、RAM(Random Access Memory)12と、ROM(Read Only Memory)13と、HDD(Hard Disk Drive)14と、操作パネル15と、イメージスキャナ16と、プリンタ17と、搬送機構18と、デジタルカメラ19と、スピーカ20とを備えるコンピュータである。
CPU11は、RAM12をワークエリアとして用いてROM13やHDD14に記憶されているプログラムを実行することで各部の動作を制御する。HDD14は、CPU11が制御に用いるデータやプログラムを記憶する記憶手段である。なお、HDDに限らずSSD(Solid State Drive)等の他の記録媒体が記憶手段として用いられてもよい。
操作パネル15は、タッチスクリーンやボタンなどを備え、自装置の状態や処理の状態などを表す情報を表示するとともに、操作子などの画像を表示してユーザの操作を受け付けたり、ボタンを押すことによる操作を受け付けたりする。イメージスキャナ16は、イメージセンサなどを備え、用紙の表面に表された画像を光学的に読み取る。イメージスキャナ16は、読み取った画像を表す画像データをCPU11に供給する。
プリンタ17は、例えば電子写真方式で用紙に画像を形成する。搬送機構18は、用紙を搬送する機構であり、イメージスキャナ16により画像が読み取られる用紙やプリンタ17により画像が形成される用紙を搬送する。デジタルカメラ19は、レンズや撮像素子などを備え、レンズから入射する光が表す周囲の人物や光景を撮影する。スピーカ20は、デジタル−アナログ変換回路や増幅回路などを備え、CPU11から供給される音データが表す音を放出する。
図2は画像処理装置10の外観を表す。画像処理装置10は、操作パネル15が設けられている方を正面として、正面に立ったユーザによって利用される。画像処理装置10の上部には、セットされた原稿を搬送する原稿送り部181と、原稿送り部181が搬送した原稿が排出される原稿受け部182が設けられている。原稿送り部181及び原稿受け部182は、原稿カバー183と一体になっている。
原稿カバー183の下には原稿台184が設けられている。原稿送り部181により搬送された原稿も、原稿台184にセットされた原稿も、イメージスキャナ16によって画像を読み取られる。画像処理装置10の側面側には、プリンタ17により画像が形成された用紙が排出される排紙部185が設けられている。
画像処理装置10の側面側には、デジタルカメラ19が設けられている。デジタルカメラ19は、画像処理装置10の正面側であり且つ床側に向けて斜めにレンズが向けられている。デジタルカメラ19は、画像処理装置10の正面に立ったユーザの足が位置することになる領域A1を撮影することで、自装置を利用しようとするユーザの足元を撮影する。
画像処理装置10のCPU11がプログラムを実行して各部を制御することで、以下に述べる機能が実現される。
図3は画像処理装置10が実現する機能構成を表す。画像処理装置10は、所在判定部101と、撮影部102と、つま先向き特定部103と、報知条件判断部104と、報知部105とを備える。
所在判定部101は、決められた場所に物があるか否か(物が所在するか否か)を判定する機能であり、本発明の「判定部」の一例である。所在判定部101は、本実施例では、図2に表す原稿送り部181、原稿受け部182、原稿台184、排紙部185を決められた場所として、これらの各部に物があるか否かを判定する。これらの各部には、それぞれ原稿や画像が形成された用紙の有無を検知するためのセンサが設けられており、所在判定部101は、これらのセンサの出力に基づいて物の有無を判定する。所在判定部101は、決められた時間間隔(例えば1秒毎)で繰り返し判定を行い、その度に判定結果を報知条件判断部104に通知する。
撮影部102は、図2に表す領域A1を撮影することで、自装置を利用しようとするユーザの足元を撮影する。撮影部102は、決められた時間間隔(例えば1秒毎)で繰り返し撮影を行い、その度に撮影した画像をつま先向き特定部103に供給する。
つま先向き特定部103は、自装置を利用するユーザのつま先の向きを特定する機能であり、本発明の「特定部」の一例である。つま先向き特定部103は、撮影部102により撮影されたユーザの足元の画像に基づいて、そのユーザのつま先の向きを特定する。つま先の向きを特定する方法としては、例えば、特開2015−2382号公報に記載されている方法を用いればよい。
その方法を用いる場合、つま先向き特定部103は、撮影部102により撮影された画像からユーザの足の画像を抽出し、抽出した足画像における足首の中心を原点として、自装置の正面方向に直交するx軸と正面方向に平行なy軸とによる2次元座標系を想定し、抽出した足画像のつま先の座標を算出する。
図4は足画像及び座標系の一例を表す。図4の例では、ユーザの左足を表す足画像B1と右足を表す足画像B2とが表されている。また、足画像B1が表す足首の中心を原点とし、画像処理装置10の正面方向C1に対して直交するx軸と、正面方向C1に対して平行なy軸とによって表される2次元座標系D1が表されている。足画像B2が表す足首の中心を原点とし、同様のx軸、y軸によって表される2次元座標系D2が表されている。2次元座標系D1、D2は、画像処理装置10から見て右から左に向かう方向をx軸の正方向とし、画像処理装置10の正面に対して向かう方向をy軸の正方向としている。
図4の例では、つま先向き特定部103は、足画像B1から抽出したつま先E1の座標を(0、y1)と算出し、足画像B2から抽出したつま先E2の座標を(x2、y2)と算出する。y1、x2、y2はいずれも正の値だとする。つま先向き特定部103は、算出したつま先の座標からつま先のはみ出し量及びはみ出し方向を算出し、算出したはみ出し量及びはみ出し方向に基づいてつま先の向きを特定する。
つま先向き特定部103は、つま先の向きを特定すると、特定した結果(つま先の向き)を表す特定結果情報を報知条件判断部104に供給する。特定結果情報は、例えば、想定された2次元座標系で表される足首の中心からつま先に向かうベクトルの成分によって表される。図4の例であれば、左足のつま先の向きは(0、y1)と表され、右足のつま先の向きは(x2、y2)と表される。
報知条件判断部104は、ユーザへの報知を行う条件(報知条件)が満たされたか否かを判断する。報知条件判断部104は、つま先向き特定部103により決められたつま先の向きが特定され、且つ、所在判定部101により上記決められた場所に物があると判定された場合に満たされる条件を報知条件として用いる。報知条件判断部104は、本実施例では、自装置(画像処理装置10)の方を向いていないつま先の向きが片足でも特定された場合に、決められたつま先の向きが特定されたと判断する。
図5は決められたつま先の向きを説明するための図である。図5(a)では、2次元座標系D1の原点を通ってy軸に対して角度θ1を成す直線F1、F2(直線F1は第1象限、直線F2は第2象限にそれぞれ存在する)と、直線F1、F2に挟まれた領域G1が表されている。図5(b)では、2次元座標系D2の原点を通ってy軸に対して角度θ1を成す直線F3、F4(直線F3は第1象限、直線F4は第2象限にそれぞれ存在する)と、直線F3、F4に挟まれた領域G2が表されている。
本実施例では、報知条件判断部104は、つま先向き特定部103により特定された左足のつま先の向きを表すベクトルの成分が領域G1に含まれており、且つ、特定された右足のつま先の向きを表すベクトルの成分が領域G2に含まれている場合に、決められたつま先の向き(両足ともつま先が自装置の方を向くことを表すつま先の向き)が特定されたと判断する。言い換えると、報知条件判断部104は、画像処理装置10の正面方向C1の反対向き(2次元座標系D1のy軸の方向)に対するユーザのつま先の向きのずれが両足とも角度θ1以下である場合に、決められたつま先の向きが特定されたと判断する。
報知条件判断部104は、決められたつま先の向きが特定されたと判断した場合、所在判定部101から供給された最新の判定結果が図2に表す原稿送り部181等の各部に物があるという結果を表していれば、報知条件が満たされたと判断する。報知条件判断部104は、報知条件が満たされたと判断すると、その旨を報知部105に通知する。報知条件判断部104は、決められたつま先の向きが特定されていないと判断した場合や、決められたつま先の向きが特定されたが上記各部に物がないと判定された場合には、報知条件が満たされないと判断し、報知部105への通知を行わない。
報知部105は、報知条件判断部104から報知条件が満たされた旨が通知された場合に、ユーザへの報知を行う。つまり、報知部105は、つま先向き特定部103により決められたつま先の向きが特定され、且つ、所在判定部101により上記決められた場所に物があると判定された場合に、ユーザへの報知を行う。さらにいうと、報知部105は、自装置の方を向いていないつま先の向きが片足でも特定された場合に、決められたつま先の向きが特定されたものとして、ユーザへの報知を行う。
報知部105は、例えば、スピーカ20から警告音や「取り忘れがあります」という音声などを放出することでユーザへの報知を行う。なお、これに限らず、報知部105は、例えば、操作パネル15に「取り忘れがあります」という文字列等を表示することで報知を行ってもよい。また、利用可能なユーザを認証してから画像処理装置10を利用させている場合に、報知部105は、ユーザの登録された電子メールアドレスやSNS(Social Networking Service)のアカウントに「取り忘れがあります」という文字列等を送信することで報知を行ってもよい。
画像処理装置10は、上記の構成に基づいて、原稿などの取り忘れをユーザに報知する報知処理を行う。
図6は報知処理における画像処理装置10の動作手順の一例を表す。この動作手順は、画像処理装置10に対して何らかの操作をユーザが行うことを契機に開始される。
まず、画像処理装置10(撮影部102)は、自装置を利用するユーザの足元を撮影する(ステップS11)。次に、画像処理装置10(つま先向き特定部103)は、撮影された画像に基づいてユーザのつま先の向きを特定する(ステップS12)。画像処理装置10(所在判定部101)は、ステップS11及びS12の動作に並行して、決められた場所(図2に表す原稿送り部181等の各部)での物の所在(物があるか否か)を判定する(ステップS21)。
次に、画像処理装置10(報知条件判断部104)は、ステップS12で決められたつま先の向きが特定されたか否かを判断する(ステップS31)。画像処理装置10は、特定されていない(NO)と判断した場合には、ステップS11、S21に戻って動作を行う。画像処理装置10(報知条件判断部104)は、ステップS31で特定された(YES)と判断した場合には、決められた場所に物があると判定されたか否かを判断する(ステップS32)。画像処理装置10は、判定されていない(NO)と判断した場合には、ステップS11、S21に戻って動作を行う。画像処理装置10(報知部105)は、ステップS32で判定された(YES)と判断した場合には、ユーザへの報知を行う(ステップS33)。
決められた場所から物を取り忘れたユーザに報知するために、例えばユーザを撮影した画像から顔を検出し、顔が検出されなくなったときに報知する方法が考えられる。しかし、その方法では、人間の中で高い位置にある顔を撮影するため、背後に室内の照明が写りやすく、逆光のためユーザの顔が暗くなって検出の精度が低くなりやすい。本実施例では、人間の中で低い位置にあるつま先の向きを特定した結果に基づいて報知を行うので、顔を撮影する場合に比べて、その特定のために用いられる画像に照明が写りにくく、逆光になりにくい。よって、物の取り忘れの報知が、ユーザの顔の検出結果に基づいて行われる場合に比べて、より的確に行われることになる。
[2]変形例
上述した実施例は本発明の実施の一例に過ぎず、以下のように変形させてもよい。また、実施例及び各変形例は、必要に応じて組み合わせて実施してもよい。
[2−1]両足のつま先の向き
実施例とは異なる報知条件が用いられてもよい。例えば、実施例では、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知条件が満たされたが、自装置の方を向いていないつま先の向きが両足とも特定された場合に満たされる条件が報知条件として用いられてもよい。
図7は本変形例の決められたつま先の向きを説明するための図である。図7(a)では、y軸に対する左足のつま先の向きのずれは角度θ1以下であるが、y軸に対する右足のつま先の向きのずれは角度θ1を超えている。報知条件判断部104は、実施例であればこの場合、決められたつま先の向きが特定されたと判断したが、本変形例では、左足が自装置の方向を向いているので、決められたつま先の向きが特定されていないと判断する。
図7(b)では、y軸に対するつま先の向きのずれが左足も右足も角度θ1を超えている。この場合、本変形例では、報知条件判断部104は、両足とも自装置の方向を向いていないので、決められたつま先の向きが特定されたと判断する。その結果、報知部105は、自装置の方を向いていないつま先の向きが両足とも特定された場合に、決められたつま先の向きが特定されたものとして、ユーザへの報知を行う。
実施例では、本変形例のように両足のつま先の向きが変わるのを待つ場合に比べて、早いタイミングで報知がされることになる。一方で、ユーザが図7(a)に表すように一旦片足の向きを変えたが、思い直して再び操作のために画像処理装置10の方を向いた場合であっても報知がされることになる。また、ユーザが画像処理装置10の側面側から歩いてきた場合、片足の向きを歩く方向に近い向きで止めてしまい、図7(a)に表すつま先の向きのまま画像処理装置10を利用することも考えられる。本変形例では、両足のつま先の向きが変わるまで報知を待つことで、実施例のように片足のつま先の向きが変わるだけで報知する場合に比べて、上記のようにユーザが自装置を利用し続けているのに報知が行われることが少なくなる。
[2−2]情報処理装置
上記の各例では画像処理を行う画像処理装置について説明したが、これに限らず、本発明は、他の情報処理装置に適用してもよい。例えば店舗等に設置されてチケットや利用されたサービスの領収書などを発行するキオスク端末や、ATM(Automatic Teller Machine)、自動券売機など、ユーザが物の取り忘れをすることがある情報処理装置に適用されると、物の取り忘れの報知が実施例で述べたようにより的確に行われることになる。
[2−3]決められた場所
所在判定部101が物の有無を判定する場所は、実施例で述べたものに限らない。所在判定部101は、例えば自装置がカード(クレジットカードやプリペイドカードなど)を差し込ませて課金する機能を有している場合、カードの差し込み装置を決められた場所として物(この場合はカード)の有無を判定する。
また、所在判定部101は、自装置が現金を投入させて課金する機能を有している場合、コインキット等の課金装置のお釣りの取出口を決められた場所として物(この場合は現金)の有無を判定する。また、所在判定部101は、自装置が上述したキオスク端末であればチケットや領収書の取出口を、ATMであれば現金の取出口を、自動券売機であれば発売された券の取出口を決められた場所として物の有無を判定する。
[2−4]忘れ物の種類
決められた場所からユーザが取り忘れた物、すなわち忘れ物の種類に応じて異なる報知条件が用いられてもよい。
図8は本変形例の画像処理装置10aが実現する機能構成を表す。画像処理装置10aは、図3に表す各部に加えて、種類判別部106を備える。
本変形例では、所在判定部101が、判定結果として、物があると判定した場所を表す情報を種類判別部106に供給する。種類判別部106は、所在判定部101により決められた場所にあると判定された物の種類を判別する。種類判別部106は本発明の「判別部」の一例である。種類判別部106は、供給された判定結果が原稿受け部182を表す場合、イメージスキャナ16が読み取った画像、すなわち原稿受け部182にあると判定された原稿に描かれている画像を解析してその原稿の種類を判別する。
種類判別部106は、例えば「運転免許証」や「健康保険被保険者証」などの特定の文字列が特定の位置から読み取れた場合に、それらの原稿は、それらの文字列が表す種類(運転免許証や保険証)の原稿だと判別する。なお、種類判別部106は、原稿の種類に対応する罫線のパターンを記憶しておき、読み取られた画像から罫線を抽出してその罫線に類似するパターンの罫線に対応する種類を原稿の種類として判別してもよい。
種類判別部106は、供給された判定結果が原稿台184を表す場合も、上記の方法で原稿の種類を判別する。また、種類判別部106は、供給された判定結果が排紙部185を表す場合には、プリンタ17が形成した画像を解析して、上記の方法で原稿の種類を判別する。なお、種類判別部106は、例えば自装置が名刺スキャン機能やはがきスキャン機能などを有している場合、それらの機能が用いられていれば、用いられた機能に対応する原稿の種類(名刺やはがきなど)を判別する。
また、種類判別部106は、所在判定部101が物の有無を判定する場所に対応する種類を判別してもよい。種類判別部106は、例えば、自装置がカード差し込み装置と課金装置とを有している場合、カード差し込み装置に物があると判定されればカード(クレジットカードやプリペイドカードなどの装置に対応するカード)を物の種類として判別し、課金装置に物があると判定されれば現金を物の種類として判別する。種類判別部106は、判別した物の種類を報知条件判断部104に通知する。
報知条件判断部104は、種類判別部106により判別された種類に応じた報知条件が満たされたか否かを判断する。報知条件判断部104は、物の種類と報知条件とを対応付けた報知条件テーブルを用いてこの判断を行う。
図9は報知条件テーブルの一例を表す。図9では、「運転免許証、健康保険証」という物の種類に「片足の向き変化」という報知条件が対応付けられ、「その他」という物の種類に「両足の向き変化」という報知条件が対応付けられている。
「片足の向き変化」とは、実施例で用いられた報知条件(自装置の方を向いていないつま先の向きが片足でも特定された場合に満たされる条件)を表し、「両足の向き変化」とは、上記変形例で用いられた報知条件(自装置の方を向いていないつま先の向きが両足とも特定された場合に満たされる条件)を表す。報知条件判断部104は、種類判別部106から通知された物の種類に報知条件テーブルで対応付けられている報知条件を用いて、報知条件が満たされているか否かを判断する。
これにより、報知部105は、種類判別部106により判別された物の種類に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する第1の方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する第2の方法とを使い分けることになる。例えば図9に表す報知条件テーブルを用いると、運転免許証や健康保険証のように重要な物については、第1の方法が用いられて、第2の方法が用いられる場合に比べてより早いタイミングで報知がされる。
また、それ以外の物については、第2の方法が用いられて、第1の方法が用いられる場合に比べてユーザが自装置を利用し続けているのに報知が行われることが少なくなる。このように、本変形例によれば、決められた場所にある物の種類によって報知のタイミングが変わることになる。また、決められた場所にある物の種類によって、自装置を利用中のユーザへの報知の抑制度合いが変わることになる。
[2−5]忘れ物の量
忘れ物の量に応じて異なる報知条件が用いられてもよい。
図10は本変形例の画像処理装置10bが実現する機能構成を表す。画像処理装置10bは、図3に表す各部に加えて、量測定部107を備える。
本変形例では、所在判定部101が、判定結果として、物があると判定した場所を表す情報を量測定部107に供給する。量測定部107は、所在判定部101により決められた場所にあると判定された物の量を測定する。量測定部107は本発明の「測定部」の一例である。量測定部107は、供給された判定結果が原稿受け部182を表す場合、イメージスキャナ16が画像を読み取った原稿の枚数を物の量として測定する。
量測定部107は、供給された判定結果が原稿台184を表す場合、原稿台184に載せられる原稿は普通1枚なので、1枚を物の量として測定する。また、量測定部107は、供給された判定結果が排紙部185を表す場合には、プリンタ17が画像を形成した用紙の枚数を物の量として測定する。また、量測定部107は、上述したカード差し込み装置に物があると判定されれば1枚(カードの枚数のこと)を物の量として測定し、課金装置に物があると判定されれば、課金装置からお釣りの金額を取得して、その金額を物の量として測定する。量測定部107は、測定した物の量を報知条件判断部104に通知する。
報知条件判断部104は、量測定部107により測定された物の量に応じた報知条件が満たされたか否かを判断する。報知条件判断部104は、物の量と報知条件とを対応付けた報知条件テーブルを用いてこの判断を行う。
図11は報知条件テーブルの一例を表す。図11では、「閾値Th1以上」という物の量に「片足の向き変化」という報知条件が対応付けられ、「閾値Th1未満」という物の種類に「両足の向き変化」という報知条件が対応付けられている。閾値Th1としては、例えば原稿の枚数が物の量として測定される場合は10枚や20枚などの枚数が用いられ、お釣りの金額が物の量として測定される場合は千円や2千円などの金額が用いられる。
報知条件判断部104は、量測定部107から通知された物の量に報知条件テーブルで対応付けられている報知条件を用いて、報知条件が満たされているか否かを判断する。これにより、報知部105は、量測定部107により測定された物の量に応じて、上述した第1の方法(自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法)と、第2の方法(自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法)とを使い分けることになる。
例えば図11に表す報知条件テーブルを用いると、測定された忘れ物の量が閾値Th1以上の場合、第1の方法が用いられて、第2の方法が用いられる場合に比べてより早いタイミングで報知がされる。また、測定された忘れ物の量が閾値Th1未満の場合、第2の方法が用いられて、第1の方法が用いられる場合に比べてユーザが自装置を利用し続けているのに報知が行われることが少なくなる。このように、本変形例によれば、決められた場所にある物の量によって報知のタイミングが変わることになる。また、決められた場所にある物の量によって、自装置を利用中のユーザへの報知の抑制度合いが変わることになる。
[2−6]文字情報
忘れ物が有する文字情報に応じて異なる報知条件が用いられてもよい。
図12は本変形例の画像処理装置10dが実現する機能構成を表す。画像処理装置10dは、図3に表す各部に加えて、文字情報検出部109を備える。本変形例では、所在判定部101が、判定結果として、物があると判定した場所を表す情報を文字情報検出部109に供給する。文字情報検出部109は、所在判定部101により決められた場所にあると判定された物の文字情報を検出する。文字情報検出部109は本発明の「検出部」の一例である。
文字情報検出部109は、供給された判定結果が原稿受け部182及び原稿台184を表す場合、イメージスキャナ16が読み取った原稿の画像からOCR(Optical character recognition)の技術を用いて文字情報を検出する。文字情報検出部109は、供給された判定結果が排紙部185を表す場合には、プリンタ17が形成した画像からOCRの技術を用いて文字情報を検出する。文字情報検出部109は、検出した文字情報を報知条件判断部104に供給する。
報知条件判断部104は、文字情報検出部109により検出された文字情報に応じた報知条件が満たされたか否かを判断する。報知条件判断部104は、文字情報に含まれるキーワードと報知条件とを対応付けた報知条件テーブルを用いてこの判断を行う。
図13は報知条件テーブルの一例を表す。図13では、「氏名、住所、電話番号を含む」という文字情報に「片足の向き変化」という報知条件が対応付けられ、「氏名、住所、電話番号を含まない」という文字情報に「両足の向き変化」という報知条件が対応付けられている。
報知条件判断部104は、文字情報検出部109から供給された文字情報に報知条件テーブルで対応付けられている報知条件を用いて、報知条件が満たされているか否かを判断する。これにより、報知部105は、文字情報検出部109により検出された文字情報に応じて、上述した第1の方法(自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法)と、第2の方法(自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法)とを使い分けることになる。
例えば図13に表す報知条件テーブルを用いると、氏名、住所、電話番号を含む文字情報が検出された場合、第1の方法が用いられて、第2の方法が用いられる場合に比べてより早いタイミングで報知がされる。また、氏名、住所、電話番号を含まない文字情報が検出された場合、第2の方法が用いられて、第1の方法が用いられる場合に比べてユーザが自装置を利用し続けているのに報知が行われることが少なくなる。このように、本変形例によれば、決められた場所にある物の文字情報によって報知のタイミングが変わることになる。また、決められた場所にある物の文字情報によって、自装置を利用中のユーザへの報知の抑制度合いが変わることになる。
[2−7]画像の撮影
画像処理装置が画像を撮影しなくてもよい。
図14は本変形例に係る画像処理システム1cのハードウェア構成を表す。画像処理システム1cは、画像処理装置10cと、デジタルカメラ30とを備える。画像処理装置10cは、図1に表すCPU11から搬送機構18までと、スピーカ20と、インターフェース21とを備える。インターフェース21は、デジタルカメラ30とのデータのやり取りを仲介する。デジタルカメラ30は、画像処理装置10cの周囲に設置され、画像処理装置10cを利用するユーザの足元を撮影する。
図15は画像処理装置10cが実現する機能構成を表す。画像処理装置10cは、図3に表す所在判定部101、つま先向き特定部103、報知条件判断部104及び報知部105に加えて、画像取得部108を備える。画像取得部108は、外部の撮影装置(この例ではデジタルカメラ30)から、自装置の周囲を撮影した画像を取得する。つま先向き特定部103は、画像取得部108により取得された画像、すなわち自装置を利用するユーザの足元を撮影した画像に基づいてつま先の向きを特定する。
[2−8]つま先向きの判断
報知条件判断部104は、実施例では、ユーザのつま先の向きのずれが両足とも角度θ1以下である場合に、決められたつま先の向きが特定されたと判断したが、この角度θ1を変動させてもよい。例えば、報知条件判断部104は、上記変形例で述べた忘れ物の種類に応じた角度θ2を角度θ1として、ユーザのつま先の向きのずれが両足とも角度θ2以下である場合に、決められたつま先の向きが特定されたと判断する。報知条件判断部104は、例えば物の種類とつま先の向きのずれの閾値とを対応付けたつま先向きテーブルを用いてこの判断を行う。
図16はつま先向きテーブルの例を表す。図16(a)では、「運転免許証、健康保険証」という物の種類に「θ11」というつま先の向きのずれの閾値が対応付けられ、「その他」という物の種類に「θ12(θ11<θ12)」というつま先の向きのずれの閾値が対応付けられている。報知条件判断部104は、ユーザのつま先の向きのずれが、図8に表す種類判別部106から通知された物の種類にこのつま先向きテーブルで対応付けられているつま先の向きのずれの閾値以下である場合に、決められたつま先の向きが特定されたと判断する。
図16(a)の例では、物の種類が「運転免許証、健康保険証」だと、物の種類が「その他」である場合に比べて、足の向きが小さく変わっただけでも決められたつま先の向きが特定されたと判断されるので、ユーザへの報知のタイミングが早くなる。これにより、運転免許証や健康保険証のように重要な物が忘れられた場合は、それ以外の物が忘れられた場合に比べてより早いタイミングで報知がされる。
図16(b)では、「閾値Th1以上」という物の量に「θ21」というつま先の向きのずれの閾値が対応付けられ、「閾値Th1未満」という物の種類に「θ22(θ21<θ22)」というつま先の向きのずれの閾値が対応付けられている。報知条件判断部104が図16(a)の例のように判断することで、物の量が多い(測定値が閾値Th1以上の)場合、物の量が少ない(測定値が閾値Th1未満の)場合に比べてユーザへの報知のタイミングが早くなる。なお、物の量とつま先の向きのずれの閾値との対応関係はこの例の反対でもよい。本変形例でも、決められた場所にある物の量によって報知のタイミングが変わり、また、自装置を利用中のユーザへの報知の抑制度合いが変わることになる。
[2−9]発明のカテゴリ
本発明は、上述した画像処理装置のように図3に表す各部を実現する情報処理装置の他、その情報処理装置が実施する処理を実現するための情報処理方法としても捉えられるし、その情報処理装置を制御するコンピュータを機能させるためのプログラムとしても捉えられる。このプログラムは、それを記憶させた光ディスク等の記録媒体の形態で提供されてもよいし、インターネット等のネットワークを介してコンピュータにダウンロードさせ、それをインストールして利用可能にするなどの形態で提供されてもよい。
10…画像処理装置、19、30…デジタルカメラ、101…所在判定部、102…撮影部、103…つま先向き特定部、104…報知条件判断部、105…報知部、106…種類判別部、107…量測定部、108…画像取得部、109…文字情報検出部。

Claims (6)

  1. 決められた場所に物があるか否かを判定する判定部と、
    自装置を利用するユーザのつま先の向きを特定する特定部と、
    決められたつま先の向きが特定され、且つ、前記場所に物があると判定された場合に、前記ユーザへの報知を行う報知部と
    を備える情報処理装置。
  2. 前記報知部は、自装置の方を向いていないつま先の向きが片足でも特定された場合に、前記決められたつま先の向きが特定されたものとして、前記報知を行う
    請求項1に記載の情報処理装置。
  3. 前記報知部は、自装置の方を向いていないつま先の向きが両足とも特定された場合に、前記決められたつま先の向きが特定されたものとして、前記報知を行う
    請求項1に記載の情報処理装置。
  4. 前記場所にあると判定された物の種類を判別する判別部を備え、
    前記報知部は、判別された前記種類に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法とを使い分ける
    請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記場所にある物の量を測定する測定部を備え、
    前記報知部は、測定された前記量に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法とを使い分ける
    請求項1から4のいずれか1項に記載の情報処理装置。
  6. 前記場所にある物の文字情報を検出する検出部を備え、
    前記報知部は、検出された前記文字情報に応じて、自装置の方を向いていないつま先の向きが片足でも特定された場合に報知する方法と、自装置の方を向いていないつま先の向きが両足とも特定された場合に報知する方法とを使い分ける
    請求項1から5のいずれか1項に記載の情報処理装置。
JP2016035671A 2016-02-26 2016-02-26 情報処理装置 Active JP6812641B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016035671A JP6812641B2 (ja) 2016-02-26 2016-02-26 情報処理装置
US15/198,545 US9928612B2 (en) 2016-02-26 2016-06-30 Information processing apparatus
EP16182192.1A EP3211563B1 (en) 2016-02-26 2016-08-01 Information processing apparatus
CN201610663742.1A CN107133554B (zh) 2016-02-26 2016-08-12 信息处理设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016035671A JP6812641B2 (ja) 2016-02-26 2016-02-26 情報処理装置

Publications (2)

Publication Number Publication Date
JP2017149105A true JP2017149105A (ja) 2017-08-31
JP6812641B2 JP6812641B2 (ja) 2021-01-13

Family

ID=56740846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016035671A Active JP6812641B2 (ja) 2016-02-26 2016-02-26 情報処理装置

Country Status (4)

Country Link
US (1) US9928612B2 (ja)
EP (1) EP3211563B1 (ja)
JP (1) JP6812641B2 (ja)
CN (1) CN107133554B (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5812280A (en) * 1995-03-30 1998-09-22 Lg Electronics Inc. Apparatus for detecting remaining sheets of supplied paper in facsimile
JP2001202551A (ja) * 2000-01-18 2001-07-27 Ricoh Co Ltd 媒体取り忘れ防止喚起誘導装置
JP2008260162A (ja) * 2007-04-10 2008-10-30 Ricoh Co Ltd 印刷装置
JP2011104790A (ja) * 2009-11-12 2011-06-02 Sharp Corp 画像処理装置および画像処理装置の制御方法
JP2012186608A (ja) * 2011-03-04 2012-09-27 Toshiba Corp 印刷装置、置忘れ又は取り忘れ報知方法、及びそのプログラム
JP2013146048A (ja) * 2011-12-15 2013-07-25 Ricoh Co Ltd 画像処理装置、該画像処理装置における通信方法及び通信プログラム、携帯情報端末並びに情報処理システム
JP2015002382A (ja) * 2013-06-13 2015-01-05 富士ゼロックス株式会社 画像処理装置、利用者検出制御プログラム
JP2015041323A (ja) * 2013-08-23 2015-03-02 富士ゼロックス株式会社 処理装置
CN104875511A (zh) * 2015-05-29 2015-09-02 深圳泓数科技有限公司 医疗自助打印机及其打印件防漏/误拿装置和方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000250361A (ja) 1999-03-01 2000-09-14 Minolta Co Ltd 複写装置
JP2009137434A (ja) * 2007-12-06 2009-06-25 Tokai Rika Co Ltd 車両用防犯装置
JP5053188B2 (ja) * 2008-06-18 2012-10-17 株式会社リコー 入力装置及び画像形成装置
JP5345498B2 (ja) 2009-10-13 2013-11-20 日立オムロンターミナルソリューションズ株式会社 取引装置及び媒体の取り忘れ検知方法
JP2012230619A (ja) 2011-04-27 2012-11-22 Fujitsu Frontech Ltd 自動取引装置、顧客検知方法およびプログラム
JP5724992B2 (ja) * 2012-11-20 2015-05-27 コニカミノルタ株式会社 画像処理装置、画像処理システム、プログラム及び画像処理方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5812280A (en) * 1995-03-30 1998-09-22 Lg Electronics Inc. Apparatus for detecting remaining sheets of supplied paper in facsimile
JP2001202551A (ja) * 2000-01-18 2001-07-27 Ricoh Co Ltd 媒体取り忘れ防止喚起誘導装置
JP2008260162A (ja) * 2007-04-10 2008-10-30 Ricoh Co Ltd 印刷装置
JP2011104790A (ja) * 2009-11-12 2011-06-02 Sharp Corp 画像処理装置および画像処理装置の制御方法
JP2012186608A (ja) * 2011-03-04 2012-09-27 Toshiba Corp 印刷装置、置忘れ又は取り忘れ報知方法、及びそのプログラム
JP2013146048A (ja) * 2011-12-15 2013-07-25 Ricoh Co Ltd 画像処理装置、該画像処理装置における通信方法及び通信プログラム、携帯情報端末並びに情報処理システム
JP2015002382A (ja) * 2013-06-13 2015-01-05 富士ゼロックス株式会社 画像処理装置、利用者検出制御プログラム
JP2015041323A (ja) * 2013-08-23 2015-03-02 富士ゼロックス株式会社 処理装置
CN104875511A (zh) * 2015-05-29 2015-09-02 深圳泓数科技有限公司 医疗自助打印机及其打印件防漏/误拿装置和方法

Also Published As

Publication number Publication date
US9928612B2 (en) 2018-03-27
JP6812641B2 (ja) 2021-01-13
US20170249741A1 (en) 2017-08-31
CN107133554A (zh) 2017-09-05
EP3211563B1 (en) 2020-05-20
EP3211563A1 (en) 2017-08-30
CN107133554B (zh) 2021-07-27

Similar Documents

Publication Publication Date Title
US9350882B2 (en) Image processing system, image processing apparatus, information processing method, and storage medium to prevent accidental removal of print products
JP2018133071A (ja) 物品認識装置、決済装置および物品認識方法
JP6672940B2 (ja) 情報処理装置
KR20120117049A (ko) 휴대용 단말기에서 위조 지폐 감별 방법 및 장치
JP6812641B2 (ja) 情報処理装置
JP2013246771A (ja) 紙葉類取扱装置、紙葉類取扱方法、紙葉類取扱装置を含む自動取引システム
JP2018194998A (ja) 情報処理装置及び情報処理方法
JP5339942B2 (ja) 取引監視装置
JP6523041B2 (ja) 画像形成装置、情報処理システム、情報処理プログラムおよび情報処理方法
JP2019082976A (ja) マルチメディア端末、情報処理システム、制御プログラムおよび制御方法
JP5317735B2 (ja) 取引監視装置
JP2013207456A (ja) 画像形成システム、画像形成装置、および管理方法
CN111385426A (zh) 电子装置及电子装置的状态管理方法
EP3125049A1 (en) Image processing apparatus and image processing method
JP6777049B2 (ja) 画像形成装置
JP2015162080A (ja) 収集画像管理システム
US11889035B2 (en) Information processing apparatus, information processing system and control method
JP7043967B2 (ja) 同一性判定装置、同一性判定システムおよびプログラム
JP2012222654A (ja) 書画カメラ
JP5317736B2 (ja) 取引監視装置
JP2022035162A (ja) 情報処理装置、制御プログラムおよび制御方法
JP2010079752A (ja) 自動取引システム
JP2023085023A (ja) 画像形成装置システム及びその制御方法
US20190294093A1 (en) Image forming apparatus, notification apparatus, and notification method
JP2022182083A (ja) 情報処理プログラム、強調表示方法、及び情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201130

R150 Certificate of patent or registration of utility model

Ref document number: 6812641

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350