JP7233868B2 - 情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム - Google Patents

情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム Download PDF

Info

Publication number
JP7233868B2
JP7233868B2 JP2018149173A JP2018149173A JP7233868B2 JP 7233868 B2 JP7233868 B2 JP 7233868B2 JP 2018149173 A JP2018149173 A JP 2018149173A JP 2018149173 A JP2018149173 A JP 2018149173A JP 7233868 B2 JP7233868 B2 JP 7233868B2
Authority
JP
Japan
Prior art keywords
information processing
user
processing device
time
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018149173A
Other languages
English (en)
Other versions
JP2020024597A (ja
JP2020024597A5 (ja
Inventor
徹 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018149173A priority Critical patent/JP7233868B2/ja
Priority to US16/529,591 priority patent/US11509781B2/en
Publication of JP2020024597A publication Critical patent/JP2020024597A/ja
Publication of JP2020024597A5 publication Critical patent/JP2020024597A5/ja
Application granted granted Critical
Publication of JP7233868B2 publication Critical patent/JP7233868B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00323Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a measuring, monitoring or signaling apparatus, e.g. for transmitting measured information to a central location
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00885Power supply means, e.g. arrangements for the control of power supply to the apparatus or components thereof
    • H04N1/00888Control thereof
    • H04N1/00896Control thereof using a low-power mode, e.g. standby
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00885Power supply means, e.g. arrangements for the control of power supply to the apparatus or components thereof
    • H04N1/00904Arrangements for supplying power to different circuits or for supplying power at different levels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0094Multifunctional device, i.e. a device capable of all of reading, reproducing, copying, facsimile transception, file transception
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Control Or Security For Electrophotography (AREA)
  • Facsimiles In General (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Image Analysis (AREA)

Description

本発明は、人感センサ等を用いて装置を利用するユーザの存在を推定して装置の状態を制御する情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラムに関する。
従来から、人感センサを備え、人感センサから得られる測定データを用いて装置を利用するユーザの存在を推定し、その推定結果に基づき、省電力モードからの復帰を行う画像処理装置がある。
特許文献1では、静電容量方式の人感センサを備え、センサの検知強度と所定の閾値に基づきユーザの存在を推定する。
特許文献2では、人感センサとして赤外線アレイセンサを備え、センサ検知範囲における熱源を示す2次元画像の所定の特徴に基づき、ユーザの存在を推定する。
特許文献3では、人感センサとして超音波センサを備え、超音波を反射する物体の距離値と、その時系列変化の所定の特徴に基づき、ユーザの存在を推定する。
しかし、上記いずれの推定方法も、装置の設置環境に依存して推定結果が誤ってしまう可能性があり、例えばノイズ発生源の有無やその位置、装置に近づくユーザの歩行経路の違いが推定結果に影響する。推定結果が誤った場合、画像処理装置を使用しないにもかかわらず省電力モードから復帰してしまい、無駄な電力を消費するといった課題があった。
特許文献1では、センサの検知強度とユーザ操作の履歴を用いて実際の装置稼働環境を学習し、推定に用いる閾値を調整している。
特許文献2では、変更可能な赤外線アレイセンサの向きのそれぞれに対して測定されうる画像パターンを予め決め付け、各パターンの推定指標を調整している。特許文献3では、超音波センサのノイズ発生パターンを予めルール付けし、そのパターンの検出結果に応じて推定指標を調整している。すなわち、上記いずれの先行技術も、予め推定ルールを決めた上で、その推定ルールにおける推定指標を調整しているだけである。そのため、実際の装置稼働環境に合わせて推定ルール自体も最適化するように学習可能な学習モデルを適応することが望ましい。
特開2010-147725号公報 特開2017-135748号公報 特開2018-19361号公報
しかし、従来の技術では、実際の装置稼働環境における学習データを取得し、この学習データを用いて推定ルール自体も最適化するように学習することができていなかった。特に、教師有り学習を行うにあたり、人感センサから得られる時系列の測定データとその時の教師ラベル(実際の装置稼働環境における装置を利用するユーザの有無)を対応付けた学習データセットを、装置稼働中に生成することができていなかった。なお、この課題は、画像処理装置に限定された課題ではなく、各種の情報処理装置にも共通する課題である。
本発明は、上記の課題を解決するためになされたものである。本発明は、装置稼働中の学習データセットを自動的に生成することが可能となり、それぞれの装置稼働環境に適した装置を利用するユーザの存在の推定を行うことが可能となる仕組みを提供することを目的とするものである。
本発明は、情報処理装置の学習システムであって、ユーザ操作を受け付ける操作部と、前記情報処理装置の前に存在する物体を検知する検知手段と、前記検知手段から出力された時系列のセンス値が入力されると、学習モデルを用いて前記情報処理装置を利用するユーザの存在の有無を推定する推定手段と、記操作部で受け付けられたユーザ操作の有無に基づくラベルと、前記ユーザ操作が受け付けられたタイミングから所定期間前のタイミングまでの前記検知手段から出力された時系列のセンス値とを含む学習データを用いて、前記学習モデルに学習させることにより学習モデルを更新する更新手段と、を有することを特徴とする。
本発明によれば、装置稼働中の学習データセットを自動的に生成することが可能となり、それぞれの装置稼働環境に適した装置を利用するユーザの存在の推定を行うことが可能となる。
本実施形態の画像処システムの構成及び画像処理装置の外観を説明する図。 本実施形態の画像処システムを構成する装置のハードウェア構成図。 本実施形態の画像処システムのソフトウェア構成図。 人感センサの測定エリア及び人感センサの測定データの一例を示す図。 ユーザの移動の様子とその時に人感センサの測定データの一例を示す図。 ユーザの移動の様子とその時に人感センサの測定データの一例を示す図。 学習モデル及び学習モデルに入力する学習データセットのデータ構造を説明する図。 学習モデル更新処理の一例を示すフローチャート。 ユーザ推定処理の一例を示すフローチャート。 学習データセット生成処理の一例を示すフローチャート。 ユーザの移動の様子とその時に生成される学習データセットを例示する図。 ユーザの移動の様子とその時に生成される学習データセットを例示する図。 ユーザの移動の様子とその時に生成される学習データセットを例示する図。
以下、本発明を実施するための形態について図面を用いて説明する。
図1(A)は、本発明の一実施形態を示す画像処理システムの構成の一例を示す概略図である。
図1(A)に示すように、本実施形態の画像処理システム1では、学習モデル生成装置10と、画像処理装置100とがネットワーク20を介して通信可能に接続される。
学習モデル生成装置10は、後述する学習モデルを生成するPC(Personal Computer)またはサーバにより構成される。なお、学習モデル生成装置10は、複数の装置で構成されていてもよく、クラウドサーバ等であってもよい。例えば、学習モデル生成装置10は、クラウドサービス等を用いて実現される構成でもよい。
画像処理装置100は、スキャン、プリントなどの機能を備える複合機である。
ネットワーク20は、インターネットやイントラネット等のLAN/WAN(Local Area Network / Wide Area Network)から構成される。
学習モデル生成装置10と画像処理装置100とは、ネットワーク20に直接、あるいは不図示のルータ、ゲートウェイ、プロキシサーバ等の接続機器を介して接続されている。もちろん、ネットワーク20の構成および各要素の接続機器およびその数はこれらに限定されるものではなく、学習モデル生成装置10と画像処理装置100の間でデータの送受信が可能であればよい。さらに、学習モデル生成装置10の機能が画像処理装置100内に設けられる構成でもよい。
図1(B)は、画像処理装置100の外観の一例を示す概略図である。
図1(B)に示すように、画像処理装置100は、スキャナ110、人感センサ120、操作表示パネル130、プリンタ140を有する。
スキャナ110は、複合機が備える一般的なスキャナである。スキャナ110は、画像読み取りセンサを所定の位置で固定し、原稿を1枚ずつ順次搬送させて画像を読み取る第1の読取方式と、プラテンガラス上に固定して置いた原稿を画像読み取りセンサで走査しながら画像を読み取る第2の読取方式が可能である。
原稿積載トレイ111は、第1の読取方式の場合に、順次搬送する原稿束を積載するためのトレイである。なお、原稿積載トレイ111は、原稿束が積載されたことを検知するセンサを備える。
原稿搬送部112は、第1の読取方式の場合に、原稿積載トレイ111に積載された原稿を1枚ずつ搬送する。また、原稿搬送部112は、上下方向に開閉することが可能であり、第2の読取方式の場合には、原稿搬送部112を上方向に持ち上げた時に現れるプラテンガラスの上に置かれた原稿の画像を読み取る。なお、原稿搬送部112は、上下方向への開閉状態を検知するセンサを備える。
人感センサ120は、画像処理装置100を利用するユーザを検知するためのセンサである。人感センサ120は、例えば、赤外線を受光する複数の赤外線受光素子がマトリクス上に配列された赤外線アレイセンサである。なお、人感センサ120は、画像処理装置100に利用意図を持って近づくユーザが検知可能であればよく、例えば超音波センサ、静電容量センサ、焦電センサ、RGBエリアセンサ(カメラ)など、センサの検知方式についてはこれに限定されるものではない。
操作表示パネル130は、LED(Light Emitting Diode)、後述する電力モードを切り替えるための操作ボタン、液晶タッチディスプレイ等を備える。操作表示パネル130は、ユーザの操作内容や装置の内部状態を表示するともに、ユーザからの操作を受け付ける。
プリンタ140は、複合機が備える一般的なプリンタである。プリンタ140は、印刷用紙格納部として、それぞれ引き出しの形状をしたカセット143、カセット144、カセット145、そして、機外に露出している手差しトレイ142を備えている。
カセット143、144、145は、前方に引き出し、そのカセットに印刷用紙を補給し、カセットを閉めることによって印刷用紙の補給を行うものである。なお、カセット143、144、145は、カセットの開閉を検知するセンサを備える。
手差しトレイ142は、トレイに印刷用紙を積載することで補給を行い、印刷用紙が積載されたことを検知するセンサを備える。
さらに、プリンタ140は、画像形成部141と排紙部146を備える。
画像形成部141は、補給された印刷用紙を搬送し、その印刷用紙上に画像を形成する。画像形成部141は、全面を覆うカバーが前方向に開閉可能であり、ユーザが画面形成に必要な消耗部品の交換をしたり、ジャム紙を取り除いたりすることが可能となっている。なお、画像形成部141は、前述のカバーの開閉状態を検知するセンサを備える。
排紙部146には、画像形成部141により画像形成された印刷用紙が排出される。
<ハードウェア構成>
図2(A)は、学習モデル生成装置10のハードウェア構成の一例を示す図である。
学習モデル生成装置10は、一般的なコンピュータの構成を備え、CPU11、ROM12、RAM13、HDD14、ネットワークI/F15等を有する。
CPU(Central Processing Unit)11は、学習モデル生成装置10に内蔵されるプログラムの実行媒体である。ROM(Read Only Memory)12は不揮発性メモリである。RAM(Random Access Memory)13は、揮発性メモリである。HDD(Hard Disk Drive)14は、磁気ディスク等の記憶媒体である。ROM12又はHDD14には後述のフローチャートを実行するためのプログラムなどが記憶され、本プログラムは実行時にRAM13に展開される。また、RAM13は、CPU11上で本プログラムが実行する際のワークメモリとして動作する。また、HDD14に本プログラムが実行することにより生成される学習モデルが記憶される。
ネットワークI/F15はネットワーク20を介して行われるデータの送受信を司る。
図2(B)は、画像処理装置100のハードウェア構成の一例を示す図である。なお、本図における実線の矢印は、制御コマンドやデータを送受信するための信号ラインを示す。また、点線の矢印は、電源ラインを示す。
図2(B)に示すように、画像処理装置100は、メインコントローラ150、ユーザ推定ユニット160、ネットワークI/F170、スキャナ110、プリンタ140、操作表示パネル130、電源管理ユニット180を有する。
メインコントローラ150は、メインCPU151、メインROM152、メインRAM153、HDD154を有する。
メインCPU151は、メインコントローラ150に内蔵されるプログラムの実行媒体である。メインROM152は、不揮発性メモリである。メインRAM153は、揮発性メモリである。HDD154は、磁気ディスク等の記憶媒体である。メインROM152又はHDD154には後述のフローチャートを実行するためのプログラムなどが記憶され、本プログラムは実行時にメインRAM153に展開される。また、メインRAM153は、メインCPU151上で本プログラムが実行する際のワークメモリとして動作する。
ユーザ推定ユニット160は、人感センサ120、サブCPU161、サブROM162、サブRAM163を有する。サブCPU161は、ユーザ推定ユニット160に内蔵されるプログラムの実行媒体である。サブROM162は、不揮発性メモリである。サブRAM163は、揮発性メモリである。サブROM162には後述のフローチャートを実行するためのプログラムなどが記憶され、本プログラムは実行時にサブRAM163に展開される。また、サブRAM163は、サブCPU161上で本プログラムが実行する際のワークメモリとして動作する。
ネットワークI/F170は,ネットワーク20を介して行われるデータの送受信を司る。
電源管理ユニット180は、画像処理装置100の各部への電源供給を制御する。
これらの構成において、画像処理装置100は、電力モードとして少なくとも2つのモードを有する。具体的には、スキャンやプリントといった画像処理装置100の通常動作を実行可能な状態であるスタンバイモードと、当該スタンバイモードより消費電力を抑えたスリープモードである。
例えば、一定時間経過しても画像処理装置100がユーザによって使用されない場合に、メインコントローラ150が電源管理ユニット180を制御して上記電力モードをスタンバイモードからスリープモードへと移行させる。スリープモード時には、スキャナ110やプリンタ140などへの電源供給を停止し、メインコントローラ150、操作表示パネル130、ネットワークI/F170についても一部を除き電源供給が停止される。このスリープモード中においても、ユーザ推定ユニット160は動作可能な状態におかれる。スリープモードにおいて、ユーザ推定ユニット160により画像処理装置100に利用意図を持って近づくユーザが存在すると推定された場合、電源管理ユニット180から各部に電源が供給される。この制御によって、画像処理装置100がスリープモードからスタンバイモードへと復帰する。また、メインコントローラ150は、操作表示パネル130に設けられた電力モードを切り替えるためのボタンの押下に基づいても、電力モードを切り替えるよう制御する。
なお、上述のハードウェア構成要素(CPU、ROM、RAM、HDDなど)は、図2(A)及び図2(B)のメインコントローラ150やユーザ推定ユニット160においてそれぞれ1つずつしか記載されていない。しかし、上述のハードウェア構成要素がそれぞれ複数存在する構成等も可能であり、各構成要素及びその接続形態は上述の記載に限定されるものではない。また、HDDの代わりに又は併用して、SSD(Solid State Drive)等の他の記憶装置を備えていてもよい。
<ソフトウェア構成>
図3(A)は、学習モデル生成装置10に実装されるプログラム30のソフトウェア構成の一例を示すブロック図である。プログラム30の機能は、学習モデル生成装置10のCPU11がROM12又はHDD14等に格納されるプログラムを必要に応じてRAM13にロードして実行することにより実現される。
図3(A)に示すように、プログラム30は、学習データセット受信部31、学習モデル更新部32、学習モデル送信部33を有する。以下、詳細に説明する。
学習データセット受信部31は、後述する学習データセット生成部353が生成する学習データセットを受信する。学習モデル更新部32は、学習データセット受信部31が受信した学習データセットを用いて学習モデルを更新する。学習モデルの詳細については、図7を用いて後述する。学習モデル送信部33は、学習モデル更新部32が更新した学習モデルをユーザ推定ユニット160に対して送信する。
図3(B)は、メインコントローラ150に実装されるプログラム350のソフトウェア構成を示すブロック図である。プログラム350の機能は、メインコントローラ150のメインCPU151がメインROM152又はHDD154等に格納されるプログラムを必要に応じてメインRAM153にロードして実行することにより実現される。
図3(B)に示すように、プログラム350は、デバイス制御部351、ユーザ操作検知部352、学習データセット生成部353、人感センサデータ受信部354、学習データセット送信部355を有する。
デバイス制御部351は、スキャナ110、プリンタ140の制御指示を行うともに、スキャナ110、プリンタ140が備える各種センサから得られるステータス情報を取得する。
ユーザ操作検知部352は、操作表示パネル130にて受け付けたユーザ操作を検知する。例えば、ユーザ操作検知部352は、前述の電力モードを切り替えるためのボタンの押下や、液晶タッチディスプレイに対するタッチ操作を検知する。また、ユーザ操作検知部352は、デバイス制御部351を介して得られるステータス情報からユーザ操作を検知する。例えば、ユーザ操作検知部352は、スキャナ110の原稿積載トレイ111に原稿束が積載されたこと、スキャナ110の原稿搬送部112が開閉されたことを検知する。また、例えば、ユーザ操作検知部352は、プリンタ140のカセット143、144、145が開閉されたこと、プリンタ140の手差しトレイ142に印刷用紙が積載されたこと、プリンタ140の画像形成部141のカバーが開閉されたことを検知する。
人感センサデータ受信部354は、後述する人感センサデータ取得部363が取得する人感センサデータ(一定の時間内で順次取得された時系列データ)を受信する。
学習データセット生成部353は、ユーザ操作検知部352がユーザ操作を検知した時刻と人感センサデータが取得された時刻を対応付け、該対応付けられたユーザ操作と人感センサデータを学習データセットとして生成する。この時、生成する学習データセットについては、図11~図13を用いて後述する。学習データセット送信部355は、生成した学習データセットを学習モデル生成装置10に対して送信する。
図3(C)は、ユーザ推定ユニット160に実装されるプログラム360のソフトウェア構成の一例を示すブロック図である。プログラム360の機能は、ユーザ推定ユニット160のサブCPU161がサブROM162等に格納されるプログラムを必要に応じてサブRAM163にロードして実行することにより実現される。
図3(C)に示すように、プログラム360は、学習モデル受信部361、ユーザ有無推定部362、人感センサデータ取得部363、推定結果送信部364、人感センサデータ送信部365を有する。
人感センサデータ取得部363は、人感センサ120から測定データを所定の時間間隔で取得し、サブRAM163に所定の個数分バッファリングする。また、人感センサデータ送信部365は、メインコントローラ150からの送信要求に応じて、サブRAM163にバッファリングした人感センサデータをメインコントローラ150に対して送信する。なお、人感センサデータ取得部363は、メインコントローラ150がスタンバイモードにある時に、随時サブRAM163にバッファリングした人感センサデータを送信してもよい。
ユーザ有無推定部362は、人感センサデータ取得部363が取得する測定データを後述する学習モデルに入力することで、画像処理装置100に利用意図を持って近づくユーザの存在を推定する。
推定結果送信部364は、ユーザ有無推定部362により、画像処理装置100に利用意図を持って近づくユーザの存在が推定された場合、電源管理ユニット180及びメインコントローラ150にその推定結果を通知する。
学習モデル受信部361は、学習モデル生成装置10の学習モデル更新部32が更新し、学習モデル送信部33が送信する学習モデルを受信する。この後、ユーザ有無推定部362は、ユーザ有無推定部362が用いる学習モデルを、学習モデル受信部361が受信した学習モデルに更新する。
なお、プログラム30の機能を画像処理装置100の外部に設ける構成に限定されるものではなく、プログラム30が画像処理装置100に実装される構成でもよい。すなわち、学習データセット受信部31、学習モデル更新部32、学習モデル送信部33の機能が、画像処理装置100内に実現される構成でもよい。
<人感センサによる測定>
図4(A)、図4(B)は、人感センサ120が測定可能な測定エリアの一例を示すための模式図である。
図4(A)は、画像処理装置100を横から見た時の、人感センサ120とユーザと測定エリアの位置関係を表している。
図4(B)は、画像処理装置100を上から見た時の、人感センサ120とユーザと測定エリアの位置関係を表している。
人感センサ120(赤外線アレイセンサ)は、物体(人体等)の熱源から放射される赤外線を、例えば格子状に並べた1つ1つの赤外線受光素子(赤外線センサ)で受光する。そして、人感センサ120は、上記各赤外線受光素子で受光した赤外線量(受光結果)に基づく温度値を用いることによって、熱源の形状(検出領域)を温度分布として特定する特徴を持っている。図4(A)では、人感センサ120の赤外線受光素子が並べられた検出面が検出する測定エリアを示している。また、図4(B)では、人感センサ120の赤外線受光素子が並べられた検出面から放射状に伸びる空間が測定エリアであることを示している。
図4(C)は、図4(A)及び図4(B)に示す位置関係にある場合に、人感センサ120から取得できる測定データの一例を示している。
図4(C)に示すように、人感センサ120の測定データは、赤外線受光素子が並べられた検出面が2次元画像として取得される。該2次元画像の各画素の値は、各素子から測定される温度を示す。
以下、画像処理装置100に近づくユーザが検出されるケースについて具体的に説明する。
<ケース1>
図5は、画像処理装置100に利用意図を持って近づくユーザが存在するケースの一例を示す図である。
図5(A)は、画像処理装置100に対して正面からユーザが近づいて操作表示パネル130を操作している様子を示し、この時の時刻t1_0から時刻t1_4までのユーザの移動の軌跡を示している。
図5(B)は、各時刻において人感センサ120から取得される測定データの変化の様子を示している。
図5に示すケースでは、測定データの温度分布の特徴と、それらの時系列変化の特徴から、例えば時刻t1_3で画像処理装置100に利用意図を持って近づくユーザが存在すると推定される。よって、時刻t1_3のタイミングでスリープモードからスタンバイモードへと復帰することが望ましい。
<ケース2>
対して、図6は、画像処理装置100に利用意図を持って近づくユーザが存在しないケースの一例を示す図である。
図6(A)は、ユーザが画像処理装置100に近づき、排紙部146に排出された印刷用紙を取って立ち去る様子を示し、この時の時刻t2_0から時刻t2_5までのユーザの移動の軌跡を示している。
図6(B)は、各時刻において人感センサ120から取得される測定データの変化の様子を示している。
図6に示すケースでは、ユーザは画像処理装置100を利用する意図はないと推定される。このため、このケースにおいてはスリープモードを継続することが望ましい。
なお、上述したような人感センサ120により測定される測定データの温度分布の特徴と、それらの時系列変化の特徴は、画像処理装置100が設置され稼働している環境(以下「装置稼働環境」という)ごとに異なる。例えば、赤外線アレイセンサのノイズとなりうる熱源が画像処理装置100の近くに存在するケースも想定される。また、画像処理装置100の設置位置によっては、ユーザが画像処理装置100に利用意図を持って近づく、又は、通り過ぎる場合の移動の軌跡が異なるケースも想定される。このような画像処理装置の装置稼働環境の違いによって、画像処理装置100に利用意図を持って近づくユーザの存在を誤って推定してしまうことがある。したがって、本実施形態では、画像処理装置100が実際に稼働している時に人感センサ120から取得される測定データに基づき、図7を用いて後述する機械学習モデルを訓練する(学習させる)ことにより、それぞれの装置稼働環境に適した推定を可能にする。
<学習モデル>
図7(A)は、画像処理装置100に利用意図を持って近づくユーザの存在を推定するための機械学習モデルの一例を示す図である。
この機械学習モデルは、例えば、再帰型のニューラルネットワーク(RNN:Recurrent Neural Network)として構成される。この機械学習モデルでは、人感センサ120から取得される測定データを入力として、画像処理装置100に利用意図を持って近づくユーザの存在の有無の推定結果を出力する。
図7(A)において、入力Xtは、人感センサ120から取得されるtフレーム目の測定データを示す。入力Xtは、フレームの測定データが取得されるごとに順次モデルに入力される。なお、入力Xtは、前処理を経て、RNNモデルに入力される。この時の前処理の一例としては、測定データにFFT(Fast Fourier Transform)をかけた後、不要な周波数成分を除去する処理がある。
RNNモデルは、一例としてLSTM(Long Short-Term Memory)を用いて、人感センサ120から取得される測定データから画像処理装置100に利用意図を持って近づくユーザの存在の有無を分類する2値分類モデルとして実現される。RNNモデルでは、学習工程を通じて、中間層への入力に対する重み係数W_in、出力に対する重み係数W_out、過去の出力を次の入力とする時の重み係数W_recを求める。なお、中間層の層の個数、及び、各層のユニット数は限定されるものではない。
出力Ytは、tフレーム目の測定データの入力に対する出力である。出力Ytは、上述した2値分類モデルが分類する2値(0:画像処理装置100に利用意図を持って近づくユーザが存在しない、1:存在する)の推定確度である。
前述の機械学習モデルを介して、画像処理装置が実際に稼働している時に人感センサ120から取得される測定データを用いて学習することにより、それぞれの装置稼働環境に適した推定を行うための重み係数W_in、W_out、W_recが求められる。
図7(B)、図7(C)は、図7(A)で示した機械学習モデルの学習工程に用いる学習データセットの一例を示す図である。
学習データセットは、機械学習モデルの入力となる人感センサデータと、画像処理装置に利用意図を持って近づくユーザの存在有無を示す教師ラベルを含み、これらが連続する時刻(フレーム)のデータが所定個数分ある配列データとして実現される。
図7(B)及び図7(C)において、「インデックス」の列に記載されている値は、配列データのインデックス値を示している。
「人感センサデータ」の列に記載されている値は、例えば「tn_0」は時刻tn_0に人感センサ120から取得された測定データであることを示している。
「教師ラベル」の列に記載されている値は、前述の2値分類モデルが分類する2値を示している。
なお、前述の機械学習モデルの学習工程に用いるために、前述のような学習データセットを複数生成しておく必要がある。
図7(B)の学習データセット701は、画像処理装置100に利用意図を持って近づくユーザが存在するケースの一例を示している。この例では、画像処理装置100が利用するユーザが存在すると認識することが望ましいタイミング(時刻tn_N-c)から、教師ラベルの値が「0」から「1」に変化するよう学習データセット生成されている様子を示している。
対して、図7(C)の学習データセット702は、画像処理装置100に利用意図を持って近づくユーザが存在しないケースの一例を示している。そのため、この例では、全ての時刻の教師ラベルの値が「0」で生成されている。
なお、機械学習モデルは、図7に示した例に限定されるものではなく、いかようなものでもよい。
<学習モデル更新処理>
図8は、学習モデル生成装置10に内蔵されるプログラム30の一部である学習モデル更新処理の一例を示すフローチャートである。この学習モデル更新処理は、学習モデル生成装置10のCPU11がROM12又はHDD14等に格納されるプログラム30を必要に応じてRAM13にロードして実行することにより実現される。なお、この学習モデル更新処理は、ユーザ操作による更新指示を受けた時に開始される。また、学習データセット生成部353により所定の個数以上学習データセットが生成され、その時にメインコントローラ150からの更新指示を受けて学習モデル更新処理を開始するようにしてもよい。
まず、学習データセット受信部31は、学習データセット生成部353により生成されて学習データセット送信部355により送信された学習データセットを受信し、該受信した学習データセットをRAM13又はHDD14に記憶する(S1101)。
次に、学習モデル更新部32は、上記S1101で記憶された学習データセットを1セットずつ読み込む(S1102)。
さらに、学習モデル更新部32は、上記S1102で読み込んだ学習データセットを前述の機械学習モデルに入力し、例えば、誤差逆伝播法や勾配降下を用いてモデルの学習を行い、重み係数(W_in、W_out、W_rec)を求める(S1103)。
次に、学習モデル更新部32は、上記S1101で受信・記憶した学習データセットのうち、まだ読み込んで学習をしていないデータセットがあるか否かを確認する(S1104)。そして、未学習のデータセットがあると判定した場合(S1104でYesの場合)、学習モデル更新部32は、上記S1102に処理を戻し、次の学習データを用いた学習処理を行うように制御する。
そして、上記S1101で受信・記憶した学習データセットの全てについて学習処理が完了したと判定した場合(S1104でNoの場合)、S1105に移行する。
S1105において、学習モデル送信部33は、ネットワーク20を介して学習モデルの更新指示をユーザ推定ユニット160に対して送信し、学習モデル更新処理を終了する。
<ユーザ推定処理>
図9は、ユーザ推定ユニット160に内蔵されるプログラム360の一部であるユーザ推定処理の一例を示すフローチャートである。このユーザ推定処理は、ユーザ推定ユニット160のCPU161がサブROM162等に格納されるプログラム360を必要に応じてサブRAM163にロードして実行することにより実現される。なお、ユーザ推定処理は、電源管理ユニット180により電源供給されると開始される。
まず、学習モデル受信部361は、学習モデル送信部33によりネットワーク20を介して送信された前述の学習モデルの更新指示を受信しているか否かを確認する(S1201)。そして、学習モデルの更新指示を受信していると判定した場合(S1201でYesの場合)、学習モデル受信部361は、S1202に処理を進める。
S1202において、学習モデル受信部361は、学習モデル更新部32が更新した最新の学習モデル(重み係数(W_in、W_out、W_rec)等)を学習モデル送信部33により受信する。さらに、学習モデル受信部361は、サブRAM163に格納されている学習モデルを、該受信した最新の学習モデルに更新する。
一方、学習モデルの更新指示を受信していないと判定した場合(S1201でNoの場合)、S1203に移行する。
S1203において、人感センサデータ取得部363は、人感センサ120から測定データを取得する。
次に、ユーザ有無推定部362は、サブRAM163に格納されている学習モデルに対して、上記S1203で取得した測定データを入力することで、画像処理装置100に利用意図を持って近づくユーザの有無を推定する(S1204)。
次に、ユーザ有無推定部362は、上記S1204の推定結果が「ユーザが存在していない」から「ユーザが存在している」に変化したか否かを判定する(S1205)。より具体的には、ユーザ有無推定部362は、2値(0:画像処理装置100に利用意図を持って近づくユーザが存在しない、1:存在する)の推定確度である出力Ytが0.5未満から0.5以上に変化したか否かを判定する。
そして、上記推定結果が「ユーザが存在していない」から「ユーザが存在している」に変化したと判定した場合(S1205でYesの場合)、S1206に移行する。
S1206において、推定結果送信部364は、電源管理ユニット180及びメインコントローラ150に、その推定結果を通知し、S1207に移行する。電源管理ユニット180は、この通知により、画像処理装置100をスリープモードからスタンバイモードに復帰させることが可能となる。また、メインコントローラ150では、この通知により、推定結果が「ユーザが存在していない」から「ユーザが存在している」に変化したことを認識できる。
一方、上記S1205において、上記推定結果が「ユーザが存在していない」から「ユーザが存在している」に変化していないと判定した場合(S1205でNoの場合)、S1207に移行する。
S1207において、人感センサデータ取得部363は、上記S1203で取得した測定データをサブRAM163に保存する。この時、サブRAM163には、過去に取得した測定データが所定の個数分バッファリングされるものとする。
学習モデル受信部361は、画像処理装置100の電源がOFFにならない限り(S1208でNo)、S1201に戻って処理を行う。なお、画像処理装置100の電源がOFFになると(S1208でYes)、ユーザ推定処理も終了する。
<学習データセット生成処理>
図10は、メインコントローラ150に内蔵されるプログラム350の一部である学習データセット生成処理のフローチャートである。この学習データセット生成処理は、メインコントローラ150のメインCPU151がメインROM152又はHDD154等に格納されるプログラム350を必要に応じてメインRAM153にロードして実行することにより実現される。なお、学習データセット生成処理は、メインコントローラ150の動作開始に伴い開始される。
始めに、学習データセット生成部353は、推定結果送信部364から送信された推定結果を受信してからの時間を計測するためのタイマーを初期化し、タイマーの計測を停止させておく(S1301)。
次に、学習データセット生成部353は、前記タイマーが計測中であるか否かを判定する(S1302)。そして、タイマー計測中でないと判定した場合(S1302でNoの場合)、学習データセット生成部353は、S1303に処理を進める。
S1303において、学習データセット生成部353は、図9のS1206で送信される推定結果の通知を人感センサデータ受信部354が受信しているか否かを確認する。なお、図9のS1206で送信される推定結果の通知は、ユーザ推定ユニット160での推定結果が「ユーザが存在していない」から「ユーザが存在している」に推定結果が変化した場合に通知される推定結果である。
そして、推定結果を受信していると判定した場合(S1303でYesの場合)、学習データセット生成部353は、推定結果が「ユーザが存在していない」から「ユーザが存在している」に推定結果が変化したと判断し、S1304に処理を進める。
S1304において、学習データセット生成部353は、タイマーを「0」にリセットし、計測を開始し、S1306に処理を進める。
また、上記S1302において、タイマー計測中であると判定した場合(S1302でYesの場合)、学習データセット生成部353は、上記S1304をスキップしてS1306に処理を進める。
このようにすることで、タイマーにより、「ユーザが存在していない」から「ユーザが存在している」に推定結果が変化してからの経過時間を計測することができる。
S1306において、学習データセット生成部353は、ユーザ操作検知部352がユーザ操作を検知しているか否かを判定する。そして、ユーザ操作を検知していないと判定した場合(S1306でNoの場合)、学習データセット生成部353は、S1307に処理を進める。
S1307において、学習データセット生成部353は、計測中のタイマーが所定時間を経過したか否かを判定する。まだ計測中のタイマーが所定時間経過していないと判定した場合(S1307でNoの場合)、学習データセット生成部353は、S1302に処理を戻す。
また、上記S1307において、すでに計測中のタイマーが所定時間経過していると判定した場合(S1307でYesの場合)、学習データセット生成部353は、S1309に処理を進める。これは、「ユーザが存在している」と推定されたにもかかわらず、所定時間が経過しても、ユーザ操作が検知されない場合に対応する。すなわち、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致していないケース」に対応する。詳細は後述する図13で説明する。
この場合、S1309において、学習データセット生成部353は、人感センサデータ受信部354を介して、ネットワーク20を介して人感センサデータ送信部365から送信される測定データを受信する。この測定データは、図9のS1207においてサブRAM163にバッファリングされた所定の個数分の測定データに対応する。さらに、学習データセット生成部353は、該受信した所定の個数分の測定データに対して教師ラベルを設定した学習データセットを生成する。S1309では、該所定の個数分の測定データの全てに教師ラベル「0」を設定した学習データセットを生成する。なお、教師ラベル「0」は「画像処理装置100に利用意図を持って近づくユーザが存在しない」を示す。また、教師ラベル「1」は「画像処理装置100に利用意図を持って近づくユーザが存在する」ことを示す。
また、上記S1306において、ユーザ操作検知部352がユーザ操作を検知していると判定した場合(S1306でYesの場合)、学習データセット生成部353は、S1308に処理を進める。これは、「ユーザが存在している」と推定されてから所定時間内に、ユーザ操作が検知された場合に対応する。すなわち、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致するケース」に対応する。詳細は後述する図11で説明する。
この場合、S1308において、学習データセット生成部353は、人感センサデータ受信部354を介して、ネットワーク20を介して人感センサデータ送信部365から送信される測定データを受信する。この測定データは、図9のS1207においてサブRAM163にバッファリングされた所定の個数分の測定データに対応する。さらに、学習データセット生成部353は、該受信した所定の個数分の測定データに対して教師ラベルを設定した学習データセットを生成する。S1308では、該所定の個数分の測定データのうち、ユーザ操作を検知した時刻に近い測定データの教師ラベルに「1」を設定し、その他の測定データの教師ラベルに「0」を設定した学習データセットを生成する。なお、上述の「ユーザ操作を検知した時刻に近い測定データ」とは、例えば、ユーザ操作を検知した時刻の測定データ及び1つ手前の時刻の測定データを示すものとする。しかし、ユーザ操作を検知したタイミングの測定データ及び該測定データから2つ以上前のタイミングの測定データまでを、上述の「ユーザ操作を検知した時刻に近い測定データ」としてもよい。
また、上記S1303において、推定結果を受信していないと判定した場合(S1303でNoの場合)、学習データセット生成部353は、「ユーザが存在していない」と推定されていると判断し、S1305に処理を進める。
S1305において、学習データセット生成部353は、ユーザ操作検知部352がユーザ操作を検知しているか否かを判定する。そして、ユーザ操作を検知していないと判定した場合(S1305でNoの場合)、学習データセット生成部353は、S1302に処理を戻す。
一方、ユーザ操作を検知していると判定した場合(S1305でYesの場合)、学習データセット生成部353は、S1308に処理を進める。これは、「ユーザが存在していない」と推定されているにもかかわらず、ユーザ操作が検知された場合に対応する。すなわち、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致していないケース」に対応する。詳細は後述する図12で説明する。
上記S1308又はS1309の処理の後、学習データセット生成部353は、タイマー計測を終了する(S1310)。
そして、学習データセット生成部353は、メインコントローラ150が動作している限り(S1311でYes)、S1302に戻って処理を行う。なお、メインコントローラ150が停止すると(S1311でNo)、学習データセット生成処理も終了する。
<生成される学習データセットの具体例>
続いて、前述の学習データセット生成処理を通じて生成される学習データセットの例を図11~図13を用いて説明する。
図11~図13は、学習データセット生成処理で生成される学習データセットの一例を示す図である。以下、詳細に説明する。
図11は、ユーザ有無推定部362が画像処理装置100に利用意図を持って近づくユーザが存在すると推定した後に、ユーザが画像処理装置100に対して操作を行うケースに対応する。すなわち、図11は、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致するケース」に対応する。
図11(A)は、時刻t3_0から時刻t3_4までのユーザの移動の軌跡の一例を示している。
図11(B)は、各時刻における「ユーザ有無推定結果」と「ユーザ操作検知結果」の一覧を示している。
図11(B)において、「ユーザ有無推定結果」は、ユーザ有無推定部362が前述の機械学習モデルを用いて「時刻」列の値が示す時刻に人感センサ120から取得された測定データを入力として出力される結果を示している。
例えば、時刻t3_0のユーザ有無推定結果「×」は、画像処理装置100に利用意図を持って近づくユーザが存在しないと推定していることを示している。
逆に、時刻t3_3のユーザ有無推定結果「○」は、画像処理装置100に利用意図を持って近づくユーザが存在すると推定していることを示している。
「ユーザ操作検知結果」は、「時刻」列の値が示す時刻においてユーザ操作検知部352が検知する結果を示している。
例えば、時刻t3_0のユーザ操作検知結果「×」は、ユーザ操作検知部352がユーザ操作を検知していないことを示している。
逆に、時刻t3_4のユーザ操作検知結果「○」は、ユーザ操作検知部352がユーザ操作を検知していることを示している。
図11(C)は、図11(B)の状態の時に生成される学習データセットの一例を示している。
学習データセット801は、時刻t3_4において、図10のS1306にてユーザ操作を検知した結果、S1308にて生成される学習データセットである。この時刻t3_4に近い時刻(例えば、その時刻t3_4及び1つ前の時刻t3_3まで)の人感センサデータに対応付けて教師ラベル「1」を設定し、それ以外を教師ラベル「0」として学習データセットが生成される。
これは、ユーザ操作を検知した時刻よりも所定の時間だけ前の測定データの教師ラベルに「1」を設定することで、ユーザが装置に完全に近づくよりも少し前にスリープモードからスタンバイモードへと復帰させる狙いがある。これにより、復帰によるユーザの待ち時間が減少し、操作性を改善させることが可能となる。
このように学習データセットを生成することにより、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致するケース」の学習データを増やすことができる。
図12は、ユーザ有無推定部362が画像処理装置100に利用意図を持って近づくユーザが存在しないと推定しているが、実際には利用意図を持ったユーザがおり、そのユーザが画像処理装置100に対して操作を行うケースに対応する。すなわち、図12は、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致していないケース」に対応する。
図12(A)は、時刻t4_0から時刻t4_3までのユーザの移動の軌跡の一例を示している。
図12(B)は、各時刻における「ユーザ有無推定結果」と「ユーザ操作検知結果」の一覧を示している。
図12(C)は、図12(B)の状態の時に生成される学習データセットの一例を示している。
学習データセット901は、時刻t4_3において図10のS1305にてユーザ操作を検知した結果、S1308にて生成される学習データセットである。この時刻t4_3に近い時刻(例えば、その時刻t4_3及び1つ前の時刻t4_2まで)の人感センサデータに対応付けて教師ラベル「1」を設定し、それ以外を教師ラベル「0」として学習データセットが生成される。
このように学習データセットを生成することにより、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致していないケース」の学習データを増やすことができる。
図13は、ユーザ有無推定部362が画像処理装置100に利用意図を持って近づくユーザが存在すると推定したが、実際には利用意図を持ったユーザがいないケースに対応する。すなわち、図13は、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致していないケース」に対応する。
図13(A)は、時刻t5_0から時刻t5_6までのユーザの移動の軌跡の一例を示している。
図13(B)は、各時刻における「ユーザ有無推定結果」と「ユーザ操作検知結果」の一覧を示している。
図13(C)は、図13(B)の状態の時に生成される学習データセットの一例を示している。
学習データセット1001は、時刻t5_6において図10のS1306及びS1307にて画像処理装置100に利用意図を持って近づくユーザが存在すると推定してから所定時間経過してもユーザ操作が検知されないと判定された結果、S1309にて生成される学習データセットである。
ユーザ有無推定部362が画像処理装置100に利用意図を持って近づくユーザが存在すると最後に推定している時刻t5_4から所定の時刻より前(例えば4つ前の時刻t5_1)の人感センサデータを、学習データセットの対象としている。そして、この時は全ての教師ラベルを「0」として学習データが生成される。
このように学習データセットを生成することにより、「画像処理装置100に利用意図を持って近づくユーザの存在有無の推定結果と、実際のユーザの存在有無が合致していないケース」の学習データを増やすことができる。
なお、上記実施形態では、画像処理装置を例に説明したが、本発明は画像処理装置に限定されるものではなく、各種の情報処理装置に適用可能である。
以上示したように、本実施形態によれば、装置稼働中の学習データセットを自動的に生成することができる。自動生成する学習データセットは、画像処理装置の稼働中に実際に測定される、人感センサから得られる時系列の測定データと、該測定データごとのタイミングでその画像処理装置を利用するユーザが存在するか否かを示す教師ラベルを対応付けたデータのセットとなる。このような学習データセットを用いた学習を行うことで、それぞれの装置稼働環境に適した装置を利用するユーザの存在を推定するモデルを適切に構築することができる。この結果、装置稼働環境に適した、ユーザの利用を推定して装置の電力状態を適切に制御する省電力制御が可能な画像処理装置を実現することが可能となる。よって、千差万別である装置稼働環境それぞれに適した学習を行うことができ、装置を利用するユーザの存在を精度よく推定することができるようになる。
なお、上述した各種データの構成及びその内容はこれに限定されるものではなく、用途や目的に応じて、様々な構成や内容で構成されていてもよい。
以上、一実施形態について示したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
また、上記各実施形態を組み合わせた構成も全て本発明に含まれるものである。
〔その他の実施形態〕
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
また、本発明は、複数の機器から構成されるシステムに適用しても、1つの機器からなる装置に適用してもよい。
本発明は上記実施形態に限定されるものではなく、本発明の趣旨に基づき種々の変形(各実施形態の有機的な組合せを含む)が可能であり、それらを本発明の範囲から除外するものではない。即ち、上述した各実施形態及びその変形例を組み合わせた構成も全て本発明に含まれるものである。
10 学習モデル生成装置
100 画像処理装置
352 ユーザ操作検知部
353 学習データセット生成部
362 ユーザ有無推定部
363 人感センサデータ取得部

Claims (18)

  1. 情報処理装置の学習システムであって、
    ユーザ操作を受け付ける操作部と、
    前記情報処理装置の前に存在する物体を検知する検知手段と、
    前記検知手段から出力された時系列のセンス値が入力されると、学習モデルを用いて前記情報処理装置を利用するユーザの存在の有無を推定する推定手段と、
    記操作部で受け付けられたユーザ操作の有無に基づくラベルと、前記ユーザ操作が受け付けられたタイミングから所定期間前のタイミングまでの前記検知手段から出力された時系列のセンス値とを含む学習データを用いて、前記学習モデルに学習させることにより学習モデルを更新する更新手段と、を有する
    ことを特徴とする学習システム。
  2. 前記学習データの前記時系列のセンス値のうち、前記操作部により前記ユーザ操作が受け付けられたタイミングに近いタイミングのセンス値に、第1ラベルを設定し、前記学習データの前記時系列のセンス値のうち他のセンス値に、第2ラベルを設定する
    ことを特徴とする請求項1に記載の学習システム。
  3. 情報処理装置の学習システムであって、
    ユーザ操作を受け付ける操作部と、
    前記情報処理装置の前に存在する物体を検知する検知手段と、
    前記検知手段から出力された時系列のセンス値が入力されると、学習モデルを用いて前記情報処理装置を利用するユーザの存在の有無を推定する推定手段と、
    前記検知手段から出力された時系列のセンス値と、前記操作部で受け付けられたユーザ操作の有無に基づくラベルとを含む学習データを用いて、前記学習モデルに学習させることにより学習モデルを更新する更新手段と、を有し、
    前記学習データの前記時系列のセンス値のうち、前記操作部により前記ユーザ操作が受け付けられたタイミングに近いタイミングのセンス値に、第1ラベルを設定し、前記学習データの前記時系列のセンス値のうち他のセンス値に、第2ラベルを設定し、
    前記推定手段により前記情報処理装置を利用するユーザが存在すると推定されてから所定時間内に前記操作部へのユーザ操作が受け付けられなかった場合には、所定期間内の前記時系列のセンス値に、前記第2ラベルを設定する
    ことを特徴とする習システム。
  4. 前記更新手段にて前記学習データを用いて前記学習モデルが更新されると、前記推定手段は、更新された前記学習モデルを用いて前記情報処理装置を利用するユーザの存在の有無を推定する
    ことを特徴とする請求項1~のいずれか1項に記載の学習システム。
  5. 前記検知手段と前記推定手段と、前記操作部とを有する第1の情報処理装置と、前記情報処理装置と通信可能であって前記更新手段を有する前記第1の情報処理装置とは異なる情報処理装置と、を有する
    ことを特徴とする請求項1~いずれか1項に記載の学習システム。
  6. 前記情報処理装置は、第1電力状態と前記第1電力状態より消費電力の少ない第2電力状態を切り替え可能であり、
    前記推定手段が前記情報処理装置を利用するユーザが存在すると推定した場合に、前記情報処理装置の電力状態を前記第2電力状態から前記第1電力状態に切り替える制御手段と、を有する
    ことを特徴とする請求項1~のいずれか1項に記載の学習システム。
  7. 前記検知手段は、超音波センサである
    ことを特徴とする請求項1~のいずれか1項に記載の学習システム。
  8. 前記検知手段は、複数の赤外線受光素子が配列された赤外線アレイセンサである
    ことを特徴とする請求項1~のいずれか1項に記載の学習システム。
  9. 前記情報処理装置は、画像処理装置である
    ことを特徴とする請求項1~のいずれか1項に記載の学習システム。
  10. 前記学習モデルとは、ニューラルネットワークとして構成される
    ことを特徴とする請求項1~のいずれか1項に記載の学習システム。
  11. 情報処理装置であって、
    前記情報処理装置の前に存在する物体を検知する検知手段と、
    ユーザ操作を受け付ける操作部と、
    記操作部で受け付けられた前記ユーザ操作の有無に基づくラベルと、前記操作部によって前記ユーザ操作が受け付けられたタイミングから所定期間前のタイミングまでの前記検知手段から出力された時系列のセンス値とを含む学習データを用いて学習された学習モデルであって、前記検知手段から出力される時系列のセンス値が入力され、前記情報処理装置を利用するユーザが存在するかどうかを推定する学習モデルと、を備える
    ことを特徴とする情報処理装置。
  12. 前記学習データの前記時系列のセンス値のうち、前記操作部により前記ユーザ操作が受け付けられたタイミングに近いタイミングのセンス値に、第1ラベルを設定し、前記学習データの前記時系列のセンス値のうち他のセンス値に、第2ラベルを設定する
    ことを特徴とする請求項1に記載の情報処理装置。
  13. 情報処理装置であって、
    前記情報処理装置の前に存在する物体を検知する検知手段と、
    ユーザ操作を受け付ける操作部と、
    前記検知手段から出力された時系列のセンス値と前記操作部で受け付けられた前記ユーザ操作の有無に基づくラベルとを含む学習データを用いて学習された学習モデルであって、前記検知手段から出力される時系列のセンス値が入力され、前記情報処理装置を利用するユーザが存在するかどうかを推定する学習モデルと、を備え、
    前記学習データの前記時系列のセンス値のうち、前記操作部により前記ユーザ操作が受け付けられたタイミングに近いタイミングのセンス値に、第1ラベルを設定し、前記学習データの前記時系列のセンス値のうち他のセンス値に、第2ラベルを設定し、
    前記学習モデルにより前記情報処理装置を利用するユーザが存在すると推定されてから所定時間内に前記操作部へのユーザ操作が受け付けられなかった場合には、所定期間内の前記時系列のセンス値に、前記第2ラベルを設定する
    ことを特徴とする報処理装置。
  14. 前記情報処理装置は、第1電力状態と前記第1電力状態より消費電力の少ない第2電力状態を切り替え可能であり、
    前記学習モデルが前記情報処理装置を利用するユーザが存在すると推定した場合に、前記情報処理装置の電力状態を前記第2電力状態から前記第1電力状態に切り替える制御手段と、を有する
    ことを特徴とする請求項1~1のいずれか1項に記載の情報処理装置。
  15. 前記検知手段は、超音波センサである
    ことを特徴とする請求項1~1のいずれか1項に記載の情報処理装置。
  16. 前記検知手段は、複数の赤外線受光素子が配列された赤外線アレイセンサである
    ことを特徴とする請求項1~1のいずれか1項に記載の情報処理装置。
  17. 情報処理装置の前に存在する物体を検知する検知手段と、ユーザ操作を受け付ける操作部とを有する情報処理装置の制御方法であって、
    前記検知手段から出力された時系列のセンス値と前記操作部で受け付けられた前記ユーザ操作の有無に基づくラベルと、前記操作部によって前記ユーザ操作が受け付けられたタイミングから所定期間前のタイミングまでの前記検知手段から出力された時系列のセンス値とを含む学習データを用いて学習された学習モデルを用い、前記検知手段から出力される時系列のセンス値が入力されると、前記情報処理装置を利用するユーザが存在するかどうかを推定する推定工程を有する
    ことを特徴とする情報処理装置の制御方法。
  18. コンピュータに、請求項1に記載の制御方法を実行させるためのプログラム。
JP2018149173A 2018-08-08 2018-08-08 情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム Active JP7233868B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018149173A JP7233868B2 (ja) 2018-08-08 2018-08-08 情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム
US16/529,591 US11509781B2 (en) 2018-08-08 2019-08-01 Information processing apparatus, and control method for information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018149173A JP7233868B2 (ja) 2018-08-08 2018-08-08 情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2020024597A JP2020024597A (ja) 2020-02-13
JP2020024597A5 JP2020024597A5 (ja) 2021-09-09
JP7233868B2 true JP7233868B2 (ja) 2023-03-07

Family

ID=69406738

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018149173A Active JP7233868B2 (ja) 2018-08-08 2018-08-08 情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム

Country Status (2)

Country Link
US (1) US11509781B2 (ja)
JP (1) JP7233868B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6915638B2 (ja) * 2019-03-08 2021-08-04 セイコーエプソン株式会社 故障時期推測装置、機械学習装置、故障時期推測方法
JP2023030344A (ja) * 2021-08-23 2023-03-08 富士フイルムビジネスイノベーション株式会社 画像形成装置
US11782373B2 (en) * 2022-01-07 2023-10-10 Toshiba Tec Kabushiki Kaisha Image forming apparatus with function of preventing secondary infection

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010147725A (ja) 2008-12-17 2010-07-01 Canon Inc 画像処理装置及び画像処理装置の制御方法
JP2012008771A (ja) 2010-06-24 2012-01-12 Sony Corp 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2017169054A (ja) 2016-03-16 2017-09-21 富士ゼロックス株式会社 画像処理装置及びプログラム
JP2017228091A (ja) 2016-06-22 2017-12-28 日本電信電話株式会社 歩行状態学習方法、歩行状態推定方法、路面状況理解方法、装置、及びプログラム
JP2018081619A (ja) 2016-11-18 2018-05-24 横河電機株式会社 情報処理装置、保全機器、情報処理方法、情報処理プログラム及び記録媒体

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06189048A (ja) * 1992-09-14 1994-07-08 Ricoh Co Ltd 操作表示用制御装置、画像形成装置及び電源投入用制御装置
JP5382436B2 (ja) * 2009-08-03 2014-01-08 ソニー株式会社 データ処理装置、データ処理方法、およびプログラム
JP5633734B2 (ja) * 2009-11-11 2014-12-03 ソニー株式会社 情報処理装置、情報処理方法、及び、プログラム
US8943526B2 (en) * 2011-12-02 2015-01-27 Microsoft Corporation Estimating engagement of consumers of presented content
JP6406889B2 (ja) * 2014-03-17 2018-10-17 キヤノン株式会社 印刷装置、及び、印刷装置の制御方法
US9959506B1 (en) * 2014-06-17 2018-05-01 Amazon Technologies, Inc. Predictive content retrieval using device movements
US10605470B1 (en) * 2016-03-08 2020-03-31 BrainofT Inc. Controlling connected devices using an optimization function
JP6843542B2 (ja) 2016-07-29 2021-03-17 キヤノン株式会社 超音波センサを用いて人を検知する装置、方法及びプログラム
US11481690B2 (en) * 2016-09-16 2022-10-25 Foursquare Labs, Inc. Venue detection
EP4220630A1 (en) * 2016-11-03 2023-08-02 Samsung Electronics Co., Ltd. Electronic device and controlling method thereof
JP6801532B2 (ja) * 2017-03-15 2020-12-16 株式会社リコー 情報処理装置、プログラム、情報処理システム
JP6415632B2 (ja) 2017-04-24 2018-10-31 キヤノン株式会社 処理装置及び処理装置の制御方法
US10956792B2 (en) * 2017-08-09 2021-03-23 Intel Corporation Methods and apparatus to analyze time series data
US10083006B1 (en) * 2017-09-12 2018-09-25 Google Llc Intercom-style communication using multiple computing devices
US10305766B1 (en) * 2017-11-07 2019-05-28 Amazon Technologies, Inc. Coexistence-insensitive presence detection
US10558862B2 (en) * 2018-01-12 2020-02-11 Intel Corporation Emotion heat mapping
US10318890B1 (en) * 2018-05-23 2019-06-11 Cognitive Systems Corp. Training data for a motion detection system using data from a sensor device
US10867391B2 (en) * 2018-09-28 2020-12-15 Adobe Inc. Tracking viewer engagement with non-interactive displays

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010147725A (ja) 2008-12-17 2010-07-01 Canon Inc 画像処理装置及び画像処理装置の制御方法
JP2012008771A (ja) 2010-06-24 2012-01-12 Sony Corp 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2017169054A (ja) 2016-03-16 2017-09-21 富士ゼロックス株式会社 画像処理装置及びプログラム
JP2017228091A (ja) 2016-06-22 2017-12-28 日本電信電話株式会社 歩行状態学習方法、歩行状態推定方法、路面状況理解方法、装置、及びプログラム
JP2018081619A (ja) 2016-11-18 2018-05-24 横河電機株式会社 情報処理装置、保全機器、情報処理方法、情報処理プログラム及び記録媒体

Also Published As

Publication number Publication date
US20200053234A1 (en) 2020-02-13
US11509781B2 (en) 2022-11-22
JP2020024597A (ja) 2020-02-13

Similar Documents

Publication Publication Date Title
JP7233868B2 (ja) 情報処理装置の学習システム、情報処理装置、情報処理装置の制御方法及びプログラム
US7110917B2 (en) Abnormality determining method, and abnormality determining apparatus and image forming apparatus using same
US20180017916A1 (en) Image forming apparatus, method of controlling the same, and storage medium
CN104243751A (zh) 图像形成装置以及图像形成装置的控制方法
JP2018069489A (ja) 画像形成装置、画像形成装置の制御方法、及びプログラム
JP2006205671A (ja) 情報処理装置及びその制御方法
JP7456142B2 (ja) 画像形成装置
JP6897010B2 (ja) 復帰制御装置、画像処理装置及びプログラム
US8437034B2 (en) Dynamically adapted reprographic system to current operating environment based on probabilistic network
JP2019159242A (ja) 搬送装置、情報の取得方法およびプログラム
US20210364973A1 (en) Recording medium conveyance device, recording medium conveyance method and non-transitory computer-readable recording medium encoded with recording medium conveyance program
US10684803B2 (en) Image forming apparatus for executing print job
JP7081684B2 (ja) 電子機器及び画像形成装置
US9769343B2 (en) Sleep mode control system to reduce power consumption and to provide a private power generation
JP2004206169A (ja) 情報処理装置の制御方法
JP2020037233A (ja) 情報処理装置、その制御方法およびプログラム
US11483439B1 (en) Image forming apparatus forms image data and stores contact history information of person contacted virus, and further displays information of survival of the virus contacted by the person at a site of the image forming apparatus
US20170026527A1 (en) Image forming apparatus and image formation system
JP7524641B2 (ja) 作業特性取得装置、作業特性取得方法及びプログラム
JP2022029247A (ja) 画像形成装置、システム、画像形成装置の制御方法およびプログラム
US20200153989A1 (en) Image forming apparatus and image forming method
JP6347231B2 (ja) 画像形成装置、画像形成システム、画像形成方法
JP6750529B2 (ja) 複合装置、状態通知方法および状態通知プログラム
JP6753284B2 (ja) 画像処理装置、モード切換方法およびモード切換プログラム
US20200004189A1 (en) Image formation device, image formation method, and image formation program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210729

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230222

R151 Written notification of patent or utility model registration

Ref document number: 7233868

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151