JP2018045099A - 情報処理装置、情報処理方法、および情報処理プログラム - Google Patents

情報処理装置、情報処理方法、および情報処理プログラム Download PDF

Info

Publication number
JP2018045099A
JP2018045099A JP2016179875A JP2016179875A JP2018045099A JP 2018045099 A JP2018045099 A JP 2018045099A JP 2016179875 A JP2016179875 A JP 2016179875A JP 2016179875 A JP2016179875 A JP 2016179875A JP 2018045099 A JP2018045099 A JP 2018045099A
Authority
JP
Japan
Prior art keywords
output
information
column
function
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016179875A
Other languages
English (en)
Other versions
JP6707427B2 (ja
Inventor
山口 修
Osamu Yamaguchi
修 山口
智行 柴田
Satoyuki Shibata
智行 柴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2016179875A priority Critical patent/JP6707427B2/ja
Priority to US15/445,559 priority patent/US20180075423A1/en
Publication of JP2018045099A publication Critical patent/JP2018045099A/ja
Application granted granted Critical
Publication of JP6707427B2 publication Critical patent/JP6707427B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/10Payment architectures specially adapted for electronic funds transfer [EFT] systems; specially adapted for home banking systems
    • G06Q20/108Remote banking, e.g. home banking
    • G06Q20/1085Remote banking, e.g. home banking involving automatic teller machines [ATMs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C11/00Arrangements, systems or apparatus for checking, e.g. the occurrence of a condition, not provided for elsewhere
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F19/00Complete banking systems; Coded card-freed arrangements adapted for dispensing or receiving monies or the like and posting such transactions to existing accounts, e.g. automatic teller machines
    • G07F19/20Automatic teller machines [ATMs]
    • G07F19/207Surveillance aspects at ATMs
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C11/00Arrangements, systems or apparatus for checking, e.g. the occurrence of a condition, not provided for elsewhere
    • G07C2011/04Arrangements, systems or apparatus for checking, e.g. the occurrence of a condition, not provided for elsewhere related to queuing systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Accounting & Taxation (AREA)
  • Theoretical Computer Science (AREA)
  • Finance (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】列の状態に応じた情報を適切に提供する。
【解決手段】情報処理装置は、決定機能と、出力制御機能と、を備える。決定機能は、対象画像に含まれる対象によって形成される列の構造を示す構造情報に基づいて、列の状態に関する出力情報の、実空間における出力位置を決定する。出力制御機能は、出力情報を出力位置に出力するよう制御する。
【選択図】図1

Description

本発明の実施の形態は、情報処理装置、情報処理方法、および情報処理プログラムに関する。
人の行列の待ち時間を表示するシステムが知られている。例えば、ATM(Automated Teller Machine)、CD(Cash Dispenser)などの自動取引装置や自動発券装置などの機器に設けられたディスプレイに、これらの機器に並ぶ人の待ち時間を表示するシステムが開示されている。
ここで、人などの対象によって形成される列の形や位置などは、時間の経過によって変化する。しかし、従来は、列の先頭に配置された機器のディスプレイに、待ち時間を表示していた。このため、従来は、列の状態によって、列に並ぶ人が待ち時間などを把握することが困難となる場合があった。すなわち、従来は、列の状態に応じた情報が適切に提供されていなかった。
特開2005−242896号公報
本発明が解決しようとする課題は、列の状態に応じた情報を適切に提供することができる、情報処理装置、情報処理方法、および情報処理プログラムを提供することである。
実施の形態の情報処理装置は、決定部と、出力制御部と、を備える。決定部は、対象画像に含まれる対象によって形成される列の構造を示す構造情報に基づいて、前記列の状態に関する出力情報の、実空間における出力位置を決定する。出力制御部は、前記出力情報を前記出力位置に出力するよう制御する。
情報処理システムの一例を示す図。 情報処理システムの一例を示す模式図。 構造情報特定の説明図。 構造情報特定の説明図。 表示種別管理DBのデータ構成の一例を示す模式図。 表示種別の一例を示す模式図。 表示種別の一例を示す模式図。 実空間に投影された出力情報の一例を示す模式図。 投影画面の更新・変更の一例を示す模式図。 情報処理の手順の一例を示すフローチャート。 構造情報特定処理の手順の一例を示すフローチャート。 出力位置決定・出力処理および更新変更処理の手順の一例を示すフローチャート。 実空間に表示画面を表示した状態を示す模式図。 実空間上に複数のディスプレイが配置された環境を示す模式図。 ハードウェア構成図。
以下に添付図面を参照して、情報処理装置、情報処理方法、および情報処理プログラムを詳細に説明する。
図1は、本実施の形態の情報処理システム10の一例を示す図である。
情報処理システム10は、情報処理装置20と、撮影部22と、出力部24と、入力部26と、を備える。撮影部22および出力部24は、ネットワーク28を介して情報処理装置20に接続されている。ネットワーク28は、LAN(Local Area Network)やインターネットである。入力部26と情報処理装置20とは、バス44を介して接続されている。
撮影部22は、撮影部の一例である。撮影部22は、撮影によって撮影画像を得る。撮影部22は、例えば、撮影によって二次元の撮影画像データを得る撮影装置、距離センサ(ミリ波レーダ、レーザセンサ、距離画像センサ)などである。レーザセンサは、例えば、二次元LIDAR(Laser Imaging Detection And Ranging)センサや、三次元LIDARセンサである。
撮影画像は、撮影によって得られる撮影画像データである(以下、単に、撮影画像と称する場合がある)。撮影画像は、画素ごとに画素値を規定したデジタル画像データや、画素毎に撮影部22からの距離を表わすデプスマップなどである。
本実施の形態では、情報処理システム10は、1または複数の撮影部22を備える。情報処理システム10が複数の撮影部22を備える場合、複数の撮影部22の少なくとも1つは、他の撮影部22とは異なる位置に配置されていてもよい。また、情報処理システム10が複数の撮影部22を備える場合、複数の撮影部22は、撮影画角の少なくとも一部が重なる位置に配置されていてもよいし、撮影画角の異なる位置に配置されていてもよい。
本実施の形態では、撮影部22は、撮影部22の撮影画角内に位置する対象を撮影し、対象を含む対象画像を得る。
対象とは、撮影部22によって撮影される被写体である。対象は、複数配列されることで、列を形成することの可能な物であればよい。対象は、移動体および非移動体の何れであってもよい。
移動体は、移動可能な物である。移動体は、移動可能な生物、および、移動可能な非生物、の何れでもよい。移動可能な生物は、例えば、人、動物、である。移動可能な非生物は、例えば、車両(自動二輪車、自動四輪車、自転車)、台車、ロボット、船舶、飛翔体(飛行機、ドローンなど)である。
非移動体は、移動不可能な物である。非移動体は、移動不可能な生物、移動可能な非生物、の何れでもよい。移動不可能な生物は、例えば、木や草花などの植物である。移動不可能な非生物は、例えば、置物などである。
本実施の形態では、一例として、対象が人である場合を説明する。
出力部24は、出力情報を出力する。出力情報は、情報処理装置20の外部に向かって出力される情報である。出力情報は、対象によって形成される列に関する情報である(詳細後述)。
本実施の形態では、出力部24は、出力情報を含む画面を投影する投影装置、または、出力情報を含む画面を表示するディスプレイである。
本実施の形態では、一例として、出力部24が投影装置である場合を説明する。
なお、情報処理システム10は、1または複数の出力部24を備える。出力部24は、少なくとも1つの撮影部22に対応する位置に配置されている。具体的には、出力部24は、実空間における、少なくとも1つの撮影部22の撮影画角を含む領域に向かって、後述する出力情報を出力可能な位置に配置されている。
図2は、実空間Sに配置された情報処理システム10の一例を示す模式図である。撮影部22は、実空間Sにおける対象50を撮影する。出力部24は、撮影部22の撮影画角を含む領域に向かって、出力情報を出力可能な位置に配置されている。
本実施の形態では、実空間Sにおける対象50は、複数の対象50が並ぶことで(または配列されることで)、列Lをなした状態にある場合を説明する。そして、撮影部22は、実空間Sにおける、複数の対象50によって形成される列Lを含む領域を撮影することで、対象画像を得る。また、出力部24は、実空間S上における出力位置に、列Lの状態に関する出力情報を出力する(詳細後述)。
図1に戻り説明を続ける。入力部26は、ユーザから各種指示や情報入力を受け付ける。入力部26は、例えば、マウスやトラックボール等のポインティングデバイス、あるいはキーボード等の入力デバイスである。また、入力部26は、ディスプレイと一体的に設けられたタッチパネルにおける入力機能であってもよい。
次に、情報処理装置20について説明する。情報処理装置20は、対象によって形成される列の状態に関する出力情報を、出力部24から出力する。
情報処理装置20は、記憶回路40と、処理回路30と、を備える。記憶回路40と、処理回路30とは、バス44を介して接続されている。
なお、撮影部22、出力部24、入力部26、および記憶回路40の少なくとも1つは、有線または無線で処理回路30に接続すればよい。また、撮影部22、出力部24、入力部26、および記憶回路40の少なくとも1つは、有線または無線で処理回路30に接続すればよい。また、複数の撮影部22の少なくとも1つ、または、複数の出力部24の少なくとも1つは、有線または無線で処理回路30に接続すればよい。また、記憶回路40および処理回路30の少なくとも一方は、クラウド上で処理を実行するクラウドサーバに搭載されていてもよい。
記憶回路40は、各種データを記憶する。本実施の形態では、記憶回路40は、表示種別管理DB40Aを予め記憶する(詳細後述)。記憶回路40は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等である。なお、記憶回路40は、情報処理装置20の外部に設けられた記憶装置であってもよい。また、記憶回路40は、記憶媒体であってもよい。具体的には、記憶媒体は、プログラムや各種情報を、LAN(Local Area Network)やインターネットなどを介してダウンロードして記憶または一時記憶したものであってもよい。また、記憶回路40を、複数の記憶媒体から構成してもよい。
次に、処理回路30について説明する。処理回路30は、取得機能31と、特定機能32と、決定機能33と、出力制御機能34と、判断機能35と、更新機能36と、を備える。
処理回路30における各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路40へ記憶されている。処理回路30は、プログラムを記憶回路40から読出、実行することで、各プログラムに対応する機能を実現するプロセッサである。
各プログラムを読み出した状態の処理回路30は、図1の処理回路30内に示された各機能を有することになる。図1においては単一の処理回路30によって、取得機能31、特定機能32、決定機能33、出力制御機能34、判断機能35、および更新機能36が実現されるものとして説明する。
なお、各機能の各々を実現するための独立した複数のプロセッサを組み合わせて処理回路30を構成してもよい。この場合、各プロセッサがプログラムを実行することにより各機能を実現する。また、各処理機能がプログラムとして構成され、1つの処理回路が各プログラムを実行する場合であってもよいし、特定の機能が専用の独立したプログラム実行回路に実装される場合であってもよい。
なお、本実施の形態において用いる「プロセッサ」との文言は、例えば、CPU(Central Processing Unit)、GPU(Graphical Processing Unit)或いは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))の回路を意味する。
プロセッサは、記憶回路40に保存されたプログラムを読み出し実行することで機能を実現する。なお、記憶回路40にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成しても構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。
取得機能31は、対象画像を取得する。本実施の形態では、取得機能31は、撮影部22から対象画像を取得する。本実施の形態では、撮影部22は、連続した撮影によって得られた対象画像を、順次、処理回路30へ出力する。このため、取得機能31は、撮影部22から、対象画像を順次取得する。取得機能31は、対象画像を取得するごとに、取得した対象画像を、特定機能32へ出力する。
特定機能32は、特定部の一例である。特定機能32は、対象画像に基づいて、構造情報を特定する。
構造情報は、対象画像に含まれる対象50によって形成される、列Lの構造を示す情報である。
構造情報は、具体的には、列Lの形状、列Lの始点位置、および、列Lの終点位置、の少なくとも1つを示す。本実施の形態では、構造情報は、列Lの形状、列Lを構成する対象50の数、列Lを構成する対象50の位置、列Lの始点位置、列Lの終点位置、列Lの列領域、列Lの周辺領域、対象50の属性、を示す。
本実施の形態では、特定機能32は、検出機能32Aと、列構造特定機能32Bと、対応位置導出機能32Cと、を含む。図3および図4は、構造情報特定の説明図である。
検出機能32Aは、対象画像60に含まれる対象50を特定する。例えば、取得機能31で取得した対象画像が、図3(A)に示す対象画像60であったとする。なお、対象画像60は、対象50としての人を上方向から撮影することによって得られた撮影画像である。このため、対象画像60には、人の肩部と頭部が撮影されている場合を示した。また、図3(A)に示すように、対象画像60に、複数の対象50(対象50〜対象5010)が含まれていたと仮定する。
検出機能32Aは、対象画像60に含まれる、対象50(対象50〜対象5010)の各々の占める領域(対象領域52と称して説明する)を特定する。
検出機能32Aは、公知の方法を用いて、対象画像60に含まれる対象50の各々の対象領域52を特定すればよい。例えば、検出機能32Aは、公知のテンプレートマッチング法などを用いて、人を対象50として検出する。
なお、テンプレートマッチングに用いるテンプレートは、処理対象の対象50の種類に応じて予め用意すればよい。例えば、対象50としての人を検出するためのテンプレートを予め用意する。なお、検出精度向上の観点から、機械学習を用いて、人を示す画像領域の特徴量を抽出することで学習データを生成し、テンプレートマッチングに用いてもよい。
図3(B)には、対象画像60から検出した、対象50の対象領域52の一例を示した。例えば、検出機能32Aは、対象画像60から、対象50の各々の占める対象領域52を特定する。
このとき、検出機能32Aは、対象画像60に含まれる対象50の各々の、向き、大きさ、種類、などの属性を更に検出してもよい。対象50の向きとは、対象50が向かっている方向である。例えば、対象50が人である場合、対象50の向きは、対象50の顔の向いている方向である。対象50の種類は、例えば、対象50が人である場合、性別、推定年齢(大人、子供、など)などである。この場合、例えば、検出機能32Aは、対象50の向きや大きさなどの属性を獲得できるような、数種類のテンプレートを予め用意すればよい。また、例えば、検出機能32Aは、対象50の属性を識別するための識別器を併用してもよい。
本実施の形態では、検出機能32Aは、対象画像60に含まれる対象50の各々の対象領域52と、対象50の属性と、を検出する場合を説明する。詳細には、検出機能32Aは、対象画像60における、対象領域52の各々の位置(Xd,Yd)、対象領域52の大きさ(Wd,Hd)、対象領域52の向き(θd)などを検出する。対象領域52の位置には、例えば、対象画像60における、対象領域52の重心位置を用いる。
なお、対象画像60がデプス画像である場合、検出機能32Aは、各対象領域52の属性として、高さ情報を検出することも可能である。高さ情報は、例えば、対象50が人である場合、人の身長として用いることで、性別や年齢の検出に用いることができる。
次に、列構造特定機能32Bについて説明する。列構造特定機能32Bは、検出機能32Aによって検出された対象50(すなわち、対象領域52および属性)に基づいて、対象50によって形成される列Lの構造情報を特定する。
図4は、構造情報の特定の流れの一例を示す、説明図である。図4(A)に示すように、例えば、検出機能32Aによって、対象画像60に含まれる対象50(対象領域52および属性)が検出されたと仮定する。
この場合、列構造特定機能32Bは、以下の処理を行うことで、列Lの構造情報を検出する。
図4(B)〜図4(F)は、対象画像60(図4(A)参照)における、対象50の各々の位置と向きとを、矢印X1で表したものである。図4における矢印X1〜矢印X110の各々は、対象50〜対象5010の各々の向きを示す。
まず、列構造特定機能32Bは、検出機能32Aによって検出された、対象50の位置と、対象画像60に含まれる対象50の各々の属性に含まれる、対象領域52の向き(矢印X1〜矢印X110)と、を読取る(図4(B)参照)。
そして、列構造特定機能32Bは、対象画像60に含まれる対象50(対象50〜対象5010)の各々の向き(矢印X1〜矢印X110)から、対象50(対象50〜対象5010)によって形成される列Lの列方向を特定する。列構造特定機能32Bは、対象画像60における、最も多くの対象50の向きを、列方向X2として特定する(図4(C)参照)。
列方向X2の推定には、公知の方法を用いればよい。例えば、列構造特定機能32Bは、対象画像60に含まれる対象50(対象50〜対象5010)の各々の向き(矢印X1〜矢印X110)を、8方向に量子化する。そして、量子化した方向の内、最も多くの対象50の向きを、列方向X2として特定する。
図4に示す例の場合、列構造特定機能32Bは、対象50〜対象50、対象50〜対象50、および対象50の各々に対応する向き(矢印X1〜矢印X1、矢印X1〜矢印X1、矢印X1)の方向を、列方向X2として特定する(図4(C)参照)。
なお、列構造特定機能32Bは、対象画像60に含まれる対象50(対象50〜対象5010)の各々の向き(矢印X1〜矢印X110)のヒストグラムを作成してもよい。そして、列構造特定機能32Bは、このヒストグラムにおける、最も頻度の高い向きを、列方向X2として特定してもよい。
次に、列構造特定機能32Bは、対象画像60に含まれる対象50の内、特定した列方向X2から外れている対象50を特定する。
詳細には、列構造特定機能32Bは、対象画像60に含まれる対象50(対象50〜対象5010)の内、向きが列方向X2に一致する向き(矢印X1〜矢印X1、矢印X1〜矢印X1、矢印X1)に対応する対象50(対象50〜対象50、対象50〜対象50、対象50)について、対象50の位置を特定する。なお、列構造特定機能32Bは、検出機能32Aで検出された、対象領域52の位置を、対象50の位置として用いる。
そして、列構造特定機能32Bは、特定した位置の対象50に対して、特定した位置の対象50を通る線X3(例えば、直線)を表す関数をあてはめる。あてはめには、例えば、最小2乗法や、Hough変換のような形状あてはめを用いる。そして、列構造特定機能32Bは、対象画像60における、あてはめた線X3の通過しない対象50(図4では、対象5010)を特定する(図4(D)参照)。
次に、列構造特定機能32Bは、列方向X2から外れている対象50の、列方向X2への帰属度を算出する。帰属度は、列方向X2から外れている対象50が、列方向X2に沿って伸びた列Lに帰属している度合を示す。本実施の形態では、列構造特定機能32Bは、列方向X2から外れている対象50と線X3との最短距離に反比例する評価関数を用いる。そして、列構造特定機能32Bは、評価関数が閾値以上となる場合、該対象50を列方向X2へ帰属するものとして扱う。これによって、列構造特定機能32Bは、対象画像60における、列を示す線X3の通る対象50と、帰属度が閾値以上の対象50と、を、列方向X2に沿った列Lを構成する対象50として特定する。
そして、列構造特定機能32Bは、列Lを構成するものとして特定した対象50を、列方向X2に沿って囲む領域を、列領域54として特定する(図4(E)参照)。このとき、列構造特定機能32Bは、列方向X2の推定に用いなかった対象50の内、列方向X2への帰属度が閾値以上の対象50を全て含むように、列領域54を特定する。このため、図4に示す例の場合、列構造特定機能32Bは、向きが矢印X1〜矢印X1の各々の対象50〜対象50を囲む領域を、列Lの列領域54として特定する。
次に、列構造特定機能32Bは、対象画像60で特定した列領域54における、列方向X2の両端部を、列Lの始点位置SAおよび終点位置SBとして特定する(図4(E)参照)。
次に、列構造特定機能32Bは、対象画像60における、列領域54の周辺を、周辺領域55として特定する(図4(F)参照)。周辺領域55は、列領域54の周辺の領域であって、対象50を含まない領域である。周辺領域55は、例えば、対象画像60における、列領域54および対象領域52以外の領域の内、列領域54に連続(隣接)し、且つ、該列領域54から予め定めた距離以下の範囲内を示す。
列領域54を特定することで、列構造特定機能32Bは、列Lの形状、列Lの始点位置、列Lの終点位置、列Lに含まれる対象50の数、列Lに含まれる対象50の各々の位置、および、列Lの周辺領域を得る。
すなわち、列構造特定機能32Bは、列Lの構造情報を検出する。すなわち、列構造特定機能32Bは、列Lの形状、列Lを構成する対象50の数、列Lを構成する対象50の位置、列Lの始点位置、列Lの終点位置、列Lの列領域、列Lの周辺領域、対象50の属性、を示す構造情報を特定する。
図1に戻り説明を続ける。ここで、列構造特定機能32Bは、対象画像60を用いて構造情報を特定する。このため、列構造特定機能32Bが特定した構造情報は、対象画像60における位置座標によって表されたものである。
対応位置導出機能32Cは、列構造特定機能32Bが特定した構造情報によって示される位置座標に対応する、実空間Sにおける三次元位置座標を導出する。三次元位置座標の導出には、公知の方法を用いればよい。
すなわち、対応位置導出機能32Cは、列構造特定機能32Bによって特定された、対象画像60上における二次元座標によって表される構造情報を、実空間Sにおける三次元座標によって表される構造情報に変換する。
このため、具体的には、対応位置導出機能32Cは、対象画像60における列領域54を構成する各画素を、実空間Sにおける三次元座標によって示される点群によって表した、列領域54に変換する。なお、列領域54によって、列Lの形状も表せる。
また、対応位置導出機能32Cは、構造情報に含まれる、列Lを構成する対象50の二次元位置座標を、実空間Sにおける三次元位置座標によって表す。また、対応位置導出機能32Cは、構造情報に含まれる、列Lの始点位置SAおよび終点位置SBについても、実空間Sにおける三次元座標によって表す。同様に、対応位置導出機能32Cは、構造情報に含まれる周辺領域55についても、対象画像60における周辺領域55を構成する各画素を、実空間Sにおける三次元座標によって示される点群で表す。なお、対応位置導出機能32Cは、構造情報に含まれる、対象50の数、対象50の属性については、座標で表されないことから、座標変換せずにそのまま用いる。
そして、特定機能32は、特定した構造情報(実空間Sにおける三次元座標で表される)を、決定機能33および判断機能35の各々へ出力する。
次に、決定機能33について説明する。決定機能33は、決定部の一例である。決定機能33は、特定機能32で特定された構造情報に基づいて、列Lの状態に関する出力情報の実空間Sにおける出力位置を決定する。
出力情報は、対象50によって形成される列Lの状態に関する情報である。出力情報は、列Lの状態そのものを示す出力内容を示す情報であってもよいし、列Lの状態に応じた出力内容を示す情報であってもよい。出力情報は、文字、画像、文字と画像を組み合わせたもの、の何れであってもよい。
出力情報によって示される出力内容は、例えば、待ち順、予測待ち時間、終端を示す文字、注視されうる画像、などである。待ち順は、列Lの先頭までの順番である。予測待ち時間は、列Lの先頭に到るまでに要する時間の予測値である。終端を示す文字は、列Lの終端を表す文字や画像である。注視されうる画像は、例えば、列Lを構成する対象50に対して発する注意事項を示す画像、広告、ゲーム画像、パズル画像、などである。
すなわち、出力情報は、これらの出力内容を示す値である。具体的には、出力情報は、列Lにおける待ち順の値、列Lの終端を示す文字を示す値、列Lの予測待ち時間を示す値、注視されうる画像、の少なくとも1つを含む。
本実施の形態では、決定機能33は、特定機能32から受付けた構造情報に基づいて、実空間Sにおける、列領域54に重ならない領域に、出力情報を出力するための出力位置を決定する。詳細には、決定機能33は、実空間Sにおける、対象50に重ならない領域に、出力位置を決定する。本実施の形態では、決定機能33は、実空間Sにおける、列Lの周辺領域55に、出力情報を出力するための出力位置を決定する。
出力位置は、実空間Sにおける周辺領域55内の位置座標、および、実空間Sの周辺領域内55に配置された出力部24(ディスプレイ)の位置、の少なくとも一方を示す。出力部24がディスプレイである場合、出力位置は、実空間Sの周辺領域55内に配置されたディスプレイを識別するための識別情報、および、該ディスプレイの表示画面における位置(二次元位置)、を含む。
なお、本実施の形態では、出力部24が投影装置である場合を説明する。このため、本実施の形態では、出力位置は、実空間Sにおける周辺領域55内の位置座標を示す場合を説明する。
本実施の形態では、決定機能33は、特定機能32で特定された構造情報に基づいて、出力位置と、出力位置に出力する出力情報と、を決定する。
詳細には、決定機能33は、選択機能33Aと、出力情報決定機能33Bと、位置決定機能33Cと、生成機能33Dと、を備える。
選択機能33Aは、選択部の一例である。選択機能33Aは、出力情報の表示種別を選択する。表示種別は、列Lの状態に関する出力内容と、出力内容を示す出力情報の配置規則と、を少なくとも規定したものである。
選択機能33Aは、予め用意された複数の表示種別から、1つの表示種別を選択する。選択機能33Aは、予め定めた1つの表示種別を選択してもよいし、ユーザによる入力部26の操作指示によって指示された表示種別を選択してもよい。
また、選択機能33Aは、列Lの構造情報に基づいて、1つの表示種別を選択してもよい。この場合、選択機能33Aは、列Lの構造情報が一定の条件を満たす場合に、表示内容を示す表示種別を選択する選択規則を予め記憶する。そして、選択機能33Aは、該選択規則と、特定機能32で特定された構造情報と、を用いて、1つの表示種別を選択すればよい。例えば、列の構成人数が多い場合と少ない場合で、表示種別を切り替えることができる。選択規則として、「列の構成人数がM人以上」であるなどの条件と、切り替えを実施し提示する時間(10秒など)を記憶しておいて、条件を満たす場合に表示種別の選択を行うことができる。
本実施の形態では、選択機能33Aは、表示種別管理DB40Aを記憶回路40に予め記憶する。表示種別管理DB40Aは、複数の表示種別を管理するためのデータベースである。なお、表示種別管理DB40Aのデータ形式は、データベースに限定されない。
図5は、表示種別管理DB40Aのデータ構成の一例を示す模式図である。表示種別管理DB40Aには、複数の表示種別が予め登録されている。
例えば、表示種別管理DB40Aには、表示種別(図5では、表示種別A〜表示種別D)ごとに、出力内容、出力サイズ、配置規則、出力開始条件、位置更新条件、出力情報更新条件、更新後の出力内容、表示種別更新条件、が規定されている。
出力サイズは、対応する出力内容を示す出力情報の、実空間Sへ出力されたときのサイズを示す。配置規則は、対応する出力内容を示す出力情報の配置規則を示す。言い換えると、配置規則は、列Lの構造情報に応じた、出力情報の配置規則を示す。このため、出力情報の出力位置は、表示種別に規定された配置規則と、列Lの構造情報と、によって決定される(詳細後述)。
出力開始条件は、対応する出力内容を示す出力情報の出力を開始する条件を示す。位置更新条件は、対応する出力内容を示す出力情報の、出力位置の更新条件を示す。出力情報更新条件は、対応する出力内容を示す出力情報の、更新条件を示す。更新後の出力内容は、出力情報更新条件を満たす場合の、更新後の出力情報を示す。表示種別更新条件は、表示種別の更新条件を示す。
なお、表示種別管理DB40Aに規定されている各項目および内容は、ユーザによる入力部26の操作指示などによって、適宜、変更および更新可能である。
図6および図7は、表示種別62の一例を示す模式図である。
図6(A)に示す表示種別62Aは、直線状に並んだ対象50による列LAに対して、数人の対象50ごとに、“1分待ち”“4分待ち”などの予測待ち時間を示す出力情報64Aを出力することを示す。図6(B)に示す表示種別62Bは、直線状に並んだ対象50による列LAに対して、対象50の各々の“1”〜“7”などの待ち順を示す出力情報64Bを出力することを示す。図6(C)に示す表示種別62Cは、直線状に並んだ対象50による列LAに対して、終点位置SBの後の領域に出力情報64C“ここが列の最後です”を出力することを示す。
図6(D)に示す表示種別62Dは、弧を描くように曲がって並んだ対象50による列LBに対して、対象50の各々の待ち順を示す出力情報64Dを出力し、且つ、投影領域Bから外れる領域については出力情報を出力しないことを示す。図6(E)に示す表示種別62Eは、弧を描くように曲がって並んだ対象50による列LBに対して、投影領域B内に、対象50の各々の待ち順を示す出力情報64Eを出力することを示す。
図7(A)に示す表示種別62Fは、直線状に並んだ対象50による列LCの横に、列LCに沿って、注意事項を示す画像“この線に沿って並んでください”を示す文字と線を示す出力情報64Fを出力することを示す。図7(B)に示す表示種別62Gは、直線状に並んだ対象50による列LDにおける、対象50の間隔が所定値以上の領域の横に、列LDに沿って、注意事項を示す画像“間隔を詰めてください”を示す文字と線を示す出力情報64Gを出力することを示す。
図7(C)に示す表示種別62Hは、対象50による列LEにおける、列LEから離れた対象50の最も近くに位置する対象50の横に、注意事項を示す画像“お子様から目を離さないで下さい”を示す文字を示す出力情報64Hを出力することを示す。なお、この列LEから離れた対象50とは、例えば、電車ホームの白線を超えるような危険性を持った場所に位置する対象50などである。
図7(D)に示す表示種別62Iは、対象50による列LAに対して、広告を示す出力情報64Iを出力することを示す。なお、図7(D)の出力情報64Iは、ディスプレイの広告を示す出力情報の一例である。図7(E)に示す表示種別62Jは、対象50による列LAに対して、パズル画像やゲーム画像としての出力情報64Jを出力することを示す。また図7(E)に示す表示種別62Kは、対象50による列LAに対して、ゲーム画像としての出力情報64Kを出力することを示す。
これらの表示種別62は、予め表示種別管理DB40Aに登録すればよい。そして、選択機能33Aは、表示種別管理DB40Aに登録されている複数の表示種別から、1つの表示種別を選択する。
図1に戻り説明を続ける。出力情報決定機能33Bは、出力情報決定部の一例である。出力情報決定機能33Bは、選択機能33Aで選択された表示種別によって規定される出力内容を示す、出力情報を、特定機能32で特定された構造情報に基づいて、決定する。
例えば、選択機能33Aで選択された表示種別が、表示種別管理DB40Aにおける表示種別Aであったと仮定する。この場合、出力情報決定機能33Bは、該表示種別Aに規定される出力内容“待ち順”を、出力内容として決定する。そして、出力情報決定機能33Bは、構造情報に基づいて、列Lを構成する対象50の各々について、始点位置SAから順に番号を付与することで、待ち順を示す出力情報を決定すればよい。
また、選択機能33Aで選択された表示種別が、表示種別管理DB40Aにおける表示種別Cであったと仮定する。この場合、出力情報決定機能33Bは、該表示種別Cに規定される出力内容“予測待ち時間”を、出力内容として決定する。そして、出力情報決定機能33Bは、構造情報に基づいて、列Lを構成する対象50の各々について、予測待ち時間を算出する。これによって、出力情報決定機能33Bは、予測待ち時間を示す出力情報を決定すればよい。
なお、予測待ち時間の算出には、公知の方法を用いればよい。例えば、出力情報決定機能33Bは、列Lを構成する対象50の数に対応する、予測待ち時間を予め記憶する。そして、出力情報決定機能33Bは、特定機能32で特定された構造情報に示される対象50の数に対応する予測待ち時間を読取ることで、予測待ち時間を算出してもよい。
具体的には、出力情報決定機能33Bは、一人当たりの待ち時間を予め設定し(例えば、一人当たり5分)、該一人当たりの待ち時間と、構造情報に示される対象50の数と、に応じて、予測待ち時間を算出してもよい。例えば、出力情報決定機能33Bは、一人当たりの待ち時間に、構造情報に示される対象50の数を乗算した結果を、予測待ち時間として算出してもよい。
また、開演時間などが決まっているような場所に列Lが形成されている場合、出力情報決定機能33Bは、該開演時間に関する情報を更に用いて、予測待ち時間を算出してもよい。
具体的には、現在時刻が9:30、開演時刻が10:00、列Lを構成する対象50の数が5人、一人当たりの待ち時間が5分、であったと仮定する。この場合、出力情報決定機能33Bは、「一人当たりの待ち時間(5分)×人数(5人)+現在時刻と開演時刻との差(30分)」の計算結果を、予測待ち時間として算出すればよい。
また、出力情報決定機能33Bは、列Lを構成する対象50の内、特定の対象50を抽出し、特定した対象50が一定距離移動する移動時間と、列Lを構成する対象50の数と、を用いて、予測待ち時間を算出してもよい。この予測待ち時間の算出には、例えば、特開平11−175694号公報に示される方法を用いればよい。
具体的には、図3(B)対象50の場所において、その対象(人物)の服の色や頭部の色などや、テクスチャの情報を記憶しておく。そして、その対象50がサービス開始のためにその場からいなくなるまでの時間を、計測しておけばよい。そして、出力情報決定機能33Bは、それらを規定時間分、複数回計測し、それらの平均的な待ち時間を算出してもよい。また、別の位置に関しての例として、出力情報決定機能33Bは、対象(人物)50の場所が列Lの先頭に移動するまでの時間を計測し、その場所での平均待ち時間を予測してもよい。また、対象50の場所の人物の服の色や頭部の色などやテクスチャの情報を記憶しておき、その時間をT1とする。その同じテクスチャや色情報が対象50の場所に現れるまでの時間をT2とする。そして、出力情報決定機能33Bは、このT2−T1の移動時間を、対象50の場所の待ち時間とすればよい。
その他、出力情報決定機能33Bは、他の方法を用いて、列Lの構造情報から、予測待ち時間を算出してもよい。
位置決定機能33Cは、特定機能32で特定された構造情報に基づいて、出力情報の出力位置を決定する。位置決定機能33Cは、実空間Sにおける、列LAに重ならない位置で且つ列LAの周辺に、出力情報の出力位置を決定する。言い換えると、位置決定機能33Cは、実空間Sにおける、特定機能32によって特定された構造情報に含まれる、列Lの周辺領域55内に、出力情報の出力位置を決定する。
本実施の形態では、位置決定機能33Cは、特定機能32によって特定された構造情報と、選択機能33Aで選択された表示種別によって規定される配置規則と、によって定まる、実空間S上の位置を、出力情報の出力位置として決定する。すなわち、位置決定機能33Cは、実空間Sにおける周辺領域55内における、選択機能33Aによって選択された表示種別によって規定される配置規則によって示される位置を、出力位置として決定する。
このため、例えば、表示種別管理DB40Aにおける表示種別Aが選択された場合、位置決定機能33Cは、列Lの周辺領域55内における、列Lを構成する各対象50の横の、R名(Rは1以上の整数)ごとの位置を、出力位置として決定する。
次に、生成機能33Dについて説明する。生成機能33Dは、実空間Sにおける、位置決定機能33Cによって決定された出力位置に、出力情報決定機能33Bによって決定された出力情報を出力するための画面を生成する。
なお、処理回路30が、出力部24としての投影装置を制御する場合には、生成機能33Dは、画面として投影画面を生成する。
投影画面を生成する場合、生成機能33Dは、実空間S上における上記出力位置に、上記出力情報を出力するための投影画面を生成する。詳細には、生成機能33Dは、出力情報決定機能33Bによって決定された出力情報が、位置決定機能33Cによって決定された出力位置に、選択機能33Aによって選択された表示種別によって規定される出力サイズで出力されるように、投影画面を生成する。
次に、出力制御機能34について説明する。出力制御機能34は、出力制御部の一例である。出力制御機能34は、出力情報を出力位置に出力する。出力制御機能34は、出力情報を出力位置に出力するように、出力部24を制御する。
すなわち、出力制御機能34は、決定機能33で決定した出力情報を、決定機能33で構造情報に基づいて決定した出力位置に、出力するように、出力部24を制御する。
詳細には、出力制御機能34は、決定機能33の生成機能33Dで生成された画面(投影画面)を出力するように、出力部24を制御する。上述したように、本実施の形態では、出力部24が投影装置である場合を説明する。
このため、出力制御機能34は、投影画面を投影するように、出力部24を制御する。このため、実空間Sにおける、列Lを構成する対象50の周辺領域55には、列Lの構造情報に応じた出力位置に、列Lの構造情報に応じた出力情報が出力される。
図8は、実空間Sに投影された出力情報64の一例を示す模式図である。出力制御機能34の制御によって、例えば、出力部24から投影画面65が投影されることで、列Lを形成する対象50の周辺領域55に、待ち順などを示す出力情報64が出力される。このため、列Lを構成する対象50に対して、列Lの状態に応じた情報が適切に提供される。
図1に戻り説明を続ける。次に、判断機能35および更新機能36について説明する。
判断機能35は、出力情報が出力された後に、出力情報、出力内容、および、表示種別の少なくとも1つの更新または変更を判断する。更新機能36は、判断機能35による判断結果に応じて、出力情報、出力内容、および表示種別の少なくとも1つの更新または変更を行う。
本実施の形態では、判断機能35は、第1判断機能35Aと、第2判断機能35Bと、第3判断機能35Cと、を備える。更新機能36は、位置更新機能36Aと、出力情報更新機能36Bと、種別変更機能36Cと、を備える。
第1判断機能35Aは、第1判断部の一例である。位置更新機能36Aは、位置更新部の一例である。
第1判断機能35Aは、出力位置の位置更新条件を満たすか否かを判断する。位置更新条件は、出力された出力情報の出力位置を、更新する条件を示す。位置更新条件は、例えば、列Lの形状の変化、列Lを構成する対象50の数の変化、列Lを構成する対象50の最大予測待ち時間がW時間以上、列Lを構成する対象50の間隔や密度の変化、などで規定される。なお、Wは、0を超える数字である。位置更新条件は、予め設定すればよい。本実施の形態では、第1判断機能35Aは、選択機能33Aで選択された表示種別に規定される“位置更新条件”を満たすか否かを判断する。
例えば、選択機能33Aで選択された表示種別が、表示種別管理DB40Aにおける表示種別Aであったと仮定する。この場合、第1判断機能35Aは、該表示種別Aに規定される位置更新条件“列の形状変化”を判別したときに、位置更新条件を満たすと判断すればよい。第1判断機能35Aは、特定機能32で特定された構造情報に示される、列領域54の形状から、列の形状変化を判別すればよい。
位置更新機能36Aは、第1判断機能35Aによって位置更新条件を満たすと判断された場合、出力位置を更新する。位置更新機能36Aは、第1判断機能35Aの判断に用いた構造情報を用いて、列Lの周辺領域55における、選択機能33Aで選択された表示種別に規定される配置規則を満たす位置となるように、出力位置を更新すればよい。
位置更新機能36Aは、決定機能33の位置決定機能33Cと同様にして、新たな構造情報を用いて、出力位置を更新すればよい。なお、位置更新機能36Aは、出力位置の更新指示を、決定機能33へ出力することで、出力位置を更新してもよい。この場合、決定機能33の位置決定機能33Cは、新たに特定された構造情報を用いて、上記と同様にして出力位置を決定すればよい。これによって、位置更新機能36Aは、出力位置を更新してもよい。
第2判断機能35Bは、第2判断部の一例である。出力情報更新機能36Bは、出力情報更新部の一例である。
第2判断機能35Bは、出力情報の出力情報更新条件を満たすか否かを判断する。出力情報更新条件は、出力された出力情報を更新する条件を示す。出力情報更新条件は、例えば、列Lを構成する対象50の数の変化、列Lを構成する対象50の最大予測待ち時間がW時間以上、列Lの形状変化、列Lを構成する対象50の間隔や密度の変化、などである。なお、Wは0を超える数字である。出力情報更新条件は、予め設定すればよい。本実施の形態では、第2判断機能35Bは、選択機能33Aで選択された表示種別に規定される“出力情報更新条件”を満たすか否かを判断する。
例えば、選択機能33Aで選択された表示種別が、表示種別管理DB40Aにおける表示種別Aであったと仮定する。この場合、第2判断機能35Bは、該表示種別Aに規定される出力情報更新条件“列の構成人数の変化”を判別したときに、出力情報更新条件を満たすと判断すればよい。第2判断機能35Bは、特定機能32で特定された構造情報に示される、列Lを構成する対象50の数から、列Lの構成人数の変化を判別すればよい。
出力情報更新機能36Bは、第2判断機能35Bによって出力情報更新条件を満たすと判断された場合、出力情報を更新する。出力情報更新機能36Bは、第2判断機能35Bの判断に用いた構造情報を用いて、新たな出力情報を決定すればよい。
出力情報更新機能36Bは、決定機能33の出力情報決定機能33Bと同様にして、新たな構造情報を用いて、出力情報を更新すればよい。なお、出力情報更新機能36Bは、出力情報の更新指示を、決定機能33へ出力することで、出力情報を更新してもよい。この場合、決定機能33の出力情報決定機能33Bは、新たに特定された構造情報を用いて、上記と同様にして出力情報を決定すればよい。これによって、出力情報更新機能36Bは、出力情報を更新してもよい。
なお、出力情報更新機能36Bは、最初は何も表示しない状態から、列Lがある程度構築された状態となったときに、待ち時間の表示を開始するように、出力情報を更新してもよい。
第3判断機能35Cは、第3判断部の一例である。種別変更機能36Cは、種別変更部の一例である。
第3判断機能35Cは、出力情報の表示種別の種別変更条件を満たすか否かを判断する。種別変更条件は、出力された表示種別を変更する条件を示す。種別変更条件は、例えば、列Lを構成する対象50の数の変化、列Lを構成する対象50の最大予測待ち時間がW時間以上、列Lの形状変化、列Lを構成する対象50の間隔や密度の変化、などである。なお、Wは0を超える数字である。種別変更条件は、予め設定すればよい。本実施の形態では、第3判断機能35Cは、選択機能33Aで選択された表示種別に規定される“種別変更条件”を満たすか否かを判断する。
例えば、選択機能33Aで選択された表示種別が、表示種別管理DB40Aにおける表示種別Aであったと仮定する。この場合、第3判断機能35Cは、該表示種別Aに規定される種別変更条件“列の形状変化を判別したときに、種別変更条件を満たすと判断すればよい。第3判断機能35Cは、特定機能32で特定された構造情報に示される、列Lの形状から、列Lの形状変化を判別すればよい。
種別変更機能36Cは、第3判断機能35Cによって種別変更条件を満たすと判断された場合、表示種別を変更する。種別変更機能36Cは、第3判断機能35Cの判断に用いた構造情報を用いて、新たな表示種別を決定すればよい。
種別変更機能36Cは、決定機能33の選択機能33Aと同様にして、新たな構造情報を用いて、表示種別を変更すればよい。なお、種別変更機能36Cは、表示種別の変更指示を、決定機能33へ出力することで、表示種別を変更してもよい。この場合、例えば、決定機能33の選択機能33Aは、前回選択した表示種別とは異なる表示種別を新たに選択すればよい。これによって、種別変更機能36Cは、表示種別を変更してもよい。
そして、決定機能33の生成機能33Dは、変更された表示種別、更新された出力位置、または更新された出力情報、を用いて、上記と同様にして、出力部24へ出力する投影画面を生成すればよい。そして、出力制御機能34は、更新または変更された投影画面を投影するように、出力部24を制御すればよい。
このため、判断機能35によって更新条件または変更条件を満たすと判断された場合、実空間Sに投影される投影画面65が更新または変更される。なお、更新機能36は、出力位置、出力情報、表示種別の少なくとも1つを更新または変更すればよく、いずれか1つのみを更新または変更する形態に限定されない。
図9は、投影画面65の更新・変更の一例を示す模式図である。例えば、出力制御機能34によって、図9(A)に示す投影画面65が、列Lの周辺領域55に投影されたと仮定する。そして、列Lが、例えば、図9(B)や図9(C)に示す形状の列LCや、図9(D)に示す形状の列LDに変化したと仮定する。
この場合、例えば、位置更新機能36Aによって出力情報の出力位置が更新されることで、図9(A)に示す出力情報64Lに含まれる出力情報“4分待”の出力位置が、変化後の列LCの形状に沿った位置(図9(B)参照)となるように更新される。すなわち、出力情報64Lにおける出力位置が、列Lの形状変化に応じて、列Lを構成する対象50に重ならない出力位置となるように更新される。
また、例えば、出力情報更新機能36Bによって出力情報が更新されることで、図9(A)に示す出力情報64Lに含まれる出力情報“4分待”が、該位置から一つ前の対象50の予測待ち時間を示す出力情報“3分待”に変更され、かつ、出力位置も該対象50の横となるように更新される(図9(C)参照)。
また、例えば、位置更新機能36Aによって出力情報の出力位置が更新されることで、図9(A)に示す出力情報64Lに含まれる出力情報“1分待”および“4分待”の各々の出力位置が、変化後の列LDに沿った位置(図9(D)参照)となるように更新される。すなわち、出力情報64Lにおける出力位置が、列Lの形状変化に応じて、列Lを構成する対象50に重ならない出力位置となるように更新される。
次に、処理回路30が実行する情報処理の手順の一例を説明する。図10は、処理回路30が実行する情報処理の手順の一例を示す、フローチャートである。
処理回路30の取得機能31が、対象画像60の取得を開始する(ステップS100)。次に、特定機能32が、構造情報の特定処理を実行する(ステップS102)。次に、決定機能33および出力制御機能34が、出力位置の決定処理および出力処理を実行する(ステップS104)。次に、更新機能36が、更新および変更処理を実行する(ステップS106)。そして、本ルーチンを終了する。
次に、ステップS102(図10参照)の構造情報特定処理の手順の一例を説明する。図11は、構造情報特定処理の手順の一例を示す、フローチャートである。
まず、特定機能32の検出機能32Aが、取得機能31で取得した対象画像60に含まれる、対象50を特定する(ステップS200)。次に、検出機能32Aは、特定した対象50の向きを検出する(ステップS202)。次に、列構造特定機能32Bが、対象50によって形成される列Lの列方向X2を特定する(ステップS204)。
次に、列構造特定機能32Bは、対象画像60に含まれる対象50の内、特定した列方向X2から外れている対象50を特定する(ステップS206)。次に、列構造特定機能32Bは、列方向X2から外れている対象50の、列方向X2への帰属度を算出する(ステップS208)。
次に、列構造特定機能32Bは、列Lを構成する対象50を特定する(ステップS210)。次に、列構造特定機能32Bは、列Lの列領域54を特定する(ステップS212)。次に、列構造特定機能32Bは、列領域54における、列方向X2の両端部を、列Lの始点位置SAおよび終点位置SBとして特定する(ステップS214)。
次に、列構造特定機能32Bは、対象画像60における、列領域54の周辺を、周辺領域55として特定する(ステップS216)。
次に、対応位置導出機能32Cが、列構造特定機能32Bが特定した構造情報によって示される位置座標に対応する、実空間Sにおける三次元位置座標を導出する(ステップS218)。
次に、対応位置導出機能32Cは、実空間Sにおける三次元座標によって表される構造情報を、決定機能33及び判断機能35へ出力する(ステップS220)。
次に、特定機能32は、処理を終了するか否かを判断する(ステップS222)。例えば、特定機能32は、ユーザによる入力部26の操作指示によって、処理終了を示す指示信号が入力されたか否かを判別することで、ステップS222の判断を行う。
ステップS222で否定判断すると(ステップS222:No)、上記ステップS200へ戻る。このため、特定機能32は、取得機能31が新たな対象画像60を取得する毎に、ステップS200〜ステップS222の処理を実行する。ステップS222で肯定判断すると(ステップS222:Yes)、本ルーチンを終了する。なお、図11のフローチャートにおいて、例えばステップS202〜ステップS216は、必ずしもこの順番に行われることを要しない。
次に、図10における、出力位置決定・出力処理(ステップS104)および更新変更処理(ステップS106)について、詳細に説明する。図12は、出力制御機能34、判断機能35、および更新機能36が実行する、出力位置決定・出力処理および更新・変更処理の手順の一例を示す、フローチャートである。
まず、決定機能33が、特定機能32から構造情報を取得する(ステップS300)。次に、決定機能33の選択機能33Aが、表示種別を選択する(ステップS302)。
次に、出力情報決定機能33Bが、ステップS302で選択された表示種別によって規定される出力内容を、表示種別管理DB40Aから読取る(ステップS304)。次に、出力情報決定機能33Bが、ステップS300で取得した構造情報に基づいて、ステップS304で読取った出力内容を示す出力情報を、決定する(ステップS306)。
次に、位置決定機能33Cが、ステップS300で取得した構造情報に基づいて、ステップS306で決定した出力情報の、実空間Sにおける出力位置を決定する(ステップS308)。
次に、生成機能33Dが、実空間Sにおける、ステップS308で決定された出力位置に、出力情報決定機能33Bによって決定された出力情報を出力するための画面を生成する(ステップS310)。
次に、出力制御機能34は、ステップS310で生成された画面(例えば、投影画面)を出力するように、出力部24を制御する(ステップS312)。このため、実空間Sにおける、列Lの周辺領域55には、該周辺領域55における出力位置に、列Lの状況に応じた出力情報が出力される。
次に、判断機能35が、特定機能32から構造情報を取得する(ステップS314)。
次に、第1判断機能35Aが、ステップS314で取得した構造情報に基づいて、出力位置の位置更新条件を満たすか否かを判断する(ステップS316)。ステップS316で肯定判断すると(ステップS316:Yes)、ステップS318へ進む。ステップS318では、位置更新機能36Aが、出力位置の更新指示を決定機能33へ出力する(ステップS318)。
決定機能33の位置決定機能33Cは、ステップS314で取得した構造情報を用いて、上記と同様にして出力位置を決定する(ステップS320)。そして、決定機能33は、新たに決定した出力位置を用いて上記と同様の処理を実行することで、出力部24へ出力する投影画面を生成する。これによって、位置更新機能36Aは、出力位置を更新する。
そして、出力制御機能34は、出力位置の更新された投影画面を出力するように、出力部24を制御する(ステップS322)。そして、ステップS324へ進む。
ステップS324では、処理回路30が、情報処理を終了するか否かを判断する(ステップS324)。例えば、処理回路30は、ユーザによる入力部26の操作指示などによって、情報処理の終了を示す信号を受付けたか否かを判別することで、ステップS324の判断を行う。ステップS324で否定判断すると(ステップS324:No)、上記ステップS314へ戻る。ステップS324で肯定判断すると(ステップS324:Yes)、本ルーチンを終了する。
一方、上記ステップS316で否定判断すると(ステップS316:No)、ステップS326へ進む。ステップS326では、ステップS314で取得した構造情報に基づいて、第2判断機能35Bが、出力情報の出力情報更新条件を満たすか否かを判断する(ステップS326)。ステップS326で肯定判断すると(ステップS326:Yes)、ステップS328へ進む。
ステップS328では、出力情報更新機能36Bが、出力情報の更新指示を決定機能33へ出力する(ステップS328)。決定機能33の出力情報決定機能33Bは、ステップS314で取得した構造情報を用いて、上記と同様にして出力情報を決定する(ステップS330)。そして、決定機能33は、新たに決定した出力情報を用いて上記と同様の処理を実行することで、出力部24へ出力する投影画面を生成する。これによって、出力情報更新機能36Bは、出力情報を更新する。
そして、出力制御機能34は、出力情報の更新された投影画面を出力するように、出力部24を制御する(ステップS332)。そして、ステップS324へ進む。
一方、上記ステップS326で否定判断すると(ステップS326:No)、ステップS334へ進む。ステップS334では、ステップS314で取得した構造情報に基づいて、第3判断機能35Cが、表示種別の種別変更条件を満たすか否かを判断する(ステップS334)。ステップS334で肯定判断すると(ステップS334:Yes)、ステップS336へ進む。
ステップS336では、種別変更機能36Cが、表示種別の変更指示を決定機能33へ出力する(ステップS336)。決定機能33の選択機能33Aは、新たな表示種別を決定する(ステップS338)。そして、決定機能33は、新たに決定した表示種別を用いて上記と同様の処理を実行することで、出力部24へ出力する投影画面を生成する。これによって、種別変更機能36Cは、表示種別を変更する。
そして、出力制御機能34は、表示種別の変更された投影画面を出力するように、出力部24を制御する(ステップS340)。そして、上記ステップS324へ進む。なお、上記ステップS334で否定判断した場合も(ステップS334:No)、上記ステップS324へ進む。なお、図12のフローチャートにおいて、例えばステップS316〜ステップS340は、必ずしもこの順番に行われることを要しない。
以上説明したように、本実施の形態の情報処理装置20は、決定機能33と、出力制御機能34と、を備える。決定機能33は、対象画像60に含まれる対象50によって形成される列Lの構造を示す構造情報に基づいて、列Lの状態に関する出力情報の、実空間Sにおける出力位置を決定する。出力制御機能34は、出力情報を出力位置に出力するよう制御する。
このように、本実施の形態の情報処理装置20は、列Lの構造を示す構造情報に基づいて、列Lの状態に関する出力情報の、実空間Sにおける出力位置を決定する。このため、本実施の形態の情報処理装置20では、固定された位置ではなく、列Lの構造情報に応じた出力位置に、列Lの状態に関する出力情報を出力することができる。
このため、図8に示すように、実空間Sにおける、路面R上の、列Lの周辺領域55内に、出力情報64を含む投影画面65が投影される。このため、列Lを構成する対象50は、列Lにおける各々の順番を自ら数えることなく、路面Rなどに投影された出力情報64を視認することで、待ち時間や順番などの、列Lの状態に関する出力情報を確認することができる。
従って、本実施の形態の情報処理装置20は、列Lの状態に応じた情報を適切に提供することができる。
なお、図8には、路面Rに出力情報64が投影された形態を示した。しかし、出力情報64の出力位置は、路面Rに限定されない。例えば、出力制御機能34は、列Lの近傍に存在するビルや塀などの壁に、投影画面65を投影してもよい。
なお、本実施の形態では、出力部24が、投影装置である場合を一例として説明した。しかし、出力部24の少なくとも一部は、ディスプレイであってもよい。出力部24の少なくとも一部がディスプレイである場合には、出力位置は、実空間Sの周辺領域55内に配置されたディスプレイを識別するための識別情報、および、該ディスプレイの表示画面における位置(二次元位置)、を含むものであればよい。
そして、生成機能33Dは、画面として表示画面を生成すればよい。また、処理回路30が、出力部24としての投影装置およびディスプレイを制御する場合には、生成機能33Dは、投影画面および表示画面を生成すればよい。
表示画面を生成する場合、生成機能33Dは、実空間S上における上記出力位置に上記出力情報を出力するための表示画面を生成する。詳細には、生成機能33Dは、出力情報決定機能33Bによって決定された出力情報が、位置決定機能33Cによって決定された出力位置に、選択機能33Aによって選択された表示種別によって規定される出力サイズで出力されるように、表示画面を生成すればよい。なお、出力位置は、位置決定機能33Cによって決定された出力位置に配置された出力部24(ディスプレイ)または、ディスプレイの表示面における該出力位置に対応する位置であればよい。
そして、出力制御機能34は、決定機能33で生成された表示画面を表示するように、出力部24を制御すればよい。図13は、実空間Sに配置された出力部24としてのディスプレイに、表示画面66を表示した状態を示す模式図である。図13に示すように、出力制御機能34は、実空間Sに配置された出力部24としてのディスプレイに、表示画面66を表示してもよい。
また、出力制御機能34は、実空間Sに存在する複数の出力部24の各々に、表示画面を表示してもよい。図14は、実空間S上に複数の出力部24としてのディスプレイが配置された環境を示す模式図である。この場合、出力制御機能34は、実空間Sにおける、決定機能33で決定された出力位置の各々に対応する出力部24(出力部24A、24B)に、対応する出力情報を出力するように制御すればよい。
また、出力制御機能34は、処理回路30で生成した表示画面を表示するためのアプリケーションのインストールされた端末装置のディスプレイに、生成した表示画面を表示するように制御してもよい。この場合、出力制御機能34は、該アプリケーションのインストールされた端末装置に、生成した表示画面を送信すればよい。これによって、例えば、ユーザの所持する端末装置の内、決定機能33で決定された出力位置に応じた位置に存在する端末装置に、情報処理装置20で生成された、上記出力情報を含む表示画面が表示される。
次に、上記実施の形態の情報処理装置20の、ハードウェア構成の一例を説明する。図15は、上記実施の形態の情報処理装置20のハードウェア構成図の一例である。
上記実施の形態の情報処理装置20は、CPU(Central Processing Unit)86などの制御装置と、ROM(Read Only Memory)88やRAM(Random Access Memory)90やHDD(ハードディスクドライブ)92などの記憶装置と、各種機器とのインターフェースであるI/F部82と、出力情報などの各種情報を出力する出力部80と、ユーザによる操作を受付ける入力部94と、各部を接続するバス96とを備えており、通常のコンピュータを利用したハードウェア構成となっている。
上記実施の形態の情報処理装置20では、CPU86が、ROM88からプログラムをRAM90上に読み出して実行することにより、上記各機能がコンピュータ上で実現される。
なお、上記実施の形態の情報処理装置20で実行される上記各処理を実行するためのプログラムは、HDD92に記憶されていてもよい。また、上記実施の形態の情報処理装置20で実行される上記各処理を実行するためのプログラムは、ROM88に予め組み込まれて提供されていてもよい。
また、上記実施の形態の情報処理装置20で実行される上記処理を実行するためのプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、CD−R、メモリカード、DVD(Digital Versatile Disk)、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されてコンピュータプログラムプロダクトとして提供されるようにしてもよい。また、上記実施の形態の情報処理装置20で実行される上記処理を実行するためのプログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するようにしてもよい。また、上記実施の形態の情報処理装置20で実行される上記処理を実行するためのプログラムを、インターネットなどのネットワーク経由で提供または配布するようにしてもよい。
なお、上記には、本発明の実施の形態を説明したが、上記実施の形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施の形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
20 情報処理装置
24 出力部
32 特定機能
33 決定機能
33A 選択機能
33B 出力情報決定機能
33C 位置決定機能
34 出力制御機能
35 判断機能
35A 第1判断機能
35B 第2判断機能
35C 第3判断機能
36 更新機能
36A 位置更新機能
36B 出力情報更新機能
36C 種別変更機能

Claims (18)

  1. 対象画像に含まれる対象によって形成される列の構造を示す構造情報に基づいて、前記列の状態に関する出力情報の実空間における出力位置を決定する決定部と、
    前記出力情報を前記出力位置に出力するよう制御する出力制御部と、
    を備える情報処理装置。
  2. 前記対象画像に基づいて、前記列の前記構造情報を特定する特定部を備え、
    前記決定部は、特定した前記構造情報に基づいて、前記出力位置を決定する、
    請求項1に記載の情報処理装置。
  3. 前記決定部は、
    前記構造情報に基づいて、実空間における前記対象の周辺領域に、前記出力位置を決定する、請求項1または請求項2に記載の情報処理装置。
  4. 前記出力位置は、実空間における前記周辺領域内の位置座標、および、実空間の前記周辺領域内に配置された表示部の位置、の少なくとも一方を示す、請求項3に記載の情報処理装置。
  5. 前記決定部は、
    前記構造情報に基づいて、前記出力位置と、前記出力位置に出力する前記出力情報と、を決定する、請求項1〜請求項4の何れか1項に記載の情報処理装置。
  6. 前記決定部は、
    前記列の状態に関する出力内容と、前記出力内容を示す出力情報の配置規則と、を少なくとも規定した表示種別を選択する選択部と、
    選択した前記表示種別によって規定される前記出力内容を示す前記出力情報を決定する出力情報決定部と、
    前記構造情報と、選択した前記表示種別によって規定される前記配置規則と、によって定まる実空間上の位置を、前記出力位置として決定する位置決定部と、
    を備える、請求項1〜請求項5の何れか1項に記載の情報処理装置。
  7. 前記決定部は、
    実空間上における前記出力位置に前記出力情報を出力するための投影画面を生成する生成部を備え、
    前記出力制御部は、
    前記投影画面を実空間における前記出力位置に応じた位置に投影するように出力部を制御する、
    請求項1〜請求項6の何れか1項に記載の情報処理装置。
  8. 前記決定部は、
    実空間上における前記出力位置に前記出力情報を出力するための表示画面を生成する生成部を備え、
    前記出力制御部は、前記表示画面を、実空間における前記出力位置に応じた位置に配置された表示部に表示する、
    請求項1〜請求項6の何れか1項に記載の情報処理装置。
  9. 前記出力情報は、前記列における待ち順の値、前記列の終端を示す値、前記列の予測待ち時間を示す値、広告情報、の少なくとも1つを含む、請求項1〜請求項8の何れか1項に記載の情報処理装置。
  10. 前記出力位置の位置更新条件を満たすか否かを判断する第1判断部と、
    前記位置更新条件を満たすと判断した場合、前記出力位置を更新する位置更新部と、
    を備える、請求項1〜請求項9の何れか1項に記載の情報処理装置。
  11. 前記出力情報の出力情報更新条件を満たすか否かを判断する第2判断部と、
    前記出力情報更新条件を満たすと判断した場合、前記出力情報を更新する出力情報更新部と、
    を備える、請求項1〜請求項10の何れか1項に記載の情報処理装置。
  12. 前記出力情報の表示種別の種別変更条件を満たすか否かを判断する第3判断部と、
    前記種別変更条件を満たすと判断した場合、前記表示種別を変更する種別変更部と、
    を備える、請求項6に記載の情報処理装置。
  13. 前記構造情報は、前記列の形状、前記列の始点位置、および、前記列の終点位置、の少なくとも1つを示す、請求項1〜請求項12の何れか1項に記載の情報処理装置。
  14. 前記対象画像を取得する撮影部を更に備える、請求項1〜請求項13の何れか1項に記載の情報処理装置。
  15. 前記出力情報を出力する出力部を更に備える、請求項1〜請求項14の何れか1項に記載の情報処理装置。
  16. 前記出力部は、投影装置またはディスプレイである、請求項15に記載の情報処理装置。
  17. 対象画像に含まれる対象によって形成される列の構造を示す構造情報に基づいて、前記列の状態に関する出力情報の、実空間における出力位置を決定するステップと、
    前記出力情報を前記出力位置に出力するよう制御するステップと、
    を含む情報処理方法。
  18. 対象画像に含まれる対象によって形成される列の構造を示す構造情報に基づいて、前記列の状態に関する出力情報の、実空間における出力位置を決定するステップと、
    前記出力情報を前記出力位置に出力するよう制御するステップと、
    をコンピュータに実行させるための、情報処理プログラム。
JP2016179875A 2016-09-14 2016-09-14 情報処理装置、情報処理方法、および情報処理プログラム Active JP6707427B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016179875A JP6707427B2 (ja) 2016-09-14 2016-09-14 情報処理装置、情報処理方法、および情報処理プログラム
US15/445,559 US20180075423A1 (en) 2016-09-14 2017-02-28 Information processing device, information processing method, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016179875A JP6707427B2 (ja) 2016-09-14 2016-09-14 情報処理装置、情報処理方法、および情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2018045099A true JP2018045099A (ja) 2018-03-22
JP6707427B2 JP6707427B2 (ja) 2020-06-10

Family

ID=61560933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016179875A Active JP6707427B2 (ja) 2016-09-14 2016-09-14 情報処理装置、情報処理方法、および情報処理プログラム

Country Status (2)

Country Link
US (1) US20180075423A1 (ja)
JP (1) JP6707427B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110753206B (zh) * 2018-07-24 2021-04-27 杭州海康威视系统技术有限公司 客流统计方法及装置、摄像机

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04241700A (ja) * 1991-01-14 1992-08-28 Omron Corp 電子金銭登録機の待ち時間案内ファジィ制御装置
JPH08123374A (ja) * 1994-10-26 1996-05-17 Toshiba Corp 待ち時間案内装置
US20130117695A1 (en) * 2011-11-03 2013-05-09 International Business Machines Corporation Moving an activity along terminals associated with a physical queue
US20160191865A1 (en) * 2014-12-30 2016-06-30 Nice-Systems Ltd. System and method for estimating an expected waiting time for a person entering a queue

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6950021B2 (en) * 2003-09-23 2005-09-27 Walker Butler Electronic wall using high-resolution millimeter-wave radar in conjunction with multiple plane reflectors and retroreflectors
US8958057B2 (en) * 2006-06-27 2015-02-17 Arete Associates Camera-style lidar setup
US20110228984A1 (en) * 2010-03-17 2011-09-22 Lighthaus Logic Inc. Systems, methods and articles for video analysis
KR20130085553A (ko) * 2011-12-20 2013-07-30 한국전자통신연구원 프로젝션 기반의 디지털 홀로그램 디스플레이 시스템 및 그 방법
US9965684B2 (en) * 2014-12-18 2018-05-08 Sensormatic Electronics, LLC Method and system for queue length analysis

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04241700A (ja) * 1991-01-14 1992-08-28 Omron Corp 電子金銭登録機の待ち時間案内ファジィ制御装置
JPH08123374A (ja) * 1994-10-26 1996-05-17 Toshiba Corp 待ち時間案内装置
US20130117695A1 (en) * 2011-11-03 2013-05-09 International Business Machines Corporation Moving an activity along terminals associated with a physical queue
US20160191865A1 (en) * 2014-12-30 2016-06-30 Nice-Systems Ltd. System and method for estimating an expected waiting time for a person entering a queue

Also Published As

Publication number Publication date
US20180075423A1 (en) 2018-03-15
JP6707427B2 (ja) 2020-06-10

Similar Documents

Publication Publication Date Title
US10565721B2 (en) Information processing device and information processing method for specifying target point of an object
EP2182469B1 (en) System and method for sensing facial gesture
US9117281B2 (en) Surface segmentation from RGB and depth images
JP6584123B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JPWO2018051944A1 (ja) 人流推定装置、人流推定方法およびプログラム
US11049275B2 (en) Method of predicting depth values of lines, method of outputting three-dimensional (3D) lines, and apparatus thereof
US20180039860A1 (en) Image processing apparatus and image processing method
JP2016179534A (ja) 情報処理装置、情報処理方法、プログラム
US11748998B1 (en) Three-dimensional object estimation using two-dimensional annotations
US11170246B2 (en) Recognition processing device, recognition processing method, and program
WO2019097595A1 (ja) 車外コミュニケーション装置、車外コミュニケーション方法、情報処理装置、及び車外コミュニケーションプログラム
JP2011022995A (ja) 消失点推定装置およびプログラム
JP2019040229A5 (ja)
CN114830177A (zh) 电子设备和用于控制该电子设备的方法
JP6707427B2 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
JP2021144741A (ja) 情報処理システム、制御方法、及びプログラム
JP2016170603A (ja) 移動物体追跡装置
US20230091536A1 (en) Camera Placement Guidance
JP6920949B2 (ja) 物体分布推定装置
WO2022202056A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2006065419A (ja) 人検出装置
WO2019116518A1 (ja) 物体検出装置及び物体検出方法
US20240137646A1 (en) Method and electronic device for generating point cloud
JP7344570B2 (ja) 情報処理装置、情報処理方法、およびプログラム
KR20240049128A (ko) 포인트 클라우드를 생성하는 방법 및 전자 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180905

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200520

R151 Written notification of patent or utility model registration

Ref document number: 6707427

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151