JP6093886B2 - デジタル標識についてオーディエンスサイズを測定するための方法および装置 - Google Patents

デジタル標識についてオーディエンスサイズを測定するための方法および装置 Download PDF

Info

Publication number
JP6093886B2
JP6093886B2 JP2016006462A JP2016006462A JP6093886B2 JP 6093886 B2 JP6093886 B2 JP 6093886B2 JP 2016006462 A JP2016006462 A JP 2016006462A JP 2016006462 A JP2016006462 A JP 2016006462A JP 6093886 B2 JP6093886 B2 JP 6093886B2
Authority
JP
Japan
Prior art keywords
video frame
frame sequence
faces
generating
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016006462A
Other languages
English (en)
Other versions
JP2016103292A (ja
Inventor
マリク、シャハザード
ランジャン、アビシェーク
ジェイ. ヒューバート、フィリップ
ジェイ. ヒューバート、フィリップ
パテル、ウメシュバイ
ジェイ. コルソン、ウィリアム
ジェイ. コルソン、ウィリアム
エフ. ミルザ、ハルーン
エフ. ミルザ、ハルーン
エヌ. ジャバー、ファイザル
エヌ. ジャバー、ファイザル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of JP2016103292A publication Critical patent/JP2016103292A/ja
Application granted granted Critical
Publication of JP6093886B2 publication Critical patent/JP6093886B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0242Determining effectiveness of advertisements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Finance (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明の実施形態は、デジタル標識についてオーディエンスサイズを測定するためのシステムに関する。
デジタル標識は、レストランまたはショッピングセンター等の公共の場所においてニュース、広告、地元関連の発表、および、その他のメディアコンテンツを表示するべく液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、プラズマディスプレイまたはプロジェクタ型ディスプレイ等の電子ディスプレイデバイスを利用することを説明するためによく用いられる用語である。
ターゲティング広告は、潜在的な視聴者を特定し易くなり、潜在的な視聴者に対してタイミング良く関連する広告を提供することで、広告者の投資利益率(ROI)を改善する。デジタル標識産業において、ターゲティング広告は、デジタル標識の前を通過する潜在的な視聴者に応じて、場合によっては、潜在的な視聴者の性格に応じて、広告を動的に選択して再生する機能を持つデジタル標識を含む。
オーディエンス測定は、特定の場所に設置されているデジタル標識について重要な事項である。オーディエンス測定によって、広告者は視聴者に対する広告コンテンツの露出に関して定量化データを取得すると共に、デジタル標識の操作者および広告者に対しては投資利益率(ROI)データが提供される。オーディエンス測定における2つの関連するメトリックとして、デジタル標識を実際に視聴した、または、見た人の数を計数する視聴者数測定、および、デジタル標識を通過したが必ずしもデジタル標識を見なかった人の総数を計数する視聴機会(OTS)測定が挙げられる。これら2つの値によって、広告者は、実際に何人が広告コンテンツを見たのかをより良く理解することができ、潜在的なオーディエンスサイズとデジタル標識を見た実際の視聴者との比率を測定する。視聴者数およびOTSを自動で、単純に、且つ、高いコスト効率で測定する方法が必要とされている。
本発明の実施形態は、以下に記載する詳細な説明、および、本発明のさまざまな実施形態を示す添付図面からより完全に理解されるであろう。しかし、添付図面は本発明を具体的な実施形態に限定すると解釈されるべきではなく、説明および理解を目的としたものに過ぎない。
本発明の実施形態に応じて用いられるコンピューティングシステムを示す機能ブロック図である。 本発明の実施形態を示す機能ブロック図である。 本発明の実施形態を説明するためのフローチャートである。
本発明の実施形態は、デジタル標識操作者に定量的視聴者数情報および投資利益率(ROI)のデータを提供するために用いられる、デジタル標識ネットワーク用の受動型且つ自動のオーディエンス測定システムを提供する。本発明の実施形態は、デジタル標識を通過する人々のビデオデータの収集、測定および分析を実行して、デジタル標識の広告のROIを改善する。
本発明の実施形態は、デジタルディスプレイスクリーンまたはデジタルディスプレイデバイスを含むデジタル標識において特定の広告をターゲットとすること、または、運営することにどの程度効果があるかを推定する際に、ビデオ画像の処理および分析を行うソフトウェアを利用する。デジタル標識において、デジタルディスプレイデバイスの近くに正面を向いたカメラ等のセンサ、および、Intel Core I5プロセッサおよびIntel Core I7プロセッサ等のプロセッサに結合されたビデオ画像ソフトウェアを設けることによって、本発明の実施形態に係るデジタル標識は、視聴者数を検出し、オーディエンスサイズまたは必ずしもまたは実際にはデジタル標識に表示される広告を見ることなくデジタル標識を通過した人の数を算出する知能を持つ。デジタル標識に表示される広告を見ることなくデジタル標識を通過する人の数は、本明細書において、視聴機会(OTS)カウントと呼ぶ。この視聴者数およびOTSカウントの情報は、広告の有効性を計測し、それに応じて広告(ad)コンテンツを適応させるために用いるとしてよい。
図1および図2を参照すると、本発明の実施形態は、カメラ105、205から受信するビデオフィードを処理して視聴者数およびOTSカウントを測定するソフトウェアモジュール200を備える。一実施形態によると、ソフトウェアモジュールは、ビデオフィードを、カメラ105、205から直接受信するリアルタイムビデオフィードとして処理する。別の実施形態によると、ビデオフィードは、最初に永久ストア130、230に格納され、後に処理するべくソフトウェアモジュール200によって永久ストア130、230から取り出されるとしてもよい。ソフトウェアモジュール200は、自身が永久ストア130、230に格納されており、メモリ125にバス135を介してロードされてCPU120によって実行されるとしてよい。これに代えて、ソフトウェアモジュールは、当該ソフトウェアモジュールまたはそのユーザインターフェースがロードおよびCPU120による実行に適用可能である限りにおいて、別の箇所、例えば、ウェブ上のアプリケーションサーバに格納されているとしてもよい。ソフトウェアは、プラットフォーム100および市販の標準的なオペレーティングシステム等の標準的なコンピューティングプラットフォームの汎用CPUで実行され得る。ソフトウェアモジュール200は、一実施形態ではプラットフォーム100から離れた位置にあり、入出力インターフェース115および通信リンク140を介してアクセス可能なカメラ105、205等の電子撮像デバイスにアクセスする。例えば、カメラ105、205は、ウェブベースカメラであってよい。通信リンク140は、有線リンクまたは無線リンクのいずれかである、ローカルエリアネットワーク(LAN)等の、カメラ105、205から受信したビデオフィードを移動可能な任意の通信リンクであってよい。これに代えて、カメラ105、205は、直接I/Oインターフェース115、または、コンピュータバス135に結合されているとしてもよい。
図1に図示している実施形態は、通信リンク140およびI/Oインターフェース115を介してコンピューティングプラットフォーム100に結合されているデジタル標識ディスプレイスクリーン110(ディスプレイ110)を提供する。他の実施形態では、ディスプレイ110は、異なる通信リンクを介してコンピューティングプラットフォーム100に結合されているか、または、I/Oインターフェース115またはコンピュータバス135を介してコンピューティングプラットフォーム100に直接結合されていると考えられる。さらに別の実施形態によると、ディスプレイ110は、カメラ105、205によって、結合先のコンピューティングプラットフォームを介して、コンピューティングプラットフォーム100に提供されるビデオフィードが、本発明の実施形態に応じて広告の有効性を測定し広告(ad)コンテンツをこれに応じてディスプレイ110で適応させるための入力として利用される限りにおいて、コンピューティングプラットフォーム100とは異なるコンピューティングプラットフォームに接続されているとしてもよいし、または、通信しているとしてもよいし、そして、制御されているとしてもよい。このような実施形態では、デジタル標識ディスプレイ110に表示されているadコンテンツを制御する別のコンピューティングプラットフォームと通信するべく、コンピューティングプラットフォーム100およびその上で実行されているソフトウェアモジュール200を含む。
図2に図示しているように、ソフトウェアモジュール200は、視聴者または顔の検出モジュール210、OTSキャリブレーションモジュール215、および、OTSカウンタモジュール220という3つの機能コンポーネントまたはモジュールを備える。図2および図3のフローチャート300を参照すると、本発明の実施形態は以下のように動作する。実施形態は、305において、カメラ105、205が、リアルタイムで、または、永久ストア130、230を介して遅れて、ビデオフレームシーケンスを含むビデオフィードを提供することで、開始される。顔検出モジュール210は、310において、ビデオフレームシーケンスを受信して、315において、ビデオフレームシーケンスにおいて、デジタル標識のディスプレイ110に向いている、または、見ている顔を検出する。カメラ105、205は、一実施形態によると、ディスプレイ110内に、または、ディスプレイ110の正面に、固定されているか、または、取り付けられている。そして、ディスプレイ110から外側を向いており、カメラ105、205によって撮像されるビデオフィードは、ディスプレイ110を通過する人、または、ディスプレイ110の正面にいる人のビデオを撮像する。一実施形態によると、顔検出モジュール210は、正面顔検出アルゴリズムを用いて、ディスプレイ110に向かって、および/または、同一箇所に設けられているカメラ105、205に向かって、向きを変えたり、向いたりする人の顔を識別する。
顔検出モジュール210は、一実施形態によると、315において、ビデオフレームシーケンスを処理して、処理されたビデオフレーム毎に検出したそれぞれの顔について矩形データを生成する。矩形データは実質的に、ビデオフレームにおいて検出された顔の周囲を取り囲む矩形を表す。一実施形態によると、矩形データは、x,yの対の座標値である。矩形上または矩形内の特定の場所(例えば、矩形の左上の角)のピクチャ要素(画素)位置、および、複数の画素で表される当該矩形の幅および高さを含む。顔検出モジュール210は、一実施形態によると、キャリブレーションモジュール215が320においてプロセスを継続するまで、この矩形データを永久ストア230に出力するとしてよい。別の実施形態によると、矩形データは、メモリ125に保持されキャリブレーションモジュール215によってアクセスされる。顔検出モジュール210は、ビデオフレームシーケンスのサイズまたは長さによっては、矩形データの一部をメモリ125に保存またはキャッシュしつつ、矩形データの他の部分を永久ストア130、230に格納するとしてよい。一例として、ビデオフィードが1秒当たり30枚のフレームを生成し、ビデオフィードの長さが10秒であり、ビデオフレームシーケンスで検出される顔が3つである場合、顔検出モジュール210は、900個の矩形に対応する矩形データを生成する。
このプロセスは320に続き、OTSキャリブレーションモジュール215が、顔検出モジュール210が生成した矩形データを受信する。一実施形態によると、モジュール215は矩形データを受信して処理する。プロセスのこの部分は、例えば、日付、時刻、プラットフォーム100のメモリ125またはストレージ130、230の要件または制限等の基準、または、ユーザ入力に応じて、矩形データが編集された後のあるタイミングにおいて、直後あるいはある程度の時間が経過した後で、または、定期的に、実行されるとしてよい。OTSキャリブレーションモジュール215は、ビデオフレームシーケンスにおいて検出したそれぞれの顔について1つのパス、つまり、複数のパスを決定する。各パスは、受信したビデオフレームシーケンスの少なくとも一部分において経時的に検出される特定の顔に対応付けられる矩形データのシーケンスまたはセットによって定義されている。キャリブレーションモジュール215は、このパス情報をデータ構造に格納する。一実施形態によると、パスを表す一連の矩形(ビデオフレームシーケンスにわたる検出される同じ顔に対応する矩形データのシーケンスによって表される)はそれぞれ、別箇のデータ構造に格納される。例えば、各パスの情報は別箇の円形のキューデータ構造に格納されるとしてよい。これらのキューは、メモリ125に保持されるとしてもよいし、または、本発明の異なる実施形態では永久ストア230に移動させるとしてもよい。ビデオフィードが1秒当たり30枚のフレームを生成し、ビデオフィードの長さが10秒で、ビデオフィード内のビデオフレームシーケンスにおいて検出される顔が3つである上述した例では、3つの円形のキューはそれぞれ、一の特定の顔に対応付けられる300個の矩形に対応する矩形データを含むパス情報を保持する。
一実施形態によると、OTSキャリブレーションモジュール215は、当該プロセスがさらに進む前に、閾値に等しい数のパスを編集または収集するように構成されている。例えば、モジュール215は、パス情報を保持するために割り当てられた複数の別箇の円形のキューの数に基づいた、または、この数に限定される数のパスを収集するとしてよい。別の実施形態によると、パス情報をキャリブレーションするための閾値を満たす十分な数のパス、例えば、100個のパスが収集される。測定方法に関わらず、パスの数が閾値に到達すると、プロセスは325に続く。別の実施形態によると、プロセスは所定の時間間隔に基づいて325に続く。いずれの場合も、325において、OTSキャリブレーションモジュール215は、例えば、ストア230からパスを受信して、パスを分析し、分析に基づいて、ビデオフレームシーケンスにおいて、閾値に等しい数の顔が特定の方向に通過する一連の最適な矩形ゾーンを算出する。例えば、一実施形態によると、これらの矩形ゾーンは、ビデオフレームにおいて、最大数の顔がそれらの中を特定の方向(以下の数式および対応する説明では「最適方向」(OD)と呼ぶ)に通過する最も重要なエリアを表している。矩形ゾーンは、本発明の一実施形態において、単にx、yの対の座標値で表しており、例えば、検出された顔の中心を中心とする矩形、および、検出された顔の中心あるいはその周辺に位置するx、yの対の値、または、x、yの対の座標値と、複数の画素で表す矩形の幅および高さとによって表される。(幅および高さは、以下に記載する数式および対応する説明において、「最適幅」(OW)および「最適高さ」(OH)と呼ばれる。)
一実施形態によると、それぞれの矩形ゾーンに対応付けられている方向は部分的に、矩形データの限定された範囲または狭い範囲に対応する一連の1または複数のパスによって決まるとしてよい。この範囲は、一実施形態によるとユーザによって設定が可能であるとしてもよいし、または、別の実施形態によると自動的(統計的)にOTSキャリブレーションモジュール220によって決定されるとしてもよい。例えば、2個の顔が同じ方向に移動しており、ビデオフレームシーケンス内のビデオフレームの同じ場所にある場合、これら2つの顔のパスは、同じ矩形ゾーンに属するか、または、対応付けられるとしてよい。しかし、2個の顔が概して別々の方向(例えば、反対方向または直交する方向)に移動する場合、ビデオフレームシーケンス内のビデオフレームの概して同じ場所において移動していても、これらの顔、および、これら2つの顔のパスは、異なる矩形ゾーンに対応付けられる。一実施形態によると、一連の矩形ゾーンには、最高で4個以上のゾーン、例えば、東ゾーン、西ゾーン、北ゾーンおよび南ゾーン(または左ゾーン、右ゾーン、上ゾーンおよび下ゾーン)が存在すると考えられる。
本発明の一実施形態によると、一連の矩形ゾーンは、後に利用するために、プロセスの330において、OTSカウンタモジュール220によって格納される。カウンタモジュール220は、一連の矩形ゾーンおよびビデオフレームシーケンスを受信して、ビデオフレームシーケンスにおいて各ゾーンを通過するが必ずしもデジタル標識を見ているとは限らない人の数を推定する。ビデオフレームシーケンスは、全体的または部分的に同じであってもよいし、または、異なる(例えば、先行ビデオフレームシーケンス、後続ビデオフレームシーケンスまたは部分重複ビデオフレームシーケンス)としてもよい。一実施形態によると、OTSカウンタモジュール220は、ビデオフレームシーケンスにおいて各ゾーンを通過するが必ずしもデジタル標識を見ているとは限らない人の数を推定するべく、平均的な画素動き(以下では、x軸水平平面に沿った動きMxおよびy軸垂直平面に沿った動きMyと呼ぶ)、および、ビデオフレームシーケンスにおける各ゾーン内の動き方向(OD)を測定する。一実施形態によると、この測定は、公知のオプティカルフロー法または画素動き推定アルゴリズムを用いて実行される。
一実施形態によると、カウンタモジュール220はさらに、大きな体の動きに関する方向のゾーンについては、顔の動きとは対照的な、体の動きを測定して調整または補償する。例えば、カメラに向かう方向で歩いている人を含むゾーンでは、y軸または垂直平面において大きな体の動きが見られる。このようなゾーンではOTSカウントの精度を向上させるべく、当該ゾーン内の平均的な画素の動きおよび動き方向の測定において体の動きを考慮するとしてよい。一実施形態によると、特定のゾーンにおける大きな体の動きを補償することは、体の長さと顔の長さとの比率を表すキャリブレーション後の頭/体係数を設定することを含む。一実施形態によると、頭/体係数の値は6と8との間である。
一実施形態によると、各ゾーンのOTSカウントを算出するために用いられる数式は以下の通りである。
Figure 0006093886
式中、特定のゾーン(本例では、y軸または垂直方向のゾーン)についての体の動きの補償の算出結果を、以下に説明するように、同じゾーンについての「増加分(Increment)」を算出する際に用いる。
Figure 0006093886
上記の数式による結果、つまり、所与のゾーンについての増加分が0より大きい場合、当該ゾーンについてのOTSカウントは増加分の値だけインクリメントされる。しかし、増加分が0または0未満である場合、OTSカウントはそのままとする。言い換えると、以下のようになる。
Figure 0006093886
上記の数式は、動きの向きが逆方向であれば、OTSカウントが負の値にならないようにOTSカウントは「インクリメント」されないようにするための境界条件となる。
上述したように、本発明の実施形態は、ビデオフレームシーケンス内のゾーンをキャリブレーションする。ゾーンがキャリブレーションされると、OTSカウンタモジュール220は、各ゾーン内の画素動きを決定してOTSカウントを推定する。本発明の実施形態は、OTSカウントの精度が高くなり、全体的なCPU利用率が低くなる。これは、1)キャリブレーションモジュール215によって収集された視聴者数および動き情報によって、本発明の実施形態は、最適ゾーンまたは検索領域を決定することができ、ビデオ処理アルゴリズムの負担が軽減され、2)カウンタモジュール220の処理は、複雑な画像セグメント化またはトラッキングではなく画素動きを利用することにより、光の変化または影が発生しにくくより効率的な解決方法が得られ、3)最適ゾーンのキャリブレーションは継続的に行われ、例えば、人の動きパターンが場所の変化に応じて変化する場合、本発明の実施形態は、デジタル標識のディスプレイ110における環境またはディスプレイ110の正面の環境に動的に適応することができるためである。
以下に記載する例は、本発明の別の実施形態に関する。
本発明の一実施形態は、デジタル標識のオーディエンスサイズを測定する方法を提供する。当該方法は、デジタル標識に近接しているカメラによって撮像された第1のビデオフレームシーケンスにおいて検出される顔のそれぞれについて1つのパスを生成して、複数のパスを生成する段階と、第1のビデオフレームシーケンスにおいて閾値に等しい数のパスが通過するゾーンを生成する段階と、第2のビデオフレームシーケンスにおいてゾーンを通過するオーディエンスサイズを算出するべく、第2のビデオフレームシーケンスにおいてゾーン内の動きおよび動き方向を測定する段階とを備える。一実施形態はさらに、デジタル標識に近接しているカメラによって撮像された第1のビデオフレームシーケンスにおいて顔を検出する段階と、第1のビデオフレームシーケンスの各ビデオフレームにおいて検出された顔のそれぞれについて、矩形データを生成する段階とを備え、検出された顔のそれぞれについてパスを生成して複数のパスを生成する段階は、矩形データに基づいて、検出された顔のそれぞれについてパスを生成する段階を有する。一実施形態によると、第1のビデオフレームシーケンスにおいて顔を検出する段階は、第1のビデオフレームシーケンスにおいてデジタル標識を向いている顔を検出する段階を有し、第1のビデオフレームシーケンスにおいてデジタル標識を向いている顔を検出するべく正面顔検出アルゴリズムを用いる。
一実施形態によると、特定の検出された顔について生成される矩形データは、検出された顔を取り囲む矩形を表す。矩形データは、検出された顔を取り囲む矩形の場所のピクチャ要素(画素)位置、x,yの対の座標値で表される場所の画素位置、および、画素数で表される矩形の幅および高さを含む。本発明の一実施形態によると、矩形データに基づいて、検出された顔のそれぞれについて生成されたパスは、第1のビデオフレームシーケンスの少なくとも一部分にわたる特定の検出された顔に対応付けられている一連の矩形データによって定義される。一実施形態によると、検出された顔のそれぞれについてパスを生成する段階は、パスを定義する特定の検出された顔に対応付けられている一連の矩形データを別箇のデータ構造に格納する段階を有する。
本発明の一実施形態によると、第1のビデオフレームシーケンスにおいて閾値に等しい数のパスが通過するゾーンを生成する段階は、複数のパスを分析することによって、第1のビデオフレームシーケンスにおいて、閾値に等しい数の顔が全体的な動き方向に通過する矩形ゾーンを生成する段階を有する。矩形ゾーンは、動き方向、矩形ゾーン内の場所のピクチャ要素(画素)位置、および、画素数で表される矩形ゾーンの幅および高さによって表される。画素位置は、x,yの対の座標値で表される。
一実施形態によると、第2のビデオフレームシーケンスにおいてゾーンを通過するオーディエンスサイズを算出するべく第2のビデオフレームシーケンスにおいてゾーン内の動きおよび動き方向を測定する段階に関連して、第2のビデオフレームシーケンスは、第1のビデオフレームシーケンスの少なくとも一部分を含む。一実施形態によると、第2のビデオフレームシーケンスにおいてゾーン内の動きおよび動き方向を測定する段階は、画素動き推定アルゴリズムに応じてゾーン内の平均的な画素動きおよび動き方向を測定する段階を有する。一実施形態によると、第2のビデオフレームシーケンスにおいてゾーン内の動きおよび動き方向を測定する段階は、第2のビデオフレームシーケンスにおいてゾーン内の体の動きを測定して補償する段階を有する。
一実施形態によると、少なくとも一の機械可読媒体は、コンピューティングデバイスで実行されることに応じて、さまざまな実施形態に関連して上述した限定事項の組み合わせをコンピューティングデバイスに実行させる複数の命令を備える。
一実施形態によると、デジタル標識のオーディエンスサイズを測定する装置は、プロセッサと、プロセッサに結合されているメモリと、顔検出モジュールと、キャリブレーションモジュールと、カウンタモジュールとを備える。顔検出モジュールは、メモリからロードされてプロセッサで実行されると、デジタル標識に近接しているカメラによって撮像される第1のビデオフレームシーケンスにおいて検出される顔のそれぞれについて1つのパスを生成して、複数のパスを生成する機械命令を有する。キャリブレーションモジュールは、メモリからロードされてプロセッサで実行されると、閾値に等しい数のパスが通過するゾーンを第1のビデオフレームシーケンスにおいて生成する機械命令を有する。カウンタモジュールは、メモリからロードされてプロセッサで実行されると、第2のビデオフレームシーケンスにおいてゾーンを通過するオーディエンスサイズを算出する第2のビデオフレームシーケンスにおいてゾーン内の動きおよび動き方向を測定する機械命令を有する。一実施形態によると、顔検出モジュールは、メモリからロードされてプロセッサで実行されると、デジタル標識に近接しているカメラによって撮像された第1のビデオフレームシーケンスにおいて顔を検出する別の機械命令を有する。顔検出モジュールはさらに、各ビデオフレームについて、検出された顔のそれぞれについて、矩形データを生成するとしてよい。一実施形態によると、顔検出モジュールが検出された顔のそれぞれについてパスを生成して複数のパスを生成することは、顔検出モジュールが、矩形データに基づいて、検出された顔のそれぞれについてパスを生成することを含む。一実施形態によると、顔検出モジュールは、正面顔検出アルゴリズムを用いて、デジタル標識の正面に位置しているカメラによって撮像された第1のビデオフレームシーケンスにおいてデジタル標識を向いている顔を検出する。
一実施形態によると、矩形データは、検出された顔を取り囲む矩形を表し、矩形データは、検出された顔を取り囲む矩形の場所のピクチャ要素位置(画素位置)を含み、場所の画素位置は、x,yの対の座標値および画素数で表される矩形の幅および高さによって表される。顔検出モジュールは、検出された顔のそれぞれについて、第1のビデオフレームシーケンスの少なくとも一部分にわたる検出された顔に対応付けられている一連の矩形データによって定義されているパスを生成する。一実施形態によると、顔検出モジュールは、パスを定義する検出された顔のそれぞれに対応付けられている一連の矩形データを別箇の円形のキューベースのデータ構造に保持する。
一実施形態によると、第1のビデオフレームシーケンスにおいて閾値に等しい数のパスが通過するゾーンを生成するキャリブレーションモジュールは、複数のパスについて分析を行い、分析に基づいて、第1のビデオフレームシーケンスにおいて、閾値に等しい数の顔が特定の動き方向に通過する矩形ゾーンを生成する。
<結論>
本明細書では、本発明の実施形態についてより丁寧に説明するべく数多く詳細な内容を記載している。しかし、本発明の実施形態は上述した具体的且つ詳細な内容を採用することなく実施し得ることは当業者には明らかである。また、公知の構造およびデバイスは、本発明の実施形態をあいまいにすることを避けるべく、詳細な図示を省略してブロック図で図示している。
上述した詳細な説明の一部は、コンピュータメモリ内で実行されるデータへの演算の記号表記およびアルゴリズムに基づいて記載されている。これらのアルゴリズムに基づく説明および表記は、データ処理分野の当業者間で研究内容を伝える上で最も効率的な手段として用いられている。本明細書において、そして、一般的に、アルゴリズムは、所望の結果を実現するための自己一貫した一連のステップと考えられている。ステップでは、物理量を物理的に操作することが必要である。大抵の場合、必ずしもそうではないが、これらの物理量は、電気信号または磁気信号であり、格納、転送、結合、比較およびその他の方法での操作が可能である。場合によっては、主に一般的に利用されているという理由で、これらの信号をビット、値、要素、シンボル、文字、項、数等の呼称で呼ぶことが便利であることが分かっている。
しかし、これらおよび同様の用語は全て、適切な物理量に対応付けられ、これらの量に与えられた便利な名称に過ぎないことに留意されたい。特に明記されていない限り、この説明から明らかであるが、本明細書にわたって、「処理」または「算出」または「計算」または「決定」または「表示」等の用語を用いた説明は、コンピュータシステムのレジスタおよびメモリ内の物理量(電子量)として表されるデータを操作および変換して、コンピュータシステムのメモリまたはレジスタまたはその他の同様の情報格納デバイス、情報送信デバイスまたは情報表示デバイス内の同様に物理量として表される他のデータを生成するコンピュータシステムまたは同様の電子コンピューティングデバイスの動作およびプロセスを意味するものと認められる。
本発明の実施形態はさらに、本明細書に記載する動作を実行する装置に関する。一部の装置は、必要な目的のために特別に構築されているとしてよく、または、コンピュータに格納されているコンピュータプログラムによって選択的にアクティブ化または設定される汎用コンピュータを含むとしてよい。このようなコンピュータプログラムは、コンピュータ可読格納媒体に格納されるとしてよい。例えば、これらに限定されないが、フロッピー(登録商標)ディスク、光ディスク、CD−ROM、DVD−ROMおよび光磁気ディスク等の任意の種類のディスク、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、NVRAM、磁気カードまたは光カード、または、電子命令の格納に適した任意の種類の媒体、および、コンピュータシステムバスに結合されているものに格納されるとしてよい。
本明細書に記載したアルゴリズムおよびディスプレイは、任意の特定のコンピュータまたはその他の装置に本質的に関連するものではない。本明細書の教示内容に応じたプログラムと共にさまざまな汎用システムを用いるとしてよい。または、より専門性の高い装置を必要な方法を実行するように構築することが便利である場合もあるとしてよい。このようなさまざまなシステムについて必要な構造は、本明細書の記載内容から明らかである。また、本発明の実施形態は、任意の特定のプログラミング言語に基づいて説明していない。さまざまなプログラミング言語を用いて本明細書に記載している本発明の実施形態を実装し得るものと認められる。
機械可読媒体は、機械(例えば、コンピュータ)によって読み出しが可能な形態で情報を格納または送信する任意のメカニズムを含む。例えば、機械可読媒体は、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク格納媒体、光格納媒体、フラッシュメモリデバイス等を含む。
上記の記載を参照することで当業者には間違いなく本発明の実施形態の多くの代替例および変形例が明らかになるが、例示のために図示および説明した任意の特定の実施形態は本発明を限定するように解釈されることは決して意図していないと理解されたい。このため、さまざまな実施形態の詳細な内容については、本発明に必須と見なされる特徴のみを記載している請求項の範囲を限定することは意図していない。

Claims (23)

  1. デジタル標識のオーディエンスサイズを測定する方法であって、
    前記デジタル標識に近接しているカメラによって撮像された第1のビデオフレームシーケンスにおいて検出された複数の顔のそれぞれについて1つのパスを生成することで、複数のパスを生成する段階と、
    前記第1のビデオフレームシーケンスにおいて閾値に等しい数の前記パスが通過するゾーンを生成する段階と、
    第2のビデオフレームシーケンスにおいて前記ゾーンを通過する前記オーディエンスサイズを算出する段階と
    を備える方法。
  2. 前記デジタル標識に近接している前記カメラによって撮像された前記第1のビデオフレームシーケンスにおいて前記複数の顔を検出する段階と、
    前記第1のビデオフレームシーケンスの各ビデオフレームにおいて検出された顔のそれぞれについて、矩形データを生成する段階と
    をさらに備え、
    前記検出された複数の顔のそれぞれについて1つのパスを生成することで、前記複数のパスを生成する段階は、前記矩形データに基づいて、検出された顔のそれぞれについてパスを生成する段階を有する請求項1に記載の方法。
  3. 前記第1のビデオフレームシーケンスにおいて前記複数の顔を検出する段階は、前記第1のビデオフレームシーケンスにおいて前記デジタル標識を向いている複数の顔を検出する段階を有し、
    正面顔検出アルゴリズムは、前記第1のビデオフレームシーケンスにおいて前記デジタル標識を向いている前記複数の顔を検出するために用いられる請求項2に記載の方法。
  4. 特定の検出された顔について生成された前記矩形データは、前記特定の検出された顔を取り囲む矩形を表し、
    前記矩形データは、前記検出された顔を取り囲む前記矩形の場所の画素位置を含み、
    前記場所の前記画素位置は、x,yの対の座標値および、画素数で表される前記矩形の幅および高さとして表される請求項2または3に記載の方法。
  5. 前記矩形データに基づいて、前記検出された顔のそれぞれについて生成される前記パスは、前記第1のビデオフレームシーケンスの少なくとも一部分にわたる特定の検出された顔に対応付けられている一連の矩形データによって定義されている請求項2から4の何れか1項に記載の方法。
  6. 前記検出された複数の顔のそれぞれについて1つのパスを生成することは、前記パスを定義する前記特定の検出された顔に対応付けられている前記一連の矩形データを、別箇のデータ構造に格納することを含む請求項5に記載の方法。
  7. 前記第1のビデオフレームシーケンスにおいて閾値に等しい数の前記パスが通過するゾーンを生成する段階は、前記複数のパスを分析することによって、前記第1のビデオフレームシーケンスにおいて、閾値に等しい数の顔が全体的な動き方向に通過する矩形ゾーンを生成する段階を有する請求項1から6の何れか1項に記載の方法。
  8. 前記矩形ゾーンは、動き方向、前記矩形ゾーン内の場所の画素位置によって表され、前記矩形ゾーン内の場所の前記画素位置は、x,yの対の座標値、および、画素数で表される前記矩形ゾーンの幅および高さとして表される請求項7に記載の方法。
  9. 前記第2のビデオフレームシーケンスは、前記第1のビデオフレームシーケンスの少なくとも一部分を含む請求項1から8の何れか1項に記載の方法。
  10. コンピューティングデバイスに、
    デジタル標識に近接しているカメラによって撮像された第1のビデオフレームシーケンスにおいて検出された複数の顔のそれぞれについて1つのパスを生成することで、複数のパスを生成する手順と、
    前記第1のビデオフレームシーケンスにおいて閾値に等しい数の前記パスが通過するゾーンを生成する手順と、
    第2のビデオフレームシーケンスにおいて前記ゾーンを通過するオーディエンスサイズを算出する手順と
    を実行させるためのプログラム。
  11. 前記コンピューティングデバイスにさらに、
    前記デジタル標識に近接している前記カメラによって撮像された前記第1のビデオフレームシーケンスにおいて前記複数の顔を検出する手順と、
    各ビデオフレームについて、検出された顔のそれぞれについて、矩形データを生成する手順と
    を実行させ、
    前記検出された複数の顔のそれぞれについて1つのパスを生成することで、前記複数のパスを生成する手順は、前記矩形データに基づいて、検出された顔のそれぞれについてパスを生成する手順を有する請求項10に記載のプログラム。
  12. 前記第1のビデオフレームシーケンスにおいて前記複数の顔を検出する手順は、前記デジタル標識の正面に配置されている前記カメラによって撮像された前記第1のビデオフレームシーケンスにおいて前記デジタル標識を向いている複数の顔を、正面顔検出アルゴリズムを用いて検出する手順を有する請求項11に記載のプログラム。
  13. 前記矩形データに基づいて、検出された顔のそれぞれについてパスを生成する手順は、検出された顔のそれぞれについて、前記第1のビデオフレームシーケンスのうち少なくとも一部分にわたる前記検出された顔のそれぞれに対応付けられている一連の矩形データによって定義されるパスを生成する手順を含む請求項11まは12に記載のプログラム。
  14. 前記第1のビデオフレームシーケンスにおいて、閾値に等しい数の前記パスが通過するゾーンを生成する手順は、前記複数のパスを分析することによって、前記第1のビデオフレームシーケンスにおいて、特定の動き方向に閾値に等しい数の顔が通過する矩形ゾーンを生成する手順を有する請求項10から13の何れか1項に記載のプログラム。
  15. 請求項10から14の何れか1項に記載のプログラムを格納するコンピュータ可読媒体。
  16. デジタル標識のオーディエンスサイズを測定する装置であって、
    プロセッサと、
    前記プロセッサに結合されているメモリと、
    顔検出モジュールと、
    キャリブレーションモジュールと、
    カウンタモジュールと
    を備え、
    前記顔検出モジュールは、前記メモリからロードされ前記プロセッサによって実行されると、前記デジタル標識に近接しているカメラによって撮像された第1のビデオフレームシーケンスにおいて検出された複数の顔のそれぞれについて1つのパスを生成することで、複数のパスを生成する複数の機械命令を有し、
    前記キャリブレーションモジュールは、前記メモリからロードされ前記プロセッサによって実行されると、前記第1のビデオフレームシーケンスにおいて、閾値に等しい数の前記パスが通過するゾーンを生成する複数の機械命令を有し、
    前記カウンタモジュールは、前記メモリからロードされ前記プロセッサによって実行されると、第2のビデオフレームシーケンスにおいて前記ゾーンを通過する前記オーディエンスサイズを算出する複数の機械命令を有する装置。
  17. 前記顔検出モジュールは、前記メモリからロードされ前記プロセッサによって実行されると、前記デジタル標識に近接している前記カメラによって撮像された前記第1のビデオフレームシーケンスにおいて前記複数の顔を検出する別の複数の機械命令を有し、
    前記顔検出モジュールは、前記メモリからロードされ前記プロセッサによって実行されると、各ビデオフレームについて、検出された顔のそれぞれについて矩形データを生成する別の複数の機械命令を有し、
    前記顔検出モジュールが、検出された複数の顔のそれぞれについて1つのパスを生成することで、前記複数のパスを生成することは、前記顔検出モジュールが、前記矩形データに基づいて、検出された顔のそれぞれについてパスを生成することを含む請求項16に記載の装置。
  18. 前記顔検出モジュールが前記デジタル標識に近接している前記カメラによって撮像された前記第1のビデオフレームシーケンスにおいて前記複数の顔を検出することは、前記顔検出モジュールは、前記デジタル標識の正面に配置されている前記カメラによって撮像された前記第1のビデオフレームシーケンスにおいて前記デジタル標識を向いている複数の顔を、正面顔検出アルゴリズムを用いて、検出することを含む請求項17に記載の装置。
  19. 前記矩形データは、前記検出された顔のそれぞれを取り囲む矩形を表し、前記矩形データは、前記検出された顔のそれぞれを取り囲む前記矩形の場所の画素位置を含み、前記場所の前記画素位置は、x,yの対の座標値および画素数で表される前記矩形の幅および高さによって表される請求項17まは18に記載の装置。
  20. 前記顔検出モジュールが前記矩形データに基づいて検出された顔のそれぞれについてパスを生成することは、前記顔検出モジュールが、検出された顔のそれぞれについて、前記第1のビデオフレームシーケンスの少なくとも一部分にわたる、前記検出された顔のそれぞれに対応付けられている一連の矩形データによって定義されているパスを生成することを含む請求項17から19の何れか1項に記載の装置。
  21. 前記顔検出モジュールが検出された顔のそれぞれについてパスを生成することは、前記顔検出モジュールが前記パスを定義する前記検出された顔のそれぞれに対応付けられている前記一連の矩形データを別箇の円形キューベースのデータ構造に保持することを含む請求項20に記載の装置。
  22. 前記キャリブレーションモジュールが前記第1のビデオフレームシーケンスにおいて閾値に等しい数の前記パスが通過するゾーンを生成することは、前記キャリブレーションモジュールが、前記複数のパスについて分析を行い、前記分析に基づいて、前記第1のビデオフレームシーケンスにおいて、閾値に等しい数の顔が特定の動き方向に通過する矩形ゾーンを生成することを含む請求項16から21の何れか1項に記載の装置。
  23. 前記第2のビデオフレームシーケンスは、前記第1のビデオフレームシーケンスの少なくとも一部分を含む請求項16から22の何れか1項に記載の装置。
JP2016006462A 2012-06-26 2016-01-15 デジタル標識についてオーディエンスサイズを測定するための方法および装置 Active JP6093886B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/533,777 US8766914B2 (en) 2012-06-26 2012-06-26 Method and apparatus for measuring audience size for a digital sign
US13/533,777 2012-06-26

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015511813A Division JP5873601B2 (ja) 2012-06-26 2013-05-30 デジタル標識についてオーディエンスサイズを測定するための方法および装置

Publications (2)

Publication Number Publication Date
JP2016103292A JP2016103292A (ja) 2016-06-02
JP6093886B2 true JP6093886B2 (ja) 2017-03-08

Family

ID=49773998

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015511813A Expired - Fee Related JP5873601B2 (ja) 2012-06-26 2013-05-30 デジタル標識についてオーディエンスサイズを測定するための方法および装置
JP2016006462A Active JP6093886B2 (ja) 2012-06-26 2016-01-15 デジタル標識についてオーディエンスサイズを測定するための方法および装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2015511813A Expired - Fee Related JP5873601B2 (ja) 2012-06-26 2013-05-30 デジタル標識についてオーディエンスサイズを測定するための方法および装置

Country Status (5)

Country Link
US (2) US8766914B2 (ja)
EP (1) EP2864962A4 (ja)
JP (2) JP5873601B2 (ja)
CN (1) CN104335245B (ja)
WO (1) WO2014003964A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8766914B2 (en) * 2012-06-26 2014-07-01 Intel Corporation Method and apparatus for measuring audience size for a digital sign
EP2966548A1 (en) * 2014-07-07 2016-01-13 ETT S.p.A. Multimedia device
JP6713619B2 (ja) * 2017-03-30 2020-06-24 株式会社エクォス・リサーチ 身体向推定装置および身体向推定プログラム
US20210065232A1 (en) * 2019-08-27 2021-03-04 Kesion Co., Ltd. Apparatus for detecting the number of persons contacted with advertising medium and method of detecting the number of persons contacted with advertising medium

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6163822A (en) * 1998-05-04 2000-12-19 Compaq Computer Corporation Technique for controlling and processing a section of an interactive presentation simultaneously with detecting stimulus event in manner that overrides process
GB0101794D0 (en) * 2001-01-24 2001-03-07 Central Research Lab Ltd Monitoring responses to visual stimuli
AU2003901528A0 (en) * 2003-03-31 2003-05-01 Seeing Machines Pty Ltd Eye tracking system and method
WO2005013092A2 (en) 2003-08-01 2005-02-10 Dollars.Com Llc A system and a method for determining advertising effectiveness
GB2431787B (en) * 2005-10-31 2009-07-01 Hewlett Packard Development Co A method of tracking an object in a video stream
EP2033175A4 (en) * 2006-05-04 2011-07-06 Nat Ict Australia Ltd ELECTRONIC MEDIA SYSTEM
US20090245580A1 (en) * 2006-07-21 2009-10-01 Darryl Greig Modifying parameters of an object detector based on detection information
CN101237563B (zh) * 2007-01-31 2011-06-01 华为技术有限公司 节目受众信息获取方法和装置
JP5213105B2 (ja) 2008-01-17 2013-06-19 株式会社日立製作所 映像ネットワークシステム及び映像データ管理方法
KR20090084479A (ko) 2008-02-01 2009-08-05 삼성전자주식회사 행동 분석을 위한 모션 디스크립터의 제어 방법 및 그 장치
JP2011008571A (ja) * 2009-06-26 2011-01-13 Shunkosha:Kk 通行人流動データ生成装置、コンテンツ配信制御装置、通行人流動データ生成方法及びコンテンツ配信制御方法
JP2011210238A (ja) * 2010-03-10 2011-10-20 Dainippon Printing Co Ltd 広告効果測定装置及びコンピュータプログラム
US20120140069A1 (en) * 2010-11-30 2012-06-07 121View Usa Systems and methods for gathering viewership statistics and providing viewer-driven mass media content
CN102129644A (zh) * 2011-03-08 2011-07-20 北京理工大学 一种具有受众特性感知与统计功能的智能广告系统
CN102201188A (zh) * 2011-05-25 2011-09-28 华侨大学 一种面向楼宇电视广告系统的智能控制装置和方法
US8766914B2 (en) * 2012-06-26 2014-07-01 Intel Corporation Method and apparatus for measuring audience size for a digital sign

Also Published As

Publication number Publication date
JP5873601B2 (ja) 2016-03-01
WO2014003964A1 (en) 2014-01-03
JP2015524098A (ja) 2015-08-20
EP2864962A1 (en) 2015-04-29
CN104335245B (zh) 2017-07-11
US20130342438A1 (en) 2013-12-26
EP2864962A4 (en) 2015-12-23
US8766914B2 (en) 2014-07-01
JP2016103292A (ja) 2016-06-02
US9013401B2 (en) 2015-04-21
US20140218285A1 (en) 2014-08-07
CN104335245A (zh) 2015-02-04

Similar Documents

Publication Publication Date Title
JP7480823B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6093886B2 (ja) デジタル標識についてオーディエンスサイズを測定するための方法および装置
US8630455B2 (en) Method and system for audience digital monitoring
US9424467B2 (en) Gaze tracking and recognition with image location
JP4603975B2 (ja) コンテンツ注目評価装置及び評価方法
JP2008112401A (ja) 広告効果測定装置
TW201234862A (en) Method of detecting logos, titles, or sub-titles in video frames
FR2967804B1 (fr) Procede et dispositif de detection et de suivi d'objets non rigides en mouvement, en temps reel, dans un flux video, permettant a un utilisateur d'interagir avec un systeme informatique
US9619707B2 (en) Gaze position estimation system, control method for gaze position estimation system, gaze position estimation device, control method for gaze position estimation device, program, and information storage medium
JP2016218821A (ja) 販売情報利用装置、販売情報利用方法、およびプログラム
US11227157B1 (en) System and method for gaze direction detection
KR20150093532A (ko) 정보 관리를 위한 장치 및 방법
JP5489197B2 (ja) 電子広告装置・方法及びプログラム
TWI420440B (zh) 物品展示系統及方法
US8265340B2 (en) System and method for displaying a product catalog
WO2021248712A1 (zh) 微运动监测方法、装置、设备及计算机可读存储介质
JP2023041931A (ja) 評価装置、評価方法、及びプログラム
US20130063593A1 (en) Monitoring device, method thereof
US20140257968A1 (en) Method and apparatus for determining digital media visibility
JP5115763B2 (ja) 画像処理装置、コンテンツ配信システム、画像処理方法、及びプログラム
WO2024027634A1 (zh) 跑动距离估算方法、装置、电子设备及存储介质
US20140173099A1 (en) Method and apparatus for determining digital media visibility
US20220311808A1 (en) Online video distribution support method, online video distribution support apparatus and online video distribution support system
JP2008203971A (ja) 情報表示システム、視線検知プログラム及び情報表示プログラム
JP2012173903A (ja) 棚監視装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161213

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170213

R150 Certificate of patent or registration of utility model

Ref document number: 6093886

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250