JP6168355B2 - 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム - Google Patents
情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム Download PDFInfo
- Publication number
- JP6168355B2 JP6168355B2 JP2013549287A JP2013549287A JP6168355B2 JP 6168355 B2 JP6168355 B2 JP 6168355B2 JP 2013549287 A JP2013549287 A JP 2013549287A JP 2013549287 A JP2013549287 A JP 2013549287A JP 6168355 B2 JP6168355 B2 JP 6168355B2
- Authority
- JP
- Japan
- Prior art keywords
- feature
- local
- local feature
- dimension
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
- G06Q30/0251—Targeted advertisements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
- G06Q30/0251—Targeted advertisements
- G06Q30/0252—Targeted advertisements based on events or environment, e.g. weather or festivals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
- G06V20/47—Detecting features for summarising video content
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Strategic Management (AREA)
- Multimedia (AREA)
- Entrepreneurship & Innovation (AREA)
- Game Theory and Decision Science (AREA)
- Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Environmental & Geological Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
対象物の画像中のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量を、前記対象物と対応付けて記憶する第1局所特徴量記憶手段と、
映像中からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記映像中に前記対象物が存在すると認識する認識手段と、
前記認識手段が認識した前記対象物に関連する広告情報を提供する広告情報提供手段と、
を備えることを特徴とする。
映像中からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
対象物の画像中のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについてあらかじめ生成され第1局所特徴量記憶手段に記憶された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量を、前記第1局所特徴量記憶手段から読出す読出ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記映像中に前記対象物が存在すると認識する認識ステップと、
前記認識ステップで認識された前記対象物に関連する広告情報を提供する広告情報提供ステップと、
を含むことを特徴とする。
対象物の画像を撮像する撮像手段と、
前記撮像手段が撮像した前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第2局所特徴量生成手段が生成した前記m個の第2局所特徴量を、局所特徴量の照合に基づいて前記撮像手段が撮像した前記画像中に含まれる対象物を認識する情報処理装置に送信する第2局所特徴量送信手段と、
前記撮像手段が撮像した前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供手段と、
を備えたことを特徴とする。
対象物の画像を撮像する撮像ステップと、
前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
局所特徴量の照合に基づいて前記画像中に含まれる対象物を認識する情報処理装置に、前記m個の第2局所特徴量を送信する第2局所特徴量送信ステップと、
前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供ステップと、
を備えたことを特徴とする。
対象物の画像を撮像する撮像ステップと、
前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
局所特徴量の照合に基づいて前記画像中に含まれる対象物を認識する情報処理装置に、前記m個の第2局所特徴量を送信する第2局所特徴量送信ステップと、
前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供ステップと、
をコンピュータに実行させることを特徴とする。
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。情報処理システム100は、撮像中の対象物をリアルタイムに認識し、広告情報を提供するためのシステムである。
次に本発明の第2実施形態に係る情報処理システム200について、図2乃至図15を用いて説明する。図2は、本実施形態に係る情報処理システム200の全体構成を説明するための図である。
情報処理システム200は、ネットワーク240を介して通信回線で接続された、広告情報データベース(広告配信DB)211を含む広告配信サーバ210と、局所特徴量生成部221a〜225aを備えた通信端末221〜225と、広告提供者端末230とを含む。通信端末221〜225は、局所特徴量生成部221a〜225aを用いて、例えば撮影中の映像から局所特徴量を生成し、広告配信サーバ210に送る。
図4Aは、局所特徴量生成部320および符号化部321の構成を示すブロック図である。
次に、図4B〜図4Fを用いて、本実施形態に係る局所特徴量生成部320、332の処理について詳しく説明する。
特徴点検出部401はまず、図4Bの左上に示すように、映像中の画像から特徴点421を検出する。以下、1つの特徴点421を代表させて局所特徴量の生成を説明する。それぞれの特徴点421には、周辺画素の、輝度や彩度、色相などの値の変化の方向と大きさを要素として持つ矢印が付随している。また、図4Bの例では、60度間隔の6方向のいずれかに量子化する例を説明するが、これに限定されない。
次に、局所領域取得部402は、図4Bの右上に示すように、例えば、特徴点421を中心にガウス窓422aを生成し、このガウス窓422aをほぼ含む局所領域422を生成した状態である。図4Bの例では、局所領域取得部402は正方形の局所領域422を生成したが、局所領域は円形であっても他の形状であってもよい。この局所領域を各特徴点について取得する。局所領域が円形であれば、撮影方向に対してロバスト性が向上するという効果がある。
サブ領域分割部403は、図4Bの左下に示すように、特徴点421の局所領域422に含まれる各画素のスケールおよび角度をサブ領域423に分割する。なお、図4Bでは4×4=16画素を1つのサブ領域としており、局所領域422は、合計5×5=25個のサブ領域に分割されている。しかし、サブ領域への分割の仕方およびその個数はこれに限定されるものではない。
サブ領域特徴ベクトル生成部404は、図4Bの右下に示すように、サブ領域内の各画素のスケールを8方向の角度単位にヒストグラムを生成して量子化し、サブ領域の特徴ベクトル424とする。すなわち、特徴点検出部401が出力する角度に対して正規化された方向である。そして、サブ領域特徴ベクトル生成部404は、サブ領域ごとに量子化された6方向の頻度を集計し、ヒストグラムを生成する。この場合、サブ領域特徴ベクトル生成部404は、各特徴点に対して生成される25サブ領域ブロック×6方向=150次元のヒストグラムにより構成される特徴ベクトルを出力する。また、勾配方向を6方向に量子化するだけに限らず、4方向、8方向、10方向など任意の量子化数に量子化してよい。勾配方向をD方向に量子化する場合、量子化前の勾配方向をG(0〜2πラジアン)とすると、勾配方向の量子化値Qq(q=0,...,D−1)は、例えば式(1)や式(2)などで求めることができるが、これに限られない。
Qq=round(G×D/2π)modD ...(2)
ここで、floor()は小数点以下を切り捨てる関数、round()は四捨五入を行う関数、modは剰余を求める演算である。また、サブ領域特徴ベクトル生成部404は勾配ヒストグラムを生成するときに、単純な頻度を集計するのではなく、勾配の大きさを加算して集計してもよい。また、サブ領域特徴ベクトル生成部404は勾配ヒストグラムを集計するときに、画素が属するサブ領域だけではなく、サブ領域間の距離に応じて近接するサブ領域(隣接するブロックなど)にも重み値を加算するようにしてもよい。また、サブ領域特徴ベクトル生成部404は量子化された勾配方向の前後の勾配方向にも重み値を加算するようにしてもよい。なお、サブ領域の特徴ベクトルは勾配方向ヒストグラムに限られず、色情報など、複数の次元(要素)を有するものであればよい。本実施形態においては、サブ領域の特徴ベクトルとして、勾配方向ヒストグラムを用いることとして説明する。
次に、図4C〜図4Fに従って、次元選定部405が行なう次元選定処理について説明する。
図4Dは、局所特徴量生成部320における、サブ領域からの特徴ベクトルの選定順位の一例を示す図である。
図4Gと図4Hは、本実施形態に係る照合部333の処理を説明する図である。図4Gは、通信端末221としての携帯電話やスマートフォンなどで撮影中に広告情報が表示される様子について説明する図である。あらかじめ広告対象物(本例では、自動車)から生成された局所特徴量が、広告情報データベース211に格納されているものとする。一方、ライブビュー表示画面471中の映像表示領域472からは、上述した処理により局所特徴量が生成される。そして、広告情報データベース211に格納された局所特徴量のそれぞれが、映像表示領域472から生成された局所特徴量中にあるか否かが判定される。
図5は、情報処理システム200における処理の流れを説明するシーケンス図である。まず、広告配信サーバ210の通信制御部330が広告提供者端末230から商品画像と広告情報を受信し(S501)、局所特徴量生成部332が、その商品画像から局所特徴量を生成する(S503)。次に、広告情報データベース211は、その局所特徴量と商品情報を格納する(S505)。
図8は、通信端末221〜225のハードウェア構成を示す図である。CPU810は演算制御用のプロセッサであり、プログラムを実行することで通信端末の各機能構成部を実現する。ROM820は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。また、通信制御部330は通信制御部であり、本実施形態においては、ネットワークを介して他の装置と通信する。なお、CPU810は1つに限定されず、複数のCPUであっても、あるいは画像処理用のGPU(Graphics Processing Unit)を含んでもよい。
図9は、本実施形態に係る局所特徴量生成テーブル843を示す図である。
図10は、通信端末221〜225で行なわれる処理の流れを説明するフローチャートである。まずステップS1011において画像を入力すると、ステップS1013において、局所特徴量生成部320が局所特徴量の生成処理を行なう。そして、ステップS1015において、広告配信サーバ210に対して、局所特徴量を送信する。画像を入力したのではなくステップS1021において、外部からデータを受信したと判断した場合には、ステップS1023において、そのデータが広告情報か否か判定し、広告情報の場合には、ステップS1025で広告の提供を行なう。
図13は、広告配信サーバの処理手順について説明するためのフローチャートである。まず、ステップS1311において、広告提供者端末230から商品画像および広告情報を受信したか否か判定する。広告情報を受信した場合に、ステップS1313に進み、広告情報データベースに対する広告情報の登録処理を行なう。一方、広告提供者端末230から商品画像および広告情報ではなく、局所特徴量を受信した場合には、ステップS1321からステップS1323に進み、商品認識、広告取得処理を行ない、さらにステップS1325において、広告情報の配信処理を行なう。
次に本発明の第3実施形態に係る情報処理システム1600について、図16以降を用いて説明する。図16は、本実施形態に係る情報処理システム1600の概略全体構成を説明するための図である。本実施形態に係る情報処理システム1600は、上記第2実施形態と比べると、リンク情報データベース1611を備えたリンク提供サーバ1610を有する点で異なる。その他の構成および動作は、第2実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
次に本発明の第4実施形態に係る情報処理システムについて、図20を用いて説明する。図20は、本実施形態に係る情報処理システムの全体処理を説明するための図である。本実施形態に係る情報処理システムは、上記第3実施形態と比べると、リンク情報データベース1611を備えたリンク提供サーバ1610の代わりに試聴データデータベース2011を備えた試聴データ提供サーバ2010を有する点で異なる。その他の構成および動作は、第2実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。なお第4実施形態では、「試聴データ」をユーザに提供するが、この「試聴データ」は音声データに限らず、映像データを含んでもよいものとする。
次に本発明の第5実施形態に係る情報処理システムについて、図21を用いて説明する。図21は、本実施形態に係る情報処理システムの全体処理を説明するための図である。本実施形態に係る情報処理システムは、上記第2実施形態と比べると、コンテンツ提供サーバ2101が追加されている点で異なる。コンテンツ提供サーバ2001は、通信端末からのコンテンツ要求に応えてコンテンツを検索し(S2102)、見つかったコンテンツデータを広告配信サーバ210に送信する(S2103)。広告配信サーバ210は、受信したコンテンツデータを分析してそこに含まれる商品の局所特徴量から広告情報を導き出し、コンテンツデータにその広告情報を埋め込む(S2125)。そして、通信端末に対して、広告埋込コンテンツを送信し(S2126)、通信端末において、広告が埋め込まれたコンテンツを再生する(S2127)。その他の構成および動作は、第2実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
その他、図22の広告評価テーブル2212に示すように、広告の出現頻度をカウントすることにより、広告評価を行なってもよい。つまり、第1〜第5実施形態の方法で広告やリンクなどを表示する際にその回数を数えて、回数に応じた評価を行ない、評価に応じてその広告について課金を行なうことも可能である。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステムまたは装置も、本発明の範疇に含まれる。
(付記1)
対象物の画像中のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量を、前記対象物と対応付けて記憶する第1局所特徴量記憶手段と、
映像中からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記映像中に前記対象物が存在すると認識する認識手段と、
前記認識手段が認識した前記対象物に関連する広告情報を提供する広告情報提供手段と、
を備えることを特徴とする情報処理システム。
(付記2)
前記第1局所特徴量記憶手段は、さらに、前記対象物に関連する広告情報を、前記対象物と対応付けて記憶し、
前記広告情報提供手段は、前記第1局所特徴量記憶手段を参照して、前記認識手段が認識した前記対象物に関連する広告情報を表示することを特徴とする付記1に記載の情報処理システム。
(付記3)
前記認識手段により、前記映像中に前記対象物が存在すると認識された場合に、前記映像中の前記対象物の画像に対して、関連する広告情報を付加する広告情報付加手段を、さらに備えたことを特徴とする付記1または2に記載の情報処理システム。
(付記4)
前記広告情報提供手段は、前記広告情報として、前記映像中の前記対象物である商品の購入サイトへのリンクをアクセス可能に表示することを特徴とする付記1乃至3のいずれか1つに記載の情報処理システム。
(付記5)
前記対象物は、音楽および映像の少なくともいずれかを含むコンテンツを記憶した記憶媒体であり、
前記広告情報提供手段は、前記広告情報として、前記音楽および映像の少なくともいずれかを含むコンテンツの一部を視聴可能に表示することを特徴とする付記1乃至4のいずれか1つに記載の情報処理システム。
(付記6)
前記情報処理システムは、通信端末と、前記通信端末に対して通信回線で接続された情報処理装置とを有し、
前記通信端末は、前記第2局所特徴量生成手段を含み、前記n個の第2局所特徴量を前記情報処理装置へ送信し、
前記情報処理装置は、前記第1局所特徴量記憶手段と前記認識手段と前記広告情報提供手段とを含み、前記広告情報を前記通信端末へ送信することを特徴とする付記1乃至5のいずれか1つに記載の情報処理システム。
(付記7)
前記第1局所特徴量および前記第2局所特徴量は、画像または映像中から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数次元の特徴ベクトルを生成することにより生成されることを特徴とする付記1乃至6のいずれか1つに記載の情報処理システム。
(付記8)
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数次元の特徴ベクトルから、隣接するサブ領域間の相関がより大きな次元を選定することにより生成されることを特徴とする付記7に記載の情報処理システム。
(付記9)
前記特徴ベクトルの複数次元は、前記特徴点の特徴に寄与する次元から順に、かつ、前記局所特徴量に対して求められる精度の向上に応じて第1次元から順に選択できるよう、所定次元数ごとに前記局所領域内を一巡りするよう配列することを特徴とする付記7乃至8のいずれか1つに記載の情報処理システム。
(付記10)
前記第2局所特徴量生成手段は、前記対象物間の相関性の高低に対応して、他の対象物に対してより高い前記相関性を有する対象物については、次元数のより多い前記第2局所特徴量を生成することを特徴とする付記9に記載の情報処理システム。
(付記11)
前記第1局所特徴量記憶手段は、他の対象物に対してより高い相関を有する対象物については、次元数のより多い前記第1局所特徴量を記憶することを特徴とする付記9または10に記載の情報処理システム。
(付記12)
映像中からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
対象物の画像中のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについてあらかじめ生成され第1局所特徴量記憶手段に記憶された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量を、前記第1局所特徴量記憶手段から読出す読出ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記映像中に前記対象物が存在すると認識する認識ステップと、
前記認識ステップで認識された前記対象物に関連する広告情報を提供する広告情報提供ステップと、
を含むことを特徴とする情報処理方法。
(付記13)
対象物の画像を撮像する撮像手段と、
前記撮像手段が撮像した前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第2局所特徴量生成手段が生成した前記m個の第2局所特徴量を、局所特徴量の照合に基づいて前記撮像手段が撮像した前記画像中に含まれる対象物を認識する情報処理装置に送信する第2局所特徴量送信手段と、
前記撮像手段が撮像した前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供手段と、
を備えたことを特徴とする通信端末。
(付記14)
対象物の画像を撮像する撮像ステップと、
前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
局所特徴量の照合に基づいて前記画像中に含まれる対象物を認識する情報処理装置に、前記m個の第2局所特徴量を送信する第2局所特徴量送信ステップと、
前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供ステップと、
を備えたことを特徴とする通信端末の制御方法。
(付記15)
対象物の画像を撮像する撮像ステップと、
前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
局所特徴量の照合に基づいて前記画像中に含まれる対象物を認識する情報処理装置に、前記m個の第2局所特徴量を送信する第2局所特徴量送信ステップと、
前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供ステップと、
をコンピュータに実行させることを特徴とする通信端末の制御プログラム。
Claims (10)
- 対象物の画像中のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量を、前記対象物と対応付けて記憶する第1局所特徴量記憶手段と、
映像中からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記映像中に前記対象物が存在すると認識する認識手段と、
前記認識手段が認識した前記対象物に関連する広告情報を提供する広告情報提供手段と、
を備え、
前記第1局所特徴量および前記第2局所特徴量は、画像または映像中から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数次元の特徴ベクトルを生成することにより生成され、
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数次元の特徴ベクトルから、隣接するサブ領域間の相関が低くなるように次元を選定することにより生成されることを特徴とする情報処理システム。 - 前記第1局所特徴量記憶手段は、さらに、前記対象物に関連する広告情報を、前記対象物と対応付けて記憶し、
前記広告情報提供手段は、前記第1局所特徴量記憶手段を参照して、前記認識手段が認識した前記対象物に関連する広告情報を表示することを特徴とする請求項1に記載の情報処理システム。 - 前記認識手段により、前記映像中に前記対象物が存在すると認識された場合に、前記映像中の前記対象物の画像に対して、関連する広告情報を付加する広告情報付加手段を、さらに備えたことを特徴とする請求項1または2に記載の情報処理システム。
- 前記広告情報提供手段は、前記広告情報として、前記映像中の前記対象物である商品の購入サイトへのリンクをアクセス可能に表示することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理システム。
- 前記対象物は、音楽および映像の少なくともいずれかを含むコンテンツを記憶した記憶媒体であり、
前記広告情報提供手段は、前記広告情報として、前記音楽および映像の少なくともいずれかを含むコンテンツの一部を視聴可能に表示することを特徴とする請求項1乃至4のいずれか1項に記載の情報処理システム。 - 前記情報処理システムは、通信端末と、前記通信端末に対して通信回線で接続された情報処理装置とを有し、
前記通信端末は、前記第2局所特徴量生成手段を含み、前記n個の第2局所特徴量を前記情報処理装置へ送信し、
前記情報処理装置は、前記第1局所特徴量記憶手段と前記認識手段と前記広告情報提供手段とを含み、前記広告情報を前記通信端末へ送信することを特徴とする請求項1乃至5のいずれか1項に記載の情報処理システム。 - 映像中からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
対象物の画像中のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについてあらかじめ生成され第1局所特徴量記憶手段に記憶された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量を、前記第1局所特徴量記憶手段から読出す読出ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記映像中に前記対象物が存在すると認識する認識ステップと、
前記認識ステップで認識された前記対象物に関連する広告情報を提供する広告情報提供ステップと、
を含み、
前記第1局所特徴量および前記第2局所特徴量は、画像または映像中から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数次元の特徴ベクトルを生成することにより生成され、
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数次元の特徴ベクトルから、隣接するサブ領域間の相関が低くなるように次元を選定することにより生成されることを特徴とする情報処理方法。 - 対象物の画像を撮像する撮像手段と、
前記撮像手段が撮像した前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第2局所特徴量生成手段が生成した前記m個の第2局所特徴量を、局所特徴量の照合に基づいて前記撮像手段が撮像した前記画像中に含まれる対象物を認識する情報処理装置に送信する第2局所特徴量送信手段と、
前記撮像手段が撮像した前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供手段と、
を備え、
前記情報処理装置は、
前記対象物の画像中のn個の特徴点のそれぞれを含むn個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるn個の第1局所特徴量を、前記対象物と対応付けて記憶する第1局所特徴量記憶手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記m個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記n個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記画像中に前記対象物が存在すると認識する認識手段と、
を備え、
前記第1局所特徴量および前記第2局所特徴量は、画像中から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数次元の特徴ベクトルを生成することにより生成され、
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数次元の特徴ベクトルから、隣接するサブ領域間の相関が低くなるように次元を選定することにより生成されることを特徴とする通信端末。 - 対象物の画像を撮像する撮像ステップと、
前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
局所特徴量の照合に基づいて前記画像中に含まれる対象物を認識する情報処理装置に、前記m個の第2局所特徴量を送信する第2局所特徴量送信ステップと、
前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供ステップと、
を備え、
前記情報処理装置は、
前記対象物の画像中のn個の特徴点のそれぞれを含むn個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるn個の第1局所特徴量を、前記対象物と対応付けて記憶する第1局所特徴量記憶手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記m個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記n個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記画像中に前記対象物が存在すると認識する認識手段と、
を備え、
前記第1局所特徴量および前記第2局所特徴量は、画像中から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数次元の特徴ベクトルを生成することにより生成され、
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数次元の特徴ベクトルから、隣接するサブ領域間の相関が低くなるように次元を選定することにより生成されることを特徴とする通信端末の制御方法。 - 対象物の画像を撮像する撮像ステップと、
前記画像中からm個の特徴点を抽出し、前記m個の特徴点のそれぞれを含むm個の局所領域についてm個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
局所特徴量の照合に基づいて前記画像中に含まれる対象物を認識する情報処理装置に、前記m個の第2局所特徴量を送信する第2局所特徴量送信ステップと、
前記画像中に含まれる前記対象物に関連する広告情報を前記情報処理装置から受信して提供する広告情報提供ステップと、
をコンピュータに実行させ、
前記情報処理装置は、
前記対象物の画像中のn個の特徴点のそれぞれを含むn個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるn個の第1局所特徴量を、前記対象物と対応付けて記憶する第1局所特徴量記憶手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記m個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記n個の第1局所特徴量の所定割合以上が対応する、と判定した場合に、前記画像中に前記対象物が存在すると認識する認識手段と、
を備え、
前記第1局所特徴量および前記第2局所特徴量は、画像中から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数次元の特徴ベクトルを生成することにより生成され、
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数次元の特徴ベクトルから、隣接するサブ領域間の相関が低くなるように次元を選定することにより生成されることを特徴とする通信端末の制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013549287A JP6168355B2 (ja) | 2011-12-16 | 2012-12-12 | 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011276524 | 2011-12-16 | ||
JP2011276524 | 2011-12-16 | ||
PCT/JP2012/082230 WO2013089146A1 (ja) | 2011-12-16 | 2012-12-12 | 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム |
JP2013549287A JP6168355B2 (ja) | 2011-12-16 | 2012-12-12 | 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2013089146A1 JPWO2013089146A1 (ja) | 2015-04-27 |
JP6168355B2 true JP6168355B2 (ja) | 2017-07-26 |
Family
ID=48612590
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013549287A Active JP6168355B2 (ja) | 2011-12-16 | 2012-12-12 | 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US10115127B2 (ja) |
JP (1) | JP6168355B2 (ja) |
WO (1) | WO2013089146A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9792528B2 (en) * | 2012-01-30 | 2017-10-17 | Nec Corporation | Information processing system, information processing method, information processing apparatus and control method and control program thereof, and communication terminal and control method and control program thereof |
US9678999B1 (en) * | 2014-12-31 | 2017-06-13 | Teradata Us, Inc. | Histogram generation on multiple dimensions |
WO2016137389A1 (en) | 2015-02-24 | 2016-09-01 | Visenze Pte Ltd | Method and system for identifying relevant media content |
US10200759B1 (en) * | 2017-07-28 | 2019-02-05 | Rovi Guides, Inc. | Systems and methods for identifying and correlating an advertised object from a media asset with a demanded object from a group of interconnected computing devices embedded in a living environment of a user |
JP6496388B2 (ja) * | 2017-11-24 | 2019-04-03 | ビセンゼ・ピーティーイー・リミテッド | 関連するメディアコンテントを識別するための方法及びシステム |
CN111741327B (zh) * | 2019-03-25 | 2022-09-02 | 华为技术有限公司 | 一种媒体处理方法及媒体服务器 |
JP2020173731A (ja) * | 2019-04-12 | 2020-10-22 | 富士通株式会社 | 提供プログラム、提供方法、提供サーバ及び情報処理端末 |
CN110473015A (zh) * | 2019-08-09 | 2019-11-19 | 南京智骋致想电子科技有限公司 | 一种智能广告系统及广告投放方法 |
KR102522989B1 (ko) * | 2020-02-28 | 2023-04-18 | 주식회사 아토맘코리아 | 멀티미디어 콘텐츠 내 상품 정보 제공 장치 및 방법 |
CN115280349A (zh) * | 2020-03-09 | 2022-11-01 | 索尼集团公司 | 图像处理装置、图像处理方法和程序 |
CN111383054A (zh) * | 2020-03-10 | 2020-07-07 | 中国联合网络通信集团有限公司 | 广告检验方法和装置 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6282713B1 (en) | 1998-12-21 | 2001-08-28 | Sony Corporation | Method and apparatus for providing on-demand electronic advertising |
US6711293B1 (en) | 1999-03-08 | 2004-03-23 | The University Of British Columbia | Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image |
JP2002278857A (ja) * | 2001-03-16 | 2002-09-27 | Sanyo Electric Co Ltd | アドレス検出装置 |
JP2003122757A (ja) | 2001-10-10 | 2003-04-25 | Sony Corp | 検索案内システム、端末装置およびサーバ装置 |
JP2006209657A (ja) * | 2005-01-31 | 2006-08-10 | Bandai Co Ltd | オーサリング装置、オーサリング方法およびコンピュータプログラム |
JP2007018166A (ja) * | 2005-07-06 | 2007-01-25 | Nec Corp | 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム |
CN101627399B (zh) | 2007-02-13 | 2012-10-10 | 奥林巴斯株式会社 | 特征匹配方法 |
US20100092093A1 (en) | 2007-02-13 | 2010-04-15 | Olympus Corporation | Feature matching method |
JP4988408B2 (ja) * | 2007-04-09 | 2012-08-01 | 株式会社デンソー | 画像認識装置 |
JP5164222B2 (ja) * | 2009-06-25 | 2013-03-21 | Kddi株式会社 | 画像検索方法およびシステム |
US8670597B2 (en) | 2009-08-07 | 2014-03-11 | Google Inc. | Facial recognition with social network aiding |
US9087059B2 (en) | 2009-08-07 | 2015-07-21 | Google Inc. | User interface for presenting search results for multiple regions of a visual query |
US9135277B2 (en) * | 2009-08-07 | 2015-09-15 | Google Inc. | Architecture for responding to a visual query |
JP5521676B2 (ja) | 2010-03-19 | 2014-06-18 | 富士通株式会社 | 画像処理装置及び画像処理プログラム |
KR101103402B1 (ko) * | 2010-05-31 | 2012-01-05 | 쏠스펙트럼(주) | 시간에 따라 동적인 광고가 반영되는 동영상 제공 시스템 |
-
2012
- 2012-12-12 US US14/365,955 patent/US10115127B2/en active Active
- 2012-12-12 JP JP2013549287A patent/JP6168355B2/ja active Active
- 2012-12-12 WO PCT/JP2012/082230 patent/WO2013089146A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JPWO2013089146A1 (ja) | 2015-04-27 |
US20140310097A1 (en) | 2014-10-16 |
US10115127B2 (en) | 2018-10-30 |
WO2013089146A1 (ja) | 2013-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6168355B2 (ja) | 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム | |
CN101038593B (zh) | 表示图像组的方法和装置 | |
KR101612212B1 (ko) | 국소 특징 기술자 추출 장치, 국소 특징 기술자 추출 방법, 및 프로그램을 기록한 컴퓨터 판독가능 기록 매체 | |
CN109618222A (zh) | 一种拼接视频生成方法、装置、终端设备及存储介质 | |
US9792528B2 (en) | Information processing system, information processing method, information processing apparatus and control method and control program thereof, and communication terminal and control method and control program thereof | |
US20100135527A1 (en) | Image recognition algorithm, method of identifying a target image using same, and method of selecting data for transmission to a portable electronic device | |
KR101932537B1 (ko) | 3차원 전자지도상에 촬영영상을 표시하는 방법 및 장치 | |
JP6044547B2 (ja) | 局所特徴量抽出装置、局所特徴量抽出方法、及びプログラム | |
KR20140102181A (ko) | 정보 처리 장치, 정보 처리 방법 및 프로그램 | |
EP2870568B1 (en) | Method for transforming an image descriptor based on a gradient histogram and relative image processing apparatus | |
US9355317B2 (en) | Video processing system, video processing method, video processing device for mobile terminal or server and control method and control program thereof | |
CN109961472A (zh) | 3d热力图生成的方法、系统、存储介质及电子设备 | |
KR102468309B1 (ko) | 영상 기반 건물 검색 방법 및 장치 | |
CN112215964A (zh) | 基于ar的场景导览方法和设备 | |
WO2013115092A1 (ja) | 映像処理システム、映像処理方法、映像処理装置およびその制御方法と制御プログラム | |
CN112230765A (zh) | Ar显示方法、ar显示设备和计算机可读存储介质 | |
EP2458559A1 (en) | Marker judgment device, marker judgment detection system, marker judgment detection device, marker, marker judgment method, and program therefor | |
CN106997366A (zh) | 数据库构建方法、增强现实融合追踪方法及终端设备 | |
CN113395583A (zh) | 水印检测方法、装置、计算机设备及存储介质 | |
CN113014809B (zh) | 显示方法 | |
JP6131859B2 (ja) | 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム | |
CN103970809A (zh) | 标记放置支持设备和标记放置支持方法 | |
KR101625751B1 (ko) | 바운더리 코드를 포함하는 ar 마커 장치, 이를 이용한 ar 제공 시스템 및 방법 | |
WO2013089041A1 (ja) | 映像処理システム、映像処理方法、携帯端末用またはサーバ用の映像処理装置およびその制御方法と制御プログラム | |
WO2015159417A1 (ja) | 撮影映像による文書検索システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20151109 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170123 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170209 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170406 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170601 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170614 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6168355 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |