JP4349004B2 - Television receiver detection apparatus and method - Google Patents

Television receiver detection apparatus and method Download PDF

Info

Publication number
JP4349004B2
JP4349004B2 JP2003170530A JP2003170530A JP4349004B2 JP 4349004 B2 JP4349004 B2 JP 4349004B2 JP 2003170530 A JP2003170530 A JP 2003170530A JP 2003170530 A JP2003170530 A JP 2003170530A JP 4349004 B2 JP4349004 B2 JP 4349004B2
Authority
JP
Japan
Prior art keywords
image data
television receiver
television
detecting
quadrangle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003170530A
Other languages
Japanese (ja)
Other versions
JP2005004697A (en
Inventor
純一 船田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2003170530A priority Critical patent/JP4349004B2/en
Publication of JP2005004697A publication Critical patent/JP2005004697A/en
Application granted granted Critical
Publication of JP4349004B2 publication Critical patent/JP4349004B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

【0001】
【発明の属する技術分野】
本発明はテレビ受像機検出装置に関し、特に家庭用のロボット等に設けられて室内のテレビ受像機を判別してその位置を検出するテレビ受像機検出装置および方法に関する。
【0002】
【従来の技術】
家庭内で使用される自走式ロボットにとって、室内のテレビ受像機を判別してその位置を検出することは重要な意味を持つ。
【0003】
例えば、自走式の掃除ロボットでは、テレビ受像機を判別してその位置を知ることにより室内でのロボット自身の位置を認識でき、効率よく掃除を実行することが可能となる。
【0004】
また、家庭内でユーザと情報のやりとりをするパーソナルロボットでは、テレビ受像機を判別してその位置を知ることにより、他の物体の位置関係を把握でき、それに応じた各種行動をとることが容易となる。
【0005】
従来は、ロボットに室内の検出対象物の位置を検出させる手段としては、検出対象物に専用のマーカや発光体を設け、ロボットに設置した視覚センサによりマーカや発光体を認識させることにより検出対象物の位置を検出させている(例えば、特許文献1参照。)。
【0006】
あるいは、ロボットに周囲の物体を判別させる手段として、テレビカメラおよびレーザ計測装置をロボットに取り付け、画像データおよびレーザ計測結果により物体の形状、距離、色、温度等を認識し、その対象物の種別を判別させている(例えば、特許文献2参照。)。
【0007】
【特許文献1】
特開2002−287824号公報(図3)
【特許文献2】
特開2002−122415号公報(図2)
【0008】
【発明が解決しようとする課題】
上述した従来例の前者では、マーカや発光体を設ける必要があり、ユーザの手間やコストがかかる。また、それらのマーカや発光体が視覚的に抵抗感を与えるという問題点がある。
【0009】
また、従来例の後者では、対象物の種別を判別するためにテレビカメラおよびレーザ計測装置をロボットに設けているが、検出対象物としてテレビ受像機にその機能を限定した場合、コストおよび検出精度において問題点を有している。
【0010】
本発明の目的は、検出対象物にマーカや発光体を設けることなく、またロボットにレーザ計測装置を設けることなく、撮像した画像に基づきテレビ受像機を精度良く判別しその位置を検出させることができるテレビ受像機検出装置および方法を提供することにある。
【0013】
【課題を解決するための手段】
本発明のテレビ受像機検出装置は、撮像した画像データを出力する撮像手段と、この撮像手段から出力される画像データを一時保存するメモリと、現在の画像データと前記メモリに保存されている過去の複数枚の画像データとの差分を求めて予め決められた閾値によりそれぞれ2値化した2値化フレーム間差分データを累積し出力するフレーム間差分算出手段と、前記2値化フレーム間差分データに基づき四角形を検出する四角形検出手段とを有する。
【0014】
前記四角形検出手段は、前記2値化フレーム間差分データに基づきエッジに相当する線分群を抽出して四角形を検出してもよいし、前記2値化フレーム間差分データに基づき同一値の画素の連結領域を探索して四角形の連結領域を検出するようにしてもよい。
【0016】
記四角形検出手段により検出された複数の四角形についてその面積を比較し最大のものをテレビ画面であると判別し、あるいは、前記四角形検出手段により検出された複数の四角形について距離を獲得して実際のサイズを推定して妥当である否かを検証する検証手段を備えることができる。
【0017】
本発明のテレビ受像機検出装置は、テレビ受像機が受信している放送チャンネルの画像データを取得し、撮像手段により撮像された画像データと照合してテレビ画面を判別する。
【0018】
具体的には、撮像した画像データを出力する撮像手段と、テレビ受像機が受信している放送チャンネルを特定するチャンネル特定手段と、このチャンネル特定手段により特定された放送チャンネルを受信する放送受信手段と、この放送受信手段で受信した画像データと前記撮像手段の画像データとを照合してテレビ画面を探索し判別する照合手段とを備える。
【0019】
前記チャンネル特定手段は、音声・文字・GUIなどのインタフェースを介してユーザに問い合わせて取得してもよいし、テレビ受像機が受信している放送チャンネルを通信回線を介してテレビ受像機から取得してもよいし、前記放送受信手段によりチャンネルを順次切り替えて取得した画像データと前記撮像手段の画像データとをそれぞれ照合して最も近い画像を探索することによりテレビ受像機が受信している放送チャンネルを特定してもよい。
【0020】
また、前記チャンネル特定手段は、テレビ受像機から伝播してくる音声を電気信号に変換するマイクを有し、このマイクで取得した音声信号と前記放送受信手段によりチャンネルを順次切り替えて取得した音声信号とを照合することによりテレビ受像機が受信している放送チャンネルを特定するようにしてもよい。
【0021】
更に、前記照合手段は、前記撮像手段の画像データを複数の小領域に分割し、前記放送受信手段で受信した画像データと前記小領域の画像データとを照合することによりテレビ画像を判別する。
【0022】
本発明のテレビ受像機検出装置は、撮像した画像データを出力する撮像手段と、この撮像手段から出力される画像データを一時保存するメモリと、現在の画像データと前記メモリに保存されている過去の複数枚の画像データとの差分を求めて予め決められた閾値によりそれぞれ2値化した2値化フレーム間差分データを累積し出力するフレーム間差分算出手段と、前記2値化フレーム間差分データに基づき四角形を検出する四角形検出手段と、テレビ受像機が受信している放送チャンネルを特定するチャンネル特定手段と、このチャンネル特定手段により特定された放送チャンネルを受信する放送受信手段と、この放送受信手段で受信した画像データを前記四角形検出手段で検出された四角形と合同に変換して前記撮像手段の画像データと照合することによりテレビ画面を探索し判別する照合手段とを備える。
【0023】
前記照合手段は、輝度値や色分布のヒストグラム等の画像の特徴を抽出して照合してもよいし、輝度値や色分布のヒストグラム等の画像の特徴を抽出してその時間変化が起きる時刻の差に基づき照合してもよいし、画像間の相関を用いて照合してもよい。
【0024】
本発明のテレビ受像機検出装置は、撮像した画像データを出力する撮像手段と、この撮像手段から出力される画像データを一時保存するメモリと、テレビ画面の画像を強制的に変化させる遠隔操作手段と、現在の画像データと前記メモリに保存されている過去の複数枚の画像データとの差分を求めて予め決められた閾値によりそれぞれ2値化した2値化フレーム間差分データを累積し出力するフレーム間差分算出手段と、前記遠隔操作手段によってテレビ画面の画像に変化が生じる前後の前記2値化差分画像データを比較して画像データの変化領域を検出することによりテレビ画面を判別する変化領域検出手段とを備える。
【0028】
本発明のテレビ受像機検出方法は撮像手段から出力される画像データを処理してテレビ受像機を検出するテレビ受像機検出方法であって、撮像手段から出力される現在の画像データと過去の複数枚の画像データとの差分を求め予め決められた閾値によりそれぞれ2値化し累積して2値化フレーム間差分データを求めるステップと、前記2値化フレーム間差分データに基づき四角形を検出することによりテレビ画面を判別するステップとを有する。
【0029】
前記四角形検出ステップは、前記2値化フレーム間差分データに基づきエッジに相当する線分群を抽出して四角形を検出してもよいし、前記2値化フレーム間差分データに基づき同一値の画素の連結領域を探索して四角形を検出するようにしてもよい。
【0031】
記四角形検出ステップにより検出された複数の四角形についてその面積を比較し最大のものをテレビ画面であると判別するステップ、あるいは、検出された複数の四角形について距離を獲得して実際のサイズを推定して妥当である否かを検証するステップを備えることができる。
【0032】
本発明のテレビ受像機検出方法は、テレビ受像機が受信している放送チャンネルの画像データを取得し、撮像手段により撮像された画像データと照合してテレビ画面を判別する。
【0033】
具体的には、テレビ受像機が受信している放送チャンネルを特定するステップと、特定された放送チャンネルの画像データと前記撮像手段の画像データとを照合してテレビ画面を探索し判別する照合ステップとを備える。
【0034】
前記放送チャンネルを特定するステップは、音声・文字・GUIなどのインタフェースを介してユーザに問い合わせて取得してもよいし、テレビ受像機が受信している放送チャンネルを通信回線を介してテレビ受像機から取得してもよい。また、放送チャンネルを順次切り替えて受信した画像データと前記撮像手段の画像データとを照合することにより放送チャンネルを特定してもよい。
【0035】
更に、前記放送チャンネルを特定するステップは、マイクにより取得した音声信号と放送チャンネルを順次切り替えて受信した音声信号とを照合することにより放送チャンネルを特定してもよい。
【0036】
更に、前記照合ステップは、前記撮像手段の画像データを複数の小領域に分割し、前記特定された放送チャンネルの画像データと前記小領域の画像データとを照合することによりテレビ画像を判別する。
【0037】
本発明のテレビ受像機検出方法は、撮像手段から出力される現在の画像データと過去の複数枚の画像データとの差分を求め予め決められた閾値によりそれぞれ2値化し累積して2値化フレーム間差分データを求めるステップと、前記2値化フレーム間差分データに基づき四角形を検出するステップと、テレビ受像機が受信している放送チャンネルを特定するステップと、特定された放送チャンネルの画像データを前記検出された四角形と合同に変換して前記撮像手段の画像データと照合することによりテレビ画面を探索し判別する照合ステップとを備える。
【0038】
前記照合ステップは、輝度値や色分布のヒストグラム等の画像の特徴を抽出して照合してもよいし、輝度値や色分布のヒストグラム等の画像の特徴を抽出してその時間変化が起きる時刻の差に基づき照合してもよいし、画像間の相関を用いて照合してもよい。
【0040】
【発明の実施の形態】
次に本発明について図面を参照して説明する。
【0041】
図1は本発明の第1の実施形態を示すブロック図であり、ロボットに設けられるテレビ受像機検出装置の構成例を示している。
【0042】
ところで、テレビ受像機がテレビ放送を受信中であれば、通常、テレビ受像機の表示画面(以下、テレビ画面と称する。)に表示される画像は時間と共に変化する。また、テレビ画面は長方形であるので、このテレビ画面を外部から撮像した場合、例えば図10に示すように、長方形がアフィン変換された四角形となる。
【0043】
この第1の実施形態では、このようなテレビ画面の特徴を利用してテレビ受像機を検出する。
【0044】
図1において、撮像した画像データを出力するビデオカメラ等の撮像手段1と、撮像手段1から出力される画像データを一時保存するメモリ2と、メモリ2に保存されている過去の画像データと現在の画像データとのフレーム間差分を算出し予め決められた閾値により2値化して2値化フレーム間差分データを出力するフレーム間差分算出手段3と、2値化フレーム間差分データに基づき四角形を検出する四角形検出手段4とを有している。
【0045】
図2に示したフローチャートを参照して第1の実施形態の動作を説明する。
【0046】
まず、撮像手段1は、撮像した画像データをフレーム間差分算出手段3へ送出する(ステップ101)。
【0047】
フレーム間差分算出手段3は、撮像手段1から送出されてくる画像データとメモリ2に保存されている過去の画像データとの差分を算出して差分画像データを生成する(ステップ102)。
【0048】
そして、撮像手段1から送出された画像データを過去の画像データとしてメモリ2に保存する。この場合、メモリ2に保存されている使用済みの古い画像データは廃棄していく(ステップ103)。
【0049】
また、フレーム間差分算出手段3は、予め定められた閾値で差分画像データを2値化して2値化差分画像データを生成する。この場合、差分画像データの値が閾値より大きい画素の値を「1」とし、閾値より小さい画素の値を「0」とする(ステップ104)。
【0050】
ここで、テレビ受像機がテレビ放送を受信中であれば、テレビ画面内の画像は時間とともに変化するので、撮像手段1から送出される画像データと過去の複数の画像データとの2値化差分画像データを算出して累積することにより、撮像された画像内においてのテレビ画面(四角形)の画素は「1」となる。
【0051】
四角形検出手段4は、2値化差分画像データに基づき四角形を検出し、検出した四角形をテレビ画面であると判別する(ステップ105)。
【0052】
その後、テレビ受像機の検出動作を停止するまで、ステップ101〜ステップ105を繰り返す(ステップ106)。
【0053】
なお、四角形検出方法としては、例えば、2値化差分画像データを微分フィルタやsobelフィルタ等を用いてエッジを抽出し、抽出したエッジ画像データからHough変換などを用いて直線を抽出する。そして、抽出された直線の数が4本であれば四角形であると判別し、4本以外の場合は四角形ではないと判別する。
【0054】
また他の例としては、2値化差分画像データについて、同じ値の画素が連結した領域を抽出してラべリングし、抽出した連結領域の形状が四角形であるか否かを検出する。
【0055】
このようにして四角形を検出することによりテレビ画面を検出できるので、テレビ受像機を精度良く検出できる。
【0056】
なお、検出した四角形の形状に基づきアフィン変換処理を行うことにより、テレビ画面の方向を算出することが可能である。
【0057】
図3は本発明の第2の実施形態を示すブロック図である。
【0058】
ここで、図1に示した第1の実施形態との相違点は、四角形検出手段4により検出された四角形についてテレビ画面らしさを検証するための検証手段5を設けている点である。
【0059】
なお、撮像手段1、メモリ2、フレーム間差分算出手段3、および四角形検出手段4は、図1に示した構成要素と同じものであり、同一符号を付している。
【0060】
図4は第2の実施形態の動作を説明するためのフローチャートである。
【0061】
まず撮像手段1は、撮像した画像データをフレーム間差分算出手段3へ送出する(ステップ201)。
【0062】
フレーム間差分算出手段3は、撮像手段1から送出されてくる画像データとメモリ2に保存されている過去の画像データとの差分を算出して差分画像データを生成し(ステップ202)、撮像手段1から送出された画像データを過去の画像データとしてメモリ2に保存する(ステップ203)。
【0063】
フレーム間差分算出手段3は、予め定められた閾値で差分画像データを2値化して2値化差分画像データを生成し(ステップ204)、四角形検出手段4は、2値化差分画像データに基づき四角形を検出する(ステップ205)。
【0064】
検証手段5は、四角形検出手段4により検出された四角形について、テレビ画面として適当であるか否かを検証する(ステップ206)。
【0065】
検証手段5の検証方法としては、例えば、四角形検出手段4により検出された複数の四角形の内、面積が大きなものをテレビ画面であると判別する。
【0066】
または、カメラの自動焦点機構やステレオ視により得られる四角形領域までの距離に基づき、検出された四角形の実際のサイズを算出し、そのサイズがテレビ画面に該当するか否かを検証する。なお、ステレオ視により距離を算出する方法については、例えば、文献「3次元ビジョン」(徐、辻著、共立出版(1998))に記載されている。
【0067】
その後、テレビ受像機の検出動作を停止するまで、ステップ201〜ステップ206を繰り返す(ステップ207)。
【0068】
このように検証手段5を設けることにより、テレビ受像画面以外にも動くものがあって複数の四角形が検出された場合においても、テレビ画面を確実に判別できるので、テレビ受像機の検出精度を高くすることができる。
【0069】
図5は本発明の第3の実施形態を示すブロック図である。
【0070】
この第3の実施形態では、放送受信手段を設けて検出対象のテレビ受像機と同じ放送チャンネルを受信し、放送受信手段の映像データと撮像手段の画像データとを照合することにより、テレビ画面を判別するように構成する。
【0071】
図5において、撮像した画像データを出力するビデオカメラ等の撮像手段1と、検出対象のテレビ受像機が受信している放送チャンネルを特定するチャンネル特定手段6と、チャンネル特定手段で特定された放送チャンネルを受信する放送受信手段7と、放送受信手段7で受信した画像データと撮像手段1の画像データとを照合してテレビ画面を探索する照合手段8とを有している。
【0072】
次に図6に示すフローチャートを参照して動作を説明する。
【0073】
撮像手段1は、撮像した画像データを照合手段8へ送出する(ステップ301)。
【0074】
チャンネル特定手段6は、検出対象のテレビ受像機が受信している放送チャンネルを特定する(ステップ302)。
【0075】
ここで、チャンネル特定手段6がチャンネルを特定する方法として、第1の例は、音声・文字・GUIなどのインタフェースを介してユーザに問い合わせる方法である。第2の例は、インタネットや赤外線やその他の通信回線を介してテレビ受像機と通信することによりテレビ受像機の動作状態情報(受信中の放送チャンネル等の情報)を取得する方法である。
【0076】
また第3の例は、放送受信手段7に一定周期で複数の放送チャンネルを順次受信させ、照合手段8における照合結果により特定する方法。第4の例は、チャンネル特定手段6にマイクを設け、放送受信手段7に一定周期で複数の放送チャンネルを順次受信させてそのテレビ音声信号を出力させ、マイクで取得したテレビ受像機からの音声と放送受信手段7で受信した音声信号とを照合することにより特定する方法である。
【0077】
なお、上述した方法を組み合わせて放送チャンネルを特定するようにしてもよい。
【0078】
チャンネル特定手段6がテレビ受像機の受信チャンネルを特定できた場合(ステップ303)、放送受信手段7は特定された放送チャンネルの映像信号を画像データ化して照合手段へ送出する(ステップ304)。
【0079】
照合手段8は、放送受信手段7により受信された画像が撮像手段1で撮像された画像中のどこに映っているかを算出し、テレビ画面を判別する(ステップ305)。
【0080】
照合手段8での照合方法の第1の例は、濃淡や色分布のヒストグラムを用いる方法である。
【0081】
まず、放送受信手段7の画像データに基づき、濃淡または色分布のヒストグラムを作成する。ここで、濃淡値または色を表すベクトルをxとし、ベクトルxの頻度をh(x)とする。
【0082】
また、撮像手段1で撮像された画像を複数の小領域に分割し、それぞれの小領域毎に濃淡または色分布のヒストグラムを作成する。ここで、各小領域に番号を付け、番号nの小領域についての濃淡値または色を表すベクトルをxとし、ベクトルxの頻度をH(n,x)とする。
【0083】
そして、h(x)とH(n,x)との差が最小となる小領域をテレビ画面の位置として検出する。
【0084】
第2の例は、画像列の変化に着目する方法である。
【0085】
例えば、第1の例で示したヒストグラムなどの時系列の変化が撮像された画像と受信した画像で一致するかどうかを比較し、その差が最も小さい小領域をテレビの位置として検出する。
【0086】
なお、時系列の変化の抽出に関しては、例えば、文献「コンピュータビジョン技術評論と将来展望」第17章(松山他編、新技術コミュニケーションズ(1998))に記載されているシーン解析の技術を用い、照合する各画像からシーンチェンジの時刻を抽出し、一致しているかどうかを評価することにより実現できる。
【0087】
その後、テレビ受像機の検出動作を停止するまで、ステップ301〜ステップ305を繰り返す(ステップ306)。
【0088】
このようにすることにより、フレーム間差分データに基づき四角形を検出する第1および第2の実施形態とは異なる方法でテレビ受像機を検出できる。
【0089】
図7は本発明の第4の実施形態を示すブロック図である。
【0090】
この第4の実施形態は、図3に示した第2の実施形態および図5に示した第3の実施形態を組み合わせた構成となっている。
【0091】
なお、撮像手段1、メモリ2、フレーム間差分算出手段3、および四角形検出手段4は、図3に示した第2の実施形態の構成要素と同じものであり、同一符号を付している。
【0092】
図7において、撮像した画像データを出力するビデオカメラ等の撮像手段1と、撮像手段1から出力される画像データを一時保存するメモリ2と、メモリ2に保存されている過去の画像データと現在の画像データとのフレーム間差分を算出し予め決められた閾値により2値化して2値化フレーム間差分データを出力するフレーム間差分算出手段3と、2値化フレーム間差分データに基づき四角形を検出する四角形検出手段4と、四角形検出手段4により検出された四角形についてテレビ画面らしさを検証する検証手段9とを備えている。
【0093】
また検証手段9は、検出対象のテレビ受像機が受信している放送チャンネルを特定するチャンネル特定手段91と、チャンネル特定部で特定された放送チャンネルを受信する放送受信手段92と、放送受信手段92の受信した画像データおよび撮像手段1の画像データ並びに四角形検出手段4により検出された四角形を照合してテレビ画面を探索する照合手段93とを有している。
【0094】
なお、撮像手段1、メモリ2、フレーム間差分算出手段3および四角形検出手段4については、図3に示した第2の実施形態と同じであるので、説明は省略する。また、検証手段9のチャンネル特定手段91および放送受信手段92については、図5に示した第3の実施形態と同じであるので、説明は省略する。
【0095】
ここで、検証手段9の照合手段93について説明する。
【0096】
照合手段93は、放送受信手段により生成された受信映像の画像データを、四角形検出手段で抽出された四角形と合同な四角形の画像データに変換し、画像マッチングして同一か否かを判定する。そして、同一であると判定された四角形をテレビ画面であると判別する。
【0097】
なお、画像マッチングの方法としては、輝度値や色の差の絶対値や二乗和、エッジ抽出等の画像の特徴を抽出して比較する等の様々な方法を用いることができる。また、文献「コンピュータ画像処理入門」5章(田村監修、総研出版(1985))などに記載されている画像マッチング方法を用いて実現してもよい。
【0098】
図8は本発明の第5の実施形態を示すブロック図である。
【0099】
この第5の実施形態では、テレビ受像機の受信チャンネルの切替等の操作を遠隔操作できるリモコン等の遠隔操作手段10を設け、テレビ画面の画像を強制的に変化させることにより、テレビ画面の画像変化が少なくて差分が十分に得られない場合や、受信している放送チャンネルの特定ができない場合や、あるいはテレビ放送以外のビデオ画像が画面に表示されている場合等に対応できるように構成する。
【0100】
図8において、撮像した画像データを出力するビデオカメラ等の撮像手段1と、撮像手段1から出力される画像データを一時保存するメモリ2と、メモリ2に保存されている過去の画像データと現在の画像データとのフレーム間差分を算出し予め決められた閾値により2値化したフレーム間差分データを出力するフレーム間差分算出手段3と、テレビ受像機を遠隔操作するための遠隔操作手段10と、この遠隔操作手段10の操作に同期して画像データの変化領域を算出し、テレビ画面を判別する変化領域検出手段11とを有している。
【0101】
ここで、遠隔操作手段10としては、例えば、赤外線信号を送出してテレビ受像機を操作できるリモコンや、LANを介してテレビ受像機を操作できる装置や、テレビ放送電波と同じ周波数の微少電波を送出してテレビ画面に変化を生じさせる装置等で実現できる。
【0102】
次に図9に示すフローチャートを参照して第5の実施形態の動作を説明する。
【0103】
まず撮像手段1は、撮像した画像データをフレーム間差分算出手段3へ送出する(ステップ401)。
【0104】
フレーム間差分算出手段3は、撮像手段1から送出されてくる画像データとメモリ2に保存されている過去の画像データとの差分を算出して差分画像データを生成し(ステップ402)、撮像手段1から送出された画像データを過去の画像データとしてメモリ2に保存する(ステップ403)。
【0105】
フレーム間差分算出手段3は、予め定められた閾値で差分画像データを2値化して2値化差分画像データを生成し、変化領域検出手段11へ送出する(ステップ404)。
【0106】
遠隔操作手段10は、テレビ画面の画像に変化を生じさせるように、検査対象のテレビ受像機の受信チャンネルを別チャンネルに切り替えさせるリモコン信号等を送出する(ステップ405)。
【0107】
変化領域検出手段11は、遠隔操作手段10によってテレビ画面の画像に変化が生じる前後の2値化差分画像データを比較し、差異の生じた領域をテレビ画面であると判別することによりテレビ受像機を検出する(ステップ406)。
【0108】
その後、テレビ受像機の検出動作を停止するまで、ステップ401〜ステップ406を繰り返す(ステップ207)。
【0109】
このようにすることにより、テレビ画面の画像変化が少なくて差分が十分に得られない場合や、受信している放送チャンネルの特定ができない場合や、あるいはテレビ放送以外のビデオ画像が画面に表示されている場合でも、撮像した画像に基づきテレビ受像機を精度良く判別できる。
【0110】
【発明の効果】
以上説明したように本発明によれば、テレビ画面の画像が時間とともに変化することを利用して撮像画像に基づきテレビ画面を判別することにより、検出対象物に専用のマーカや発光体を設けることなく、またロボットにレーザ計測装置を設けることなく、撮像した画像に基づきテレビ受像機を精度良く判別しその位置を検出することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態を示すブロック図である。
【図2】図1に示した第1の実施形態の動作を説明するためのフローチャートである。
【図3】本発明の第2の実施形態を示すブロック図である。
【図4】図3に示した第2の実施形態の動作を説明するためのフローチャートである。
【図5】本発明の第3の実施形態を示すブロック図である。
【図6】図5に示した第3の実施形態の動作を説明するためのフローチャートである。
【図7】本発明の第4の実施形態を示すブロック図である。
【図8】本発明の第5の実施形態を示すブロック図である。
【図9】図8に示した第5の実施形態の動作を説明するためのフローチャートである。
【図10】長方形のテレビ画面がアフィン変換された状態を示す図である。
【符号の説明】
1 撮像手段
2 メモリ
3 フレーム間差分算出手段
4 四角形検出手段
5,9 検証手段
6,91 チャンネル特定手段
7,92 放送受信手段
8,93 照合手段
10 遠隔操作手段
11 変化領域検出手段
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a television receiver detection apparatus, and more particularly to a television receiver detection apparatus and method that are provided in a home robot or the like and determine the position of a room television receiver and detect its position.
[0002]
[Prior art]
For a self-propelled robot used in the home, it is important to detect the position of the indoor television receiver and detect its position.
[0003]
For example, in a self-propelled cleaning robot, it is possible to recognize the position of the robot in the room by identifying the television receiver and knowing its position, and it is possible to perform cleaning efficiently.
[0004]
In addition, a personal robot that exchanges information with the user at home can recognize the position of other objects by identifying the TV receiver and knowing its position, and can easily take various actions accordingly. It becomes.
[0005]
Conventionally, as a means for causing a robot to detect the position of a detection target in a room, a dedicated marker or light emitter is provided on the detection target, and the detection target is recognized by a visual sensor installed on the robot. The position of the object is detected (for example, refer to Patent Document 1).
[0006]
Alternatively, as a means for causing the robot to discriminate surrounding objects, a TV camera and a laser measurement device are attached to the robot, and the shape, distance, color, temperature, etc. of the object are recognized from the image data and the laser measurement result, and the type of the object (See, for example, Patent Document 2).
[0007]
[Patent Document 1]
JP 2002-287824 A (FIG. 3)
[Patent Document 2]
JP 2002-122415 A (FIG. 2)
[0008]
[Problems to be solved by the invention]
In the former case of the above-described conventional example, it is necessary to provide a marker and a light emitter, which takes time and cost for the user. In addition, there is a problem in that these markers and light emitters visually give a sense of resistance.
[0009]
In the latter case of the conventional example, a TV camera and a laser measuring device are provided in the robot to determine the type of the object. However, if the function is limited to the TV receiver as the object to be detected, the cost and detection accuracy are reduced. Have problems.
[0010]
An object of the present invention is to accurately determine a television receiver based on a captured image and detect its position without providing a marker or a light emitter on a detection target and without providing a laser measurement device on a robot. An object of the present invention is to provide an apparatus and method for detecting a television receiver.
[0013]
[Means for Solving the Problems]
  The television receiver detection apparatus of the present invention isAn imaging unit that outputs captured image data, a memory that temporarily stores image data output from the imaging unit, and a difference between current image data and a plurality of past image data stored in the memory Inter-frame difference calculation means for accumulating and outputting binarized inter-frame difference data that has been binarized according to a predetermined threshold, and quadrilateral detection means for detecting a quadrangle based on the binarized inter-frame difference data; Have
[0014]
The quadrangle detection means may detect a quadrangle by extracting a line segment group corresponding to an edge based on the binarized interframe difference data, or may detect pixels having the same value based on the binarized interframe difference data. You may make it search a connection area | region and may detect a square connection area | region.
[0016]
  in frontCompare the areas of multiple quadrilaterals detected by the quadrilateral detection means and determine that the largest one is a TV screenOrIt is reasonable to estimate the actual size by obtaining the distance for a plurality of rectangles detected by the rectangle detection means.OrVerify whether or notVerification means can be provided.
[0017]
  The present inventionTeThe Levi receiver detection device acquires image data of a broadcast channel received by the television receiver, and compares the image data captured by the imaging unit to determine the television screen.
[0018]
Specifically, imaging means for outputting captured image data, channel specifying means for specifying a broadcast channel received by the television receiver, and broadcast receiving means for receiving a broadcast channel specified by the channel specifying means And collating means for searching and discriminating a television screen by collating the image data received by the broadcast receiving means with the image data of the imaging means.
[0019]
The channel specifying means may obtain and inquire a user through an interface such as voice / character / GUI, or obtain a broadcast channel received by the television receiver from the television receiver via a communication line. Alternatively, the broadcast channel received by the television receiver by searching the nearest image by comparing the image data acquired by sequentially switching the channel by the broadcast receiving unit and the image data of the imaging unit. May be specified.
[0020]
Further, the channel specifying means has a microphone for converting sound propagated from the television receiver into an electric signal, and an audio signal acquired by the microphone and an audio signal acquired by sequentially switching channels by the broadcast receiving means. May be used to identify the broadcast channel received by the television receiver.
[0021]
Further, the collating unit divides the image data of the imaging unit into a plurality of small areas, and discriminates a television image by collating the image data received by the broadcast receiving unit with the image data of the small area.
[0022]
  The present inventionTeThe Levi receiver detection device includes an imaging unit that outputs captured image data, a memory that temporarily stores the image data output from the imaging unit, a plurality of past images stored in the current image data and the memory An inter-frame difference calculating means for accumulating and outputting the binarized inter-frame difference data obtained by obtaining a difference from the image data and binarizing each with a predetermined threshold, and a quadrangle based on the binarized inter-frame difference data A quadrangle detecting means for detecting the channel, a channel specifying means for specifying a broadcast channel received by the television receiver, a broadcast receiving means for receiving the broadcast channel specified by the channel specifying means, and a reception by the broadcast receiving means. The image data thus converted is congruent with the quadrangle detected by the quadrangle detection means and collated with the image data of the imaging means. And a collating means for searching to determine a more television screen.
[0023]
The collation means may extract and collate image features such as luminance values and color distribution histograms, or extract image features such as luminance values and color distribution histograms, and the time at which time changes occur. Matching may be performed based on the difference between the images, or by using correlation between images.
[0024]
  The present inventionTeThe Levi receiver detection device includes: an imaging unit that outputs captured image data; a memory that temporarily stores image data output from the imaging unit; a remote operation unit that forcibly changes an image on a television screen; The difference between frame image data and the past plural pieces of image data stored in the memory are obtained, and the difference between frames is accumulated and output by binarizing the difference data between the binarized frames respectively by a predetermined threshold value. A change area detecting means for determining a television screen by comparing the binarized difference image data before and after the change in the image on the television screen by the remote operation means and detecting a change area of the image data; Is provided.
[0028]
  The television receiver detection method of the present invention is,A television receiver detection method for detecting a television receiver by processing image data output from an imaging means,Obtaining the difference between the current image data output from the imaging means and a plurality of past image data, and binarizing and accumulating them according to a predetermined threshold value to obtain binary inter-frame difference data; Rectangle is detected based on difference data between value framesThe TV screenSteps.
[0029]
The quadrangle detection step may detect a quadrangle by extracting a line segment group corresponding to an edge based on the binary inter-frame difference data, or may detect pixels having the same value based on the binary inter-frame difference data. A quadrilateral may be detected by searching for a connected area.
[0031]
  in frontCompare the areas of multiple quadrilaterals detected in the quadrilateral detection step and determine that the largest one is a TV screenStep to do, orIt is reasonable to estimate the actual size by obtaining the distance for the detected squaresOrVerify whether or notSteps may be provided.
[0032]
  The present inventionTeIn the Levi receiver detection method, image data of a broadcast channel received by a television receiver is acquired, and the television screen is determined by collating with image data captured by an imaging unit.
[0033]
Specifically, a step of identifying a broadcast channel received by the television receiver, and a collation step of searching and determining the television screen by collating the image data of the identified broadcast channel with the image data of the imaging means With.
[0034]
The step of specifying the broadcast channel may be obtained by inquiring the user via an interface such as voice, text, GUI, or the television channel received by the television receiver via the communication line. May be obtained from Further, the broadcast channel may be specified by sequentially switching the broadcast channel and comparing the received image data with the image data of the imaging means.
[0035]
Furthermore, the step of specifying the broadcast channel may specify the broadcast channel by collating an audio signal acquired by a microphone with an audio signal received by sequentially switching the broadcast channel.
[0036]
Further, the collating step divides the image data of the imaging means into a plurality of small areas, and discriminates a television image by collating the image data of the specified broadcast channel with the image data of the small area.
[0037]
  The present inventionTeIn the Levi receiver detection method, the difference between the current image data output from the image pickup means and a plurality of past image data is obtained and binarized and accumulated according to a predetermined threshold value, and binarized inter-frame difference data Determining a square based on the binarized inter-frame difference data, specifying a broadcast channel received by the television receiver, and detecting the image data of the specified broadcast channel. A collation step of searching for and determining a television screen by collating with the quadrangle and collating with the image data of the imaging means.
[0038]
The collation step may be performed by extracting image features such as luminance values and color distribution histograms, or extracting image features such as luminance values and color distribution histograms, and the time at which changes occur. Matching may be performed based on the difference between the images, or by using correlation between images.
[0040]
DETAILED DESCRIPTION OF THE INVENTION
Next, the present invention will be described with reference to the drawings.
[0041]
FIG. 1 is a block diagram showing a first embodiment of the present invention, showing a configuration example of a television receiver detection device provided in a robot.
[0042]
By the way, if the television receiver is receiving a television broadcast, the image displayed on the display screen of the television receiver (hereinafter referred to as a television screen) usually changes with time. Further, since the television screen is rectangular, when the television screen is imaged from the outside, for example, as shown in FIG. 10, the rectangle becomes a quadrangle obtained by affine transformation.
[0043]
In the first embodiment, a television receiver is detected using such a feature of the television screen.
[0044]
In FIG. 1, an imaging unit 1 such as a video camera that outputs captured image data, a memory 2 that temporarily stores image data output from the imaging unit 1, past image data stored in the memory 2, and current The inter-frame difference calculation means 3 for calculating the inter-frame difference from the image data and binarizing with a predetermined threshold and outputting the binarized inter-frame difference data, and the quadrangle based on the binarized inter-frame difference data And square detection means 4 for detection.
[0045]
The operation of the first embodiment will be described with reference to the flowchart shown in FIG.
[0046]
First, the imaging unit 1 sends the captured image data to the inter-frame difference calculation unit 3 (step 101).
[0047]
The inter-frame difference calculation means 3 calculates the difference between the image data sent from the imaging means 1 and the past image data stored in the memory 2 to generate difference image data (step 102).
[0048]
Then, the image data sent from the imaging means 1 is stored in the memory 2 as past image data. In this case, the used old image data stored in the memory 2 is discarded (step 103).
[0049]
Further, the inter-frame difference calculation means 3 binarizes the difference image data with a predetermined threshold value to generate binarized difference image data. In this case, the value of the pixel whose difference image data value is larger than the threshold is set to “1”, and the value of the pixel smaller than the threshold is set to “0” (step 104).
[0050]
Here, if the television receiver is receiving a television broadcast, the image on the television screen changes with time, so the binary difference between the image data sent from the imaging means 1 and a plurality of past image data. By calculating and accumulating the image data, the pixel of the television screen (rectangle) in the captured image becomes “1”.
[0051]
The quadrangle detection means 4 detects a quadrangle based on the binarized difference image data, and determines that the detected quadrangle is a television screen (step 105).
[0052]
Thereafter, steps 101 to 105 are repeated until the detection operation of the television receiver is stopped (step 106).
[0053]
As a quadrangle detection method, for example, an edge is extracted from binarized difference image data using a differential filter, a sobel filter, or the like, and a straight line is extracted from the extracted edge image data using Hough transform or the like. Then, if the number of extracted straight lines is four, it is determined to be a quadrangle, and if it is not four, it is determined not to be a quadrangle.
[0054]
As another example, for binarized difference image data, a region where pixels having the same value are connected is extracted and labeled, and it is detected whether or not the shape of the extracted connected region is a rectangle.
[0055]
Since the television screen can be detected by detecting the quadrangle in this way, the television receiver can be detected with high accuracy.
[0056]
Note that the direction of the television screen can be calculated by performing affine transformation processing based on the detected quadrangular shape.
[0057]
FIG. 3 is a block diagram showing a second embodiment of the present invention.
[0058]
Here, the difference from the first embodiment shown in FIG. 1 is that a verification unit 5 is provided for verifying the quality of the television screen for the quadrangle detected by the quadrangle detection unit 4.
[0059]
The imaging unit 1, the memory 2, the inter-frame difference calculation unit 3, and the quadrangle detection unit 4 are the same as those shown in FIG. 1, and are given the same reference numerals.
[0060]
FIG. 4 is a flowchart for explaining the operation of the second embodiment.
[0061]
First, the imaging unit 1 sends the captured image data to the inter-frame difference calculation unit 3 (step 201).
[0062]
The inter-frame difference calculation means 3 calculates the difference between the image data sent from the imaging means 1 and the past image data stored in the memory 2 to generate difference image data (step 202), and the imaging means The image data sent from 1 is stored in the memory 2 as past image data (step 203).
[0063]
The interframe difference calculation means 3 binarizes the difference image data with a predetermined threshold value to generate binary difference image data (step 204), and the quadrangle detection means 4 is based on the binarized difference image data. A rectangle is detected (step 205).
[0064]
The verification unit 5 verifies whether or not the quadrangle detected by the quadrangle detection unit 4 is appropriate as a television screen (step 206).
[0065]
As a verification method of the verification unit 5, for example, a plurality of quadrangles detected by the quadrangle detection unit 4 having a large area are determined to be a television screen.
[0066]
Alternatively, the actual size of the detected quadrangle is calculated based on the distance to the quadrangular region obtained by the camera's autofocus mechanism or stereo vision, and it is verified whether or not the size corresponds to the television screen. The method for calculating the distance by stereo vision is described in, for example, the document “3D Vision” (Xu, Taku, Kyoritsu Shuppan (1998)).
[0067]
Thereafter, steps 201 to 206 are repeated until the detection operation of the television receiver is stopped (step 207).
[0068]
By providing the verification means 5 in this way, even when there are moving objects other than the television receiver screen and a plurality of quadrangles are detected, the television screen can be reliably identified, so that the detection accuracy of the television receiver is increased. can do.
[0069]
FIG. 5 is a block diagram showing a third embodiment of the present invention.
[0070]
In the third embodiment, a broadcast receiving unit is provided to receive the same broadcast channel as the detection target television receiver, and the television screen is displayed by collating the video data of the broadcast receiving unit with the image data of the imaging unit. Configure to discriminate.
[0071]
In FIG. 5, imaging means 1 such as a video camera for outputting captured image data, channel specifying means 6 for specifying a broadcast channel received by a television receiver to be detected, and broadcasting specified by the channel specifying means. Broadcast receiving means 7 for receiving a channel and checking means 8 for searching the television screen by checking the image data received by the broadcast receiving means 7 and the image data of the imaging means 1 are provided.
[0072]
Next, the operation will be described with reference to the flowchart shown in FIG.
[0073]
The imaging unit 1 sends the captured image data to the verification unit 8 (step 301).
[0074]
The channel specifying means 6 specifies the broadcast channel received by the detection target television receiver (step 302).
[0075]
Here, as a method for the channel specifying means 6 to specify a channel, a first example is a method of inquiring the user via an interface such as voice, text, GUI, or the like. The second example is a method of acquiring operation state information (information such as a broadcast channel being received) of the television receiver by communicating with the television receiver via the Internet, infrared rays, or other communication lines.
[0076]
The third example is a method in which the broadcast receiving means 7 sequentially receives a plurality of broadcast channels at a constant period and is specified by the collation result in the collation means 8. In the fourth example, the channel specifying means 6 is provided with a microphone, the broadcast receiving means 7 sequentially receives a plurality of broadcast channels at a constant period and outputs the TV audio signal, and the audio from the TV receiver acquired by the microphone is used. And the audio signal received by the broadcast receiving means 7 for identification.
[0077]
Note that the broadcast channel may be specified by combining the above-described methods.
[0078]
When the channel specifying means 6 can specify the reception channel of the television receiver (step 303), the broadcast receiving means 7 converts the video signal of the specified broadcast channel into image data and sends it to the collating means (step 304).
[0079]
The collating unit 8 calculates where the image received by the broadcast receiving unit 7 appears in the image captured by the imaging unit 1 and discriminates the television screen (step 305).
[0080]
A first example of the collating method in the collating means 8 is a method using a histogram of light and shade and color distribution.
[0081]
First, based on the image data of the broadcast receiving means 7, a histogram of shading or color distribution is created. Here, a vector representing a gray value or a color is x, and the frequency of the vector x is h (x).
[0082]
Further, the image picked up by the image pickup means 1 is divided into a plurality of small areas, and a grayscale or color distribution histogram is created for each small area. Here, a number is assigned to each small area, and a vector representing the gray value or color for the small area number n is x, and the frequency of the vector x is H (n, x).
[0083]
Then, a small area where the difference between h (x) and H (n, x) is minimized is detected as the position of the television screen.
[0084]
The second example is a method that focuses on the change in the image sequence.
[0085]
For example, it is compared whether or not a time-series change such as a histogram shown in the first example matches between a captured image and a received image, and a small region having the smallest difference is detected as a television position.
[0086]
For extracting time-series changes, for example, using the technique of scene analysis described in the literature “Computer Vision Technology Review and Future Prospects” Chapter 17 (Matsuyama et al., New Technology Communications (1998)) This can be realized by extracting the scene change time from each image to be verified and evaluating whether or not they match.
[0087]
Thereafter, steps 301 to 305 are repeated until the detection operation of the television receiver is stopped (step 306).
[0088]
By doing in this way, a television receiver can be detected by a method different from the first and second embodiments in which a quadrangle is detected based on inter-frame difference data.
[0089]
FIG. 7 is a block diagram showing a fourth embodiment of the present invention.
[0090]
The fourth embodiment has a configuration in which the second embodiment shown in FIG. 3 and the third embodiment shown in FIG. 5 are combined.
[0091]
The imaging unit 1, the memory 2, the inter-frame difference calculation unit 3, and the quadrangle detection unit 4 are the same as those in the second embodiment shown in FIG. 3, and are denoted by the same reference numerals.
[0092]
In FIG. 7, an imaging unit 1 such as a video camera that outputs captured image data, a memory 2 that temporarily stores image data output from the imaging unit 1, past image data stored in the memory 2, and current The inter-frame difference calculation means 3 for calculating the inter-frame difference from the image data and binarizing with a predetermined threshold and outputting the binarized inter-frame difference data, and the quadrangle based on the binarized inter-frame difference data A quadrangle detection unit 4 for detecting and a verification unit 9 for verifying the quality of the television screen for the quadrangle detected by the quadrangle detection unit 4 are provided.
[0093]
The verifying means 9 includes a channel specifying means 91 for specifying the broadcast channel received by the detection target television receiver, a broadcast receiving means 92 for receiving the broadcast channel specified by the channel specifying section, and the broadcast receiving means 92. And a collation means 93 for searching the television screen by collating the received image data, the image data of the imaging means 1 and the quadrangle detected by the quadrangle detection means 4.
[0094]
The imaging unit 1, the memory 2, the interframe difference calculation unit 3, and the quadrangle detection unit 4 are the same as those in the second embodiment shown in FIG. The channel specifying unit 91 and the broadcast receiving unit 92 of the verification unit 9 are the same as those in the third embodiment shown in FIG.
[0095]
Here, the verification unit 93 of the verification unit 9 will be described.
[0096]
The matching unit 93 converts the image data of the received video generated by the broadcast receiving unit into quadrilateral image data that is congruent with the quadrangle extracted by the quadrangle detection unit, and determines whether or not they are the same by performing image matching. Then, the quadrangle determined to be the same is determined as the television screen.
[0097]
As an image matching method, various methods such as extracting and comparing image features such as an absolute value of luminance value, color difference, sum of squares, and edge extraction can be used. Further, it may be realized by using an image matching method described in the document “Introduction to Computer Image Processing”, Chapter 5 (supervised by Tamura, Soken Publishing (1985)).
[0098]
FIG. 8 is a block diagram showing a fifth embodiment of the present invention.
[0099]
In the fifth embodiment, a remote operation means 10 such as a remote control capable of remotely controlling an operation such as switching of a reception channel of a television receiver is provided, and an image of the television screen is changed by forcibly changing the image of the television screen. Configure to handle cases where there is little change and sufficient difference cannot be obtained, when the broadcast channel being received cannot be specified, or when video images other than TV broadcasts are displayed on the screen .
[0100]
In FIG. 8, an imaging means 1 such as a video camera that outputs captured image data, a memory 2 that temporarily stores image data output from the imaging means 1, past image data stored in the memory 2, and current An inter-frame difference calculating means 3 for calculating an inter-frame difference from the image data and outputting the inter-frame difference data binarized by a predetermined threshold; and a remote operating means 10 for remotely operating the television receiver; And a change area detecting means 11 for calculating a change area of the image data in synchronization with the operation of the remote control means 10 and discriminating the television screen.
[0101]
Here, as the remote control means 10, for example, a remote control capable of operating a television receiver by transmitting an infrared signal, a device capable of operating the television receiver via a LAN, or a minute radio wave having the same frequency as the TV broadcast radio wave is used. It can be realized by a device that sends out and changes the television screen.
[0102]
Next, the operation of the fifth embodiment will be described with reference to the flowchart shown in FIG.
[0103]
First, the imaging unit 1 sends the captured image data to the inter-frame difference calculation unit 3 (step 401).
[0104]
The inter-frame difference calculating means 3 calculates the difference between the image data sent from the imaging means 1 and the past image data stored in the memory 2 to generate difference image data (step 402), and the imaging means The image data sent from 1 is stored in the memory 2 as past image data (step 403).
[0105]
The inter-frame difference calculation means 3 binarizes the difference image data with a predetermined threshold value to generate binary difference image data, and sends it to the change area detection means 11 (step 404).
[0106]
The remote control means 10 sends a remote control signal or the like for switching the reception channel of the television receiver to be inspected to another channel so as to cause a change in the image on the television screen (step 405).
[0107]
The change area detecting means 11 compares the binary difference image data before and after the change of the image on the television screen by the remote operation means 10, and determines that the difference area is the television screen, thereby determining the television receiver. Is detected (step 406).
[0108]
Thereafter, steps 401 to 406 are repeated until the detection operation of the television receiver is stopped (step 207).
[0109]
By doing this, when the image change on the TV screen is small and the difference cannot be obtained sufficiently, the broadcast channel being received cannot be specified, or the video image other than the TV broadcast is displayed on the screen. Even in such a case, it is possible to accurately determine the television receiver based on the captured image.
[0110]
【The invention's effect】
As described above, according to the present invention, a dedicated marker or a light emitter is provided on the detection target by determining the television screen based on the captured image using the fact that the image on the television screen changes with time. Further, without providing a laser measuring device in the robot, it is possible to accurately determine the television receiver based on the captured image and detect its position.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a first embodiment of the present invention.
FIG. 2 is a flowchart for explaining the operation of the first embodiment shown in FIG. 1;
FIG. 3 is a block diagram showing a second embodiment of the present invention.
4 is a flowchart for explaining the operation of the second embodiment shown in FIG. 3; FIG.
FIG. 5 is a block diagram showing a third embodiment of the present invention.
6 is a flowchart for explaining the operation of the third exemplary embodiment shown in FIG. 5;
FIG. 7 is a block diagram showing a fourth embodiment of the present invention.
FIG. 8 is a block diagram showing a fifth embodiment of the present invention.
FIG. 9 is a flowchart for explaining the operation of the fifth embodiment shown in FIG. 8;
FIG. 10 is a diagram illustrating a state in which a rectangular television screen is subjected to affine transformation.
[Explanation of symbols]
1 Imaging means
2 memory
3 Inter-frame difference calculation means
4 Rectangle detection means
5,9 Verification means
6,91 Channel identification means
7,92 Broadcast receiving means
8,93 matching means
10 Remote control means
11 Change area detection means

Claims (30)

撮像した画像データを出力する撮像手段と、
この撮像手段から出力される画像データを一時保存するメモリと、
現在の画像データと前記メモリに保存されている過去の複数枚の画像データとの差分を求めて予め決められた閾値によりそれぞれ2値化した2値化フレーム間差分データを累積し出力するフレーム間差分算出手段と、
前記2値化フレーム間差分データに基づき四角形を検出する四角形検出手段とからなることを特徴とするテレビ受像機検出装置。
Imaging means for outputting captured image data;
A memory for temporarily storing image data output from the imaging means;
The difference between the current image data and the past plural pieces of image data stored in the memory is obtained, and the difference between the binarized frames which are respectively binarized by a predetermined threshold is accumulated and outputted. Difference calculation means;
A television receiver detection apparatus comprising: quadrangle detection means for detecting a quadrangle based on the binarized inter-frame difference data.
前記四角形検出手段は、前記2値化フレーム間差分データに基づきエッジに相当する線分群を抽出して四角形を検出することを特徴とする請求項1記載のテレビ受像機検出装置。  2. The television receiver detection apparatus according to claim 1, wherein the quadrangle detection unit detects a quadrangle by extracting a line segment group corresponding to an edge based on the binarized inter-frame difference data. 前記四角形検出手段は、前記2値化フレーム間差分データに基づき同一値の画素の連結領域を探索して四角形の連結領域を検出することを特徴とする請求項1記載のテレビ受像機検出装置。  2. The television receiver detection apparatus according to claim 1, wherein the quadrangle detection means detects a quadrangular connected area by searching for a connected area of pixels having the same value based on the binarized inter-frame difference data. 記四角形検出手段により検出された複数の四角形についてその面積を比較し最大のものをテレビ画面であると判別する検証手段を、さらに備えることを特徴とする請求項記載のテレビ検出装置。 Before SL TV detecting apparatus according to claim 3, wherein the verification means determines that a television screen largest of comparing the area for a plurality of rectangles detected by square detection means, and further comprising. 記四角形検出手段により検出された複数の四角形について距離を獲得して実際のサイズを推定し、そのサイズがテレビ画面サイズとして妥当である否かを検証する検証手段を、さらに備えることを特徴とする請求項記載のテレビ検出装置。Estimate the actual size won distance for a plurality of rectangles that have been detected by the previous SL rectangle detecting unit, a verification unit to which the size is verified whether it is appropriate as a television screen size, further comprising The television detection device according to claim 3 . 撮像手段から出力される画像データを処理してテレビ受像機を検出するテレビ受像機検出装置であって、
テレビ受像機が受信している放送チャンネルの画像データを取得し、前記撮像手段により撮像された画像データと照合してテレビ画面を判別することを特徴とするテレビ受像機検出装置。
A television receiver detection apparatus for detecting a television receiver by processing image data output from an imaging means,
An apparatus for detecting a television receiver, comprising: acquiring image data of a broadcast channel received by a television receiver; and comparing the image data captured by the imaging unit with a television screen.
撮像した画像データを出力する撮像手段と、
テレビ受像機が受信している放送チャンネルを特定するチャンネル特定手段と、
このチャンネル特定手段により特定された放送チャンネルを受信する放送受信手段と、
この放送受信手段で受信した画像データと前記撮像手段の画像データとを照合してテレビ画面を探索し判別する照合手段と
を備えることを特徴とするテレビ受像機検出装置。
Imaging means for outputting captured image data;
Channel identification means for identifying a broadcast channel received by the television receiver;
Broadcast receiving means for receiving the broadcast channel specified by the channel specifying means;
A television receiver detection device comprising: collation means for collating image data received by the broadcast reception means and image data of the imaging means to search and determine a television screen.
前記チャンネル特定手段は、テレビ受像機が受信している放送チャンネルを音声・文字・GUIなどのインタフェースを介してユーザに問い合わせて取得することを特徴とする請求項記載のテレビ受像機検出装置。8. The television receiver detection apparatus according to claim 7 , wherein the channel specifying means obtains a broadcast channel received by the television receiver by inquiring of a user via an interface such as a voice / text / GUI. 前記チャンネル特定手段は、テレビ受像機が受信している放送チャンネルを通信回線を介してテレビ受像機から取得することを特徴とする請求項7記載のテレビ受像機検出装置。  8. The television receiver detection apparatus according to claim 7, wherein the channel specifying unit acquires a broadcast channel received by the television receiver from the television receiver via a communication line. 前記チャンネル特定手段は、前記放送受信手段によりチャンネルを順次切り替えて取得した画像データと前記撮像手段の画像データとをそれぞれ照合して最も近い画像を探索することによりテレビ受像機が受信している放送チャンネルを特定することを特徴とする請求項記載のテレビ受像機検出装置。The channel specifying means is a broadcast received by the television receiver by searching the nearest image by comparing the image data obtained by sequentially switching the channel by the broadcast receiving means and the image data of the imaging means. television receiver detecting device according to claim 7, wherein the identifying a channel. 前記チャンネル特定手段は、テレビ受像機から伝播してくる音声を電気信号に変換するマイクを有し、このマイクで取得した音声信号と前記放送受信手段によりチャンネルを順次切り替えて取得した音声信号とを照合し最も近い音声信号を探索することによりテレビ受像機が受信している放送チャンネルを特定することを特徴とする請求項記載のテレビ受像機検出装置。The channel specifying means has a microphone for converting sound propagated from the television receiver into an electric signal, and an audio signal acquired by the microphone and an audio signal acquired by sequentially switching channels by the broadcast receiving means. 8. The television receiver detection apparatus according to claim 7 , wherein a broadcast channel received by the television receiver is specified by collating and searching for the nearest audio signal. 前記照合手段は、前記撮像手段の画像データを複数の小領域に分割し、前記放送受信手段で受信した画像データと前記小領域の画像データとを照合することによりテレビ画像を判別することを特徴とする請求項記載のテレビ受像機検出装置。The collating means divides the image data of the imaging means into a plurality of small areas, and discriminates a television image by collating the image data received by the broadcast receiving means with the image data of the small areas. The television receiver detection device according to claim 7 . 撮像した画像データを出力する撮像手段と、
この撮像手段から出力される画像データを一時保存するメモリと、
現在の画像データと前記メモリに保存されている過去の複数枚の画像データとの差分を求めて予め決められた閾値によりそれぞれ2値化した2値化フレーム間差分データを累積し出力するフレーム間差分算出手段と、
前記2値化フレーム間差分データに基づき四角形を検出する四角形検出手段と、
テレビ受像機が受信している放送チャンネルを特定するチャンネル特定手段と、
このチャンネル特定手段により特定された放送チャンネルを受信する放送受信手段と、
この放送受信手段で受信した画像データを前記四角形検出手段で検出された四角形と合同に変換して前記撮像手段の画像データと照合することによりテレビ画面を探索し判別する照合手段と
を備えることを特徴とするテレビ受像機検出装置。
Imaging means for outputting captured image data;
A memory for temporarily storing image data output from the imaging means;
The difference between the current image data and the past plural pieces of image data stored in the memory is obtained, and the difference between the binarized frames which are respectively binarized by a predetermined threshold is accumulated and outputted. Difference calculation means;
A quadrangle detection means for detecting a quadrangle based on the binary inter-frame difference data;
Channel identification means for identifying a broadcast channel received by the television receiver;
Broadcast receiving means for receiving the broadcast channel specified by the channel specifying means;
Collating means for searching and determining a television screen by converting the image data received by the broadcast receiving means into a congruent shape with the quadrangle detected by the quadrilateral detecting means and collating with the image data of the imaging means. A feature of a television receiver detection device.
前記照合手段は、輝度値や色分布のヒストグラム等の画像の特徴を抽出して照合を行うことを特徴とする請求項12または13記載のテレビ受像機検出装置。The comparison means, the television receiver detecting apparatus according to claim 7, 12 or 13, wherein the performing matching by extracting features of an image of the histogram such as the luminance value or color distribution. 前記照合手段は、輝度値や色分布のヒストグラム等の画像の特徴を抽出してその時間変化が起きる時刻の差に基づき照合を行うことを特徴とする請求項12または13記載のテレビ受像機検出装置。The comparison means, television of claim 7, 12 or 13, wherein the performing verification based on the difference time at which the time change occurs by extracting features of the image histogram or the like of the luminance value or color distribution Machine detection device. 前記照合手段は、画像間の相関を用いて照合を行うことを特徴とする請求項12または13記載のテレビ受像機検出装置。The television receiver detection device according to claim 7 , 12 or 13 , wherein the verification means performs verification using correlation between images. 撮像した画像データを出力する撮像手段と、
この撮像手段から出力される画像データを一時保存するメモリと、
テレビ画面の画像を強制的に変化させる遠隔操作手段と、
現在の画像データと前記メモリに保存されている過去の複数枚の画像データとの差分を求めて予め決められた閾値によりそれぞれ2値化した2値化フレーム間差分データを累積し出力するフレーム間差分算出手段と、
前記遠隔操作手段によってテレビ画面の画像に変化が生じる前後の前記2値化差分画像データを比較して画像データの変化領域を検出することによりテレビ画面を判別する変化領域検出手段と
を備えることを特徴とするテレビ受像機検出装置。
Imaging means for outputting captured image data;
A memory for temporarily storing image data output from the imaging means;
Remote control means for forcibly changing the image on the TV screen;
The difference between the current image data and the past plural pieces of image data stored in the memory is obtained, and the difference between the binarized frames which are respectively binarized by a predetermined threshold is accumulated and outputted. Difference calculation means;
A change area detecting means for determining the TV screen by comparing the binarized difference image data before and after the change of the image on the TV screen by the remote operation means and detecting the change area of the image data. A feature of a television receiver detection device.
撮像手段から出力される画像データを処理してテレビ受像機を検出するテレビ受像機検出方法であって、
前記撮像手段から出力される現在の画像データと過去の複数枚の画像データとの差分を求め予め決められた閾値によりそれぞれ2値化し累積して2値化フレーム間差分データを求めるステップと、
前記2値化フレーム間差分データに基づき四角形を検出することによりテレビ画面を判別するステップと
を有することを特徴とするテレビ受像機検出方法。
A television receiver detection method for detecting a television receiver by processing image data output from an imaging means,
Obtaining the difference between the current image data output from the imaging means and a plurality of past image data and binarizing and accumulating them according to a predetermined threshold value to obtain binary inter-frame difference data;
Features and to ruthenate Levi receiver detection method further comprising the steps of determining the television screen by detecting a rectangle on the basis of differential data between the binarized frame.
前記四角形を検出するステップは、前記2値化フレーム間差分データに基づきエッジに相当する線分群を抽出して四角形を検出することを特徴とする請求項18記載のテレビ受像機検出方法。19. The television receiver detection method according to claim 18 , wherein the step of detecting the quadrangle detects a quadrangle by extracting a line segment group corresponding to an edge based on the binarized inter-frame difference data. 前記四角形を検出するステップは、前記2値化フレーム間差分データに基づき同一値の画素の連結領域を探索して四角形を検出することを特徴とする請求項18記載のテレビ受像機検出方法。19. The method of detecting a television receiver according to claim 18 , wherein the step of detecting the quadrangle detects a quadrangle by searching for a connected region of pixels having the same value based on the binarized inter-frame difference data. 記検出された複数の四角形についてその面積を比較し最大のものをテレビ画面であると判別する検証ステップを、さらに備えることを特徴とする請求項20記載のテレビ検出方法。TV detection method of claim 20, wherein the verification step, and further comprising to determine that a television screen largest of comparing the area for a plurality of rectangles that have been pre-Symbol detection. 記検出された複数の四角形について距離を獲得して実際のサイズを推定し、そのサイズがテレビ画面サイズとして妥当である否かを検証する検証ステップを、さらに備えることを特徴とする請求項20記載のテレビ検出方法。Claim estimate the actual size won distance for a plurality of rectangles that have been pre-Symbol detected, a verification step in which the size is verified whether it is appropriate as a television screen size, and further comprising 20 The television detection method as described. 撮像手段から出力される画像データを処理してテレビ受像機を検出するテレビ受像機検出方法であって、
テレビ受像機が受信している放送チャンネルを特定するステップと、
特定された放送チャンネルの画像データと前記撮像手段の画像データとを照合してテレビ画面を探索し判別する照合ステップと
を備えることを特徴とするテレビ受像機検出方法。
A television receiver detection method for detecting a television receiver by processing image data output from an imaging means,
Identifying the broadcast channel that the television set is receiving;
A television receiver detection method comprising: a collation step of collating image data of a specified broadcast channel with image data of the imaging unit to search and discriminate a television screen.
前記放送チャンネルを特定するステップは、音声・文字・GUIなどのインタフェースを介してユーザに問い合わせて取得することを特徴とする請求項23記載のテレビ受像機検出放送。24. The television receiver detection broadcast according to claim 23, wherein the step of specifying the broadcast channel is obtained by inquiring of a user through an interface such as a voice / text / GUI. 前記放送チャンネルを特定するステップは、通信回線を介してテレビ受像機から取得することを特徴とする請求項23記載のテレビ受像機検出方法。The method of detecting a television receiver according to claim 23, wherein the step of specifying the broadcast channel is acquired from the television receiver via a communication line. 前記放送チャンネルを特定するステップは、特定された放送チャンネルの画像データと前記撮像手段の画像データとを照合して最も近い画像を探索することにより放送チャンネルを特定することを特徴とする請求項23記載のテレビ受像機検出方法。Identifying the broadcast channel according to claim 23, wherein identifying a broadcast channel by searching for the nearest image by matching the image data of the image pickup means and the image data of the broadcast channel identified The television receiver detection method as described. 前記放送チャンネルを特定するステップは、テレビ受像機から伝播してくる音声信号とマイクにより取得されたた音声とを照合して最も近い音声を探索することにより放送チャンネルを特定することを特徴とする請求項23記載のテレビ受像機検出方法。The step of specifying the broadcast channel is characterized in that the broadcast channel is specified by searching for the closest audio by comparing the audio signal propagating from the television receiver with the audio acquired by the microphone. The television receiver detection method according to claim 23 . 前記照合ステップは、前記撮像手段の画像データを複数の小領域に分割し、前記特定された放送チャンネルの画像データと前記小領域の画像データとを照合することによりテレビ画像を判別することを特徴とする請求項23記載のテレビ受像機検出方法。The collating step divides the image data of the imaging means into a plurality of small areas, and discriminates a television image by collating the image data of the specified broadcast channel with the image data of the small area. The television receiver detection method according to claim 23 . 撮像手段から出力される画像データを処理してテレビ受像機を検出するテレビ受像機検出方法であって、
前記撮像手段から出力される現在の画像データと過去の複数枚の画像データとの差分を求め予め決められた閾値によりそれぞれ2値化し累積して2値化フレーム間差分データを求めるステップと、
前記2値化フレーム間差分データに基づき四角形を検出するステップと、
テレビ受像機が受信している放送チャンネルを特定するステップと、
特定された放送チャンネルの画像データを前記四角形検出手段で検出された四角形と合同に変換して前記撮像手段の画像データと照合することによりテレビ画面を探索し判別する照合ステップと
を備えることを特徴とするテレビ受像機検出方法。
A television receiver detection method for detecting a television receiver by processing image data output from an imaging means,
Obtaining the difference between the current image data output from the imaging means and a plurality of past image data and binarizing and accumulating them according to a predetermined threshold value to obtain binary inter-frame difference data;
Detecting a quadrangle based on the binarized inter-frame difference data;
Identifying the broadcast channel that the television set is receiving;
A collating step of searching and determining a television screen by converting image data of the specified broadcast channel into a congruent shape with the quadrangle detected by the quadrangle detecting unit and collating with the image data of the imaging unit. A method for detecting a television receiver.
前記照合ステップは、輝度値や色分布のヒストグラム等の画像の特徴に基づき、その時間変化が起きる時刻の差に基づき、また画像間の相関を用いて照合を行うことを特徴とする請求項2328または29記載のテレビ受像機検出方法。The matching step is claim 23 based on the feature of the image histogram or the like of the luminance value or color distribution on the basis of the difference between times of the time change occurs, also characterized in that for matching using correlation between images , 28 or 29 .
JP2003170530A 2003-06-16 2003-06-16 Television receiver detection apparatus and method Expired - Fee Related JP4349004B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003170530A JP4349004B2 (en) 2003-06-16 2003-06-16 Television receiver detection apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003170530A JP4349004B2 (en) 2003-06-16 2003-06-16 Television receiver detection apparatus and method

Publications (2)

Publication Number Publication Date
JP2005004697A JP2005004697A (en) 2005-01-06
JP4349004B2 true JP4349004B2 (en) 2009-10-21

Family

ID=34095302

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003170530A Expired - Fee Related JP4349004B2 (en) 2003-06-16 2003-06-16 Television receiver detection apparatus and method

Country Status (1)

Country Link
JP (1) JP4349004B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014512128A (en) * 2011-03-31 2014-05-19 ティーヴィータック リミテッド Apparatus, system, method, and medium for detection, indexing, and comparison of video signals from a video display in a background scene using camera-enabled devices
JP2014178744A (en) * 2013-03-13 2014-09-25 Samsung R&D Institute Japan Co Ltd Light emitting object detection device, light emitting object detection method, and light emitting object detection program

Also Published As

Publication number Publication date
JP2005004697A (en) 2005-01-06

Similar Documents

Publication Publication Date Title
JP3753722B2 (en) Extraction method of tooth region from tooth image and identification method and apparatus using tooth image
JP4970195B2 (en) Person tracking system, person tracking apparatus, and person tracking program
US7630561B2 (en) Image processing
WO2016199244A1 (en) Object recognition device and object recognition system
CN102833478B (en) Fault-tolerant background model
US7880815B2 (en) Method for detecting and eliminating flash scene in digital video
US9852631B2 (en) Mobile on-street parking occupancy detection
JPH07302328A (en) Method for extracting area of moving object based upon background difference
US20050265581A1 (en) Object detection
CN109740444B (en) People flow information display method and related product
US8098897B2 (en) Multi dimensional imaging system
US7260243B2 (en) Intruding-object detection apparatus
JP5012396B2 (en) White line detection device, parking and stopping support device, and white line detection method
CN113168705A (en) Method and apparatus for context-embedded and region-based object detection
JP2002074368A (en) Moving object recognizing and tracking device
US20130083965A1 (en) Apparatus and method for detecting object in image
CN110008771B (en) Code scanning system and code scanning method
GB2414616A (en) Comparing test image with a set of reference images
CN109615440B (en) Direct reaction advertisement detection and classification system and method
JP3486229B2 (en) Image change detection device
CN112257523A (en) Smoke identification method and system of image type fire detector
US20090180670A1 (en) Blocker image identification apparatus and method
JP3419636B2 (en) Automatic inspection equipment for overhead lines
JP4349004B2 (en) Television receiver detection apparatus and method
JPH08210847A (en) Image processing method

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20050314

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060518

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20070118

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20080610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090407

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20090508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090630

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090713

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees