JP2004334269A - 画像処理装置および方法、記録媒体、並びにプログラム - Google Patents
画像処理装置および方法、記録媒体、並びにプログラム Download PDFInfo
- Publication number
- JP2004334269A JP2004334269A JP2003124973A JP2003124973A JP2004334269A JP 2004334269 A JP2004334269 A JP 2004334269A JP 2003124973 A JP2003124973 A JP 2003124973A JP 2003124973 A JP2003124973 A JP 2003124973A JP 2004334269 A JP2004334269 A JP 2004334269A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- measuring
- displacement
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】被写体となる動物体の動きに合わせて見易いスムーズな表示画像を生成する。
【解決手段】画素数演算部11により演算された光ビーコンを撮像している画素数をメモリ12に記憶させる。差分演算部13は、今のフレームの光ビーコンを撮像している画素数と、直前のフレームの光ビーコンを撮像している画素数との差分を求めてズーム倍率演算部14に出力する。ズーム倍率演算部14は、その差分と、基準となる倍率の画素数との比を求め、その比に比例したズーム倍率を演算し、画像処理部15に出力する。画像処理部15は、画像データをズーム倍率演算部14より供給されたズーム倍率に基づいてズーム画像を生成する。
【選択図】 図2
【解決手段】画素数演算部11により演算された光ビーコンを撮像している画素数をメモリ12に記憶させる。差分演算部13は、今のフレームの光ビーコンを撮像している画素数と、直前のフレームの光ビーコンを撮像している画素数との差分を求めてズーム倍率演算部14に出力する。ズーム倍率演算部14は、その差分と、基準となる倍率の画素数との比を求め、その比に比例したズーム倍率を演算し、画像処理部15に出力する。画像処理部15は、画像データをズーム倍率演算部14より供給されたズーム倍率に基づいてズーム画像を生成する。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、特に、撮像した画像から表示画像を生成する際、被写体となる動物体の動きに合わせて見易いスムーズな表示画像を生成できるようにした画像処理装置および方法、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
ビデオカメラで被写体を撮像し、被写体の動きに対応して表示する技術が一般に普及している。
【0003】
ビデオカメラで被写体を撮像し、被写体の動きに自動的に追従して、撮像された画像から表示画像を生成する場合、一般的には色認識を用いて被写体を識別し、撮像された画像内の動きを追尾して、被写体の動きに合わせて表示画像が生成される。
【0004】
例えば、色の付いたヘルメットを被らせビデオカメラで捕らえるべきターゲットに特定の色を指定しておくことにより、画像から特定の色を検出し、その特定の色が画像中のどの領域にあるかというのを検出して、検出された領域に応じて表示画像を生成する技術がある(例えば、引用文献1参照)。
【0005】
また、ある色領域内部の点を撮像者が指定し、指定された色の領域と、そうでない領域に2値化することにより追尾したい被写体を検出するという方法がある(例えば、引用文献2参照)。
【0006】
さらに、上述の表示画面を撮像するにあたり、被写体を撮像した画像を用いて、表示画像を生成する際、表示画像のズーム倍率を自動化する方法として、被写体が何であるかによって大きさがほぼ一定に決まるという想定に基づいて、ズーム倍率を決定し焦点距離を算出する方法がある(例えば、引用文献3参照)。
【0007】
【特許文献1】
特開平4−354490号公報
【0008】
【特許文献2】
特開平7−154666号公報
【0009】
【特許文献3】
特開平6−175002号公報
【0010】
【発明が解決しようとする課題】
しかしながら、以上の方法は、追尾される被写体が特定の色のヘルメットや衣服を着用しなければならない場合が多く、そうでなくともある程度認識しやすい色を付したヘルメットのようなものを被写体となる人物などが、撮像されるように所持しておく必要があるため、撮像前の準備が面倒であると言う課題があった。また、実際の撮像に取り掛かるための準備として、一度特定の色を指定するために撮像を行なわなければならないという煩わしさもあった。
【0011】
また、特定の色を指定する作業は、あくまで人間の作業であり、そのため実際の撮像にとりかかるまでの処理時間が長くなり、複数回に渡って撮像する場合において、色を指定する人が変わる場合、人によって色の感じ方が違うため、指定する色のあいまい度合いが増してしまうという課題があった。
【0012】
さらに、撮像環境が光の影響や暗闇の影響を受けたりする場合には、特定の色を認識することが極端に困難になってしまうと言う課題があった。
【0013】
また、ズーム倍率を決定する場合、以上の方法では、同一の被写体が遠くにあって小さく見える場合と近くにあって大きく見える場合においも、同じズーム倍率で撮像されてしまうという課題があった。
【0014】
本発明はこのような状況に鑑みてなされたものであり、撮像した画像から表示画像を生成する際、被写体となる動物体の動きに合わせて、見易いスムーズな表示画像を生成できるようにするものである。
【0015】
【課題を解決するための手段】
本発明の画像処理装置は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、撮像手段により撮像された送信装置の画像上の位置を測定する位置測定手段と、位置測定手段により測定された送信装置の画像上の位置の変位を測定する変位測定手段と、変位測定手段により測定された変位に基づいて、撮像手段により撮像された画像上の注視位置を演算する演算手段と、演算手段により演算された注視位置に基づいて、表示画像を生成する表示画像生成手段とを備えることを特徴とする。
【0016】
前記撮像手段により撮像された送信装置の画像上の画素数を測定する画素数測定手段と、画素数測定手段により測定された、撮像手段により撮像された送信装置の画像上の画素数に基づいて、表示画像のズーム倍率を演算するズーム倍率演算手段とをさらに設けるようにさせることができ、表示画像生成手段には、演算手段により演算された注視位置を中心とした、ズーム倍率演算手段により演算されたズーム倍率の表示画像を生成させるようにすることができる。
【0017】
本発明の画像処理方法は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップと、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップと、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップとを含むことを特徴とする。
【0018】
本発明の記録媒体のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップと、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップと、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップとを含むことを特徴とする。
【0019】
本発明のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップと、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップと、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップとを含む処理をコンピュータに実行させることを特徴とする。
【0020】
本発明の画像処理装置および方法、並びにプログラムにおいては、所定の点滅パターンで発光し、データを送信する送信装置が撮像され、撮像された送信装置の画像上の位置が測定され、測定された送信装置の画像上の位置の変位が測定され、測定された変位に基づいて、撮像された画像上の注視位置が演算され、演算された注視位置に基づいて、表示画像が生成される。
【0021】
本発明の画像処理装置は、独立した装置であっても良いし、画像処理を行うブロックであっても良い。
【0022】
【発明の実施の形態】
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
【0023】
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
【0024】
即ち、本発明の画像処理装置は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段(例えば、図1のID認識カメラ3)と、撮像手段により撮像された送信装置の画像上の位置を測定する位置測定手段(例えば、図2のID位置情報取得部16)と、位置測定手段により測定された送信装置の画像上の位置の変位を測定する変位測定手段(例えば、図2の変位測定部17)と、変位測定手段により測定された変位に基づいて、撮像手段により撮像された画像上の注視位置を演算する演算手段(例えば、図2の注視位置演算部19)と、演算手段により演算された注視位置に基づいて、表示画像を生成する表示画像生成手段(例えば、図2の画像処理部15)とを備えることを特徴とする。
【0025】
また、本発明の画像処理方法は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップ(例えば、図11のフローチャートのステップS3の処理)と、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップ(例えば、図11のフローチャートのステップS10の処理)と、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップ(例えば、図11のフローチャートのステップS11の処理)と、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップ(例えば、図11のフローチャートのステップS15の処理)とを含むことを特徴とする。
【0026】
図1は、本発明を適用したテレビ会議システムの一実施の形態の構成を示す図である。
【0027】
演算装置2−1乃至2−3は、テレビ会議システムを使用するユーザのグループ毎に配置されているもので、ネットワーク1を介してID認識カメラ3−1乃至3−3で撮像された画像と共に、光ビーコン5−1乃至5―3の点滅パターンにより送信されてくるIDデータ、および、位置データを取得し、IDデータと、その位置データに基づいて、撮像された画像を所定の形式に処理し、他の演算装置2−1乃至2−3に送信すると共に、他の演算装置2−1乃至2−3から送信されてくる画像を取得し、それらを合成して画像を生成し、表示部4−1乃至4−3にそれぞれ表示する。
【0028】
すなわち、例えば、図1の場合、演算装置2−1は3人のグループが、演算装置2−2は、4人のグループが、そして、演算装置2−3は2人のグループがネットワーク1を介してそれぞれ異なる空間で表示部4−1乃至4−3に映し出された他のグループの画像を見ながら会議を行うことができるテレビ会議システムである。尚、図1においては、3箇所の異なる空間に存在するグループが同時に会議をできるテレビ会議システムについて示されているが、接続個所は、3箇所に限られるものではなく、それ以上、または、それ以下であっても構わない。
【0029】
ID認識カメラ3−1乃至3−3は、画像を撮像すると共にユーザが、マイクロフォンが付属された光ビーコン5−1乃至5−3の点滅パターンにより送信されてくるIDデータと、その位置データを取得し、演算装置2−1乃至2−3に画像データと共に出力する。より詳細には、ID認識カメラ3−1乃至3−3は、それぞれのグループに属する全員が撮像できるような位置に固定して設置されている。尚、ID認識カメラ3−1乃至3−3、および、光ビーコン5−1乃至5−3については、詳細を後述する。
【0030】
尚、以降において、演算装置2−1乃至2−3、ID認識カメラ3−1乃至3−3、および、表示部4−1乃至4−3をそれぞれ特に区別する必要がない場合、単に、演算装置2、ID認識カメラ3、および、表示部4と称するものとし、その他も同様にする。
【0031】
次に、図2を参照して、演算装置2の構成について説明する。
【0032】
演算装置2の画素数演算部11は、ID認識カメラ3より供給される画像データと、ID位置情報取得部16からの位置データを取得し、画像データに撮像されている光ビーコン5の位置を特定して、その光ビーコン5が撮像されている画素数を演算し(カウントし)、演算結果をメモリ12に出力して記憶させると共に、その画素数に基づいて光ビーコン5が撮像されているか否かをID位置情報演算部15に出力する。
【0033】
尚、メモリ12には、デフォルトとして所定の画素数が記憶されており、例えば、最初の撮像で、または、所定フレーム数だけ画像データに光ビーコン3の画像が含まれておらず、結果として0であった場合、このデフォルトの値が読み出される。
【0034】
差分演算部13は、メモリ12に記憶されている光ビーコン5の撮像された画素数の情報を順次読み出し、直前にズーム倍率の演算に使用した光ビーコン5を撮像している画素数との差分を求めてズーム倍率演算部14に出力する。
【0035】
ズーム倍率演算部14は、差分演算部13より供給された光ビーコン5が撮像されている画素数の差分に基づいて、ズーム倍率を演算し、演算したズーム倍率を画像処理部15に出力する。尚、ズーム倍率の演算方法については詳細を後述する。
【0036】
ID位置情報取得部16は、ID認識カメラ3より供給されてくるIDデータを取得すると共に、IDデータと同時に送信されてくる位置データを取得して、メモリ17に出力して記憶させると共に、画素数演算部11に位置データを供給する。また、ID位置情報取得部16は、IDデータが取得できないとき(1フレームの画像中にIDデータが存在しないとき)、その回数をカウンタ16aに記憶させる。尚、メモリ17には、デフォルトの位置データが記憶されており、例えば、最初の撮像で、または、所定フレーム数の間、光ビーコン3が撮像されず、位置データが取得できなかったとき、そのデフォルトの値が読み出されるようになっている。
【0037】
変位測定部18は、メモリ17に記憶されている位置データを順次読み出し、直前の注視位置の位置データ(注視位置演算部19より直前の注視位置データを取得する)との位置の差分から変位を測定し、測定した変位の情報を注視位置演算部19に出力する。
【0038】
注視位置演算部19は、変位測定部18より供給されてくる変位の情報に基づいて、注視位置、すなわち、撮像されている画像の中で、マイクロフォンが付属された光ビーコン5を持っている話者を中心とした、表示部4に表示させる画像の中央点となる位置を演算し、演算結果を画像処理部15に供給する。
【0039】
画像処理部15は、ID認識カメラ3より供給されてきた画像を、ズーム倍率演算部14より供給されてくるズーム倍率と、注視位置演算部19より供給される注視位置の情報に基づいて、話者を中心としたズーム画像を生成し、ズーム画像と共に、ID認識カメラ3より入力された画像を画像送信部20に出力する。
【0040】
尚、ここでいうズーム画像とは、ID認識カメラ3により撮像された画像のうち、注視位置を中心とし、さらに、ズーム倍率に基づいて切り出される画像である。例えば、ID認識カメラ3により撮像される画像の水平方向×垂直方向のサイズが、A×Bである場合、ズーム倍率が4で、注視位置が(X1,Y1)のズーム画像は、ID認識カメラ3で撮像された画像上の(X1,Y1)を中心(より正確には、重心位置)としたA/2×B/2のサイズの画像を、補間画素を生成するなどしてA×Bのサイズまで拡大した画像である。
【0041】
画像送信部20は、画像処理部15より供給されたズーム画像と全体画像の画像データをネットワークを介して他の演算装置2に送信する。
【0042】
受信部21は、他の演算装置2よりネットワーク1を介して送信されてくるズーム画像と、全体画像の画像データを取得し、画像合成部22に出力する。
【0043】
画像合成部22は、受信部21より供給されてくる、他の演算装置2からの画像データが複数である場合、それらを合成して表示部4に出力して表示させる。
【0044】
ここで、図3を参照して、ID認識カメラ3の詳細な構成について説明する。イメージセンサ31の受光部41は、撮像される対象となる撮像領域3の光を電気信号に光電変換した後、演算部42に出力する。また、受光部41の受光素子51は、CMOS(Complementary Metal−Oxide Semiconductor)素子からなり、従来のCCD(Charge Coupled Device)素子よりも高速に動作することができる。より詳細には、受光素子51が、撮像される対象となる撮像領域3の光を光電変換し、増幅器52に出力する。増幅器52は、受光素子51より入力される光電変換された電気信号を増幅して、演算部42に出力する。
【0045】
演算部42の記憶部61は、受光部41より入力された増幅されている電気信号を記憶し、適宜比較部62に出力する。比較部62は、記憶部61に記憶された電気信号の値に基づいて、演算処理を行い、演算結果を所定のリファレンス値(=基準信号レベル)と比較して、比較結果を出力部63に出力する。出力部63は、比較結果に基づいてセンサ出力信号を生成してデータ生成部32に出力する。但し、演算部42の処理内容は、画像モードとIDモードの2つの動作モードにより異なる。尚、この2つの異なる動作モードによる演算内容の詳細については後述する。
【0046】
データ生成部32の画像デコード処理部71は、画像モードの場合、センサ出力信号をデコード処理して撮像画像を生成して、画像合成部14に出力する。また、IDモードの場合、IDデコード処理部72は、センサ出力信号をデコード処理してIDデータと位置データを生成し、表示位置取得部12、リンク先データ解析部16、およびID画像変換部20に出力する。
【0047】
次に、図4を参照して、画像デコード処理部71の詳細な構成について説明する。画像デコード処理部71の画素値決定部81は、センサ出力信号に基づいて画素値を決定し、フレームメモリ82の対応する画素位置に決定した画素値を記憶させる。フレームメモリ82は、1フレーム分の画素値を記憶するメモリであり、画素位置毎に画素値を記憶する。
【0048】
出力部83は、フレームメモリ82に1フレーム分の画素値が記憶されたとき、順次画像データとして読出し、出力する。
【0049】
次に、図5を参照して、IDデコード処理部72の詳細な構成について説明する。IDデコード部101のIDデコード回路111は、IC(Integrated Circuit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などのデバイスにより構成されており、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。このIDデコード回路111は、処理能力が十分であれば、マイクロプロセッサやDSP(Digital Signal Processor)によってソフトウェアで構成するようにしても良い。
【0050】
フラグレジスタ112は、IDデータをデコードするために必要なフラグ類を記憶するためのレジスタであり、データレジスタ113は、デコード途中またはデコードを完了したIDを記憶しておくためのレジスタである。
【0051】
尚、図5においては、IDデコード部101は、1個のみが示されているが、処理速度の要求により、例えば、各画素毎に設けるようにしてもよいし、垂直方向、または、水平方向のライン毎に設けるようにしても良い。
【0052】
タイミング制御部102は、IDデコード処理部72の全体の動作に必要なタイミングを制御するタイミング制御信号を出力する。より具体的には、タイミング制御部102は、IDデコード回路111とセンサ出力信号のタイミングの同期をとり、所望のセンサ出力信号に対して、対応するフレームメモリ103のフラグデータをフラグレジスタ112に、IDデータをデータレジスタ113に、それぞれロードして、IDデコード処理を進めるためのタイミング制御信号を生成し、IDデコード部101(のIDデコード回路111、フラグレジスタ112、および、データレジスタ113)に供給する。また、このとき、タイミング制御部102は、フレームメモリ103へのアドレス信号、リードライトなどのタイミング制御信号を生成し供給する。さらに、タイミング制御部102は、重心計算部104のIDレジスタ121、および、ID重心計算回路122、並びに、ID座標格納メモリ105のタイミング制御を行うタイミング制御信号を生成して供給する。
【0053】
フレームメモリ103は、受光素子51、または演算部42毎に演算されたセンサ出力信号がデコードされたIDデータとフラグデータを格納するメモリであり、イメージセンサ31が1画素につき1個の演算部42をもつ場合には、センサの画像サイズであるM画素×N画素と同じサイズとなり、データ幅はフラグレジスタ112とデータレジスタ113のビット幅の和で構成される。図5においては、各画素の位置に対応する座標が、I軸とJ軸により示されており、それぞれの座標位置にIDデータとフラグデータが格納される。
【0054】
重心計算部104は、同一のIDデータを持つ撮像画像上の画素の重心位置の座標を求め、IDデータに、光ビーコン5の検出位置としての位置データ(=光ビーコン5の撮像画像上の位置データ)を付して出力する。より詳細には、重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号によりフレームメモリ103に今記憶されたIDデータを読出し、ID重心計算回路122に出力する。ID重心計算回路122は、入力されたIDデータ毎に、対応する画素の座標位置のI座標とJ座標、並びにデータの個数を順次加算してID座標格納メモリ105に記憶させる。また、ID重心計算回路122は、フレームメモリ103に1フレーム分のデータが格納されたとき、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を求めて、IDデータと共に出力する。
【0055】
次に、図6を参照して、光ビーコン5の構成について説明する。
【0056】
図6の光ビーコン5は、送信データ保存用メモリ151、点滅制御部152、発光部153から構成される。基本的に、この例のようにテレビ会議システムに使用する場合においては、参加する全ユーザが光ビーコン5を所持していることが望ましいが、話者の位置の特定が目的であるので、話者であるユーザが、光ビーコン5を所持するようにすれば必ずしも全ユーザが所持していなくても問題はない。
【0057】
送信データ保存メモリ151は、予め送信するためのデータを記憶しており、適宜読み出して点滅制御部152に出力する。点滅制御部152は、発信器とIC,ASIC,FPGA、ワンチップマイコンなどのデジタル回路によって構成されており、送信データ保存用メモリ151に記憶されたデータの内容に基づいて、点滅パターンを発生させると共に、発生された点滅パターンで発光部153を発光させる。発光部153は、高速に点滅することができる光源であれば良く、出力波長もセンサが反応する範囲であれば良い。また、発光部153が発する光は、可視光だけではなく、赤外域などでもよく、応答速度や、寿命の点から、LED(Light
Emission Diode)は最適な光源の1つであるといえる。
【0058】
また、点滅制御部152には、マイクロフォン161からの音声信号が供給され、音声が入力されているタイミングにのみ、所定の点滅パターンで光ビーコン5を発光させることにより、今、話者となっているユーザを特定できるような情報を送信するようにしてもよい。
【0059】
また、送信データ保存用メモリ151にネットワークを介して送信データを供給できるようにしてもよい。ここでネットワークとは、有線・無線の通信回線、例えば電話回線、ISDN、RS−232C、RS−422、Ethernet(R)(10base−T,100base−T)、USB(Universal Serial Bus)、IEEE(Institute of Electrical and Electronic Engineers)1394、IEEE802.11a、IEEE802.11b、BlueToothなどの通信手段により他の装置とデータ通信ができる環境をいう。この場合、送信データ保存用メモリ151にデータを供給する通信手段は、データ通信用IC及びドライバから構成されてものとしてもよく、ネットワークを介して受信した光ビーコン5の送信データを、点滅制御部152に出力する。点滅制御部152は、送信データに基づいて、点滅パターンを発生し、データに応じた点滅パターンで発光部153を発光させる。
【0060】
次に、ID認識カメラ3の動作について説明する。
【0061】
受光部41の受光素子51は、光を光電変換し、変換した電気信号を増幅部52に出力する。増幅部52は、電気信号を増幅して演算部42に出力する。演算部42の記憶部61は、受光部41より入力された電気信号を順次記憶して、4フレーム分の電気信号を記憶し、いっぱいになると、最も古いフレームの電気信号を消去して、最新のフレームの電気信号を記憶する処理を繰り返して、常に最新の4フレーム分の電気信号を記憶しており、その4フレーム分の電気信号を比較部62に出力する。
【0062】
比較部62の動作は、画像モードとIDモードにより異なる。この動作モードは、例えば、図7で示すように図示せぬ制御装置により、所定の時間間隔で交互に切り替えるようにしてもよい。また、画像モードとIDモードがそれぞれ30fps(frame per second)や60fpsといった従来のフレームレートで切り替えられるようにしても良い。さらに、IDモードには、IDデータをデコードするIDデコード処理区間と、デコードされたIDデータを持つ画素の座標位置としての位置データを求めるID重心計算区間がある。
【0063】
尚、図7においては、画像モードとIDモードが同時間の場合を示しているが、それぞれの動作モードの時間は、同時間でも良いし、同時間でなくてもよい。また、図7の下段で示すように、各画像モードの後のタイミングでは、画像デコード処理部71により、センサ出力信号がデコードされて撮像画像の画像データが出力され、IDモードの後のタイミングで、IDデコード処理部72により、センサ出力信号がデコードされてIDデータと位置データが出力される。
【0064】
まず、画像モードの場合の動作について説明する。
【0065】
画像モードの場合、イメージセンサ31の比較部62は、各画素の受光部41で検出した輝度を示す信号レベル(記憶部61に記憶された電気信号)を、基準信号レベルと比較して、図8で示すように、基準信号レベルよりも低くなったときに、図9で示すようにアクティブになるような信号(図9中の1の信号)を出力する。
【0066】
ここで、図8は、輝度信号レベルを示しており、図9は、センサ出力信号を示している。輝度信号レベルは、実質的に受光素子51の充電電圧の変化を示している。受光素子51は、所定のタイミングで充電される電圧と逆極性の所定のリセットレベルの電圧が印加され、その後のタイミングから受光素子により蓄積される電荷量に対応して電圧レベルが低下する。従って、図8においては、時刻0において蓄積される電荷は0であるので、輝度信号レベルは、リセットレベル(所定のレベル)となっている。この状態から時間が経過するに従って、電荷が蓄積されて、輝度信号レベルが低下する。今の場合、図8中のHで示す直線が、比較的輝度信号レベルの高い(明るい)画素値として、Lで示す直線が、比較的輝度信号レベルの低い(暗い)画素値として示されている。
【0067】
画素値のレベルが高い輝度信号レベルの変化Hは、時刻0から時間T(H)だけ経過したタイミングである時刻T(H)において、基準信号レベルに達する電荷が蓄積されていることが示されている。一方、画素値のレベルが低い輝度信号レベルの変化Lは、時刻0から時間T(L)だけ経過したタイミングである時刻T(L)において、基準信号レベルに達する電荷が蓄積されていることが示されている。
【0068】
すなわち、図8で示すように、明るい画素ほど基準信号レベルに達する時間が短く(図中T(H))、暗い画素ほど基準信号レベルに達する時間(図中T(L))が長くなる(T(H)<T(L))。比較部62は、実際の受光部41より出力される各画素の電気信号(輝度信号)が、前記基準信号レベルに達したかどうかの比較結果(コンパレータ出力)を図9で示すように2値のセンサ出力信号として出力する。このような処理により、イメージセンサ31は、画像を高速に撮像して基準信号との比較演算を行い、1画面(フレーム)分の結果をセンサ出力信号として出力する。
【0069】
さらに、画像デコード処理部71の画素値決定部81は、この時間T(H),T(L)を計測するために、このイメージセンサ31が1画面単位で出力する結果を、フレーム単位でカウントし、各画素で何番目のフレームでセンサ出力信号が図9で示すようにアクティブになるかを示すセンサ出力信号をエンコードして画像データとして出力する。今の場合、センサ出力信号は、時刻T(H)が、フレーム数F(H)であり、時刻T(L)が、フレーム数F(L)である。
【0070】
すなわち、画像モードの場合、画像デコード処理部71の画素値決定部81が、このセンサ出力信号を正しい明るさの値に変換するために、この基準信号に到達するまでの時間(フレーム数)の逆数を各画素毎に計算することで、センサ出力信号を画像データにデコードし、フレームメモリ82に記憶させる。そして、1フレーム分の画像データが蓄積された時、出力部83は、フレームメモリ82に記憶された画素値を画像データとして順次読出して出力する。この動作により、ID認識カメラ3は、画像モードにおいて画像データを出力することができる(詳細は、48Kframes/s CMOS Image Sensor for Real−time 3−D Sensing and Motion Detection” ISSCC Digest of Technical Papers, pp.94−95, Feb.2001、または、特開2001−326857を参照されたい)。
【0071】
一方、動作モードがIDモードの場合、比較部62は、記憶部61に記憶されている時間的に連続する4フレーム分の電気信号を輝度信号として以下の式(1)のような演算処理を実行する。
【0072】
ここで、Nはフレーム番号を表し、V(N)は、Nフレーム目の輝度値が入力された時点での比較値を示し、F(N)はNフレーム目の受光部41に蓄積された輝度を示す。この演算により、光の変化を検出することができるため、その演算結果をセンサ出力信号としてデータ生成部32に出力する。データ生成部32は、このセンサ出力信号を用いて、後述するIDデコード処理を行うことで、点滅パターンからなるIDデータを復元し、光ビーコン5からのIDデータを生成することが可能となる。
【0073】
尚、比較部62の演算方法は、式(1)に限るものではなく、他の演算(1次微分や2値化画像の比較など)によって実現するようにしてもよいが、以下の説明においては、光変化の検出の安定性の高い、式(1)を用いて説明するものとする。
【0074】
ここで、IDデコード処理部72の動作について説明する。
【0075】
IDデコード部101のIDデコード回路111は、タイミング制御部102からのセンサ出力信号のタイミングの同期を図るためのタイミング制御信号に基づいて、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。この際、IDデコード回路111は、タイミング制御信号に応じて、フラグレジスタ112を制御して、フレームメモリ103にロードされたフラグデータを用いて、センサ出力信号からIDデータをデコードし、デコード途中またはデコードを完了したIDをデータレジスタ113に記憶させる。
【0076】
さらに、フレームメモリ103は、これらのデコード処理がなされたフラグデータとIDデータを対応する座標位置に格納する。
【0077】
重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号により、フレームメモリ103に今記憶されたIDデータの情報をID重心計算回路122に読み出させる。
【0078】
ID重心計算回路122は、読み出したIDデータに対応する画素の座標位置のI座標とJ座標を順次加算して、これに画素の個数の情報を付してID座標格納メモリ105に記憶させ、この処理を繰り返す。
【0079】
そして、フレームメモリ103に1フレーム分のデータが格納されたとき、ID重心計算回路122は、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を位置データとして求めて、対応するIDデータと共に出力する。
【0080】
以上の動作により、例えば、図10で示すように、2個の光ビーコン5−1,2−2が、点滅しながら発光してデータを送信する場合、ID認識カメラ3には、図10上部に示すような現実空間上の光ビーコン5−1,5−2の物理的な位置に応じた、撮像画像上の位置の画素で光の信号を受光する。例えば、光ビーコン5−1から発せられた光が座標位置(10,10)の受光素子51で受光されるものとし、光ビーコン5−2から発せられた光が座標位置(90,90)の受光素子51で受光されるものとする。このとき、各受光部41の座標位置(10,10)と(90,90)の受光素子51では、それぞれが光ビーコン5−1と5−2の点滅パターンにより受光強度(明るさ)の時間的変化として信号を受信することができる。今の場合、座標(10,10)の位置データに対応する画素は、IDデータとして「321」が、座標(90,90)の位置データに対応する画素は、IDデータとして105がデコード結果として求められている。
【0081】
結果として、この受光強度の変化を上述の式(1)などにより2値化することにより1/0のビット列からなるIDデータを取得する事ができる。
【0082】
次に、図11のフローチャートを参照して、ID認識カメラ3により撮像された画像に基づいて、他の演算装置2に送信するための画像を生成する処理について説明する。
【0083】
ステップS1において、画素数演算部11がメモリ12を、ID位置情報取得部16が、メモリ17、および、カウンタ16aをそれぞれ初期化する(メモリ12,17に記憶されているデータ、および、カウンタ16aが0にリセットされる)。
【0084】
ステップS2において、ID認識カメラ3が画像を撮像し、画像データを演算装置2すると共に、光ビーコン5が撮像された場合、その点滅パターンに基づいてIDデータ(位置データを含む)を演算装置2に送信する。今の場合、テレビ会議室の全体が撮像されることになり、同時に、テレビ会議室内で、光ビーコン5が撮像された場合、その点滅パターンに基づいて、話者となっているユーザの位置を特定するIDデータ、および、位置データが取得されて送信される。
【0085】
ステップS3において、ID位置情報取得部16は、ID認識カメラ3より供給されるIDデータと位置データを取得し(さらに、一時的に記憶し)、位置データについては画素数演算部11に供給する。
【0086】
ステップS4において、画素数演算部11は、ID認識カメラ3から供給される画像(1フレーム画像)と、ID位置情報取得部16より供給された光ビーコン3が検出された位置データに基づいて、光ビーコン5が撮像されている画素数を演算する(カウントする)。
【0087】
ステップS5において、画素数演算部11は取得された画素数が0であるか否かを判定する。すなわち、今、ID認識カメラ3から送信されてくる画像に、いずれかのユーザが話している状態を示す点滅パターンを発している光ビーコン5が撮像されているか否かが判定される。
【0088】
ステップS5において、例えば、ID認識カメラ3から送信されてくる画像に、ユーザが話している状態を示す点滅パターンを発している光ビーコン5が存在したと判定された場合、ステップS6において、画素数演算部11は、画素数が0ではないことをID位置情報取得部16に通知する。
【0089】
ステップS7において、ID位置情報取得部16は、カウンタ16aにカウントされている値をリセットする(カウンタ16aの値を0にする)。
【0090】
ステップS8において、画素数演算部11は、メモリ12に記憶された情報を取得された画素数の情報に更新すると共に、ID位置情報取得部16は、メモリ17に記憶された位置情報を、取得した位置情報に更新する。
【0091】
ステップS9において、変位測定部18は、メモリ17に記憶されている今現在の光ビーコン5の位置データを読み出すと共に、注視位置演算部19より直前の演算処理で求められた注視位置のデータを取得し、ステップS10において、今現在の光ビーコン5の位置データと、直前の注視位置のデータとの差分から光ビーコン5の変位を求める。
【0092】
ステップS11において、注視位置演算部19は、今現在の光ビーコン5の位置データと、直前の注視位置のデータ、および、それらの差分から光ビーコン5の変位から、今のフレームの注視位置を演算し、画像処理部15に出力する。
【0093】
より詳細には、注視位置演算部19は、以下の式(2),式(3)に基づいた演算を実行し注視位置を求める。
【0094】
【0095】
【0096】
ここで、Xv,Yvは求めようとする注視位置の画像上のX座標およびY座標であり、Xpv,Ypvは直前の注視位置の画像上のX座標およびY座標であり、Xr,Yrは今現在の光ビーコン5の位置の画像上のX座標およびY座標であり、さらに、Kx,Kyは、0<Kx<1,0<Ky<1の定数である。尚、式(2),式(3)における(Xr−Xpv)および(Yr−Ypv)は、ステップS10の処理で変位測定部18により測定された、今現在の光ビーコン5の位置データと、直前の注視位置のデータとの変位のX方向とY方向の成分である。
【0097】
ステップS12において、差分演算部13は、メモリ12に記憶されている直前の光ビーコン5を撮像している画素数と、今撮像されている画像中の光ビーコン5の画素数を読み出し、その差分を演算し、画像処理部15に出力する。
【0098】
ズーム倍率演算部14は、メモリ12に記憶されている直前のズーム倍率を演算したときに使用した光ビーコン5が撮像されている画素数と、今撮像されている画像中の光ビーコン5の画素数の差分となる値を用いて、以下の式(4)に基づいた演算を実行して、ズーム倍率を演算する。
【0099】
【0100】
ここで、Zは求めようとするズーム倍率であり、Zdはズーム倍率が1倍となるときの光ビーコン5が撮像されている画素数である。
【0101】
また、Zvは、以下の式(5)で定義される。式(5)で示されるZvは、そのタイミングで求められるズーム倍率の計算に使用される、光ビーコン5を撮像している画素数を示す。
【0102】
【0103】
ここで、Zrは最新のフレームにおける光ビーコン5が撮像されている画素数であり、Zpvは、直前のフレームのズーム倍率の演算に使用した光ビーコン5が撮像されている画素数であり、Kzは0<Kz<1の定数である。
【0104】
ステップS15において、画像処理部15は、ID認識カメラ3から供給された画像データを注視位置演算部19より供給された注視位置の位置データと、ズーム倍率演算部14より供給されたズーム倍率に基づいて、ズーム画像を生成し、ID認識カメラ3から供給された画像、すなわち、全体画像と共に画像送信部20に出力する。
【0105】
ステップS16において、画像送信部20は、画像処理部15より供給されたズーム画像と全体画像をネットワーク1を介して、他の演算装置2に送信し、その処理は、ステップS2に戻る。
【0106】
ステップS5において、最新のフレームの画像上における光ビーコン5が撮像されている画素数が0であると判定された場合、ステップS18において、画素数演算部11は、画素数が0であることをID位置情報取得部16に通知する。
【0107】
ステップS19において、ID位置情報演算部16は、カウンタ16aの値が所定の値以上であるか否かを判定する。すなわち、カウンタ16aは、ID認識カメラ3で撮像されている画像内に、話者の存在を示す、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数をカウントしている(後述するステップS19の処理参照)ので、所定フレーム数以上、ユーザが検出されていないか否かが判定される。
【0108】
ステップS18において、カウンタ16aが所定値以上ではないと判定された場合、すなわち、話者の存在を示す、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数が、所定フレーム数以上ではないと判定された場合、ステップS19において、ID位置情報取得部16は、カウンタ16aの値を1だけインクリメントし、その処理は、ステップS9に進む。
【0109】
ステップS18において、カウンタが所定数以上であると判定された場合、すなわち、話者の存在を示す、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数が、所定フレーム数以上続いたと判定された場合(対応するID認識カメラ3で撮像している領域に話者がいない場合)、その処理は、ステップS20に進む。
【0110】
ステップS20において、ID位置情報取得部16は、カウンタ16aを0にリセットし、ステップS21において、メモリ17を制御して、デフォルトの値として記憶されている値を記憶させると共に、画素数演算部11に対して、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数が、所定フレーム数以上続いていることを通知する。これにより、画素数演算部11は、メモリ12に記憶されている画素数の情報をデフォルトの値にリセットさせ、その処理は、ステップS19に進む。
【0111】
すなわち、話者として認識される光ビーコン5が撮像された場合、メモリ17に記憶されている今現在のフレームの位置データと、直前のフレーム上の光ビーコン5の位置との変位に基づいて、注視位置が計算され(ステップS9乃至S11の処理)、光ビーコン5が撮像されている画素数の差分に基づいて、ズーム倍率が求められ(ステップS12乃至S14の処理)、求められた注視位置とズーム倍率に基づいて、ズーム画像が生成される(ステップS15の処理)。
【0112】
ただし、式(2),式(3)で示されるように、求められる注視位置は、必ずしも、最新のフレーム上の光ビーコン5が存在する位置とはならない。注視位置は、本来、話者として認識されたユーザが存在するものとみなされた、光ビーコン5が所定の点滅パターンで発光している画像上の位置となるべきである。
【0113】
しかしながら、例えば、図12で示されるように、ID認識カメラ3で撮像される画像がFで示される場合、時刻t0で図中のP0の位置に、光ビーコン5が撮像されたとき、注視位置が位置P0であるものとする。そして、次のタイミングとなる時刻t1において、光ビーコン5が図12中の位置Prであるとき、例えば、式(2),式(3)の定数Kx,KyがKx=Ky=1/2であれば、時刻t1における注視位置は位置P1となる。すなわち、定数Kx,KyがKx=Ky=1/2であるということは、次のタイミングにおいて求められる注視位置は、直前の注視位置から、今、光ビーコン5が撮像されている位置までの中間位置となる。
【0114】
さらに、この状態で、話者となる人物が画像F中における位置が変わることなく、そのままの状態で撮像が続けられた場合、すなわち、ID認識カメラ3により撮像された画像F中における光ビーコン5の今撮像されている位置が変化しない場合、その次のタイミングとなる時刻t2において、注視位置は、位置P2となる。ここで、位置P2は、上述した式(2),式(3)により演算される位置であり、位置P1と位置Prの中間位置となる。
【0115】
同様に、このような処理が繰り返されていくことになるが、画像上の位置P0からPrまでの距離がDであるとすれば、注視位置が位置P0からP1に移動する場合、注視位置の移動量はD/2となり、ズーム画像は、F0からF1に切り替わる。さらに、画像上の位置P1からP2まで注視位置が移動すると、注視位置の移動量は、D/4となり、ズーム画像は、F1からF2に切り替わる。
【0116】
このような処理を繰り返していくと、それ以降の移動量は、D/8,D/16,D/32・・・と変化していくが、今現在のフレームの画像上で撮像される光ビーコン5の位置は、変化がないので、徐々に、今のフレームの画像上で撮像される光ビーコン5の位置Prに近付いていき、実際に切り替わるズーム画像の変化も小さくなる。
【0117】
このため、注視位置が切り替わる場合(光ビーコン5に付属したマイクロフォン161がユーザの話し声に反応し、音声を検出している状態を示す所定の点滅パターンで発光している状態で、ユーザがID認識カメラ3で撮像されている空間内を撮像位置に対して上下左右方向に移動した場合)、今現在のフレーム上の光ビーコン5が撮像されている画像上の位置と、直前のフレーム上において撮像されている光ビーコン5の画像上の位置との距離が離れていれば離れているほど、次のフレームにおいては、注視位置が大きく移動し、その距離が近づくに連れて、徐々に移動量が小さくなる。
【0118】
従って、ズーム画像を見るユーザには、マイクロフォン161と共に光ビーコン5を着けているユーザの上下左右方向の動きが大きいときは、素早くズーム画像の注視位置が切り替わっているように見え、マイクロフォン161と共に光ビーコン5を着けているユーザの上下左右方向の動きが止まると、ズーム画像の中心位置が、ゆっくりとその止まった位置に向うように変化しているように見えることになる。また、ユーザの上下左右方向の移動が小さい場合(マイクロフォン161と共に光ビーコン5を着けているユーザの移動が小さい場合)、移動距離が小さいので、ズーム画像の中央位置は、その動きよりも小さいものとなるので、画像の変化は小さい。
【0119】
結果として、ID認識カメラ3により撮像された画像上の光ビーコン5を装着したユーザの動きに合わせて、ズーム画像を生成しても、ズーム画像の中心となる注視位置は、被写体となるユーザの動き以上には大きくならず、かつ、ユーザの動きに追従したものとすることができるので、見ているユーザにとって見易いズーム画像を生成することが可能となる。
【0120】
尚、定数Kx,Kyは、ユーザの好みに合わせて設定するようにしてもよく、例えば、定数Kx,Kyが1に近い値に設定されるほど、被写体となるユーザの動きに対して素早く追従することができるが、被写体となるユーザの細かい動きにもズーム画像が切り替わってしまうため、見難い画像となる。一方、定数Kx,Kyが0に近い値にされると、被写体の動きに対して、ゆっくりと追従することになるが、ズーム画像の切り替わりがゆっくりとするので見易い画像となる。
【0121】
また、ズーム倍率についても同様である。
【0122】
すなわち、式(4)で示されるように、求められるズーム倍率は、必ずしも、最新のフレーム上の光ビーコン5を撮像している画素数とはならない。ズーム倍率は、本来、話者として認識されたユーザが存在するものとみなされた、所定の点滅パターンで発光している光ビーコン5が撮像されているフレームの画像上の画素数となるべきである。
【0123】
しかしながら、例えば、図13で示されるように、ID認識カメラ3で撮像される画像がFで示される場合、時刻t0で図中のP0の位置付近で、光ビーコン5を撮像している画素の画素数がNであるものとする。そして、次のタイミングとなる時刻t1において、図13中の位置Pr付近で光ビーコン5を撮像している画素の画素数がnであるとき(図13においては、光ビーコン5を装着したユーザがID認識カメラ3から遠ざかったとき)、例えば、式(4)の定数KzがKz=1/2であれば、時刻t1における光ビーコン5を撮像している画素数Zvは、Zv=((n−N)/2+N)とであるとして計算されることになる。
【0124】
すなわち、定数KzがKz=1/2であるということは、次のタイミングにおいて求められるズーム倍率Zを求めるための画素数Zvは、直前のフレームにおいてズーム倍率の計算に使用された光ビーコン5を撮像している画素数と、今のフレーム上で光ビーコン5が撮像されている画素数との平均画素数((n−N)/2+N)となる。そして、この平均画素数の逆数がズーム倍率が1倍となる時の画素数Zdに乗じられた値が、求めようとする時刻t1におけるフレームのズーム画像を求める際のズーム倍率Z(t1)となる。
【0125】
さらに、この状態で、話者となる人物が画像F中における位置が変わることなく、そのままの状態で撮像が続けられた場合、すなわち、ID認識カメラ3により撮像された画像F中における光ビーコン5の今撮像されている位置が変化しない場合、その次のタイミングとなる時刻t2において、ズーム倍率Zは、時刻t1のフレームにおける光ビーコン5を撮像している画素数((n+N)/2)と、今のフレーム上で光ビーコン5が撮像されている画素数nとの平均画素数((3n+N)/4)となる。そして、この平均画素数の逆数がズーム倍率が1倍となる時の画素数Zdに乗じられた値が、求めようとする時刻t2のズーム倍率Z(t2)となる。
【0126】
同様に、このような処理が繰り返されていくことになるが、画像上の位置P0における光ビーコン5を撮像している画素数がN個であり、位置Prで光ビーコンを撮像している画素数がn個であるとすれば、時刻t0から時刻t1に時刻が進むと、時刻t0と時刻t1におけるそれぞれの画素数の平均画素数の逆数に比例してズーム倍率が設定され、ズーム画像は、F00からF01に切り替わる。さらに、時刻t1からt2まで時刻が進むと、時刻t1と時刻t2におけるそれぞれの画素数の平均画素数の逆数に比例してズーム倍率が設定され、ズーム画像は、F01からF02に切り替わる。
【0127】
このような処理を繰り返していくと、それ以降のズーム倍率は、画素数の平均値(7n+N/8),(15n+N)/16,(31n+N)/32・・・の逆数に比例して変化していくが、今現在のフレームの画像上で撮像される光ビーコン5の位置は変化がないので、徐々に、今のフレームの画像上で撮像される光ビーコン5における画素数に近付いていき、実際に切り替わるズーム倍率の変化も小さくなる。
【0128】
このため、ズーム倍率が切り替わる場合(光ビーコン5に付属したマイクロフォン161がユーザの話し声に反応し、音声を検出している状態を示す所定の点滅パターンで発光している状態で、ユーザがID認識カメラ3で撮像されている空間内を撮像位置に対して前後に移動した場合(近付くように、または、離れるように移動した場合))、今現在のフレーム上の光ビーコン5が撮像されている画像上の画素数と、直前のフレーム上において撮像されている光ビーコン5の画像上の画素数との差分が大きいほど、次のフレームにおいては、ズーム倍率の変化が大きく、その差分が小さいほど、徐々にズーム倍率の変化が小さくなる。
【0129】
従って、ズーム画像を見るユーザには、マイクロフォン161と共に光ビーコン5を着けているユーザの撮像位置に対して前後の動きが大きいときは、素早くズーム画像のズーム倍率が切り替わっているように見え(素早くズームアップ、または、ズームダウンしているように見え)、マイクロフォン161と共に光ビーコン5を着けているユーザの動きが止まると、ズーム画像のズーム倍率が、ゆっくりとその止まった位置にズームアップ、または、ズームダウンしているように見えることになる。また、ユーザの撮像位置に対する前後方向の移動が小さい場合(マイクロフォン161と共に光ビーコン5を着けているユーザの移動が小さい場合)、画素数の差分が小さいので、ズーム画像のズーム倍率の変化は、その動きよりも小さいものとなるので、ズーム倍率の変化が小さい。
【0130】
結果として、ID認識カメラ3により撮像された画像上の光ビーコン5を装着したユーザの動きに合わせて、ズーム画像を生成しても、ズーム画像のズーム倍率は、被写体となるユーザの動き以上には大きくならず、かつ、ユーザの動きに追従したズーム画像を生成することができるので、見ているユーザにとって見易い状態でズーム倍率が変化するズーム画像を生成することができる。
【0131】
尚、定数Kzは、ユーザの好みに合わせて設定するようにしてもよく、例えば、定数Kzが1に近い値に設定されるほど、ズーム倍率を被写体となるユーザの動きに対して素早く追従することができるが、被写体となるユーザの細かい動きにもズーム画像のズーム倍率が変化してしまうため、見難い画像となる。一方、定数Kzが0に近い値にされると、被写体の動きに対して、ズーム倍率をゆっくりと追従することになるが、ズーム画像のズーム倍率がゆっくりと変化するので見易い画像となる。
【0132】
次に、図14のフローチャートを参照して、画像表示処理について説明する。
【0133】
ステップS31において、受信部21は、他の演算装置2よりネットワーク1を介してズーム画像、および、全体画像が送信されてきているか否かを判定し、送信されてきたと、判定されるまでその処理を繰り返す。例えば、図11のフローチャートにおけるステップS16の処理によりズーム画像、および、全体画像が送信されてきたと判定された場合、その処理は、ステップS32に進む。
【0134】
ステップS32において、画像合成部22は、受信部21で受信された全体画像とズーム画像を合成し、表示部4に表示可能なサイズに合成して、表示部4に出力する。
【0135】
ステップS33において、表示部4は、画像合成部22より供給された画像を表示する。
【0136】
すなわち、図15で示されるように、3か所の別の位置に存在するグループが参加して、テレビ会議を行うような場合について説明する。
【0137】
尚、図15においては、下部が、3人のグループであり、ID認識カメラ3−1がそのユーザ3人を撮像しており、他の演算装置2−2,2−3(図15には図示しないが、図1で示されるような対応関係である)からネットワーク1を介して送信されてくる画像が演算装置2−1を介して画像処理されて、表示部4−1に表示されている。ここで、図15の下部の3人のグループにおいては、右側の1名のみが光ビーコン5−1を装着しているが、実際には、全員が装着していることが望ましく、図15においては、光ビーコン5−1を装着したユーザが発声しており、光ビーコン5−1が、今音声を検出していることを示す所定のパターンで点滅していることを示している。
【0138】
また、図15においては、右上部が、4人のグループであり、ID認識カメラ3−2がそのユーザ4人を撮像しており、他の演算装置2−1,2−3からネットワーク1を介して送信されてくる画像が演算装置2−2を介して画像処理されて、表示部4−2に表示されている。ここで、図15の右上部の4人のグループにおいては、左側の1名のみが光ビーコン5−2を装着しているが、実際には、全員が装着していることが望ましく、図15においては、光ビーコン5−2を装着したユーザが発声しており、光ビーコン5−2が、今音声を検出していることを示す所定のパターンで点滅していることを示している。
【0139】
さらに、図15においては、左上部が、2人のグループであり、ID認識カメラ3−3がそのユーザ2人を撮像しており、他の演算装置2−1,2−2からネットワーク1を介して送信されてくる画像が演算装置2−3を介して画像処理されて、表示部4−3に表示されている。ここで、図15の左上部の2人のグループにおいては、左側の1名のみが光ビーコン5−3を装着しているが、実際には、全員が装着していることが望ましく、図15においては、光ビーコン5−3を装着したユーザが発声しており、光ビーコン5−3が、今音声を検出していることを示す所定のパターンで点滅していることを示している。
【0140】
例えば、図15の下部の表示部4−1の場合、右上のズーム画像表示部4a−1は、図15の右上部の4人のグループのうちの光ビーコン5−2を装着したユーザを中心としたズーム画像を表示している。また、その下の全体画像表示部4b−1は、右上部の4人のグループの全体画像を表示している。さらに、ズーム画像表示部4c−1は、図15の左上部の2人のグループのうちの光ビーコン5−3を装着したユーザを中心としたズーム画像を表示している。また、その下の全体画像表示部4d−1は、左上部の2人のグループの全体画像を表示している。
【0141】
すなわち、画像合成部22は、演算部2−2より送信されてきたズーム画像、および、全体画像をそれぞれ、表示部4の右側の上下に配置するように合成し、演算部2−3より送信されてきたズーム画像、および、全体画像をそれぞれ、表示部4の左側の上下に配置するように合成している。
【0142】
以上の処理により、表示部4−1を見ている3人のグループの各ユーザは、今、その他のグループの誰が発言し、そのグループの全体がどのような雰囲気であるかを把握することが可能となる。さらに、上述した、画像生成処理によりズーム画像が生成されていることから、ズーム画像は、発言者(話者)となっているユーザの動きに追従して、人間の目に見易い速度で、その注視位置が変化させられ、さらに、ズームアップ、または、ズームダウンといったズームの速度も見易い速度で変化させられている見易く表示することが可能となる。
【0143】
尚、その他の演算部2、表示部4についても同様の処理を行っているので、その説明は省略する。
【0144】
また、以上においては、テレビ会議システムについて説明してきたが、テレビ会議システムに限らず、定点観測するような画像から注視位置やズーム倍率を変化させて画像を生成するような、例えば、スチルカメラなどに応用させてもよい。
【0145】
また、以上においては、被写体となるのは、光ビーコン5を装着したユーザの動きに追従してズーム画像を生成する場合について説明してきたが、光ビーコンを装着していれば、ユーザに限るものではなく、あらゆる動物体であってもよい。
【0146】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
【0147】
図16の画像処理部の電気的な内部構成をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU201は、パーソナルコンピュータの全体の動作を制御する。また、CPU201は、バス204および入出力インタフェース205を介してユーザからキーボードやマウスなどからなる入力部206から指令が入力されると、それに対応してROM(Read Only Memory)202に格納されているプログラムを実行する。あるいはまた、CPU201は、ドライブ210に接続された磁気ディスク221、光ディスク222、光磁気ディスク223、または半導体メモリ224から読み出され、記憶部208にインストールされたプログラムを、RAM(Random Access Memory)203にロードして実行する。これにより、上述した図6の画像処理部の機能が、ソフトウェアにより実現されている。さらに、CPU201は、通信部209を制御して、外部と通信し、データの授受を実行する。
【0148】
プログラムが記録されている記録媒体は、図16に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク221(フレキシブルディスクを含む)、光ディスク222(CD−ROM(Compact Disc−Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク223(MD(Mini−Disc)を含む)、もしくは半導体メモリ224などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM202や、記憶部208に含まれるハードディスクなどで構成される。
【0149】
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
【0150】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0151】
【発明の効果】
本発明によれば、撮像した画像から表示画像を生成する際、被写体となる動物体の動きに合わせて見易いスムーズな表示画像を生成することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用したテレビ会議システムを示す図である。
【図2】図1の演算装置の構成を示すブロック図である。
【図3】図1のID認識カメラのブロック図である。
【図4】図3の画像デコード処理部のブロック図である。
【図5】図4のIDデコード処理部のブロック図である。
【図6】図1の光ビーコンのブロック図である。
【図7】ID認識カメラの動作を説明する図である。
【図8】ID認識カメラが画像信号を生成する動作を説明する図である。
【図9】ID認識カメラが画像信号を生成する動作を説明する図である。
【図10】ID認識カメラが点滅パターンをデコードする動作を説明する図である。
【図11】画像生成処理を説明するフローチャートである。
【図12】画像生成処理を説明する図である。
【図13】画像生成処理を説明する図である。
【図14】画像表示処理を説明するフローチャートである。
【図15】画像表示処理を説明する図である。
【図16】記録媒体を説明する図である。
【符号の説明】
2,2−1乃至2−3 演算装置, 3,3−1乃至3−3 ID認識カメラ,4,4−1乃至4−3 表示部, 5,5−1乃至5−3 光ビーコン, 11 画素数演算部, 12 メモリ, 13 差分演算部, 14 ズーム倍率演算部, 15 画像処理部, 16 ID位置情報取得部, 17 メモリ, 18 変位測定部, 19 注視位置演算部, 20 画像送信部, 21 受信部, 22 画像合成部
【発明の属する技術分野】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、特に、撮像した画像から表示画像を生成する際、被写体となる動物体の動きに合わせて見易いスムーズな表示画像を生成できるようにした画像処理装置および方法、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
ビデオカメラで被写体を撮像し、被写体の動きに対応して表示する技術が一般に普及している。
【0003】
ビデオカメラで被写体を撮像し、被写体の動きに自動的に追従して、撮像された画像から表示画像を生成する場合、一般的には色認識を用いて被写体を識別し、撮像された画像内の動きを追尾して、被写体の動きに合わせて表示画像が生成される。
【0004】
例えば、色の付いたヘルメットを被らせビデオカメラで捕らえるべきターゲットに特定の色を指定しておくことにより、画像から特定の色を検出し、その特定の色が画像中のどの領域にあるかというのを検出して、検出された領域に応じて表示画像を生成する技術がある(例えば、引用文献1参照)。
【0005】
また、ある色領域内部の点を撮像者が指定し、指定された色の領域と、そうでない領域に2値化することにより追尾したい被写体を検出するという方法がある(例えば、引用文献2参照)。
【0006】
さらに、上述の表示画面を撮像するにあたり、被写体を撮像した画像を用いて、表示画像を生成する際、表示画像のズーム倍率を自動化する方法として、被写体が何であるかによって大きさがほぼ一定に決まるという想定に基づいて、ズーム倍率を決定し焦点距離を算出する方法がある(例えば、引用文献3参照)。
【0007】
【特許文献1】
特開平4−354490号公報
【0008】
【特許文献2】
特開平7−154666号公報
【0009】
【特許文献3】
特開平6−175002号公報
【0010】
【発明が解決しようとする課題】
しかしながら、以上の方法は、追尾される被写体が特定の色のヘルメットや衣服を着用しなければならない場合が多く、そうでなくともある程度認識しやすい色を付したヘルメットのようなものを被写体となる人物などが、撮像されるように所持しておく必要があるため、撮像前の準備が面倒であると言う課題があった。また、実際の撮像に取り掛かるための準備として、一度特定の色を指定するために撮像を行なわなければならないという煩わしさもあった。
【0011】
また、特定の色を指定する作業は、あくまで人間の作業であり、そのため実際の撮像にとりかかるまでの処理時間が長くなり、複数回に渡って撮像する場合において、色を指定する人が変わる場合、人によって色の感じ方が違うため、指定する色のあいまい度合いが増してしまうという課題があった。
【0012】
さらに、撮像環境が光の影響や暗闇の影響を受けたりする場合には、特定の色を認識することが極端に困難になってしまうと言う課題があった。
【0013】
また、ズーム倍率を決定する場合、以上の方法では、同一の被写体が遠くにあって小さく見える場合と近くにあって大きく見える場合においも、同じズーム倍率で撮像されてしまうという課題があった。
【0014】
本発明はこのような状況に鑑みてなされたものであり、撮像した画像から表示画像を生成する際、被写体となる動物体の動きに合わせて、見易いスムーズな表示画像を生成できるようにするものである。
【0015】
【課題を解決するための手段】
本発明の画像処理装置は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、撮像手段により撮像された送信装置の画像上の位置を測定する位置測定手段と、位置測定手段により測定された送信装置の画像上の位置の変位を測定する変位測定手段と、変位測定手段により測定された変位に基づいて、撮像手段により撮像された画像上の注視位置を演算する演算手段と、演算手段により演算された注視位置に基づいて、表示画像を生成する表示画像生成手段とを備えることを特徴とする。
【0016】
前記撮像手段により撮像された送信装置の画像上の画素数を測定する画素数測定手段と、画素数測定手段により測定された、撮像手段により撮像された送信装置の画像上の画素数に基づいて、表示画像のズーム倍率を演算するズーム倍率演算手段とをさらに設けるようにさせることができ、表示画像生成手段には、演算手段により演算された注視位置を中心とした、ズーム倍率演算手段により演算されたズーム倍率の表示画像を生成させるようにすることができる。
【0017】
本発明の画像処理方法は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップと、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップと、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップとを含むことを特徴とする。
【0018】
本発明の記録媒体のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップと、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップと、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップとを含むことを特徴とする。
【0019】
本発明のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップと、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップと、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップとを含む処理をコンピュータに実行させることを特徴とする。
【0020】
本発明の画像処理装置および方法、並びにプログラムにおいては、所定の点滅パターンで発光し、データを送信する送信装置が撮像され、撮像された送信装置の画像上の位置が測定され、測定された送信装置の画像上の位置の変位が測定され、測定された変位に基づいて、撮像された画像上の注視位置が演算され、演算された注視位置に基づいて、表示画像が生成される。
【0021】
本発明の画像処理装置は、独立した装置であっても良いし、画像処理を行うブロックであっても良い。
【0022】
【発明の実施の形態】
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
【0023】
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
【0024】
即ち、本発明の画像処理装置は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段(例えば、図1のID認識カメラ3)と、撮像手段により撮像された送信装置の画像上の位置を測定する位置測定手段(例えば、図2のID位置情報取得部16)と、位置測定手段により測定された送信装置の画像上の位置の変位を測定する変位測定手段(例えば、図2の変位測定部17)と、変位測定手段により測定された変位に基づいて、撮像手段により撮像された画像上の注視位置を演算する演算手段(例えば、図2の注視位置演算部19)と、演算手段により演算された注視位置に基づいて、表示画像を生成する表示画像生成手段(例えば、図2の画像処理部15)とを備えることを特徴とする。
【0025】
また、本発明の画像処理方法は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された送信装置の画像上の位置を測定する位置測定ステップ(例えば、図11のフローチャートのステップS3の処理)と、位置測定ステップの処理で測定された送信装置の画像上の位置の変位を測定する変位測定ステップ(例えば、図11のフローチャートのステップS10の処理)と、変位測定ステップの処理で測定された変位に基づいて、撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップ(例えば、図11のフローチャートのステップS11の処理)と、演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップ(例えば、図11のフローチャートのステップS15の処理)とを含むことを特徴とする。
【0026】
図1は、本発明を適用したテレビ会議システムの一実施の形態の構成を示す図である。
【0027】
演算装置2−1乃至2−3は、テレビ会議システムを使用するユーザのグループ毎に配置されているもので、ネットワーク1を介してID認識カメラ3−1乃至3−3で撮像された画像と共に、光ビーコン5−1乃至5―3の点滅パターンにより送信されてくるIDデータ、および、位置データを取得し、IDデータと、その位置データに基づいて、撮像された画像を所定の形式に処理し、他の演算装置2−1乃至2−3に送信すると共に、他の演算装置2−1乃至2−3から送信されてくる画像を取得し、それらを合成して画像を生成し、表示部4−1乃至4−3にそれぞれ表示する。
【0028】
すなわち、例えば、図1の場合、演算装置2−1は3人のグループが、演算装置2−2は、4人のグループが、そして、演算装置2−3は2人のグループがネットワーク1を介してそれぞれ異なる空間で表示部4−1乃至4−3に映し出された他のグループの画像を見ながら会議を行うことができるテレビ会議システムである。尚、図1においては、3箇所の異なる空間に存在するグループが同時に会議をできるテレビ会議システムについて示されているが、接続個所は、3箇所に限られるものではなく、それ以上、または、それ以下であっても構わない。
【0029】
ID認識カメラ3−1乃至3−3は、画像を撮像すると共にユーザが、マイクロフォンが付属された光ビーコン5−1乃至5−3の点滅パターンにより送信されてくるIDデータと、その位置データを取得し、演算装置2−1乃至2−3に画像データと共に出力する。より詳細には、ID認識カメラ3−1乃至3−3は、それぞれのグループに属する全員が撮像できるような位置に固定して設置されている。尚、ID認識カメラ3−1乃至3−3、および、光ビーコン5−1乃至5−3については、詳細を後述する。
【0030】
尚、以降において、演算装置2−1乃至2−3、ID認識カメラ3−1乃至3−3、および、表示部4−1乃至4−3をそれぞれ特に区別する必要がない場合、単に、演算装置2、ID認識カメラ3、および、表示部4と称するものとし、その他も同様にする。
【0031】
次に、図2を参照して、演算装置2の構成について説明する。
【0032】
演算装置2の画素数演算部11は、ID認識カメラ3より供給される画像データと、ID位置情報取得部16からの位置データを取得し、画像データに撮像されている光ビーコン5の位置を特定して、その光ビーコン5が撮像されている画素数を演算し(カウントし)、演算結果をメモリ12に出力して記憶させると共に、その画素数に基づいて光ビーコン5が撮像されているか否かをID位置情報演算部15に出力する。
【0033】
尚、メモリ12には、デフォルトとして所定の画素数が記憶されており、例えば、最初の撮像で、または、所定フレーム数だけ画像データに光ビーコン3の画像が含まれておらず、結果として0であった場合、このデフォルトの値が読み出される。
【0034】
差分演算部13は、メモリ12に記憶されている光ビーコン5の撮像された画素数の情報を順次読み出し、直前にズーム倍率の演算に使用した光ビーコン5を撮像している画素数との差分を求めてズーム倍率演算部14に出力する。
【0035】
ズーム倍率演算部14は、差分演算部13より供給された光ビーコン5が撮像されている画素数の差分に基づいて、ズーム倍率を演算し、演算したズーム倍率を画像処理部15に出力する。尚、ズーム倍率の演算方法については詳細を後述する。
【0036】
ID位置情報取得部16は、ID認識カメラ3より供給されてくるIDデータを取得すると共に、IDデータと同時に送信されてくる位置データを取得して、メモリ17に出力して記憶させると共に、画素数演算部11に位置データを供給する。また、ID位置情報取得部16は、IDデータが取得できないとき(1フレームの画像中にIDデータが存在しないとき)、その回数をカウンタ16aに記憶させる。尚、メモリ17には、デフォルトの位置データが記憶されており、例えば、最初の撮像で、または、所定フレーム数の間、光ビーコン3が撮像されず、位置データが取得できなかったとき、そのデフォルトの値が読み出されるようになっている。
【0037】
変位測定部18は、メモリ17に記憶されている位置データを順次読み出し、直前の注視位置の位置データ(注視位置演算部19より直前の注視位置データを取得する)との位置の差分から変位を測定し、測定した変位の情報を注視位置演算部19に出力する。
【0038】
注視位置演算部19は、変位測定部18より供給されてくる変位の情報に基づいて、注視位置、すなわち、撮像されている画像の中で、マイクロフォンが付属された光ビーコン5を持っている話者を中心とした、表示部4に表示させる画像の中央点となる位置を演算し、演算結果を画像処理部15に供給する。
【0039】
画像処理部15は、ID認識カメラ3より供給されてきた画像を、ズーム倍率演算部14より供給されてくるズーム倍率と、注視位置演算部19より供給される注視位置の情報に基づいて、話者を中心としたズーム画像を生成し、ズーム画像と共に、ID認識カメラ3より入力された画像を画像送信部20に出力する。
【0040】
尚、ここでいうズーム画像とは、ID認識カメラ3により撮像された画像のうち、注視位置を中心とし、さらに、ズーム倍率に基づいて切り出される画像である。例えば、ID認識カメラ3により撮像される画像の水平方向×垂直方向のサイズが、A×Bである場合、ズーム倍率が4で、注視位置が(X1,Y1)のズーム画像は、ID認識カメラ3で撮像された画像上の(X1,Y1)を中心(より正確には、重心位置)としたA/2×B/2のサイズの画像を、補間画素を生成するなどしてA×Bのサイズまで拡大した画像である。
【0041】
画像送信部20は、画像処理部15より供給されたズーム画像と全体画像の画像データをネットワークを介して他の演算装置2に送信する。
【0042】
受信部21は、他の演算装置2よりネットワーク1を介して送信されてくるズーム画像と、全体画像の画像データを取得し、画像合成部22に出力する。
【0043】
画像合成部22は、受信部21より供給されてくる、他の演算装置2からの画像データが複数である場合、それらを合成して表示部4に出力して表示させる。
【0044】
ここで、図3を参照して、ID認識カメラ3の詳細な構成について説明する。イメージセンサ31の受光部41は、撮像される対象となる撮像領域3の光を電気信号に光電変換した後、演算部42に出力する。また、受光部41の受光素子51は、CMOS(Complementary Metal−Oxide Semiconductor)素子からなり、従来のCCD(Charge Coupled Device)素子よりも高速に動作することができる。より詳細には、受光素子51が、撮像される対象となる撮像領域3の光を光電変換し、増幅器52に出力する。増幅器52は、受光素子51より入力される光電変換された電気信号を増幅して、演算部42に出力する。
【0045】
演算部42の記憶部61は、受光部41より入力された増幅されている電気信号を記憶し、適宜比較部62に出力する。比較部62は、記憶部61に記憶された電気信号の値に基づいて、演算処理を行い、演算結果を所定のリファレンス値(=基準信号レベル)と比較して、比較結果を出力部63に出力する。出力部63は、比較結果に基づいてセンサ出力信号を生成してデータ生成部32に出力する。但し、演算部42の処理内容は、画像モードとIDモードの2つの動作モードにより異なる。尚、この2つの異なる動作モードによる演算内容の詳細については後述する。
【0046】
データ生成部32の画像デコード処理部71は、画像モードの場合、センサ出力信号をデコード処理して撮像画像を生成して、画像合成部14に出力する。また、IDモードの場合、IDデコード処理部72は、センサ出力信号をデコード処理してIDデータと位置データを生成し、表示位置取得部12、リンク先データ解析部16、およびID画像変換部20に出力する。
【0047】
次に、図4を参照して、画像デコード処理部71の詳細な構成について説明する。画像デコード処理部71の画素値決定部81は、センサ出力信号に基づいて画素値を決定し、フレームメモリ82の対応する画素位置に決定した画素値を記憶させる。フレームメモリ82は、1フレーム分の画素値を記憶するメモリであり、画素位置毎に画素値を記憶する。
【0048】
出力部83は、フレームメモリ82に1フレーム分の画素値が記憶されたとき、順次画像データとして読出し、出力する。
【0049】
次に、図5を参照して、IDデコード処理部72の詳細な構成について説明する。IDデコード部101のIDデコード回路111は、IC(Integrated Circuit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などのデバイスにより構成されており、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。このIDデコード回路111は、処理能力が十分であれば、マイクロプロセッサやDSP(Digital Signal Processor)によってソフトウェアで構成するようにしても良い。
【0050】
フラグレジスタ112は、IDデータをデコードするために必要なフラグ類を記憶するためのレジスタであり、データレジスタ113は、デコード途中またはデコードを完了したIDを記憶しておくためのレジスタである。
【0051】
尚、図5においては、IDデコード部101は、1個のみが示されているが、処理速度の要求により、例えば、各画素毎に設けるようにしてもよいし、垂直方向、または、水平方向のライン毎に設けるようにしても良い。
【0052】
タイミング制御部102は、IDデコード処理部72の全体の動作に必要なタイミングを制御するタイミング制御信号を出力する。より具体的には、タイミング制御部102は、IDデコード回路111とセンサ出力信号のタイミングの同期をとり、所望のセンサ出力信号に対して、対応するフレームメモリ103のフラグデータをフラグレジスタ112に、IDデータをデータレジスタ113に、それぞれロードして、IDデコード処理を進めるためのタイミング制御信号を生成し、IDデコード部101(のIDデコード回路111、フラグレジスタ112、および、データレジスタ113)に供給する。また、このとき、タイミング制御部102は、フレームメモリ103へのアドレス信号、リードライトなどのタイミング制御信号を生成し供給する。さらに、タイミング制御部102は、重心計算部104のIDレジスタ121、および、ID重心計算回路122、並びに、ID座標格納メモリ105のタイミング制御を行うタイミング制御信号を生成して供給する。
【0053】
フレームメモリ103は、受光素子51、または演算部42毎に演算されたセンサ出力信号がデコードされたIDデータとフラグデータを格納するメモリであり、イメージセンサ31が1画素につき1個の演算部42をもつ場合には、センサの画像サイズであるM画素×N画素と同じサイズとなり、データ幅はフラグレジスタ112とデータレジスタ113のビット幅の和で構成される。図5においては、各画素の位置に対応する座標が、I軸とJ軸により示されており、それぞれの座標位置にIDデータとフラグデータが格納される。
【0054】
重心計算部104は、同一のIDデータを持つ撮像画像上の画素の重心位置の座標を求め、IDデータに、光ビーコン5の検出位置としての位置データ(=光ビーコン5の撮像画像上の位置データ)を付して出力する。より詳細には、重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号によりフレームメモリ103に今記憶されたIDデータを読出し、ID重心計算回路122に出力する。ID重心計算回路122は、入力されたIDデータ毎に、対応する画素の座標位置のI座標とJ座標、並びにデータの個数を順次加算してID座標格納メモリ105に記憶させる。また、ID重心計算回路122は、フレームメモリ103に1フレーム分のデータが格納されたとき、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を求めて、IDデータと共に出力する。
【0055】
次に、図6を参照して、光ビーコン5の構成について説明する。
【0056】
図6の光ビーコン5は、送信データ保存用メモリ151、点滅制御部152、発光部153から構成される。基本的に、この例のようにテレビ会議システムに使用する場合においては、参加する全ユーザが光ビーコン5を所持していることが望ましいが、話者の位置の特定が目的であるので、話者であるユーザが、光ビーコン5を所持するようにすれば必ずしも全ユーザが所持していなくても問題はない。
【0057】
送信データ保存メモリ151は、予め送信するためのデータを記憶しており、適宜読み出して点滅制御部152に出力する。点滅制御部152は、発信器とIC,ASIC,FPGA、ワンチップマイコンなどのデジタル回路によって構成されており、送信データ保存用メモリ151に記憶されたデータの内容に基づいて、点滅パターンを発生させると共に、発生された点滅パターンで発光部153を発光させる。発光部153は、高速に点滅することができる光源であれば良く、出力波長もセンサが反応する範囲であれば良い。また、発光部153が発する光は、可視光だけではなく、赤外域などでもよく、応答速度や、寿命の点から、LED(Light
Emission Diode)は最適な光源の1つであるといえる。
【0058】
また、点滅制御部152には、マイクロフォン161からの音声信号が供給され、音声が入力されているタイミングにのみ、所定の点滅パターンで光ビーコン5を発光させることにより、今、話者となっているユーザを特定できるような情報を送信するようにしてもよい。
【0059】
また、送信データ保存用メモリ151にネットワークを介して送信データを供給できるようにしてもよい。ここでネットワークとは、有線・無線の通信回線、例えば電話回線、ISDN、RS−232C、RS−422、Ethernet(R)(10base−T,100base−T)、USB(Universal Serial Bus)、IEEE(Institute of Electrical and Electronic Engineers)1394、IEEE802.11a、IEEE802.11b、BlueToothなどの通信手段により他の装置とデータ通信ができる環境をいう。この場合、送信データ保存用メモリ151にデータを供給する通信手段は、データ通信用IC及びドライバから構成されてものとしてもよく、ネットワークを介して受信した光ビーコン5の送信データを、点滅制御部152に出力する。点滅制御部152は、送信データに基づいて、点滅パターンを発生し、データに応じた点滅パターンで発光部153を発光させる。
【0060】
次に、ID認識カメラ3の動作について説明する。
【0061】
受光部41の受光素子51は、光を光電変換し、変換した電気信号を増幅部52に出力する。増幅部52は、電気信号を増幅して演算部42に出力する。演算部42の記憶部61は、受光部41より入力された電気信号を順次記憶して、4フレーム分の電気信号を記憶し、いっぱいになると、最も古いフレームの電気信号を消去して、最新のフレームの電気信号を記憶する処理を繰り返して、常に最新の4フレーム分の電気信号を記憶しており、その4フレーム分の電気信号を比較部62に出力する。
【0062】
比較部62の動作は、画像モードとIDモードにより異なる。この動作モードは、例えば、図7で示すように図示せぬ制御装置により、所定の時間間隔で交互に切り替えるようにしてもよい。また、画像モードとIDモードがそれぞれ30fps(frame per second)や60fpsといった従来のフレームレートで切り替えられるようにしても良い。さらに、IDモードには、IDデータをデコードするIDデコード処理区間と、デコードされたIDデータを持つ画素の座標位置としての位置データを求めるID重心計算区間がある。
【0063】
尚、図7においては、画像モードとIDモードが同時間の場合を示しているが、それぞれの動作モードの時間は、同時間でも良いし、同時間でなくてもよい。また、図7の下段で示すように、各画像モードの後のタイミングでは、画像デコード処理部71により、センサ出力信号がデコードされて撮像画像の画像データが出力され、IDモードの後のタイミングで、IDデコード処理部72により、センサ出力信号がデコードされてIDデータと位置データが出力される。
【0064】
まず、画像モードの場合の動作について説明する。
【0065】
画像モードの場合、イメージセンサ31の比較部62は、各画素の受光部41で検出した輝度を示す信号レベル(記憶部61に記憶された電気信号)を、基準信号レベルと比較して、図8で示すように、基準信号レベルよりも低くなったときに、図9で示すようにアクティブになるような信号(図9中の1の信号)を出力する。
【0066】
ここで、図8は、輝度信号レベルを示しており、図9は、センサ出力信号を示している。輝度信号レベルは、実質的に受光素子51の充電電圧の変化を示している。受光素子51は、所定のタイミングで充電される電圧と逆極性の所定のリセットレベルの電圧が印加され、その後のタイミングから受光素子により蓄積される電荷量に対応して電圧レベルが低下する。従って、図8においては、時刻0において蓄積される電荷は0であるので、輝度信号レベルは、リセットレベル(所定のレベル)となっている。この状態から時間が経過するに従って、電荷が蓄積されて、輝度信号レベルが低下する。今の場合、図8中のHで示す直線が、比較的輝度信号レベルの高い(明るい)画素値として、Lで示す直線が、比較的輝度信号レベルの低い(暗い)画素値として示されている。
【0067】
画素値のレベルが高い輝度信号レベルの変化Hは、時刻0から時間T(H)だけ経過したタイミングである時刻T(H)において、基準信号レベルに達する電荷が蓄積されていることが示されている。一方、画素値のレベルが低い輝度信号レベルの変化Lは、時刻0から時間T(L)だけ経過したタイミングである時刻T(L)において、基準信号レベルに達する電荷が蓄積されていることが示されている。
【0068】
すなわち、図8で示すように、明るい画素ほど基準信号レベルに達する時間が短く(図中T(H))、暗い画素ほど基準信号レベルに達する時間(図中T(L))が長くなる(T(H)<T(L))。比較部62は、実際の受光部41より出力される各画素の電気信号(輝度信号)が、前記基準信号レベルに達したかどうかの比較結果(コンパレータ出力)を図9で示すように2値のセンサ出力信号として出力する。このような処理により、イメージセンサ31は、画像を高速に撮像して基準信号との比較演算を行い、1画面(フレーム)分の結果をセンサ出力信号として出力する。
【0069】
さらに、画像デコード処理部71の画素値決定部81は、この時間T(H),T(L)を計測するために、このイメージセンサ31が1画面単位で出力する結果を、フレーム単位でカウントし、各画素で何番目のフレームでセンサ出力信号が図9で示すようにアクティブになるかを示すセンサ出力信号をエンコードして画像データとして出力する。今の場合、センサ出力信号は、時刻T(H)が、フレーム数F(H)であり、時刻T(L)が、フレーム数F(L)である。
【0070】
すなわち、画像モードの場合、画像デコード処理部71の画素値決定部81が、このセンサ出力信号を正しい明るさの値に変換するために、この基準信号に到達するまでの時間(フレーム数)の逆数を各画素毎に計算することで、センサ出力信号を画像データにデコードし、フレームメモリ82に記憶させる。そして、1フレーム分の画像データが蓄積された時、出力部83は、フレームメモリ82に記憶された画素値を画像データとして順次読出して出力する。この動作により、ID認識カメラ3は、画像モードにおいて画像データを出力することができる(詳細は、48Kframes/s CMOS Image Sensor for Real−time 3−D Sensing and Motion Detection” ISSCC Digest of Technical Papers, pp.94−95, Feb.2001、または、特開2001−326857を参照されたい)。
【0071】
一方、動作モードがIDモードの場合、比較部62は、記憶部61に記憶されている時間的に連続する4フレーム分の電気信号を輝度信号として以下の式(1)のような演算処理を実行する。
【0072】
ここで、Nはフレーム番号を表し、V(N)は、Nフレーム目の輝度値が入力された時点での比較値を示し、F(N)はNフレーム目の受光部41に蓄積された輝度を示す。この演算により、光の変化を検出することができるため、その演算結果をセンサ出力信号としてデータ生成部32に出力する。データ生成部32は、このセンサ出力信号を用いて、後述するIDデコード処理を行うことで、点滅パターンからなるIDデータを復元し、光ビーコン5からのIDデータを生成することが可能となる。
【0073】
尚、比較部62の演算方法は、式(1)に限るものではなく、他の演算(1次微分や2値化画像の比較など)によって実現するようにしてもよいが、以下の説明においては、光変化の検出の安定性の高い、式(1)を用いて説明するものとする。
【0074】
ここで、IDデコード処理部72の動作について説明する。
【0075】
IDデコード部101のIDデコード回路111は、タイミング制御部102からのセンサ出力信号のタイミングの同期を図るためのタイミング制御信号に基づいて、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。この際、IDデコード回路111は、タイミング制御信号に応じて、フラグレジスタ112を制御して、フレームメモリ103にロードされたフラグデータを用いて、センサ出力信号からIDデータをデコードし、デコード途中またはデコードを完了したIDをデータレジスタ113に記憶させる。
【0076】
さらに、フレームメモリ103は、これらのデコード処理がなされたフラグデータとIDデータを対応する座標位置に格納する。
【0077】
重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号により、フレームメモリ103に今記憶されたIDデータの情報をID重心計算回路122に読み出させる。
【0078】
ID重心計算回路122は、読み出したIDデータに対応する画素の座標位置のI座標とJ座標を順次加算して、これに画素の個数の情報を付してID座標格納メモリ105に記憶させ、この処理を繰り返す。
【0079】
そして、フレームメモリ103に1フレーム分のデータが格納されたとき、ID重心計算回路122は、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を位置データとして求めて、対応するIDデータと共に出力する。
【0080】
以上の動作により、例えば、図10で示すように、2個の光ビーコン5−1,2−2が、点滅しながら発光してデータを送信する場合、ID認識カメラ3には、図10上部に示すような現実空間上の光ビーコン5−1,5−2の物理的な位置に応じた、撮像画像上の位置の画素で光の信号を受光する。例えば、光ビーコン5−1から発せられた光が座標位置(10,10)の受光素子51で受光されるものとし、光ビーコン5−2から発せられた光が座標位置(90,90)の受光素子51で受光されるものとする。このとき、各受光部41の座標位置(10,10)と(90,90)の受光素子51では、それぞれが光ビーコン5−1と5−2の点滅パターンにより受光強度(明るさ)の時間的変化として信号を受信することができる。今の場合、座標(10,10)の位置データに対応する画素は、IDデータとして「321」が、座標(90,90)の位置データに対応する画素は、IDデータとして105がデコード結果として求められている。
【0081】
結果として、この受光強度の変化を上述の式(1)などにより2値化することにより1/0のビット列からなるIDデータを取得する事ができる。
【0082】
次に、図11のフローチャートを参照して、ID認識カメラ3により撮像された画像に基づいて、他の演算装置2に送信するための画像を生成する処理について説明する。
【0083】
ステップS1において、画素数演算部11がメモリ12を、ID位置情報取得部16が、メモリ17、および、カウンタ16aをそれぞれ初期化する(メモリ12,17に記憶されているデータ、および、カウンタ16aが0にリセットされる)。
【0084】
ステップS2において、ID認識カメラ3が画像を撮像し、画像データを演算装置2すると共に、光ビーコン5が撮像された場合、その点滅パターンに基づいてIDデータ(位置データを含む)を演算装置2に送信する。今の場合、テレビ会議室の全体が撮像されることになり、同時に、テレビ会議室内で、光ビーコン5が撮像された場合、その点滅パターンに基づいて、話者となっているユーザの位置を特定するIDデータ、および、位置データが取得されて送信される。
【0085】
ステップS3において、ID位置情報取得部16は、ID認識カメラ3より供給されるIDデータと位置データを取得し(さらに、一時的に記憶し)、位置データについては画素数演算部11に供給する。
【0086】
ステップS4において、画素数演算部11は、ID認識カメラ3から供給される画像(1フレーム画像)と、ID位置情報取得部16より供給された光ビーコン3が検出された位置データに基づいて、光ビーコン5が撮像されている画素数を演算する(カウントする)。
【0087】
ステップS5において、画素数演算部11は取得された画素数が0であるか否かを判定する。すなわち、今、ID認識カメラ3から送信されてくる画像に、いずれかのユーザが話している状態を示す点滅パターンを発している光ビーコン5が撮像されているか否かが判定される。
【0088】
ステップS5において、例えば、ID認識カメラ3から送信されてくる画像に、ユーザが話している状態を示す点滅パターンを発している光ビーコン5が存在したと判定された場合、ステップS6において、画素数演算部11は、画素数が0ではないことをID位置情報取得部16に通知する。
【0089】
ステップS7において、ID位置情報取得部16は、カウンタ16aにカウントされている値をリセットする(カウンタ16aの値を0にする)。
【0090】
ステップS8において、画素数演算部11は、メモリ12に記憶された情報を取得された画素数の情報に更新すると共に、ID位置情報取得部16は、メモリ17に記憶された位置情報を、取得した位置情報に更新する。
【0091】
ステップS9において、変位測定部18は、メモリ17に記憶されている今現在の光ビーコン5の位置データを読み出すと共に、注視位置演算部19より直前の演算処理で求められた注視位置のデータを取得し、ステップS10において、今現在の光ビーコン5の位置データと、直前の注視位置のデータとの差分から光ビーコン5の変位を求める。
【0092】
ステップS11において、注視位置演算部19は、今現在の光ビーコン5の位置データと、直前の注視位置のデータ、および、それらの差分から光ビーコン5の変位から、今のフレームの注視位置を演算し、画像処理部15に出力する。
【0093】
より詳細には、注視位置演算部19は、以下の式(2),式(3)に基づいた演算を実行し注視位置を求める。
【0094】
【0095】
【0096】
ここで、Xv,Yvは求めようとする注視位置の画像上のX座標およびY座標であり、Xpv,Ypvは直前の注視位置の画像上のX座標およびY座標であり、Xr,Yrは今現在の光ビーコン5の位置の画像上のX座標およびY座標であり、さらに、Kx,Kyは、0<Kx<1,0<Ky<1の定数である。尚、式(2),式(3)における(Xr−Xpv)および(Yr−Ypv)は、ステップS10の処理で変位測定部18により測定された、今現在の光ビーコン5の位置データと、直前の注視位置のデータとの変位のX方向とY方向の成分である。
【0097】
ステップS12において、差分演算部13は、メモリ12に記憶されている直前の光ビーコン5を撮像している画素数と、今撮像されている画像中の光ビーコン5の画素数を読み出し、その差分を演算し、画像処理部15に出力する。
【0098】
ズーム倍率演算部14は、メモリ12に記憶されている直前のズーム倍率を演算したときに使用した光ビーコン5が撮像されている画素数と、今撮像されている画像中の光ビーコン5の画素数の差分となる値を用いて、以下の式(4)に基づいた演算を実行して、ズーム倍率を演算する。
【0099】
【0100】
ここで、Zは求めようとするズーム倍率であり、Zdはズーム倍率が1倍となるときの光ビーコン5が撮像されている画素数である。
【0101】
また、Zvは、以下の式(5)で定義される。式(5)で示されるZvは、そのタイミングで求められるズーム倍率の計算に使用される、光ビーコン5を撮像している画素数を示す。
【0102】
【0103】
ここで、Zrは最新のフレームにおける光ビーコン5が撮像されている画素数であり、Zpvは、直前のフレームのズーム倍率の演算に使用した光ビーコン5が撮像されている画素数であり、Kzは0<Kz<1の定数である。
【0104】
ステップS15において、画像処理部15は、ID認識カメラ3から供給された画像データを注視位置演算部19より供給された注視位置の位置データと、ズーム倍率演算部14より供給されたズーム倍率に基づいて、ズーム画像を生成し、ID認識カメラ3から供給された画像、すなわち、全体画像と共に画像送信部20に出力する。
【0105】
ステップS16において、画像送信部20は、画像処理部15より供給されたズーム画像と全体画像をネットワーク1を介して、他の演算装置2に送信し、その処理は、ステップS2に戻る。
【0106】
ステップS5において、最新のフレームの画像上における光ビーコン5が撮像されている画素数が0であると判定された場合、ステップS18において、画素数演算部11は、画素数が0であることをID位置情報取得部16に通知する。
【0107】
ステップS19において、ID位置情報演算部16は、カウンタ16aの値が所定の値以上であるか否かを判定する。すなわち、カウンタ16aは、ID認識カメラ3で撮像されている画像内に、話者の存在を示す、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数をカウントしている(後述するステップS19の処理参照)ので、所定フレーム数以上、ユーザが検出されていないか否かが判定される。
【0108】
ステップS18において、カウンタ16aが所定値以上ではないと判定された場合、すなわち、話者の存在を示す、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数が、所定フレーム数以上ではないと判定された場合、ステップS19において、ID位置情報取得部16は、カウンタ16aの値を1だけインクリメントし、その処理は、ステップS9に進む。
【0109】
ステップS18において、カウンタが所定数以上であると判定された場合、すなわち、話者の存在を示す、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数が、所定フレーム数以上続いたと判定された場合(対応するID認識カメラ3で撮像している領域に話者がいない場合)、その処理は、ステップS20に進む。
【0110】
ステップS20において、ID位置情報取得部16は、カウンタ16aを0にリセットし、ステップS21において、メモリ17を制御して、デフォルトの値として記憶されている値を記憶させると共に、画素数演算部11に対して、光ビーコン5の点滅パターンが検出されない状態が継続しているフレーム数が、所定フレーム数以上続いていることを通知する。これにより、画素数演算部11は、メモリ12に記憶されている画素数の情報をデフォルトの値にリセットさせ、その処理は、ステップS19に進む。
【0111】
すなわち、話者として認識される光ビーコン5が撮像された場合、メモリ17に記憶されている今現在のフレームの位置データと、直前のフレーム上の光ビーコン5の位置との変位に基づいて、注視位置が計算され(ステップS9乃至S11の処理)、光ビーコン5が撮像されている画素数の差分に基づいて、ズーム倍率が求められ(ステップS12乃至S14の処理)、求められた注視位置とズーム倍率に基づいて、ズーム画像が生成される(ステップS15の処理)。
【0112】
ただし、式(2),式(3)で示されるように、求められる注視位置は、必ずしも、最新のフレーム上の光ビーコン5が存在する位置とはならない。注視位置は、本来、話者として認識されたユーザが存在するものとみなされた、光ビーコン5が所定の点滅パターンで発光している画像上の位置となるべきである。
【0113】
しかしながら、例えば、図12で示されるように、ID認識カメラ3で撮像される画像がFで示される場合、時刻t0で図中のP0の位置に、光ビーコン5が撮像されたとき、注視位置が位置P0であるものとする。そして、次のタイミングとなる時刻t1において、光ビーコン5が図12中の位置Prであるとき、例えば、式(2),式(3)の定数Kx,KyがKx=Ky=1/2であれば、時刻t1における注視位置は位置P1となる。すなわち、定数Kx,KyがKx=Ky=1/2であるということは、次のタイミングにおいて求められる注視位置は、直前の注視位置から、今、光ビーコン5が撮像されている位置までの中間位置となる。
【0114】
さらに、この状態で、話者となる人物が画像F中における位置が変わることなく、そのままの状態で撮像が続けられた場合、すなわち、ID認識カメラ3により撮像された画像F中における光ビーコン5の今撮像されている位置が変化しない場合、その次のタイミングとなる時刻t2において、注視位置は、位置P2となる。ここで、位置P2は、上述した式(2),式(3)により演算される位置であり、位置P1と位置Prの中間位置となる。
【0115】
同様に、このような処理が繰り返されていくことになるが、画像上の位置P0からPrまでの距離がDであるとすれば、注視位置が位置P0からP1に移動する場合、注視位置の移動量はD/2となり、ズーム画像は、F0からF1に切り替わる。さらに、画像上の位置P1からP2まで注視位置が移動すると、注視位置の移動量は、D/4となり、ズーム画像は、F1からF2に切り替わる。
【0116】
このような処理を繰り返していくと、それ以降の移動量は、D/8,D/16,D/32・・・と変化していくが、今現在のフレームの画像上で撮像される光ビーコン5の位置は、変化がないので、徐々に、今のフレームの画像上で撮像される光ビーコン5の位置Prに近付いていき、実際に切り替わるズーム画像の変化も小さくなる。
【0117】
このため、注視位置が切り替わる場合(光ビーコン5に付属したマイクロフォン161がユーザの話し声に反応し、音声を検出している状態を示す所定の点滅パターンで発光している状態で、ユーザがID認識カメラ3で撮像されている空間内を撮像位置に対して上下左右方向に移動した場合)、今現在のフレーム上の光ビーコン5が撮像されている画像上の位置と、直前のフレーム上において撮像されている光ビーコン5の画像上の位置との距離が離れていれば離れているほど、次のフレームにおいては、注視位置が大きく移動し、その距離が近づくに連れて、徐々に移動量が小さくなる。
【0118】
従って、ズーム画像を見るユーザには、マイクロフォン161と共に光ビーコン5を着けているユーザの上下左右方向の動きが大きいときは、素早くズーム画像の注視位置が切り替わっているように見え、マイクロフォン161と共に光ビーコン5を着けているユーザの上下左右方向の動きが止まると、ズーム画像の中心位置が、ゆっくりとその止まった位置に向うように変化しているように見えることになる。また、ユーザの上下左右方向の移動が小さい場合(マイクロフォン161と共に光ビーコン5を着けているユーザの移動が小さい場合)、移動距離が小さいので、ズーム画像の中央位置は、その動きよりも小さいものとなるので、画像の変化は小さい。
【0119】
結果として、ID認識カメラ3により撮像された画像上の光ビーコン5を装着したユーザの動きに合わせて、ズーム画像を生成しても、ズーム画像の中心となる注視位置は、被写体となるユーザの動き以上には大きくならず、かつ、ユーザの動きに追従したものとすることができるので、見ているユーザにとって見易いズーム画像を生成することが可能となる。
【0120】
尚、定数Kx,Kyは、ユーザの好みに合わせて設定するようにしてもよく、例えば、定数Kx,Kyが1に近い値に設定されるほど、被写体となるユーザの動きに対して素早く追従することができるが、被写体となるユーザの細かい動きにもズーム画像が切り替わってしまうため、見難い画像となる。一方、定数Kx,Kyが0に近い値にされると、被写体の動きに対して、ゆっくりと追従することになるが、ズーム画像の切り替わりがゆっくりとするので見易い画像となる。
【0121】
また、ズーム倍率についても同様である。
【0122】
すなわち、式(4)で示されるように、求められるズーム倍率は、必ずしも、最新のフレーム上の光ビーコン5を撮像している画素数とはならない。ズーム倍率は、本来、話者として認識されたユーザが存在するものとみなされた、所定の点滅パターンで発光している光ビーコン5が撮像されているフレームの画像上の画素数となるべきである。
【0123】
しかしながら、例えば、図13で示されるように、ID認識カメラ3で撮像される画像がFで示される場合、時刻t0で図中のP0の位置付近で、光ビーコン5を撮像している画素の画素数がNであるものとする。そして、次のタイミングとなる時刻t1において、図13中の位置Pr付近で光ビーコン5を撮像している画素の画素数がnであるとき(図13においては、光ビーコン5を装着したユーザがID認識カメラ3から遠ざかったとき)、例えば、式(4)の定数KzがKz=1/2であれば、時刻t1における光ビーコン5を撮像している画素数Zvは、Zv=((n−N)/2+N)とであるとして計算されることになる。
【0124】
すなわち、定数KzがKz=1/2であるということは、次のタイミングにおいて求められるズーム倍率Zを求めるための画素数Zvは、直前のフレームにおいてズーム倍率の計算に使用された光ビーコン5を撮像している画素数と、今のフレーム上で光ビーコン5が撮像されている画素数との平均画素数((n−N)/2+N)となる。そして、この平均画素数の逆数がズーム倍率が1倍となる時の画素数Zdに乗じられた値が、求めようとする時刻t1におけるフレームのズーム画像を求める際のズーム倍率Z(t1)となる。
【0125】
さらに、この状態で、話者となる人物が画像F中における位置が変わることなく、そのままの状態で撮像が続けられた場合、すなわち、ID認識カメラ3により撮像された画像F中における光ビーコン5の今撮像されている位置が変化しない場合、その次のタイミングとなる時刻t2において、ズーム倍率Zは、時刻t1のフレームにおける光ビーコン5を撮像している画素数((n+N)/2)と、今のフレーム上で光ビーコン5が撮像されている画素数nとの平均画素数((3n+N)/4)となる。そして、この平均画素数の逆数がズーム倍率が1倍となる時の画素数Zdに乗じられた値が、求めようとする時刻t2のズーム倍率Z(t2)となる。
【0126】
同様に、このような処理が繰り返されていくことになるが、画像上の位置P0における光ビーコン5を撮像している画素数がN個であり、位置Prで光ビーコンを撮像している画素数がn個であるとすれば、時刻t0から時刻t1に時刻が進むと、時刻t0と時刻t1におけるそれぞれの画素数の平均画素数の逆数に比例してズーム倍率が設定され、ズーム画像は、F00からF01に切り替わる。さらに、時刻t1からt2まで時刻が進むと、時刻t1と時刻t2におけるそれぞれの画素数の平均画素数の逆数に比例してズーム倍率が設定され、ズーム画像は、F01からF02に切り替わる。
【0127】
このような処理を繰り返していくと、それ以降のズーム倍率は、画素数の平均値(7n+N/8),(15n+N)/16,(31n+N)/32・・・の逆数に比例して変化していくが、今現在のフレームの画像上で撮像される光ビーコン5の位置は変化がないので、徐々に、今のフレームの画像上で撮像される光ビーコン5における画素数に近付いていき、実際に切り替わるズーム倍率の変化も小さくなる。
【0128】
このため、ズーム倍率が切り替わる場合(光ビーコン5に付属したマイクロフォン161がユーザの話し声に反応し、音声を検出している状態を示す所定の点滅パターンで発光している状態で、ユーザがID認識カメラ3で撮像されている空間内を撮像位置に対して前後に移動した場合(近付くように、または、離れるように移動した場合))、今現在のフレーム上の光ビーコン5が撮像されている画像上の画素数と、直前のフレーム上において撮像されている光ビーコン5の画像上の画素数との差分が大きいほど、次のフレームにおいては、ズーム倍率の変化が大きく、その差分が小さいほど、徐々にズーム倍率の変化が小さくなる。
【0129】
従って、ズーム画像を見るユーザには、マイクロフォン161と共に光ビーコン5を着けているユーザの撮像位置に対して前後の動きが大きいときは、素早くズーム画像のズーム倍率が切り替わっているように見え(素早くズームアップ、または、ズームダウンしているように見え)、マイクロフォン161と共に光ビーコン5を着けているユーザの動きが止まると、ズーム画像のズーム倍率が、ゆっくりとその止まった位置にズームアップ、または、ズームダウンしているように見えることになる。また、ユーザの撮像位置に対する前後方向の移動が小さい場合(マイクロフォン161と共に光ビーコン5を着けているユーザの移動が小さい場合)、画素数の差分が小さいので、ズーム画像のズーム倍率の変化は、その動きよりも小さいものとなるので、ズーム倍率の変化が小さい。
【0130】
結果として、ID認識カメラ3により撮像された画像上の光ビーコン5を装着したユーザの動きに合わせて、ズーム画像を生成しても、ズーム画像のズーム倍率は、被写体となるユーザの動き以上には大きくならず、かつ、ユーザの動きに追従したズーム画像を生成することができるので、見ているユーザにとって見易い状態でズーム倍率が変化するズーム画像を生成することができる。
【0131】
尚、定数Kzは、ユーザの好みに合わせて設定するようにしてもよく、例えば、定数Kzが1に近い値に設定されるほど、ズーム倍率を被写体となるユーザの動きに対して素早く追従することができるが、被写体となるユーザの細かい動きにもズーム画像のズーム倍率が変化してしまうため、見難い画像となる。一方、定数Kzが0に近い値にされると、被写体の動きに対して、ズーム倍率をゆっくりと追従することになるが、ズーム画像のズーム倍率がゆっくりと変化するので見易い画像となる。
【0132】
次に、図14のフローチャートを参照して、画像表示処理について説明する。
【0133】
ステップS31において、受信部21は、他の演算装置2よりネットワーク1を介してズーム画像、および、全体画像が送信されてきているか否かを判定し、送信されてきたと、判定されるまでその処理を繰り返す。例えば、図11のフローチャートにおけるステップS16の処理によりズーム画像、および、全体画像が送信されてきたと判定された場合、その処理は、ステップS32に進む。
【0134】
ステップS32において、画像合成部22は、受信部21で受信された全体画像とズーム画像を合成し、表示部4に表示可能なサイズに合成して、表示部4に出力する。
【0135】
ステップS33において、表示部4は、画像合成部22より供給された画像を表示する。
【0136】
すなわち、図15で示されるように、3か所の別の位置に存在するグループが参加して、テレビ会議を行うような場合について説明する。
【0137】
尚、図15においては、下部が、3人のグループであり、ID認識カメラ3−1がそのユーザ3人を撮像しており、他の演算装置2−2,2−3(図15には図示しないが、図1で示されるような対応関係である)からネットワーク1を介して送信されてくる画像が演算装置2−1を介して画像処理されて、表示部4−1に表示されている。ここで、図15の下部の3人のグループにおいては、右側の1名のみが光ビーコン5−1を装着しているが、実際には、全員が装着していることが望ましく、図15においては、光ビーコン5−1を装着したユーザが発声しており、光ビーコン5−1が、今音声を検出していることを示す所定のパターンで点滅していることを示している。
【0138】
また、図15においては、右上部が、4人のグループであり、ID認識カメラ3−2がそのユーザ4人を撮像しており、他の演算装置2−1,2−3からネットワーク1を介して送信されてくる画像が演算装置2−2を介して画像処理されて、表示部4−2に表示されている。ここで、図15の右上部の4人のグループにおいては、左側の1名のみが光ビーコン5−2を装着しているが、実際には、全員が装着していることが望ましく、図15においては、光ビーコン5−2を装着したユーザが発声しており、光ビーコン5−2が、今音声を検出していることを示す所定のパターンで点滅していることを示している。
【0139】
さらに、図15においては、左上部が、2人のグループであり、ID認識カメラ3−3がそのユーザ2人を撮像しており、他の演算装置2−1,2−2からネットワーク1を介して送信されてくる画像が演算装置2−3を介して画像処理されて、表示部4−3に表示されている。ここで、図15の左上部の2人のグループにおいては、左側の1名のみが光ビーコン5−3を装着しているが、実際には、全員が装着していることが望ましく、図15においては、光ビーコン5−3を装着したユーザが発声しており、光ビーコン5−3が、今音声を検出していることを示す所定のパターンで点滅していることを示している。
【0140】
例えば、図15の下部の表示部4−1の場合、右上のズーム画像表示部4a−1は、図15の右上部の4人のグループのうちの光ビーコン5−2を装着したユーザを中心としたズーム画像を表示している。また、その下の全体画像表示部4b−1は、右上部の4人のグループの全体画像を表示している。さらに、ズーム画像表示部4c−1は、図15の左上部の2人のグループのうちの光ビーコン5−3を装着したユーザを中心としたズーム画像を表示している。また、その下の全体画像表示部4d−1は、左上部の2人のグループの全体画像を表示している。
【0141】
すなわち、画像合成部22は、演算部2−2より送信されてきたズーム画像、および、全体画像をそれぞれ、表示部4の右側の上下に配置するように合成し、演算部2−3より送信されてきたズーム画像、および、全体画像をそれぞれ、表示部4の左側の上下に配置するように合成している。
【0142】
以上の処理により、表示部4−1を見ている3人のグループの各ユーザは、今、その他のグループの誰が発言し、そのグループの全体がどのような雰囲気であるかを把握することが可能となる。さらに、上述した、画像生成処理によりズーム画像が生成されていることから、ズーム画像は、発言者(話者)となっているユーザの動きに追従して、人間の目に見易い速度で、その注視位置が変化させられ、さらに、ズームアップ、または、ズームダウンといったズームの速度も見易い速度で変化させられている見易く表示することが可能となる。
【0143】
尚、その他の演算部2、表示部4についても同様の処理を行っているので、その説明は省略する。
【0144】
また、以上においては、テレビ会議システムについて説明してきたが、テレビ会議システムに限らず、定点観測するような画像から注視位置やズーム倍率を変化させて画像を生成するような、例えば、スチルカメラなどに応用させてもよい。
【0145】
また、以上においては、被写体となるのは、光ビーコン5を装着したユーザの動きに追従してズーム画像を生成する場合について説明してきたが、光ビーコンを装着していれば、ユーザに限るものではなく、あらゆる動物体であってもよい。
【0146】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
【0147】
図16の画像処理部の電気的な内部構成をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU201は、パーソナルコンピュータの全体の動作を制御する。また、CPU201は、バス204および入出力インタフェース205を介してユーザからキーボードやマウスなどからなる入力部206から指令が入力されると、それに対応してROM(Read Only Memory)202に格納されているプログラムを実行する。あるいはまた、CPU201は、ドライブ210に接続された磁気ディスク221、光ディスク222、光磁気ディスク223、または半導体メモリ224から読み出され、記憶部208にインストールされたプログラムを、RAM(Random Access Memory)203にロードして実行する。これにより、上述した図6の画像処理部の機能が、ソフトウェアにより実現されている。さらに、CPU201は、通信部209を制御して、外部と通信し、データの授受を実行する。
【0148】
プログラムが記録されている記録媒体は、図16に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク221(フレキシブルディスクを含む)、光ディスク222(CD−ROM(Compact Disc−Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク223(MD(Mini−Disc)を含む)、もしくは半導体メモリ224などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM202や、記憶部208に含まれるハードディスクなどで構成される。
【0149】
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
【0150】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0151】
【発明の効果】
本発明によれば、撮像した画像から表示画像を生成する際、被写体となる動物体の動きに合わせて見易いスムーズな表示画像を生成することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用したテレビ会議システムを示す図である。
【図2】図1の演算装置の構成を示すブロック図である。
【図3】図1のID認識カメラのブロック図である。
【図4】図3の画像デコード処理部のブロック図である。
【図5】図4のIDデコード処理部のブロック図である。
【図6】図1の光ビーコンのブロック図である。
【図7】ID認識カメラの動作を説明する図である。
【図8】ID認識カメラが画像信号を生成する動作を説明する図である。
【図9】ID認識カメラが画像信号を生成する動作を説明する図である。
【図10】ID認識カメラが点滅パターンをデコードする動作を説明する図である。
【図11】画像生成処理を説明するフローチャートである。
【図12】画像生成処理を説明する図である。
【図13】画像生成処理を説明する図である。
【図14】画像表示処理を説明するフローチャートである。
【図15】画像表示処理を説明する図である。
【図16】記録媒体を説明する図である。
【符号の説明】
2,2−1乃至2−3 演算装置, 3,3−1乃至3−3 ID認識カメラ,4,4−1乃至4−3 表示部, 5,5−1乃至5−3 光ビーコン, 11 画素数演算部, 12 メモリ, 13 差分演算部, 14 ズーム倍率演算部, 15 画像処理部, 16 ID位置情報取得部, 17 メモリ, 18 変位測定部, 19 注視位置演算部, 20 画像送信部, 21 受信部, 22 画像合成部
Claims (5)
- 所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、
前記撮像手段により撮像された前記送信装置の画像上の位置を測定する位置測定手段と、
前記位置測定手段により測定された前記送信装置の画像上の位置の変位を測定する変位測定手段と、
前記変位測定手段により測定された変位に基づいて、前記撮像手段により撮像された画像上の注視位置を演算する演算手段と、
前記演算手段により演算された注視位置に基づいて、表示画像を生成する表示画像生成手段と
を備えることを特徴とする画像処理装置。 - 前記撮像手段により撮像された前記送信装置の画像上の画素数を測定する画素数測定手段と、
前記画素数測定手段により測定された、前記撮像手段により撮像された前記送信装置の画像上の画素数に基づいて、前記表示画像のズーム倍率を演算するズーム倍率演算手段とをさらに備え、
前記表示画像生成手段は、前記演算手段により演算された注視位置を中心とした、前記ズーム倍率演算手段により演算されたズーム倍率の表示画像を生成する
ことを特徴とする請求項1に記載の画像処理装置。 - 所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された前記送信装置の画像上の位置を測定する位置測定ステップと、
前記位置測定ステップの処理で測定された前記送信装置の画像上の位置の変位を測定する変位測定ステップと、
前記変位測定ステップの処理で測定された変位に基づいて、前記撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、
前記演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップと
を含むことを特徴とする画像処理方法。 - 所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された前記送信装置の画像上の位置を測定する位置測定ステップと、
前記位置測定ステップの処理で測定された前記送信装置の画像上の位置の変位を測定する変位測定ステップと、
前記変位測定ステップの処理で測定された変位に基づいて、前記撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、
前記演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップと
を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像装置で撮像された前記送信装置の画像上の位置を測定する位置測定ステップと、
前記位置測定ステップの処理で測定された前記送信装置の画像上の位置の変位を測定する変位測定ステップと、
前記変位測定ステップの処理で測定された変位に基づいて、前記撮像ステップの処理で撮像された画像上の注視位置を演算する演算ステップと、
前記演算ステップの処理で演算された注視位置に基づいて、表示画像を生成する表示画像生成ステップと
を含む処理をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003124973A JP2004334269A (ja) | 2003-04-30 | 2003-04-30 | 画像処理装置および方法、記録媒体、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003124973A JP2004334269A (ja) | 2003-04-30 | 2003-04-30 | 画像処理装置および方法、記録媒体、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004334269A true JP2004334269A (ja) | 2004-11-25 |
Family
ID=33502370
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003124973A Withdrawn JP2004334269A (ja) | 2003-04-30 | 2003-04-30 | 画像処理装置および方法、記録媒体、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004334269A (ja) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7728893B2 (en) | 2004-11-02 | 2010-06-01 | Japan Science And Technology Agency | Imaging device and method for reading signals from such device |
JP2014220757A (ja) * | 2013-05-10 | 2014-11-20 | 富士通セミコンダクター株式会社 | 画像処理装置,そのプログラム及びその方法 |
JP2015046861A (ja) * | 2012-12-27 | 2015-03-12 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 情報通信方法 |
US9918016B2 (en) | 2012-12-27 | 2018-03-13 | Panasonic Intellectual Property Corporation Of America | Information communication apparatus, method, and recording medium using switchable normal mode and visible light communication mode |
US9998220B2 (en) | 2012-12-27 | 2018-06-12 | Panasonic Intellectual Property Corporation Of America | Transmitting method, transmitting apparatus, and program |
US10051194B2 (en) | 2012-12-27 | 2018-08-14 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10142020B2 (en) | 2014-11-14 | 2018-11-27 | Panasonic Intellectual Property Corporation Of America | Reproduction method for reproducing contents |
US10148354B2 (en) | 2012-12-27 | 2018-12-04 | Panasonic Intellectual Property Corporation Of America | Luminance change information communication method |
US10165192B2 (en) | 2012-12-27 | 2018-12-25 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10171165B2 (en) | 2015-11-06 | 2019-01-01 | Panasonic Intellectual Property Corporation Of America | Visible light signal generating method, signal generating apparatus, and program |
US10225014B2 (en) | 2012-12-27 | 2019-03-05 | Panasonic Intellectual Property Corporation Of America | Information communication method for obtaining information using ID list and bright line image |
US10263701B2 (en) | 2015-11-12 | 2019-04-16 | Panasonic Intellectual Property Corporation Of America | Display method, non-transitory recording medium, and display device |
US10303945B2 (en) | 2012-12-27 | 2019-05-28 | Panasonic Intellectual Property Corporation Of America | Display method and display apparatus |
US10354599B2 (en) | 2012-12-27 | 2019-07-16 | Panasonic Intellectual Property Corporation Of America | Display method |
US10361780B2 (en) | 2012-12-27 | 2019-07-23 | Panasonic Intellectual Property Corporation Of America | Information processing program, reception program, and information processing apparatus |
US10504584B2 (en) | 2015-12-17 | 2019-12-10 | Panasonic Intellectual Property Corporation Of America | Display method and display device |
US10523876B2 (en) | 2012-12-27 | 2019-12-31 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10530486B2 (en) | 2012-12-27 | 2020-01-07 | Panasonic Intellectual Property Corporation Of America | Transmitting method, transmitting apparatus, and program |
US10951310B2 (en) | 2012-12-27 | 2021-03-16 | Panasonic Intellectual Property Corporation Of America | Communication method, communication device, and transmitter |
WO2023220868A1 (zh) * | 2022-05-16 | 2023-11-23 | 北京小米移动软件有限公司 | 一种图像处理方法、装置、终端及存储介质 |
-
2003
- 2003-04-30 JP JP2003124973A patent/JP2004334269A/ja not_active Withdrawn
Cited By (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7728893B2 (en) | 2004-11-02 | 2010-06-01 | Japan Science And Technology Agency | Imaging device and method for reading signals from such device |
US10218914B2 (en) | 2012-12-20 | 2019-02-26 | Panasonic Intellectual Property Corporation Of America | Information communication apparatus, method and recording medium using switchable normal mode and visible light communication mode |
US10616496B2 (en) | 2012-12-27 | 2020-04-07 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10361780B2 (en) | 2012-12-27 | 2019-07-23 | Panasonic Intellectual Property Corporation Of America | Information processing program, reception program, and information processing apparatus |
US9998220B2 (en) | 2012-12-27 | 2018-06-12 | Panasonic Intellectual Property Corporation Of America | Transmitting method, transmitting apparatus, and program |
US10051194B2 (en) | 2012-12-27 | 2018-08-14 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US11490025B2 (en) | 2012-12-27 | 2022-11-01 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10148354B2 (en) | 2012-12-27 | 2018-12-04 | Panasonic Intellectual Property Corporation Of America | Luminance change information communication method |
US10165192B2 (en) | 2012-12-27 | 2018-12-25 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US11165967B2 (en) | 2012-12-27 | 2021-11-02 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10205887B2 (en) | 2012-12-27 | 2019-02-12 | Panasonic Intellectual Property Corporation Of America | Information communication method |
JP2015046861A (ja) * | 2012-12-27 | 2015-03-12 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 情報通信方法 |
US10225014B2 (en) | 2012-12-27 | 2019-03-05 | Panasonic Intellectual Property Corporation Of America | Information communication method for obtaining information using ID list and bright line image |
US10951310B2 (en) | 2012-12-27 | 2021-03-16 | Panasonic Intellectual Property Corporation Of America | Communication method, communication device, and transmitter |
US10303945B2 (en) | 2012-12-27 | 2019-05-28 | Panasonic Intellectual Property Corporation Of America | Display method and display apparatus |
US10455161B2 (en) | 2012-12-27 | 2019-10-22 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10354599B2 (en) | 2012-12-27 | 2019-07-16 | Panasonic Intellectual Property Corporation Of America | Display method |
US10742891B2 (en) | 2012-12-27 | 2020-08-11 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10368005B2 (en) | 2012-12-27 | 2019-07-30 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10368006B2 (en) | 2012-12-27 | 2019-07-30 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US11659284B2 (en) | 2012-12-27 | 2023-05-23 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10447390B2 (en) | 2012-12-27 | 2019-10-15 | Panasonic Intellectual Property Corporation Of America | Luminance change information communication method |
US10334177B2 (en) | 2012-12-27 | 2019-06-25 | Panasonic Intellectual Property Corporation Of America | Information communication apparatus, method, and recording medium using switchable normal mode and visible light communication mode |
US10887528B2 (en) | 2012-12-27 | 2021-01-05 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10516832B2 (en) | 2012-12-27 | 2019-12-24 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10521668B2 (en) | 2012-12-27 | 2019-12-31 | Panasonic Intellectual Property Corporation Of America | Display method and display apparatus |
US10523876B2 (en) | 2012-12-27 | 2019-12-31 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10531010B2 (en) | 2012-12-27 | 2020-01-07 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10530486B2 (en) | 2012-12-27 | 2020-01-07 | Panasonic Intellectual Property Corporation Of America | Transmitting method, transmitting apparatus, and program |
US10531009B2 (en) | 2012-12-27 | 2020-01-07 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US9918016B2 (en) | 2012-12-27 | 2018-03-13 | Panasonic Intellectual Property Corporation Of America | Information communication apparatus, method, and recording medium using switchable normal mode and visible light communication mode |
US10638051B2 (en) | 2012-12-27 | 2020-04-28 | Panasonic Intellectual Property Corporation Of America | Information communication method |
US10666871B2 (en) | 2012-12-27 | 2020-05-26 | Panasonic Intellectual Property Corporation Of America | Information communication method |
JP2014220757A (ja) * | 2013-05-10 | 2014-11-20 | 富士通セミコンダクター株式会社 | 画像処理装置,そのプログラム及びその方法 |
US10142020B2 (en) | 2014-11-14 | 2018-11-27 | Panasonic Intellectual Property Corporation Of America | Reproduction method for reproducing contents |
US10389446B2 (en) | 2014-11-14 | 2019-08-20 | Panasonic Intellectual Property Corporation Of America | Reproduction method for reproducing contents |
US10171165B2 (en) | 2015-11-06 | 2019-01-01 | Panasonic Intellectual Property Corporation Of America | Visible light signal generating method, signal generating apparatus, and program |
US10951309B2 (en) | 2015-11-12 | 2021-03-16 | Panasonic Intellectual Property Corporation Of America | Display method, non-transitory recording medium, and display device |
US10263701B2 (en) | 2015-11-12 | 2019-04-16 | Panasonic Intellectual Property Corporation Of America | Display method, non-transitory recording medium, and display device |
US10504584B2 (en) | 2015-12-17 | 2019-12-10 | Panasonic Intellectual Property Corporation Of America | Display method and display device |
WO2023220868A1 (zh) * | 2022-05-16 | 2023-11-23 | 北京小米移动软件有限公司 | 一种图像处理方法、装置、终端及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004334269A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
CN103988227B (zh) | 用于图像捕获目标锁定的方法和装置 | |
KR101401855B1 (ko) | 화상 처리 장치, 화상 처리 방법 | |
JP4284949B2 (ja) | 移動撮影システム、移動撮影方法、及び撮影装置 | |
US20080246833A1 (en) | Video conferencing apparatus, control method, and program | |
JP6721550B2 (ja) | 情報処理装置および位置情報取得方法 | |
JP2012216946A (ja) | 情報処理装置、情報処理方法、および位置情報のデータ構造 | |
JP6771435B2 (ja) | 情報処理装置および位置情報取得方法 | |
JP2020057111A (ja) | 表情判定システム、プログラム及び表情判定方法 | |
KR20220128585A (ko) | 웨어러블 촬상장치, 촬상장치와 통신하는 휴대 기기 및 캘리브레이터, 이들의 제어방법과 이들의 제어 프로그램을 기억한 기억매체 | |
JP2016213674A (ja) | 表示制御システム、表示制御装置、表示制御方法、及びプログラム | |
US20130308829A1 (en) | Still image extraction apparatus | |
JP2011176557A (ja) | 画像処理装置及び方法、並びにプログラム | |
JP7198043B2 (ja) | 画像処理装置、画像処理方法 | |
JP2011096134A (ja) | 動画像作成装置及び動画像作成方法 | |
JP2010072599A (ja) | 自動合焦装置および自動合焦方法 | |
US20220319014A1 (en) | Systems and methods for dynamic image processing and segmentation | |
JP6087615B2 (ja) | 画像処理装置およびその制御方法、撮像装置、および表示装置 | |
JP2004054890A (ja) | 画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム | |
JP5718502B2 (ja) | 画像作成装置及び画像作成方法 | |
JP2010130403A (ja) | 映像制御装置およびそれを備えた撮像装置、表示装置 | |
CN113747113A (zh) | 图像显示方法及装置、电子设备、计算机可读存储介质 | |
JP5088612B2 (ja) | 撮像装置、撮像装置の処理実行方法及びそのプログラム | |
JP2019083518A (ja) | 撮像装置、撮像装置の制御方法、および、プログラム | |
JP2005110160A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060704 |