JP2004180187A - 空間分割赤外線通信システム - Google Patents
空間分割赤外線通信システム Download PDFInfo
- Publication number
- JP2004180187A JP2004180187A JP2002346759A JP2002346759A JP2004180187A JP 2004180187 A JP2004180187 A JP 2004180187A JP 2002346759 A JP2002346759 A JP 2002346759A JP 2002346759 A JP2002346759 A JP 2002346759A JP 2004180187 A JP2004180187 A JP 2004180187A
- Authority
- JP
- Japan
- Prior art keywords
- image sensor
- light receiving
- image
- specific color
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
- Selective Calling Equipment (AREA)
- Optical Communication System (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Closed-Circuit Television Systems (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】従来家電品の赤外線受光器2は指向性のない1素子のイメージセンサを用いており、複数の赤外線リモコンが同時に発信した場合電気信号40は得るが、個々の信号を切り分けられず期待した通りに動作しなかった。また遮光器等を付け赤外線受光器を複数個用いて空間分割を行っても一つの赤外線受光器に複数の赤外線リモコンが同時に発信すると個々の信号の切り分けが出来ない。
【解決手段】家電品の赤外線受光器2に代わり数十万画素のCMOSイメージセンサを用いる。家電品のマイクロプロセッサ3はCMOSイメージセンサの赤色フィルターを装着する画素を用いて、撮像から高輝度で且つパルス変調された非自然光すなわち信号を検出しデータに復調する。撮像に複数の非自然光すなわち信号が検出されると検出した受光素子ないし受光素子群毎に独立に信号を復調し空間分割赤外線通信を行う。
【選択図】 図1
【解決手段】家電品の赤外線受光器2に代わり数十万画素のCMOSイメージセンサを用いる。家電品のマイクロプロセッサ3はCMOSイメージセンサの赤色フィルターを装着する画素を用いて、撮像から高輝度で且つパルス変調された非自然光すなわち信号を検出しデータに復調する。撮像に複数の非自然光すなわち信号が検出されると検出した受光素子ないし受光素子群毎に独立に信号を復調し空間分割赤外線通信を行う。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、複数の赤外線リモコンとCMOSイメージセンサを用いた空間分割赤外線通信システムに関するものである。
【0002】
【従来の技術】
従来の技術を図17に示す。図中、1は赤外線リモコン、2は家電品の赤外線受光器、3は家電品のマイクロプロセッサ、40は電気信号である。
【0003】
従来の技術においては、赤外線リモコン1が送信したパルス変調された赤外線は、家電品の赤外線受光器2で受信され電気信号40に変換され、家電品のマイクロプロセッサ3で復調の上、電文のヘッダからメーカコード、製品コード、チャネル番号を解析する。自局宛の電文と判断すると、電文の内容に従い動作し、本構成でリモートコントロールを実現している。
【0004】
また、複数の家電品を制御するために利用者のリモコンは一つに限定していた。特許文献1の「リモコン制御照明システム」や特許文献2の「赤外線リモコン・システム」では固定リモコン送受信機ないし集中制御機が利用者のリモコンの出力を受光し当該機器に赤外線で中継していた。
【0005】
【特許文献1】
特開平6−302384号公報
【特許文献2】
特開平5−328442号公報
【0006】
【発明が解決しようとする課題】
従来の技術では、家電品の赤外線受光器2は指向性のない視野角100度から180度の1素子のイメージセンサを用いており複数の赤外線リモコンが同時に発信した場合、電気信号40を得るが、個々の信号を切り分けられない為期待した通りに動作しなかった。また、遮光器等の覆いを付けた赤外線受光器2を複数個用意し、ある角度、例えば、60度刻みに向きを変えて配置することで空間分割を行っていたが、遮光器を取り付けた赤外線受光器の大きさ、遮光器の指向性の調整等煩雑であった。また、遮光器の開口部で切り取られる空間において複数の赤外線リモコンが同時に発信した場合、尚も個々の信号の切り分けは出来ず、課題は解決できなかった。
また、特許文献1の「リモコン制御照明システム」、特許文献2の「赤外線リモコン・システム」ともに利用者のリモコンは1台、つまり家族で1台に限定し、複数のリモコンの存在を許さなかった。そのため、固定リモコン送受信機ないし集中制御機から伸びた赤外線発光部と一般のリモコンが同時に発信した場合、尚も個々の信号の切り分けは出来ず、課題は解決できなかった。
特に、特許文献2の「赤外線リモコン・システム」では集中制御機からでた信号線の末端に赤外線発光部があり、家電品の近傍に赤外線発光部を設置する為、家電品の近傍まで信号線を引き回す必要があり煩雑であった。
【0007】
【課題を解決するための手段】
本発明では、家電品の赤外線受光器2に代わりデジタルカメラ等で用いられている数十万画素のCMOSイメージセンサを用いる。家電品のマイクロプロセッサ3はCMOSイメージセンサの受光素子のうち赤色フィルターを装着する受光素子を用い撮影を行い、撮像から高輝度で且つパルス変調された非自然光すなわち信号を検出しデータに復調する。撮像に複数の非自然光すなわち信号が検出されると、検出した受光素子ないし受光素子群毎に独立に信号を復調し空間分割赤外線通信を行う。
【0008】
【発明の実施の形態】
図1から図9を用いて、本発明の第1の実施の形態を示す。
【0009】
図1において、1a,1bはリモコン、2は家電品のCMOSイメージセンサ、3は家電品のマイクロプロセッサ、4はバス、10は赤外光のスポットである。
【0010】
図1において複数の利用者はリモコン1aとリモコン1bを用いて家電品の制御を行う。リモコン1aないしリモコン1bは押下されたボタンに対応した制御データをASKでパルス変調し赤外光パルスとして空間に放射する。本発明では家電品のCMOSイメージセンサ2は30万程度の画素を平面上に配したCMOSイメージセンサを用いており、この家電品のCMOSイメージセンサ2で家電品の周囲を撮影する。家電品のCMOSイメージセンサ2の各画素は可視光から赤外光の範囲の自然光と、非自然光であるリモコンが放射したパルス変調された赤外光を受光する。家電品のCMOSイメージセンサ2は画素を行列にマッピングし列毎に全列読み出しバス4を介して家電品のマイクロプロセッサ3に伝送する。家電品のマイクロプロセッサ3は伝送されたデータを平面上に再配置し撮像として処理する。
【0011】
リモコン1aとリモコン1bがほぼ同時ないし同時期に赤外光を放射すると、家電品のCMOSイメージセンサ2の撮像中には、強度の高い赤外光のスポット10が現れ、家電品のマイクロプロセッサ3はこのないしこれらの赤外光のスポット10から制御データを復調する。本発明において、赤外光のスポット10の周囲の画素が受光している自然光は長周期では変化が少ないのに対して、受光した赤外光はパルス変調されており且つ強度は高いので、家電品のマイクロプロセッサ3は容易にリモコンから赤外光が放射していることを認識する。
【0012】
図2を用いて家電品のCMOSイメージセンサ2の動作モードを説明する。
【0013】
図中、41aは可視画像撮影モード設定コマンド、42aは可視画像撮影モード時の撮像データ、41bはキャリア検出モード設定コマンド、42bはキャリア検出モード時の撮像データである。
【0014】
家電品のマイクロプロセッサ3はバス4を介して可視画像撮影モード設定コマンド41aもしくはキャリア検出モード設定コマンド41bで家電品のCMOSイメージセンサ2の動作モードを可視画像撮影モードないしキャリア検出モードに設定する。設定が済むと家電品のCMOSイメージセンサ2はバス4にモードに応じたデータ、可視画像撮影モード時の撮像データ42a、キャリア検出モード時の撮像データ42bを送出する。
【0015】
可視画像撮影モードにおいて図はプログレッシブに設定されており1フレームの撮像データは全列の読み出しデータから構成される。この時、フレームレートは1秒あたり30フレームである。インターレースに設定すると撮像データは1列おきの読み出しとなり、60フィールドで30フレーム撮影する。キャリア検出モードに設定すると、特定の色について撮像データは8列おき、8画素おきに1秒あたり1920フィールド読み出す。
【0016】
何れのモードにおいてもバス4上の撮像データの転送レートは8.79Mbpsで、家電品のマイクロプロセッサ3のバス4のインタフェースに設定の変更は不要である。
【0017】
図3を用いてキャリア検出モード時に家電品のCMOSイメージセンサ2の画素の読み出し順序を説明する。
【0018】
図中、20は8×8の64画素から構成される区画、201は1番目に読み出される画素、203は3番目に読み出される画素、208は8番目に読み出される画素である。
【0019】
図に示す、区画20は8×8の64画素から構成され、本発明のCMOSイメージセンサ2は列方向に有効画素について80区画、行方向に60区画、計4800区画に区分される。区画20はこの4800区画の一つを示している。
【0020】
キャリア検出モード時、区画20中の特定の1画素が読み出されるが、列方向に隣接する区画間では、画素は8列おき、8画素おきに選ばれ読み出される。1フレームのキャリア検出時1フィールド目の読み出しでは画素201を読み出すと、以後2フィールド目では画素202、3フィールド目で画素203、8フィールド目で画素208の順に読み出す画素を交代させる。キャリア検出時、赤色フィルタが装着された画素のみ読み出されるので、読み出される画素は1画素、1列おきとなり、列方向で隣接する緑色のフィルタを装着した画素と、次列の緑色のフィルタを装着した画素および青色のフィルタを装着した画素は読み飛ばす事となる。
【0021】
フィールド毎に読み出す画素を代えることで電子シャッターの開閉時間つまり露光時間に制約を与えず、色の解像度を向上している。
【0022】
図4、図5を用いてCMOSイメージセンサ2の区画20の画素配置と読み出し順序を説明する。
【0023】
図4において、21a,21bはセレクタ、22a,22bはキャリア検出モード時の読み出し画素番号、23aは列毎のセレクト信号、23bは列毎のリセット信号である。
【0024】
キャリア検出モード時、家電品のCMOSイメージセンサ2の行デコーダは読み出し画素番号22a,22bで列中の赤色フィルタの装着された画素4画素についてその中の1画素を指し示す。図中、読み出し画素番号22a,22bは00を示し、一番上の列において画素201が該当する。セレクタ21a,21bは読み出し画素番号22a,22bに従いそれぞれ、セレクト信号23a、リセット信号23bを画素201に接続している。この時点で列デコーダがリセット信号23bを制御することで画素201は電子シャッターを開き、露光を開始し、セレクト信号23aを制御することで画素201の撮影されたデータは出力される。
【0025】
図の通り、読み出し画素番号22a,22bは00が指し示す画素は列毎に異なり、一列目が左から00−01−10−11、二列目が01−00−11−10、三列目が10−11−00−01、四列目が11−10−01−00に対応する。
【0026】
図5において、22は読み出し画素番号、231はセレクト信号およびリセット信号、20aは1列目〜8列目を構成する区画20、20bは9列目〜16列目を構成する区画20、20cは17列目〜24列目を構成する区画20、20dは25列目〜32列目を構成する区画20、42101,42102,42116はバス4上に送出された区画20aのデータ、42203,42204,42202はバス4上に送出された区画20bのデータ、42311,42312,42310はバス4上に送出された区画20cのデータ、42409,42410,42408はバス4上に送出された区画20dのデータである。
【0027】
1フィールド目の読み出し時、読み出し画素番号は00で、区画20aは1番目の画素、区画20bは3番目の画素、区画20cは11番目の画素、区画20dは9番目の画素が選択される。読み出されたデータは順に、区画20aの列のデータの先頭に42101、区画20bの列のデータの先頭に42203、区画20cの列のデータの先頭に42311、区画20dの列のデータの先頭に42409として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する
。
【0028】
2フィールド目の読み出し時、読み出し画素番号は01となり、区画20aは2番目の画素、区画20bは4番目の画素、区画20gは12番目の画素、区画20dは10番目の画素が選択される。読み出されたデータは順に、区画20aの列のデータの先頭に42102、区画20bの列のデータの先頭に42204、区画20cの列のデータの先頭に42312、区画20dの列のデータの先頭に42410として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0029】
16フィールド目の読み出し時、読み出し画素番号は11となり、区画20aは16番目の画素、区画20bは2番目の画素、区画20gは10番目の画素、区画20dは8番目の画素が選択される。読み出されたデータは順に、区画20aの列のデータの先頭に42116、区画20bの列のデータの先頭に42202、区画20cの列のデータの先頭に42310、区画20dの列のデータの先頭に42408として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0030】
17フィールド目は1フィールド目の選択に戻り、読み出し画素番号は00となり1フレーム目で読み出した画素が選択される。この構成と手順により16フィールド周期で1区画中の赤色フィルターの装着された画素はデータを読み出される。
【0031】
図6を用いてキャリア検出モード時、家電品のCMOSイメージセンサ2によるパルス変調された赤外光の受信方法を説明する。
【0032】
図中、10は赤外線通信の1つのデータサイクル、10aはガイドパルス、10b,10dは無出力、10cはシンボル0、10eはシンボル1である。
【0033】
図の通り、赤外線通信はデータサイクル10は45ミリ秒である。次のデータサイクルは最短で、ガイドパルス10aから次のガイドパルス10aまでの45ミリ秒間隔で出現する。
【0034】
赤外線通信において2.4ミリ秒間出力が続くことでガイドパルス10aを、その後無出力となり、0.6ミリ秒ないし1.2ミリ秒の出力でシンボル0、シンボル1を表している。ガイドパルス10a以後”001011100”と続いた後、無出力10bに続く0.6ミリ秒のシンボル0(10c)が出現し”0”を、引き続き無出力10dに続く1.2ミリ秒のシンボル1(10e)が出現し1を示す。その後”10”が出現しデータは尽きて、次のガイドパルスが出現するまでの間無出力となる。
【0035】
本発明の家電品のCMOSイメージセンサ2は、キャリア検出モード時は毎秒1920フィールドすなわち0.52ミリ秒間隔で赤外光の撮影を繰り返す。赤外線通信において最短のパルスは0.6ミリ秒の無出力ないしシンボル0であり、0.52ミリ秒間隔で撮影することでこれら無出力とシンボル0を切り分けている。
【0036】
図7に画素の構成とモード毎の動作を説明する。
【0037】
図中、200は画素、23aはセレクト信号、23bはリセット信号、24aは出力側トランジスタ、24bはリセット側トランジスタ、25は出力アンプ、26はフォトダイオード、28は出力端子である。
【0038】
画素200において、リセット信号23bがアサートされる間はリセット側トランジスタ24bが導通し、出力アンプ25の入力はVCCないしVCC近くの電位に固定される。リセット信号23bがネゲートされることでリセット側トランジスタ24bは切断し、フォトダイオード26bが受光する光の量に従いフォトダイオード26がVCCからVSSに電位を下げていく。セレクト信号23aをアサートするとフォトダイオード26が下げた電位が出力アンプ25で中継されて出力端子28に現れる。リセット信号24bのネゲートのタイミングからセレクト信号23aのアサートまでの期間が電子シャッターの開閉時間すなわち露光時間である。
【0039】
可視画像撮影モードでは、第1列から第425列まで順番に読み出していく。各列は33.3ミリ秒毎に読み出される。読み出しが終了するとリセット信号がアサートされVCCないしVCC近くの電位までチャージされリセット信号がアサートされる限りこの電位に固定される。リセット信号がネゲートされると露光を開始し、電位は受光した光の強度に従い低下する。読み出し終了後即リセットをアサートしネゲートすると、次の読み出しまでのおよそ33ミリ秒が露光出来、これが最大露光時間となる。
【0040】
図では可視画像撮影に引き続きキャリア検出が行われる。キャリア検出は45ミリ秒間続き、この間88フレーム撮影し、列あたり22回、1画素あたり5回ないし6回読み出される。
【0041】
キャリア検出に引き続き通常の可視画像撮影に戻る。
【0042】
キャリア検出時1フレームの読み出しは0.52ミリ秒かかるので、ある画素が読み出された後次に読み出されるのは8.32ミリ秒後となり、およそ8ミリ秒が最大露光時間となる。1列あたりの走査時間は8.01マイクロ秒だが、図5の説明の通り、キャリア検出時は4列単位で読み出しを行うので実際の走査時間は32マイクロ秒となる。本発明の赤外線通信では最小パルス幅が0.6ミリ秒なので露光時間は走査時間の倍数、18倍の0.576ミリ秒としパルスの有無を識別しシンボルを検出し、データを復調している。
【0043】
露光時間を延ばし、ゼロコンパレータを用いることでシンボルの検出する事も可能である。
【0044】
図8にシンボルの検出とデータの復調を示す。
【0045】
図中、11a,11b,11c,11d,11eはリモコン1aの赤外光のスポット、12a,12bはリモコン1bの赤外光のスポット、31a,31bはリモコン1aの出力したデータ、32aはリモコン1bの出力したデータ、5は家電品のマイクロプロセッサ3が接続されたネットワーク、6はネットワーク接続する家電品である。
【0046】
キャリア検出モード時、リモコンから出力された赤外光は家電品のCMOSイメージセンサ2の撮像に明るいスポットとして現れる。図中、0.52秒おきに撮影された5フィールドにおいて順にはリモコン1aの赤外光はスポット11a,11b,11c,11d,11eとして現れる。スポット11a及びスポット11cは露光時間中に前後の何れかのシンボルがかかるため、真っ暗ではないが、閾値よりも小さいため無出力と判定する。また、閾値よりも高いためスポット11b,11d,11eは出力と判定する。無出力と判定されたスポット10aの後無出力が出現するまでの出力の数が1つか2つかでシンボル0かシンボル1を区別する。スポット10aの後に初めて現れる無出力はスポット10cであり、その間の出力はスポット11bのみであるからリモコン1aの出力したデータ31aはシンボル0に復調される。同様に、スポット11cの後、スポット11d,スポット11eと続いたので、リモコン1aの出力したデータ31bはシンボル1に復調される。
【0047】
リモコン1aの出力したデータ31bは赤外線通信中のデータであるから、スポット11eの次は必ず無出力が来ると決めつけてシンボル1に復調する。スポット11eに引き続き出力が出現するとスポット11eまでを31bの通りシンボル1に復調し、スポット11eより後に到着したスポットはエラーとして先頭のスポットを無出力と見なしエラー訂正を試みる。
【0048】
図中の4フィールド目ではリモコン1bの出力した赤外光であるスポット12aが出現し、5フィールド目にもスポット12bが現れる。家電品のマイクロプロセッサ3は撮像中のスポット11dとスポット12a、スポット11eとスポット12bの距離がスポットの直径以上に離れており別光源と判断する。また、スポット12a,12bが出現したこの領域では1〜3フレームの間赤外通信が行われていなかったので、リモコン1bの出力したデータ32aは5フレーム目まででガイドパルスと認識ないし期待される。6フレーム目及び7フレーム目が出力と判定されると出力したデータ32aはガイドパルスに復調される。こうして家電品のマイクロプロセッサ3はリモコン1a、リモコン1bの出力を空間で切り分け、各々のデータを復調し、複数のリモコンとの赤外線通信を実現してい
る。
【0049】
復調したデータはメーカコード、製品コード等の情報を含んでおり、データが別メーカか別製品を指し示していると家電品のマイクロプロセッサ3は対応する家電品をネットワーク5上で検索した上でデータをネットワーク5上に中継するか、もしくはネットワーク5上の該当する家電品が受け取ることを期待してデータをネットワーク5上に中継する。中継した結果、ネットワーク5上の家電品6が該当したのでコマンドを解釈し正常にコマンドを履行する。
【0050】
図9にキャリア検出モードと可視画像撮影モードを用いた監視・追尾システムを示す。
【0051】
図中、11はリモコン1aの赤外光のスポット、12はリモコン1bの赤外光のスポット、32a,32bは付加情報、33a,33bは利用者の赤外画像、34a,34bは利用者の可視画像である。
【0052】
家電品のマイクロプロセッサ3はキャリア検出モードでスポット11、スポット12からリモコンの種類、具体的にはメーカコードや製品コード等を検出し、識別情報とする。可視画像撮影モードでは撮像から利用者等特徴のあるオブジェクトを切り出し、キャリア検出モードで得た識別情報との対応付けを行う。引き続き、キャリア検出モードでキャリア検出中に、可視画像撮影モードで切り出したオブジェクトについて赤外画像の切り出しを行い、赤外線強度から表面温度ないし体温を算出し識別情報に付加する。結果、可視画像から切り出したオブジェクトの中でも人ないし動物らしきものについて、識別子と表面温度情報を付加する。以後、可視画像撮影モードとキャリア検出モードを繰り返すことで、識別子と表面温度情報を付加したオブジェクトの移動を検知し追尾することで監視・追尾システムを実現している。
【0053】
図10から図13を用いて、本発明の第2の実施の形態を示す。
【0054】
図10において、21a,21bはセレクタ、22はキャリア検出モード時の読み出し画素番号、23aは列毎のセレクト信号、23bは列毎のリセット信号、23cはキャリア検出制御信号、241は行デコーダ内蔵のキャリア検出用アンプ、241aはキャリア検出用出力側トランジスタ、241bはキャリア検出用リセット側トランジスタである。
【0055】
図10を用いて本発明の第2の実施の形態で用いる家電品のCMOSイメージセンサ2の区画20の画素配置と読み出しを説明する。
【0056】
本発明の第2の実施の形態で用いるCMOSイメージセンサ2は通常の可視画像撮影中にキャリア検出を行う。
【0057】
家電品のCMOSイメージセンサ2のセレクタ21a,21bは読み出し画素番号22とキャリア検出制御信号23cに従いセレクト信号23aとリセット信号23bを同じ列の8画素に分配する。可視画像撮影モード時、キャリア検出制御信号23cはネゲートされ、セレクタ21a,21bは読み出し画素番号22に関わらず同じ列の8画素にセレクト信号23aとリセット信号23bを分配する。セレクト信号23aは各画素の出力側トランジスタ24aにリセット信号23bはリセット側トランジスタ24bにそれぞれ接続されている。よって、前述の8画素はリセット信号23bのネゲートに伴い露光を開始し、セレクト信号23aのアサートに従い行デコーダへ撮像データを出力する。
【0058】
キャリア検出制御信号23cがアサートされると家電品のCMOSイメージセンサ2の行デコーダは読み出し画素番号22で列中の赤色フィルタの装着された画素4画素についてその中の1画素を指し示す。図中、読み出し画素番号22は00を示し、一番上の列において画素201が該当する。セレクタ21a,21bは読み出し画素番号22に従いそれぞれ、セレクト信号23a、リセット信号23bを画素201に接続している。画素201は図7に示した画素に対してリセット系で出力系でキャリア検出用出力側トランジスタ241aを、キャリア検出用リセット側トランジスタ241bを追加している。前述のセレクタ21aを介して分配されるセレクト信号23aはキャリア検出用出力側トランジスタ241aに、セレクタ21bを介して分配されるリセット信号23bはキャリア検出用リセット側トランジスタ241bにそれぞれ接続している。画素201はリセット信号23bのネゲートに伴い露光を開始し、セレクト信号23aのアサートに従い行デコーダへ撮像データを出力し、行デコーダ内蔵のキャリア検出用アンプ241が受信し増幅する。
【0059】
図の通り、読み出し画素番号22は00が指し示す画素は列毎に異なり、一列目が左から00−01−10−11、二列目が01−00−11−10、三列目が10−11−00−01、四列目が11−10−01−00の順となっている。
【0060】
撮像のデータは、家電品のCMOSイメージセンサ2と家電品のマイクロプロセッサ3をつなぐバス4上を可視画像とキャリア検出の画像が交互に送られる。また設定により、バス4上の信号線の一部を可視画像に、残りの一部をキャリア検出の画像に割り当て独立且つ並列動作させることもある。
【0061】
図11に可視画像撮影モードがプログレッシブ走査の場合を示す。
【0062】
図11において、2pは可視画像撮影の走査及びその画像、2cはキャリア検出の走査及びその画像、27a,27bはブラックアウトした画素領域である。
【0063】
家電品のCMOSイメージセンサ2は可視画像撮影モードとキャリア検出モードを交互に切り換える。キャリア検出は可視画像撮影モード時にも行うが、CMOSイメージセンサ2の画素ないし列は一時に可視画像撮影とキャリア検出を行うことは出来ない為、可視画像撮影を優先する。菱形の可視画像撮影の走査及びその画像2pは横方向が時間経過で縦方向が列方向である。家電品のCMOSイメージセンサ2の一列に着目すると時間方向の大半は露光の期間で十分な露光後出力する。この出力は列単位で順次行う為図のような菱形で表される。
【0064】
この菱形で表される可視画像撮影期間中にキャリア検出は繰り返される。キャリア検出の一走査分をキャリア検出の走査及びその画像2cに示す。キャリア検出の走査及びその画像2cは可視画像撮影の走査及びその画像2pを優先する為、可視画像撮影の走査及びその画像2pが被る期間は該当する列の画素を制御し読み出すことはなく、可視画像撮影の走査及びその画像2pにはブラックアウトした画素領域として現れる。ブラックアウトした画素領域の上側は、可視画像撮影の走査及びその画像2pが終了した後、キャリア検出の為の露光時間、すなわち0.52ミリ秒保証できる限界を示している。同様に、ブラックアウトした画素領域の下側は、キャリア検出後、可視画像撮影の為の露光時間が保証できる限界を示している。
【0065】
図の通り、露光時間はそれぞれ、TShutter、TCarrierSenseで定義するとブラックアウトする時間は65/64×(露光時間の和)である。ブラックアウトする領域の列数はこの時間分の列が最大となる。
【0066】
ブラックアウトする領域は可視画像撮影の走査及びその画像2pの走査状況に応じて、キャリア検出の走査及びその画像2c中で、上辺から浸食をはじめ、ブラックアウトした画素領域27a、ブラックアウトした画素領域27bを経て下辺に消え去る。
【0067】
この間、可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査及びその画像2pの通り行われ、家電品のマイクロプロセッサ3はプログレッシブ走査の画像を得る。
【0068】
引き続き、キャリア検出モードに移行し、可視画像撮影モード中に検出した赤外線通信の捕捉とキャリア検出を行う。家電品のCMOSイメージセンサ2はキャリア検出を45ミリ秒続けた後、再び可視画像撮影モードに復帰するが、可視画像撮影中にキャリア検出を試みる。
【0069】
図12に可視画像撮影モードがキャリア検出優先プログレッシブ走査の場合を示す。
【0070】
図12において、2eは可視画像撮影の走査、2oは可視画像撮影の走査及びその画像、2f,2qはキャリア検出の走査及びその画像、27cはブラックアウトした画素領域である。
【0071】
簡単のため図11との差異を説明する。家電品のCMOSイメージセンサ2は常時可視画像撮影モードにある。可視画像は奇数列だけのフィールドと偶数列だけのフィールドに分けたインターレース方式で撮影しフレーム毎に出力し家電品のマイクロプロセッサ3において画像処理を行いプログレッシブ画像に復元する。
【0072】
可視画像撮影の走査2eでは緑色のフィルターを装着した画素と青色のフィルターを装着した画素が並ぶ偶数列のフィールドを撮影し、可視画像撮影の走査及びその画像2oでは赤色のフィルターを装着した画素と緑色のフィルターを装着した画素が並ぶ奇数列のフレームを撮影する。
【0073】
可視画像撮影の走査2eでは撮影期間中キャリア検出に用いる赤色フィルタを装着した画素はアイドル状態にあるので、キャリア検出の走査及びその画像2fは読み出し画素の衝突無くすなわちブラックアウトの領域の無い画像となる。
【0074】
可視画像撮影の走査及びその画像2oでは、一転して赤色フィルタを装着した画素は可視画像撮影の走査及びその画像2oが優先して読み出すので、キャリア検出の走査及びその画像2qにはブラックアウトした画素領域27cが出現する。ブラックアウトする領域は可視画像撮影の走査及びその画像2oの走査状況に応じて、キャリア検出の走査及びその画像2q中で、上辺から浸食をはじめ、ブラックアウトした画素領域27c、を経て下辺に消え去る。
【0075】
この間、可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査及びその画像2oの通り行われ、家電品のマイクロプロセッサ3は一つ前のフィールドである可視画像撮影の走査2eと一緒に画像処理を行い1フレーム分の撮像画像を得る。
【0076】
家電品のCMOSイメージセンサ2は偶数列のフレーム撮影と奇数列のフレーム撮影を交互に繰り返すが、家電品のマイクロプロセッサ3が一旦キャリアを検出すると、家電品のCMOSイメージセンサ2に予定されていた奇数列のフレーム撮影を偶数列のフレーム撮影に差し替えて、検出した赤外線通信の捕捉とキャリア検出を行う。この差し替えにより偶数列のフィールド撮影は3フレーム分の50ミリ秒ないし5フレーム分の83.3ミリ秒続き、赤外線通信の捕捉を実現する。
【0077】
図13に可視画像撮影インターレース走査の場合を示す。
【0078】
図13において、2iは可視画像撮影の走査及、2jは可視画像撮影の走査及びその画像、2g,2rはキャリア検出の走査及びその画像、27d,27eはブラックアウトした画素領域である。
【0079】
簡単のため図11との差異を説明する。家電品のCMOSイメージセンサ2は常時可視画像撮影モードにある。家電品のCMOSイメージセンサ2は、緑色のフィルタを装着した画素と青色のフィルターを装着した画素が並ぶ列と、赤色のフィルターを装着した画素と緑色のフィルターを装着した画素が並ぶ列が交互に出現する。インターレース走査では、隣接する列の組み合わせについて奇数番目の組、すなわち第1列と第2列の組、第5列と第6列の組の順で出現するフィールドと、偶数番目の組、すなわち第3列と第4列の組、第7列と第8列の組の順で出現するフィールドをそれぞれ奇数組のフィールド、偶数組のフィールドとし交互に撮影しフレーム毎にデータを出力する。
【0080】
可視画像撮影の走査2iは偶数組のフィールドであるが、キャリア検出の走査及びその画像2gは奇数組の列にある赤色フィルタを装着した画素は無条件で読み出す。可視画像撮影の走査2iが読み出す偶数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2iを優先させる。
【0081】
可視画像撮影の走査及びその画像2jは奇数組のフレームで、偶数組の場合と同様にキャリア検出の走査及びその画像2rは偶数組の列にある赤色フィルタを装着した画素は無条件で読み出す。可視画像撮影の走査2jが読み出す奇数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2jを優先させる。よってブラックアウトする画素領域はキャリア検出の走査及びその画像2g、2rの何れも1組おきに出現する。
【0082】
キャリア検出の走査及びその画像2g上で、ブラックアウトする領域は可視画像撮影の走査及びその画像2iの走査状況に応じて、キャリア検出の走査及びその画像2g中で、上辺から浸食をはじめ、ブラックアウトした画素領域27d、を経て下辺に消え去る。同様に、キャリア検出の走査及びその画像2r上で、ブラックアウトする領域は可視画像撮影の走査及びその画像2jの走査状況に応じて、キャリア検出の走査及びその画像2r中で、上辺から浸食をはじめ、ブラックアウトした画素領域27eを経て下辺に消え去る。
【0083】
この間、可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査2i、可視画像撮影の走査及びその画像2jの通り行われ、家電品のマイクロプロセッサ3はインターレース走査の画像を得る。
【0084】
図14から図16を用いて、本発明の第3の実施の形態を示す。
【0085】
図14は本発明の第3の実施の形態におけるCMOSイメージセンサ2の区画20の読み出し順序を示している。
【0086】
図14において、20e,20fは区画20、201,203,206,207,209,211,214,215は赤色のフィルターを装着した画素である。
【0087】
本発明の第3の実施の形態において、家電品のCMOSイメージセンサ2がインターレース走査で可視画像を撮影すると、偶数列で走査している場合、空いている奇数列の画素を用いてキャリア検出を行う。同様に奇数列で走査している場合は、空いている偶数列の画素を用いてキャリア検出を行う。
【0088】
区画20eは1〜8列以後、(1〜8)+16nで表される区画20で、区画20fは9〜16列以後、(9〜16)+16nで表される区画20である。
【0089】
区画20eは偶数走査時には、赤色のフィルターを装着した画素で読み出しの順番が1,2,5,6,11,12,15,16番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素201ないし画素211を起点とし、昇順に8フレームを一周期に読み出す。
【0090】
区画20fは偶数走査時には、赤色のフィルターを装着した画素で読み出しの順番が1,2,5,6,11,12,15,16番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素215ないし画素206を起点とし、降順に8フレームを一周期に読み出す。
【0091】
区画20eは奇数走査時には、赤色のフィルターを装着した画素で読み出しの順番が3,4,7,8,9,10,13,14番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素203ないし画素209を起点とし、昇順に8フレームを一周期に読み出す。
【0092】
区画20fは奇数走査時には、赤色のフィルターを装着した画素で読み出しの順番が3,4,7,8,9,10,13,14番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素214ないし画素207を起点とし、降順に8フレームを一周期に読み出す。
【0093】
図15は本発明の第3の実施の形態におけるCMOSイメージセンサ2の区画20の組み合わせと読み出し順序を示している。
【0094】
図15において、22は読み出し画素番号、231はセレクト信号およびリセット信号、20eは1列目〜8列目を構成する区画20、20fは9列目〜16列目を構成する区画20、20gは17列目〜24列目を構成する区画20、20hは25列目〜32列目を構成する区画20、42101,42102,42116はバス4上に送出された区画20eのデータ、42206,42205,42211はバス4上に送出された区画20fのデータ、42311,42312,42306はバス4上に送出された区画20gのデータ、42416,42415,42401はバス4上に送出された区画20hのデータ、21iはインバータである。
【0095】
キャリア検出の1フィールド目の読み出し時、読み出し画素番号は00で、区画20eは1番目の画素、区画20gは11番目の画素が選択され、インバータ21iで読み出し区画番号は11に反転し、区画20fは6番目の画素、区画20hは16番目の画素が選択される。読み出されたデータは順に、区画20eの列のデータの先頭に42101、区画20fの列のデータの先頭に42206、区画20gの列のデータの先頭に42311、区画20hの列のデータの先頭に42416として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0096】
2フィールド目の読み出し時、読み出し画素番号は01となり、区画20eは2番目の画素、区画20gは12番目の画素が選択され、インバータ21iで読み出し区画番号は10に反転し、区画20fは5番目の画素、区画20hは15番目の画素が選択される。読み出されたデータは順に、区画20eの列のデータの先頭に42102、区画20fの列のデータの先頭に42205、区画20gの列のデータの先頭に42312、区画20hの列のデータの先頭に42415として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0097】
8フィールド目の読み出し時、読み出し画素番号は11となり、区画20eは16番目の画素、区画20gは6番目の画素が選択され、インバータ21iで読み出し区画番号は10に反転し、区画20fは11番目の画素、区画20hは1番目の画素が選択される。読み出されたデータは順に、区画20eの列のデータの先頭に42116、区画20fの列のデータの先頭に42211、区画20gの列のデータの先頭に42306、区画20hの列のデータの先頭に42401として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0098】
9フィールド目は1フィールド目の選択に戻り、読み出し画素番号は00となり1フレーム目で読み出した画素が選択される。この構成と手順により8フレーム周期で1区画中の赤色フィルターの装着された画素はデータを読み出される。
【0099】
可視画像撮影が偶数列で行われているので、各区画20中の奇数番目の組に位置する赤色のフィルターを装着した画素で読み出しの順番が1,2,5,6,11,12,15,16番目を用いてキャリア検出を行う。
【0100】
可視画像撮影が奇数列で行われてると、各区画20中の奇数番目の組に位置する赤色のフィルターを装着した画素で読み出しの順番が3,4,7,8,9,10,13,14番目を用いてキャリア検出を行う。
【0101】
図16に可視画像撮影インターレース走査の場合を示す。
【0102】
図16において、2mは可視画像撮影の走査及、2nは可視画像撮影の走査及びその画像、2h、2sはキャリア検出の走査及びその画像である。
【0103】
簡単のため図13との差異を説明する。家電品のCMOSイメージセンサ2は常時可視画像撮影モードにある。家電品のCMOSイメージセンサ2は、緑色のフィルタを装着した画素と青色のフィルターを装着した画素が並ぶ列と、赤色のフィルターを装着した画素と緑色のフィルターを装着した画素が並ぶ列が交互に出現する。インターレース走査では、赤色+緑色の列と緑色+青色の列について隣接する列の組み合わせについて奇数番目の組、すなわち第1列と第2列の組、第5列と第6列の組の順で出現するフィールドと、偶数番目の組、すなわち第3列と第4列の組、第7列と第8列の組の順で出現するフィールドをそれぞれ奇数フィールド、偶数フィールドとし交互に撮影しフレーム毎にデータを出力する。
【0104】
可視画像撮影の走査2mは偶数組のフィールドであるが、キャリア検出の走査及びその画像2hは奇数組の列にある赤色フィルタを装着した画素は無条件で読み出す。偶数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2mが独占的に読み出す。
【0105】
同様に、可視画像撮影の走査及びその画像2nは奇数組のフレームで、偶数組の場合と同様にキャリア検出の走査及びその画像2sは偶数組の列にある赤色フィルタを装着した画素は無条件で読み出す。奇数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2nが独占的に読み出す。キャリア検出の走査及びその画像2h,2sの何れにおいても、よってブラックアウトする画素領域は出現しない。
【0106】
同時に進行する可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査2m、可視画像撮影の走査及びその画像2nの通り順繰りに行われ、家電品のマイクロプロセッサ3はインターレース走査の画像を得る。
【0107】
家電品のマイクロプロセッサ3がキャリアを検出すると、キャリア検出の走査及びその画像2hとキャリア検出の走査及びその画像2s間でほぼ同位置に出現する赤外光のスポットを追尾することで間断なく、また可視画像撮影に影響を及ばさずに赤外線通信を捕捉する。
【0108】
【発明の効果】
本発明のCMOSイメージセンサとマイクロコンピュータの構成により、一つのCMOSイメージセンサが空間分割することで空間中で輻輳する複数の赤外線通信を受信し、個別に復調することが出来る。
個別に復調する事で複数のリモコンが同時に出力しても家電品を制御することができる。
【0109】
CMOSイメージセンサにおいて、赤色フィルタを装着した受光素子を間引いて読み出すことで赤外線通信の検知と受信時のみフレームレートを高めることが出来るばかりか、可視画像を撮影するカメラに用いる15fps〜30fpsのCMOSイメージセンサが流用できて、可視画像も撮影できる。
【0110】
CMOSイメージセンサが撮像中のリモコンの位置を特定することで追尾することができる。
【0111】
これにより、CMOSイメージセンサで撮影した可視画像中の赤外線通信を行う人や動物、物体を追尾出来、監視システムや誘導システムが実現できる。
【0112】
また、CMOSイメージセンサの受光素子について、リセット端子と出力端子を2系統ずつ具備することで、可視画像を撮影中に赤外線通信を検知しデータを復調することが出来る。
【図面の簡単な説明】
【図1】第1の実施の形態を示す図である。
【図2】第1の実施の形態におけるCMOSイメージセンサの動作モードを示す図である。
【図3】第1の実施の形態におけるCMOSイメージセンサのキャリア検出モード時の読み出し順序を示す図である。
【図4】第1の実施の形態におけるCMOSイメージセンサの区画と画素配置を示す図である。
【図5】第1の実施の形態におけるCMOSイメージセンサの区画と読み出したデータの転送順序を示す図である。
【図6】第1の実施の形態における赤外線通信のフォーマットとタイミングを示す図である。
【図7】第1の実施の形態におけるCMOSイメージセンサの回路とモード毎の動作を示す図である。
【図8】第1の実施の形態における赤外線通信のシンボル検出とデータ復調を示す図である。
【図9】第1の実施の形態におけるキャリア検出モードと可視画像撮影モードを用いた監視・追尾システムを示す図である。
【図10】第2の実施の形態におけるCMOSイメージセンサの区画と画素配置を示す図である。
【図11】第2の実施の形態におけるプログレッシブ走査での可視画像撮影の動作を示す図である。
【図12】第2の実施の形態におけるキャリア検出優先プログレッシブ走査での可視画像撮影とキャリア検出の動作を示す図である。
【図13】第2の実施の形態におけるインターレース走査での可視画像撮影とキャリア検出の動作を示す図である。
【図14】第3の実施の形態におけるCMOSイメージセンサの読み出し順序を示している。
【図15】第3の実施の形態におけるCMOSイメージセンサの区画と読み出したデータの転送順序を示す図である。
【図16】第3の実施の形態におけるインターレース走査での可視画像撮影とキャリア検出の動作を示す図である。
【図17】従来の技術を示す図である。
【符号の説明】
1a,1b…リモコン、10…赤外光のスポット、10a…ガイドパルス、10b,10d…無出力、10c…シンボル0、10e…シンボル1、11…リモコン1aの赤外光のスポット、11a,11b,11c,11d,11e…リモコン1aの赤外光のスポット、12a,12b…リモコン1bの正規外交のスポット、12…リモコン1bの赤外光のスポット、2…家電品のCMOSイメージセンサ、2e…可視画像撮影の走査、2i,2j,2m,2n,2o,2p…可視画像撮影の走査及びその画像、2c,2g,2f,2h,2q,2r,2s…キャリア検出の走査及びその画像、20…8×8の64画素から構成される区画、20a…1列目〜8列目を構成する区画20、20b…9列目〜16列目を構成する区画20、20c…17列目〜24列目を構成する区画20、20d…25列目〜32列目を構成する区画20、20e…1列目〜8列目を構成する区画20、20f…9列目〜16列目を構成する区画20、20g…17列目〜24列目を構成する区画20、20h…25列目〜32列目を構成する区画20、200…画素、201,203,206,207,208,209,211,214,215…赤色のフィルターを装着した画素、21a,21b…セレクタ、22,22a,22b…キャリア検出モード時の読み出し画素番号、23a…列毎のセレクト信号、23b…列毎のリセット信号、23c…キャリア検出制御信号、231…セレクト信号およびリセット信号、24a…出力側トランジスタ、24b…リセット側トランジスタ、241…行デコーダ内蔵のキャリア検出用アンプ、241a…キャリア検出用出力側トランジスタ、241b…キャリア検出用リセット側トランジスタ25…出力アンプ、26…フォトダイオード、27a,27b,27c,27d,27e…ブラックアウトした画素領域、28…出力端子、21i…インバータ、3…家電品のマイクロプロセッサ、32a,32b…付加情報、33a,33b…利用者の赤外画像、34a,34b…利用者の可視画像、31a,31b…リモコン1aの出力したデータ、32a…リモコン1bの出力したデータ、4…バス、41a…可視画像撮影モード設定コマンド、42a…可視画像撮影モード時の撮像データ、41b…キャリア検出モード設定コマンド、42b…キャリア検出モード時の撮像データ、42101,42102,42116…バス4上に送出された区画20aのデータ、42203,42204,42202…バス4上に送出された区画20bのデータ、42311,42312,42310…バス4上に送出された区画20cのデータ、42409,42410,42408…バス4上に送出された区画20dのデータ、42101,42102,42116…バス4上に送出された区画20eのデータ、42206,42205,42211…バス4上に送出された区画20fのデータ、42311,42312,42306…バス4上に送出された区画20gのデータ、42416,42415,42401…バス4上に送出された区画20hのデータ、5…家電品のマイクロプロセッサ3が接続されたネットワーク、6…ネットワーク接続する家電品。
【発明の属する技術分野】
本発明は、複数の赤外線リモコンとCMOSイメージセンサを用いた空間分割赤外線通信システムに関するものである。
【0002】
【従来の技術】
従来の技術を図17に示す。図中、1は赤外線リモコン、2は家電品の赤外線受光器、3は家電品のマイクロプロセッサ、40は電気信号である。
【0003】
従来の技術においては、赤外線リモコン1が送信したパルス変調された赤外線は、家電品の赤外線受光器2で受信され電気信号40に変換され、家電品のマイクロプロセッサ3で復調の上、電文のヘッダからメーカコード、製品コード、チャネル番号を解析する。自局宛の電文と判断すると、電文の内容に従い動作し、本構成でリモートコントロールを実現している。
【0004】
また、複数の家電品を制御するために利用者のリモコンは一つに限定していた。特許文献1の「リモコン制御照明システム」や特許文献2の「赤外線リモコン・システム」では固定リモコン送受信機ないし集中制御機が利用者のリモコンの出力を受光し当該機器に赤外線で中継していた。
【0005】
【特許文献1】
特開平6−302384号公報
【特許文献2】
特開平5−328442号公報
【0006】
【発明が解決しようとする課題】
従来の技術では、家電品の赤外線受光器2は指向性のない視野角100度から180度の1素子のイメージセンサを用いており複数の赤外線リモコンが同時に発信した場合、電気信号40を得るが、個々の信号を切り分けられない為期待した通りに動作しなかった。また、遮光器等の覆いを付けた赤外線受光器2を複数個用意し、ある角度、例えば、60度刻みに向きを変えて配置することで空間分割を行っていたが、遮光器を取り付けた赤外線受光器の大きさ、遮光器の指向性の調整等煩雑であった。また、遮光器の開口部で切り取られる空間において複数の赤外線リモコンが同時に発信した場合、尚も個々の信号の切り分けは出来ず、課題は解決できなかった。
また、特許文献1の「リモコン制御照明システム」、特許文献2の「赤外線リモコン・システム」ともに利用者のリモコンは1台、つまり家族で1台に限定し、複数のリモコンの存在を許さなかった。そのため、固定リモコン送受信機ないし集中制御機から伸びた赤外線発光部と一般のリモコンが同時に発信した場合、尚も個々の信号の切り分けは出来ず、課題は解決できなかった。
特に、特許文献2の「赤外線リモコン・システム」では集中制御機からでた信号線の末端に赤外線発光部があり、家電品の近傍に赤外線発光部を設置する為、家電品の近傍まで信号線を引き回す必要があり煩雑であった。
【0007】
【課題を解決するための手段】
本発明では、家電品の赤外線受光器2に代わりデジタルカメラ等で用いられている数十万画素のCMOSイメージセンサを用いる。家電品のマイクロプロセッサ3はCMOSイメージセンサの受光素子のうち赤色フィルターを装着する受光素子を用い撮影を行い、撮像から高輝度で且つパルス変調された非自然光すなわち信号を検出しデータに復調する。撮像に複数の非自然光すなわち信号が検出されると、検出した受光素子ないし受光素子群毎に独立に信号を復調し空間分割赤外線通信を行う。
【0008】
【発明の実施の形態】
図1から図9を用いて、本発明の第1の実施の形態を示す。
【0009】
図1において、1a,1bはリモコン、2は家電品のCMOSイメージセンサ、3は家電品のマイクロプロセッサ、4はバス、10は赤外光のスポットである。
【0010】
図1において複数の利用者はリモコン1aとリモコン1bを用いて家電品の制御を行う。リモコン1aないしリモコン1bは押下されたボタンに対応した制御データをASKでパルス変調し赤外光パルスとして空間に放射する。本発明では家電品のCMOSイメージセンサ2は30万程度の画素を平面上に配したCMOSイメージセンサを用いており、この家電品のCMOSイメージセンサ2で家電品の周囲を撮影する。家電品のCMOSイメージセンサ2の各画素は可視光から赤外光の範囲の自然光と、非自然光であるリモコンが放射したパルス変調された赤外光を受光する。家電品のCMOSイメージセンサ2は画素を行列にマッピングし列毎に全列読み出しバス4を介して家電品のマイクロプロセッサ3に伝送する。家電品のマイクロプロセッサ3は伝送されたデータを平面上に再配置し撮像として処理する。
【0011】
リモコン1aとリモコン1bがほぼ同時ないし同時期に赤外光を放射すると、家電品のCMOSイメージセンサ2の撮像中には、強度の高い赤外光のスポット10が現れ、家電品のマイクロプロセッサ3はこのないしこれらの赤外光のスポット10から制御データを復調する。本発明において、赤外光のスポット10の周囲の画素が受光している自然光は長周期では変化が少ないのに対して、受光した赤外光はパルス変調されており且つ強度は高いので、家電品のマイクロプロセッサ3は容易にリモコンから赤外光が放射していることを認識する。
【0012】
図2を用いて家電品のCMOSイメージセンサ2の動作モードを説明する。
【0013】
図中、41aは可視画像撮影モード設定コマンド、42aは可視画像撮影モード時の撮像データ、41bはキャリア検出モード設定コマンド、42bはキャリア検出モード時の撮像データである。
【0014】
家電品のマイクロプロセッサ3はバス4を介して可視画像撮影モード設定コマンド41aもしくはキャリア検出モード設定コマンド41bで家電品のCMOSイメージセンサ2の動作モードを可視画像撮影モードないしキャリア検出モードに設定する。設定が済むと家電品のCMOSイメージセンサ2はバス4にモードに応じたデータ、可視画像撮影モード時の撮像データ42a、キャリア検出モード時の撮像データ42bを送出する。
【0015】
可視画像撮影モードにおいて図はプログレッシブに設定されており1フレームの撮像データは全列の読み出しデータから構成される。この時、フレームレートは1秒あたり30フレームである。インターレースに設定すると撮像データは1列おきの読み出しとなり、60フィールドで30フレーム撮影する。キャリア検出モードに設定すると、特定の色について撮像データは8列おき、8画素おきに1秒あたり1920フィールド読み出す。
【0016】
何れのモードにおいてもバス4上の撮像データの転送レートは8.79Mbpsで、家電品のマイクロプロセッサ3のバス4のインタフェースに設定の変更は不要である。
【0017】
図3を用いてキャリア検出モード時に家電品のCMOSイメージセンサ2の画素の読み出し順序を説明する。
【0018】
図中、20は8×8の64画素から構成される区画、201は1番目に読み出される画素、203は3番目に読み出される画素、208は8番目に読み出される画素である。
【0019】
図に示す、区画20は8×8の64画素から構成され、本発明のCMOSイメージセンサ2は列方向に有効画素について80区画、行方向に60区画、計4800区画に区分される。区画20はこの4800区画の一つを示している。
【0020】
キャリア検出モード時、区画20中の特定の1画素が読み出されるが、列方向に隣接する区画間では、画素は8列おき、8画素おきに選ばれ読み出される。1フレームのキャリア検出時1フィールド目の読み出しでは画素201を読み出すと、以後2フィールド目では画素202、3フィールド目で画素203、8フィールド目で画素208の順に読み出す画素を交代させる。キャリア検出時、赤色フィルタが装着された画素のみ読み出されるので、読み出される画素は1画素、1列おきとなり、列方向で隣接する緑色のフィルタを装着した画素と、次列の緑色のフィルタを装着した画素および青色のフィルタを装着した画素は読み飛ばす事となる。
【0021】
フィールド毎に読み出す画素を代えることで電子シャッターの開閉時間つまり露光時間に制約を与えず、色の解像度を向上している。
【0022】
図4、図5を用いてCMOSイメージセンサ2の区画20の画素配置と読み出し順序を説明する。
【0023】
図4において、21a,21bはセレクタ、22a,22bはキャリア検出モード時の読み出し画素番号、23aは列毎のセレクト信号、23bは列毎のリセット信号である。
【0024】
キャリア検出モード時、家電品のCMOSイメージセンサ2の行デコーダは読み出し画素番号22a,22bで列中の赤色フィルタの装着された画素4画素についてその中の1画素を指し示す。図中、読み出し画素番号22a,22bは00を示し、一番上の列において画素201が該当する。セレクタ21a,21bは読み出し画素番号22a,22bに従いそれぞれ、セレクト信号23a、リセット信号23bを画素201に接続している。この時点で列デコーダがリセット信号23bを制御することで画素201は電子シャッターを開き、露光を開始し、セレクト信号23aを制御することで画素201の撮影されたデータは出力される。
【0025】
図の通り、読み出し画素番号22a,22bは00が指し示す画素は列毎に異なり、一列目が左から00−01−10−11、二列目が01−00−11−10、三列目が10−11−00−01、四列目が11−10−01−00に対応する。
【0026】
図5において、22は読み出し画素番号、231はセレクト信号およびリセット信号、20aは1列目〜8列目を構成する区画20、20bは9列目〜16列目を構成する区画20、20cは17列目〜24列目を構成する区画20、20dは25列目〜32列目を構成する区画20、42101,42102,42116はバス4上に送出された区画20aのデータ、42203,42204,42202はバス4上に送出された区画20bのデータ、42311,42312,42310はバス4上に送出された区画20cのデータ、42409,42410,42408はバス4上に送出された区画20dのデータである。
【0027】
1フィールド目の読み出し時、読み出し画素番号は00で、区画20aは1番目の画素、区画20bは3番目の画素、区画20cは11番目の画素、区画20dは9番目の画素が選択される。読み出されたデータは順に、区画20aの列のデータの先頭に42101、区画20bの列のデータの先頭に42203、区画20cの列のデータの先頭に42311、区画20dの列のデータの先頭に42409として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する
。
【0028】
2フィールド目の読み出し時、読み出し画素番号は01となり、区画20aは2番目の画素、区画20bは4番目の画素、区画20gは12番目の画素、区画20dは10番目の画素が選択される。読み出されたデータは順に、区画20aの列のデータの先頭に42102、区画20bの列のデータの先頭に42204、区画20cの列のデータの先頭に42312、区画20dの列のデータの先頭に42410として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0029】
16フィールド目の読み出し時、読み出し画素番号は11となり、区画20aは16番目の画素、区画20bは2番目の画素、区画20gは10番目の画素、区画20dは8番目の画素が選択される。読み出されたデータは順に、区画20aの列のデータの先頭に42116、区画20bの列のデータの先頭に42202、区画20cの列のデータの先頭に42310、区画20dの列のデータの先頭に42408として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0030】
17フィールド目は1フィールド目の選択に戻り、読み出し画素番号は00となり1フレーム目で読み出した画素が選択される。この構成と手順により16フィールド周期で1区画中の赤色フィルターの装着された画素はデータを読み出される。
【0031】
図6を用いてキャリア検出モード時、家電品のCMOSイメージセンサ2によるパルス変調された赤外光の受信方法を説明する。
【0032】
図中、10は赤外線通信の1つのデータサイクル、10aはガイドパルス、10b,10dは無出力、10cはシンボル0、10eはシンボル1である。
【0033】
図の通り、赤外線通信はデータサイクル10は45ミリ秒である。次のデータサイクルは最短で、ガイドパルス10aから次のガイドパルス10aまでの45ミリ秒間隔で出現する。
【0034】
赤外線通信において2.4ミリ秒間出力が続くことでガイドパルス10aを、その後無出力となり、0.6ミリ秒ないし1.2ミリ秒の出力でシンボル0、シンボル1を表している。ガイドパルス10a以後”001011100”と続いた後、無出力10bに続く0.6ミリ秒のシンボル0(10c)が出現し”0”を、引き続き無出力10dに続く1.2ミリ秒のシンボル1(10e)が出現し1を示す。その後”10”が出現しデータは尽きて、次のガイドパルスが出現するまでの間無出力となる。
【0035】
本発明の家電品のCMOSイメージセンサ2は、キャリア検出モード時は毎秒1920フィールドすなわち0.52ミリ秒間隔で赤外光の撮影を繰り返す。赤外線通信において最短のパルスは0.6ミリ秒の無出力ないしシンボル0であり、0.52ミリ秒間隔で撮影することでこれら無出力とシンボル0を切り分けている。
【0036】
図7に画素の構成とモード毎の動作を説明する。
【0037】
図中、200は画素、23aはセレクト信号、23bはリセット信号、24aは出力側トランジスタ、24bはリセット側トランジスタ、25は出力アンプ、26はフォトダイオード、28は出力端子である。
【0038】
画素200において、リセット信号23bがアサートされる間はリセット側トランジスタ24bが導通し、出力アンプ25の入力はVCCないしVCC近くの電位に固定される。リセット信号23bがネゲートされることでリセット側トランジスタ24bは切断し、フォトダイオード26bが受光する光の量に従いフォトダイオード26がVCCからVSSに電位を下げていく。セレクト信号23aをアサートするとフォトダイオード26が下げた電位が出力アンプ25で中継されて出力端子28に現れる。リセット信号24bのネゲートのタイミングからセレクト信号23aのアサートまでの期間が電子シャッターの開閉時間すなわち露光時間である。
【0039】
可視画像撮影モードでは、第1列から第425列まで順番に読み出していく。各列は33.3ミリ秒毎に読み出される。読み出しが終了するとリセット信号がアサートされVCCないしVCC近くの電位までチャージされリセット信号がアサートされる限りこの電位に固定される。リセット信号がネゲートされると露光を開始し、電位は受光した光の強度に従い低下する。読み出し終了後即リセットをアサートしネゲートすると、次の読み出しまでのおよそ33ミリ秒が露光出来、これが最大露光時間となる。
【0040】
図では可視画像撮影に引き続きキャリア検出が行われる。キャリア検出は45ミリ秒間続き、この間88フレーム撮影し、列あたり22回、1画素あたり5回ないし6回読み出される。
【0041】
キャリア検出に引き続き通常の可視画像撮影に戻る。
【0042】
キャリア検出時1フレームの読み出しは0.52ミリ秒かかるので、ある画素が読み出された後次に読み出されるのは8.32ミリ秒後となり、およそ8ミリ秒が最大露光時間となる。1列あたりの走査時間は8.01マイクロ秒だが、図5の説明の通り、キャリア検出時は4列単位で読み出しを行うので実際の走査時間は32マイクロ秒となる。本発明の赤外線通信では最小パルス幅が0.6ミリ秒なので露光時間は走査時間の倍数、18倍の0.576ミリ秒としパルスの有無を識別しシンボルを検出し、データを復調している。
【0043】
露光時間を延ばし、ゼロコンパレータを用いることでシンボルの検出する事も可能である。
【0044】
図8にシンボルの検出とデータの復調を示す。
【0045】
図中、11a,11b,11c,11d,11eはリモコン1aの赤外光のスポット、12a,12bはリモコン1bの赤外光のスポット、31a,31bはリモコン1aの出力したデータ、32aはリモコン1bの出力したデータ、5は家電品のマイクロプロセッサ3が接続されたネットワーク、6はネットワーク接続する家電品である。
【0046】
キャリア検出モード時、リモコンから出力された赤外光は家電品のCMOSイメージセンサ2の撮像に明るいスポットとして現れる。図中、0.52秒おきに撮影された5フィールドにおいて順にはリモコン1aの赤外光はスポット11a,11b,11c,11d,11eとして現れる。スポット11a及びスポット11cは露光時間中に前後の何れかのシンボルがかかるため、真っ暗ではないが、閾値よりも小さいため無出力と判定する。また、閾値よりも高いためスポット11b,11d,11eは出力と判定する。無出力と判定されたスポット10aの後無出力が出現するまでの出力の数が1つか2つかでシンボル0かシンボル1を区別する。スポット10aの後に初めて現れる無出力はスポット10cであり、その間の出力はスポット11bのみであるからリモコン1aの出力したデータ31aはシンボル0に復調される。同様に、スポット11cの後、スポット11d,スポット11eと続いたので、リモコン1aの出力したデータ31bはシンボル1に復調される。
【0047】
リモコン1aの出力したデータ31bは赤外線通信中のデータであるから、スポット11eの次は必ず無出力が来ると決めつけてシンボル1に復調する。スポット11eに引き続き出力が出現するとスポット11eまでを31bの通りシンボル1に復調し、スポット11eより後に到着したスポットはエラーとして先頭のスポットを無出力と見なしエラー訂正を試みる。
【0048】
図中の4フィールド目ではリモコン1bの出力した赤外光であるスポット12aが出現し、5フィールド目にもスポット12bが現れる。家電品のマイクロプロセッサ3は撮像中のスポット11dとスポット12a、スポット11eとスポット12bの距離がスポットの直径以上に離れており別光源と判断する。また、スポット12a,12bが出現したこの領域では1〜3フレームの間赤外通信が行われていなかったので、リモコン1bの出力したデータ32aは5フレーム目まででガイドパルスと認識ないし期待される。6フレーム目及び7フレーム目が出力と判定されると出力したデータ32aはガイドパルスに復調される。こうして家電品のマイクロプロセッサ3はリモコン1a、リモコン1bの出力を空間で切り分け、各々のデータを復調し、複数のリモコンとの赤外線通信を実現してい
る。
【0049】
復調したデータはメーカコード、製品コード等の情報を含んでおり、データが別メーカか別製品を指し示していると家電品のマイクロプロセッサ3は対応する家電品をネットワーク5上で検索した上でデータをネットワーク5上に中継するか、もしくはネットワーク5上の該当する家電品が受け取ることを期待してデータをネットワーク5上に中継する。中継した結果、ネットワーク5上の家電品6が該当したのでコマンドを解釈し正常にコマンドを履行する。
【0050】
図9にキャリア検出モードと可視画像撮影モードを用いた監視・追尾システムを示す。
【0051】
図中、11はリモコン1aの赤外光のスポット、12はリモコン1bの赤外光のスポット、32a,32bは付加情報、33a,33bは利用者の赤外画像、34a,34bは利用者の可視画像である。
【0052】
家電品のマイクロプロセッサ3はキャリア検出モードでスポット11、スポット12からリモコンの種類、具体的にはメーカコードや製品コード等を検出し、識別情報とする。可視画像撮影モードでは撮像から利用者等特徴のあるオブジェクトを切り出し、キャリア検出モードで得た識別情報との対応付けを行う。引き続き、キャリア検出モードでキャリア検出中に、可視画像撮影モードで切り出したオブジェクトについて赤外画像の切り出しを行い、赤外線強度から表面温度ないし体温を算出し識別情報に付加する。結果、可視画像から切り出したオブジェクトの中でも人ないし動物らしきものについて、識別子と表面温度情報を付加する。以後、可視画像撮影モードとキャリア検出モードを繰り返すことで、識別子と表面温度情報を付加したオブジェクトの移動を検知し追尾することで監視・追尾システムを実現している。
【0053】
図10から図13を用いて、本発明の第2の実施の形態を示す。
【0054】
図10において、21a,21bはセレクタ、22はキャリア検出モード時の読み出し画素番号、23aは列毎のセレクト信号、23bは列毎のリセット信号、23cはキャリア検出制御信号、241は行デコーダ内蔵のキャリア検出用アンプ、241aはキャリア検出用出力側トランジスタ、241bはキャリア検出用リセット側トランジスタである。
【0055】
図10を用いて本発明の第2の実施の形態で用いる家電品のCMOSイメージセンサ2の区画20の画素配置と読み出しを説明する。
【0056】
本発明の第2の実施の形態で用いるCMOSイメージセンサ2は通常の可視画像撮影中にキャリア検出を行う。
【0057】
家電品のCMOSイメージセンサ2のセレクタ21a,21bは読み出し画素番号22とキャリア検出制御信号23cに従いセレクト信号23aとリセット信号23bを同じ列の8画素に分配する。可視画像撮影モード時、キャリア検出制御信号23cはネゲートされ、セレクタ21a,21bは読み出し画素番号22に関わらず同じ列の8画素にセレクト信号23aとリセット信号23bを分配する。セレクト信号23aは各画素の出力側トランジスタ24aにリセット信号23bはリセット側トランジスタ24bにそれぞれ接続されている。よって、前述の8画素はリセット信号23bのネゲートに伴い露光を開始し、セレクト信号23aのアサートに従い行デコーダへ撮像データを出力する。
【0058】
キャリア検出制御信号23cがアサートされると家電品のCMOSイメージセンサ2の行デコーダは読み出し画素番号22で列中の赤色フィルタの装着された画素4画素についてその中の1画素を指し示す。図中、読み出し画素番号22は00を示し、一番上の列において画素201が該当する。セレクタ21a,21bは読み出し画素番号22に従いそれぞれ、セレクト信号23a、リセット信号23bを画素201に接続している。画素201は図7に示した画素に対してリセット系で出力系でキャリア検出用出力側トランジスタ241aを、キャリア検出用リセット側トランジスタ241bを追加している。前述のセレクタ21aを介して分配されるセレクト信号23aはキャリア検出用出力側トランジスタ241aに、セレクタ21bを介して分配されるリセット信号23bはキャリア検出用リセット側トランジスタ241bにそれぞれ接続している。画素201はリセット信号23bのネゲートに伴い露光を開始し、セレクト信号23aのアサートに従い行デコーダへ撮像データを出力し、行デコーダ内蔵のキャリア検出用アンプ241が受信し増幅する。
【0059】
図の通り、読み出し画素番号22は00が指し示す画素は列毎に異なり、一列目が左から00−01−10−11、二列目が01−00−11−10、三列目が10−11−00−01、四列目が11−10−01−00の順となっている。
【0060】
撮像のデータは、家電品のCMOSイメージセンサ2と家電品のマイクロプロセッサ3をつなぐバス4上を可視画像とキャリア検出の画像が交互に送られる。また設定により、バス4上の信号線の一部を可視画像に、残りの一部をキャリア検出の画像に割り当て独立且つ並列動作させることもある。
【0061】
図11に可視画像撮影モードがプログレッシブ走査の場合を示す。
【0062】
図11において、2pは可視画像撮影の走査及びその画像、2cはキャリア検出の走査及びその画像、27a,27bはブラックアウトした画素領域である。
【0063】
家電品のCMOSイメージセンサ2は可視画像撮影モードとキャリア検出モードを交互に切り換える。キャリア検出は可視画像撮影モード時にも行うが、CMOSイメージセンサ2の画素ないし列は一時に可視画像撮影とキャリア検出を行うことは出来ない為、可視画像撮影を優先する。菱形の可視画像撮影の走査及びその画像2pは横方向が時間経過で縦方向が列方向である。家電品のCMOSイメージセンサ2の一列に着目すると時間方向の大半は露光の期間で十分な露光後出力する。この出力は列単位で順次行う為図のような菱形で表される。
【0064】
この菱形で表される可視画像撮影期間中にキャリア検出は繰り返される。キャリア検出の一走査分をキャリア検出の走査及びその画像2cに示す。キャリア検出の走査及びその画像2cは可視画像撮影の走査及びその画像2pを優先する為、可視画像撮影の走査及びその画像2pが被る期間は該当する列の画素を制御し読み出すことはなく、可視画像撮影の走査及びその画像2pにはブラックアウトした画素領域として現れる。ブラックアウトした画素領域の上側は、可視画像撮影の走査及びその画像2pが終了した後、キャリア検出の為の露光時間、すなわち0.52ミリ秒保証できる限界を示している。同様に、ブラックアウトした画素領域の下側は、キャリア検出後、可視画像撮影の為の露光時間が保証できる限界を示している。
【0065】
図の通り、露光時間はそれぞれ、TShutter、TCarrierSenseで定義するとブラックアウトする時間は65/64×(露光時間の和)である。ブラックアウトする領域の列数はこの時間分の列が最大となる。
【0066】
ブラックアウトする領域は可視画像撮影の走査及びその画像2pの走査状況に応じて、キャリア検出の走査及びその画像2c中で、上辺から浸食をはじめ、ブラックアウトした画素領域27a、ブラックアウトした画素領域27bを経て下辺に消え去る。
【0067】
この間、可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査及びその画像2pの通り行われ、家電品のマイクロプロセッサ3はプログレッシブ走査の画像を得る。
【0068】
引き続き、キャリア検出モードに移行し、可視画像撮影モード中に検出した赤外線通信の捕捉とキャリア検出を行う。家電品のCMOSイメージセンサ2はキャリア検出を45ミリ秒続けた後、再び可視画像撮影モードに復帰するが、可視画像撮影中にキャリア検出を試みる。
【0069】
図12に可視画像撮影モードがキャリア検出優先プログレッシブ走査の場合を示す。
【0070】
図12において、2eは可視画像撮影の走査、2oは可視画像撮影の走査及びその画像、2f,2qはキャリア検出の走査及びその画像、27cはブラックアウトした画素領域である。
【0071】
簡単のため図11との差異を説明する。家電品のCMOSイメージセンサ2は常時可視画像撮影モードにある。可視画像は奇数列だけのフィールドと偶数列だけのフィールドに分けたインターレース方式で撮影しフレーム毎に出力し家電品のマイクロプロセッサ3において画像処理を行いプログレッシブ画像に復元する。
【0072】
可視画像撮影の走査2eでは緑色のフィルターを装着した画素と青色のフィルターを装着した画素が並ぶ偶数列のフィールドを撮影し、可視画像撮影の走査及びその画像2oでは赤色のフィルターを装着した画素と緑色のフィルターを装着した画素が並ぶ奇数列のフレームを撮影する。
【0073】
可視画像撮影の走査2eでは撮影期間中キャリア検出に用いる赤色フィルタを装着した画素はアイドル状態にあるので、キャリア検出の走査及びその画像2fは読み出し画素の衝突無くすなわちブラックアウトの領域の無い画像となる。
【0074】
可視画像撮影の走査及びその画像2oでは、一転して赤色フィルタを装着した画素は可視画像撮影の走査及びその画像2oが優先して読み出すので、キャリア検出の走査及びその画像2qにはブラックアウトした画素領域27cが出現する。ブラックアウトする領域は可視画像撮影の走査及びその画像2oの走査状況に応じて、キャリア検出の走査及びその画像2q中で、上辺から浸食をはじめ、ブラックアウトした画素領域27c、を経て下辺に消え去る。
【0075】
この間、可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査及びその画像2oの通り行われ、家電品のマイクロプロセッサ3は一つ前のフィールドである可視画像撮影の走査2eと一緒に画像処理を行い1フレーム分の撮像画像を得る。
【0076】
家電品のCMOSイメージセンサ2は偶数列のフレーム撮影と奇数列のフレーム撮影を交互に繰り返すが、家電品のマイクロプロセッサ3が一旦キャリアを検出すると、家電品のCMOSイメージセンサ2に予定されていた奇数列のフレーム撮影を偶数列のフレーム撮影に差し替えて、検出した赤外線通信の捕捉とキャリア検出を行う。この差し替えにより偶数列のフィールド撮影は3フレーム分の50ミリ秒ないし5フレーム分の83.3ミリ秒続き、赤外線通信の捕捉を実現する。
【0077】
図13に可視画像撮影インターレース走査の場合を示す。
【0078】
図13において、2iは可視画像撮影の走査及、2jは可視画像撮影の走査及びその画像、2g,2rはキャリア検出の走査及びその画像、27d,27eはブラックアウトした画素領域である。
【0079】
簡単のため図11との差異を説明する。家電品のCMOSイメージセンサ2は常時可視画像撮影モードにある。家電品のCMOSイメージセンサ2は、緑色のフィルタを装着した画素と青色のフィルターを装着した画素が並ぶ列と、赤色のフィルターを装着した画素と緑色のフィルターを装着した画素が並ぶ列が交互に出現する。インターレース走査では、隣接する列の組み合わせについて奇数番目の組、すなわち第1列と第2列の組、第5列と第6列の組の順で出現するフィールドと、偶数番目の組、すなわち第3列と第4列の組、第7列と第8列の組の順で出現するフィールドをそれぞれ奇数組のフィールド、偶数組のフィールドとし交互に撮影しフレーム毎にデータを出力する。
【0080】
可視画像撮影の走査2iは偶数組のフィールドであるが、キャリア検出の走査及びその画像2gは奇数組の列にある赤色フィルタを装着した画素は無条件で読み出す。可視画像撮影の走査2iが読み出す偶数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2iを優先させる。
【0081】
可視画像撮影の走査及びその画像2jは奇数組のフレームで、偶数組の場合と同様にキャリア検出の走査及びその画像2rは偶数組の列にある赤色フィルタを装着した画素は無条件で読み出す。可視画像撮影の走査2jが読み出す奇数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2jを優先させる。よってブラックアウトする画素領域はキャリア検出の走査及びその画像2g、2rの何れも1組おきに出現する。
【0082】
キャリア検出の走査及びその画像2g上で、ブラックアウトする領域は可視画像撮影の走査及びその画像2iの走査状況に応じて、キャリア検出の走査及びその画像2g中で、上辺から浸食をはじめ、ブラックアウトした画素領域27d、を経て下辺に消え去る。同様に、キャリア検出の走査及びその画像2r上で、ブラックアウトする領域は可視画像撮影の走査及びその画像2jの走査状況に応じて、キャリア検出の走査及びその画像2r中で、上辺から浸食をはじめ、ブラックアウトした画素領域27eを経て下辺に消え去る。
【0083】
この間、可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査2i、可視画像撮影の走査及びその画像2jの通り行われ、家電品のマイクロプロセッサ3はインターレース走査の画像を得る。
【0084】
図14から図16を用いて、本発明の第3の実施の形態を示す。
【0085】
図14は本発明の第3の実施の形態におけるCMOSイメージセンサ2の区画20の読み出し順序を示している。
【0086】
図14において、20e,20fは区画20、201,203,206,207,209,211,214,215は赤色のフィルターを装着した画素である。
【0087】
本発明の第3の実施の形態において、家電品のCMOSイメージセンサ2がインターレース走査で可視画像を撮影すると、偶数列で走査している場合、空いている奇数列の画素を用いてキャリア検出を行う。同様に奇数列で走査している場合は、空いている偶数列の画素を用いてキャリア検出を行う。
【0088】
区画20eは1〜8列以後、(1〜8)+16nで表される区画20で、区画20fは9〜16列以後、(9〜16)+16nで表される区画20である。
【0089】
区画20eは偶数走査時には、赤色のフィルターを装着した画素で読み出しの順番が1,2,5,6,11,12,15,16番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素201ないし画素211を起点とし、昇順に8フレームを一周期に読み出す。
【0090】
区画20fは偶数走査時には、赤色のフィルターを装着した画素で読み出しの順番が1,2,5,6,11,12,15,16番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素215ないし画素206を起点とし、降順に8フレームを一周期に読み出す。
【0091】
区画20eは奇数走査時には、赤色のフィルターを装着した画素で読み出しの順番が3,4,7,8,9,10,13,14番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素203ないし画素209を起点とし、昇順に8フレームを一周期に読み出す。
【0092】
区画20fは奇数走査時には、赤色のフィルターを装着した画素で読み出しの順番が3,4,7,8,9,10,13,14番目を用いてキャリア検出を行う。1フィールド目の読み出しは、画素214ないし画素207を起点とし、降順に8フレームを一周期に読み出す。
【0093】
図15は本発明の第3の実施の形態におけるCMOSイメージセンサ2の区画20の組み合わせと読み出し順序を示している。
【0094】
図15において、22は読み出し画素番号、231はセレクト信号およびリセット信号、20eは1列目〜8列目を構成する区画20、20fは9列目〜16列目を構成する区画20、20gは17列目〜24列目を構成する区画20、20hは25列目〜32列目を構成する区画20、42101,42102,42116はバス4上に送出された区画20eのデータ、42206,42205,42211はバス4上に送出された区画20fのデータ、42311,42312,42306はバス4上に送出された区画20gのデータ、42416,42415,42401はバス4上に送出された区画20hのデータ、21iはインバータである。
【0095】
キャリア検出の1フィールド目の読み出し時、読み出し画素番号は00で、区画20eは1番目の画素、区画20gは11番目の画素が選択され、インバータ21iで読み出し区画番号は11に反転し、区画20fは6番目の画素、区画20hは16番目の画素が選択される。読み出されたデータは順に、区画20eの列のデータの先頭に42101、区画20fの列のデータの先頭に42206、区画20gの列のデータの先頭に42311、区画20hの列のデータの先頭に42416として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0096】
2フィールド目の読み出し時、読み出し画素番号は01となり、区画20eは2番目の画素、区画20gは12番目の画素が選択され、インバータ21iで読み出し区画番号は10に反転し、区画20fは5番目の画素、区画20hは15番目の画素が選択される。読み出されたデータは順に、区画20eの列のデータの先頭に42102、区画20fの列のデータの先頭に42205、区画20gの列のデータの先頭に42312、区画20hの列のデータの先頭に42415として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0097】
8フィールド目の読み出し時、読み出し画素番号は11となり、区画20eは16番目の画素、区画20gは6番目の画素が選択され、インバータ21iで読み出し区画番号は10に反転し、区画20fは11番目の画素、区画20hは1番目の画素が選択される。読み出されたデータは順に、区画20eの列のデータの先頭に42116、区画20fの列のデータの先頭に42211、区画20gの列のデータの先頭に42306、区画20hの列のデータの先頭に42401として出現し、バス4を介して家電品のマイクロプロセッサ3に伝送する。
【0098】
9フィールド目は1フィールド目の選択に戻り、読み出し画素番号は00となり1フレーム目で読み出した画素が選択される。この構成と手順により8フレーム周期で1区画中の赤色フィルターの装着された画素はデータを読み出される。
【0099】
可視画像撮影が偶数列で行われているので、各区画20中の奇数番目の組に位置する赤色のフィルターを装着した画素で読み出しの順番が1,2,5,6,11,12,15,16番目を用いてキャリア検出を行う。
【0100】
可視画像撮影が奇数列で行われてると、各区画20中の奇数番目の組に位置する赤色のフィルターを装着した画素で読み出しの順番が3,4,7,8,9,10,13,14番目を用いてキャリア検出を行う。
【0101】
図16に可視画像撮影インターレース走査の場合を示す。
【0102】
図16において、2mは可視画像撮影の走査及、2nは可視画像撮影の走査及びその画像、2h、2sはキャリア検出の走査及びその画像である。
【0103】
簡単のため図13との差異を説明する。家電品のCMOSイメージセンサ2は常時可視画像撮影モードにある。家電品のCMOSイメージセンサ2は、緑色のフィルタを装着した画素と青色のフィルターを装着した画素が並ぶ列と、赤色のフィルターを装着した画素と緑色のフィルターを装着した画素が並ぶ列が交互に出現する。インターレース走査では、赤色+緑色の列と緑色+青色の列について隣接する列の組み合わせについて奇数番目の組、すなわち第1列と第2列の組、第5列と第6列の組の順で出現するフィールドと、偶数番目の組、すなわち第3列と第4列の組、第7列と第8列の組の順で出現するフィールドをそれぞれ奇数フィールド、偶数フィールドとし交互に撮影しフレーム毎にデータを出力する。
【0104】
可視画像撮影の走査2mは偶数組のフィールドであるが、キャリア検出の走査及びその画像2hは奇数組の列にある赤色フィルタを装着した画素は無条件で読み出す。偶数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2mが独占的に読み出す。
【0105】
同様に、可視画像撮影の走査及びその画像2nは奇数組のフレームで、偶数組の場合と同様にキャリア検出の走査及びその画像2sは偶数組の列にある赤色フィルタを装着した画素は無条件で読み出す。奇数組の列にある赤色フィルタを装着した画素は可視画像撮影の走査2nが独占的に読み出す。キャリア検出の走査及びその画像2h,2sの何れにおいても、よってブラックアウトする画素領域は出現しない。
【0106】
同時に進行する可視画像の撮影は、家電品のCMOSイメージセンサ2が規定通りの時間露光し出力するので、可視画像撮影の走査2m、可視画像撮影の走査及びその画像2nの通り順繰りに行われ、家電品のマイクロプロセッサ3はインターレース走査の画像を得る。
【0107】
家電品のマイクロプロセッサ3がキャリアを検出すると、キャリア検出の走査及びその画像2hとキャリア検出の走査及びその画像2s間でほぼ同位置に出現する赤外光のスポットを追尾することで間断なく、また可視画像撮影に影響を及ばさずに赤外線通信を捕捉する。
【0108】
【発明の効果】
本発明のCMOSイメージセンサとマイクロコンピュータの構成により、一つのCMOSイメージセンサが空間分割することで空間中で輻輳する複数の赤外線通信を受信し、個別に復調することが出来る。
個別に復調する事で複数のリモコンが同時に出力しても家電品を制御することができる。
【0109】
CMOSイメージセンサにおいて、赤色フィルタを装着した受光素子を間引いて読み出すことで赤外線通信の検知と受信時のみフレームレートを高めることが出来るばかりか、可視画像を撮影するカメラに用いる15fps〜30fpsのCMOSイメージセンサが流用できて、可視画像も撮影できる。
【0110】
CMOSイメージセンサが撮像中のリモコンの位置を特定することで追尾することができる。
【0111】
これにより、CMOSイメージセンサで撮影した可視画像中の赤外線通信を行う人や動物、物体を追尾出来、監視システムや誘導システムが実現できる。
【0112】
また、CMOSイメージセンサの受光素子について、リセット端子と出力端子を2系統ずつ具備することで、可視画像を撮影中に赤外線通信を検知しデータを復調することが出来る。
【図面の簡単な説明】
【図1】第1の実施の形態を示す図である。
【図2】第1の実施の形態におけるCMOSイメージセンサの動作モードを示す図である。
【図3】第1の実施の形態におけるCMOSイメージセンサのキャリア検出モード時の読み出し順序を示す図である。
【図4】第1の実施の形態におけるCMOSイメージセンサの区画と画素配置を示す図である。
【図5】第1の実施の形態におけるCMOSイメージセンサの区画と読み出したデータの転送順序を示す図である。
【図6】第1の実施の形態における赤外線通信のフォーマットとタイミングを示す図である。
【図7】第1の実施の形態におけるCMOSイメージセンサの回路とモード毎の動作を示す図である。
【図8】第1の実施の形態における赤外線通信のシンボル検出とデータ復調を示す図である。
【図9】第1の実施の形態におけるキャリア検出モードと可視画像撮影モードを用いた監視・追尾システムを示す図である。
【図10】第2の実施の形態におけるCMOSイメージセンサの区画と画素配置を示す図である。
【図11】第2の実施の形態におけるプログレッシブ走査での可視画像撮影の動作を示す図である。
【図12】第2の実施の形態におけるキャリア検出優先プログレッシブ走査での可視画像撮影とキャリア検出の動作を示す図である。
【図13】第2の実施の形態におけるインターレース走査での可視画像撮影とキャリア検出の動作を示す図である。
【図14】第3の実施の形態におけるCMOSイメージセンサの読み出し順序を示している。
【図15】第3の実施の形態におけるCMOSイメージセンサの区画と読み出したデータの転送順序を示す図である。
【図16】第3の実施の形態におけるインターレース走査での可視画像撮影とキャリア検出の動作を示す図である。
【図17】従来の技術を示す図である。
【符号の説明】
1a,1b…リモコン、10…赤外光のスポット、10a…ガイドパルス、10b,10d…無出力、10c…シンボル0、10e…シンボル1、11…リモコン1aの赤外光のスポット、11a,11b,11c,11d,11e…リモコン1aの赤外光のスポット、12a,12b…リモコン1bの正規外交のスポット、12…リモコン1bの赤外光のスポット、2…家電品のCMOSイメージセンサ、2e…可視画像撮影の走査、2i,2j,2m,2n,2o,2p…可視画像撮影の走査及びその画像、2c,2g,2f,2h,2q,2r,2s…キャリア検出の走査及びその画像、20…8×8の64画素から構成される区画、20a…1列目〜8列目を構成する区画20、20b…9列目〜16列目を構成する区画20、20c…17列目〜24列目を構成する区画20、20d…25列目〜32列目を構成する区画20、20e…1列目〜8列目を構成する区画20、20f…9列目〜16列目を構成する区画20、20g…17列目〜24列目を構成する区画20、20h…25列目〜32列目を構成する区画20、200…画素、201,203,206,207,208,209,211,214,215…赤色のフィルターを装着した画素、21a,21b…セレクタ、22,22a,22b…キャリア検出モード時の読み出し画素番号、23a…列毎のセレクト信号、23b…列毎のリセット信号、23c…キャリア検出制御信号、231…セレクト信号およびリセット信号、24a…出力側トランジスタ、24b…リセット側トランジスタ、241…行デコーダ内蔵のキャリア検出用アンプ、241a…キャリア検出用出力側トランジスタ、241b…キャリア検出用リセット側トランジスタ25…出力アンプ、26…フォトダイオード、27a,27b,27c,27d,27e…ブラックアウトした画素領域、28…出力端子、21i…インバータ、3…家電品のマイクロプロセッサ、32a,32b…付加情報、33a,33b…利用者の赤外画像、34a,34b…利用者の可視画像、31a,31b…リモコン1aの出力したデータ、32a…リモコン1bの出力したデータ、4…バス、41a…可視画像撮影モード設定コマンド、42a…可視画像撮影モード時の撮像データ、41b…キャリア検出モード設定コマンド、42b…キャリア検出モード時の撮像データ、42101,42102,42116…バス4上に送出された区画20aのデータ、42203,42204,42202…バス4上に送出された区画20bのデータ、42311,42312,42310…バス4上に送出された区画20cのデータ、42409,42410,42408…バス4上に送出された区画20dのデータ、42101,42102,42116…バス4上に送出された区画20eのデータ、42206,42205,42211…バス4上に送出された区画20fのデータ、42311,42312,42306…バス4上に送出された区画20gのデータ、42416,42415,42401…バス4上に送出された区画20hのデータ、5…家電品のマイクロプロセッサ3が接続されたネットワーク、6…ネットワーク接続する家電品。
Claims (18)
- 2次元に受光素子を配したイメージセンサであって
全ての受光素子を逐一読み出すもしくは2群に分けて各群の受光素子を逐一読み出すことで1フレーム分の撮像を得るのであって、
前記受光素子のうち特定の色のフィルターを装着した受光素子の全てを3以上の整数で分別した群を規定し、前記群についてを逐一読み出すのであって、各群の逐一読み出しを1フィールドとし、各群の逐一読み出しにより1フレーム分の撮像を得ることを特徴とするイメージセンサ。 - 請求項1のイメージセンサであって、前記特定の色が赤色ないし波長が500ナノメートル以上の電磁波であることを特徴とする前記イメージセンサ。
- 請求項1のイメージセンサであって、前記特定の色のフィルターを装着した受光素子は2次元に配した受光素子は列上で8素子おきに行方向で概ね8列おきに選択され読み出すのであって、請求項1記載の全ての受光素子を逐一読み出し1フレーム分の撮像を得る間に、前記特定の色のフィルターを装着した受光素子を64回にわたり逐一読み出し64フィールド分の撮像を得ることを特徴とする前記イメージセンサ。
- 請求項3のイメージセンサであって、全ての受光素子を逐一読み出す回数もしくは得られるフレーム数が1秒間に15ないし30以上であることを特徴としたイメージセンサ。
- 請求項3の列上で8素子おきに行方向で概ね8列おきに選択され読み出される特定の色のフィルターを装着した受光素子であって、次のフィールドでは選択されなかった近傍の特定の色のフィルターを装着した受光素子15個の何れかが選択されるのであって、前記受光素子は何れも16フィールド周期で読み出される事を特徴とするイメージセンサ。
- 請求項3の列上で8素子おきに行方向で概ね8列おきに選択され読み出される特定の色のフィルターを装着した受光素子であって、前記イメージセンサの読み出し手段は、前記受光素子を概ね8列おきに4列分一時に読み出し、列の順に読み出した値を出力することを特徴とした前記イメージセンサ。
- 請求項1のイメージセンサであって、前記全ての受光素子を逐一読み出すもしくは2群に分けて各群の受光素子を逐一読み出すことで1フレーム分の撮像を得る可視画像撮影状態と前記特定の色のフィルターを装着した受光素子を逐一読み出して1フレーム分の撮像を得る特定色撮影状態を具備し、1フレーム分の可視画像撮影状態と整数フレーム分の特定色撮影状態を交互に切り換える事を特徴とするイメージセンサ。
- 請求項1のイメージセンサであって、前記全ての受光素子を逐一読み出すもしくは2群に分けて各群の受光素子を逐一読み出すことで1フレーム分の撮像を得る可視画像撮影状態、前記特定の色のフィルターを装着した受光素子を逐一読み出して1フレーム分の撮像を得る特定色撮影状態を具備し、1フレーム分の可視画像撮影状態で動作中に特定色撮影状態で動作する事を特徴とするイメージセンサ。
- 請求項1のイメージセンサであって、受光素子はリセットトランジスタで電圧を印可された寄生容量を露光時間と受光強度に応じてフォトダイオードが放電し電位を下げ出力アンプがこの電位を出力トランジスタを介して読み出し手段に出力するのであって、独立に制御する前記リセットトランジスタを並列に2つ具備し、独立に制御する出力トランジスタを並列に2つ具備し、2つの出力は個別に前記読み出し手段に接続されていることを特徴とするイメージセンサの前記受光素子。
- 請求項1のイメージセンサであって、前記特定の色の光は1ミリ秒以下の間隔で明滅し、明滅するパターンにシンボルを割り当てたデータ通信方式であって、前記イメージセンサが特定色だけ撮影したフレームについて、複数の特定色だけ撮影したフレームを比較する事で明滅パターンを抽出しデータを復調することを特徴とした前記イメージセンサの前記データ通信方式。
- 請求項1および請求項10のイメージセンサであって、前記イメージセンサが特定色だけ撮影したフレームに出現する複数の明滅する特定色の光について、特定色だけ撮影した複数のフレーム間で個別に明滅パターンを抽出しデータを復調することを特徴とした前記イメージセンサの前記データ通信方式。
- 請求項1および請求項10のイメージセンサであって、前記イメージセンサが特定色だけ撮影したフレームに出現する明滅する特定色の光について、特定色だけ撮影した複数のフレーム間で前記明滅する特定色の光の出現する位置を比較し、
明滅パターンを抽出しデータを復調することを特徴とした前記イメージセンサの前記データ通信方式。 - 請求項1および請求項10のイメージセンサとデータ通信方式おいて複合されたデータであって、
前記イメージセンサが全ての受光素子もしくは2群に分けた各群の受光素子を逐一読み出して得た1フレーム分の撮像において輪郭抽出の結果動物ないし物体の画像を切り出しフレーム中での位置情報を付加するのであって、前記複合されたデータをもたらした明滅する光のフレーム中の位置情報に概ね等しい位置情報を有する前記切り出した動物ないし物体の画像を検索し、前記概ね等しい位置情報を有する動物ないし物体の画像に前記複合されたデータを付加する事を特徴とした前記イメージセンサを具備した認識システム。 - 請求項10のデータ通信方式において復調されたデータであって、前記データは製造者情報と製品情報とチャネル番号と押下されたボタンの番号を包含し、周囲に前記製造者情報と前記製品情報に該当する機器を検索し前記データを中継する前記イメージセンサが構成するネットワークシステム。
- 請求項7および請求項8記載のイメージセンサであって、特定色撮影状態における露光時間は可視画像撮影状態における露光時間と異なる事を特徴とした前記イメージセンサを構成する受光素子。
- 請求項8の同時動作であって、可視画像撮影状態で露光期間にあるか読み出し中である受光素子が特定色撮影状態で露光を開始する時期を迎えた場合、可視画像撮影状態は読み出しを完了し、特定色撮影状態は露光を開始せずに特定の数値データで補完する事を特徴としたイメージセンサ。
- 請求項8の同時動作であって、特定色撮影状態で露光期間にあるか読み出し中である受光素子が可視画像撮影状態で露光を開始する時期を迎えた場合、可視画像撮影状態は受光素子をリセット後露光を開始し、特定色撮影状態は読み出しを放棄し特定の数値データで補完する事を特徴としたイメージセンサ。
- 請求項8の同時動作であって、前記可視画像撮影状態において前記全ての受光素子を2群に分けて各群の受光素子を逐一読み出す場合、
前記特定色撮影状態は前記2群に分けた受光素子のうち前記可視画像撮影状態が読み出していない群の受光素子のみを読み出す事を特徴とするイメージセンサ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002346759A JP2004180187A (ja) | 2002-11-29 | 2002-11-29 | 空間分割赤外線通信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002346759A JP2004180187A (ja) | 2002-11-29 | 2002-11-29 | 空間分割赤外線通信システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004180187A true JP2004180187A (ja) | 2004-06-24 |
Family
ID=32707547
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002346759A Pending JP2004180187A (ja) | 2002-11-29 | 2002-11-29 | 空間分割赤外線通信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004180187A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006121466A (ja) * | 2004-10-22 | 2006-05-11 | Nec Corp | 撮像素子、撮像モジュール及び携帯端末 |
JP2007281944A (ja) * | 2006-04-07 | 2007-10-25 | Sony Corp | 情報処理システムおよび方法、情報処理装置および方法、並びにプログラム |
JPWO2006049196A1 (ja) * | 2004-11-05 | 2008-05-29 | ソニー株式会社 | 光センサーおよび光センサーの画素選択方法 |
JP2008309379A (ja) * | 2007-06-13 | 2008-12-25 | Mitsubishi Electric Corp | 空調用リモートコントローラおよび空気調和機並びに空気調和システム |
JP2009267827A (ja) * | 2008-04-25 | 2009-11-12 | Yokogawa Denshikiki Co Ltd | 被指揮者識別装置及び指揮支援システム |
JP2013187574A (ja) * | 2012-03-05 | 2013-09-19 | Honda Motor Co Ltd | 画像処理装置 |
JP2017063430A (ja) * | 2011-03-22 | 2017-03-30 | フィリップス ライティング ホールディング ビー ヴィ | 光検出システム及び方法 |
US10367581B2 (en) | 2016-09-20 | 2019-07-30 | Casio Computer Co., Ltd. | Notification device, notification method, and non-transitory recording medium |
-
2002
- 2002-11-29 JP JP2002346759A patent/JP2004180187A/ja active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006121466A (ja) * | 2004-10-22 | 2006-05-11 | Nec Corp | 撮像素子、撮像モジュール及び携帯端末 |
JPWO2006049196A1 (ja) * | 2004-11-05 | 2008-05-29 | ソニー株式会社 | 光センサーおよび光センサーの画素選択方法 |
JP2007281944A (ja) * | 2006-04-07 | 2007-10-25 | Sony Corp | 情報処理システムおよび方法、情報処理装置および方法、並びにプログラム |
JP2008309379A (ja) * | 2007-06-13 | 2008-12-25 | Mitsubishi Electric Corp | 空調用リモートコントローラおよび空気調和機並びに空気調和システム |
JP2009267827A (ja) * | 2008-04-25 | 2009-11-12 | Yokogawa Denshikiki Co Ltd | 被指揮者識別装置及び指揮支援システム |
JP2017063430A (ja) * | 2011-03-22 | 2017-03-30 | フィリップス ライティング ホールディング ビー ヴィ | 光検出システム及び方法 |
JP2013187574A (ja) * | 2012-03-05 | 2013-09-19 | Honda Motor Co Ltd | 画像処理装置 |
US10367581B2 (en) | 2016-09-20 | 2019-07-30 | Casio Computer Co., Ltd. | Notification device, notification method, and non-transitory recording medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4665422B2 (ja) | 撮像装置 | |
US9847976B2 (en) | Shared secret arrangements and optical data transfer | |
Liu et al. | Foundational analysis of spatial optical wireless communication utilizing image sensor | |
US8879735B2 (en) | Shared secret arrangements and optical data transfer | |
KR101653169B1 (ko) | 가시광 통신 장치 및 그 방법 | |
JP4610511B2 (ja) | 可視光受信装置および可視光受信方法 | |
CN101159821B (zh) | 用面阵光电传感器实现光通信信号的接收、输出的装置 | |
EP1978725A2 (en) | Synchronous imaging using segmented illumination | |
JP2006121466A (ja) | 撮像素子、撮像モジュール及び携帯端末 | |
CN103533263A (zh) | 图像传感器芯片、操作方法和包括图像传感器芯片的系统 | |
US20070040234A1 (en) | Data download to imager chip using image sensor as a receptor | |
US10148936B2 (en) | Multi-band image sensor for providing three-dimensional color images | |
JP2004180187A (ja) | 空間分割赤外線通信システム | |
CN111556225B (zh) | 图像采集装置及图像采集控制方法 | |
US20190280770A1 (en) | Method and apparatus for free-space optical transmission | |
JP2014524101A (ja) | カメラ、光センサ、及び、拡張情報ディスプレイを含む符号化光検出システム | |
CN106254786B (zh) | 检测发光二极管的方法及系统 | |
KR101830109B1 (ko) | 고체촬상소자 기반 가시광통신 실내자율주행장치 | |
US20080219676A1 (en) | Transmitting device, receiving device, and optical communication method | |
WO2018114579A1 (en) | Detecting coded light | |
Teli et al. | The first study of mimo scheme within rolling-shutter based optical camera communications | |
KR101625534B1 (ko) | 롤링 셔터 카메라를 이용한 광학 카메라 통신시스템 | |
CN113728564B (zh) | 采用可见光摄像机的不可见光通信的方法和系统 | |
CN107710745B (zh) | 成像装置和控制方法 | |
US20190307320A1 (en) | Image pickup apparatus, endoscope and endoscope system |