JP2017123696A - 可視光受信方法 - Google Patents

可視光受信方法 Download PDF

Info

Publication number
JP2017123696A
JP2017123696A JP2017074743A JP2017074743A JP2017123696A JP 2017123696 A JP2017123696 A JP 2017123696A JP 2017074743 A JP2017074743 A JP 2017074743A JP 2017074743 A JP2017074743 A JP 2017074743A JP 2017123696 A JP2017123696 A JP 2017123696A
Authority
JP
Japan
Prior art keywords
pixel
visible light
image
signal
row
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017074743A
Other languages
English (en)
Inventor
博 六車
Hiroshi Rokusha
博 六車
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
UNIVERSAL LINK CO Ltd
Original Assignee
UNIVERSAL LINK CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by UNIVERSAL LINK CO Ltd filed Critical UNIVERSAL LINK CO Ltd
Publication of JP2017123696A publication Critical patent/JP2017123696A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Optical Communication System (AREA)

Abstract

【課題】汎用のカメラを備えた携帯端末等を使用して、可視光通信用の可視光を撮影し、可視光通信の情報信号を受信することができる可視光受信方法を提供する。
【解決手段】携帯端末1のカメラ10により、可視光通信用の可視光を撮影する。カメラ10は、各画素21で発生する電荷を各々の画素アンプ22で増幅し、各画素アンプ22から順に撮像信号を出力する画素アンプ順次出力式撮像素子11を備える。撮影された画像中には、情報信号に基づく縞模様が、当該撮像素子11の列方向または行方向に生じる。縞模様の発生状態に基づき情報信号を抽出し復調する。
【選択図】図1

Description

本発明は、可視光通信に使用される可視光受信方法に関し、特に、携帯情報端末、携帯電話機などのカメラ(デジタルカメラ或いはビデオカメラ)を備えた携帯端末などで好適に使用可能な可視光受信方法に関する。
近年、可視光を通信媒体として用いる可視光通信が開発され、下記特許文献1などにおいて、照明光などの可視光を使用して可視光通信を行なう可視光通信装置が提案されている。
この従来の可視光通信装置は、可視光に送信信号を重畳して送信する可視光送信装置が、送信する情報信号(パルス信号)を、4値PPM方式による変調(パルス位置変調)を行って送信信号を生成し、LEDを使用した光源に、送信信号を印加してLEDを駆動し、LEDの照射する可視光に送信信号を重畳して送信するように動作する。
また、この可視光通信装置では、通常使用される照明用光源を、可視光送信装置の光源として有効に使用するために、照明用のLED光源にPPM信号を印加する際、比較的長いデジタル値「0」の期間にLEDを連続点灯させ、時間の短いデジタル値「1」の期間に、サブキャリアの搬送波信号によって、LEDをより短い周波数で点滅動作させ、これにより、可視光通信の送信時に、照明用として必要な照度を確保するようにしている。
一方、近年、携帯電話機などの携帯端末の普及が著しく、殆どの人々が携帯端末を携帯して日常生活を行なうようになっており、またこの種の携帯端末には、通常、動画撮影が可能なデジタルカメラが搭載されるため、使用者は、あらゆる機会で、カメラ撮影が可能な環境で日常を過ごしている。
そこで、従来、可視光通信を行なう可視光送信装置の光源となる照明用光源から照射される可視光、つまり送信される情報信号を重畳した可視光通信用の照明光を、携帯端末などのカメラで撮影し、その撮影された画像データを解析して、画像データに含まれるデータビット列を抽出し、データビット列から送信された情報信号データを復調する可視光通信装置が、下記特許文献2で提案されている。
特開2008−283446号公報 特開2011−55288号公報
しかし、上記可視光通信装置は、例えば照明用光源を可視光源とする可視光通信装置の光源を、デジタルカメラ或いはビデオカメラで撮影し、照明用光源から照射される明るい可視光(光源の光)をカメラで直接撮影するため、必然的に、カメラの露光が画面全体で自動調整される。このために、撮影画像上の光源像は真っ白となり、白飛び状態となって撮影されてしまう。
このため、カメラで撮影された画像データは、画像処理を行なったとしても、白飛び状態の画像データ中に含まれる可視光送信データを正確に抽出することは、例え高速で動作するマイクロコンピュータの画像処理技術を使用したとしても、非常に難しい。
また、可視光を撮影したとき、撮影画像が白飛び状態とならない場合であっても、画像の輪郭線などが可視光送信データのノイズとして含まれるため、画像データから可視光送信データを正確に抽出することは困難である。
しかも、汎用のデジタルカメラ或いはビデオカメラは、毎秒当たり16フレーム〜30フレームで動画を撮影し、各フレームの画像データについてその輝度値を算出し、輝度値データをフレーム番号ごとの時系列データとして捉え、さらに、算出した輝度値データの最大輝度値と最小輝度値を算出し、予め設定された閾値に基づき、受信データのデータビット列を抽出する。
このため、1/16秒から1/30秒という非常に時間軸の長い或いは長い時間間隔で画像データを撮影し、各フレーム毎の輝度値データに基づき、送信データのデータビット列を抽出することとなる。このため、仮に30フレーム/秒の速度で可視光画像を撮影した場合、1フレームに対し1サンプルのデータを取得し、1サンプルデータを約33m秒かけて抽出し、受信データの抽出は非常に低速となる。
可視光通信装置は、通常、送信信号を、例えば4値PPM変調などの多値PPM変調を行なって送信信号を生成し、その送信信号をLEDが照射する可視光に重畳させて送信するが、この場合、PPM変調により生成される送信パルス信号の周波数は、例えばデータ転送速度が4.8kbpsの場合、約9.6KHzとなり、データビット列の単一のパルス幅は、約0.1ミリ秒という非常に短い時間軸の信号となる。このパルス幅は、カメラが撮影する画像の各フレーム時間に比して非常に短い時間である。
このため、従来のカメラを使用した可視光受信装置では、カメラが撮影した被写体の輪郭線などを含む画像、或いは白飛び状態の画像データから画像処理により、受信データを抽出することが非常に難しいことに加え、可視光通信で送信される送信データ(例えばデータ転送速度4.8kbpsの場合、約9.6KHzの周波数信号)を、1フレーム対1サンプルの速度で取得するため、受信したデータを高速で抽出することはできない。
本発明は、上述の課題を解決するものであり、汎用のカメラを備えた携帯端末等を使用して、可視光通信用の可視光を撮影し、可視光通信の情報信号を受信することができる可視光受信方法を提供することを目的とする。
上記の課題を解決する本発明の可視光受信方法は、
可視光通信用に光源から照射される可視光を、撮像素子を有するカメラにより撮影し、該カメラが撮影した該撮像素子の画像データに基づき、該可視光に重畳して送信された情報信号を受信する可視光受信方法において、
前記カメラは、画素アンプ順次出力式撮像素子上に反射面を介して該可視光を入射させて、該反射面を介して該光源を撮影し、
該画素アンプ順次出力式撮像素子は、画素の行または列ごとのタイミングで該行の画素または該列の画素に電荷を蓄積し、該各画素に蓄積された電荷に基づく信号を、各画素の画素アンプから各画素ごとのタイミングで順に出力し、
該撮影された画像中に、情報信号に基づく縞模様を、該画素の行方向または列方向に生じさせ、該縞模様の発生状態に基づき該情報信号を抽出し、且つ、該情報信号をフレーム単位で画像処理し、1フレーム内で複数サンプルの該情報信号を抽出し復調することを特徴とする。
また、本発明の他の可視光受信方法は、
可視光通信用に光源から照射される可視光を、撮像素子を有するカメラにより撮影し、該カメラが撮影した該撮像素子の画像データに基づき、該可視光に重畳して送信された情報信号を受信する可視光受信方法において、
前記カメラは、画素アンプ順次出力式撮像素子上に反射面を介して該可視光を入射させて、該反射面を介して該光源を撮影し、
該画素アンプ順次出力式撮像素子は、各画素ごとのタイミングで電荷を蓄積し、該各画素に蓄積された電荷に基づく信号を、各画素の画素アンプから各画素ごとのタイミングで順に出力し、
該撮影された画像中に、情報信号に基づき断続する断続模様を、該画素の行方向または列方向に生じさせ、該断続模様の発生状態に基づき該情報信号を抽出し、且つ、該情報信号をフレーム単位で画像処理し、1フレーム内で複数サンプルの該情報信号を抽出し復調することを特徴とする。
この発明によれば、1フレームの画像データに含まれる情報信号の複数サンプルを1回の処理で抽出することができるので、従来に比べ、高速で送信データを受信することができる。
また、撮像素子は、壁面などの反射面を介して光源を撮影し、それにより、結像しない画像を撮像することになる。このため、通常のカメラがレンズで被写体を結像して被写体画像を撮影する場合と比べ、結像画像の輪郭線などのノイズの影響を受けずに、また光源像が白飛びすることなく、可視光を撮影することができ、受信データを正確に抽出することができる。
なお、結像しない画像とは、カメラが捉える被写体の像がカメラの撮像素子上で結像しない、という意味であり、例えば、拡散フィルターを通る光の被写体画像、ピントをずらしたデフォーカス画像、集光用の光学系を通らない光の被写体画像などが結像しない画像である。また、カメラで拡散フィルターを通して或いは白色系のスクリーン状反射面を介して光源を撮影する場合、拡散フィルター或いはスクリーン状反射面に焦点が合った場合であっても、被写体となる光源は結像しない画像となる。
また、現在、汎用のカメラには、画素アンプ順次出力式撮像素子が使用されるので、汎用のカメラを搭載する携帯電話機などの携帯端末であれば、可視光通信用の可視光を受光するための専用の受光素子を設ける必要がなく、汎用の携帯端末を使用して、可視光通信の情報信号を簡単に受信することができる。
また、カメラは、画素アンプ順次出力式撮像素子上に反射面を介して可視光を入射させて、反射面を介して光源を撮影し、画素アンプ順次出力式撮像素子は、画素の行または列ごとのタイミングで該行の画素または該列の画素に電荷を蓄積し、該各画素に蓄積された電荷に基づく信号を、各画素の画素アンプから各画素ごとのタイミングで順に出力し、撮影された画像中に、情報信号に基づく縞模様または断続模様を、該画素の行方向または列方向に生じさせ、該縞模様または断続模様の発生状態に基づき該情報信号を抽出し復調する。
このため、カメラを搭載する携帯端末などにおいて、カメラが、撮像素子により壁面などの反射面を介して光源を撮影すると、画像中に、情報信号に応じた縞模様または断続模様が行方向または列方向に明確に発生し、縞模様または断続模様は、時間軸とともに変化する、送信された可視光の輝度の明暗変化、つまり送信された情報信号を含むから、縞模様または断続模様の発生状態に基づき、可視光通信で送信された情報信号を抽出することができる。
本発明の可視光受信方法によれば、汎用のカメラを使用して、可視光通信用の可視光を撮影し、可視光通信用に送信された情報信号を簡単且つ高速で受信することができる。
本発明の一実施形態を示す可視光受信装置の構成ブロック図である。 画素アンプ順次出力式撮像素子の概略構成ブロック図である。 画素の回路構成説明図である。 可視光受信装置の受信処理のフローチャートである。 各画素の電荷の蓄積タイミングと各画素の信号出力タイミングを示す説明図である。 撮像素子の画像信号をグレースケール変換し、モノクロの画像信号に変換して、輝度成分を抽出した画像説明図である。 撮像素子の行方向に沿った各行線の画素から出力される輝度成分の平均値を算出して、各行線の輝度データをグラフ化した輝度平均値グラフである。 各行の画素の輝度平均値を二値化した輝度平均値二値化グラフである。 他の実施形態を示す画素アンプ順次出力式撮像素子の概略構成ブロック図である。 同実施形態の画素の回路構成説明図である。 各画素の電荷の蓄積タイミングと各画素の信号出力タイミングを示す説明図である。 同実施形態の可視光受信装置の受信処理のフローチャートである。
以下、本発明の一実施形態を図面に基づいて説明する。図1は可視光通信用の可視光を受信する可視光受信装置を備えた、携帯端末1の概略構成ブロック図を示している。
携帯端末1は、携帯電話機などのカメラ(デジタルカメラ)10を搭載した端末機器であり、携帯端末1のカメラモードにおいて、ファンクションスイッチなどを操作して、スチル画像または動画を撮影する。このスチル画像または動画の撮影時に、可視光通信用に送信される可視光の情報信号を受信する。
図1に示すように、カメラ10の光入射部に、結像用のレンズ13が配設され、レンズ13の内側に絞り機能を有するアイリス14が配置され、アイリス(虹彩絞り機構)14の内側に撮像素子11が配設され、レンズ13、アイリス14を通して撮影した画像の可視光を入射させる。アイリス14は、NDフィルター(減光フィルター)に代えて絞り機構とすることもできる。
レンズ13の前には、可視光通信用に送信される可視光信号を受信するために、光拡散フィルター12が配置され、被写体からの光を拡散させてカメラ10に入射させ、拡散光でぼかした状態として可視光を撮影する。これにより、被写体の拡散光がカメラ10内に入射され、可視光通信用の可視光を投光する可視光送信機の投光器がスポットライトのような照明器具であったとしても、投光器の光源像が白飛びすることなく、さらに、被写体の明暗や輪郭線が縞模様の抽出に悪影響(ノイズ)を与えることなく、可視光通信用の可視光を撮影することができ、その画像中に縞模様、断続模様を明確に発生させることができる。
光拡散フィルター12は、スリガラス或いは光拡散フィルム等の光拡散層を有する板ガラス或いはフィルムシートから構成され、可視光受信を行なう際、携帯端末1の外部に露出したレンズ13の外面に貼着して使用することができる。また、光拡散フィルター12は、携帯端末1内に移動可能に配設し、可視光受信を行なう際、スイッチ操作などにより、光拡散フィルター12が入射光路に入るように移動させ、カメラを通常の写真撮影に使用する際は、光拡散フィルター12を光路から外すように動かす構造とすることもできる。
また、光拡散フィルター12は、印加電圧に応じて光拡散と光透過を切り替えるフィルム液晶から構成することもできる。フィルム液晶は、重ね合わせたフィルム内に例えばTN液晶を充填した薄く軽量化された液晶フィルターであり、通常時には、液晶を光透過状態とし、通常のカメラとしての使用を可能とし、可視光受信時には、印加電圧に応じて液晶を乳白色などの光拡散状態とする。このようなフィルム液晶は、光拡散と光透過を切り替え可能な光拡散フィルター12として、簡便に使用することができる。
カメラ10の撮像素子11として、各画素21で発生する電荷を各々の画素アンプ22で増幅し、各画素アンプ22から順に撮像信号を出力する画素アンプ順次出力式の撮像素子11が携帯端末1内に内蔵される。画素アンプ順次出力式撮像素子としては、CMOSイメージセンサーが、画素で発生する電荷を各々の画素アンプで増幅し、各画素アンプから順に撮像信号を出力する撮像素子であるため、好適に使用することができる。画素アンプ順次出力式の撮像素子11は、図2に示すように構成され、その走査デバイスは、行方向に走査する行走査デバイス16と列方向に走査する列走査デバイス17とから構成される。
CMOSイメージセンサーからなる画素アンプ順次出力式の撮像素子11は、図2に示す如く、多数の画素21が行列のマトリックス状に配置される。図3に示すように、各画素21は、受光素子と受光素子に生じた電荷を蓄積するコンデンサ部を有し、切替スイッチ28の切替動作に応じて、露光時に発生した電荷の蓄積と、蓄積した電荷に基づく画素信号の出力とを切り替えるように構成される。
各画素21の露光タイミングつまり電荷の蓄積動作は、図5に示すように、同一の行内の画素21は、同一の蓄積タイミングで、電荷の蓄積を行うように、画素21の各行についてシャッター信号線30が配設され、シャッター信号線30からの信号に基づき、各行の画素21が各々の行ごとにおいて同一タイミングで電荷の蓄積を行うようになっている。各行に沿って配設されたシャッター信号線30には行選択スイッチ32が接続され、図5に示す如く、画素21の各行は、行ごとに順にずらしたタイミングで電荷の蓄積つまり露光動作を行い、電荷蓄積後の信号の出力は、電荷を蓄積した行の画素21から順に、電荷に基づく信号を出力し、全ての画素21から画素信号を順に出力する。
図2に示す如く、各画素21の出力側に各々画素アンプ22が設けられ、画素アンプ22の出力側は画素選択スイッチ23を介して垂直信号線25に接続される。行走査デバイス16は、マトリックス状に配置された各々の画素21の電荷を、画素アンプ22で増幅し、画素選択スイッチ23を通して、その出力側に接続された列方向の各垂直信号線25に送り、各行の各画素21の電荷に基づく信号を、各垂直信号線25を通して、順次出力させるように接続される。
列走査デバイス17は、各垂直信号線25の出力側に接続された列選択スイッチ24を1本の水平信号線26に接続して構成され、各列選択スイッチ24のオンオフ制御により、列方向の垂直信号線25を選択し、各垂直信号線25の画素21からその荷重に基づく信号を、1本の水平信号線26を通して出力する。このために、各垂直信号線25が列方向に沿って配置され、各行方向に配置された各行線の画素21の出力側が画素アンプ22と画素選択スイッチ23を介して垂直信号線25に接続される。垂直信号線25は、列方向に向けて延設され、マトリックス状の各列上に配置される多数の画素21に沿った列と平行に配置される。各垂直信号線25の下端には、第2アンプ27が接続され、第2アンプ27の出力側は列選択スイッチ24を介して1本の水平信号線26に接続される。
一方、行走査デバイス16には、上記の如く、画素21の各行に沿って、シャッター信号線30が配設され、同一行内の各画素21は、カメラのシャッター操作時、このシャッター信号線からの信号に基づく露光タイミングで、同時に電荷の蓄積を行なうようになっている。画素21からの出力信号は、電荷の蓄積後の切替スイッチ28の切替動作と画素選択スイッチ23の動作に基づき出力されるように接続され、図5に示すように、撮影時、各行列の全画素21から画素信号が順に出力される。
これにより、カメラ10のシャッターをオンして、可視光を撮影したとき、画素アンプ順次出力式の撮像素子11は、各行の画素21において、同一行の各画素21は同一のタイミングで電荷の蓄積を行い、電荷の蓄積後、全画素21からは、蓄積された電荷に基づく信号が順に出力され、画素アンプ22で増幅された後、画素選択スイッチ23のスイッチング動作と列選択スイッチ24のスイッチング動作に基づき、垂直信号線25に送出され、水平信号線26を通して出力される。
つまり、送信された可視光をカメラ10で撮影すると、撮像素子11は、図2において、最上段のシャッター信号線30の行選択スイッチ32がオンし、最上段の画素21で電荷の蓄積が同時に行われ、次に、2番目の行のシャッター信号線30の行選択スイッチ32がオンし、2段目の行の画素21において、電荷の蓄積が行われる。この後、3段目、4段目と順に最後の行の画素21まで順に電荷の蓄積が行われ、各行ごとの露光(電荷の蓄積)が各行ごとに順にずらした露光タイミングで電荷の蓄積が行なわれる。一方、電荷の蓄積を行った後、図5に示すように、各行の画素21は、最上段の画素21から、電荷に基づく画素信号が順に出力される。
このとき、図2に示す撮像素子11では、先ず、左端の垂直信号線25に接続された最上段の画素選択スイッチ23がオンし、且つ水平信号線26に接続された左端の列選択スイッチ24がオンし、これにより、最上段左端の画素21から信号が出力され、次に、同じ行の左端から2番目の画素21の画素選択スイッチ23がオンし、且つ2番目の垂直信号線25に接続された列選択スイッチ24がオンし、これにより、同一行の2番目の画素21から信号が出力される。このようにして、先ず、最上段の行の画素21から蓄積された電荷に基づく信号が順に出力され、次に、2段目の行の左端の画素21から順に信号が出力され、このような動作がこの後、3段目、4段目と続き、最終的に最下段の行の画素21から順に信号が出力される。
上記の如く、図2の撮像素子11では、撮影時、最上段のシャッター信号線30から順にその行選択スイッチ32がオンし、最上段の画素21で電荷の蓄積が同時に行われ、次に2段目の行のシャッター信号線30の行選択スイッチ32がオンして、2段目の行の画素21で電荷の蓄積が行われるように、露光動作が行なわれ、電荷の蓄積の後、各行の画素21は、最上段の画素21から、図5に示すように、電荷に基づく画素信号が順に出力される。これにより、最終的に右端の垂直信号線25を通して最下段の行の画素21から信号が出力され、1フレームの画像信号が取り込まれる。
図5に示すように、撮像素子11では画素21の各行における電荷の蓄積動作つまり露光タイミングが順にずれて行われ、最上段から2段目、3段目の行の画素における露光タイミングは順にずれるため、例えば1フレームの画像信号を取り込む時間が、カメラのフレームレート(例えば1/30秒〜1/60秒)とされ、送信データが重畳された可視光に時間的な明暗がある場合、1フレーム中の各行列の画素から出力される信号には、1フレーム中の画素が露光する時間に可視光の送信データが含まれる。
このため、可視光通信を行なう可視光送信装置の投光器(照明器具)から可視光通信規格(CP1222)に基づき、例えば4値PPM変調された可視光が4.8Kbpsで送信される場合、可視光に重畳される送信パルス信号の1サンプルを示す時間は約0.5m秒となり、この送信パルス信号を含む可視光の輝度の明暗変化が縞模様として撮像素子11の撮影画像中に発生する。これにより、撮像素子11により可視光通信用の可視光を撮影すると、情報信号を含む縞模様がその1フレーム中に撮像され、その画像信号が走査デバイスを通して画像処理装置に送出される。
汎用の携帯電話機に内蔵されるカメラ10は、通常、画素アンプ順次出力式の撮像素子(CMOSイメージセンサ)11を内蔵し、その画素数を例えば1200万画素とする場合、例えば3000行×4000列で画素が配列され、それが1フレームを構成する。撮像素子11の1フレーム分の各画素から信号を取り込む時間がカメラ10のフレームレートとなるから、例えば1/30秒のフレームレートで撮影する場合、1フレームの時間は約33m秒であり、上記可視光通信規格に基づく可視光通信用の情報信号の1bpsの時間は約0.25m秒となるから、1フレームの撮影により、複数サンプルの情報信号がカメラ10を使用する可視光受信装置において可能となる。
なお、この実施形態の可視光受信装置では、カメラ10で撮像され出力されるカラーの画像信号は、グレースケール変換を行ない、モノクロの画像信号に変換して、輝度成分を抽出するが、カメラで撮像され出力されるカラーの画像信号について、色信号毎に輝度成分を抽出することもできる。
また、この実施形態では、図示しない可視光通信用の可視光送信機からID情報を含む可視光を送信する例を説明するが、その場合には、複数の可視光送信機に各々、固有のID情報が割り当てられて設定され、それらのID情報は1フレームの画像データ中に充分に含ませることができる。
また、カメラ10は、単一のスチル画像を撮影し、縞模様を含む画像データに基づき、可視光送信され送信データ信号を復調して再生或いは表示するように使用されるが、可視光通信を行なう可視光送信装置の投光器(照明器具)を被写体として動画を撮影し、複数フレームの画像データを取り込み、それらに含まれる縞模様から送信データ信号を取り出すこともできる。
さらに、上記実施形態では、図2に示す如く、シャッター信号線30を画素21の行方向(図2の水平横方向)に沿って配設し、各行の画素21について同時に且つ行ごとに順にずれたタイミングで電荷の蓄積つまり露光動作を行うように構成したが、シャッター信号線を画素21の列方向(図2の縦方向)に沿って配設し、各列の画素21について同時に且つ列ごとに順にずれたタイミングで電荷の蓄積を行うように構成することもできる。
この場合、撮影画像の1フレーム中に撮像され、送信された可視光に含まされる情報信号を含む縞模様は、画素21の列方向に生じることとなる。つまり、上述したように、各行の画素21について同時に且つ行ごとに順にずれたタイミングで電荷の蓄積を行った場合、行方向に沿った縞模様(横縞模様)が撮影画像中に生じるところ、各列の画素21について同時に且つ列ごとに順にずれたタイミングで電荷の蓄積を行った場合、列方向に沿った縞模様(縦縞模様)が撮影画像中に生じるが、その縞模様には送信された送信データが含まれるため、当該縞模様に基づき送信されたデータを抽出することができる。
撮影画像信号を処理する画像処理装置は、図1に示すように、ADコンバータ18と画像処理LSI19を備え、ADコンバータ18を通して画像信号をデジタル信号に変換し、そのデジタル信号を画像処理LSI19に取り込み、画像処理を行なうように構成される。画像処理LSI19は、カラー情報と輝度情報を含む画像デジタル信号を取り込むと、輝度情報のみを取り出して、例えば0〜255階調のグレースケールデータに変換し、信号の輝度成分つまり縞模様成分を抽出し、図1に示すように、その抽出データをマイクロプロセッサ48に送出する。このような1フレームの撮影画像の縞模様は、図6に示すように、横方向の縞模様として撮影画像中に発生し、横方向の各縞の発生状態に、可視光通信用の情報信号が含まれることとなる。
携帯端末1は、上記の如くカメラ10を内蔵するとともに、無線LANに接続可能なPDA、タブレット型端末、或いは携帯電話通信網や無線LANに接続可能な携帯電話機から構成され、無線LANなどを通してインターネット等のネットワークに接続される。
また、携帯端末1は、図1に示すように、マイクロプロセッサ48を主要部として構成され、RAM,ROM等からなる記憶部50、及び入出力回路等を含む周辺インターフェイス53が含まれる。携帯端末1は、各種機能スイッチ入力用のタッチ入力が可能で、且つ動画、静止画、テキスト等を表示するタッチ感知ディスプレイ57、タッチ感知ディスプレイ57の制御を行なうディスプレイコントローラ56等を備える。さらに、携帯端末1は、無線LANに或いは携帯電話通信網に接続するためのRF回路54を備え、周辺インターフェイス53及びRF回路54を通して、無線LANに或いは携帯電話通信網に接続可能である。
携帯端末1の記憶部50には、ブラウザソフト、音声再生ソフト、及び可視光受信処理ソフトなどが予め記憶される。携帯端末1のマイクロプロセッサ48は、上記構成のカメラ10によって撮影された可視光通信用の送信データ信号(画像データ)を取り込み、行方向の輝度成分の平均値を算出し、さらに平均化された各行の輝度データを二値化し、二値化したデータから受信したPPM信号(PPM変調)された信号)を抽出し、当該PPM信号を復調し、可視光送信機から送信された音声データ或いは画像データ等の送信情報を取得し、再生する処理或いは表示する処理を行なう。また、可視光により送信された情報信号が可視光送信機の固有のID情報である場合、当該ID情報に対応したコンテンツ情報を再生し或いは表示する。
このために、携帯端末1には、音声信号を再生するためのオーディオ回路46及び画像や文字を表示する上記のディスプレイ57が設けられ、オーディオ回路46の出力側には、スピーカー52が接続され、入力側にはマイク51が接続される。携帯端末1のマイクロプロセッサ48は、上記のように、カメラ10によって撮影された可視光通信用の光源(照明器具)の縞模様を含む画像データから、可視光送信機のID情報を抽出し受信処理を行う。
さらに、マイクロプロセッサ48は、受信したID情報に基づき、予め記憶するコンテンツ情報の音声データを読み出し、アナログ信号に変換した後、その音声信号をオーディオ回路46に出力する。オーディオ回路46は音声信号を増幅しスピーカー52を駆動して音声が再生される。受信した受信データ或いはコンテンツ情報が画像データ或いは文字データの場合、ディスプレイコントローラ56を通してタッチ感知ディスプレイ57でそれらを表示するように構成される。
図1に示す携帯端末1のRF(Radio Frequency)回路54は、アンテナシステムやチューナーを含み、RF信号を送信或いは受信し、インターネット等に接続される無線LANのアクセスポイント或いは携帯電話通信網の基地局との間で、電波による通信を行うように構成される。
次に、上記構成の可視光受信装置の使用態様とその動作を、図4のフローチャートを参照して説明する。
可視光受信装置を内蔵する携帯端末1は、例えば美術館、博物館などにおいて、展示物の解説コンテンツ(音声ガイド)を視聴するために使用される。この場合、その施設等における展示物の近傍などの、解説コンテンツ(音声ガイド)を提供する場所に、図示しない可視光送信機(例えば照明器具兼用の投光器を有する可視光送信装置)が設置される。各可視光送信機には異なるID情報が割り当てられて設定され、各々のID情報に対応するコンテンツ情報は携帯端末1の記憶部50に記憶される。
美術館、博物館のように、展示物の解説用機器として携帯端末1を利用者に貸し出して使用する場合、それらの携帯端末1には、予め各ID情報(各展示物に対応するID)に対応して解説コンテンツ情報が取り込まれ、記憶部50に記憶されるが、これらのコンテンツ情報は、例えばネットワーク上のコンテンツサーバ内に予めID情報とともに格納されており、展示開催の際、携帯端末1を操作して、ネットワークを介してコンテンツサーバにアクセスし、携帯端末1にコンテンツ情報をダウンロードし、使用することができる。これにより、新たな展示会を美術館、博物館などで開催する場合、開始時に予めその解説用のコンテンツをダウンロードし、携帯端末1の記憶部50に格納しておけば、その展示会の開催中は、携帯端末1をネットワークに接続することなく、そのまま使用することができる。
各可視光送信機の投光器は、美術館などの施設における照明器具を兼用し、その投光部からの光は、展示物を照明するとともに、その展示物解説用のコンテンツを示すID情報がPPM変調され可視光に重畳して照射されている。
携帯端末1の使用者は携帯端末1のカメラ10のレンズ13面に光拡散フィルター12を装着し、または光路内に光拡散フィルター12を位置させ、若しくは光拡散フィルター12を光透過状態から光拡散状態に変え、入射光を拡散させて撮像素子11に入射させるようにし、展示物を照明する可視光を撮影する(ステップ100)。このとき、可視光送信機の投光器つまり光源にカメラ10を向けて光源を撮影してもよく、カメラ10を投光器の光源により照明される展示物に向けて、或いは可視光が照射される壁面などにカメラを向けて撮影してもよい。この場合、投光器の光源はカメラ10の撮像素子11上に結像されず、撮像素子11は結像しない画像を撮影する。
カメラ10のシャッターがオンされて、撮像素子11が可視光を受光すると、各行の画素21は、シャッター信号線30からの信号に基づき、図5に示すように、画素21の行ごとに同一のタイミングで、電荷の蓄積を行う。各行の画素21は、行ごとに順にずらしたタイミングで電荷の蓄積を行い、その後、電荷を蓄積した行の画素21から順に電荷に基づく画素信号が出力されて、画素アンプ22で増幅され、全ての画素21から画素信号が順に出力される。
このとき、撮像素子11は、画素選択スイッチ23のスイッチング動作と列選択スイッチ24のスイッチングの動作に基づき、先ず、最上段の行の左端の画素21から順に垂直信号線25、水平信号線26を通して、画素21からの信号の取り込みが行なわれる。次に、2段目の行の左端の画素21から右端の画素21について信号の取り込みが行なわれ、同様に、3段目の行、4段目の行の画素21からの信号の読み出しが順に行なわれ、最終的に最下段の行の右端の画素21から信号が出力される。これにより、撮像素子11の全画素21から1フレーム分の画像信号が取り出され、ADコンバータ18を通して画像処理装置に送出される。
すなわち、撮像素子11は、各画素21において、各行ごとの露光タイミングで、蓄積された電荷に基づく信号を、画素アンプ22を通して順に出力させて取り込むように動作する。このとき、先ず、図2の左端の垂直信号線25に接続された最上段の画素選択スイッチ23をオンさせ、且つ水平信号線26に接続された左端の列選択スイッチ24をオンさせ、図2の最上段の左端に位置する画素21の信号を出力させる。次に、同じ行の左端から2番目の垂直信号線25に接続された最上段の画素選択スイッチ23をオンさせ、且つ水平信号線26に接続された左端から2段目の列選択スイッチ24をオンさせ、図2の最上段の行の左から2段目に位置する画素21の画素信号が出力される。
このように、撮像素子11は、画素選択スイッチ23と列選択スイッチ24をオンオフ制御して、先ず最上段の行の全画素21について、左端から右端まで全ての画素21から順に信号が出力され、その後、同様に上から2段目の行の画素21について、蓄積された電荷に基づく信号が垂直信号線25及び水平信号線26を通して出力され、これらの信号が、左端から順に右端の画素まで順に画素信号が出力される。その後、同様に3段目、4段目の行の画素21について、垂直信号線25、水平信号線26を通して各画素21の信号が出力されて取り込まれ、さらに撮像素子11は最終的に右端の垂直信号線25を通して最下段の行の画素21から信号が出力される。
これにより、撮像素子11の各行ごとの画素21において、露光され蓄積された電荷に基づく画素信号が、画素アンプ22で増幅され、垂直信号線25、水平信号線26を通して、図5に示すように、全画素21から順に且つ各行の配列順に出力される。
撮像素子11の全画素21では、上記のように、各行ごとに露光が行なわれることとなり、送信された可視光に送信データが重畳されて可視光に時間的な明暗が生じている場合、その送信データを含む画素信号には行方向に沿って明暗に基づく縞模様(図6に示すような横縞模様)が生じる。撮像素子11の各画素21から出力されるこのような縞模様を含む画素信号は、ADコンバータ18でデジタル信号に変換され、画像処理LSI19に送られる。画像処理LSI19は1フレーム分の画像信号を取り込み、そこに含まれる輝度情報を取り出すための画像処理を行なう(ステップ110)。
例えば、可視光送信機の投光器から、可視光通信規格に基づき4値PPM変調された可視光が4.8Kbpsで送信される場合、可視光に重畳される送信パルス信号の1サンプルを示す時間は約0.5m秒となり、この送信パルス信号を含む可視光の輝度の明暗変化が、縞模様として撮像素子11の撮影画像中に発生する。縞模様は図6に示すように、撮像素子11の行方向に生じる。
画像処理LSI19は、カラー情報と輝度情報を含むデジタルの画像信号を取り込むと、輝度情報のみを取り出して、例えば0〜255階調のグレースケールデータに変換し、信号の輝度成分つまり縞模様成分を抽出し、その抽出データをマイクロプロセッサ48に送出する(ステップ120)。
マイクロプロセッサ48は、撮影した可視光に含まれる縞模様成分の抽出データを取り込むと、各行方向の輝度成分の平均値を算出する(ステップ130)。図7の輝度平均値グラフに示すように、各行方向の輝度成分の平均値は、縞模様が生じる部分で、各行方向の横軸(時間軸)に応じて大きく変化する。
さらに、マイクロプロセッサ48は、平均化された各行の輝度データを二値化する(ステップ140)。二値化処理は、予め設定された輝度の閾値を基準にして行なわれ、図8の輝度平均値二値化グラフに示すように、各行方向の輝度成分の平均値二値化データは、縞模様が生じる部分で、各行方向の横軸(時間軸)に応じて大きく変化する。
次に、マイクロプロセッサ48は、上記のように二値化した二値化データから、受信したPPM信号(4値PPM変調された信号)を抽出する(ステップ150)。
次に、マイクロプロセッサ48は、抽出されたPPM信号を復調し、可視光送信機から送信されたID情報を取り出す(ステップ160)。或いは、送信された可視光送信データが音声データ或いは画像文字データの場合、それらを再生する処理或いは表示する処理を行なう。可視光により送信された情報信号が可視光送信機の固有のID情報である場合、当該ID情報に対応したコンテンツ情報(音声案内等)を記憶部50から読み出し、スピーカー52を通して再生し或いはディスプレイ57に表示する。
このように、本発明の可視光受信装置によれば、汎用のカメラ10を搭載する携帯端末1において、カメラ10に光拡散フィルター12を装着して、或いは通常時に光透過状態の光拡散フィルター12を光拡散状態として、画素アンプ順次出力式の撮像素子11によりその光拡散画像を撮影し、光拡散画像中に、情報信号に応じた縞模様を行方向または列方向に生じさせ、情報信号を撮影画像中に捕捉する。このとき撮影画像に含まれる縞模様は、時間軸とともに変化する情報信号(送信される可視光の輝度の明暗変化)を含み、その縞模様の発生状態に、可視光通信で送信された情報信号が含まれる。この縞模様から情報信号を抽出することにより、汎用のカメラ10を搭載する携帯電話機などの携帯端末1であれば、可視光通信用の可視光を受光するための専用の受光素子を設ける必要がなく、汎用の携帯端末1を使用して、可視光通信の情報信号を簡単に受信することができる。
また、1フレームの画像データに含まれる情報信号の複数サンプルを1回の処理で抽出することができるので、従来に比べ、高速で送信データを受信することができる。また、撮像素子11は結像しない画像を撮影するため、通常のカメラがレンズで被写体を結像して被写体画像を撮影する場合と比べ、結像画像によるノイズの影響を受けず、受信データを正確に抽出することができる。
なお、上記実施形態では、カメラ10に光拡散フィルター12を装着して、光拡散画像を画素アンプ順次出力式の撮像素子11により撮影したが、光拡散フィルターに代えて、フォーカスをずらした画像、つまり結像しないデフォーカス画像を撮影し、デフォーカス画像中に縞模様を生じさせることもできる。この場合、撮像素子11には、焦点がずれて結像しないデフォーカス画像を入射させて、そのデフォーカス画像を撮影し、撮像素子11上に生じたデフォーカス画像中に縞模様を発生させる。これによれば、デフォーカス画像であるため、被写体の輪郭線などが縞模様にノイズとして悪影響を与えることはなく、縞模様の発生状態に基づき情報信号を抽出し復調することができる。
また、カメラ10に入射する可視光の光路から、レンズ13等の集光用光学系を外し、撮像素子11には、可視光を光学系で集光させずにそのまま入射させ、結像しない画像を撮像素子11で撮影するように構成することもできる。この場合、レンズ13等の光学系は、カメラを可視光受信に使用する際、移動機構により、カメラに入射する可視光の光路から自動的に或いは手動で外すように構成することができる。これによっても、被写体が撮像素子上で結像しないため、被写体の輪郭線などが縞模様にノイズとして悪影響を与えることはなく、縞模様の発生状態に基づき情報信号を抽出し復調することができる。
さらに、上述したように、シャッター信号線を画素21の列方向(図2の縦方向)に沿って配設し、各列の画素21について同時に且つ列ごとに順にずれたタイミングで電荷の蓄積を行い、各列の画素21で蓄積された電荷に基づく信号を、各列の順に全ての画素21から信号を順に出力するように構成することもできる。
この場合、先ず、図2の左端の垂直信号線25に接続された、左端列の全画素21に対しシャッター用の信号を印加して各画素21内の切替スイッチ電荷の蓄積側に切り替え、左端列の全画素21の電荷蓄積を行なう。その後、蓄積された電荷に基づく信号を、以下のように、各列の画素21から各列ごとに順に出力させる。つまり、先ず、図2の左端の垂直信号線25に接続された最上部の画素選択スイッチ23のみをオンさせ、且つ水平信号線26に接続された左端の列選択スイッチ24のみをオンさせ、図2の最上段の左端に位置する画素21の信号を出力させる。次に、図2の左端の垂直信号線25に接続された上から2番目の画素選択スイッチ23のみをオンさせ、且つ水平信号線26に接続された左端の列選択スイッチ24のみをオンさせ、図2の上から2番目に位置する画素21の信号を出力させる。このようにして、撮像素子11は、画素選択スイッチ23と列選択スイッチ24のオンオフを制御して、左端の垂直信号線25に接続された左端の列の画素21について順に上段から信号を出力され、その後、同様に左から2列目の垂直信号線25を通して左から2列目に配置された画素21について、順に上段から順に信号を出力させ、その後、同様に3列目、4列目の垂直信号線25を通して各行列の画素21の信号を出力させて取り込み、さらに撮像素子11は最終的に右端の垂直信号線25を通して各行列の画素21の信号を出力させる。これにより、撮影画像の1フレーム中に撮像され、送信された可視光に含まされる情報信号を含む縞模様は、画素21の列方向に生じる。
このように、各列の画素21について同時に且つ列ごとに順にずれたタイミングで電荷の蓄積を行った場合、列方向に沿った縞模様(縦縞模様)が撮影画像中に生じることとなり、その縦縞模様に、送信された送信データが含まれるため、列方向に沿った縞模様に基づき、送信されたデータを抽出することができる。
図9〜12は他の実施形態の可視光受信装置を示し、この例の可視光受信装置では、上記の縞模様に代えて、撮像素子41の画素21の行内または列内で断続する断続模様を生じさせ、その断続模様に基づき、送信された可視光の情報信号を受信する。図9はカメラの撮像素子41の構成を、図10は画素21の接続状態を示している。なお、上記カメラ10の撮像素子11と同様の部分については図9、10に上記と同じ符号を付してその説明は省略する。
このカメラの撮像素子41は、各画素21で発生する電荷を各々の画素アンプ22で増幅し、各画素アンプ22から順に撮像信号を出力する画素アンプ順次出力式の撮像素子であり、上記と同様に、携帯端末1内に内蔵される。画素アンプ順次出力式撮像素子である撮像素子41にはCMOSイメージセンサーが使用され、撮像素子41の走査デバイスは、図9に示すように、行方向に走査する行走査デバイス42と、列方向に走査する列走査デバイス43とから構成される。
CMOSイメージセンサーからなる画素アンプ順次出力式の撮像素子41は、図9に示す如く、多数の画素21が行列のマトリックス状に配置され、各画素21の出力側には各々画素アンプ22が設けられ、画素アンプ22の出力側は画素選択スイッチ23を介して垂直信号線25に接続される。行走査デバイス42は、マトリックス状に配置された各々の画素21の電荷の信号を、画素アンプ22で増幅し、画素選択スイッチ23を通して、その出力側に接続された列方向の各垂直信号線25に送り、各行の各画素21の電荷に基づく信号を、各垂直信号線25を通して、順次出力させるように構成される。図10に示すように、各画素21には、露光時に生じる電荷を蓄積する電荷蓄積状態と、蓄積した電荷に基づき信号を出力する状態を切り替える切替スイッチ28が設けられる。
また、列走査デバイス43は、各垂直信号線25の出力側に接続された列選択スイッチ24を1本の水平信号線26に接続して構成され、各列選択スイッチ24をオンオフ制御して、列方向の垂直信号線25を選択し、各垂直信号線25の画素21からその電荷に基づく信号を、1本の水平信号線26を通して出力するように構成される。つまり、各垂直信号線25は、列方向に沿って配置され、各行方向に配置された各行線の画素21の出力側が画素アンプ22と画素選択スイッチ23を介して垂直信号線25に接続される。
垂直信号線25は、列方向に向けて延設され、マトリックス状の各列上に配置される多数の画素21に沿った列と平行に配置される。各垂直信号線25の下端には、第2アンプ27が接続され、第2アンプ27の出力側は列選択スイッチ24を介して1本の水平信号線26に接続される。
さらに、図9に示すように、行走査デバイス42には、各行方向に配列された各画素21の各行について、シャッター信号線30が行方向に沿って配設される。このシャッター信号線30はカメラ10のシャッター動作、つまり各画素21に対し画像信号を出力させる信号を発生させるラインであり、各行の各シャッター信号線30には、行選択スイッチ32が直列に接続され、各シャッター信号線30と各画素21との間には画素選択スイッチ31が接続される。
撮像素子41は、上記構成により、カメラ10のシャッター操作時、全画素21について、最上段の行から最下段の行にかけて順に電荷の蓄積を行い、且つ、電荷の蓄積を行った各画素21は、その蓄積電荷に基づき、信号の出力を順に行うように構成される。このような全ての画素21について順に行なわれる電荷の蓄積と信号の出力の動作は、カメラ10のコントローラにより、画素選択スイッチ23、画素選択スイッチ31、行選択スイッチ32、及び列選択スイッチ24をオンオフ制御して行なわれ、全ての画素21から、各々の画素21ごとに、画素アンプ22を通して信号を順に出力させ、垂直信号線25、水平信号線26を通してADコンバータに送出するように制御される。
例えば、行ごとに全画素21を走査して信号を出力させる場合、先ず、図9において、最上行のシャッター信号線30の信号線スイッチ32をオンし、最上行の左端の画素21から順に信号を取り出すために、最上行左端の画素21の画素選択スイッチ31をオンし、且つ図10の切替スイッチ28を電荷の蓄積側として、先ず、電荷の蓄積を行い、その後、切替スイッチ28を電荷の蓄積から信号の出力側に切り替え、画素アンプ22を通して信号を増幅し、さらに出力側の画素選択スイッチ23をオンして信号を垂直信号線25に出力させる。
これにより、図11のように、先ず、最上行左端の画素21で電荷の蓄積が行われ、次に蓄積された電荷に基づく信号が左端の垂直信号線25を通して出力され、第2アンプ27及び列選択スイッチ24を通して、画像信号が1本の水平信号線26に出力され、画像処理LSI19に取り込まれる。このような画素21おける電荷の蓄積と信号の出力は、上記の如く、先ず最上行の画素21について、左から右に順に行なわれ、次に同様の動作が2段目の行の各画素21について実施され、2段目の行の各画素21から順に信号が画素選択スイッチ23を通して垂直信号線25に出力され、同様に、3段目の行の画素21、4段目の行の各画素21についても、同様に電荷の蓄積と信号の出力が行なわれ、各画素21から順に信号が画素選択スイッチ23を通して垂直信号線25に出力される。そして、垂直信号線25上の信号は第2アンプ27及び列選択スイッチ24を通して、水平信号線26に出力される。
上記動作は、全て行の画素21について繰り返され、各々の画素21から順に画像信号が、画素アンプ22及び画素選択スイッチ23を通して、垂直信号線25に出力され、信号は、各列の垂直信号線25、第2アンプ27及び列選択スイッチ24を通して、1本の水平信号線26に出力され、画像処理LSI19に取り込まれるように構成される。画像処理LSI19では、各画素21ごとにその画像信号が1サンプルとして処理されるように動作する。
次に、図11のタイミング説明図及び図12のフローチャートを参照して上記可視光受信装置の動作を説明する。
携帯端末1の使用者は携帯端末1のカメラ10のレンズ13面に光拡散フィルター12を装着し、或いは内蔵する光拡散フィルター12を通して入射光を撮像素子41に入射させるようにし、展示物を照明する可視光を撮影する(ステップ200)。
このとき、可視光送信機の投光器つまり光源にカメラ10を向けて光源を撮影してもよく、カメラ10を投光器の光源により照明される展示物に向けて、或いは可視光が照射される壁面などにカメラを向けて撮影してもよい。この場合、投光器の光源はカメラ10の撮像素子41上に結像されず、撮像素子41は結像しない画像を撮影する。
このとき、画素アンプ順次出力式の撮像素子41は、シャッターがオンされると、各行のシャッター信号線30の行選択スイッチ32が最上段の行から順にオンし、且つ各行において、各列の画素選択スイッチ31が順にオン動作する。これにより、可視光を受光する画素21は、先ず最上段の行において、各画素21が順に露光動作した後、図10の切替スイッチ28が電荷の蓄積から信号の出力に切り替わり、これにより、各行の各画素21において、蓄積された電荷に基づく信号が各画素21から順に出力され、信号は各画素21の画素アンプ22で増幅され、各画素21から順次、画像信号が出力され、各垂直信号線25、第2アンプ27、列選択スイッチ24を通して画像処理装置に送出され(ステップ210)、各画素21の受光信号が1サンプルのデータとして処理される。
このような撮像素子41の画素21の動作は、図11に示すようなタイミングで、例えば最上段の行から最下段の行まで順に行なわれ、全ての画素21から信号が順に出力される。つまり、撮像素子41は、先ず、図9の最上段のシャッター信号線30の行選択スイッチ32がオンし、その左端の画素選択スイッチ31がオンし、図10の切替スイッチ28が電荷の蓄積側に切り替わると、最上段左端の画素21に電荷が蓄積され、その後、切替スイッチ28が信号の出力側に切り替わり、信号が画素アンプ22で増幅されて出力される。出力された信号は、画素選択スイッチ23のオン動作により、左端の垂直信号線25に出力され、垂直信号線25の信号は、第2アンプ27、列選択スイッチ24を通して水平信号線26に出力され、この最上段左端の画素信号は、画像処理LSI19に取り込まれる(ステップ210)。
次に、図9の最上段のシャッター信号線30の2番目の行選択スイッチ32がオンし、且つ最上段左端から2番目の画素選択スイッチ31がオンし、それにより、最上段左端から2番目の画素21に電荷が蓄積された後、電荷に基づく信号が当該画素21から出力され、画素アンプ22で増幅され、画素選択スイッチ23のオンにより、その画素信号が左端から2番目の垂直信号線25に出力される。2番目の垂直信号線25の画素信号は、第2アンプ27、列選択スイッチ24を通して上記と同様に水平信号線26に出力され、この最上段左端から2番目の画素信号も、1サンプル用の画素信号として、画像処理LSI19に入力される。
これにより、撮像素子41は、最上段の各画素21から順に信号が出力され、それらの画素信号が各垂直信号線25を通して、且つ各垂直信号線25の第2アンプ27及び列選択スイッチ24から水平信号線26を通して、最上段の各画素21からの画素信号が順に出力される。
次に、2番目の行のシャッター信号線30の行選択スイッチ32がオンし、上記と同様に、2番目の行の左端の画素21の電荷が画素アンプ22で増幅されて出力され、画素選択スイッチ23のオン動作により、その画素信号が垂直信号線25に出力され、第2アンプ27及び列選択スイッチ24から水平信号線26を通して、2番目の左端の画素21からの画素信号が出力され、この2番目の左端の画素信号も、1サンプル用の画素信号として、画像処理LSI19に入力される。
このようにして、撮像素子41の各画素21に蓄積された信号電荷が画素アンプ22で増幅された状態で、各画素21ごとに出力される。これにより、撮像素子41では、各画素21ごとに露光が行なわれることとなり、各画素21の信号が順に出力される。撮像素子41の各画素21から出力される画素信号は、ADコンバータ18でデジタル信号に変換され、画像処理LSI19に送られ、画像データが取り込まれる(ステップ210)。
画像処理LSI19は、1フレーム分の画像信号を取り込むが、撮像素子41においては、各画素21ごとの画像信号が1サンプルとして入力され処理されるので、画像処理LSI19は非常に高速で画像信号をサンプリングし、そこに含まれる輝度情報を取り出すことができる。
例えば、可視光送信機の投光器から、可視光通信規格に基づき4値PPM変調された可視光が4.8Kbpsで送信される場合、可視光に重畳される送信パルス信号の1サンプルを示す時間は約0.5m秒となり、この送信パルス信号を含む可視光の輝度の明暗変化が、行内で断続する断続模様として撮像素子41の撮影画像中に発生する。断続する断続模様は、撮像素子41の行方向に生じ、このような断続模様は各画素21の画素信号に含まれる情報信号に応じて発生する。
次に、画像処理LSI19は、カラー情報と輝度情報を含む上記画像信号を取り込むと、輝度情報のみを取り出して、例えば0〜255階調のグレースケールデータに変換し、信号の輝度成分つまり断続する縞模様成分を抽出し、その抽出データをマイクロプロセッサ48に送出する(ステップ220)。
マイクロプロセッサ48は、各画素21ごとの輝度データを二値化する(ステップ230)。二値化処理は、予め設定された輝度の閾値を基準にして行なわれ、各画素21の輝度成分の二値化データは、断続縞模様が生じる部分で、各行方向の横軸(時間軸)に応じて大きく変化するとともに、縞模様が断続する時間に応じて変化する。そして、マイクロプロセッサ48は、上記のように二値化した二値化データから、受信したPPM信号(4値PPM変調された信号)を抽出する(ステップ240)。
次に、マイクロプロセッサ48は、抽出されたPPM信号を復調し、可視光送信機から送信されたID情報を取り出す(ステップ250)。或いは、送信された可視光送信データが音声データ或いは画像文字データの場合、それらを再生する処理或いは表示する処理を行なう。可視光により送信された情報信号が可視光送信機の固有のID情報である場合、当該ID情報に対応したコンテンツ情報(音声案内等)を記憶部50から読み出し、スピーカー52を通して再生し或いはディスプレイ57に表示する。
なお、上記実施形態では、図9に示す如く、シャッター信号線30を画素21の行方向(図9の水平横方向)に沿って配設し、各行の画素21について順にずれたタイミングで電荷の蓄積及びその後の信号出力を行うように構成したが、シャッター信号線を画素21の列方向(図2の縦方向)に沿って配設し、各列の画素21について列方向に順にずれたタイミングで電荷の蓄積を行い、その後、信号の出力を行なうように構成することもできる。
この場合、撮影画像の1フレーム中に撮像され、送信された可視光に含まされる情報信号を含む断続模様は、画素21の列方向に生じる。つまり、各列の画素21について列ごとに順にずれたタイミングで電荷の蓄積を行い、これにより、列方向に沿った断続模様を撮影画像中に生じさせる。その後、各列の画素21について蓄積された電荷に基づく信号を出力させることにより、列方向に沿った断続模様を撮影画像中に生じさせ、その断続模様に含まれる送信データを抽出することができる。
このように、携帯端末1のカメラは、画素アンプ順次出力式の撮像素子41によりその光拡散画像を撮影し、光拡散画像中に、情報信号に応じた断続模様を行方向または列方向に生じさせ、情報信号を撮影画像中に捕捉する。このとき撮影画像に含まれる断続する断続模様は、時間軸とともに変化する情報信号(送信される可視光の輝度の明暗変化)を含み、その断続する断続模様の発生状態に、可視光通信で送信された情報信号が含まれる。この断続する断続模様から情報信号を抽出することにより、汎用のカメラ10を搭載する携帯電話機などの携帯端末1であれば、可視光通信用の可視光を受光するための専用の受光素子を設ける必要がなく、汎用の携帯端末1を使用して、可視光通信の情報信号を簡単に受信することができる。
また、各画素21ごとに得られる情報信号を1サンプルとしてサンプリングを高速で行なって抽出することができるので、従来に比べ、高速で送信データを受信することができる。また、撮像素子41は結像しない画像を撮影するため、上記と同様に、通常のカメラがレンズで被写体を結像して被写体画像を撮影する場合と比べ、結像画像によるノイズの影響を受けず、受信データを正確に抽出することができる。
1 携帯端末
10 カメラ
11 撮像素子
12 光拡散フィルター
13 レンズ
14 アイリス
16 行走査デバイス
17 列走査デバイス
18 ADコンバータ
21 画素
22 画素アンプ
23 画素選択スイッチ
24 列選択スイッチ
25 垂直信号線
26 水平信号線
27 第2アンプ
28 切替スイッチ
30 シャッター信号線
31 画素選択スイッチ
32 行選択スイッチ
41 撮像素子
42 行走査デバイス
43 列走査デバイス
46 オーディオ回路
48 マイクロプロセッサ
50 記憶部
51 マイク
52 スピーカー
53 周辺インターフェイス
54 RF回路
56 ディスプレイコントローラ
57 ディスプレイ

Claims (2)

  1. 可視光通信用に光源から照射される可視光を、撮像素子を有するカメラにより撮影し、該カメラが撮影した該撮像素子の画像データに基づき、該可視光に重畳して送信された情報信号を受信する可視光受信方法において、
    前記カメラは、画素アンプ順次出力式撮像素子上に反射面を介して該可視光を入射させて、該反射面を介して該光源を撮影し、
    該画素アンプ順次出力式撮像素子は、画素の行または列ごとのタイミングで該行の画素または該列の画素に電荷を蓄積し、該各画素に蓄積された電荷に基づく信号を、各画素の画素アンプから各画素ごとのタイミングで順に出力し、
    該撮影された画像中に、情報信号に基づく縞模様を、該画素の行方向または列方向に生じさせ、該縞模様の発生状態に基づき該情報信号を抽出し、且つ、該情報信号をフレーム単位で画像処理し、1フレーム内で複数サンプルの該情報信号を抽出し復調することを特徴とする可視光受信方法。
  2. 可視光通信用に光源から照射される可視光を、撮像素子を有するカメラにより撮影し、該カメラが撮影した該撮像素子の画像データに基づき、該可視光に重畳して送信された情報信号を受信する可視光受信方法において、
    前記カメラは、画素アンプ順次出力式撮像素子上に反射面を介して該可視光を入射させて、該反射面を介して該光源を撮影し、
    該画素アンプ順次出力式撮像素子は、各画素ごとのタイミングで電荷を蓄積し、該各画素に蓄積された電荷に基づく信号を、各画素の画素アンプから各画素ごとのタイミングで順に出力し、
    該撮影された画像中に、情報信号に基づき断続する断続模様を、該画素の行方向または列方向に生じさせ、該断続模様の発生状態に基づき該情報信号を抽出し、且つ、該情報信号をフレーム単位で画像処理し、1フレーム内で複数サンプルの該情報信号を抽出し復調することを特徴とする可視光受信方法。


JP2017074743A 2013-06-04 2017-04-04 可視光受信方法 Pending JP2017123696A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013118240 2013-06-04
JP2013118240 2013-06-04

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013185386A Division JP6183802B2 (ja) 2013-06-04 2013-09-06 可視光受信方法及びその装置

Publications (1)

Publication Number Publication Date
JP2017123696A true JP2017123696A (ja) 2017-07-13

Family

ID=59306681

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017074743A Pending JP2017123696A (ja) 2013-06-04 2017-04-04 可視光受信方法

Country Status (1)

Country Link
JP (1) JP2017123696A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020174287A (ja) * 2019-04-11 2020-10-22 学校法人加計学園 可視光通信装置及び可視光通信方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014212503A (ja) * 2012-05-24 2014-11-13 パナソニック株式会社 情報通信方法および情報通信装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014212503A (ja) * 2012-05-24 2014-11-13 パナソニック株式会社 情報通信方法および情報通信装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020174287A (ja) * 2019-04-11 2020-10-22 学校法人加計学園 可視光通信装置及び可視光通信方法
JP7228889B2 (ja) 2019-04-11 2023-02-27 学校法人加計学園 可視光通信装置及び可視光通信方法

Similar Documents

Publication Publication Date Title
JP6183802B2 (ja) 可視光受信方法及びその装置
JP6480419B2 (ja) 可視光受信方法
JP4258491B2 (ja) 情報受信装置、情報伝送システム、情報受信方法、及び、情報受信プログラム
JP5515472B2 (ja) 撮像装置、撮像方法及びプログラム
JP2002123825A (ja) 情報端末装置
JP2003179556A (ja) 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法
US9497410B2 (en) Imaging apparatus and focus control method
JP2007135140A (ja) 撮像装置
JP2009077057A (ja) 撮像装置、撮像装置の制御方法
CN110830730B (zh) 电子装置中用于生成移动图像数据的设备和方法
JP4640483B2 (ja) 撮像装置、及び、プログラム
JP2012120132A (ja) 撮像装置およびプログラム
JP2007127768A (ja) 撮像装置
JP2011009805A (ja) 光無線通信端末装置、光無線通信システム、光無線通信方法、およびプログラム
JP2011009803A (ja) 光無線通信装置、光無線通信携帯端末、送信装置、光無線通信方法、およびプログラム
JP2017123696A (ja) 可視光受信方法
US8681263B2 (en) Imager capturing an image with a rolling shutter using flicker detection
WO2020255715A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
CN111656766B (zh) 用于基于图像的服务的设备
JP2004158017A (ja) 情報端末装置
JP2019028507A (ja) イベント管理システム
JP2010178112A (ja) 撮像装置およびテレビドアホン装置
JP2005184470A (ja) カメラ付き携帯型電話機
JP2005168040A (ja) 情報端末装置
JP2011009804A (ja) 撮影装置、携帯端末、送信装置、撮影方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180213

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180925