JP2008193672A - 情報出力装置、情報出力方法、及び、プログラム - Google Patents

情報出力装置、情報出力方法、及び、プログラム Download PDF

Info

Publication number
JP2008193672A
JP2008193672A JP2008003587A JP2008003587A JP2008193672A JP 2008193672 A JP2008193672 A JP 2008193672A JP 2008003587 A JP2008003587 A JP 2008003587A JP 2008003587 A JP2008003587 A JP 2008003587A JP 2008193672 A JP2008193672 A JP 2008193672A
Authority
JP
Japan
Prior art keywords
unit
region
image
luminance
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008003587A
Other languages
English (en)
Other versions
JP4535133B2 (ja
Inventor
Kunio Sato
邦雄 佐藤
Norio Iizuka
宣男 飯塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2008003587A priority Critical patent/JP4535133B2/ja
Publication of JP2008193672A publication Critical patent/JP2008193672A/ja
Application granted granted Critical
Publication of JP4535133B2 publication Critical patent/JP4535133B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Optical Communication System (AREA)

Abstract

【課題】撮像画像領域が大きくても、扱うデータの処理量を少なくでき、ひいてはデータ転送量を上げることができる情報出力装置、情報出力方法、及び、プログラムを提供する。
【解決手段】受光ユニット40は、撮像部45の読み出し領域範囲やタイミングジェネレータを初期化した後、撮像部45からのフレーム画像をキャプチャ画像フレームバッファ46に取り込み、バッファポインタnで指定されたプレーンに格納し、バッファポインタを更新する。そして、バッファポインタが最大値になると、信号検出&ビット取り出し処理を行い、ビットデータが1バイトバッファリングされると、表示バッファ47の画像を液晶ディスプレイ44に転送し表示する。この際、信号検出処理で検出信号が無かった場合は、次の読み出し領域範囲の処理に切り換え(ステップS32)、その読み出し領域範囲について、同様の処理を繰り返す。
【選択図】 図21

Description

本発明は、たとえば、店頭における商品説明、博物館や展覧会における展示品説明、建築物等のランドマーク表示、広告表示、遊園地等の遊戯施設混雑状態表示など、様々な用途に利用できる情報出力装置、情報出力方法、及び、プログラムに関する。
従来から、商品や展示品などに関する情報の提示、あるいは、建築物等のランドマーク表示、広告表示、遊園地等の遊戯施設混雑状態表示などは、もっぱら、紙、垂れ幕、看板またはプレートなど(以下、便宜的に「情報提示物」という。)の上に書かれた文字情報の形で行われていた。
しかし、このような文字主体の情報提示は、(1)情報提示対象物の数が多い場合、看板等の情報提示物の数も多くなり、肝心の対象物が目立たなくなるうえ、情報提示物と情報提示対象物との対応関係が把握しにくく、誤った情報理解、例えば、商品Aの情報を商品Bの情報と誤解してしまうことがある。(2)また、情報提示物の上に書かれた文字情報は、通常の視力を有する人であれば誰でも読み取ることができるため、特定の人だけを対象とした限定的情報(例えば、商品の仕入価格や最大値引率等)を提示する場合は、符牒化して書込むなどの保全策を講じるが、あまり複雑な符牒化は使い勝手が悪いことから簡単なものにせざるを得ず、情報の保全効果が低下して容易に読み取られるおそれがある。
そこで、本件発明者らは、先に、光空間伝送による情報伝送を利用することによって、情報提示対象品とその提示情報との対応関係を明確にして情報把握の誤解をなくすことができる撮像装置を提案している(下記特許文献1参照)。
この提案では、撮像手段と、前記撮像手段によって撮像された画像を時系列的に記憶する記憶手段と、前記記憶手段に記憶された画像から特定の画像領域を切り出す切り出し手段と、前記切り出し手段によって切り出された画像領域の時系列的な輝度変化から情報を抽出する抽出手段と、前記抽出手段によって抽出された情報を前記撮影画像に重畳して表示する表示手段とを備えたことを特徴とするものであり、紙、垂れ幕、看板またはプレート等の情報提示物(商品等)とその情報の対応関係を情報提示装置で目視確認できるため、誤った情報理解、例えば、商品Aの情報を商品Bの情報と誤解することがないというものである。
特願2000−056260号(特開2001−245253)
ところで、上記提案は、撮像画像を時系列的に記憶して、その記憶画像の中から特定の画像領域を切り出し、切り出された画像領域の時系列的な輝度変化から情報を抽出して、その抽出情報を前記撮影画像に重畳表示するというものであるが、たとえば、似たような輝度変化パターンを持つ外乱光が近くにあった場合に情報の抽出が正しく行われないという問題点があり、この点において改善の余地があった。
また、画像領域を切り出す際、撮像画像全領域から特定の画像領域を抽出使用とする場合、非常に時間がかかるという問題もあった。
したがって、本発明が解決しようとする課題は、撮像画像領域が大きくても、扱うデータの処理量を少なくでき、ひいてはデータ転送量を上げることができる情報出力装置、情報出力方法、及び、プログラムを提供することにある。
請求項1記載の発明は、撮像手段と、この撮像手段によって順次撮像される画像を部分的に読み出す読出手段と、この読出手段によって読み出された領域が時系列的に輝度変化する領域か否かを判定する判定手段と、この判定手段により前記領域が時系列的に輝度変化する領域であると判定すると、前記領域の時系列的に輝度変化に基づく情報を出力する情報出力手段とを備えたことを特徴とする。
請求項2記載の発明は、上記請求項1記載の発明において、前記撮像手段の撮像領域を複数に分割する分割手段を更に備え、前記判定手段は、前記分割手段によって分割された複数の撮像領域夫々について、この領域が時系列的に輝度変化する領域か否かを判定することを特徴とする。
請求項3記載の発明は、上記請求項2記載の発明において、前記分割手段によって分割される撮像領域の大きさを、任意に変更する変更手段をさらに備えることを特徴とする。
請求項4記載の発明は、上記請求項1記載の発明において、前記読出手段は、順次撮像される画像を所定ドットおきに間引くことにより部分的に読み出すことを特徴とする。
請求項5記載の発明は、上記請求項4記載の発明において、前記読出手段によって間引かれる条件は複数種用意され、前記読出手段は、前記判定手段が時系列的に輝度変化する領域であると判定するまで、前記条件を更新させて順次撮像される画像を間引くことを特徴とする。
請求項6記載の発明は、上記請求項1乃至5の何れかに記載の発明において、前記撮像手段によって撮像された領域を表示する表示手段と、この表示手段に表示された領域のうち、前記判定手段によって時系列的に輝度変化する領域であると判定された領域を選択する領域選択手段と、この領域選択手段によって選択された領域について前記情報出力手段による情報の出力を指示する指示手段と、をさらに備えたことを特徴とする。
請求項7記載の発明は、撮像部にて順次撮像される画像を部分的に読み出す読出ステップと、この読出ステップにて読み出された領域が時系列的に輝度変化する領域か否かを判定する判定ステップと、この判定ステップにて前記領域が時系列的に輝度変化する領域であると判定すると、前記領域の時系列的に輝度変化に基づく情報を出力する情報出力ステップと、からなることを特徴とする。
請求項8記載の発明は、撮像部を備える情報出力ユニットが備えるコンピュータを、前記撮像部にて順次撮像される画像を部分的に読み出す読出手段、この読出手段によって読み出された領域が時系列的に輝度変化する領域か否かを判定する判定手段、この判定手段によって前記領域が時系列的に輝度変化する領域であると判定すると、前記領域の時系列的に輝度変化に基づく情報を出力する情報出力手段、として機能させることを特徴とする。
本発明によれば、撮像画像領域が大きくても、扱うデータの処理量を少なくでき、ひいてはデータ転送量を上げることができる。
以下、図面を参照して本発明の実施の形態を詳細に説明する。まず、本実施の形態における光通信方式及び光通信装置は、発光ユニットと受光ユニットの組み合わせを基本構成とする。発光ユニットは、商品や展示品、建築物等のランドマーク、広告看板、遊戯施設混などの情報提示対象物に取り付けられ、また、受光ユニットは、それらの情報提示対象物を目視する人物(以下「使用者」という。)によって携行される。発光ユニットの数は情報提示対象物の数に対応し、受光ユニットの数は使用者数に対応する。
(概念説明)
まず、始めに本発明の実施の形態(後述の第1〜第4の実施の形態)に共通の概念を説明する。
図1は、発光ユニット1の概念構成図である。発光ユニット1は、論理判定部2、第1パターン系列発生部3、第2パターン系列発生部4及び駆動部5を含む電子回路部6と、その電子回路部6に直流電源EVを供給するバッテリ7と、発光部8とからなる。
論理判定部2は、ディジタル化され、論理信号0、論理信号1からなる二値化された任意の送信情報TXを1ビットずつ取り込み、そのビットを判定して、論理信号1であれば第1パターン系列発生部3に対してパターン発生指令C1を出力し、論理信号0であれば第2パターン系列発生部4に対してパターン発生指令C0を出力する。
第1パターン系列発生部3、及び、第2パターン系列発生部4はそれぞれ論理判定部2からパターン発生指令C0/C1が出力されたときに、互いに相関度の低い特定のビットパターン系列(第1パターン系列SA、第2パターン系列SB)を発生する。
駆動部5は第1パターン系列発生部3、及び、第2パターン系列発生部4で発生した第1、及び第2パターン系列(SA/SB)を用いて直流電圧EVを変調し、その変調電圧mEVで発光部8を駆動する。発光部8は変調電圧mEV(ON区間)で発光し、0V(OFF区間)で消灯するという時系列的な輝度変化パターンを持つ光Pを発射する。
図2(a)は、第1および第2のパターン系列(SA/SB)の一例を示す図である。この図において、たとえば、任意の送信情報TXを「01011000・・・・」というビット列とした場合、前記TXの
iビット=0
i+1ビット=1
i+2ビット=0
i+3ビット=1
i+4ビット=1
i+5ビット=0
i+6ビット=0
i+7ビット=0
となるので、論理判定部2は、
iビット=C0
i+1ビット=C1
i+2ビット=C0
i+3ビット=C1
i+4ビット=C1
i+5ビット=C0
i+6ビット=C0
i+7ビット=C0
というようにC0、C1を順次出力する。
したがって、これらC1、C0が入力された第1パターン系列発生部3、及び、第2のパターン系列発生部4では、対応する第1パターン系列SA、第2パターン系列を生成し出力する。そして駆動部5では順次入力されたSA、SBに対応して、mEVを出力するので、結果として、送信情報TXは、SB、SA、SB、SA、SA、SB、SB、SB・・・・の時系列的な輝度変化パターンを持つ光Pとして発光部8より出力されることになる。
なお、概念説明において、第1パターン系列SA、及び、第2パターン系列SBは、後述の受光ユニット20(図3参照)側おいて、ノイズとなる外乱光の輝度変化パターンと異なるように設定しなければならない。しかも、これらのパターン系列においては「1」(点灯)と「0」(消灯)の数に大きな差がなく、しかも非同期の疑似乱数パターンのように規則性のないものであることが重要である。
また、概念説明において、第1パターン系列SA、及び、第2パターン系列SBのビット数は“5”としているが、これに限定されることはない。例えば、ビット数を増やせば外乱光の輝度変化との区別を付けやすくなるが、その反面、伝送効率を損なう。したがって、外乱光の排除を重視するか、送信情報TXの伝送効率を重視するかで、ビット数を柔軟に設定できるようにしてもよい。
さらに、概念説明において、第1パターン系列SA、及び、第2パターン系列において、一方のパターン系列から他方のパターン系列を生成することも可能となるようにしてもよい。この場合、たとえば、図2(b)に示すように、第2パターン系列SBを非反転バッファ9と反転バッファ10に通すことにより、第1パターン系列SA、及び、第2パターン系列を発生させることができる。すなわち、図1において、第1パターン系列発生部3、第2パターン系列発生部4を一つの構成とすることができる。
図3は、受光ユニット20の概念構成図である。受光ユニット20は、受光部21、パターン系列判定部22、論理信号1発生部23、及び、論理信号0発生部24からなる。受光部21は外部光を電気信号に変換するものであり、特に発光ユニット1(図1参照)から出力された光Pを受光して、その光PのON(点灯)区間とOFF(消灯)区間とを判別することにより論理判定を行い、これに基づくディジタル信号PDを発生する。
パターン系列判定部22は、2つの基準パターン系列(SAr/SBr)を記憶し、ディジタル信号PDのビット配列に含まれる二つのパターン系列(SA/SB)と基準パターン系列(SAr/SBr)とを比較し、ディジタル信号PDのビット配列にSArのパターンが含まれている場合は、その区間の間、第1パターン系列判定信号Caを出力する一方、ディジタル信号PDのビット配列にSBrのパターンが含まれている場合は、その区間の間、第2パターン系列判定信号Cbを出力する。
論理信号1発生部23、及び、論理信号0発生部24は上記パターン系列判定部22から第1パターン系列判定信号Caが出力している間、論理信号1を発生し、パターン系列判定部22から第2パターン系列判定信号Cbが出力している間、論理信号0を発生して、それらの論理信号を時系列的に出力することにより、時系列的に受光した光Pに基づく受信情報RXを再生する。
つまり、このような構成によれば、発光ユニット1に、「01011000」のビット列を持つ送信情報TXを与えた場合、論理判定部2は送信情報TXの各ビットを一つずつ読み込み、その論理を判定し、論理信号1であれば第1パターン系列発生部3に対してパターン発生指令C1を出力し、一方、論理信号0であれば第2パターン系列発生部4に対してパターン発生指令C0を出力する。
次に、第1パターン系列発生部3、及び、第2パターン系列発生部4はそれぞれ論理判定部2からパターン発生指令C1/C0が出されたときに対応する第1パターン系列SA、第2パターン系列SBを順次生成し出力する。
そして、このように出力された第1パターン系列SA、第2パターン系列SBにしたがって、駆動部5では駆動信号mEVを出力させ、発光部8からは、時系列的な輝度変化を持つ光Pが出力される。
一方、受光ユニット20の受光部21により、発光ユニット1からの光Pを時系列的に受光すると、受光部21からは、上記の時系列的な輝度変化に基づくディジタル信号PDが出力され、パターン系列判定部22において、このPDについて基準パターン系列(SAr/SBr)と順次比較される。
そして、パターン系列判定部22ではSAr、SBrのそれぞれの一致/不一致を比較判定し各判定結果ごとに第1パターン系列判定信号Ca、第2パターン系列判定信号Cbを出力する。
論理信号1発生部23、及び、論理信号2発生部24は、パターン系列判定部22による判定結果に基づいて、論理信号1、論理信号0を発生し、最終的に、送信情報TXと同一のビット列(「01011000」)を有する情報RXを再生する。
(第1の実施の形態)
次に、本発明を適用した第1の実施の形態を具体的に説明する。図4は、第1の実施の形態における発光ユニット及び受光ユニットを示す図であり(a)は発光ユニット30の正面斜視図、(b)は受光ユニット40の正面斜視図、(c)は受光ユニット40の背面斜視図である。発光ユニット30は適当な形状の外箱(望ましくは屋外設置に適した防滴構造の外箱)3
1に発光窓32を取り付けて構成されている。また、受光ユニット40は手持ちに適した形状のボディ41に光学レンズ部42、シャッターキー43及び液晶ディスプレイ44などを取り付けて構成された、ディジタルカメラ等の撮像装置である。
図5は、発光ユニット30及び受光ユニット40の電気的な内部構成図である。この図において、発光ユニット30は送出データメモリ33、パターンデータメモリ34、タイミングジェネレータ35、CPU36、発光部37及び発光窓32を有して構成されている。また、受光ユニット40は光学レンズ部42、シャッターキー43、撮像部45、キャプチャ画像バッファ46、表示バッファ47、液晶ディスプレイ44、タイミングジェネレータ48、CPU49、パターンデータメモリ50、基準画像バッファ51、フレーム時系列バッファ52、相関度評価画像バッファ53、二値化等作業用バッファ54及びデータリストメモリ55などを有して構成されている。なお、発光ユニット30及び受光ユニット40の電源部(バッテリ等)については図示を略している。
各部の機能を説明すると、まず、発光ユニット30のタイミングジェネレータ35は、後述の受光ユニット40におけるタイミングジェネレータの画像キャプチャクロック信号PCKと同期する所定周期の安定したクロック信号CKを発生する。
発光ユニット30のCPU36はタイミングジェネレータ35からのクロック信号CKに同期して、まず、送出データメモリ33に格納されている送信情報TXのi番目のビットを取り出し、そのビット値を判定し、論理信号1であればパターンデータメモリ34から第1パターン系列SAを取り出し、論理信号0であればパターンデータメモリ34から第2パターン系列SBを取り出し、第1パターン系列SA、第2パターン系列SBを発光部37に出力する。発光部37は論理信号1の区間で発光し、論理信号0の区間で消灯するという動作を行い、発光窓32を介して時系列的な輝度変化パターンを持つ光Pを出力する。
一方、受光ユニット40の撮像部45は、たとえば、CCD(Charge−Coupled Devices)やCMOS(Complementary Metal−Oxide Semiconductor)などのイメージセンサーで構成されており、光学レンズ部42を介して取り込まれた被写体の像を電気的なフレーム画像信号に変換し、キャプチャ画像クロック信号PCKに同期した周期でキャプチャ画像バッファ46に出力する。受光ユニット40のCPU49は、受光ユニット40の全体動作を制御するものであり、キャプチャ画像バッファ46に取り込まれたフレーム画像をそのまま表示バッファ47に送り、液晶ディスプレイ44に表示させる処理や、シャッターキー43の操作時に、表示バッファ47に取り込まれた画像を不図示の画像メモリにキャプチャする処理などを行うが、図示の受光ユニット40は特に以下の処理を行う点に特徴がある。
すなわち、受光ユニット40のCPU49は、キャプチャクロック信号PCKに同期してキャプチャ画像バッファ46に取り込まれたフレーム画像を、そのフレーム画像ごとに、フレーム時系列バッファ52の各プレーンに順次に格納する。ここで、フレーム時系列バッファ52は、いずれも1枚のフレーム画像のサイズに相当する記憶容量を持つ第1プレーンから第nプレーンまでを備えており、プレーン数nは少なくとも発光ユニット30におけるパターン系列(SA/SB)のビット数Nに対応する。たとえば、前記概念説明の例示ではSA及びSBのビット数が5ビット(N=5)であるため、フレーム時系列バッファ52のプレーン数nは少なくとも第1プレーンから第5プレーンまでの5プレーンとなる。以下、説明の便宜上、パターン系列(SA/SB)のビット数Nを5ビットにするとともにプレーン数nも5とすることにする。
第1プレーンから第5プレーンへのフレーム画像の書き込み順は以下の通りである。
1番目のフレーム画像=第1プレーン
2番目のフレーム画像=第2プレーン
3番目のフレーム画像=第3プレーン
4番目のフレーム画像=第4プレーン
5番目のフレーム画像=第5プレーン
6番目のフレーム画像=第1プレーン
7番目のフレーム画像=第2プレーン
8番目のフレーム画像=第3プレーン
9番目のフレーム画像=第4プレーン
10番目のフレーム画像=第5プレーン
このように順次第1プレーンから第5プレーンまでの書き込み動作をサイクリックに行う。
受光ユニット40のCPU49は、各プレーンへの書き込み順を制御(実際はバッファポインタnの値を制御)するとともに、並行して、各プレーンに書き込まれたフレーム画像の中から時系列的な輝度変化パターンを持つ画素領域を抽出し、その輝度変化パターンを二値化等作業用バッファ54で二値化する処理、及び、その二値化されたデータ(上記デジタル信号PDに相当)と、パターンデータメモリ50に保持されていた基準パターン系列(SAr/SBr)とを比較し、SArと一致した場合には論理信号1を発生し、一方、SBrと一致した場合には論理信号0を発生して、それらの論理信号をデータリストメモリ55に格納するという処理を実行する。また、受光ユニット40の液晶ディスプレイ44は、発光ユニット30による発光領域を含めた被写体像を表示し、さらに、その表示領域の特定部分(たとえば、画面中央部分)にこの発光領域に関する情報を吹き出しなどの図形を模してオーバラップ表示する。なお、基準画像バッファ51は手ぶれ補正のためのものであり、その利用の仕方については後述する。
図6は、発光ユニット30及び受光ユニット40の具体的な利用形態を示す図である。同図において、受光ユニット40は、都心の風景に画角αの角度で向けられている。画角αの内にはビル59、60、61やテレビ塔62及び自動車63、64などが入り、そのうち、ビル59、61、テレビ塔62に発光ユニット30が取り付けられている(輝点65〜67の位置)。受光ユニットの使用者には、発光ユニット30自体を視認することはできないが、それぞれの発光ユニット30は、時系列的な輝度変化パターンを持つ光Pを発光しており、輝点65〜67は、その光Pに相当している。光Pによる輝点65〜67以外に、自動車63のヘッドライト光68が外乱光として画各α内に存在する。
さて、受光ユニット40の液晶ディスプレイ44には、画角α内に存在するビル59、60、61、テレビ塔62及び自動車63、64の像(ビル像59A、60A、61A、テレビ塔像62A、自動車像63A、64A)や、各輝点像65A〜67Aやヘッドライト光68が写し出されている。
受光ユニット40は、各輝点像65A〜67Aを抽出し、その輝度変化パターンを基準パターン(SAr/SBr)と各々比較し、SArに一致する場合は論理信号1を発生し、また、SBrに一致する場合は論理信号0を発生する。そして、その論理信号1と論理信号0からなるビット列を文字列変換し、その変換結果をたとえば液晶ディスプレイ44に吹き出しなどの図形69をオーバラップ表示する。
このような効果を有する情報伝送システムよれば、市街地の様々なランドマークに取り付けられた発光ユニット30により、受光ユニット40の使用者は、建物の名称や入居テナント等の情報を離れた場所から得ることができる。また、建物のような大掛りなものでなくても、店頭に陳列された商品や博物館や展覧会等で展示される物体に発光ユニット30が取り付けられていれば、商品名や展示品の説明情報を離れた場所から得ることができる。
なお、この第1の実施の形態においては、外乱光としてヘッドライト光68を例示したが、これに限定されることは無く、蛍光灯であっても、各輝点と識別させることが本発明では可能である。これは、蛍光灯のような周期性を持つ点滅光の場合は、その点滅周期は電源の周波数に同期しているのみであり、各輝点の光Pの輝度変化パターンとは明らかに違うからである。
図7は、発光ユニット30のCPU36で実行される発光処理プログラムのフローチャートである。このフローチャートにおいて、CPU36は、まず、送信データメモリ33に格納されている送信情報TXから1バイト(8ビット)の情報を取り出す(ステップS10)。次に、その情報の先頭1ビットを取り出して(ステップS11)、判定し(ステップS12)、論理信号1であれば第1パターン系列(SA)で発光部37を点滅させ(ステップS13)、論理信号0であれば第2パターン系列(SB)で発光部37を点滅させる。そして、以上の処理を1バイト分繰り返した後(ステップS15)、再びステップS10に戻って実行し、情報の最後に到達したとき処理を終了する。
図8は、発光ユニット30の発光動作のタイミングチャートである。この例では、送信情報TXとして“X”、“T”、“o”、“w”、“e”・・・・という文字列を想定し、その文字列に対応するビット列(図では“X”→01011000)の各ビットを第1パターン系列(SA:11010)または第2パターン系列(SB:00101)に変換する例を示している。発光ユニット30の発光部37は、第1パターン系列(SA:11010)または第2パターン系列(SB:00101)で点滅し、その点滅のパターンによって上記の送信情報TXを出力する。
図9は、発光側(発光ユニット30側)と受光側(受光ユニット40側)とのタイミングチャートである。発光側において、パターン切り換えクロックCPはクロック信号において5回につき一回発生する。また、ビット出力クロックCBは図5(a)のタイミングジェネレータ35で作られる。
一方、受光側においてはパターン切り換えクロックCPは図5(b)のフレーム時系列バッファ52の書き込みプレーン指定用ポインタをリセットする。
なお、図7におけるバイトデータの取り出し(ステップS16)はこのCPに同期して行われる。また、1ビット取り出し(ステップS11)、判定(ステップS12)、及び、パターン系列選択(ステップS13、S14)は上記タイミングジェネレータ35から出力されるクロック信号CKに同期して行われる。
発光側の光Pの1点滅周期(tSlot)は、受光側の撮像シャッター時間(ts)を考慮して設定される。また、受光側は、送信側において設定された1点滅周期(tSlot)でタイミングよく撮像(光PのON(点灯)/OFF(消灯)の切換検出)できるように、送信側との位相ずれ(td)を以下の範囲に収まるように設定する。
すなわち、受光側の位相が僅かに遅れる場合、送信側において、1点滅周期(tSlot)は、撮像シャッター時間(ts)と位相ずれ(td)との合計よりも長い時間に設定され、逆に、受光側の位相が僅かに進む場合は、進みの度合いが、撮像シャッター時間(ts)に対し、無視できるほど小さくなるように、1点滅周期(tSlot)を設定する。
図10は、受光ユニット40のCPU49で実行される受光処理プログラムのフローチャートである。このフローチャートを開始すると、まず、タイミングジェネレータ48を初期化し(ステップS20)、その後、以下の処理を繰り返し実行する。
<フレームバッファ登録処理>:ステップS21
図11は、フレームバッファ登録処理サブルーチンプログラムのフローチャートである。このフローチャートでは、まず、撮像部45からのフレーム画像をキャプチャ画像フレームバッファ46に取り込み(ステップS21a)、次いで、そのフレーム画像に対して平滑化等のフィルタ処理を施す(ステップS21b)。次いで、このフィルタ処理が施されたフレーム画像と基準画像バッファ51内の基準フレーム画像とでフレーム相関処理を行い、その結果、動きベクトルを検出し(ステップS21c)、この動きベクトルの動き量が補正しきい値内であるか否かを判定する(ステップS21d)。
動きベクトルの動き量が補正しきい値内でない場合、動きのない、若しくは動き量の少ないフレーム画像であると判断し、そのフレーム画像をフレーム時系列バッファ52のバッファポインタnで指定されたプレーンに格納し(ステップS21e)、基準画像バッファ51の基準フレーム画像をこのフレーム画像に置き換える(ステップS21f)。
一方、動きベクトルの動き量が補正しきい値内である場合、このフレーム画像は動き量の大きいものであると判断し、このフレーム画像に対して動き補正を施すとともに、補正後のフレーム画像をフレーム時系列バッファ52のバッファポインタnで指定されたプレーンに格納する(ステップS21g)。
次に、バッファポインタnを更新し、このキャプチャ画像を表示バッファ47に格納した後、図10に復帰する。なお、バッファポインタn=最大値Nの場合に、ステップS23の信号検出&ビット取り出し処理に移行する。
<信号検出&ビット取り出し処理>:ステップS23
図12は、信号検出&ビット取り出し処理サブルーチンプログラムのフローチャートである。このフローチャートでは、まず、データリストメモリ55内の更新要求リスト551を初期化する(ステップS23a)。次いで、フレーム時系列バッファ52にある光PのON(点灯)タイミングに対応するフレーム画像群を読出し、各ドット値を平均化した平均画像を求め(ステップS23b)、次いで、光PのOFF(消灯)タイミングに対応するフレーム画像群を読出し、同様に各ドットの値を平均化した平均画像を求める(ステップS23c)。
そして、全フレーム画像群のドット位置毎における輝度の最大値からなる変動幅画像を得る(ステップS23d)。次に、上記ステップS23bで求めた平均値画像から、上記ステップS23cで求めた平均値画像を引いた絶対値であらわされる絶対相関度評価画像を得る(ステップS23e)。次に、この絶対相関度評価画像/変動幅画像×255で定義される(正規化)相関度評価画像を求める(ステップS23f)。
つまり、このようにして得られた相関度評価画像を参照することにより、第1パターン系列として変動した画像領域は正方向で高い相関値を取り、第2パターン系列として変動した画像領域は負方向で高い相関値を取ることが分かる。
次に、上記ステップS23fで求めた相関度評価画像から二値化画像を生成し(ステップS23g)、この二値化画像における各領域を、同一連続領域についてラべリング(ラベル付け)し、各領域の中心座標を第1パターン系列として上記更新要求リスト551に追加設定する(ステップS23h)。
そして、次に、前記相関度評価画像のしきい値を符号反転させて二値化画像を生成し(ステップS23i)、同様に各領域について第2パターン系列として、更新要求リスト551に追加設定する(ステップS23j)。この後、更新要求リスト551が空でないか否かを判定し、空でない場合はステップS25のリスト更新処理に移行する。
図13は、リスト更新処理サブルーチンプログラムのフローチャートである。まず、上記ステップS23にて設定された更新要求リスト551からパターン(以降「要求パターン」と称する)を一つ取り出し(ステップS25a)、予め登録されている座標と一致するものがこの要求パターンに存在するか否かを判定する(ステップS25b)。そして、一致するものが存在する場合は、この要求パターンが上記第1のパターン系列か第2のパターン系列かを判定する(ステップS25d)。
なお、要求パターンが第1のパターン系列及び第2のパターン系列の双方に一致しない場合にはリストエントリ552の新規作成を行い、座標登録処理、ビットバッファ553の初期化を行ってから(ステップS25c)、要求パターンを判定する(ステップS25d)。
そして、要求パターンが第1パターン系列である場合はビットバッファ553の該当するエントリに“1”を追加し(ステップS25e)、第2のパターンである場合はビットバッファ553の該当するエントリに“0”を追加し(ステップS25f)、いずれの場合も終了するまで(ステップS25g)、以上の処理を繰り返し実行し、図10におけるステップS24の処理に移行する。
<表示処理>:ステップS24
図14は、ステップS24の表示処理サブルーチンプログラムのフローチャートである。このフローチャートでは、まず、今回の更新処理でビットデータの更新がなかったものがあるか否かを判定する(ステップS24a)。そして、ビットデータの更新がなかった場合にはデータリストメモリ55から削除する一方(ステップS24b)、更新があった場合にはビットバッファ553に1バイト分のビットデータがバッファリングされたか否かを判定する(ステップS24c)。
ビットバッファ553に1バイト(8ビット)バッファリングされていない場合には表示バッファ47の画像を液晶ディスプレイ44に送って表示し(ステップS24e)、ビットバッファで1バイト(8ビット)バッファリングされた場合には、データリストメモリ55のバイトデータFIFO(不図示)に追加し、ビットバッファ553をクリアした後(ステップS24d)、表示バッファ47の画像を液晶ディスプレイ44に転送し表示する(ステップS24e)。次に、最も中央にある光Pに対応する輝点を選択し、表示画像にオーバラップして矢印と光Pにより伝送された情報文字列を表示する(ステップS24f)。一方、それ以外の輝点については矢印のみをオーバラップ表示して(ステップS24g)、図10のループに復帰する。
なお、図11のフレームバッファ登録処理では、使用者の手ぶれ撮影による補正について考慮されていなかったが、そのようなケースの場合、信号検出&ビット取り出し処理を実行すると、相関度計算(ステップS23e、S23f)において支障を来すという問題が生じる。
図15は上記のような問題を考慮に入れ、使用者による手ぶれ撮影が発生した場合の各フレーム画像を図示したものである。
同図において、5枚の画像70〜74はフレーム時系列バッファ52の各プレーンに格納されたフレーム画像、nの値はフレーム時系列バッファ52におけるポインタであり、各フレーム画像70〜74は使用者の手ぶれ撮影による動きを検出している(図示の各フレーム画像70〜74におけるハッチング領域70a〜74aは動き補正に伴う欠落画素領域を表している。)。この状態で各フレーム画像と、基準画像バッファ51に保存されている基準フレーム画像との間の動き量を検出し、その動き量をなくす方向に各フレーム画像70〜74を水平移動させることで、相関度計算の際に発生する問題の解消を図っている。
図16は、図12の信号検出&ビット取り出し処理プログラムにおける相関度計算(ステップS23e、S23f)の概念図であり、二つの相関度評価対象画像75、76にはそれぞれ輝点75a、75b、76aが含まれているものとする。
ここで、一方の画像75は第1パターン系列SAに対する相関度評価後に二値化された画像であり、他方の画像76は第2パターン系列SBに対する相関度評価後に二値化された画像である。それぞれの輝点75a、75b、76aの画像内座標位置を便宜的に(300,98)、(159,121)、(20,24)とすると、更新要求リスト551には、輝点75bの情報として座標(300,98)とパターン系列“SA(第1パターン系列)”が、輝点75aの情報として座標(159,121)とパターン系列“SA(第1パターン系列)”が、また、輝点76aの情報として座標(20,24)とパターン系列“SB(第2パターン系列)”が、それぞれ格納される。
図17は、図13のリスト更新処理プログラムを実行した後のデータリストメモリ55の格納状態の一例である。
リスト更新処理プログラムを実行した後、ビットバッファ553には、論理信号0と論理信号1が蓄積され、8ビット分蓄積されるとクリアされる。例えば(a)→(b)は、図16における輝点76aに相当する座標(20,24)のエントリがまさに終了するまでを図示している。すなわち、図17(b)において、右のビットバッファに01000001=41H=情報文字列‘A’としてバッファリングされ、次に輝点75bに相当する座標(300,98)のエントリが始まっている。
以上説明したとおり、この第1の実施の形態によれば、受光ユニット40は、撮影することにより画角内に存在する発光ユニット30の光Pによる輝点を受光・検出し、その輝点の発光強度によるパターンを二値化するとともに、二値化されたパターンを、予め用意された互いに相関しないパターン系列のいずれかに一致するか否かを判定する。そして、その判定結果に基づいて、論理信号1若しくは0に変換して送信情報TXを再生する。したがって、かかるパターン系列を含まない外乱光の影響を確実に排除することができる。
また、図15によれば、使用者の手ぶれによる撮影画像の動き補正を行うことができるので、使用者が、受光ユニット40を手に持って撮影した場合でも送信情報TXの再生を確実に行うことができ、使い勝手の向上を図ることができる。
なお、以上の説明では、受光ユニット40として、電子スチルカメラのような液晶ファインダ(液晶ディスプレイ44)を備えたものを例にしたが、これに限らず、たとえば、図18(a)に示すように、ボディ53に光学レンズ50、操作ボタン51を備え、文字情報表示用の表示部54、撮影方向調整用の直視ファインダ55を設けた受光ユニットであってもよい。
これによれば、同図(b)に示すように、直視ファインダ550を覗き、目標物に撮影方向を向けて操作ボタン510を押すことにより、目標物からの情報を受信して表示部540に表示させることができる。このようにすれば比較的高価な液晶ファインダ(図5の液晶ディスプレイ44)を用いる必要が無く、受光ユニットのコストダウンを図ることができる。
なお、使用者は、直視ファインダ550を覗いている間は表示部540の表示を確認できないので、目標物からの情報取得を通知するための警報または合成音声等を発するようにしても良い。
(第2の実施の形態)
上記の第1の実施の形態においては、1文字(無圧縮の8bitコードテキストデータとする)を転送するためには最低40フレーム(8×5=40フレーム)の画像を必要とする。
したがって、1文字を転送するのに、1.33〔秒〕の時間がかかり、送信情報の文字数が増えればその分だけ時間を要するという不都合を生じる。
この不都合を回避するためには、単純にフレームレートを上げることが最も望ましいが、仮にフレームレートを30fps(frame/second)に設定して転送速度を10倍にした場合、30×10=300fpsものフレームレートを必要としてしまう。
また、フレームレートを高くしつつ、データ処理量を削減するには、フレーム画像のドット数を減らすことが考えられる(たとえば、上記300fpsの状態でデータ量を1/10とすると、検出対象とする領域を、元画像の画素数(例えば640×480ドット)よりも少ない、例えば228×152ドット程度に削減すればよい)。
しかし、このようにした場合、画角中に占める1ドット画素の面積も1/10に減少してしまうため、640×480中の1ドットの輝点による情報伝送の場合でも、10倍の検出面積に対する一部の面積の輝度変化となってしまい、画素の輝度変化の変化幅が1/10に低下し、結局、検出限界を下回るという欠点、つまり、画素精細度の低下に伴って、検出する光源の1ドットの担当面積がより拡大されてしまうという不都合を招く。
これは、たとえば、目立たない豆電球ほどの光源の代わりに、10倍の面積を持つ光源(例えばグローブ型形状の光源など)を用いなければならなくなったり、または、1ドットの中で面積が小さくなる分、輝度変化の振幅を大きくするために、点灯時の輝度を何倍に設定しなくてはならない。
つまり、上記の第1の実施の形態では、小さな面積の輝度変化を捉え(画素数を精細にし)つつ、データ転送量を上げ、しかも、扱うデータの処理量を少なくするという要求を同時に満たすことができないという欠点があった。
そこで、第2の実施の形態では、上記の欠点を改善するために、
(1)撮像手段の検出エリアから「部分読み出し」を行い、その読み出しエリアを1周期ごとにずらしていくことにより、画角中から高精細に目的変調信号を検出して復号を行うようにする。
(2)撮像手段のサブサンプリング(読み飛ばし)機能を活用し、フレームレートを高く保ったままの画像で全画角での信号検出を行うようにする。
(3)また、上記の2つ(1)、(2)を組み合わせる。
ことをポイントとするものである。
以下、第2の実施の形態について詳しく説明する。なお、上記の概念説明や第1の実施の形態と共通する構成要素については、概念説明や第1の実施の形態、及び該当図面を参照することとし、相違する構成要素(または新たに追加された構成要素)のみを図示することとする。
図19は、第2の実施の形態における受光ユニット40の電気的な内部構成図であり、第1の実施の形態の図5(b)に対応する図面である。図5(b)との相違点は、次のとおりである。
撮像部45はフレームレートを高く設定し部分読み出しが可能な撮像デバイス(CMOSセンサー等)であり、全画角の精細度を1280×960ドット、また、部分読み出し領域の大きさを320×240ドットとする。
また、撮像部45は、15fpsのフレームレートでフルドット(1280×960ドット)の画像を取り込むことが可能であり、320×240ドットの部分読み出しは、上記フルドットの場合の1/16の面積になる。
したがって、320×240ドットの部分読み出しを行った場合、およそ16倍のフレームレート(約240fps)の取り込みが可能である。
キャプチャ画像バッファ46は、部分読み出しデータを格納するため320×240ドットの容量を持つ。表示バッファ47は撮像部45の全画角をモニタ表示するため1280×960ドットの容量を持つ。また、フレーム時系列バッファ52は、部分読み出しデータを時系列に格納していくものであるため、各々320×240ドットの容量を持つ。基準画像バッファ51、相関度評価画像バッファ53および二値化等作業用バッファ54は、部分読み出しデータに対応する320×240ドットの容量を持つ。
読み出し位置制御メモリ100は、フルドット(1280×960ドット)の画像における320×240ドットの部分読み出し領域(以降「読み出し領域範囲」という)の情報を保持する。
図20は、読み出し領域範囲の概念図である。この図において、X1〜X5は読み出し領域範囲の横方向サイズ(320ドット)、Y1〜Y5は読み出し領域範囲の縦方向サイズ(240ドット)である。(1)〜(25)までの括弧付き数字は読み出し領域範囲の番号であり、サーチは太線矢印の順に行われる。すなわち、(1)→(2)→(3)→(4)→(5)→(6)→・・・・→(25)の順にサーチを行い、最後の読み出し領域範囲(25)に達すると、再び(1)に戻ってサーチを繰り返す。なお、右向き矢印線および波線矢印線は、サーチ方向を示す。
なお、図示の例では、各々の読み出し領域において隣の読み出し領域とオーバーラップしている。つまり、フルドット(1280×960)の画像を縦横に等分(例えば、図示のように5等分)すると、各々の読み出し領域範囲の大きさは領域範囲Aの256×192ドットとなるが、読み出し領域範囲(1)は320×240ドットとなっている。
すなわち、64×48ドットのオーバーラップ(重なり合う領域)を設けることにより、領域範囲の境界線上に輝点が存在する場合でも、この輝点の輝度変化を正しく検出することができる。
次に第2の実施の形態における動作を説明する。
図21は、第2の実施の形態における受光ユニットの全体的な動作フローチャートを示す図である。
このフローチャートでは、撮像素子の全画角1280×960ドットをいくつかの読み出し領域範囲に分割し、それぞれの読み出し領域ごとに、上記の第1の実施の形態の図10の処理(ステップS20〜ステップS24)を繰り返して実行する。
すなわち、読み出し領域範囲の初期化(ステップS30)を行い、まず1番目の読み出し領域範囲(図20の読み出し領域範囲(1))について上記の第1の実施の形態における図10の処理(ステップS20〜ステップS24)を実行する。
ステップS23で信号検出が行われなかった場合、ステップS31の判定結果が“NO”となり、次の読み出し領域範囲の処理に切り換え(ステップS32)、その読み出し領域範囲について、ステップS20以降の処理を繰り返す。一方、ステップS23で、5ビット符号の検出等信号検出が行われた場合は、その読み出し領域範囲に対して5回部分読み出し処理を行う。
図22は、フルドット画像(1280×960ドット)と、読み出し領域範囲(320×240ドット)の対応関係を示す概念図である。
この図において、101は1280×960ドットの撮像素子で得られた領域、102は1番目の読み出し領域範囲である。この図において、例えば、5ビット符号が検出された場合は一つの領域あたり5回の部分読み出しを行うので、読み出し領域範囲102は時刻t0〜t4にかけて合計5回読み出される。なお、符号103は時刻t1における読み出し領域範囲、符号104は時刻t2における読み出し領域範囲、符号105は時刻t3における読み出し領域範囲、符号106は時刻t4における読み出し領域範囲を示す。
このように、第2の実施の形態においては、1280×960ドットで得られた画像を320×240ドットの読み出し領域範囲に分割し、それぞれの領域をスキャンしながら、第1の実施の形態における図10の処理(ステップS20〜ステップS24)を繰り返し実行し、分割された領域で輝度変化を伴う輝点、すなわちnビットの符号が検出された場合は、その読み出し領域範囲に対してn回の部分読み出しを行うようにしたため、小さな面積の輝度変化を確実に捉えることができ、文字情報のデータ転送量を上げることができる。
しかも、データの処理量を少なくするという要求を同時に満たすことができる。
なお、本第2の実施形態においては、読み出し領域範囲を320×240ドットとしているが、これに限定されない。つまりより細かく領域を分割すれば、数1000fpsのさらに高いフレームレートでも実現可能である。また、読み出し領域範囲のサイズを可変とし、一つの装置で広範な符号変調条件に対応させることも可能である。
(第3の実施の形態)
第3の実施の形態は、『撮像素子にCMOSセンサー等を用いる撮像装置は「サブサンプリングモード」機能を備える。』点に着目し、同一の画角内で縦横を1ドットおきにサンプリングしてフレームレートを上げるようにしたものである。
上記「サブサンプリングモード」機能における“サブサンプリング(または、サブサンプリング圧縮法)”とは、非可逆画像圧縮アルゴリズムの一種であり、要は、画角内の全ての画素を処理するのではなく、市松模様にドットを間引いて処理する手法のことである。
図23は、第3の実施の形態における受光ユニット40の電気的な内部構成図である。
第3の実施の形態では、上記「サブサンプリングモード」機能を活用するため、新たな構成要素として「サブサンプリングモード」機能に関する制御情報を保持するサブサンプリング制御メモリ111と、読み出し条件リストメモリ112とを備える。CPU49は、読み出し条件リストメモリ112を参照しながら、サブサンプリング制御メモリ111を制御する。
図24は、読み出し条件リストメモリ112の格納データを示す概念図である。“No.”は条件番号であり、各No.ごとに、縦方向(タテ)と横方向(ヨコ)の画素間引き条件、その間引き条件で得られる画像サイズ、元画像の分割数(領域数)をあらかじめ指定する。例えば、No.1には、縦横の画素間引き数として“4”(タテヨコ:4ドットおきを意味する)が指定されている。
例えば、元のフルドット画像(1280×960ドット)に対して条件番号No.1を適用した場合は、間引き数“4”でサブサンプリング処理を施し、その処理の結果として320×240ドットの読み出し領域範囲を順次切り出す。
また、条件番号No.2を適用した場合は、フルドット画像に間引き数“4”(縦4ドットおき)、“2”(横2ドットおき)でサブサンプリング処理を施して、全画角サイズ640×240ドットとして320x240ドットの読み出し領域範囲を順次切り出す。
さらに、条件番号No.3を適用した場合は、間引き数“2”でサブサンプリング処理を施し、全画角画像サイズ640×480ドットとして320x240ドットの読み出し領域範囲を順次切り出す。
さらにまた、条件番号No.4を適用した場合は、間引き数として“2”(縦2ドットおき)、“1”(横1ドットおき)でサブサンプリング処理を施し、全画角画像サイズ1280×480ドットとして、320x240ドットの読み出し領域範囲を順次切り出す。
また、条件番号No.5を適用した場合は、間引き数“1”でサブサンプリング処理を施し、全画角画像サイズ1280×960ドットとして、320x240ドットの読み出し領域範囲を順次切り出す。
図25は、読み出し条件リストメモリ112の条件番号No.1〜No.5に対応した全画角画像サイズの画像と、その中での320x240ドットで順次切り出しのスキャン画像を示す図である。
(a)は条件番号No.1に対応するものであり、スキャン対象画像201は元のフルドット画像(1280×960ドット)の縦4ドット×横4ドットおきに間引いたものである。最も粗い画像であるが、データの処理量は最も軽い。
また、読み出し領域範囲の数は縦1×横1の一つであり、全画角を一回で取り込めるので、例えば上記第2の実施の形態の図21の処理を行った場合、ステップS32からステップS20の処理ループでは、いつも同じ読み出し領域範囲について行うことになる。
(b)は条件番号No.2に対応するものであり、スキャン対象画像202は元のフルドット画像を縦方向を4ドットおき、横方向を2ドットおきにそれぞれ間引いたものである。
この条件では、縦方向の画像の粗さは上記(a)と同じであるが、横方向については上記(a)よりも精細になっている。
また、読み出し領域範囲の数は縦3×横1の三つなので、例えば上記第2の実施の形態の図21の処理を行った場合、ステップS32において、横方向に、読み出し位置(x,y)が、(0,0)、(320,0)、(640,0)とループ設定される。
(c)は条件番号No.3に対応するものであり、スキャン対象画像203は元のフルドット画像を縦2ドット×横2ドットおきに間引いたものである。
(d)は条件番号No.4に対応するものであり、スキャン対象画像204は元のフルドット画像を縦方向を2ドットおき、横方向を1ドットおきにそれぞれ間引いたものである。
(e)は条件番号No.5に対応するものであり、スキャン対象画像205は元のフルドット画像を縦1ドット×横1ドットおきに間引いたものである。最も精密であるが、データ処理量は最も重くなっている。
また、これら(c)、(d)、(e)において、読み出し領域範囲は縦横に複数設定されるため、ループ設定の際、例えば、2回目の読み出し領域範囲(x,y)は、(320,0)(959,959)の640×960ドットになる。
しかしながら、読み出し条件リストメモリ112の間引き条件がそれぞれの条件番号に応じて設定されているため、常に320×240ドットの読み出し領域範囲が得られ、さらに上記第2の実施の形態に記載されたように読み出し領域を重ね合わせながら処理する。
図26は、第3の実施の形態における受光ユニット40の全体的な動作フローチャートを示す図である。
このフローチャートでは、各サブサンプリングモードに応じて第2の実施の形態で行っていた全画面中の部分領域(読み出し領域範囲)のスキャン制御方法を変更する。信号検出(輝点の輝度変動バターン検出)があった場合、ステップS42の処理について固定しループ処理する。
まず、読み出し条件リストメモリ112に格納された条件番号No.1を参照し(ステップS41)、同じレートで全画面を非常に粗いサーチを行う(ステップS42;図21の処理と同一)。
この場合、条件番号No.1では、たとえば、5ビットのパターンであれば5枚の画像取得毎に信号検出の処理が行われる(比較的広い範囲の起動変動の場合は、このように1/16精度で取得しても信号が検出できる。)。
なお、ステップS42における表示処理(図21のステップS24の表示処理)はサンプリングモードに応じて制御される。
粗くサーチした状態(図25のスキャン画像201)で信号が検出されなかった場合は、条件番号の更新を行って同様の処理に移る(ステップS43)。例えば条件番号がNo.1からNo.2に更新された場合は、横方向に精細化されるので、全画各領域サイズに対するスキャン処理をステップS42で行うことになる。この段階で信号検出されると、その読み出し領域範囲でサーチが終了し、信号の二値化処理が開始される。
このように、条件番号を更新して精細度を段階的に高めて、全画素領域に対するスキャン量を増しながら、より小さな信号検出をサーチしていく。そして、条件番号No.5に到達すると、条件番号No.1に戻る。つまり、輝度変化が検出されるまで、この読み出し条件リストの設定を反復する。
このようにすると、検出対象となる輝点を含む画像において、その画角サイズが広い場合であっても、早く信号検出を行うことができる。
つまり、最初は粗いサンプル(図25のスキャン画像201)を用いて初期捕捉を行い、捕捉されなかった場合にのみサンプルの精細度を段階的に高めるようにしたので、スキャン処理に伴う初期捕捉時間の短縮化を図ることがでる。
(第4の実施の形態)
第4の実施の形態は、隣接する光線の影響(電波のようなフェージングやマルチパス、混信などに相当するノイズ)をきわめて受けにくく、かつ、伝送速度の低下を防ぐことを目的とし、撮影画像内の信号検出を行う際に、耐ノイズ性と耐環境性を重視した検出・捕捉モードと、該モードによる検出で領域/対象ドットが確定した後に復号を行う復号モードとに分け、確実な信号検出と、信号検出後の高速な復号を可能にすることを特徴としている。
そしてその実現方法として、検出・捕捉モードは低速フレームレート処理(時系列パターンの相関を生かした検出処理)で行い、信号の変調(発光ユニット301側)と信号検出(受光ユニット40側)とを行う。一方、復号モードは高速フレームレート処理で行い、信号判定のためのスレッシュレベル(閾値)の決定と、二値化を行う処理について詳述する。
なお、第4の実施の形態では、第1の実施の形態と共通する構成要素については、適宜に第1の実施の形態の図面を参照することとして、新たに追加された構成要素を図示する。
第4の実施の形態と第1の実施の形態との相違点は、第4の実施の形態では伝送されるデータ(情報文字列)が非常に高速となっていること、および、画面全体のモニタ更新が無い点にある。
図27は第4の実施の形態の発光ユニット301の電気的な内部構成図であり、第1の実施の形態と重複する構成については説明を省略する。新規に追加された構成とは、図中、破線で囲まれている部分であり、パターンビットカウンタ38、バイトカウンタ39に相当する。なお、これらの動作については、図28のフローチャートで詳述する。
なお、発光ユニット301は、ON状態の光Pの強さを高輝度H(以下「ON(H)状態」)と低輝度L(以下「ON(L)状態」)の二つに切り換えることができる。これは輝度で見た場合、「OFF状態」<「ON(L)状態」<「ON(H)状態」の関係となる。
図28は、発光ユニット301の動作フローチャートを示す図である。
まず、出力する情報文字列からなるソースデータはビットデータ化され、直流成分を除去された後、送出データメモリ33に格納される(ステップS51)。次にパターンビットカウンタ38、バイトカウンタ39を初期化(ステップS52)した後、パターンデータメモリ34より1ビットを取り出すとともに(ステップS53)、送出データメモリ33より1バイト分のビットデータを取り出す(ステップS54)。パターンビットが“0”(論理信号0)であるか否かを判定する(ステップS55)。
そして、論理信号0であれば、当該1バイトについて「“0”=OFF状態、“1”=ON(L)状態」の変調条件を適用し(ステップS56)、一方、パターンビットが論理信号0でなければ当該1バイトについて「“0”=OFF状態、“1”=ON(H)状態」の変調条件を適用する(ステップS57)。
次に、バイトカウンタ39をインクリメントし(ただし、データ終端ならば先頭バイトに戻る)(ステップS58)、64バイト分の完了を判定(ステップS59)するまで以上のステップS53以降を繰り返す。
一方、64バイト分の完了を判定すると、パターンビットカウンタ38をインクリメントし(ただし、データ終端ならば先頭バイトに戻る)(ステップS60)、以上のステップS53以降を繰り返す。
なお、ステップS58〜ステップS60は、サイクリックに制御されるものであり、出力される信号は伝送データ64ビット分(8バイト分)で1つの上位パターンビットに従って変動する。
図29は、出力する情報文字列からなるソースデータのビット列における“1”、“0”ビットの偏りである直流成分の除去の説明図である。
直流成分除去とは「0/1分散の等化」ともいい、後述の受光ユニット40において低速フレームレートで撮像する場合、ソースデータの性質に左右されず、所定時間内の積分レベルをできるだけ一定に保つために行われる。
まず、送出対象の情報文字列(a)を、「XTower…」とすると、先頭文字「X」はASCIIコードで“58H”であるので、図に示すようなバイナリ列(b)「01011000」となる。
次に、このバイナリ列(c)「01011000」の否定となるビット列(c)「10100111」を生成し、バイナリ列(b)のビット、ビット列(c)という順番で両者を混合する。
以下、ほかの文字についても同様に処理されて、0/1分散の等化を図った伝送データが生成される。
なお、図29では、単純な否定ビット列との混合によって直流成分除去をおこなうようにしたが、0または1の連続を抑制するビット列変換として、より冗長度の低いものが各種考えられる、例えば、CD(コンパクトディスク)のピットと呼ばれる記録列に使われるEFM変調などほかの方法を用いてもよい。
図30は、発光ユニット301における輝度変動パターンを示す図である。
この図では、拡散符号パターンを「00101」とし、この拡散符号パターンの各ビットをパターンビットとしている。
同図において、(A)は、長いサイクルで見た場合の輝度変動パターンを示し、全体として(輝度変動信号のエンベロープとして)、輝度が拡散符号パターンに応じて変化し、かつ、非常に短い時間でON(H)、ON(L)変動している。
中段(B)は、伝送データビットが64ビットで1つのパターンビット周期を示し、下段(C)は、短いサイクルで見た場合の輝度変動パターンを示す。
この図によれば、受光ユニット40側で長い撮像周期とシャッター時間で(A)を観測すると、ローパスフィルタをかけた(A)のエンベロープとなる拡散符号パターンによる輝度変動を捉えることができる(以下、このような信号検出方法を「検出・捕捉モード」と呼ぶ)。
また、逆に、受光ユニット40側で、短い撮像周期とシャッター時間で(A)を観測すると、(C)で表すような元信号レベルの輝度変動を捉えることができる(以下、このような信号検出方法を「復号モード」と呼ぶ)。
図31は、第4の実施の形態における受光ユニット40の動作フローチャートを示す図である。このフローチャートは、「検出・捕捉モード」(ステップS72〜ステップS78)と「復号モード」(ステップS79〜ステップS84)とに分けられる。
「検出・捕捉モード」は、微弱な輝度変動であっても周囲の各種外乱光影響されないロバストな信号検出を行い、且つ、信号が検出された場合には指定された領域のベースバンド復号処理を行うものである。
一方、「復号モード」は、対象領域が確定した後の高速なデータ復号を行うものである。
このフローチャートでは、まず、信号検出を行うための各種設定を行う(ステップS71)。第4の実施の形態では、画面全体を取り込むフレームレートを10fpsと仮定する。
図32は、検出・捕捉モードのときのタイミング図である。
(A)は発光ユニット301から出力される光Pの輝度変動、(B)は受光ユニット40において受光(撮像)されるサンプリングレベルを夫々示し、図中、tsは信号捕捉モードにおけるシャッター時間である。
(A)の輝度変動に同期して、受光ユニット40側では横矢印で示されるタイミングとシャッター時間で受光を行っている。
受光ユニット40におけるシャッター時間は発光ユニット301の伝送ビットの変動に対して積分効果が出るように、シャッター時間を長くし、また、撮像における絞り、ゲインが設定されている。
tsを例えば50(ms)とした場合、32ビット分の、OFF−ON(L)が受光ユニット40側で観測され、積分されて信号変動の平均輝度値が算出される。
このようにして、検出・補足モードでは、画角中で該当信号が存在している、座標の変動が、結果的に(B)の点線に示すような、変動として観測されることになる。
図33は、復号モードのときのタイミング図である。(A)は発光ユニット301から出力される光Pの輝度変動、(B)は受光ユニット40において受光(撮像)されるサンプリングレベルを夫々示し、図中、tsは信号捕捉モードにおけるシャッター時間である。
同図において、受光ユニット40は発光ユニット301側における伝送データビット波形の輝度変動に同期して受光する。
図31において、初期設定として検出・捕捉モード用読み出しクロック設定、読み出し領域範囲の設定が終わると(ステップS71)、次に、ステップS21と同様のフレームバッファ登録処理を行い(ステップS72)、ステップS24と同様の表示処理を行う(ステップS73)。次にフレーム時系列バッファ52に1パターン周期分時系列画像が格納されているか否か(バッファポインタ=Nであるか否か)を判定し(ステップS74)、その判定結果が“NO”であれば、ステップS72に復帰する一方、その判定結果が“YES”であれば、信号検出処理、すなわち、光Pによる輝度変動検出処理を実行する(ステップS75)。そして、信号検出の有無を判定し(ステップS76)、無しであればステップS72に復帰し、有りであれば、検出マーク枠をオーバーラップ表示(ステップS77)した後、その検出マーク枠領域に対するタップ操作等を検出(ステップS78)すると、復号モード処理(ステップS79〜ステップS84)に移行する。
復号モード処理では、まず、輝度変動検出領域の設定と、フレームレート設定を行う(ステップS79)。第4の実施の形態におけるフレームレートは、全画角を撮像するレートに対して64倍に設定される。
ステップS80は、16伝送ビット分の領域について動き補正を行い、その中心ドットのレベルを観測するループ処理である。次に、後段のステップS81〜S84に移行するため、スレッシュレベルを決定する。
図34はスレッシュレベルの決定概念図である。
同図は、復号モードにおける時間輝度変動を表し、縦軸のレベルは、8ビット量子化モデルにおける256段階のダイナミックレンジで表され、波形Dがレベル80から105の中間的な領域でのベースバンド波形として検出されたとすると、スレッシュレベルは、130(最大値)−80(最小値)/4+80(最小値レベル)=92.5に設定される。
このようにして決定されたスレッシュレベルに基づき、読み出し領域範囲のデータを取り出して前回との比較処理で動き補正処理を行い、検出対象とするサンプルドット座標を決定する(ステップS81)。そして、そのデータを、ステップS80で決定したスレッシュレベルで、論理判定し、1ビットごとに、ソースデータビット列を取り出し、復号処理を行う(ステップS82)。
図35は、論理判定の概念図を示すものであり、図34のスレッシュレベルの決定に基づいて、スレッシュレベル未満を論理信号0、スレッシュレベル以上を論理信号1として伝送データレベルを判定するケースを示している。
最後に、使用者の操作(特定のキー操作等)に応答して、復号データ表示モードを抜け、また、画角全体の信号検出・捕捉モードへ移るか否かの判定を行って(ステップS84)、一連の処理を終了する。
以上のように、第4の実施の形態では、検出のための変調と、情報伝送の変調(ベースバンド変調)とを重畳するとともに、輝度変動を「OFF」、「ON(L)」、「ON(H)」としたため、外乱に強く、単純で高速な信号検出方法であるとともに、輝度変動が小さい面積で検出されても良好な情報文字列の伝送、再生が可能となる。
また、検出・捕捉モードにおいて、事前に領域画像データを取得し、フレーム間の相関で動き補正を行うことで、手ぶれ等の変動があっても、良好な検出性能を確保できる。
なお、検出・捕捉モードにおいて、使用者が検出領域をそれぞれ指定した領域について復号モードに入るようにしたが、複数の領域を指定して読み出すことが可能な構成であれば、一つのフレームレート周期の時間内に複数の領域についてデータが転送できる。
したがって、フレームレートで各領域のデータを複数部分読み出して、復号モードに移行することで、同時に複数の領域について、復号処理を同時に行う装置を構成することも可能である。
また、第4の実施の形態では、復号モードではベースバンド変調を採用したが、符号拡散変調を用いることも可能である。この場合、センサーの検出ノイズや撮像条件の変動にきわめて強くすることができる。
発光ユニット1の概念構成図である。 パターン系列(SA/SB)の一例を示す図及び二つのパターン系列(SA/SB)を同時に作る場合の構成図である。 受光ユニット20の概念構成図である。 発光ユニット30の正面斜視図及び受光ユニット40の正面斜視図並びに受光ユニット40の背面斜視図である。 発光ユニット30及び受光ユニット40の電気的な内部構成図である。 発光ユニット30及び受光ユニット40の利用例を示す図である。 発光ユニット30のCPU36で実行される発光処理プログラムのフローチャートを示す図である。 発光ユニット30の発光動作のタイミングチャートを示す図である。 発光側(発光ユニット30側)と受光側(受光ユニット40側)とのタイミングチャートを示す図である。 受光ユニット40のCPU49で実行される受光処理プログラムのフローチャートを示す図である。 フレームバッファ登録処理サブルーチンプログラムのフローチャートを示す図である。 信号検出&ビット取り出し処理サブルーチンプログラムのフローチャートを示す図である。 リスト更新処理サブルーチンプログラムのフローチャートを示す図である。 表示処理サブルーチンプログラムのフローチャートを示す図である。 フレームバッファ登録処理プログラムにおける手ぶれ補正の概念図である。 信号検出&ビット取り出し処理プログラムにおける相関度計算の概念図である。 リスト更新処理プログラムを実行した後のデータリストメモリ55の状態一例図である。 受光ユニット40の他の例を示す図である。 第2の実施の形態における受光ユニット40の電気的な内部構成図である。 読み出し領域範囲の概念図およびオーバラップさせない場合の読み出し領域範囲の境界線を示す図である。 第2の実施の形態における受光ユニット40の全体的な動作フローチャートを示す図である。 元画像(1280×960ドットの画像)と、その読み出し領域範囲(320×240ドット)の対応関係を示す概念図である。 第3の実施の形態における受光ユニット40の電気的な内部構成図である。 読み出し条件リストメモリ112の格納データを示す概念図である。 読み出し条件リストメモリ112の条件番号(No.1〜No.5)に対応したスキャン画像を示す図である。 第3の実施の形態における受光ユニット40の全体的な動作フローチャートを示す図である。 第4の実施の形態における発光ユニット301の電気的な内部構成図である。 第4の実施の形態の発光ユニット30の動作フローチャートを示す図である。 任意データのビット列から“1”や“0”のビットの偏り(直流成分)を除去する直流成分除去の説明図である。 輝度変動パターンを示す図である。 第4の実施の形態の受光ユニット40の全体的な動作フローチャートを示す図である。 低フレームレートのときのタイミング図である。 高フレームレートのときのタイミング図である。 スレッシュレベルの決定概念図である。 論理判定の概念図である。
符号の説明
2 論理判定部
8 発光部
30 発光ユニット
40 受光ユニット
44 液晶ディスプレイ
45 撮像部
49 CPU
52 フレーム時系列バッファ
100 読み出し位置制御メモリ
111 サブサンプリング制御メモリ
112 読み出し条件リストメモリ
540 表示部

Claims (8)

  1. 撮像手段と、
    この撮像手段によって順次撮像される画像を部分的に読み出す読出手段と、
    この読出手段によって読み出された領域が時系列的に輝度変化する領域か否かを判定する判定手段と、
    この判定手段により前記領域が時系列的に輝度変化する領域であると判定すると、前記領域の時系列的に輝度変化に基づく情報を出力する情報出力手段と、
    を備えたことを特徴とする情報出力装置。
  2. 前記撮像手段の撮像領域を複数に分割する分割手段を更に備え、
    前記判定手段は、前記分割手段によって分割された複数の撮像領域夫々について、この領域が時系列的に輝度変化する領域か否かを判定することを特徴とする情報出力装置。
  3. 前記分割手段によって分割される撮像領域の大きさを、任意に変更する変更手段をさらに備えることを特徴とする請求項2に記載の情報出力装置。
  4. 前記読出手段は、順次撮像される画像を所定ドットおきに間引くことにより部分的に読み出すことを特徴とする請求項1に記載の情報出力装置。
  5. 前記読出手段によって間引かれる条件は複数種用意され、
    前記読出手段は、前記判定手段が時系列的に輝度変化する領域であると判定するまで、前記条件を更新させて順次撮像される画像を間引くことを特徴とする請求項2に記載の情報出力装置。
  6. 前記撮像手段によって撮像された領域を表示する表示手段と、
    この表示手段に表示された領域のうち、前記判定手段によって時系列的に輝度変化する領域であると判定された領域を選択する領域選択手段と、
    この領域選択手段によって選択された領域について前記情報出力手段による情報の出力を指示する指示手段と
    をさらに備えたことを特徴とする請求項1乃至5の何れかに記載の情報出力装置。
  7. 撮像部にて順次撮像される画像を部分的に読み出す読出ステップと、
    この読出ステップにて読み出された領域が時系列的に輝度変化する領域か否かを判定する判定ステップと、
    この判定ステップにて前記領域が時系列的に輝度変化する領域であると判定すると、前記領域の時系列的に輝度変化に基づく情報を出力する情報出力ステップと、
    からなることを特徴とする情報出力方法。
  8. 撮像部を備える情報出力ユニットが備えるコンピュータを、
    前記撮像部にて順次撮像される画像を部分的に読み出す読出手段、
    この読出手段によって読み出された領域が時系列的に輝度変化する領域か否かを判定する判定手段、
    この判定手段によって前記領域が時系列的に輝度変化する領域であると判定すると、前記領域の時系列的に輝度変化に基づく情報を出力する情報出力手段、
    として機能させることを特徴とするプログラム。
JP2008003587A 2001-09-21 2008-01-10 情報出力装置、情報出力方法、及び、プログラム Expired - Fee Related JP4535133B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008003587A JP4535133B2 (ja) 2001-09-21 2008-01-10 情報出力装置、情報出力方法、及び、プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2001288428 2001-09-21
JP2008003587A JP4535133B2 (ja) 2001-09-21 2008-01-10 情報出力装置、情報出力方法、及び、プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2002235225A Division JP2003179556A (ja) 2001-09-21 2002-08-12 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法

Publications (2)

Publication Number Publication Date
JP2008193672A true JP2008193672A (ja) 2008-08-21
JP4535133B2 JP4535133B2 (ja) 2010-09-01

Family

ID=39753283

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2008003587A Expired - Fee Related JP4535133B2 (ja) 2001-09-21 2008-01-10 情報出力装置、情報出力方法、及び、プログラム
JP2008111069A Expired - Fee Related JP4735658B2 (ja) 2001-09-21 2008-04-22 受信装置、及び、プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2008111069A Expired - Fee Related JP4735658B2 (ja) 2001-09-21 2008-04-22 受信装置、及び、プログラム

Country Status (1)

Country Link
JP (2) JP4535133B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5479795B2 (ja) * 2009-07-17 2014-04-23 日本電気通信システム株式会社 可視光通信に用いる点滅信号パターン検出装置、点滅信号パターン検出方法、及び点滅信号パターン検出プログラム
JP2018006860A (ja) 2016-06-28 2018-01-11 ソニーセミコンダクタソリューションズ株式会社 受信装置、受信方法、送信装置、送信方法、および通信システム
JP7082994B2 (ja) * 2018-01-31 2022-06-09 ソフトバンク株式会社 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09233384A (ja) * 1996-02-27 1997-09-05 Sharp Corp 画像入力装置およびそれを用いる画像伝送装置
JPH1042180A (ja) * 1996-07-26 1998-02-13 Sharp Corp 画像入力装置
JPH11308560A (ja) * 1998-04-23 1999-11-05 Casio Comput Co Ltd 電子カメラ装置
JP2000125168A (ja) * 1998-10-14 2000-04-28 Sanyo Electric Co Ltd ディジタルカメラ
JP2001245253A (ja) * 2000-03-01 2001-09-07 Casio Comput Co Ltd 撮像装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100205649B1 (ko) * 1996-07-26 1999-07-01 유기범 적외선데이터송수신방법및그장치
JPH10247893A (ja) * 1997-03-04 1998-09-14 Mitsubishi Electric Corp 光サブキャリア伝送システム
JP2000148990A (ja) * 1998-11-18 2000-05-30 Mitsubishi Electric Corp 車両監視装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09233384A (ja) * 1996-02-27 1997-09-05 Sharp Corp 画像入力装置およびそれを用いる画像伝送装置
JPH1042180A (ja) * 1996-07-26 1998-02-13 Sharp Corp 画像入力装置
JPH11308560A (ja) * 1998-04-23 1999-11-05 Casio Comput Co Ltd 電子カメラ装置
JP2000125168A (ja) * 1998-10-14 2000-04-28 Sanyo Electric Co Ltd ディジタルカメラ
JP2001245253A (ja) * 2000-03-01 2001-09-07 Casio Comput Co Ltd 撮像装置

Also Published As

Publication number Publication date
JP4735658B2 (ja) 2011-07-27
JP4535133B2 (ja) 2010-09-01
JP2008301478A (ja) 2008-12-11

Similar Documents

Publication Publication Date Title
JP2003179556A (ja) 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法
JP4258491B2 (ja) 情報受信装置、情報伝送システム、情報受信方法、及び、情報受信プログラム
JP5282899B2 (ja) 情報復元装置及び情報復元方法
Liu et al. Positioning beacon system using digital camera and LEDs
KR101379604B1 (ko) 정보 전송 시스템, 정보 송신 장치, 정보 수신 장치, 정보 전송 방법, 정보 송신 방법, 정보 수신 방법 및 그 프로그램을 기록한 기록 매체
JP7550467B2 (ja) 可視光通信システム
US9241112B2 (en) Imaging apparatus, imaging method and computer-readable recording medium
CN100369461C (zh) 图像捕获设备、图像显示方法和程序
US7509039B2 (en) Image sensing apparatus with camera shake correction function
JP2003507911A (ja) ダイナミックレンジが改善されたビデオカメラ、記憶システム及び記憶方法
JP5294096B2 (ja) 情報伝送システム、受光装置、情報伝送方法、及び、プログラム
CN101635797A (zh) 摄像装置
JP4640483B2 (ja) 撮像装置、及び、プログラム
JP4507210B2 (ja) 情報伝送システム、受信装置、及び、情報復号方法
JP4178419B2 (ja) 情報表示装置、表示制御方法、及び、表示制御プログラム
JP5713061B2 (ja) 情報送信装置、情報送信方法、及び、プログラム
JP4535133B2 (ja) 情報出力装置、情報出力方法、及び、プログラム
JP5366026B2 (ja) 情報伝送システム、情報送信装置、情報受信装置、情報伝送方法、情報送信方法、情報受信方法、及び、プログラム
JP2010045758A (ja) 表示装置の駆動方法、及びこれを利用した表示装置の駆動回路
JP4576625B2 (ja) 情報伝送システム、撮像装置、及び、受光制御方法
JP4210955B2 (ja) 撮像装置、撮像制御方法、及び、撮像制御プログラム
JP4665585B2 (ja) 光送信機、光受信機及び光通信システム
JP2004193970A (ja) 画像データ処理装置
JP4438557B2 (ja) 撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラム
JP4906603B2 (ja) 圧縮画像伸張装置及び重畳画像データ処理装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100525

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100607

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130625

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4535133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees