JP2006287383A - Information transmission system, imaging device, and light receiving control method - Google Patents

Information transmission system, imaging device, and light receiving control method Download PDF

Info

Publication number
JP2006287383A
JP2006287383A JP2005101932A JP2005101932A JP2006287383A JP 2006287383 A JP2006287383 A JP 2006287383A JP 2005101932 A JP2005101932 A JP 2005101932A JP 2005101932 A JP2005101932 A JP 2005101932A JP 2006287383 A JP2006287383 A JP 2006287383A
Authority
JP
Japan
Prior art keywords
shutter
control
information
image
photoelectric conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005101932A
Other languages
Japanese (ja)
Other versions
JP4576625B2 (en
Inventor
Norio Iizuka
宣男 飯塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005101932A priority Critical patent/JP4576625B2/en
Publication of JP2006287383A publication Critical patent/JP2006287383A/en
Application granted granted Critical
Publication of JP4576625B2 publication Critical patent/JP4576625B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Optical Communication System (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To perform the cost reduction of a light receiving unit by reducing a memory capacity, an improving a data rate, thus spreading usage. <P>SOLUTION: The light receiving unit is provided with an imaging means (27) which has a light receiving plane composed by arranging many photoelectric conversion elements in a matrix shape, shutter means (38, 39) which have many shutter regions (E1 to E4) arranged on the light receiving plane of the imaging means, and piled up on the photoelectric conversion elements at a proportion of per N piece of the photoelectric conversion elements, a 1st control means which alternately controls the open state and the closed state of each shutter region of the shutter means along an arrangement order, a 2nd control means which controls each shutter region of the shutter means in the reverse state of control by the 1st control means, and a 3rd control means which selectively executes control by the 1st control means and control by the 2nd control means following a predetermined pattern series in a imaging period of one time of the imaging means. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、たとえば、店頭における商品説明、博物館や展覧会における展示品説明、建築物等のランドマーク表示、広告表示、遊園地等の遊戯施設混雑状態表示など、様々な用途に利用できる情報伝送システム、撮像装置、及び、受光制御方法に関する。   The present invention provides information transmission that can be used for various purposes such as product descriptions at stores, descriptions of exhibits at museums and exhibitions, landmark displays for buildings, advertisement displays, and the display of crowded facilities such as amusement parks. The present invention relates to a system, an imaging apparatus, and a light reception control method.

従来から、商品や展示品などに関する情報の提示、あるいは、建築物等のランドマーク表示、広告表示、遊園地等の遊戯施設混雑状態表示などは、もっぱら、紙、垂れ幕、看板またはプレートなど(以下、便宜的に「情報提示物」という。)の上に書かれた文字情報の形で行われていた。   Conventionally, the presentation of information on products and exhibits, or the display of landmarks for buildings, advertisements, and the status of amusement parks such as amusement parks have been made exclusively of paper, banners, billboards, plates, etc. For the sake of convenience, it was called “Information Presentation”).

しかし、このような文字主体の情報提示は、情報提示対象物の数が多い場合、看板等の情報提示物の数も多くなり、肝心の対象物が目立たなくなるうえ、情報提示物と情報提示対象物との対応関係も把握しにくく、誤った情報理解、たとえば、商品Aの情報を商品Bの情報と誤解してしまうことがある。また、情報提示物の上に書かれた文字情報は、通常の視力を有する人であれば誰でも読み取ることができるため、特定の人だけを対象とした限定的情報(たとえば、商品の仕入価格や最大値引率等)を提示する場合は、符牒化して書込むなどの保全策を講じるが、あまり複雑な符牒化は使い勝手が悪いことから簡単なものにせざるを得ず、情報の保全効果が低下して容易に読み取られるおそれがある。   However, this type of text-based information presentation increases the number of information presentation objects such as signboards when the number of information presentation objects is large, making the important objects inconspicuous and the correspondence between the information presentation objects and the information presentation objects. The relationship is also difficult to grasp, and incorrect information understanding, for example, the information on the product A may be misunderstood as the information on the product B. In addition, since text information written on the information presentation can be read by anyone with normal vision, limited information for only specific people (for example, purchase of goods) When presenting the price, maximum discount rate, etc.), take preservative measures such as encoding and writing, but too complex encoding is inconvenient and must be simplified, so the information conservation effect May fall and be easily read.

このような問題点に対し、以下に記載されるような技術が考えられている。
すなわち、送信すべき情報を構成するビット列を論理判定し、その判定結果に応じて、予め用意されている二つのビットパターン系列SA、SBの一方を選択して、その選択結果に従って前記光Pを変調する発光ユニットと、前記光Pを受光してその光の強度に応じた二値化信号を生成し、該二値化信号に含まれるビットパターン系列が、前記二つのビットパターン系列のいずれか一方に対応するとき、そのパターン系列に対応した論理信号を発生して、受光ユニットの表示部に所要の情報を表示する技術である(例えば特許文献1参照)。
In order to solve such a problem, techniques as described below are considered.
That is, a logical determination is made on the bit string constituting the information to be transmitted, and one of two bit pattern sequences SA and SB prepared in advance is selected according to the determination result, and the light P is selected according to the selection result. A light-emitting unit that modulates the light P, generates a binarized signal corresponding to the intensity of the light, and the bit pattern sequence included in the binarized signal is one of the two bit pattern sequences This is a technique for generating a logic signal corresponding to the pattern series when corresponding to one and displaying required information on the display unit of the light receiving unit (see, for example, Patent Document 1).

特開2003−179556号公報JP 2003-179556 A

しかしながら、上記の従来技術は、情報提示物と情報提示対象物との対応関係を正しく把握できる点、及び、情報の保全効果を得られる点などできわめて有益であるが、以下の点で改善すべき余地があった。
例えば、受光ユニットは、パターン系列(SA/SB)のビット数mと同数のn個のプレーンを必要とするため、フレーム時系列バッファの容量が相当に大きくなる。たとえば、640×480画素のフレーム画像の場合、1画素はRGBの三色で構成され、且つ、それぞれ多階調(たとえば、8ビット)になっているため、1プレーンあたりのビット数は640×480×3×8=7,372,800ビットとなり、それがnプレーン必要であるから、フレーム時系列バッファのトータルの容量は、仮にm=5としても、36,864,000ビットもの膨大な量になる。したがって、受光ユニットのコストアップを招き、実用化の大きな妨げになるという問題点がある。
However, the above prior art is extremely useful in that the correspondence between the information presentation object and the information presentation object can be correctly grasped and the information preservation effect can be obtained, but the following points are improved. There was room for it.
For example, since the light receiving unit requires n planes having the same number as the bit number m of the pattern series (SA / SB), the capacity of the frame time series buffer is considerably increased. For example, in the case of a frame image of 640 × 480 pixels, since one pixel is composed of three colors of RGB and each has multi-gradation (for example, 8 bits), the number of bits per plane is 640 ×. Since 480 × 3 × 8 = 7,372,800 bits and n planes are required, the total capacity of the frame time series buffer is an enormous amount of 36,864,000 bits even if m = 5. become. Therefore, there is a problem in that the cost of the light receiving unit is increased and the practical use is greatly hindered.

また、発光ユニットは、クロック信号CKのタイミングで送信情報TXのビットを順次に取り出し、そのビット値に応じた第1パターン系列SA又は第2パターン系列SBで変調した光Pを出力する。一方、受光ユニットは、発光ユニットのクロック信号CKに同期した画像キャプチャクロック信号PCKのタイミングで、光Pを撮像して、その画像をフレーム時系列バッファのn枚のプレーンに順次に取り込む。このことは、発光ユニットと受光ユニットの間のデータレートがクロック信号CK又は画像キャプチャクロック信号PCKの周期で一義的に決まってしまうことを意味する。クロック信号CK又は画像キャプチャクロック信号PCKの周期は、受光ユニットの撮像部のフレームレートに相当し、CCDなどの典型的なフレームレートは、たとえば、30fps(フレーム/秒)程度であるから、パターン系列(SA/SB)のビット数mを5とした場合、データレートは毎秒6ビットほどにしかならず、この程度のデータレートでは、きわめて簡単な情報、たとえば、商品のタグ情報やID情報程度しか送れない。   The light emitting unit sequentially extracts bits of the transmission information TX at the timing of the clock signal CK, and outputs the light P modulated with the first pattern series SA or the second pattern series SB corresponding to the bit value. On the other hand, the light receiving unit captures the light P at the timing of the image capture clock signal PCK synchronized with the clock signal CK of the light emitting unit, and sequentially captures the image into n planes of the frame time series buffer. This means that the data rate between the light emitting unit and the light receiving unit is uniquely determined by the period of the clock signal CK or the image capture clock signal PCK. The period of the clock signal CK or the image capture clock signal PCK corresponds to the frame rate of the imaging unit of the light receiving unit, and a typical frame rate of a CCD or the like is, for example, about 30 fps (frame / second). When the number of bits m of (SA / SB) is 5, the data rate is only about 6 bits per second. At such a data rate, only extremely simple information, for example, tag information and ID information of products can be sent. .

そこで、本発明は、受信ユニットの情報取得にかかるメモリ容量を少なくし、且つ受信可能な情報のデータレートを高めて用途の拡大を図ることができる情報伝送システム、撮像装置、及び、受光制御方法を提供することを目的とする。   Accordingly, the present invention provides an information transmission system, an imaging apparatus, and a light reception control method capable of reducing the memory capacity required for information acquisition by the receiving unit and increasing the data rate of receivable information to expand applications. The purpose is to provide.

請求項1記載の発明は、伝送すべき情報を所定のパターンで点灯する光信号に変換して出力する発光ユニットと、前記光信号を受光することよって得られた所定のパターンから前記情報を復元する受光ユニットとで構成される情報伝送システムにおいて、前記受光ユニットは、マトリクス状に配列された複数の光電変換素子で構成された撮像手段と、前記撮像手段への受光を前記光電変換素子単位で遮断する遮断手段と、前記所定のパターンに基づいて前記遮断手段を制御する遮断制御手段と、この遮断制御手段によって制御された結果、前記撮像手段により得られた光信号から前記情報を復元する復元手段とを備えたことを特徴とする。
請求項2記載の発明は、前記請求項1記載の発明において、前記遮断手段は、前記光電変換素子N個につき1個の割合で該光電変換素子上に重ねられた多数のシャッタ領域で構成されるとともに、前記各シャッタ領域をその配列順に沿って交互に開状態と閉状態とに制御する第一遮断制御手段と、前記各シャッタ領域を前記第一遮断制御手段による制御とは逆の状態で制御する第二遮断制御手段とを更に備え、前記遮断制御手段は、前記所定のパターンに従って前記第一遮断制御手段による制御と前記第二遮断制御手段による制御とを選択的に実行させることを特徴とする。
請求項3記載の発明は、請求項1または2記載の発明において、前記発光ユニットは、伝送すべき情報を構成するビット列を論理判定する論理判定手段と、該論理判定手段による判定結果に応じて予め用意された互いに相関度の低い二つのビットパターン系列より択一的にビットパターン系列を選択するビットパターン系列選択手段と、該ビットパターン系列選択手段による選択結果に従って変調される強度を所定のパターンとして前記光信号を出力するよう制御する出力制御手段とを備えることを特徴とする。
請求項4記載の発明は、撮像装置において、マトリクス状に配列された複数の光電変換素子で構成された撮像手段と、前記撮像手段への受光を前記光電変換素子単位で遮断する遮断手段と、所定のパターンに基づいて前記遮断手段を制御する遮断制御手段と、この遮断制御手段によって制御された結果、前記撮像手段より変調された光信号を連続的に取得する光信号取得手段と、この光信号取得手段によって連続的に取得された光信号から情報に変換する情報変換手段とを備えることを特徴とする。
請求項5記載の発明は、請求項4記載の発明において、前記遮断手段は、前記光電変換素子N個につき1個の割合で該光電変換素子上に重ねられた多数のシャッタ領域で構成されるとともに、前記各シャッタ領域をその配列順に沿って交互に開状態と閉状態とに制御する第一遮断制御手段と、前記各シャッタ領域を前記第一遮断制御手段による制御とは逆の状態で制御する第二遮断制御手段とを更に備え、前記遮断制御手段は、前記所定のパターンに従って前記第一遮断制御手段による制御と前記第二遮断制御手段による制御とを選択的に実行させることを特徴とする。
請求項6記載の発明は、マトリクス状に配列された複数の光電変換素子に対し、該複数の光電変換素子への受光を前記光電変換素子単位で遮断する遮断ステップと、所定のパターンに基づいて前記遮断手段を制御する遮断制御ステップと、この遮断制御ステップにて制御された結果、変調された光信号を連続的に取得する光信号取得ステップと、この光信号取得ステップにて連続的に取得された光信号から情報に変換する情報変換ステップとからなることを特徴とする。
According to the first aspect of the present invention, the information to be transmitted is converted into an optical signal to be lit in a predetermined pattern and output, and the information is restored from the predetermined pattern obtained by receiving the optical signal. In the information transmission system including the light receiving unit, the light receiving unit includes an image pickup unit configured by a plurality of photoelectric conversion elements arranged in a matrix, and receives light to the image pickup unit in units of the photoelectric conversion elements. A blocking unit for blocking, a blocking control unit for controlling the blocking unit based on the predetermined pattern, and a restoration for restoring the information from the optical signal obtained by the imaging unit as a result of being controlled by the blocking control unit Means.
According to a second aspect of the present invention, in the first aspect of the present invention, the blocking means includes a plurality of shutter regions that are superimposed on the photoelectric conversion elements at a ratio of one for each of the N photoelectric conversion elements. And first shutter control means for controlling the shutter regions alternately in an open state and a closed state in the order of arrangement, and the shutter regions in a state opposite to the control by the first shutter control means. A second cutoff control means for controlling, wherein the cutoff control means selectively executes control by the first cutoff control means and control by the second cutoff control means in accordance with the predetermined pattern. And
According to a third aspect of the present invention, in the first or second aspect of the invention, the light emitting unit is configured to logically determine a bit string that constitutes information to be transmitted, and according to a determination result by the logical determination unit Bit pattern sequence selection means for selectively selecting a bit pattern sequence from two bit pattern sequences having low correlation with each other, and intensity modulated according to the selection result by the bit pattern sequence selection means And an output control means for controlling to output the optical signal.
According to a fourth aspect of the present invention, in the imaging apparatus, an imaging unit configured by a plurality of photoelectric conversion elements arranged in a matrix, and a blocking unit that blocks light received by the imaging unit in units of the photoelectric conversion elements; A blocking control unit that controls the blocking unit based on a predetermined pattern; an optical signal acquisition unit that continuously acquires an optical signal modulated by the imaging unit as a result of being controlled by the blocking control unit; And an information conversion means for converting the optical signal continuously acquired by the signal acquisition means into information.
According to a fifth aspect of the present invention, in the fourth aspect of the present invention, the blocking means includes a plurality of shutter regions overlaid on the photoelectric conversion elements at a ratio of one for each of the N photoelectric conversion elements. And a first shut-off control means for alternately controlling the shutter regions in an open state and a closed state along the arrangement order, and controlling each shutter region in a state opposite to the control by the first shut-off control means. And a second shut-off control means for selectively executing the control by the first shut-off control means and the control by the second shut-off control means according to the predetermined pattern. To do.
The invention according to claim 6 is based on a predetermined step and a blocking step of blocking light reception to the plurality of photoelectric conversion elements in units of the photoelectric conversion elements with respect to the plurality of photoelectric conversion elements arranged in a matrix. A blocking control step for controlling the blocking means, an optical signal acquisition step for continuously acquiring a modulated optical signal as a result of control in the blocking control step, and a continuous acquisition at the optical signal acquisition step. And an information conversion step for converting the optical signal into information.

請求項1、4、及び、6記載の発明では、受光ユニットは、発光ユニット側より送信される光信号の所定のパターン所定のパターンに基づいて、マトリクス状に配列された複数の光電変換素子を素子単位で遮断する。したがって、従来技術において全てのパターンについて全ての光電変換素子を使用していたところを、パターンに応じて選択使用することができ、情報取得にかかるメモリ容量を少なくし、且つ受信可能な情報のデータレートを高めて用途の拡大を図ることができる。
請求項2、及び、5記載の発明では、光電変換素子の遮断は、光電変換素子N個につき1個の割合で該光電変換素子上に重ねられた多数のシャッタ領域をその配列順に沿って交互に開状態と閉状態、またその制御とは逆の状態を選択的に行うようにしている。したがって、従来技術において全てのパターンについて全ての光電変換素子を使用していたところを、パターンに応じて選択使用することができ、情報取得にかかるメモリ容量を少なくし、且つ受信可能な情報のデータレートを高めて用途の拡大を図ることができる。
請求項3記載の発明では、発光ユニットと組み合わせて用いることにより、たとえば、店頭における商品説明、博物館や展覧会における展示品説明、建築物等のランドマーク表示、広告表示、遊園地等の遊戯施設混雑状態表示など様々な用途に利用できる。
In the first, fourth, and sixth aspects of the invention, the light receiving unit includes a plurality of photoelectric conversion elements arranged in a matrix based on a predetermined pattern of an optical signal transmitted from the light emitting unit side. Shut off in element units. Therefore, in the prior art, all photoelectric conversion elements used for all patterns can be selectively used according to the pattern, the memory capacity required for information acquisition is reduced, and the receivable information data Applications can be expanded by increasing the rate.
According to the second and fifth aspects of the present invention, the photoelectric conversion elements are interrupted in such a way that a large number of shutter regions overlaid on the photoelectric conversion elements are alternately arranged in the arrangement order at a ratio of one for every N photoelectric conversion elements. In addition, an open state, a closed state, and a state opposite to the control are selectively performed. Therefore, in the prior art, all photoelectric conversion elements used for all patterns can be selectively used according to the pattern, the memory capacity required for information acquisition is reduced, and the receivable information data Applications can be expanded by increasing the rate.
In the invention according to claim 3, by using in combination with the light emitting unit, for example, explanation of products at stores, explanation of exhibits at museums and exhibitions, display of landmarks of buildings, advertisement display, amusement parks such as amusement parks, etc. It can be used for various purposes such as congestion status display.

以下、図面を参照して本発明の実施の形態を詳細に説明する。なお、以下の説明における様々な細部の特定ないし実例及び数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャ及び周知の回路構成等(以下「周知事項」)についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. It should be noted that the specification or examples of various details and the illustration of numerical values, character strings, and other symbols in the following description are only for reference in order to clarify the idea of the present invention, and all or part of them may Obviously, the idea of the invention is not limited. In addition, a well-known method, a well-known procedure, a well-known architecture, a well-known circuit configuration, and the like (hereinafter, “well-known matter”) are not described in detail, but this is also to simplify the description. Not all or part of the matter is intentionally excluded. Such well-known matters are known to those skilled in the art at the time of filing of the present invention, and are naturally included in the following description.

<構成>
まず、構成を説明する。
図1は、発光ユニット1及び受光ユニット20を示す図である。(a)は受光ユニット20の正面斜視図、(b)は受光ユニット20の背面斜視図、(c)は発光ユニット1の正面斜視図である。
<Configuration>
First, the configuration will be described.
FIG. 1 is a diagram showing the light emitting unit 1 and the light receiving unit 20. 2A is a front perspective view of the light receiving unit 20, FIG. 2B is a rear perspective view of the light receiving unit 20, and FIG.

受光ユニット20は、手持ちに適した形状のボディ21に光学レンズ部22、シャッターキーなどの操作ボタン23(図では1個のボタンしか示していないが複数のボタンを備えていてもよい)及び液晶ディスプレイ24などを取り付けて構成された、たとえば、ディジタルカメラ等の撮像装置である。受光ユニット20は、ユーザによって携行され、そのユーザが情報提示対象物を目視できる位置に至ったときに当該ユーザの所望により使用される。受光ユニット20の数はユーザ数に対応する。受光ユニット20の具体的な構成は後で説明する。   The light receiving unit 20 includes a body 21 having a shape suitable for holding, an optical lens unit 22, operation buttons 23 such as a shutter key (only one button is shown in the figure, but a plurality of buttons may be provided) and a liquid crystal. For example, it is an imaging device such as a digital camera configured by attaching a display 24 or the like. The light receiving unit 20 is carried by a user, and is used as desired by the user when the user reaches a position where the user can visually check the information presentation object. The number of light receiving units 20 corresponds to the number of users. A specific configuration of the light receiving unit 20 will be described later.

図2は、発光ユニット1の内部ブロック図である。発光ユニット1は、送出データメモリ2、パターンデータメモリ3、タイミングジェネレータ4、CPU(Central Processing Unit)5、発光部6及び発光窓7などを備える。   FIG. 2 is an internal block diagram of the light emitting unit 1. The light emitting unit 1 includes a transmission data memory 2, a pattern data memory 3, a timing generator 4, a CPU (Central Processing Unit) 5, a light emitting unit 6, a light emitting window 7, and the like.

タイミングジェネレータ4は、受光ユニット8のタイミングジェネレータ13で作られる画像キャプチャクロック信号PCKと同期する所定周期の安定したクロック信号CKを発生する。   The timing generator 4 generates a stable clock signal CK having a predetermined period synchronized with the image capture clock signal PCK generated by the timing generator 13 of the light receiving unit 8.

CPU5は、タイミングジェネレータ4からのクロック信号CKに同期して、送出データメモリ2に格納されている送信情報TXのi番目のビットを取り出し、そのビット値を判定して、論理信号1であればパターンデータメモリ3から第1パターン系列SAを取り出す一方、論理信号0であればパターンデータメモリ3から第2パターン系列SBを取り出し、それらの第1パターン系列SA又は第2パターン系列SBを発光部6に出力する動作を送信情報TXのビット数fだけ繰り返す。発光部6は、第1パターン系列SA又は第2パターン系列SBの論理信号1の区間で発光し、論理信号0の区間で消灯するという点滅動作を行い、発光窓7を介して時系列的な輝度変化パターンを持つ光Pを出力する。   The CPU 5 extracts the i-th bit of the transmission information TX stored in the transmission data memory 2 in synchronization with the clock signal CK from the timing generator 4, determines the bit value, and if it is a logic signal 1 While the first pattern series SA is extracted from the pattern data memory 3, if the logic signal is 0, the second pattern series SB is extracted from the pattern data memory 3, and the first pattern series SA or the second pattern series SB is extracted from the light emitting unit 6. The operation to output to is repeated for the number of bits f of the transmission information TX. The light emitting unit 6 performs a flashing operation of emitting light in the section of the logical signal 1 of the first pattern series SA or the second pattern series SB and turning off in the section of the logical signal 0, and time-sequentially through the light emission window 7. Light P having a luminance change pattern is output.

発光ユニット1は、クロック信号CKのタイミングで送信情報TXのデータを1ビットずつ取り出し、各々のビット値を判定して、論理信号1であれば第1パターン系列SAを選択する一方、論理信号0であれば第2パターン系列SBを選択する。   The light emitting unit 1 takes out the data of the transmission information TX bit by bit at the timing of the clock signal CK, determines each bit value, and selects the first pattern sequence SA if the signal is the logic signal 1, while the logic signal 0 If so, the second pattern series SB is selected.

図3は、第1及び第2パターン系列(SA/SB)の一例を示す図である。この図において、たとえば、任意の送信情報TXを「01011・・・・」というビット列とした場合、TXの各ビット(i、i+1、i+3・・・・)ごとの第1及び第2パターン系列SA、SBの選択は、
iビット=0→SB
i+1ビット=1→SA
i+2ビット=0→SB
i+3ビット=1→SA
i+4ビット=1→SA
となり、この場合、発光ユニット1の発光部6は、SB、SA、SB、SA、SA・・・・の時系列的な輝度変化パターンを持つ光Pを出力する。
FIG. 3 is a diagram illustrating an example of the first and second pattern series (SA / SB). In this figure, for example, when arbitrary transmission information TX is a bit string “01011...”, The first and second pattern sequences SA for each bit (i, i + 1, i + 3...) Of TX. SB selection is
i bit = 0 → SB
i + 1 bit = 1 → SA
i + 2 bit = 0 → SB
i + 3 bit = 1 → SA
i + 4 bits = 1 → SA
In this case, the light emitting unit 6 of the light emitting unit 1 outputs light P having a time-series luminance change pattern of SB, SA, SB, SA, SA.

図4は、受光ユニット20の電気的な内部構成図である。この図において、受光ユニット20は、光学レンズ部22、液晶シャッタ26、撮像部27、キャプチャ画像バッファ28、表示バッファ29、液晶ディスプレイ24、タイミングジェネレータ30、操作ボタン23、状態通知LED(Light Emitting Diode)31、CPU32、パターンデータメモリ33、基準画像バッファ34、相関度評価画像バッファ35、二値化等作業用バッファ36及びデータリストメモリ37(更新要求リスト37a、リストエントリ37b、ビットバッファ37c)などを有して構成されている。なお、電源部(バッテリ等)については図示を略している。   FIG. 4 is an electrical internal configuration diagram of the light receiving unit 20. In this figure, the light receiving unit 20 includes an optical lens unit 22, a liquid crystal shutter 26, an imaging unit 27, a captured image buffer 28, a display buffer 29, a liquid crystal display 24, a timing generator 30, an operation button 23, a status notification LED (Light Emitting Diode). ) 31, CPU 32, pattern data memory 33, reference image buffer 34, correlation degree evaluation image buffer 35, binarization work buffer 36, data list memory 37 (update request list 37a, list entry 37b, bit buffer 37c), etc. It is comprised. In addition, about a power supply part (battery etc.), illustration is abbreviate | omitted.

図5は、液晶シャッタ26を含む撮像部27の外観図である。撮像部27は、多数の光電変換素子(撮像画素)27aをマトリクス状に配列した所定対角距離(たとえば、1/4インチ、1/3インチ又は1/6インチ等)のCCDやCMOSなどの二次元イメージセンサーをパッケージ27bに収めてユニット化されたものである。パッケージ27bの下面や側面から突き出したピン27cを基板に差し込んで使用する。さらに、パッケージ27bの上面には、上記の対角距離を若干上回る大きさの開口窓27dが形成されており、すべての光電変換素子27aがこの開口窓27dを介して外部に露出し、受光面27eを形成している。開口窓27dの露出面(光電変換素子27aの配列面)は、外部からの光を受光する受光面となり、撮像部27は、受光面に結像した被写体の像を電気的なフレーム画像信号に変換し、キャプチャ画像クロック信号PCKに同期した周期でキャプチャ画像バッファ28に出力する。   FIG. 5 is an external view of the imaging unit 27 including the liquid crystal shutter 26. The imaging unit 27 is a CCD, CMOS, or the like having a predetermined diagonal distance (for example, 1/4 inch, 1/3 inch, or 1/6 inch) in which a large number of photoelectric conversion elements (imaging pixels) 27a are arranged in a matrix. A two-dimensional image sensor is housed in a package 27b and unitized. The pins 27c protruding from the lower and side surfaces of the package 27b are inserted into the substrate and used. Further, an opening window 27d having a size slightly larger than the above diagonal distance is formed on the upper surface of the package 27b, and all the photoelectric conversion elements 27a are exposed to the outside through the opening window 27d, and the light receiving surface. 27e is formed. The exposed surface of the aperture window 27d (the array surface of the photoelectric conversion elements 27a) is a light receiving surface that receives light from the outside, and the imaging unit 27 converts the subject image formed on the light receiving surface into an electrical frame image signal. The converted image is output to the captured image buffer 28 at a period synchronized with the captured image clock signal PCK.

一般的にCCDなどの受光面は、不要波長の光をカットしたりするための光学フィルタ27fで覆われているが、本実施形態の撮像部27は、光学フィルタ27eに加えて、液晶シャッタ26を有している点に特徴がある。すなわち、本実施形態の撮像部27は、光学レンズ部22と光学フィルタ27e及び液晶シャッタ26を介して取り込まれた被写体の像を電気的なフレーム画像信号に変換し、キャプチャ画像クロック信号PCKに同期した周期でキャプチャ画像バッファ28に出力する点で通常のもの(たとえば、従来技術の撮像部10)と相違する。なお、図示の例では、撮像部27の受光面上に液晶シャッタ26を置き、その上に光学フィルタ27eを重ねているが、液晶シャッタ26と光学フィルタ27eの順番を入れ替えてもよい。但し、液晶シャッタ26から受光面までの距離はできるだけ短い方がよく、光学フィルタ27eの厚みを考慮すると、図示のような順番(受光面上に液晶シャッタ26を置き、その上に光学フィルタ27eを重ねる)とすることが望ましい。   In general, a light receiving surface such as a CCD is covered with an optical filter 27f for cutting off light having an unnecessary wavelength. However, in addition to the optical filter 27e, the imaging unit 27 of the present embodiment includes a liquid crystal shutter 26. There is a feature in having. That is, the imaging unit 27 of the present embodiment converts the subject image captured via the optical lens unit 22, the optical filter 27e, and the liquid crystal shutter 26 into an electrical frame image signal, and synchronizes with the captured image clock signal PCK. It is different from a normal one (for example, the imaging unit 10 of the prior art) in that it is output to the captured image buffer 28 in the cycle described above. In the illustrated example, the liquid crystal shutter 26 is placed on the light receiving surface of the imaging unit 27 and the optical filter 27e is overlaid thereon. However, the order of the liquid crystal shutter 26 and the optical filter 27e may be changed. However, the distance from the liquid crystal shutter 26 to the light receiving surface is preferably as short as possible. Considering the thickness of the optical filter 27e, the liquid crystal shutter 26 is placed on the light receiving surface and the optical filter 27e is placed on the order as shown in the figure. It is desirable to overlap).

液晶シャッタ26は、2枚の透明電極の間に液晶分子を封入し、電極電圧をON/OFFして液晶分子の向きを変えることにより、光の透過率を高低2段階に変更できるようにしたデバイスである。液晶分子がシャッタの厚み方向に揃うと(分子が立つともいう)透明状態(高透過率/シャッタが開いた状態)になり、逆にシャッタの横方向に揃うと(分子が寝るともいう)不透明状態(低透過率/シャッタが閉じた状態)になる。電極電圧のON/OFFと液晶分子の向きの関係は液晶の種類によって異なるが、本実施形態では、説明の便宜上、高電位の電圧をかけたときに液晶分子がシャッタの厚み方向に揃って透明状態になるものとする。つまり、電極電圧をONにするとシャッタが開き、OFFにするとシャッタが閉じるものとする。   The liquid crystal shutter 26 encloses liquid crystal molecules between two transparent electrodes, and changes the direction of the liquid crystal molecules by turning on / off the electrode voltage so that the light transmittance can be changed in two steps, high and low. It is a device. When the liquid crystal molecules are aligned in the thickness direction of the shutter (also referred to as molecules standing), it becomes transparent (high transmittance / the shutter is open), and conversely when aligned in the lateral direction of the shutter (also referred to as molecules falling asleep). State (low transmittance / shutter closed). Although the relationship between the ON / OFF state of the electrode voltage and the direction of the liquid crystal molecules differs depending on the type of liquid crystal, in this embodiment, for convenience of explanation, the liquid crystal molecules are aligned in the thickness direction of the shutter and transparent when a high potential voltage is applied. Shall be in a state. That is, the shutter opens when the electrode voltage is turned on, and the shutter closes when the electrode voltage is turned off.

さて、一般的に液晶シャッタは、立体視(3D視)メガネなどに用いられる全面シャッタ型(液晶全体が透明と非透明に切り替わるもの)と、細かく分けられた領域(以下、シャッタ領域という)単位に個別の透過率制御が可能なマトリクス型の二種類存在する。本実施例で使用する液晶シャッタ26は、後者のマトリクス型である。   Generally, the liquid crystal shutter is divided into a full-shutter type (where the entire liquid crystal is switched between transparent and non-transparent) used for stereoscopic (3D viewing) glasses and the like (hereinafter referred to as a shutter area). There are two types of matrix type that can individually control the transmittance. The liquid crystal shutter 26 used in this embodiment is the latter matrix type.

図6は、液晶シャッタ26の概念構造図である。この図において、マトリクス状に配列された四角の升目は、それぞれシャッタ領域となる透明電極Gg(gはグループ番号1又は2)を表している。但し、背面側の電極(共通電極)は前面の電極に隠れて見えていない。各々の電極Ggと共通電極の間には液晶が封入されており、各電極Ggごとにシャッタ領域を形成する。電極Ggに電圧を加えない場合は、その電極Ggの下の液晶が高透過率になり、当該位置のシャッタ領域は閉じた状態になる。一方、電極Ggに電圧を加えた場合は、その電極Ggの下の液晶が低透過率になり、当該位置のシャッタ領域は開いた状態になる。   FIG. 6 is a conceptual structural diagram of the liquid crystal shutter 26. In this figure, the square cells arranged in a matrix form represent the transparent electrodes Gg (g is group number 1 or 2), each serving as a shutter region. However, the back side electrode (common electrode) is hidden behind the front side electrode and is not visible. Liquid crystal is sealed between each electrode Gg and the common electrode, and a shutter region is formed for each electrode Gg. When no voltage is applied to the electrode Gg, the liquid crystal under the electrode Gg has high transmittance, and the shutter region at the position is closed. On the other hand, when a voltage is applied to the electrode Gg, the liquid crystal under the electrode Gg has a low transmittance, and the shutter region at that position is opened.

なお、各電極Ggとほぼ相似形で描かれた矩形状の破線枠は、撮像部27の光電変換素子27aを表している。つまり、液晶シャッタ26の各々の電極Gg(シャッタ領域)と撮像部27の光電変換素子27aは、それぞれ一対一の関係になっている。   In addition, a rectangular broken line frame drawn in a similar shape to each electrode Gg represents the photoelectric conversion element 27a of the imaging unit 27. That is, each electrode Gg (shutter region) of the liquid crystal shutter 26 and the photoelectric conversion element 27a of the imaging unit 27 have a one-to-one relationship.

各電極Ggの周囲には2系統の透明配線(第1系統配線26a、第2系統配線26b)が引き回されている。第1系統配線26aは、第1グループの電極G1に接続されており、第2系統配線26bは、第2グループの電極G2に接続されている。第1グループの電極G1には、所定のタイミングで低電位と高電位に変化する制御電圧CTが第1系統配線26aを介して加えられており、また、第2グループの電極G2には、インバータ26cで極性反転された制御電圧CTが第2系統配線26bを介して加えられている。第1グループの電極G1と第2グループの電極G2は、それぞれ縦横交互に、いわゆる「市松模様」となるように配列されている。   Two lines of transparent wiring (a first system wiring 26a and a second system wiring 26b) are routed around each electrode Gg. The first system wiring 26a is connected to the first group of electrodes G1, and the second system wiring 26b is connected to the second group of electrodes G2. A control voltage CT that changes between a low potential and a high potential at a predetermined timing is applied to the first group of electrodes G1 via the first system wiring 26a, and an inverter is applied to the second group of electrodes G2. A control voltage CT whose polarity is inverted at 26c is applied via the second system wiring 26b. The first group of electrodes G1 and the second group of electrodes G2 are arranged in a so-called “checkered pattern” alternately in the vertical and horizontal directions.

図7は、液晶シャッタ26の開閉状態の概念図である。この図において、白抜き矩形は開状態のシャッタ領域を示し、ハッチング付矩形は閉状態のシャッタ領域を示す。図示のように、(a)制御電圧CTの高電位期間では、第1グループの電極G1の位置のシャッタ領域が開状態(白抜き矩形)となり、第2グループの電極G2の位置のシャッタ領域が閉状態(ハッチング付矩形)になる。逆に、(b)制御電圧CTの低電位期間では、第1グループの電極G1の位置のシャッタ領域が閉状態(ハッチング付矩形)となり、第2グループの電極G2の位置のシャッタ領域が開状態(白抜き矩形)になる。以下、(a)の状態のことを「点灯時専用マスク状態」又は単に「点灯時専用マスク」といい、(b)の状態のことを「消灯時専用マスク状態」又は単に「消灯時専用マスク」ということにする。   FIG. 7 is a conceptual diagram of the open / close state of the liquid crystal shutter 26. In this figure, a white rectangle indicates an open shutter region, and a hatched rectangle indicates a closed shutter region. As shown in the figure, (a) in the high potential period of the control voltage CT, the shutter region at the position of the first group of electrodes G1 is in an open state (white rectangle), and the shutter region at the position of the second group of electrodes G2 is Closed state (rectangular with hatching). Conversely, (b) during the low potential period of the control voltage CT, the shutter region at the position of the first group of electrodes G1 is closed (hatched rectangle), and the shutter region at the position of the second group of electrodes G2 is open. (Open rectangle). Hereinafter, the state (a) is referred to as “lighting-only mask state” or simply “lighting-only mask state”, and the state (b) is referred to as “light-off-only mask state” or simply “light-off-only mask state”. I will say.

図8は、本実施形態の原理説明図である。この図において、(a)は点灯時専用マスク38と消灯時専用マスク39の模式図である。つまり、図示の点灯時専用マスク38は、図7(a)の液晶シャッタ26の状態を模式化したものであり、また、図示の消灯時専用マスク39は、図7(b)の液晶シャッタ26の状態を模式化したものである。なお、図示の点灯時専用マスク38と消灯時専用マスク39は、液晶シャッタ26の多数のシャッタ領域のうちの2×2の4個を代表例として選んだものであり、点灯時専用マスク38と消灯時専用マスク39の左上のシャッタ領域をE1とし、右上のシャッタ領域をE2とし、左下のシャッタ領域をE3とし、右下のシャッタ領域をE4とする。   FIG. 8 is an explanatory diagram of the principle of this embodiment. In this figure, (a) is a schematic diagram of a lighting-only mask 38 and a lighting-only mask 39. That is, the on-dedicated mask 38 shown in FIG. 7 schematically illustrates the state of the liquid crystal shutter 26 shown in FIG. 7A, and the off-only mask 39 shown in the figure is used as the liquid crystal shutter 26 shown in FIG. 7B. This is a schematic representation of the state. It should be noted that the lighting dedicated mask 38 and the lighting only mask 39 shown in the figure are selected from four 2 × 2 of the many shutter regions of the liquid crystal shutter 26 as representative examples. The upper left shutter area of the dedicated mask 39 when extinguished is E1, the upper right shutter area is E2, the lower left shutter area is E3, and the lower right shutter area is E4.

図示のとおり、点灯時専用マスク38は左上と右下のシャッタ領域E1、E4が開き、右上と左下のシャッタ領域E2、E3が閉じている。また、消灯時専用マスク39は、その逆に、左上と右下のシャッタ領域E1、E4が閉じ、右上と左下のシャッタ領域E2、E3が開いている。   As illustrated, the lighting-only mask 38 has upper left and lower right shutter areas E1 and E4 open, and upper right and lower left shutter areas E2 and E3 are closed. On the other hand, in the off-time exclusive mask 39, the upper left and lower right shutter areas E1 and E4 are closed, and the upper right and lower left shutter areas E2 and E3 are opened.

今、発光ユニット1の光Pが点灯しているときに、点灯時専用マスク38を透して光Pを見ると、E1とE4の部分からその“点灯状態”が見える。また、発光ユニット1の光Pが消灯しているときに、消灯時専用マスク39を透して光Pを見ると、E2とE3の部分からその“消灯状態”が見える。これらは、正しい組み合わせ(光P点灯−点灯時専用マスク38、光P消灯−消灯時専用マスク39)の見え方であり、光Pの点滅パターンと二つのマスク(点灯時専用マスク38と消灯時専用マスク39)の使用パターン(切り換えパターン)は一致している。   Now, when the light P of the light emitting unit 1 is lit, when the light P is viewed through the lighting dedicated mask 38, the “lit state” can be seen from the portions E1 and E4. Further, when the light P of the light emitting unit 1 is turned off, when the light P is viewed through the dedicated mask 39 when turned off, the “light-off state” can be seen from the portions E2 and E3. These are the appearances of the correct combination (light P on-dedicated mask 38, light P off-off dedicated mask 39), and the light P blinking pattern and two masks (light-on dedicated mask 38 and light-off dedicated mask 39) The usage patterns (switching patterns) of the dedicated mask 39) match.

一方、消灯時専用マスク39を使用したときにE2とE3の部分から“点灯状態”が見えたり、あるいは、点灯時専用マスク38を使用したときにE1とE4の部分から“消灯状態”が見えたりした場合は、正しくない組み合わせである。この場合、光P(光Pとは限らない。他の光源の可能性もある)の点滅パターンと二つのマスク(点灯時専用マスク38と消灯時専用マスク39)の使用パターン(切り換えパターン)は一致していない。   On the other hand, the “lighting state” can be seen from the portions E2 and E3 when the dedicated mask 39 is turned off, or the “lighted state” is seen from the portions E1 and E4 when the dedicated mask 38 is turned on. If this is the case, the combination is incorrect. In this case, the blinking pattern of light P (not necessarily light P, which may be another light source) and the usage pattern (switching pattern) of two masks (lighting-only mask 38 and light-off dedicated mask 39) are as follows. Does not match.

以上のことを踏まえて、液晶シャッタ26の二つの使用パターン(点灯時専用マスク38/消灯時専用マスク39)と撮像部27との関係を説明する。   Based on the above, the relationship between the two usage patterns of the liquid crystal shutter 26 (light-on dedicated mask 38 / light-off dedicated mask 39) and the imaging unit 27 will be described.

図9は、液晶シャッタ26と撮像部27の関係図である。この図において、今、発光ユニット1の光Pが、所定のスロット(SLOTa〜SLOTe)単位に点滅を繰り返したとする。スロットの長さは同一であり、且つ、すべてのスロットを足し合わせた時間Taは、撮像部27の1フレームに相当する。   FIG. 9 is a diagram illustrating the relationship between the liquid crystal shutter 26 and the imaging unit 27. In this figure, it is assumed that the light P of the light emitting unit 1 has repeatedly blinked in units of predetermined slots (SLOTa to SLOTe). The slot length is the same, and the time Ta when all the slots are added corresponds to one frame of the imaging unit 27.

ここで、光Pの点滅パターンを、「点灯」→「点灯」→「消灯」→「点灯」→「消灯」とする。点灯を論理1、消灯を論理0とすると、この点滅パターンは「11010」の4ビットデータ(第1パターン系列SA)である。液晶シャッタ26の二つの使用パターンを、この4ビットデータに同期させて切り換える。すなわち、「点灯」の際には点灯時専用マスク38を使用し、「消灯」の際には消灯時専用マスク39を使用するように逐次に切り換えると、図示のとおり、SLOTaとSLOTbでは点灯時専用マスク38が用いられ、次のSLOTcでは消灯時専用マスク39が用いられ、SLOTdでは再び点灯時専用マスク38が用いられ、最後のSLOTeでは消灯時専用マスク39が用いられる。   Here, the blinking pattern of the light P is set to “ON” → “ON” → “OFF” → “ON” → “OFF”. If the lighting is logic 1 and the extinction is logic 0, this blinking pattern is 4-bit data (first pattern series SA) of “11010”. Two usage patterns of the liquid crystal shutter 26 are switched in synchronization with the 4-bit data. That is, when switching on sequentially, the lighting-only mask 38 is used for “lighting” and the lighting-only mask 39 is used for “turning off”. As shown in the figure, when SLOTa and SLOTb are turned on, A dedicated mask 38 is used. In the next SLOTc, the light-off dedicated mask 39 is used. In SLOTd, the light-off dedicated mask 38 is used again. In the last SLOTe, the light-off dedicated mask 39 is used.

このようにマスクを切り換えると、各スロット(SLOTa〜SLOTe)ごとに、点灯時専用マスク38又は消灯時専用マスク39を透過した光の像が撮像部27で光電変換され、最終的に1枚のフレーム画像としてキャプチャ画像バッファ28に格納される。   When the masks are switched in this way, for each slot (SLOTa to SLOTe), the image of the light transmitted through the lighting-time dedicated mask 38 or the lighting-only mask 39 is photoelectrically converted by the imaging unit 27, and finally one sheet The captured image buffer 28 stores the frame image.

さて、簡単化のために、撮像素子27の画素(光電変換素子27a)をマスク(点灯時専用マスク38、消灯時専用マスク39)と同様に単純化して2×2の4個とし、それぞれの画素をB1〜B4で表すことにすると、点灯時専用マスク38を使用するSLOTa、SLOTb及びSLOTdでは、開状態にあるシャッタ領域E1、E4に対応する画素(B1、B4)でしか光電変換が行われない。同じく、消灯時専用マスク39を使用するSLOTc及びSLOTeでは、開状態にあるシャッタ領域E2、E3に対応する画素(B2、B3)でしか光電変換が行われない。   For simplification, the pixels (photoelectric conversion elements 27a) of the image pickup device 27 are simplified to be 2 × 2 pixels in the same manner as the masks (light-on dedicated mask 38 and light-off dedicated mask 39), If the pixels are represented by B1 to B4, in the SLOTa, SLOTb, and SLOTd using the lighting dedicated mask 38, photoelectric conversion is performed only in the pixels (B1, B4) corresponding to the open shutter regions E1, E4. I will not. Similarly, in SLOTc and SLOTe using the dedicated mask 39 at the time of extinction, photoelectric conversion is performed only in the pixels (B2, B3) corresponding to the open shutter regions E2, E3.

したがって、1フレームの時間Taで得られたフレーム画像の各画素のデータのうちB1データとB4データは点灯時専用マスク38を使用したときのものになり、且つ、B2データとB3データは消灯時専用マスク39を使用したときのものになるから、これらの画素データをキャプチャ画像バッファ28から選択的に読み出すことにより、1つのフレーム画像から二つの画像(点灯時画像40と消灯時画像41)を得ることができる。   Therefore, B1 data and B4 data among the data of each pixel of the frame image obtained at the time Ta of one frame are those when the dedicated mask 38 for lighting is used, and B2 data and B3 data are when the light is turned off. Since this is the case when the dedicated mask 39 is used, these pixel data are selectively read out from the captured image buffer 28, so that two images (lighted image 40 and unlit image 41) are obtained from one frame image. Obtainable.

そして、これらの点灯時画像40と消灯時画像41とを用いて、発光ユニット1の光Pの点滅パターンの判定を行うことができる。この判定の具体的方法については、後で詳しく説明するが、基本的な考え方は次のとおりである。   Then, the blinking pattern of the light P of the light emitting unit 1 can be determined using the on-image 40 and the off-image 41. A specific method of this determination will be described later in detail, but the basic idea is as follows.

光Pの点滅パターンと二つのマスク(点灯時専用マスク38/消灯時専用マスク39)の使用パターンが一致しているならば、点灯時画像40には充分な明るさの輝点が含まれているはずであり、且つ、消灯時画像41にはそのような輝点は含まれていないはずである。したがって、そのような点灯時画像40と消灯時画像41が得られた場合は、光Pの点滅パターンが既知のパターン(マスクの切り換えパターンと同一のパターン)であることが分かる。これに対して、もし、点灯時画像40に充分な明るさの輝点が含まれていないか、又は、消灯時画像41にそのような輝点が含まれている場合には、光Pの点滅パターンは未知のパターンであり、若しくは、外乱光などの不要なノイズであることが分かる。   If the blinking pattern of the light P and the usage patterns of the two masks (dedicated mask 38 for lighting / dedicated mask 39 for extinguishing) match, the lighting image 40 includes bright spots with sufficient brightness. Such a bright spot should not be included in the off-image 41. Therefore, when such an on-image 40 and an off-image 41 are obtained, it can be seen that the blinking pattern of the light P is a known pattern (the same pattern as the mask switching pattern). On the other hand, if the lighting image 40 does not include a bright spot with sufficient brightness, or if the lighting image 41 includes such a bright spot, the light P It can be seen that the blinking pattern is an unknown pattern or unnecessary noise such as ambient light.

<作用説明>
次に、本実施形態の具体的な作用を説明する。
本実施形態に係る受光ユニット20の主要な処理は、もっぱらCPU32によって行われる。すなわち、CPU32は、タイミングジェネレータ30からの画像キャプチャクロック信号PCKに同期して撮像部27の撮影動作を制御したり、また、撮像部27からキャプチャ画像バッファ28に取り込まれたフレーム画像をそのまま表示バッファ29に送り、スルー画像として液晶ディスプレイ24に表示させたり、さらには、シャッターボタン等の操作ボタン23の操作時に、表示バッファ29に取り込まれた画像を不図示の画像メモリにキャプチャするなどの処理を行ったりする。
<Description of action>
Next, the specific operation of this embodiment will be described.
The main processing of the light receiving unit 20 according to the present embodiment is performed exclusively by the CPU 32. That is, the CPU 32 controls the shooting operation of the imaging unit 27 in synchronization with the image capture clock signal PCK from the timing generator 30, or displays the frame image captured from the imaging unit 27 in the captured image buffer 28 as it is as a display buffer. 29 to display the image on the liquid crystal display 24 as a through image, or to capture an image captured in the display buffer 29 in an image memory (not shown) when the operation button 23 such as a shutter button is operated. To go.

加えて、CPU32は、撮像部27の撮影動作時に液晶シャッタ26を制御し、二つのマスク(点灯時専用マスク38/消灯時専用マスク39)の使用パターンを所定のパターン(第一パターン系列SA又は第2パターン系列SB)に従って切り換える処理を行う。   In addition, the CPU 32 controls the liquid crystal shutter 26 during the photographing operation of the image pickup unit 27, and uses the usage patterns of the two masks (dedicated mask 38 when turned on / dedicated mask 39 when extinguished) as predetermined patterns (first pattern series SA or Switching processing is performed according to the second pattern series SB).

さらに、CPU32は、キャプチャ画像バッファ28からフレーム画像(マスクを切り換えながら撮影した画像)を取り出し、その1枚のフレーム画像から上記の点灯時画像40及び消灯時画像41を生成する処理を行うとともに、それぞれの点灯時画像40及び消灯時画像41に対して近傍画像による補完処理を行い、次いで、補完処理後の画像に対してパターン内の点灯と消灯数の重みを考慮した加減算を行い、その演算結果を相関度評価画像バッファ35に格納した後、その相関度評価画像の中から時系列的な輝度変化パターンを持つ画素領域を抽出し、その輝度変化パターンを二値化等作業用バッファ36で二値化する処理、及び、その二値化されたデータ(上記デジタル信号PDに相当)と、パターンデータメモリ33に保持されていた基準パターン系列(SAr/SBr)とを比較し、SArと一致した場合には論理信号1を発生し、一方、SBrと一致した場合には論理信号0を発生して、それらの論理信号をデータリストメモリ37のビットバッファ37cに格納するという処理を実行する。さらに、ビットバッファ37cに格納された論理信号からこの発光領域に関するビット列を生成して、情報を変換・復元し、液晶ディスプレイ24を制御して、その画面上に、発光ユニット1による発光領域を含めた被写体像を表示すると共に、その表示領域の特定部分(たとえば、画面中央部分など)にこの発光領域に関する情報を吹き出しなどの図形を模してオーバラップ表示するという処理を実行する。   Further, the CPU 32 takes out a frame image (an image taken while switching the mask) from the captured image buffer 28 and performs processing for generating the above-described lighting-time image 40 and the lighting-time image 41 from the one frame image. Complement processing is performed on each of the lighting image 40 and the light-off image 41 using a neighborhood image, and then addition / subtraction is performed on the image after the complement processing in consideration of the weight of the number of lights on and off in the pattern. After the result is stored in the correlation evaluation image buffer 35, a pixel region having a time-series luminance change pattern is extracted from the correlation evaluation image, and the luminance change pattern is binarized by the work buffer 36. The binarization process and the binarized data (corresponding to the digital signal PD) are held in the pattern data memory 33. Are compared with the reference pattern sequence (SAr / SBr), and when they coincide with SAr, a logic signal 1 is generated. On the other hand, when they coincide with SBr, a logic signal 0 is generated. A process of storing in the bit buffer 37c of the data list memory 37 is executed. Further, a bit string related to the light emitting area is generated from the logic signal stored in the bit buffer 37c, information is converted and restored, the liquid crystal display 24 is controlled, and the light emitting area by the light emitting unit 1 is included on the screen. In addition to displaying the subject image, a process is performed in which information relating to the light emitting area is displayed in an overlapping manner in a specific portion (for example, the center portion of the screen) of the display area, imitating a graphic such as a balloon.

図10は、発光ユニット1及び受光ユニット20の具体的な利用状況を示す図である。同図において、受光ユニット20は、都心の風景に画角αの角度で向けられている。画角αの内にはビル42、43、44やテレビ塔45及び自動車46、47などが入り、そのうち、ビル42、44、テレビ塔45に発光ユニット1が取り付けられている(輝点48〜50の位置)。受光ユニット20のユーザには、発光ユニット1自体を視認することはできないが、それぞれの発光ユニット1は、時系列的な輝度変化パターン(第1パターン系列SA又は第2パターン系列SB)を持つ光Pを発光しており、輝点48〜50は、その光Pに相当している。光Pによる輝点48〜50以外に、外乱光の例として、自動車46のヘッドライト光51が画各α内に存在している。   FIG. 10 is a diagram illustrating a specific usage situation of the light emitting unit 1 and the light receiving unit 20. In the figure, the light receiving unit 20 is directed at an angle of view α to the scenery in the city center. The buildings 42, 43, 44, the TV tower 45, the automobiles 46, 47, and the like enter the angle of view α, and the light emitting unit 1 is attached to the buildings 42, 44, the TV tower 45 (the bright spots 48 to 50). position). Although the user of the light receiving unit 20 cannot visually recognize the light emitting unit 1 itself, each light emitting unit 1 has light having a time-series luminance change pattern (first pattern series SA or second pattern series SB). P is emitted, and the bright spots 48 to 50 correspond to the light P. In addition to the bright spots 48 to 50 due to the light P, headlight light 51 of the automobile 46 is present in each image α as an example of disturbance light.

受光ユニット20の液晶ディスプレイ24には、画角α内に存在するビル42、43、44、テレビ塔45及び自動車46、47の像(ビル像42A、43A、44A、テレビ塔像45A、自動車像46A、47A)や、各輝点像48A〜50A並びにヘッドライト光像51Aが写し出されている。   The liquid crystal display 24 of the light receiving unit 20 includes buildings 42, 43, 44, TV tower 45 and cars 46, 47 images (building images 42A, 43A, 44A, TV tower image 45A, car image 46A, 47A), the bright spot images 48A to 50A, and the headlight light image 51A.

受光ユニット20は、各輝点像48A〜50Aを抽出し、その輝度変化パターンを基準パターン(SAr/SBr)と各々比較し、SArに一致する場合は論理信号1を発生し、また、SBrに一致する場合は論理信号0を発生する。そして、その論理信号1と論理信号0からなるビット列を文字列変換し、その変換結果をたとえば液晶ディスプレイ24に吹き出しなどの図形52をオーバラップ表示する。   The light receiving unit 20 extracts each of the bright spot images 48A to 50A, compares the brightness change pattern with each of the reference patterns (SAr / SBr), and generates a logic signal 1 if it matches SAr. If they match, a logic signal 0 is generated. Then, the bit string composed of the logic signal 1 and the logic signal 0 is converted into a character string, and the conversion result is displayed on the liquid crystal display 24 in an overlapping manner with a graphic 52 such as a balloon.

受光ユニット20のユーザは、市街地の様々なランドマークに取り付けられた発光ユニット1により、建物の名称や入居テナント等の情報を離れた場所から得ることができる。また、建物のような大掛りなものでなくても、店頭に陳列された商品や博物館や展覧会等で展示される物体に発光ユニット1が取り付けられていれば、商品名や展示品の説明情報を離れた場所から得ることができる。   The user of the light receiving unit 20 can obtain information such as the name of the building and the tenant from a remote location by using the light emitting unit 1 attached to various landmarks in the city area. Even if it is not a big thing like a building, if the light emitting unit 1 is attached to a product displayed at a store or an object displayed in a museum or exhibition, the description of the product name and the display Information can be obtained from a remote location.

図11は、発光ユニット1のCPU5で実行される発光処理プログラムのフローチャートである。このフローチャートにおいて、CPU5は、まず、送出データメモリ2に格納されているfビットの送信情報TXから所定量、たとえば、1バイト(8ビット)の情報を取り出す(ステップS10)。次に、その情報の先頭1ビットを取り出して(ステップS11)論理判定し(ステップS12)、論理信号1であれば第1パターン系列(SA)で発光部6を点滅させ(ステップS13)、論理信号0であれば第2パターン系列(SB)で発光部6を点滅させる。そして、以上の処理を1バイト分繰り返した後(ステップS15)、再びステップS10に戻って実行し、情報の最後に到達したとき処理を終了する。   FIG. 11 is a flowchart of a light emission processing program executed by the CPU 5 of the light emitting unit 1. In this flowchart, the CPU 5 first extracts a predetermined amount, for example, 1 byte (8 bits) of information from the f-bit transmission information TX stored in the transmission data memory 2 (step S10). Next, the first 1 bit of the information is extracted (step S11) and logically determined (step S12). If the signal is logic signal 1, the light emitting unit 6 blinks in the first pattern sequence (SA) (step S13). If the signal is 0, the light emitting unit 6 blinks in the second pattern series (SB). Then, after the above process is repeated for one byte (step S15), the process returns to step S10 and is executed again, and the process ends when the end of the information is reached.

図12は、発光ユニット1の発光動作のタイミングチャートである。この例では、送信情報TXとして“X”、“T”、“o”、“w”、“e”・・・・という文字列を想定し、その文字列に対応するビット列(図では“X”→01011000)の各ビットを第1パターン系列(SA:11010)または第2パターン系列(SB:00101)に変換する例を示している。発光ユニット1の発光部6は、第1パターン系列(SA:11010)または第2パターン系列(SB:00101)で点滅し、その点滅のパターンによって上記の送信情報TXを出力する。   FIG. 12 is a timing chart of the light emitting operation of the light emitting unit 1. In this example, a character string such as “X”, “T”, “o”, “w”, “e”,... Is assumed as transmission information TX, and a bit string corresponding to the character string (“X” in the figure). In this example, each bit of “→ 01011000) is converted into the first pattern series (SA: 11010) or the second pattern series (SB: 00101). The light emitting unit 6 of the light emitting unit 1 blinks in the first pattern series (SA: 11010) or the second pattern series (SB: 00101), and outputs the transmission information TX according to the blinking pattern.

図13は、発光側(発光ユニット1)と受光側(受光ユニット20)のタイミングチャートである。発光側において、パターン切り換えクロックCPは、クロック信号CKの5回につき1回発生する。図示の例では、1回目と2回目のCPの周期で第1パターン系列SAを選択し、3回目のCPの周期で第2パターン系列SBを選択している。図面中央付近の波形は、光Pの駆動波形である。光Pはハイレベル期間(論理1の期間)で点灯し、ローレベル期間(論理0の期間)で消灯する。たとえば、1回目のCPの周期では、光Pは5つのスロット(SLOTa〜SLOTe)ごとに「点灯」→「点灯」→「消灯」→「点灯」のパターンで点滅する。   FIG. 13 is a timing chart of the light emitting side (light emitting unit 1) and the light receiving side (light receiving unit 20). On the light emitting side, the pattern switching clock CP is generated once every five clock signals CK. In the illustrated example, the first pattern series SA is selected at the first and second CP periods, and the second pattern series SB is selected at the third CP period. The waveform near the center of the drawing is the drive waveform of the light P. The light P is turned on in the high level period (logic 1 period) and turned off in the low level period (logic 0 period). For example, in the first CP cycle, the light P flashes in a pattern of “lighting” → “lighting” → “lighting off” → “lighting” every five slots (SLOTa to SLOTe).

一方、受光側においては、撮像部27の撮像周期(フレーム)ごとに動作が繰り返される。ここで、1フレームの時間Taは、発光側の一つのCPの周期に一致し、且つ、そのフレームの開始と終了は、CPの周期の始まりと終わりに一致している。つまり、発光側の1CPと受光側の1フレームは同期している。   On the other hand, on the light receiving side, the operation is repeated every imaging cycle (frame) of the imaging unit 27. Here, the time Ta of one frame coincides with the period of one CP on the light emitting side, and the start and end of the frame coincide with the beginning and end of the CP period. That is, 1 CP on the light emitting side and 1 frame on the light receiving side are synchronized.

撮像部27は、この1フレームの期間で露光(光電変換素子27aへの電荷の蓄積)と光電変換素子27aからの電荷の読み出しを行い、電荷を電気信号(画像信号)に変換した後、この画像信号を、次のフレームの頭でキャプチャ画像バッファ28へ転送する。なお、電荷を画像信号に変換する際に暗電流補正などの所要の信号操作も行われるが、ここでは説明を割愛する。   The imaging unit 27 performs exposure (accumulation of charge in the photoelectric conversion element 27a) and readout of the charge from the photoelectric conversion element 27a in the period of one frame, and converts the charge into an electric signal (image signal). The image signal is transferred to the captured image buffer 28 at the beginning of the next frame. It should be noted that a necessary signal operation such as dark current correction is also performed when converting the charge into an image signal, but the description is omitted here.

さて、本実施形態においては、受光側で液晶シャッタ26の制御も行われる。制御信号CTは、先にも(図4参照)説明したとおり、液晶シャッタ26の制御信号である。CTが高電位(以下、ハイレベルという)にあるとき、液晶シャッタ26は、第1グループの電極G1の位置のシャッタ領域が開状態となり(図7(a)参照)、CTが低電位(以下、ローレベルという)にあるとき、液晶シャッタ26は、第2グループの電極G2の位置のシャッタ領域が開状態となる(図8(b)参照)。前者の状態は「点灯時専用マスク状態」であり、後者の状態は「消灯時専用マスク状態」である。   In the present embodiment, the liquid crystal shutter 26 is also controlled on the light receiving side. The control signal CT is a control signal for the liquid crystal shutter 26 as described above (see FIG. 4). When CT is at a high potential (hereinafter referred to as high level), the liquid crystal shutter 26 is in an open state in the shutter region at the position of the first group of electrodes G1 (see FIG. 7A), and CT is at a low potential (hereinafter referred to as “a”). In the liquid crystal shutter 26, the shutter region at the position of the second group of electrodes G2 is opened (see FIG. 8B). The former state is a “dedicated mask state when turned on”, and the latter state is a “dedicated mask state when turned off”.

図示の例においては、1番目と2番目のスロット(SLOTa、SLOTb)及び4番目のスロット(SLOTd)のときに、制御信号CTがハイレベルになっており、また、3番目のスロット(SLOTc)と5番目のスロット(SLOTe)のときに、制御信号CTがローレベルになっている。したがって、SLOTa、SLOTb及びSLOTdでは、液晶シャッタ26が「点灯時専用マスク状態」になり、SLOTeでは、液晶シャッタ26が「消灯時専用マスク状態」になる。   In the illustrated example, the control signal CT is at a high level in the first and second slots (SLOTa, SLOTb) and the fourth slot (SLOTd), and the third slot (SLOTc). And the fifth slot (SLOTe), the control signal CT is at a low level. Therefore, in SLOTa, SLOTb, and SLOTd, the liquid crystal shutter 26 is in the “lighting-only mask state”, and in SLOTe, the liquid crystal shutter 26 is in the “light-out dedicated mask state”.

なお、制御信号CT′は、制御信号CTの位相を所定量Δsだけ前に進めて補正したものである。Δsは液晶シャッタ26の応答遅れ時間(数ミリ秒)に相当する。本明細書全体を通して、位相補正前の制御信号CTを液晶シャッタ26に与えることにする。但し、これは説明の便宜である。実際には位相補正後の制御信号CT′を与える。   The control signal CT ′ is obtained by correcting the phase of the control signal CT by moving it forward by a predetermined amount Δs. Δs corresponds to the response delay time (several milliseconds) of the liquid crystal shutter 26. Throughout this specification, the control signal CT before phase correction is given to the liquid crystal shutter 26. However, this is for convenience of explanation. Actually, the control signal CT ′ after phase correction is given.

図中の最下段に示す二つの波形53、54は、それぞれ液晶シャッタ26の開閉波形を示している。実線の波形53は「点灯時専用マスク状態」のときのもの、一点鎖線の波形54は「消灯時専用マスク状態」のときのものである。いずれも、波形53、54の山の部分で「点灯時専用マスク状態」又は「消灯時専用マスク状態」となる。これらの波形53、54は、制御信号CT(実際にはCT′)に同期して山から谷へ又は谷から山へと遷移する。   The two waveforms 53 and 54 shown at the bottom in the figure show the opening and closing waveforms of the liquid crystal shutter 26, respectively. A solid-line waveform 53 is obtained when the “lighting-only mask state” is selected, and an alternate long and short dash line waveform 54 is obtained when the “light-off dedicated mask state”. In either case, the peak portions of the waveforms 53 and 54 are “dedicated mask state when turned on” or “dedicated mask state when turned off”. These waveforms 53 and 54 transition from mountain to valley or from valley to mountain in synchronization with the control signal CT (actually CT ′).

「点灯時専用マスク状態」に対応する波形53の山の部分(イ、ロ、ニ)では、撮像部27の特定画素(図9のB1、B4参照)に電荷が蓄積され、また、「消灯時専用マスク状態」に対応する波形54の山の(ハ、ホ)では、撮像部27の特定画素(図9のB2、B3参照)に電荷が蓄積される。つまり、撮像部27の1フレームの期間で点灯時画像用のデータ(図9のB1データ、B4データ参照)と消灯時画像用のデータ(図9のB2データ、B3データ参照)が蓄積されるので、これらの蓄積電荷から作られる1枚のフレーム画像中に、二つの画像(点灯時画像40と消灯時画像41)の画素データが含まれることになる。   Charges are accumulated in specific pixels (see B1 and B4 in FIG. 9) of the imaging unit 27 at the peak portions (A, B, D) of the waveform 53 corresponding to the “dedicated mask state during lighting”. Charges are accumulated in specific pixels (see B2 and B3 in FIG. 9) of the peaks 54 of the waveform 54 corresponding to the “time-only mask state”. In other words, the data for lighting image (see B1 data and B4 data in FIG. 9) and the data for lighting image (see B2 data and B3 data in FIG. 9) are accumulated in the period of one frame of the imaging unit 27. Therefore, pixel data of two images (light-on image 40 and light-off image 41) are included in one frame image created from these accumulated charges.

図14は、受光ユニット20のCPU32で実行される受光処理プログラムのフローチャートである。このフローチャートを開始すると、まず、タイミングジェネレータ30を初期化し(ステップS20)、その後、以下の処理を繰り返し実行する。   FIG. 14 is a flowchart of a light receiving process program executed by the CPU 32 of the light receiving unit 20. When this flowchart is started, first, the timing generator 30 is initialized (step S20), and then the following processing is repeatedly executed.

液晶シャッタ制御処理:ステップS21
この液晶シャッタ制御処理では、まず、所要のシャッタ制御パターンを読み込む。このパターンは、発光ユニット1の光Pの点滅パターン(第1パターン系列SA又は第2パターン系列SB)に対応したものである。ここでは、一例として「11010」(第1パターン系列SA)を読み込むものとする。次に、このシャッタ制御パターンに基づいて制御信号CTを発生する。この制御信号CTは、制御パターンの論理1でハイレベルとなり、論理0でローレベルとなる信号である(図13の制御信号CT参照)。次いで、制御信号CTの位相をΔsだけ補正した制御信号CT′を生成し、この制御信号CT′を液晶シャッタ26に出力して処理を終了する。
Liquid crystal shutter control process: Step S21
In this liquid crystal shutter control process, first, a required shutter control pattern is read. This pattern corresponds to the blinking pattern of the light P of the light emitting unit 1 (first pattern series SA or second pattern series SB). Here, as an example, “11010” (first pattern series SA) is read. Next, a control signal CT is generated based on this shutter control pattern. This control signal CT is a signal that becomes a high level at a logic 1 of the control pattern and becomes a low level at a logic 0 (see the control signal CT in FIG. 13). Next, a control signal CT ′ in which the phase of the control signal CT is corrected by Δs is generated, the control signal CT ′ is output to the liquid crystal shutter 26, and the process is terminated.

フレームバッファ登録処理:ステップS22
図15は、フレームバッファ登録処理サブルーチンプログラムのフローチャートである。このフローチャートでは、まず、撮像部27からのフレーム画像をキャプチャ画像フレームバッファ46に取り込み(ステップS22a)、次いで、そのフレーム画像に対して平滑化等のフィルタ処理を施す(ステップS22b)。次いで、このフィルタ処理が施されたフレーム画像と基準画像バッファ34内の基準フレーム画像とでフレーム相関処理を行い、その結果、動きベクトルを検出し(ステップS22c)、この動きベクトルの動き量が補正しきい値内であるか否かを判定する(ステップS22d)。
Frame buffer registration processing: Step S22
FIG. 15 is a flowchart of the frame buffer registration processing subroutine program. In this flowchart, first, a frame image from the imaging unit 27 is taken into the captured image frame buffer 46 (step S22a), and then a filtering process such as smoothing is performed on the frame image (step S22b). Next, frame correlation processing is performed between the filtered frame image and the reference frame image in the reference image buffer 34. As a result, a motion vector is detected (step S22c), and the motion amount of the motion vector is corrected. It is determined whether it is within the threshold (step S22d).

動きベクトルの動き量が補正しきい値内でない場合、動きのない、若しくは動き量の少ないフレーム画像であると判断し、そのフレーム画像を、そのままキャプチャ画像バッファ28に格納し(ステップS22e)、基準画像バッファ34の基準フレーム画像をこのフレーム画像に置き換え(ステップS22f)、且つ、同じフレーム画像を表示バッファ29に格納した後、図14に復帰する。一方、動きベクトルの動き量が補正しきい値内である場合、このフレーム画像は動き量の大きいものであると判断し、このフレーム画像に対して動き補正を施すとともに、補正後のフレーム画像をキャプチャ画像バッファ28に格納し(ステップS22g)、同じフレーム画像を表示バッファ29に格納した後、図14に復帰する。   If the amount of motion of the motion vector is not within the correction threshold, it is determined that the frame image has no motion or has a small amount of motion, and the frame image is stored in the captured image buffer 28 as it is (step S22e). After the reference frame image in the image buffer 34 is replaced with this frame image (step S22f) and the same frame image is stored in the display buffer 29, the process returns to FIG. On the other hand, when the amount of motion of the motion vector is within the correction threshold, it is determined that this frame image has a large amount of motion, and motion correction is performed on this frame image, and the corrected frame image is After storing in the captured image buffer 28 (step S22g) and storing the same frame image in the display buffer 29, the process returns to FIG.

信号検出&ビット取り出し処理:ステップS23
図16は、信号検出&ビット取り出し処理サブルーチンプログラムのフローチャートである。このフローチャートでは、まず、データリストメモリ37内の更新要求リスト37aを初期化する(ステップS23a)。次いで、キャプチャ画像バッファ28に格納されているフレーム画像に対して点灯時画像40と消灯時画像41のフィルタ計算を行い(ステップS23b)、その計算結果を相関度評価画像として相関度評価画像バッファ35に格納する(ステップS23c)。
Signal detection & bit extraction processing: Step S23
FIG. 16 is a flowchart of the signal detection & bit extraction processing subroutine program. In this flowchart, first, the update request list 37a in the data list memory 37 is initialized (step S23a). Next, filter calculation of the on-image 40 and the off-image 41 is performed on the frame image stored in the capture image buffer 28 (step S23b), and the calculation result is used as the correlation evaluation image 35. (Step S23c).

図17は、フィルタ計算の概念図である。この図において、四角の升目はフィルタ計算の対象となる画素である。各々の画素は、座標(x,y)が与えられている。今、フレーム画像の縦サイズをH、横サイズをWとし、以下の式1、式2の値域を
i=0〜W/2,j=0〜H/2
で繰り返し計算する。
FIG. 17 is a conceptual diagram of filter calculation. In this figure, the squares are pixels that are subject to filter calculation. Each pixel is given coordinates (x, y). Now, assuming that the vertical size of the frame image is H and the horizontal size is W, the range of the following formulas 1 and 2 is i = 0 to W / 2, j = 0 to H / 2.
Repeat with.

但し、(2i+1,2j+1)の座標位置が点灯時画像40の各ドット(図9のB1、B4参照)に対応し、(2i+2,2j+1)の座標位置が消灯時画像41の各ドット(図9のB2、B3参照)に対応するものとする。
また、点灯時画像画像40の各ドットに対する重み値Waを1/3とし、消灯時画像41の各ドットに対する重み値Wbを1/2とする(パターンで点灯3bit、消灯2bit)。
座標の値をP(i,j)とすると、座標(i,j)の相関度評価値R(i,j)は、
R(2i+1,2j+1) ・・・・点灯時画像40に対応する座標での相関度
=点灯時ドット値/3−近傍平均で補完算出した点灯時ドット値
=(その座標の値)/3−その座標の4近傍平均/2
=P(2i+1,2j+1)−(P(2i+1,2j)+P(2i+2j+l)+P(2i+1,2j+2)+P(2i+2,2j+l))/4
・・・・(式1)
R(2i+2,2j+1) ・・・・消灯時画像41に対応する座標での相関度
= 近傍値から補完した点灯時ドット値/3−消灯時ドット値
= その座標の4近傍平均/3−(その座標の値)/2
=((P(2i+1,2j)+P(2i+1,2j+l)+P(2i+2,2j+2)+P(2i+3,2j+1))/4)/3−P(2i+1,2j+l)/2
・・・・(式2)
で与えられる。
However, the coordinate position of (2i + 1, 2j + 1) corresponds to each dot of the on-image 40 (see B1 and B4 in FIG. 9), and the coordinate position of (2i + 2, 2j + 1) corresponds to each dot of the off-image 41 (FIG. 9). Corresponding to B2 and B3).
Further, the weight value Wa for each dot of the light-on image image 40 is set to 1/3, and the weight value Wb for each dot of the light-off image 41 is set to 1/2 (lighting 3 bits in the pattern, lighting 2 bits).
When the coordinate value is P (i, j), the correlation evaluation value R (i, j) of the coordinate (i, j) is
R (2i + 1, 2j + 1)... Correlation at coordinates corresponding to lighting image 40 = dot value at lighting / 3-dot value at lighting complemented by neighborhood average = (value of that coordinate) / 3− 4 neighborhood average of the coordinates / 2
= P (2i + 1,2j + 1)-(P (2i + 1,2j) + P (2i + 2j + l) + P (2i + 1,2j + 2) + P (2i + 2,2j + l)) / 4
... (Formula 1)
R (2i + 2, 2j + 1)... Correlation at the coordinates corresponding to the unlit image 41 = the dot value at the time of complementing from the neighborhood value / 3-the dot value at the time of the unlit = the 4-neighbor average of the coordinate / 3-( The value of the coordinate) / 2
= ((P (2i + 1,2j) + P (2i + 1,2j + l) + P (2i + 2,2j + 2) + P (2i + 3,2j + 1)) / 4) / 3-P (2i + 1,2j + l) / 2
.... (Formula 2)
Given in.

これにより、キャプチャ画像バッファ28から相関度評価画像バッファ35への直接的な計算ができ、別途に、点灯時画像40のためのバッファや消灯時画像41のためのバッファを用意する必要がない。   Thereby, direct calculation from the captured image buffer 28 to the correlation degree evaluation image buffer 35 can be performed, and it is not necessary to prepare a buffer for the lighting-time image 40 and a buffer for the lighting-time image 41 separately.

図18は、点灯時画像40と消灯時画像41の画像差分による相関度評価画像55の取得概念図である。この図において、点灯時画像40の各画素に乗算器56を用いて重み値Wa(1/3)を適用し、また、消灯時画像41にも乗算器57を用いて重み値Wb(1/2)を適用し、それらを加算器58で加算して画像差分による相関度評価画像55を得る。なお、点灯時画像40の内部に描かれた市松模様の図形59は、「点灯時専用マスク状態」の液晶シャッタ26によって得られた光P(但し、点灯)の像を表しており、消灯時画像41の内部に描かれた市松模様の図形60は、「消灯時専用マスク状態」の液晶シャッタ26によって得られた光P(但し、消灯)の像を表している。図形59、60の黒く塗りつぶされた小さな矩形は、閉状態のシャッタ領域に対応する画素(以下、閉画素)であり、それらの黒塗り矩形に挟まれた小さな矩形は、開状態のシャッタ領域に対応する画素(以下、開画素)である。但し、ここでは、図示の都合上、光P以外の背景の閉画素及び開画素はハッチングで潰して省略している。相関度評価画像55の内部に描かれた白く塗りつぶされた図形61は、画像差分によって得られた光Pの点灯像である。図形59、60及び61のギザギザは、撮像素子27の画素(つまりシャッタ領域)の境界を表す。   FIG. 18 is a conceptual diagram of acquiring the correlation degree evaluation image 55 based on the image difference between the lighting-time image 40 and the lighting-time image 41. In this figure, a weight value Wa (1/3) is applied to each pixel of the on-light image 40 by using a multiplier 56, and a weight value Wb (1/1) is also applied to the unlit image 41 by using a multiplier 57. 2) are applied and added by an adder 58 to obtain a correlation evaluation image 55 based on image differences. A checkered pattern 59 drawn inside the lighting-time image 40 represents an image of the light P (but lighting) obtained by the liquid crystal shutter 26 in the “lighting-only mask state”. A checkered pattern 60 drawn inside the image 41 represents an image of light P (however, extinguished) obtained by the liquid crystal shutter 26 in the “dedicated mask state when extinguished”. The small rectangles filled in black in the figures 59 and 60 are pixels corresponding to the closed shutter area (hereinafter referred to as closed pixels), and the small rectangles sandwiched between the black painted rectangles are in the open shutter area. It is a corresponding pixel (hereinafter referred to as an open pixel). However, here, for the convenience of illustration, closed pixels and open pixels in the background other than the light P are omitted by being hatched. A white-painted figure 61 drawn inside the correlation degree evaluation image 55 is a lighting image of the light P obtained by the image difference. The jaggedness of the graphics 59, 60 and 61 represents the boundary of the pixels (that is, the shutter region) of the image sensor 27.

このように、相関度評価画像55を生成すると、再び、図16において、相関度評価画像バッファ35内の相関度評価画像55から二値化画像を生成し(ステップS23d)、この二値化画像における各領域を、同一連続領域についてラべリング(ラベル付け)し、各領域の中心座標を第1パターン系列として更新要求リスト37aに追加設定する(ステップS23e)。
次に、前記相関度評価画像55のしきい値を符号反転させて二値化画像を生成し(ステップS23f)、同様に各領域について第2パターン系列として、更新要求リスト37aに追加設定する(ステップS23g)。この後、更新要求リスト37aが空でないか否かを判定し(ステップS23h)、空でない場合はステップS25のリスト更新処理に移行する。
When the correlation evaluation image 55 is generated in this way, a binarized image is generated again from the correlation evaluation image 55 in the correlation evaluation image buffer 35 in FIG. 16 (step S23d). Are labeled (labeled) with respect to the same continuous area, and the center coordinates of each area are additionally set as a first pattern series in the update request list 37a (step S23e).
Next, the threshold value of the correlation evaluation image 55 is inverted to generate a binarized image (step S23f). Similarly, each region is additionally set in the update request list 37a as the second pattern series ( Step S23g). Thereafter, it is determined whether or not the update request list 37a is not empty (step S23h). If it is not empty, the process proceeds to list update processing in step S25.

図19は、リスト更新処理サブルーチンプログラムのフローチャートである。まず、上記ステップS23にて設定された更新要求リスト37aからパターン(以降「要求パターン」と称する)を一つ取り出し(ステップS25a)、予め登録されている座標と一致するものがこの要求パターンに存在するか否かを判定する(ステップS25b)。そして、一致するものが存在する場合は、この要求パターンが第1パターン系列SAか第2パターン系列SBかを判定する(ステップS25d)。   FIG. 19 is a flowchart of the list update processing subroutine program. First, one pattern (hereinafter referred to as “request pattern”) is extracted from the update request list 37a set in step S23 (step S25a), and a pattern that matches the pre-registered coordinates exists in this request pattern. It is determined whether or not to perform (step S25b). If there is a match, it is determined whether this request pattern is the first pattern series SA or the second pattern series SB (step S25d).

なお、要求パターンが第1パターン系列SA及び第2パターン系列SBの双方に一致しない場合にはリストエントリ37bの新規作成を行い、座標登録処理、ビットバッファ37cの初期化を行ってから(ステップS25c)、要求パターンを判定する(ステップS25d)。   If the request pattern does not match both the first pattern series SA and the second pattern series SB, a new list entry 37b is created, the coordinate registration process and the bit buffer 37c are initialized (step S25c). The request pattern is determined (step S25d).

そして、要求パターンが第1パターン系列である場合はビットバッファ37cの該当するエントリに“1”を追加し(ステップS25e)、第2のパターンである場合はビットバッファ37cの該当するエントリに“0”を追加し(ステップS25f)、いずれの場合も終了するまで(ステップS25g)、以上の処理を繰り返し実行し、図13におけるステップS24の処理に移行する。   If the request pattern is the first pattern series, “1” is added to the corresponding entry in the bit buffer 37c (step S25e). If the request pattern is the second pattern, “0” is added to the corresponding entry in the bit buffer 37c. "Is added (step S25f), and in any case, the above process is repeated until the process ends (step S25g), and the process proceeds to step S24 in FIG.

表示処理:ステップS24
図20は、ステップS24の表示処理サブルーチンプログラムのフローチャートである。このフローチャートでは、まず、今回の更新処理でビットデータの更新がなかったものがあるか否かを判定する(ステップS24a)。そして、ビットデータの更新がなかった場合にはデータリストメモリ37から削除する一方(ステップS24b)、更新があった場合にはビットバッファ37cに1バイト分のビットデータがバッファリングされたか否かを判定する(ステップS24c)。
Display process: Step S24
FIG. 20 is a flowchart of the display processing subroutine program in step S24. In this flowchart, first, it is determined whether or not there is any bit data that has not been updated in the current update process (step S24a). If the bit data is not updated, the bit list is deleted from the data list memory 37 (step S24b). If the bit data is updated, it is determined whether or not 1-byte bit data is buffered in the bit buffer 37c. Determination is made (step S24c).

ビットバッファ37cに1バイト(8ビット)バッファリングされていない場合には表示バッファ29の画像を液晶ディスプレイ24に送って表示し(ステップS24e)、ビットバッファで1バイト(8ビット)バッファリングされた場合には、データリストメモリ37のバイトデータFIFO(不図示)に追加し、ビットバッファ37cをクリアした後(ステップS24d)、表示バッファ29の画像を液晶ディスプレイ24に転送し表示する(ステップS24e)。次に、最も中央にある光Pに対応する輝点を選択し、表示画像にオーバラップして矢印と光Pにより伝送された情報文字列を表示する(ステップS24f)。一方、それ以外の輝点については矢印のみをオーバラップ表示して(ステップS24g)、図14のループに復帰する。   If 1 byte (8 bits) is not buffered in the bit buffer 37c, the image in the display buffer 29 is sent to the liquid crystal display 24 for display (step S24e), and 1 byte (8 bits) is buffered in the bit buffer. In this case, after adding to the byte data FIFO (not shown) of the data list memory 37 and clearing the bit buffer 37c (step S24d), the image in the display buffer 29 is transferred to the liquid crystal display 24 and displayed (step S24e). . Next, the bright spot corresponding to the light P at the center is selected, and the information character string transmitted by the arrow and the light P is displayed overlapping the display image (step S24f). On the other hand, for the other bright spots, only the arrows are displayed in an overlapping manner (step S24g), and the process returns to the loop of FIG.

<まとめ>
以上説明したとおり、この実施形態によれば、受光ユニット20は、発光ユニット1からの光Pの点滅パターンで送信された第1パターン系列SA又は第2パターン系列SBを、1フレームの期間内で受け取ることができる。したがって、1フレームの長さ(Ta)を、たとえば、66msとし、第1パターン系列SA又は第2パターン系列SBの情報量(ビット数m)をm=5とすれば、本実施形態では、1ビットあたり、66ms÷5=13.5msで送ることができ、従来技術のように1フレームあたり1ビットしか送れなかったものに比べて、m倍のデータレートの向上を見込むことができる。このことは、短時間で多くの情報を伝送可能になることを意味するから、簡単な情報(商品のタグ情報やID情報)などはもとより、もっと複雑な情報も送ることができるようになり、多様な用途への利用拡大を図ることが可能になるという格別の効果が得られる。
<Summary>
As described above, according to this embodiment, the light receiving unit 20 transmits the first pattern series SA or the second pattern series SB transmitted in the blinking pattern of the light P from the light emitting unit 1 within the period of one frame. Can receive. Therefore, if the length (Ta) of one frame is, for example, 66 ms and the information amount (the number of bits m) of the first pattern sequence SA or the second pattern sequence SB is m = 5, in this embodiment, 1 Data can be sent at 66 ms ÷ 5 = 13.5 ms per bit, and the data rate can be expected to be improved by m times compared to the case where only one bit can be sent per frame as in the prior art. This means that a lot of information can be transmitted in a short time, so it is possible to send more complex information as well as simple information (product tag information and ID information). It is possible to obtain a special effect that it is possible to expand use for various purposes.

また、本実施形態の受光ユニット20は、従来技術のフレーム時系列バッファ16に相当する構成要素を必要としない。しかも、キャプチャ画像バッファ28に格納された一つのフレーム画像から点灯時画像40と消灯時画像41を作り出すことができるため、それらの画像(点灯時画像40と消灯時画像41)のためフレームメモリも必要としない。ゆえに、従来技術に比べて、大幅なメモリ容量の削減を図ることができる。したがって、コストを低減でき、実用化上の大きな障害の一つを排除できる格別の効果が得られる。   Further, the light receiving unit 20 of the present embodiment does not require components corresponding to the frame time series buffer 16 of the prior art. In addition, since the lighting-time image 40 and the lighting-time image 41 can be created from one frame image stored in the capture image buffer 28, the frame memory is also used for these images (the lighting-time image 40 and the lighting-time image 41). do not need. Therefore, the memory capacity can be greatly reduced as compared with the prior art. Therefore, it is possible to reduce costs and obtain a special effect that can eliminate one of the major obstacles in practical use.

また、本実施形態の受光ユニット20は、既存の撮像部27の前面に液晶シャッタ26を設けるだけでよく、プログラムの一部改修を除き、構成上の大きな変更も生じない。したがって、この点においてもコスト削減に寄与する。加えて、デジタルカメラ等の汎用の撮像装置にも容易に適用できるというメリットもある。   In addition, the light receiving unit 20 of the present embodiment only needs to provide the liquid crystal shutter 26 on the front surface of the existing image pickup unit 27, and there is no major change in configuration except for partial modification of the program. Therefore, this point also contributes to cost reduction. In addition, there is a merit that it can be easily applied to general-purpose imaging devices such as digital cameras.

また、液晶シャッタ26の応答遅れ時間(Δs)を加味して位相を補正した制御信号CT′を使用するので、液晶シャッタ26の応答遅れに伴う不都合(シャッタ開閉タイミングのズレなど)を防止できる。しかも、位相の補正量を加減することにより、たとえば、反応速度が遅い(したがって、安価な)シャッタデバイスの使用も可能であり、この点においてもコスト削減に寄与する。   Further, since the control signal CT ′ whose phase is corrected in consideration of the response delay time (Δs) of the liquid crystal shutter 26 is used, inconvenience (such as a shift in shutter opening / closing timing) associated with the response delay of the liquid crystal shutter 26 can be prevented. Moreover, by adjusting the amount of phase correction, for example, it is possible to use a shutter device having a slow reaction speed (and therefore inexpensive), which also contributes to cost reduction.

また、液晶シャッタ26のシャッタ領域の配列を撮像部27の画素に合わせて「市松模様」としたので、撮像部27の本来の解像度を損なうことがなく、しかも、画像の縦横比のバランスを保ったまま処理系を組むことができる。   In addition, since the arrangement of the shutter area of the liquid crystal shutter 26 is made to be a “checkered pattern” in accordance with the pixels of the image pickup unit 27, the original resolution of the image pickup unit 27 is not impaired, and the balance of the aspect ratio of the image is maintained. A processing system can be assembled as it is.

<変形例>
なお、以上の説明では、受光ユニット20として、デジタルカメラ等のような液晶ファインダ(液晶ディスプレイ24)を備えたものを例にしたが、これに限らない。
<Modification>
In the above description, the light receiving unit 20 includes a liquid crystal finder (liquid crystal display 24) such as a digital camera, but is not limited thereto.

図21は、液晶ファインダを備えない受光ユニットの一例を示す図である。この図に示すように、ボディ62に光学レンズ63、操作ボタン64を備え、さらに、文字情報表示用の表示部65や撮影方向調整用の直視ファインダ66を備えた受光ユニット67であってもよい。   FIG. 21 is a diagram illustrating an example of a light receiving unit that does not include a liquid crystal finder. As shown in this figure, the light receiving unit 67 may be provided with an optical lens 63 and operation buttons 64 in the body 62, and further provided with a display unit 65 for displaying character information and a direct view finder 66 for adjusting the photographing direction. .

これによれば、同図(b)に示すように、直視ファインダ66を覗き、目標物に撮影方向を向けて操作ボタン64を押すことにより、目標物からの情報を受信して表示部65に表示させることができる。このようにすれば、比較的高価な液晶ファインダ(図4の液晶ディスプレイ24)を用いる必要が無く、受光ユニット67のコストダウンを図ることができる。なお、ユーザは、直視ファインダ66を覗いている間は表示部65の表示を確認できないので、目標物からの情報取得を通知するための警報または合成音声等を発するようにしても良い。   According to this, as shown in FIG. 6B, the information from the target is received and displayed on the display unit 65 by looking through the direct view finder 66 and directing the shooting direction toward the target and pressing the operation button 64. Can be displayed. In this way, it is not necessary to use a relatively expensive liquid crystal finder (the liquid crystal display 24 in FIG. 4), and the cost of the light receiving unit 67 can be reduced. Since the user cannot confirm the display on the display unit 65 while looking through the direct view finder 66, the user may issue an alarm or a synthesized voice for notifying acquisition of information from the target.

また、上記の実施形態では、液晶シャッタ26のシャッタ領域と撮像部27の画素とを一対一に対応させたが、これに限定されない。   In the above embodiment, the shutter area of the liquid crystal shutter 26 and the pixels of the imaging unit 27 are made to correspond one-to-one. However, the present invention is not limited to this.

図22は、液晶シャッタ26の変形例を示す図である。この図において、液晶シャッタ26のシャッタ領域68は、実線の大きな矩形で示されており、一つのシャッタ領域の下に撮像部27の4個(2×2)の画素69が位置している。すなわち、この例では、撮像部27の画素69の4個に対して、液晶シャッタ26のシャッタ領域68を1個対応させており、つまり、4対1の関係になっている。このようにしても、撮像部27の1フレーム期間内で点灯時画像40と消灯時画像41とを支障無く得ることができる。   FIG. 22 is a diagram illustrating a modification of the liquid crystal shutter 26. In this figure, the shutter area 68 of the liquid crystal shutter 26 is indicated by a rectangle with a large solid line, and four (2 × 2) pixels 69 of the image pickup unit 27 are located under one shutter area. That is, in this example, one shutter area 68 of the liquid crystal shutter 26 is associated with four pixels 69 of the imaging unit 27, that is, a four-to-one relationship is established. Even in this case, the on-image 40 and the off-image 41 can be obtained without any trouble within one frame period of the imaging unit 27.

しかも、このような多対1の関係にすることにより、とりわけ、高画素数の撮像部27に液晶シャッタ26を組み合わせる場合のコストアップ問題(小さな画素69に合わせて液晶シャッタ26のシャッタ領域68を縮小するほどコストが嵩む)を回避できる。なお、このようにした場合には、フレーム画像が得られた段階で、まず、複数のドットの平均値を求めて1つのドット値にまとめるようなフィルタ処理を行う必要がある。   In addition, by having such a many-to-one relationship, particularly when the liquid crystal shutter 26 is combined with the imaging unit 27 having a high pixel count (the shutter region 68 of the liquid crystal shutter 26 is adjusted in accordance with the small pixel 69). The cost increases as the size is reduced. In this case, when a frame image is obtained, first, it is necessary to perform a filtering process to obtain an average value of a plurality of dots and combine them into one dot value.

図23は、フィルタ処理の概念図である。ここでは、撮像部27の画素数を1280×960ドットと仮定している。この1280×960の元画像70をフィルタ処理によって、図示のような、たとえば、320×240ドットの縮小画像71にサイズ変換し、その後、上記の実施形態と同様に、この縮小画像71に対して、画像分離や補完などの処理を施して相関度評価画像55を得るようにすればよい。   FIG. 23 is a conceptual diagram of filter processing. Here, it is assumed that the number of pixels of the imaging unit 27 is 1280 × 960 dots. The original image 70 of 1280 × 960 is converted into a reduced image 71 having a size of 320 × 240 dots, for example, by filtering, and then the reduced image 71 is converted into the reduced image 71 as in the above embodiment. The correlation evaluation image 55 may be obtained by performing processing such as image separation and interpolation.

また、上記の実施形態では、液晶シャッタ26を常にどちらかのマスク状態(点灯時専用マスク状態又は消灯時専用マスク状態)にしているが、これに限らない。   In the above-described embodiment, the liquid crystal shutter 26 is always in either mask state (the dedicated mask state when the light is turned on or the dedicated mask state when the light is turned off).

図24は、液晶シャッタ26の好ましい変形例を示す図である。この図において、配線72は、図6の第1系統配線26aにつながっており、配線73は同じく図6の第2系統配線26bにつながっている。液晶シャッタ制御信号発生部74で作られた制御信号CTは、第1のオア素子75の一方入力に加えられているとともに、インバータ76を介して極性反転されたCTが第2のオア素子77の一方入力に加えられている。第1のオア素子75と第2のオア素子77の各他方入力にはシャッタモード選択部78からのモード選択信号STが加えられている。このような構成において、モード選択信号STをローレベルのままにしておけば、上記の実施形態と同様の作用が得られる。すなわち、制御信号CTをハイレベル(高電位)にすれば、配線72及び図6の第1系統配線26aを介して第1グループの電極G1に高電位を印可し、液晶シャッタ26を点灯時専用マスク状態にすることができ、また、制御信号CTをローレベル(低電位)にすれば、配線73及び図6の第2系統配線26bを介して第2グループの電極G2に(インバータ76で極性反転した)高電位を印可し、液晶シャッタ26を消灯時専用マスク状態にすることができる。   FIG. 24 is a view showing a preferred modification of the liquid crystal shutter 26. In this figure, the wiring 72 is connected to the first system wiring 26a of FIG. 6, and the wiring 73 is connected to the second system wiring 26b of FIG. The control signal CT generated by the liquid crystal shutter control signal generation unit 74 is applied to one input of the first OR element 75, and the CT whose polarity is inverted through the inverter 76 is converted to the second OR element 77. Meanwhile it has been added to the input. A mode selection signal ST from the shutter mode selection unit 78 is added to each other input of the first OR element 75 and the second OR element 77. In such a configuration, if the mode selection signal ST is kept at a low level, the same operation as in the above embodiment can be obtained. That is, if the control signal CT is set to a high level (high potential), a high potential is applied to the first group of electrodes G1 via the wiring 72 and the first system wiring 26a of FIG. If the control signal CT is set to a low level (low potential), the second group electrode G2 can be connected to the second group electrode G2 via the wiring 73 and the second system wiring 26b of FIG. A high potential (inverted) can be applied, and the liquid crystal shutter 26 can be put into a dedicated mask state when it is turned off.

一方、モード選択信号STをハイレベルにすると、制御信号CTのレベルに関わらず、二つのオア素子75、77の出力をハイレベル(高電位)にすることができる。したがって、この場合には、配線72及び図7の第1系統配線26aを介して第1グループの電極G1に高電位を印可できるとともに、配線73及び図7の第2系統配線26bを介して第2グループの電極G2にも高電位を印可できるから、結局、液晶シャッタ26のすべてのシャッタ領域を“開状態”にすることができる。これにより、撮像部27の受光面を非マスク状態(開放状態)にすることができ、たとえば、受光ユニット20としてデジタルカメラ等の撮影装置を使用していた場合に、その撮影装置を用いて通常の撮影を支障無く行うことができるようになる。つまり、撮影装置と受光ユニット20との完全な兼用が可能になる。   On the other hand, when the mode selection signal ST is set to the high level, the outputs of the two OR elements 75 and 77 can be set to the high level (high potential) regardless of the level of the control signal CT. Therefore, in this case, a high potential can be applied to the first group of electrodes G1 via the wiring 72 and the first system wiring 26a of FIG. 7, and the first potential can be applied via the wiring 73 and the second system wiring 26b of FIG. Since a high potential can also be applied to the two groups of electrodes G2, eventually all the shutter regions of the liquid crystal shutter 26 can be brought into an “open state”. As a result, the light receiving surface of the imaging unit 27 can be put into a non-masked state (open state). For example, when a photographing device such as a digital camera is used as the light receiving unit 20, the photographing device is usually used. Can be taken without any trouble. That is, the image capturing apparatus and the light receiving unit 20 can be completely used together.

また、上記の実施形態では、液晶シャッタ26のシャッタ領域を「市松模様」に配列していたが、これに限らない。要は、シャッタ領域の開面積と閉面積が均一又はほぼ均一であって、且つ、部分的な偏りがない配列であればよく、たとえば、次のようにしてもよい、   In the above embodiment, the shutter areas of the liquid crystal shutter 26 are arranged in a “checkered pattern”, but the present invention is not limited to this. In short, the open area and the closed area of the shutter region may be uniform or almost uniform and there is no partial bias. For example, the following may be used.

図25は、液晶シャッタ26の他の構成例を示す図である。この図において、液晶シャッタ26の電極79(シャッタ領域でもある)は、横長の矩形状になっており、各々の電極79は、縦方向又は横方向(図は縦方向)に所定のピッチで並べられているとともに、一つ置きに交互に第1系統配線80と第2系統配線81に接続されている。第1系統配線80には制御信号CTが加えられており、第2系統配線81にはインバータ82によって極性反転された制御信号CTが加えられている。各々の電極79の幅は、その電極79の下に撮像部27の上下2列の画素83を含むように設定されている。   FIG. 25 is a diagram illustrating another configuration example of the liquid crystal shutter 26. In this figure, electrodes 79 (also shutter regions) of the liquid crystal shutter 26 have a horizontally long rectangular shape, and the electrodes 79 are arranged at a predetermined pitch in the vertical direction or the horizontal direction (the vertical direction in the figure). And alternately connected to the first system wiring 80 and the second system wiring 81 alternately. A control signal CT is applied to the first system wiring 80, and a control signal CT whose polarity is inverted by an inverter 82 is applied to the second system wiring 81. The width of each electrode 79 is set so as to include the upper and lower two rows of pixels 83 of the imaging unit 27 under the electrode 79.

このようにすると、縦方向又は横方向(図は縦方向)に並べられた電極79(シャッタ領域でもある)は、制御信号CTの電位に応じて交互に開状態と閉状態を繰り返し、いわゆる「ゼブラ模様」を描く。この「ゼブラ模様」は「市松模様」に比べて画素の精細度バランスはやや悪くなるが、シンプルな電極(シャッタ領域)構成とすることができ、液晶シャッタ26の製造コストを低減できる。また、撮像部27の開口率をあまり低下させない点でも有利である。   In this way, the electrodes 79 (also shutter regions) arranged in the vertical direction or the horizontal direction (the vertical direction in the drawing) alternately open and close in accordance with the potential of the control signal CT, so-called “ Draw a “zebra pattern”. The “zebra pattern” has a slightly worse balance of pixel definition than the “checkered pattern”, but can have a simple electrode (shutter region) configuration, and the manufacturing cost of the liquid crystal shutter 26 can be reduced. It is also advantageous in that the aperture ratio of the imaging unit 27 is not reduced so much.

なお、各々の電極79の幅は、その電極79の下に撮像部27の上下3列ないしはそれ以上の画素83を含むように設定してもよく、又は、横1列の画素83を含むように設定してもよい。   Note that the width of each electrode 79 may be set so as to include three or more pixels 83 in the upper and lower portions of the imaging unit 27 under the electrode 79, or include one horizontal row of pixels 83. May be set.

以上の実施形態では、1フレームの期間内で発光ユニット1からの第1パターン系列SA又は第2パターン系列SBのすべての情報(ビット数m)を受信するようにしたが、ビット数mが増えると、1フレームの期間内ですべてを受信できなくなるおそれがある。このような場合、次のようにしてもよい。   In the above embodiment, all the information (number of bits m) of the first pattern series SA or the second pattern series SB from the light emitting unit 1 is received within the period of one frame, but the number of bits m increases. In addition, there is a risk that it may become impossible to receive all within one frame period. In such a case, it may be as follows.

図26及び図27は、第1パターン系列SA又は第2パターン系列SBの情報量(ビット数m)が増えた場合に対応した改良例である。この図において、レンズ84を透過した発光ユニット1からの光Pは、光学スプリッタ85により、直進する光P1と90度曲げられた光P2に分けられる。それぞれの光P1、P2の先には、CPU32によって相補的に制御(一方が透過で他方が非透過に制御されること)される第1の液晶シャッタ86と第2の液晶シャッタ87が設けられており、それらの液晶シャッタ86、87を透過した光P1′、P2′が、第1の撮像部88及び第2の撮像部89で画像信号に変換されるようになっている。   26 and 27 show an improvement example corresponding to the case where the information amount (the number of bits m) of the first pattern series SA or the second pattern series SB is increased. In this figure, the light P from the light emitting unit 1 that has passed through the lens 84 is divided by the optical splitter 85 into light P1 traveling straight and light P2 bent 90 degrees. A first liquid crystal shutter 86 and a second liquid crystal shutter 87 that are complementarily controlled by the CPU 32 (one is controlled to be transmitted and the other is not transmitted) are provided at the ends of the respective lights P1 and P2. The light P 1 ′ and P 2 ′ transmitted through the liquid crystal shutters 86 and 87 are converted into image signals by the first imaging unit 88 and the second imaging unit 89.

ここで、第1の液晶シャッタ86を点灯時専用マスクとして使用し、第2の液晶シャッタ87を消灯時専用マスクとして使用すれば、二つの撮像部88、89からは、それぞれ第1のフレーム画像90と第2のフレーム画像91が得られる。   Here, if the first liquid crystal shutter 86 is used as a dedicated mask for lighting and the second liquid crystal shutter 87 is used as a dedicated mask for turning off, the two image pickup units 88 and 89 respectively receive the first frame images. 90 and a second frame image 91 are obtained.

したがって、これら二つの画像(第1のフレーム画像90と第2のフレーム画像91)を用いて、図27に示すように、分離フィルタリング92、93を施すことにより、フレーム画像90、91ごとの点灯時蓄積画像94、95と消灯時蓄積画像96、97とを得ることができ、それらの点灯時蓄積画像94、95と消灯時蓄積画像96、97とを加算器98で加算することにより、相関度評価画像55を得ることができる。   Therefore, by using these two images (the first frame image 90 and the second frame image 91) and performing separation filtering 92 and 93 as shown in FIG. 27, lighting for each frame image 90 and 91 is performed. The accumulated images 94 and 95 when off and the accumulated images 96 and 97 when turned off can be obtained, and the accumulated images 94 and 95 when turned on and the accumulated images 96 and 97 when turned off are added together by an adder 98. A degree evaluation image 55 can be obtained.

このような構成にすると、たとえば、発光ユニット1で1ビットを10ビットのパターンに拡散しても十分に対応できる。受信側で、5ビット分ずつ二つの撮像系(第1の撮像部88と第2の撮像部89の二つの系)で撮影すればよいからである。2フレームの組み合わせで1ビット分を検出するとしても、フレームレートに対する高速化に寄与する。一般に、拡散するパターン長をm、検出のために必要なフレーム数をFvとして、m>Fvの組み合わせであれば、従来技術に比べて、大幅な高速化を望める。最高の耐ノイズ性を実現(=パターン長が長い)しつつ、撮像部88、89のフレームレートや液晶シャッタ86、87の速度に制限がある場合などに有効である。   With such a configuration, for example, even if 1 bit is diffused into a 10-bit pattern in the light emitting unit 1, it can sufficiently cope. This is because it is only necessary to shoot with two imaging systems (two systems of the first imaging unit 88 and the second imaging unit 89) for each 5 bits at the receiving side. Even if one bit is detected by combining two frames, it contributes to an increase in the frame rate. In general, if m> Fv, where m is the length of the pattern to be diffused and Fv is the number of frames required for detection, a significant increase in speed can be expected. This is effective when the highest noise resistance is realized (= the pattern length is long) and the frame rate of the imaging units 88 and 89 and the speed of the liquid crystal shutters 86 and 87 are limited.

受光ユニット20を示す図である。FIG. 3 is a diagram showing a light receiving unit 20. 発光ユニット1の内部ブロック図である。3 is an internal block diagram of the light emitting unit 1. FIG. 第1及び第2パターン系列(SA/SB)の一例を示す図である。It is a figure which shows an example of a 1st and 2nd pattern series (SA / SB). 受光ユニット20の電気的な内部構成図である。3 is an electrical internal configuration diagram of a light receiving unit 20. FIG. 液晶シャッタ26を含む撮像部27の外観図である。2 is an external view of an imaging unit 27 including a liquid crystal shutter 26. FIG. 液晶シャッタ26の概念構造図である。2 is a conceptual structural diagram of a liquid crystal shutter 26. FIG. 液晶シャッタ26の開閉状態の概念図である。3 is a conceptual diagram of an open / close state of a liquid crystal shutter 26. FIG. 本実施形態の原理説明図である。It is a principle explanatory view of this embodiment. 液晶シャッタ26と撮像部27の関係図である。FIG. 3 is a relationship diagram of a liquid crystal shutter and an imaging unit 27. 発光ユニット1及び受光ユニット20の具体的な利用状況を示す図である。It is a figure which shows the specific utilization condition of the light emission unit 1 and the light reception unit 20. FIG. 発光ユニット1のCPU5で実行される発光処理プログラムのフローチャートである。It is a flowchart of the light emission processing program performed by CPU5 of the light emission unit 1. FIG. 発光ユニット1の発光動作のタイミングチャートである。3 is a timing chart of the light emitting operation of the light emitting unit 1. 発光側(発光ユニット1)と受光側(受光ユニット20)のタイミングチャートである。4 is a timing chart of a light emitting side (light emitting unit 1) and a light receiving side (light receiving unit 20). 受光ユニット20のCPU32で実行される受光処理プログラムのフローチャートである。4 is a flowchart of a light receiving process program executed by a CPU 32 of the light receiving unit 20. フレームバッファ登録処理サブルーチンプログラムのフローチャートである。It is a flowchart of a frame buffer registration processing subroutine program. 信号検出&ビット取り出し処理サブルーチンプログラムのフローチャートである。It is a flowchart of a signal detection & bit extraction processing subroutine program. フィルタ計算の概念図である。It is a conceptual diagram of filter calculation. 点灯時画像40と消灯時画像41の画像差分による相関度評価画像55の取得概念図である。It is an acquisition conceptual diagram of the correlation degree evaluation image 55 by the image difference of the image 40 at the time of lighting, and the image 41 at the time of extinction. リスト更新処理サブルーチンプログラムのフローチャートである。It is a flowchart of a list update processing subroutine program. ステップS24の表示処理サブルーチンプログラムのフローチャートである。It is a flowchart of the display process subroutine program of step S24. 液晶ファインダを備えない受光ユニットの一例を示す図である。It is a figure which shows an example of the light reception unit which is not provided with a liquid crystal finder. 液晶シャッタ26の変形例を示す図である。It is a figure which shows the modification of the liquid-crystal shutter. フィルタ処理の概念図である。It is a conceptual diagram of a filter process. 液晶シャッタ26の制御関係の好ましい変形例を示す図である。It is a figure which shows the preferable modification of the control relationship of the liquid-crystal shutter. 液晶シャッタ26の他の構成例を示す図である。6 is a diagram illustrating another configuration example of the liquid crystal shutter 26. FIG. 第1パターン系列SA又は第2パターン系列SBの情報量が増えた場合に対応した改良例である。This is an improved example corresponding to the case where the information amount of the first pattern series SA or the second pattern series SB increases. 第1パターン系列SA又は第2パターン系列SBの情報量が増えた場合に対応した改良例である。This is an improved example corresponding to the case where the information amount of the first pattern series SA or the second pattern series SB increases.

符号の説明Explanation of symbols

E1〜E4 シャッタ領域
Gg 透明電極(シャッタ領域)
1 発光ユニット
20 受光ユニット(撮像装置)
26 液晶シャッタ(遮断手段)
27 撮像部(撮像手段)
27a 光電変換素子
27e 受光面
32 CPU(遮断制御手段、復元手段、第一遮断制御手段、第二遮断制御手段)
68 シャッタ領域
75 第1のオア素子75
77 第2のオア素子77
78 シャッタモード選択部
79 電極
86 第1の液晶シャッタ
87 第2の液晶シャッタ
88 第1の撮像部
89 第2の撮像部
E1 to E4 Shutter area Gg Transparent electrode (shutter area)
1 Light emitting unit 20 Light receiving unit (imaging device)
26 Liquid crystal shutter (blocking means)
27 Imaging unit (imaging means)
27a photoelectric conversion element 27e light receiving surface 32 CPU (blocking control means, restoration means, first blocking control means, second blocking control means)
68 Shutter region 75 First OR element 75
77 Second OR element 77
78 Shutter mode selection unit 79 Electrode 86 First liquid crystal shutter 87 Second liquid crystal shutter 88 First imaging unit 89 Second imaging unit

Claims (6)

伝送すべき情報を所定のパターンで点灯する光信号に変換して出力する発光ユニットと、前記光信号を受光することよって得られた所定のパターンから前記情報を復元する受光ユニットとで構成される情報伝送システムにおいて、
前記受光ユニットは、
マトリクス状に配列された複数の光電変換素子で構成された撮像手段と、
前記撮像手段への受光を前記光電変換素子単位で遮断する遮断手段と、
前記所定のパターンに基づいて前記遮断手段を制御する遮断制御手段と、
この遮断制御手段によって制御された結果、前記撮像手段により得られた光信号から前記情報を復元する復元手段と
を備えることを特徴とする情報伝送システム。
A light emitting unit that converts information to be transmitted into an optical signal that is lit in a predetermined pattern and outputs it, and a light receiving unit that restores the information from the predetermined pattern obtained by receiving the optical signal In an information transmission system,
The light receiving unit is
An imaging means composed of a plurality of photoelectric conversion elements arranged in a matrix;
Intercepting means for intercepting light reception to the imaging means in units of the photoelectric conversion elements;
Shut-off control means for controlling the shut-off means based on the predetermined pattern;
An information transmission system comprising: restoration means for restoring the information from the optical signal obtained by the imaging means as a result of being controlled by the blocking control means.
前記遮断手段は、前記光電変換素子N個につき1個の割合で該光電変換素子上に重ねられた多数のシャッタ領域で構成されるとともに、
前記各シャッタ領域をその配列順に沿って交互に開状態と閉状態とに制御する第一遮断制御手段と、前記各シャッタ領域を前記第一遮断制御手段による制御とは逆の状態で制御する第二遮断制御手段とを更に備え、
前記遮断制御手段は、前記所定のパターンに従って前記第一遮断制御手段による制御と前記第二遮断制御手段による制御とを選択的に実行させることを特徴とする請求項1に記載の情報伝送システム。
The blocking means is composed of a large number of shutter regions overlaid on the photoelectric conversion elements at a rate of one for each N of the photoelectric conversion elements,
First shut-off control means for controlling each shutter region alternately in an open state and a closed state along the arrangement order thereof, and a first control for controlling each shutter region in a state opposite to the control by the first shut-off control means. A two-block control means;
2. The information transmission system according to claim 1, wherein the blocking control unit selectively executes control by the first blocking control unit and control by the second blocking control unit according to the predetermined pattern.
前記発光ユニットは、
伝送すべき情報を構成するビット列を論理判定する論理判定手段と、
該論理判定手段による判定結果に応じて予め用意された互いに相関度の低い二つのビットパターン系列より択一的にビットパターン系列を選択するビットパターン系列選択手段と、
該ビットパターン系列選択手段による選択結果に従って変調される強度を所定のパターンとして前記光信号を出力するよう制御する出力制御手段と
を備えることを特徴とする請求項1または2のいずれかに記載の情報伝送システム。
The light emitting unit is
Logical determination means for logically determining a bit string constituting information to be transmitted;
Bit pattern sequence selection means for selecting a bit pattern sequence alternatively from two bit pattern sequences having a low degree of correlation with each other prepared in advance according to the determination result by the logic determination means;
The output control means which controls so that the intensity | strength modulated according to the selection result by this bit pattern series selection means may be output as a predetermined pattern, The output control means of Claim 1 or 2 characterized by the above-mentioned. Information transmission system.
マトリクス状に配列された複数の光電変換素子で構成された撮像手段と、
前記撮像手段への受光を前記光電変換素子単位で遮断する遮断手段と、
所定のパターンに基づいて前記遮断手段を制御する遮断制御手段と、
この遮断制御手段によって制御された結果、前記撮像手段より変調された光信号を連続的に取得する光信号取得手段と、
この光信号取得手段によって連続的に取得された光信号から情報に変換する情報変換手段と
を備えることを特徴とする撮像装置。
An imaging means composed of a plurality of photoelectric conversion elements arranged in a matrix;
Intercepting means for intercepting light reception to the imaging means in units of the photoelectric conversion elements;
Shut-off control means for controlling the shut-off means based on a predetermined pattern;
As a result of being controlled by this blocking control means, an optical signal acquisition means for continuously acquiring an optical signal modulated by the imaging means,
An imaging apparatus comprising: an information conversion unit that converts information from an optical signal continuously acquired by the optical signal acquisition unit into information.
前記遮断手段は、前記光電変換素子N個につき1個の割合で該光電変換素子上に重ねられた多数のシャッタ領域で構成されるとともに、前記各シャッタ領域をその配列順に沿って交互に開状態と閉状態とに制御する第一遮断制御手段と、前記各シャッタ領域を前記第一遮断制御手段による制御とは逆の状態で制御する第二遮断制御手段とを更に備え、
前記遮断制御手段は、前記所定のパターンに従って前記第一遮断制御手段による制御と前記第二遮断制御手段による制御とを選択的に実行させることを特徴とする請求項4に記載の撮像装置。
The blocking means is composed of a large number of shutter regions overlaid on the photoelectric conversion elements at a rate of one for every N photoelectric conversion elements, and the shutter regions are alternately opened along the arrangement order. And a first shut-off control means for controlling the shutter area to a closed state, and a second shut-off control means for controlling each shutter region in a state opposite to the control by the first shut-off control means,
The imaging apparatus according to claim 4, wherein the blocking control unit selectively executes control by the first blocking control unit and control by the second blocking control unit according to the predetermined pattern.
マトリクス状に配列された複数の光電変換素子に対し、
該複数の光電変換素子への受光を前記光電変換素子単位で遮断する遮断ステップと、
所定のパターンに基づいて前記遮断手段を制御する遮断制御ステップと、
この遮断制御ステップにて制御された結果、変調された光信号を連続的に取得する光信号取得ステップと、
この光信号取得ステップにて連続的に取得された光信号から情報に変換する情報変換ステップと
からなることを特徴とする受光制御方法。
For a plurality of photoelectric conversion elements arranged in a matrix,
A blocking step of blocking light received by the plurality of photoelectric conversion elements in units of the photoelectric conversion elements;
A blocking control step of controlling the blocking means based on a predetermined pattern;
As a result of being controlled in this blocking control step, an optical signal acquisition step for continuously acquiring a modulated optical signal,
A light reception control method comprising: an information conversion step of converting information obtained from the optical signal continuously acquired in the optical signal acquisition step into information.
JP2005101932A 2005-03-31 2005-03-31 Information transmission system, imaging apparatus, and light reception control method Expired - Fee Related JP4576625B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005101932A JP4576625B2 (en) 2005-03-31 2005-03-31 Information transmission system, imaging apparatus, and light reception control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005101932A JP4576625B2 (en) 2005-03-31 2005-03-31 Information transmission system, imaging apparatus, and light reception control method

Publications (2)

Publication Number Publication Date
JP2006287383A true JP2006287383A (en) 2006-10-19
JP4576625B2 JP4576625B2 (en) 2010-11-10

Family

ID=37408845

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005101932A Expired - Fee Related JP4576625B2 (en) 2005-03-31 2005-03-31 Information transmission system, imaging apparatus, and light reception control method

Country Status (1)

Country Link
JP (1) JP4576625B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007060093A (en) * 2005-07-29 2007-03-08 Japan Science & Technology Agency Information processing apparatus and information processing system
JP4803385B2 (en) * 2004-08-05 2011-10-26 独立行政法人科学技術振興機構 Information processing system using space optical communication and space optical communication system
JP2013201541A (en) * 2012-03-23 2013-10-03 Toshiba Corp Receiving device, transmitting device, and communication system
US11563903B2 (en) 2017-02-22 2023-01-24 Omron Corporation Optical sensor, learning apparatus, and image processing system for selection and setting light-receving elements

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02244897A (en) * 1989-03-16 1990-09-28 Toto Ltd Remote control signal transmission and reception system
JPH0629924A (en) * 1992-07-08 1994-02-04 Nec Corp Photocoupler
JPH1022918A (en) * 1996-07-02 1998-01-23 Honda Motor Co Ltd Receiver for optical communication
JP2001245253A (en) * 2000-03-01 2001-09-07 Casio Comput Co Ltd Imaging device
JP2003179556A (en) * 2001-09-21 2003-06-27 Casio Comput Co Ltd Information transmission method, information transmission system, imaging apparatus and information transmission method
JP2003323239A (en) * 2002-05-08 2003-11-14 Sony Corp Information processor, information processing method, recording medium, and computer program
JP2005151015A (en) * 2003-11-13 2005-06-09 Sony Corp Display and its driving method

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02244897A (en) * 1989-03-16 1990-09-28 Toto Ltd Remote control signal transmission and reception system
JPH0629924A (en) * 1992-07-08 1994-02-04 Nec Corp Photocoupler
JPH1022918A (en) * 1996-07-02 1998-01-23 Honda Motor Co Ltd Receiver for optical communication
JP2001245253A (en) * 2000-03-01 2001-09-07 Casio Comput Co Ltd Imaging device
JP2003179556A (en) * 2001-09-21 2003-06-27 Casio Comput Co Ltd Information transmission method, information transmission system, imaging apparatus and information transmission method
JP2003323239A (en) * 2002-05-08 2003-11-14 Sony Corp Information processor, information processing method, recording medium, and computer program
JP2005151015A (en) * 2003-11-13 2005-06-09 Sony Corp Display and its driving method

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4803385B2 (en) * 2004-08-05 2011-10-26 独立行政法人科学技術振興機構 Information processing system using space optical communication and space optical communication system
JP2007060093A (en) * 2005-07-29 2007-03-08 Japan Science & Technology Agency Information processing apparatus and information processing system
JP2013201541A (en) * 2012-03-23 2013-10-03 Toshiba Corp Receiving device, transmitting device, and communication system
US11563903B2 (en) 2017-02-22 2023-01-24 Omron Corporation Optical sensor, learning apparatus, and image processing system for selection and setting light-receving elements

Also Published As

Publication number Publication date
JP4576625B2 (en) 2010-11-10

Similar Documents

Publication Publication Date Title
KR101379604B1 (en) Information transmission system, information sending device, information receiving device, information transmission method, information sending method, information receiving method and a recording medium of a program thereof
JP4258491B2 (en) Information receiving apparatus, information transmission system, information receiving method, and information receiving program
JP6445219B2 (en) Digital camera and display method of digital camera
JP4316629B2 (en) Image processing system, image acquisition method and program
JP2003179556A (en) Information transmission method, information transmission system, imaging apparatus and information transmission method
JP6700723B2 (en) Imaging device and driving method of imaging device
JP2015122719A (en) Visible light communication signal display method and display device
JP5294096B2 (en) Information transmission system, light receiving device, information transmission method, and program
JP2007052218A (en) Projector having imaging function
JP4178419B2 (en) Information display device, display control method, and display control program
JP4576625B2 (en) Information transmission system, imaging apparatus, and light reception control method
JP5713061B2 (en) Information transmitting apparatus, information transmitting method, and program
JP6362608B2 (en) Display method and display device
JP2012120132A (en) Imaging apparatus and program
JP2016096417A (en) On-vehicle camera system
JP3793487B2 (en) Imaging system
JP5366026B2 (en) Information transmission system, information transmission device, information reception device, information transmission method, information transmission method, information reception method, and program
JP2004046125A (en) Display driver and method for driving light-emissive video display in image display device
JP4507210B2 (en) Information transmission system, receiving apparatus, and information decoding method
JP4665585B2 (en) Optical transmitter, optical receiver, and optical communication system
JP4535133B2 (en) Information output device, information output method, and program
JP6222511B2 (en) Information decoding system, information decoding method, and program
JP7259387B2 (en) Display device control method and display device
JP2006345228A (en) Controller for point image and control method for point image
JP5360589B2 (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100506

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100510

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100723

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100805

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees