JP2007124070A - Image transmission apparatus using solid-state imaging device - Google Patents
Image transmission apparatus using solid-state imaging device Download PDFInfo
- Publication number
- JP2007124070A JP2007124070A JP2005310649A JP2005310649A JP2007124070A JP 2007124070 A JP2007124070 A JP 2007124070A JP 2005310649 A JP2005310649 A JP 2005310649A JP 2005310649 A JP2005310649 A JP 2005310649A JP 2007124070 A JP2007124070 A JP 2007124070A
- Authority
- JP
- Japan
- Prior art keywords
- image
- region
- signal
- gate electrode
- ring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 62
- 238000003384 imaging method Methods 0.000 title claims abstract description 28
- 238000012545 processing Methods 0.000 claims abstract description 25
- 238000012546 transfer Methods 0.000 claims description 54
- 238000000034 method Methods 0.000 claims description 15
- 239000000758 substrate Substances 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 230000003287 optical effect Effects 0.000 claims description 10
- 238000007906 compression Methods 0.000 claims description 6
- 230000006835 compression Effects 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 claims description 3
- 230000033001 locomotion Effects 0.000 abstract description 17
- 238000005096 rolling process Methods 0.000 abstract description 6
- 230000002123 temporal effect Effects 0.000 abstract description 2
- 239000003990 capacitor Substances 0.000 description 14
- 230000000875 corresponding effect Effects 0.000 description 13
- 230000003321 amplification Effects 0.000 description 11
- 238000003199 nucleic acid amplification method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 230000035508 accumulation Effects 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 3
- 230000004888 barrier function Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000013307 optical fiber Substances 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005669 field effect Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Landscapes
- Solid State Image Pick-Up Elements (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は固体撮像素子を用いた画像伝送装置に係り、特に固体撮像素子により撮像して得られた映像信号を信号処理して伝送する固体撮像素子を用いた画像伝送装置に関する。 The present invention relates to an image transmission apparatus using a solid-state image sensor, and more particularly to an image transmission apparatus using a solid-state image sensor that transmits a video signal obtained by imaging with a solid-state image sensor.
近年、デジタル化された画像信号を衛星波、地上波、電話回線、光ファイバー等の伝送路を通じて配信する技術が実現している。このような技術により、衛星等を用いた遠隔地からの生中継放送や、遠距離間でのテレビ会議等のインタラクティブな映像伝送サービスが提供されている。 In recent years, techniques for distributing digitized image signals through transmission lines such as satellite waves, terrestrial waves, telephone lines, and optical fibers have been realized. With such technology, interactive video transmission services such as live broadcast broadcasting from a remote location using a satellite or the like, and a video conference over a long distance are provided.
このような映像伝送サービスにおいて必要な従来の画像伝送装置の構成に関して説明する。図5は従来の画像伝送装置の一例のブロック図を示す。同図において、まず、結像された被写体像を電気信号に変換するCMOSセンサ101があり、図示しない被写体の光学像をCMOSセンサ101の撮像面上に結像する光学レンズ102がある。CMOSセンサ101から出力された電気信号は入力信号処理装置103に入り、ガンマ補正や輪郭補正などの処理が施され、デジタル画像信号(映像信号)として画像符号化装置104に送られる。
A configuration of a conventional image transmission apparatus necessary for such a video transmission service will be described. FIG. 5 is a block diagram showing an example of a conventional image transmission apparatus. In the figure, first, there is a
画像符号化装置104では、デジタル画像信号を、後述する画像信号の時間方向の相関や空間方向の相関を用いて情報を圧縮し、伝送路の伝送帯域に適合した情報量の符号化データに変換し、その符号化データを多重化装置105に供給する。多重化装置105では、画像符号化装置104から供給された符号化データと、画像以外の伝送する情報とを重畳し(多重化し)、変調装置106に重畳された信号を出力する。変調装置106では、伝送路の電気信号やフォーマットの形式に合わせて、入力された情報の変調処理が行う。変調処理が施された信号は、伝送路107に出力される。伝送路107は光ファイバーや電話回線などの有線ネットワークであったり、衛星波、地上波、無線LAN(ローカル・エリア・ネットワーク)などの放送や無線ネットワークであったりする。
In the
ここで、近年、HDTV(High Definition Television)やHDTVの画素数を上回る高精細な画像信号を用いた画像伝送装置が開発されている。このような高精細な画像を入力するに際しては、高速に信号を読み出せるCMOSセンサ101が撮像素子として使われている。また、画像符号化装置104では、入力された画像信号の情報量を削減して伝送路に出力するための情報圧縮処理が行われる。
In recent years, HDTV (High Definition Television) and image transmission apparatuses using high-definition image signals exceeding the number of pixels of HDTV have been developed. When inputting such a high-definition image, a
画像伝送装置における動画像・音声の高能率符号化方式として、国際規格であるMPEG(Moving Picture Experts Group phase 2)2、MPEG4 ASP、MPEG4 AVC等の方式が用いられている。これらの規格の画像符号化に関しては、画像信号の隣接画素間(空間方向)の相関及び隣接フレーム間もしくは隣接フィールド間(時間方向)の相関を利用して情報量を圧縮する方式を用いている。 As a high-efficiency encoding method for moving images and audio in an image transmission apparatus, international standards such as MPEG (Moving Picture Experts Group phase 2) 2, MPEG4 ASP, MPEG4 AVC and the like are used. Regarding the image coding of these standards, a method of compressing the amount of information using the correlation between adjacent pixels (spatial direction) of the image signal and the correlation between adjacent frames or adjacent fields (time direction) is used. .
例えば、MPEG2規格における画像符号化装置は、以下のようなアルゴリズムで符号化処理を行う。まず、時間的に連続する画像フレームを、基準フレームと予測フレームに振り分ける。基準フレームは空間方向の相関のみを用いて符号化することで、そのフレームの符号化データのみで復元することができる。予測フレームは、基準となるフレームからの時間方向の相関と空間方向の相関とを共に用いて符号化することにより、基準フレームに対して、より符号化効率を高めることができる。予測フレームの符号化データは、復元された基準フレームと予測フレームの符号化データより復元される。 For example, an image encoding device in the MPEG2 standard performs encoding processing using the following algorithm. First, temporally continuous image frames are divided into a reference frame and a prediction frame. By encoding the reference frame using only the correlation in the spatial direction, it is possible to restore only the encoded data of the frame. By encoding the prediction frame using both the correlation in the time direction and the correlation in the spatial direction from the reference frame, the encoding efficiency can be further increased with respect to the reference frame. The encoded data of the prediction frame is restored from the restored reference frame and the encoded data of the prediction frame.
MPEG2画像符号化で用いられる具体的な符号化体系について、図6(A)を用いて説明する。図6(A)にIで示す基準フレームであるIピクチャ(Iフレーム)は定期的に存在し、復号処理の基準となるフレーム内符号化画像である。また、予測フレームには、図6にPで示す時間的に前(過去)の基準フレームからの予測のみで符号化されるPピクチャ(Pフレーム)と、Bで示す時間的に前後(過去と未来)の2つの基準フレームから予測符号化されるBピクチャ(Bフレーム)が存在する。図6(A)中の矢印は、予測方向を示す。 A specific encoding system used in MPEG2 image encoding will be described with reference to FIG. An I picture (I frame), which is a reference frame indicated by I in FIG. 6A, periodically exists and is an intra-frame encoded image that serves as a reference for decoding processing. In addition, the prediction frame includes a P picture (P frame) encoded only by prediction from a temporally previous (past) reference frame indicated by P in FIG. There is a B picture (B frame) that is predictively encoded from two (future) reference frames. An arrow in FIG. 6A indicates a prediction direction.
Pピクチャは、自身が予測フレームであると共に、続くBピクチャやPピクチャの基準フレームにもなるフレーム間順方向予測符号化画像である。Bピクチャは双方向予測符号化画像であり、予測フレームである。Iピクチャのフレーム内符号化画像信号は、輝度信号で水平16画素×垂直16画素のマクロブロックと呼ばれる処理単位に分割される。分割されたマクロブロックのデータは、更に水平8画素×垂直8画素単位の2次元ブロックに分割され、直交変換の一種であるDCT(Discrete Cosine Transform:離散コサイン変換)処理が行われる。 A P picture is an inter-frame forward prediction encoded image that is a prediction frame and also serves as a reference frame for the subsequent B picture and P picture. A B picture is a bidirectional predictive encoded image and is a prediction frame. An intra-frame coded image signal of an I picture is divided into processing units called macroblocks of horizontal 16 pixels × vertical 16 pixels by a luminance signal. The divided macroblock data is further divided into two-dimensional blocks of horizontal 8 pixels × vertical 8 pixels, and a DCT (Discrete Cosine Transform) process, which is a kind of orthogonal transform, is performed.
DCT変換後の信号は、その2次元ブロックの周波数成分に準じた値を示すため、一般的な画像では低域に成分が集中する。また、高周波数成分の情報劣化は低周波数成分の情報劣化よりも視覚的に目立ちにくい性質がある。よって、低域成分を細かく高域成分を粗く量子化し、その係数成分と成分が無い係数0の連続する長さを可変長符号化することにより、情報量を圧縮している。
Since the signal after the DCT conversion shows a value according to the frequency component of the two-dimensional block, the component is concentrated in a low band in a general image. In addition, information degradation of high frequency components has a property that is visually less noticeable than information degradation of low frequency components. Therefore, the amount of information is compressed by finely quantizing the low frequency components and coarsely quantizing the high frequency components, and variable length coding the coefficient components and the continuous length of
Pピクチャの画像信号は、Iピクチャと同様に、輝度信号で水平16画素×垂直16画素のマクロブロックの単位に分割される。Pピクチャでは、マクロブロック毎に基準フレームとの間の動きベクトルを計算する。動きベクトルの検出は、一般的にブロックマッチングにより求められる。このブロックマッチングでは、マクロブロックの各画素と動きベクトル値だけマクロブロックの存在する水平・垂直の位置を動かした場所の基準フレームを水平16画素×垂直16画素にブロック化した各画素の差分絶対値総和(若しくは差分二乗総和)を求め、その最小値を取る動きベクトルの値を、検出された動きベクトルとして出力する。 An image signal of a P picture is divided into macroblock units of 16 horizontal pixels × 16 vertical pixels by a luminance signal in the same manner as an I picture. In the P picture, a motion vector between the reference frame is calculated for each macroblock. Motion vector detection is generally obtained by block matching. In this block matching, the difference absolute value of each pixel obtained by blocking the reference frame of the position where the horizontal / vertical position where the macroblock exists by the motion vector value and the pixel of the macroblock are moved into 16 horizontal pixels × 16 vertical pixels. The sum (or the sum of squared differences) is obtained, and the value of the motion vector taking the minimum value is output as the detected motion vector.
マクロブロックの各画素は、動きベクトルにより切り出された2次元ブロックの各画素との差分がとられる。正確な動きベクトルが検出された場合には、差分ブロックの情報量は元のマクロブロックの持っている情報量よりも大幅に少なくなるため、Iピクチャよりも粗い量子化処理が可能となる。実際には、差分ブロックを符号化するか非差分ブロック(Intraブロック)を符号化するかを選択し(予測モード判定)、選択されたブロックに対してIピクチャと同様のDCT・可変長符号化処理を施し、情報量が圧縮される。 Each pixel of the macroblock is compared with each pixel of the two-dimensional block cut out by the motion vector. When an accurate motion vector is detected, the information amount of the difference block is significantly smaller than the information amount of the original macroblock, so that coarser quantization processing than that of the I picture is possible. Actually, it is selected whether to encode a differential block or a non-differential block (Intra block) (prediction mode determination), and DCT / variable length encoding similar to that of an I picture is performed on the selected block. Processing is performed and the amount of information is compressed.
Bピクチャは、Pピクチャと同様の処理が行われるが、基準フレームであるI、Pピクチャが時間的に前後に存在するため、それぞれの基準フレームとの間で動きベクトルを検出する。Bピクチャでは予測の選択肢が、前基準フレームからの予測(Forward予測)・後基準フレームからの予測(Backward予測)・2つの予測ブロックの画素毎平均値(Average予測)、の3種類存在し、イントラ(Intra)ブロックを合わせた4種類から予測モード判定を行う。 The B picture is processed in the same manner as the P picture. However, since the I and P pictures that are reference frames exist before and after in time, a motion vector is detected between each reference frame. In the B picture, there are three types of prediction options: prediction from the previous reference frame (Forward prediction), prediction from the subsequent reference frame (Backward prediction), and average value for each pixel of two prediction blocks (Average prediction), Prediction mode determination is performed from four types of intra blocks combined.
Bピクチャは、時間的に前後の基準フレームから予測が可能となるため、Pピクチャよりも更に予測効率が向上する。よって、一般的にPピクチャよりも更に粗く量子化される。選択されたブロックはI、Pピクチャと同様の符号化処理がなされる。 B pictures can be predicted from temporally preceding and following reference frames, so that prediction efficiency is further improved than P pictures. Therefore, the quantization is generally coarser than that of the P picture. The selected block is subjected to encoding processing similar to that for I and P pictures.
Bピクチャは復号されるために、時間的に後の基準フレームからの予測処理が行われるため、基準フレームは、Bピクチャに先行して符号化される。そのため、入力された画像信号は図6(B)に示されるように、Bピクチャは基準フレームであるIピクチャ又はPピクチャの後の順番に並べ替えが行われ、符号化される。 Since the B picture is decoded, a prediction process from a reference frame that is later in time is performed, so that the reference frame is encoded prior to the B picture. Therefore, as shown in FIG. 6B, the input picture signal is rearranged in the order after the I picture or P picture, which is the reference frame, and encoded.
復号処理では、図6(C)に示すように、図6(B)の逆の並べ替えを行い出力することにより、入力された画像信号の順番に復号画像が再生される。伝送処理は、符号化された画像情報を伝送路の信号のフォーマットや特性に変換し、出力する処理である。一例として、各種の光ファイバーなどのネットワークによる情報伝送に用いられているATM(Asynchronous Transfer Mode:非同期転送モード)を説明する。 In the decoding process, as shown in FIG. 6C, by performing the reverse rearrangement of FIG. 6B and outputting, the decoded images are reproduced in the order of the input image signals. The transmission process is a process of converting the encoded image information into a signal format or characteristics of the transmission path and outputting the signal. As an example, an ATM (Asynchronous Transfer Mode) used for information transmission through a network such as various optical fibers will be described.
ATMにおいては、音声・画像・データなどの情報を、セルと呼ばれる固定長の情報単位で分割して伝送する。セルは、48バイトの伝送する情報を蓄積する部分と、5バイトの情報の転送先などを格納する部分で構成される。送信装置では、入力される符号化情報を48バイト毎に分割した後、各々の分割情報に転送先を示す番号を付与しネットワークに送出する。ネットワークでは、セルの中の転送先を読み取り、通信相手を認識し、通信相手に対して情報を送り届ける。受信装置では、到着した複数のセルを結合し、伝送された情報を復元する。 In ATM, information such as voice, image, and data is divided and transmitted in units of fixed-length information called cells. The cell is composed of a portion for storing 48-byte information to be transmitted and a portion for storing a transfer destination of 5-byte information. The transmission apparatus divides the encoded information to be input every 48 bytes, and then assigns a number indicating the transfer destination to each division information and sends it to the network. In the network, the transfer destination in the cell is read, the communication partner is recognized, and information is sent to the communication partner. In the receiving apparatus, a plurality of arrived cells are combined to restore the transmitted information.
前述したように、高精細な画像信号を伝送する画像伝送装置では、伝送するための画像信号を撮像する撮像素子として、高速に信号を読み出せるCMOSセンサ101が使われているので、次に、CMOSセンサ101について更に詳しく説明する。これは従来から知られているローリングシャッタ型CMOSセンサである(例えば、特許文献1参照)。
As described above, in the image transmission apparatus that transmits a high-definition image signal, the
図7は上記の従来のCMOSセンサの一例の等価回路図を示す。同図に示すCMOSセンサは、簡単のため、単位画素1が横方向2画素、縦方向2画素の2×2画素の配置とされている。単位画素1は、被写体像を光電変換するフォトダイオード(PD)2と、信号電荷の増幅用MOS型電界効果トランジスタ(以下、MOSFET)3と、電荷転送用MOSFET4と、リセット用MOSFET5と、選択用MOSFET7とよりなり、電源ライン6がMOSFET3、5のドレインに接続され、増幅用MOSFET3のソースが選択用MOSFET7のドレインに接続されている。
FIG. 7 shows an equivalent circuit diagram of an example of the conventional CMOS sensor. In the CMOS sensor shown in the figure, for simplicity, the
増幅用MOSFET3のゲート電極はフローティングディフュージョン(FD)になっており、フォトダイオード2の電荷が電荷転送用MOSFET4のドレイン−ソースを介して増幅用MOSFET3のゲート電極(FD)に転送される。また、増幅用MOSFET3のゲート電極(FD)の電位は、リセット用MOSFET5によりリセットされる。
The gate electrode of the amplification MOSFET 3 is in a floating diffusion (FD), and the charge of the photodiode 2 is transferred to the gate electrode (FD) of the amplification MOSFET 3 through the drain-source of the
選択用MOSFET7がオン状態になると、増幅用MOSFET3のソースを選択用MOSFET7のドレイン・ソースを通して画素出力ライン8に導通させる。画素出力ライン8は定電流供給用MOSFET9のドレインに接続されている。定電流供給用MOSFET9は、増幅用MOSFET3のソースフォロア回路の負荷として作用する。定電流供給用MOSFET9は、ゲート電位供給ライン13のゲート電位により制御される。
When the selection MOSFET 7 is turned on, the source of the amplification MOSFET 3 is conducted to the
また、リセット用制御ライン10、電荷転送用制御ライン11、画素選択用制御ライン12は、それぞれリセット用MOSFET5、電荷転送用MOSFET4、選択用MOSFET7の各ゲート電極に接続されており、その電位はそれぞれパルス供給端子15、14、16から、MOSFET19、20、21のドレイン・ソースをそれぞれ通して供給される。
The reset control line 10, the charge transfer control line 11, and the pixel
垂直シフトレジスタ17は、行順次走査のために2×2画素の行を選択する回路で、その垂直シフトレジスタ出力線18−1、18−2が、各行のMOSFET19、20、21のゲート電極に接続されており、パルス供給端子15、14、16の端子に供給されたパルスがどの行の画素を制御するかを決定する。
The
また、読み出しブロック22は、リセット信号出力を保持する容量23、光信号出力を保持する容量24、どちらの容量に保持するかを選択するスイッチ用MOSFET25及び26、水平出力線27、28に接続されたスイッチ用MOSFET29、30からなる。スイッチ用MOSFET25、26は端子37、38からそのゲート電極に供給されるパルスによりスイッチング制御される。
The
水平シフトレジスタ34は、2×2画素のうち、どの列の画素の保持信号を水平出力線27、28に出力するかをスイッチ用MOSFET29、30のゲートに接続された水平シフトレジスタ出力線35−1、35−2への出力電位で決定する。また、水平出力線27、28をリセットするための電位を端子33から供給し、リセットのタイミングは端子36から供給するパルスでスイッチ用MOSFET31、32をスイッチング制御して行う。水平出力線27、28は差動アンプ39の入力端子に接続されている。差動アンプ39はリセット信号出力と光信号出力の差をとり、その差信号をアンプ出力端子40からセンサ外に出力する。
The
次に、図7に示す従来のCMOSセンサの動作について図8のタイミングチャートを併せ参照して説明する。なお、図7中のMOSFETはすべてN型とし、よって、MOSFETはそのゲート電位がハイレベル(High)でオン、ローレベル(Low)でオフとなる。 Next, the operation of the conventional CMOS sensor shown in FIG. 7 will be described with reference to the timing chart of FIG. Note that all the MOSFETs in FIG. 7 are N-type, and therefore, the MOSFET is turned on when the gate potential is high (High) and turned off when the gate is low (Low).
まず、垂直シフトレジスタ出力線18−1の電位が図8(D)に示すように時刻t1でHighとなり、これにより1行目の画素1が選択される。続いて、パルス供給端子16の入力パルスが図8(C)に示すように時刻t2でHighになり、これにより1行目の画素1の選択用MOSFET7がオン状態になるため、1行目の画素1の増幅用MOSFET3のソースが選択用MOSFET7のドレイン・ソースと画素出力ライン8を通して定電流供給用MOSFET9につながり、ソースフォロア回路を形成する。
First, as shown in FIG. 8D, the potential of the vertical shift register output line 18-1 becomes High at time t1, thereby selecting the
この状態で、最初にパルス供給端子15に図8(B)に示すように一定時間Highのパルスが供給され、1行目の画素1のリセット用MOSFET5のドレイン・ソースを通して増幅用MOSFET3のゲート電極(FD)がリセットされる。その後の時刻t3で、パルス供給端子37の入力パルスが図8(I)に示すようにHighになり、スイッチ用MOSFET25をオン状態とし、容量23に1行目の画素1のソースフォロワ回路から出力されたリセット信号出力が保持される。
In this state, first, a high-level pulse is supplied to the
次に、パルス供給端子14に時刻t4で図8(A)に示すようにHighパルスが印加されると、1行目の画素1内の電荷転送用MOSFET4がオンし、1行目の画素1内のフォトダイオード2に蓄積されている電荷が電荷転送用MOSFET4のドレイン・ソースを介して増幅用MOSFET3のゲート電極(FD)に転送される。その後の時刻t5で、パルス供給端子38に図8(J)に示すようにHighパルスが印加されると、容量24に1行目の画素1のソースフォロワ回路から出力された光信号出力が保持される。続いて、パルス供給端子16の入力パルスが図8(C)に示すように、時刻t6でLowになるため、1行目の画素1内の選択用MOSFET7がオフになり、1行目の画素1からの出力はなくなる。
Next, when a high pulse is applied to the
端子36の入力信号はこの間図8(H)に示すようにHighであり、水平出力ライン27、28はリセット状態になっている。しかし、上記の時刻t6で端子36の入力信号が図8(H)に示すようにLowになり、この状態で水平シフトレジスタ出力線35−1に図8(F)に示すHighパルスを印加すると、1列目のスイッチ用MOSFET29、30がそれぞれオンとされるため、1列目の容量23、24の各信号が1列目のスイッチ用MOSFET29、30を通して水平出力ライン27、28にそれぞれ出力されて差動アンプ39に供給される。差動アンプ39は1列目の容量23、24の各信号、すなわち、リセット信号出力と光信号出力との差をとり、増幅用MOSFET3のしきい値ばらつきに起因したノイズを除去した光信号を出力端子40より出力する。
During this time, the input signal at the terminal 36 is High as shown in FIG. 8H, and the
次に、端子36に図8(H)に示す時刻t7でHighパルスを印加すると、水平出力ライン27、28が再びリセットされ、その後水平シフトレジスタ出力線35−2に、図8(G)に示すように時刻t8でHighパルスが印加され、2列目のスイッチ用MOSFET29、30がそれぞれオンとされるため、2列目の容量23、24の各信号が2列目のスイッチ用MOSFET29、30を通して水平出力ライン27、28にそれぞれ出力されて差動アンプ39に供給され、2列目の信号が1列目と同様に差動アンプ39から出力端子40に出力される。
Next, when a high pulse is applied to the terminal 36 at time t7 shown in FIG. 8 (H), the
その後、図8(D)に示す時刻t9で垂直シフトレジスタ出力線18−1の電位がLowとなり、1行目の処理が終わる。次に時刻t10で図8(E)に示すように、垂直シフトレジスタ出力線18−2の電位がHighになり、以下1行目と同様な処理が行われ、全画素の読み出しが終了する。 Thereafter, at time t9 shown in FIG. 8D, the potential of the vertical shift register output line 18-1 becomes Low, and the processing of the first row is completed. Next, at time t10, as shown in FIG. 8E, the potential of the vertical shift register output line 18-2 becomes High, and processing similar to that in the first row is performed, and reading of all pixels is completed.
従って、このCMOSセンサの場合、1行目と2行目のフォトダイオード2で光電変換しているタイミングが異なる。このような撮像方式をローリングシャッタ、あるいはフォーカルプレーンと呼ぶ。 Therefore, in the case of this CMOS sensor, the timing of photoelectric conversion by the photodiodes 2 in the first and second rows is different. Such an imaging method is called a rolling shutter or a focal plane.
画像伝送装置として、伝送路に対して有効に情報を伝送するためには、画像符号化装置104における情報の圧縮効率を向上させる必要がある。MPEGなどの画像符号化方式においては、空間方向に2次元ブロックで画像を切り出し、その単位でDCT変換等の空間方向の相関による圧縮処理や、動き補償予測などの時間方向の相関を利用した圧縮処理が行われる。このような場合には、ブロック化された画像データの各画素が同一時刻に入力された画像である程、相関が高くなり、動きが大きい画像に関しては画素間の入力時刻のずれが、大きな相関の悪化をきたす。
As an image transmission apparatus, in order to effectively transmit information to a transmission path, it is necessary to improve the compression efficiency of information in the
図7に示した従来のローリングシャッタ型CMOSセンサ101は、1行ずつ順番に読み出しを行うもので、読み出しが終了するまで電荷はフォトダイオード2に蓄えられている。従って、2次元分割された画像ブロックを考えた場合に、ブロックの上端(第1ライン)と下端(最終ライン)とでは、露光タイミングが2次元ブロックの垂直ライン分だけ異なっている。このため、動きの大きな画像信号が入力される場合に、空間方向の相関、時間方向の相関が共に損なわれる傾向にあり、良好な画像符号化処理を行うことができず、効率の悪い画像伝送装置が構成される。
The conventional rolling shutter
本発明は以上の点に鑑みなされたもので、動きの大きな被写体に対しても画像信号の相関を保ち、画像を伝送する際の伝送帯域を効率良く圧縮させることを可能とする画像伝送装置を提供することを目的とする。 The present invention has been made in view of the above points, and provides an image transmission apparatus capable of maintaining the correlation of image signals even for a subject with large movements and efficiently compressing a transmission band when transmitting an image. The purpose is to provide.
上記の目的を達成するために、本発明の画像伝送装置は、被写体光像を固体撮像素子により光電変換して得られた撮像信号を信号処理した後、符号化して伝送路を伝送させる画像伝送装置において、被写体光像を固体撮像素子の撮像領域上に結像する光学系と、被写体光像を複数の全画素のフォトダイオードに同時に露光して光電変換して得た電荷を全画素に蓄積した後、露光期間に蓄積した電荷を各画素から撮像信号として順次出力する、固体撮像素子としてのグローバルシャッタ型CMOSセンサと、グローバルシャッタ型CMOSセンサから出力された撮像信号に対して、所定の信号処理を行って画像信号を出力する信号処理手段と、信号処理手段から出力された画像信号を伝送路の伝送帯域に適合した情報量の符号化データに変換する符号化手段と、符号化手段から出力された符号化データを伝送路に出力する信号に変換し出力する出力手段とを有することを特徴とする。 In order to achieve the above object, the image transmission apparatus according to the present invention performs image processing on an imaging signal obtained by photoelectrically converting a subject light image by a solid-state imaging device, and then encodes and transmits the transmission path. In the device, an optical system that forms a subject light image on the imaging area of the solid-state image sensor, and the charge obtained by photoelectrically converting the subject light image to the photodiodes of all the pixels and accumulating them in all the pixels are stored. After that, the charge accumulated during the exposure period is sequentially output from each pixel as an imaging signal, and a predetermined signal is output for the global shutter type CMOS sensor as a solid-state imaging device and the imaging signal output from the global shutter type CMOS sensor. A signal processing unit that performs processing and outputs an image signal, and converts the image signal output from the signal processing unit into encoded data having an information amount suitable for the transmission band of the transmission path Encoding means, and an outputting means for outputting into a signal to be output to the transmission path encoded data output from the encoding means.
この発明では、固体撮像素子としてグローバルシャッタ型CMOSセンサを用いることにより、移動する被写体を撮像した場合でも、撮像画像は被写体の画像と異なる画像歪みは発生しないため、動きの大きな被写体に対しても画像信号の相関、時間方向の相関を共に確保して、画像情報を効率良く符号化して伝送することができる。 In this invention, even when a moving subject is imaged by using a global shutter type CMOS sensor as a solid-state image sensor, the captured image does not cause image distortion different from the image of the subject. Both image signal correlation and temporal correlation can be ensured, and image information can be efficiently encoded and transmitted.
ここで、上記のグローバルシャッタ型CMOSセンサは、基板上のリング状ゲート電極と、リング状ゲート電極の中央開口部に対応する基板の位置に設けられたソース領域と、ソース領域を取り囲み、かつ、リング状ゲート電極の外周に達しないように基板に設けられたソース近傍領域とからなる信号出力用トランジスタと、光を電荷に変換して蓄積するフォトダイオードと、フォトダイオードに蓄積された電荷をソース近傍領域へ転送する電荷転送手段とを含む画素が複数2次元配列された構造であり、各画素内の電荷転送手段は、フォトダイオードに蓄積された電荷を、同じ画素内の対応するソース近傍領域へ全画素一斉に転送し、信号出力用トランジスタは、入力された電荷の量をしきい値の変化として出力することを特徴とする。 Here, the global shutter type CMOS sensor includes a ring-shaped gate electrode on the substrate, a source region provided at a position of the substrate corresponding to the central opening of the ring-shaped gate electrode, surrounding the source region, and A signal output transistor comprising a source vicinity region provided on the substrate so as not to reach the outer periphery of the ring-shaped gate electrode, a photodiode for converting light to charge and storing, and a charge stored in the photodiode as a source A plurality of pixels including a charge transfer means for transferring to a neighboring area, and the charge transfer means in each pixel has a corresponding source neighboring area in the same pixel. All the pixels are transferred all at once, and the signal output transistor outputs the amount of input charge as a change in threshold value.
また、本発明におけるグローバルシャッタ型CMOSセンサは、第1の導電型の基板上に、リング状ゲート電極を持つ光信号出力用トランジスタとフォトダイオードとを含む画素が複数2次元配列された固体撮像素子であって、画素の各々は、
基板の表面に設けられた第2の導電型のウェル領域と、ウェル領域中に設けられた第1の導電型のフォトダイオードの光電変換領域と、光電変換領域以外のウェル領域上に絶縁膜を挟んで設けられたリング状ゲート電極と、絶縁膜上のリング状ゲート電極と光電変換領域の間の、ウェル領域上に絶縁膜を挟んで設けられた転送ゲート電極と、ウェル領域の表面のうち、リング状ゲート電極と転送ゲート電極に対応する領域を除いた部分の少なくとも一部に設けられた、ウェル領域と電気的に一体化した高濃度の第2の導電型のドレイン領域と、リング状ゲート電極の中心開口部に対応するウェル領域中の位置に設けられた第2の導電型のソース領域と、ソース領域を取り囲み、かつ、ドレイン領域まで達しないようにウェル領域中に設けられた第1の導電型のソース近傍領域とを有することを特徴とする。
The global shutter CMOS sensor according to the present invention is a solid-state imaging device in which a plurality of pixels including a light-signal output transistor having a ring-shaped gate electrode and a photodiode are two-dimensionally arranged on a first conductivity type substrate. Where each of the pixels
An insulating film is provided on the second conductivity type well region provided on the surface of the substrate, the photoelectric conversion region of the first conductivity type photodiode provided in the well region, and the well region other than the photoelectric conversion region. A ring-shaped gate electrode provided between the ring-shaped gate electrode on the insulating film and the photoelectric conversion region, a transfer gate electrode provided on the well region with the insulating film interposed therebetween, and a surface of the well region A high-concentration second conductivity type drain region electrically integrated with the well region, provided in at least a part of a portion excluding the region corresponding to the ring-shaped gate electrode and the transfer gate electrode; A source region of the second conductivity type provided at a position in the well region corresponding to the central opening of the gate electrode, and provided in the well region so as to surround the source region and not reach the drain region And having a source region near the first conductivity type.
ここで、上記のグローバルシャッタ型CMOSセンサは、撮像領域にHDTV画像の画素数以上の数の画素が2次元マトリクス状に配置されており、また、上記の符号化手段は、空間方向の相関及び時間方向の相関を利用して情報量を圧縮する高能率圧縮符号化方式により、画像信号を圧縮符号化する手段であることを特徴とする。 Here, in the global shutter type CMOS sensor, the number of pixels equal to or larger than the number of pixels of the HDTV image is arranged in the imaging region in a two-dimensional matrix. The present invention is characterized in that the image signal is compression-encoded by a high-efficiency compression encoding method that compresses the amount of information using the correlation in the time direction.
本発明によれば、グローバルシャッタ型CMOSセンサを用いたことにより、動きの大きな被写体に対しても画像信号の空間相関、時間方向の相関を共に確保し、画像を効率良く符号化できるようにしたため、画像情報を伝送する際の伝送帯域を効率良く使用でき、高精細画像信号を少ない伝送路にて伝送可能な画像伝送装置を提供できる。 According to the present invention, since the global shutter CMOS sensor is used, the spatial correlation of the image signal and the correlation in the time direction are both ensured even for a subject with large movement, and the image can be efficiently encoded. Therefore, it is possible to provide an image transmission apparatus that can efficiently use a transmission band for transmitting image information and can transmit a high-definition image signal through a small number of transmission paths.
また、本発明によれば、画像1フレーム毎の信号の撮像時刻にズレが生じないため、入力された情報を静止画として取り扱った場合に、ライン毎の画のズレが起こらず、静止画としての画像の品質と符号化された場合の符号化効率も向上できる。 In addition, according to the present invention, since there is no deviation in the imaging time of the signal for each frame of the image, when the input information is handled as a still image, the deviation of the image for each line does not occur. It is possible to improve the quality of the image and the encoding efficiency when it is encoded.
次に、本発明を実施するための最良の形態について図面と共に説明する。図1は本発明になる固体撮像素子を用いた画像伝送装置の一実施の形態のブロック図を示す。同図中、図5と同一構成部分には同一符号を付し、その説明を省略する。図1に示す本実施の形態の画像伝送装置は、図5に示した従来の画像伝送装置と比較すると、固体撮像素子としてローリングシャッタ型CMOSセンサ101の替わりに、グローバルシャッタ型CMOSセンサ201を用いた点に特徴がある。なお、このグローバルシャッタ型CMOSセンサ201は、ハイビジョン画像等の高精細度テレビ(HDTV)画像の画素数と同一又はそれ以上の画素数の画素が撮像領域に2次元マトリクス状に配置されている。
Next, the best mode for carrying out the present invention will be described with reference to the drawings. FIG. 1 shows a block diagram of an embodiment of an image transmission apparatus using a solid-state imaging device according to the present invention. In the figure, the same components as those in FIG. Compared with the conventional image transmission apparatus shown in FIG. 5, the image transmission apparatus of the present embodiment shown in FIG. 1 uses a global shutter
次に、グローバルシャッタ型CMOSセンサ201の実施の形態について説明する。図2はグローバルシャッタ型CMOSセンサの一実施の形態の構成図を示し、同図(A)は平面図、同図(B)は同図(A)のX−X’線に沿う縦断面図を示す。図2(A)、(B)に示すように、本実施の形態の固体撮像素子111であるグローバルシャッタ型CMOSセンサは、p+型基板41上にp−型エピタキシャル層42を成長し、このエピタキシャル層42の表面にnウェル43がある。nウェル43上にはゲート酸化膜44を挟んで第1のゲート電極である平面形状がリング状のゲート電極45が形成されている。
Next, an embodiment of the global shutter
リング状ゲート電極45の中心部に対応したnウェル43の表面にはn+型のソース領域46が形成されており、そのソース領域46に隣接してソース近傍p型領域47が形成され、更にソース領域46とソース近傍p型領域47の外側の離間した位置にはn+型のドレイン領域48が形成されている。更に、ドレイン領域48の下のnウェル43中には埋め込みのp−型領域49がある。この埋め込みのp−型領域49とnウェル43は、図2(A)に示す埋め込みフォトダイオード50を構成している。
An n + -
埋め込みフォトダイオード50とリング状ゲート電極45との間には、第2のゲート電極である転送ゲート電極51がある。ドレイン領域48、リング状ゲート電極45、ソース領域46、転送ゲート電極51には、それぞれメタル配線であるドレイン電極配線52、リング状ゲート電極配線53、ソース電極配線(出力線)54、転送ゲート電極配線55が接続されている。また、上記の各構成の上方には、図2(B)に示すように遮光膜56が形成されており、その遮光膜56の埋め込みフォトダイオード50に対応した位置には開口部57が穿設されている。この遮光膜56は金属、あるいは有機膜等で形成される。光は、開口部57を通して埋め込みフォトダイオード50に達して光電変換される。
Between the embedded photodiode 50 and the ring-shaped
次に、CMOSセンサの画素構造と撮像素子全体の構造について、電気回路で表現した図3と共に説明する。同図において、まず、画素はm行n列に画素敷き詰め領域61に配置されている。図3ではこれらm行n列の画素のうち、s行t列の一画素62を代表として等価回路で表現している。この画素62は、リング状ゲートMOSFET63と、フォトダイオード64と、転送ゲートMOSFET65とからなり、リング状ゲートMOSFET63のドレインがフォトダイオード64のn側端子とドレイン電極配線66(図2の52に相当)に接続され、転送ゲートMOSFET65のソースがフォトダイオード64のp側端子に接続され、ドレインがリング状ゲートMOSFET63のバックゲートに接続されている。
Next, the pixel structure of the CMOS sensor and the structure of the entire image sensor will be described with reference to FIG. In the figure, first, pixels are arranged in a pixel spread area 61 in m rows and n columns. In FIG. 3, one pixel 62 of s rows and t columns among these m rows and n columns pixels is represented by an equivalent circuit. The pixel 62 includes a ring-shaped gate MOSFET 63, a
なお、上記のリング状ゲートMOSFET63は、図2(B)ではリング状ゲート電極45直下のソース近傍p型領域47をゲート領域とし、n+型のソース領域46及びn+型のドレイン領域48を有するnチャネルMOSFETである。また、上記の転送ゲートMOSFET65は、図2(B)では転送ゲート電極51直下のnウェル43をゲート領域、フォトダイオード50の埋め込みのp−型領域49をソース領域、ソース近傍p型領域47をドレインとするpチャネルMOSFETである。
In FIG. 2B, the ring-shaped gate MOSFET 63 has a p-
図3において、m行n列の各画素から1フレーム分の信号を読み出すために、まず読み出しを始める合図を出すフレームスタート信号を発生させる回路67がある。このフレームスタート信号は撮像素子の外から与えられてもよい。このフレームスタート信号は垂直シフトレジスタ68に供給される。垂直シフトレジスタ68は、m行n列の各画素のうちの何行目の画素を読み出すかの信号を出力する。
In FIG. 3, in order to read a signal for one frame from each pixel of m rows and n columns, there is a
各行の画素はリング状ゲート電極、転送ゲート電極、ドレイン電極の電位を制御する制御回路に接続されており、これらの制御回路は垂直レジスタ68の出力信号が供給される。例えば、s行目の各画素のリング状ゲート電極は、リング状ゲート電極配線69(図2の53に相当)を介してリング状ゲート電位制御回路70に接続され、各画素の転送ゲート電極は、転送ゲート電極配線71(図2の55に相当)を介して転送ゲート電位制御回路72に接続され、各画素のドレイン電極は、ドレイン電極配線66(図2の52に相当)を介してドレイン電位制御回路73に接続されている。上記の各制御回路70、72、73には垂直シフトレジスタ68の出力信号が供給される。
The pixels in each row are connected to a control circuit that controls the potentials of the ring-shaped gate electrode, transfer gate electrode, and drain electrode, and these control circuits are supplied with the output signal of the
なお、リング状ゲート電極は、行毎に制御するので横方向に配線するが、転送ゲート電極は全画素で一斉に制御するので、配線方向は問わず、縦方向でもよい。ここでは横方向に配線するものとして表現する。ドレイン電位制御回路73は、全画素一斉に制御するが、行毎に制御する可能性もあるので、フレームスタート信号と垂直レジスタ68の両方と接続して表現している。
Since the ring-shaped gate electrode is controlled for each row, wiring is performed in the horizontal direction. However, since the transfer gate electrode is controlled simultaneously for all pixels, the wiring direction is not limited and the vertical direction may be used. Here, it is expressed as wiring in the horizontal direction. The drain
画素62のリング状ゲートMOSFET63のソース電極は、ソース電極配線74(図2の54に相当)を介して2分岐され、一方はスイッチSW1を介してソース電極電位を制御するソース電位制御回路75に接続され、他方はスイッチSW2を介して信号読み出し回路76に接続されている。信号を読み出すときにはスイッチSW1をオフ、スイッチSW2をオンにし、ソース電位を制御する時にはスイッチSW1をオン、スイッチSW2をオフにする。信号は縦方向に出すので、ソース電極の配線方向は縦にする。
The source electrode of the ring-shaped gate MOSFET 63 of the pixel 62 is branched into two via a source electrode wiring 74 (corresponding to 54 in FIG. 2), one of which is supplied to a source
信号読み出し回路76は次のように構成されている。画素62の出力はリング状ゲートMOSFET63のソースから行われ、出力線74には負荷、例えば電流源77が繋がっている。従って、ソースフォロア回路となっている。電流源77にはキャパシタC1とキャパシタC2の各一端がスイッチsc1とスイッチsc2を介して繋がっている。他端が接地されているキャパシタC1、C2の各一端は、また差動アンプ78の反転入力端子と非反転入力端子に繋がっており、両キャパシタC1及びC2の電位差を差動アンプ78から出力するようになっている。
The
このような信号読み出し回路76はCDS回路(相関二重サンプリング回路)と呼ばれ、ここに描かれた方式以外にも種々の回路が提案されており、この回路に限るわけではない。信号読み出し回路76から出力された信号は、出力スイッチswtを介して出力される。同じ列にある出力スイッチswtは、水平シフトレジスタ79から出力される信号によりスイッチング制御される。
Such a
次に、図3に示すCMOSセンサの駆動方法について、図4のタイミングチャートと共に説明する。まず、図4(1)に示す期間では、埋め込みのフォトダイオード(図2(A)の50、図3の64等)に光が入射し、光電変換効果により電子・ホール対が発生し、フォトダイオードの埋め込みp−型領域49にホールが蓄積される。このとき転送ゲート電極51の電位はドレイン電位Vddと同じになっており、転送ゲートMOSFET65はオフ状態である。これらの蓄積は、前フレームの読み出し操作が行われている時に同時に実行されている。
Next, a method for driving the CMOS sensor shown in FIG. 3 will be described with reference to the timing chart of FIG. First, in the period shown in FIG. 4A, light is incident on the embedded photodiode (50 in FIG. 2A, 64 in FIG. 3, etc.), and an electron / hole pair is generated due to the photoelectric conversion effect. Holes accumulate in the buried p - type region 49 of the diode. At this time, the potential of the
続く図4(2)に示す期間では、前フレームの読み出しが終了すると、同図(A)に示すように新しいフレームスタート信号が発信されて、次のフレームの読み出しが始まる。最初に行うのは全画素一斉にフォトダイオード(図2(A)の50、図3の64等)からリング状ゲート電極(図2の45)のソース近傍p型領域(図2の47)にホールを転送することである。そのため、図4(B)に示すように転送ゲート電位制御回路72から出力される転送ゲート制御信号がVddからLow2に下がり、転送ゲート電極(図2の41)の電位がLow2となり、転送ゲートMOSFET65がオン状態になる。
In the subsequent period shown in FIG. 4 (2), when the reading of the previous frame is completed, a new frame start signal is transmitted as shown in FIG. First, all the pixels are performed simultaneously from the photodiode (50 in FIG. 2A, 64 in FIG. 3) to the p-type region (47 in FIG. 2) near the source of the ring-shaped gate electrode (45 in FIG. 2). It is to transfer the hole. Therefore, as shown in FIG. 4B, the transfer gate control signal output from the transfer gate
このとき、リング状ゲート電位制御回路70により制御されるリング状ゲート電極配線69の電位は、図4(C)に示すように、LowからLow1になるが、Low2の方がLow1よりも大きい。Low1はLowと同じでもよい。最も簡便にはLow1=Low=0(V)に設定する。
At this time, the potential of the ring-shaped gate electrode wiring 69 controlled by the ring-shaped gate
一方、ソース電位制御回路75からスイッチSW1を介してソース電極配線74からリング状ゲートMOSFET63のソースに供給されるソース電位をはじめとする、全画素のソース電位は図4(D)に示すように電位S1に設定される。S1>Low1であり、これにより、リング状ゲートMOSFET63がオフのままであり、電流が流れないようにする。この結果、全画素のフォトダイオードに蓄積された電荷(ホール)が、対応する画素のリング状ゲート電極の下に一斉に転送される。
On the other hand, the source potential of all the pixels including the source potential supplied from the source
図2(B)に示すリング状ゲート電極45の下の領域で、ソース近傍p型領域47が最もポテンシャルが低いので、フォトダイオードに蓄積されていたホールはソース近傍p型領域47に達し、そこに蓄積される。ホールが蓄積される結果、ソース近傍p型領域47の電位が上昇する。
In the region below the ring-shaped
続いて、図4(3)に示す期間では、同図(B)に示すように転送ゲート電極が再びVddになり、転送ゲートMOSFET65がオフになる。これにより、フォトダイオード(図2(A)の50、図3の64等)では再び光電変換効果により電子・ホール対が発生し、フォトダイオードの埋め込みp−型領域49にホールが蓄積され始める。この蓄積動作は次の電荷転送時まで続けられる。
Subsequently, in the period shown in FIG. 4 (3), as shown in FIG. 4 (B), the transfer gate electrode becomes Vdd again, and the
一方、読み出し操作は行単位で順番に行われるので、1行目〜(s−1)行目を読み出す期間(3)では、リング状ゲート電極の電位は図4(C)に示すようにLowの状態で、ソース近傍p型領域47にホールを蓄積したまま待機状態となる。ソース電位は他の行からの信号読み出しが行われている間、その画素からの信号の値により、様々な値をとり得る。また、リング状ゲート電極電位は行毎に様々な値をとり得るが、s行目ではLowに設定され、リング状ゲートMOSFET63がオフ状態である。
On the other hand, since the read operation is performed in units of rows, the potential of the ring-shaped gate electrode is low as shown in FIG. 4C in the period (3) in which the first to (s−1) th rows are read. In this state, a standby state is entered with holes accumulated in the p-
続く図4(4)〜(6)に示す期間では、画素の信号読み出しが行われる。s行目t列目の画素62について代表してこの信号読み出し動作について説明するに、まず、ソース近傍p型領域47にホールを蓄積した状態で、図4(E)に示す垂直シフトレジスタ68の出力信号が、同図(H)に示すようにローレベルである期間(4)において、リング状ゲート電位制御回路70からリング状ゲート電極配線69に出力される制御信号により、リング状ゲート電極45の電位を図4(K)に示すように、LowからVg1に上げる。
In the subsequent period shown in FIGS. 4 (4) to (6), pixel signal readout is performed. This signal readout operation will be described representatively for the pixel 62 in the s-th row and the t-th column. First, in the state where holes are accumulated in the p-
ここで、上記の電位Vg1は、前述した各電位Low、Low1、Vddとの間に
Low≦Low1≦Vg1≦Vdd (ただし、Low<Vdd)
なる不等式が成立する電位である。また、上記の期間(4)ではスイッチSW1が図4(I)に示すようにオフ、スイッチSW2が同図(J)に示すようにオン、スイッチsc1が同図(M)に示すようにオン、スイッチsc2が同図(N)に示すようにオフとされる。
Here, the potential Vg1 is between the potentials Low, Low1, and Vdd described above.
Low ≦ Low1 ≦ Vg1 ≦ Vdd (where Low <Vdd)
Is an electric potential that holds the inequality. In the period (4), the switch SW1 is turned off as shown in FIG. 4I, the switch SW2 is turned on as shown in FIG. 4J, and the switch sc1 is turned on as shown in FIG. The switch sc2 is turned off as shown in FIG.
この結果、リング状ゲートMOSFET63のソースに接続されたソースフォロア回路が働き、リング状ゲートMOSFET63のソース電位は、図4(L)に示すように期間(4)ではS2(=Vg1−Vth1)となる。ここで、Vth1とはバックゲート(ソース近傍p型領域47)にホールがある状態での、リング状ゲートMOSFET63のしきい値電圧である。このソース電位S2がオンとされているスイッチsc1を通してキャパシタC1に記憶される。
As a result, the source follower circuit connected to the source of the ring-shaped gate MOSFET 63 works, and the source potential of the ring-shaped gate MOSFET 63 is S2 (= Vg1-Vth1) in the period (4) as shown in FIG. Become. Here, Vth1 is a threshold voltage of the ring-shaped gate MOSFET 63 in a state in which there is a hole in the back gate (p-
続く図4(5)に示す期間では、リング状ゲート電位制御回路70からリング状ゲート電極配線69に出力される制御信号により、リング状ゲート電極45の電位を図4(K)に示すようにHigh1に上げると同時に、同図(I)、(J)に示すようにスイッチSW1をオン、スイッチSW2をオフとすると共に、ソース電位制御回路75から出力されるソース電位を同図(L)に示すようにHighsに上げる。ここで、High1、Highs>Low1である。
In the subsequent period shown in FIG. 4 (5), the potential of the ring-shaped
上記の電位High1及びHighsの値は同じであっても異なっていてもよいが、設計の簡単のためにはHigh1、Highs≦Vddが望ましい。簡便な設定では、High1=Highs=Vddとする。また、リング状ゲートMOSFET63がオンして電流が流れないような電位設定にすることが望ましい。この結果、ソース近傍p型領域47のポテンシャルが上昇し、nウェル43のバリアを越えてホールがエピタキシャル層42に排出される(リセット)。
The values of the potentials High1 and Highs may be the same or different, but High1 and Highs ≦ Vdd are desirable for simplicity of design. In a simple setting, High1 = Highs = Vdd. Further, it is desirable to set the potential so that the ring-shaped gate MOSFET 63 is turned on and no current flows. As a result, the potential of the p-
続く図4(6)に示す期間では、再び前記期間(4)と同じ信号読み出し状態にする。ただし、期間(4)とは異なり、図4(M)、(N)に示すように、スイッチsc1はオフ、スイッチsc2はオンとする。リング状ゲート電極は図4(K)に示すように期間(4)と同じVg1とする。しかし、この期間(6)では直前の期間(5)でホールが基板に排出されていて、ソース近傍p型領域47にはホールが存在しないので、リング状ゲートMOSFET63のソース電位は、図4(L)に示すように期間(6)ではS0(=Vg1−Vth0)となる。ここでVth0は、バックゲート(ソース近傍p型領域47)にホールがない状態でのリング状ゲートMOSFET63のしきい値電圧である。
In the subsequent period shown in FIG. 4 (6), the same signal readout state as in the period (4) is set again. However, unlike the period (4), as shown in FIGS. 4M and 4N, the switch sc1 is turned off and the switch sc2 is turned on. The ring-shaped gate electrode is set to Vg1 which is the same as that in the period (4) as shown in FIG. However, in this period (6), holes are discharged to the substrate in the immediately preceding period (5), and no holes are present in the p-
このソース電位S0はオンとされたスイッチsc2を介してキャパシタC2に記憶される。差動アンプ78はキャパシタC1とC2の電位差を出力する。すなわち、差動アンプ78は(Vth0−Vth1)を出力する。この出力値(Vth0−Vth1)は、ホール電荷によるしきい値変化分である。その後、水平シフトレジスタ79から出力される図4(F)に示すパルスのうち、同図(O)に示すt列目の出力パルスに基づき、図3の出力スイッチswtがオンとされ、このswtのオン期間に図4(P)にハッチングにより模式的に示すように、差動アンプ78からのホール電荷によるしきい値変化分が画素62の出力信号Voutとしてセンサ外へ出力される。
The source potential S0 is stored in the capacitor C2 through the switch sc2 that is turned on. The differential amplifier 78 outputs the potential difference between the capacitors C1 and C2. That is, the differential amplifier 78 outputs (Vth0−Vth1). This output value (Vth0-Vth1) is a change in threshold value due to hole charge. Thereafter, among the pulses shown in FIG. 4F output from the
続いて、図4に(7)で示す期間では、再びリング状ゲート電極45の電位を図4(B)に示すようにLowにし、ソース近傍p型領域47にはホールがない状態で、全ての行の信号処理が終了するまで(s+1行〜n行の画素の読み出しが終了するまで)待機する。これらの読み出し期間中、フォトダイオード64では光電変換効果によるホールの蓄積が進行している。その後、前記期間(1)に戻って、ホールの転送から繰り返す。これにより、各画素から図4(G)に示す出力信号が読み出される。すべての画素から信号を読み出すと、再び次のフレームが開始される。
Subsequently, in the period indicated by (7) in FIG. 4, the potential of the ring-shaped
上記の図2(A)、(B)に示す構成の固体撮像素子は、リング状のゲート電極45を持つリング状ゲートMOSFET63が増幅用MOSFETであり、図3に示したように各画素内に増幅用MOSFETを持つという意味で、CMOSセンサの一種である。そして、このCMOSセンサは、フォトダイオードに蓄積された電荷(ホール)が、対応する画素のリング状ゲート電極の下のソース近傍p型領域47に一斉に転送されるようにすることで、グローバルシャッタを実現している。
2A and 2B, the ring-shaped gate MOSFET 63 having the ring-shaped
なお、図4の期間(5)のリセット時のソース電極配線74の電位供給は、ソース電位制御回路75から供給する以外の次の方法もある。すなわち、上記期間(5)でスイッチSW1、SW2をともにオフとして、ソース電極配線74をフローティングにする。ここでリング状ゲート電極配線69の電位をHigh1とすると、リング状ゲートMOSFET63がオン状態となり、ソース電極にドレインから電流が供給され、ソース電極電位が上昇する。この結果、ソース近傍p型領域47のポテンシャルが持ち上げられ、nウェル43のバリアを越えて、ホールがp型エピタキシャル層42に排出される(リセット)。ホールが完全に排出されたときのソース電極電位は、High1−Vth0になる。この方法では、ソース電位制御回路75のうち、Highsを供給するトランジスタを削減することができ、その結果、チップ面積を減らすことができる。
Note that the potential supply of the source electrode wiring 74 at the time of resetting in the period (5) of FIG. That is, in the period (5), both the switches SW1 and SW2 are turned off, and the source electrode wiring 74 is floated. Here, when the potential of the ring-shaped gate electrode wiring 69 is High1, the ring-shaped gate MOSFET 63 is turned on, current is supplied from the drain to the source electrode, and the source electrode potential rises. As a result, the potential of the p-
なお、図3の画素62の回路構成は簡略化して示してある。画素62の回路は、厳密には、転送ゲートMOSFET65のソースとリング状ゲートMOSFET63のバックゲートとの間に、リング状ゲート電極配線69と転送ゲート電極配線71の各電位に連動したスイッチが設けられる構成である。このスイッチは、リング状ゲート電極配線69の電位Low1と、転送ゲート電極配線71の電位Low2との間に、Low1≦Low2の関係があるときはオン状態になり、Low1>Low2の関係があるときにはオフ状態になる。
Note that the circuit configuration of the pixel 62 in FIG. 3 is simplified. Strictly speaking, the circuit of the pixel 62 is provided with a switch linked to each potential of the ring-shaped gate electrode wiring 69 and the transfer gate electrode wiring 71 between the source of the
このスイッチを設けることにより、リング状ゲート電極45(電位Low1)の下の基板電位が、転送ゲート電極61(電位Low2)の下の基板電位よりも高くなっていて、リング状ゲート電極45(電位Low1)の下の基板電位がバリアとして働き、ホールがソース近傍p型領域47に達することができないという現象を回路的に表現できる。しかしながら、転送時は上記のLow1≦Low2の条件は、電位制御回路70、72等により常に満たされているので、図3ではこのスイッチを省略して図示している。
By providing this switch, the substrate potential under the ring-shaped gate electrode 45 (potential Low1) is higher than the substrate potential under the transfer gate electrode 61 (potential Low2), and the ring-shaped gate electrode 45 (potential). The phenomenon that the substrate potential under Low 1) functions as a barrier and the holes cannot reach the p-
このように、固体撮像素子として用いるグローバルシャッタ型CMOSセンサ201は、図2〜図4と共に説明したように、露光は各ライン毎にタイミングがずれることなく同一の1フレーム期間で行われ、一定期間の露光後、グローバルシャッタ型CMOSセンサ内の転送ゲート(図3の転送ゲートMOSFET65等)により、全画素の電荷が電荷転送期間のタイミングで読み出し回路に一斉に転送される。その後、読み出し回路により読み出し期間内で、順次各画素からの信号が読み出される。このことにより、移動する被写体を撮像した場合でも、撮像画像は被写体の画像と異なる画像歪みは発生しない。
As described above, in the global shutter
従って、本実施の形態によれば、動きの大きな被写体に対しても画像信号の相関、時間方向の相関を共に確保して、画像情報を効率良く符号化することができ、そのため、画像信号を伝送する際の伝送帯域を効率良く使用でき、高精細画像信号を少ない伝送路にて伝送できる。また、画像1フレーム毎の信号の撮像時刻にズレが生じないため、入力された情報を静止画として取り扱った場合に、ライン毎の画像のズレが起こらず、静止画としての画像の品質と符号化された場合の符号化効率も向上する。 Therefore, according to the present embodiment, it is possible to ensure both the correlation of the image signal and the correlation in the time direction even for a subject with large motion, and to efficiently encode the image information. The transmission band at the time of transmission can be used efficiently, and a high-definition image signal can be transmitted with few transmission paths. Also, since there is no deviation in the image capturing time of the signal for each frame of the image, when the input information is handled as a still image, there is no deviation of the image for each line, and the quality and code of the image as the still image Therefore, the coding efficiency is improved.
なお、図1の画像伝送装置において、画像符号化装置104の符号化アルゴリズムに関しては、時間方向の相関、空間方向の相関を利用する符号化方式であれば、ブロック化された画像データの各画素が同一時刻に入力された画像であるため相関が高くなり、動きが大きい画像に関しても画素間の入力時刻のずれがなく大きな相関が得られるので、アルゴリズムを問わず符号化効率の向上が期待できる。また、変調装置106及び伝送路107に関しても、その種類に関わらず有効である。
In the image transmission apparatus shown in FIG. 1, the encoding algorithm of the
43 nウェル
45 リング状ゲート電極
46 n+型ソース領域
47 ソース近傍p型領域
48 n+型ドレイン領域
49 埋め込みp−型領域
50、64 フォトダイオード
51 転送ゲート電極
52、66 ドレイン電極配線
53、69 リング状ゲート電極配線
54、74 ソース電極配線(出力線)
55、71 転送ゲート電極配線
61 画素敷き詰め領域
62 画素
63 リング状ゲートMOSFET
65 転送ゲートMOSFET
103 入力信号処理装置
104 画像符号化装置
105 多重化装置
106 変調装置
107 伝送路
201 グローバルシャッタ型CMOSセンサ
43 n well 45 ring-shaped gate electrode 46 n +
55, 71 Transfer gate electrode wiring 61 Pixel covering area 62 Pixel 63 Ring-shaped gate MOSFET
65 Transfer gate MOSFET
DESCRIPTION OF
Claims (4)
前記被写体光像を前記固体撮像素子の撮像領域上に結像する光学系と、
前記被写体光像を複数の全画素のフォトダイオードに同時に露光して光電変換して得た電荷を全画素に蓄積した後、露光期間に蓄積した前記電荷を各画素から前記撮像信号として順次出力する、前記固体撮像素子としてのグローバルシャッタ型CMOSセンサと、
前記グローバルシャッタ型CMOSセンサから出力された撮像信号に対して、所定の信号処理を行って画像信号を出力する信号処理手段と、
信号処理手段から出力された前記画像信号を伝送路の伝送帯域に適合した情報量の符号化データに変換する符号化手段と、
前記符号化手段から出力された前記符号化データを伝送路に出力する信号に変換し出力する出力手段と
を有することを特徴とする画像伝送装置。 In an image transmission apparatus that performs signal processing on an imaging signal obtained by photoelectrically converting a subject light image with a solid-state imaging device, and then encodes and transmits the transmission path.
An optical system that forms an image of the subject light image on an imaging region of the solid-state imaging device;
After the object light image is simultaneously exposed to photodiodes of a plurality of pixels and photoelectrically converted and accumulated in all pixels, the charges accumulated during the exposure period are sequentially output from each pixel as the imaging signal. A global shutter type CMOS sensor as the solid-state image sensor;
Signal processing means for performing predetermined signal processing on the imaging signal output from the global shutter type CMOS sensor and outputting an image signal;
Encoding means for converting the image signal output from the signal processing means into encoded data having an information amount suitable for a transmission band of a transmission path;
An image transmission apparatus comprising: output means for converting the encoded data output from the encoding means into a signal to be output to a transmission path and outputting the signal.
基板上のリング状ゲート電極と、前記リング状ゲート電極の中央開口部に対応する前記基板の位置に設けられたソース領域と、前記ソース領域を取り囲み、かつ、前記リング状ゲート電極の外周に達しないように前記基板に設けられたソース近傍領域とからなる信号出力用トランジスタと、
光を電荷に変換して蓄積する前記フォトダイオードと、
前記フォトダイオードに蓄積された前記電荷を前記ソース近傍領域へ転送する電荷転送手段とを含む画素が複数2次元配列された構造であり、
各画素内の前記電荷転送手段は、前記フォトダイオードに蓄積された前記電荷を、同じ画素内の対応する前記ソース近傍領域へ全画素一斉に転送し、前記信号出力用トランジスタは、入力された電荷の量をしきい値の変化として出力することを特徴とする請求項1記載の画像伝送装置。 The global shutter CMOS sensor is
A ring-shaped gate electrode on the substrate; a source region provided at a position of the substrate corresponding to a central opening of the ring-shaped gate electrode; and surrounding the source region and reaching an outer periphery of the ring-shaped gate electrode A signal output transistor comprising a source vicinity region provided on the substrate so as not to
The photodiode for converting light into electric charge and storing it;
A plurality of two-dimensionally arranged pixels including charge transfer means for transferring the charge accumulated in the photodiode to the source vicinity region;
The charge transfer means in each pixel transfers the charge accumulated in the photodiode all at once to the corresponding source vicinity region in the same pixel, and the signal output transistor receives the input charge. The image transmission apparatus according to claim 1, wherein the amount of output is output as a change in threshold value.
前記画素の各々は、
前記基板の表面に設けられた第2の導電型のウェル領域と、
前記ウェル領域中に設けられた第1の導電型の前記フォトダイオードの光電変換領域と、
前記光電変換領域以外の前記ウェル領域上に絶縁膜を挟んで設けられた前記リング状ゲート電極と、
前記絶縁膜上の前記リング状ゲート電極と前記光電変換領域の間の、前記ウェル領域上に前記絶縁膜を挟んで設けられた転送ゲート電極と、
前記ウェル領域の表面のうち、前記リング状ゲート電極と前記転送ゲート電極に対応する領域を除いた部分の少なくとも一部に設けられた、前記ウェル領域と電気的に一体化した高濃度の第2の導電型のドレイン領域と、
前記リング状ゲート電極の中心開口部に対応する前記ウェル領域中の位置に設けられた第2の導電型のソース領域と、
前記ソース領域を取り囲み、かつ、前記ドレイン領域まで達しないように前記ウェル領域中に設けられた第1の導電型のソース近傍領域と
を有することを特徴とする請求項1記載の画像伝送装置。 The global shutter type CMOS sensor is a solid-state imaging device in which a plurality of pixels including an optical signal output transistor having a ring-shaped gate electrode and a photodiode are two-dimensionally arranged on a first conductive type substrate,
Each of the pixels
A well region of a second conductivity type provided on the surface of the substrate;
A photoelectric conversion region of the photodiode of the first conductivity type provided in the well region;
The ring-shaped gate electrode provided on the well region other than the photoelectric conversion region with an insulating film interposed therebetween;
Between the ring-shaped gate electrode on the insulating film and the photoelectric conversion region, a transfer gate electrode provided on the well region with the insulating film interposed therebetween,
A high concentration second electrically integrated with the well region provided in at least a part of the surface of the well region excluding the region corresponding to the ring-shaped gate electrode and the transfer gate electrode. A drain region of a conductivity type of
A source region of a second conductivity type provided at a position in the well region corresponding to the central opening of the ring-shaped gate electrode;
The image transmission apparatus according to claim 1, further comprising: a first conductivity type source vicinity region provided in the well region so as to surround the source region and not reach the drain region.
In the global shutter type CMOS sensor, the number of pixels equal to or larger than the number of pixels of an HDTV image is arranged in an imaging region in a two-dimensional matrix, and the encoding means uses a correlation in a spatial direction and a correlation in a time direction. 2. The image transmission apparatus according to claim 1, wherein the image transmission apparatus compresses and encodes the image signal by a high-efficiency compression encoding method for compressing information.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005310649A JP4655881B2 (en) | 2005-10-26 | 2005-10-26 | Image transmission device using solid-state image sensor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005310649A JP4655881B2 (en) | 2005-10-26 | 2005-10-26 | Image transmission device using solid-state image sensor |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007124070A true JP2007124070A (en) | 2007-05-17 |
JP4655881B2 JP4655881B2 (en) | 2011-03-23 |
Family
ID=38147453
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005310649A Active JP4655881B2 (en) | 2005-10-26 | 2005-10-26 | Image transmission device using solid-state image sensor |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4655881B2 (en) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002134729A (en) * | 2000-10-26 | 2002-05-10 | Innotech Corp | Solid-state image pickup device and method for driving the same |
JP2003116058A (en) * | 2001-10-04 | 2003-04-18 | Victor Co Of Japan Ltd | High resolution image generation apparatus and image data transfer method |
JP2003116039A (en) * | 2001-10-04 | 2003-04-18 | Victor Co Of Japan Ltd | High-resolution image generator |
JP2005051664A (en) * | 2003-07-31 | 2005-02-24 | Toshiba Corp | Imaging apparatus and imaging method |
WO2005022902A1 (en) * | 2003-09-01 | 2005-03-10 | Matsushita Electric Industrial Co., Ltd. | Camera having transmission function, mobile telephone device, and image data acquiring/transmitting program |
JP2005159150A (en) * | 2003-11-27 | 2005-06-16 | Innotech Corp | Mos type solid-state imaging device and its driving method |
JP2005184358A (en) * | 2003-12-18 | 2005-07-07 | Sony Corp | Solid state imaging apparatus and method for reading pixel signal |
-
2005
- 2005-10-26 JP JP2005310649A patent/JP4655881B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002134729A (en) * | 2000-10-26 | 2002-05-10 | Innotech Corp | Solid-state image pickup device and method for driving the same |
JP2003116058A (en) * | 2001-10-04 | 2003-04-18 | Victor Co Of Japan Ltd | High resolution image generation apparatus and image data transfer method |
JP2003116039A (en) * | 2001-10-04 | 2003-04-18 | Victor Co Of Japan Ltd | High-resolution image generator |
JP2005051664A (en) * | 2003-07-31 | 2005-02-24 | Toshiba Corp | Imaging apparatus and imaging method |
WO2005022902A1 (en) * | 2003-09-01 | 2005-03-10 | Matsushita Electric Industrial Co., Ltd. | Camera having transmission function, mobile telephone device, and image data acquiring/transmitting program |
JP2005159150A (en) * | 2003-11-27 | 2005-06-16 | Innotech Corp | Mos type solid-state imaging device and its driving method |
JP2005184358A (en) * | 2003-12-18 | 2005-07-07 | Sony Corp | Solid state imaging apparatus and method for reading pixel signal |
Also Published As
Publication number | Publication date |
---|---|
JP4655881B2 (en) | 2011-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4844305B2 (en) | Imaging device | |
CN109769083B (en) | Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus | |
CN111435975B (en) | Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus | |
CN108307132B (en) | Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus | |
RU2452128C2 (en) | Adaptive coding of video block header information | |
US20170134676A1 (en) | Method, apparatus and system providing a storage gate pixel with high dynamic range | |
CN109714551B (en) | Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus | |
JP2006311515A (en) | Solid-state image-sensing device | |
JP2013168880A (en) | Comparator, ad converter, solid-state imaging device, camera system, and electronic apparatus | |
Oike et al. | 8.3 M-pixel 480-fps global-shutter CMOS image sensor with gain-adaptive column ADCs and chip-on-chip stacked integration | |
JP2013172270A (en) | Comparator, ad converter, solid-state image pickup device, camera system and electronic apparatus | |
KR20110016401A (en) | Solid-state image pickup device and driving method thereof, and electronic apparatus | |
CN111385501B (en) | Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus | |
JP2010103494A (en) | Solid-state image pickup device and driving method therefor, and electronic apparatus | |
US20060072835A1 (en) | Image pickup device and decoding device | |
US20150036744A1 (en) | Image processing apparatus and image processing method | |
WO2014045919A1 (en) | Image processing device and method | |
US20150030068A1 (en) | Image processing device and method | |
US20150043638A1 (en) | Image processing apparatus and image processing method | |
CN115396611A (en) | Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus | |
Zhang et al. | CMOS Image Sensor with On‐Chip Image Compression: A Review and Performance Analysis | |
Shimamoto et al. | 120 hz frame-rate super hi-vision capture and display devices | |
JP7338983B2 (en) | Solid-state imaging device, driving method for solid-state imaging device, and electronic device | |
JP4655881B2 (en) | Image transmission device using solid-state image sensor | |
JP2008244993A (en) | Apparatus and method for transcoding |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100330 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100527 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101130 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101213 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140107 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4655881 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140107 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140107 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140107 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |