JP3064992B2 - Stereoscopic image display method and device - Google Patents

Stereoscopic image display method and device

Info

Publication number
JP3064992B2
JP3064992B2 JP9298911A JP29891197A JP3064992B2 JP 3064992 B2 JP3064992 B2 JP 3064992B2 JP 9298911 A JP9298911 A JP 9298911A JP 29891197 A JP29891197 A JP 29891197A JP 3064992 B2 JP3064992 B2 JP 3064992B2
Authority
JP
Japan
Prior art keywords
eye
image
images
point
eye position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP9298911A
Other languages
Japanese (ja)
Other versions
JPH11133355A (en
Inventor
聡 福久
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP9298911A priority Critical patent/JP3064992B2/en
Publication of JPH11133355A publication Critical patent/JPH11133355A/en
Application granted granted Critical
Publication of JP3064992B2 publication Critical patent/JP3064992B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Stereoscopic And Panoramic Photography (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、左目用及び右目用
画像のそれぞれを線状に分割して複数の線状画像とし、
各画像から各線状画像を交互に配列してディスプレイに
表示し、該ディスプレイに表示された画像をレンチキュ
ラーレンズを複数配列してなるレンチキュラーレンズシ
ートを介して観察する立体画像表示方法及び装置に関す
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method of dividing a left-eye image and a right-eye image into a plurality of linear images.
The present invention relates to a stereoscopic image display method and apparatus for alternately arranging each linear image from each image, displaying the images on a display, and observing the images displayed on the display via a lenticular lens sheet having a plurality of lenticular lenses arranged.

【0002】[0002]

【従来の技術】従来からレンチキュラーレンズシートを
用いた立体画像表示装置が存在する。特開平8−311
364号公報には、観察者の移動に応じてレンチキュラ
ーレンズを移動し、立体視域を広げた立体画像表示装置
が開示されている。この従来例の立体画像表示装置を図
7に示す。拡散板601は投写手段605からの投写光
の画像表示面を形成する。拡散板601両側に配置され
た1対のレンチキュラーレンズ602、603は、拡散
板601に形成された画像を左右の目606、607に
入射するよう屈折させる。検出手段604は、観察者P
の視点位置を検出する。制御部608は、この検出手段
604の検出値に対応して各レンチキュラーレンズ60
2、603を拡散板601の面に直角の方向(x軸方
向)及び/または拡散板601の面に平行な水平方向
(y軸方向)に位置を調整して、観察者Pの観察距離、
観察位置の左右方向の移動及び目間距離を同時にまたは
それぞれ調整できる構成となっている。
2. Description of the Related Art Conventionally, there is a stereoscopic image display device using a lenticular lens sheet. JP-A-8-311
Japanese Patent Publication No. 364 discloses a stereoscopic image display device in which a lenticular lens is moved in accordance with the movement of an observer, and a stereoscopic viewing area is widened. FIG. 7 shows this conventional stereoscopic image display device. The diffusion plate 601 forms an image display surface of the projection light from the projection unit 605. A pair of lenticular lenses 602 and 603 disposed on both sides of the diffusion plate 601 refract an image formed on the diffusion plate 601 so as to be incident on the left and right eyes 606 and 607. The detecting means 604 detects the observer P
Detects the viewpoint position of. The control unit 608 controls each lenticular lens 60 according to the detection value of the detection unit 604.
2, 603 is adjusted in a direction perpendicular to the surface of the diffusion plate 601 (x-axis direction) and / or in a horizontal direction parallel to the surface of the diffusion plate 601 (y-axis direction) to obtain an observation distance of the observer P;
The configuration is such that the horizontal movement of the observation position and the distance between eyes can be adjusted simultaneously or individually.

【0003】以上の構成において、左右異なった視点位
置から撮影された2枚の視差画像を線状画像に分割し、
これをy軸方向に交互に配列した合成線状画像を拡散板
601上へ投射する。左右の目606、607にはレン
チキュラーレンズ602、603により、それぞれの線
状画像からの光束が入射させられる。これにより観察者
Pは同一画面上で元の左右2枚の視差画像を左右それぞ
れの目606、607で観察することになり、立体視が
実現される。図7において観察者Pの視点位置が光軸方
向(x軸方向)に拡散板601に近づいたとすると、出
射側のレンチキュラーレンズ603をその厚さが薄くな
るようにx方向に移動させる。また、観察者Pの視点位
置が拡散板601に平行に水平方向(y軸方向)に移動
した場合には、レンチキュラーレンズ602、603の
光軸と視点位置との距離の変化に応じて出射側のレンチ
キュラーレンズ603をy軸方向に移動させる。このよ
うに従来例の立体画像表示装置は、出射側のレンチキュ
ラーレンズ602、603の移動により観察者Pの観察
位置、観察距離の左右方向の移動に対して立体視域が拡
大される。
[0003] In the above arrangement, two parallax images taken from different left and right viewpoint positions are divided into linear images.
A composite linear image in which these are alternately arranged in the y-axis direction is projected onto the diffusion plate 601. Light beams from the respective linear images are made incident on the left and right eyes 606 and 607 by lenticular lenses 602 and 603. Thus, the observer P observes the original two left and right parallax images on the same screen with the left and right eyes 606 and 607, respectively, and stereoscopic vision is realized. Assuming that the viewpoint position of the observer P approaches the diffusion plate 601 in the optical axis direction (x-axis direction) in FIG. 7, the lenticular lens 603 on the emission side is moved in the x-direction so that its thickness becomes thin. Further, when the viewpoint position of the observer P moves in the horizontal direction (y-axis direction) in parallel with the diffusion plate 601, the emission side according to a change in the distance between the optical axis of the lenticular lenses 602 and 603 and the viewpoint position. Lenticular lens 603 is moved in the y-axis direction. As described above, in the conventional stereoscopic image display apparatus, the stereoscopic viewing area is expanded with respect to the movement of the observation position and the observation distance of the observer P in the left and right direction by the movement of the lenticular lenses 602 and 603 on the emission side.

【0004】[0004]

【発明が解決しようとする課題】しかしながら、従来例
の立体画像表示装置は、次のような欠点があった。すな
わち、それぞれの視差画像は画像に含まれる複数の焦点
距離の異なる被写体のうち特定の焦点距離にある被写体
にのみ結像するように異なる方向から撮られた画像であ
り、視差画像中の特定の被写体よりも距離の遠い他の被
写体、あるいは近い被写体については焦点距離が一致し
ないため、これらの被写体の像に観察者Pの視線が向け
られた場合でも、像がぼやけたままのために立体画像と
して表現することは不可能であった。
However, the conventional stereoscopic image display apparatus has the following drawbacks. That is, each parallax image is an image taken from a different direction so as to form an image only on a subject at a specific focal length among a plurality of subjects having different focal lengths included in the image, and a specific parallax image in the parallax image. Since the focal lengths of other subjects that are farther than the subject or closer subjects do not match, even when the observer P's line of sight is directed to the images of these subjects, the images remain blurred because the images remain blurred. It was impossible to express as.

【0005】ここにおいて本発明の目的は、視差画像中
の全ての被写体について明瞭な立体視を可能にする立体
画像表示方法及び装置を提供することであり、特に観察
距離の異なる各被写体を明瞭に立体視可能にすることに
より、遠近感を表現可能な立体画像表示方法及び装置を
提供することである。
[0005] It is an object of the present invention to provide a method and apparatus for displaying a stereoscopic image which enables clear stereoscopic viewing of all objects in a parallax image. An object of the present invention is to provide a stereoscopic image display method and apparatus capable of expressing a perspective by enabling stereoscopic viewing.

【0006】[0006]

【課題を解決するための手段および作用】ここにおいて
本発明方法の特徴は、観察者(図1のP)の左目(図4
の307)位置及び右目(図4の308)位置から被写
体(図2の201〜203)をそれぞれ撮影して得られ
た左目用画像(図3の204〜206)及び右目用画像
(図3の204〜206)のそれぞれを所定方向に線状
に分割してできた複数の左目用線状画像及び右目用線状
画像を交互配列し、複数の左目用線状画像及び右目用線
状画像の一組の組み合わせの所定方向の幅と等しいピッ
チで連続して設けたレンチキュラーレンズ(図1の30
2aa〜302mn)を介して表示し、交互配列された
複数の左目用線状画像及び右目用線状画像のそれぞれを
更に所定方向に対して垂直方向に分割して複数の点状画
素画像とし、複数の点状画素画像のそれぞれを、独立し
た焦点距離(図2のDl〜D3)に結像させる立体画像
表示方法である。
The feature of the method of the present invention is that the left eye (FIG. 4) of the observer (P in FIG. 1) is used.
307) and the right eye (308 in FIG. 4) and the left eye image (204 to 206 in FIG. 3) and the right eye image (FIG. 204 to 206) are linearly divided in a predetermined direction, and a plurality of left-eye linear images and right-eye linear images are alternately arranged to form a plurality of left-eye linear images and right-eye linear images. A lenticular lens (30 in FIG. 1) continuously provided at a pitch equal to the width of the set in the predetermined direction.
2aa to 302 mn), and each of the plurality of alternately arranged linear images for the left eye and linear images for the right eye is further divided in a vertical direction with respect to a predetermined direction to obtain a plurality of dot-like pixel images. This is a stereoscopic image display method in which each of a plurality of dot-shaped pixel images is formed at an independent focal length (D1 to D3 in FIG. 2).

【0007】本発明装置の特徴は、観察者(図1のP)
の左目(図4の307)位置及び右目(図4の308)
位置から被写体(図2の201〜203)をそれぞれ撮
影して得られた左目用画像(図3の204〜206)及
び右目用画像(図3の204〜206)のそれぞれを所
定方向に線状に分割してできた複数の左目用線状画像と
右目用線状画像を交互配列して表示する表示手段(図1
の100,101)と、表示手段(図1の100,10
1)の前面に配置され、交互配列された複数の左目用線
状画像及び右目用線状画像のそれぞれを更に所定方向に
分割して複数の左目用点状画素画像(図4の304,3
06)及び右目用点状画素画像(図4の303,30
5)の一組の組合せ毎にそれぞれに対応して設けられて
複数の左目用点状画素画像(図4の304,306)及
び右目用点状画素画像(図4の303,305)の組合
せを所定の焦点距離(図2のD1〜D3)に結像させる
複数の合焦手段(図1の301aa〜301mn)と、
複数の合焦手段(図1の301aa〜301mn)のそ
れぞれの前面に配置された複数のレンチキュラーレンズ
(図1の302aa〜302mn)と、複数の合焦手段
(図1の301aa〜301mn)のそれぞれの焦点距
離(図2のDl〜D3)を個別制御する制御手段(図1
の103〜106)とを具備する立体画像表示装置であ
る。
The feature of the apparatus of the present invention is that the observer (P in FIG. 1)
Left eye (307 in FIG. 4) position and right eye (308 in FIG. 4)
Each of the left-eye image (204 to 206 in FIG. 3) and the right-eye image (204 to 206 in FIG. 3) obtained by photographing the subject (201 to 203 in FIG. 2) from the position is linearly drawn in a predetermined direction. Display means for alternately arranging and displaying a plurality of left-eye linear images and right-eye linear images formed by dividing
And display means (100, 10 in FIG. 1).
Each of the plurality of left-eye linear images and the right-eye linear images arranged on the front surface of 1) and alternately arranged is further divided in a predetermined direction to obtain a plurality of left-eye dot pixel images (304 and 3 in FIG. 4).
06) and a dot image for the right eye (303, 30 in FIG. 4)
5) Combination of a plurality of left-eye point-shaped pixel images (304, 306 in FIG. 4) and right-eye point-shaped pixel images (303, 305 in FIG. 4) provided for each of a set of combinations. A plurality of focusing means (301aa to 301mn in FIG. 1) for forming an image at a predetermined focal length (D1 to D3 in FIG. 2);
A plurality of lenticular lenses (302aa to 302mn in FIG. 1) and a plurality of focusing units (301aa to 301mn in FIG. 1) respectively arranged on the front surface of each of the plurality of focusing units (301aa to 301mn in FIG. 1). Control means (FIG. 1) for individually controlling the focal lengths (D1 to D3 in FIG. 2)
103-106).

【0008】本発明は、このような手法及び手段を採用
したので、観察者が特殊な立体視用眼鏡等を用意しなく
とも遠近感のある立体画像を表示できる。
Since the present invention employs such a method and means, it is possible to display a stereoscopic image having a sense of perspective without the observer preparing special stereoscopic glasses.

【0009】[0009]

【実施例】次に、本発明の実施の形態について図面を参
照して詳細に説明する。
Next, embodiments of the present invention will be described in detail with reference to the drawings.

【0010】図1において、フラットパネルディスプレ
イ101は、LCD等の画像投射器である。画像表示面
100は、半透明プラスチック板等の拡散板からなり、
フラットパネルディスプレイ101の前面に設けられた
画像形成面として、投射された画像がこの面上に表示さ
れる。レンズ光学系102aa〜102mnは、画像形
成面100前面に形成され、左目用及び右目用画像を画
面縦方向に線状に分割してできた複数の左目用及び右目
用線状画像を交互配列し、この左目用と右目用線状画像
の一組の組合せと同じ横幅を有し、縦方向には複数分割
されて形成された図示しないズームレンズ駆動手段をそ
れぞれ内蔵するズームレンズ301aa〜301mnと
このズームレンズ301aa〜301mnの前面にそれ
ぞれ形成されたレンチキュラーレンズ302aa〜30
2mnとを備えている。左目用カメラ110〜114
は、左目用視差画像を同一視点から同一方向の被写体に
向けて個別の焦点距離で取り込む。右目用カメラ121
〜125は、右目用視差画像を同一視点から同一方向の
被写体に向けて個別の焦点距離で取り込む。左目用カメ
ラコントローラ103は、左目用視差画像として個別の
焦点距離で取り込まれた各映像の入力画像信号S110
〜S114を比較して各画素単位で画像を選択し、入力
視差画像信号Silとして出力する。右目用カメラコン
トローラ106は、右目用視差画像として個別の焦点距
離で取り込まれた映像の入力画像信号S121〜S12
5を各画素単位で比較して選択し、入力視差画像信号S
irとして出力する。画像処理装置104は、左および
右目用カメラコントローラ103,106からの入力視
差画像信号Sil,Sirを同期させて画素信号Sdo
tとして出力する。ディスプレイコントローラ105
は、同期された画素信号Sdotにより画素の表示情報
と焦点距離D1〜D3情報を含む表示画素信号Sl1〜
Sln,Sr1〜Srnを生成しフラットパネルディス
プレイ101を駆動する。
In FIG. 1, a flat panel display 101 is an image projector such as an LCD. The image display surface 100 is made of a diffusion plate such as a translucent plastic plate,
As an image forming surface provided on the front surface of the flat panel display 101, a projected image is displayed on this surface. The lens optical systems 102aa to 102mn are formed on the front surface of the image forming surface 100, and alternately array a plurality of left-eye and right-eye linear images formed by dividing a left-eye image and a right-eye image into a line in the screen vertical direction. The zoom lenses 301aa to 301mn each having the same width as the combination of the pair of left-eye and right-eye linear images and incorporating zoom lens driving means (not shown) formed in the vertical direction and divided into a plurality of parts. Lenticular lenses 302aa-30a formed on the front surfaces of zoom lenses 301aa-301mn, respectively.
2mn. Left eye camera 110-114
Captures a parallax image for the left eye from the same viewpoint toward a subject in the same direction at an individual focal length. Right eye camera 121
125 captures right-eye parallax images from the same viewpoint toward subjects in the same direction at different focal lengths. The left-eye camera controller 103 outputs an input image signal S110 of each image captured at a separate focal length as a left-eye parallax image.
SS114 are compared to select an image for each pixel and output as an input parallax image signal Sil. The right-eye camera controller 106 includes input image signals S121 to S12 of images captured at individual focal lengths as right-eye parallax images.
5 is selected by comparing each pixel unit, and the input parallax image signal S
Output as ir. The image processing device 104 synchronizes the input parallax image signals Sil and Sir from the left and right eye camera controllers 103 and 106 and synchronizes the pixel signals Sdo.
Output as t. Display controller 105
Are the display pixel signals S11 to S11 including the display information of the pixels and the information of the focal lengths D1 to D3 by the synchronized pixel signals Sdot.
Sln, Sr1 to Srn are generated, and the flat panel display 101 is driven.

【0011】本実施の形態の立体表示装置の機能を説明
するためにまず、左目用カメラ110〜114と左目用
カメラコントローラ103の機能および右目用カメラ1
21〜125と右目用カメラコントローラ106の機能
について図2,図3を用いて説明する。図2においては
左目用カメラ110〜112と左目用カメラコントロー
ラ103の場合について示してある。
In order to explain the functions of the stereoscopic display apparatus of the present embodiment, first, the functions of the left-eye cameras 110 to 114, the left-eye camera controller 103, and the right-eye camera 1 will be described.
The functions of the camera controllers 21 to 125 and the right-eye camera controller 106 will be described with reference to FIGS. FIG. 2 shows the case of the left-eye cameras 110 to 112 and the left-eye camera controller 103.

【0012】今、距離D1、D2、D3の距離にある被
写体201,202,203に対しこれを撮影するため
のカメラ110,111,112が近接して同一の視点
位置とみなせる場所から同じ方向に向かって配置され
る。カメラ110は被写体201の像201iが明瞭に
撮影される映像204(図3(a))の入力画像信号S
110を左目用カメラコントローラ103に送り、カメ
ラ111は被写体202の像202iが明瞭に撮影され
る映像205(図3(b))の入力画像信号S111を
左目用カメラコントローラ103に送り、カメラ112
は被写体203の画像203iが明瞭に撮影される映像
206(図3(c)の入力画像信号S112を左目用カ
メラコントローラ103に送る。左目用カメラコントロ
ーラ103では同一方向にある同一の被写体201〜2
03を、同一の視点位置から異なる焦点距離D1〜D3
で撮影された映像204〜206の入力画像信号S11
0〜S112が入力される。左目用カメラコントローラ
103はこれらの映像204〜206の入力画像信号S
110〜S112を画素画像単位で比較し、各画素毎に
最も像201i〜203iが明瞭に写っている画素画像
を選択し、その画素画像が撮影されたカメラ110〜1
12の焦点距離D1〜D3情報とともに各画素画像から
なる入力視差画像信号Sil(図1)を出力する。
Now, cameras 110, 111, and 112 for taking images of subjects 201, 202, and 203 located at distances D1, D2, and D3 are located in the same direction from places that are close to each other and can be regarded as the same viewpoint position. It is arranged toward. The camera 110 receives an input image signal S of a video 204 (FIG. 3A) in which an image 201i of the subject 201 is clearly captured.
110 is sent to the left-eye camera controller 103, and the camera 111 sends the input image signal S111 of the video 205 (FIG. 3B) in which the image 202i of the subject 202 is clearly captured to the left-eye camera controller 103, and the camera 112
Sends an input image signal S112 of a video 206 (FIG. 3C) in which an image 203i of the subject 203 is clearly photographed to the left-eye camera controller 103. In the left-eye camera controller 103, the same subjects 201 and 2 are located in the same direction.
03 are different focal lengths D1 to D3 from the same viewpoint position.
Image signal S11 of videos 204 to 206 shot in
0 to S112 are input. The left-eye camera controller 103 outputs an input image signal S
110 to S112 are compared in units of pixel images, and a pixel image in which the images 201i to 203i are clearly shown is selected for each pixel, and the cameras 110 to 1 in which the pixel images are captured are selected.
An input parallax image signal Sil (FIG. 1) composed of each pixel image is output together with twelve focal length D1 to D3 information.

【0013】図1に戻り、右目用カメラ121〜125
の場合にも同様にして同じ被写体201,202,20
3を左目用カメラ110〜114群とは別の視点位置に
右目用カメラ121〜125が配置されて、左目用の場
合と同様な方法により同一方向にある同一の被写体20
1〜203を、同一の視点位置から異なる焦点距離D1
〜D3で撮影された映像204〜206の入力画像信号
が右目用カメラコントローラ106に入力される。右目
用カメラコントローラ106はこれらの映像204〜2
06の入力画像信号を画素画像単位で比較し、各画素毎
に最も像201i〜203iが明瞭に写っている画素画
像を選択し、その画素画像が撮影されたカメラ121〜
125の焦点距離D1〜D3情報とともに各画素画像か
らなる入力視差画像信号Sirとして出力する。
Returning to FIG. 1, right-eye cameras 121 to 125
In the same manner, the same subject 201, 202, 20
3, the right-eye cameras 121 to 125 are arranged at different viewpoint positions from the left-eye cameras 110 to 114, and the same subject 20 in the same direction as in the case of the left-eye camera
1 to 203 are different focal lengths D1 from the same viewpoint position.
The input image signals of the video images 204 to 206 captured at D3 to D3 are input to the right-eye camera controller 106. The right-eye camera controller 106 outputs these images 204-2.
The input image signal No. 06 is compared in units of pixel images, and a pixel image in which the images 201i to 203i are clearly shown is selected for each pixel, and the cameras 121 to 121 in which the pixel images are captured are selected.
It is output as an input parallax image signal Sir composed of each pixel image together with the information on the focal lengths D1 to D3 of 125.

【0014】図1に戻り、左目用および右目用カメラコ
ントローラ103,106に格納された画素画像と焦点
距離D1〜D3情報は、それぞれ入力視差画像信号Si
l,Sirとして画像処理装置104に入力され、画像
処理装置104により入力視差画像信号Sil,Sir
は同期するよう調整され、焦点距離D1〜D3情報を伴
う画素信号Sdotとしてディスプレイコントローラ1
05に伝達される。
Returning to FIG. 1, the pixel images and the information of the focal lengths D1 to D3 stored in the left-eye and right-eye camera controllers 103 and 106 respectively correspond to the input parallax image signal Si.
1 and Sir are input to the image processing device 104, and the input parallax image signals Sil and Sir are input by the image processing device 104.
Are adjusted so as to be synchronized with each other and the display controller 1 as a pixel signal Sdot with focal length D1 to D3 information.
05.

【0015】次に図4を用いてディスプレイコントロー
ラ105によるフラットパネルディスプレイ101の駆
動方法を説明する。
Next, a method of driving the flat panel display 101 by the display controller 105 will be described with reference to FIG.

【0016】図4はディスプレイの一画素単位の映像表
示方法を示した説明図である。右目用画素303と左目
用画素304がフラットパネルディスプレイ101に交
互配列されて形成され、画像表示面100を透過してズ
ームレンズ301ab、レンチキュラーレンズ302a
bを透過してそれぞれ右目308、左目307に写る。
左目用画素304、および右目用画素303はそれぞれ
の焦点距離D1〜D3情報がズームレンズ301abに
伝達され、各画素303,304のズームレンズ301
abを通した結像位置は、もともと各画素入力された時
のカメラ110〜114,121〜125と被写体20
1〜203との距離Dn(n=1または2または3)だ
け観察者Pの左目307または右目308から離れたと
ころに結像される。
FIG. 4 is an explanatory view showing an image display method in one pixel unit of the display. The right-eye pixels 303 and the left-eye pixels 304 are formed by being alternately arranged on the flat panel display 101, transmit through the image display surface 100, and have a zoom lens 301ab and a lenticular lens 302a.
The light passes through b and is reflected on the right eye 308 and the left eye 307, respectively.
Information on the focal lengths D1 to D3 of the left-eye pixel 304 and right-eye pixel 303 is transmitted to the zoom lens 301ab, and the zoom lens 301 of each of the pixels 303 and 304 is transmitted.
The image formation position through ab is determined by the cameras 110 to 114 and 121 to 125 and the object 20 when each pixel is originally input.
An image is formed at a distance from the left eye 307 or the right eye 308 of the observer P by a distance Dn (n = 1 or 2 or 3) from the observer P.

【0017】次に図5は図2,図3に示された被写体2
01,202の左目307用の一つの画素画像が距離D
1,D2に結像されて観察者Pの左目307で観察され
る原理を図示している。
Next, FIG. 5 shows the subject 2 shown in FIGS.
One pixel image for the left eye 307 of 01, 202 is a distance D
1 illustrates the principle of being imaged on D2 and observed by the left eye 307 of the observer P.

【0018】また図6(a),(b)は左目307用
(図6(a))および右目308用(図5(b))の各
表示画素信号Sl1〜Sl6,Sr1〜Sr6が集合化
して被写体201,202の像201i,202iが形
成される例を示す。
FIGS. 6A and 6B show the display pixel signals S11 to S16 and Sr1 to Sr6 for the left eye 307 (FIG. 6A) and the right eye 308 (FIG. 5B). An example is shown in which images 201i and 202i of subjects 201 and 202 are formed.

【0019】図6(a)にて被写体201を表現する左
目307用映像の表示画素信号Sl1〜Sl3は、被写
体201の像201iを最も明瞭に表現する左目用カメ
ラ110(図1)が左目用カメラコントローラ103
(図1)から選択され、これが左目用カメラ110(図
1)の焦点距離D1情報とともに画像処理装置104,
ディスプレイコントローラ105を経由して左目用画素
信号Sl1〜Sl3としてフラットパネルディスプレイ
101の各画素に入力され、また各左目用画素信号Sl
1〜Sl3に含まれる各画素の焦点距離D1情報に応じ
てズームレンズ301aa〜301acの焦点距離が図
示しないズームレンズ駆動機構により何れも焦点距離D
1へ焦点の合った状態へ制御されることにより、観察者
Pの左目307から距離D1のところに像201iを形
成する。同様にして被写体202を表現する左目用映像
の表示画素信号Sl4〜Sl6は、被写体202の像2
02iを最も明瞭に表現する左目用カメラ111(図
1)が左目用カメラコントローラ103(図1)から選
択され、これが左目用カメラ111(図1)の焦点距離
D2情報とともに画像処理装置104,ディスプレイコ
ントローラ105を経由して図6(a)にしめす画像2
05の左目用画素信号Sl4〜Sl6としてフラットパ
ネルディスプレイ101の各画素に入力され、また各左
目用画素信号Sl4〜Sl6に含まれる各画素の焦点距
離D2情報に応じてズームレンズ301ad〜301a
fの焦点距離が図示しないズームレンズ駆動機構により
何れも焦点距離D2へ焦点の合った状態に制御されるこ
とにより、観察者Pの左目307から距離D2のところ
に像202iを形成する。このようにして遠近に存在す
る被写体201,202が遠近感のある像201i,2
02iとして左目307に知覚される。
In FIG. 6A, the display pixel signals S11 to S13 of the image for the left eye 307 representing the subject 201 are obtained by the left-eye camera 110 (FIG. 1) which most clearly represents the image 201i of the subject 201 for the left eye. Camera controller 103
(FIG. 1), which is selected together with the focal length D1 information of the left-eye camera 110 (FIG. 1) by the image processing device 104,
Left-eye pixel signals S11 to S13 are input to each pixel of the flat panel display 101 via the display controller 105, and left-eye pixel signals Sl11
The focal lengths of the zoom lenses 301aa to 301ac are all set by the zoom lens driving mechanism (not shown) in accordance with the focal length D1 information of each pixel included in 1 to S13.
The image 201i is formed at a distance D1 from the left eye 307 of the observer P by being controlled to a state where the focus is adjusted to 1. Similarly, the display pixel signals S14 to S16 of the left-eye video representing the subject 202 are the image 2 of the subject 202.
The left-eye camera 111 (FIG. 1) that most clearly expresses the image 02i is selected from the left-eye camera controller 103 (FIG. 1), and is selected together with the focal length D2 information of the left-eye camera 111 (FIG. 1). Image 2 shown in FIG. 6A via the controller 105
The zoom lens 301ad-301a is input to each pixel of the flat panel display 101 as the left-eye pixel signal S14-S16 of 05, and according to the focal length D2 information of each pixel included in each left-eye pixel signal S14-S16.
An image 202i is formed at a distance D2 from the left eye 307 of the observer P by controlling the focal length of f to be in focus to the focal length D2 by a zoom lens driving mechanism (not shown). In this way, the subjects 201 and 202 existing in the near and far directions are transformed into images 201i and 2 having a sense of perspective.
02i is perceived by the left eye 307.

【0020】図6(b)は被写体201を表現する右目
308用映像の表示画素信号Sr1〜Sr6が図6
(a)に示した左目307用映像と同様に観察者Pの右
目308から距離D1のところに被写体201の像20
1iが、観察者Pの右目308から距離D2のところに
被写体202の像202iが形成され、遠近の存在する
被写体201,202が遠近感のある像201i,20
2iとして右目308に知覚される。
FIG. 6B shows the display pixel signals Sr1 to Sr6 of the image for the right eye 308 representing the subject 201 in FIG.
Similarly to the image for the left eye 307 shown in (a), the image 20 of the subject 201 is located at a distance D1 from the right eye 308 of the observer P.
1i, an image 202i of the subject 202 is formed at a distance D2 from the right eye 308 of the observer P, and the distant subjects 201, 202 are perspective images 201i, 20.
Perceived by the right eye 308 as 2i.

【0021】図6(a)および図6(b)で示したよう
に複数の被写体201,202がそれぞれ異なる焦点距
離D1,D2に独立して焦点が合わされることにより、
遠近感のある立体映像が表現される。
As shown in FIGS. 6A and 6B, the plurality of subjects 201 and 202 are independently focused at different focal lengths D1 and D2, respectively.
A stereoscopic image with perspective is expressed.

【0022】図1においては撮像機器として5つのカメ
ラ110〜114,121〜125で撮影した場合を示
したが、撮像機器の個数は表現の緻密さの要求度合いに
応じて個数を自由に設定して構わない。また時分割的に
焦点距離D1〜D3を変化させ映像を入力する形にして
も同様な効果を期待できる。
FIG. 1 shows a case where images are taken with five cameras 110 to 114 and 121 to 125 as imaging devices, but the number of imaging devices can be freely set according to the required degree of expression. I don't care. A similar effect can be expected by changing the focal lengths D1 to D3 in a time-division manner and inputting an image.

【0023】図2においては被写体201〜203が3
つ、カメラ110〜112が3つの場合を示したが、被
写体201〜203の数とカメラ110〜112の個数
は一致している必要はなく、コストや、遠近感表現の緻
密さの要求される度合いに応じてカメラ110〜112
の個数は決定してよい。またここではカメラ110〜1
12を各被写体201〜203に固定の焦点距離D1〜
D3で撮影した場合を示したが、各被写体201〜20
3が動いた場合にも焦点が合うよう各カメラ110〜1
12にズームレンズが備わっていてもかまわないし、時
分割的に焦点距離D1〜D3を変化させ映像204〜2
06を一つのカメラで撮影しても構わない。
In FIG. 2, the subjects 201 to 203 are 3
Although the number of cameras 110 to 112 is three, the number of subjects 201 to 203 and the number of cameras 110 to 112 do not need to match, and cost and precision of perspective expression are required. Cameras 110 to 112 according to the degree
May be determined. Here, the cameras 110-1
12 is fixed to each of the subjects 201 to 203.
Although the case where the image was shot at D3 is shown, each subject 201 to 20
Each camera 110-1 so that it can be focused even when 3 moves
12 may be provided with a zoom lens, and the focal lengths D1 to D3 may be changed in a time-division
06 may be shot by one camera.

【0024】図4においてはレンチキュラーレンズ30
2aa〜302mnをズームレンズ301aa〜301
mnと観察者Pの間に各画素単位に設定しているが、同
様の機能を持たせられるならば線状のレンチキュラーレ
ンズが連続配列されたレンチキュラーレンズシートを用
いても構わないし、観察者Pとフラットパネルディスプ
レイの間の別の位置に配置しても構わない。
FIG. 4 shows a lenticular lens 30.
2aa to 302mn are converted to zoom lenses 301aa to 301
Although each pixel is set between mn and the observer P, a lenticular lens sheet in which linear lenticular lenses are continuously arranged may be used as long as the same function is provided. It may be arranged at another position between the and the flat panel display.

【0025】[0025]

【発明の効果】本発明において、左目用及び右目用画像
のそれぞれを線状に分割して複数の線状画像とし、各画
像からの各線状画像を交互に配列してディスプレイに表
示し、各線状画像がさらに複数の点状画素画像に分割さ
れ、各点状画素画像とレンチキュラーレンズシートの間
へ、各点状画素画像毎にズームレンズ光学系が組み込ま
れ、ズームレンズ光学系により観察者とディスプレイの
間の複数の異なる場所、あるいは連続して異なる場所に
各点状画素画像毎に任意に像が結ばれ、これらの像を該
ディスプレイに表示された画像をレンチキュラーレンズ
を複数配列してなるレンチキュラーレンズシートを介し
て観察するようにしているので、観察距離の異なる被写
体の全てを鮮明に立体視可能にし、遠近感のある立体画
像を明瞭に表示可能な利点がある。
According to the present invention, each of the left-eye image and the right-eye image is divided into a plurality of linear images, and the linear images from each image are alternately arranged and displayed on a display. The dot image is further divided into a plurality of dot pixel images, and between each dot pixel image and the lenticular lens sheet, a zoom lens optical system is incorporated for each dot pixel image. An image is arbitrarily formed for each dot-shaped pixel image at a plurality of different places between displays or continuously different places, and the images displayed on the display are arranged with a plurality of lenticular lenses. Observation through a lenticular lens sheet enables clear stereoscopic viewing of all subjects at different viewing distances, enabling clear display of perspective stereoscopic images. There is an advantage.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の立体画像表示装置の構成概念図であ
る。
FIG. 1 is a conceptual diagram of a configuration of a stereoscopic image display device of the present invention.

【図2】本発明の立体画像表示装置の画像入力方法につ
いての説明図である。
FIG. 2 is an explanatory diagram illustrating an image input method of the stereoscopic image display device of the present invention.

【図3】本発明の立体画像表示装置のFIG. 3 shows a three-dimensional image display device of the present invention.

【図4】本発明の立体画像表示装置の画素単位の構造説
明図である。
FIG. 4 is an explanatory diagram of a structure in a pixel unit of the stereoscopic image display device of the present invention.

【図5】本発明の立体画像表示装置の遠近のある被写体
について遠近感のある映像を画素単位で表現する方法に
ついての説明図である。
FIG. 5 is an explanatory diagram of a method of expressing a perspective image of a distant subject in a unit of a pixel in the stereoscopic image display device of the present invention.

【図6】本発明の左目用画像、右目用画像の表現方法に
ついて説明する図である。
FIG. 6 is a diagram illustrating a method for expressing a left-eye image and a right-eye image according to the present invention.

【図7】従来例の立体画像表示装置の構成概念図であ
る。
FIG. 7 is a conceptual diagram illustrating a configuration of a conventional stereoscopic image display device.

【符号の説明】[Explanation of symbols]

P 観察者 100 画像表示面 101 フラットパネルディスプレイ 102aa〜102mn レンズ光学系 103 左目用カメラコントローラ 104 画像処理装置 105 ディスプレイコントローラ 106 右目用カメラコントローラ 110〜114 左目用カメラ 121〜125 右目用カメラ 201〜203 被写体 201i〜203i 像 204〜206 映像 301aa〜301mn ズームレンズ 302aa〜302mn レンチキュラーレンズ 303,305 右目用画素 304,306 左目用画素 307 左目 308 右目 601 拡散板 602,603 レンチキュラーレンズシート 604 検出手段 605 投写手段 606 左目 607 右目 608 制御部 P Observer 100 Image display surface 101 Flat panel display 102 aa to 102 mn Lens optical system 103 Camera controller for left eye 104 Image processing device 105 Display controller 106 Camera controller for right eye 110 to 114 Camera for left eye 121 to 125 Camera for right eye 201 to 203 Subject 201i-203i Images 204-206 Images 301aa-301mn Zoom lenses 302aa-302mn Lenticular lenses 303,305 Right eye pixels 304,306 Left eye pixels 307 Left eye 308 Right eye 601 Diffusion plate 602,603 Lenticular lens sheet 604 Detecting means 605 Projecting means 606 Left eye 607 Right eye 608 Control unit

Claims (10)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 観察者の左目位置及び右目位置から被写
体をそれぞれ撮影して得られた左目用画像及び右目用画
像のそれぞれを所定方向に線状に分割してできた複数の
左目用線状画像及び右目用線状画像を交互配列し、 前記複数の左目用線状画像及び右目用線状画像の一組の
組み合わせの前記所定方向の幅と等しいピッチで連続し
て設けたレンチキュラーレンズを前記所定方向に連続形
成したレンチキュラーレンズシートを介して表示し、 前記交互配列された複数の左目用線状画像及び右目用線
状画像のそれぞれを更に前記所定方向に対して垂直方向
に分割して複数の点状画素画像とし、 前記複数の点状画素画像のそれぞれを、独立した焦点距
離に結像させることを特徴とする立体画像表示方法。
1. A plurality of left-eye linear images formed by dividing each of a left-eye image and a right-eye image obtained by photographing a subject from a left-eye position and a right-eye position of an observer in a predetermined direction. The image and the linear image for the right eye are alternately arranged, and the lenticular lens provided continuously at a pitch equal to the width in the predetermined direction of a combination of a set of the plurality of linear images for the left eye and the linear image for the right eye. Displayed through a lenticular lens sheet continuously formed in a predetermined direction, the plurality of alternately arranged left-eye linear images and right-eye linear images are further divided in a direction perpendicular to the predetermined direction to form a plurality of linear images. A three-dimensional image display method, wherein each of the plurality of dot-shaped pixel images is formed at an independent focal length.
【請求項2】 前記複数の点状画素画像のそれぞれは、
前記観察者の左目位置及び右目位置から前記被写体を複
数の異なる焦点距離で撮像した複数の点状画素画像の中
から選択された、焦点が合っている状態に最も近い特定
の点状画素画像であることを特徴とする請求項1記載の
立体画像表示方法。
2. The method according to claim 1, wherein each of the plurality of dot-shaped pixel images is
A specific point-like pixel image selected from among a plurality of point-like pixel images obtained by imaging the subject at a plurality of different focal lengths from the left eye position and the right eye position of the observer, and closest to the focused state. The stereoscopic image display method according to claim 1, wherein:
【請求項3】 前記複数の点状画素画像のそれぞれは、
前記観察者の左目位置及び右目位置と前記被写体との距
離が検出されて当該距離にそれぞれ結像されることを特
徴とする請求項1記載の立体画像表示方法。
3. Each of the plurality of dot-shaped pixel images is:
The stereoscopic image display method according to claim 1, wherein a distance between the left eye position and the right eye position of the observer and the subject is detected, and an image is formed at the distance.
【請求項4】 前記複数の線状画像のそれぞれは、前記
観察者の左目位置又は右目位置から撮影され、前記被写
体を複数の異なる焦点距離で撮像した複数の点像画素画
像の中から選択された、焦点が合っている状熊に最も近
い特定の点状画素画像を、前記観察者の左目位置及び右
目位置と前記被写体との距離が検出されて当該距離にそ
れぞれ結像された前記特定の点状画素画像を集合化して
生成されることを特徴とする請求項1記載の立体画像表
示方法。
4. Each of the plurality of linear images is photographed from a left eye position or a right eye position of the observer, and is selected from a plurality of point image pixel images obtained by photographing the subject at a plurality of different focal lengths. In addition, the specific point-like pixel image closest to the in-focus state, the distance between the left-eye position and the right-eye position of the observer and the subject is detected, and the specific image is formed at the distance. The stereoscopic image display method according to claim 1, wherein the three-dimensional image display method is generated by grouping point-like pixel images.
【請求項5】 観察者の左目位置及び右目位置から被写
体をそれぞれ撮影して得られた左目用画像及び右目用画
像のそれぞれを所定方向に線状に分割してできた複数の
左目用線状画像と右目用線状画像を交互配列して表示す
る表示手段と、 前記表示手段の前面に配置され、前記交互配列された複
数の左目用線状画像及び右目用線状画像のそれぞれを更
に前記所定方向に分割して複数の左目用点状画素画像及
び右目用点状画素画像の一組の組合せ毎にそれぞれに対
応して設けられて前記複数の左目用点状画素画像及び右
目用点状画素画像の一組の組合せをそれぞれ所定の焦点
距離に結像させる複数の合焦手段と、 前記複数の合焦手段のそれぞれの前面に配置された複数
のレンチキュラーレンズと、前記複数の合焦手段のそれ
ぞれの焦点距離を個別制御する制御手段とを具備したこ
とを特徴とする立体画像表示装置。
5. A plurality of left-eye linear images formed by dividing each of the left-eye image and the right-eye image obtained by photographing the subject from the left-eye position and the right-eye position of the observer in a predetermined direction. Display means for displaying an image and a right-eye linear image alternately and arranged, and a plurality of the left-eye linear images and the right-eye linear image which are arranged on the front of the display means and are alternately arranged. The plurality of left-eye point-shaped pixel images and the right-eye point-shaped pixel images are provided in correspondence with each set of a plurality of left-eye point-shaped pixel images and right-eye point-shaped pixel images. A plurality of focusing means for forming an image of a set of pixel images at a predetermined focal length, a plurality of lenticular lenses disposed in front of each of the plurality of focusing means, and the plurality of focusing means The focal length of each Stereoscopic image display apparatus characterized by comprising a control means for controlling.
【請求項6】 前記複数のレンチキュラーレンズは、前
記複数の合焦手段の前面に代えて、背面に配置されてい
ることを特徴とする請求項5記載の立体画像表示装置。
6. The three-dimensional image display device according to claim 5, wherein the plurality of lenticular lenses are arranged on the back of the plurality of focusing units instead of on the front.
【請求項7】 前記複数のレンチキュラーレンズは、連
続形成されたレンチキュラーレンズシートであることを
特徴とする請求項5又は6記載の立体画像表示装置。
7. The three-dimensional image display device according to claim 5, wherein the plurality of lenticular lenses are lenticular lens sheets formed continuously.
【請求項8】 前記制御手段は、前記複数の左目用点状
画素画像及び右目用点状画素画像のそれぞれにつき、前
記被写体を前記観察者の左目位置及び右目位置から複数
の異なる焦点距離で撮像した複数の点状画素画像の内、
焦点が合っている状態に最も近い点状画素画像を選択し
て前記表示手段へ表示させることを特徴とする請求項
5,6又は7記載の立体画像表示装置。
8. The control unit captures the subject at a plurality of different focal lengths from the left-eye position and the right-eye position of the observer for each of the plurality of left-eye point-shaped pixel images and the right-eye point-shaped pixel image. Of the multiple point-like pixel images
8. The three-dimensional image display device according to claim 5, wherein a point-like pixel image closest to a focused state is selected and displayed on the display unit.
【請求項9】 前記制御手段は、前記複数の点状画素画
像のそれぞれにつき、前記観察者の左目位置及び右目位
置と前記被写体との距離を検出し、前記複数の合焦手段
のそれぞれの焦点距離を、前記検出された距離にそれぞ
れ調節することを特徴とする請求項5,6又は7記載の
立体画像表示装置。
9. The control unit detects a distance between a left eye position and a right eye position of the observer and the subject with respect to each of the plurality of dot-shaped pixel images, and controls a focus of each of the plurality of focusing units. The stereoscopic image display device according to claim 5, wherein a distance is adjusted to each of the detected distances.
【請求項10】 前記制御手段は、前記複数の線状画像
のそれぞれにつき、前記観察者の左目位置又は右目位置
から撮影され、前記被写体を複数の異なる焦点距離で撮
像した複数の点像画素画像の中から選択された、焦点が
合っている状態に最も近い特定の点状画素画像を、前記
観察者の左目位置及び右目位置と前記被写体との距離を
検出して前記距離にそれぞれ結像させた点状画素画像を
集合化して生成することを特徴とする請求項5,6又は
7記載の立体画像表示装置。
10. A plurality of point image pixel images of each of the plurality of linear images taken from the left eye position or the right eye position of the observer for each of the plurality of linear images and imaging the subject at a plurality of different focal lengths. Among the selected point-like pixel images that are closest to the in-focus state, detect the distance between the left-eye position and the right-eye position of the observer and the subject, and form an image at the distance. The three-dimensional image display device according to claim 5, wherein the point-like pixel images are grouped and generated.
JP9298911A 1997-10-30 1997-10-30 Stereoscopic image display method and device Expired - Fee Related JP3064992B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP9298911A JP3064992B2 (en) 1997-10-30 1997-10-30 Stereoscopic image display method and device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9298911A JP3064992B2 (en) 1997-10-30 1997-10-30 Stereoscopic image display method and device

Publications (2)

Publication Number Publication Date
JPH11133355A JPH11133355A (en) 1999-05-21
JP3064992B2 true JP3064992B2 (en) 2000-07-12

Family

ID=17865777

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9298911A Expired - Fee Related JP3064992B2 (en) 1997-10-30 1997-10-30 Stereoscopic image display method and device

Country Status (1)

Country Link
JP (1) JP3064992B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8482598B2 (en) 2005-03-18 2013-07-09 Ntt Data Sanyo System Corporation Stereoscopic image display apparatus, stereoscopic image displaying method and computer program product
JP2013223583A (en) * 2012-04-20 2013-10-31 Tokyo Unique:Kk Toy
KR101706479B1 (en) * 2014-01-16 2017-02-13 1모어 주식회사 Method and terminal for controlling internet of things and controlled electronic device

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002185982A (en) * 2000-12-13 2002-06-28 Nec Corp Stereoscopic video display device and stereoscopic video display method
KR20020095810A (en) * 2001-06-15 2002-12-28 안정오 Stereoscopic tv

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8482598B2 (en) 2005-03-18 2013-07-09 Ntt Data Sanyo System Corporation Stereoscopic image display apparatus, stereoscopic image displaying method and computer program product
JP2013223583A (en) * 2012-04-20 2013-10-31 Tokyo Unique:Kk Toy
KR101706479B1 (en) * 2014-01-16 2017-02-13 1모어 주식회사 Method and terminal for controlling internet of things and controlled electronic device

Also Published As

Publication number Publication date
JPH11133355A (en) 1999-05-21

Similar Documents

Publication Publication Date Title
US5546120A (en) Autostereoscopic display system using shutter and back-to-back lenticular screen
US6862140B2 (en) Stereoscopic image pickup system
JP2920051B2 (en) 3D display device
EP0744036B1 (en) Image display apparatus
KR20020023227A (en) Three-dimensional image producing method and apparatus therefor
JPH0954376A (en) Stereoscopic display device
JP4819114B2 (en) Stereoscopic image display device
JP2662252B2 (en) 3D image display device
JPH0980354A (en) Stereoscopic video device
EP1122957A1 (en) Three-dimensional display apparatus
JP3064992B2 (en) Stereoscopic image display method and device
JPH0244995A (en) Optical direction control method for three-dimensional image display device
JP2021105724A (en) Stereoscopic image display device
JPH08327948A (en) Method and device for displaying stereoscopic picture
JP3500083B2 (en) 3D image display without glasses
JP2004258594A (en) Three-dimensional image display device realizing appreciation from wide angle
JPH0738926A (en) Three-dimensional display device
US9807370B2 (en) Compact stereoscopic picture taking system
JP3578808B2 (en) 3D display device
JPH10253925A (en) Lens plate having plural focal points, and stereoscopic image display device using it
JP3463960B2 (en) 3D image display device
JP2500420B2 (en) Projection type stereoscopic display device
JP2002341473A (en) Three-dimensional image photographing method and three-dimensional image observing device
JPH10170866A (en) Stereoscopic video display device
JPH05244643A (en) Three-dimensional television device

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20000411

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090512

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100512

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees