KR20100125021A - Directional display apparatus without color moire and method thereof - Google Patents

Directional display apparatus without color moire and method thereof Download PDF

Info

Publication number
KR20100125021A
KR20100125021A KR1020090044012A KR20090044012A KR20100125021A KR 20100125021 A KR20100125021 A KR 20100125021A KR 1020090044012 A KR1020090044012 A KR 1020090044012A KR 20090044012 A KR20090044012 A KR 20090044012A KR 20100125021 A KR20100125021 A KR 20100125021A
Authority
KR
South Korea
Prior art keywords
color
lenticular lens
filter array
color filter
subpixels
Prior art date
Application number
KR1020090044012A
Other languages
Korean (ko)
Other versions
KR101590770B1 (en
Inventor
성기영
남동경
김윤태
박주용
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020090044012A priority Critical patent/KR101590770B1/en
Publication of KR20100125021A publication Critical patent/KR20100125021A/en
Application granted granted Critical
Publication of KR101590770B1 publication Critical patent/KR101590770B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/324Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

PURPOSE: A directional display apparatus without color moire and a method thereof are provided to generate a 3D image without a color moire by controlling a color of a directional light and a pixel structure of a color filter array emitted from a unit llenticular lens. CONSTITUTION: At least one lenticular lens is continuously arranged in the lenticular lens array, and a color filter array includes sub-pixels(211,212,213) of same color continuously as many as the number of preset view images. The sub pixels respectively corresponding to at least one unit lenticular lens is configured in one color. The color filter array arranges the sub-pixles of the same color on an optical axial extension line of the lenticular lens.

Description

컬러 모아레 없는 방향성 디스플레이 장치 및 방법{DIRECTIONAL DISPLAY APPARATUS WITHOUT COLOR MOIRE AND METHOD THEREOF}DIRECTIONAL DISPLAY APPARATUS WITHOUT COLOR MOIRE AND METHOD THEREOF

본 발명의 실시예들은 컬러 모아레 없는 방향성 디스플레이 장치 및 방법에 관한 것으로, 특히 단위 렌티큘러 렌즈에서 발산하는 방향광의 컬러와 컬러 필터 어레이의 픽셀 구조를 제어하여 컬러 모아레 없는 3차원 영상을 생성하는 기술과 관련된 것이다.Embodiments of the present invention relate to a directional display device and method without color moire, and more particularly, to a technique for generating a color moiré-free three-dimensional image by controlling the color of directional light emitted from a unit lenticular lens and a pixel structure of a color filter array. will be.

멀티뷰 3차원 디스플레이에 있어서, 렌티큘러 렌즈를 사용하는 경우, 최적 시청거리에 각 시점영상들이 일정한 간격으로 수렴하여 각각의 시점 영상들을 형성하기 때문에 3D 시청영역이 제한될 수 있다. In the multi-view three-dimensional display, when the lenticular lens is used, the 3D viewing area may be limited because each viewpoint image converges at a predetermined interval at the optimal viewing distance to form respective viewpoint images.

방향성 디스플레이(Directional Display)의 경우는 객체의 시점별 방향성 레이(Directional Ray)들의 조합에 의해 공간상에 3차원 입체영상을 형성하기 때문에 3D 시청영역이 넓고, 보다 자연스러운 모션 패럴렉스(Motion Parallax)를 구현할 수 있다.In the case of the directional display, since the 3D stereoscopic image is formed in space by the combination of the directional ray of the objects, the 3D viewing area is wider, and the motion parallax is more natural. Can be implemented.

기존의 렌티큘러 렌즈를 이용한 멀티뷰 3차원 디스플레이는 스트라이프 형태(Stripe Pattern)의 컬러 필터 어레이(Color Filter Array) 구조를 이용하기 때 문에 시청자가 수평방향으로 이동하면서 3차원 입체영상을 시청할 경우 컬러 모아레(Color Moire)가 발생하여 3D 화질을 저해할 수 있다.Multi-view three-dimensional display using the lenticular lens uses a stripe-shaped color filter array structure, so that the color moiré when the viewer views three-dimensional stereoscopic images while moving horizontally (Color Moire) may occur, which may interfere with 3D image quality.

따라서, 컬러 모아레가 발생하지 않는 방향성 디스플레이 장치 및 방법이 요구된다.Accordingly, there is a need for a directional display apparatus and method in which color moiré does not occur.

본 발명의 일실시예에 따른 방향성 디스플레이 장치는, 하나 이상의 단위 렌티큘러 렌즈가 연속적으로 배치되는 렌티큘러 렌즈 어레이 및 동일한 컬러의 서브 픽셀을 기설정된 시점영상의 수만큼 연속적으로 배치하는 컬러 필터 어레이를 포함하고, 상기 하나 이상의 단위 렌티큘러 렌즈 각각에 대응하는 상기 컬러 필터 어레이의 서브 픽셀은 하나의 컬러로 구성될 수 있다.A directional display apparatus according to an embodiment of the present invention includes a lenticular lens array in which one or more unit lenticular lenses are continuously arranged, and a color filter array in which subpixels of the same color are continuously arranged by a predetermined number of viewpoint images. The subpixels of the color filter array corresponding to each of the one or more unit lenticular lenses may be configured with one color.

이때, 상기 컬러 필터 어레이는, 상기 렌티큘러 렌즈의 광축 연장선상에 동일한 컬러의 서브픽셀을 배치하여 형성될 수 있다.In this case, the color filter array may be formed by arranging subpixels of the same color on an optical axis extension line of the lenticular lens.

또한, 상기 컬러 필터 어레이는, 상기 단위 렌티큘러 렌즈의 폭에 대응하여 상기 동일한 컬러의 서브픽셀을 행(row) 방향으로 연속적으로 배치하여 형성될 수 있다.The color filter array may be formed by continuously arranging subpixels of the same color in a row direction corresponding to the width of the unit lenticular lens.

또한, 상기 컬러 필터 어레이는, 상기 렌티큘러 렌즈의 광축 연장선을 따라 복수의 컬러의 서브픽셀을 주기적으로 배치하여 형성될 수 있다.The color filter array may be formed by periodically arranging subpixels of a plurality of colors along an optical axis extension line of the lenticular lens.

또한, 상기 컬러 필터 어레이는, 하나의 서브 픽셀을 이용하여 하나의 시점영상을 표현할 수 있다.In addition, the color filter array may represent one viewpoint image by using one subpixel.

본 발명의 다른 일실시예에 따른 방향성 디스플레이 장치는, 하나 이상의 단위 렌티큘러 렌즈로 구성되는 렌티큘러 렌즈 어레이, 레드(red), 그린(green), 및 블루(blue) 컬러의 서브 픽셀이 행(row)방향으로 주기적으로 배치되는 컬러 필터 어레이 및 각 시점영상이 하나의 컬러로 형성되도록 상기 렌티큘러 렌즈 어레이 의 기울기를 결정하는 기울기 결정부를 포함할 수 있다.According to another aspect of the present invention, a directional display device includes a lenticular lens array including one or more unit lenticular lenses, and a subpixel of red, green, and blue colors. It may include a color filter array periodically arranged in the direction and a tilt determination unit for determining the inclination of the lenticular lens array so that each view image is formed in one color.

이때, 상기 가변 산란 스크린부는, 상기 컬러 필터 어레이는, 연속적으로 배치되는 복수의 레드 컬러 서브 픽셀, 연속적으로 배치되는 그린 컬러 서브 픽셀, 및 연속적으로 배치되는 레드 컬러 서브 픽셀이 주기적으로 배치될 수 있다.In this case, the variable scattering screen unit, the color filter array, the plurality of red color sub-pixels arranged in succession, the green color sub-pixels arranged in succession, and the red color sub-pixels arranged in succession may be arranged periodically. .

또한, 상기 기울기 결정부는, 상기 하나 이상의 단위 렌티큘러 렌즈의 광축상에 존재하는 시점영상의 컬러가 동일하도록 기울기를 결정할 수 있다.In addition, the inclination determiner may determine the inclination such that the colors of the viewpoint images existing on the optical axis of the at least one unit lenticular lens are the same.

본 발명의 일실시예에 따른 방향성 디스플레이 방법은, 하나 이상의 단위 렌티큘러 렌즈를 연속적으로 배치하는 단계 및 컬러 필터 어레이 상에 동일한 컬러의 서브 픽셀을 기설정된 시점영상의 수만큼 연속적으로 배치하는 단계를 포함하고, 상기 하나 이상의 단위 렌티큘러 렌즈 각각에 대응하는 상기 컬러 필터 어레이의 서브 픽셀은 하나의 컬러로 구성될 수 있다.A directional display method according to an embodiment of the present invention includes the steps of continuously arranging one or more unit lenticular lenses and arranging subpixels of the same color on a color filter array in succession as many as a predetermined number of viewpoint images. The subpixels of the color filter array corresponding to each of the one or more unit lenticular lenses may be configured with one color.

본 발명의 다른 일실시예에 따른 방향성 디스플레이 방법은, 하나 이상의 단위 렌티큘러 렌즈를 연속적으로 배치하는 단계, 컬러 필터 어레이 상에 레드(red), 그린(green), 및 블루(blue) 컬러의 서브 픽셀을 행(row)방향으로 주기적으로 배치하는 단계 및 각 시점영상이 하나의 컬러로 형성되도록 상기 렌티큘러 렌즈 어레이의 기울기를 결정하는 단계를 포함할 수 있다.According to another embodiment of the present invention, a method of displaying a directional display includes continuously arranging one or more unit lenticular lenses, and subpixels of red, green, and blue colors on a color filter array. May be periodically arranged in a row direction and determining the inclination of the lenticular lens array such that each viewpoint image is formed in one color.

본 발명의 일실시예에 따르면, 단위 렌티큘러 렌즈에서 발산하는 방향광의 컬러를 동일하게 하고, 렌티큘러 렌즈의 기울기에 따라 컬러 필터 어레이의 픽셀 구조를 제어함으로써, 컬러 모아레가 발생하지 않는 방향성 디스플레이 장치 및 방 법이 제공될 수 있다.According to an embodiment of the present invention, by aligning the color of the directional light emitted by the unit lenticular lens and controlling the pixel structure of the color filter array according to the inclination of the lenticular lens, the directional display device and the room that does not generate color moiré Law may be provided.

본 발명의 일실시예에 따르면, 컬러 필터 어레이의 하나의 서브픽셀이 하나의 뷰를 나타내도록 함으로써, 고해상도의 방향성 디스플레이 장치 및 방법이 제공될 수 있다.According to one embodiment of the present invention, by allowing one subpixel of the color filter array to represent one view, a high resolution directional display apparatus and method can be provided.

이하, 첨부된 도면들에 기재된 내용들을 참조하여 본 발명의 실시예들을 상세하게 설명한다.  다만, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다.  각 도면에 제시된 동일한 참조부호는 동일한 부재를 나타낸다. 각 도면에 도시된 서브픽셀은 컬러에 따라 바탕 무늬를 다르게 도시하였다. 따라서, 동일한 바탕무늬의 서브 픽셀은 동일한 컬러를 나타낸다.Hereinafter, with reference to the contents described in the accompanying drawings will be described in detail the embodiments of the present invention. However, the present invention is not limited to or limited by the embodiments. Like reference numerals in the drawings denote like elements. The subpixels shown in each drawing show the background pattern differently according to the color. Thus, subpixels of the same background pattern exhibit the same color.

도 1은 렌티큘러 렌즈 및 스트라이프 형태의 컬러 필터 어레이에서 발생하는 컬러 모아레를 설명하기 위한 도면이다.1 is a view for explaining a color moire generated in a lenticular lens and a stripe-type color filter array.

도 1을 참고하면, LCD의 컬러 필터 어레이(Color Filter Array, 110)가 스트라이프 형태(Stripe Pattern)인 경우, 컬럼(Column) 방향으로 모두 동일한 컬러를 가지고, 로(Row) 방향으로는 R, G, B 컬러들이 주기적으로 배치될 수 있다. 렌티큘러 렌즈(120)는 아래에 있는 LCD 픽셀의 위치별로 각각 다른 방향으로 픽셀 정보들(111, 112, 113, 114, 115, 116)을 발산하게 되는데, Row 방향의 R, G, B 컬러들이 주기적으로 배열되어 있기 때문에 컬러 모아레가 발생할 수 있다. 이때, 컬러 모아레는 3D 화질을 저하시킬 뿐만 아니라, 시각피로의 원인이 될 수 있다.Referring to FIG. 1, when the color filter array 110 of the LCD has a stripe pattern, all of the colors have the same color in the column direction, and R and G in the row direction. , B colors may be arranged periodically. The lenticular lens 120 emits pixel information 111, 112, 113, 114, 115, and 116 in different directions for each position of the LCD pixel below, and the R, G, and B colors of the row direction periodically Color moiré can occur because they are arranged as In this case, the color moiré may not only degrade 3D image quality but also cause visual fatigue.

도 2는 본 발명의 제1 실시예에 따른 방향성 디스플레이 장치의 구조 및 3 차원 픽셀 렌더링을 설명하기 위한 도면이다.2 is a view for explaining the structure of the directional display device according to the first embodiment of the present invention and the three-dimensional pixel rendering.

도 2를 참고하면, 3개의 서브 픽셀(211, 212, 213)이 하나의 시점영상을 형성하는 기존의 방법과 달리, 하나의 서브 픽셀이 하나의 시점영상을 표현할 수 있다.Referring to FIG. 2, unlike the conventional method in which three subpixels 211, 212, and 213 form one viewpoint image, one subpixel may represent one viewpoint image.

도 2는 3D Pixel를 구성하는 컬러 필터의 구조의 일실시예를 도시하고 있다. 이때, 렌티큘러 렌즈 어레이를 구성하고 있는 단위 렌티큘러 렌즈아래에 있는 컬러 필터(210, 220, 230)는 단일한 컬러로 구성되어 있기 때문에 렌티큘러 렌즈로 통과해 나가는 방향성 광은 단일한 컬러다. 따라서, 상기 컬러 필터 구조에 의해서는 컬러 모아레가 발생하지 않는다. 또한 렌티큘러 렌즈 어레이와 유사한 모양(기울기 각도 및 폭)으로 컬러 필터를 패턴화할 경우에 렌티큘러 렌즈의 기울기 각도 및 구현되는 시점영상의 개수를 결정하는데 제약이 따르지 않는다. 예를 들어, 렌티큘러 렌즈의 광축(240) 연장선 상에 동일한 컬러의 서브픽셀이 배치되도록 하여 동일한 컬러의 방향광을 생성할 수 있으며, 구현되는 시점영상의 개수를 결정하는데 제약이 없다.2 illustrates one embodiment of a structure of a color filter constituting a 3D pixel. In this case, since the color filters 210, 220, and 230 under the unit lenticular lens of the lenticular lens array are configured in a single color, the directional light passing through the lenticular lens is a single color. Therefore, color moiré does not occur by the color filter structure. In addition, when the color filter is patterned in a shape similar to the lenticular lens array (tilt angle and width), there is no restriction in determining the tilt angle of the lenticular lens and the number of viewpoint images to be implemented. For example, the same color sub-directional pixels may be generated by arranging subpixels of the same color on the extension line of the optical axis 240 of the lenticular lens, and there is no limitation in determining the number of viewpoint images to be implemented.

또한, 서브 픽셀 각각이 시점 렌더링을 통해 3D 영상을 구현하기 때문에 높은 해상도의 3D 표현이 가능할 수 있다. 서브 픽셀 시점 렌더링에 의해 단위 렌티큘러 렌즈들에 의해 발산하는 방향성 광들이 단일한 컬러로 이루어져 있더라도 이웃하는 방향성 광들의 조합에 의해 색분리 없이 컬러 3D 시차영상을 시청할 수 있다. 즉, 방향성 광들의 수가 많을수록 이웃 방향성 광간의 시점영상 정보의 차이가 적기 때문에 서브 픽셀 시점 렌더링에 의해 컬러 3D 시차영상을 구현할 수 있 다.In addition, since each of the subpixels implements a 3D image through the viewpoint rendering, 3D representation of high resolution may be possible. Although the directional lights emitted by the unit lenticular lenses by the sub-pixel view rendering are made of a single color, the color 3D parallax image may be viewed without color separation by the combination of neighboring directional lights. That is, since the larger the number of the directional lights, the smaller the difference in viewpoint image information between neighboring directional lights, color 3D disparity images can be implemented by sub-pixel viewpoint rendering.

도 3은 도 2에 도시한 방향성 디스플레이 장치의 방향성 광이 발산되는 모습을 도시한 도면이다.FIG. 3 is a diagram illustrating a directional light emitted from the directional display device shown in FIG. 2.

도 3을 참고하면, 또한 렌티큘러 렌즈 어레이를 구성하고 있는 단위 렌티큘러 렌즈(320)들에 의해 발산하는 방향성 광들(331)은 모두 단일한 컬러로 구성될 수 있다. 따라서, 제1 단위 렌티큘러 렌즈에서 발산하는 방향성 광들(331)이 레드 컬러인 경우, 제2 단위 렌티큘러 렌즈에서 발산하는 방향성 광들(332) 및 제3 단위 렌티큘러 렌즈에서 발산하는 방향성 광들(333)이 컬러는 그린 컬러 및 블루 컬러일 수 있다. 일예로, 컬러 필터 어레이(310)의 픽셀 배치시 렌티큘러 렌즈의 광축의 연장선 상에 동일한 컬러가 위치하도록 배치하여 단위 렌티큘러 렌즈에서 발산하는 방향성 광들이 동일한 컬러를 가지도록 할 수 있다. Referring to FIG. 3, the directional lights 331 emitted by the unit lenticular lenses 320 constituting the lenticular lens array may be configured in a single color. Therefore, when the directional light 331 emitted by the first unit lenticular lens is red, the directional light 332 emitted by the second unit lenticular lens and the directional light 333 emitted by the third unit lenticular lens are colored. May be a green color and a blue color. For example, when the pixels of the color filter array 310 are disposed, the same color may be disposed on an extension line of the optical axis of the lenticular lens so that the directional lights emitted from the unit lenticular lens have the same color.

도 4는 본 발명의 제2 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.4 is a view for explaining the structure of the directional display device according to the second embodiment of the present invention and the three-dimensional pixel rendering.

도 4를 참고하면, 기존의 2D 디스플레이에 널리 사용되는 스트라이프 컬러 필터 구조를 이용하여 컬러 모아레 없는 방향성 디스플레이를 구현할 수 있다. 렌티큘러 렌즈의 기울기 각도를 조절하여, 3D 픽셀 렌더링을 수행함으로써 각 시점영상은 R, G, B 중 하나의 단일한 컬러로 형성될 수 있다. 이때, 렌티큘러 렌즈의 기울기 각도를 조절하여, 렌티큘러 렌즈의 광축(440)상에 존재하는 시점들은 모두 동일한 컬러의 서브 픽셀(441, 442)로 구성되도록 할 수 있다.Referring to FIG. 4, a directional display without color moiré may be implemented by using a stripe color filter structure widely used in a conventional 2D display. By adjusting the tilt angle of the lenticular lens, by performing 3D pixel rendering, each viewpoint image may be formed in a single color of one of R, G, and B. In this case, the inclination angle of the lenticular lens may be adjusted so that the viewpoints existing on the optical axis 440 of the lenticular lens may be configured of the subpixels 441 and 442 of the same color.

도 5는 도 4에 도시한 방향성 디스플레이 장치의 방향성 광이 발산되는 모 습을 도시한 도면이다.FIG. 5 is a diagram illustrating a directional light emitted from the directional display device shown in FIG. 4.

도 5를 참고하면, 방향성 광의 축을 따라 동일한 컬러의 픽셀이 배치되도록 하여 R, G, B 컬러가 스트라이프 형태로 발산되도록 할 수 있다. 즉, 단위 렌티큘러 렌즈(520)에서 발산되는 방향성 광들(531, 532, 533)은 R, G, B 컬러를 교대로 출력할 수 있다.Referring to FIG. 5, pixels of the same color may be disposed along the axis of the directional light so that the R, G, and B colors may be emitted in a stripe form. That is, the directional lights 531, 532, and 533 emitted from the unit lenticular lens 520 may alternately output R, G, and B colors.

도 6은 본 발명의 제3 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.FIG. 6 is a diagram for describing a structure and a 3D pixel rendering of a directional display device according to a third embodiment of the present invention.

도 6을 참고하면, 렌티큘러 렌즈의 광축(640)을 따라 동일한 컬러의 픽셀이 배치지 않을 수 있다. 즉, 기존의 스트라이프 컬러 필터(Stripe Color Filter) 구조와 유사하나, 하나 서브 픽셀 단위로 구성되어 있는 기존의 스트라이프 컬러 필터 구조와 달리 도 6에서는 여러 개의 서브픽셀이 연속적으로 구성되어 배치될 수 있다. 예를 들어, 레드 컬러의 서브픽셀이 복수개 연속적으로 배치(610)되고, 그린 컬러의 서브픽셀이 복수개 연속적으로 배치(620)되며, 다시, 블루 컬러의 서브픽셀이 복수개 연속적으로 배치(630)될 수 있다.Referring to FIG. 6, pixels of the same color may not be disposed along the optical axis 640 of the lenticular lens. That is, similar to the existing stripe color filter structure, unlike the conventional stripe color filter structure configured in units of one subpixel, in FIG. 6, a plurality of subpixels may be continuously formed and arranged. For example, a plurality of red subpixels may be consecutively disposed 610, a plurality of green subpixels consecutively disposed 620, and a plurality of blue subpixels consecutively disposed 630. Can be.

도 7은 본 발명의 제4 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.FIG. 7 is a diagram for describing a structure of a directional display device and 3D pixel rendering according to a fourth embodiment of the present invention.

도 7을 참고하면, 모자이크 패턴(Mosaic Pattern)의 컬러 필터 구조와 유사하나, 하나 서브 픽셀 단위로 구성되어 있는 기존의 모자이크 패턴의 컬러 필터 구조와 달리 도 7에서는 여러 개의 서브픽셀이 연속적으로 구성되어 배치될 수 있다. 따라서, 가로방향을 살펴보면, 제 1 컬러의 서브 픽셀이 연속적으로 배치(710)되 고, 제 2 컬러의 서브 픽셀이 연속적으로 배치(720)되며, 다시 제 3 컬러의 서브 픽셀이 연속적으로 배치(730)될 수 있다. 또한, 세로 방향으로도 각기 다른 컬러의 서브 픽셀이 연속적으로 배치(740, 750)될 수 있다.Referring to FIG. 7, a structure similar to a color filter structure of a mosaic pattern is different, but unlike a conventional color filter structure of a mosaic pattern composed of one subpixel unit, in FIG. 7, a plurality of subpixels are continuously formed. Can be arranged. Therefore, in the horizontal direction, the sub-pixels of the first color are continuously disposed 710, the sub-pixels of the second color are continuously disposed 720, and the sub-pixels of the third color are continuously disposed ( 730). In addition, in the vertical direction, subpixels of different colors may be continuously disposed 740 and 750.

도 8은 본 발명의 일실시예에 따른 방향성 디스플레이 방법을 설명하기 위한 동작 흐름도이다.8 is a flowchart illustrating a directional display method according to an embodiment of the present invention.

도 8을 참고하면, 단계(810)에서는 하나 이상의 단위 렌티큘러 렌즈를 연속적으로 배치할 수 있다. 이때, 상기 하나 이상의 단위 렌티큘러 렌즈 각각에 대응하는 상기 컬러 필터 어레이의 서브 픽셀은 하나의 컬러로 구성될 수 있다.Referring to FIG. 8, in operation 810, one or more unit lenticular lenses may be continuously disposed. In this case, the subpixels of the color filter array corresponding to each of the one or more unit lenticular lenses may be configured with one color.

단계(820)에서는 컬러 필터 어레이 상에 동일한 컬러의 서브 픽셀을 기설정된 시점영상의 수만큼 연속적으로 배치할 수 있다. 여기서, 상기 컬러 필터 어레이는 하나의 서브 픽셀을 이용하여 하나의 시점영상을 표현할 수 있다. 따라서, 복수의 서브 픽셀을 이용하여 하나의 시점영상을 표현하는 것에 비해 높은 해상도의 영상을 출력할 수 있다. In operation 820, subpixels of the same color may be continuously arranged on the color filter array by the number of preset viewpoint images. Here, the color filter array may represent one viewpoint image using one subpixel. Accordingly, an image having a higher resolution may be output than that of one viewpoint image using the plurality of subpixels.

이때, 상기 컬러 필터 어레이 상에 상기 렌티큘러 렌즈의 광축 연장선을 따라 동일한 컬러의 서브픽셀을 배치할 수 있다. 즉, 상기 렌티큘러 렌즈의 광축이 기울어진 각도를 고려하여 동일한 컬러의 서브 픽셀이 렌티큘러 렌즈의 광축 연장선을 따라 배치되도록 할 수 있다.In this case, a subpixel of the same color may be disposed on the color filter array along the optical axis extension line of the lenticular lens. That is, the subpixels of the same color may be arranged along the optical axis extension line of the lenticular lens in consideration of the inclination angle of the optical axis of the lenticular lens.

또한, 상기 단위 렌티큘러 렌즈의 폭에 대응하여 상기 동일한 컬러의 서브픽셀을 행(row) 방향으로 연속적으로 배치할 수 있다. 이때, 단위 렌티큘러 렌즈의 폭에 대응하여 동일한 컬러의 서브픽셀을 연속적으로 배치할 수 있다. 따라서, 단위 렌티큘러 렌즈에서 발산되는 방향성 광의 컬러가 모두 동일해질 수 있다. The subpixels of the same color may be continuously arranged in a row direction corresponding to the width of the unit lenticular lens. In this case, the subpixels of the same color may be continuously disposed corresponding to the width of the unit lenticular lens. Accordingly, the colors of the directional light emitted from the unit lenticular lens may be the same.

또한, 상기 컬러 필터 어레이 상에 상기 렌티큘러 렌즈의 광축 연장선을 따라 복수의 컬러의 서브픽셀을 주기적으로 배치할 수 있다. 예를 들어, 상기 렌티큘러 렌즈의 광축을 따라 서브픽셀의 컬러를 배치할 때, 제1 개수의 픽셀이 동일한 컬러로 배치되고, 제2 컬러의 픽셀이 이어서 또다른 컬러로 배치될 수 있다. In addition, a plurality of subpixels of a plurality of colors may be periodically disposed on the color filter array along the optical axis extension line of the lenticular lens. For example, when arranging the colors of the subpixels along the optical axis of the lenticular lens, the first number of pixels may be arranged in the same color, and the pixels of the second color may then be arranged in another color.

도 9는 본 발명의 다른 일실시예에 따른 방향성 디스플레이 방법을 설명하기 위한 동작 흐름도이다.9 is a flowchart illustrating a directional display method according to another embodiment of the present invention.

도 9를 참고하면, 단계(910)에서는 하나 이상의 단위 렌티큘러 렌즈를 연속적으로 배치할 수 있다.Referring to FIG. 9, in operation 910, one or more unit lenticular lenses may be continuously disposed.

단계(920)에서는 컬러 필터 어레이 상에 레드(red), 그린(green), 및 블루(blue) 컬러의 서브 픽셀을 행(row)방향으로 주기적으로 배치할 수 있다. 이때, 연속적으로 배치되는 복수의 레드 컬러 서브 픽셀, 연속적으로 배치되는 그린 컬러 서브 픽셀, 및 연속적으로 배치되는 레드 컬러 서브 픽셀이 각각 주기적으로 배치될 수 있다. 예를 들어, 5개의 레드 컬러 서브 픽셀이 배치되고, 이어서, 5개의 그린 컬러 서브 픽셀이 배치되며, 이어서 5개의 블루 컬러 서브 픽셀이 배치된 후, 다시 5개의 레드 픽셀, 5개의 그린 픽셀, 5개의 블루 픽셀이 반복적으로 배치될 수 있다.In operation 920, subpixels of red, green, and blue colors may be periodically disposed on the color filter array in a row direction. In this case, the plurality of red color subpixels arranged in succession, the green color subpixels arranged in succession, and the red color subpixels arranged in succession may be periodically arranged. For example, five red color subpixels are placed, followed by five green color subpixels, followed by five blue color subpixels, and then again five red pixels, five green pixels, five Blue pixels may be repeatedly arranged.

단계(930)에서는 각 시점영상이 하나의 컬러로 형성되도록 상기 렌티큘러 렌즈 어레이의 기울기를 결정할 수 있다. 이때, 상기 하나 이상의 단위 렌티큘러 렌즈의 광축상에 존재하는 시점영상의 컬러가 동일하도록 기울기를 결정할 수 있 다.In operation 930, the inclination of the lenticular lens array may be determined such that each viewpoint image is formed of one color. In this case, the inclination may be determined such that the colors of the viewpoint images existing on the optical axis of the at least one unit lenticular lens are the same.

상기와 같이, 렌티큘러 렌즈에서 발산하는 방향광의 컬러를 동일하게 하고, 렌티큘러 렌즈의 기울기에 따라 컬러 필터 어레이의 픽셀 구조를 제어함으로써, 컬러 모아레가 발생하지 않는 방향성 디스플레이 장치 및 방법을 제공할 수 있다.As described above, the color display of the directional light emitted by the lenticular lens is made the same, and the pixel structure of the color filter array is controlled according to the inclination of the lenticular lens, thereby providing a directional display apparatus and a method in which color moiré does not occur.

또한, 컬러 필터 어레이의 하나의 서브픽셀이 하나의 뷰를 나타내도록 함으로써, 고해상도의 방향성 디스플레이 장치 및 방법을 제공할 수 있다.In addition, by allowing one subpixel of the color filter array to represent one view, a high resolution directional display apparatus and method can be provided.

본 발명의 실시예에 따른 컬러 모아레 없는 방향성 디스플레이 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작 동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The color moiré-free directional display method according to an embodiment of the present invention may be implemented in the form of program instructions that can be executed by various computer means and recorded in a computer readable medium. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination. Program instructions recorded on the media may be those specially designed and constructed for the purposes of the present invention, or they may be of the kind well-known and available to those having skill in the computer software arts. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks. Magneto-optical media, and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

이상과 같이 본 발명의 일실시예는 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명의 일실시예는 상기 설명된 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.  따라서, 본 발명의 일실시예는 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이의 균등 또는 등가적 변형 모두는 본 발명 사상의 범주에 속한다고 할 것이다.Although one embodiment of the present invention as described above has been described by a limited embodiment and drawings, one embodiment of the present invention is not limited to the above-described embodiment, which is a general knowledge in the field of the present invention Those having a variety of modifications and variations are possible from these descriptions. Accordingly, one embodiment of the invention should be understood only by the claims set forth below, all equivalent or equivalent modifications will be within the scope of the invention idea.

도 1은 렌티큘러 렌즈 및 스트라이프 형태의 컬러 필터 어레이에서 발생하는 컬러 모아레를 설명하기 위한 도면이다.1 is a view for explaining a color moire generated in a lenticular lens and a stripe-type color filter array.

도 2는 본 발명의 제1 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.2 is a view for explaining the structure of the directional display device according to the first embodiment of the present invention and the three-dimensional pixel rendering.

도 3은 도 2에 도시한 방향성 디스플레이 장치의 방향성 광이 발산되는 모습을 도시한 도면이다.FIG. 3 is a diagram illustrating a directional light emitted from the directional display device shown in FIG. 2.

도 4는 본 발명의 제2 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.4 is a view for explaining the structure of the directional display device according to the second embodiment of the present invention and the three-dimensional pixel rendering.

도 5는 도 4에 도시한 방향성 디스플레이 장치의 방향성 광이 발산되는 모습을 도시한 도면이다.FIG. 5 is a diagram illustrating a directional light emitted from the directional display device of FIG. 4.

도 6은 본 발명의 제3 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.FIG. 6 is a diagram for describing a structure and a 3D pixel rendering of a directional display device according to a third embodiment of the present invention.

도 7은 본 발명의 제4 실시예에 따른 방향성 디스플레이 장치의 구조 및 3차원 픽셀 렌더링을 설명하기 위한 도면이다.FIG. 7 is a diagram for describing a structure of a directional display device and 3D pixel rendering according to a fourth embodiment of the present invention.

도 8은 본 발명의 일실시예에 따른 방향성 디스플레이 방법을 설명하기 위한 동작 흐름도이다.8 is a flowchart illustrating a directional display method according to an embodiment of the present invention.

도 9는 본 발명의 다른 일실시예에 따른 방향성 디스플레이 방법을 설명하기 위한 동작 흐름도이다.9 is a flowchart illustrating a directional display method according to another embodiment of the present invention.

Claims (17)

하나 이상의 단위 렌티큘러 렌즈가 연속적으로 배치되는 렌티큘러 렌즈 어레이; 및A lenticular lens array in which one or more unit lenticular lenses are continuously disposed; And 동일한 컬러의 서브 픽셀을 기설정된 시점영상의 수만큼 연속적으로 배치하는 컬러 필터 어레이Color filter array that continuously arranges subpixels of the same color by the number of preset viewpoint images 를 포함하고,Including, 상기 하나 이상의 단위 렌티큘러 렌즈 각각에 대응하는 상기 컬러 필터 어레이의 서브 픽셀은 하나의 컬러로 구성되는 것을 특징으로 하는 방향성 디스플레이 장치.The sub-pixel of the color filter array corresponding to each of the one or more unit lenticular lenses is configured of one color. 제1항에 있어서,The method of claim 1, 상기 컬러 필터 어레이는,The color filter array, 상기 렌티큘러 렌즈의 광축 연장선상에 동일한 컬러의 서브픽셀을 배치하여 형성되는 것을 특징으로 하는 방향성 디스플레이 장치.And a subpixel of the same color on an optical axis extension line of the lenticular lens. 제1항에 있어서,The method of claim 1, 상기 컬러 필터 어레이는,The color filter array, 상기 단위 렌티큘러 렌즈의 폭에 대응하여 상기 동일한 컬러의 서브픽셀을 행(row) 방향으로 연속적으로 배치하여 형성되는 것을 특징으로 하는 방향성 디스 플레이 장치.And sub-pixels of the same color continuously arranged in a row direction corresponding to the width of the unit lenticular lens. 제1항에 있어서,The method of claim 1, 상기 컬러 필터 어레이는,The color filter array, 상기 렌티큘러 렌즈의 광축 연장선을 따라 복수의 컬러의 서브픽셀을 주기적으로 배치하여 형성되는 것을 특징으로 하는 방향성 디스플레이 장치.And a plurality of subpixels of a plurality of colors periodically arranged along an optical axis extension line of the lenticular lens. 제1항에 있어서,The method of claim 1, 상기 컬러 필터 어레이는,The color filter array, 하나의 서브 픽셀을 이용하여 하나의 시점영상을 표현하는 것을 특징으로 하는 방향성 디스플레이 장치.A directional display apparatus comprising one viewpoint image using one sub-pixel. 하나 이상의 단위 렌티큘러 렌즈로 구성되는 렌티큘러 렌즈 어레이;A lenticular lens array composed of one or more unit lenticular lenses; 레드(red), 그린(green), 및 블루(blue) 컬러의 서브 픽셀이 행(row)방향으로 주기적으로 배치되는 컬러 필터 어레이; 및A color filter array in which red, green, and blue color subpixels are periodically disposed in a row direction; And 각 시점영상이 하나의 컬러로 형성되도록 상기 렌티큘러 렌즈 어레이의 기울기를 결정하는 기울기 결정부Gradient determination unit for determining the inclination of the lenticular lens array so that each viewpoint image is formed in one color 를 포함하는 것을 특징으로 하는 방향성 디스플레이 장치.Directional display device comprising a. 제6항에 있어서,The method of claim 6, 상기 컬러 필터 어레이는,The color filter array, 연속적으로 배치되는 복수의 레드 컬러 서브 픽셀, 연속적으로 배치되는 그린 컬러 서브 픽셀, 및 연속적으로 배치되는 레드 컬러 서브 픽셀이 주기적으로 배치되는 것을 특징으로 하는 방향성 디스플레이 장치.And a plurality of red color sub pixels arranged in succession, a green color sub pixel arranged in succession, and a red color sub pixel arranged in succession. 제6항에 있어서,The method of claim 6, 상기 기울기 결정부는,The tilt determination unit, 상기 하나 이상의 단위 렌티큘러 렌즈의 광축상에 존재하는 시점영상의 컬러가 동일하도록 기울기를 결정하는 것을 특징으로 하는 방향성 디스플레이 장치.And determining an inclination such that colors of the viewpoint images existing on the optical axis of the at least one unit lenticular lens are the same. 하나 이상의 단위 렌티큘러 렌즈를 연속적으로 배치하는 단계; 및Continuously placing one or more unit lenticular lenses; And 컬러 필터 어레이 상에 동일한 컬러의 서브 픽셀을 기설정된 시점영상의 수만큼 연속적으로 배치하는 단계Sequentially disposing subpixels of the same color on the color filter array by a predetermined number of viewpoint images 를 포함하고,Including, 상기 하나 이상의 단위 렌티큘러 렌즈 각각에 대응하는 상기 컬러 필터 어레이의 서브 픽셀은 하나의 컬러로 구성되는 것을 특징으로 하는 방향성 디스플레이 방법.The subpixel of the color filter array corresponding to each of the one or more unit lenticular lenses is configured of one color. 제9항에 있어서,10. The method of claim 9, 상기 배치하는 단계는,The disposing step, 상기 컬러 필터 어레이 상에 상기 렌티큘러 렌즈의 광축 연장선을 따라 동일한 컬러의 서브픽셀을 배치하는 것을 특징으로 하는 방향성 디스플레이 방법.And subpixels having the same color along the optical axis extension line of the lenticular lens on the color filter array. 제9항에 있어서,10. The method of claim 9, 상기 배치하는 단계는,The disposing step, 상기 단위 렌티큘러 렌즈의 폭에 대응하여 상기 동일한 컬러의 서브픽셀을 행(row) 방향으로 연속적으로 배치하는 것을 특징으로 하는 방향성 디스플레이 방법.And subpixels of the same color continuously arranged in a row direction corresponding to the width of the unit lenticular lens. 제9항에 있어서,10. The method of claim 9, 상기 배치하는 단계는,The disposing step, 상기 컬러 필터 어레이 상에 상기 렌티큘러 렌즈의 광축 연장선을 따라 복수의 컬러의 서브픽셀을 주기적으로 배치하는 것을 특징으로 하는 방향성 디스플레이 방법.And arranging subpixels of a plurality of colors periodically along the optical axis extension line of the lenticular lens on the color filter array. 제9항에 있어서,10. The method of claim 9, 상기 컬러 필터 어레이는,The color filter array, 하나의 서브 픽셀을 이용하여 하나의 시점영상을 표현하는 것을 특징으로 하는 방향성 디스플레이 방법.A directional display method characterized by representing one viewpoint image using one sub-pixel. 하나 이상의 단위 렌티큘러 렌즈를 연속적으로 배치하는 단계;Continuously placing one or more unit lenticular lenses; 컬러 필터 어레이 상에 레드(red), 그린(green), 및 블루(blue) 컬러의 서브 픽셀을 행(row)방향으로 주기적으로 배치하는 단계; 및Periodically arranging subpixels of red, green, and blue colors in a row direction on the color filter array; And 각 시점영상이 하나의 컬러로 형성되도록 상기 렌티큘러 렌즈 어레이의 기울기를 결정하는 단계Determining an inclination of the lenticular lens array such that each viewpoint image is formed in one color 를 포함하는 것을 특징으로 하는 방향성 디스플레이 방법.Directional display method comprising a. 제14항에 있어서,The method of claim 14, 상기 배치하는 단계는,The disposing step, 연속적으로 배치되는 복수의 레드 컬러 서브 픽셀, 연속적으로 배치되는 그린 컬러 서브 픽셀, 및 연속적으로 배치되는 레드 컬러 서브 픽셀을 주기적으로 배치하는 것을 특징으로 하는 방향성 디스플레이 방법.And a plurality of red color sub pixels arranged in succession, green color sub pixels arranged in succession, and red color sub pixels arranged in succession. 제14항에 있어서,The method of claim 14, 상기 결정하는 단계는,The determining step, 상기 하나 이상의 단위 렌티큘러 렌즈의 광축상에 존재하는 시점영상의 컬러가 동일하도록 기울기를 결정하는 것을 특징으로 하는 방향성 디스플레이 방법.And determining an inclination such that colors of a viewpoint image existing on an optical axis of the at least one unit lenticular lens are the same. 제9항 내지 제16항 중 어느 한 항의 방법을 실행하기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록 매체.A computer-readable recording medium in which a program for executing the method of any one of claims 9 to 16 is recorded.
KR1020090044012A 2009-05-20 2009-05-20 Directional display apparatus without color moire and method thereof KR101590770B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090044012A KR101590770B1 (en) 2009-05-20 2009-05-20 Directional display apparatus without color moire and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090044012A KR101590770B1 (en) 2009-05-20 2009-05-20 Directional display apparatus without color moire and method thereof

Publications (2)

Publication Number Publication Date
KR20100125021A true KR20100125021A (en) 2010-11-30
KR101590770B1 KR101590770B1 (en) 2016-02-02

Family

ID=43408994

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090044012A KR101590770B1 (en) 2009-05-20 2009-05-20 Directional display apparatus without color moire and method thereof

Country Status (1)

Country Link
KR (1) KR101590770B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9164285B2 (en) 2011-11-21 2015-10-20 Samsung Display Co., Ltd. Three-dimensional image display apparatus
WO2023221887A1 (en) * 2022-05-20 2023-11-23 北京芯海视界三维科技有限公司 Display screen and display device

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3916147B2 (en) * 2002-09-30 2007-05-16 日本放送協会 3D image display device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9164285B2 (en) 2011-11-21 2015-10-20 Samsung Display Co., Ltd. Three-dimensional image display apparatus
WO2023221887A1 (en) * 2022-05-20 2023-11-23 北京芯海视界三维科技有限公司 Display screen and display device

Also Published As

Publication number Publication date
KR101590770B1 (en) 2016-02-02

Similar Documents

Publication Publication Date Title
JP3966830B2 (en) 3D display device
JP4714115B2 (en) 3D image display apparatus and 3D image display method
CN101107644B (en) Multi-view display device
KR102240568B1 (en) Method and apparatus for processing image
CN105828060B (en) Stereoscopic display device and parallax image correction method
JP4714116B2 (en) 3D image display apparatus and 3D image display method
JP4327758B2 (en) Stereoscopic image display device
US10542250B2 (en) Light field display apparatus
US20160219260A1 (en) Stereoscopic display device and parallax image correcting method
JP2008228199A (en) Three-dimensional image display device, method for displaying three-dimensional image, and structure of three-dimensional image data
JP5772688B2 (en) Autostereoscopic display device
CN104079919A (en) High density multi-view image display system and method with active sub-pixel rendering
KR20150144439A (en) Three dimensional image display device
JP2013134279A (en) Naked eye stereoscopic display device
KR20080098788A (en) Three-dimensional image display
TW201519636A (en) Three-dimensional image display device
KR20120010363A (en) Rendering system and method based on weighted value of sub-pixel area
WO2013073007A1 (en) Three-dimensional image display device, image processing device and image processing method
KR101691297B1 (en) Death-priority integral imaging display system to remove colorbreak
KR20160028596A (en) Three dimensional image display device
KR102271171B1 (en) Glass-free multiview autostereoscopic display device and method for image processing thereof
KR102463170B1 (en) Apparatus and method for displaying three dimensional image
KR101590770B1 (en) Directional display apparatus without color moire and method thereof
JP5149438B1 (en) 3D image display apparatus and 3D image display method
KR20190136746A (en) Apparatus for 3-dimensional display

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee