KR102427156B1 - 자동 비디오 스케일링을 위한 시스템 및 방법 - Google Patents

자동 비디오 스케일링을 위한 시스템 및 방법 Download PDF

Info

Publication number
KR102427156B1
KR102427156B1 KR1020170116034A KR20170116034A KR102427156B1 KR 102427156 B1 KR102427156 B1 KR 102427156B1 KR 1020170116034 A KR1020170116034 A KR 1020170116034A KR 20170116034 A KR20170116034 A KR 20170116034A KR 102427156 B1 KR102427156 B1 KR 102427156B1
Authority
KR
South Korea
Prior art keywords
region
interest
difference
display
edge
Prior art date
Application number
KR1020170116034A
Other languages
English (en)
Other versions
KR20180032499A (ko
Inventor
이장환
Original Assignee
삼성디스플레이 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성디스플레이 주식회사 filed Critical 삼성디스플레이 주식회사
Publication of KR20180032499A publication Critical patent/KR20180032499A/ko
Application granted granted Critical
Publication of KR102427156B1 publication Critical patent/KR102427156B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/0122Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal the input and the output signals having different aspect ratios
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/753Transform-based matching, e.g. Hough transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25825Management of client data involving client display capabilities, e.g. screen resolution of a mobile phone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47202End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/142Edging; Contouring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

디스플레이 장치상의 관심 영역을 식별하고 스케일링하는 방법이 제시된다. 관심 영역은 프레임 간의 변화율을 기반으로 감지된다. 디스플레이 장치의 디스플레이 영역의 크기 및 종횡비가 결정된다. 검출된 관심 영역은 디스플레이 영역 및 종횡비에 기초하여 디스플레이 영역을 전체 화면 모드로 맞추기 위해 스케일링된다. 관심 영역은 예를 들어 활성 비디오 영역일 수 있다. 전체 화면 모드에서는 정적 또는 슬로우 모션 이미지가 숨겨진다.

Description

자동 비디오 스케일링을 위한 시스템 및 방법{A SYSTEM AND METHOD FOR AUTOMATIC VIDEO SCALING}
본 발명은 자동 비디오 스케일링 방법에 관한 것으로, 보다 상세하게는 스트리밍 비디오의 활성 비디오 영역을 식별하고 활성 비디오 영역을 자동으로 스케일링하는 방법에 관한 것이다.
유튜브(YouTube), 넷플릭스(Netflix), 훌루(Hulu) 및 아마존(Amazon)과 같은 인터넷 스트리밍 서비스 및 온라인 미디어 사이트의 성장으로 무선 스트리밍 기술이 대중화됨에 따라 사용자가 네트워크 연결 장치에서 디스플레이 장치로 디지털 미디어를 스트리밍할 수 있게 되었다. 미라캐스트(MiraCast), WiDi(Wireless Display), 크롬캐스트(ChromeCast), 에어플레이(AirPlay)와 같은 무선 스트리밍 기술은 광범위한 텔레비전, 스틱(sticks), 동글(dongle) 및 셋톱 박스에서 지원되며 유선 연결의 번거로움 없이 네트워크 연결 장치에서 디스플레이 장치로 미디어를 스트리밍할 수 있다. 네트워크 연결 장치에는 휴대 전화, 태블릿 또는 스마트 TV가 포함될 수 있다. 네트워크 연결 장치의 비디오 소스 정보는 무선 기능을 갖춘 디스플레이 장치로 전송된다.
경우에 따라 스트리밍 서비스의 비디오 콘텐츠에는 정적 이미지 또는 천천히 업데이트되는 일련의 이미지 중 하나인 배경 이미지로 둘러싸인 활성 비디오 영역이 포함된다. 대부분의 사용자는 활성 비디오 영역의 내용을 시청하는 데만 관심이 있고 주변 배경 이미지를 보는 데는 관심이 없지만, 활성 비디오 영역은 전체 화면으로 확장되지 않는다.
스트리밍 비디오의 활성 비디오 영역을 식별하고 활성 비디오 영역을 자동으로 스케일링하는 방법이 요구된다.
본 발명이 이루고자 하는 기술적 과제는 스트리밍 비디오의 활성 비디오 영역을 식별하고 활성 비디오 영역을 자동으로 스케일링하는 방법을 제공함에 있다.
디스플레이 장치에서 관심 영역을 식별하고 스케일링하는 방법이 제시된다. 관심 영역은 프레임 간의 변화율을 기반으로 검출된다. 디스플레이 장치의 디스플레이 영역의 크기 및 종횡비가 결정된다. 검출된 관심 영역은 디스플레이 영역 및 종횡비에 기초하여 디스플레이 영역을 전체 화면 모드로 맞추기 위해 스케일링된다.
스트리밍 비디오의 활성 비디오 영역을 식별하여 활성 비디오 영역을 자동으로 스케일링할 수 있다. 사용자의 관심이 있는 활성 비디오 영역을 디스플레이 장치의 전체 화면에 표시함으로써 사용자의 몰입감을 향상시킬 수 있다.
본 발명의 특징 및 이점은 명세서, 청구 범위 및 첨부 도면을 참조로 평가되고 이해될 것이다.
도 1은 일 실시예에 따른 무선 디스플레이 시스템의 구성 요소 간의 기능적관계를 나타낸다.
도 2는 일 실시예에 따른 관심 영역 검출 과정을 나타내는 흐름도를 나타낸다.
도 3은 일 실시예에 따른 차분 누적 프로세스를 상세하게 나타내는 흐름도이다.
도 4는 일 실시예에 따른 관심 영역 스케일링 방법을 나타낸다.
도 5a는 일 실시예에 따라 디스플레이 장치에서 높은 누적 차를 갖는 영역을 시각적으로 묘사한 것이다.
도 5b는 일 실시예에 따른 에지 검출으로부터의 에지 이진 영상의 출력을 나타낸다.
도 5c는 일 실시예에 따라 전체 디스플레이 영역에 맞도록 확대된 관심 영역의 예를 나타낸다.
도 6은 일 실시예에 따른 관심 영역 검출 및 스케일 업 방법을 구현하는데 사용될 수 있는 디스플레이 프로세서의 예시적인 기능 블록도를 나타낸다.
첨부된 도면과 관련하여 아래에서 설명되는 상세한 설명은 전체 화면 모드로 디스플레이하기 위해 관심 영역을 검출하고 스케일 업하는 시스템 및 방법의 예시적인 실시예에 대한 설명으로서 의도된다. 상세한 설명은 예시된 실시예와 관련하여 본 발명의 기술의 특징을 설명한다. 그러나, 동일한 또는 동등한 기능 및 구조가 본 개시의 사상 및 범위 내에 포함되는 것으로 의도되는 상이한 실시예에 의해 달성될 수 있다는 것을 이해하여야 한다. 본 명세서의 다른 곳에서 언급되는 바와 같이, 동일한 도면 부호는 동일한 요소 또는 특징을 나타내기 위한 것이다.
본 발명의 실시예들은 자동 비디오 스케일링을 위한 시스템 및 방법을 제공한다. 본 발명의 실시예들은 디스플레이 시스템에서 비디오 컨텐츠로부터 관심 영역(ROI)을 식별하기 위해 입력 데이터를 처리하는 기술에 관한 것이다. 본 발명의 실시예들 스케일링될 비디오 영역 및 검출된 관심 영역으로부터 출력 디스플레이로의 줌 계수를 결정하는 방법을 제공한다. 본 발명의 실시예들은 관심 영역이 전체 화면 모드에서 전체 디스플레이 영역에 매핑되도록 디스플레이 영역의 크기에 따라 비디오 중심 및 줌 계수를 자동으로 조정하는 방법을 제공한다. 관심 영역은 활성 비디오 컨텐츠를 보여주는 영역일 수 있다. 본 발명의 실시예들은 관심 영역을 정확하게 검출하는 방법, 예를 들어 누적된 차분 데이터를 사용하여 데이터 변화율에 기초하여 관심 영역을 검출하는 방법을 포함한다. 또한, 본 발명의 실시예들은 종횡비 조정을 통해 관심 영역을 전체 디스플레이 크기에 적용하는 방법을 포함한다. 일부 실시예에서, 관심 영역을 선택하고 관심 영역을 전체 디스플레이 영역 크기로 조정하기 위한 사용자 인터페이스가 제공된다.
도 1은 일 실시예에 따른 무선 디스플레이 시스템의 구성 요소 간의 기능적관계를 나타낸다.
디스플레이될 비디오 및/또는 오디오 데이터를 전송하는 송신기(2)는 무선 또는 유선 수단을 통해 인터넷과 같은 네트워크에 연결될 수 있는 능력을 갖는다. 또한, 송신기(2)는 무선 스트리밍 기술을 구현함으로써 수신기(4)와 무선 통신을 처리하도록 구성될 수 있다. 예를 들어, 송신기(2)는 크롬캐스트(ChromeCast)(구글캐스트(Google Cast)), 에어플레이(AirPlay), 미라캐스트(MiraCast), WiDi(Wireless Display) 또는 이와 유사한 기술을 사용하여 작동하도록 구성될 수 있습니다. 송신기(2)는 서버, 컴퓨터, 스마트 폰 또는 태블릿과 같은 이동 장치, 또는 전술한 능력을 가진 임의의 다른 장치를 포함할 수 있다. 송신기(2)는 대개 수신기(4)에 물리적으로 연결되지 않는다.
송신기(2)는 송신 장치에서 실행중인 송신 어플리케이션을 포함할 수 있다. 송신 어플리케이션은 디스플레이 장치의 콘텐츠가 디스플레이될 것인지를 선택하고, 재생/일시 정지/레코드 기능과 같은 미디어 컨트롤 기능을 가지며, 및/또는 사용자에 의한 콘텐츠 검색을 허용할 수 있다.
수신기(4)는 송신기(2)로부터 디지털 미디어를 수신할 수 있다. 디지털 미디어는 스트리밍될 비디오 데이터(예를 들어, MPEG2 또는 MPEG4 등과 같은 포맷) 및/또는 오디오 데이터(예를 들어, MP3, AAC, AC3 등과 같은 포맷)를 포함할 수 있다. 수신기(4)는 송신기(2)에 의해 사용되는 무선 디스플레이 기술에 대응하는 무선 스트리밍 기술(송신기(2)에 대해 상술한 바와 같이)을 사용하여 동작하도록 구성될 수있다. 수신기(4)는 크롬캐스트(Chromecast) 동글, 애플 TV, 개인용 컴퓨터를 포함할 수 있다.
수신기(4)는 디코더(6)를 포함할 수 있다. 디코더(6)는 수신기(4)에 포함된 시스템 온 칩(SoC) 상에 포함된 코덱을 포함할 수 있다. 코덱은 비디오/오디오 데이터의 비디오/오디오 압축 포맷을 디코딩하는 기능을 갖추고 있다. 코덱이 압축 된 비디오/오디오 데이터를 디코딩하여 비디오/오디오 데이터가 압축 해제된 후에, 수신기(4)는 비압축 비디오/오디오 데이터를 디스플레이 프로세서(8)에 공급할 수 있다.
디스플레이 프로세서(8)는 비디오 향상 및 비디오 디스플레이와 관련된 다른 프로세싱을 수행하도록 구성 될 수 있다. 비디오는 보안 디지털/아날로그 접속(10)(예를 들어, HDCP(High-bandwidth Digital Content Protection) 호환 접속)을 통해 디스플레이 장치(12)로 출력된다.
도 2는 일 실시예에 따른 관심 영역 검출 과정을 나타내는 흐름도를 나타낸다. 디코더(6)로부터의 입력은 시스템이 비압축 비디오 프레임을 수신하게 한다. 시스템은 복수의 프레임 간의 차이를 누적한다.
도 2에 도시된 바와 같이, 시스템은 수신기(4)로부터 순차적으로 생성되는 적어도 2 개의 비압축 비디오 프레임을 수신한다(20). 그 다음, 시스템은 적어도 2개의 비압축 비디오 프레임 간의 차이를 누적한다(22). 이러한 차이 누적 과정(22)은 도 3을 참조하여 더욱 상세히 후술한다.
차이 누적(22) 후에, 시스템은 관심 영역을 식별하는 데 충분한 차이 데이터가 있는지를 결정한다(24). 일 실시예에서, 시스템은 누적된 차이 버퍼에 저장된 값을 차이 임계값과 비교함으로써 충분한 차이 데이터가 있는지를 결정할 수 있다. 차이 임계값은 관심 영역을 식별하기에 충분히 높은 차이 데이터 값에 해당하는 미리 정해진 선택된 값이다. 누적된 차이 버퍼 값과 차이 임계값을 비교함으로써 시스템은 관심 영역을 식별할 수 있는 충분한 정보를 확인할 수 있다. 시스템은 차이 데이터가 충분하지 않다고 판단하면 루프백하여 다른 비압축 비디오 프레임을 수신한다.
다른 실시예에 따르면, 시스템은 누적된 차이를 계산하지 않고 임계값의 프레임을 일단 디스플레이한다. 그러나, 프레임 카운트를 갖는 이 방법은 비디오 스트림의 콘텐츠에서의 활동량에 의해 영향을 받을 수 있다. 예를 들어, 표시되는 비디오에 매우 정적인 이미지가 있는 경우 임계 프레임 수를 조정한다.
시스템이 진행할 차이 데이터가 충분하다고 판단되면, 시스템은 흐름도의 왼쪽 경로와 흐름도의 오른쪽 경로를 진행한다. 흐름도의 왼쪽 및 오른쪽 분기의 일부는 순차적으로 또는 동시에 실행될 수 있다. 왼쪽 경로에서 시스템은 누적된 차이 데이터에 대해 에지 검출(26)을 수행하여 에지 이진(edge binary) 이미지 출력을 얻는다. 그런 다음, 시스템은 에지 이진 이미지 출력에 허프 변환(Hough transform)을 적용한다(28). 그리고 에지 이진 이미지 출력으로부터 라인을 얻는다(30). 일 실시예에서, 시스템은 제1 방향에 대해 대략 0도 및 90도의 각도로 연장되는 선들(예를 들어, 직선들)만을 검출한다. 제1 방향은 비디오의 긴 측면에 평행할 수 있다. 그러나, 본 발명의 개념은 이에 한정되지 않는다. 예를 들어, 시스템은 관심 영역이 제1 방향에 대해 임의의 각도로 연장되는 직선 경계로 표시될 수 있다고 가정할 수 있다.
도 2의 흐름도의 우측 경로에서, 시스템은 누적된 차이 데이터에 대한 코너(corner) 검출을 수행하여 잠재적 코너 위치를 얻는다(32). 그 다음, 시스템은 에지 이진 이미지 출력으로부터의 검출된 라인과 잠재적인 코너 위치를 일치시켜 코너 후보를 결정한다(34). 그리고 직사각형 규칙을 적용하여 라인과 매칭되지 않는 잠재적인 코너 위치를 제거한다(36). 직사각형 규칙은 선택된 코너 후보가 사각형을 형성해야 한다는 것을 나타낸다. 따라서 각 코너 후보는 허프 변환에 의해 제공되는 두 개의 수직선과 두 개의 카운터 코너(counter corner)를 가져야 한다. 2개의 카운더 코너는 각 선의 끝점에 위치한 모서리이며, 각 끝 점은 두 개의 수직선의 정점에 위치하지 않는다. 코너 후보들을 결정한 후에, 시스템은 관심있는 후보 영역을 개략적으로 나타내는 사각형을 식별하고 관심 영역을 결정한다(38). 시스템은 이전에 수신된 디스플레이 영역 스펙을 사용하여 관심 영역을 스케일링하고 스케일링된 관심 영역을 전체 디스플레이 영역에 디스플레이 할 수 있다(40).
도 3은 프레임들 간의 차이 누적 프로세스(22)의 세부 사항을 도시한 흐름도이다. 일 실시예에 따른 차이 누적 프로세스(22)는 다수의 프레임에 걸친 데이터 변경의 비율을 측정한다. 단계 50 내지 단계 56은 도 2에 도시된 차이 누적 프로세서(22)의 일부이다. 시스템이 비압축 비디오 프레임을 수신하면, 시스템은 시간 t 에서 현재 프레임의 R, G, 및 B 채널 각각으로부터 데이터를 추출한다(50). 각 최종 채널 R(t-1), G(t-1) 및 B(t-1)의 데이터(이하, R, G, B 채널 각각에 대한 제1 선행 프레임(t-1)의 데이터라고도 함)로부터 각각의 현재 채널 R(t), G(t) 및 B(t)를 생성하고, 각 차이(Diff)를 차이 버퍼에 가산한다(52). 이 시점에서, 파라미터 "누적 차이"는 R에 대한 R(t-2), R(t-3) 및 R(t-4)와 같은 다수의 이전 채널들 간의 차이의 합일 수 있다. 여기서는 R(t-2), R(t-3) 및 R(t-4)를 R 채널에 대한 제2, 제3 및 제4 선행 프레임의 데이터라고도 한다. 이 "누적 차이"는 최신의 차이(Diff)를 포함하도록 업데이트된다(54). 정적 이미지가 표시되는 경우, 누적 차이는 많은 수의 프레임에서 대략 0일 수 있습니다. 그러나 비디오가 표시되는 경우 누적 차이는 빠르게 커질 수 있다. 일단, 차이 버퍼가 누적 차이에 더해지면, 현재 값 R(t), G(t) 및 B(t) 각각은 채널로부터 갱신된 전류 값을 추출하기 위한 이전 채널 R(t-1), G(t-1), 및 B(t-1)의 값으로 재정의된다(56).
도 4는 일 실시예에 따른 관심 영역 스케일링 방법을 나타낸다. 시스템은 관심 영역 후보(활성 비디오 영역 후보)를 식별한 후(60, 또는 도 2의 38), 관심 영역 후보의 경계선을 직사각형으로 도시하고(62), 검출된 영역이 전체 화면으로 스케일링하기에 적합한지 여부를 사용자에게 묻는다(64). 관심 영역 후보가 올바른 영역이 아닌 경우 시스템은 관심 영역 후보를 추가로 찾는다(68). 시스템은 추가로 관심 영역 후보를 찾으면 시스템은 사용자에게 추가로 관심 영역 후보를 표시한다. 반대로, 관심 영역 후보가 전체 화면으로 확대할 수 있는 올바른 영역인 경우, 시스템은 디스플레이 장치의 종횡비를 확인하고(70), 필요에 따라 비디오의 종횡비를 조정한다(72). 시스템은 사용자에 의해 검출되거나 제공될 수 있는 장치 유형에 기초하여 종횡비를 결정할 수 있다. 관심 영역이 표시 장치 상에 전체 화면으로 표시되도록 스케일링된다(74). 관심 영역 스케일링 과정이 종료된다(76).
도시되지는 않았지만, 관심 영역이 기울어진 경우(에지가 디스플레이 장치의 에지에 평행하게 연장되지 않는 경우), 시스템은 이후 또는 이전의 전체 화면에 스케일링한 관심 영역에 따라 관심 영역이 정렬되도록 회전을 수행할 것이다.
도 5a, 도 5b, 및 도 5c는 관심 영역 검출의 실시 예를 시각적으로 나타낸다. 예를 들어, 도 5A는 디스플레이 장치의 디스플레이 영역일 수 있는 전체 디스플레이 영역(92) 내의 관심 영역(94)의 시각적 묘사를 제공한다. 이 특정 도면에서, 높은 누적 편차를 갖는 관심 영역(94)은 디스플레이 영역(92)의 다른 부분보다 밝은 영역이 관심 영역(94)임을 나타낸다. 즉, 백색 영역은 관심 영역(94)에 대응하고 흑색 영역은 정지 이미지에 대응한다. 도 5는 도 2의 단계 22에서 발생하는 프로세스를 묘사하는 것으로 생각할 수 있다.
도 5b는 도 1의 단계 26으로부터 생성된 에지 이진 영상 출력과 같은 에지 검출로부터 출력된 예시적인 에지 이진 영상을 나타낸다. 관심 영역을 결정하기 위해 프로세스가 진행됨에 따라, 직사각형 영역 주위의 에지/라인은 스케일 업 후보로서 강조될 것이다(도 4의 단계 62).
도 5c는 사용자가 강조된 직사각형 영역이 실제로 관심 영역임을 확인하고 전체 디스플레이 영역(92)에 맞도록 영역을 스케일 업(scale up)하는 경우를 나타낸다. 스케일 업 버전에서, 도 5a와 도 5b에서 활성 비디오 영역의 외부에 도시된 데이터는 숨겨진 채로 남아 있습니다. 상술한 바와 같이, 일 실시 예에서, 스케일링은 관심 영역의 중심을 식별하고 이를 디스플레이 영역의 중심에 정렬하고, 관심 영역의 치수 및 디스플레이 장치의 종횡비를 기반으로 수학적으로 결정된 줌 인자(zoom factor)를 적용하는 것을 포함한다.
도 6은 상술한 관심 영역 검출 및 자동 스케일링 프로세스를 구현하는데 사용될 수 있는 디스플레이 프로세서의 일 실시 예의 기능 블록도를 나타낸다. 도시 된 바와 같이, 비디오 프레임은 버퍼(81)를 갖는 차분 누산기(80)에 의해 수신된다. 엣지 검출기(82), 코너 검출기(84), 라인 검출기(86), 및 영역 검출기(88)는 도 2에 나타낸 바와 같이 함께 관심 영역을 검출한다. 예를 들어, 도 6에서 예시한 바와 같이 검출기(96)는 에지 검출기(82), 코너 검출기(84), 라인 검출기(86), 및 영역 검출기(88) 중 적어도 하나를 포함한다. 또한, 조정자(90)는 종횡비를 결정할 수 있고, 필요하다면 종횡비를 조정할 수 있다. 이러한 검출기(96) 및 조정자(90)는 매체에 저장되는 소프트웨어 또는 비 일시적 컴퓨터 판독 가능 명령어로 구현 될 수 있다. 다양한 실시 예에서, 디스플레이 프로세서를 포함하는 시스템의 운영 체제 소프트웨어는 컴퓨터 시스템에서 실행되는 소프트웨어를 위한 운영 환경을 제공할 수 있으며, 컴퓨터 시스템의 구성 요소의 활동을 조정할 수 있다.
디스플레이 프로세서를 포함하는 시스템의 다양한 실시 예는 하나 이상의 컴퓨터 시스템으로 구현되거나 또는 하나 이상의 컴퓨터 시스템을 포함할 수 있다. 컴퓨터 시스템은 설명된 실시 예들의 사용 또는 기능의 범위에 대한 어떠한 제한도 제안하지 않는다. 컴퓨터 시스템은 적어도 하나의 프로세서 및 메모리, 하나 이상의 입력 장치, 하나 이상의 출력 장치, 및 하나 이상의 통신 연결을 포함한다. 메모리는 휘발성 메모리(예를 들어, 레지스터, 캐시, 랜덤 액세스 메모리(RAM)), 비휘발성 메모리(예를 들어, ROM(read only memory), EEPROM(electrically erasable programmable read only memory), 플래시 메모리 등), 또는 이들의 조합을 포함할 수 있다. 일 실시 예에서, 메모리는 개시된 개념의 다양한 실시 예를 구현하기 위한 소프트웨어를 저장할 수 있다.
사용자와 디스플레이 프로세서 사이의 상호 작용을 제공하기 위해, 실시 예들은 음극선 관(CRT), 액정 디스플레이(LCD), 프로젝션 스크린, 유기발광(OLED) 디스플레이, 3D 디스플레이 등과 같은 디스플레이 장치를 갖는 컴퓨터를 사용하여 구현될 수 있다. 사용자가 컴퓨터에 입력을 제공 할 수 있는 터치 스크린, 키보드, 및 포인팅 장치(예를 들어, 마우스 또는 트랙볼)가 또한 제공될 수 있다. 참가자들과의 상호 작용을 위해 다른 종류의 장치를 사용할 수도 있다. 예를 들어, 플레이어에게 제공되는 피드백은 시각적 피드백, 청각 피드백, 또는 촉각 피드백 등의 임의의 형태의 감각 피드백일 수 있다. 그리고 사용자로부터의 입력은 음향, 음성, 뇌파, 다른 생체 입력, 안구 운동, 제스처, 신체 움직임, 또는 촉각 입력을 포함하는 임의의 형태로 수신될 수 있다. 예를 들어, 위의 방법 중 하나를 사용하여 강조 표시된 직사각형 영역을 확인하여 관심 영역을 "선택"할 수 있다.
이 명세서는 많은 세부 사항을 포함하지만, 이들은 전체로서 또는 청구될 수 있는 것으로서의 개시의 범위를 제한하는 것으로 해석되어서는 안 된다. 오히려, 제공된 예는 특정 실시 예에 특정한 특징의 설명으로 보아야 한다. 별개의 실시 예들의 문맥에서 본 명세서에 기술된 특정 특징들은 또한 단일 실시 예에서 조합하여 구현될 수 있다. 반대로, 단일 실시 예의 문맥에서 설명된 다양한 특징은 또한 다수의 실시 예에서 개별적으로 또는 임의의 적합한 하위 조합으로 구현될 수 있다. 또한, 특징들이 특정 순서로 특정 조합으로 실행되는 것으로 상술될 수 있지만, 개시된 조합으로부터의 하나 이상의 특징은 일부 경우 조합에서 생략 될 수 있고, 청구된 조합은 하위 조합 또는 하위 조합의 변형을 지시할 수 있다.
유사하게, 동작들이 특정 순서로 도면들에 도시되어 있지만, 이것은 바람직한 동작을 달성하기 위해, 표시된 동작들이 순차적인 순서로 수행되거나, 도시된 모든 동작들이 수행될 것을 요구하는 것으로 이해되어서는 안 된다. 어떤 상황에서는 멀티태스킹과 병렬 처리가 유리할 수 있다. 또한, 상술한 실시 예에서 다양한 시스템 구성 요소의 분리는 모든 실시 예에서 그러한 분리를 요구하는 것으로 이해되어서는 안 되며, 기술된 프로그램 구성 요소 및 시스템은 일반적으로 단일 소프트웨어 제품으로 함께 통합되거나 여러 소프트웨어 제품으로 패키지화될 수 있다.
본 발명의 다양한 실시 예들은 컴퓨터 판독 가능 매체의 일반적인 맥락에서 기술될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터 시스템 내에서 액세스될 수 있는 임의의 이용 가능한 매체이다. 예를 들어, 컴퓨터 시스템 내에서, 컴퓨터 판독 가능 매체는 메모리, 저장 매체, 통신 매체, 및 이들의 조합을 포함하지만 이에 한정되는 것은 아니다.
본 발명은 본 개시물 및 첨부된 청구 범위의 사상 및 범위 내에서 변형 및 변경하여 실시될 수 있다는 것을 이해해야 한다. 설명은 모든 것을 망라하는 것이 아니며, 발명의 개념을 개시된 정확한 형태로 한정하려는 의도는 아니다.
2: 송신기
4: 수신기
6: 디코더
8: 디스플레이 프로세서
10: 보안 디지털/아날로그 접속
12: 디스플레이 장치

Claims (10)

  1. 프레임 간의 데이터 변화율을 기반으로 관심 영역을 검출하는 단계,
    디스플레이 영역의 크기 및 종횡비를 결정하는 단계, 그리고
    검출된 상기 디스플레이 영역의 크기 및 상기 종횡비를 기반으로 전체 화면에서 상기 디스플레이 영역에 맞추어 상기 관심 영역을 스케일링하는 단계
    를 포함하며,
    상기 관심 영역을 검출하는 단계는,
    현재 프레임, 제1 선행 프레임 및 제2 선행 프레임의 비디오 데이터에 기초하여 누적 차이를 생성하는 단계,
    상기 누적 차이를 미리 결정된 차이값과 비교하는 단계
    를 포함하는,
    디스플레이 장치에서 관심 영역을 식별하고 스케일링하는 방법.
  2. 제1 항에 있어서,
    상기 누적 차이를 생성하는 단계는,
    현재 프레임, 제1 선행 프레임, 및 제2 선행 프레임의 비압축 비디오 데이터를 수신하는 단계,
    상기 제1 선행 프레임의 데이터와 상기 현재 프레임의 데이터 간이 제1 차이를 결정하는 단계,
    상기 제1 선행 프레임의 데이터와 상기 제2 선행 프레임의 데이터 간의 제2 차이를 결정하는 단계, 그리고
    상기 제1 차이와 상기 제2 차이를 더하여 상기 누적 차이를 생성하는 단계
    를 포함하는 방법.
  3. 제2 항에 있어서,
    상기 누적 차이를 상기 미리 결정된 차이값과 비교하는 단계 이전에, 연속하는 프레임들의 미리 조정된 수로부터의 차이를 더하는 단계를 더 포함하는 방법.
  4. 제1 항에 있어서,
    상기 관심 영역의 에지를 검출하는 단계를 더 포함하고,
    상기 관심 영역의 에지를 검출하는 단계는,
    상기 누적 차이에 대한 에지 검출을 수행하여 에지 이진 영상의 출력을 생성하는 단계, 그리고
    상기 에지 이진 영상의 출력에 대한 허프 변환을 수행하여 복수의 라인을 결정하는 단계
    를 포함하는 방법.
  5. 제4 항에 있어서,
    상기 관심 영역의 코너를 검출하는 단계를 더 포함하는 방법.
  6. 제5 항에 있어서,
    상기 관심 영역의 코너를 검출하는 단계는,
    상기 관심 영역의 적어도 하나의 잠재적인 코너 위치를 식별하기 위해 코너 검출을 수행하는 단계, 그리고
    상기 적어도 하나의 잠재적인 코너 위치를 상기 복수의 라인과 비교하는 단계
    를 포함하는 방법.
  7. 제6 항에 있어서,
    상기 관심 영역의 사각형의 윤곽을 결정하는 단계를 더 포함하는 방법.
  8. 제7 항에 있어서,
    상기 관심 영역의 사각형의 윤곽을 결정하는 단계는,
    잠재적인 활성 영역을 표시하는 단계,
    상기 잠재적인 활성 영역이 상기 활성 영역에 대응하는지 사용자로부터 확인 또는 거절을 수신하는 단계, 그리고
    상기 사용자로부터 거절이 수신되는 경우, 다른 잠재적인 활성 영역을 표시하는 단계
    를 포함하는 방법.
  9. 디스플레이 영역을 갖는 디스플레이 장치의 관심 영역을 식별하고 스케일링하기 위한 시스템으로서,
    프레임 간의 데이터 변화율을 기반으로 관심 영역을 검출하도록 구성된 검출기, 그리고
    상기 디스플레이 영역의 크기 및 종횡비를 결정하고, 검출된 상기 디스플레이 영역의 크기 및 상기 종횡비를 기반으로 전체 화면 모드에서 상기 관심 영역이 상기 디스플레이 영역을 채우도록 스케일링하도록 구성된 조정자
    를 포함하며,
    상기 관심 영역의 검출은, 현재 프레임, 제1 선행 프레임 및 제2 선행 프레임의 비디오 데이터에 기초하여 누적 차이를 생성하고, 상기 누적 차이를 미리 결정된 차이값과 비교함으로써 이루어지는
    시스템.
  10. 제9 항에 있어서,
    상기 검출기는,
    상기 누적 차이에 대한 에지 검출을 수행하여 에지 이진 영상의 출력을 생성하도록 구성된 에지 검출기,
    상기 에지 이진 영상의 출력에 대해 허프 변환을 수행하여 복수의 라인을 결정하도록 구성된 라인 검출기,
    상기 관심 영역의 코너를 검출하도록 구성된 코너 검출기, 그리고
    상기 에지 검출기, 상기 라인 검출기, 및 상기 코너 검출기 각각으로부터의 출력을 기반으로 상기 관심 영역을 검출하도록 구성된 영역 검출기
    를 포함하는 시스템.
KR1020170116034A 2016-09-21 2017-09-11 자동 비디오 스케일링을 위한 시스템 및 방법 KR102427156B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201662397825P 2016-09-21 2016-09-21
US62/397,825 2016-09-21
US15/374,976 US9924131B1 (en) 2016-09-21 2016-12-09 System and method for automatic video scaling
US15/374,976 2016-12-09

Publications (2)

Publication Number Publication Date
KR20180032499A KR20180032499A (ko) 2018-03-30
KR102427156B1 true KR102427156B1 (ko) 2022-07-29

Family

ID=61598633

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170116034A KR102427156B1 (ko) 2016-09-21 2017-09-11 자동 비디오 스케일링을 위한 시스템 및 방법

Country Status (2)

Country Link
US (1) US9924131B1 (ko)
KR (1) KR102427156B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108810538B (zh) * 2018-06-08 2022-04-05 腾讯科技(深圳)有限公司 视频编码方法、装置、终端及存储介质
WO2022154342A1 (en) * 2021-01-12 2022-07-21 Samsung Electronics Co., Ltd. Methods and electronic device for processing image

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080084503A1 (en) * 2006-10-10 2008-04-10 Sony Corporation Apparatus, method, and computer program for processing image

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101017362B1 (ko) * 2004-01-08 2011-02-28 삼성전자주식회사 다이나믹 영상 재생을 위한 자동 줌 장치 및 방법
US7911536B2 (en) 2004-09-23 2011-03-22 Intel Corporation Screen filled display of digital video content
WO2006108917A1 (en) 2005-04-13 2006-10-19 Nokia Corporation Coding, storage and signalling of scalability information
US20070024706A1 (en) 2005-08-01 2007-02-01 Brannon Robert H Jr Systems and methods for providing high-resolution regions-of-interest
KR101255226B1 (ko) 2005-09-26 2013-04-16 한국과학기술원 스케일러블 비디오 코딩에서 다중 roi 설정, 복원을위한 장치 및 방법
JP5263565B2 (ja) * 2006-10-12 2013-08-14 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
US8189945B2 (en) 2009-05-27 2012-05-29 Zeitera, Llc Digital video content fingerprinting based on scale invariant interest region detection with an array of anisotropic filters
WO2010141023A1 (en) 2009-06-04 2010-12-09 Hewlett-Packard Development Company, L.P. Video conference
KR101272448B1 (ko) * 2011-07-11 2013-06-07 광주과학기술원 관심영역 검출 장치와 방법 및 상기 방법을 구현하는 프로그램이 기록된 기록매체
KR101925606B1 (ko) 2012-10-12 2018-12-05 캐논 가부시끼가이샤 데이터를 스트리밍하기 위한 방법, 데이터를 제공하기 위한 방법, 데이터를 획득하기 위한 방법, 컴퓨터 판독 가능 저장 매체, 서버 장치, 및 클라이언트 장치
CN105075271A (zh) 2013-04-08 2015-11-18 索尼公司 利用shvc的关注区域可伸缩性
US9591300B2 (en) 2014-12-04 2017-03-07 Spirent Communications, Inc. Video streaming and video telephony downlink performance analysis system

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080084503A1 (en) * 2006-10-10 2008-04-10 Sony Corporation Apparatus, method, and computer program for processing image

Also Published As

Publication number Publication date
US9924131B1 (en) 2018-03-20
US20180084221A1 (en) 2018-03-22
KR20180032499A (ko) 2018-03-30

Similar Documents

Publication Publication Date Title
EP2893706B1 (en) Augmented reality for video system
US9516391B2 (en) Techniques for object based operations
US20130057642A1 (en) Video conferencing system, method, and computer program storage device
KR102038640B1 (ko) 무한 스크롤 그래픽 사용자 인터페이스에서 스크롤 이벤트를 할당하는 시스템 및 방법
US20140016817A1 (en) Position information adding apparatus, position information adding method, and computer program for adding position information and position detection apparatus
CN109074214B (zh) 控制信息资源的内容的显示的系统和方法
KR102606435B1 (ko) 디스플레이 장치 및 디스플레이 장치의 텍스트 인식 방법
US9749574B2 (en) Image matching-based pointing techniques
US20160139692A1 (en) Method and system for mouse control over multiple screens
AU2017383979B2 (en) Projection image construction method and device
US20160077694A1 (en) Formatting Tables For Display On Computing Devices Of Varying Screen Size
KR102427156B1 (ko) 자동 비디오 스케일링을 위한 시스템 및 방법
CN111831242A (zh) 信息显示方法、投屏端、显示端、存储介质及系统
US20180268864A1 (en) Detecting and correcting whiteboard images while enabling the removal of the speaker
CN104811799A (zh) 一种视频画质比较方法和装置
KR102164686B1 (ko) 타일 영상의 영상 처리 방법 및 장치
US20170085959A1 (en) Adaptive multimedia display
CN112261408B (zh) 用于头戴显示设备的图像处理方法、装置及电子设备
CN106131628B (zh) 一种视频图像处理方法及装置
CN110264430B (zh) 视频美化方法、装置及电子设备
CN105094614B (zh) 图像显示方法及装置
AU2015264474A1 (en) Systems and methods for programming behavior of a website to respond to capabilities of different devices
CN107818584B (zh) 用户手指位置信息的确定方法及装置、投影仪、投影系统
CN107547913B (zh) 视频数据播放和处理方法、客户端及设备
Shin et al. S/W Based Frame‐Level Synchronization for Irregular Screen Processing System

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant