KR20140068983A - 초광각 영상 처리를 위한 시스템 및 방법 - Google Patents

초광각 영상 처리를 위한 시스템 및 방법 Download PDF

Info

Publication number
KR20140068983A
KR20140068983A KR1020147007075A KR20147007075A KR20140068983A KR 20140068983 A KR20140068983 A KR 20140068983A KR 1020147007075 A KR1020147007075 A KR 1020147007075A KR 20147007075 A KR20147007075 A KR 20147007075A KR 20140068983 A KR20140068983 A KR 20140068983A
Authority
KR
South Korea
Prior art keywords
image
pixels
photosensitive surface
optical
wide angle
Prior art date
Application number
KR1020147007075A
Other languages
English (en)
Other versions
KR102087450B1 (ko
Inventor
아담 윌리암스
Original Assignee
스마트 엣지 인베스트먼츠 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 스마트 엣지 인베스트먼츠 리미티드 filed Critical 스마트 엣지 인베스트먼츠 리미티드
Publication of KR20140068983A publication Critical patent/KR20140068983A/ko
Application granted granted Critical
Publication of KR102087450B1 publication Critical patent/KR102087450B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14629Reflectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3138Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM] using arrays of modulated light sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3173Constructional details thereof wherein the projection device is specially adapted for enhanced portability
    • H04N9/3176Constructional details thereof wherein the projection device is specially adapted for enhanced portability wherein the projection device is incorporated in a camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects

Abstract

파노라마 영상과 같은 초광각 영상을 캡쳐하고, 이것을 영상 센서의 평평한 감광성 표면에 전달하기 위한 영상 센서와 렌즈/미러 또는 그 등가물을 갖는 카메라와 같은 광학 장치를 제공한다. 영상 센서는 동영상과 같은 캡쳐된 영상을 전기적 또는 전자적 신호 또는 신호들로 변환한다. 영상 센서는 대략 원형 배열로 감광성 표면 상에 배열된 다수의 광 센서들 또는 화소들을 갖는다. 다수의 광센서들 또는 화소들은 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소 또는 식별자 참조에 의해 정의되도록, 주소 또는 식별자를 가질 수 있다. 카메라는 전기적 신호를 디지털 영상 신호로 변환하는 수단 및 디지털 영상 데이터를 버퍼링 또는 저장하는 수단을 포함하는 통합 또는 분산 시스템의 부분을 형성할 수 있다. 시스템은, 또한, 초광각 영상의 윈도우 영역을 선택하여 수신하는 입력 수단들과 버퍼링 또는 저장 수단들로부터 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하고, 표시 및/또는 추가적인 처리를 위한 정보 처리 수단들에 복구된 디지털 영상을 전송하는 수단들을 포함할 수 있다. 영상 투사 시스템이, 또한, 카메라의 많은 신규한 기술적 특징을 공유하며 개시된다.

Description

초광각 영상 처리를 위한 시스템 및 방법{A System and Method for Processing a Very Wide Angle Image}
본 발명은 초광각 정지 영상 및/또는 동영상 처리를 위한 시스템 및 방법에 관한 것이다.
카메라로 촬영된 시야 범위(field of view) 또는 영상은 관심 영역에서 카메라 렌즈에 의해 결정된다. 감시 시스템의 경우, 예를 들면, CCTV 장치와 같은 하나 또는 그 이상의 통상적인 형태의 카메라 장치 사용으로, 탐색하기 위해 영상 시야 범위를 변경시키고, 이전에 시야 범위 내에 있지 않던 카메라 장치를 둘러싼 환경으로부터의 영상을 녹화하기 위해 카메라 장치를 상하(좌우)로 회전(팬:pan) 및/또는 기울이도록(틸트:tilt) 제어할 필요가 있다. 그와 같은 카메라 장치의 팬 및 틸트는 통상적으로 카메라 장치가 모터에 장착되도록 하고 팬 및 틸트 동작을 하도록 모터를 제어하는 제어 신호를 수신하기 위한 몇몇 수단을 갖도록 요구된다. 더욱이, 모터는 카메라 동작을 위한 카메라 장치에 의해 요구되는 것과 다른 사양의 전원 장치를 요구한다.
감시 시스템과 같은 시스템에서, 상술한 카메라 장치는 많은 기구적 이동 부품으로 인해 상대적으로 복잡하다. 이와 같이 하여, 카메라 장치는 정규적인 유지 보수가 필요하다. 그러나, 유지 보수 제공의 어려움은 장치가 종종 접근하기 쉽지 않은 곳에 의도적으로 선택되어 위치한다는 사실에 의해 가중된다. 더욱이, 카메라 장치는 종종, 부분적으로 팬 및 틸트를 위한 모터 전력 소비에 의해, 바람직하지 않은 과열을 초래하는, 밀봉된 보안 하우징 내에 수납된다. 과열로 인한 원하지 않는 결과는 카메라 장치에 의해 보여진 영상 광경의 왜곡일 수 있다. 또한, 틸트 및 팬 기능을 수행하는 모터를 갖는 통상의 카메라 장치는 제조하는데 비싸다. 이와 같은 카메라 장치로, 카메라의 시야 범위 외측에서 이벤트(event)가 발생한다면, 관측되지 않고 기록되지 않는 "손실(lost)"이 된다.
한 영역의 연속적인 360도 감지가 요구되거나 또는 원하는 환경에서, 종종 관심 영역의 각기 다른 부분을 커버(cover)하도록 다른 방향을 바라보는 다수의 통상적인 카메라를 배치할 필요가 있고, 이는 감시 시스템의 비용을 현저히 증가시킨다. 더욱이, 중첩하는 영역들을 커버링(covering)하는 다수의 카메라 장치로도, 사각 지대가 종종 존재한다.
일부 360도 파노라마 촬영 카메라 장치는 고체 상태 영상 기록 수단을 사용하여 개발되고 있다. 이러한 종류의 카메라가 감시 시스템 또는 그와 같은 시스템에서 현재 선호되지 않는 한가지 이유는, 360도 파노라마 영상이 고체 상태 영상 기록 수단에 의해 캡쳐되고 기록됨으로써, 기록된 파노라마 영상이 심하게 왜곡된 형태로 기록되기 때문이다. 이러한 형태의 카메라 장치에서, 강력한 정보 처리 수단들이, 영상 품질의 손실이나 그와 같은 시스템 가격을 크게 증가시켜 초래된 화면을 보기 이전에, 영상 왜곡을 교정하도록 통상 요구고 있다.
스크린 상에 영상을 투사하는 경우, 통상의 장치는 평면 스크린에 평면 정지 영상 또는 평면 동영상을 투사한다. 통상의 프로젝터는, 따라서, 투사된 영상을 스크린의 평면 상에 초점을 맞추도록 간단한 초점 렌즈와 함께 구비된다. 이와 같은 프로젝터는, 예를 들면, 비평면 스크린 상에 보여지도록 된 비평면 영상과 같은, 전체 또는 부분적인 파노라마 영상을 투사하기에 적합하지 않다.
본 발명의 목적은 공지된 시스템, 카메라, 프로젝터 및 초광각 정지 영상 및/또는 동영상의 처리 방법에 관련된 하나 또는 그 이상의 문제를 어느 정도 완화 또는 제거하는데 있다.
상기 목적은 주요 청구항 특징의 조합에 의해 충족되고, 하위 청구항은 본 발명의 다른 바람직한 실시예를 개시한다.
본 발명의 또 다른 목적은 공지된 시스템, 카메라 및 감시 영상 등을 캡쳐하기 위한 방법과 관련된 하나 또는 그 이상의 문제를 어느 정도 완화 또는 제거하는데 있다.
본 발명의 또 다른 목적은, 정지 및/또는 움직이는 파노라마 영상을 캡쳐, 기록, 분배 및/또는 투사하기 위한 시스템을 제공하는데 있다.
본 발명의 또 다른 목적은 초광각 정지 및/또는 동영상을 처리하기 위한 카메라 및/또는 프로젝터를 제공하는데 있다.
본 발명의 또 다른 목적은 통상의 직선 표시 장치들 상에 표시를 위한 파노라마 영상의 정의된 윈도우 영역들을 보기 위해 사용자가 선택할 수 있도록 하는데 있다.
당업자는 후술하는 상세 설명으로부터 본 발명의 다른 목적을 알 수 있을 것이다. 따라서, 이어지는 목적의 언급은 소모적이지 아니하며 본 발명의 많은 목적의 몇몇 예를 단순히 설명할 뿐이다.
일 특징으로서, 본 발명은 평평한 감광성 표면에 입사된 영상을 전기적 또는 전자적 신호 또는 신호들로 변환하기 위해 대략 원형 배열로 상기 평평한 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 포함하는 상기 평평한 감광성 표면을 포함하는 광학 장치를 위한 영상 센서를 제공한다.
상기 다수의 광 센서들 또는 화소들은 일련의 동심원들로서 상기 평평한 감광성 표면 상에 배열될 수 있다. 대안으로서, 적어도 하나의 나선형 라인의 광 센서들 또는 화소들을 포함하는 상기 대략 원형 배열로 상기 평평한 감광성 표면 상에 배열될 수 있다. 상기 다수의 광 센서들 또는 화소들은 두개 또는 그 이상의 비월(interlaced) 나선형 라인들의 광 센서들 또는 화소들로 배열될 수 있다.
상기 영상 센서는 초광각 영상을 캡쳐하여 상기 다수의 광 센서들 또는 화소들로 입사되도록 상기 평평한 감광성 표면에 전달하는 렌즈/미러 시스템 또는 그 등가물과 같은 수단들을 포함한다. 초광각 영상을 캡쳐하기 위한 상기 수단은 상기 영상 센서를 둘러싼 대략 파노라마 영상을 캡쳐하도록 배열될 수 있다. 상기 대략 파노라마 영상은 완전한 파노라마 영상이 아닐 수 있고, 상기 영상 센서에 대하여 선택된 평면에서 360도 도넛 형태의 영상 화면을 포함할 수 있다. 대안으로서, 상기 대략 파노라마 영상은 상기 영상 캡쳐 수단들에 대하여 대략 반구형 영상 화면을 포함하는 완전한 파노라마 영상일 수 있다.
상기 영상 센서는 상기 전기적 또는 전자적 신호 또는 신호들을 디지털 영상 데이터로 변환하는 수단들을 더 포함할 수 있다.
상기 다수의 광 센서들 또는 화소들은, 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소들 참조에 의해 정의되도록, 주소 또는 식별자를 가질 수 있다.
몇몇 실시예에서, 상기 광학 장치는 카메라 또는 프로젝터를 포함한다.
본 발명의 다른 특징으로서, 영상 센서의 감광성 표면 상으로 초광각 영상을 전달하고, 상기 영상 센서는 대략 원형 배열로 상기 평평한 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 갖는 상기 평평한 감광성 표면을 포함하는 광학 장치를 위한 영상 센서를 이용한 초광각 영상을 캡쳐하는 방법이 제공된다.
본 발명의 다른 특징으로서, 대략 원형 배열로 평평한 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 갖는 상기 평평한 감광성 표면과 함께 영상 센서를 제공하는 광학 장치를 위한 영상 센서 제조 방법이 제공된다.
본 발명의 다른 특징으로서, 감광성 표면 상에 입사된 초광각 영상 또는 초광각 영상의 일부 영역을 상기 초광각 영상 또는 상기 초광각 영상의 상기 일부 영역을 대표하는 영상 데이터로 변환 가능한 전기적 또는 전자적 신호 또는 신호들로 변환하기 위한 상기 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 포함하는 상기 감광성 표면과, 상기 광 센서들 또는 화소들이 상기 감광성 표면 상에 입사되는 상기 초광각 영상의 각 부분에 대략 일치하는 방향으로 상기 감광성 표면 상에 위치하도록 된 배열 구조를 포함하는 광학 장치를 위한 영상 센서가 제공된다.
본 발명의 다른 특징으로서, 영상 센서의 감광성 표면 상으로 초광각 영상을 전달하고, 상기 영상 센서는 감광성 표면 상에 입사된 초광각 영상 또는 초광각 영상의 일부 영역을 상기 초광각 영상 또는 상기 초광각 영상의 상기 일부 영역을 대표하는 영상 데이터로 변환 가능한 전기적 또는 전자적 신호 또는 신호들로 변환하기 위한 상기 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 포함하는 상기 감광성 표면과, 상기 광 센서들 또는 화소들이 상기 감광성 표면 상에 입사되는 상기 초광각 영상의 각 부분에 대략 일치하는 방향으로 상기 감광성 표면 상에 위치하도록 된 배열 구조를 포함하는 광학 장치를 위한 영상 센서를 이용한 초광각 영상을 캡쳐하는 방법이 제공된다.
본 발명의 다른 특징으로서, 본 발명은 파노라마 영상과 같은 초광각 영상을 캡쳐하기 위해 영상 센서 및 렌즈/미러 시스템 또는 그 등가물을 가지며, 이를 상기 영상 센서의 상기 평평한 감광성 표면에 전달하는 카메라를 제공한다. 상기 영상 센서는 동영상일 수 있는 캡쳐된 영상을 전기적 또는 전자적 신호 또는 신호들로 변환한다. 상기 영상 센서는 대략 원형 배열로 상기 영상 센서의 감광성 표면 상에 배열된 다수의 광 센서들 또는 화소들을 갖는다. 상기 대략 원형 배열 구조는 광 센서들 또는 화소들의 조밀한 나선을 포함할 수 있다. 다수의 광센서들 또는 화소들은 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소 또는 식별자 참조에 의해 정의되도록, 주소 또는 식별자를 가질 수 있다. 카메라는 전기적 신호를 디지털 영상 신호로 변환하는 수단 및 디지털 영상 데이터를 버퍼링 또는 저장하는 수단을 포함하는 통합 또는 분산 시스템의 부분을 형성할 수 있다. 시스템은, 또한, 초광각 영상의 윈도우 영역을 선택하여 수신하는 입력 수단들과 버퍼링 또는 저장 수단들로부터 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하고, 표시 및/또는 추가적인 처리를 위한 정보 처리 수단들에 복구된 디지털 영상을 전송하는 수단들을 포함할 수 있다.
본 발명의 제1주요 특징으로서, 영상 센서가 초광각 영상을 전기적 신호로 변환하고, 상기 초광각 영상을 캡쳐하여 상기 영상 센서의 평평한 감광성 표면에 전달하는 수단들; 상기 전기적 신호를 디지털 영상 데이터로 변환하는 수단들; 상기 디지털 영상 데이터를 버퍼링 또는 저장하는 수단들; 상기 초광각 영상의 윈도우 영역을 선택하여 수신하는 수단들; 및 상기 버퍼링 또는 저장 수단들로부터 상기 초광각 영상 중 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하고, 상기 복구된 디지털 영상 데이터를 정보 처리 수단들에 전송하는 수단들을 포함하는 초광각 영상을 캡쳐하고 기록하기 위한 시스템이 제공된다. 상기 시스템은 카메라 장치와 같은 단일 장치 및 관련된 처리 능력을 포함하는 통합 시스템이거나 또는 네트워크에 의해 연결된 다수의 장치들을 포함하는 분산 시스템을 포함할 수 있다.
상기 시스템은 정지 영상 카메라 방식으로 정지 영상을 캡쳐하도록 배열되지만, 비록 정지 영상 용량을 유지할 수 있으나, 바람직하기로 그것은 동영상을 캡쳐하도록 배열된다.
상기 시스템은 사용자의 요청/선택에 따라 네크워크에 분산하기 위해 캡쳐된 동영상 또는 정지 영상을 디지털 비디오 신호 또는 다른 형태의 신호로 변환하기 위한 처리 수단들 또는 등가물을 포함한다.
초광각 영상을 캡쳐하고, 그것을 영상 센서의 감광성 표면에 제공하는 수단들은 광각 영상을 캡쳐하기위해 당업자에게 공지된 임의의 적합한 시스템 또는 배열을 포함 할 수있다. 예를 들어, 영상 캡쳐 수단들은 렌즈, 렌즈 세트, 미러, 미러 세트, 프리즘, 또는 프리즘 세트로 이루어진 어느 하나 또는 어느 조합을 포함할 수 있다. 어떤 실시예에서, 상기 영상 캡쳐 수단들은 어안 렌즈를 포함한다.
바람직하기로, 영상 캡쳐 수단들은 대략 영상 캡쳐 수단들을 둘러싸는 파노라마 영상을 캡쳐하도록 배치된다. 상기 대략 파노라마 영상은 완전한 파노라마 영상이 아니고, 상기 영상 캡쳐 수단들에 대하여 선택된 평면에서 360도 도넛 형태의 영상 화면을 포함할 수 있다. 또는, 상기 대략 파노라마 영상은 상기 영상 캡쳐 수단들에 대하여 대략 반구형 영상 화면을 포함하는 완전한 파노라마 영상일 수 있다.
상기 영상 센서는 입사된 빛을 전기적 신호들로 변환하기 위한 다수의 광 센서들 또는 화소들을 포함하는 감광성 표면을 갖는 영상 센서 칩을 포함할 수 있다. 그와 같은 많은 칩들은 전하결합소자(CCD) 및 상보성 금속 산화물 반도체(CMOS) 칩으로 알려져 있다. 그러나, 당업자라면 칩의 감광성 표면 상으로 입사된 캡쳐된 영상을 전기적 신호 또는 신호들로 변환하기 위한 어떠한 적절한 칩도 본 발명의 상기 시스템 및 카메라 장치에 채택될 수 있다는 것을 알 수 있을 것이다.
상기 다수의 광 센서들 또는 화소들은 대략 원형 배열로 상기 감광성 표면에 배열된다.
일 실시예로, 상기 다수의 광 센서들 또는 화소들은 일련의 동심원들로서 상기 감광성 표면 상에 배열될 수 있다. 이 실시예에서, 상기 광 센서들 또는 화소들의 상기 일련의 동심원들 중 다른 대안은 디지털 비디오 신호의 홀수 및 짝수 라인들로 각각 할당될 수 있다.
다른 실시예로, 다수의 광 센서들 또는 화소들은 상기 광 센서들 또는 화소들의 적어도 한 조밀한 나선형 라인으로서 상기 감광성 표면 상에 배열될 수 있거나, 또는 상기 다수의 광 센서들 또는 화소들은 상기 광 센서들 또는 화소들의 두개 또는 그 이상의 비월 나선형 라인들로서 배열될 수 있다. 상기 배열은 상기 광 센서들 또는 화소들의 상기 나선형 라인 또는 비월 라인들이 상기 광 센서들 또는 화소들 사이에 어떠한 갭(gap)들도 없이 상기 감광성 표면의 표면을 채울 수 있다.
바람직하기로, 상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 팬(pan) 명령, 틸트(tilt) 명령 및/또는 줌인 또는 줌아웃 명령과 같은 상기 선택된 윈도우 영역과 결합된 명령들을 수신하도록 되어 있다.
바람직하기로, 상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 동시에 상기 초광각 영상의 각 윈도우 영역들의 두개 또는 그 이상의 분리된 선택을 수신하도록 되어 있다. 이러한 선택들은 다른 사용자들 및 관측이나 추가적인 처리를 위한 상기 사용자들의 정보 처리 장치들에 전송된 선택된 윈도우 영역들을 위한 각각의 영상 데이터로부터일 수 있다.
당업자에게 친숙한 임의의 적절한 저장 또는 버퍼링 수단들이 캡쳐된 정지 영상 및/또는 동영상을 위해 상기 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위해 이용될 수 있다. 예를 들면, 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 상기 수단들은 플래시 메모리 소자를 포함하거나 또는 그것은 네트워크를 통하여 상기 영상 캡쳐 수단들에 연결된 데이터 베이스 또는 메모리 뱅크를 포함할 수 있다. 상기 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위한 수단들은, 예를 들면, 카메라 장치와 같은 영상 캡쳐 수단들과 동일한 장치의 부분을 포함할 수 있다. 대안으로서, 상기 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위한 수단들은 상기 영상 캡쳐 수단들을 포함하는 것과 다른 장치의 부분을 포함할 수 있다. 이러한 후자에서, 상기 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위한 상기 수단들을 포함하는 다른 장치는 네트워크를 통하여 상기 영상 캡쳐 수단들을 포함하는 상기 장치에 연결될 수 있다.
유사한 맥락으로, 상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은, 일례로, 상기 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위한 수단, 카메라 장치의 입력 스크린의 한 실시예를 포함하는 선택 수단들과 같은 동일한 한 부분을 포함할 수 있다. 대안으로서, 상기 선택 수단들은 상기 저장/버퍼링 수단들을 포함하는 것과 다른 장치의 한 부분을 포함할 수 있는데, 이 경우, 상기 선택 수단들을 포함하는 다른 장치는 네트워크를 통하여 상기 저장/버퍼링 수단들을 포함하는 상기 장치에 연결될 수 있다.
또한, 상기 초광각 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하기 위한 상기 수단들은 상기 저장/버퍼링 수단들과 동일한 장치의 한 부분을 포함할 수 있거나, 또는 상기 다른 장치가 네트워크에 연결된 장치인 다른 장치의 부분을 포함할 수 있다.
이와 유사한 방식으로, 상기 정보 처리 수단들은 상기 저장/버퍼링 수단들과 같거나 다른 장치의 부분을 포함할 수 있으며, 상기 다른 장치는 네트워크에 연결된 장치이다.
바람직하기로, 상기 정보 처리 수단들은 상기 초광각 영상의 윈도우 영역의 상기 선택을 제공하도록 배열된다.
상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 사용자 선택들을 수신하기 위해 적절하게 구성된 서버를 포함할 수 있다. 상기 서버는 네트워크를 통하여 상기 영상 캡쳐 수단들에 연결될 수 있다. 유사하게, 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하는 수단들은 사용자 선택들을 수신하는 서버를 포함할 수 있고, 상기 서버는 네트워크를 통하여 상기 영상 캡쳐 수단들에 연결될 수 있다. 상기 윈도우 선택을 수신하기 위한 상기 서버 및 상기 디지털 영상 데이터를 복구하기 위한 상기 서버는 하나이거나 또는 동일한 서버일 수 있다.
본 발명의 두번째 주요 특징으로서, 초광각 영상을 캡쳐하고 기록하기 위한 방법이 제공되되, 상기 방법은 초광각 영상을 캡쳐하여 영상 센서의 평평한 감광성 표면에 전달하는 단계; 상기 캡쳐된 초광각 영상을 전기적 신호로 변환하는 단계; 상기 전기적 신호를 디지털 영상 데이터로 변환하는 단계; 상기 디지털 영상 데이터를 버퍼링 또는 저장하는 단계; 상기 초광각 영상의 윈도우 영역을 선택하여 수신하는 단계; 상기 버퍼링 또는 저장 수단들로부터 상기 초광각 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하는 단계; 및 상기 복구된 디지털 영상 데이터를 정보 처리 수단들에 전송하는 단계를 포함한다.
본 발명의 세번째 주요 특징으로서, 영상 센서; 및 초광각 영상을 캡쳐하고 이것을 상기 영상 센서의 평평한 감광성 표면에 전달하는 수단들을 포함하는 카메라가 제공되되, 상기 영상 센서는 상기 초광각 영상을 전기적 신호로 변환하며, 상기 영상 센서의 다수의 광 센서들 또는 화소들이 대략 원형 배열로 상기 영상 센서의 감광성 표면 상에 배열되고, 상기 다수의 광 센서들 또는 화소들은, 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소들 참조에 의해 정의되도록 , 주소를 가질 수 있다.
본 발명의 네번째 주요 특징으로서, 카메라 장치를 위한 영상 센서가 제공되되, 상기 영상 센서는 입사된 영상을 전기적 신호로 변환하기 위한 상기 영상 센서의 평평한 감광성 표면을 포함하고, 상기 감광성 표면은 대략 원형 배열로 된 다수의 광 센서들 또는 화소들을 포함하며, 상기 다수의 광 센서들 또는 화소들은 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소들 참조에 의해 정의될 수 있도록 주소를 갖는다.
다섯번째 특징으로서, 본 발명은, 초광각 영상 데이터를 수신하기 위한 수단들; 상기 초광각 영상 데이터를 광학 영상으로 변환하고, 영상 투사 수단들에 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 전달하기 위한 수단들; 상기 영상 투사 수단들에 근접하여 장착된 화면을 포함하고, 상기 영상 투사 수단들은 상기 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 투사하고, 상기 초광각 영상 데이터를 상기 광학 영상으로 변환하기 위한 수단은 수신된 영상 데이터를 상기 광학 영상으로 변환하기 위한 다수의 광 센서들 또는 화소들을 포함하고, 상기 다수의 광 센서들 또는 화소들은 대략 원형 배열로 위치된, 화면 상으로 초광각 영상을 투사하기 위한 시스템을 제공한다.
바람직하기로, 상기 다수의 광 센서들 또는 화소들은 일련의 동심원들로 배열된다. 상기 광 센서들 또는 화소들의 상기 동심원들의 다른 하나는 상기 초광각 영상 데이터에 구현된 디지털 비디오 신호의 홀수 및 짝수 라인들에 각각 할당될 수 있다.
대안으로, 상기 다수의 광 센서들 또는 화소들은 광 센서들 또는 화소들의 적어도 한 나선 라인으로 배열될 수 있다. 상기 다수의 광 센서들 또는 화소들은 바람직하기로 광 센서들 또는 화소들의 두개 또는 그 이상의 비월 나선 라인들로 배열된다.
바람직하기로, 상기 다수의 광 센서들 또는 화소들은 발광 화소들 또는 광 센서들을 포함하는 LED 표시 패널, LED 표시 패널 또는 집적 회로에 구현된다.
상기 영상 투사 수단들은 상기 다수의 광 센서들 또는 화소들에 의해 생성된 광학 영상을 투사하기 위해 렌즈, 렌즈 세트, 미러, 미러 세트, 프리즘, 또는 프리즘 세트를 포함할 수 있다.
상기 시스템은 상기 초광각 광학 영상의 윈도우 영역의 선택을 수신하기 위한 수단들을 포함할 수 있다.
상기 시스템은 버퍼 또는 저장 수단들로부터 상기 초광각 광학 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하는 수단들을 포함할 수 있다.
상기 시스템은 사용자에 의해 착용된 헤드기어의 헤드업 표시 장치를 포함할 수 있고, 상기 화면은 헤드기어의 가리개를 포함할 수 있으며, 상기 장치는 사람 머리의 움직임, 따라서 소정 데이터에 비례하는 한 헤드기어에 응답하여 초광각 광학 영상의 윈도우 영역의 선택을 수신하도록 배열될 수 있다.
바람직하기로, 상기 투사 수단들은 어안 렌즈들을 포함한다.
바람직하기로, 변환 수단들은 상기 화면 상에 상기 파노라마 영상 또는 그와 같은 영상의 일부를 투사하기 위해 상기 수신된 영상 데이터를 대략 파노라마 광학 영상으로 변환하도록 배열된다. 상기 화면은 상기 투사 수단들을 둘러싸는 파노라마 화면일 수 있고, 상기 투사 수단들은 상기 파노라마 화면 상에 상기 파노라마 영상을 투사하도록 배열될 수 있다. 상기 파노라마 영상은 완전한 파노라마 영상이 아니고, 상기 투사 수단들에 대하여 선택된 평면에서 360도 도넛 형태의 영상 화면을 포함할 수 있다.
상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 팬 명령, 틸트 명령 및 줌 명령과 같은 상기 선택된 윈도우 영역과 관련된 명령들을 수신하도록 구성될 수 있다. 상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 동시에 상기 초광각 광학 영상의 각 윈도우 영역들의 두개 또는 그 이상의 분리된 선택을 수신하도록 구성될 수 있다.
상기 디지털 영상 데이터의 버퍼링 또는 저장을 위한 수단들은 상기 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부를 투사하기 위한 영상 투사 수단들과 같은 장치의 부분을 포함할 수 있다. 대안으로서, 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들은 상기 화면상으로 상기 광학 영상 또는 광학 영상의 일부를 투사하기 위한 수단들을 포함하는 것과 다른 장치의 부분을 포함할 수 있다. 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 상기 수단들을 포함하는 다른 장치는 네트워크를 통하여 상기 장치에 연결될 수 있으며, 상기 장치는 상기 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부를 투사하기 위한 상기 수단을 포함한다.
상기 초광각 영상의 윈도우 영역의 선택을 수신하는 수단들은 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들과 같은 장치의 일부를 포함할 수 있다. 대안으로서, 상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들을 포함하는 것과 다른 장치의 일부를 포함할 수 있다. 상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 상기 수단들을 포함하는 다른 장치는 네트워크를 통해 상기 장치에 연결될 수 있으며, 상기 장치는 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 상기 수단들을 포함한다.
상기 초광각 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하는 수단들은 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들과 같은 장치의 일부를 포함할 수 있다. 대안으로서, 상기 초광각 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하기 위한 수단들은 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들을 포함하는 것과 다른 장치의 일부를 포함할 수 있다. 상기 초광각 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하기 위한 상기 수단들을 포함하는 다른 장치는 네트워크를 통하여 상기 장치에 연결될 수 있으며, 상기 장치는 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 상기 수단들을 포함한다.
바람직하기로, 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들은 플래시 메모리 장치를 포함한다. 대안으로서, 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들은 상기 네트워크를 통하여 상기 영상 투사 수단들에 연결된 데이터베이스를 포함할 수 있다.
상기 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 상기 초광각 광학 영상의 윈도우 영역의 사용자 선택을 수신하기 위한 서버를 포함할 수 있으며, 상기 서버는 네트워크를 통하여 상기 초광각 영상을 투사하기 위한 상기 수단들에 연결될 수 있다.
상기 초광각 광학 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하기 위한 수단들은 상기 초광각 영상의 윈도우 영역의 사용자 선택을 수신하기 위한 서버를 포함할 수 있으며, 상기 서버는 네트워크를 통하여 초광각 영상을 투사하기 위한 상기 수단들에 연결될 수 있다.
본 발명의 여섯번째 주요 특징으로서, 초광각 영상 데이터를 수신하는 단계; 수신된 영상 데이터를 광학 영상으로 변환하기 위한 다수의 광 센서들 또는 화소들을 이용하여 상기 초광각 영상 데이터를 상기 광학 영상으로 변환하고, 상기 다수의 광 센서들 또는 화소들은 대략 원형 배열로 위치된 단계; 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 영상 투사 수단들로 전달하는 단계; 및 상기 영상 투사 수단들에 근접하여 위치된 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 투사하는 단계를 포함하는 화면 상으로 초광각 영상을 투사하기 위한 방법이 제공된다.
본 발명의 일곱번째 특징으로서, 초광각 영상 데이터의 수신을 위한 입력부; 상기 수신된 영상 데이터를 광학 영상으로 변환하고, 상기 광학 영상 또는 상기 광학 영상의 일부를 영상 투사 수단들에 제공하기 위한 수단들을 포함하고, 상기 영상 투사 수단들은 상기 영상 투사 수단들에 근접하여 설치된 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부를 투사하며, 상기 초광각 영상 데이터를 상기 광학 영상으로 변환하기 위한 상기 수단들은 수신된 영상 데이터를 상기 광학 영상으로 변환하기 위한 다수의 광 센서들 또는 화소들을 포함하고, 상기 다수의 광 센서들 또는 화소들은 대략 원형 배열로 배열된, 화면상으로 초광각 영상을 투사하기 위한 프로젝터가 제공된다.
본 발명의 여덟번째 특징으로서, 헤드기어의 가리개를 포함하는 화면; 및 상기 가리개의 표면 상으로 광학 영상 또는 상기 광학 영상의 일부를 투사하기 위한 일곱번째 주요 특징의 프로젝터를 포함하는 사용자에 의해 착용되는 헤드기어에서의 헤드업 표시 장치가 제공된다.
바람직하기로, 헤드업 표시 장치는 사람 머리의 움직임, 따라서 소정 데이터에 비례하는 헤드기어에 응답하여 상기 초광각 광학 영상의 윈도우 영역의 선택을 수신하기 위한 수단들을 더 포함한다.
본 발명의 아홉번째 주요 특징으로서, 적어도 한 참가자의 전화 회의 스테이션이 본 발명의 일곱번째 주요 특징의 프로젝터를 포함하는 전화 회의 시스템이 제공된다.
본 발명의 개요는 본 발명을 정의하기 위한 필수적인 모든 특징을 개시하지 않으며, 본 발명은 개시된 특징들의 서브-조합(sub-combination)으로 존재할 수도 있다.
본 발명의 효과는 공지된 시스템, 카메라, 프로젝터 및 초광각 정지 영상 및/또는 동영상의 처리 방법에 관련된 하나 또는 그 이상의 문제를 어느 정도 완화 또는 제거하는데 있다.
상기 효과는 주요 청구항 특징의 조합에 의해 충족되고, 하위 청구항은 본 발명의 다른 바람직한 실시예를 개시한다.
본 발명의 또 다른 효과는 공지된 시스템, 카메라 및 감시 영상 등을 캡쳐하기위한 방법과 관련된 하나 또는 그 이상의 문제를 어느 정도 완화 또는 제거하는데 있다.
본 발명의 또 다른 효과는, 정지 및/또는 움직이는 파노라마 영상을 캡쳐, 기록, 분배 및 / 또는 투사하기 위한 시스템을 제공하는데 있다.
본 발명의 또 다른 효과는 초광각 정지 및/또는 동영상을 처리하기 위한 카메라 및/또는 프로젝터를 제공하는데 있다.
본 발명의 또 다른 효과는 통상의 직선 표시 장치들 상에 표시를 위한 파노라마 영상의 정의된 윈도우 영역들을 보기 위해 사용자가 선택할 수 있도록 하는데 있다.
본 발명의 상기 및 다른 특징은 첨부 한도면과 관련하여 예시적으로 제공되는 바람직한 실시예의 다음 설명으로부터 명백해질 것이다.
도 1a 및 도 1b 는 각각 파노라마 영상을 캡쳐하기 위한 본 발명에 따른 카메라 시스템의 측면도 및 평면도이다.
도 2a 및 도 2b 는 각각 도 1의 시스템을 위한 영상 센서 칩의 광 센서 또는 화소 배열의 일 실시예의 평면도이다.
도 3a 및 도 3b는 각각 도 1의 시스템을 위한 영상 센서 칩의 광 센서 또는 화소 배열의 다른 실시예의 평면도이다.
도 4a 및 도 4b 는 각각 도 1의 시스템을 위한 영상 센서 칩의 광 센서 또는 화소 배열의 또 다른 실시예의 평면도이다.
도 5a 및 도 5b는 각각 도 1의 시스템을 위한 영상 센서 칩의 광 센서 또는 화소 배열의 또 다른 실시예의 평면도이다.
도 6a 및 도 6b는 각각 도 1의 시스템을 위한 영상 센서 칩의 광 센서 또는 화소 배열의 또 다른 실시예의 평면도이다.
도 7a 및 도 7b는 각각 도 1의 시스템을 위한 영상 센서 칩의 광 센서 또는 화소 배열의 또 다른 실시예의 평면도이다.
도 8은 파노라마 영상의 장치 표시 영상 또는 윈도우 프레임을 갖는 파노라마 영상의 표시 영상 위에 놓인 사용자가 보기 위한 윈도우 영역을 선택하도록 하는 상기 장치 영상의 평면도이다.
도 9는 파노라마 영상의 선택된 윈도우 영역과, 모니터 또는 표시 장치의 상기 선택된 윈도우 영역의 표시 영상 사이의 관계를 도시한 광 센서 또는 화소 배열의 평면도이다.
도 10은 파노라마 영상의 장치 표시 영상 또는 다수의 윈도우 프레임을 갖는 파노라마의 대표 영상 위에 놓인 사용자가 보고자 하는 소정 비율의 윈도우 영역의 선택을 하도록 하는 상기 표시 영상의 평면도이다.
도 11은 본 발명의 카메라 시스템과, 하나 또는 그 이상의 개별 장치에 디지털 영상 데이터를 출력하기 위한 본 발명의 프로젝터 시스템을 포함하는 분산 네트워크 시스템의 개략도 이다.
도 12는 본 발명에 따른 프로젝터 시스템의 제 1 실시예의 측면도이다.
도 13은 본 발명 에 따른 프로젝터 시스템의 제 2 실시예의 측면도이다.
도 14는 본 발명에 따른 프로젝터 시스템의 제 3 실시예의 측면도이다.
도 15는 관측자가 서라운딩 스크린 내에 위치되는 서라운딩 반구형 시청 표면/스크린 상으로 파노라마 영상을 투사하도록 위치된 도 12 내지 14중 어느 하나의 프로젝터 장치를 도시한 것이다.
도 16은 관측자가 서라운딩 스크린 내에 위치되고, 프로젝터는 오버헤드 프로젝터인 서라운딩 반구형 시청 표면/스크린 상으로 파노라마 영상을 투사하도록 위치된 도 12 내지 14중 어느 하나의 프로젝터 장치를 도시한 것이다.;
도 17은 서라운딩 스크린 없이 투사 영상을 보기 위해 끝을 절단한 반구형 서라운딩 스크린상으로 반전된 영상을 투사하도록 프로젝터 장치가 반구형 반사 소재의 하부에서 마주보도록 장착된, 도 16 의 그것과 유사한 배열을 도시한 것이다.
도 18은 헤드기어 또는 사용자가 착용하는 형태의 헤드업 표시 장치를 포함하는 본 발명에 따른 프로젝터 시스템의 사시도이다.
도 19는 본 발명 에 따른 프로젝터 시스템을 이용한 전화 회의 시스템을 위한 전화 회의 스테이션의 개략도이다.
도 20은 도 19에서 다수의 전화 회의 스테이션을 포함하는 전화 회의 시스템의 개략도이다.
다음 설명은 본 발명의 실시를 위한 필요적 특징의 조합을 한정하지 않으며, 단지 예로서 바람직한 실시예들이다.
다음 설명에서, 초광각 영상은 통상의 카메라 장치에서의 정상 영상 화면보다 넓은 영상을 의미하며, 일례로, 영상 화면은 카메라 장치 주변의 180도와 동일하거나 이를 초과한다. 좀더 구체적으로, 이러한 용어는 카메라 장치 또는 상기 카메라 장치에 대하여 대략 반구형 영상 범위 또는 전경(vista)을 정의하는 "완전한(full)" 파노라마 영상 주변의 360도 고리 또는 도넛 형태의 영상 화면을 포함하는 대략 파노라마 영상을 참조한다.
도 1을 참조하면, 본 발명에 따른 제1시스템의 제1주요 실시예가 도시되어 있다. 이러한 실시예는 적어도 영상 센서(12)와, 초광각 영상을 캡쳐하고 이것을 영상 센서(12)의 감광성 표면(16)에 전달하는 수단들(14)을 포함하는 통합 카메라 장치(10)를 포함한다.
초광각 영상을 캡쳐하고 이것을 영상 센서(12)의 감광성 표면(16)에 전달하는 수단들(14)은 초광각 영상을 캡쳐하고 센서(12)와 같은 광학 칩 상으로 초점을 맞추기 위해 당업자에게 알려진 적절한 시스템 또는 구성을 포함할 수 있다. 예를 들면, 영상 캡쳐 수단들(14)은 렌즈, 렌즈 세트, 미러, 미러 세트, 프리즘, 프리즘 세트의 어느 하나 또는 어느 조합을 포함할 수 있다. 이 실시예에서, 영상 캡쳐 수단들은 반구형 렌즈 또는 어안 렌즈(18)를 포함한다. 어안 렌즈(18)는 카메라 장치(10)를 둘러싸는 대략 파노라마 영상을 캡쳐한다. 대략 파노라마 영상은 완전한 파노라마 영상이 아니고, 바람직하기로 영상 캡쳐 수단들(14)에 대하여 선택된 평면에서 360도 도넛 형태의 영상을 포함한다. 대부분의 응용에 있어서, 반구형 영상 장면의 대략 1/3 높이의 깊이를 갖는 카메라 장치(10)를 둘러싸는 도넛 형태의 영상 장면이면 충분하다. 그러나, 다른 응용에 있어서, 대략 파노라마 영상은, 바람직하게, 카메라 장치(10)를 둘러싸는 대략 반구형 영상 화면의 전체를 포함하는 전체 파노라마 영상이다.
영상 센서(12)는 그것의 평평한 감광성 표면(16) 상으로 입사된 광 영상을 하나 또는 그 이상의 전기적 신호들로 변환한다. 영상 센서(12)는 영상 센서 칩(12)과 같은 고체 상태 소자를 포함한다. 칩(12)의 평평한 감광성 표면(16)은 다수의 광 센서들 또는 화소들(도 1에 도시되지 않음)을 포함하는데, 이들 각각은 입사된 광을 전기적 또는 전자적 신호 또는 신호들로 변환한다. 도 1b에 도시된 바와 반대로, 감광성 표면(16)은 칩(12)의 전체 상면을 덮지 않을 수 있고, 영상 캡쳐 수단들(14)의 하부에 있는 칩 표면의 부분만을 덮을 수 있다.
영상 캡쳐 수단들(14)로서 채택될 수 있는 많은 광학 칩 형태들은 전하결합소자(CCD) 칩 및 상보형 금속 산화물 반도체(CMOS) 칩과 같이 이미 알려져 있다. 그러나, CCD 칩이 본 발명의 실시예의 카메라 장치(10)에 바람직한 반면, 당업자에게 명백하겠지만, 감광성 표면 상으로 입사된 캡쳐된 영상을 전기적 신호 또는 신호들로 변환하기에 적합한 어떠한 칩도 포베온(Foveon®)에 의해 제조된 영상 센서들과 같은 본 발명의 시스템 및 카메라 장치에 채택될 수 있다. 그러나, 아래에서 설명되겠지만, 어떤 신규한 수정들이 본 발명에서 그 사용을 위해 칩에 가해질 수 있다.
그와 같은 하나의 수정은 영상 센서 칩(12) 중에서 다수의 광 센서들 또는 화소들이, 광 센서들 또는 화소들의 로우 및 칼럼의 사각 그리드 어레이가 현재 유효한 CCD 칩들 또는 등가물로 알려진 바와 반대로, 대략 원형 배열로 평평한 감광성 표면(16) 상에 배열된다는 것이다. 대략 원형 배열의 선택은 주로 광 센서들 또는 화소들의 패턴을 제공하며, 이는 통상의 구성에 비해 작은 왜곡을 가지며 입사된 수신 영상을 가장 또는 더욱 효율적으로 캡쳐하거나, 또는 수평 라인들을 포함하는 통상의 모니터 화면 상으로 표시를 위한 영상 또는 영상 일부의 왜곡을 제거, 감소 또는 교정하는 처리가 덜 요구된다. 그러나, 다음의 설명에서 더욱 명확해 지겠지만, 광 센서들 또는 화소들의 대략 원형 배열로부터 발생되는 많은 추가적인 예상치 못한 기술적 효과가 있다.
도 2a 및 2b에 도시된 바와 같이, 본 발명 중 카메라 장치(10)의 일 실시예에서, 다수의 광 센서들 또는 화소들(20)은, 화소들(20)의 동일한 개수의 일련의 동심원으로서 평평한 감광성 표면(16) 상에 배열된다. 이는 방사 라인들(22)이 화소들(20)의 많은 동심원들(24)로부터 대응하여 위치된 화소들(20)에 방사상으로 교차하는 도 2b에 가장 잘 도시되어 있다. 광 센서들 또는 화소들(20)의 동심원들(24)은 영상 센서 칩(12)의 전체 감광성 표면(16)을 차지할 수 있다. 화소들(20)은, 예를 들면 광 센서들 또는 화소들이 인접한, 인접한 화소들(20) 사이에 공간이 없는 크기와 형태를 가질 수 있다.
도 2b에 도시된 다른 배열에서, 감광성 표면(16)의 중앙 영역(26)은 광 센서들 또는 화소들(20)의 감소된 밀도를 가질 수 있고, "전체"보다는 부분적인 파노라마 영상 화면을 제공하는 카메라 장치에 적합하도록, 광 센서들 또는 화소들(20)이 없을 수도 있다. 대안으로서, 완전 파노라마 영상 화면을 제공하는 카메라 장치를 위해, 칩의 감광성 표면(16)의 중앙 영역(26)은, 감광성 표면(16)의 외측 영역일수록, 중앙 영역(26)의 동심 링들(24) 에서 동일한 크기, 형태 및/또는 개수의 화소들의 구현이 어렵다는 점을 고려하여, 센서들 또는 화소들(20)의 동심 링들(24)에 의해 점유된 둘러싸인 영역의 것과 다른 광 센서들 또는 화소들(20)의 패턴을 가질 수 있다. 이 실시예에서, 각 동심원(24)에서의 광 센서들 또는 화소들(20)의 개수는 다른 동심원들(24)에서의 것과 같으나, 그들은 외측 원들(240)에 비교하여 내측 원들(24)에 대해서 감소된 영역 및/또는 형태일 수 있다.
도 3a 및 도 3b에 도시된 바와 같이, 본 발명의 카메라 장치(10)의 다른 실시예에서, 다수의 광 센서들 또는 화소들(20)은, 각 동심원(24)에서 일반적으로 동일한 크기의 센서들 또는 화소들(20)을 수용하기 위해, 화소들(20)의 동일하지 않은 개수의 일련의 동심원들(24)로서 감광성 표면(16) 상에 배열된다. 다시, 칩의 감광성 표면(16)의 중앙 영역(26)은 화소들이 없거나 또는 센서들 또는 화소들(20)의 동심 링들(24)에 의해 점유된 둘러싸는 영역의 것과 다른 광 센서들 또는 화소들(20)의 패턴을 갖는다.
다른 실시예로서, 감광성 표면(16)은, 동심원들의 외측 영역이 상호간 같은 개수의 센서들 또는 화소들을 갖고, 내측 영역이 상호간 같은 개수의 센서들 또는 화소들을 갖도록 구분될 수 있으나, 외측 영역의 동심원들에서의 센서들 또는 화소들의 개수가 내측 영역에서의 원의 그것과 다를 수 있다. 감광성 표면(16)의 구분은, 영역당 영상 해상도와 같은 다른 영상 효과를 제공하는 영상 센서 칩(12)으로 이끄는 각 영역의 동심 원들로 배열되도록 센서 또는 화소 개수들의 다른 조합들, 형태들 및/또는 크기를 허용하는 것으로 이해될 것이다. 감광성 표면은 센서들 또는 화소들의 비 원형 배열 또는 센서들 또는 화소들이 없는 중앙 영역(26)을 포함하는 두개 이상의 영역들을 가질 수 있는 것으로 이해될 것이다.
카메라 장치가 동영상을 캡쳐하고 캡쳐된 동영상을 대표하는 전기적 신호들이 디지털 포맷으로 변환되는 것에서, 디지털 포맷은 통상적으로 디지털 비디오 포맷을 포함할 수 있다. 이것은 비월 또는 순차 디지털 비디오 포맷일 수 있다. 비월 디지털 비디오 포맷의 경우, 번갈아 있는 광 센서들 또는 화소들(20)의 일련의 동심원들(24) 각각은 디지털 비디오 신호의 홀수 및 짝수 라인들에 할당된다. 순차 디지털 비디오 포맷의 경우, 모든 센서들 또는 화소들(20)의 동심원들(24)은 디지털 비디오 신호의 순차 라인에 할당된다.
도 4a 및 도 4b에 도시된 바와 같이, 본 발명의 카메라 장치(10)의 다른 실시예에서, 다수의 광 센서들 또는 화소들(20)은, 광 센서들 또는 화소들(20)의 적어도 한 조밀한 나선 라인을 포함하며, 감광성 표면(16) 상에 배열된다. 다시, 화소들(20)의 크기 및/또는 형태는, 인접하거나 또는 둘러싸는 화소들 사이에 공간이 없도록 되어 있다. 일견하면, 도 4a는 도 2a에 도시된 바와 같이, 동일한 개수의 일련의 동심원들에서 배열된 화소들(20)을 도시한 것으로 보이나, 도 4b에 잘 도시된 바와 같이, 화소들(20)은, 도 4b에서 방사상으로 확장하는 라인들(30)에 의해 도시된 바와 같이 방사상으로 정렬되는 화소들(20)과 함께 광 센서들 또는 화소들(20)의 단일 나선 라인(28)으로 배열된다. 다시, 칩의 감광성 표면(16)의 중앙 영역(26)은 화소들이 없거나 또는 센서들 또는 화소들(20)의 단일 나선 라인(28)에 의해 점유된 둘러싸는 영역의 것과 다른 광 센서들 또는 화소들(20)의 패턴을 갖는다.
대안으로서, 도 5a 및 도 5b에 도시된 바와 같이, 센서들 또는 화소들(20)의 단일 나선 라인(28)에서의 화소들은 도 4a및 도 4b에서와 같이 방사상으로 정렬되지 않고, 센서들 또는 화소들(20)의 단일 나선 라인(28)에 의해 점유된 감광성 표면(16)의 영역 전체를 통하여 유사한 밀도를 갖도록 배열될 수 있다.
도 6a 및 도 6b에 도시된 바와 같이, 감광성 영역(16)은, 카메라 응용에 따라, 방사상으로 정렬된 화소들을 갖는 광 센서들 또는 화소들(20)의 조밀한 2개의 비월 나선 라인들(32,34)을 포함하고, 영상 센서 칩(12)의 감광성 표면(16)을 덮는 광 센서들 또는 화소들의 3개 또는 그 이상의 조밀한 비월 나선 라인들일 수도 있다.
대안으로서, 도 7a 및 도 7b에 도시된 바와 같이, 센서들 또는 화소들(20)의 2개의 나선 라인들(32,34)에서 화소들은 도 6a 및 도 6b에서와 같이 방사상으로 정렬되지 않고, 센서들 또는 화소들(20)의 두개의 나선 라인들(32,34)에 의해 점유된 감광성 표면(16)의 전체 영역을 통해 비슷한 밀도를 갖도록 배열될 수 있다.
센서들 또는 화소들의 하나 또는 그 이상의 조밀한 나선 라인들을 이용함에 따른 하나의 예상치 못한 기술적 효과는 센서들 또는 화소들의 동심원을 사용하여 보다 큰 정도로 감광성 표면을 채우는 것이 가능하다는 것이다. 다른 말로, 비록 도 4 내지 7에 도시되어 있지는 않지만, 동심원들의 경우에 비하여 센서들 또는 화소들을 갖지 않거나 또는 센서들 또는 화소들의 다른 패턴을 갖는 훨씬 작은 중앙 영역을 가질 수 있으며, 이에 따라, 디지털 포맷으로의 영상 변환을 증가시키고, 영상 센서 칩 표면중 중앙 영역의 특별한 처리에 대한 필요성을 감소시킨다.
하나 또는 나선 라인의 센서들 또는 화소들을 형성하는 화소들(20)의 크기 및/또는 영역은 하나 또는 그 이상의 라인들을 따라 동일하거나, 또는 라인들이 감광성 표면의 중앙에 근접함에 따라 크기 및/또는 영역에 있어서 점차적으로 감소할 수 있다.
하나 또는 그 이상의 나선 라인들을 이용함에 따른 추가적인 예상치 못한 기술적 효과는, 나선들의 조밀함을 보장함에 의해, 예를 들면, 인접하거나 둘러싸는 화소들 사이에 공간이 없도록 나선 라인들의 대응하는 영역들이 상호간 가깝게 위치되고, 센서들 또는 화소들이 동심원 배열에 비교하여 약간 차이가 있는 배열로 위치되고, 감광성 표면의 외측 둘레로부터 근처의 중앙점으로 확장하는 하나 또는 그 이상의 순차적 라인들을 형성한다는 것이다.
감광성 표면이 센서들 또는 화소들의 단일 나선을 포함하는 곳에서, 이것은 순차적인 라인 디지털 비디오 신호에 할당될 수 있다. 감광성 표면이 센서들 또는 화소들의 두개의 비월 나선을 포함하는 곳에서, 각 라인은 이중 라인 디지털 비디오 신호의 홀수 또는 짝수 라인들에 각각 할당될 수 있다.
도 2 내지 도 7의 실시예에서, 광 센서 또는 화소들의 라인 배열과, 센서들 및 화소들의 형태들은 광 센서들 또는 화소들의 라인 또는 라인들이 광 센서들 또는 화소들의 사이에 어떠한 갭도 없고 감광성 표면의 표면을 채우도록 할 수 있다. 또한, 광 센서들 또는 화소들은 베이어(Bayer) 센서, 포베온(Foven® 센서 또는 CCD 센서(예를 들면, 적절한 3CCD 센서)중 어느 하나를 포함할 수 있다. 베이어 센서는 저가의 센서이며 일반적으로 영상 센서 칩중에서 발견할 수 있다. 베이어 센서는, 적색, 녹색 및 청색에 민감한 비월 격자를 형성하는, 선택된 화소 센서에 적색, 녹색 또는 청색 광을 통과시키는 컬러 필터 어레이를 포함한다. 베이어 센서는, 또한, 광이, 장치측 상의 금속 연결이 광에 대하여 방해가 되지 않도록, 그리고 효율이 높도록 트랜지스터 및 금속 와이어가 있는 측의 반대측으로부터, 민감한 실리콘에 입사하는 백 조명 센서들을 포함한다. 포베온 센서는 계층화된 화소 센서들의 배열을 이용하며, 이는 실리콘의 고유 파장에 의존하는 흡수 특성을 통해 광을 분리함으로써, 모든 위치가 모든 3개의 색상 채널을 감지한다. 3CCD 센서는 색선별 프리즘에 의해 수행되는 색상 분리와 함께, 3개의 분리된 영상 센서들을 이용한다.
대략 원형 배열로 광 센서들 또는 화소들(20)을 배열하는 것이 어안 렌즈(18)에 의해 초래된 영상 왜곡이 화소들의 배열에 의해 어느 정도 대응되는 장점을 제공하고, 이에 따라 잔존하는 왜곡을 해소하도록 대응하는 디지털 영상 데이터의 처리를 감소시킬 수 있는 반면, 본 발명은, 고품질 응용을 위해, 감광성 표면(16) 상에 광 센서들 또는 화소들(20)의 패턴을 특별한 렌즈(18), 예를 들면, 화소들(20)의 대략 원형 배열로 수정함으로써 수정된 패턴이 대략 상기 특별한 렌즈에 의해 초래된 모든 왜곡을 대응하도록, 패턴을 정합(match)시키는 변형을 포함할 수 있다. 감광성 표면 상에서 화소의 레이아웃은 당업자에 의해 이해될 수 있는 마스킹 공정에 의해 결정되고, 이것은 따라서 렌즈의 광 투과 특성들을 패터닝함에 의해 특별한 렌즈에 어울리는 특별한 광학 칩을 위한 마스크를 제조할 수 있다. 패턴의 수정은 화소의 밀도, 크기, 영역, 형태와 같은 이미 언급된 변형의 일부를 포함할 수 있다. 이것은 영상이 렌즈에 의해 압축되는 화소의 밀도, 크기, 영역 및/또는 형태를 증가시키는 것과, 영상이 렌즈에 의해 확장되는 화소의 밀도, 크기, 영역 및/또는 형태를 감소시키는 것을 포함할 수 있다.
감광성 표면 상에 광 센서들 또는 화소들의 특정한 배열에도 불구하고, 센서들 또는 화소들의 신호 출력들은 방사상 방식으로 읽혀지거나 처리될 수 있으며, 가장 내측의 센서들로부터 방사상 바깥쪽으로 위치된 센서들 또는 화소들의 연속적인 출력에 의해 감광성 표면의 중앙 점 또는 영역에 인접한 가장 내측 센서들의 출력이 먼저 읽혀질 수 있다. 대안으로서, 최외곽 센서들로부터 방사상 안쪽으로 위치된 센서들 또는 화소들의 연속적인 출력에 의해, 감광성 표면 상에서의 최외측 센서들 또는 화소들이 읽혀지거나 처리될 수 있다.
다른 실시예로서, 감광성 표면의 광 센서들 또는 화소들은 초광각 영상(예를 들면, 대략 원형 영상을 방사상으로 캡쳐하거나 스캔함)을 방사상으로 캡쳐하거나 스캔하도록 배열될 수 있다.
도 1을 다시 참조하면, 카메라 장치(10)는 광 센서들 또는 화소들(20)로부터 발생된 전기적 신호들을 디지털 영상 데이터로 변환하기 위한 수단들을 포함할 수 있다. 변환을 위한 수단들(40)은 CCD 칩들로 알려진 카메라 장치 내에 제공된 적절한 회로 또는 CMOS 칩들로 알려진 영상 센서 칩 자체 상의 추가적인 회로를 포함할 수 있다. 어떠한 경우이든, 비록 몇몇 카메라 장치를 위해, 그들의 응용 또는 사용에 따라, 카메라 장치가 영상 센서 칩(12)으로부터 원격 장치(미도시)로 상기 원격 장치에서 디지털 영상 데이터를 변환하여 출력 신호들을 전송하기 위한 출력을 갖는다고 이해가 되어도, 본 실시예에서 카메라 장치(10)가 영상 센서 칩(12)의 출력으로부터 디지털 영상 데이터를 발생시키기 위한 회로를 포함한다는 것은 유용하다.
따라서 도 1 내지 도 7에 관해 지금까지 설명된 통합 카메라 장치(10)는 시스템 내에 카메라 장치(10)를 형성할 수 있고, 카메라 장치(10)는 하나 또는 그 이상의 원격 장치에 캡쳐된 파노라마 영상을 대표하는 디지털 영상 데이터 또는 신호들을 출력하며, 신호들 또는 데이터의 추가적인 처리가 수행될 수 있다. 이와 같은 시스템에서, 카메라 장치(10)는 파노라마 영상 화면을 캡쳐하고, 상기 영상 화면을 대표하는 데이터 또는 신호들을 표시 및/또는 추가적인 처리를 위해 원격 장치들의 적어도 하나에 전송하도록 동작한다. 카메라 장치(10)는 정지 영상 카메라의 방식으로 정지 영상을 캡쳐하도록 배열되나, 바람직하기로, 정지 영상 용량을 가진다고 해도, 동영을 캡쳐하도록 배열된다.
또한, 도 1을 참조하면, 카메라 장치(10)가 광 센서들 또는 화소들에 의해 생성된 전기적 신호들을 디지털 영상 데이터로 변환하기 위한 수단을 포함하는 곳에서, 이것은 상기 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위한 수단들(40)을 또한 포함한다. 당업자에게 친숙한 어떠한 적절한 저장 또는 버퍼링 수단들(40)도 카메라 장치(10) 상의 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위해 이용될 수 있다. 예를 들면, 상기 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들(40)은 플래시 메모리 또는 칩을 포함할 수 있다.
이러한 실시예에서, 카메라 장치(10)는 상기 캡쳐된 파노라마 영상의 윈도우 영역의 선택을 수신하기 위해 버튼, 터치 스크린 또는 등가물과 같은 입력 수단들(42)을 포함한다. 카메라 장치(10)는 컴퓨터로 읽을 수 있는 명령을 저장하는 메모리 수단들(44)을 가지며, 이는 프로세서(46)에 의해 실행될 때, 입력 수단들(42)을 통하여 저장되거나 버퍼링된 파노라마 영상의 윈도우 영역의 선택에 사용자가 진입하도록 함을 포함하는 카메라 장치(10)의 동작을 제어한다. 버퍼링 디지털 영상 데이터는 관측되는 영상 장면의 윈도우 영역의 실시간 선택을 가능하게 하는 반면, 저장된 디지털 영상 데이터는 미리 저장된 영상 장면의 윈도우 영역의 선택을 가능하게 함이 이해될 것이다.
도 8을 참조하면, 윈도우 영역의 선택은 카메라 장치(10) 또는 카메라 장치(10)에 연결된 주변 장치(미도시)의 표시 스크린의 표시 영상, 표시면 또는 대표 영상(60,62,64) 위에 있는 윈도 프레임(66)과 함께 파노라마 영상의 파노라마 영상 또는 대표 영상(64)의 영상(60) 또는 표시면(62)을 표시함을 포함할 수 있다. 표시 영상, 표시면 또는 대표 영상(60,62,64)에 대한 윈도우 프레임(66)의 위치는 표시 영상, 표시면 또는 대표 영상(60,62,64)를 따라 움직이고, 이에 따라 복구 및 표시/플레이를 위한 파노라마 영상의 원하는 윈도우 영역을 선택하도록 움직이는 화살표 라인들(68,70,72)에 의해 표시된 바와 같이 사용자에 의해 조작될 수 있다. 물론, 원하는 윈도우 영역을 선택하는 다른 방법들이 입력 수단들(42)의 특징 및 구성에 따라 제공될 수 있다.
복구를 위한 선택된 윈도우 영역의 식별을 위해, 영상 센서 칩(12)의 광 센서들 또는 화소들(20)은 바람직하기로 주소 또는 식별자를 가질 수 있으며, 사용자가 윈도우 프레임(66)을 이용하여 원하는 윈도우 영역의 선택을 입력하면, 이것은 카메라 장치(10)의 프로세서(46)에 의해, 어느 디지털 영상 데이터가 선택된 윈도우 영역에 대하여 복구되어야 할 지 결정하도록 광 센서들 또는 화소들(20) 및/또는 그들이 점유한 라인들의 적절한 개별 또는 블록을 위해 주소 또는 식별자로 번역된다.
프로세서(46)는, 또한, 상기 선택된 윈도우 영역을 포함하는 디지털 영상의 버퍼 또는 저장 수단들(40)로부터 복구를 가능하게 하며, 이는 카메라 장치(10)의 스크린(48) 상에 추가적인 처리 및/또는 표시를 위해, 또는 상기 복구된 디지털 영상 데이터가 개인용 컴퓨터, 개인용 디지털 보조 장치, 스마트폰 또는 그 등가물과 같은 주변 장치 또는 분리된 표시 장치로 카메라 장치(10)의 출력 포트(50)로 출력되도록 상기 복구된 디지털 영상 데이터를 위한 것이다.
도 9를 참조하면, 이것은 도 2 또는 도 3에 관하여 이전에 기술한 바와 같이 동심원 배열을 갖는 영상 센서 칩(12) 상에 카메라 장치(10)에 의해 캡쳐된 파노라마 영상(73)의 선택된 윈도우 영역(74)과, 카메라 장치(10)의 스크린(48) 상의 윈도우 영역(74) 또는 예를 들면 원격 모니터와 같은 표시 장치 사이의 관계를 보여준다. 비 원형으로 배열된 광 센서들 또는 화소들과 함께 영상 센서 칩들을 채용하는 카메라 장치들과 비교하였을 때, 통상의 평면 표시 장치 상에서 선택된 윈도우 영역(74)을 표시하기 위해 영상 데이터 처리가 없거나 영상 데이터 처리량이 감소됨을 이해할 것이다.
본 발명의 카메라 장치(10)에 의해 캡쳐된 파노라마 영상의 원하는 윈도우 영역을 선택하는 상술한 방법은 광학적 칩을 사용하여 캡쳐된 영상이 도 4 내지 도 7의 어느 하나에 따른 화소들 또는 광센서들의 배열을 갖도록 하여 동일하게 이용될 수 있다.
도 1의 카메라 장치(10)에서, 프로세서(46)는 사용자가 선택된 윈도우 영역의 종횡비를 선택할 수 있도록 명령을 수행할 수 있다. 도 10에 도시된 바와 같이, 종횡비는 다수의 미리 지정된 종횡비 A, B, C로부터 선택될 수 있다. 상기 미리 지정된 종횡비 A, B, C는 많은 통상의 장치들이 갖는 표시 스크린의 종횡비로 정의될 수 있다. 대안으로서, 표시 윈도우 영역을 위한 종횡비는 미리 정의된 한계 내에서 사용자 정의 종횡비를 포함할 수 있다. 다른 대안으로서, 프로세서(46)는 카메라 장치 스크린(48)의 종횡비 또는 요구된 윈도우 영역의 종횡비에 따라 부착된 원격 표시 장치의 스크린의 종횡비를 자동적으로 선택하도록 명령을 수행할 수 있다.
이제 도 11을 참조하면, 본 발명에 따른 첫번째 시스템의 제2주요 실시예가 도시되어 있다. 이것은 파노라마 영상을 캡쳐하고, 캡쳐된 파노라마 영상을 대표하는 디지털 영상 데이터 또는 전기적 신호들을 메모리 뱅크 또는 데이터 베이스(102), 서버 또는 컨트롤러(104), 하나 또는 그 이상의 입력 장치들(106)을 포함하는 하나 또는 그 이상의 분리된 장치들에게 출력하는 카메라 장치(100)를 포함하는 분산 시스템을 포함한다. 메모리 뱅크 또는 데이터 베이스(102)는 디지털 영상 데이터의 저장 및/또는 버퍼링을 위해 제공된다. 분리된 메모리 뱅크 또는 데이터 베이스(102)는 파노라마 영상을 대표하는 카메라 장치(100)로부터 수신된 전기적 신호를 카메라 장치가 이러한 능력을 가지 않는 경우에 디지털 영상 데이터로 변환하도록 한다. 시스템은 하나 또는 그 이상의 사용자로부터 파노라마 영상의 요구된 윈도우 영역의 선택 또는 선택을 처리하고, 상기 선택들에 반응하여 디지털 영상 데이터를 복구하기 위해 서버 또는 컨트롤러(104)를 포함하고, 하나 또는 그 이상의 입력 장치들(106)은 파노라마 영상의 윈도우 영역의 요청된 선택들을 서버 또는 컨트롤러(104)에 전송하고, 표시 장치 또는 발행된 요청에 응답하여 복구된 디지털 영상 데이터를 위해 수신하도록 되어 있다.
카메라 장치(100)는 도 1 내지 도 10에 대하여 기술한 바와 같이 본 발명의 제1주요 실시예에 대하여 앞에서 기술한 바대로 영상 센서 칩(12)을 채용한다. 카메라 장치(100)는 바람직하기로 영상 센서 칩의 출력을 제1주요 실시예의 카메라 장치(10)와 유사한 방식으로 디지털 영상 데이터로 변환하기 위한 수단들을 포함하나, 이것이 제2주요 실시예의 시스템의 동작에 필수적인 것은 아니다. 카메라 장치(100)는 국부적으로 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단들을 포함하나, 바람직하기로 디지털 영상 데이터의 저장이 분리된 메모리 뱅크 또는 데이터 베이스(102)에 의해 제공된다. 따라서, 카메라 장치(100)는, 카메라 장치(100)로부터 메모리 뱅크 또는 데이터 베이스(102)로 데이터를 스트리밍하는 실시간 방식으로, 또는 데이터가 예를 들면 배치(batch) 또는 파일 로 전송되는 비 실시간 방식으로, 디지털 영상 데이터가 카메라 장치(100)로부터 메모리 뱅크 또는 데이터 베이스(102)로 전송되도록 하는 방식으로 메모리 뱅크 또는 데이터 베이스(102)에 연결된다.
장치들 사이의 디지털 영상 데이터의 전송, 보다 구체적으로, 카메라 장치(100)로부터 메모리 뱅크 또는 데이터 베이스(102)까지의 디지털 영상 데이터의 전송은 실시간이이거나 또는 요청, 폴링(polling) 또는 다른 적절한 전송 방식에 따른 배치 방식(batch)으로 수행될 수 있다. 카메라 장치(100)는 케이블, 케이블 네트워크, 또는 통신 네트워크(108)에 의해 메모리 뱅크 또는 데이터베이스(102)에 연결될 수 있다. 서버/컨트롤러(104) 및 입력 장치들(106)이 케이블, 케이블 네트워크, 또는 통신 네트워크(108)에 의해 메모리 뱅크 또는 데이터 베이스(102) 및 카메라 장치(100)에 또한 연결될 수 있다. 통신 네트워크(108)는 사설 통신 네트워크, 공공 네트워크, 또는 그들의 조합일 수 있다. 네트워크는 도 11의 클라우드(cloud)에 의해 도시된 바와 같이 인터넷(110)을 포함할 수 있다. 이것은 또한 근거리 통신망 (LAN) 및/또는 광역 통신망 (WAN)을 포함 할 수 있다. 당업자는 네트워크의 특징을 인식할 것이며, 이는 네트워크 기반 장치들을 연결하는데 사용될 수 있고, 본 실시예의 시스템에서, 상기 시스템을 포함하는 모든 분리된, 원격 장치들은 바람직하기로 데이터 및/또는 명령, 요구 및 대응 메시지를 공유하기 위한 네트워크 기반이다.
도 11의 시스템은 하나 또는 그 이상의 카메라 장치(10,100)를 채용한 감시 시스템, 하나 또는 그 이상의 카메라 장치(10,100)를 채용한 공공 엔터테인먼트 이벤트 분산 시스템, 또는 한예로서 원격지 회의 시스템을 포함할 수 있다.
사용에 있어서, 도 11의 분산 시스템의 카메라 장치(10,100)는 파노라마 영상을 캡쳐하고, 메모리 뱅크 또는 데이터 베이스(102)에 영상을 대표하거나 정의하는 전기적 신호들 또는 디지털 영상 데이터를 제공하며, 이는 바람직하기로 디지털 영상 데이터를 버퍼링하고 저장하기 위한 데이터베이스에 접근할 수 있는 네트워크이다.
서버/컨트롤러(104)는 사용자 장치들(106)로부터 요청들을 수행하도록 배열된다. 이러한 요청들은 사용자에 의한 파노라마 영상의 요청, 선택된 윈도우 영역들을 포함할 수 있다. 요청들은 실시간 영상 장면 또는 미리 녹화된 영상 장면의 윈도우 영역들을 위한 것일 수 있다. 어떤 경우이든, 서버/컨트롤러(104)는 요청에 응답하여 디지털 영상 데이터를 복구하고, 각각의 입력 장치(106)에 복구된 데이터를 전송하기 위해 데이터베이스 (102)와 통신한다. 서버/컨트롤러(104)는 사용자 장치들(106)로부터 요청된 선택들에 관계된 제어 신호들을 수신하고 처리할 수 있으며, 또한 따라서 데이터베이스로부터 데이터 복구를 수정할 수 있다.
도 11의 시스템은 감시 시스템의 제어 포인트, TV 생산 시스템의 편집 포인트, 최종 사용자의 TV, PC, PDA 또는 모바일 핸드 세트 또는 그 등가물과 같은 입력 장치(106)의 사용자가 표시 또는 입력 장치(106)에서의 추가적인 처리를 위한 위한 파노라마 영상의 한 영역을 요청하도록 하고, 또한 윈도우 영역의 요청된 선택들에 관련된 명령을 실행하도록 한다.
다시 도 10을 참조하면, 캡쳐된 파노라마 영상(73)의 표시 영상, 표시면 또는 대표 영상(60, 62,64)이 도시되어 있고, 이는 카메라 장치의 영상 센서 감광성 표면(16)의 레이아웃을 따른다. 소정 종횡비의 윈도우 영역들 A,B,C는 사용자 입력 장치의 특정 형태에 알맞으며, 일례로, 파노라마 영상(73)의 평면 상에 표시된다. 그러나, 비록 몇몇 장점이 그렇게 함으로써 성취되기는 하지만, 상기 종횡비가 어떤 특정한 장치에 미리 정의되거나 정합되는 것이 필수적인 것은 아니다.
도 10에 도시된 바와 같이, 사용자는 파노라마 영상(73)의 윈도우 영역의 선택에 관련된 다수의 명령들을 실행할 수 있다. 이러한 예로, 명령은 팬(pan) 명령(70,72)을 포함하고, 이는 사용자가 요청하는 것이며, 이는 선택된 윈도우 영역이 영상(73) 주변에서 상하좌우로 움직이는 것이다. 다른 명령은 틸트(tilt) 명령(68)으로서 이는 선택된 윈도우 영역에서 도 10의 평면도 중앙을 향하여 움직이도록 하거나, 또는 줌-인 또는 줌-아웃 특징으로서 이는 선택된 윈도우 영역을 크게 또는 작게 표시하도록 한다.
서버/컨트롤러(104)는 다수 사용자들의 다수 명령들을 수용하도록 함으로써, 예를 들면, 사용자 요청 윈도우 영역들이 중첩되도록 할 수 있다. 더욱이, 각 사용자들은 상술한 명령들을 통하여 선택된 윈도우 영역을 능동적으로 바꿀 수 있도록 하며, 이는 사용자가 캡쳐된 파노라마 영상(74)의 어느 부분이라도 볼 수 있도록 하는 실시간 명령들을 포함할 수 있다.
본 발명에 따른 하나 또는 그 이상의 카메라 장치(10,100)를 이용하는 감시 시스템과, 디지털 이미지 데이터를 버퍼링 및/또는 저장하기 위한 메모리 장치(40,102)에서, 제어 포인트에서 보안 요원들이 카메라 장치(10,100) 주변의 파노라마 영역을 조사하거나 모니터링하기 위해 단일 카메라 장치(10,100)에 의해 캡쳐된 영상을 사용할 수 있음에 따라, 동일한 영역을 커버하기 위해 다수의 통상의 카메라 장치들의 필요가 없다. 더욱이, 각 요원들이 팬, 틸트, 줌과 같은 명령들을 실행함에 따라, 본 발명에 따른 시스템에서 카메라 장치는 물리적 팬 또는 틸트 동작을 수행하도록 하는 모터를 갖는 통상의 카메라 장치를 제공하거나, 통상의 시스템에서와 같이 특정 카메라를 특정 요원에게 할당할 필요가 없다.
또한, 감시 시스템에서, 보안 요원이 선택된 윈도우 영역으로부터 실시간으로 발생한 사건을 관찰하지 못하였다고 해도, 파노라마 영상의 저장에 의해 파노라마 영상의 추후 관찰로 증거 및/또는 다른 보안 목적을 위해 놓친 사건을 볼 수 있도록 한다.
공공 엔터테인먼트 분배 시스템에서, 구독하거나 또는 예를 들면, 콘서트의 영상을 보기 위해 디지털 저작권 소유자의 시스템(도 11에서 서버 컨트롤러(104)에 의해 표시됨)에 연결된 사용자(106)는 파노라마 영상의 어떠한 영역이라도 자유롭게 볼 수 있고, 사용자에게 유효하게 만들어진 영상을 기록하는 생산자에게 의존하지 않아도 된다. 관측되고 있는 이러한 자가 편집의 자유는 디지털 저작권자의 콘테츠를 구독하거나 또는 접근을 구매하는 욕망을 크게 향상시킨다. 더욱이, 사용자는 파노라마 영상 모드에 기록된 그/그녀가 콘서트 또는 공공 엔터테인먼트 이벤트를 볼 때마다 독특한 관람 경험을 만들 수 있다.
일 특징으로서 본 발명은 360도 전경 내에서 팬, 틸트 및 줌 기능들의 이산 실시간 제어 방식으로 라이브 또는 미리 기록된 원격지를 조사할 수 있는 능력을 다수의 사용자들에게 제공하기 위해 디자인된 고체 상태 카메라 시스템에 관한 것임을 알 수 있다. 장치는 주변 환경의 전체 360도 전경을 캡쳐하는 CCD와 같은 광학 센서 칩 상에 장착된 반구형 또는 어안 렌즈로 이루어진다.
센서 어레이에 의한 결과 영상이 원형이고, 장치가 수평면에서의 세트라고 가정하면, 대부분의 응용에서, 주요 관심 영역은 관측 수평 필드의 파노라마일 것이고, 이는 외측 둘레로부터 대략 1/3 직경까지의 원의 도넛 형태에 위치될 것이다.
센서 어레이의 출력은 버퍼, 서브 세트 또는 "윈도우"로 공급되고, 이후 적절한 해상도 및 사용자 모니터 장치의 종횡비로 사용자에게 출력된다. 그런 후, 사용자는 보기를 원하는 방향을 선택하고, 이에 따라 다수의 사용자들이 동시에 어떠한 조건의 해상도와 종횡비에서도 360도 전경 내에서 이산 팬 및 틸트 파라메터들을 제어하도록 하는 표시 버퍼 내에서 윈도우의 움직임을 제어할 수 있다. 장치의 완전 전경 출력이 그 전체에서 보이지 않을 수 있으나, 그것은 장치에 의해 캡쳐된 360도 전경 내의 어느 곳에서도 자유럽게 팬 및 틸트로 기록되고 정보를 얻을 수 있다.
이제 도 12를 참조하면, 본 발명에 따른 제2시스템의 제1주요 실시예가 도시되어 있다. 시스템은 화면(미도시) 상으로 초광각 영상을 투사하기 위한 시스템을 포함한다. 시스템은 초광각 영상 데이터를 수신하기 위한 입력(202)과 같은 수단을 갖는 프로젝터 장치(200)를 포함한다. 프로젝터 장치(200)는 또한 초광각 영상 데이터를 광학 영상으로 변환하기 위한 수단들(204)을 갖는다. 이러한 실시예에서, 상기 변환 수단들(204)은 발광 광센서들 또는 화소들(205)의 광학 칩 또는 어레이(206)를 포함한다. 이것들은, 예를 들면, 수신된 디지털 영상 데이터에서 구현된 디지털 비디오 신호의 홀수 및 짝수 라인들에 할당된 발광 소자(205)의 교번 동심원들을 갖는 것을 포함하는 도 2 내지 도 7에 도시된 광학 칩(12)의 광 센서들 또는 화소들의 패턴들과 같은 방식으로, 대략 원형 패턴으로 배열된다. 실제로, 프로젝터 장치(200)의 발광 광센서들 또는 화소들(205)은, 발광 광 센서들 또는 화소들(205)이 수신된 광학 영상으로부터 얻은 전기적 신호를 광으로 변환한다는 점에서, 본 발명의 제1시스템의 광학 칩(12)의 화소들의 역동작을 수행한다. 발광 광센서들 또는 화소들(205)의 광학 칩 또는 어레이(206)는 영상 투사 수단들(208)을 향하여 광학 영상 또는 광학 영상의 일 영역을 포함하는 빛을 발산하도록 배열된다. 스크린 또는 가리개 또는 그 등가물과 같은 화면(미도시)은 영상 투사 수단들(208)에 근접하여 설치되고, 영상 투사 수단들(208)은 상술한 광학 영상 또는 그것의 일부를 상술한 화면 상에 투사한다. 몇몇 실시예에서, 발광 광센서들 또는 화소들(205)은 발광다이오드(LED) 액정표시장치(LCD) 소자를 포함할 수 있다.
프로젝터 장치(200)는 파노라마 영상(정지 영상 또는 동영상)을 구현하는 수신된 디지털 영상 데이터를 버퍼링 및/또는 저장하기 위한 버퍼 또는 저장 수단들(210), 기계적으로 실행 가능한 명령들을 저장하기 위한 메모리 수단들(212), 수신된 디지털 영상 데이터를 처리하고, 이를 변환 수단들(204)에의 입력과 같은 전기적 신호로 변환하며, 다른 동작을 제어하는 프로세서(214), 및 프로젝터 장치(200)의 응용들을 포함할 수 있다. 대안으로서, 프로젝터 장치(200)는 통신 네트워크에 대한 데이터베이스와 같은 버퍼/저장 수단들에 연결될 수 있고, 디지털 영상 데이터가 상술한 네트워크에 대한 데이터베이스로부터 프로젝터 장치(200)에 전송된다. 따라서, 프로젝터 장치는 도 11에 도시된 본 발명의 제1시스템의 부분을 포함할 수 있고, 카메라 장치(10,100)에 의해 캡쳐된 디지털 영상들은 데이터 베이스(102)에 전송되고, 이후 요청 또는 다른 트리거 동작에 의해 프로젝터 장치(200)로 전송된다.
사용 시에, 수신된 디지털 영상 데이터는 카메라 장치(10,100)으로부터 직접 또는, 예를 들면, 도 11의 분산 시스템의 데이터베이스(102)로부터 프로젝터 장치(200)에 수신될 수 있다.
본 발명의 제1시스템과 같은 방식으로, 영상 투사 수단들(206)은 다수의 광 센서들 또는 화소들에 의해 형성된 광학 영상을 투사하기 위해 렌즈, 렌즈 세트, 미러, 미러 세트, 프리즘 또는 프리즘 세트를 포함할 수 있으나, 도 12에서, 영상 투사 수단들(206)은 어안 렌즈(216)을 포함한다. 어안 렌즈는 화면 상으로 투사된 영상의 왜곡을 감소시키거나 제거하기 위해 발광 칩 또는 어레이(206)와 정합될 수 있다.
또한, 본 발명의 제1시스템과 같은 방식으로, 본 발명의 제2시스템은 초광각 광학 영상의 윈도우 영역의 선택을 수신하기 위한 입력 수단들(218)을 포함할 수 있고, 그에 따라 프로세서(214)는 버퍼 또는 저장 수단들(210)로부터 또는 데이터 베이스(도 11)로부터 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하도록 배열되어 있다. 따라서, 동작에 있어, 사용자는 프로젝터 장치(200) 상의 윈도우 표시 장치(220)를 통한 파노라마 영상의 윈도우 영역, 또는, 사용자가 파노라마 영상의 일 영역(이것은 그런 후 예를 들면 표시 스크린과 같은 화면 상으로 투사됨)을 선택하도록 하는 윈도우 프레임을 보여주는 연결 장치(미도시)를 선택하도록 한다. 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 팬 명령, 틸트 명령 및 줌 명령 중 어느 하나와 같은 선택된 윈도우 영역과 결합된 명령들을 수신하도록 되어 있다.
초광각 영상의 윈도우 영역의 선택을 수신하기 위한 수단들은 도 11의 서버/컨트롤러(104)를 포함할 수 있고, 서버/컨트롤러(104)는 프로젝터 장치(200)에 전방으로의 전송을 위해 데이터베이스(102)로부터 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 또한 복구하도록 배열될 수 있다.
이제 도 13을 참조하면, 본 발명에 따른 제2시스템의 제2주요 실시예가 도시되어 있다. 이것은, 다수의 발광 화소들이 백라이트(224) 또는 그 등가물과 함께 LED 또는 LCD 타입 표시 패널(222)에 의해 대체된다는 점을 제외하고, 도 12에 도시된 제2시스템의 제1주요 실시예와 일반적으로 동일한 구조를 갖는다.
이제 도 14를 참조하면, 본 발명에 따른 제2시스템의 제3주요 실시예가 도시되어 있다. 이것은 다수의 발광 화소들이, 스캐닝 미러(228) 상에 제공되는 대략 원형 어레이를 스캐닝하는 레이저(226)로 대체되었다는 점을 제외하고, 도 12에 도시된 제2시스템의 제1주요 실시예와 일반적으로 동일한 구조를 갖는다.
도 15는 관측자가 서라운딩 스크린(230) 내에 위치되는 서라운딩 반구형 화면/스크린(230) 상으로 파노라마 영상을 투사하기 위해 위치된 도 12 내지 14중 어느 하나의 프로젝터 장치를 도시하고 있다. 이 배열에서, 완전한 파노라마 영상이 스크린(230) 또는 대응하거나 서라운딩 스크린의 선택된 영역들 상으로 투사된 선택된 영역들 상으로 투사될 수 있다.
도 16은 도 15의 것과 유사한 배열을 도시하나, 도 15의 배열과 비교하였을 때 뒤집어진 대략 반구형 서라운딩 스크린(232) 위에 설치된 프로젝터 장치(200)를 도시한다. 다시, 완전 파노라마 영상이 스크린(232) 또는 대응하거나 또는 서라운딩 스크린의 선택된 영역들 상으로 투사된 선택된 영역들 상으로 투사될 수 있다.
도 17은 도 16의 것과 유사한 배열을 도시하나, 도 15의 배열과 비교하였을 때 마찬가지로 뒤집어진 절단된 반구형 서라운딩 스크린(236) 상으로 영상을 투사하기 위해 반구형 반사 소자(234)의 하부인 동시에 이를 향하는 위치에 설치된 프로젝터 장치(200)를 도시한다. 다시, 완전한 파노라마 영상이 스크린(232) 또는 서라운딩 스크린의 대응하는 영역들 상으로 투사된 선택된 영역들 상으로 투사될 수 있다. 이 경우, 상기 배열은, 상기 투사된 영상이 그것의 내부가 아닌 스크린(232)의 외측으로부터 관측되는 것일 수 있다.
도 18에 도시된 바와 같이, 본 발명에 따른 제2시스템은 사용자에 의해 착용되는 헤드기어(240) 형태의 헤드업 표시 장치를 포함한다. 따라서, 화면은 헤드기어(240)의 가리개(242)를 포함할 수 있고, 이에 따라 파노라마 영상의 한 부분이 헤드기어를 착용한 사람에 의한 관측을 위해 가리개(242)의 내측 표면상으로 투사된다. 이러한 배열에서, 카메라(10,100)에 의해 캡쳐된 도 18의 X에 의해 표시되는 완전 파노라마 영상이 헤드기어(240) 또는 헤드 기어에 관련된 정보 처리 장치(미도시)에 사용될 수 있다. 그러나, 도 18에서 Y에 의해 표시된 바와 같이 완전 영상의 일부만이 부분적인 어안 프로젝터 장치(200)에 의해 가리개 상으로 투사된다. 헤드기어의 배열은, 정보 처리 장치가 사람 머리 및 이에 따라 소정 데이터에 관한 헤드 기어의 움직임에 응답하여 초광각 광학 영상의 윈도우 위치의 선택을 수신한다. 소정 데이터는 신체 위치에 대하여 사람의 전방 시각의 중심점을 대표하는 포인트 또는 라인으로서 취해진다. 따라서, 정보 처리 시스템에 이용 가능한 파노라마 영상은 헤드기어를 착용한 사람 주변의 파노라마 장면을 포함하거나 표시한다. 사람이 선택된 데이터로부터 머리를 회전함에 따라, 가리개에서 표시되는 영상은, 그들 주변의 영상을 직접 보고 있었다면 사람이 자연스럽게 보게 되는 장면에 정합하도록 회전한다. 이러한 배열의 장점은 사용자가 파노라마 장면의 어떠한 부분에 비전의 직접적인 라인을 실제로 가질 필요가 없다는 것이다. 실제로, 사람은 관측되는 파노라마 전경의 가능한 직접적인 영상 장면이 없는 밀폐된 환경에 있을 수 있다.
도 18에 도시된 헤드기어는 또한, 헤드기어의 착용자가 서라운딩 영상 장면의 중앙 점에 있지 않는 환경에 응용될 수 있으나, 운반체(예를 들면, 항공기 즉, 상술한 영상 장면의 중앙에서)를 제어한다. 이러한 경우, 운반체의 원격지에 위치된 오퍼레이터는 가리개 상으로 투사되는 새로운 영상 장면 영역들로 번역되는 적절한 머리 움직임을 통해 모든 운반체 주변을 볼 수 있다.
이러한 배열의 다른 변화로서, 가리개 또는 화면 스크린은 헤드 기어의 부분을 형성하지 않을 수 있으나, 파노라마 영상의 일부를 도시하는 부분적으로 서라운딩 스크린을 포함할 수 있다. 그러나, 오퍼레이터가 머리를 움직임에 따라, 스크린 상으로 투사되는 파노라마 영상 부분은 소정 데이터에 비례하는 오퍼레이터의 머리 위치에 관련된 위치로 스크롤한다.
도 19 및 도 20은 본 발명에 따른 전화 회의 시스템을 도시한다. 도 19는 전화 회의 스테이션(300)을 도시한 반면, 도 20은 다수의 전화 회의 스테이션(300)을 도시하며, 각각은 본 발명의 제1시스템에 따른 카메라 장치(10,100)와, 본 발명의 제2시스템에 따른 프로젝터 장치(200)를 채택하고 있다. 전화 회의 시스템의 이러한 실시예에서, 카메라 장치(10,100)는 책상 또는 회의 탁자(310)의 중앙에 일반적으로 설치되고, 참가자들이 상호간 보고, 말하고, 들을 수 있도록 스피커들/마이크로폰들(320/330)을 포함한다. 상술한 각각의 회의 탁자(310)는 화면 스크린(280)을 갖는 프로젝터 장치(200)이고, 이에 따라 화상 회의 참가자들은, 반구형 반사체(290)를 통하여 스크린(280)의 내측면 상으로 투사되는 다른 회의 스테이션(300)의 파노라마 영상인 상술한 스크린(280)의 외측면으로부터 볼 수 있다.
일반적으로, 본 발명은 파노라마 영상과 같은 초광각 영상을 캡쳐하고, 이것을 영상 센서의 감광성 표면으로 제공하는 영상 센서 및 렌즈/미러 시스템 또는 그 등가물을 갖는 카메라와 같은 광학 장치를 제공한다. 영상 센서는 캡쳐된 영상(동영상일 수 있음)을 전기적 신호로 변환한다. 영상 센서는 대략 원형 배열인 감광성 표면 상으로 배열된 다수의 광 센서들 또는 화소들을 갖는다. 대략 원형 배열은 광 센서들 또는 화소들의 조밀한 나선을 포함할 수 있다. 다수의 광 센서들 또는 화소들은 주소 또는 식별자를 가질 수 있음으로써, 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소 또는 식별자 참조에 의해 정의될 수 있다. 카메라는 상술한 전기적 신호를 디지털 영상 데이터로 변환하는 수단과, 상술한 디지털 영상 데이터를 버퍼링 또는 저장하기 위한 수단을 포함하는 통합 또는 분산 시스템의 부분을 형성할 수 있다. 시스템은 또한 초광각 영상의 윈도우 영역의 선택을 수신하기 위한 입력 수단들과, 버퍼 또는 저장 수단들로부터 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하고 표시 및/또는 추가적인 처리를 위해 복구된 디지털 영상 데이터를 정보 처리 수단으로 전송하는 수단들을 포함할 수 있다. 파노라마 또는 부분 파노라마 영상을 투사하기 위한 발광 소자의 원형 배열을 이용한 프로젝터와 같은 광학 장치가 또한 제공된다.
본 발명이 도면들 및 상술한 설명에서 상세히 설명되고 기술된 반면, 같은 것의 특징에 있어 예시적이고 한정적이지 않음이 고려되어야 하며, 오직 예시적인 실시예들이 도시되고, 설명되었으며, 어떠한 방식으로든 본 발명의 범위를 한정하지 않음이 이해되어야 한다. 여기에 기술된 어떠한 특징들도 다른 실시예들과 함께 사용될 수 있음이 이해될 수 있다. 예시적인 실시예들이 상호간 또는 여기에 설명되지 않은 다른 실시예들에서 배타적이지 않다. 따라서, 본 발명은 또한 위에서 설명한 예시적인 실시예들의 하나 또는 그 이상의 조합을 포함하는 실시예들을 제공한다. 여기에 기술된 본 발명의 수정과 변형이 본 발명의 정신과 범위를 벗어나지 않은 채 만들어질 수 있고, 따라서, 그와 같은 한정은 오직 첨부된 청구항에 의해 지시되는 바와 같이 부과되어야 한다.
후술할 청구항에서 그리고 본 발명의 상술한 설명에서, 문맥이 명시적으로 또는 암시적으로 요청하는 경우를 제외하고, 용어 "포함한다(comprise)" 또는, "포함한다(comprises)" 또는 "포함하는(comprising)"과 같은 변형은, 예를 들면, 본 발명에서 다양한 실시예의 존재 또는 미래의 추가를 제외하는 것이 아니며 기술된 특징의 존재를 특정하는 포괄적인 의미로 사용된다.
만약 어떠한 선행 공개 자료가 여기에 언급된다면, 그와 같은 자료의 공개가 본 발명의 분야에서 통상의 일반적인 지식의 한 부분을 형성하는 그러한 입장을 구성하는 것이 아님을 이해하여야 한다.
10; 카메라 장치 12; 영상 센서
14; 초광각 영상 캡쳐 수단 16; 감광성 표면
18; 반구상 렌즈 또는 어안 렌즈 40; 버퍼 또는 저장 수단
42; 입력 수단 44; 기억 수단
46; 프로세서 48; 표시 스크린

Claims (22)

  1. 평평한 감광성 표면에 입사된 영상을 전기적 또는 전자적 신호 또는 신호들로 변환하기 위해 대략 원형 배열로 상기 평평한 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 포함하는 상기 평평한 감광성 표면을 포함함을 특징으로 하는 광학 장치를 위한 영상 센서.
  2. 제1항에 있어서,
    상기 다수의 광 센서들 또는 화소들은 일련의 동심원들로서 상기 평평한 감광성 표면 상에 배열됨을 특징으로 하는 광학 장치를 위한 영상 센서.
  3. 제1항에 있어서,
    상기 다수의 광 센서들 또는 화소들은 적어도 하나의 나선형 라인의 광 센서들 또는 화소들을 포함하는 상기 대략 원형 배열로 상기 평평한 감광성 표면 상에 배열됨을 특징으로 하는 광학 장치를 위한 영상 센서.
  4. 제3항에 있어서,
    상기 다수의 광 센서들 또는 화소들은 두개 또는 그 이상의 비월(interlaced) 나선형 라인들의 광 센서들 또는 화소들을 포함하는 상기 대략 원형 배열로 상기 평평한 감광성 표면 상에 배열됨을 특징을 하는 광학 장치를 위한 영상 센서.
  5. 제1항 내지 제4항 중 어느 한 항에 있어서,
    상기 영상 센서는 초광각 영상을 캡쳐하고, 상기 다수의 광 센서들 또는 화소들로 입사되도록 상기 캡쳐된 초광각 영상을 상기 평평한 감광성 표면을 향하여 전달하는 수단들을 포함함을 특징으로 하는 광학 장치를 위한 영상 센서.
  6. 제5항에 있어서,
    초광각 영상을 캡쳐하기 위한 상기 수단들은 상기 영상 센서를 둘러싸는 대략 파노라마 영상을 캡쳐하도록 배열됨을 특징으로 하는 광학 장치를 위한 영상 센서.
  7. 제6항에 있어서,
    상기 대략 파노라마 영상은 완전한 파노라마 영상이 아니고, 상기 영상 센서에 대하여 선택된 평면에서 360도 도넛 형태의 영상 화면을 포함함을 특징으로 하는 광학 장치를 위한 영상 센서.
  8. 제6항에 있어서,
    상기 대략 파노라마 영상은 상기 영상 캡쳐 수단들에 대하여 대략 반구형 영상 화면을 포함하는 완전한 파노라마 영상인 것을 특징으로 하는 광학 장치를 위한 영상 센서.
  9. 제1항 내지 제8항 중 어느 한 항에 있어서,
    상기 영상 센서는 상기 전기적 또는 전자적 신호 또는 신호들을 디지털 영상 데이터로 변환하는 수단들을 더 포함함을 특징으로 하는 광학 장치를 위한 영상 센서.
  10. 제1항 내지 제9항 중 어느 한 항에 있어서,
    상기 다수의 광 센서들 또는 화소들은, 캡쳐된 영상의 윈도우 영역이 각각의 광 센서들 또는 화소들의 주소들 참조에 의해 정의되도록, 주소를 가짐을 특징으로 하는 광학 장치를 위한 영상 센서.
  11. 제1항 내지 제10항 중 어느 한 항에 있어서,
    상기 광학 장치는 카메라 또는 프로젝터를 포함함을 특징으로 하는 광학 장치를 위한 영상 센서.
  12. 영상 센서의 감광성 표면 상으로 초광각 영상을 전달하고, 상기 영상 센서는 대략 원형 배열로 상기 평평한 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 갖는 상기 평평한 감광성 표면을 포함함을 특징으로 하는 광학 장치를 위한 영상 센서를 이용한 초광각 영상을 캡쳐하는 방법.
  13. 대략 원형 배열로 평평한 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 갖는 상기 평평한 감광성 표면과 함께 영상 센서를 제공함을 특징으로 하는 광학 장치를 위한 영상 센서를 제조하는 방법.
  14. 감광성 표면 상에 입사된 초광각 영상 또는 초광각 영상의 일부 영역을 상기 초광각 영상 또는 상기 초광각 영상의 상기 일부 영역을 대표하는 영상 데이터로 변환 가능한 전기적 또는 전자적 신호 또는 신호들로 변환하기 위해 상기 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 포함하는 상기 감광성 표면과,
    상기 광 센서들 또는 화소들이 상기 감광성 표면 상에 입사되는 상기 초광각 영상의 각 부분에 대략 일치하는 방향으로 상기 감광성 표면 상에 위치하도록 된 배열 구조를 포함함을 특징으로 하는 광학 장치를 위한 영상 센서.
  15. 영상 센서의 감광성 표면 상으로 초광각 영상을 전달하고, 상기 영상 센서는 감광성 표면 상에 입사되는 초광각 영상 또는 초광각 영상의 일부 영역을 상기 초광각 영상 또는 상기 초광각 영상의 상기 일부 영역을 대표하는 영상 데이터로 변환 가능한 전기적 또는 전자적 신호 또는 신호들로 변환하기 위한 상기 감광성 표면 상에 위치된 다수의 광 센서들 또는 화소들을 포함하는 상기 감광성 표면과,
    상기 광 센서들 또는 화소들이 상기 감광성 표면 상에 입사되는 상기 초광각 영상의 각 부분에 대략 일치하는 방향으로 상기 감광성 표면 상에 위치하도록 된 배열 구조를 포함함을 특징으로 하는 광학 장치를 위한 영상 센서를 이용한 초광각 영상을 캡쳐하는 방법.
  16. 평평한 감광성 표면은 다수의 광 센서들 또는 화소들을 포함하고, 영상 센서는 초광각 영상을 전기적 또는 전자적 신호 또는 신호들로 변환하며, 상기 초광각 영상을 캡쳐하여 상기 영상 센서의 상기 평평한 감광성 표면에 전달하는 수단들;
    상기 전기적 또는 전자적 신호 또는 신호들을 디지털 영상 데이터로 변환하는 수단들;
    상기 디지털 영상 데이터를 버퍼링 또는 저장하는 수단들;
    상기 초광각 영상의 윈도우 영역을 선택하여 수신하는 수단들; 및
    상기 버퍼링 또는 저장 수단들로부터 상기 초광각 영상 중 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하고, 상기 복구된 디지털 영상 데이터를 정보 처리 수단들에 전송하는 수단들을 포함함을 특징으로 하는 초광각 영상을 캡쳐하고 기록하기 위한 시스템.
  17. 제16항에 있어서,
    상기 영상 센서는 청구항 제1항의 영상 센서를 포함함을 특징으로 하는 초광각 영상을 캡쳐하고 기록하기 위한 시스템.
  18. 평평한 감광성 표면은 다수의 광 센서들 또는 화소들을 포함하고, 초광각 영상을 캡쳐하여 영상 센서의 상기 평평한 감광성 표면에 전달하는 단계;
    상기 캡쳐된 초광각 영상을 전기적 또는 전자적 신호 또는 신호들로 변환하는 단계;
    상기 전기적 또는 전자적 신호 또는 신호들을 디지털 영상 데이터로 변환하는 단계;
    상기 디지털 영상 데이터를 버퍼링 또는 저장하는 단계;
    상기 초광각 영상의 윈도우 영역을 선택하여 수신하는 단계;
    상기 버퍼링 또는 저장 수단들로부터 상기 초광각 영상의 상기 선택된 윈도우 영역을 포함하는 디지털 영상 데이터를 복구하는 단계; 및
    상기 복구된 디지털 영상 데이터를 정보 처리 수단들에 전송하는 단계를 포함함을 특징으로 하는 초광각 영상을 캡쳐하고 기록하기 위한 방법.
  19. 초광각 영상 데이터를 수신하기 위한 수단들;
    상기 초광각 영상 데이터를 광학 영상으로 변환하고, 영상 투사 수단들에 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 전달하기 위한 수단들;
    상기 영상 투사 수단들에 근접하여 장착된 화면을 포함하고,
    상기 영상 투사 수단들은 상기 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 투사하고, 상기 초광각 영상 데이터를 상기 광학 영상으로 변환하기 위한 수단은 수신된 영상 데이터를 상기 광학 영상으로 변환하기 위한 다수의 광 센서들 또는 화소들을 포함하고, 상기 다수의 광 센서들 또는 화소들은 대략 원형 배열로 위치된 것을 특징으로 하는 화면 상으로 초광각 영상을 투사하기 위한 시스템.
  20. 초광각 영상 데이터를 수신하는 단계;
    수신된 영상 데이터를 광학 영상으로 변환하기 위한 다수의 광 센서들 또는 화소들을 이용하여 상기 초광각 영상 데이터를 상기 광학 영상으로 변환하고, 상기 다수의 광 센서들 또는 화소들은 대략 원형 배열로 위치되는 단계;
    상기 광학 영상 또는 상기 광학 영상의 일부 영역을 영상 투사 수단들로 전달하는 단계; 및
    상기 영상 투사 수단들에 근접하여 위치된 화면 상으로 상기 광학 영상 또는 상기 광학 영상의 일부 영역을 투사하는 단계를 포함함을 특징으로 하는 화면 상으로 초광각 영상을 투사하기 위한 방법.
  21. 헤드기어의 가리개를 포함하는 화면; 및
    상기 가리개의 상기 화면 상으로 광학 영상 또는 상기 광학 영상의 일부 영역을 투사하기 위한 청구항 제19항의 시스템을 포함하는 프로젝터를 포함함을 특징으로 하는 사용자에 의해 착용되는 헤드기어에서의 헤드업 표시 장치.
  22. 적어도 한 참가자의 전화 회의 스테이션이 청구항 제19항의 시스템을 포함하는 프로젝터를 포함함을 특징으로 하는 전화 회의 시스템
KR1020147007075A 2011-09-06 2012-08-31 초광각 영상 처리를 위한 시스템 및 방법 KR102087450B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
HKHK11109422.6 2011-09-06
HK11109422.6A HK1167067A2 (en) 2011-09-06 2011-09-06 A system and method for processing a very wide angle image
PCT/CN2012/080885 WO2013034065A1 (en) 2011-09-06 2012-08-31 A system and method for processing a very wide angle image

Publications (2)

Publication Number Publication Date
KR20140068983A true KR20140068983A (ko) 2014-06-09
KR102087450B1 KR102087450B1 (ko) 2020-03-11

Family

ID=47290424

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020147007075A KR102087450B1 (ko) 2011-09-06 2012-08-31 초광각 영상 처리를 위한 시스템 및 방법

Country Status (17)

Country Link
US (1) US20140333719A1 (ko)
EP (1) EP2737531A4 (ko)
JP (1) JP2014531791A (ko)
KR (1) KR102087450B1 (ko)
CN (1) CN103858234A (ko)
AU (1) AU2012306862B2 (ko)
BR (1) BR112014005099A2 (ko)
CA (1) CA2847605A1 (ko)
HK (1) HK1167067A2 (ko)
IL (1) IL231289B (ko)
IN (1) IN2014DN01614A (ko)
MX (1) MX2014002641A (ko)
RU (1) RU2014107967A (ko)
SG (1) SG11201400410TA (ko)
TW (1) TWI530182B (ko)
WO (1) WO2013034065A1 (ko)
ZA (1) ZA201401595B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190051873A (ko) * 2017-11-06 2019-05-15 한국전자통신연구원 돔형 디스플레이 장치 및 방법
KR20200025107A (ko) * 2018-08-29 2020-03-10 삼성전자주식회사 이미지 센서 및 이미지 센서를 포함하는 전자 기기와, 이미지 줌 프로세싱 방법

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6075066B2 (ja) 2012-12-28 2017-02-08 株式会社リコー 画像管理システム、画像管理方法、及びプログラム
CN103543831A (zh) * 2013-10-25 2014-01-29 梁权富 头戴式全景播放装置
RU2552711C1 (ru) * 2014-07-31 2015-06-10 Вячеслав Михайлович Смелков Компьютерная система панорамного телевизионного наблюдения в условиях сложной освещенности и/или сложной яркости объектов и телевизионная камера для ее реализации
GB2532728A (en) * 2014-11-25 2016-06-01 Nokia Technologies Oy A semiconductor chip, a method, an apparatus and a computer program product for image capturing
JP6358339B2 (ja) * 2014-12-08 2018-07-18 株式会社リコー 画像管理システム、及び画像管理方法
WO2016092066A1 (en) 2014-12-11 2016-06-16 Xtralis Ag System and methods of field of view alignment
KR102339142B1 (ko) * 2015-03-02 2021-12-15 최해용 가상현실카메라 지지봉 장치
WO2016142214A2 (en) * 2015-03-11 2016-09-15 Asml Netherlands B.V. Method and apparatus for inspection and metrology
US20200404175A1 (en) * 2015-04-14 2020-12-24 ETAK Systems, LLC 360 Degree Camera Apparatus and Monitoring System
CN104867951B (zh) * 2015-04-23 2018-05-04 豪威科技(上海)有限公司 一种背照式传感器芯片及其制造方法
CN106507025A (zh) * 2016-11-17 2017-03-15 宁波菊风系统软件有限公司 一种移动终端及全景视频通信方法
JP7012058B2 (ja) * 2018-11-13 2022-01-27 創惟科技股▲ふん▼有限公司 画像補正方法及びその装置
CN109842766B (zh) * 2018-12-28 2021-05-18 上海集成电路研发中心有限公司 一种极坐标图像传感器及其进行图像处理的方法
EP4013711A4 (en) * 2019-08-16 2022-08-17 KONE Corporation METHOD OF CREATING A REPRESENTATION OF AN ELEVATOR ROPE, CONTROL UNIT AND COMPUTER PROGRAM PRODUCT FOR CARRYING OUT THE METHOD
EP3917162A1 (en) * 2020-05-27 2021-12-01 Binaurics Audio GmbH System and devices for audio-video spatial communication and event sharing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4267573A (en) * 1978-06-14 1981-05-12 Old Dominion University Research Foundation Image processing system
US20060055807A1 (en) * 2004-09-14 2006-03-16 Pemer Frederick A Imaging methods, image sensors, imaging systems, and articles of manufacture
US20110164108A1 (en) * 2009-12-30 2011-07-07 Fivefocal Llc System With Selective Narrow FOV and 360 Degree FOV, And Associated Methods

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6422159A (en) * 1987-07-17 1989-01-25 Mitsubishi Electric Corp Video telephone system for still picture transmission
JPH01122159A (ja) * 1987-11-05 1989-05-15 Nec Corp チャージカップルドデバイス
US6201574B1 (en) 1991-05-13 2001-03-13 Interactive Pictures Corporation Motionless camera orientation system distortion correcting sensing element
JPH0662288A (ja) * 1992-08-07 1994-03-04 Pioneer Electron Corp 広角画像取込み装置
JPH06125522A (ja) * 1992-10-09 1994-05-06 Sony Corp ビデオ再生方法及びビデオ記録/再生装置
US5489940A (en) * 1994-12-08 1996-02-06 Motorola, Inc. Electronic imaging system and sensor for correcting the distortion in a wide-angle lens
US6043837A (en) * 1997-05-08 2000-03-28 Be Here Corporation Method and apparatus for electronically distributing images from a panoptic camera system
US6977676B1 (en) * 1998-07-08 2005-12-20 Canon Kabushiki Kaisha Camera control system
WO2000056075A1 (fr) * 1999-03-12 2000-09-21 Sony Corporation Dispositif fournisseur d'image et son procédé d'utilisation, dispositif de traitement d'image et son procédé d'utilisation, et support d'enregistrement
US7009645B1 (en) * 1999-09-30 2006-03-07 Imec Vzw Constant resolution and space variant sensor arrays
FR2830128A1 (fr) 2001-09-26 2003-03-28 Egg Solution Sa Capteur photoelectrique avec des elements de capture de pixels disposes en cercles concentriques et dispositif d'acquisition d'images panoramiques comprenant ce capteur
JP2004309568A (ja) * 2003-04-02 2004-11-04 Shimadzu Corp 全方位撮影装置
JP2005311789A (ja) * 2004-04-22 2005-11-04 Fuji Photo Film Co Ltd デジタルカメラ
JP2006140581A (ja) * 2004-11-10 2006-06-01 Konica Minolta Opto Inc 撮像素子及び画像入力装置
US20090167884A1 (en) * 2006-06-09 2009-07-02 Connell Jr Raymond S Self-Similar Capture Systems
FR2909778B1 (fr) * 2006-12-06 2009-10-16 Intersigne Soc Par Actions Sim Procede et dispositif pour la realisation de prises de vues a l'aide d'une pluralite de capteurs optoelectroniques.
JP2009145368A (ja) * 2007-12-11 2009-07-02 Seiko Epson Corp 電気光学装置、投射型表示装置、プロジェクションシステム、受光装置、撮像装置
JP5317586B2 (ja) * 2008-08-28 2013-10-16 ラピスセミコンダクタ株式会社 カメラモジュール及びその製造方法
TWI388019B (zh) * 2009-09-02 2013-03-01 Unimicron Technology Corp 封裝結構之製法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4267573A (en) * 1978-06-14 1981-05-12 Old Dominion University Research Foundation Image processing system
US20060055807A1 (en) * 2004-09-14 2006-03-16 Pemer Frederick A Imaging methods, image sensors, imaging systems, and articles of manufacture
US20110164108A1 (en) * 2009-12-30 2011-07-07 Fivefocal Llc System With Selective Narrow FOV and 360 Degree FOV, And Associated Methods

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190051873A (ko) * 2017-11-06 2019-05-15 한국전자통신연구원 돔형 디스플레이 장치 및 방법
KR20200025107A (ko) * 2018-08-29 2020-03-10 삼성전자주식회사 이미지 센서 및 이미지 센서를 포함하는 전자 기기와, 이미지 줌 프로세싱 방법

Also Published As

Publication number Publication date
CA2847605A1 (en) 2013-03-14
JP2014531791A (ja) 2014-11-27
SG11201400410TA (en) 2014-04-28
AU2012306862A1 (en) 2014-03-20
US20140333719A1 (en) 2014-11-13
KR102087450B1 (ko) 2020-03-11
ZA201401595B (en) 2014-12-23
IL231289B (en) 2018-05-31
WO2013034065A1 (en) 2013-03-14
AU2012306862B2 (en) 2016-03-03
EP2737531A1 (en) 2014-06-04
CN103858234A (zh) 2014-06-11
BR112014005099A2 (pt) 2017-03-28
TWI530182B (zh) 2016-04-11
TW201322755A (zh) 2013-06-01
IL231289A0 (en) 2014-04-30
RU2014107967A (ru) 2015-10-20
EP2737531A4 (en) 2014-12-31
IN2014DN01614A (ko) 2015-05-15
HK1167067A2 (en) 2012-11-16
MX2014002641A (es) 2014-06-04

Similar Documents

Publication Publication Date Title
KR102087450B1 (ko) 초광각 영상 처리를 위한 시스템 및 방법
US7224382B2 (en) Immersive imaging system
US7171088B2 (en) Image input device
US20100045773A1 (en) Panoramic adapter system and method with spherical field-of-view coverage
JP3792901B2 (ja) カメラ制御システム及びその制御方法
KR101685418B1 (ko) 3차원 영상을 생성하는 감시 시스템
RU2371880C1 (ru) Способ панорамного телевизионного наблюдения и устройство для его осуществления
US20080024594A1 (en) Panoramic image-based virtual reality/telepresence audio-visual system and method
US20130016181A1 (en) System and method for capturing and displaying cinema quality panoramic images
CN102077575A (zh) 通过多图像捕获进行的变焦
JP2007531333A (ja) ひずみのない画像をリアルタイムに表示するパノラマ・ビデオ・システム
JP2005176151A (ja) カメラ付きディスプレイ装置、通信装置および通信システム
CN103597811B (zh) 拍摄立体移动图像和平面移动图像的图像拍摄元件以及装配有其的图像拍摄装置
KR20120108747A (ko) 3차원 영상을 생성하는 감시 카메라 및 그 방법
JP2008028606A (ja) パノラマ展開画像撮像装置およびパノラマ展開画像撮像システム
JP2007288354A (ja) カメラ装置、画像処理装置および画像処理方法
CN1848917B (zh) 在取景器中具有画中画的摄像机系统
JP2005184776A (ja) 撮像装置及び方法、監視システム、プログラム並びに記録媒体
CN112218048B (zh) 一种智能监控系统
JP2004153605A (ja) 撮像装置及び撮像画像伝送システム
KR20090015311A (ko) 영상 감시시스템
JP2006025340A (ja) 広角撮像装置、撮像システムおよびその制御方法
JP4448001B2 (ja) 撮像装置
JP2001211360A (ja) ビデオカメラ
JP2003512783A (ja) 周辺視覚を伴うカメラ

Legal Events

Date Code Title Description
N231 Notification of change of applicant
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant