KR20130135355A

KR20130135355A - 줌 이미지의 생성

Info

Publication number: KR20130135355A
Application number: KR1020137027292A
Authority: KR
Inventors: 잉 엑스 노이스
Original assignee: 퀄컴 인코포레이티드
Priority date: 2011-03-16
Filing date: 2012-03-15
Publication date: 2013-12-10
Also published as: CN103430532A; JP2014511071A; WO2012125862A1; CN103430532B; US20140198237A1; KR101532861B1; US20120236181A1; EP2687007A1; US9325905B2; JP2016042712A

Abstract

줌 이미지를 생성하는 장치 및 방법이 개시된다. 특정 방법은, 줌 동작을 수행하도록 하는 지시를 수신하는 것을 포함한다. 그 지시에 기초하여 이미지 센서로 윈도우 정보가 전송된다. 윈도우 정보는 이미지 센서의 부분에 대응한다. 또한, 픽셀 클럭 레이트를 감소시키기 위한 요청이 이미지 센서로 전송될 수도 있다. 이 요청은 이미지 센서에 의해 캡처되는 이미지 데이터의 프레임 레이트가 유지되도록 이미지 센서가 픽셀 클럭 레이트를 감소시키도록 할 수도 있다. 이미지 센서의 부분에 대응하는 크로핑된 이미지 데이터가 수신된다. 크로핑된 이미지 데이터는 줌 이미지를 생성하기 위해 업스케일링된다.

Description

줌 이미지의 생성{GENERATING A ZOOMED IMAGE}

본 개시는 일반적으로 줌 이미지 (zoomed image) 를 생성하는 것에 관한 것이다.

기술 발전은 보다 작고 보다 강력한 컴퓨팅 디바이스들을 초래하였다. 예를 들어, 작고, 경량이며, 사용자들에 의해 쉽게 운반되는 휴대용 무선 전화기들, 개인 정보 단말기 (PDA) 들, 및 페이징 디바이스들과 같은 무선 컴퓨팅 디바이스들을 포함하는 다양한 휴대용 퍼스널 컴퓨팅 디바이스들이 현재 존재한다. 보다 구체적으로, 셀룰러 전화기들 및 인터넷 프로토콜 (IP) 전화기들과 같은 휴대용 무선 전화기들은 무선 네트워크들을 통해 음성 및 데이터 패킷들을 통신할 수 있다. 또한, 많은 이러한 무선 전화기들은 거기에 통합되는 다른 유형들의 디바이스들을 포함한다. 예를 들어, 무선 전화기는 디지털 스틸 카메라, 디지털 비디오 카메라, 디지털 레코더, 및 오디오 파일 플레이어를 또한 포함할 수 있다. 또한, 이러한 무선 전화기들은, 인터넷에 액세스하기 위해 이용될 수 있는, 웹 브라우저 애플리케이션과 같은, 소프트웨어 애플리케이션들을 포함하는, 실행가능 명령들을 프로세싱할 수 있다. 이와 같이, 무선 전화기들은 상당한 컴퓨팅 성능들을 포함할 수 있다.

어떤 휴대용 전자 디바이스들은 이미지들을 캡처하기 위한 이미지 센서들을 포함한다. 예를 들어, 디지털 카메라들, 모바일 전화기들, 디지털 비디오 카메라들, 휴대용 컴퓨팅 디바이스들 등은 이미지 센서들을 포함할 수도 있다. 이들 휴대용 전자 디바이스들은 이미지의 부분의 더 큰 (또는 줌) 뷰 (view) 를 제공하기 위해 줌 동작들을 수행하는 것이 가능할 수도 있다. 광학 줌 성능이 사용되는 경우, 이미지 센서에서 특정 영역의 보다 상세한 것을 포함하는 이미지를 생성하기 위해 이미지 센서와 연관된 광학은 변화될 수도 있다. 디지털 줌 성능이 사용되는 경우, 이미지 센서에 의해 캡처된 이미지 데이터의 부분은 이미지 센서에 의해 실제로 캡처되는 픽셀들 사이에 추가적인 픽셀 데이터를 외삽 (extrapolate) 또는 보간 (interpolate) 하기 위해 업스케일될 수도 있다. 이러한 업스케일링 프로세스들은 이미지 프로세싱의 레이턴시를 증가시킬 수도 있고, 추가적인 대역폭을 사용할 수도 있으며, 픽셀 클럭 레이트를 용인될 수 없는 레벨까지 증가시킬 수도 있고, 이미지 품질 또는 프로세싱, 또는 이들의 조합과 함께 다른 이슈들을 야기할 수도 있다.

줌 이미지는 윈도우 (window) 정보를 이미지 센서로 전송함으로써 생성될 수 있다. 윈도우 정보는 이미지 센서의 부분으로서, 그 이미지 센서의 부분으로부터 이미지 데이터가 크로핑된 (cropped) 이미지 데이터로서 출력되는 그러한 이미지 센서의 부분을 나타낸다. 이미지 센서의 픽셀 클럭 레이트는 또한 감소될 수도 있다. 크로핑된 이미지 데이터는 줌 이미지를 생성하기 위해 업스케일링되고 프로세싱될 수도 있다.

특정 실시형태에서, 줌 이미지 (zoomed image) 를 생성하는 방법이 개시된다. 이 방법은, 줌 동작을 수행하도록 하는 지시를 수신하는 단계 및 그 지시에 기초하여 이미지 센서로 윈도우 정보 및 픽셀 레이트 (rate) 감소 요청을 전송하는 단계를 포함한다. 픽셀 클럭 레이트 감소 요청은 이미지 센서에 의해 이미지 데이터의 프레임들이 캡처되는 레이트가 실질적으로 일정하게 또는 변화하지 않게 유지되게 한다. 윈도우 정보는 이미지 센서의 부분에 대응한다. 이 방법은 또한, 이미지 센서로부터 상기 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 단계 및 크로핑된 이미지 데이터를 업스케일링 (upscaling) 하여 줌 이미지를 생성하는 단계를 포함한다.

다른 특정 실시형태에서, 줌 동작을 수행하도록 하는 지시에 응답하여, 이미지 센서로 윈도우 정보를 전송하는 수단을 포함하는 장치가 개시된다. 윈도우 정보는 이미지 센서의 부분에 대응한다. 이 장치는 또한, 상기 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 수단 및 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하는 수단을 포함한다.

또 다른 특정 실시형태에서, 유형의 (tangible) 컴퓨터 판독가능 매체는, 실행될 때 프로세서로 하여금, 줌 동작을 수행하도록 하는 지시에 응답하여 이미지 센서로 윈도우 정보를 전송하게 하는 프로세서-실행가능 명령들을 저장한다. 윈도우 정보는 이미지 센서의 부분에 대응한다. 이 명령들은, 이미지 센서로부터 상기 부분에 대응하는 크로핑된 이미지 데이터를 수신하고 그 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하도록 프로세서에 의해 더 실행가능하다.

또 다른 특정 실시형태에서, 제 1 픽셀 클럭 레이트에서 이미지 센서로부터 제 1 이미지 데이터를 수신하는 단계를 포함하는 방법이 개시된다. 이 방법은 또한, 줌 동작을 수행하도록 하는 지시를 수신하는 단계 및 그 지시에 응답하여 이미지 센서로 윈도우 정보를 전송하는 단계를 포함한다. 이 방법은, 줌 동작과 연관되는 이미지 센서의 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 단계를 더 포함한다. 이 크로핑된 이미지 데이터는 제 1 픽셀 클럭 레이트보다 느린 제 2 픽셀 클럭 레이트에서 수신된다. 이 방법은 또한, 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하는 단계를 포함한다.

프로세서 및 이 프로세서에 액세스가능한 메모리를 포함하는 시스템이 개시된다. 이 메모리는, 줌 동작을 실시하도록 하는 지시에 응답하여 이미지 센서로 윈도우 정보를 전송하도록 프로세서에 의해 실행가능한 명령들을 포함한다. 이 명령들은 또한, 이미지 센서의 픽셀 클럭 레이트가 제 1 픽셀 클럭 레이트로부터 그 제 1 픽셀 클럭 레이트보다 적은 제 2 픽셀 클럭 레이트로 감소되게끔 하도록 프로세서에 의해 실행가능하다. 이 명령들은 또한, 줌 동작과 연관되는 이미지 센서의 부분에 대응하는 크로핑된 이미지 데이터를 수신하도록 프로세서에 의해 실행가능하다. 크로핑된 이미지 데이터는 제 2 픽셀 클럭 레이트에서 이미지 센서로부터 수신된다. 이 명령들은 또한, 줌 이미지를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링하도록 프로세서에 의해 실행가능하다.

개시된 실시형태들 중 적어도 하나에 의해 제공되는 한 특정 이점은 이미지 프로세싱 시스템의 픽셀 클럭 레이트의 증가 없이 줌 이미지가 생성될 수도 있다는 것이다. 개시된 실시형태들 중 적어도 하나에 의해 제공되는 또 다른 특정 이점은 줌 이미지들에 대한 향상된 이미지 품질이 달성될 수도 있다는 것이다.

본 개시의 다른 양태들, 이점들, 및 특징들은 다음의 섹션들: 도면의 간단한 설명, 상세한 설명, 및 청구항들을 포함하는 전체 명세서의 검토 후에 명백하게 될 것이다.

도 1 은 줌 이미지를 생성하기 위한 시스템의 특정 예시적인 실시형태의 블록도이다.
도 2 는 줌 이미지를 생성하는 방법의 제 1 특정 실시형태의 흐름도이다.
도 3 은 줌 이미지를 생성하는 방법의 제 2 특정 실시형태의 흐름도이다.
도 4 는 줌 이미지를 생성하는 방법의 제 3 특정 실시형태의 흐름도이다.
도 5 는 줌 이미지를 생성하는 방법의 제 4 특정 실시형태의 흐름도이다.
도 6 은 줌 이미지를 생성하는 방법에서의 구별점들을 나타내는 도이다.
도 7 은 프리뷰 디스플레이를 생성하는 방법에서의 구별점들을 나타내는 도이다.
도 8 은 줌 이미지를 생성하기 위한 장치를 포함하는 휴대용 디바이스의 특정 실시형태의 블록도이다.

도 1 은 줌 이미지를 생성하기 위한 시스템의 특정 예시적인 실시형태의 블록도이고, 이 시스템은 100 으로 지정된다. 이 시스템 (100) 은 디지털 카메라, 모바일 전화기, 휴대용 컴퓨팅 디바이스, 또는 카메라를 포함하는 다른 휴대용 전자 디바이스 또는 장치와 같은 휴대용 전자 디바이스일 수도 있다. 시스템 (100) 은 이미지 프로세싱 시스템 (102) 에 커플링된 이미지 센서 (104) 를 포함한다. 시스템 (100) 은 또한 오토포커스 컴포넌트들, 렌즈들, 개구 제어 컴포넌트 등과 같은 도시되지 않은 다른 컴포넌트들을 포함할 수도 있다. 또한, 특정 문맥에서 다르게 나타나지 않는 한, "이미지 (image)" 라는 용어는 움직이는 이미지 (예를 들어, 영화 또는 비디오 이미지) 를 지칭하기 위해서 또는 스틸 이미지 (예를 들어, 사진 또는 그림) 를 지칭하기 위해서 본원에서 사용된다.

시스템 (100) 은 이미지 센서 (104) 를 이미지 프로세싱 시스템 (102) 에 접속하기 위한 카메라 인터페이스 (108) 를 포함한다. 시스템 (100) 은 또한, 줌 동작을 실시하도록 하는 사용자 입력을 수신하도록 구성되는 (스위치, 소프트 스위치, 터치 스크린, 또는 버튼과 같은) 입력 디바이스 (142) 를 포함할 수도 있다. 시스템 (100) 은 또한, 이미지 센서 (104) 에 의해 캡처된 (captured) 이미지들, 메모리 (120) 에 저장된 이미지들, 또는 양자 모두를 디스플레이하도록 구성되는 디스플레이 (128) 를 포함할 수도 있다. 특정 실시형태에서, 디스플레이 (128) 는 뷰파인더 (viewfinder) 를 포함할 수도 있고, 이미지 프로세싱 시스템 (102) 의 뷰파인더 모듈 (126) 은 디스플레이 (128) 에서의 디스플레이를 위한 프리뷰 이미지를 생성할 수도 있다.

이미지 프로세싱 시스템 (102) 은, 이미지 센서 (104) 에 의해 캡처된 이미지 데이터로부터 이미지를 생성하기 위해 (프로세싱 모듈들 (111-114) 로서 나타낸) 다양한 이미지 프로세싱 기능들을 수행하도록 구성되는 이미지 프로세싱 파이프라인 (110) 을 포함할 수도 있다. 예를 들어, 이미지 프로세싱 파이프라인 (110) 은 업스케일링된 이미지 데이터를 생성하기 위해 이미지 데이터를 업스케일하기 위한 업스케일러 (upscaler; 111) 를 포함할 수도 있다. 예시를 위해, 업스케일러 (111) 는 이미지 센서 (104) 에 의해 캡처된 이미지 데이터에서의 픽셀들 사이에 추가적인 픽셀들을 보간 또는 외삽할 수도 있다. 이미지 프로세싱 파이프라인 (110) 은 이미지 데이터 또는 업스케일링된 이미지 데이터에 대해 하나 이상의 이미지 샤프닝 (sharpening) 기능들을 수행하기 위한 이미지 샤프닝 모듈 (112), 이미지 데이터 또는 업스케일링된 이미지 데이터에 대해 공간 필터링을 수행하기 위한 적응형 공간 필터링 모듈 (113), 다른 파이프라인 기능들 (114) (예를 들어, 디모자이킹 (demosaicing), 감마 보정, 화이트 밸런스, 압축, 컬러 공간 변환 등), 또는 이들의 임의의 조합을 또한 포함할 수도 있다.

이미지 프로세싱 시스템 (102) 은 이미지 프로세싱 파이프라인 (110), 프로세서 (118), 또는 양자 모두의 모듈들에 의한 프로세싱 동안 이미지 데이터의 라인들을 저장하기 위해 사용되는 라인 버퍼 (116) 를 또한 포함할 수도 있다. 프로세서 (118) 는 이미지를 프로세싱, 저장, 또는 디스플레이하기 위해 메모리 (120) 내에 저장된 명령들 (122) 을 실행하도록 구성될 수도 있다. 예를 들어, 프로세서 (118), 이미지 프로세싱 파이프라인 (110), 또는 이들의 임의의 조합은 메모리 (120) 에 프로세싱된 이미지 데이터 (124) 를 저장할 수도 있다. 프로세싱된 이미지 데이터 (124) 는 압축된 데이터 (예를 들어, JPEG (joint picture expert group) 이미지 데이터) 또는 압축되지 않은 데이터일 수도 있다.

특정 실시형태에서, 이미지 프로세싱 시스템 (102) 은 줌 제어기 (140) 를 포함한다. 줌 제어기 (140) 는 입력 디바이스 (142) 를 통해 수신된 사용자 입력에 응답하여 줌 동작을 실행하도록 구성된다. 줌 제어기 (140) 는 도 1 에서 독립된 모듈로서 도시되지만, 어떤 실시형태들에서는, 줌 제어기 (140) 의 기능성은 이미지 프로세싱 시스템 (102) 의 수개의 모듈들에 의해, 프로세서 (118) 에 의해 실행되는 명령들 (122) 에 의해, 또는 이들의 임의의 조합에 의해 수행될 수도 있다. 줌 제어기 (140) 는, 줌 동작을 실행하도록, 이미지 센서 (104), 이미지 프로세싱 파이프라인 (110), 프로세서 (118), 뷰 파인더 모듈 (126), 또는 이들의 임의의 조합에 명령들을 전송할 수도 있다. 줌 제어기 (140) 에 의해 전송된 명령들은, 예를 들어, 줌 동작을 위해 이미지 데이터를 제공하기 위한 이미지 센서 (104) 의 부분을 나타내기 위해 이미지 센서 (104) 로 전송될 수도 있는 윈도우 정보 (144) 를 포함할 수도 있다. 줌 제어기 (140) 에 의해 전송된 명령들은 줌 동작을 실행하기 위해 이미지 센서 (104) 의 픽셀 클럭 레이트 (132) 가 변화되도록 할 수도 있다. 예를 들어, 줌 제어기 (140) 는 이미지 센서 (104) 에 제공되는 마스터 (master) 클럭 레이트 (130) 가 변경되게 할 수도 있고, 이는 픽셀 클럭 레이트 (132) 가 변경되는 것을 초래할 수도 있다. 이미지 센서 (104) 는 이미지 센서 (104) 에 의해 이미지 데이터가 캡처되거나 출력되는 프레임 레이트에 인터럽트 (interruption) 를 야기하지 않으면서 제 1 픽셀 클럭 레이트로부터 제 2 픽셀 클럭 레이트로 변화시키도록 구성될 수도 있다. 예를 들어, 이미지 센서 (104) 가, 픽셀 클럭 레이트 (132) 가 변화되기 전에 초당 30 프레임의 레이트로 이미지 데이터를 출력하고 있는 경우, 이미지 센서 (104) 는, 픽셀 클럭 레이트 (132) 가 변경된 후에 초당 30 프레임으로 이미지 데이터를 출력하는 것을 계속할 수도 있다. 이미지 센서 (104) 는, 비-활성 모드 (non-active mode) (예를 들어, 대기 모드) 에 진입함이 없이 그리고 어떤 프레임들도 놓치지 않고 (예를 들어, 이미지 센서의 프레임 레이트를 유지하면서) 제 1 픽셀 클럭 레이트로부터 제 2 픽셀 클럭 레이트로 변화시키도록 추가로 구성될 수도 있다.

동작시에, 시스템 (100) 은 이미지들을 캡처하고 프로세싱된 이미지 데이터 (124) 를 메모리 (120) 에 저장하기 위해 사용될 수도 있다. 사용자는 입력 디바이스 (142) 를 통해 입력을 제공함으로써 줌 동작이 수행되어야 하는 것을 나타낼 수도 있다. 입력 디바이스 (142) 를 통해 수신된 사용자 입력에 응답하여, 줌 제어기 (140) 는 이미지 센서 (104) 에 윈도우 정보 (144) 를 전송할 수도 있다. 윈도우 정보 (144) 에 응답하여, 이미지 센서 (104) 는 윈도우 정보 (144) 에 의해 식별되는 이미지 센서 (104) 의 부분에 대응하는 크로핑된 이미지 데이터를 생성할 수도 있다. 예시를 위해, 윈도우 정보 (144) 는 크로핑된 이미지 데이터를 생성하기 위한 것인 이미지 센서 (104) 의 픽셀들의 셋트를 명시할 수도 있고, 이미지 센서 (104) 는 그 픽셀들의 셋트의 픽셀들과 연관된 이미지 데이터를 전송할 수도 있다. 줌 제어기 (140) 는 또한 이미지 센서 (104) 의 픽셀 클럭 레이트 (132) 가 감소되게 할 수도 있다. 예를 들어, 줌 제어기 (140) 는 마스터 클럭 레이트 (130) 를 감소시킬 수도 있고, 이는 이미지 센서 (104) 의 픽셀 클럭 레이트 (132) 가 감소되는 것을 초래한다.

크로핑된 이미지 데이터는 카메라 인터페이스 (108) 를 통해 업스케일러 (111) 로 전송될 수도 있다. 업스케일러 (111) 는 줌 이미지 데이터를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링할 수도 있다. 크로핑된 이미지 데이터를 업스케일링하는 것은 이미지 데이터가 보다 많은 픽셀들을 포함하도록 한다. 줌 이미지 데이터는, 이미지 샤프닝 모듈 (112), 적응형 공간 필터링 모듈 (113), 다른 파이프라인 기능들 (114), 또는 이들의 임의의 조합과 같은, 이미지 프로세싱 파이프라인 (110) 의 다른 기능들에 제공될 수도 있다. 따라서, 크로핑된 이미지 데이터는 다른 이미지 프로세싱 파이프라인 기능들이 수행되기 전에 업스케일링될 수도 있고, 이는 이미지 프로세싱 파이프라인 기능들이 수행된 후에 이미지 데이터를 업스케일링하는 것에 비해 향상된 이미지 품질을 제공할 수도 있다. 추가적으로, 픽셀 클럭 레이트 (132) 는 크로핑된 이미지 데이터를 출력하기 위해 감소되기 때문에, 업스케일러 (111) 에 의해 이미지 데이터의 픽셀들의 수가 증가될 때 이미지 프로세싱 파이프라인 (110) 의 픽셀 클럭 레이트는 과도하게 되지 않는다.

특정 실시형태에서, 크로핑된 이미지 데이터는 라인 버퍼 (116) 에 먼저 저장되지 않고 업스케일러 (111) 에 제공될 수도 있고, 이는 줌 이미지를 생성하는데 있어서 레이턴시 (latency) 를 감소시킬 수도 있다. 또한, 크로핑된 이미지 데이터는, 전체 이미지 센서 (104) 로부터 이미지 데이터를 크로핑함으로써 이미지 프로세싱 시스템 (102) 에서 생성되기 보다는 이미지 센서 (104) 로부터 수신되기 때문에, 이미지 데이터를 프로세싱하거나 업스케일링하기 위해 추가적인 버스 대역폭이 사용되지 않는다. 따라서, 라인 버퍼에 이미지 데이터를 기입하기 위해서 그리고 라인 버퍼로부터 이미지 데이터를 판독하기 위해서 사용될 전력 및 버스 대역폭이 절약될 수도 있다.

줌 동작이 수행되기 전에, 뷰 파인더 모듈 (126) 은 이미지 센서 (104) 로부터의 서브-샘플링된 (sub-sampled) 이미지 데이터를 이용하여 디스플레이 (128) 에서의 프리뷰 디스플레이 (preview display) 를 생성할 수도 있다. 서브-샘플링이란 서브-샘플링된 이미지 데이터에 나타난 픽셀들의 수를 감소시키기 위해 어떤 픽셀들을 제거 또는 생략하거나 어떤 픽셀들을 결합하는 것을 지칭한다. 픽셀들의 수는, 이미지의 전체 섹션들을 제거하는 것을 의미하는 이미지 데이터를 크로핑하는 것에 비해, 비교적 균일한 방식으로 (예를 들어, 전체 이미지를 보유하지만 보다 낮은 해상도로 보유하는 방식으로) 감소될 수도 있다. 줌 동작이 수행될 때, 뷰 파인더 모듈 (126) 은 크로핑된 이미지 데이터를 이용하여 줌 프리뷰 디스플레이를 생성할 수도 있다. 크로핑된 이미지 데이터는 서브-샘플링되지 않을 수도 있다. 따라서, 줌 프리뷰 디스플레이는 서브-샘플링되지 않은 데이터에 기초하여 생성될 수도 있다.

도 2 는 줌 이미지를 생성하는 방법의 제 1 특정 실시형태의 흐름도이다. 도 2 에 도시된 방법은, 202 에서, 줌 동작을 수행하도록 하는 지시들을 수신하는 것을 포함한다. 예를 들어, 사용자는 줌 동작이 수행되어야하는 것을 나타내기 위해 도 1 의 시스템 (100) 과 같은 장치의 입력 디바이스를 통해 사용자 입력을 제공할 수도 있다. 장치는 사용자 입력에 응답하여 줌 동작을 수행하도록 하는 지시를 생성할 수도 있다.

이 방법은 또한, 204 에서, 그 명령에 기초하여 이미지 센서에 윈도우 정보를 전송하는 것을 포함할 수도 있다. 윈도우 정보는 이미지 센서의 부분에 대응할 수도 있다. 예를 들어, 도 1 의 줌 제어기 (140) 는 윈도우 정보 (144) 를 이미지 센서 (104) 에 전송할 수도 있다. 윈도우 정보 (144) 는 이미지 센서 (104) 에 의해 이미지 데이터가 출력되는 이미지 센서 (104) 의 특정 부분을 나타낼 수도 있다.

이 방법은 또한, 206 에서, 이미지 센서로부터 그 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 것을 포함할 수도 있다. 예를 들어, 도 1 의 이미지 센서 (104) 는 윈도우 정보 (144) 에 응답하여 크로핑된 이미지 데이터를 출력할 수도 있다. 이 방법은 또한, 208 에서, 줌 이미지를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링하는 것을 포함할 수도 있다. 예시를 위해, 도 1 의 업스케일러 (111) 는 크로핑된 이미지 데이터를 수신할 수도 있고, 크로핑된 이미지 데이터를 줌 이미지에 대응하는 생성된 줌 이미지 데이터로 업스케일링할 수도 있다.

도 2 의 방법은, 필드-프로그래머블 게이트 어레이 (FPGA) 디바이스, 애플리케이션-특정 집적 회로 (ASIC), 중앙 처리 유닛 (CPU) 과 같은 프로세싱 유닛, 디지털 신호 처리기 (DSP), 제어기, 또 다른 하드웨어 디바이스, 펌웨어 디바이스, 또는 이들의 임의의 조합을 이용하여 구현될 수도 있다. 예로서, 도 2 의 방법은 명령들을 실행하는 프로세서에 의해 수행될 수 있다.

도 3 은 줌 이미지를 생성하는 방법의 제 2 특정 실시형태의 흐름도이다. 도 3 에 도시된 방법은, 302 에서, 이미지 센서로부터의 서브-샘플링된 이미지 데이터를 이용하여 디스플레이 디바이스에서의 디스플레이를 생성하는 것을 포함한다. 예를 들어, 도 1 의 뷰 파인더 모듈 (126) 은 서브-샘플링된 이미지 데이터를 이용하여 디스플레이 (128) 에서의 뷰 파인더 디스플레이를 생성할 수도 있다. 예시를 위해, 이미지 센서 (104) 는 서브-샘플링된 이미지 데이터를 출력할 수도 있고, 또는, 이미지 프로세싱 파이프라인 (110) 은 서브-샘플링된 이미지 데이터를 생성하기 위해 이미지 센서 (104) 에 의해 제공된 이미지 데이터를 서브-샘플링하는 기능적 모듈을 포함할 수도 있다. 서브-샘플링된 이미지 데이터는 디스플레이 (128) 에서의 디스플레이를 위해 프로세싱될 수도 있다.

방법은 또한, 304 에서, 줌 동작을 수행하도록 하는 지시를 수신하는 것을 포함할 수도 있다. 예를 들어, 사용자는, 줌 동작이 수행되어야 하는 것을 나타내기 위해 도 1 의 시스템 (100) 과 같은 장치의 입력 디바이스를 통해 사용자 입력을 제공할 수도 있다. 시스템 (100) 은 사용자 입력에 응답하여 줌 동작을 수행하도록 하는 지시를 생성할 수도 있다.

이 방법은 또한, 306 에서, 그 지시에 기초하여 이미지 센서로 윈도우 정보를 전송하는 것을 포함할 수도 있다. 윈도우 정보는 이미지 센서의 부분에 대응할 수도 있다. 예를 들어, 도 1 의 줌 제어기 (140) 는 윈도우 정보 (144) 를 이미지 센서 (104) 로 전송할 수도 있다. 윈도우 정보 (144) 는 이미지 센서 (104) 에 의해 이미지 데이터가 출력되는 이미지 센서 (104) 의 특정 부분을 나타낼 수도 있다.

방법은 또한, 308 에서, 줌 동작을 수행하도록 하는 지시에 응답하여 이미지 센서의 픽셀 클럭 레이트를 감소시키는 것을 포함할 수도 있다. 예를 들어, 도 1 의 이미지 프로세싱 시스템 (102) 은 이미지 센서 (104) 에 마스터 클럭 신호를 제공할 수도 있다. 마스터 클럭 신호는 마스터 클럭 레이트 (130) 를 명시할 수도 있고, 이는 이미지 센서 (104) 의 픽셀 클럭 레이트 (132) 를 결정하기 위해 사용될 수도 있다. 따라서, 마스터 클럭 레이트 (130) 를 감소시킴으로써, 픽셀 클럭 레이트 (132) 가 감소될 수도 있다.

방법은 또한, 310 에서, 이미지 센서로부터 그 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 것을 포함할 수도 있다. 예를 들어, 도 1 의 이미지 센서 (104) 는 윈도우 정보 (144) 에 응답하여 크로핑된 이미지 데이터를 출력할 수도 있다. 방법은 또한, 312 에서, 줌 이미지를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링하는 것을 포함할 수도 있다. 예시를 위해, 도 1 의 업스케일러 (111) 는 크로핑된 이미지 데이터를 수신할 수도 있고, 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지에 대응하는 줌 이미지 데이터를 생성할 수도 있다. 특정 실시형태에서, 크로핑된 이미지 데이터는 크로핑된 이미지 데이터가 업스케일링되기 전에 라인 버퍼에 저장되지 않는다. 따라서, 이미지 데이터를 라인 버퍼에 쓰기 위해, 그리고 이미지 데이터를 라인 버퍼로부터 판독하기 위해 사용될 전력 및 버스 대역폭이 절약될 수도 있다.

방법은 또한, 314 에서, 지시에 응답하여 디스플레이 디바이스에서의 줌 디스플레이를 생성하는 것을 포함할 수도 있다. 예를 들어, 도 1 의 뷰 파인더 모듈 (126) 은 디스플레이 (128) 에서의 줌 이미지의 뷰 파인더 디스플레이를 생성할 수도 있다. 전술한 바와 같이, 이미지가 줌되지 않을 때, 뷰 파인더 모듈 (126) 은 서브-샘플링된 이미지 데이터를 이용하여 뷰 파인더 디스플레이를 생성할 수도 있다. 하지만, 줌 뷰 파인더 디스플레이를 생성하기 위해, 뷰 파인더 모듈 (126) 은 서브-샘플링되지 않은 이미지 센서 (104) 로부터의 크로핑된 이미지 데이터를 이용할 수도 있다.

방법은 또한, 줌 이미지에 대응하는 줌 이미지 데이터를 이용하여 추가적인 이미지 프로세싱을 수행하는 것을 포함할 수도 있다. 예를 들어, 방법은, 316 에서, 줌 이미지에 기초하여 이미지 샤프닝 동작을 수행하는 것, 318 에서, 줌 이미지의 공간 필터링을 수행하는 것, 또는 양자 모두를 포함할 수도 있다. 다른 이미지 프로세싱 동작들도 물론, 또는 대안적으로 수행될 수도 있다. 방법은 또한, 320 에서, 줌 이미지 데이터를 메모리 디바이스에 저장하는 것, 322 에서 디스플레이 디바이스에서 줌 이미지를 디스플레이하는 것, 또는 이들의 임의의 조합을 포함할 수도 있다.

도 3 의 방법은, 필드-프로그래머블 게이트 어레이 (FPGA) 디바이스, 애플리케이션-특정 집적 회로 (ASIC), 중앙 처리 유닛 (CPU) 과 같은 프로세싱 유닛, 디지털 신호 처리기 (DSP), 제어기, 또 다른 하드웨어 디바이스, 펌웨어 디바이스, 또는 이들의 임의의 조합을 이용하여 구현될 수도 있다. 예로서, 도 3 의 방법은 명령들을 실행하는 프로세서에 의해 수행될 수 있다.

도 4 는 줌 이미지를 생성하는 방법의 제 3 특정 실시형태의 흐름도이다. 도 4 에 도시된 방법은, 402 에서, 제 1 픽셀 클럭 레이트에서 이미지 센서로부터 제 1 이미지 데이터를 수신하는 것을 포함한다. 예를 들어, 도 1 의 시스템 (100) 에서 줌 동작을 수행하도록 하는 지시가 수신되기 전에, 이미지 센서 (104) 는 제 1 픽셀 클럭 레이트에서 제 1 이미지 데이터를 출력할 수도 있다. 방법은 또한, 404 에서, 줌 동작을 수행하도록 하는 지시를 수신하는 것을 포함할 수도 있다. 예를 들어, 사용자는, 도 1 의 시스템 (100) 의 입력 디바이스 (142) 를 통해, 줌 동작이 수행되어야 하는 것을 나타내기 위한 사용자 입력을 제공할 수도 있다. 시스템 (100) 은 사용자 입력에 응답하여 줌 동작을 수행하도록 하는 지시를 생성할 수도 있다.

방법은 또한, 406 에서, 그 지시에 기초하여 이미지 센서로 윈도우 정보를 전송하는 것을 포함할 수도 있다. 윈도우 정보는 이미지 센서의 부분에 대응할 수도 있다. 예를 들어, 도 1 의 줌 제어기 (140) 는 윈도우 정보 (144) 를 이미지 센서 (104) 로 전송할 수도 있다. 윈도우 정보 (144) 는, 이미지 센서 (104) 에 의해 이미지 데이터가 출력되어야 하는 이미지 센서 (104) 의 특정 부분을 나타낼 수도 있다. 방법은 또한, 406 에서, 픽셀 클럭 레이트 감소 요청을 전송하는 것을 포함할 수도 있다. 픽셀 클럭 레이트 감소 요청에 응답하여, 이미지 센서의 픽셀 클럭 레이트는, 이미지 센서에 의해 캡처된 이미지 데이터의 프레임 레이트가 유지되도록 감소될 수도 있다.

방법은 또한, 408 에서, 이미지 센서로부터 그 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 것을 포함할 수도 있다. 크로핑된 이미지 데이터는 제 1 픽셀 클럭 레이트보다 느린 제 2 픽셀 클럭 레이트에서 수신될 수도 있다. 예를 들어, 도 1 의 이미지 센서 (104) 는 윈도우 정보 (144) 에 응답하여 크로핑된 이미지 데이터를 출력할 수도 있다. 마스터 클럭 레이트 (130) 가 감소되어 픽셀 클럭 레이트 (132) 가 감소되는 것을 초래할 수도 있다. 방법은 또한, 410 에서, 줌 이미지를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링하는 것을 포함할 수도 있다. 예시를 위해, 도 1 의 업스케일러 (111) 는 크로핑된 이미지 데이터를 수신할 수도 있고, 크로핑된 이미지 데이터를 줌 이미지에 대응하는 생성된 줌 이미지 데이터로 업스케일링할 수도 있다.

도 4 의 방법은, 필드-프로그래머블 게이트 어레이 (FPGA) 디바이스, 애플리케이션-특정 집적 회로 (ASIC), 중앙 처리 유닛 (CPU) 과 같은 프로세싱 유닛, 디지털 신호 처리기 (DSP), 제어기, 또 다른 하드웨어 디바이스, 펌웨어 디바이스, 또는 이들의 임의의 조합을 이용하여 구현될 수도 있다. 예로서, 도 4 의 방법은 명령들을 실행하는 프로세서에 의해 수행될 수 있다.

도 5 는 줌 이미지를 생성하는 방법의 제 4 특정 실시형태의 흐름도이다. 도 5 에 도시된 방법은, 502 에서, 이미지 센서로부터의 서브-샘플링된 이미지 데이터를 이용하여 디스플레이 디바이스에서의 디스플레이를 생성하는 것을 포함한다. 예를 들어, 도 1 의 뷰 파인더 모듈 (126) 은 서브-샘플링된 이미지 데이터를 이용하여 디스플레이 (128) 에서의 뷰 파인더 디스플레이를 생성할 수도 있다. 예시를 위해, 이미지 센서 (104) 는 서브-샘플링된 이미지 데이터를 출력할 수도 있고, 또는, 이미지 프로세싱 파이프라인 (110) 은 서브-샘플링된 이미지 데이터를 생성하기 위해 이미지 센서 (104) 에 의해 제공된 이미지 데이터를 서브-샘플링하는 기능적 모듈을 포함할 수도 있다. 서브-샘플링된 이미지 데이터는 디스플레이 (128) 에서의 디스플레이를 위해 프로세싱될 수도 있다.

방법은 또한, 504 에서, 제 1 픽셀 클럭 레이트에서 이미지 센서로부터 제 1 이미지 데이터를 수신하는 것을 포함할 수도 있다. 예를 들어, 도 1 의 시스템 (100) 에서 줌 동작을 수행하도록 하는 지시가 수신되기 전에, 이미지 센서 (104) 는 제 1 픽셀 클럭 레이트에서 제 1 이미지 데이터를 출력할 수도 있다. 방법은 또한, 506 에서, 줌 동작을 수행하도록 하는 지시를 수신하는 것을 포함할 수도 있다. 예를 들어, 사용자는, 도 1 의 시스템 (100) 의 입력 디바이스 (142) 를 통해, 줌 동작이 수행되어야 하는 것을 나타내기 위한 사용자 입력을 제공할 수도 있다. 시스템 (100) 은 사용자 입력에 응답하여 줌 동작을 수행하도록 하는 지시를 생성할 수도 있다.

방법은 또한, 508 에서, 그 지시에 기초하여 이미지 센서로 윈도우 정보를 전송하는 것을 포함할 수도 있다. 윈도우 정보는 이미지 센서의 부분에 대응할 수도 있다. 예를 들어, 도 1 의 줌 제어기 (140) 는 윈도우 정보 (144) 를 이미지 센서 (104) 로 전송할 수도 있다. 윈도우 정보 (144) 는, 이미지 센서 (104) 에 의해 이미지 데이터가 출력되어야 하는 이미지 센서 (104) 의 특정 부분을 나타낼 수도 있다. 방법은 또한, 510 에서, 이미지 센서로부터 그 부분에 대응하는 크로핑된 이미지 데이터를 수신하는 것을 포함할 수도 있다. 픽셀 클럭 레이트 감소 요청에 응답하여, 크로핑된 이미지 데이터는 제 1 픽셀 클럭 레이트보다 느린 제 2 픽셀 클럭 레이트에서 수신될 수도 있다. 예를 들어, 도 1 의 이미지 센서 (104) 는 윈도우 정보 (144) 에 응답하여 크로핑된 이미지 데이터를 출력할 수도 있다. 마스터 클럭 레이터 (130) 는 감소되어 픽셀 클럭 레이트 (132) 가 감소되는 것을 야기할 수도 있다.

방법은 또한, 514 에서, 줌 이미지를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링하는 것을 포함할 수도 있다. 예시를 위해, 도 1 의 업스케일러 (111) 는 크로핑된 이미지 데이터를 수신할 수도 있고, 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지에 대응하는 줌 이미지 데이터를 생성할 수도 있다. 방법은 또한 줌 이미지 데이터를 이용하여 추가적인 이미지 프로세싱을 수행하는 것을 포함할 수도 있다. 예를 들어, 방법은, 516 에서, 줌 이미지에 대해 이미지 샤프닝 동작을 수행하는 것, 및 518 에서, 줌 이미지의 공간 필터링을 수행하는 것을 포함할 수도 있다. 다른 이미지 프로세싱 동작들이 물론, 또는 대안적으로 수행될 수도 있다.

도 5 의 방법은, 필드-프로그래머블 게이트 어레이 (FPGA) 디바이스, 애플리케이션-특정 집적 회로 (ASIC), 중앙 처리 유닛 (CPU) 과 같은 프로세싱 유닛, 디지털 신호 처리기 (DSP), 제어기, 또 다른 하드웨어 디바이스, 펌웨어 디바이스, 또는 이들의 임의의 조합을 이용하여 구현될 수도 있다. 예로서, 도 5 의 방법은 명령들을 실행하는 프로세서에 의해 수행될 수 있다.

도 6 은 줌 이미지를 생성하는 방법들 간의 구별들을 도시하는 도이다. 도 6 에서, 줌 이미지를 생성하는 제 1 방법은 600 으로 표시되고 줌 이미지를 생성하는 제 2 방법은 650 으로 표시되었다. 제 1 방법 (600) 에서, 이미지 센서 (602) 는 제 1 픽셀 클럭 레이트에서 이미지 데이터 (614) 를 생성한다. 예를 들어, 이미지 센서 (602) 가 공칭 5 메가픽셀 (MP) 이미지 센서인 경우, 이미지 센서 (602) 는 대략 2608×1950 픽셀들을 포함하는 어레이와 같은 픽셀들의 어레이를 포함할 수도 있다. 이미지 센서 (602) 가 초당 12 프레임들의 프레임 레이트로 이미지를 생성하는 경우, 이미지 센서 (602) 의 제 1 픽셀 클럭 레이트는 약 120MHz 일 수도 있다. 이미지 데이터 (614) 는 이미지 프로세싱 파이프라인 (pipeline) (604) 으로 전송되어 예를 들어 디모자이킹, 컬러 도메인 변환, 이미지 샤프닝, 공간 필터링 등의 다양한 이미지 프로세싱 동작들이 수행되게 할 수도 있다. 이미지 프로세싱 파이프라인 (604) 은 이미지 데이터 (614) 를 프로세싱하고 이미지 데이터 (614) 를 하나 이상의 라인 버퍼들 (606) 에 쓸 수도 있다. 프로세싱된 이미지 데이터는 크로핑된 이미지 데이터 (616) 를 생성하기 위해 크롭 (crop) 프로세싱 모듈 (608) 에 의해 크로핑될 수도 있다. 크로핑된 이미지 데이터 (616) 는 업스케일러 (610) 에 의해 업스케일링되어 업스케일링된 이미지 데이터 (618) 를 생성할 수도 있다. 업스케일링된 이미지 데이터 (618) 는 추가적인 프로세싱 및 저장을 위해 다른 프로세싱 또는 저장 모듈들 (612) 에 제공될 수도 있다.

방법 (600) 의 예시적인 예에서, 줌 동작이 4 배 줌 동작에 대응하는 경우, 크로핑된 이미지 데이터 (616) 는 16 폴드 (fold) (즉, 4x 수직 해상도 및 4x 수평 해상도) 증가될 수도 있다. 따라서, 업스케일링된 이미지 데이터 (618) 는 크로핑된 이미지 데이터 (616) 의 대략 16 배 많은 픽셀들을 포함할 수도 있다. 크로핑된 이미지 데이터 (616) 가 제 1 픽셀 클럭 레이트 (예를 들어, 약 120MHz) 로 프로세싱되기 때문에, 업스케일링은 업스케일링된 이미지 데이터 (618) 가 제 1 픽셀 클럭 레이트보다 16 배 더 큰 픽셀 클럭 레이트 (예를 들어, 약 1920MHz) 로 생성되는 것을 초래한다. 따라서, 제 1 방법 (600) 은 줌 이미지가 생성될 때 픽셀 클럭 레이트에서의 상당한 증가를 초래할 수도 있다.

제 1 방법 (600) 과 제 2 방법 (650) 사이의 특별한 구별점들을 예시하기 위해, 방법들을 수행하는 시스템들 및 모듈들의 어떤 특징들이 2 가지 방법들 사이의 공통점으로서 설명된다. 예를 들어, 이미지들은 2 가지 방법들 간에 동일한 프레임 레이트 (예를 들어, 초당 12 프레임) 로 생성될 수도 있다. 추가적으로, 제 2 방법 (650) 에 대해 설명된 줌 동작은 제 1 동작 (600) 에 대해 설명되는 줌 동작에 대해 크기 면에서 유사할 수도 있다 (예를 들어, 4x 줌). 이들 유사성들은 단지 2 가지 방법들 (600, 650) 을 설명 및 비교함에 있어서의 편의를 위한 것이고, 제한들로서 의도되지 않는다. 예를 들어, 제 1 방법 (600) 또는 제 2 방법 (650) 은 초당 12 프레임보다 크거나 초당 12 프레임보다 작은 프레임 레이트들에서 동작할 수도 있다. 추가적으로, 방법들 (600, 650) 중 어느 한쪽에서의 프레임 레이트는 줌 동작을 구현하기 위해 변화될 수도 있다. 또한, 방법들 (600, 650) 중 어느 한쪽은 4x 보다 크거나 4x 보다 작은 줌 동작들을 수행하기 위해 이용될 수도 있다. 추가적으로, 이미지 센서 (602) 는 5M 픽셀들보다 많거나 5M 픽셀들보다 적게 포함할 수도 있다.

제 2 방법 (650) 에서, 줌 제어기 (652) 는 이미지 센서 (602) 에 윈도우 정보 (654) 를 제공한다. 윈도우 정보 (654) 는 데이터가 크로핑된 이미지 데이터 (656) 로서 출력될 이미지 센서 (602) 의 부분을 식별하는 정보를 포함한다. 예시를 위해, 4x 줌 동작을 수행하기 위해, 윈도우 정보 (654) 는 이미지 센서 (602) 의 픽셀들의 대략 1/16 에 대응하는 부분 (예를 들어 대략 664×492 픽셀들을 포함하는 이미지 센서 (602) 의 면적) 을 식별할 수도 있다.

줌 제어기 (652) 는 또한, 이미지 센서 (602) 가 이미지 센서의 픽셀 클럭 레이트를 제 2 픽셀 클럭 레이트로 감소시키도록 할 수도 있다. 예를 들어, 줌 제어기 (652) 는 이미지 센서 (602) 가 픽셀 클럭 레이트를 감소시키게끔 하는 신호를 이미지 센서 (602) 로 전송할 수도 있다. 또 다른 예에서, 줌 제어기 (652) 는 이미지 센서 (602) 로 전송되는 마스터 클럭 신호가 감소되게끔 하여, 이미지 센서 (602) 의 픽셀 클럭 레이트가 감소되는 것을 초래하게 할 수도 있다. 이미지 센서 (602) 는 제 2 픽셀 클럭 레이트에서 크로핑된 이미지 데이터 (656) 를 출력할 수도 있다. 예시를 위해, 제 2 픽셀 클럭 레이트는 대략 12MHz 일 수도 있다.

이미지 프로세싱 파이프라인 (604) 은 크로핑된 이미지 데이터 (656) 를 수신할 수도 있다. 업스케일러 (610) 는 이미지 프로세싱 파이프라인 (604) 의 부분일 수도 있다. 예를 들어, 업스케일러 (610) 는 이미지 프로세싱 파이프라인 (604) 의 다른 파이프라인 프로세싱 모듈들 (658) 에 앞설 수도 있다. 즉, 업스케일러 (610) 는 다른 파이프라인 프로세싱 모듈들 (658) 전에 크로핑된 이미지 데이터 (656) 를 프로세싱할 수도 있다. 업스케일러 (610) 는 줌 이미지 데이터 (670) 를 생성하기 위해 크로핑된 이미지 데이터 (656) 를 업스케일링할 수도 있다. 예를 들어, 4x 줌 동작을 위해, 크로핑된 이미지 데이터 (656) 의 픽셀들의 수는 업스케일러 (610) 에 의해 16 폴드 증가될 수도 있다. 따라서, 크로핑된 이미지 데이터 (656) 가 664×492 픽셀들을 포함하는 경우, 줌 이미지 데이터 (670) 는 2656×1968 픽셀들을 포함할 수도 있다. 프로세싱되는 픽셀들의 수를 증가시키는 것은 이미지 프로세싱 파이프라인 (604) 에서의 픽셀 클럭 레이트에서의 대응하는 증가를 초래한다. 따라서, 픽셀 클럭 레이트는 16 폴드 증가될 수도 있다. 하지만, 제 2 픽셀 클럭 레이트가 12Hz 였기 때문에, 크로핑된 이미지 데이터 (656) 를 업스케일링한 후에 이미지 프로세싱 파이프라인 (604) 에서의 증가된 픽셀 클럭 레이트는 대략 192Hz 일 수도 있고, 이는 어떤 이미지 프로세싱 시스템에 대해 수용가능한 픽셀 클럭 레이트일 수도 있다. 줌 이미지 데이터 (670) 가 생성된 후에, 이미지 프로세싱 파이프라인 (604) 은 디모자이킹, 이미지 샤프닝, 공간 필터링, 컬러 공간 변환 등과 같은 다른 파이프라인 프로세싱 기능들 (658) 을 수행할 수도 있다. 추가적으로, 다른 프로세싱 또는 저장 기능들 (612) 이 줌 이미지 데이터 (670) 를 이용하여 수행될 수도 있다.

따라서, 제 2 방법 (650) 을 이용하여, 이미지 프로세싱 시스템의 픽셀 클럭 레이트를 용인될 수 없는 레벨까지 증가시키지 않으면서 줌 이미지가 생성될 수 있다. 추가적으로, 이미지 데이터가 업스케일링된 후에 (공간 필터링 및 이미지 샤프닝과 같은) 다른 이미지 프로세싱 파이프라인 기능들이 수행될 수도 있고, 이는 이미지 프로세싱 기능들 후에 이미지 업스케일링을 수행하는 것에 비해 향상된 이미지 품질을 제공할 수도 있다. 추가적으로, 상기 언급된 향상들은 이미지 프로세싱 시스템에 의해 이용되는 대역폭 또는 이미지 프로세싱 시스템에서의 레이턴시를 증가시킴이 없이 달성될 수 있다.

도 7 은 프리뷰 디스플레이를 생성하는 방법들을 나타내는 도이다. 도 7 에서, 프리뷰 디스플레이를 생성하는 제 1 방법이 700 으로 표시되고, 프리뷰 디스플레이를 생성하는 제 2 방법이 750 으로 표시된다. 특히, 제 1 방법 (700) 은 줌 동작이 실행되기 전에 브리뷰 디스플레이를 생성하기 위해 이용될 수도 있고, 제 2 방법 (750) 은 줌 동작이 실행될 때 프리뷰 디스플레이를 생성하기 위해 이용될 수도 있다.

제 1 방법 (700) 에서, 이미지 센서 (702) 는 이미지 데이터 (710) 를 생성한다. 이미지 데이터 (710) 는, 서브-샘플링된 이미지 데이터 (712) 를 생성하기 위해 이미지 센서 (702) 에 의해서 또는 별개의 서브-샘플링 모듈 (704) 에 의해서 중 어느 일방에 의해 서브-샘플링된다. 예를 들어, 서브-샘플링은, 서브-샘플링된 이미지 데이터 (712) 에서 표현되는 픽셀들의 수를 감소시키기 위해 어떤 픽셀들을 제거하거나 어떤 픽셀들을 결합하는 것을 포함할 수도 있다. 픽셀들의 수는, 이미지의 전체 섹션들을 제거하는 것을 의미하는 이미지 데이터 (710) 의 크로핑에 비해 상대적으로 균일한 방식으로 (전체 이미지를 보유하지만 보다 낮은 해상도로 보유하는 방식으로) 감소될 수도 있다. 뷰 파인더 모듈 (706) 은 디스플레이 디바이스 (708) 로 전송되는 프리뷰 이미지 (714) 를 생성하기 위해 서브-샘플링된 이미지 데이터 (712) 를 이용한다.

제 2 방법 (750) 에서, 이미지 센서 (702) 는 이미지 데이터 (710) 를 생성한다. 이미지 데이터 (710) 는 서브-샘플링됨이 없이 크로핑 모듈 (752) 로 전송된다. 예를 들어, 이미지 데이터 (710) 는 풀 (full) 해상도로 크로핑 모듈 (752) 로 전송될 수도 있다. 크로핑 모듈 (752) 은 이미지 데이터 (710) 를 크로핑하여 크로핑된 이미지 데이터 (754) 를 생성할 수도 있다. 크로핑된 이미지 데이터 (754) 는, 디스플레이 디바이스 (708) 로 전송되는 프리뷰 이미지 (756) 를 생성하기 위해 크로핑된 이미지 데이터 (754) 를 이용하는 뷰 파인더 모듈 (706) 로 전송될 수도 있다. 특정 실시형태에서, 이미지 데이터 (710) 는 줌 동작을 수행하도록 하는 지시에 응답하여 이미지 센서 (702) 에 의해 생성된다. 예를 들어, 줌 동작을 수행하도록 하는 지시에 응답하여, 윈도우 정보가 (도 1 을 참조하여 설명된 바와 같이) 이미지 센서 (702) 로 전송될 수도 있다. 윈도우 정보에 응답하여, 이미지 센서 (702) 는 크로핑된 이미지 데이터 (754) 를 생성할 수도 있고, 이는 뷰 파인더 모듈 (706) 로 전송될 수도 있다. 따라서, 제 2 방법 (750) 은, 프리뷰 이미지 (756) 가 서브-샘플링된 이미지 데이터 (712) 로부터 생성되지 않기 때문에, 제 1 방법 (700) 보다 높은 해상도의 프리뷰 디스플레이를 생성할 수도 있다.

설명된 실시형태들과 함께, 명령들 (122) 을 실행하는 도 1 의 프로세서 (118), 도 1 의 줌 제어기 (140), 이미지 센서로 윈도우 정보를 전송하도록 구성된 하나 이상의 디바이스들 또는 회로들, 또는 이들의 조합과 같은, 줌 동작을 수행하도록 하는 지시에 응답하여 이미지 센서에 윈도우 정보를 전송하는 수단을 포함할 수도 있는 시스템이 개시된다. 시스템은 또한, 도 1 의 카메라 인터페이스 (108), 또는 이미지 프로세싱 파이프라인 (110), 크로핑된 이미지 데이터를 수신하도록 구성된 하나 이상의 디바이스들 또는 회로들, 또는 이들의 임의의 조합과 같은, 이미지 센서로부터 부분에 대응하는 크로핑된 이미지 데이터를 수신하기 위한 수단을 포함할 수도 있다. 시스템은 또한, 도 1 의 업스케일러 (111), 크로핑된 이미지 데이터를 업스케일링하도록 구성된 하나 이상의 디바이스들 또는 회로들, 또는 이들의 조합과 같은, 줌 이미지를 생성하기 위해 크로핑된 이미지 데이터를 업스케일링하기 위한 수단을 포함할 수도 있다.

도 8 을 참조하면, 줌 이미지를 생성하기 위해 줌 명령을 실행할 수 있는 카메라 (824) 및 줌 제어기 (820) 를 포함하는 전자 디바이스 (800) 의 특정 예시적인 실시형태의 블록도가 도시된다. 디바이스 (800) 는, 줌 제어기 (820) 를 구현하기 위해 실행가능할 수도 있는 프로그램 명령들 (836) 을 저장하는 메모리 (804) 에 커플링된, 범용 프로세서, 이미지 프로세서, 디지털 신호 처리기, 또는 이들의 임의의 조합과 같은, 프로세서 (802) 를 포함한다. 프로세서 (802) 는 또한, 카메라 제어기 (818) 및 디스플레이 제어기 (808) 에 커플링된다. 디스플레이 제어기 (808) 는 디스플레이 (810) 에 커플링된다. 스피커 (814) 및 마이크로폰 (816) 이 코더/디코더 (CODEC) (812) 를 통해 프로세서 (802) 에 커플링될 수 있다. 예시적인 예에서, 전자 디바이스 (800) 는 도 1 의 시스템 (100) 을 포함하거나 거기에 포함되며, 전자 디바이스 (800) 는, 카메라 (824) 에 의해 캡처된 이미지 데이터를 이용하여 줌 이미지를 생성하기 위해 줌 동작을 실행하기 위해, 도 2 내지 도 7 중 어느 것, 또는 이들의 임의의 조합에 따라 동작한다.

도 8 은 무선 인터페이스 (826) 가 프로세서 (802) 에 그리고 안테나 (828) 에 커플링될 수 있는 것을 또한 나타낸다. 특정 실시형태에서, 프로세서 (802), 디스플레이 제어기 (808), 카메라 제어기 (818), 코덱 (CODEC; 812), 메모리 (804), 및 무선 인터페이스 (826) 는 시스템-인-패키지 또는 시스템-온-칩 디바이스 (830) 에 포함된다. 특정 실시형태에서, 전력 공급기 (834), 카메라 (824), 스피커 (814), 및 마이크로폰 (816) 이 시스템-온-칩 디바이스 (830) 에 커플링된다. 또한, 특정 실시형태에서, 도 8 에 도시된 바와 같이, 디스플레이 (810), 입력 디바이스 (832), 스피커 (814), 마이크로폰 (816), 안테나 (828), 및 전력 공급기 (834) 가 시스템-온-칩 (830) 외부에 있다. 하지만, 디스플레이 (810), 입력 디바이스 (832), 스피커 (814), 마이크로폰 (816), 안테나 (828), 카메라 (824), 및 전력 공급기 (834) 의 각각은 인터페이스에 또는 제어기에와 같이 시스템-온-칩 디바이스 (830) 의 컴포넌트에 커플링될 수 있다.

당해 기술분야에서 통상의 지식을 가진 자 (이하, '당업자' 라 함) 는, 본원에 개시된 실시형태들과 함께 설명되는 다양한 예시적인 논리 블록들, 구성들, 모듈들, 회로들, 및 알고리즘 단계들은 전자적 하드웨어, 프로세서에 의해 실행되는 컴퓨터 소프트웨어, 또는 이 양자의 조합들로서 구현될 수도 있다는 것을 추가로 이해할 것이다. 다양한 예시적인 컴포넌트들, 블록들, 구성들, 모듈들, 회로들 및 단계들은 그들의 기능성 면에서 일반적으로 상기 설명되었다. 이러한 기능성이 하드웨어 또는 소프트웨어로서 구현될 지는 특정 애플리케이션 및 전체 시스템에 부과되는 설계 제약들에 의존한다. 당업자는 설명된 기능성을 각각의 특정 애플리케이션을 위해 다양한 방식들로 구현할 수도 있지만, 이러한 구현 결정들은 본 개시의 범위로부터의 이탈을 야기하는 것으로 해석되어서는 아니된다.

본원에 개시된 실시형태들과 함께 설명된 방법 또는 알고리즘의 단계들은 직접 하드웨어로, 프로세서에 의해 실행되는 소프트웨어 모듈로, 또는 이 둘의 조합으로 구현될 수도 있다. 소프트웨어 모듈은 랜덤 액세스 메모리 (RAM), 플래시 메모리, 판독-전용 메모리 (ROM), 프로그래머블 판독-전용 메모리 (PROM), 소거가능 프로그래머블 판독-전용 메모리 (EPROM), 전기적으로 소거가능 프로그래머블 판독-전용 메모리 (EEPROM), 레지스터들, 하드 디스크, 착탈형 디스크, 콤팩트 디스크 판독-전용 메모리 (CD-ROM), 또는 당해 기술분야에서 알려진 임의의 다른 형태의 유형의 저장 매체에 상주할 수도 있다. 예시적인 저장 매체는, 프로세서가 그 저장 매체에 정보를 기입하고 그로부터 정보를 판독할 수 있도록 프로세서에 커플링된다. 대안으로서, 저장 매체는 프로세서에 포함될 수도 있다. 프로세서 및 저장 매체는 애플리케이션-특정 집적 회로 (ASIC) 에 상주할 수도 있다. ASIC 은 컴퓨팅 디바이스 또는 사용자 단말기에 상주할 수도 있다. 대안으로서, 프로세서 및 저장 매체는 컴퓨팅 디바이스 또는 사용자 단말기에 이산 컴포넌트로서 상주할 수도 있다.

개시된 실시형태의 이전 설명은 당업자가 개시된 실시형태들을 실시 또는 이용할 수 있도록 하기 위해 제공되었다. 이들 실시형태들에 대한 다양한 변형들은 당업자에게 자명할 것이고, 본원에 정의된 원리들은 본 개시의 범위로부터 벗어남이 없이 다른 실시형태들에 적용될 수도 있다. 따라서, 본 개시는 본원에 나타난 실시형태들에 제한되는 것으로 의도되지 아니하고, 이하의 청구항들에 의해 정의되는 바와 같은 원리들 및 신규한 특징들과 일치하는 가능한 가장 넓은 범위와 부합된다.

Claims

줌 동작을 수행하도록 하는 지시를 수신하는 단계;
상기 지시에 기초하여 이미지 센서로 윈도우 정보를 전송하는 단계로서, 상기 윈도우 정보는 상기 이미지 센서의 부분에 대응하는, 상기 이미지 센서로 윈도우 정보를 전송하는 단계;
상기 이미지 센서로부터 상기 부분에 대응하는 크로핑된 (cropped) 이미지 데이터를 수신하는 단계; 및
상기 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하는 단계를 포함하는, 방법.
제 1 항에 있어서,
상기 지시에 응답하여 상기 이미지 센서의 픽셀 클럭 레이트를 감소시키는 단계를 더 포함하는, 방법.
제 1 항에 있어서,
상기 줌 이미지에 대해 이미지 샤프닝 (sharpening) 동작을 수행하는 단계를 더 포함하는, 방법.
제 1 항에 있어서,
상기 줌 이미지의 공간 필터링을 수행하는 단계를 더 포함하는, 방법.
제 1 항에 있어서,
상기 지시가 수신되기 전에 상기 이미지 센서로부터의 서브-샘플링된 이미지 데이터를 이용하여 디스플레이 디바이스에서의 디스플레이를 생성하는 단계; 및
상기 지시에 응답하여, 상기 디스플레이 디바이스에서의 줌 디스플레이를 생성하는 단계를 더 포함하고,
상기 줌 디스플레이는 상기 크로핑된 이미지 데이터를 이용하여 생성되고,
상기 크로핑된 이미지 데이터는 서브-샘플링되지 않는, 방법.
제 1 항에 있어서,
상기 줌 이미지에 대응하는 줌 이미지 데이터를 메모리 디바이스에 저장하는 단계를 더 포함하는, 방법.
제 1 항에 있어서,
상기 줌 이미지를 디스플레이 디바이스에서 디스플레이하는 단계를 더 포함하는, 방법.
제 1 항에 있어서,
상기 크로핑된 이미지 데이터가 업스케일링되기 전에 상기 크로핑된 이미지 데이터는 라인 버퍼에 저장되지 않는, 방법.
제 1 항에 있어서,
상기 지시를 수신하기 전에, 상기 이미지 센서는 특정 프레임 레이트로 이미지 데이터를 출력하고, 상기 특정 프레임 레이트는 상기 지시에 응답하여 변화되지 않는, 방법.
줌 동작을 수행하도록 하는 지시에 응답하여, 이미지 센서로 윈도우 정보를 전송하는 수단으로서, 상기 윈도우 정보는 상기 이미지 센서의 부분에 대응하는, 상기 이미지 센서로 윈도우 정보를 전송하는 수단;
상기 부분에 대응하는 크로핑된 (cropped) 이미지 데이터를 수신하는 수단; 및
상기 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하는 수단을 포함하는, 장치.
제 10 항에 있어서,
상기 줌 이미지에 대응하는 줌 이미지 데이터를 저장하기 위한 메모리 수단을 더 포함하는, 장치.
제 10 항에 있어서,
상기 줌 이미지를 디스플레이하기 위한 디스플레이 수단을 더 포함하는, 장치.
제 10 항에 있어서,
상기 줌 이미지에 대해 이미지 샤프닝 (sharpening) 동작 및 공간 필터링 동작을 수행하기 위한 이미지 프로세싱 수단을 더 포함하는, 장치.
제 10 항에 있어서,
상기 지시가 수신되기 전에는 제 1 픽셀 클럭 레이트에서 클럭 신호를 제공하고, 상기 지시에 응답하여 제 2 픽셀 클럭 레이트에서 클럭 신호를 제공하기 위한 클럭 수단을 더 포함하고, 상기 제 2 픽셀 클럭 레이트는 상기 제 1 픽셀 클럭 레이트 미만인, 장치.
프로세서-실행가능 명령들을 저장한 유형의 컴퓨터 판독가능 매체로서,
상기 명령들은 프로세서에 의해 실행될 때 상기 프로세서로 하여금,
줌 동작을 수행하도록 하는 지시에 응답하여 이미지 센서로, 상기 이미지 센서의 부분에 대응하는 윈도우 정보를 전송하고;
상기 이미지 센서로부터 상기 부분에 대응하는 크로핑된 (cropped) 이미지 데이터를 수신하며;
상기 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하게 하는, 유형의 컴퓨터 판독가능 매체.
제 15 항에 있어서,
상기 지시에 응답하여 상기 이미지 센서의 픽셀 클럭 레이트가 감소되게 하도록 상기 프로세서에 의해 실행가능한 명령들을 더 포함하는, 유형의 컴퓨터 판독가능 매체.
제 15 항에 있어서,
서브-샘플링된 이미지 데이터를 생성하기 위해 상기 이미지 센서를 서브-샘플링하고 디스플레이 디바이스에서의 디스플레이를 위해 상기 서브-샘플링된 이미지 데이터를 프로세싱함으로써, 상기 지시가 수신되기 전에 상기 디스플레이 디바이스에서의 디스플레이를 생성하고;
상기 크로핑된 이미지 데이터를 이용하여, 상기 지시에 응답하여 상기 디스플레이 디바이스에서의 줌 디스플레이를 생성하도록 상기 프로세서에 의해 실행가능한 명령들을 더 포함하고,
상기 크로핑된 이미지 데이터는 서브-샘플링되지 않는, 유형의 컴퓨터 판독가능 매체.
제 1 픽셀 클럭 레이트에서 이미지 센서로부터 제 1 이미지 데이터를 수신하는 단계;
줌 동작을 수행하도록 하는 지시를 수신하는 단계;
상기 지시에 응답하여 상기 이미지 센서로 윈도우 정보를 전송하는 단계;
상기 줌 동작과 연관되는 상기 이미지 센서의 부분에 대응하는 크로핑된 (cropped) 이미지 데이터를 수신하는 단계로서, 상기 크로핑된 이미지 데이터는 상기 제 1 픽셀 클럭 레이트보다 느린 제 2 픽셀 클럭 레이트에서 수신되는, 상기 크로핑된 이미지 데이터를 수신하는 단계; 및
상기 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하는 단계를 포함하는, 방법.
제 18 항에 있어서,
상기 줌 이미지에 대해 이미지 샤프닝 (sharpening) 동작을 수행하는 단계를 더 포함하는, 방법.
제 18 항에 있어서,
상기 줌 이미지의 공간 필터링을 수행하는 단계를 더 포함하는, 방법.
제 18 항에 있어서,
상기 지시가 수신되기 전에 상기 이미지 센서로부터의 서브-샘플링된 이미지 데이터를 이용하여 디스플레이 디바이스에서의 디스플레이를 생성하는 단계; 및
상기 지시에 응답하여, 상기 디스플레이 디바이스에서의 줌 디스플레이를 생성하는 단계를 더 포함하고,
상기 줌 디스플레이는 상기 크로핑된 이미지 데이터를 이용하여 생성되고,
상기 크로핑된 이미지 데이터는 서브-샘플링되지 않는, 방법.
시스템으로서,
프로세서; 및
상기 프로세서에 대해 액세스가능한 메모리를 포함하고,
상기 메모리는,
줌 동작을 실시하도록 하는 지시에 응답하여 이미지 센서로 윈도우 정보를 전송하는 것;
상기 이미지 센서의 픽셀 클럭 레이트를 감소시키도록 하는 요청을 상기 이미지 센서로 전송하는 것으로서, 상기 요청은 상기 픽셀 클럭 레이트가 제 1 픽셀 클럭 레이트로부터 상기 제 1 픽셀 클럭 레이트 미만인 제 2 픽셀 클럭 레이트로 감소되도록 하는, 상기 요청을 상기 이미지 센서로 전송하는 것;
상기 줌 동작과 연관되는 상기 이미지 센서의 부분에 대응하는 크로핑된 (cropped) 이미지 데이터를 수신하는 것으로서, 상기 크로핑된 이미지 데이터는 상기 제 2 픽셀 클럭 레이트에서 상기 이미지 센서로부터 수신되는, 상기 크로핑된 이미지 데이터를 수신하는 것; 및
상기 크로핑된 이미지 데이터를 업스케일링하여 줌 이미지를 생성하는 것을 수행하도록 상기 프로세서에 의해 실행가능한 명령들을 포함하는, 시스템.
제 22 항에 있어서,
상기 이미지 센서와 상기 프로세서를 커플링하는 적어도 하나의 버스를 더 포함하고, 상기 줌 동작이 실시될 때 이용되는 상기 적어도 하나의 버스의 대역폭은 상기 줌 동작이 실시되지 않을 때 이용되는 상기 적어도 하나의 버스의 대역폭 이하인, 시스템.
제 22 항에 있어서,
뷰 파인더 모듈을 더 포함하고, 상기 뷰 파인더 모듈은, 상기 줌 동작이 실시되지 않을 때에는 상기 이미지 센서로부터의 서브-샘플링된 이미지 데이터를 이용하여 이미지 프리뷰 디스플레이를 생성하고, 상기 줌 동작이 실시될 때에는 상기 크로핑된 이미지 데이터를 이용하여 프리뷰 디스플레이를 생성하도록 구성되며, 상기 크로핑된 이미지 데이터는 서브-샘플링되지 않는, 시스템.
제 22 항에 있어서,
상기 프로세서에 커플링된 라인 버퍼를 더 포함하고, 상기 줌 동작이 실시되지 않을 때 상기 이미지 데이터를 프로세싱하기 위해 상기 라인 버퍼의 제 1 부분이 이용되고, 상기 줌 동작이 실시될 때 상기 크로핑된 이미지 데이터를 프로세싱하기 위해 상기 라인 버퍼의 제 2 부분이 이용되며, 상기 제 2 부분은 상기 제 1 부분보다 작은, 시스템.
제 22 항에 있어서,
상기 이미지 센서에 커플링된 이미지 프로세싱 파이프라인을 더 포함하고, 상기 이미지 프로세싱 파이프라인은 상기 크로핑된 이미지 데이터를 업스케일링하는 업스케일러를 포함하는, 시스템.
제 26 항에 있어서,
상기 이미지 프로세싱 파이프라인은 상기 업스케일러에 커플링된 적응형 공간 필터링 모듈을 더 포함하고, 상기 적응형 공간 필터링 모듈은 상기 업스케일러로부터 수신된 상기 줌 이미지를 프로세싱하는, 시스템.
제 22 항에 있어서,
상기 이미지 센서는 프레임 레이트에서의 인터럽트를 야기하지 않으면서 상기 제 1 픽셀 클럭 레이트로부터 상기 제 2 픽셀 클럭 레이트로 변화시키도록 구성되는, 시스템.
제 22 항에 있어서,
상기 이미지 센서는 비-활성 모드에 진입하지 않으면서 상기 제 1 픽셀 클럭 레이트로부터 상기 제 2 픽셀 클럭 레이트로 변화시키도록 구성되는, 시스템.