KR20230073875A - 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법 - Google Patents

이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR20230073875A
KR20230073875A KR1020210160715A KR20210160715A KR20230073875A KR 20230073875 A KR20230073875 A KR 20230073875A KR 1020210160715 A KR1020210160715 A KR 1020210160715A KR 20210160715 A KR20210160715 A KR 20210160715A KR 20230073875 A KR20230073875 A KR 20230073875A
Authority
KR
South Korea
Prior art keywords
image
electronic device
objects
screen
display mode
Prior art date
Application number
KR1020210160715A
Other languages
English (en)
Inventor
서유진
김명재
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020210160715A priority Critical patent/KR20230073875A/ko
Priority to PCT/KR2022/018308 priority patent/WO2023090936A1/ko
Priority to EP22896133.0A priority patent/EP4354851A1/en
Priority to US18/096,963 priority patent/US20230162321A1/en
Publication of KR20230073875A publication Critical patent/KR20230073875A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4621—Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20112—Image segmentation details
    • G06T2207/20132—Image cropping

Abstract

이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법이 제공된다. 전자 장치가 이미지를 적응적으로 디스플레이하는 방법은, 제1 이미지를 표시 중인 상기 전자 장치의 화면 표시 모드가 변경됨을 식별하되, 상기 화면 표시 모드는 가로 모드 및 세로 모드 중 하나인, 단계; 상기 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 상기 전자 장치의 화면에 공백이 존재하는지 여부를 식별하는 단계; 상기 전자 장치의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출하는 단계; 상기 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성하는 단계; 상기 복수의 후보 이미지들 중에서, 제2 이미지를 선택하는 단계; 및 상기 변경된 화면 표시 모드에서 상기 전자 장치의 화면에 상기 공백이 존재하지 않도록, 상기 제2 이미지를 표시하는 단계를 포함할 수 있다.

Description

이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법{ELECTRONIC DEVICE FOR ADAPTIVELY DISPLAYING AN IMAGE AND OPERATING METHOD THEREOF}
본 개시는, 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법에 관한 것이다.
전자 장치에서 디스플레이를 통해 더 나은 시각적인 경험을 제공하기 위해, 변경 가능한 화면 표시 모드가 제공된다. 예를 들어, 전자 장치는 가로 해상도의 이미지를 표시하기 위한 가로 모드 및 세로 해상도의 이미지를 표시하기 위한 세로 모드를 제공한다. 가로 해상도의 이미지가 세로 모드에서 표시되거나, 세로 해상도의 이미지가 가로 해상도에서 표시되는 경우, 해상도 차이에 의해 전자 장치의 상하 또는 좌우에 공백이 발생한다.
전자 장치가 화면 표시 모드가 변경됨에 따라, 전자 장치에서 현재 표시 중인 사용자의 콘텐츠를 이용하여 가공된 이미지를 적응적으로 디스플레이하는 방법을 제시하고자 한다.
개시된 실시예들은, 전자 장치의 화면 표시 모드가 변경됨을 식별하고, 변경된 화면 표시 모드에서 사용자의 콘텐츠가 표시될 때, 이전의 화면 표시 모드에서 표시 중이던 이미지를 가공하여 생성된 새로운 이미지를 표시함으로써, 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법을 제공하기 위한 것이다.
본 개시의 일 측면에 따르면, 전자 장치가 이미지를 적응적으로 디스플레이하는 방법을 제공할 수 있다. 상기 방법은 제1 이미지를 표시 중인 상기 전자 장치의 화면 표시 모드가 변경됨을 식별하되, 상기 화면 표시 모드는 가로 모드 및 세로 모드 중 하나인, 단계; 상기 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 상기 전자 장치의 화면에 공백이 존재하는지 여부를 식별하는 단계; 상기 전자 장치의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출하는 단계; 상기 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성하는 단계; 상기 복수의 후보 이미지들 중에서, 제2 이미지를 선택하는 단계; 및 상기 변경된 화면 표시 모드에서 상기 전자 장치의 화면에 상기 공백이 존재하지 않도록, 상기 제2 이미지를 표시하는 단계를 포함할 수 있다.
상기 제2 이미지를 선택하는 단계는, 상기 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하는 단계를 포함하고, 상기 제2 이미지를 표시하는 단계는, 상기 복수의 제2 이미지들을 조합하여 표시하는 단계를 포함할 수 있다.
상기 제2 이미지를 선택하는 단계는, 상기 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하는 단계를 포함하고, 상기 제2 이미지를 표시하는 단계는, 상기 복수의 제2 이미지들을 순차적으로 표시하는 단계를 포함할 수 있다.
상기 방법은, 상기 제2 이미지의 사이즈를 조정하고, 해상도를 향상시키는 단계를 더 포함할 수 있다.
상기 제1 이미지 내에서 하나 이상의 객체들을 검출하는 단계는, 상기 제1 이미지 내에서 관심 영역들을 나타내는 관심 영역 맵을 생성하는 단계; 및 상기 관심 영역 맵에 기초하여 상기 하나 이상의 객체들을 인식하는 단계를 포함할 수 있다.
상기 방법은, 상기 인식된 하나 이상의 객체들이 복수개인 경우, 상기 복수개의 객체들을 메인 객체 및 서브 객체들로 분류하는 단계를 더 포함하고, 상기 제2 이미지를 선택하는 단계는, 상기 메인 객체를 포함하는 후보 이미지를 상기 제2 이미지로 선택하는 단계를 포함할 수 있다.
상기 복수의 후보 이미지들을 생성하는 단계는, 상기 전자 장치의 사양에 기초하여 잘라내기 영역의 종횡비가 소정 비율이 되도록 잘라내기 하는 단계를 포함할 수 있다.
상기 복수의 후보 이미지들을 생성하는 단계는, 상기 제1 이미지 내의 객체의 위치, 상기 제1 이미지 내의 객체의 수 및 객체의 존재 여부 중 적어도 일부에 기초하여, 하나 이상의 객체들의 각각에 대응하는 잘라내기 영역을 결정하는 단계를 더 포함할 수 있다.
상기 잘라내기 영역을 결정하는 단계는, 상기 하나 이상의 객체들의 각각을 기준으로, 소정 크기의 여분의 영역이 더 포함되도록 더 큰 잘라내기 영역을 결정하는 단계를 포함하고, 상기 제2 이미지를 표시하는 단계는, 상기 여분의 영역을 포함하는 상기 제2 이미지를 이용하여, 상기 전자 장치의 화면에 표시되는 객체의 위치가 움직이도록 표시하는 단계를 포함할 수 있다.
상기 방법은, 상기 제2 이미지가 표시된 이후에, 상기 전자 장치의 상기 표시 모드가 이전의 화면 표시 모드로 재변경되는 경우, 상기 전자 장치의 화면에 상기 제1 이미지를 표시하는 단계를 더 포함할 수 있다.
본 개시의 일 측면에 따르면, 이미지를 적응적으로 디스플레이하는 전자 장치를 제공할 수 있다. 상기 전자 장치는, 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써, 제1 이미지를 표시 중인 상기 전자 장치의 화면 표시 모드가 변경됨을 식별하되, 상기 화면 표시 모드는 가로 모드 및 세로 모드 중 하나이며, 상기 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 상기 전자 장치의 화면에 공백이 존재하는지 여부를 식별하고, 상기 전자 장치의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출하고, 상기 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성하고, 상기 복수의 후보 이미지들 중에서, 제2 이미지를 선택하고, 상기 변경된 화면 표시 모드에서 상기 전자 장치의 화면에 상기 공백이 존재하지 않도록, 상기 제2 이미지를 표시할 수 있다.
본 개시의 일 측면에 따르면, 전술한 전자 장치가 이미지를 적응적으로 디스플레이하는 방법들을 실행시키기 위한 프로그램이 기록된 컴퓨터 판독 가능 기록매체를 제공할 수 있다.
도 1은 본 개시의 일 실시예에 따른 전자 장치가 이미지를 디스플레이하는 방법을 개략적으로 설명하기 위한 도면이다.
도 2는 본 개시의 일 실시예에 따른 전자 장치가 이미지를 디스플레이하는 방법을 설명하기 위한 흐름도이다.
도 3은 본 개시의 일 실시예에 따른 전자 장치의 표시 모드가 변경되는 동작을 설명하기 위한 도면이다.
도 4a는 본 개시의 일 실시예에 따른 전자 장치의 동작을 설명하기 위해 사용되는 이미지를 설명하는 도면이다.
도 4b는 본 개시의 일 실시예에 따른 전자 장치가 이미지 내에서 객체를 검출하는 동작을 설명하기 위한 도면이다.
도 4c는 본 개시의 일 실시예에 따른 전자 장치가 이미지에서 객체를 검출하는 인공지능 모델의 일 예를 도시한 도면이다.
도 5는 본 개시의 일 실시예에 따른 전자 장치가 검출된 객체들이 포함되도록 잘라낸 후보 이미지들을 생성하는 동작을 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시예에 따른 전자 장치가 변경된 화면 표시 모드에서 제2 이미지를 표시하는 동작을 설명하기 위한 도면이다.
도 7은 본 개시의 일 실시예에 따른 전자 장치가 복수의 제2 이미지들을 표시하는 동작을 설명하기 위한 도면이다.
도 8은 본 개시의 일 실시예에 따른 전자 장치가 복수의 제2 이미지들을 표시하는 다른 동작을 설명하기 위한 도면이다.
도 9는 본 개시의 일 실시예에 따른 전자 장치가 제2 이미지를 선택하는 동작을 설명하기 위한 도면이다.
도 10은 본 개시의 일 실시예에 따른 전자 장치가 제1 이미지 내에서 잘라내기 영역을 결정하는 방법을 설명하기 위한 도면이다.
도 11은 본 개시의 일 실시예에 따른 전자 장치가 제1 이미지 내에서 잘라내기 영역을 결정하는 다른 방법을 설명하기 위한 도면이다.
도 12는 본 개시의 일 실시예에 따른 전자 장치가 제1 이미지 내에서 잘라내기 영역을 결정하는 다른 방법을 설명하기 위한 도면이다.
도 13은 본 개시의 일 실시예에 따른 전자 장치가 여분의 영역을 포함하는 제2 이미지를 표시하는 동작을 설명하기 위한 도면이다.
도 14는 본 개시의 일 실시예에 따른 전자 장치의 화면 표시 모드가 재변경되는 경우, 전자 장치가 이미지를 표시하는 동작을 설명하기 위한 도면이다.
도 15는 본 개시의 일 실시예에 따른 전자 장치의 구성을 도시한 블록도이다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 명세서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 또한, 본 명세서에서 사용되는 '제1' 또는 '제2' 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용할 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로만 사용된다.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.
아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
도 1은 본 개시의 일 실시예에 따른 전자 장치가 이미지를 디스플레이하는 방법을 개략적으로 설명하기 위한 도면이다.
도 1을 참조하면, 일 실시예에 따른 전자 장치(2000)는 디스플레이를 포함하여 영상 및/또는 동영상을 출력하는 장치일 수 있다. 예를 들어, 전자 장치(2000)는 스마트 TV, 스마트폰, 태블릿 PC, 랩탑 PC, 액자형 디스플레이 등을 포함할 수 있으나, 이에 한정되는 것은 아니며, 전자 장치(2000) 디스플레이를 포함하는 다양한 종류 및 형태의 전자 장치로 구현될 수 있다. 전자 장치(2000)는 변경 가능한 화면 표시 모드를 제공하는 전자 장치일 수 있다. 전자 장치(2000)의 화면 표시 모드는 가로 모드(landscape mode) 또는 세로 모드(portrait mode)일 수 있다. 가로 모드는, 세로 방향보다 가로 방향으로 더 긴 이미지를 표시하기 위한 화면 표시 모드일 수 있으며, 세로 모드는, 가로 방향보다 세로 방향으로 더 긴 이미지를 표시하기 위한 화면 표시 모드일 수 있다.
일 실시예에 따른 전자 장치(2000)는 제1 이미지(110)를 표시할 수 있다. 전자 장치(2000)는 사용자의 콘텐츠인 제1 이미지(110)를 표시하는 동안 전자 장치(2000)의 화면 표시 모드가 변경됨을 식별할 수 있다. 제1 이미지(110)는 사용자가 구매, 제작 등을 통해 보유한 사용자의 콘텐츠일 수 있다.
일 실시예에서, 전자 장치(2000)는 변경된 화면 표시 모드에서 제1 이미지(110)가 표시될 때, 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별할 수 있다. 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 변경됨에 따라, 전자 장치(2000)의 화면의 공백이 발생하는 경우, 사용자의 콘텐츠인 제1 이미지(110)를 가공하여 생성된 제2 이미지(120)가 표시되도록, 전자 장치의 화면을 적응적으로 변경할 수 있다.
전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 변경되고, 변경된 화면 표시 모드에서 화면에 공백이 존재하면, 변경된 화면 표시 모드의 화면 비율에 맞도록 제1 이미지 내에서 잘라내기 영역(115)을 결정할 수 있다.
일 실시예에서, 전자 장치(2000)는 잘라내기 영역(115)을 결정할 때, 제1 이미지 내에 존재하는 하나 이상의 객체들을 기준으로 잘라내기 영역(115)을 결정할 수 있다. 전자 장치(2000)는 제1 이미지(110) 내에서 하나 이상의 객체들을 검출하고, 다양한 방식으로 잘라내기 영역(115)들을 결정하고, 결정된 잘라내기 영역(115)들에 기초하여, 복수의 잘라낸 후보 이미지들을 생성할 수 있다.
전자 장치(2000)는 복수의 잘라낸 후보 이미지들 중에서 제2 이미지(120)를 선택하여, 전자 장치(2000)의 화면에 표시할 수 있다. 이 경우, 전자 장치(2000)는 선택된 제2 이미지(120)의 사이즈를 전자 장치(2000)의 화면 해상도에 맞도록 재조정하고, 화질을 향상시킬 수 있다.
일 실시예에 따른 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 변경되어도, 전자 장치(2000)의 화면에 사용자의 콘텐츠가 자연스럽게 표시되도록 이미지를 가공하고, 콘텐츠를 적응적으로 표시함으로써, 사용자의 콘텐츠 감상 경험을 극대화 할 수 있다.
전자 장치(2000)가 이미지를 적응적으로 디스플레이하는 구체적인 방법들에 대해서는, 후술하는 도면과 그에 대한 설명에서 더 상세하게 서술하기로 한다.
도 2는 본 개시의 일 실시예에 따른 전자 장치가 이미지를 디스플레이하는 방법을 설명하기 위한 흐름도이다.
단계 S210에서, 일 실시예에 따른 전자 장치(2000)는 제1 이미지를 표시 중인 전자 장치(2000)의 화면 표시 모드가 변경됨을 식별한다.
일 실시예에서, 전자 장치(2000)의 화면 표시 모드는 가로 모드(landscape mode) 또는 세로 모드(portrait mode)일 수 있다. 전자 장치(2000)는 전자 장치(2000)가 제1 이미지를 표시 중인 상태에서 전자 장치(2000)의 화면 표시 모드가 변경됨을 식별할 수 있다.
예를 들어, 전자 장치(2000)는 전자 장치(2000)가 가로 모드에서 제1 이미지를 표시 중이다가, 전자 장치(2000)의 화면 표시 모드가 세로 모드로 변경되는 것을 식별할 수 있다. 또는, 전자 장치(2000)는 전자 장치(2000)가 세로 모드에서 제1 이미지를 표시 중이다가, 전자 장치(2000)의 화면 표시 모드가 가로 모드로 변경되는 것을 식별할 수 있다.
일 실시예에서, 전자 장치(2000)는 전자 장치(2000)의 가로 모드와 세로 모드를 전환할 수 있는, 사용자 인터페이스를 제공할 수 있다. 예를 들어, 전자 장치(2000)는 전자 장치(2000)가 가로 모드에서 동작하고 있을 때 가로 모드를 세로 모드로 전환하는 사용자 입력에 따라 가로 모드를 세로 모드로 전환할 수 있따. 구체적으로, 화면 표시 모드 전환을 요청하는 사용자 입력에 따라, 전자 장치(2000)는 전자 장치(2000)에 설치된 회전 부재를 이용하여 전자 장치(2000)의 화면이 소정 각도(예를 들어, 90도) 회전되도록 제어함으로써, 화면 표시 모드를 전환할 수 있다.
단계 S220에서, 일 실시예에 따른 전자 장치(2000)는 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별한다.
일 실시예에서, 전자 장치(2000)의 화면 표시 모드가 변경되는 경우, 변경 이전의 화면 표시모드에서 표시된 제1 이미지의 해상도로 인하여 변경 이후의 화면 표시 모드에서 전자 장치(2000)의 화면에 공백이 존재할 수 있다.
예를 들어, 전자 장치(2000)가 가로 모드에서 제1 이미지를 표시 중일 수 있다. 가로 모드에서 표시되는, 제1 이미지는 가로 모드에서 표시되기에 적합한 이미지일 수 있다. 따라서, 전자 장치(2000)의 화면 표시 모드가 세로 모드로 변경되면, 세로 모드의 화면에서 제1 이미지가 여전히 가로로 표시됨에 따라, 전자 장치(2000)의 화면에 공백이 발생할 수 있다. 전자 장치(2000)는 변경된 화면 표시 모드에서, 화면 표시 모드가 변경되기 이전의 제1 이미지가 계속 표시되는 경우, 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별할 수 있다. 예를 들어, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되고, 변경 전 가로 모드에서 표시되던 제1 이미지가 가로로 긴 이미지여서, 해상도 차이에 의해 세로 모드에서 제1 이미지가 온전히 표시될 수 없는 경우, 전자 장치(2000)는 제1 이미지의 비율을 유지하면서 감소된 사이즈로 제1 이미지를 세로 모드에서 표시할 수 있다. 전자 장치(2000)는 제1 이미지가 세로 모드에서 표시됨에 따라, 전자 장치(2000)의 화면에 표시될 픽셀 데이터가 존재하지 않는 영역이 있는 경우, 화면에 공백이 존재하는 것으로 판단할 수 있다.
단계 S230에서, 일 실시예에 따른 전자 장치(2000)는 전자 장치(2000)의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출한다.
일 실시예에서, 전자 장치(2000)는 인공지능 모델을 이용하여 제1 이미지 내에 존재하는 객체의 종류 및 위치를 식별할 수 있다. 예를 들어, 전자 장치(2000)는 인공지능 모델을 이용하여 제1 이미지 내에서 객체들을 검출하고, 검출된 객체들을 세그멘테이션할 수 있다.
일 실시예에서, 전자 장치(2000)는 제1 이미지 내에서 관심 영역들을 나타내는 관심 영역 맵을 생성할 수 있다. 관심 영역이란, 이미지 내에서 객체가 존재하는 영역을 말하며, 이미지 내에서 관심 영역은 복수개 존재할 수 있다. 관심 영역 맵은 예를 들어, 돌출 맵(saliency map)일 수 있으나, 이에 한정되는 것은 아니다. 돌출 맵은 이미지에서 객체를 포함할 가능성이 가장 높은 영역을 나타내는 맵일 수 있다. 전자 장치(2000)는 관심 영역 맵에 기초하여, 제1 이미지 내에서 하나 이상의 객체들을 인식할 수 있다.
일 실시예에서, 전자 장치(2000)는 이용 가능한 알려진 컴퓨터 비전 기술들을 활용하여 제1 이미지 내에서 하나 이상의 객체들을 인식할 수 있다. 이 경우, 전자 장치(2000)는 관심 영역 맵을 이용하여 객체의 종류 및 위치를 보다 정확하게 식별할 수 있다.
단계 S240에서, 일 실시예에 따른 전자 장치(2000)는 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성한다.
일 실시예에서, 전자 장치(2000)는 제1 이미지 내 하나 이상의 객체들을 포함하는 영역을 다양한 방식으로 잘라내기하여 후보 이미지들을 생성할 수 있다.
예를 들어, 전자 장치(2000)는 후보 이미지가 하나의 객체를 포함하도록 제1 이미지를 잘라내기 할 수 있다. 다른 예에서, 전자 장치(2000)는 후보 이미지가 둘 이상의 객체를 포함하도록 제1 이미지를 잘라내기 할 수 있다.
한편, 전자 장치(2000)는 기설정된 조건에 기초하여 후보 이미지들을 생성할 수 있다. 예를 들어, 기설정된 조건은 전자 장치(2000)의 화면 종횡비일 수 있다. 전자 장치(2000)는 잘라낼 영역의 종횡비에 기초하여 제1 이미지 내 하나 이상의 객체들을 포함하는 영역을 잘라내기 할 수 있다.
단계 S250에서, 일 실시예에 따른 전자 장치(2000)는 복수의 후보 이미지들 중에서, 제2 이미지를 선택한다.
일 실시예에서, 전자 장치(2000)는 다양한 방식으로 제2 이미지를 선택할 수 있다. 예를 들어, 전자 장치(2000)는 복수의 후보 이미지들 중에서 임의의 이미지를 제2 이미지로 선택할 수 있다. 다른 예에서, 전자 장치(2000)는 제1 이미지 내의 하나 이상의 객체들 중에서 메인 객체로 분류된 객체를 포함하는 후보 이미지를 제2 이미지로 선택할 수 있다. 다른 예에서, 전자 장치(2000)는 복수의 후보 이미지들 중에서 복수개의 이미지를 제2 이미지로 선택할 수 있다.
단계 S260에서, 일 실시예에 따른 전자 장치(2000)는 변경된 화면 표시 모드에서 전자 장치(2000)의 화면에 공백이 존재하지 않도록, 제2 이미지를 표시한다.
일 실시예에서, 전자 장치(2000)는 전자 장치(2000)의 화면에 공백이 존재하지 않도록 제2 이미지를 표시하기 위해, 제2 이미지의 사이즈를 조정하고, 해상도를 향상시키는 과정을 수행할 수 있다.
도 3은 본 개시의 일 실시예에 따른 전자 장치의 표시 모드가 변경되는 동작을 설명하기 위한 도면이다.
일 실시예에서, 전자 장치(2000)는 화면 표시 모드가 변경 가능한 전자 장치(2000)일 수 있다. 예를 들어, 전자 장치(2000)는 화면의 가로 모드 및 세로 모드의 전환이 가능한 전자 장치(2000)일 수 있다. 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 변경됨을 식별하고, 화면 표시 모드가 변경됨에 따른 동작들을 수행할 수 있다.
전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우(310)를 예로 들면, 전자 장치(2000)의 가로 모드 화면에 표시 중이던 이미지(315)는, 가로 방향으로 긴 종횡비를 갖는 이미지이다. 가로 모드 화면에 표시 중이던 이미지(315)는, 전자 장치(2000)의 화면 표시 모드가 세로 모드로 변경됨에 따라 사이즈가 조정된다. 이 경우, 전자 장치(2000)의 세로 모드 화면에 검은 공백이 발생할 수 있다.
또한, 전자 장치(2000)의 화면 표시 모드가 세로 모드에서 가로 모드로 변경되는 경우(320)를 예로 들면, 전자 장치(2000)의 세로 모드 화면에 표시 중이던 이미지(325)는, 세로 방향으로 긴 종횡비를 갖는 이미지이다. 세로 모드 화면에 표시 중이던 이미지(325)는, 전자 장치(2000)의 화면 표시 모드가 가로 모드로 변경됨에 따라 사이즈가 조정된다. 이 경우, 전자 장치(2000)의 가로 모드 화면에 검은 공백이 발생할 수 있다.
일 실시예에 따른 전자 장치(2000)는, 제1 이미지를 표시 중인 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로, 또는 세로 모드에서 가로 모드로 변경됨을 식별할 수 있다. 또한, 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 변경된 이후에, 화면 표시 모드가 변경되기 이전에 표시되고 있던 제1 이미지가 전자 장치(2000)의 화면의 표시되는 경우 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별할 수 있다.
도 4a는 본 개시의 일 실시예에 따른 전자 장치의 동작을 설명하기 위해 사용되는 이미지를 설명하는 도면이다.
도 4a를 참조하면, 개시된 실시예들을 설명함에 있어서, 유화 작품인 조르주 쉐라, “그랑드자트섬의 일요일 오후”, 1884-1886. 시카고 미술관 소장품(Georges Seurat, “A Sunday Afternoon on the Island of La Grande Jatte,” 1884-1886. The Art Institute of Chicago)를 예시로 설명하기로 한다. 개시된 실시예들에서, ‘그랑드자트섬의 일요일 오후’는 Creative Commons Zero (CC0)의 퍼블릭 도메인으로 지정됨에 따라 사용되었으며, 이미지의 하단에 이미지 사용에 따른 캡션이 기재되었다.
도 4b는 본 개시의 일 실시예에 따른 전자 장치가 이미지 내에서 객체를 검출하는 동작을 설명하기 위한 도면이다.
도 4b를 참조하면, 일 실시예에 따른 전자 장치(2000)는 제1 이미지(400) 내에서 복수의 객체들을 검출할 수 있다.
예를 들어, 전자 장치(2000)는 제1 이미지(400) 내에서 제1 객체(410), 제2 객체(420), 제3 객체(430), 제4 객체(440), 제5 객체(450), 제6 객체(460), 제7 객체(470) 및 제8 객체(480)를 검출할 수 있다. 다만, 이는 설명의 편의를 위한 예시일 뿐이며, 전자 장치(2000)는 제1 이미지(400) 내에 존재하는 모든 객체들을 검출할 수 있다. 또한, 검출된 객체를 사각 박스로써 표시하였으나, 이는 예시일 뿐이며 전자 장치(2000)는 객체의 윤곽선을 세그멘테이션하는 방식으로 실제 객체의 모양을 추출하는 방식으로 객체를 검출할 수 있다.
일 실시예에서, 전자 장치(2000)는 제1 이미지 내에서 검출된 객체들을 하나 이상 포함하도록 잘라내기 영역을 결정할 수 있다. 예를 들어, 전자 장치(2000)는 제1 객체(410)를 포함하는 영역을 잘라내기 영역으로 결정할 수 있다. 다른 예에서, 전자 장치(2000)는 소정 간격 이내로 인접한 객체들인 제2 객체(420) 및 제3 객체(430)를 포함하는 영역을 잘라내기 영역으로 결정할 수 있다. 다른 예에서, 전자 장치(2000)는 검출된 객체의 영역이 중첩되어 있는 제4 객체(440) 및 제5 객체(450)를 포함하는 영역을 잘라내기 영역으로 결정할 수 있다. 즉, 전자 장치(2000)는 잘라내기 영역 내 하나 이상의 객체가 포함되도록, 잘라내기 영역을 결정할 수 있다.
일 실시예에서, 전자 장치(2000)는 제1 이미지 내에서 검출된 객체들의 종횡비를 식별할 수 있다. 객체의 종횡비는, 전자 장치(2000)가 잘라내기 영역을 결정하는 데 이용될 수 있다. 예를 들어, 제1 객체(410)는 종횡비가 세로로 길고, 제6 객체(460)는 종횡비가 가로/세로 동일하며, 제7 객체(470)는 종횡비가 가로로 길다. 전자 장치(2000)는 제1 객체(410) 내지 제8 객체(480)들 각각의 종횡비에 기초하여, 잘라내기 영역을 결정할 수 있다.
도 4c는 본 개시의 일 실시예에 따른 전자 장치가 이미지에서 객체를 검출하는 인공지능 모델의 일 예를 도시한 도면이다.
도 4c를 참조하면, 객체 검출 모델은 관심 영역 식별 모듈(490), 합성곱 신경망(Convolutional Neural Network; CNN)(492), 분류기 모듈(494), 바운딩 박스 리그레션 모듈(496)을 포함할 수 있다.
관심 영역 식별 모듈(490)은 입력 이미지에서 관심 영역을 추출한다. 관심 영역은 관심 영역 맵 형태로 추출될 수 있는데, 관심 영역 맵은 예를 들어, 돌출 맵(saliency map)일 수 있다. 관심 영역 식별 모듈은 관심 영역 맵에 기초하여 관심 영역들을 생성할 수 있다.
합성곱 신경망(492)은 입력 이미지를 입력 받거나, 관심 영역을 잘라내기한 이미지를 입력 받아, 특징 벡터(feature vector)를 추출한다. 합성곱 신경망은 다양한 구조의 신경망 네트워크(예를 들어, AlexNet, VggNet 등)가 이용될 수 있다.
분류기 모듈(494)은 합성곱 신경망으로부터 출력된 특징 벡터에 기초하여 이미지 분류를 수행한다. 특징 벡터는, 검출된 객체의 클래스, 확률 값 등을 포함할 수 있다.
바운딩 박스 리그레션 모듈(Bouding-box regression module)(494)은 검출된 객체를 포함하는 박스(box)를 표현하는 네 가지의 숫자 (x, y, w, h)를 계산한다. 박스를 표현하는 네 가지 숫자 (x, y, w, h)에 의해 오브젝트의 위치가 특정될 수 있다. 바운딩 박스 리그레션을 수행함으로써, 검출되는 객체의 로컬리제이션 에러를 감소시킬 수 있다.
일 실시예에서, 객체 검출 모델은 검출된 객체를 세그멘테이션 할 수 있다. 예를 들어, 객체 검출 모델은 시맨틱 세그먼테이션(Semantic segmentation) 모듈을 포함할 수 있다. 시맨틱 세그멘테이션은, 이미지를 의미적인 면이나 인지적인 관점에서 서로 비슷한 영역으로 분할하기 위해, 이미지에서 정확하게 오브젝트의 경계선까지 추출하여 영상을 의미있는 영역으로 나누어주는 작업을 한다. 즉, 이미지 시맨틱 세그먼테이션은, 이미지를 픽셀 레벨에서 이해하여, 이미지의 각 픽셀에 오브젝트 클래스를 할당함으로써 각 오브젝트의 경계를 확인한다.
한편, 도 4b에 도시된 객체 검출 모델은 객체 검출을 수행하기 위한 일 예를 도시한 것이며, 객체 검출 방법은 이에 한정되지 않는다. 객체 검출 모델은, 합성곱 신경망(492) 외에 다른 모델(예를 들어, Vision Transformer(ViT), MLP Mixer(Multi-Layer Perceptron Mixer) 등)들로 대체될 수 있다.
일 실시예에 따른 전자 장치(2000)는 객체 검출 모델은 객체 정보를 획득할 수 있다. 객체 정보는, 객체의 종류, 객체의 위치를 포함할 수 있으나, 이에 한정되는 것은 아니다.
도 5는 본 개시의 일 실시예에 따른 전자 장치가 검출된 객체들이 포함되도록 잘라낸 후보 이미지들을 생성하는 동작을 설명하기 위한 도면이다.
도 5를 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우를 예시로 설명한다. 또한, 가로 모드에서 제1 이미지(500)가 표시되다가 화면 표시 모드가 세로 모드로 변경되면, 전자 장치(2000)의 세로 모드 화면에 공백이 발생한 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
도 5를 참조하면, 일 실시예에 따른 전자 장치(2000)는 제1 이미지(500)에서 검출된 객체들이 하나 이상 포함되도록 잘라내기하여, 복수의 잘라낸 후보 이미지들(510)을 생성할 수 있다.
일 실시예에서, 복수의 후보 이미지들(510)은, 전자 장치(2000)의 화면 표시 모드가 변경된 경우에 변경된 화면 표시 모드에서 화면에 표시되기 위해 이용될 이미지들일 수 있다. 일 실시예에 따른 전자 장치(2000)는, 복수의 후보 이미지들(510)을 생성하기 위한 잘라내기 영역을 결정할 수 있다. 예를 들어, 전자 장치(2000)는 이미지의 해상도, 전자 장치(2000)의 화면 표시 모드, 검출된 객체의 종횡비 중 적어도 하나에 기초하여 잘라내기 영역을 결정할 수 있다.
일 실시예에서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경된 경우 사용될 이미지들인 후보 이미지들(510)은, 이미지의 가로 길이보다 세로 길이가 더 긴 이미지들일 수 있다. 이 경우, 세로 모드에서 표시되기에 적합하지 않은 이미지들은 비후보 이미지들(520)로 분류된다. 예를 들어, 검출된 제1 객체(522)의 경우, 제1 객체(522)는 객체의 모양이 가로로 길어 세로 모드에서 사용되기에 적합하지 않을 수 있다. 따라서, 전자 장치(2000)는 제1 객체(522)는 잘라내기를 하지 않는 것으로 결정할 수 있다. 다른 예에서, 검출된 제2 객체(524)의 경우, 제2 객체(524)는 크기가 작아 리사이즈하는 경우 화질이 열화되어 세로 모드에서 사용되기에 적합하지 않을 수 있다. 따라서, 전자 장치(2000)는 제2 객체(524)는 잘라내기를 하지 않는 것으로 결정할 수 있다. 다른 예에서, 검출된 제2 객체(524)는, 제2 객체(524)를 포함하도록 잘라내기 영역을 결정하는 경우, 이미지 내 다른 객체들이 잘려서 포함될 수 있다. 이 경우, 전자 장치(2000)는 제2 객체(524)를 잘라내기하지 않는 것으로 결정할 수 있다.
일 실시예에서, 전자 장치(2000)는 세로 모드에서 화면에 표시하기에 적합한 객체들을 식별하고, 식별된 객체들이 포함되도록 잘라내기 영역을 결정할 수 있다. 전자 장치(2000)는 결정된 잘라내기 영역에 기초하여 복수의 후보 이미지들(510)을 생성할 수 있다.
일 실시예에서, 전자 장치(2000)는 복수의 후보 이미지들(510) 중에서, 전자 장치(2000)의 세로 모드에서 표시될 이미지인 제2 이미지(515)를 선택할 수 있다. 예를 들어, 전자 장치(2000)는 복수의 후보 이미지들 중에서 임의의 이미지를 제2 이미지(515)로 선택할 수 있다. 다른 예에서, 전자 장치(2000)는 제1 이미지 내의 하나 이상의 객체들 중에서 메인 객체로 분류된 객체를 포함하는 후보 이미지를 제2 이미지(515)로 선택할 수 있다. 다른 예에서, 전자 장치(2000)는 복수의 후보 이미지들 중에서 복수개의 이미지를 제2 이미지(515)로 선택할 수 있다.
도 6은 본 개시의 일 실시예에 따른 전자 장치가 변경된 화면 표시 모드에서 제2 이미지를 표시하는 동작을 설명하기 위한 도면이다.
도 6을 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
일 실시예에서, 전자 장치(2000)는 제1 이미지를 표시 중인 전자 장치(2000)의 화면 표시 모드가 변경됨을 식별하고, 변경된 화면 표시 모드에서 제1 이미지(610)가 표시될 때 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별할 수 있다.
예를 들어, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우, 가로 모드에서 표시되었던 제1 이미지(610)가 원래의 비율을 유지한 채 세로 모드에서 표시될 수 있다. 전자 장치(2000)는 이 경우, 세로 모드에서 제1 이미지(610)가 표시됨에 따라 발생하는 화면 내 공백 존재 여부를 식별할 수 있다.
전자 장치(2000)는 세로 모드로 변경된 상태에서 제1 이미지(610)가 표시될 때, 전자 장치(2000)의 화면에 공백이 존재하면, 전술한 실시예들에 따라 제1 이미지(610) 내에서 하나 이상의 객체들을 검출할 수 있다.
일 실시예에 따른 전자 장치(2000)는, 전술한 실시예들에 따라 검출된 객체를 포함하는 영역을 잘라내기 함으로써, 전자 장치(2000)의 변경된 화면 표시 모드에서 표시할 후보 이미지들(620)을 생성할 수 있다.
일 실시예에서, 전자 장치(2000)는 후보 이미지들(620) 중에서 제2 이미지(625)를 선택할 수 있다. 전자 장치(2000)는 후보 이미지들(620) 중에서 제2 이미지(625)를 임의로 선택하거나, 특정한 우선 순위에 따라 선택할 수 있다. 전자 장치(2000)는 제2 이미지(625)를 세로 모드에서 표시할 수 있다. 제2 이미지(625)가 세로 모드에서 표시될 때, 전자 장치(2000)는 전자 장치(2000)의 화면에 공백이 존재하지 않도록 제2 이미지(625)를 표시할 수 있다. 이 경우, 전자 장치(2000)는 제1 이미지(610)에서 일부를 잘라낸 제2 이미지(625)의 사이즈를 전자 장치(2000)의 화면 사이즈에 맞도록 조정하고, 해상도를 향상시킬 수 있다. 이 경우, 초해상화(Super-Resolution), HDR(High Dynamic Range)등 다양한 이미지 처리 기법이 사용될 수 있다.
도 7은 본 개시의 일 실시예에 따른 전자 장치가 복수의 제2 이미지들을 표시하는 동작을 설명하기 위한 도면이다.
일 실시예에서, 전자 장치(2000)는 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택할 수 있다. 전자 장치(2000)는 변경된 화면 표시 모드에서 제2 이미지를 표시할 때, 복수의 제2 이미지들을 조합하여 표시할 수 있다. 복수의 후보 이미지들 중에서 선택되는 복수의 제2 이미지들은, 복수의 후보 이미지들 중 일부일 수 있다. 예를 들어, 복수의 후보 이미지들이 100개인 경우, 선택되는 복수의 제2 이미지들은 10개일 수 있다.
예를 들어, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경된 경우, 전자 장치(2000)는 후보 이미지들 중에서 복수의 제2 이미지들을 선택하고, 선택된 제2 이미지들을 조합하여 표시할 수 있다. 조합 예시 1(710)을 참조하면, 전자 장치(2000)는 복수의 제2 이미지들을 동일한 사이즈로 리사이즈하고, 전자 장치(2000)의 세로 모드 화면에서 공백이 존재하지 않도록 제2 이미지들의 조합을 표시할 수 있다. 또한, 조합 예시 2(720)를 참조하면, 전자 장치(2000)는 복수의 제2 이미지들을 조합할 때, 제1 이미지 내에서 객체의 원래 사이즈를 반영하여 복수의 제2 이미지들을 서로 다른 사이즈로 리사이즈하고, 전자 장치(2000)의 세로 모드 화면에서 공백이 존재하지 않도록 제2 이미지들의 조합을 표시할 수 있다.
다른 예에서, 전자 장치(2000)의 화면 표시 모드가 세로 모드에서 가로 모드로 변경된 경우, 전자 장치(2000)는 전술한 실시예들에 따라 화면 표시 모드가 변경됨을 식별하고, 가로 모드에서 제1 이미지가 표시될 때 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별할 수 있다. 전자 장치(2000)는 전술한 실시예들에 따라 제1 이미지 내에서 객체를 포함하도록 잘라내기한 복수의 후보 이미지들을 생성하고, 생성된 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택할 수 있다. 조합 예시 3(730)을 참조하면, 전자 장치(2000)는 복수의 제2 이미지들인 제2 이미지 A 내지 제2 이미지 J를 조합하여, 전자 장치(2000)의 가로 모드 화면에서 공백이 존재하지 않도록 제2 이미지들의 조합을 표시할 수 있다.
도 8은 본 개시의 일 실시예에 따른 전자 장치가 복수의 제2 이미지들을 표시하는 다른 동작을 설명하기 위한 도면이다.
도 8을 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
일 실시예에서, 전자 장치(2000)는 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택할 수 있다. 전자 장치(2000)는 변경된 화면 표시 모드에서 제2 이미지들을 표시할 때, 복수의 제2 이미지들을 순차적으로 표시할 수 있다.
예를 들어, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경된 경우, 전자 장치(2000)는 제2 이미지 A(810)가 기 설정된 제1 시간(815) 동안 세로 모드에서 전자 장치(2000)의 화면에 표시되도록 할 수 있다. 기 설정된 제1 시간(815)이 경과하면, 전자 장치(2000)는 제2 이미지 B(820)가 기 설정된 제2 시간(825) 동안 세로 모드에서 전자 장치(2000)의 화면에 표시되도록 할 수 있다. 기 설정된 제2 시간(825)이 경과하면, 전자 장치(2000)는 제2 이미지 C(830)가 기 설정된 제3 시간(835) 동안 세로 모드에서 전자 장치(2000)의 화면에 표시되도록 할 수 있다. 이 경우, 기 설정된 제1 시간(815), 제2 시간(825) 및 제3 시간(835)은 모두 동일하거나, 각각 상이할 수 있다.
한편, 전자 장치(2000)는 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하고, 선택된 제2 이미지들을 조합한 후에, 제2 이미지들의 조합을 순차적으로 표시할 수 있다. 제2 이미지들의 조합에 관해서는, 도 7에대한 설명에서 이미 서술하였으므로, 동일한 설명은 생략한다.
도 9는 본 개시의 일 실시예에 따른 전자 장치가 제2 이미지를 선택하는 동작을 설명하기 위한 도면이다.
도 9를 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
도 9를 참조하면, 일 실시예에 따른 전자 장치(2000)는 일 실시예에 따른 전자 장치(2000)는 제1 이미지(900) 내에서 복수의 객체들을 검출할 수 있다. 예를 들어, 전자 장치(2000)는 제1 이미지(900) 내에서 제1 객체(910), 제2 객체(920), 제3 객체(930), 제4 객체(940), 제5 객체(950), 제6 객체(960), 제7 객체(970) 및 제8 객체(980)를 검출할 수 있다. 다만, 이는 설명의 편의를 위한 예시일 뿐이며, 전자 장치(2000)는 제1 이미지(900) 내에 존재하는 모든 객체들을 검출할 수 있다.
일 실시예에서, 전자 장치(2000)는 제1 이미지(900) 내에서 인식된 하나 이상의 객체들이 복수개인 경우, 복수개의 객체들을 메인 객체 및 서브 객체들로 분류할 수 있다. 전자 장치(2000)는 다양한 기준에 기초하여 제1 이미지(900) 내에서 메인 객체를 결정할 수 있다. 전자 장치(2000)는 예를 들어, 객체의 위치, 객체의 크기, 객체의 종류, 객체들 간의 거리 중 적어도 하나에 기초하여 제1 이미지(900) 내에서 메인 객체를 결정할 수 있으나, 이에 한정되는 것은 아니다.
예를 들어, 전자 장치(2000)는 제1 이미지(900) 내에서 제일 큰 객체인 제1 객체(910)를 메인 객체로 결정하고, 제2 객체 내지 제8 객체(920 내지 980)들은 서브 객체로 분류할 수 있다.
예를 들어, 전자 장치(2000)는 제1 이미지(900) 내에서 이미지 중앙에 위치하는 객체를 메인 객체로 결정하고, 나머지 객체들을 서브 객체로 분류할 수 있다.
예를 들어, 전자 장치(2000)는 제1 이미지(900) 내에서 검출된 물건들과 사람들 중에서, 사람을 메인 객체로 결정하고, 나머지 물건들을 서브 객체로 분류할 수 있다.
예를 들어, 전자 장치(2000)는 객체들간의 거리가 짧은, 모여있는 객체들을 메인 객체로 결정하고, 나머지 객체들을 서브 객체로 분류할 수 있다.
일 실시예에 따른 전자 장치(2000)는 메인 객체로 결정된 제1 객체(910)를 포함하도록 잘라내기 영역을 결정할 수 있다. 또한, 전자 장치는 서브 객체들로 결정된 제2 객체 내지 제8 객체(920 내지 980)들을 각각 포함하도록, 잘라내기 영역을 결정할 수 있다. 전자 장치(2000)는 결정된 잘라내기 영역들에 기초하여 제1 이미지(900)를 잘라낸, 복수의 후보 이미지들을 생성할 수 있다.
일 실시예에서, 메인 객체를 포함하는 후보 이미지를 상기 제2 이미지로 선택할 수 있다. 전자 장치(2000)는 메인 객체로 결정된 제1 객체(910)를 포함하는 이미지를 제2 이미지로 선택할 수 있다.
일 실시예에 따른 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 전환되고, 전자 장치(2000)의 화면 내에 공백이 식별되는 경우, 전자 장치(2000)는 메인 객체가 포함되는 제2 이미지가 전자 장치(2000)의 화면에 표시되도록 할 수 있다.
도 10은 본 개시의 일 실시예에 따른 전자 장치가 제1 이미지 내에서 잘라내기 영역을 결정하는 방법을 설명하기 위한 도면이다.
도 10을 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
일 실시예에서, 전자 장치(2000)는 전자 장치의 사양(specification) 정보를 획득하고, 전자 장치(2000)의 사양에 기초하여 제1 이미지를 잘라내는 잘라내기 영역의 종횡비를 결정할 수 있다.
일 실시예에서, 전자 장치(2000)는 해상도에 따른 종횡비를 맵핑한 맵핑 테이블(1010)을 획득할 수 있다. 전자 장치(2000)는 전자 장치(2000)의 사양 및 맵핑 테이블(1010)에 기초하여, 제1 이미지의 잘라내기 영역을 결정할 수 있다.
예를 들어, 전자 장치(2000)의 화면 사양이 854*480의 해상도를 갖는 경우, 전자 장치(2000)의 화면의 종횡비가 16:9일 수 있다. 전자 장치(2000)는 맵핑 테이블(1010)에 기초하여 객체를 포함하는 잘라내기 영역을 9:16 비율을 갖는 영역(1020)으로 결정할 수 있다. 다른 예에서, 전자 장치(2000)의 화면 사양이 2560*1080의 해상도를 갖는 경우, 전자 장치(2000)의 화면의 종횡비가 21:9일 수 있다. 전자 장치(2000)는 맵핑 테이블(1010)에 기초하여 객체를 포함하는 잘라내기 영역을 9:21 비율을 갖는 영역(1030)으로 결정할 수 있다.
일 실시예에 따른 전자 장치(2000)는 전자 장치(2000)의 사양에 기초하여 제1 이미지 내에서 잘라내기 영역을 결정한다. 따라서, 동일한 제1 이미지라도 다른 전자 장치(2000)에서 제1 이미지가 표시된다면, 전자 장치(2000)의 사양에 따라서 잘라내기 되는 영역이 상이할 수 있다. 전자 장치(2000)는 전자 장치(2000)의 사양에 기초하여 잘라내기 영역을 결정함으로써, 전자 장치(2000)의 화면 표시 모드가 변경된 이후에 제2 이미지가 표시될 때, 제2 이미지의 비율이 왜곡되지 않도록 할 수 있다.
도 11은 본 개시의 일 실시예에 따른 전자 장치가 제1 이미지 내에서 잘라내기 영역을 결정하는 다른 방법을 설명하기 위한 도면이다.
도 11을 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 세로 모드에서 가로 모드로 변경되는 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
도 11을 참조하면, 제1 이미지(1100)는 전자 장치(2000)의 화면 표시 모드가 세로 모드일 때 표시되는 이미지이다. 일 실시예에 따른 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 가로 모드로 변경될 경우 표시될 제2 이미지를 생성할 수 있다. 전자 장치(2000)는 제1 이미지(1100) 내에 포함되는 하나 이상의 객체들의 각각에 대하여, 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기 함으로써, 복수의 잘라낸 후보 이미지들을 생성한다.
일 실시예에서, 전자 장치(2000)는 후보 이미지를 생성하기 위한 잘라내기 영역(1110)을 결정할 수 있다. 예를 들어, 전자 장치(2000)는 제1 이미지(1100) 내의 객체의 위치, 제1 이미지 내의 객체의 수 및 객체의 존재 여부 중 적어도 일부에 기초하여, 하나 이상의 객체들의 각각에 대응하는 잘라내기 영역을 결정할 수 있다. 전자 장치(2000)는 제1 이미지(1100) 내에서 객체가 존재하는 영역을 잘라내기 영역(1110)으로 결정할 수 있다. 전자 장치(2000)는 잘라내기 영역(1110)에 포함되는 객체의 수에 기초하여 잘라내기 영역(1110)을 결정할 수 있다.
일 실시예에서, 전자 장치(2000)는 잘라내기 영역(1110)에 하나의 객체가 포함되도록 할 수 있다. 전자 장치(2000)는 잘라내기 영역(1110)을 분할(예를 들어, 4분할, 9분할 등)하고, 분할된 영역들을 기초로 객체의 위치를 결정함으로써 잘라내기 영역(1110)을 결정할 수 있다.
예를 들어, 제1 예시 1120과 같이, 전자 장치(2000)는 제1 객체(1102)가 잘라내기 영역의 4분할하는 분할선들의 교차점에 위치하도록 제1 객체(1102)의 위치를 결정함으로써, 잘라내기 영역(1110)을 결정할 수 있다.
다른 예에서, 제2 예시 1130과 같이, 전자 장치(2000)는 제1 객체(1102)가 잘라내기 영역을 9분할하는 분할선들의 교차점 중 하나에 위치하도록 제1 객체(1102)의 위치를 결정함으로써, 잘라내기 영역(1110)을 결정할 수 있다.
일 실시예에서, 전자 장치(2000)는 잘라내기 영역(1110)에 두개의 객체가 포함되도록 할 수 있다. 전자 장치(2000)는 잘라내기 영역을 전자 장치(2000)는 잘라내기 영역(1110)을 분할(예를 들어, 4분할, 9분할 등)하고, 분할된 영역들을 기초로 객체들의 위치를 결정함으로써 잘라내기 영역(1110)을 결정할 수 있다.
예를 들어, 제3 예시 1140과 같이, 전자 장치(2000)는 제1 객체(1102) 및 제2 객체(1104)가 각각 잘라내기 영역의 9분할하는 분할선들의 교차점에 위치하도록 제1 객체(1102) 및 제2 객체(1104)의 위치를 각각 결정함으로써, 잘라내기 영역(1110)을 결정할 수 있다. 이 경우, 전자 장치(2000)는 제1 객체(1102) 및 제2 객체(1104) 간 거리에 기초하여, 잘라내기 영역(1110)을 어떻게 분할할 지(예를 들어, 9분할, 12분할, 16분할 등)를 결정할 수 있다. 전자 장치(2000)는 잘라내기 영역(1110)에 포함될 제1 객체(1102) 및 제2 객체(1104)의 위치를 결정함으로써, 잘라내기 영역(1110)을 결정할 수 있다.
다른 예에서, 제4 예시 1150과 같이, 전자 장치(2000)는 제1 객체(1102) 및 제2 객체(1104)가 각각 잘라내기 영역을 9분할한 분할면 안에 위치하도록 제1 객체(1102) 및 제2 객체(1104)의 위치를 각각 결정함으로써, 잘라내기 영역(1110)을 결정할 수 있다. 이 경우, 전자 장치(2000)는 제1 객체(1102) 및 제2 객체(1104) 간 거리에 기초하여, 잘라내기 영역을 어떻게 분할할 지를 결정할 수 있다.
일 실시예에 따른 전자 장치(2000)는 잘라내기 영역(1110)에 포함될 객체가 3 이상인 경우에도, 전술한 방식들과 같은 방식으로 객체들의 위치를 결정하고, 잘라내기 영역(1110)을 결정함으로써, 잘라내기 영역(1110)에 포함되는 객체들이 일부만 포함되지 않고 온전히 포함되도록, 잘라내기 영역(1110)을 결정할 수 있다.
도 12는 본 개시의 일 실시예에 따른 전자 장치가 제1 이미지 내에서 잘라내기 영역을 결정하는 다른 방법을 설명하기 위한 도면이다.
도 12를 설명함에 있어서, 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우를 예시로 설명한다. 다만, 이는 설명의 편의를 위한 것이며, 본 실시예는 그 반대의 경우에도 동일하게 적용될 수 있다.
일 실시예에서, 전자 장치(2000)는 전술한 실시예들에 따라 전자 장치(2000)가 가로 모드에서 세로 모드로 변경되는 경우 표시될 제2 이미지를 생성한다. 이를 위해, 전자 장치(2000)는 제1 이미지(1200) 내에서 객체(1210)를 포함하도록 잘라내기 영역(1220)을 결정할 수 있다. 이 경우, 전자 장치(2000)는 잘라내기 영역(1220)을 잘라낸 후보 이미지를 제2 이미지로 선택하고, 전자 장치(2000)의 세로 모드에서 제2 이미지를 표시할 수 있다.
일 실시예에서, 전자 장치(2000)는 객체(1210)를 기준으로, 소정 크기의 여분 영역이 더 포함되도록 더 큰 잘라내기 영역(1230)을 결정할 수 있다. 전자 장치(2000)는 더 큰 잘라내기 영역(1230)을 잘라냄으로써, 여분의 영역을 포함하는 더 큰 잘라내기 영역을 잘라낸 후보 이미지를 제2 이미지로 선택하고, 전자 장치(2000)의 세로 모드에서 제2 이미지를 표시할 수 있다. 이 경우, 전자 장치(2000)는 여분의 영역을 포함하는 제2 이미지를 이용하여, 전자 장치(2000)의 화면에서 표시되는 객체(1210)의 위치가 움직이도록 표시할 수 있다. 이는, 도 13을 참조하여 더 설명한다.
도 13은 본 개시의 일 실시예에 따른 전자 장치가 여분의 영역을 포함하는 제2 이미지를 표시하는 동작을 설명하기 위한 도면이다.
도 13을 참조하면, 일 실시예에 따른 전자 장치(2000)는 전술한 실시예들에 따라 객체(1300)가 포함되도록 결정하는 잘라내기 영역(1302) 외에도, 소정 크기의 여분 영역이 더 포함되도록 더 큰 잘라내기 영역(1304)을 결정할 수 있다.
전자 장치(2000)는 더 큰 잘라내기 영역(1304)으로 잘라내기 한, 여분의 영역을 포함하는 이미지를 제2 이미지로 결정할 수 있다.
전자 장치(2000)는 여분의 영역을 포함하는 제2 이미지를 이용하여, 전자 장치(2000)의 화면에 표시되는 객체의 위치가 움직이도록 표시할 수 있다.
전자 장치(2000)의 화면에 표시되는 객체의 위치가 움직이는 것을 설명하기 위하여, 시간 구간을 제1 시간(1310), 제2 시간(1320) 및 제3 시간(1330)으로 나누어 설명하기로 한다. 예를 들어, 전자 장치(2000)는 여분의 영역을 포함하는 제2 이미지를 이용하여, 제1 시간(1310) 동안 객체(1300)의 위치가 아래로 이동하도록 제2 이미지를 표시할 수 있다. 제1 시간(1320)이 경과하면, 전자 장치(2000)는 제2 시간(1320) 동안 객체(1300)의 위치가 오른쪽 위로 이동하도록 제2 이미지를 표시할 수 있다. 제2 시간(1320)이 경과하면, 전자 장치(2000)는 제3 시간 동안 객체의 위치가 다른 방향으로 이동하도록 제2 이미지를 표시할 수 있다. 이 경우, 제1 시간(1310), 제2 시간(1320) 및 제3 시간(1330)은 모두 동일하거나, 각각 상이할 수 있다.
도 14는 본 개시의 일 실시예에 따른 전자 장치의 화면 표시 모드가 재변경되는 경우, 전자 장치가 이미지를 표시하는 동작을 설명하기 위한 도면이다.
일 실시예에서, 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 가로 모드에서 세로 모드로 변경되는 경우, 전술한 실시예들에 따라, 제2 이미지(1420)를 전자 장치(2000)의 화면에 표시할 수 있다.
일 실시예에서, 전자 장치(2000)는 제2 이미지(1420)가 전자 장치(2000)의 화면에 표시된 이후의, 전자 장치(2000)의 표시 모드가 이전의 화면 표시 모드로 재변경되는지 여부를 식별할 수 있다.
예를 들어, 전자 장치(2000)는 제2 이미지(1420)가 표시된 이후, 전자 장치의 화면 표시 모드가 다시 가로 모드로 변경됨을 식별할 수 있다. 전자 장치(2000)는 전자 장치(2000)의 화면 표시 모드가 가로 모드로 변경되는 경우, 제2 이미지(1420)가 표시되기 이전에 가로 모드에서 표시되던 이미지인 제1 이미지(1410)를 전자 장치(2000)의 화면에 표시할 수 있다.
도 15는 본 개시의 일 실시예에 따른 전자 장치의 구성을 도시한 블록도이다.
도 15를 참조하면, 일 실시예에 따른 전자 장치(2000)는 통신부(2100), 수신부(2200), 디스플레이(2300), 메모리(2400) 및 프로세서(2500)를 포함할 수 있다.
통신부(2100)는 프로세서(2500)의 제어에 의해 서버 또는 다른 전자 장치들과 데이터 통신을 수행할 수 있다. 예를 들어, 통신부(2100)는 전자 장치(2000)의 외부로 이미지, 비디오, 오디오 등을 요청하고, 수신할 수 있다.
통신부(2100)는 예를 들어, 유선 랜, 무선 랜(Wireless LAN), 와이파이(Wi-Fi), 블루투스(Bluetooth), 지그비(zigbee), WFD(Wi-Fi Direct), 적외선 통신(IrDA, infrared Data Association), BLE (Bluetooth Low Energy), NFC(Near Field Communication), 와이브로(Wireless Broadband Internet, Wibro), 와이맥스(World Interoperability for Microwave Access, WiMAX), SWAP(Shared Wireless Access Protocol), 와이기그(Wireless Gigabit Alliance, WiGig) 및 RF 통신을 포함하는 데이터 통신 방식 중 적어도 하나를 이용하여 서버 또는 다른 전자 장치들과 데이터 통신을 수행할 수 있다.
수신부(2200)는 프로세서(2500)의 제어에 의해 전자 장치(2000)의 외부로부터 이미지, 비디오, 오디오 등을 수신할 수 있다.
수신부(2200)는 예를 들어, HDMI 포트(High-Definition Multimedia Interface port, 컴포넌트 잭(component jack), PC 포트(PC port), 디스플레이 포트(Display port) 및 USB 포트(USB port) 중 적어도 하나를 포함할 수 있다.
디스플레이(2300)는 프로세서(2500)의 제어에 의해 전자 장치(2000)의 화면에 영상 신호를 출력할 수 있다.
메모리(2400)는 프로세서(2500)가 판독할 수 있는 명령어들, 데이터 구조, 및 프로그램 코드(program code)가 저장될 수 있다. 개시된 실시예들에서, 프로세서(2500)가 수행하는 동작들은 메모리(2400)에 저장된 프로그램의 명령어들 또는 코드들을 실행함으로써 구현될 수 있다.
메모리(2400)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나를 포함하는 비휘발성 메모리 및 램(RAM, Random Access Memory) 또는 SRAM(Static Random Access Memory)과 같은 휘발성 메모리를 포함할 수 있다.
일 실시 예에 따른 메모리(2400)는 전자 장치(2000)가 적응적으로 이미지를 디스플레이하기 위해 동작하도록 하는 하나 이상의 인스트럭션 또는 프로그램을 저장할 수 있다. 예를 들어, 메모리(2400)는 디바이스 분석 모듈(2410), 객체 검출 모듈(2420) 및 이미지 처리 모듈(2430)이 저장될 수 있다.
프로세서(2500)는 전자 장치(2000)의 전반적인 동작들을 제어할 수 있다. 예를 들어, 프로세서(2500)는 메모리(2400)에 저장된 프로그램의 하나 이상의 명령어들(instructions)을 실행함으로써, 전자 장치(2000)가 이미지를 적응적으로 디스플레이하기 위한 전반적인 동작들을 제어할 수 있다. 프로세서(2500)는 이미지 내에서 객체를 검출하기 위한 하나 이상의 신경망 프로세서를 포함할 수 있다.
프로세서(2500)는 예를 들어, 중앙 처리 장치(Central Processing Unit), 마이크로 프로세서(microprocessor), 그래픽 처리 장치(Graphic Processing Unit), ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 애플리케이션 프로세서(Application Processor), 신경망 처리 장치(Neural Processing Unit) 또는 인공지능 모델의 처리에 특화된 하드웨어 구조로 설계된 인공지능 전용 프로세서 중 적어도 하나로 구성될 수 있으나, 이에 제한되는 것은 아니다.
일 실시예에서, 프로세서(2500)는 디바이스 분석 모듈(2410)을 실행하여 전자 장치의 관련된 정보를 분석할 수 있다. 프로세서(2500)는 전자 장치의 화면 표시 모드가 변경되는지 여부를 식별할 수 있다. 이 경우, 프로세서(2500)는 하나 이상의 센서(예를 들어, 자이로 센서 등)로부터 센싱된 센서 정보에 기초하여, 전자 장치의 화면 표시 모드가 변경되는지 여부를 식별할 수 있다. 프로세서(2500)는 전자 장치의 사양에 관련된 정보(예를 들어, 전자 장치(2000)의 디스플레이(2300)의 해상도, 화면 종횡비 등)를 식별할 수 있다. 프로세서(2500)는 전자 장치(2000)의 화면 표시 모드가 변경되고, 변경된 화면 표시 모드에서 화면 표시 모드가 변경되기 이전의 이미지가 표시될 때, 전자 장치(2000)의 화면에 공백이 존재하는지 여부를 식별할 수 있다. 프로세서(2500)가 디바이스 분석 모듈(2410)을 이용하여 수행하는 동작들은 전술한 실시예들에서 이미 설명하였으므로, 동일한 설명은 생략한다.
일 실시예에서, 프로세서(2500)는 객체 검출 모듈(2420)을 실행하여, 이미지 내에서 하나 이상의 객체들을 검출할 수 있다. 프로세서(2500)는 인공지능 모델을 이용하여 이미지 내에 존재하는 객체의 종류 및 위치를 식별할 수 있다. 이 경우, 프로세서(2500)는 이미지 내에서 관심 영역들을 나타내는 관심 영역 맵을 생성하고, 관심 영역 맵에 기초하여 이미지 내에서 하나 이상의 객체들을 검출할 수 있다. 프로세서(2500)가 객체 검출 모듈(2420)을 이용하여 수행하는 동작들은, 전술한 실시예들에서 이미 설명하였으므로, 동일한 설명은 생략한다.
일 실시예에서, 프로세서(2500)는 이미지 처리 모듈(2430)을 실행하여, 다양한 이미지 처리들을 수행할 수 있다. 프로세서(2500)는 이미지 내에서 검출된 하나 이상의 객체들에 대하여, 객체를 포함하는 영역을 잘라내기 영역을 결정할 수 있다. 프로세서(2500)는 결정된 잘라내기 영역에 기초하여 이미지를 잘라냄으로써, 복수의 후보 이미지들을 생성할 수 있다. 프로세서(2500)는 복수의 후보 이미지들 중에서 선택된 제2 이미지를 전자 장치(2000)의 화면에 표시하기 위하여, 제2 이미지의 사이즈를 조정하고, 해상도를 향상시킬 수 있다. 프로세서(2500)가 이미지 처리 모듈(2430)을 이용하여 수행하는 동작들은 전술한 실시예들에서 이미 설명하였으므로, 동일한 설명은 생략한다.
일 실시예에 따른 전자 장치의 동작 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 컴퓨터 판독 가능 매체는, 비일시적(non-transitory) 기록매체의 형태로 제공될 수 있다. 여기서, 비일시적 기록매체는 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 기록매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.
또한, 개시된 실시예들에 따른 전자 장치의 동작 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다.
컴퓨터 프로그램 제품은 S/W 프로그램, S/W 프로그램이 저장된 컴퓨터로 읽을 수 있는 저장 매체를 포함할 수 있다. 예를 들어, 컴퓨터 프로그램 제품은 전자 장치의 제조사 또는 전자 마켓을 통해 전자적으로 배포되는 S/W 프로그램 형태의 상품(예, 다운로더블 앱)을 포함할 수 있다. 전자적 배포를 위하여, S/W 프로그램의 적어도 일부는 저장 매체에 저장되거나, 임시적으로 생성될 수 있다. 이 경우, 저장 매체는 제조사의 서버, 전자 마켓의 서버, 또는 SW 프로그램을 임시적으로 저장하는 중계 서버의 저장매체가 될 수 있다.
컴퓨터 프로그램 제품은, 서버 및 클라이언트 장치로 구성되는 시스템에서, 서버의 저장매체 또는 클라이언트 장치의 저장매체를 포함할 수 있다. 또는, 서버 또는 클라이언트 장치와 통신 연결되는 제3 장치(예, 스마트폰)가 존재하는 경우, 컴퓨터 프로그램 제품은 제3 장치의 저장매체를 포함할 수 있다. 또는, 컴퓨터 프로그램 제품은 서버로부터 클라이언트 장치 또는 제3 장치로 전송되거나, 제3 장치로부터 클라이언트 장치로 전송되는 S/W 프로그램 자체를 포함할 수 있다.
이 경우, 서버, 클라이언트 장치 및 제3 장치 중 하나가 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 수행할 수 있다. 또는, 서버, 클라이언트 장치 및 제3 장치 중 둘 이상이 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 분산하여 실시할 수 있다.
예를 들면, 서버(예로, 클라우드 서버 또는 인공 지능 서버 등)가 서버에 저장된 컴퓨터 프로그램 제품을 실행하여, 서버와 통신 연결된 클라이언트 장치가 개시된 실시예들에 따른 방법을 수행하도록 제어할 수 있다.
이상에서 실시예들에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속한다.

Claims (20)

  1. 전자 장치가 이미지를 적응적으로 디스플레이하는 방법에 있어서,
    제1 이미지를 표시 중인 상기 전자 장치의 화면 표시 모드가 변경됨을 식별하되, 상기 화면 표시 모드는 가로 모드 및 세로 모드 중 하나인, 단계;
    상기 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 상기 전자 장치의 화면에 공백이 존재하는지 여부를 식별하는 단계;
    상기 전자 장치의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출하는 단계;
    상기 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성하는 단계;
    상기 복수의 후보 이미지들 중에서, 제2 이미지를 선택하는 단계; 및
    상기 변경된 화면 표시 모드에서 상기 전자 장치의 화면에 상기 공백이 존재하지 않도록, 상기 제2 이미지를 표시하는 단계를 포함하는, 방법.
  2. 제1항에 있어서,
    상기 제2 이미지를 선택하는 단계는,
    상기 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하는 단계를 포함하고,
    상기 제2 이미지를 표시하는 단계는,
    상기 복수의 제2 이미지들을 조합하여 표시하는 단계를 포함하는, 방법.
  3. 제1항에 있어서,
    상기 제2 이미지를 선택하는 단계는,
    상기 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하는 단계를 포함하고,
    상기 제2 이미지를 표시하는 단계는,
    상기 복수의 제2 이미지들을 순차적으로 표시하는 단계를 포함하는, 방법.
  4. 제1항에 있어서,
    상기 방법은,
    상기 제2 이미지의 사이즈를 조정하고, 해상도를 향상시키는 단계를 더 포함하는, 방법.
  5. 제1항에 있어서,
    상기 제1 이미지 내에서 하나 이상의 객체들을 검출하는 단계는,
    상기 제1 이미지 내에서 관심 영역들을 나타내는 관심 영역 맵을 생성하는 단계; 및
    상기 관심 영역 맵에 기초하여 상기 하나 이상의 객체들을 인식하는 단계를 포함하는, 방법.
  6. 제5항에 있어서,
    상기 방법은,
    상기 인식된 하나 이상의 객체들이 복수개인 경우, 상기 복수개의 객체들을 메인 객체 및 서브 객체들로 분류하는 단계를 더 포함하고,
    상기 제2 이미지를 선택하는 단계는,
    상기 메인 객체를 포함하는 후보 이미지를 상기 제2 이미지로 선택하는 단계를 포함하는, 방법.
  7. 제1항에 있어서,
    상기 복수의 후보 이미지들을 생성하는 단계는,
    상기 전자 장치의 사양에 기초하여 잘라내기 영역의 종횡비가 소정 비율이 되도록 잘라내기 하는 단계를 포함하는, 방법.
  8. 제1항에 있어서,
    상기 복수의 후보 이미지들을 생성하는 단계는,
    상기 제1 이미지 내의 객체의 위치, 상기 제1 이미지 내의 객체의 수 및 객체의 존재 여부 중 적어도 일부에 기초하여, 하나 이상의 객체들의 각각에 대응하는 잘라내기 영역을 결정하는 단계를 더 포함하는, 방법.
  9. 제8항에 있어서,
    상기 잘라내기 영역을 결정하는 단계는,
    상기 하나 이상의 객체들의 각각을 기준으로, 소정 크기의 여분의 영역이 더 포함되도록 더 큰 잘라내기 영역을 결정하는 단계를 포함하고,
    상기 제2 이미지를 표시하는 단계는,
    상기 여분의 영역을 포함하는 상기 제2 이미지를 이용하여, 상기 전자 장치의 화면에 표시되는 객체의 위치가 움직이도록 표시하는 단계를 포함하는, 방법.
  10. 제1항에 있어서,
    상기 방법은,
    상기 제2 이미지가 표시된 이후에, 상기 전자 장치의 상기 표시 모드가 이전의 화면 표시 모드로 재변경되는 경우, 상기 전자 장치의 화면에 상기 제1 이미지를 표시하는 단계를 더 포함하는, 방법.
  11. 이미지를 적응적으로 디스플레이하는 전자 장치에 있어서,
    디스플레이;
    하나 이상의 인스트럭션을 저장하는 메모리; 및
    상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고,
    상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
    제1 이미지를 표시 중인 상기 전자 장치의 화면 표시 모드가 변경됨을 식별하되, 상기 화면 표시 모드는 가로 모드 및 세로 모드 중 하나이며,
    상기 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 상기 전자 장치의 화면에 공백이 존재하는지 여부를 식별하고,
    상기 전자 장치의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출하고,
    상기 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성하고,
    상기 복수의 후보 이미지들 중에서, 제2 이미지를 선택하고,
    상기 변경된 화면 표시 모드에서 상기 전자 장치의 화면에 상기 공백이 존재하지 않도록, 상기 제2 이미지를 표시하는, 전자 장치.
  12. 제11항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하고,
    상기 복수의 제2 이미지들을 조합하여 표시하는, 전자 장치.
  13. 제11항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 복수의 후보 이미지들 중에서 복수의 제2 이미지들을 선택하고,
    상기 복수의 제2 이미지들을 순차적으로 표시하는, 전자 장치.
  14. 제11항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 제2 이미지의 사이즈를 조정하고, 해상도를 향상시키는, 전자 장치.
  15. 제11항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 제1 이미지 내에서 관심 영역들을 나타내는 관심 영역 맵을 생성하고,
    상기 관심 영역 맵에 기초하여 상기 하나 이상의 객체들을 인식하는, 전자 장치.
  16. 제15항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 인식된 하나 이상의 객체들이 복수개인 경우, 상기 복수개의 객체들을 메인 객체 및 서브 객체들로 분류하고,
    상기 메인 객체를 포함하는 후보 이미지를 상기 제2 이미지로 선택하는, 전자 장치.
  17. 제11항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 전자 장치의 사양에 기초하여 잘라내기 영역의 종횡비가 소정 비율이 되도록 잘라내기 하는, 전자 장치.
  18. 제11항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 제1 이미지 내의 객체의 위치, 상기 제1 이미지 내의 객체의 수 및 객체의 존재 여부 중 적어도 일부에 기초하여, 하나 이상의 객체들의 각각에 대응하는 잘라내기 영역을 결정하는, 전자 장치.
  19. 제18항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 하나 이상의 객체들의 각각을 기준으로, 소정 크기의 여분의 영역이 더 포함되도록 더 큰 잘라내기 영역을 결정하고,
    상기 여분의 영역을 포함하는 상기 제2 이미지를 이용하여, 상기 전자 장치의 화면에 표시되는 객체의 위치가 움직이도록 표시하는, 전자 장치.
  20. 전자 장치가 이미지를 적응적으로 디스플레이하는 방법을 실행시키기 위한 프로그램이 기록된 컴퓨터 판독 가능 기록매체에 있어서, 상기 방법은,
    제1 이미지를 표시 중인 상기 전자 장치의 화면 표시 모드가 변경됨을 식별하되, 상기 화면 표시 모드는 가로 모드 및 세로 모드 중 하나인, 단계;
    상기 변경된 화면 표시 모드에서 상기 제1 이미지가 표시될 때, 상기 전자 장치의 화면에 공백이 존재하는지 여부를 식별하는 단계;
    상기 전자 장치의 화면에 공백이 존재하는 것으로 식별됨에 따라, 상기 제1 이미지 내에서 하나 이상의 객체들을 검출하는 단계;
    상기 하나 이상의 객체들의 각각을 포함하는 영역을 잘라내기(crop)함으로써, 복수의 잘라낸 후보 이미지들을 생성하는 단계;
    상기 복수의 후보 이미지들 중에서, 제2 이미지를 선택하는 단계; 및
    상기 변경된 화면 표시 모드에서 상기 전자 장치의 화면에 상기 공백이 존재하지 않도록, 상기 제2 이미지를 표시하는 단계를 포함하는, 컴퓨터 판독 가능 기록 매체.
KR1020210160715A 2021-11-19 2021-11-19 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법 KR20230073875A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020210160715A KR20230073875A (ko) 2021-11-19 2021-11-19 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법
PCT/KR2022/018308 WO2023090936A1 (ko) 2021-11-19 2022-11-18 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법
EP22896133.0A EP4354851A1 (en) 2021-11-19 2022-11-18 Electronic device for adaptively displaying image, and operation method thereof
US18/096,963 US20230162321A1 (en) 2021-11-19 2023-01-13 Electronic device for adaptively displaying image, and operation method of the electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210160715A KR20230073875A (ko) 2021-11-19 2021-11-19 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법

Publications (1)

Publication Number Publication Date
KR20230073875A true KR20230073875A (ko) 2023-05-26

Family

ID=86397465

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210160715A KR20230073875A (ko) 2021-11-19 2021-11-19 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법

Country Status (2)

Country Link
KR (1) KR20230073875A (ko)
WO (1) WO2023090936A1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9092455B2 (en) * 2012-07-17 2015-07-28 Microsoft Technology Licensing, Llc Image curation
CN110232968A (zh) * 2017-04-23 2019-09-13 奥康科技有限公司 可穿戴装置和校正可穿戴图像传感器的安置的方法及介质
KR20190006221A (ko) * 2017-07-10 2019-01-18 삼성전자주식회사 디스플레이 장치 및 이의 제어 방법
KR20200079697A (ko) * 2018-12-26 2020-07-06 삼성전자주식회사 영상 처리 장치 및 그 영상 처리 방법
KR102242407B1 (ko) * 2019-03-11 2021-04-20 삼성전자주식회사 디스플레이 장치 및 그 제어 방법

Also Published As

Publication number Publication date
WO2023090936A1 (ko) 2023-05-25

Similar Documents

Publication Publication Date Title
US20240013506A1 (en) Joint training of neural networks using multi-scale hard example mining
US9058644B2 (en) Local image enhancement for text recognition
US9922431B2 (en) Providing overlays based on text in a live camera view
US11093748B2 (en) Visual feedback of process state
JP2014215852A (ja) 画像処理装置、プログラム及び画像処理方法
CN111091123A (zh) 文本区域检测方法及设备
US20150016668A1 (en) Settlement mapping systems
CN109815854B (zh) 一种用于在用户设备上呈现图标的关联信息的方法与设备
JP5832656B2 (ja) 画像中のテキストの検出を容易にする方法及び装置
CN109743566B (zh) 一种用于识别vr视频格式的方法与设备
US20230162321A1 (en) Electronic device for adaptively displaying image, and operation method of the electronic device
US20230186569A1 (en) Anchoring virtual content to physical surfaces
CN113496513A (zh) 一种目标对象检测方法及装置
KR20230073875A (ko) 이미지를 적응적으로 디스플레이하는 전자 장치 및 그 동작 방법
US9330310B2 (en) Methods and devices for obtaining card information
CN109829491B (zh) 用于图像检测的信息处理方法、装置以及存储介质
CN115843375A (zh) 徽标标注方法及装置、徽标检测模型更新方法及系统、存储介质
US10372297B2 (en) Image control method and device
US10572759B2 (en) Image processing device, image processing method, and program
US20200218924A1 (en) Multi-region image scanning
US20220245820A1 (en) Heuristics-based detection of image space suitable for overlaying media content
JP2024501444A (ja) メディアコンテンツのオーバーレイに適した画像スペースの検出
CN115131544A (zh) 图像识别的方法和系统
CN117079217A (zh) 一种宽视场图像的目标检测方法和目标检测装置
CN112116614A (zh) 漫画图像处理方法及装置、存储介质、电子设备