WO2021230507A1 - 영상 촬영 가이드를 제공하는 방법 또는 장치 - Google Patents

영상 촬영 가이드를 제공하는 방법 또는 장치 Download PDF

Info

Publication number
WO2021230507A1
WO2021230507A1 PCT/KR2021/004718 KR2021004718W WO2021230507A1 WO 2021230507 A1 WO2021230507 A1 WO 2021230507A1 KR 2021004718 W KR2021004718 W KR 2021004718W WO 2021230507 A1 WO2021230507 A1 WO 2021230507A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
display
electronic device
processor
region
Prior art date
Application number
PCT/KR2021/004718
Other languages
English (en)
French (fr)
Inventor
문찬규
권범준
장다펑
최지환
진제주
조성대
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN202110245479.5A external-priority patent/CN113727013A/zh
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2021230507A1 publication Critical patent/WO2021230507A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules

Definitions

  • the present disclosure relates to a technique for providing an image capturing guide to a user using a camera and a distance sensor provided in an electronic device.
  • the minimum focal length refers to the minimum distance between the image sensor and the subject required to focus on the subject.
  • a photographing device such as a camera
  • a defocused image is photographed due to an optical limitation.
  • the electronic device uses only low level features such as frequency analysis of the image without considering the unique characteristics of the subject when analyzing the blur included in the image.
  • An electronic device may include a camera, a distance sensor, a display, and an image electrically connected to the camera, the distance sensor, and the display, and including a subject through the camera. obtain, obtain distance data on a distance between the subject and the electronic device through the distance sensor, determine that de-focus has occurred based on the distance data, and Detects a region of interest including at least a part of a subject, crops a region including at least the region of interest in the image, and enlarges the cropped region with a message instructing the defocus on the display and may include at least one processor configured to display.
  • the method of operating an electronic device includes an operation of acquiring an image including a subject through a camera included in the electronic device, and the subject and the electronic device through a distance sensor included in the electronic device An operation of acquiring distance data for a distance between the two sides, an operation of determining that defocus has occurred based on the distance data, an operation of detecting a region of interest including at least a part of the subject in the image, and an operation of detecting a region of interest including at least a part of the subject in the image cropping a region including at least the ROI, and enlarging and displaying the cropped region together with a message instructing the defocus on the display.
  • An electronic device is electrically connected to a camera, a distance sensor, a display, and the camera, the distance sensor, and the display. obtaining an image including a subject through the camera, obtaining distance data on a distance between the subject and the electronic device through the distance sensor, and determining that defocus has occurred based on the distance data,
  • the display may include at least one processor configured to display a message for inducing a distance between the subject and the electronic device to be greater than or equal to a minimum focal length.
  • the user may recognize that the blur included in the image is the blur caused by defocus generated by photographing a subject located within the minimum focal length.
  • the electronic device according to the present disclosure may suggest an optimal shooting condition to the user by analyzing the characteristics of the subject, and the user may acquire an image without defocus by changing the shooting condition according to the condition suggested by the electronic device can do.
  • the electronic device utilizes not only low-level features but also high-level features such as object detection and texture check when analyzing an image, optimal shooting conditions according to unique characteristics of a subject can suggest
  • FIG 1 illustrates an electronic device according to an embodiment.
  • FIG. 2 is a block diagram of an electronic device according to an exemplary embodiment.
  • FIG. 3 is a flowchart illustrating a method of an electronic device providing an image capturing guide while cropping and enlarging a region of interest and displaying it on a display, according to an exemplary embodiment.
  • FIG. 4 is a flowchart illustrating a method of providing an image capturing guide when a user input for a first visual affordance is received, according to an exemplary embodiment.
  • FIG. 5 is a flowchart illustrating an operation when a user input for a second visual affordance is received, according to an embodiment.
  • FIG. 6 is a flowchart illustrating a method of analyzing image and distance data according to an exemplary embodiment.
  • FIG. 7 illustrates an example of providing an image capturing guide according to an exemplary embodiment.
  • FIG. 8 illustrates an example of a region of interest that is cropped and enlarged in an image as a distance between a subject and an electronic device increases, according to an embodiment.
  • FIG 9 illustrates an example of a UI for guiding a region of interest to be located in the center of an image, according to an embodiment.
  • FIG. 10 is a flowchart illustrating a method of providing an image capturing guide through a message instructing defocus according to an exemplary embodiment.
  • FIG. 11 illustrates an example of a message indicating defocus according to an embodiment.
  • FIG. 12 is a block diagram of an electronic device in a network environment according to various embodiments of the present disclosure.
  • FIG. 13 is a block diagram illustrating a camera module according to various embodiments of the present disclosure.
  • FIG 1 illustrates an electronic device 100 according to an embodiment.
  • the display 110 may be disposed on the front surface of the electronic device 100 according to an embodiment.
  • the display 110 may occupy most of the front surface of the electronic device 100 .
  • a display 110 and a bezel 120 region surrounding at least some edges of the display 110 may be disposed on the front surface of the electronic device 100 .
  • the display 110 includes a flat area 111 and a curved area 112 extending from the flat area 111 toward the side of the electronic device 100 . can do.
  • the curved area 112 is displayed on only one side (eg, the left side) in FIG. 1 , it may be understood that the curved area is also formed on the opposite side.
  • the display 110 of the electronic device 100 may include only the flat area 111 without the curved area 112 , or may include the curved area 112 only at one edge instead of both sides.
  • the curved area may extend to the rear surface of the electronic device 100 , so that the electronic device 100 may include an additional planar area.
  • a fingerprint sensor 141 for recognizing a user's fingerprint may be included in the first area 140 of the display 110 . Since the fingerprint sensor 141 is disposed on a layer below the display 110 , the fingerprint sensor 141 may not be recognized by the user or may be difficult to recognize. Also, in addition to the fingerprint sensor 141 , a sensor for additional user/biometric authentication may be disposed in a portion of the display 110 . In another embodiment, a sensor for user/biometric authentication may be disposed in one area of the bezel 120 . For example, the IR sensor for iris authentication may be exposed through one area of the display 110 or may be exposed through one area of the bezel 120 .
  • the senor 143 may be included in at least one area of the bezel 120 of the electronic device 100 or at least one area of the display 110 .
  • the sensor 143 may be disposed at a distance adjacent to a camera module (eg, the front camera 131 and the rear camera 132) or may be formed as a single module with the camera module.
  • the front camera 131 may be disposed on the front side of the electronic device 100 .
  • the front camera 131 is shown to be exposed through one area of the display 110 , but in another embodiment, the front camera 131 may be exposed through the bezel 120 .
  • a sensor module eg, a sensor module, a camera module (eg, a front camera 131 , a rear camera 132 ) on the rear surface of the screen display area (eg, the flat area 111 , the curved area 112 ) of the display 110 . )), and at least one of a light emitting device (eg, an LED) may be disposed.
  • a camera module eg, a front camera 131 , a rear camera 132
  • a light emitting device eg, an LED
  • a camera module may be disposed on the rear surface of at least one of the front surface, the side surface, and/or the rear surface of the electronic device 100 to face the front surface, the side surface, and/or the rear surface.
  • the front camera 131 may be a hidden under display camera (UDC) that is not visually exposed to the screen display area (eg, the flat area 111 or the curved area 112 ).
  • the electronic device 100 may include one or more front cameras 131 .
  • the electronic device 100 may include two front cameras, such as a first front camera and a second front camera.
  • the first front camera and the second front camera may be cameras of the same type having the same specifications (eg, pixels), but the first front camera and the second front camera may be implemented as cameras of different specifications.
  • the electronic device 100 may support a function related to a dual camera (eg, 3D imaging, auto focus, etc.) through two front cameras.
  • a rear camera 132 may be disposed on the rear side of the electronic device 100 .
  • the rear camera 132 may be exposed through the camera area 130 of the rear cover 160 .
  • the electronic device 100 may include a plurality of rear cameras disposed in the camera area 130 .
  • the electronic device 100 may include two or more rear cameras.
  • the electronic device 100 may include a first rear camera, a second rear camera, and a third rear camera.
  • the first rear camera, the second rear camera, and the third rear camera may have different specifications. For example, whether the first rear camera and the second rear camera and/or the third rear camera support FOV, pixels, aperture, optical zoom/digital zoom, whether image stabilization is supported, and the lens set included with each camera.
  • the first rear camera may be a general camera
  • the second rear camera may be a wide-angle camera (eg, a wide-angle camera)
  • the third rear camera may be a telephoto camera.
  • descriptions of functions or characteristics of the front camera may be applied to the rear camera, and vice versa.
  • a distance sensor 145 for detecting a distance between a subject and the electronic device 100 may be additionally disposed.
  • a sensor for detecting an object may be additionally disposed in the camera area 130 .
  • the distance sensor 145 may be disposed at a distance adjacent to a camera module (eg, the front camera 131 and the rear camera 132) or may be formed as a single module with the camera module.
  • the distance sensor 145 may operate as at least a part of an infrared (IR) camera (eg, a time of flight (TOF) camera, a structured light camera) or as at least a part of a sensor module.
  • IR infrared
  • TOF time of flight
  • the TOF camera may be operated as at least a part of a sensor module for detecting the distance to the subject.
  • At least one physical key may be disposed on a side portion of the electronic device 100 .
  • the first function key 151 for turning on/off the display 110 or turning on/off the power of the electronic device 100 may be disposed on the right edge with respect to the front of the electronic device 100 .
  • the second function key 152 for controlling the volume or screen brightness of the electronic device 100 may be disposed on the left edge with respect to the front surface of the electronic device 100 .
  • additional buttons or keys may be disposed on the front or rear of the electronic device 100 .
  • a physical button or a touch button mapped to a specific function may be disposed in a lower region of the front bezel 120 .
  • the electronic device 100 illustrated in FIG. 1 corresponds to one example, and the form of the device to which the technical idea disclosed in this document is applied is not limited.
  • the technical idea disclosed in this document is applicable to various user devices.
  • the technical idea disclosed in this document may be applied to a foldable electronic device that can be folded in a horizontal direction or a foldable electronic device in a vertical direction, a tablet, or a notebook computer.
  • the electronic device 100 of the illustrated example has a bar-type or plate-type appearance, various embodiments of the present disclosure are not limited thereto.
  • the illustrated electronic device may be a part of a rollable electronic device.
  • a rollable electronic device may be understood as an electronic device capable of bending and deforming the display 110 , so that at least a part thereof may be wound or rolled or accommodated in the electronic device 100 .
  • the rollable electronic device has a screen display area (eg, a flat area 111, a curved area 112) by unfolding the display 110 or exposing a larger area of the display 110 to the outside according to the user's needs. can be used to expand .
  • the display 110 may also be referred to as a slide-out display or an expandable display.
  • FIG. 2 is a block diagram of an electronic device according to an exemplary embodiment.
  • the electronic device 100 may include a camera 210 , a distance sensor 145 , a processor 220 , and a display 110 .
  • the camera 210 may include the rear camera 132 or the front camera 131 illustrated in FIG. 1 .
  • the processor 220 displays an image in which the subject is clearly expressed when the subject is located further than the minimum focal length.
  • defocus may occur. For example, when the minimum focal length of the camera 210 is 50 cm, the camera 210 may focus on a subject 70 cm away from the image sensor, but cannot focus on a subject 30 cm away from the image sensor.
  • the distance sensor 145 may detect an object in a non-contact manner or measure a distance to the object using ultrasonic waves. For example, the distance sensor 145 may measure a distance between the subject and the electronic device 100 . The processor 220 may use the distance data acquired through the distance sensor 145 to determine whether the subject is located at a position farther or closer than the minimum focal length of the camera 210 .
  • the processor 220 may be understood to include at least one processor.
  • the processor 220 may include at least one of an application processor (AP), an image signal processor (ISP), and a communication processor (CP).
  • AP application processor
  • ISP image signal processor
  • CP communication processor
  • the processor 220 may be referred to as at least one processor.
  • the processor 220 may execute/control various functions supported by the electronic device 100 .
  • the processor 220 may execute an application by executing a code written in a programming language stored in a memory, and may control various hardware.
  • the processor 220 may execute an application supporting a photographing function stored in the memory.
  • the processor 220 may set and support an appropriate shooting mode so that the camera 210 may be executed and the camera 210 may perform an operation intended by the user.
  • the processor 220 may analyze the image acquired through the camera 210 and the distance data acquired through the distance sensor 145 .
  • the processor 220 may use low-level features to analyze frequency components in the image when analyzing the image.
  • the processor 220 may analyze the image using high level features such as object detection, texture check, and extract high level features. Details will be described later with reference to FIG. 6 .
  • the display 110 includes an execution screen of an application executed by the processor 220 , an image acquired through the camera 210 , and an image cropped and enlarged by the processor 220 . , at least one of a message inducing a user's action, and a visual affordance may be displayed.
  • the processor 220 may display the image data acquired through the camera 210 on the display 110 in real time.
  • the display 110 may be implemented integrally with the touch panel.
  • the display 110 may support a touch function, detect a user input such as a touch using a finger, and transmit it to the processor 220 .
  • the display 110 may be connected to a display driver integrated circuit (DDIC) for driving the display 110 , and the touch panel may be connected to a touch IC that detects touch coordinates and processes a touch-related algorithm.
  • DDIC display driver integrated circuit
  • the display driving circuit and the touch IC may be integrally formed, and in another embodiment, the display driving circuit and the touch IC may be formed separately.
  • the display driving circuit and/or the touch IC may be electrically connected to the processor 220 .
  • FIG. 3 is a flowchart illustrating a method in which the electronic device 100 provides an image capturing guide while cropping and enlarging a region of interest and displaying it on the display 110, according to an embodiment.
  • the method described in FIG. 3 may be executed by the electronic device 100 or the processor 220 of the electronic device 100 .
  • the processor 220 acquires an image including the subject through the camera 210 , and a distance between the subject and the electronic device 100 through the distance sensor 145 . data can be obtained.
  • the processor 220 may determine that defocus has occurred based on the distance data.
  • defocus when the distance between the subject and the electronic device 100 is within the minimum focal length, defocus may occur.
  • the processor 220 may analyze the distance data acquired through the distance sensor 145 to determine that defocus has occurred.
  • the processor 220 may analyze the amount of blur included in the image, and may supplementally use it to determine that defocus has occurred.
  • the processor 220 may use the image analysis result to correct an error that may occur in the distance data analysis result.
  • the processor 220 may determine based on the distance data that the blur included in the image is due to defocus caused by shooting at less than the minimum focal length.
  • the processor 220 may detect an ROI including at least a portion of the subject in the image.
  • the processor 220 may detect an ROI through object detection.
  • the processor 220 may identify a region corresponding to the subject from among the entire image and designate it as a region of interest.
  • the ROI may include the entire subject or a part of the subject. Details will be described later with reference to FIG. 6 .
  • the processor 220 may display a line surrounding the ROI on the display 110 .
  • the processor 220 may display a box surrounding the ROI on the display 110 .
  • the processor 220 may crop a region including at least the region of interest in the image.
  • the processor 220 may crop only the region of interest or a wider region including the region of interest.
  • the processor 220 may enlarge and display the cropped area together with a message instructing the defocus on the display 110 .
  • the message includes information that defocus has occurred because the electronic device 100 is located closer than the minimum focal length to the subject, or that the electronic device 100 is moved away from the subject.
  • the message may include
  • the message may be a content to move the electronic device 100 away from the subject by 30 cm or more.
  • the processor 220 may notify the user of the fact that the defocus has occurred in the ROI in the image through an operation of enlarging the cropped area and displaying it on the display 110 .
  • the processor 220 may induce the user to move the electronic device 100 away from the subject in order to resolve the defocus by displaying a message instructing the defocus on the display 110 .
  • the user may recognize that the defocus has occurred and that the electronic device 100 needs to be moved away from the subject from the message instructing the defocus displayed on the electronic device 100 and the image that is out of focus on the subject.
  • the user may move the electronic device 100 away from the subject, and when the distance between the subject and the electronic device 100 is equal to or greater than the minimum focal length, the processor 220 obtains a clear image in focus on the subject.
  • the processor 220 may display a first visual affordance on the display 110 .
  • the processor 220 crops a region including at least the region of interest in the image, and displays the cropped region along with a message instructing the display 110 to defocus. Can be enlarged to display. Details will be described later with reference to FIG. 4 .
  • the processor 220 when the processor 220 detects the region of interest in operation 330 , even if there is no separate user input, the processor 220 automatically crops the region including at least the region of interest in the image and displays it on the display 110 .
  • the cropped area may be enlarged and displayed together with a message indicating defocus.
  • FIG. 4 is a flowchart illustrating a method of providing an image capturing guide when a user input for a first visual affordance is received, according to an exemplary embodiment.
  • the processor 220 may detect an ROI including at least a portion of the subject in the image. Operation 410 may correspond to operation 330 of FIG. 3 .
  • the processor 220 may display the first visual affordance on the display.
  • the first visual affordance may be in the form of a soft button displayed on the display 110 .
  • the electronic device 100 may induce the user to photograph the subject at a magnification suitable for photographing the subject.
  • the processor 220 may display a first visual affordance capable of adjusting the magnification of the camera lens to a specific magnification on the display.
  • the processor 220 may determine that a user input for the first visual affordance has been received. For example, the processor 220 may receive a touch input or a voice command for touching the touch screen with a finger or a manipulation device.
  • operation 440 when a user input for the first visual affordance is received, the processor 220 may crop a region including at least the region of interest in the image. Operation 440 may correspond to operation 340 of FIG. 3 .
  • the processor 220 may enlarge and display the cropped area together with a message instructing the defocus on the display 110 .
  • Operation 450 may correspond to operation 350 of FIG. 3 .
  • the processor 220 may display the first visual affordance on the display 110 to display a cropped and enlarged image on the display 110 according to a user's selection. For example, the user may see the cropped and enlarged image displayed on the display 110 by touching the first visual affordance to accurately recognize a situation in which defocus has occurred. As another example, the user may be provided with a cropped and non-magnified image without touching the first visual affordance.
  • FIG. 5 is a flowchart illustrating an operation when a user input for a second visual affordance is received, according to an embodiment.
  • the processor 220 displays the second visual affordance on the display 110 while enlarging the cropped area together with the message instructing the defocus.
  • the second visual affordance may be in the form of a soft button displayed on the display 110 .
  • the processor 220 detects the region of interest and then automatically instructs defocus when a user input for the first visual affordance displayed on the display 110 is received or as the region of interest is detected. may be displayed on the display 110 by enlarging the cropped area together with the message. In this case, the processor 220 may display the second visual affordance together with the message and the cropped and enlarged image on the display 110 .
  • the processor 220 may determine that a user input for the second visual affordance is received. For example, the processor 220 may receive a touch input of touching the touch screen with a finger or a manipulation device (eg, an electronic pen).
  • a manipulation device eg, an electronic pen
  • the processor 220 may display an image that is not cropped or enlarged on the display 110 .
  • the processor 220 performs an operation of cropping a region including at least a region of interest in the image, and an operation of enlarging and displaying the cropped region on the display 110 . can stop The processor 220 may display the image acquired through the camera 210 on the display 110 without cropping or enlarging the image.
  • the processor 220 may stop displaying a message instructing the defocus on the display 110 .
  • the processor 220 displays a message instructing the defocus to the display 110 .
  • the processor 220 may not stop displaying the message indicating defocus.
  • the processor 220 may defocus. A message instructing focus may be continuously displayed on the display 110 .
  • FIG. 6 is a flowchart illustrating a method of analyzing image and distance data according to an exemplary embodiment.
  • the processor 220 acquires an image through the camera 210 and acquires distance data on the distance between the subject and the electronic device 100 through the distance sensor 145 .
  • Operation 610 may correspond to operation 310 of FIG. 3 .
  • the processor 220 analyzes the image acquired through the camera 210 to determine whether the blur included in the image is motion blur due to the movement of the subject. can
  • the processor 220 determines that defocus has occurred based on the distance data, and the blur in the image is caused by the defocus. It can be determined whether it is a blur or not. In an embodiment, the processor 220 may analyze the amount of blur included in the image and use the analysis result to determine whether defocus occurs.
  • the processor 220 determines that defocus has occurred based on the distance data acquired through the distance sensor 145 . It can be done, and it can be determined that the blur in the image is the blur caused by the defocus.
  • the processor 220 determines that the blur included in the image is the blur due to defocus, the ROI including at least a part of the subject is detected through object detection in the image.
  • the object detection operation of the processor 220 is an operation of recognizing that there is an object in a specific part of the image by analyzing the image acquired through the camera 210, the It may include an operation of determining what an object is (object classification) and an operation of finding an exact location of the object within the image (object localization).
  • the processor 220 may perform a texture check and high-level feature extraction in the image.
  • the processor 220 may determine the subject's level of sharpness by recognizing the texture of the subject through a texture check. For example, since a subject including text or an image needs to be captured clearly, the electronic device 100 needs to adjust the distance between the subject and the electronic device 100 when blur exists in the image of the subject. It can be judged that For another example, when the subject is a blur caused by a surface without a wall or a pattern, the electronic device 100 may determine that it is not necessary to adjust the distance between the subject and the electronic device 100 .
  • the processor 220 may determine the characteristics of the blur included in the image through high-level feature extraction. For example, the processor 220 may determine that the blur included in the image is generated by the user's intention. As another example, the processor 220 may determine that the blur included in the image is a blur due to defocus.
  • operations 620 to 650 may correspond to operations 320 to 330 of FIG. 3 .
  • FIG. 7 illustrates an example of providing an image capturing guide according to an exemplary embodiment.
  • reference numerals 710 to 730 illustrate examples of providing the image capturing guide illustrated in FIGS. 3 to 6 .
  • reference numeral 710 denotes a screen displayed on the display 110 when defocus occurs.
  • the processor 220 may analyze the image acquired through the camera 210 to determine whether motion blur is caused by the movement of the subject 711 . For example, when it is determined that the blur around the subject has no direction as a result of analyzing the image, the processor 220 may determine that the blur of the image is not motion blur. For another example, when the processor 220 determines that the blur around the subject 711 has a predetermined direction as a result of analyzing the image, the processor 220 determines that the blur of the image is a blur caused by the movement of the subject 711 (eg, : motion blur).
  • a blur caused by the movement of the subject 711 eg, : motion blur
  • the processor 220 may determine whether the blur included in the image is a blur due to defocus based on distance data.
  • the processor 220 may determine that defocus has occurred because the distance between the subject 711 and the electronic device 100 is within the minimum focal length, and may determine that the blur in the image is blur due to the defocus.
  • reference numeral 720 denotes a screen displayed on the display 110 when a region of interest including at least a part of the subject 711 in an image is detected.
  • the ROI may include a part of the subject 711 .
  • the processor 220 may detect the ROI through object detection in the image.
  • the processor 220 may detect the presence of the subject 711 in a specific portion within the image, determine that the subject 711 is a business card, and detect an area including at least a portion of the subject 711 as the ROI.
  • the processor 220 may determine the texture of the subject 711 through a texture check, and determine that the subject 711 should be clearly photographed because characters are included.
  • the processor 220 may determine that it is necessary to adjust the distance between the subject 711 and the electronic device 100 because the blur included in the image is not by the user's intention but by the defocus through high-level feature extraction.
  • the processor 220 may display a line 721 surrounding the ROI on the display 110 .
  • the processor 220 may display the line 721 displayed on the display 110 in a color and thickness that is easily recognized in the image.
  • the processor 220 may display a rectangular line 721 surrounding the ROI on the display 110 .
  • the processor 220 may display the first visual affordance 725 on the display 110 .
  • the first visual affordance 725 may include a phrase to enlarge the ROI.
  • reference numeral 730 denotes a screen displayed on the display 110 when a user input for the first visual affordance 725 is received.
  • the processor 220 may crop the ROI, enlarge the cropped region, and display it on the display 110 .
  • the processor 220 may also display a message 733 instructing the defocus on the display 110 .
  • the message 733 may include content to move the electronic device 100 away from the subject.
  • the processor 220 does not display the first visual affordance 725 on the display 110 after detecting the region of interest in the image, and automatically displays an enlarged image such as reference number 730 .
  • the electronic device 100 may provide the cropped and enlarged image of the ROI through the display 110 even without a user's input.
  • the processor 220 may display the second visual affordance 735 on the display 110 together with an enlarged image of the cropped area and a message 733 indicating defocus.
  • the processor 220 may stop cropping the ROI and enlarging the cropped region.
  • the processor 220 may display an image that is not cropped or enlarged on the display 110 .
  • the processor 220 displays an image that is not cropped or enlarged. While displaying at 110, the display of the message 733 instructing defocus can be stopped. According to another embodiment, when there is a user input for the second visual affordance 735 in a situation in which the electronic device 100 is located within the minimum focal distance from the subject and defocus is maintained, the processor 220 performs the defocus.
  • the instructing message 733 may be continuously displayed on the display 110 .
  • visual affordance may be replaced/referred to by visual objects, UI items, icons, menus, indicators, and the like.
  • FIG. 8 illustrates an example of a region of interest that is cropped and enlarged in an image as a distance between a subject and an electronic device increases, according to an embodiment.
  • cropped or unmagnified images 810 , 820 , and 830 and cropped and enlarged ROI images 815 , 825 and 835) are examples.
  • reference numeral 810 denotes an image in which defocus occurs because the electronic device 100 is positioned closer than the minimum focal distance from the subject.
  • reference numeral 815 denotes an image displayed on the display 110 by cropping the region of interest 811 detected by the processor 220 within the image of reference numeral 810 and enlarging the cropped region. do. Since the distance between the subject and the electronic device 100 is less than the minimum focal length, the subject 812 may be defocused, so that a strong blur may appear in the image.
  • reference numeral 820 denotes an image when the electronic device 100 moves in a direction away from the subject, but the distance between the subject and the electronic device 100 is closer than the minimum focal length.
  • reference numeral 825 denotes an image displayed on the display 110 by cropping the region of interest 821 detected by the processor 220 within the image of reference numeral 820 and enlarging the cropped region. do. Since the distance between the subject and the electronic device 100 is greater than in the case of reference number 810, the subject 822 is less defocused than in the case of reference number 815, so that a weak blur may appear in the image.
  • reference numeral 830 denotes an image when the distance between the subject and the electronic device 100 is equal to or greater than the minimum focal length.
  • reference numeral 835 denotes an image displayed on the display 110 by cropping the region of interest 831 detected by the processor 220 in the image of reference numeral 830 and enlarging the cropped region. do. Since the electronic device 100 is located farther than the minimum focal length from the subject, the subject 832 may be in focus and thus a clear image may be obtained.
  • the sizes of the subjects 812 , 822 , and 832 displayed on the display 110 may be kept constant.
  • the sizes of the regions of interest 811. 821 and 831 among the images 810, 820, and 830 acquired through the camera 210 decrease, but the electronic device 100
  • the ROIs 811 , 821 , and 831 are detected among the images 810 , 820 , and 830 and cropped, and the cropped region is enlarged and displayed on the display 110 . Accordingly, the sizes of the images 815 , 825 , and 835 of the region of interest displayed on the display 110 may be kept constant.
  • FIG 9 illustrates an example of a UI for guiding a region of interest to be located in the center of an image, according to an embodiment.
  • the processor 220 may detect an ROI including at least a part of the subject in the image.
  • the region of interest may not be located in the center of the image, but may be located at the edge.
  • the processor 220 may display a UI 910 such as an arrow on the display 110 . The user may adjust the position of the electronic device 100 through the UI 910 displayed on the display 110 so that the region of interest is located in the center of the image.
  • FIG. 10 is a flowchart illustrating a method of providing an image capturing guide through a message instructing defocus according to an exemplary embodiment.
  • the method described in FIG. 10 may be executed by the electronic device 100 or the processor 220 of the electronic device 100 .
  • the processor 220 obtains an image through the camera 210 and obtains distance data on a distance between the subject and the electronic device 100 through the distance sensor 145 . can do. Operation 1010 may correspond to operation 310 of FIG. 3 .
  • the processor 220 may determine that defocus has occurred based on the distance data.
  • defocus when the distance between the subject and the electronic device 100 is within the minimum focal length, defocus may occur.
  • the processor 220 may analyze the distance data acquired through the distance sensor 145 to determine that defocus has occurred.
  • the processor 220 may analyze the amount of blur included in the image, and may supplementally use it to determine that defocus has occurred.
  • the processor 220 may use the image analysis result to correct an error that may occur in the analysis result of the distance data.
  • the processor 220 may determine, based on the distance data, that the blur included in the image is due to defocus caused by shooting at less than the minimum focal length.
  • the processor 220 may display a message inducing the distance between the subject and the electronic device 100 to be equal to or greater than the minimum focal length on the display 110 .
  • the user may recognize that defocus can be eliminated by moving the electronic device 100 away from the subject through the message displayed on the display 110 .
  • the processor 220 may additionally use at least one output device of a speaker or a light emitting device (eg, an LED lamp) to notify that defocus has occurred while displaying the message on the display 110 .
  • the processor 220 may use at least one output device among a speaker and a light emitting device instead of displaying the message on the display 110 to notify the user that defocus has occurred.
  • the processor 220 may determine that the distance between the subject and the electronic device 100 is equal to or greater than the minimum focal length. After recognizing that defocus has occurred through the message displayed on the display 110 , the user may move the electronic device 100 away from the subject. The electronic device 100 may analyze the distance data to determine that the distance between the subject and the electronic device 100 is equal to or greater than the minimum focal length, and thus defocus does not occur.
  • the processor 220 may remove the message from the display 110 in response to the distance between the subject and the electronic device 100 being equal to or greater than the minimum focal length. Since defocus does not occur when the user positions the electronic device 100 further than the minimum focal length from the subject, the processor 220 may not display the message on the display 110 .
  • FIG. 11 illustrates an example of a message indicating defocus according to an embodiment.
  • the processor 220 may determine that defocus has occurred based on the distance data acquired through the distance sensor 145 .
  • the processor 220 may display on the display 110 a message 1110 for inducing that the distance between the subject and the electronic device 100 is equal to or greater than the minimum focal length from the subject.
  • the processor 220 may display a message 1110 to move the electronic device 100 away from the subject on the display 110 . According to another embodiment, the processor 220 may suggest an accurate distance to move the electronic device 100 away from the subject through the message 1110 .
  • the processor 220 outputs at least one of a speaker or a light emitting device (eg, an LED lamp) to notify that defocus has occurred. additionally available.
  • a speaker or a light emitting device eg, an LED lamp
  • the electronic device 1201 is a block diagram of an electronic device 1201 in a network environment 1200 according to various embodiments of the present disclosure.
  • the electronic device 1201 communicates with the electronic device 1202 through a first network 1298 (eg, a short-range wireless communication network) or a second network 1299 . It may communicate with the electronic device 1204 or the server 1208 through (eg, a long-distance wireless communication network).
  • the electronic device 1201 may communicate with the electronic device 1204 through the server 1208 .
  • the electronic device 1201 includes a processor 1220 , a memory 1230 , an input module 1250 , a sound output module 1255 , a display module 1260 , an audio module 1270 , and a sensor module ( 1276), interface 1277, connection terminal 1278, haptic module 1279, camera module 1280, power management module 1288, battery 1289, communication module 1290, subscriber identification module 1296 , or an antenna module 1297 .
  • at least one of these components eg, the connection terminal 1278
  • some of these components are integrated into one component (eg, display module 1260 ). can be
  • the processor 1220 executes software (eg, a program 1240) to execute at least one other component (eg, a hardware or software component) of the electronic device 1201 connected to the processor 1220. It can control and perform various data processing or operations. According to an embodiment, as at least part of data processing or operation, the processor 1220 may store a command or data received from another component (eg, the sensor module 1276 or the communication module 1290) into the volatile memory 1232 . may be stored in , process commands or data stored in the volatile memory 1232 , and store the result data in the non-volatile memory 1234 .
  • software eg, a program 1240
  • the processor 1220 may store a command or data received from another component (eg, the sensor module 1276 or the communication module 1290) into the volatile memory 1232 .
  • the processor 1220 may store a command or data received from another component (eg, the sensor module 1276 or the communication module 1290) into the volatile memory 1232 .
  • the processor 1220 is a main processor 1221 (eg, a central processing unit or an application processor) or a secondary processor 1223 (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • a main processor 1221 e.g, a central processing unit or an application processor
  • a secondary processor 1223 e.g, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the coprocessor 1223 may be, for example, on behalf of the main processor 1221 while the main processor 1221 is in an inactive (eg, sleep) state, or the main processor 1221 is active (eg, executing an application). ), together with the main processor 1221, at least one of the components of the electronic device 1201 (eg, the display module 1260, the sensor module 1276, or the communication module 1290) It is possible to control at least some of the related functions or states.
  • the coprocessor 1223 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 1280 or the communication module 1290). have.
  • the auxiliary processor 1223 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 1201 itself on which artificial intelligence is performed, or may be performed through a separate server (eg, the server 1208).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 1230 may store various data used by at least one component (eg, the processor 1220 or the sensor module 1276) of the electronic device 1201 .
  • the data may include, for example, input data or output data for software (eg, the program 1240 ) and instructions related thereto.
  • the memory 1230 may include a volatile memory 1232 or a non-volatile memory 1234 .
  • the program 1240 may be stored as software in the memory 1230 , and may include, for example, an operating system 1242 , middleware 1244 , or an application 1246 .
  • the input module 1250 may receive a command or data to be used by a component (eg, the processor 1220 ) of the electronic device 1201 from the outside (eg, a user) of the electronic device 1201 .
  • the input module 1250 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 1255 may output a sound signal to the outside of the electronic device 1201 .
  • the sound output module 1255 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to an embodiment, the receiver may be implemented separately from or as a part of the speaker.
  • the display module 1260 may visually provide information to the outside (eg, a user) of the electronic device 1201 .
  • the display module 1260 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 1260 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 1270 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 1270 acquires a sound through the input module 1250 or an external electronic device (eg, a sound output module 1255 ) directly or wirelessly connected to the electronic device 1201 .
  • the electronic device 1202) eg, a speaker or headphones
  • the sensor module 1276 detects an operating state (eg, power or temperature) of the electronic device 1201 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 1276 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 1277 may support one or more specified protocols that may be used for the electronic device 1201 to directly or wirelessly connect with an external electronic device (eg, the electronic device 1202 ).
  • the interface 1277 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • connection terminal 1278 may include a connector through which the electronic device 1201 can be physically connected to an external electronic device (eg, the electronic device 1202 ).
  • the connection terminal 1278 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 1279 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 1279 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 1280 may capture still images and moving images. According to an embodiment, the camera module 1280 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 1288 may manage power supplied to the electronic device 1201 .
  • the power management module 1288 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 1289 may supply power to at least one component of the electronic device 1201 .
  • the battery 1289 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 1290 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 1201 and an external electronic device (eg, the electronic device 1202, the electronic device 1204, or the server 1208). It can support establishment and communication through the established communication channel.
  • the communication module 1290 may include one or more communication processors that operate independently of the processor 1220 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 1290 may include a wireless communication module 1292 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 1294 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a corresponding communication module among these communication modules is a first network 1298 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 1299 (eg, legacy).
  • a first network 1298 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 1299 eg, legacy
  • the wireless communication module 1292 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 1296 within a communication network, such as the first network 1298 or the second network 1299 .
  • the electronic device 1201 may be identified or authenticated.
  • the wireless communication module 1292 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology is a high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 1292 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 1292 uses various technologies for securing performance in a high frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), and all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 1292 may support various requirements specified in the electronic device 1201 , an external electronic device (eg, the electronic device 1204 ), or a network system (eg, the second network 1299 ).
  • the wireless communication module 1292 includes a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC.
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC.
  • DL Downlink
  • UL uplink
  • the antenna module 1297 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 1297 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 1297 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 1298 or the second network 1299 is connected from the plurality of antennas by, for example, the communication module 1290 . can be selected. A signal or power may be transmitted or received between the communication module 1290 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 1297 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, bottom side) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving a signal of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 1201 and the external electronic device 1204 through the server 1208 connected to the second network 1299 .
  • Each of the external electronic devices 1202 or 1204 may be the same or a different type of the electronic device 1201 .
  • all or a part of operations executed by the electronic device 1201 may be executed by one or more of the external electronic devices 1202 , 1204 , or 1208 .
  • the electronic device 1201 may perform the function or service by itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 1201 .
  • the electronic device 1201 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 1201 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 1204 may include an Internet of things (IoT) device.
  • IoT Internet of things
  • the server 1208 may be an intelligent server using machine learning and/or neural networks. According to an embodiment, the external electronic device 1204 or the server 1208 may be included in the second network 1299 .
  • the electronic device 1201 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a smart bracelet
  • the electronic device according to the embodiment of the present document is not limited to the above-described devices.
  • first”, “second”, or “first” or “second” may simply be used to distinguish the component from other such components, and refer to those components in other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of the present document may include a unit implemented in hardware, software, or firmware, for example, and interchangeably with terms such as logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • one or more instructions stored in a storage medium may be implemented as software (eg, the program 1240) including
  • a processor eg, processor 1220
  • a device eg, electronic device 1201
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term refers to the case where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or via an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a part of the computer program product may be temporarily stored or temporarily created in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component (eg, module or program) of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, omitted, or , or one or more other operations may be added.
  • the camera module 1280 includes a lens assembly 1310 , a flash 1320 , an image sensor 1330 , an image stabilizer 1340 , a memory 1350 (eg, a buffer memory), or an image signal processor. (1360) may be included.
  • the lens assembly 1310 may collect light emitted from a subject, which is an image capturing object.
  • the lens assembly 1310 may include one or more lenses.
  • the camera module 1280 may include a plurality of lens assemblies 1310 . In this case, the camera module 1280 may form, for example, a dual camera, a 360 degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 1310 may have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly may be a different lens assembly. It may have one or more lens properties that are different from the lens properties of .
  • the lens assembly 1310 may include, for example, a wide-angle lens or a telephoto lens.
  • the flash 1320 may emit light used to enhance light emitted or reflected from the subject.
  • the flash 1320 may include one or more light emitting diodes (eg, a red-green-blue (RGB) LED, a white LED, an infrared LED, or an ultraviolet LED), or a xenon lamp.
  • the image sensor 1330 may acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly 1310 into an electrical signal.
  • the image sensor 1330 may include, for example, one image sensor selected from among image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor, the same It may include a plurality of image sensors having a property, or a plurality of image sensors having different properties.
  • Each image sensor included in the image sensor 1330 may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 1340 moves at least one lens or image sensor 1330 included in the lens assembly 1310 in a specific direction in response to the movement of the camera module 1280 or the electronic device 1201 including the same. Operation characteristics of the image sensor 1330 may be controlled (eg, read-out timing may be adjusted, etc.). This makes it possible to compensate for at least some of the negative effects of the movement on the image being taken.
  • the image stabilizer 1340 according to an embodiment, the image stabilizer 1340 is a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 1280 . Such a movement of the camera module 1280 or the electronic device 1201 may be detected using .
  • the image stabilizer 1340 may be implemented as, for example, an optical image stabilizer.
  • the memory 1350 may temporarily store at least a portion of the image acquired through the image sensor 1330 for a next image processing operation. For example, when image acquisition is delayed according to the shutter or a plurality of images are acquired at high speed, the acquired original image (eg, Bayer-patterned image or high-resolution image) is stored in the memory 1350 and , a copy image corresponding thereto (eg, a low-resolution image) may be previewed through the display device 1260 .
  • the acquired original image eg, Bayer-patterned image or high-resolution image
  • a copy image corresponding thereto eg, a low-resolution image
  • the memory 1350 may be configured as at least a part of the memory 1230 or as a separate memory operated independently of the memory 1230 .
  • the image signal processor 1360 may perform one or more image processing on an image acquired through the image sensor 1330 or an image stored in the memory 1350 .
  • the one or more image processes may include, for example, depth map generation, three-dimensional modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring ( blurring), sharpening (sharpening), or softening (softening)
  • the image signal processor 1360 may include at least one of the components included in the camera module 1280 (eg, an image sensor). 1330), for example, exposure time control, readout timing control, etc.
  • the image processed by the image signal processor 1360 is stored back in the memory 1350 for further processing.
  • the image signal processor 1360 may be configured as at least a part of the processor 1220 or as a separate processor operated independently of the processor 1220.
  • the image signal processor 1360 may include the processor 1220 and a separate processor, the at least one image processed by the image signal processor 1360 may be displayed through the display device 1260 either as it is by the processor 1220 or after additional image processing.
  • the electronic device 1201 may include a plurality of camera modules 1280 each having different properties or functions.
  • at least one of the plurality of camera modules 1280 may be a wide-angle camera, and at least the other may be a telephoto camera.
  • at least one of the plurality of camera modules 1280 may be a front camera, and at least the other may be a rear camera.
  • An electronic device may include a camera, a distance sensor, a display, and at least one processor electrically connected to the camera, the distance sensor, and the display.
  • the at least one processor may be configured to obtain an image including a subject through the camera, obtain distance data on a distance between the subject and the electronic device through the distance sensor, and defocus based on the distance data determining that de-focus has occurred, detecting a region of interest including at least a portion of the subject in the image, and cropping a region including at least the region of interest in the image, and The cropped area may be enlarged and displayed together with a message instructing the defocus on the display.
  • the at least one processor displays a first visual affordance on the display in response to detecting the ROI, and provides information about the first visual affordance.
  • a region including at least the region of interest in the image may be cropped, and the cropped region may be enlarged and displayed together with a message instructing the defocus on the display.
  • the at least one processor automatically crops a region including the region of interest in the image in response to detecting the region of interest, and displays the image on the display.
  • the cropped area may be enlarged and displayed together with a message indicating the defocus.
  • the at least one processor displays a second visual affordance together with a message instructing the defocus on the display and an enlarged image of the cropped area, and 2
  • a second visual affordance together with a message instructing the defocus on the display and an enlarged image of the cropped area
  • the at least one processor displays a second visual affordance together with a message instructing the defocus on the display and an enlarged image of the cropped area, and 2 If there is a user input for visual affordance, an image that is not cropped or enlarged may be displayed on the display.
  • the at least one processor may detect the ROI through object detection.
  • the at least one processor analyzes the texture of the subject through a texture check, and includes it in the image through extract high level features The characteristics of the blurred blur can be analyzed.
  • the at least one processor may display a line surrounding the ROI on the display in response to detecting the ROI.
  • the at least one processor may display a UI for guiding a user on the display so that the region of interest is located in the center of the image.
  • the operation of acquiring an image including a subject through a camera included in the electronic device, and the subject through a distance sensor included in the electronic device an operation of acquiring distance data on a distance between the electronic device and the electronic device, an operation of determining that defocus has occurred based on the distance data, and an operation of detecting an ROI including at least a part of the subject in the image , an operation of cropping a region including at least the region of interest in the image, and an operation of enlarging and displaying the cropped region together with a message instructing the defocus on a display included in the electronic device.
  • the operation of acquiring an image including a subject through a camera included in the electronic device, and the subject through a distance sensor included in the electronic device an operation of acquiring distance data on a distance between the electronic device and the electronic device, an operation of determining that defocus has occurred based on the distance data, and an operation of detecting an ROI including at least a part of the subject in the image , an operation of cropping a region including at least
  • a method of providing an image capturing guide of an electronic device includes displaying a first visual affordance on the display in response to detecting the region of interest, and adding the first visual affordance to the first visual affordance. when there is a user input for , cropping a region including at least the region of interest in the image, and enlarging and displaying the cropped region together with a message instructing the defocus on the display. .
  • the method of providing an image capturing guide of an electronic device includes automatically cropping a region including at least the region of interest in the image in response to detecting the region of interest, and displaying the image on the display. It may include an operation of enlarging and displaying the cropped area together with a message indicating defocus.
  • a method of providing an image capturing guide for an electronic device includes displaying a second visual affordance together with a message instructing the defocus and an enlarged image of the cropped area on the display;
  • the operation may include displaying an image that is not cropped or enlarged on the display.
  • the method of providing an image capturing guide of an electronic device includes displaying a second visual affordance together with a message instructing the defocus and an enlarged image of the cropped area on the display;
  • the operation may include displaying an image that is not cropped or enlarged on the display.
  • the detecting of the ROI may include detecting the ROI through object detection.
  • An electronic device may include a camera, a distance sensor, a display, and at least one processor electrically connected to the camera, the distance sensor, and the display.
  • the at least one processor may be configured to obtain an image including a subject through the camera, obtain distance data on a distance between the subject and the electronic device through the distance sensor, and defocus based on the distance data is determined to have occurred, and a message for inducing a distance between the subject and the electronic device to be greater than or equal to a minimum focal length may be displayed on the display.
  • the at least one processor may remove the message from the display in response to a distance between the subject and the electronic device being equal to or greater than a minimum focal length.
  • the electronic device includes at least one of a speaker and a light emitting device electrically connected to the at least one processor, wherein the at least one processor displays the message on the display, At least one of the speaker and the light emitting device may be output together.
  • the at least one processor may detect a region of interest in the image through object detection.
  • the at least one processor may analyze a texture of the subject through a texture check, and analyze a characteristic of blur included in the image through high-level feature extraction.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

본 문서의 일 실시 예에 따른 전자 장치(electronic device)는, 카메라, 거리 센서, 디스플레이, 및 프로세서를 포함할 수 있다. 상기 프로세서는 상기 카메라를 통해 피사체를 포함하는 이미지를 획득하고, 상기 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하고, 상기 거리 데이터에 기반하여 디포커스(de-focus)가 발생하였음을 판단하고, 상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하고, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다.

Description

영상 촬영 가이드를 제공하는 방법 또는 장치
본 개시는 전자 장치에 구비된 카메라와 거리 센서를 이용하여 사용자에게 영상 촬영 가이드를 제공하는 기술에 관한 것이다.
최소 초점거리란 피사체에 초점을 맞추기 위해 필요한 이미지 센서와 피사체 사이의 최소한의 거리를 의미한다. 카메라와 같은 촬영 장치로부터 최소 초점거리 이내에 피사체가 위치하는 경우, 광학적 한계로 인해 디포커스(de-focus)된 이미지가 촬영된다.
최근 모바일 장치 내에 탑재되는 이미지 센서의 크기가 증가함에 따라 카메라의 최소 초점거리가 증가하고 있다. 이에 따라 최소 초점거리 이내에 위치한 피사체에 대해 디포커스된 이미지가 촬영되는 문제가 증가하고 있다.
또한 종래 기술에 따른 전자 장치는 이미지에 포함된 블러(blur)를 분석할 때에 피사체의 고유한 특징을 고려하지 않고, 이미지의 주파수 분석 등 저수준 특징(low level feature)만을 이용하였다.
본 문서의 일 실시 예에 따른 전자 장치(electronic device)는, 카메라, 거리 센서, 디스플레이, 및 상기 카메라, 상기 거리 센서, 및 상기 디스플레이와 전기적으로 연결되고, 상기 카메라를 통해 피사체를 포함하는 이미지를 획득하고, 상기 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하고, 상기 거리 데이터에 기반하여 디포커스(de-focus)가 발생하였음을 판단하고, 상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하고, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하도록 구성되는 적어도 하나의 프로세서를 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 동작 방법은, 상기 전자 장치에 포함된 카메라를 통해 피사체를 포함하는 이미지를 획득하는 동작, 상기 전자 장치에 포함된 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하는 동작, 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단하는 동작, 상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하는 동작, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하는 동작, 및 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치는, 카메라, 거리 센서, 디스플레이, 및 상기 카메라, 상기 거리 센서, 및 상기 디스플레이와 전기적으로 연결되고. 상기 카메라를 통해 피사체가 포함된 이미지를 획득하고, 상기 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하고, 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단하고, 상기 디스플레이에 상기 피사체와 상기 전자 장치 사이의 거리를 최소 초점거리 이상이 되도록 유도하는 메시지를 표시하는 적어도 하나의 프로세서를 포함할 수 있다.
본 문서에 개시되는 다양한 실시 예에 따르면, 사용자는 이미지 내에 포함된 블러가, 최소 초점거리 이내에 위치하는 피사체를 촬영하여 발생한 디포커스에 의한 블러라는 점을 인지할 수 있다. 또한 본 개시에 따른 전자 장치는 피사체의 특성을 분석하여 사용자에게 최적의 촬영 조건을 제안할 수 있고, 사용자는 전자 장치가 제안하는 조건에 따라 촬영 조건을 변경하여 디포커스가 발생하지 않은 이미지를 획득할 수 있다.
또한 본 개시에 따른 전자 장치는 이미지를 분석할 때에 저수준 특징뿐만 아니라 객체 감지, 텍스처 체크(texture check) 등의 고수준 특징(high level feature)도 활용하기 때문에, 피사체 고유의 특징에 따른 최적의 촬영 조건을 제안할 수 있다.
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있다.
도 1은 일 실시 예에 따른 전자 장치를 나타낸다.
도 2는 일 실시 예에 따른 전자 장치의 블록도(block diagram)이다.
도 3은 일 실시 예에 따라, 전자 장치가 관심 영역을 크롭 및 확대하고 디스플레이에 표시하면서 이미지 촬영 가이드를 제공하는 방법을 도시하는 흐름도(flow chart)이다.
도 4는 일 실시 예에 따라 제1 시각적 어포던스(visual affordance)에 대한 사용자 입력이 수신되는 경우 이미지 촬영 가이드를 제공하는 방법을 도시하는 흐름도이다.
도 5는 일 실시 예에 따라 제2 시각적 어포던스에 대한 사용자 입력이 수신되는 경우의 동작을 도시하는 흐름도이다.
도 6은 일 실시 예에 따라 이미지 및 거리 데이터를 분석하는 방법을 도시하는 흐름도이다.
도 7은 일 실시 예에 따라 이미지 촬영 가이드를 제공하는 예를 도시한다.
도 8은 일 실시 예에 따라, 피사체와 전자 장치 사이의 거리가 멀어짐에 따라 이미지 내에서 크롭 및 확대되는 관심 영역의 예를 도시한다.
도 9는 일 실시 예에 따라 관심 영역이 이미지의 중앙에 위치하도록 유도하는 UI의 예를 도시한다.
도 10은 일 실시 예에 따라 디포커스를 지시하는 메시지를 통해 이미지 촬영 가이드를 제공하는 방법을 도시하는 흐름도이다.
도 11은 일 실시 예에 따라 디포커스를 지시하는 메시지의 예를 도시한다.
도 12는 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 13은 다양한 실시 예들에 따른, 카메라 모듈을 예시하는 블록도이다.
도 1은 일 실시 예에 따른 전자 장치(100)를 나타낸다.
도 1을 참고하면, 일 실시 예에 따른 전자 장치(100)의 전면에는 디스플레이(110)가 배치될 수 있다. 일 실시 예에서, 디스플레이(110)는 전자 장치(100)의 전면의 대부분을 차지할 수 있다. 전자 장치(100)의 전면에는 디스플레이(110), 및 디스플레이(110)의 적어도 일부 가장자리를 둘러싸는 베젤(bezel)(120) 영역이 배치될 수 있다. 도 1의 예시에서, 디스플레이(110)는 평면 영역(flat area)(111)과, 평면 영역(111)에서 전자 장치(100)의 측면을 향해 연장되는 곡면 영역(curved area)(112)을 포함할 수 있다. 도 1에서는 일측(예: 좌측)에 대해서만 곡면 영역(112)을 표시하였으나, 반대측에도 동일하게 곡면 영역이 형성되는 것으로 이해될 수 있다. 또한, 도 1에 도시된 전자 장치(100)는 하나의 예시이며, 다양한 실시 예가 가능하다. 예를 들어, 전자 장치(100)의 디스플레이(110)는 곡면 영역(112)없이 평면 영역(111)만 포함하거나, 양측이 아닌 한쪽 가장자리에만 곡면 영역(112)을 구비할 수 있다. 또한 일 실시 예에서, 곡면 영역은 전자 장치(100)의 후면으로 연장되어, 전자 장치(100)는 추가적인 평면 영역을 구비할 수도 있다.
일 실시 예에서, 디스플레이(110)의 제1 영역(140)에 사용자의 지문 인식을 위한 지문 센서(141)가 포함될 수 있다. 지문 센서(141)는 디스플레이(110)의 아래 층에 배치됨으로써, 사용자에 의해 시인되지 않거나, 시인이 어렵게 배치될 수 있다. 또한, 지문 센서(141) 외에 추가적인 사용자/생체 인증을 위한 센서가 디스플레이(110)의 일부 영역에 배치될 수 있다. 다른 실시 예에서, 사용자/생체 인증을 위한 센서는 베젤(120)의 일 영역에 배치될 수 있다. 예를 들어, 홍채 인증을 위한 IR 센서가 디스플레이(110)의 일 영역을 통해 노출되거나, 베젤(120)의 일 영역을 통해 노출될 수 있다.
일 실시 예에서, 전자 장치(100)의 베젤(120) 중 적어도 일 영역 또는 디스플레이(110)의 적어도 일 영역에 센서(143)가 포함될 수 있다. 상기 센서(143)는 카메라 모듈(예: 전면 카메라(131), 후면 카메라(132))과 인접한 거리에 배치되거나 카메라 모듈과 하나의 모듈로 형성될 수 있다.
일 실시 예에서, 전자 장치(100)의 전면에는 전면 카메라(131)가 배치될 수 있다. 도 1의 실시 예에서는 전면 카메라(131)가 디스플레이(110)의 일 영역을 통해 노출되는 것으로 도시되었으나, 다른 실시 예에서 전면 카메라(131)가 베젤(120)을 통해 노출될 수 있다.
일 실시 예에서, 디스플레이(110)의 화면 표시 영역(예: 평면 영역(111), 곡면 영역(112))의 배면에는, 센서 모듈, 카메라 모듈(예: 전면 카메라(131), 후면 카메라(132)), 및 발광 소자(예: LED) 중 적어도 하나 이상이 배치될 수 있다.
일 실시 예에서, 전자 장치(100)의 전면, 측면, 및/또는 후면 중 적어도 하나의 면의 배면에, 카메라 모듈이 상기 전면, 상기 측면, 및/또는 상기 후면을 향하도록 배치될 수 있다. 예를 들어, 전면 카메라(131)는 화면 표시 영역(예: 평면 영역(111), 곡면 영역(112))으로 시각적으로 노출되지 않는, 감춰진 디스플레이 배면 카메라(UDC, under display camera)일 수 있다. 일 실시 예에서, 전자 장치(100)는 하나 이상의 전면 카메라(131)를 포함할 수 있다. 예를 들어, 전자 장치(100)는 제1 전면 카메라 및 제2 전면 카메라와 같이 2개의 전면 카메라를 포함할 수 있다. 일 실시 예에서, 제1 전면 카메라와 제2 전면 카메라는 동등한 사양(예: 화소)을 가지는 동종의 카메라일 수 있으나, 제1 전면 카메라와 제2 전면 카메라는 다른 사양의 카메라로 구현될 수 있다. 전자 장치(100)는 2개의 전면 카메라를 통해 듀얼 카메라와 관련된 기능(예: 3D 촬영, 자동 초점(auto focus) 등)을 지원할 수 있다.
일 실시 예에서, 전자 장치(100)의 후면에는 후면 카메라(132)가 배치될 수 있다. 후면 카메라(132)는 후면 커버(160)의 카메라 영역(130)을 통해 노출될 수 있다. 일 실시 예에서, 전자 장치(100)는 카메라 영역(130)에 배치되는 다수의 후면 카메라를 포함할 수 있다. 예를 들어, 전자 장치(100)는 2개 이상의 후면 카메라를 포함할 수 있다. 예를 들어, 전자 장치(100)는 제1 후면 카메라, 제2 후면 카메라, 및 제3 후면 카메라를 포함할 수 있다. 제1 후면 카메라, 제2 후면 카메라, 및 제3 후면 카메라는 서로 다른 사양을 가질 수 있다. 예를 들어, 제1 후면 카메라와 제2 후면 카메라 및/또는 제3 후면 카메라의 FOV, 화소, 조리개, 광학 줌/디지털 줌 지원 여부, 이미지 흔들림 보정 기능의 지원 여부, 각 카메라에 포함되는 렌즈 세트의 종류 및/또는 배열 등은 서로 다를 수 있다. 예를 들어, 제1 후면 카메라는 일반 카메라이고, 제2 후면 카메라는 와이드 촬영을 위한 카메라(예: 광각 카메라), 제3 후면 카메라는 망원 촬영을 위한 카메라일 수 있다. 본 문서의 실시 예들에서, 전면 카메라의 기능이나 특성에 대한 설명은 후면 카메라에 대해 적용될 수 있으며, 그 역도 같다.
일 실시 예에서, 카메라 영역(130)에는 피사체와 전자 장치(100) 사이의 거리를 감지하기 위한 거리 센서(145), 객체 검출을 하기 위한 센서, 및/또는 플래시와 같이 촬영을 보조하는 각종 하드웨어가 추가적으로 배치될 수 있다.
일 실시 예에서 상기 거리 센서(145)는 카메라 모듈(예: 전면 카메라(131), 후면 카메라(132))과 인접한 거리에 배치되거나 카메라 모듈과 하나의 모듈로 형성될 수 있다. 예를 들면, 거리 센서(145)는 IR(infrared) 카메라(예: TOF(time of flight) 카메라, structured light 카메라)의 적어도 일부로 동작하거나 센서 모듈의 적어도 일부로 동작될 수 있다. 예를 들어, TOF 카메라는 피사체와의 거리를 감지하기 위한 센서 모듈의 적어도 일부로 동작될 수 있다.
일 실시 예에서, 전자 장치(100)의 측면부에는 적어도 하나의 물리 키가 배치될 수 있다. 예를 들어, 디스플레이(110)를 ON/OFF하거나 전자 장치(100)의 전원을 ON/OFF하기 위한 제1 기능 키(151)가 전자 장치(100)의 전면을 기준으로 우측 가장자리에 배치될 수 있다. 일 실시 예에서, 전자 장치(100)의 볼륨을 제어하거나 화면 밝기 등을 제어하기 위한 제2 기능 키(152)가 전자 장치(100)의 전면을 기준으로 좌측 가장자리에 배치될 수 있다. 이 외에도 추가적인 버튼이나 키가 전자 장치(100)의 전면이나 후면에도 배치될 수 있다. 예를 들어, 전면의 베젤(120) 중 하단 영역에 특정 기능에 맵핑된 물리 버튼이나 터치 버튼이 배치될 수 있다.
도 1에 도시된 전자 장치(100)는 하나의 예시에 해당하며, 본 문서에 개시된 기술적 사상이 적용되는 장치의 형태를 제한하는 것은 아니다. 본 문서에 개시되는 기술적 사상은, 다양한 사용자 장치에 적용 가능하다. 예를 들어, 플렉서블 디스플레이(110) 및 힌지 구조를 채용하여, 가로 방향으로 폴딩이 가능하거나 세로 방향으로 폴딩이 가능한 폴더블 전자 장치나, 태블릿 또는 노트북에도 본 문서에 개시되는 기술적 사상이 적용될 수 있다. 예를 들면, 도시된 예의 전자 장치(100)는 바형(bar type), 또는 평판형(plate type)의 외관을 도시하고 있지만, 본 문서의 다양한 실시 예들은 이에 한정되지 않는다. 예를 들어, 도시된 전자 장치는 롤러블 전자 장치의 일부일 수 있다. 롤러블 전자 장치(rollable electronic device)는 디스플레이(110)의 굽힘 변형이 가능해, 적어도 일부분이 말아지거나(wound or rolled), 전자 장치(100)의 내부로 수납될 수 있는 전자 장치로 이해될 수 있다. 롤러블 전자 장치는 사용자의 필요에 따라, 디스플레이(110)를 펼침으로써 또는 디스플레이(110)의 더 넓은 면적을 외부로 노출시킴으로써 화면 표시 영역(예: 평면 영역(111), 곡면 영역(112))을 확장하여 사용할 수 있다. 디스플레이(110)는 슬라이드 아웃 디스플레이(slide-out display) 또는 익스펜더블 디스플레이(expandable display)로 지칭될 수도 있다.
이하에서는 설명의 편의상 도 1에 도시된 전자 장치(100)를 기준으로 다양한 실시 예를 설명한다.
도 2는 일 실시 예에 따른 전자 장치의 블록도(block diagram)이다.
도 2를 참조하면, 전자 장치(100)는 카메라(210), 거리 센서(145), 프로세서(220), 및 디스플레이(110)를 포함할 수 있다.
일 실시 예에 따르면, 카메라(210)는 도 1에 도시된 후면 카메라(132) 또는 전면 카메라(131)를 포함할 수 있다.
일 실시 예에 따르면, 카메라(210)는 최소 초점거리보다 멀리 위치하는 피사체에 대해 초점을 맞출 수 있으므로, 프로세서(220)는 피사체가 최소 초점거리보다 멀리 위치한 경우에 피사체가 선명하게 표현된 이미지를 획득할 수 있다. 카메라(210)는 최소 초점거리보다 가까이 위치한 피사체에는 초점을 맞출 수 없어 디포커스가 발생할 수 있다. 예를 들면, 카메라(210)의 최소 초점거리가 50cm인 경우, 카메라(210)는 이미지 센서로부터 70cm 떨어진 피사체에는 초점을 맞출 수 있으나, 이미지 센서로부터 30cm 떨어진 피사체에는 초점을 맞출 수 없다.
일 실시 예에 따르면, 거리 센서(145)는 비접촉 방식으로 물체를 감지하거나 초음파를 이용하여 물체와의 거리를 측정할 수 있다. 예를 들면, 거리 센서(145)는 피사체와 전자 장치(100) 사이의 거리를 측정할 수 있다. 프로세서(220)는 피사체가 카메라(210)의 최소 초점거리보다 먼 위치 또는 가까운 위치에 존재하는지 여부를 판단하기 위해 상기 거리 센서(145)를 통해 획득한 거리 데이터를 이용할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 적어도 하나의 프로세서를 포함하는 것으로 이해될 수 있다. 예를 들어, 프로세서(220)는 AP(application processor), ISP(image signal processor), CP(communication processor) 중 적어도 하나를 포함할 수 있다. 이러한 관점에서 프로세서(220)는 적어도 하나의 프로세서로 참조될 수 있다.
일 실시 예에서, 프로세서(220)는 전자 장치(100)에서 지원하는 다양한 기능을 실행/제어할 수 있다. 예를 들어, 프로세서(220)는 메모리에 저장된 프로그래밍 언어로 작성된 코드를 실행함으로써 애플리케이션을 실행하고, 각종 하드웨어를 제어할 수 있다. 예를 들어, 프로세서(220)는 메모리에 저장된 촬영 기능을 지원하는 애플리케이션을 실행할 수 있다. 또한 프로세서(220)는 카메라(210)를 실행하고 카메라(210)가 사용자가 의도하는 동작을 수행할 수 있도록 적절한 촬영 모드를 설정하고 지원할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 카메라(210)를 통해 획득한 이미지와 거리 센서(145)를 통해 획득한 거리 데이터를 분석할 수 있다. 프로세서(220)는 이미지를 분석할 때에 이미지 내의 주파수 성분을 분석하는 저수준 특징을 이용할 수 있다. 또한 프로세서(220)는 객체 감지(object detection), 텍스처 체크(texture check), 및 고수준 특징 추출(extract high level feature)과 같은 고수준 특징(high level feature)을 이용하여 이미지를 분석할 수 있다. 자세한 내용은 도 6에서 후술한다.
일 실시 예에서, 디스플레이(110)에는 프로세서(220)에 의해 실행되는 어플리케이션의 실행 화면이나, 카메라(210)를 통해 획득한 이미지, 프로세서(220)가 크롭(crop, 잘라내기) 및 확대한 이미지, 사용자의 행동을 유도하는 메시지, 또는 시각적 어포던스(visual affordance) 중 적어도 하나가 표시될 수 있다. 또한 프로세서(220)는 카메라(210)를 통해 획득한 이미지 데이터를 디스플레이(110)에 실시간으로 표시할 수 있다.
일 실시 예에서, 디스플레이(110)는 터치 패널과 일체형으로 구현될 수 있다. 디스플레이(110)는 터치 기능을 지원할 수 있으며, 손가락을 이용한 터치와 같은 사용자 입력을 감지하고 프로세서(220)로 전달할 수 있다. 디스플레이(110)는 디스플레이(110)를 구동하기 위한 디스플레이 구동 회로(display driver integrated circuit, DDIC)와 연결될 수 있고, 터치 패널은 터치 좌표를 감지하고 터치 관련 알고리즘을 처리하는 터치 IC와 연결될 수 있다. 일 실시 예에서, 디스플레이 구동 회로와 터치 IC는 일체로 형성될 수 있고, 다른 실시 예에서 디스플레이 구동 회로와 터치 IC는 별개로 형성될 수 있다. 디스플레이 구동 회로 및/또는 터치 IC는 프로세서(220)와 전기적으로 연결될 수 있다.
도 3은 일 실시 예에 따라, 전자 장치(100)가 관심 영역을 크롭 및 확대하고 디스플레이(110)에 표시하면서 이미지 촬영 가이드를 제공하는 방법을 도시하는 흐름도이다. 도 3에서 설명되는 방법은, 전자 장치(100) 또는 전자 장치(100)의 프로세서(220)에 의해 실행될 수 있다.
일 실시 예에 따르면, 동작 310에서, 프로세서(220)는 카메라(210)를 통해 피사체를 포함하는 이미지를 획득하고, 거리 센서(145)를 통해 피사체와 전자 장치(100) 사이의 거리에 대한 거리 데이터를 획득할 수 있다.
일 실시 예에 따르면, 동작 320에서, 프로세서(220)는 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단할 수 있다.
일 실시 예에 따르면, 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이내인 경우 디포커스가 발생할 수 있다. 이 때 프로세서(220)는 거리 센서(145)를 통해 획득한 거리 데이터를 분석하여, 디포커스가 발생하였음을 판단할 수 있다. 또한, 프로세서(220)는 이미지 내에 포함된 블러의 양을 분석하여, 디포커스가 발생하였음을 판단하는 데에 보충적으로 이용할 수 있다. 프로세서(220)는 거리 데이터의 분석 결과에서 발생할 수 있는 오차를 보정하기 위해 이미지 분석 결과를 이용할 수 있다. 프로세서(220)는 거리 데이터에 기반하여 이미지 내에 포함된 블러가 최소 초점거리 미만에서의 촬영으로 발생한 디포커스에 의한 것임을 판단할 수 있다.
일 실시 예에 따르면, 동작 330에서, 프로세서(220)는 이미지 내에서 피사체의 적어도 일부를 포함하는 관심 영역을 감지할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 객체 감지를 통해 관심 영역을 감지할 수 있다. 프로세서(220)는 전체 이미지 중에서 피사체에 해당하는 영역을 파악하여 관심 영역으로 지정할 수 있다. 관심 영역은 피사체 전체를 포함하거나, 피사체의 일부를 포함할 수 있다. 자세한 내용은 도 6에서 후술한다.
일 실시 예에 따르면, 프로세서(220)는 관심 영역을 감지한 경우, 디스플레이(110)에 관심 영역을 둘러싸는 라인을 표시할 수 있다. 예를 들면, 프로세서(220)는 관심 영역을 감싸는 박스(box)를 디스플레이(110)에 표시할 수 있다.
일 실시 예에 따르면, 동작 340에서, 프로세서(220)는 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭할 수 있다. 프로세서(220)는 관심 영역만을 크롭하거나, 관심 영역을 포함하여 더 넓은 영역을 크롭할 수 있다.
일 실시 예에 따르면, 동작 350에서, 프로세서(220)는 디스플레이(110)에 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다.
일 실시 예에 따르면, 상기 메시지는 전자 장치(100)가 피사체로부터 최소 초점거리보다 가까이 위치하여 디포커스가 발생하였다는 내용을 포함하거나, 전자 장치(100)를 피사체로부터 먼 방향으로 이동하라는 내용을 포함할 수 있다. 예를 들면, 상기 메시지는 전자 장치(100)를 피사체로부터 30cm 이상 멀리 이동하라는 내용일 수 있다.
일 실시 예에 따르면, 프로세서(220)는 크롭한 영역을 확대하여 디스플레이(110)에 표시하는 동작을 통해, 이미지 내의 관심 영역에 디포커스가 발생한 사실을 사용자에게 알릴 수 있다. 또한 프로세서(220)는 디포커스를 지시하는 메시지를 디스플레이(110)에 표시함으로써, 상기 디포커스를 해소하기 위해 전자 장치(100)를 피사체에서 먼 방향으로 이동하도록 사용자를 유도할 수 있다. 사용자는 전자 장치(100)에 표시되는 디포커스를 지시하는 메시지 및 피사체에 초점이 맞지 않은 이미지로부터, 디포커스가 발생한 상황 및 전자 장치(100)를 피사체로부터 먼 방향으로 이동해야 한다는 점을 인지할 수 있다. 사용자는 전자 장치(100)를 피사체에서 먼 방향으로 이동할 수 있고, 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이상이 되면, 프로세서(220)는 피사체에 초점이 맞은 선명한 이미지를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 동작 330에서 상기 관심 영역을 감지한 경우, 제1 시각적 어포던스를 디스플레이(110)에 표시할 수 있다. 프로세서(220)는 제1 시각적 어포던스에 대한 사용자 입력이 존재하는 경우, 이미지 내에서 적어도 관심 영역을 포함하는 영역을 크롭하고, 디스플레이(110)에 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다. 자세한 내용은 도 4에서 후술한다.
일 실시 예에 따르면, 프로세서(220)는 동작 330에서 상기 관심 영역을 감지한 경우 별도의 사용자의 입력이 없더라도, 자동으로 이미지 내에서 적어도 관심 영역을 포함하는 영역을 크롭하고, 디스플레이(110)에 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다.
도 4는 일 실시 예에 따라 제1 시각적 어포던스에 대한 사용자 입력이 수신되는 경우 이미지 촬영 가이드를 제공하는 방법을 도시하는 흐름도이다.
일 실시 예에 따르면, 동작 410에서, 프로세서(220)는 이미지 내에서 피사체의 적어도 일부를 포함하는 관심 영역을 감지할 수 있다. 동작 410은 도 3의 동작 330에 대응될 수 있다.
일 실시 예에 따르면, 동작 420에서, 프로세서(220)는 디스플레이에 제1 시각적 어포던스를 표시할 수 있다. 제1 시각적 어포던스는 디스플레이(110)에 표시되는 소프트 버튼의 형태일 수 있다.
일 실시 예에 따르면, 전자 장치(100)는 피사체의 촬영에 적합한 배율로 촬영하도록 사용자를 유도할 수 있다. 예를 들면, 프로세서(220)는 디포커스가 발생하였을 때 카메라 렌즈의 배율을 특정 배율로 조절할 수 있는 제1 시각적 어포던스를 디스플레이에 표시할 수 있다.
일 실시 예에 따르면, 동작 430에서, 프로세서(220)는 제1 시각적 어포던스에 대한 사용자 입력이 수신되었음을 판단할 수 있다. 예를 들면, 프로세서(220)는 터치 스크린을 손가락 또는 조작기구로 터치하는 터치 입력 또는 음성 명령을 수신할 수 있다.
일 실시 예에 따르면, 동작 440에서, 프로세서(220)는 제1 시각적 어포던스에 대한 사용자 입력이 수신된 경우, 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭할 수 있다. 동작 440은 도 3의 동작 340에 대응될 수 있다.
일 실시 예에 따르면, 동작 450에서, 프로세서(220)는 디스플레이(110)에 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다. 동작 450은 도 3의 동작 350에 대응될 수 있다.
일 실시 예에 따르면, 프로세서(220)는 제1 시각적 어포던스를 디스플레이(110)에 표시함으로써, 사용자의 선택에 따라 크롭 및 확대한 이미지를 디스플레이(110)에 표시할 수 있다. 예를 들면, 사용자는 제1 시각적 어포던스를 터치하여 디스플레이(110)에 표시되는 크롭 및 확대된 이미지를 보고 디포커스가 발생한 상황을 정확히 인지할 수 있다. 다른 예를 들면, 사용자는 제1 시각적 어포던스를 터치하지 않고 크롭 및 확대되지 않은 이미지를 제공받을 수 있다.
도 5는 일 실시 예에 따라 제2 시각적 어포던스에 대한 사용자 입력이 수신되는 경우의 동작을 도시하는 흐름도이다.
일 실시 예에 따르면, 동작 510에서, 프로세서(220)는 디포커스를 지시하는 메시지와 함께 크롭한 영역을 확대하여 디스플레이(110)에 표시하면서, 제2 시각적 어포던스를 디스플레이(110)에 함께 표시할 수 있다. 제2 시각적 어포던스는 디스플레이(110)에 표시되는 소프트 버튼의 형태일 수 있다.
일 실시 예에 따르면, 프로세서(220)는 관심 영역을 감지한 다음 디스플레이(110)에 표시된 제1 시각적 어포던스에 대한 사용자 입력이 수신된 경우, 또는 관심 영역을 감지함에 따라 자동으로, 디포커스를 지시하는 메시지와 함께 크롭한 영역을 확대하여 디스플레이(110)에 표시할 수 있다. 이 때, 프로세서(220)는 디스플레이(110)에 상기 메시지, 상기 크롭 및 확대한 이미지와 함께 제2 시각적 어포던스를 표시할 수 있다.
일 실시 예에 따르면, 동작 520에서, 프로세서(220)는 제2 시각적 어포던스에 대한 사용자 입력이 수신되었음을 판단할 수 있다. 예를 들면, 프로세서(220)는 터치 스크린을 손가락 또는 조작기구(예: 전자 펜)로 터치하는 터치 입력을 수신할 수 있다.
일 실시 예에 따르면, 동작 530에서, 프로세서(220)는 크롭하거나 확대하지 않은 이미지를 디스플레이(110)에 표시할 수 있다. 프로세서(220)는 제2 시각적 어포던스에 대한 사용자 입력이 수신된 경우, 이미지 내에서 적어도 관심 영역을 포함하는 영역을 크롭하는 동작, 및 디스플레이(110)에 상기 크롭한 영역을 확대하여 표시하는 동작을 중지할 수 있다. 프로세서(220)는 카메라(210)를 통해 획득한 이미지를 크롭하거나 확대하지 않고 디스플레이(110)에 표시할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 제2 시각적 어포던스에 대한 사용자 입력이 수신된 경우, 디스플레이(110)에서 디포커스를 지시하는 메시지의 표시를 중지할 수 있다. 예를 들면, 전자 장치(100)가 피사체로부터 최소 초점거리보다 멀리 위치하는 상태에서 제2 시각적 어포던스에 대한 사용자 입력이 수신된 경우, 프로세서(220)는 디포커스를 지시하는 메시지를 디스플레이(110)에 표시하지 않을 수 있다. 다른 실시 예에 따르면, 프로세서(220)는 제2 시각적 어포던스에 대한 사용자 입력이 수신된 경우에도, 디포커스를 지시하는 메시지의 표시는 중지하지 않을 수 있다. 예를 들면, 제2 시각적 어포던스에 대한 사용자 입력이 수신된 경우라도, 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이내이고 이에 따른 디포커스가 유지되는 상황이라면, 프로세서(220)는 디포커스를 지시하는 메시지를 디스플레이(110)에 계속하여 표시할 수 있다.
도 6은 일 실시 예에 따라 이미지 및 거리 데이터를 분석하는 방법을 도시하는 흐름도이다.
일 실시 예에 따르면, 동작 610에서, 프로세서(220)는 카메라(210)를 통해 이미지를 획득하고, 거리 센서(145)를 통해 피사체와 전자 장치(100) 사이의 거리에 대한 거리 데이터를 획득할 수 있다. 동작 610은 도 3의 동작 310에 대응될 수 있다.
일 실시 예에 따르면, 동작 620에서, 프로세서(220)는 카메라(210)를 통해 획득한 이미지를 분석하여, 이미지 내에 포함된 블러가 피사체의 움직임으로 인한 모션 블러(motion blur)인지 여부를 판단할 수 있다.
일 실시 예에 따르면, 동작 630에서, 프로세서(220)는 이미지 내의 블러가 모션 블러가 아님을 판단한 경우, 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단하고, 이미지 내의 블러가 디포커스에 의한 블러인지 여부를 판단할 수 있다. 일 실시 예에서, 프로세서(220)는 이미지에 포함된 블러의 양을 분석하여, 분석한 결과를 디포커스 발생 여부를 판단하는 데에 이용할 수 있다.
일 실시 예에 따르면, 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이내인 경우, 프로세서(220)는 거리 센서(145)를 통해 획득한 거리 데이터에 기반하여 디포커스가 발생하였음을 판단할 수 있고, 이미지 내의 블러가 디포커스에 의한 블러라고 판단할 수 있다.
일 실시 예에 따르면, 동작 640에서, 프로세서(220)는 이미지 내에 포함된 블러가 디포커스에 의한 블러임을 판단한 경우, 상기 이미지 내에서 객체 감지를 통해 피사체의 적어도 일부를 포함하는 관심 영역을 감지할 수 있다.
일 실시 예에 따르면, 프로세서(220)의 객체 감지(object detection) 동작은, 카메라(210)를 통해 획득한 이미지를 분석하여 이미지의 특정 부분에 물체가 있다는 것을 인식하는 동작(object recognition), 상기 물체가 무엇인지 판단하는 동작(object classification), 상기 이미지 내에서 상기 물체의 정확한 위치를 찾는 동작(object localization)을 포함할 수 있다.
일 실시 예에 따르면, 동작 650에서, 프로세서(220)는 이미지 내에서 텍스처 체크 및 고수준 특징 추출을 할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 텍스처 체크를 통해 피사체의 질감을 파악하여 어느 정도의 선명도를 필요로 하는 피사체인지를 판단할 수 있다. 예를 들면, 글자나 이미지를 포함하는 피사체의 경우 선명하게 촬영되어야 하기 때문에, 전자 장치(100)는 해당 피사체에 대한 이미지에 블러가 존재하는 경우 피사체와 전자 장치(100) 간 거리의 조절이 필요하다고 판단할 수 있다. 다른 예를 들면, 피사체가 벽이나 무늬가 없는 면이라서 발생한 블러인 경우, 전자 장치(100)는 피사체와 전자 장치(100) 간 거리의 조절이 필요하지 않다고 판단할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 고수준 특징 추출을 통해 이미지 내에 포함된 블러의 특성을 파악할 수 있다. 예를 들면, 프로세서(220)는 이미지에 포함된 블러가 사용자의 의도에 의해 발생한 것임을 판단할 수 있다. 다른 예를 들면, 프로세서(220)는 이미지에 포함된 블러가 디포커스로 인한 블러임을 판단할 수 있다.
일 실시 예에 따르면, 동작 620 내지 동작 650은 도 3의 동작 320 내지 330에 대응될 수 있다.
도 7은 일 실시 예에 따라 이미지 촬영 가이드를 제공하는 예를 도시한다.
일 실시 예에 따르면, 참조번호 710 내지 참조번호 730은 도 3 내지 도 6에서 도시된 이미지 촬영 가이드를 제공하는 예를 도시한다.
일 실시 예에 따르면, 참조번호 710은, 디포커스가 발생한 경우에 디스플레이(110)에 표시되는 화면을 도시한다.
일 실시 예에 따르면, 프로세서(220)는 카메라(210)를 통해 획득한 이미지를 분석하여, 피사체(711)의 움직임으로 인한 모션 블러인지 여부를 판단할 수 있다. 예를 들면, 프로세서(220)는 이미지의 분석 결과 피사체 주변의 블러에 방향성이 없다고 판단한 경우, 이미지의 블러가 모션 블러가 아니라고 판단할 수 있다. 다른 예를 들면, 프로세서(220)는 이미지의 분석 결과 피사체(711) 주변의 블러가 소정의 방향성을 가진다고 판단한 경우, 프로세서(220)는 이미지의 블러가 피사체(711)의 움직임에 의한 블러(예: 모션 블러)라고 판단할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 이미지 내에 포함된 블러가 모션 블러가 아니라고 판단한 경우, 거리 데이터에 기반하여 이미지 내에 포함된 블러가 디포커스에 의한 블러인지 여부를 판단할 수 있다. 프로세서(220)는 피사체(711)와 전자 장치(100) 사이의 거리가 최소 초점거리 이내이므로 디포커스가 발생하였다고 판단할 수 있고, 이미지 내의 블러는 디포커스에 의한 블러라고 판단할 수 있다.
일 실시 예에 따르면, 참조번호 720은, 이미지 내에서 피사체(711)의 적어도 일부를 포함하는 관심 영역을 감지한 경우에 디스플레이(110)에 표시되는 화면을 도시한다. 관심 영역은 피사체(711)의 일부를 포함할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 이미지 내에 포함된 블러가 디포커스에 의한 것임을 판단한 경우, 이미지 내에서 객체 감지를 통해 관심 영역을 감지할 수 있다. 프로세서(220)는 이미지 내에서 특정 부분에 피사체(711)가 있다는 것을 감지하고 피사체(711)가 명함이라고 판단하여, 피사체(711)의 적어도 일부를 포함하는 영역을 관심 영역으로 감지할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 텍스처 체크를 통해 피사체(711)의 질감을 파악하여, 피사체(711)에 글자가 포함되었으므로 선명하게 촬영되어야 한다고 판단할 수 있다. 프로세서(220)는 고수준 특징 추출을 통해 이미지에 포함된 블러가 사용자의 의도에 의한 것이 아니라 디포커스에 의한 것이므로 피사체(711)와 전자 장치(100)간 거리 조절이 필요하다고 판단할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 관심 영역을 감지한 경우 디스플레이(110)에 관심 영역을 둘러싼 라인(721)을 표시할 수 있다. 프로세서(220)는 디스플레이(110)에 표시되는 라인(721)을 이미지 내에서 시인되기 쉬운 색깔 및 굵기로 표시할 수 있다. 예를 들면, 프로세서(220)는 관심 영역을 둘러싼 사각형 형태의 라인(721)을 디스플레이(110)에 표시할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 관심 영역을 감지한 경우, 디스플레이(110)에 제1 시각적 어포던스(725)를 표시할 수 있다. 제1 시각적 어포던스(725)는 관심 영역을 확대하라는 문구를 포함할 수 있다.
일 실시 예에 따르면, 참조번호 730은, 제1 시각적 어포던스(725)에 대한 사용자 입력이 수신된 경우에 디스플레이(110)에 표시되는 화면을 도시한다.
일 실시 예에 따르면, 프로세서(220)는 제1 시각적 어포던스(725)에 대한 사용자 입력이 수신된 경우, 관심 영역을 크롭하고, 크롭한 영역을 확대하여 디스플레이(110)에 표시할 수 있다. 프로세서(220)는 디스플레이(110)에 디포커스를 지시하는 메시지(733)를 함께 표시할 수 있다. 메시지(733)는 피사체로부터 전자 장치(100)를 먼 방향으로 이동시키라는 내용을 포함할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 이미지 내에서 관심 영역을 감지한 후 디스플레이(110)에 제1 시각적 어포던스(725)를 표시하지 않고, 자동으로 참조번호 730과 같은 확대 이미지를 표시할 수도 있다. 이 때 전자 장치(100)는 사용자의 입력이 없더라도 관심 영역을 크롭 및 확대한 이미지를 디스플레이(110)를 통해 제공할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 크롭한 영역을 확대한 이미지 및 디포커스를 지시하는 메시지(733)와 함께, 제2 시각적 어포던스(735)를 디스플레이(110)에 표시할 수 있다. 프로세서(220)는 제2 시각적 어포던스(735)에 대한 사용자 입력이 수신된 경우, 관심 영역을 크롭하는 동작 및 크롭한 영역을 확대하는 동작을 중지할 수 있다. 프로세서(220)는 크롭하거나 확대하지 않은 이미지를 디스플레이(110)에 표시할 수 있다.
일 실시 예에 따르면, 전자 장치(100)를 피사체로부터 최소 초점거리보다 멀리 이동시킨 후 제2 시각적 어포던스(735)에 대한 사용자 입력이 있는 경우, 프로세서(220)는 크롭하거나 확대하지 않은 이미지를 디스플레이(110)에 표시하면서, 디포커스를 지시하는 메시지(733)의 표시를 중지할 수 있다. 다른 실시 예에 따르면, 전자 장치(100)가 피사체로부터 최소 초점거리 이내에 위치하여 디포커스가 유지되는 상황에서 제2 시각적 어포던스(735)에 대한 사용자 입력이 있는 경우, 프로세서(220)는 디포커스를 지시하는 메시지(733)를 계속하여 디스플레이(110)에 표시할 수 있다. 본 문서에서 시각적 어포던스는 시각적 객체, UI 항목, 아이콘, 메뉴, 인디케이터 등으로 대체/참조될 수 있다.
도 8은 일 실시 예에 따라, 피사체와 전자 장치 사이의 거리가 멀어짐에 따라 이미지 내에서 크롭 및 확대되는 관심 영역의 예를 도시한다.
일 실시 예에 따르면, 도 8은, 전자 장치(100)가 피사체로부터 멀어지는 방향으로 이동하는 경우, 크롭하거나 확대하지 않은 이미지(810, 820, 830)와 크롭하고 확대한 관심 영역의 이미지(815, 825, 835)를 도시한 예이다.
일 실시 예에 따르면, 참조번호 810은, 전자 장치(100)가 피사체로부터 최소 초점거리보다 가까이 위치하여 디포커스가 발생한 이미지를 도시한다.
일 실시 예에 따르면, 참조번호 815는, 참조번호 810의 이미지 내에서 프로세서(220)가 감지한 관심 영역(811)을 크롭하고, 크롭한 영역을 확대하여 디스플레이(110)에 표시하는 이미지를 도시한다. 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 미만이므로 피사체(812)에 디포커스가 발생하여 이미지 내에 블러가 강하게 나타날 수 있다.
일 실시 예에 따르면, 참조번호 820은, 전자 장치(100)가 피사체로부터 멀어지는 방향으로 이동하였으나 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리보다는 가까운 경우의 이미지를 도시한다.
일 실시 예에 따르면, 참조번호 825는, 참조번호 820의 이미지 내에서 프로세서(220)가 감지한 관심 영역(821)을 크롭하고, 크롭한 영역을 확대하여 디스플레이(110)에 표시하는 이미지를 도시한다. 참조번호 810의 경우보다 피사체와 전자 장치(100) 사이의 거리가 멀어졌으므로 피사체(822)에 디포커스가 참조번호 815의 경우보다 적게 발생하여, 이미지 내에 약한 블러가 나타날 수 있다.
일 실시 예에 따르면, 참조번호 830은 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이상인 경우의 이미지를 도시한다.
일 실시 예에 따르면, 참조번호 835는, 참조번호 830의 이미지 내에서 프로세서(220)가 감지한 관심 영역(831)을 크롭하고, 크롭한 영역을 확대하여 디스플레이(110)에 표시하는 이미지를 도시한다. 전자 장치(100)가 피사체로부터 최소 초점거리보다 멀리 위치하므로 피사체(832)에 초점이 맞아 선명한 이미지일 수 있다.
일 실시 예에 따르면, 사용자가 전자 장치(100)를 피사체로부터 멀어지는 방향으로 이동하는 동안, 디스플레이(110)에 표시되는 피사체(812, 822, 832)의 크기는 일정하게 유지될 수 있다. 전자 장치(100)가 피사체에서 멀어질수록 카메라(210)를 통해 획득한 이미지(810, 820, 830) 중에서 관심 영역(811. 821, 831)의 크기는 감소하나, 전자 장치(100)는 상기 이미지(810, 820, 830) 중에서 관심 영역(811, 821, 831)을 감지하여 크롭하고, 크롭한 영역을 확대하여 디스플레이(110)에 표시한다. 따라서 디스플레이(110)에 표시되는 관심 영역의 이미지(815, 825, 835)의 크기는 일정하게 유지될 수 있다.
도 9는 일 실시 예에 따라 관심 영역이 이미지의 중앙에 위치하도록 유도하는 UI의 예를 도시한다.
일 실시 예에 따르면, 프로세서(220)는 이미지 내에서 피사체의 적어도 일부를 포함하는 관심 영역을 감지할 수 있다. 이 때 관심 영역이 이미지의 중앙에 위치하지 않고, 가장자리에 위치할 수 있다. 프로세서(220)는, 디스플레이(110)에 화살표와 같은 UI(910)를 표시할 수 있다. 사용자는 디스플레이(110)에 표시된 UI(910)를 통해 관심 영역이 이미지의 중앙에 위치할 수 있도록 전자 장치(100)의 위치를 조정할 수 있다.
도 10은 일 실시 예에 따라 디포커스를 지시하는 메시지를 통해 이미지 촬영 가이드를 제공하는 방법을 도시하는 흐름도이다. 도 10에서 설명되는 방법은, 전자 장치(100) 또는 전자 장치(100)의 프로세서(220)에 의해 실행될 수 있다.
일 실시 예에 따르면, 동작 1010에서, 프로세서(220)는, 카메라(210)를 통해 이미지를 획득하고, 거리 센서(145)를 통해 피사체와 전자 장치(100) 사이의 거리에 대한 거리 데이터를 획득할 수 있다. 동작 1010은 도 3의 동작 310에 대응될 수 있다.
일 실시 예에 따르면, 동작 1020에서, 프로세서(220)는 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단할 수 있다.
일 실시 예에 따르면, 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이내인 경우 디포커스가 발생할 수 있다. 이 때 프로세서(220)는 거리 센서(145)를 통해 획득한 거리 데이터를 분석하여, 디포커스가 발생하였음을 판단할 수 있다. 또한, 프로세서(220)는 이미지 내에 포함된 블러의 양을 분석하여, 디포커스가 발생하였음을 판단하는 데에 보충적으로 이용할 수 있다. 프로세서(220)는 거리 데이터의 분석 결과에서 발생할 수 있는 오차를 보정하기 위해 이미지 분석 결과를 이용할 수 있다. 프로세서(220)는 거리 데이터에 기반하여 이미지 내에 포함된 블러가 최소 초점거리 미만에서의 촬영으로 발생한 디포커스에 의한 것임을 판단할 수 있다.
일 실시 예에 따르면, 동작 1030에서, 프로세서(220)는 디스플레이(110)에 피사체와 전자 장치(100) 사이의 거리를 최소 초점거리 이상이 되도록 유도하는 메시지를 표시할 수 있다. 사용자는 디스플레이(110)에 표시된 상기 메시지를 통해 전자 장치(100)를 피사체로부터 먼 방향으로 이동시키면 디포커스를 해소할 수 있다는 것을 인지할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 디스플레이(110)에 상기 메시지를 표시하는 동안, 디포커스가 발생하였음을 알리기 위해 스피커 또는 발광 장치(예: LED 램프) 중 적어도 하나의 출력 장치를 추가적으로 이용할 수 있다. 다른 실시 예에 따르면, 프로세서(220)는 디포커스가 발생하였음을 사용자에게 알리기 위해 디스플레이(110)에 상기 메시지를 표시하는 대신, 스피커 또는 발광 장치 중 적어도 하나의 출력 장치를 이용할 수 있다.
일 실시 예에 따르면, 동작 1040에서, 프로세서(220)는 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이상인 것을 판단할 수 있다. 사용자는 디스플레이(110)에 표시된 메시지를 통해 디포커스가 발생하였음을 인지한 후, 전자 장치(100)를 피사체로부터 먼 방향으로 이동시킬 수 있다. 전자 장치(100)는 거리 데이터를 분석하여 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이상이 되어 디포커스가 발생하지 않음을 판단할 수 있다.
일 실시 예에 따르면, 동작 1050에서, 프로세서(220)는 피사체와 전자 장치(100) 사이의 거리가 최소 초점거리 이상인 것에 응답하여, 디스플레이(110)에서 상기 메시지를 제거할 수 있다. 사용자가 전자 장치(100)를 피사체로부터 최소 초점거리보다 멀리 위치시킨 경우 디포커스가 발생하지 않으므로, 프로세서(220)는 디스플레이(110)에 상기 메시지를 표시하지 않을 수 있다.
도 11은 일 실시 예에 따라 디포커스를 지시하는 메시지의 예를 도시한다.
일 실시 예에 따르면, 프로세서(220)는 거리 센서(145)를 통해 획득한 거리 데이터에 기반하여 디포커스가 발생하였음을 판단할 수 있다. 프로세서(220)는 피사체와 전자 장치(100) 사이의 거리가 상기 피사체로부터 최소 초점거리 이상이 되도록 유도하는 메시지(1110)를 디스플레이(110)에 표시할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 전자 장치(100)를 피사체로부터 먼 방향으로 이동시키라는 메시지(1110)를 디스플레이(110)에 표시할 수 있다. 다른 실시 예에 따르면, 프로세서(220)는 메시지(1110)를 통해, 전자 장치(100)를 피사체로부터 먼 방향으로 이동시켜야 할 정확한 거리를 제시할 수 있다.
일 실시 예에 따르면, 프로세서(220)는 디스플레이(110)에 메시지(1110)를 표시하는 동안, 디포커스가 발생하였음을 알리기 위해 스피커 또는 발광 장치(예: LED 램프) 중 적어도 하나의 출력 장치를 추가적으로 이용할 수 있다.
도 12은, 다양한 실시 예들에 따른, 네트워크 환경(1200) 내의 전자 장치(1201)의 블록도이다. 도 12을 참조하면, 네트워크 환경(1200)에서 전자 장치(1201)는 제1 네트워크(1298)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1202)와 통신하거나, 또는 제2 네트워크(1299)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1204) 또는 서버(1208)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(1201)는 서버(1208)를 통하여 전자 장치(1204)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(1201)는 프로세서(1220), 메모리(1230), 입력 모듈(1250), 음향 출력 모듈(1255), 디스플레이 모듈(1260), 오디오 모듈(1270), 센서 모듈(1276), 인터페이스(1277), 연결 단자(1278), 햅틱 모듈(1279), 카메라 모듈(1280), 전력 관리 모듈(1288), 배터리(1289), 통신 모듈(1290), 가입자 식별 모듈(1296), 또는 안테나 모듈(1297)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1201)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(1278))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(1276), 카메라 모듈(1280), 또는 안테나 모듈(1297))은 하나의 구성요소(예: 디스플레이 모듈(1260))로 통합될 수 있다.
프로세서(1220)는, 예를 들면, 소프트웨어(예: 프로그램(1240))를 실행하여 프로세서(1220)에 연결된 전자 장치(1201)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1220)는 다른 구성요소(예: 센서 모듈(1276) 또는 통신 모듈(1290))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1232)에 저장하고, 휘발성 메모리(1232)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(1234)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(1220)는 메인 프로세서(1221)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1223)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(1201)가 메인 프로세서(1221) 및 보조 프로세서(1223)를 포함하는 경우, 보조 프로세서(1223)는 메인 프로세서(1221)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1223)는 메인 프로세서(1221)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(1223)는, 예를 들면, 메인 프로세서(1221)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1221)를 대신하여, 또는 메인 프로세서(1221)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1221)와 함께, 전자 장치(1201)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(1260), 센서 모듈(1276), 또는 통신 모듈(1290))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(1223)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(1280) 또는 통신 모듈(1290))의 일부로서 구현될 수 있다. 일 실시 예에 따르면, 보조 프로세서(1223)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능이 수행되는 전자 장치(1201) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(1208))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(1230)는, 전자 장치(1201)의 적어도 하나의 구성요소(예: 프로세서(1220) 또는 센서 모듈(1276))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1240)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1230)는, 휘발성 메모리(1232) 또는 비휘발성 메모리(1234)를 포함할 수 있다.
프로그램(1240)은 메모리(1230)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(1242), 미들 웨어(1244) 또는 어플리케이션(1246)을 포함할 수 있다.
입력 모듈(1250)은, 전자 장치(1201)의 구성요소(예: 프로세서(1220))에 사용될 명령 또는 데이터를 전자 장치(1201)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(1250)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(1255)은 음향 신호를 전자 장치(1201)의 외부로 출력할 수 있다. 음향 출력 모듈(1255)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(1260)은 전자 장치(1201)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(1260)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 디스플레이 모듈(1260)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(1270)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(1270)은, 입력 모듈(1250)을 통해 소리를 획득하거나, 음향 출력 모듈(1255), 또는 전자 장치(1201)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1202))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(1276)은 전자 장치(1201)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(1276)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(1277)는 전자 장치(1201)가 외부 전자 장치(예: 전자 장치(1202))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(1277)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(1278)는, 그를 통해서 전자 장치(1201)가 외부 전자 장치(예: 전자 장치(1202))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(1278)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(1279)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(1279)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(1280)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(1280)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(1288)은 전자 장치(1201)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(1288)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(1289)는 전자 장치(1201)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(1289)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(1290)은 전자 장치(1201)와 외부 전자 장치(예: 전자 장치(1202), 전자 장치(1204), 또는 서버(1208)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1290)은 프로세서(1220)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(1290)은 무선 통신 모듈(1292)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1294)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(1298)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(1299)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(1204)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(1292)은 가입자 식별 모듈(1296)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(1298) 또는 제2 네트워크(1299)와 같은 통신 네트워크 내에서 전자 장치(1201)를 확인 또는 인증할 수 있다.
무선 통신 모듈(1292)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(1292)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(1292)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(1292)은 전자 장치(1201), 외부 전자 장치(예: 전자 장치(1204)) 또는 네트워크 시스템(예: 제2 네트워크(1299))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시 예에 따르면, 무선 통신 모듈(1292)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(1297)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈(1297)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(1297)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(1298) 또는 제2 네트워크(1299)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(1290)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(1290)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(1297)의 일부로 형성될 수 있다.
다양한 실시 예에 따르면, 안테나 모듈(1297)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시 예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(1299)에 연결된 서버(1208)를 통해서 전자 장치(1201)와 외부의 전자 장치(1204)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(1202, 또는 1204) 각각은 전자 장치(1201)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(1201)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(1202, 1204, 또는 1208) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(1201)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(1201)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(1201)로 전달할 수 있다. 전자 장치(1201)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(1201)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시 예에 있어서, 외부의 전자 장치(1204)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(1208)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시 예에 따르면, 외부의 전자 장치(1204) 또는 서버(1208)는 제2 네트워크(1299) 내에 포함될 수 있다. 전자 장치(1201)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시 예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시 예들은 기기(machine)(예: 전자 장치(1201)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(1236) 또는 외장 메모리(1238))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(1240))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(1201))의 프로세서(예: 프로세서(1220))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 13는 다양한 실시 예들에 따른, 카메라 모듈(1280)을 예시하는 블럭도(1300)이다. 도 13를 참조하면, 카메라 모듈(1280)은 렌즈 어셈블리(1310), 플래쉬(1320), 이미지 센서(1330), 이미지 스태빌라이저(1340), 메모리(1350)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(1360)를 포함할 수 있다. 렌즈 어셈블리(1310)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(1310)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일 실시 예에 따르면, 카메라 모듈(1280)은 복수의 렌즈 어셈블리(1310)들을 포함할 수 있다. 이런 경우, 카메라 모듈(1280)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(1310)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(1310)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(1320)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일 실시 예에 따르면, 플래쉬(1320)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(1330)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(1310)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일 실시 예에 따르면, 이미지 센서(1330)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(1330)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(1340)는 카메라 모듈(1280) 또는 이를 포함하는 전자 장치(1201)의 움직임에 반응하여, 렌즈 어셈블리(1310)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(1330)를 특정한 방향으로 움직이거나 이미지 센서(1330)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일 실시 예에 따르면, 이미지 스태빌라이저(1340)는, 일 실시 예에 따르면, 이미지 스태빌라이저(1340)는 카메라 모듈(1280)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(1280) 또는 전자 장치(1201)의 그런 움직임을 감지할 수 있다. 일 실시 예에 따르면, 이미지 스태빌라이저(1340)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(1350)는 이미지 센서(1330)를 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(1350)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 표시 장치(1260)를 통하여 프리뷰 될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(1350)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(1360)에 의해 획득되어 처리될 수 있다. 일 실시 예에 따르면, 메모리(1350)는 메모리(1230)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(1360)는 이미지 센서(1330)를 통하여 획득된 이미지 또는 메모리(1350)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(1360)는 카메라 모듈(1280)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(1330))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(1360)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(1350)에 다시 저장되거나 카메라 모듈(1280)의 외부 구성 요소(예: 메모리(1230), 표시 장치(1260), 전자 장치(1202), 전자 장치(1204), 또는 서버(1208))로 제공될 수 있다. 일 실시 예에 따르면, 이미지 시그널 프로세서(1360)는 프로세서(1220)의 적어도 일부로 구성되거나, 프로세서(1220)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(1360)가 프로세서(1220)와 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(1360)에 의해 처리된 적어도 하나의 이미지는 프로세서(1220)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 표시 장치(1260)를 통해 표시될 수 있다.
일 실시 예에 따르면, 전자 장치(1201)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(1280)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(1280)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(1280)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
본 문서의 일 실시 예에 따른 전자 장치는, 카메라, 거리 센서, 디스플레이, 및 상기 카메라, 상기 거리 센서, 및 상기 디스플레이와 전기적으로 연결되는 적어도 하나의 프로세서를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 상기 카메라를 통해 피사체를 포함하는 이미지를 획득하고, 상기 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하고, 상기 거리 데이터에 기반하여 디포커스(de-focus)가 발생하였음을 판단하고, 상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하고, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 관심 영역을 감지한 것에 응답하여, 상기 디스플레이에 제1 시각적 어포던스(affordance)를 표시하고, 상기 제1 시각적 어포던스에 대한 사용자 입력이 있는 경우, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 관심 영역을 감지한 것에 응답하여, 자동으로 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하고, 상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하고, 상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 객체 감지(object detection)를 통해 상기 관심 영역을 감지할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 텍스처 체크(texture check)를 통해 상기 피사체의 질감을 분석하고, 고수준 특징 추출(extract high level feature)을 통해 상기 이미지에 포함된 블러의 특성을 분석할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 관심 영역을 감지한 것에 응답하여, 상기 디스플레이에 상기 관심 영역을 둘러싸는 라인을 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 관심 영역이 상기 이미지의 중앙에 위치하도록 상기 디스플레이에 사용자를 유도할 수 있는 UI를 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 이미지 촬영 가이드 제공 방법에 있어서, 상기 전자 장치에 포함된 카메라를 통해 피사체를 포함하는 이미지를 획득하는 동작, 상기 전자 장치에 포함된 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하는 동작, 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단하는 동작, 상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하는 동작, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하는 동작, 및 상기 전자 장치에 포함된 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 이미지 촬영 가이드 제공 방법은, 상기 관심 영역을 감지한 것에 응답하여, 상기 디스플레이에 제1 시각적 어포던스(affordance)를 표시하는 동작, 및 상기 제1 시각적 어포던스에 대한 사용자 입력이 있는 경우, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 이미지 촬영 가이드 제공 방법은, 상기 관심 영역을 감지한 것에 응답하여, 자동으로 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 이미지 촬영 가이드 제공 방법은, 상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하는 동작, 및 상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 이미지 촬영 가이드 제공 방법은, 상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하는 동작, 및 상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치의 이미지 촬영 가이드 제공 방법에서, 상기 관심 영역을 감지하는 동작은, 객체 감지를 통해 상기 관심 영역을 감지하는 동작을 포함할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치는, 카메라, 거리 센서, 디스플레이, 및 상기 카메라, 상기 거리 센서, 및 상기 디스플레이와 전기적으로 연결되는 적어도 하나의 프로세서를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 상기 카메라를 통해 피사체가 포함된 이미지를 획득하고, 상기 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하고, 상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단하고, 상기 디스플레이에 상기 피사체와 상기 전자 장치 사이의 거리를 최소 초점거리 이상이 되도록 유도하는 메시지를 표시할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 상기 피사체와 상기 전자 장치 사이의 거리가 최소 초점거리 이상인 것에 응답하여, 상기 디스플레이에서 상기 메시지를 제거할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치는, 상기 적어도 하나의 프로세서와 전기적으로 연결되는 스피커 및 발광 장치 중 적어도 하나를 포함하고, 상기 적어도 하나의 프로세서는, 상기 디스플레이에 상기 메시지를 표시하는 경우, 상기 스피커 및 상기 발광 장치 중 적어도 하나를 함께 출력할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 객체 감지를 통해 상기 이미지 내에서 관심 영역을 감지할 수 있다.
본 문서의 일 실시 예에 따른 전자 장치에서, 상기 적어도 하나의 프로세서는, 텍스처 체크를 통해 상기 피사체의 질감을 분석하고, 고수준 특징 추출을 통해 상기 이미지에 포함된 블러의 특성을 분석할 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    카메라;
    거리 센서;
    디스플레이; 및
    상기 카메라, 상기 거리 센서, 및 상기 디스플레이와 전기적으로 연결되는 적어도 하나의 프로세서를 포함하고,
    상기 적어도 하나의 프로세서는:
    상기 카메라를 통해 피사체를 포함하는 이미지를 획득하고,
    상기 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하고,
    상기 거리 데이터에 기반하여 디포커스(de-focus)가 발생하였음을 판단하고,
    상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하고,
    상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하고,
    상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는, 전자 장치.
  2. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는:
    상기 관심 영역을 감지한 것에 응답하여, 상기 디스플레이에 제1 시각적 어포던스(affordance)를 표시하고,
    상기 제1 시각적 어포던스에 대한 사용자 입력이 있는 경우, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는, 전자 장치.
  3. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 관심 영역을 감지한 것에 응답하여, 자동으로 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는, 전자 장치.
  4. 청구항 2에 있어서,
    상기 적어도 하나의 프로세서는:
    상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하고,
    상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시하는, 전자 장치.
  5. 청구항 3에 있어서,
    상기 적어도 하나의 프로세서는:
    상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하고,
    상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시하는, 전자 장치.
  6. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는,
    객체 감지(object detection)를 통해 상기 관심 영역을 감지하는, 전자 장치.
  7. 청구항 6에 있어서,
    상기 적어도 하나의 프로세서는:
    텍스처 체크(texture check)를 통해 상기 피사체의 질감을 분석하고,
    고수준 특징 추출(extract high level feature)을 통해 상기 이미지에 포함된 블러의 특성을 분석하는, 전자 장치.
  8. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 관심 영역을 감지한 것에 응답하여, 상기 디스플레이에 상기 관심 영역을 둘러싸는 라인을 표시하는, 전자 장치.
  9. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 관심 영역이 상기 이미지의 중앙에 위치하도록 상기 디스플레이에 사용자를 유도할 수 있는 UI를 표시하는, 전자 장치.
  10. 전자 장치의 이미지 촬영 가이드 제공 방법에 있어서,
    상기 전자 장치에 포함된 카메라를 통해 피사체를 포함하는 이미지를 획득하는 동작;
    상기 전자 장치에 포함된 거리 센서를 통해 상기 피사체와 상기 전자 장치 사이의 거리에 대한 거리 데이터를 획득하는 동작;
    상기 거리 데이터에 기반하여 디포커스가 발생하였음을 판단하는 동작;
    상기 이미지 내에서 상기 피사체의 적어도 일부를 포함하는 관심 영역을 감지하는 동작;
    상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭(crop)하는 동작; 및
    상기 전자 장치에 포함된 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함하는, 전자 장치의 이미지 촬영 가이드 제공 방법.
  11. 청구항 10에 있어서,
    상기 관심 영역을 감지한 것에 응답하여, 상기 디스플레이에 제1 시각적 어포던스(affordance)를 표시하는 동작; 및
    상기 제1 시각적 어포던스에 대한 사용자 입력이 있는 경우, 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함하는, 전자 장치의 이미지 촬영 가이드 제공 방법.
  12. 청구항 10에 있어서,
    상기 관심 영역을 감지한 것에 응답하여, 자동으로 상기 이미지 내에서 적어도 상기 관심 영역을 포함하는 영역을 크롭하고, 상기 디스플레이에 상기 디포커스를 지시하는 메시지와 함께 상기 크롭한 영역을 확대하여 표시하는 동작을 포함하는, 전자 장치의 이미지 촬영 가이드 제공 방법.
  13. 청구항 11에 있어서,
    상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하는 동작; 및
    상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시하는 동작을 포함하는, 전자 장치의 이미지 촬영 가이드 제공 방법.
  14. 청구항 12에 있어서,
    상기 디스플레이에 상기 디포커스를 지시하는 메시지 및 상기 크롭한 영역을 확대한 이미지와 함께 제2 시각적 어포던스를 표시하는 동작; 및
    상기 제2 시각적 어포던스에 대한 사용자 입력이 있는 경우, 크롭하거나 확대하지 않은 이미지를 상기 디스플레이에 표시하는 동작을 포함하는, 전자 장치의 이미지 촬영 가이드 제공 방법.
  15. 청구항 10에 있어서,
    상기 관심 영역을 감지하는 동작은, 객체 감지를 통해 상기 관심 영역을 감지하는 동작을 포함하는, 전자 장치의 이미지 촬영 가이드 제공 방법.
PCT/KR2021/004718 2020-05-12 2021-04-14 영상 촬영 가이드를 제공하는 방법 또는 장치 WO2021230507A1 (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
KR20200056762 2020-05-12
KR10-2020-0056762 2020-05-12
CN202110245479.5A CN113727013A (zh) 2020-05-12 2021-03-05 提供图像拍摄指南的方法或者装置
CN202110245479.5 2021-03-05
KR10-2021-0034817 2021-03-17
KR1020210034817A KR20210138483A (ko) 2020-05-12 2021-03-17 영상 촬영 가이드를 제공하는 방법 또는 장치

Publications (1)

Publication Number Publication Date
WO2021230507A1 true WO2021230507A1 (ko) 2021-11-18

Family

ID=78524846

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/004718 WO2021230507A1 (ko) 2020-05-12 2021-04-14 영상 촬영 가이드를 제공하는 방법 또는 장치

Country Status (1)

Country Link
WO (1) WO2021230507A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090125602A (ko) * 2008-06-02 2009-12-07 삼성디지털이미징 주식회사 디지털 영상 처리 장치, 그 제어방법 및 이를 실행시키기위한 프로그램을 저장한 기록매체
JP2012050111A (ja) * 2011-10-03 2012-03-08 Nikon Corp 撮像装置
JP2013148788A (ja) * 2012-01-20 2013-08-01 Nikon Corp 焦点調節装置、及び焦点調節プログラム
KR101858522B1 (ko) * 2017-03-31 2018-05-16 오스템임플란트 주식회사 기준 객체를 이용한 관심 객체의 촬영 가이드 장치 및 촬영 가이드 방법
KR20200017072A (ko) * 2018-08-08 2020-02-18 삼성전자주식회사 이미지 분석에 기반하여, 디스플레이를 통해 표시된 영상과 메모리에 저장된 영상과 관련하여 알림을 제공하는 전자 장치 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090125602A (ko) * 2008-06-02 2009-12-07 삼성디지털이미징 주식회사 디지털 영상 처리 장치, 그 제어방법 및 이를 실행시키기위한 프로그램을 저장한 기록매체
JP2012050111A (ja) * 2011-10-03 2012-03-08 Nikon Corp 撮像装置
JP2013148788A (ja) * 2012-01-20 2013-08-01 Nikon Corp 焦点調節装置、及び焦点調節プログラム
KR101858522B1 (ko) * 2017-03-31 2018-05-16 오스템임플란트 주식회사 기준 객체를 이용한 관심 객체의 촬영 가이드 장치 및 촬영 가이드 방법
KR20200017072A (ko) * 2018-08-08 2020-02-18 삼성전자주식회사 이미지 분석에 기반하여, 디스플레이를 통해 표시된 영상과 메모리에 저장된 영상과 관련하여 알림을 제공하는 전자 장치 및 방법

Similar Documents

Publication Publication Date Title
WO2022097857A1 (en) Electronic device and method for displaying image on flexible display
WO2022030838A1 (ko) 프리뷰 이미지를 제어하는 전자 장치 및 방법
WO2022039424A1 (ko) 흔들림을 보정하는 방법 및 그 전자 장치
WO2022149654A1 (ko) 흔들림 보정을 수행하는 전자 장치 및 그 동작 방법
WO2022092706A1 (ko) 복수의 카메라를 이용한 사진 촬영 방법 및 그 장치
WO2022196993A1 (ko) 카메라 모듈의 화각을 이용하여 이미지를 촬영하는 전자 장치 및 방법
WO2022149812A1 (ko) 카메라 모듈을 포함하는 전자 장치 및 그 전자 장치의 동작 방법
WO2022139262A1 (ko) 관심 객체를 이용하여 비디오를 편집하는 전자 장치 및 그 동작 방법
WO2021230507A1 (ko) 영상 촬영 가이드를 제공하는 방법 또는 장치
WO2020153704A1 (ko) 전자 장치 및 이를 이용한 카메라의 가림을 인식하는 방법
WO2022154164A1 (ko) 화각을 조정할 수 있는 전자 장치 및 그 동작 방법
WO2022235043A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 그 동작 방법
WO2021251631A1 (ko) 초점 조절 기능을 포함하는 전자 장치 및 방법
WO2022245037A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022240186A1 (ko) 이미지 왜곡을 보정하는 방법 및 그 전자 장치
WO2022250344A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2021230567A1 (ko) 복수의 카메라를 이용한 이미지 촬영 방법 및 그 전자 장치
WO2022186495A1 (ko) 복수의 렌즈들을 구비하는 전자 장치 및 그 제어 방법
WO2022080737A1 (ko) 이미지의 왜곡을 보정하는 방법 및 그 전자 장치
WO2022220444A1 (ko) 카메라 촬영 시 스캔하는 방법 및 그 전자 장치
WO2022220621A1 (ko) 반사체 및 렌즈 어셈블리를 포함하는 전자 장치
WO2023022338A1 (ko) 동작 제스처를 감지하는 전자 장치 및 그 동작 방법
WO2022270870A1 (ko) 하나의 카메라를 통해 다방향으로 촬영을 수행하는 방법 및 그 전자 장치
WO2022196916A1 (ko) 사용자 인증을 위한 방법, 장치 및 저장 매체
WO2022065844A1 (ko) 프리뷰 이미지를 표시하는 방법 및 이를 지원하는 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21803399

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21803399

Country of ref document: EP

Kind code of ref document: A1