WO2023079941A1 - 情報処理装置および情報処理方法 - Google Patents

情報処理装置および情報処理方法 Download PDF

Info

Publication number
WO2023079941A1
WO2023079941A1 PCT/JP2022/038659 JP2022038659W WO2023079941A1 WO 2023079941 A1 WO2023079941 A1 WO 2023079941A1 JP 2022038659 W JP2022038659 W JP 2022038659W WO 2023079941 A1 WO2023079941 A1 WO 2023079941A1
Authority
WO
WIPO (PCT)
Prior art keywords
camera
information processing
user
tolerance
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2022/038659
Other languages
English (en)
French (fr)
Inventor
智裕 西
昌俊 横川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2023557928A priority Critical patent/JPWO2023079941A1/ja
Priority to US18/706,035 priority patent/US20250063251A1/en
Publication of WO2023079941A1 publication Critical patent/WO2023079941A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B19/00Cameras
    • G03B19/02Still-picture cameras
    • G03B19/04Roll-film cameras
    • G03B19/07Roll-film cameras having more than one objective
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Definitions

  • the present disclosure relates to an information processing device and an information processing method.
  • a camera When installing a camera on a terminal with limited thickness, such as a smartphone, multiple cameras such as wide-angle and telephoto are used according to the zoom magnification. Also, there is known a technique for generating a high-quality composite image by executing a process of combining a color image and a black-and-white image captured from different viewpoints.
  • the present disclosure proposes an information processing device and an information processing method that make it difficult to notice switching between a plurality of cameras.
  • an information processing apparatus includes a detection unit that detects a relative position between a user who causes one of a plurality of cameras to capture an image and the sensor, based on data detected by a sensor; a first calculation unit that calculates a degree of tolerance indicating the user's difficulty in noticing switching between cameras that capture images based on; and a selection unit for selecting.
  • FIG. 4 is a diagram showing an example of an imaging range of a rear camera; 6 is a flowchart showing an example of camera switching processing; It is a figure which shows an example of a structure of the information processing apparatus which concerns on a modification.
  • 1 is a hardware configuration diagram showing an example of a computer that implements functions of an information processing apparatus; FIG.
  • Embodiment 1-1 Configuration of Information Processing Apparatus According to Embodiment 1-2.
  • Information processing procedure according to the embodiment 2 Modified example of embodiment 3.
  • FIG. 1 is a diagram illustrating an example of the configuration of an information processing device according to an embodiment of the present disclosure.
  • information processing apparatus 10 includes front camera 11, rear cameras 12 and 13, display unit 14, operation unit 15, communication unit 16, storage unit 20, detection unit 21, It has a first calculation unit 22 , a camera control unit 23 , a second calculation unit 24 , a selection unit 25 , a switching unit 26 , an electronic zoom unit 27 , an image processing unit 28 , and a control unit 29 .
  • Examples of the information processing device 10 include a smartphone.
  • the front camera 11 is provided on the front side where the display unit 14 and the operation unit 15 of the information processing device 10 are arranged, and can capture an image of the face of the user who operates the information processing device 10 .
  • the front camera 11 captures an image using, for example, a CMOS (Complementary Metal Oxide Semiconductor) image sensor or a CCD (Charge Coupled Device) image sensor as an imaging device.
  • the front camera 11 photoelectrically converts the light received by the imaging device and performs A/D (Analog/Digital) conversion to generate an image.
  • the front camera 11 outputs the captured image to the detection section 21 .
  • the front camera 11 is an example of a first camera. Although not shown, the captured image output from the front camera 11 may be input to the electronic zoom section 27 and the image processing section 28 .
  • the rear cameras 12 and 13 are provided on the back side of the information processing device 10, and can capture images of subjects.
  • the rear cameras 12 and 13 capture images using, for example, CMOS image sensors or CCD image sensors as imaging elements.
  • the rear cameras 12 and 13 photoelectrically convert the light received by the imaging device and perform A/D conversion to generate an image.
  • Rear cameras 12 and 13 output captured images to switching unit 26 .
  • the rear camera 12 and the rear camera 13 are cameras with different magnifications. In the following description, as an example, it is assumed that the magnification of the rear camera 12 is 1 ⁇ and the magnification of the rear camera 13 is 2 ⁇ .
  • the rear cameras 12 and 13 may be not only fixed-magnification cameras, but also cameras capable of optical zoom.
  • the rear cameras 12 and 13 are examples of a second camera and a third camera, respectively. Also, the number of rear cameras may be three or more.
  • FIG. 2 is a diagram showing an example of the imaging range of the rear camera.
  • the rear camera 12 and the rear camera 13 are arranged at different positions on the back surface of the information processing device 10, and therefore have different imaging ranges.
  • the imaging range 12a of the rear camera 12 and the imaging range 13a of the rear camera 13 are different ranges, although they partially overlap.
  • the line of sight shifts based on the parallax between the two images, which makes the user who observes the images feel uncomfortable.
  • the movement of the captured image or the movement of the camera is detected by a gyro sensor, etc., and the camera is switched at a timing that is difficult for the user to notice according to the detected movement.
  • the camera is moving in the captured image, the gyro sensor, etc., but the relative position between the user and the camera does not change, and the camera is moving as seen from the user. Because there is no camera, you may notice the switching of the camera.
  • the information processing apparatus 10 makes it difficult for the user who owns the information processing apparatus 10 equipped with a camera to notice switching between multiple cameras while moving. information processing to be performed. Specifically, information processing apparatus 10 detects the relative position between front camera 11 and the user based on the position of the user's face imaged by front camera 11 . The information processing apparatus 10 calculates a tolerance indicating the difficulty of noticing the user based on the detected relative position. Information processing apparatus 10 selects rear cameras 12 and 13 for imaging the subject based on the calculated tolerance.
  • the display unit 14 is a display device for displaying various information.
  • the display unit 14 is realized by, for example, a liquid crystal display, an organic EL (Electro Luminescence) display, or the like as a display device.
  • the display unit 14 displays various screens such as captured images input from the image processing unit 28 and display screens input from the control unit 29 .
  • the operation unit 15 is an input device that receives various operations from the user of the information processing device 10 .
  • the operation unit 15 is implemented by, for example, a touch panel as an input device.
  • the display device of the display unit 14 and the input device of the operation unit 15 are integrated.
  • the communication unit 16 is realized, for example, by a communication module or the like compatible with a wireless LAN (Local Area Network) such as Wi-Fi (registered trademark) or third to fifth generation mobile communication systems (3G to 5G).
  • the communication unit 16 is a communication interface that controls communication of information with other information processing devices and the like.
  • the storage unit 20 is implemented by, for example, a RAM (Random Access Memory), a semiconductor memory device such as flash memory, or a storage device such as a hard disk or optical disk.
  • the storage unit 20 stores captured images and the like processed by the image processing unit 28 .
  • the storage unit 20 also stores information (programs and data) used for processing in the control unit 29 .
  • a CPU Central Processing Unit
  • MPU Micro Processing Unit
  • the detection unit 21 to the control unit 29 may be realized by an integrated circuit such as ASIC (Application Specific Integrated Circuit) or FPGA (Field Programmable Gate Array).
  • the detection unit 21 detects the position of the user's face from the captured image.
  • the detection unit 21 detects the position of the user's face three-dimensionally or two-dimensionally.
  • the detection unit 21 detects the relative position between the front camera 11 and the user based on the detected face position.
  • the detection unit 21 may use a distance measuring sensor such as a TOF (Time Of Flight) sensor instead of the captured image to obtain the position of the face from the distance to the user's face.
  • the relative position is, for example, information including the coordinates of the position of the face within the captured image.
  • the detection unit 21 outputs the detected relative position between the front camera 11 and the user to the first calculation unit 22 .
  • the first calculation unit 22 calculates, based on the relative position, a degree of tolerance indicating the user's difficulty in noticing the switching of the imaging camera. do.
  • the first calculator 22 calculates the tolerance according to, for example, the moving speed of the face position based on the coordinates of the face position included in the relative position. For example, the first calculator 22 calculates the tolerance such that the faster the moving speed of the face position, the larger the tolerance.
  • the first calculator 22 may calculate the tolerance according to the acceleration of the position of the face. For example, the first calculator 22 may calculate the tolerance such that the greater the acceleration of the position of the face, the greater the tolerance.
  • the first calculator 22 outputs the calculated tolerance to the selector 25 .
  • the camera control unit 23 calculates the zoom magnification desired by the user according to the user's operation information input from the control unit 29 .
  • Camera control section 23 outputs the calculated zoom magnification to second calculation section 24 and electronic zoom section 27 .
  • the zoom magnification output by the camera control section 23 is reflected in the zoom magnification of the image currently being captured in the electronic zoom section 27 .
  • the second calculation unit 24 calculates the rear camera 12 and the rear camera based on the input zoom magnification and the preset zoom magnification required to switch the camera. 13 is calculated. For example, during imaging with the rear camera 12 having a magnification of 1x, the zoom operation is performed by electronic zoom so that the zoom magnification increases from 1x. Switching to the camera 13 improves the image quality.
  • the second calculator 24 calculates the degree of necessity of switching so that the degree of necessity of switching becomes high in such a case. The second calculator 24 also determines the camera to switch to.
  • the degree of necessity of switching is, for example, the reciprocal of the absolute difference (1/
  • the necessity of switching may be given hysteresis by giving an offset value to the difference value. For example, when the zoom magnification is increased, the necessity of switching is set to (1/
  • the captured image of the rear camera 12 is zoomed in to 1 to 2.2 times, and switched to the rear camera 13 at 2.2 times.
  • the zoom magnification is decreased, the captured image of the rear camera 13 is zoomed out from a magnification exceeding 2.2 times to 2 times, and switched to the rear camera 12 at 2 times.
  • the second calculation unit 24 outputs the calculated degree of necessity of switching and the camera to be switched to to the selection unit 25 .
  • the selection unit 25 receives the degree of tolerance from the first calculation unit 22 and the necessity of switching and the camera to switch to from the second calculation unit 24 .
  • the selection unit 25 selects the rear camera 12 or the rear camera 13 based on the degree of tolerance, the necessity of switching, and the camera to switch to, and outputs a camera selection signal designating the selected camera to the switching unit 26 .
  • the selection unit 25 multiplies the tolerance by the degree of necessity of switching, and selects the rear camera 12 or the rear camera 13 so as to switch the camera during imaging if the result is equal to or greater than a predetermined threshold.
  • the selection unit 25 sets a value equal to or less than the value obtained by multiplying the minimum value of the tolerance by the maximum value of the necessity of switching as a switching threshold, so that when the necessity of switching reaches the maximum value, the camera is turned on. can be switched. For example, if the selection unit 25 sets the tolerance value range from 1 to 100, the switching necessity value range from 1 to 100, and the threshold value to 100 or less, when the switching necessity value becomes 100, the threshold value As described above, the camera can be switched.
  • the switching unit 26 switches the captured image (video signal) output to the electronic zoom unit 27 to the captured image of the rear camera 12 or the rear camera 13 designated by the camera selection signal. switch to The switching unit 26 outputs the camera information and the captured image after switching to the electronic zoom unit 27 .
  • the camera information includes information on the optical magnification of the camera that is being switched and selected.
  • the electronic zoom section 27 receives a zoom magnification from the camera control section 23 and receives camera information and a captured image from the switching section 26 .
  • the electronic zoom unit 27 determines the electronic zoom magnification based on the input zoom magnification and the optical magnification included in the camera information.
  • the electronic zoom unit 27 performs electronic zoom processing with the determined electronic zoom magnification on the captured image.
  • the electronic zoom section 27 outputs the captured image after the electronic zoom to the image processing section 28 .
  • the image processing section 28 When the captured image is input from the electronic zoom section 27, the image processing section 28 performs various types of image processing on the captured image, and causes the display section 14 to display the captured image after the image processing. Note that image processing includes, for example, adjustment of contrast, brightness, and the like. Further, when the control unit 29 instructs the image processing unit 28 to store the captured image, the image processing unit 28 stores the captured image after the image processing in the storage unit 20 .
  • the control unit 29 controls each unit of the information processing device 10 .
  • the control unit 29 receives a user's operation input from the operation unit 15 via a user interface displayed on the display unit 14 .
  • the control unit 29 executes processing according to the received operation input. For example, upon receiving a pinch-out operation for enlarging a captured image from the user, the control unit 29 outputs the pinch-out operation to the camera control unit 23 as user operation information. Further, the control unit 29 instructs the image processing unit 28 to perform image processing and save captured images. Furthermore, the control unit 29 may transmit the captured image stored in the storage unit 20 to another information processing device via the communication unit 16 .
  • FIG. 3 is a flowchart illustrating an example of camera switching processing.
  • the control unit 29 of the information processing device 10 starts photographing with the front camera 11 and the rear cameras 12 and 13 based on instructions from the user.
  • the detection unit 21 detects the position of the user's face from the captured image.
  • the detection unit 21 detects the relative position between the front camera 11 and the user based on the detected face position (step S1).
  • the detection unit 21 outputs the detected relative position between the front camera 11 and the user to the first calculation unit 22 .
  • the first calculator 22 calculates the tolerance based on the relative position (step S2).
  • the first calculator 22 outputs the calculated tolerance to the selector 25 .
  • the camera control unit 23 calculates the zoom magnification desired by the user according to the user's operation information (step S3). Camera control section 23 outputs the calculated zoom magnification to second calculation section 24 and electronic zoom section 27 .
  • the second calculation unit 24 calculates the rear camera 12 and the rear camera based on the input zoom magnification and the preset zoom magnification required to switch the camera. 13 is calculated (step S4).
  • the second calculator 24 outputs the calculated necessity of switching to the selector 25 .
  • the selection unit 25 receives the tolerance from the first calculation unit 22 and the necessity of switching from the second calculation unit 24 .
  • the selection unit 25 determines whether or not the value obtained by multiplying the tolerance by the necessity of switching is equal to or greater than a threshold (step S5). If the selection unit 25 determines that the value obtained by multiplying the degree of tolerance by the necessity of switching is equal to or greater than the threshold (step S5: Yes), the selection unit 25 selects the rear camera 12 or the rear camera 13 to be switched, and designates the selected camera.
  • a camera selection signal for switching is output to the switching unit 26 .
  • step S5 determines that the value obtained by multiplying the degree of tolerance by the degree of necessity of switching is less than the threshold value (step S5: No), it continues to select the camera currently in use. Without outputting to the switching unit 26, the process proceeds to step S7.
  • the switching unit 26 switches the captured image to be output to the electronic zoom unit 27 to the captured image of the rear camera 12 or the rear camera 13 designated by the camera selection signal (step S6).
  • the switching unit 26 outputs the camera information and the captured image after switching to the electronic zoom unit 27 . Note that, when the currently used camera is selected again, the switching unit 26 outputs the camera information and the captured image of the currently used camera to the electronic zoom unit 27 .
  • the electronic zoom unit 27 determines the electronic zoom magnification based on the input zoom magnification and the optical magnification included in the camera information.
  • the electronic zoom unit 27 performs electronic zoom processing with the determined electronic zoom magnification on the captured image.
  • the electronic zoom section 27 outputs the captured image after the electronic zoom to the image processing section 28 .
  • the image processing section 28 performs various types of image processing on the captured image, and causes the display section 14 to display the captured image after the image processing.
  • the control unit 29 stores the captured image being displayed in the storage unit 20 and saves it.
  • the control unit 29 determines whether or not the user has input an instruction to end shooting (step S7).
  • step S7: No the process returns to step S1 to continue shooting. If the control unit 29 determines that the user has input an instruction to end shooting (step S7: Yes), the control unit 29 ends the camera switching process. As a result, it is possible to make it difficult to notice the switching of a plurality of cameras.
  • FIG. 4 is a diagram showing an example of the configuration of an information processing device according to a modification.
  • An information processing apparatus 50 shown in FIG. 4 has a line-of-sight detection unit 51 and a first calculation unit 52 instead of the detection unit 21 and the first calculation unit 22 of the information processing apparatus 10 described above.
  • the line-of-sight detection unit 51 detects the position of the user's eyes and the line of sight from the captured image.
  • the line-of-sight detection unit 51 detects the relative position between the front camera 11 and the user based on the detected eye position.
  • the relative position is information including, for example, coordinates of eye positions in the captured image.
  • the line-of-sight detection unit 51 outputs the detected relative position between the front camera 11 and the user and line-of-sight information to the first calculation unit 52 .
  • the first calculation unit 52 calculates an allowance indicating the difficulty of noticing the user based on the relative position and the line-of-sight information. do.
  • the first calculator 52 calculates the tolerance according to, for example, the movement speed of the eye position based on the coordinates of the eye position included in the relative position and the line-of-sight information. For example, the first calculator 52 calculates the tolerance such that the faster the movement speed of the eye position and the more the line of sight in the line of sight information deviates from the center of the display unit 14, the larger the tolerance. do.
  • the first calculator 52 may calculate the tolerance such that the faster the movement speed of the line of sight is, the larger the tolerance is. Also, the first calculator 52 may calculate the tolerance according to the acceleration of the eye position and the line-of-sight information. The first calculator 22 outputs the calculated tolerance to the selector 25 . In this way, by using the position of the user's eyes and the line of sight, the relative position between the front camera 11 and the user can be detected. , 13 can be switched.
  • processing according to the above-described embodiments may be implemented in various different forms other than the above-described embodiments.
  • a smart phone is used as an example of the information processing device 10, but the information processing device 10 is not limited to this.
  • it may be applied to an in-vehicle camera such as a back monitor or a camera such as an intercom.
  • each component of each device illustrated is functionally conceptual and does not necessarily need to be physically configured as illustrated.
  • the specific form of distribution and integration of each device is not limited to the one shown in the figure, and all or part of them can be functionally or physically distributed and integrated in arbitrary units according to various loads and usage conditions. Can be integrated and configured.
  • the camera control section 23 and the control section 29 may be integrated.
  • FIG. 5 is a hardware configuration diagram showing an example of a computer that implements the functions of the information processing apparatus.
  • Computer 1000 has CPU 1100 , RAM 1200 , ROM (Read Only Memory) 1300 , HDD (Hard Disk Drive) 1400 , communication interface 1500 and input/output interface 1600 .
  • Each part of computer 1000 is connected by bus 1050 .
  • the CPU 1100 operates based on programs stored in the ROM 1300 or HDD 1400 and controls each section. For example, the CPU 1100 loads programs stored in the ROM 1300 or HDD 1400 into the RAM 1200 and executes processes corresponding to various programs.
  • the ROM 1300 stores a boot program such as BIOS (Basic Input Output System) executed by the CPU 1100 when the computer 1000 is started, and programs dependent on the hardware of the computer 1000.
  • BIOS Basic Input Output System
  • the HDD 1400 is a computer-readable recording medium that non-temporarily records programs executed by the CPU 1100 and data used by such programs.
  • HDD 1400 is a recording medium that records an information processing program according to the present disclosure, which is an example of program data 1450 .
  • a communication interface 1500 is an interface for connecting the computer 1000 to an external network 1550 (for example, the Internet).
  • the CPU 1100 receives data from another device via the communication interface 1500, and transmits data generated by the CPU 1100 to another device.
  • the input/output interface 1600 is an interface for connecting the input/output device 1650 and the computer 1000 .
  • the CPU 1100 receives data from input devices such as a keyboard and mouse via the input/output interface 1600 .
  • the CPU 1100 transmits data to an output device such as a display, a speaker, or a printer via the input/output interface 1600 .
  • the input/output interface 1600 may function as a media interface for reading a program or the like recorded on a predetermined recording medium.
  • Media include, for example, optical recording media such as DVD (Digital Versatile Disc) and PD (Phase change rewritable disk), magneto-optical recording media such as MO (Magneto-Optical disk), tape media, magnetic recording media, semiconductor memories, etc. is.
  • optical recording media such as DVD (Digital Versatile Disc) and PD (Phase change rewritable disk)
  • magneto-optical recording media such as MO (Magneto-Optical disk)
  • tape media magnetic recording media
  • magnetic recording media semiconductor memories, etc. is.
  • the CPU 1100 of the computer 1000 implements the functions of the detection unit 21 and the like by executing the information processing program loaded on the RAM 1200.
  • the HDD 1400 also stores an information processing program according to the present disclosure, data of the storage unit 20 and the like.
  • CPU 1100 reads and executes program data 1450 from HDD 1400 , as another example, these programs may be obtained from another device via external network 1550 .
  • the information processing device 10 has a detection unit 21 , a first calculation unit 22 and a selection unit 25 .
  • the detection unit 21 detects the relative position between the sensor and the user whose image is captured by one of the plurality of cameras (rear cameras 12 and 13) based on data detected by the sensor.
  • the first calculator 22 calculates a degree of tolerance that indicates how difficult it is for the user to notice the switching of the imaging camera.
  • the selection unit 25 selects a camera for imaging the subject from a plurality of cameras based on the calculated tolerance. As a result, switching between a plurality of cameras can be made difficult to notice.
  • the sensor is the first camera (front camera 11), and the detection unit 21 detects the relative position based on the position of the user's face captured by the first camera. As a result, switching between a plurality of cameras can be made difficult to notice.
  • the first calculator 22 calculates the tolerance according to the moving speed of the face position. As a result, the fact that the user is not gazing at the display unit 14 of the information processing device 10 can be expressed as a degree of tolerance.
  • the plurality of cameras includes a second camera (rear camera 12) and a third camera (rear camera 13) with different magnifications
  • the information processing device 10 further includes a second calculator 24.
  • the second calculator 24 calculates the second camera and the third camera based on the first zoom magnification for switching between the second camera and the third camera and the second zoom magnification of the image being captured. Calculate the degree of necessity of switching between cameras. As a result, the camera can be switched according to the necessity of camera switching.
  • the selection unit 25 selects the second camera or the third camera based on the tolerance and necessity. As a result, you can switch between cameras as per your tolerance and need.
  • the selection unit 25 sets a value equal to or less than the value obtained by multiplying the minimum value of tolerance by the maximum value of necessity as a switching threshold in selecting the second camera and the third camera. As a result, the camera can be switched when the degree of necessity is the maximum value.
  • the second calculation unit 24 calculates the degree of necessity with hysteresis. As a result, frequent camera switching can be suppressed.
  • the sensor is a distance measuring sensor, and the detection unit 21 detects the relative position based on the position of the face obtained from the distance to the user's face measured by the distance measuring sensor. As a result, switching between a plurality of cameras can be made difficult to notice.
  • the first calculator 22 calculates the tolerance according to the acceleration of the face position. As a result, the fact that the user is not gazing at the display unit 14 of the information processing device 10 can be expressed as a degree of tolerance.
  • the sensor is a first camera
  • the detection unit line-of-sight detection unit 51
  • the calculation unit 52 calculates a tolerance indicating the difficulty of noticing the user based on the relative position and line of sight. As a result, switching between a plurality of cameras can be made difficult to notice.
  • the information processing apparatus 10 further has an electronic zoom unit 27 that electronically zooms the captured image output from the selected second camera or third camera. As a result, electronic zoom can be performed on the captured image.
  • the second zoom magnification is a magnification based on the magnification of the second camera or the third camera and the magnification of the electronic zoom. As a result, zooming can be performed by combining the optical magnification and the electronic zoom magnification.
  • the present technology can also take the following configuration.
  • a user that causes one of a plurality of cameras to take an image based on data detected by the sensor; and a detection unit that detects a relative position to the sensor; a first calculation unit that calculates, based on the relative position, a degree of tolerance indicating the user's difficulty in noticing switching cameras for imaging; a selection unit that selects a camera for imaging a subject from the plurality of cameras based on the calculated tolerance;
  • the information processing device includes a second camera and a third camera with different magnifications, Further, based on a first zoom magnification for switching between the second camera and the third camera and a second zoom magnification of an image being captured, the second camera and the third camera are selected. Having a second calculation unit that calculates the degree of necessity of switching with the camera, The information processing apparatus according to any one of (1) to (3) above. (5) The selection unit selects the second camera or the third camera based on the tolerance and the necessity. The information processing device according to (4) above.
  • the selection unit sets a value equal to or less than a value obtained by multiplying the minimum value of the tolerance by the maximum value of the necessity as a threshold value for switching between the second camera and the third camera,
  • the information processing device according to (5) above.
  • the second calculation unit calculates the necessity with hysteresis.
  • the information processing apparatus according to (4) or (5).
  • the sensor is a ranging sensor, The detection unit detects the relative position based on the position of the face obtained from the distance to the user's face measured by the distance measuring sensor.
  • the first calculation unit calculates the tolerance according to the acceleration of the position of the face.
  • the information processing device according to (2) above.
  • the sensor is a first camera;
  • the detection unit detects the relative position and the line of sight based on the position of the user's eyes captured by the first camera,
  • the first calculation unit calculates a tolerance indicating the difficulty of noticing the user based on the relative position and the line of sight.
  • the information processing device according to (1) above.
  • an electronic zoom unit that electronically zooms the captured image output from the selected second camera or the third camera,
  • the information processing apparatus according to any one of (5) to (7) above.
  • the second zoom magnification is a magnification based on the magnification of the second camera or the third camera and the magnification of the electronic zoom.
  • Reference Signs List 10 Reference Signs List 10, 50 information processing device 11 front camera 12, 13 rear camera 14 display unit 15 operation unit 16 communication unit 20 storage unit 21 detection unit 22, 52 first calculation unit 23 camera control unit 24 second calculation unit 25 selection unit 26 switching Section 27 Electronic zoom section 28 Image processing section 29 Control section 51 Line of sight detection section

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Studio Devices (AREA)

Abstract

情報処理装置(10)は、センサによる検出データに基づいて、複数のカメラ(12,13)のうちいずれかのカメラに撮像させるユーザと、センサとの相対位置を検出する検出部(21)と、相対位置に基づいて、撮像するカメラを切り替えることに対するユーザの気付きにくさを示す許容度を算出する第1算出部(22)と、算出した許容度に基づいて、被写体を撮像するカメラを複数のカメラから選択する選択部(25)と、を有する。

Description

情報処理装置および情報処理方法
 本開示は、情報処理装置および情報処理方法に関する。
 スマートフォン等の厚さに制約のある端末にカメラを設ける場合、ズーム倍率に応じて広角や望遠といった複数のカメラを使い分けることが行われている。また、異なる視点から撮影されたカラー画像と白黒画像の合成処理を実行して高品質な合成画像を生成する技術が知られている。
特開2019-129446号公報
 しかしながら、上記の従来技術では、撮影状況に応じてカラー画像を基準とした合成画像と、白黒画像を基準とした合成画像とを切り替える場合、切り替えが頻繁に発生する場合がある。視点の異なる画像間で切り替えが頻繁に発生すると、2つの画像の視差に基づく視線移動が起こり、画像を観察するユーザに違和感を生じさせる。
 そこで、本開示では、複数のカメラの切り替えを気付きにくくすることができる情報処理装置および情報処理方法を提案する。
 本開示によれば、情報処理装置は、センサによる検出データに基づいて、複数のカメラのうちいずれかのカメラに撮像させるユーザと、前記センサとの相対位置を検出する検出部と、前記相対位置に基づいて、撮像するカメラを切り替えることに対する前記ユーザの気付きにくさを示す許容度を算出する第1算出部と、算出した前記許容度に基づいて、被写体を撮像するカメラを前記複数のカメラから選択する選択部と、を有する。
本開示の実施形態に係る情報処理装置の構成の一例を示す図である。 リアカメラの撮像範囲の一例を示す図である。 カメラ切り替え処理の一例を示すフローチャートである。 変形例に係る情報処理装置の構成の一例を示す図である。 情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
 以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
 以下に示す項目順序に従って本開示を説明する。
  1.実施形態
   1-1.実施形態に係る情報処理装置の構成
   1-2.実施形態に係る情報処理の手順
  2.実施形態の変形例
  3.ハードウェア構成
  4.効果
(1.実施形態)
[1-1.実施形態に係る情報処理装置の構成]
 図1は、本開示の実施形態に係る情報処理装置の構成の一例を示す図である。図1に示すように、情報処理装置10は、フロントカメラ11と、リアカメラ12,13と、表示部14と、操作部15と、通信部16と、記憶部20と、検出部21と、第1算出部22と、カメラ制御部23と、第2算出部24と、選択部25と、切り替え部26と、電子ズーム部27と、画像処理部28と、制御部29とを有する。情報処理装置10としては、例えば、スマートフォンが挙げられる。
 フロントカメラ11は、情報処理装置10の表示部14および操作部15が配置された正面側に設けられ、情報処理装置10を操作するユーザの顔を撮像することができる。フロントカメラ11は、例えば、撮像素子としてCMOS(Complementary Metal Oxide Semiconductor)イメージセンサまたはCCD(Charge Coupled Device)イメージセンサ等を用いて、画像を撮像する。フロントカメラ11は、撮像素子が受光した光を光電変換しA/D(Analog/Digital)変換を行って画像を生成する。フロントカメラ11は、撮像画像を検出部21に出力する。フロントカメラ11は、第1のカメラの一例である。なお、図示はしないが、フロントカメラ11から出力される撮像画像は、電子ズーム部27や画像処理部28に入力されるようにしてもよい。
 リアカメラ12,13は、情報処理装置10の背面側に設けられ、被写体を撮像することができる。リアカメラ12,13は、例えば、撮像素子としてCMOSイメージセンサまたはCCDイメージセンサ等を用いて、画像を撮像する。リアカメラ12,13は、撮像素子が受光した光を光電変換しA/D変換を行って画像を生成する。リアカメラ12,13は、撮像画像を切り替え部26に出力する。また、リアカメラ12とリアカメラ13とは、倍率の異なるカメラである。以下の説明では、一例として、リアカメラ12の倍率は1倍、リアカメラ13の倍率は2倍であるとする。なお、リアカメラ12,13は、固定倍率のカメラだけでなく、光学ズーム可能なカメラであってもよい。なお、リアカメラ12,13は、それぞれ第2のカメラおよび第3のカメラの一例である。また、リアカメラの数は3つ以上であってもよい。
 ここで、図2を用いてリアカメラ12,13における撮像範囲について説明する。図2は、リアカメラの撮像範囲の一例を示す図である。図2に示すように、リアカメラ12とリアカメラ13とは、情報処理装置10の背面における配置位置が異なるので、撮像範囲が異なる。図2の例では、リアカメラ12の撮像範囲12aと、リアカメラ13の撮像範囲13aとは、一部が重複するものの異なる範囲となっている。このような状態でリアカメラ12とリアカメラ13とを切り替えると、2つの画像の視差に基づく視線移動が起こり、画像を観察するユーザに違和感を生じさせる。
 これに対し、上記の従来技術では、撮像画像の動きやジャイロセンサ等でカメラの動きを検出し、検出した動きに応じてユーザに気付かれにくいタイミングでカメラの切り替えを行っている。しかしながら、ユーザが移動中に撮影を行っている場合、撮像画像やジャイロセンサ等ではカメラが動いていると判定されるが、ユーザとカメラの相対位置は変わらず、ユーザから見てカメラが動いていないため、カメラの切り替えに気が付く場合がある。
 本開示に係る情報処理装置10は、カメラを備えた情報処理装置10を所持するユーザが移動中であっても、複数のカメラの切り替えを気付きにくくすることができるようにするため、下記に説明する情報処理を実行する。具体的には、情報処理装置10は、フロントカメラ11で撮像されたユーザの顔の位置に基づいて、フロントカメラ11とユーザとの相対位置を検出する。情報処理装置10は、検出した相対位置に基づいて、ユーザの気付きにくさを示す許容度を算出する。情報処理装置10は、算出した許容度に基づいて、被写体を撮像するリアカメラ12,13を選択する。
 図1の説明に戻る。表示部14は、各種情報を表示するための表示デバイスである。表示部14は、例えば、表示デバイスとして液晶ディスプレイや有機EL(Electro Luminescence)ディスプレイ等によって実現される。表示部14は、画像処理部28から入力された撮像画像や、制御部29から入力された表示画面等の各種画面を表示する。
 操作部15は、情報処理装置10のユーザから各種操作を受け付ける入力デバイスである。操作部15は、例えば、入力デバイスとして、タッチパネル等によって実現される。表示部14の表示デバイスと操作部15の入力デバイスとは、一体化されている。
 通信部16は、例えば、Wi-Fi(登録商標)等の無線LAN(Local Area Network)や第3~5世代移動通信システム(3G~5G)等に対応する通信モジュール等によって実現される。通信部16は、他の情報処理装置等との間で情報の通信を司る通信インタフェースである。
 記憶部20は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスクや光ディスク等の記憶装置によって実現される。記憶部20は、画像処理部28で画像処理された撮像画像等を記憶する。また、記憶部20は、制御部29での処理に用いる情報(プログラムやデータ)を記憶する。
 検出部21から制御部29は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。また、検出部21から制御部29は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されるようにしてもよい。
 検出部21は、フロントカメラ11から撮像画像が入力されると、撮像画像からユーザの顔の位置を検出する。検出部21は、ユーザの顔の位置について、3次元または2次元で検出する。検出部21は、検出した顔の位置に基づいて、フロントカメラ11とユーザとの相対位置を検出する。なお、検出部21は、撮像画像の代わりに、TOF(Time Of Flight)センサ等の測距センサを用いて、ユーザの顔までの距離から顔の位置を求めてもよい。相対位置は、例えば、撮像画像内の顔の位置の座標を含む情報である。検出部21は、検出したフロントカメラ11とユーザとの相対位置を第1算出部22に出力する。
 第1算出部22は、検出部21からフロントカメラ11とユーザとの相対位置が入力されると、相対位置に基づいて、撮像するカメラを切り替えることに対するユーザの気付きにくさを示す許容度を算出する。第1算出部22は、例えば、相対位置に含まれる顔の位置の座標に基づく顔の位置の移動速度に応じて、許容度を算出する。例えば、第1算出部22は、顔の位置の移動速度が速いほど、許容度の値が大きくなるように、当該許容度を算出する。また、第1算出部22は、顔の位置の加速度に応じて、許容度を算出するようにしてもよい。例えば、第1算出部22は、顔の位置の加速度が大きいほど、許容度の値が大きくなるように、当該許容度を算出するようにしてもよい。第1算出部22は、算出した許容度を選択部25に出力する。
 カメラ制御部23は、制御部29から入力されるユーザの操作情報に応じて、ユーザが所望するズーム倍率を算出する。カメラ制御部23は、算出したズーム倍率を第2算出部24および電子ズーム部27に出力する。つまり、カメラ制御部23が出力するズーム倍率は、電子ズーム部27において、現在撮像中の画像のズーム倍率に反映される。
 第2算出部24は、カメラ制御部23からズーム倍率が入力されると、入力されたズーム倍率と、予め設定されたカメラの切り替えが必要なズーム倍率とに基づいて、リアカメラ12とリアカメラ13との切り替えの必要度を算出する。例えば、倍率が1倍のリアカメラ12で撮像中に、ズーム倍率が1倍から大きくなるように電子ズームによりズーム操作が行われ、ズーム倍率が2倍以上となると、光学倍率が2倍のリアカメラ13に切り替えた方が画質が良くなる。第2算出部24は、このような場合に切り替えの必要度が高くなるように、切り替えの必要度を算出する。また、第2算出部24は、切り替え先のカメラを決定する。
 切り替えの必要度は、例えば、切り替えが必要なズーム倍率を倍率Aとし、入力されたズーム倍率(現在撮像中のズーム倍率)を倍率Bとすると、絶対差分の逆数(1/|A-B|)で求められる。この場合、切り替えの必要度は、数値が大きいほど、カメラの切り替えが必要であることを表している。また、切り替えの必要度は、差分値にオフセット値を与えることで、ヒステリシス性を持たせてもよい。例えば、ズーム倍率を上げている場合には、切り替えの必要度を(1/|A-B-C|)とし、ズーム倍率を下げている場合には、切り替えの必要度を(1/|A-B+C|)とする。ただし、C>0とする。ヒステリシス性を持たせる場合、例えば、ズーム倍率を上げるときは、リアカメラ12の撮像画像が1~2.2倍までズームインされ、2.2倍でリアカメラ13に切り替えられる。一方、ズーム倍率を下げるときは、リアカメラ13の撮像画像が2.2倍を超える倍率から2倍までズームアウトされ、2倍でリアカメラ12に切り替えられる。第2算出部24は、算出した切り替えの必要度と切り替え先のカメラとを選択部25に出力する。
 選択部25には、第1算出部22から許容度が入力され、第2算出部24から切り替えの必要度および切り替え先のカメラが入力される。選択部25は、許容度と切り替えの必要度および切り替え先のカメラとに基づいて、リアカメラ12またはリアカメラ13を選択し、選択したカメラを指定するカメラ選択信号を切り替え部26に出力する。選択部25は、例えば、許容度と切り替えの必要度とを乗算し、予め定めた閾値以上であれば、撮像中のカメラを切り替えるようにリアカメラ12またはリアカメラ13を選択する。また、選択部25は、許容度の最小値と、切り替えの必要度の最大値とを乗算した値以下の値を切り替えの閾値とすることで、切り替えの必要度が最大値になればカメラを切り替えるようにすることができる。例えば、選択部25は、許容度の値域を1~100、切り替えの必要度の値域を1~100、閾値を100以下となるように設定すれば、切り替えの必要度が100になれば、閾値以上となるので、カメラを切り替えることができる。
 切り替え部26は、選択部25からカメラ選択信号が入力されると、電子ズーム部27に出力する撮像画像(映像信号)を、カメラ選択信号で指定されたリアカメラ12またはリアカメラ13の撮像画像に切り替える。切り替え部26は、切り替え後のカメラ情報と撮像画像とを電子ズーム部27に出力する。なお、カメラ情報には、切り替えられて選択中であるカメラの光学倍率の情報が含まれる。
 電子ズーム部27には、カメラ制御部23からズーム倍率が入力され、切り替え部26からカメラ情報と撮像画像とが入力される。電子ズーム部27は、入力されたズーム倍率と、カメラ情報に含まれる光学倍率とに基づいて、電子ズーム倍率を決定する。電子ズーム部27は、撮像画像に対して、決定した電子ズーム倍率の電子ズーム処理を実行する。電子ズーム部27は、電子ズーム後の撮像画像を画像処理部28に出力する。
 画像処理部28は、電子ズーム部27から撮像画像が入力されると、撮像画像に対して各種の画像処理を行い、画像処理後の撮像画像を表示部14に表示させる。なお、画像処理としては、例えばコントラストや明度等の調整が挙げられる。また、画像処理部28は、制御部29から撮像画像の保存が指示されると、画像処理後の撮像画像を記憶部20に記憶する。
 制御部29は、情報処理装置10の各部を制御する。例えば、制御部29は、表示部14に表示させるユーザインタフェースを介して、操作部15からユーザの操作入力を受け付ける。制御部29は、受け付けた操作入力に応じた処理を実行する。制御部29は、例えば、ユーザから撮像画像の拡大を行うためのピンチアウト操作を受け付けると、ピンチアウト操作をユーザの操作情報としてカメラ制御部23に出力する。また、制御部29は、画像処理部28に対して実行する画像処理や撮像画像の保存を指示する。さらに、制御部29は、記憶部20に保存された撮像画像を通信部16を介して、他の情報処理装置に送信するようにしてもよい。
[1-2.実施形態に係る情報処理の手順]
 次に、図3を用いて、フロントカメラとユーザとの相対位置に基づいて、リアカメラを切り替えるカメラ切り替え処理について説明する。図3は、カメラ切り替え処理の一例を示すフローチャートである。
 図3に示すように、情報処理装置10の制御部29は、ユーザからの指示に基づいて、フロントカメラ11およびリアカメラ12,13による撮影を開始する。検出部21は、フロントカメラ11から撮像画像が入力されると、撮像画像からユーザの顔の位置を検出する。検出部21は、検出した顔の位置に基づいて、フロントカメラ11とユーザとの相対位置を検出する(ステップS1)。検出部21は、検出したフロントカメラ11とユーザとの相対位置を第1算出部22に出力する。
 第1算出部22は、検出部21からフロントカメラ11とユーザとの相対位置が入力されると、相対位置に基づいて許容度を算出する(ステップS2)。第1算出部22は、算出した許容度を選択部25に出力する。
 カメラ制御部23は、ユーザの操作情報に応じて、ユーザが所望するズーム倍率を算出する(ステップS3)。カメラ制御部23は、算出したズーム倍率を第2算出部24および電子ズーム部27に出力する。
 第2算出部24は、カメラ制御部23からズーム倍率が入力されると、入力されたズーム倍率と、予め設定されたカメラの切り替えが必要なズーム倍率とに基づいて、リアカメラ12とリアカメラ13との切り替えの必要度を算出する(ステップS4)。第2算出部24は、算出した切り替えの必要度を選択部25に出力する。
 選択部25には、第1算出部22から許容度が入力され、第2算出部24から切り替えの必要度が入力される。選択部25は、許容度と切り替えの必要度とを乗算した値が閾値以上であるか否かを判定する(ステップS5)。選択部25は、許容度と切り替えの必要度とを乗算した値が閾値以上であると判定した場合(ステップS5:Yes)、切り替えるリアカメラ12またはリアカメラ13を選択し、選択したカメラを指定するカメラ選択信号を切り替え部26に出力する。一方、選択部25は、許容度と切り替えの必要度とを乗算した値が閾値未満であると判定した場合(ステップS5:No)、現在使用中のカメラを引き続き選択するので、カメラ選択信号を切り替え部26に出力せず、ステップS7に進む。
 切り替え部26は、選択部25からカメラ選択信号が入力されると、電子ズーム部27に出力する撮像画像を、カメラ選択信号で指定されたリアカメラ12またはリアカメラ13の撮像画像に切り替える(ステップS6)。切り替え部26は、切り替え後のカメラ情報と撮像画像とを電子ズーム部27に出力する。なお、切り替え部26は、現在使用中のカメラが引き続き選択される場合、現在使用中のカメラのカメラ情報と撮像画像とを電子ズーム部27に出力する。
 電子ズーム部27は、入力されたズーム倍率と、カメラ情報に含まれる光学倍率とに基づいて、電子ズーム倍率を決定する。電子ズーム部27は、撮像画像に対して、決定した電子ズーム倍率の電子ズーム処理を実行する。電子ズーム部27は、電子ズーム後の撮像画像を画像処理部28に出力する。画像処理部28は、電子ズーム部27から撮像画像が入力されると、撮像画像に対して各種の画像処理を行い、画像処理後の撮像画像を表示部14に表示させる。その後、制御部29は、ユーザから撮像画像を保存する指示がある場合には、表示中の撮像画像を記憶部20に記憶して保存する。制御部29は、ユーザから撮影終了の指示が入力されたか否かを判定する(ステップS7)。
 制御部29は、ユーザから撮影終了の指示が入力されていないと判定した場合(ステップS7:No)、ステップS1に戻り、撮影を継続する。制御部29は、ユーザから撮影終了の指示が入力されたと判定した場合(ステップS7:Yes)、カメラ切り替え処理を終了する。これにより、複数のカメラの切り替えを気付きにくくすることができる。
(2.実施形態の変形例)
 ところで、上述した実施形態では、フロントカメラ11とユーザとの相対位置を、ユーザの顔の位置に基づいて検出したが、ユーザの目の位置および視線に基づいて検出してもよく、この場合について変形例として説明する。なお、変形例では、上述の実施形態の情報処理装置10と同一の構成には同一符号を付すことで、その重複する構成および動作の説明については省略する。
 図4は、変形例に係る情報処理装置の構成の一例を示す図である。図4に示す情報処理装置50は、上述の情報処理装置10の検出部21および第1算出部22に代えて、視線検出部51および第1算出部52を有する。視線検出部51は、フロントカメラ11から撮像画像が入力されると、撮像画像からユーザの目の位置および視線を検出する。視線検出部51は、検出した目の位置に基づいて、フロントカメラ11とユーザとの相対位置を検出する。変形例において、相対位置は、例えば、撮像画像内の目の位置の座標を含む情報である。視線検出部51は、検出したフロントカメラ11とユーザとの相対位置および視線情報を第1算出部52に出力する。
 第1算出部52は、視線検出部51からフロントカメラ11とユーザとの相対位置および視線情報が入力されると、相対位置および視線情報に基づいて、ユーザの気付きにくさを示す許容度を算出する。第1算出部52は、例えば、相対位置に含まれる目の位置の座標に基づく目の位置の移動速度と、視線情報とに応じて、許容度を算出する。例えば、第1算出部52は、目の位置の移動速度が速いほど、かつ、視線情報の視線が表示部14の中心から外れるほど、許容度の値が大きくなるように、当該許容度を算出する。なお、第1算出部52は、視線の移動速度が速いほど許容度の値が大きくなるように、当該許容度を算出してもよい。また、第1算出部52は、目の位置の加速度と視線情報とに応じて、許容度を算出するようにしてもよい。第1算出部22は、算出した許容度を選択部25に出力する。このように、ユーザの目の位置および視線を用いることで、フロントカメラ11とユーザとの相対位置を検出できるとともに、当該相対位置が変わらない場合であっても視線を動かした場合にリアカメラ12,13を切り替えることができる。
 また、上述した実施形態に係る処理は、上記実施形態以外にも種々の異なる形態にて実施されてよい。
 上記実施形態では、情報処理装置10としてスマートフォンを一例として挙げたが、これに限定されない。例えば、バックモニタ等の車載カメラや、インターフォン等のカメラに適用してもよい。
 この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
 また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、カメラ制御部23と制御部29とを統合するようにしてもよい。
 また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
(3.ハードウェア構成)
 上述してきた実施形態に係る情報処理装置10,50等の情報機器は、例えば図5に示すような構成のコンピュータ1000によって実現される。以下、実施形態に係る情報処理装置である情報処理装置10を例に挙げて説明する。図5は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM(Read Only Memory)1300、HDD(Hard Disk Drive)1400、通信インタフェース1500、および入出力インタフェース1600を有する。コンピュータ1000の各部は、バス1050によって接続される。
 CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。例えば、CPU1100は、ROM1300またはHDD1400に格納されたプログラムをRAM1200に展開し、各種プログラムに対応した処理を実行する。
 ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるBIOS(Basic Input Output System)等のブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
 HDD1400は、CPU1100によって実行されるプログラム、および、かかるプログラムによって使用されるデータ等を非一時的に記録する、コンピュータが読み取り可能な記録媒体である。具体的には、HDD1400は、プログラムデータ1450の一例である本開示に係る情報処理プログラムを記録する記録媒体である。
 通信インタフェース1500は、コンピュータ1000が外部ネットワーク1550(例えばインターネット)と接続するためのインタフェースである。例えば、CPU1100は、通信インタフェース1500を介して、他の機器からデータを受信したり、CPU1100が生成したデータを他の機器へ送信したりする。
 入出力インタフェース1600は、入出力デバイス1650とコンピュータ1000とを接続するためのインタフェースである。例えば、CPU1100は、入出力インタフェース1600を介して、キーボードやマウス等の入力デバイスからデータを受信する。また、CPU1100は、入出力インタフェース1600を介して、ディスプレイやスピーカやプリンタ等の出力デバイスにデータを送信する。また、入出力インタフェース1600は、所定の記録媒体(メディア)に記録されたプログラム等を読み取るメディアインタフェースとして機能してもよい。メディアとは、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
 例えば、コンピュータ1000が実施形態に係る情報処理装置10として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされた情報処理プログラムを実行することにより、検出部21等の機能を実現する。また、HDD1400には、本開示に係る情報処理プログラムや、記憶部20等のデータが格納される。なお、CPU1100は、プログラムデータ1450をHDD1400から読み取って実行するが、他の例として、外部ネットワーク1550を介して、他の装置からこれらのプログラムを取得してもよい。
(4.効果)
 情報処理装置10は、検出部21と、第1算出部22と、選択部25とを有する。検出部21は、センサによる検出データに基づいて、複数のカメラ(リアカメラ12,13)のうちいずれかのカメラに撮像させるユーザと、センサとの相対位置を検出する。第1算出部22は、相対位置に基づいて、撮像するカメラを切り替えることに対するユーザの気付きにくさを示す許容度を算出する。選択部25は、算出した許容度に基づいて、被写体を撮像するカメラを複数のカメラから選択する。その結果、複数のカメラの切り替えを気付きにくくすることができる。
 センサは、第1のカメラ(フロントカメラ11)であり、検出部21は、第1のカメラで撮像されたユーザの顔の位置に基づいて、相対位置を検出する。その結果、複数のカメラの切り替えを気付きにくくすることができる。
 第1算出部22は、顔の位置の移動速度に応じて、許容度を算出する。その結果、ユーザが情報処理装置10の表示部14を注視していないことを許容度として表すことができる。
 複数のカメラは、倍率の異なる第2のカメラ(リアカメラ12)と第3のカメラ(リアカメラ13)とを備え、情報処理装置10は、さらに、第2算出部24を有する。第2算出部24は、第2のカメラと第3のカメラとの切り替えを行う第1のズーム倍率と、撮像中の画像の第2のズーム倍率とに基づいて、第2のカメラと第3のカメラとの切り替えの必要度を算出する。その結果、カメラの切り替えの必要度に応じて、カメラを切り替えることができる。
 選択部25は、許容度と必要度とに基づいて、第2のカメラまたは第3のカメラを選択する。その結果、許容度と必要度に応じて、カメラを切り替えることができる。
 選択部25は、許容度の最小値と、必要度の最大値とを乗算した値以下の値を、第2のカメラと第3のカメラとの選択における切り替えの閾値とする。その結果、必要度が最大値である場合に、カメラを切り替えることができる。
 第2算出部24は、ヒステリシス性を持たせて必要度を算出する。その結果、カメラの頻繁な切り替えを抑制することができる。
 センサは、測距センサであり、検出部21は、測距センサで計測されたユーザの顔までの距離から求めた顔の位置に基づいて、相対位置を検出する。その結果、複数のカメラの切り替えを気付きにくくすることができる。
 第1算出部22は、顔の位置の加速度に応じて、許容度を算出する。その結果、ユーザが情報処理装置10の表示部14を注視していないことを許容度として表すことができる。
 センサは、第1のカメラであり、検出部(視線検出部51)は、第1のカメラで撮像されたユーザの目の位置に基づいて、相対位置を検出するとともに視線を検出し、第1算出部52は、相対位置および視線に基づいて、ユーザの気付きにくさを示す許容度を算出する。その結果、複数のカメラの切り替えを気付きにくくすることができる。
 情報処理装置10は、さらに、選択された第2のカメラまたは第3のカメラから出力された撮像画像に対して電子ズームを行う電子ズーム部27を有する。その結果、撮像画像に対して電子ズームを行うことができる。
 第2のズーム倍率は、第2のカメラまたは第3のカメラの倍率と、電子ズームの倍率とに基づく倍率である。その結果、光学倍率と、電子ズームの倍率とを組み合わせたズームを行うことができる。
 なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
 なお、本技術は以下のような構成も取ることができる。
(1)
 センサによる検出データに基づいて、複数のカメラのうちいずれかのカメラに撮像させるユーザと、前記センサとの相対位置を検出する検出部と、
 前記相対位置に基づいて、撮像するカメラを切り替えることに対する前記ユーザの気付きにくさを示す許容度を算出する第1算出部と、
 算出した前記許容度に基づいて、被写体を撮像するカメラを前記複数のカメラから選択する選択部と、
 を有する情報処理装置。
(2)
 前記センサは、第1のカメラであり、
 前記検出部は、前記第1のカメラで撮像された前記ユーザの顔の位置に基づいて、前記相対位置を検出する、
 前記(1)に記載の情報処理装置。
(3)
 前記第1算出部は、前記顔の位置の移動速度に応じて、前記許容度を算出する、
 前記(2)に記載の情報処理装置。
(4)
 前記複数のカメラは、倍率の異なる第2のカメラと第3のカメラとを備え、
 さらに、前記第2のカメラと前記第3のカメラとの切り替えを行う第1のズーム倍率と、撮像中の画像の第2のズーム倍率とに基づいて、前記第2のカメラと前記第3のカメラとの切り替えの必要度を算出する第2算出部を有する、
 前記(1)~(3)のいずれか1つに記載の情報処理装置。
(5)
 前記選択部は、前記許容度と前記必要度とに基づいて、前記第2のカメラまたは前記第3のカメラを選択する、
 前記(4)に記載の情報処理装置。
(6)
 前記選択部は、前記許容度の最小値と、前記必要度の最大値とを乗算した値以下の値を、前記第2のカメラと前記第3のカメラとの選択における切り替えの閾値とする、
 前記(5)に記載の情報処理装置。
(7)
 前記第2算出部は、ヒステリシス性を持たせて前記必要度を算出する、
 前記(4)または(5)に記載の情報処理装置。
(8)
 前記センサは、測距センサであり、
 前記検出部は、前記測距センサで計測された前記ユーザの顔までの距離から求めた顔の位置に基づいて、前記相対位置を検出する、
 前記(1)に記載の情報処理装置。
(9)
 前記第1算出部は、前記顔の位置の加速度に応じて、前記許容度を算出する、
 前記(2)に記載の情報処理装置。
(10)
 前記センサは、第1のカメラであり、
 前記検出部は、前記第1のカメラで撮像された前記ユーザの目の位置に基づいて、前記相対位置を検出するとともに視線を検出し、
 前記第1算出部は、前記相対位置および前記視線に基づいて、前記ユーザの気付きにくさを示す許容度を算出する、
 前記(1)に記載の情報処理装置。
(11)
 さらに、選択された前記第2のカメラまたは前記第3のカメラから出力された撮像画像に対して電子ズームを行う電子ズーム部を有する、
 前記(5)~(7)のいずれか1つに記載の情報処理装置。
(12)
 前記第2のズーム倍率は、前記第2のカメラまたは前記第3のカメラの前記倍率と、前記電子ズームの倍率とに基づく倍率である、
 前記(11)に記載の情報処理装置。
(13)
 センサによる検出データに基づいて、複数のカメラのうちいずれかのカメラに撮像させるユーザと、前記センサとの相対位置を検出し、
 前記相対位置に基づいて、撮像するカメラを切り替えることに対する前記ユーザの気付きにくさを示す許容度を算出し、
 算出した前記許容度に基づいて、被写体を撮像するカメラを前記複数のカメラから選択する、
 処理をコンピュータが実行する情報処理方法。
(14)
 センサによる検出データに基づいて、複数のカメラのうちいずれかのカメラに撮像させるユーザと、前記センサとの相対位置を検出し、
 前記相対位置に基づいて、撮像するカメラを切り替えることに対する前記ユーザの気付きにくさを示す許容度を算出し、
 算出した前記許容度に基づいて、被写体を撮像するカメラを前記複数のカメラから選択する、
 処理をコンピュータに実行させる情報処理プログラム。
 10,50 情報処理装置
 11 フロントカメラ
 12,13 リアカメラ
 14 表示部
 15 操作部
 16 通信部
 20 記憶部
 21 検出部
 22,52 第1算出部
 23 カメラ制御部
 24 第2算出部
 25 選択部
 26 切り替え部
 27 電子ズーム部
 28 画像処理部
 29 制御部
 51 視線検出部

Claims (13)

  1.  センサによる検出データに基づいて、複数のカメラのうちいずれかのカメラに撮像させるユーザと、前記センサとの相対位置を検出する検出部と、
     前記相対位置に基づいて、撮像するカメラを切り替えることに対する前記ユーザの気付きにくさを示す許容度を算出する第1算出部と、
     算出した前記許容度に基づいて、被写体を撮像するカメラを前記複数のカメラから選択する選択部と、
     を有する情報処理装置。
  2.  前記センサは、第1のカメラであり、
     前記検出部は、前記第1のカメラで撮像された前記ユーザの顔の位置に基づいて、前記相対位置を検出する、
     請求項1に記載の情報処理装置。
  3.  前記第1算出部は、前記顔の位置の移動速度に応じて、前記許容度を算出する、
     請求項2に記載の情報処理装置。
  4.  前記複数のカメラは、倍率の異なる第2のカメラと第3のカメラとを備え、
     さらに、前記第2のカメラと前記第3のカメラとの切り替えを行う第1のズーム倍率と、撮像中の画像の第2のズーム倍率とに基づいて、前記第2のカメラと前記第3のカメラとの切り替えの必要度を算出する第2算出部を有する、
     請求項1に記載の情報処理装置。
  5.  前記選択部は、前記許容度と前記必要度とに基づいて、前記第2のカメラまたは前記第3のカメラを選択する、
     請求項4に記載の情報処理装置。
  6.  前記選択部は、前記許容度の最小値と、前記必要度の最大値とを乗算した値以下の値を、前記第2のカメラと前記第3のカメラとの選択における切り替えの閾値とする、
     請求項5に記載の情報処理装置。
  7.  前記第2算出部は、ヒステリシス性を持たせて前記必要度を算出する、
     請求項4に記載の情報処理装置。
  8.  前記センサは、測距センサであり、
     前記検出部は、前記測距センサで計測された前記ユーザの顔までの距離から求めた顔の位置に基づいて、前記相対位置を検出する、
     請求項1に記載の情報処理装置。
  9.  前記第1算出部は、前記顔の位置の加速度に応じて、前記許容度を算出する、
     請求項2に記載の情報処理装置。
  10.  前記センサは、第1のカメラであり、
     前記検出部は、前記第1のカメラで撮像された前記ユーザの目の位置に基づいて、前記相対位置を検出するとともに視線を検出し、
     前記第1算出部は、前記相対位置および前記視線に基づいて、前記ユーザの気付きにくさを示す許容度を算出する、
     請求項1に記載の情報処理装置。
  11.  さらに、選択された前記第2のカメラまたは前記第3のカメラから出力された撮像画像に対して電子ズームを行う電子ズーム部を有する、
     請求項5に記載の情報処理装置。
  12.  前記第2のズーム倍率は、前記第2のカメラまたは前記第3のカメラの前記倍率と、前記電子ズームの倍率とに基づく倍率である、
     請求項11に記載の情報処理装置。
  13.  センサによる検出データに基づいて、複数のカメラのうちいずれかのカメラに撮像させるユーザと、前記センサとの相対位置を検出し、
     前記相対位置に基づいて、撮像するカメラを切り替えることに対する前記ユーザの気付きにくさを示す許容度を算出し、
     算出した前記許容度に基づいて、被写体を撮像するカメラを前記複数のカメラから選択する、
     処理をコンピュータが実行する情報処理方法。
PCT/JP2022/038659 2021-11-08 2022-10-18 情報処理装置および情報処理方法 Ceased WO2023079941A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023557928A JPWO2023079941A1 (ja) 2021-11-08 2022-10-18
US18/706,035 US20250063251A1 (en) 2021-11-08 2022-10-18 Information processing apparatus and information processing method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021181907 2021-11-08
JP2021-181907 2021-11-08

Publications (1)

Publication Number Publication Date
WO2023079941A1 true WO2023079941A1 (ja) 2023-05-11

Family

ID=86241473

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/038659 Ceased WO2023079941A1 (ja) 2021-11-08 2022-10-18 情報処理装置および情報処理方法

Country Status (3)

Country Link
US (1) US20250063251A1 (ja)
JP (1) JPWO2023079941A1 (ja)
WO (1) WO2023079941A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013114691A (ja) * 2011-11-29 2013-06-10 Samsung Electronics Co Ltd 視線追跡に基づくユーザ機能運用方法及びこれを支援する端末機
WO2018016151A1 (ja) * 2016-07-22 2018-01-25 ソニー株式会社 画像処理装置と画像処理方法
JP2019129446A (ja) * 2018-01-25 2019-08-01 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、および画像処理方法、並びにプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5959667A (en) * 1996-05-09 1999-09-28 Vtel Corporation Voice activated camera preset selection system and method of operation
US7124427B1 (en) * 1999-04-30 2006-10-17 Touch Technologies, Inc. Method and apparatus for surveillance using an image server
KR102664705B1 (ko) * 2019-02-19 2024-05-09 삼성전자주식회사 복수의 카메라들을 이용하여 이미지의 배율을 변경하기 위한 전자 장치 및 방법
KR102656682B1 (ko) * 2019-12-05 2024-04-09 현대모비스 주식회사 Gm 클럭 시간정보에 기반한 카메라 영상 동기화 방법 및 장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013114691A (ja) * 2011-11-29 2013-06-10 Samsung Electronics Co Ltd 視線追跡に基づくユーザ機能運用方法及びこれを支援する端末機
WO2018016151A1 (ja) * 2016-07-22 2018-01-25 ソニー株式会社 画像処理装置と画像処理方法
JP2019129446A (ja) * 2018-01-25 2019-08-01 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、および画像処理方法、並びにプログラム

Also Published As

Publication number Publication date
US20250063251A1 (en) 2025-02-20
JPWO2023079941A1 (ja) 2023-05-11

Similar Documents

Publication Publication Date Title
US10623626B2 (en) Multiple lenses system, operation method and electronic device employing the same
US11240446B2 (en) Imaging device, control apparatus, imaging method, and storage medium
US9253410B2 (en) Object detection apparatus, control method therefor, image capturing apparatus, and storage medium
US10270978B2 (en) Zoom control device with scene composition selection, and imaging apparatus, control method of zoom control device, and recording medium therewith
US20180288310A1 (en) Dual-aperture zoom digital camera user interface
US9706264B2 (en) Multiple field-of-view video streaming
WO2022100677A1 (zh) 一种拍照预览方法、装置、存储介质和电子设备
EP4344240B1 (en) Camera switching method, and electronic device
TW201220830A (en) Imaging apparatus, imaging method, and program
JP5952782B2 (ja) 画像処理装置及びその制御方法、プログラム、記憶媒体
JP6558902B2 (ja) 複眼撮像装置、複眼撮像装置の制御方法、複眼撮像制御プログラム、および記憶媒体
US8836820B2 (en) Image capturing apparatus having a control unit controlling switching unit such that first image is displayed in case a predetermined motion is detected and a composite image is displayed in case motion is not detected, control method thereof, and storage medium
JP2016197150A (ja) 撮像装置およびその制御方法、プログラム、ならびに記憶媒体
CN111131714A (zh) 图像采集控制方法、装置及电子设备
JP2011166497A (ja) 撮像装置
JP2012235198A (ja) 撮像装置
CN118784960A (zh) 成像元件、摄像装置、图像数据处理方法及程序产品
WO2023079941A1 (ja) 情報処理装置および情報処理方法
JP2014042109A (ja) 画像処理装置、制御方法、プログラム及び記憶媒体
JP2015192242A (ja) 撮像装置、撮像装置の制御方法、撮像装置の制御プログラムおよび記憶媒体
EP4030748B1 (en) Electronic apparatus having optical zoom camera, camera optical zoom method, unit, and memory
US11516390B2 (en) Imaging apparatus and non-transitory storage medium
JP2011234310A (ja) 撮像装置
JP6642661B2 (ja) 撮像装置
JPH10136233A (ja) 電子ズーム機能付撮像装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22889762

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2023557928

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 18706035

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22889762

Country of ref document: EP

Kind code of ref document: A1