WO2012127843A1 - 立体画像処理装置及び立体画像処理方法 - Google Patents

立体画像処理装置及び立体画像処理方法 Download PDF

Info

Publication number
WO2012127843A1
WO2012127843A1 PCT/JP2012/001870 JP2012001870W WO2012127843A1 WO 2012127843 A1 WO2012127843 A1 WO 2012127843A1 JP 2012001870 W JP2012001870 W JP 2012001870W WO 2012127843 A1 WO2012127843 A1 WO 2012127843A1
Authority
WO
WIPO (PCT)
Prior art keywords
stereoscopic
still image
parallax
parallax amount
amount
Prior art date
Application number
PCT/JP2012/001870
Other languages
English (en)
French (fr)
Inventor
林 健吉
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to JP2013505816A priority Critical patent/JP5507003B2/ja
Priority to CN201280014949.6A priority patent/CN103621076B/zh
Publication of WO2012127843A1 publication Critical patent/WO2012127843A1/ja
Priority to US14/033,594 priority patent/US9053567B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Definitions

  • the present invention relates to a method of outputting stereoscopic still image data extracted from stereoscopic moving image data in a stereoscopic image processing apparatus that handles both stereoscopic moving images and stereoscopic still images.
  • a three-dimensional image displayed so as to be stereoscopically viewed in this way can be generated in both a moving image and a still image.
  • Patent Document 1 discloses an image information processing apparatus in which a depth value is smoothly changed in scene switching so as not to cause discomfort and fatigue.
  • Patent Document 2 converts a 2D / 3D image into a 3D / 2D still image or a 3D / 2D video as desired by the user.
  • Patent Document 1 and Patent Document 3 disclose a method for preventing discomfort and fatigue by reducing the variation in depth value when a stereoscopic video and a stereoscopic still image are cut together.
  • the parallax amount of the stereoscopic video is usually kept smaller than that of the stereoscopic still image. Even if the amount of parallax is kept small in this way, a stereoscopic video can feel a stereoscopic effect even when the subject moves (rotates, moves in the depth direction, crosses other subjects with different depths, etc.). The feeling is not impaired so much.
  • the present invention is a stereoscopic image processing apparatus that handles both a stereoscopic moving image and a stereoscopic still image, and a stereoscopic image that provides a sufficient stereoscopic effect in the stereoscopic still image represented by the stereoscopic still image data extracted from the stereoscopic moving image data. It is an object of the present invention to provide a processing device and a stereoscopic image processing method.
  • the stereoscopic image processing apparatus of the present invention is a stereoscopic image processing apparatus capable of displaying and / or recording a stereoscopic moving image and a stereoscopic still image, and extracting a stereoscopic still image data representing an arbitrary stereoscopic still image from predetermined stereoscopic moving image data.
  • a still image parallax amount acquisition unit that acquires a parallax amount of the stereoscopic still image represented by the stereoscopic still image data extracted by the stereoscopic still image extraction unit;
  • a still image parallax amount conversion unit that converts the parallax amount of the stereoscopic still image data so as to be larger than the parallax amount acquired by the still image parallax amount acquisition unit.
  • stereoscopic moving image and “stereoscopic still image” mean images that allow the observer to recognize the stereoscopic effect of the subject when displayed on a monitor or the like.
  • the acquisition of the parallax amount by the still image parallax amount acquisition unit may be performed by reading information such as a distance image that has been calculated and recorded in advance.
  • the maximum value of the parallax amount of the stereoscopic still image so that the parallax amount conversion unit of the still image is larger than the parallax amount acquired by the still image parallax amount acquisition unit.
  • the parallax amount of the stereoscopic still image data may be converted so that the minimum value becomes the upper limit value and the lower limit value of the allowable parallax range of the stereoscopic still image.
  • the “allowable parallax range of a stereoscopic still image” refers to a range of parallax amounts in which safety for a human body is ensured in a stereoscopic still image, and the allowable parallax range is 0 as shown in FIG.
  • the far direction, that is, the retracting direction, and the near direction, that is, the popping direction may be set in different ranges around the cross point (display surface on which the stereoscopic still image is displayed).
  • the “maximum value of the parallax amount” refers to the maximum value of the parallax amount in the far direction
  • the “minimum value of parallax amount” refers to the maximum value of the parallax amount in the near direction.
  • the upper limit value of the allowable parallax range refers to the allowable parallax amount in the far direction
  • the lower limit value of the allowable parallax range refers to the allowable parallax amount in the near direction.
  • the width from the cross point where the parallax amount is 0 to the upper limit value of the allowable parallax range is different from the width from the cross point to the lower limit value of the allowable parallax range. It may be a thing.
  • the width of the allowable parallax range of the stereoscopic still image is set so that the still image parallax amount converting unit is larger than the parallax amount acquired by the still image parallax amount acquiring unit.
  • the parallax amount of the stereoscopic still image data may be converted by multiplying the ratio with the width of the allowable parallax range of the stereoscopic video.
  • the multiplying ratio may be different between the near side and the far side of the cross point where the parallax amount is 0.
  • the stereoscopic image processing apparatus of the present invention further includes a usage purpose setting unit that sets a usage purpose of the stereoscopic still image represented by the stereoscopic still image data extracted by the stereoscopic still image extraction unit, The parallax of the stereoscopic still image data based on the use purpose set by the use purpose setting unit so that the still image parallax amount conversion unit is larger than the parallax amount acquired by the still image parallax amount acquisition unit The amount may be converted.
  • the use purpose setting unit can set printing and screen display as a use purpose
  • the still image parallax amount conversion unit may reduce the parallax amount to be converted when the use purpose is set to the print by the use purpose setting unit than when the screen display is set. Good.
  • the use purpose setting unit can set a screen display for each size of the display surface as a use purpose,
  • the still image parallax amount conversion unit converts the parallax amount to be converted as the size of the display surface of the set screen display increases. You may make it small.
  • the stereoscopic image processing apparatus of the present invention further includes a still image analysis unit that analyzes a pattern of the stereoscopic still image represented by the stereoscopic still image data extracted by the stereoscopic still image extraction unit, The parallax amount of the stereoscopic still image data is converted based on the analysis result by the still image analysis unit so that the still image parallax amount conversion unit is larger than the parallax amount acquired by the still image parallax amount acquisition unit. You may do.
  • the three-dimensional still image represented by the three-dimensional still image data extracted by the three-dimensional still image extracting unit by the still image analyzing unit is the predetermined area.
  • the parallax amount to be converted is made smaller than that of the picture in which the subject does not exist. May be.
  • the still image parallax amount conversion unit is configured to display in the depth direction a three-dimensional still image represented by the three-dimensional still image data extracted by the three-dimensional still image extraction unit.
  • the parallax amount to be converted is larger than that of a pattern in which the subject does not exist when it is analyzed that the subject has a subject having a continuous or intermittent shape and an area smaller than a predetermined area. It may be.
  • the stereoscopic image processing method of the present invention is a stereoscopic image processing method using a stereoscopic image processing apparatus capable of displaying and / or recording a stereoscopic moving image and a stereoscopic still image. Extract 3D still image data representing any 3D still image from the specified 3D video data, Obtaining a parallax amount of the stereoscopic still image represented by the extracted stereoscopic still image data; The parallax amount of the stereoscopic still image data is converted so as to be larger than the acquired parallax amount.
  • the maximum value and the minimum value of the parallax amount of the stereoscopic still image are respectively the upper limit value of the allowable parallax range of the stereoscopic still image so as to be larger than the acquired parallax amount.
  • the parallax amount of the stereoscopic still image data can be converted so as to be the lower limit value.
  • the “allowable parallax range of a stereoscopic still image” refers to a range of the parallax amount in which the safety to the human body is ensured in the stereoscopic still image, and the allowable parallax range is a cross-point (stereoscopic 3D) as shown in FIG.
  • the far direction, that is, the retracting direction, and the near direction, that is, the popping direction may be set in different ranges around the display surface on which the still image is displayed.
  • the “maximum value of the parallax amount” refers to the maximum value of the parallax amount in the far direction
  • the “minimum value of parallax amount” refers to the maximum value of the parallax amount in the near direction.
  • the upper limit value of the allowable parallax range refers to the allowable parallax amount in the far direction
  • the lower limit value of the allowable parallax range refers to the allowable parallax amount in the near direction.
  • the width from the cross point where the parallax amount is 0 to the upper limit value of the allowable parallax range is different from the width from the cross point to the lower limit value of the allowable parallax range. May be.
  • the stereoscopic image is multiplied by a ratio between the allowable parallax range width of the stereoscopic still image and the allowable parallax range width of the stereoscopic moving image so as to be larger than the acquired amount of parallax.
  • the amount of parallax of still image data can be converted.
  • the ratios to be multiplied may be different between the near side and the far side of the cross point where the parallax amount is 0.
  • the purpose of use of the stereoscopic still image represented by the extracted stereoscopic still image data is set in advance,
  • the parallax amount of the stereoscopic still image data can be converted based on the set purpose of use so as to be larger than the acquired parallax amount.
  • the amount of parallax to be converted can be made smaller than when the purpose of use is set to screen display.
  • the pattern of the stereoscopic still image represented by the extracted stereoscopic still image data is analyzed,
  • the parallax amount of the stereoscopic still image data can be converted based on the analysis result so as to be larger than the acquired parallax amount.
  • the three-dimensional still image represented by the extracted three-dimensional still image data is present in front of a cross point where a subject having an area equal to or larger than a predetermined area has a parallax amount of 0.
  • the amount of parallax to be converted can be made smaller than that of a picture in which the subject does not exist.
  • the stereoscopic still image represented by the extracted stereoscopic still image data has a continuous or intermittent shape in the depth direction and has an area smaller than a predetermined area.
  • the parallax amount to be converted can be made larger than that of the pattern in which the subject does not exist.
  • a three-dimensional image processing apparatus capable of displaying and / or recording a three-dimensional moving image and a three-dimensional still image
  • a three-dimensional image representing an arbitrary three-dimensional still image from predetermined three-dimensional moving image data. Since the still image data is extracted, the parallax amount of the stereoscopic still image represented by the extracted stereoscopic still image data is acquired, and the parallax amount of the stereoscopic still image data is converted to be larger than the acquired parallax amount.
  • the parallax amount of the stereoscopic still image is larger than the parallax amount of the stereoscopic moving image, and the viewer can obtain a sufficient stereoscopic effect when reproducing the stereoscopic still image.
  • the predetermined stereoscopic video data is configured with an amount of parallax within an allowable range in which safety for the human body is ensured, ensuring the safety for the human body as a stereoscopic video and the stereoscopic effect as a stereoscopic still image. Both effects can be achieved.
  • FIG. 1 is a block diagram illustrating a configuration of a stereoscopic image processing apparatus according to a first embodiment.
  • action of the stereo image processing apparatus of FIG. The figure explaining the parallax amount conversion method by the still image parallax amount conversion part of FIG.
  • the figure explaining the still image permissible parallax range Schematic diagram of the amount of left-right shift of each point in the image
  • the block diagram which shows the structure of the stereo image processing apparatus of 2nd Embodiment.
  • action of the stereo image processing apparatus of FIG. The figure explaining the parallax amount conversion method by the still image parallax amount conversion part of FIG.
  • the block diagram which shows the structure of the stereo image processing apparatus of 3rd Embodiment.
  • FIG. 9 is a flowchart showing the operation of the stereoscopic image processing apparatus of FIG. The figure explaining the parallax amount conversion method by the still image parallax amount conversion part of FIG.
  • the block diagram which shows the structure of the stereo image processing apparatus of 4th Embodiment.
  • FIG. 9 is a block diagram illustrating a configuration of a stereoscopic image processing apparatus according to a fifth embodiment.
  • FIG. 1 is a block diagram showing the configuration of the stereoscopic image processing apparatus 1
  • FIG. 2 is a flowchart showing the operation of the stereoscopic image processing apparatus 1 in FIG. 1
  • FIG. 3 is a parallax amount conversion method by the still image parallax amount conversion unit 25 in FIG.
  • FIG. 4 is a diagram illustrating a still image allowable parallax range.
  • the stereoscopic image processing apparatus 1 of the present embodiment is capable of displaying and / or recording a stereoscopic moving image and a stereoscopic still image, and each is connected to a data bus 13 as shown in FIG.
  • a recording / reading control unit 12 that controls recording and reading of information with respect to the image data recording unit 11 such as a removable medium
  • a stereoscopic display unit 16 including an LCD or the like are connected to the stereoscopic display unit 16 and a stereoscopic still image and a stereoscopic moving image.
  • 3D display control unit 15 for controlling the display of images
  • 3D still image signal processing unit 17 for performing image processing for still images on the image data
  • 3D moving image signal processing unit 18 for performing image processing for moving images on the image data.
  • a still image extraction processing unit 21 that extracts arbitrary stereoscopic still image data from the stereoscopic video data, and a CPU 20, and these control units and processing units are data control units 4 are respectively connected to the data transfer via the data bus 13 between these control unit and processing unit are controlled by the data control unit 14.
  • a memory 19 is connected to the data control unit 14.
  • the recording / reading control unit 12, the stereoscopic display control unit 15, the stereoscopic still image signal processing unit 17, the stereoscopic video signal processing unit 18, and the still image extraction processing unit 21 are also connected to the CPU 20.
  • the processing in these control units / processing units is controlled by the CPU 20.
  • an operation unit 23 composed of a power switch, various setting switches, a keyboard, a mouse, and the like provided in the main body of the stereoscopic image processing apparatus 1.
  • the CPU 20 is connected to an operation mode setting unit 22 for setting the operation mode to a stereoscopic moving image or a stereoscopic still image.
  • the operation mode setting unit 22 is an operation mode desired by the user input by operating the operation unit 23. Can be set.
  • the CPU 20 has an operation mode set by the operation mode setting unit 22. It also functions as a determination unit that determines whether the moving image is a 3D moving image or a 3D still image.
  • the CPU 20 is connected to a still image parallax amount acquisition unit 24 and a still image parallax amount conversion unit 25, which will be described in detail later.
  • the stereoscopic image processing apparatus 1 is also provided with a microphone and a speaker.
  • the microphone is connected to the data bus 13 via an A / D converter or the like, and the speaker is an amplifier and D / A conversion. It is connected to the data bus 13 via a device.
  • the stereoscopic display control unit 15 causes the stereoscopic display unit 16 to stereoscopically display stereoscopic video data and stereoscopic still image data.
  • the stereoscopic display control unit 15 performs stereoscopic display processing according to the stereoscopic display method of the stereoscopic display unit 16 to perform stereoscopic display.
  • Three-dimensional display is performed on the display unit 16. Note that any known method can be used as the stereoscopic display in the present embodiment.
  • a left-eye image and a right-eye image are displayed side-by-side and stereoscopically viewed by the naked eye balance method, or a lenticular lens is attached to the stereoscopic display unit 16, and the left-eye image is displayed at a predetermined position on the display surface of the stereoscopic display unit 16.
  • the left-eye image and the right-eye image can be incident to realize a stereoscopic display.
  • the optical path of the backlight of the stereoscopic display unit 16 is optically separated so as to correspond to the left and right eyes, and the left-eye image and the right-eye image are displayed on the display surface of the stereoscopic display unit 16 to the left and right of the backlight.
  • a scan backlight method that realizes stereoscopic display can be used.
  • the stereoscopic display unit 16 is processed according to the stereoscopic display method.
  • the stereoscopic display method is the lenticular method
  • a lenticular lens is attached to the display surface of the stereoscopic display unit 16
  • an optical element for changing the light beam direction of the left and right images Is attached to the display surface of the stereoscopic display unit 16.
  • the stereoscopic still image signal processing unit 17 performs image processing for the stereoscopic still image on the stereoscopic still image data in order to improve the image quality of the stereoscopic still image represented by the stereoscopic still image data.
  • image processing for stereoscopic still images includes noise reduction processing for reducing noise components in stereoscopic still image data, contour enhancement processing for extracting contour components in stereoscopic still images and enhancing the extracted contour components, and specific processing Examples include a filtering process for attenuating or enhancing a spatial frequency component, a color correction process for correcting the color balance of a stereoscopic still image, and the like.
  • the stereoscopic video signal processing unit 18 performs stereoscopic video image processing on the stereoscopic video data in order to improve the quality of the stereoscopic video represented by the stereoscopic video data.
  • image processing for stereoscopic video noise reduction processing for reducing noise components in stereoscopic video data
  • contour enhancement processing for extracting contour components from stereoscopic video data and enhancing the extracted contour components specific spatial frequency Examples include a filtering process for attenuating or enhancing a component, a color correction process for correcting the color balance of a stereoscopic moving image, and the like.
  • the still image extraction processing unit 21 extracts three-dimensional still image data representing an arbitrary three-dimensional still image from predetermined three-dimensional moving image data previously selected by the user from the three-dimensional moving image data recorded in the image data recording unit 11 or the memory 19. To do.
  • the user can select the 3D still image by operating the operation unit 23 in a desired scene while watching the 3D moving image reproduced on the 3D display unit 16.
  • the three-dimensional still image to be extracted may be one or a plurality of frames of different scenes may be extracted.
  • stereoscopic still image data from stereoscopic moving image data generally known techniques can be employed.
  • the still image parallax amount acquisition unit 24 acquires the parallax amount of the stereoscopic still image represented by the stereoscopic still image data extracted by the still image extraction processing unit 21.
  • the parallax amount is obtained by detecting the coordinate values of a plurality of feature points whose features match on the right-eye still image and the left-eye still image constituting the stereoscopic still image, and the right-eye still image and the left-eye still image.
  • the parallax amount acquisition method is not limited to this, and a known method can be used.
  • the still image parallax amount conversion unit 25 converts the parallax amount acquired by the still image parallax amount acquisition unit 24, and converts the parallax amount of the stereoscopic still image data to be larger than the acquired parallax amount.
  • FIG. 5 is a diagram schematically showing the amount of left-right shift of each point in the image. In FIG. 5, as the distance from the cross point increases in the depth direction, the amount of deviation, that is, the length of the arrow increases, and the direction of deviation, that is, the direction of the arrow differs between the front side and the back side of the cross point.
  • the still image for the right eye and / or the still image for the left eye is deformed so that the length of the arrow in FIG. 5 becomes longer.
  • the image is deformed by so-called nonlinear geometric transformation called warping so that the shift amount, that is, the parallax amount is increased.
  • warping for example, an image is locally distorted, that is, warped and deformed.
  • an image is divided into a plurality of triangular patches, and deformation is performed for each triangular patch. Note that a technique described in Japanese Patent Application Laid-Open No. 2010-152819 can be used as a specific method of image deformation by warping.
  • the amount of parallax acquired by the still image parallax amount acquisition unit 24 is the amount of parallax in the stereoscopic still image extracted from the stereoscopic moving image data, that is, the amount of parallax of one scene in the stereoscopic moving image data.
  • the parallax amount of the stereoscopic still image data becomes larger than the parallax amount of the source 3D moving image.
  • the conversion of the parallax amount by the still image parallax amount conversion unit 25 will be described in detail later.
  • the stereoscopic image processing apparatus 1 according to the present embodiment is configured as described above.
  • the operation mode setting unit 2 sets an operation mode input by the user (S10).
  • the CPU 20 determines whether the operation mode set by the operation mode setting unit 22 is the moving image mode or the still image mode (S11). If the operation mode is determined to be the moving image mode (S10; moving image mode), the three-dimensional The moving image signal processing unit 18 performs the above-described signal processing for the stereoscopic moving image on the predetermined stereoscopic moving image data selected in advance by the user (S12), and the display control unit 15 represents the stereoscopic moving image represented by the stereoscopic moving image data after the signal processing. Is displayed on the stereoscopic display unit 16, or the recording / reading control unit 12 records the stereoscopic video data after the signal processing in the image data recording unit 11 (S13), and the series of processing ends.
  • Whether the 3D moving image is displayed on the 3D display unit 16 or the image data recording unit 11 is set in advance by operating the operation unit 23 by the user.
  • the still image extracting unit 21 stores the stereoscopic video data recorded in the image data recording unit 11 or the memory 19. Among them, 3D still image data representing one arbitrary 3D still image is extracted from predetermined 3D moving image data previously selected by the user (S14).
  • the still image parallax amount acquisition unit 24 acquires the parallax amount of the stereoscopic still image represented by the stereoscopic still image data extracted by the still image extraction unit 21 as described above (S15), and the still image parallax amount conversion unit 25 converts the parallax amount of the stereoscopic still image data so as to be larger than the parallax amount acquired by the still image parallax amount acquiring unit 24 (S16).
  • the allowable parallax range D S in which safety for the human body is ensured in the stereoscopic still image is set to be larger than the allowable parallax range D m in the stereoscopic moving image.
  • the parallax amount of the stereoscopic still image represented by the extracted stereoscopic still image data is the allowable parallax range DS. Since it is much smaller than that, there may be a case where the stereoscopic effect cannot be sufficiently obtained during reproduction.
  • the still image parallax amount conversion unit 25 uses each frame f n extracted from the stereoscopic moving image data, that is, the parallax amount of the stereoscopic still image as the original parallax amount. That is, the parallax amount of the stereoscopic still image data is converted so as to be larger than the parallax amount of the stereoscopic video represented by the extraction source stereoscopic video data. Parallax amount after conversion this time is set to be a value within the allowable disparity range D S of the three-dimensional still image.
  • the amount of parallax increases in FIG. 3 is the maximum value of the parallax amount of a stereoscopic still image on the far side from the cross point where the parallax amount is 0 in FIG. In the figure, it means that the tip of the upward arrow) is located on the upper side, and on the near side of the cross point where the parallax amount becomes 0 (lower side in the figure), the stereoscopic still image It means that the minimum value of the amount of parallax (the tip of the downward arrow in the figure) is located on the lower side.
  • the observer can obtain a sufficient stereoscopic effect when reproducing the stereoscopic still image.
  • the extraction source stereoscopic video data is configured with the parallax amount within the allowable parallax range D m in which safety for the human body is ensured, the safety for the human body as the stereoscopic video and the stereoscopic still image are confirmed. As a result, it is possible to achieve both the effects of the three-dimensional effect.
  • the conversion of the parallax amount is performed in a uniform manner in terms of the display surface on which a stereoscopic still image indicated by.
  • the amount of parallax is increased so that the stereoscopic effect in the pop-up direction and the stereoscopic effect in the depth direction from the display surface are the same value, but the present invention is not limited to this, and the stereoscopic effect in the far direction, that is, the depth direction.
  • a small child or the like having a narrow eye interval may have a large influence on the human body if the amount of parallax indicating a stereoscopic effect in the depth direction is too large. Therefore, as shown in the still image allowable parallax range B of FIG. 4, it is desirable to set the far-direction allowable parallax range to be larger than the near-direction allowable parallax range.
  • the stereoscopic still image signal processing unit 17 performs the above-described signal processing for the stereoscopic still image on the stereoscopic still image data representing the stereoscopic still image after the parallax amount is converted by the still image parallax amount converting unit 25.
  • the display control unit 15 displays the 3D still image represented by the 3D still image data after the signal processing on the 3D display unit 16, or the recording / reading control unit 12 displays the 3D still image data after the signal processing as an image.
  • the data is recorded in the data recording unit 11 (S13), and the series of processes is terminated.
  • the stereoscopic image processing apparatus 1 performs stereoscopic image processing.
  • the conversion of the parallax amount by the still image parallax amount conversion unit 25 may be performed immediately after the stereoscopic still image is extracted, or may be performed when the stereoscopic still image is displayed, or the stereoscopic still image is recorded. It may be done occasionally and can be changed as appropriate.
  • FIG. 6 is a block diagram showing the configuration of the stereoscopic image processing apparatus 1-2
  • FIG. 7 is a flowchart showing the operation of the stereoscopic image processing apparatus 1-2 in FIG. 6, and
  • FIG. It is a figure explaining the parallax amount conversion method.
  • the configuration of the stereoscopic image processing apparatus 1-2 of the present embodiment shown in FIG. 6 the same parts as those of the stereoscopic image processing apparatus 1 of the above-described embodiment shown in FIG. Only the differences will be described.
  • the stereoscopic image processing device 1-2 includes a still image parallax amount setting unit 26 in the configuration illustrated in FIG. 1.
  • the still image parallax amount setting unit 26 sets an upper limit value and a lower limit value of the allowable parallax range of the stereoscopic still image, and the value input by the user operating the operation unit 23 is set as the upper limit value of the allowable parallax range. It can be set as the lower limit.
  • Upper and lower limits of the allowable disparity range, safety to the human body in three-dimensional still image has a settable in allowable disparity range D S which is secured, to obtain a sufficient stereoscopic effect in the present embodiment upper and lower limits of the allowable disparity range of the three-dimensional still image so as to be is assumed to be set to the upper limit value and the lower limit value of the allowable disparity range D S.
  • the stereoscopic image processing apparatus 1-2 acquires the parallax amount of the stereoscopic still image represented by the stereoscopic still image data extracted by the still image parallax amount acquiring unit 24 (S25).
  • the parallax amount acquired by the still image parallax amount acquisition unit 24 is the maximum parallax amount and the minimum value of the parallax amount, and the allowable parallax range D S of the stereoscopic still image is set.
  • the stereoscopic still image data is converted so as to be the upper limit value and the lower limit value (S26).
  • the allowable amount of parallax in the far direction of the maximum value of the amount of parallax allowable disparity range D S in the far direction conversion so that the maximum value of the amount of parallax in the near direction is allowable parallax amount in the near direction of allowable disparity range D S To do.
  • the allowable disparity range D S that human safety is ensured in a stereoscopic still image is set to be larger than the allowable disparity range D m in the stereoscopic video, the body already during reproduction
  • the parallax amount of the stereoscopic still image represented by the extracted stereoscopic still image data is the allowable parallax range DS. Since it is much smaller than that, there may be a case where the stereoscopic effect cannot be sufficiently obtained during reproduction.
  • the still image parallax amount conversion unit 25 uses the maximum value of the parallax amount of each frame f n extracted from the stereoscopic video data, that is, the stereoscopic still image. minimum and converts the parallax amount of the stereoscopic still image data such that the upper limit value and the lower limit value of the allowable disparity range D S uniformly.
  • the viewer when reproducing the three-dimensional still image can be obtained a sufficient stereoscopic effect.
  • the extraction source stereoscopic video data is configured with the parallax amount within the allowable parallax range D m in which safety for the human body is ensured, the safety for the human body as the stereoscopic video and the stereoscopic still image are confirmed. As a result, it is possible to achieve both the effects of the three-dimensional effect.
  • the reference parallax amount of the still image is equivalent to the perspective of the display surface on which the stereoscopic still image indicated by.
  • the amount of parallax is set so that the stereoscopic effect in the projection direction from the surface and the stereoscopic effect in the depth direction from the display surface have the same value, but the present invention is not limited to this, and the stereoscopic effect in the far direction, that is, the depth direction. You may enable it to set separately the amount of parallax which shows a feeling, and the amount of parallax which shows the near direction, ie, the stereoscopic effect of the pop-out direction.
  • a small child or the like having a narrow eye interval may have a large influence on the human body if the amount of parallax indicating a stereoscopic effect in the depth direction is too large. Therefore, as shown in the still image allowable parallax range B of FIG. 4, it is desirable to set the far-direction allowable parallax range to be larger than the near-direction allowable parallax range.
  • FIG. 9 is a block diagram showing the configuration of the stereoscopic image processing apparatus 1-3
  • FIG. 10 is a flowchart showing the operation of the stereoscopic image processing apparatus 1-3 in FIG. 9, and FIG. It is a figure explaining the parallax amount conversion method.
  • the configuration of the stereoscopic image processing apparatus 1-3 of the present embodiment shown in FIG. 9 the same parts as those of the stereoscopic image processing apparatus 1 of the above-described embodiment shown in FIG. Only the differences will be described.
  • the stereoscopic image processing apparatus 1-3 includes a moving image / still image parallax amount setting unit 27 in the configuration of FIG.
  • the moving image / still image parallax amount setting unit 27 sets an upper limit value and a lower limit value of the allowable parallax range of the stereoscopic still image and the stereoscopic moving image, and each value input by the user operating the operation unit 23 is set.
  • the upper limit value and the lower limit value of the allowable parallax range can be set.
  • the upper limit value and the lower limit value of each allowable parallax range can be set by the allowable parallax range D S and the allowable parallax range D m that ensure the safety to the human body.
  • the parallax angle ⁇ that can be stereoscopically viewed comfortably has been empirically determined by various studies.
  • the parallax angle ⁇ refers to the difference between the convergence angle when viewing a point on the display surface and the convergence angle when viewing a solid determined by binocular parallax.
  • the comfortable parallax range of stereoscopic video when assuming a high-definition television is based on the assumption that the interpupillary distance is 6.5 cm and viewing at a viewing viewing distance (three times the screen height of the television).
  • the depth range in one screen is easy to see if it is kept within 1 degree.
  • the upper limit value and the lower limit value of the allowable parallax range of the stereoscopic video are the parallax amount values at which the parallax angle is 1 degree
  • the upper limit value and the lower limit value of the allowable parallax range of the stereoscopic still image are A value larger than the upper limit value and the lower limit value of the allowable parallax range is set.
  • the stereoscopic image processing apparatus 1-3 acquires the parallax amount of the stereoscopic still image represented by the stereoscopic still image data extracted by the still image parallax amount acquiring unit 24 as illustrated in FIG. 10 (S35).
  • still image parallax amount conversion unit 25 a parallax amount of the still image parallax amount acquisition unit 24 has acquired, the allowable disparity range D m width and three-dimensional moving image of the allowable disparity range D S of the three-dimensional still image is set width
  • the parallax amount of the stereoscopic still image data is converted to a value obtained by multiplying the ratio by (S26).
  • the allowable disparity range D S that human safety is ensured in a stereoscopic still image is set to be larger than the allowable disparity range D m in the stereoscopic video, the body already during reproduction
  • the parallax amount of the stereoscopic still image represented by the extracted stereoscopic still image data is the allowable parallax range DS. Since it is much smaller than that, there may be a case where the stereoscopic effect cannot be sufficiently obtained during reproduction.
  • the still image parallax amount conversion unit 25 sets the parallax amount of each frame f n extracted from the stereoscopic moving image data, that is, the stereoscopic still image. converting the parallax amount of the stereoscopic still image data so that a value obtained by multiplying the ratio of the width of the allowable disparity range D m width and three-dimensional moving image of the allowable disparity range D S you have.
  • the parallax amount of each frame f m of the three-dimensional still image still image parallax amount acquisition unit 24 acquires becomes the width times the allowable disparity range D m of width / three-dimensional moving image of the allowable disparity range D S of the three-dimensional still image 3D still image data is converted.
  • the width times the allowable disparity range D m of width / three-dimensional moving image of the allowable disparity range D S of the three-dimensional still image to be larger than the amount of parallax of three-dimensional moving amount of parallax of the three-dimensional still image
  • the observer can obtain a sufficient stereoscopic effect when reproducing a stereoscopic still image.
  • the extraction source stereoscopic video data is configured with the parallax amount within the allowable parallax range D m in which safety for the human body is ensured, the safety for the human body as the stereoscopic video and the stereoscopic still image are confirmed. As a result, it is possible to achieve both the effects of the three-dimensional effect.
  • the reference parallax amount of still images and moving images is equivalent to the perspective of the display surface on which the image indicated by.
  • the amount of parallax is set so that the stereoscopic effect in the projection direction from the surface and the stereoscopic effect in the depth direction from the display surface have the same value, but the present invention is not limited to this, and the stereoscopic effect in the far direction, that is, the depth direction. You may enable it to set separately the amount of parallax which shows a feeling, and the amount of parallax which shows the near direction, ie, the stereoscopic effect of the pop-out direction.
  • the multiplying ratio may be different between the near side and the far side of the cross point where the parallax amount is 0.
  • a small child or the like having a narrow eye interval may have a large influence on the human body if the amount of parallax indicating a stereoscopic effect in the depth direction is too large. Therefore, as shown in the still image allowable parallax range B of FIG. 4, it is desirable to set the far-direction allowable parallax range to be larger than the near-direction allowable parallax range.
  • FIG. 12 is a block diagram showing the configuration of the stereoscopic image processing apparatus 1-4
  • FIG. 13 is a flowchart showing the operation of the stereoscopic image processing apparatus 1-4 in FIG.
  • the stereoscopic image processing apparatus 1-4 includes a use purpose setting unit 28 in the configuration of FIG.
  • the usage purpose setting unit 28 sets the usage purpose of the stereoscopic still image represented by the stereoscopic still image data extracted by the still image extraction processing unit 21, and the usage purpose input by the user operating the operation unit 23. Can be set.
  • printing or screen display can be set as a purpose of use, and the screen display can be set for each size of the display surface.
  • step S17 in FIG. 2 is the same as the process in step S17 in FIG. 2 and the description thereof is omitted.
  • the process from step S40 to step S44 in FIG. 13 is the same as the process in step S17 in FIG.
  • the still image extraction processing unit 21 extracts the stereoscopic still image data (S44)
  • the usage purpose setting unit 28 then operates the user operation.
  • the purpose of use input by operating the unit 23 is set (S45).
  • the still image parallax amount acquisition unit 24 acquires the parallax amount of the stereoscopic still image represented by the stereoscopic still image data extracted by the still image parallax amount acquisition unit 24 (S46), and the still image parallax amount conversion unit 25 acquires the still image parallax amount.
  • the parallax amount of the stereoscopic still image data is converted so that the parallax amount acquired by the amount acquisition unit 24 becomes a value corresponding to the set purpose of use (S47).
  • the still image parallax amount conversion unit 25 of the present embodiment increases the parallax amount of each frame f n extracted from the stereoscopic video data, that is, the stereoscopic still image, and if the usage purpose is set to print, Is converted so that the amount of parallax is smaller than when the screen display is set.
  • stereoscopic image printing lenticular printing
  • the purpose of use is set to screen display, the larger the set display surface size, the greater the effect on the human body when observing a stereoscopic still image. Conversion is performed so that the amount of parallax to be changed is smaller than when it is small.
  • the viewer can obtain a sufficient volume when reproducing the stereoscopic still image. It is possible to obtain a feeling and to obtain a stereoscopic effect according to the purpose of use when using a stereoscopic still image.
  • the extraction source stereoscopic video data is configured with the parallax amount within the allowable parallax range D m in which safety for the human body is ensured, the safety for the human body as the stereoscopic video and the stereoscopic still image are confirmed. As a result, it is possible to achieve both the effects of the three-dimensional effect according to the purpose of use of the three-dimensional still image.
  • the usage purpose setting unit 28 can set printing or screen display as a usage purpose, and the screen display can be set for each size of the display surface.
  • the present invention is not limited to this. Only printing or screen display may be settable, or only screen display may be set for each display surface size. Other usage purposes may be settable or may be changed as appropriate.
  • FIG. 14 is a block diagram showing the configuration of the stereoscopic image processing apparatus 1-5
  • FIG. 15 is a flowchart showing the operation of the stereoscopic image processing apparatus 1-5 of FIG.
  • the same parts as those of the stereoscopic image processing apparatus 1 of the above-described embodiment shown in FIG. Only the differences will be described.
  • the stereoscopic image processing apparatus 1-5 of the present embodiment includes a pattern parallax amount setting unit 29 and a still image analysis unit 30 in the configuration of FIG.
  • the picture parallax amount setting unit 30 sets the parallax quantity for each picture in the three-dimensional still image. For example, a subject having an area equal to or larger than a predetermined area is present in front of the cross point where the parallax quantity becomes zero.
  • the pattern is set to have a smaller amount of parallax than the pattern in which the subject does not exist. At this time, the predetermined area is about one third of the entire screen area.
  • a pattern having a subject having a continuous or intermittent shape in the depth direction and having an area smaller than a predetermined area is set to have a larger amount of parallax than a pattern having no subject.
  • the predetermined area is about one-tenth of the entire screen area.
  • the still image analysis unit 30 analyzes the stereoscopic still image represented by the stereoscopic still image data extracted by the still image extraction processing unit 21, and uses the parallax amount acquired by the still image parallax amount acquisition unit 24.
  • the area of the subject existing on the display screen that is, the front side of the cross point in the stereoscopic still image is calculated.
  • the area is calculated by detecting the amount of parallax in front of the cross point out of the amount of parallax acquired by the still image parallax amount acquiring unit 24, and a point (feature point) having the detected amount of parallax is included in the entire image. Calculate the proportion of the total.
  • this ratio is 1/3 or more, a stereoscopic still image is analyzed assuming that a subject having an area equal to or larger than a predetermined area is a pattern existing in front of the cross point.
  • a region of a subject having a continuous or intermittent shape in the depth direction in the stereoscopic still image is calculated.
  • the area is calculated by detecting the parallax amount acquired by the still image parallax amount acquiring unit 24 in which the parallax amount continuously or intermittently increases, and having the detected parallax amount (feature)
  • the ratio of the point to the entire image is calculated, where the amount of parallax increases continuously or intermittently, for example, in FIG. The one that goes to the bottom. Further, in this embodiment, when this ratio is smaller than 1/10, it is assumed that the pattern has a subject having a continuous or intermittent shape in the depth direction and an area smaller than a predetermined area. Analyze still images.
  • step S17 in FIG. 2 is the same as the process of step S17 in FIG. 2 and the description thereof is omitted here.
  • the process from step S10 to step S15 in FIG. 2 is the same as the process in step S17 in FIG.
  • the stereoscopic image processing apparatus 1-5 includes a parallax amount of a stereoscopic still image represented by the stereoscopic still image data extracted by the still image parallax amount acquisition unit 24 by the still image parallax amount acquisition unit 24.
  • the still image analysis unit 29 analyzes the pattern of the three-dimensional still image as described above (S56).
  • the still image parallax amount conversion unit 25 converts the parallax amount acquired by the still image parallax amount acquisition unit 24 based on the analysis result by the still image analysis unit 29 (S57).
  • the still image parallax amount conversion unit 25 of the present embodiment increases the amount of parallax of each frame f n extracted from the stereoscopic video data, that is, the stereoscopic still image, and the still image analysis unit 29 detects a subject having an area larger than a predetermined area. If it is determined that the pattern is present in front of the cross point where the amount of parallax is 0, the parallax to be converted may be difficult to see if the parallax is large when the user observes the stereoscopic still image. Reduce the amount. If it is determined that the subject has a continuous or intermittent shape in the depth direction and a subject having an area smaller than a predetermined area, the design is effective for feeling a three-dimensional effect. It is determined that there is, and the amount of parallax to be converted is increased. At this time, the parallax amount is converted into a value set in advance by the pattern parallax amount setting unit 30.
  • the viewer can reproduce the stereoscopic still image when reproducing the stereoscopic still image.
  • a sufficient three-dimensional effect according to the pattern can be obtained.
  • the extraction source stereoscopic video data is configured with the parallax amount within the allowable parallax range D m in which safety for the human body is ensured, the safety for the human body as the stereoscopic video and the stereoscopic still image are confirmed.
  • the three-dimensional effect can be achieved in accordance with the pattern of the three-dimensional still image.
  • 3D image processing device 20 CPU (determination unit) 22 Operation mode setting unit 21 3D still image extraction unit (still image extraction unit) 24 still image parallax amount acquisition unit 25 still image parallax amount conversion unit 26 still image parallax amount setting unit 27 moving image / still image parallax amount setting unit (moving image still image parallax amount setting unit) 28 Use purpose setting unit 29 Still image analysis unit 30 Picture parallax amount setting unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】立体動画データから抽出した立体静止画データが表す立体静止画において立体感を十分に得られるようにする。 【解決手段】立体動画と立体静止画を表示及び/又は記録可能な立体画像処理装置(1,1-2,1-3,1-4,1-5)において、所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出し、抽出された立体静止画データが表す立体静止画の視差量を取得し、取得された視差量よりも大きくなるように、立体静止画データの視差量を変換する。

Description

立体画像処理装置及び立体画像処理方法
 本発明は、立体動画と立体静止画の両方を取り扱う立体画像処理装置において、特に立体動画データから抽出された立体静止画データを出力する方法に関するものである。
 従来、視点の異なる複数の画像を組み合わせて表示することにより、視差を利用して立体視できることが知られている。このように立体視可能に表示される3次元画像は、動画と静止画の両方において生成することができる。
 しかしながら3次元画像においては、観察者の両眼間に生じる視差を利用しているため、前記複数の画像間の視差量が適切ではない場合に観察者に不快感や疲労感を与えてしまう虞がある。特に立体動画においては、各シーンの切替え時における急激な視差量の変化によって不快感や疲労感が増してしまうため、立体静止画よりも不快感や疲労感が生じ易い。
 そこで特許文献1には、不快感や疲労感が生じないように、シーンの切替えにおいて奥行値を滑らかに遷移させるようにした画像情報処理装置が開示されている。
 一方、立体動画と立体静止画の両方を取り扱う立体画像処理装置が知られており、特許文献2には、ユーザの希望通りに2D/3D画像から3D/2D静止画や3D/2D動画に変換して、簡単に画像データを取り出すことができる画像変換装置が開示されている。特許文献1や特許文献3には、立体動画と立体静止画との間で切り合わる際の奥行値の変動を小さくすることにより不快感や疲労感を防止する方法が開示されている。
特開2010-258723号公報 特開2005-184377号公報 特開平11-98527号公報
 しかしながら、立体動画は立体静止画よりも人体に対する影響(不快感や疲労感など)が大きいと考えられているため、通常、立体動画の視差量は立体静止画よりも小さく抑えられている。このように視差量を小さく抑えたとしても、立体動画は被写体の動き(回転、奥行き方向の移動、奥行きが異なる他の被写体の前後を横切るなど)によっても立体感を感じることができるため、立体感があまり損なわれずに済む。一方、人体に対する影響を考慮して視差量が抑えられている立体動画から立体静止画を抽出してそのまま再生すると、立体感を十分に得られない場合がある。
 本発明は、上記事情に鑑み、立体動画と立体静止画の両方を取り扱う立体画像処理装置において、立体動画データから抽出した立体静止画データが表す立体静止画において立体感を十分に得られる立体画像処理装置及び立体画像処理方法を提供することを目的とする。
 本発明の立体画像処理装置は、立体動画と立体静止画を表示及び/又は記録可能な立体画像処理装置において、所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出する立体静止画抽出部と、
 該立体静止画抽出部により抽出された前記立体静止画データが表す前記立体静止画の視差量を取得する静止画視差量取得部と、
 該静止画視差量取得部により取得された視差量よりも大きくなるように、前記立体静止画データの視差量を変換する静止画視差量変換部とを備えていることを特徴とするものである。
 ここで、「立体動画」及び「立体静止画」とは、それぞれモニタ等に表示されたときに観察者が被写体の立体感を認識できる画像を意味するものである。
 また静止画視差量取得部による視差量の取得は、予め算出されて記録されていた距離画像等の情報を読み出すことにより行ってもよい。
 なお本発明の立体画像処理装置においては、前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、前記立体静止画の視差量の最大値と最小値がそれぞれ立体静止画の許容視差範囲の上限値と下限値になるように前記立体静止画データの視差量を変換するものであってもよい。
 ここで、「立体静止画の許容視差範囲」とは、立体静止画において人体に対する安全性が確保されている視差量の範囲をいい、許容視差範囲は図6に示すように、視差量が0になるクロスポイント(立体静止画が表示される表示面)を中心にして遠方向すなわち引っ込む方向と近方向すなわち飛び出し方向とを別々の範囲で設定できるようにしてもよい。
 なお本発明において「視差量の最大値」は、前記遠方向における視差量の最大値をいい、「視差量の最小値」は前記近方向における視差量の最大値をいう。また「許容視差範囲の上限値」は前記遠方向における許容視差量をいい、「許容視差範囲の下限値」は前記近方向における許容視差量をいう。
 また本発明の立体画像処理装置においては、視差量が0になるクロスポイントから前記許容視差範囲の前記上限値までの幅と、前記クロスポイントから前記許容視差範囲の前記下限値までの幅が異なるものであってもよい。
 また本発明の立体画像処理装置においては、前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、立体静止画の許容視差範囲の幅と立体動画の許容視差範囲の幅との比率を乗じて前記立体静止画データの視差量を変換するものであってもよい。
 また本発明の立体画像処理装置においては、視差量が0になるクロスポイントの手前側と奥側とで、乗じる前記比率が異なるものであってもよい。
 また本発明の立体画像処理装置においては、前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画の使用目的を設定する使用目的設定部を備え、
 前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、前記使用目的設定部によって設定された使用目的に基づいて前記立体静止画データの視差量を変換するものであってもよい。
 また本発明の立体画像処理装置においては、前記使用目的設定部が、使用目的として印刷及び画面表示を設定可能なものであり、
 前記静止画視差量変換部が、前記使用目的設定部により使用目的が前記印刷に設定されたときは前記画面表示に設定されたときよりも、変換する前記視差量を小さくするものであってもよい。
 また本発明の立体画像処理装置においては、前記使用目的設定部が、使用目的として表示面の大きさ毎に画面表示を設定可能であり、
 前記静止画視差量変換部が、前記使用目的設定部により使用目的が画面表示に設定されたときに、該設定された画面表示の前記表示面の大きさが大きいほど、変換する前記視差量を小さくするものであってもよい。
 また本発明の立体画像処理装置においては、前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画の絵柄を解析する静止画解析部を備え、
 前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、前記静止画解析部による解析結果に基づいて前記立体静止画データの視差量を変換するものであってもよい。
 また本発明の立体画像処理装置においては、前記静止画視差量変換部が、前記静止画解析部が前記前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画が、所定面積以上の面積を有する被写体が視差量が0になるクロスポイントよりも手前側に存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を小さくするものであってもよい。
 また本発明の立体画像処理装置においては、前記静止画視差量変換部が、前記静止画解析部が前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画が、奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を大きくするものであってもよい。
 本発明の立体画像処理方法は、立体動画と立体静止画を表示及び/又は記録可能な立体画像処理装置を使用した立体画像処理方法において、
 所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出し、
 該抽出された前記立体静止画データが表す前記立体静止画の視差量を取得し、
 該取得された前記視差量よりも大きくなるように、前記立体静止画データの視差量を変換することを特徴とする。
 なお本発明の立体画像処理方法においては、前記取得された視差量よりも大きくなるように、前記立体静止画の視差量の最大値と最小値がそれぞれ立体静止画の許容視差範囲の上限値と下限値になるように前記立体静止画データの視差量を変換することができる。
 ここで、「立体静止画の許容視差範囲」とは、立体静止画において人体に対する安全性が確保されている視差量の範囲をいい、許容視差範囲は図6に示すように、クロスポイント(立体静止画が表示される表示面)を中心にして遠方向すなわち引っ込む方向と近方向すなわち飛び出し方向とを別々の範囲で設定できるようにしてもよい。
 なお本発明において「視差量の最大値」は、前記遠方向における視差量の最大値をいい、「視差量の最小値」は前記近方向における視差量の最大値をいう。また「許容視差範囲の上限値」は前記遠方向における許容視差量をいい、「許容視差範囲の下限値」は前記近方向における許容視差量をいう。
 また本発明の立体画像処理方法においては、視差量が0になるクロスポイントから前記許容視差範囲の前記上限値までの幅と、前記クロスポイントから前記許容視差範囲の前記下限値までの幅が異なってもよい。
 また本発明の立体画像処理方法においては、前記取得された視差量よりも大きくなるように、立体静止画の許容視差範囲の幅と立体動画の許容視差範囲の幅との比率を乗じて前記立体静止画データの視差量を変換することができる。
 また本発明の立体画像処理方法においては、視差量が0になるクロスポイントの手前側と奥側とで、乗じる前記比率が異なってもよい。
 また本発明の立体画像処理方法においては、予め前記抽出された立体静止画データが表す立体静止画の使用目的を設定し、
 前記取得された前記視差量よりも大きくなるように、前記設定された使用目的に基づいて前記立体静止画データの視差量を変換することができる。
 また本発明の立体画像処理方法においては、前記使用目的が印刷に設定されたときは前記使用目的が画面表示に設定されたときよりも、変換する前記視差量を小さくすることができる。
 また本発明の立体画像処理方法においては、前記使用目的が画面表示に設定されたときに、該設定された画面表示の表示面の大きさが大きいほど、変換する前記視差量を小さくすることができる。
 また本発明の立体画像処理方法においては、前記抽出された立体静止画データが表す立体静止画の絵柄を解析し、
 前記取得された視差量よりも大きくなるように、前記解析結果に基づいて前記立体静止画データの視差量を変換することができる。
 また本発明の立体画像処理方法においては、前記抽出された立体静止画データが表す立体静止画が、所定面積以上の面積を有する被写体が視差量が0になるクロスポイントよりも手前側に存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を小さくすることができる。
 また本発明の立体画像処理方法においては、前記抽出された立体静止画データが表す立体静止画が、奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を大きくすることができる。
 本発明の立体画像処理装置及び立体画像処理方法によれば、立体動画と立体静止画を表示及び/又は記録可能な立体画像処理装置において、所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出し、抽出された立体静止画データが表す立体静止画の視差量を取得し、取得された前記視差量よりも大きくなるように、立体静止画データの視差量を変換するので、立体静止画の視差量は立体動画の視差量よりも大きくなり、立体静止画の再生時に観察者は十分な立体感を得ることができる。
 また前記所定の立体動画データが人体に対する安全性が確保されている許容範囲内の視差量で構成されている場合には、立体動画としての人体に対する安全性の確保と立体静止画としての立体感の効果の両立を図ることができる。
第1の実施形態の立体画像処理装置の構成を示すブロック図 図1の立体画像処理装置の作用を示すフローチャート 図1の静止画視差量変換部による視差量変換方法を説明する図 静止画許容視差範囲について説明する図 画像内の各点の左右ずれ量の模式図 第2の実施形態の立体画像処理装置の構成を示すブロック図 図6の立体画像処理装置の作用を示すフローチャート 図6の静止画視差量変換部による視差量変換方法を説明する図 第3の実施形態の立体画像処理装置の構成を示すブロック図 図9の立体画像処理装置の作用を示すフローチャート 図9の静止画視差量変換部による視差量変換方法を説明する図 第4の実施形態の立体画像処理装置の構成を示すブロック図 図12の立体画像処理装置の作用を示すフローチャート 第5の実施形態の立体画像処理装置の構成を示すブロック図 図14の立体画像処理装置の作用を示すフローチャート
 以下、図面を参照して本発明の第1の実施形態である立体画像処理装置1について説明する。図1は立体画像処理装置1の構成を示すブロック図、図2は図1の立体画像処理装置1の作用を示すフローチャート、図3は図1の静止画視差量変換部25による視差量変換方法を説明する図、図4は静止画許容視差範囲について説明する図である。
 本実施形態の立体画像処理装置1は立体動画及び立体静止画を表示及び/又は記録可能なものであり、図1に示すように、各々データバス13に接続され、立体動画データ等が記録された例えばリムーバブルメディア等の画像データ記録部11に対する情報の記録及び読み出しを制御する記録/読出制御部12、LCD等から成る立体表示部16が接続され立体表示部16への立体静止画及び立体動画の表示を制御する立体表示制御部15、画像データに対して静止画用の画像処理を行う立体静止画信号処理部17,画像データに対して動画用の画像処理を行う立体動画信号処理部18、立体動画データから任意の立体静止画データを抽出する静止画抽出処理部21、及びCPU20を備えており、これらの制御部・処理部はデータ制御部14が各々接続されており、これらの制御部・処理部の間のデータバス13経由でのデータ転送はデータ制御部14によって制御される。このデータ制御部14にはメモリ19が接続されている。
 また、図示は省略するが、記録/読出制御部12、立体表示制御部15、立体静止画信号処理部17,立体動画信号処理部18及び静止画抽出処理部21はCPU20にも接続されており、これらの制御部・処理部における処理はCPU20によって制御される。CPU20には、立体画像処理装置1の本体に設けられた電源スイッチ、各種の設定スイッチ、キーボード、マウス等で構成された操作部23が接続されている。
 またCPU20には、動作モードを立体動画又は立体静止画に設定する動作モード設定部22が接続され、動作モード設定部22はユーザが操作部23を操作することにより入力したユーザが所望する動作モードを設定可能となっている。なおCPU20は動作モード設定部22により設定された動作モードが。立体動画及び立体静止画のいずれであるのかを判断する判断部としても機能する。
 またCPU20には、後で詳細に説明する、静止画視差量取得部24及び静止画視差量変換部25がそれぞれ接続されている。
 また、図示は省略するが、立体画像処理装置1にはマイクロフォンとスピーカも設けられており、マイクロフォンはA/D変換器等を介してデータバス13に接続され、スピーカは増幅器及びD/A変換器を介してデータバス13に接続されている。
 立体表示制御部15は、立体動画データや立体静止画データを立体表示部16に立体表示させるものであり、立体表示させるときには立体表示部16の立体表示方式に合わせた立体表示処理を行って立体表示部16に立体表示させる。なお本実施形態における立体表示としては、公知の任意の方式を用いることができる。
 例えば、左目用画像と右目用画像を並べて表示して裸眼平衡法により立体視を行う方式、または立体表示部16にレンチキュラーレンズを貼り付け、立体表示部16の表示面の所定位置に左目用画像と右目用画像を表示することにより、左右の目に左目用画像と右目用画像を入射させて立体表示を実現するレンチキュラー方式を用いることができる。さらに、立体表示部16のバックライトの光路を光学的に左右の目に対応するように交互に分離し、立体表示部16の表示面に左目用画像と右目用画像をバックライトの左右への分離にあわせて交互に表示することにより、立体表示を実現するスキャンバックライト方式等を用いることができる。
 なお、立体表示部16は立体表示方式に応じた加工がなされている。例えば、立体表示方式がレンチキュラー方式の場合には、立体表示部16の表示面にレンチキュラーレンズが取り付けられており、スキャンバックライト方式の場合には、左右の画像の光線方向を変えるための光学素子が立体表示部16の表示面に取り付けられている。
 立体静止画信号処理部17は、立体静止画データに対し、立体静止画データが表す立体静止画の画質向上のために立体静止画用の画像処理を行う。なお、立体静止画用の画像処理としては、立体静止画データ中のノイズ成分を低減させるノイズ低減処理、立体静止画中の輪郭成分を抽出し抽出した輪郭成分を強調する輪郭強調処理、特定の空間周波数成分を減衰又は強調させるフィルタリング処理、立体静止画の色バランスを補正する色補正処理等が挙げられる。
 立体動画像信号処理部18は、立体動画データに対し、立体動画データが表す立体動画の画質向上のために立体動画用の画像処理を行う。なお、立体動画用の画像処理としては、立体動画データ中のノイズ成分を低減させるノイズ低減処理、立体動画データ中の輪郭成分を抽出し抽出した輪郭成分を強調する輪郭強調処理、特定の空間周波数成分を減衰又は強調させるフィルタリング処理、立体動画の色バランスを補正する色補正処理等が挙げられる。
 静止画抽出処理部21は、画像データ記録部11又はメモリ19に記録された立体動画データのうち予めユーザによって選択された所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出する。立体動画データから任意の立体静止画を選択する方法としては、例えばユーザが立体表示部16に再生された立体動画を見ながら所望するシーンにて操作部23を操作することにより選択することができる。なお抽出する立体静止画は1枚であってもよいし、異なるシーンの複数のフレームを抽出してもよい。なお立体動画データから立体静止画データを抽出する方法としては、一般的に使用されている公知の技術を採用することができる。
 静止画視差量取得部24は、静止画抽出処理部21により抽出された立体静止画データが表す立体静止画の視差量を取得する。視差量の取得は立体静止画を構成する右目用静止画及び左目用静止画の画像上で特徴が一致する複数の組の特徴点の座標値を検出し、右目用静止画と左目用静止画との間の特徴点のずれ量を算出することにより求めることができる。なお立体静止画が表示される表示面から飛び出す方向と奥行き(引っ込む)方向では、つまりクロスポイントの手前側と奥側では、右目用静止画と左目用静止画との間の特徴点は逆方向にずれるので、視差量を取得するときには、ずれる方向も求めるものとする。なお抽出された立体静止画データの抽出元である立体動画データが、画像内の各点の左右ずれ量を画像として表したデータである距離画像を付属情報として含むファイルで構成されている場合には、この付属情報を読み出すことにより視差量を取得することができる。なお視差量の取得方法はこれに限られるものではなく、公知の方法を使用することができる。
 静止画視差量変換部25は、静止画視差量取得部24により取得された視差量を変換するものであり、取得された視差量よりも大きくなるように立体静止画データの視差量を変換する。ここで図5に画像内の各点の左右ずれ量を模式的に表した図を示す。図5中、奥行き方向においてクロスポイントから離れるほどずれ量すなわち矢印の長さは大きくなり、クロスポイントの手前側と奥側ではずれの向きすなわち矢印の向きが異なる。そこで視差量の変換は、図5中の矢印の長さが長くなるように、右目用静止画及び/又は左目用静止画を変形する。画像内の各点においてずれを大きくする量も向きも異なるので、画像の変形には、ワーピングと呼ばれる、いわゆる非線形な幾何変換によってずれ量すなわち視差量が大きくなるように画像を変形する。ワーピングは、例えば画像を局所的に歪めて、すなわちワープして変形するものであり、一般的には、画像を複数の三角パッチに分割し、その三角パッチ毎に変形を行う。なおワーピングによる画像の変形の具体的な方法については特開2010-152819号公報に記載された技術を使用することができる。
 ここで静止画視差量取得部24により取得された視差量は、立体動画データから抽出された立体静止画における視差量つまり立体動画データ中の1シーンの視差量であるため、取得された視差量よりも大きくなるように、立体静止画データの視差量を変換することにより立体静止画の視差量は抽出元の立体動画の視差量よりも大きくなる。なお静止画視差量変換部25による視差量の変換については後で詳細に説明する。本実施形態の立体画像処理装置1は以上のようにして構成されている。
 次に本実施形態の立体画像処理装置1を使用した立体画像処理方法について、以下に図面を参照して説明する。本実施形態の立体画像処理装置1は、図2に示すように、まず、動作モード設定部2がユーザによって入力された動作モードを設定する(S10)。
 次にCPU20が動作モード設定部22が設定した動作モードが、動画モードであるのか静止画モードであるのかを判別し(S11)、動画モードと判別した場合(S10;動画モード)には、立体動画信号処理部18が予めユーザによって選択された所定の立体動画データに対して上述した立体動画用の信号処理を行い(S12)、表示制御部15が信号処理後の立体動画データが表す立体動画を立体表示部16に表示するか、又は記録/読出制御部12が信号処理後の立体動画データを画像データ記録部11に記録して(S13)、一連の処理を終了する。
 なお立体動画を立体表示部16に表示するか、画像データ記録部11に記録するかは、予めユーザが操作部23を操作することにより設定される。
 一方ステップS11にて、動作モードが静止画モードであると判別した場合(S10;静止画モード)には、静止画抽出部21が画像データ記録部11又はメモリ19に記録された立体動画データのうち予めユーザによって選択された所定の立体動画データから1枚の任意の立体静止画を表す立体静止画データを抽出する(S14)。
 次に、静止画視差量取得部24が、静止画抽出部21が抽出した立体静止画データが表す立体静止画の視差量を上述したようにして取得し(S15)、静止画視差量変換部25が、静止画視差量取得部24が取得した視差量よりも大きくなるように立体静止画データの視差量を変換する(S16)。
 通常、図3に示すように、立体静止画において人体に対する安全性が確保されている許容視差範囲Dは、立体動画における許容視差範囲Dよりも大きく設定されているため、既に再生時に人体に対する安全性が確保されるように視差量が設定されている立体動画データから立体静止画データを抽出したときに、抽出した立体静止画データが表す立体静止画の視差量は許容視差範囲Dよりもだいぶ小さくなるため再生時に立体感を十分に得られない場合がある。
 そこで本実施形態の立体画像処理装置1は、静止画視差量変換部25が、図3に示すように、立体動画データから抽出した各フレームfすなわち立体静止画の視差量が元の視差量つまり抽出元の立体動画データが表す立体動画の視差量よりも大きくなるように立体静止画データの視差量を変換する。このとき変換後の視差量は、立体静止画の許容視差範囲D内の値になるようにする。
 なおここで「視差量が大きくなる」は図3において、視差量が0になるクロスポイントよりも遠方側(図中・・・よりも上側)においては、立体静止画の視差量の最大値(図中、上向きの矢印の先端)がより上側に位置することを意味し、視差量が0になるクロスポイントよりも手前側(図中・・・よりも下側)においては、立体静止画の視差量の最小値(図中、下向きの矢印の先端)がより下側に位置することを意味する。
 上記のように、立体静止画の視差量を立体動画の視差量よりも大きくすることにより、立体静止画の再生時に観察者は十分な立体感を得ることができる。このとき抽出元の立体動画データが人体に対する安全性が確保されている許容視差範囲D内の視差量で構成されている場合には、立体動画としての人体に対する安全性の確保と立体静止画としての立体感の効果の両立を図ることができる。
 なお本実施形態では、図3に示すように視差量の変換は、図中・・・で示す立体静止画が表示される表示面いわゆるクロスポイントを中心にして遠近均等に、すなわち、表示面から飛び出し方向の立体感と表示面から奥行き方向の立体感が同じ値になるように視差量を大きくしているが、本発明はこれに限られるものではなく、遠方向すなわち奥行き方向の立体感を示す視差量と近方向すなわち飛び出し方向の立体感を示す視差量とを別々に設定できるようにしてもよい。
 通常、立体画像を観察するときに、奥行き方向の立体感を示す視差量が大きくなればなるほど、観察者は両目を該両目が離れる方向へ移動させて立体視を行わなければならず、特に両眼の間隔が狭い小さな子供等は奥行き方向の立体感を示す視差量が大きすぎると人体への影響が大きくなってしまう虞がある。従って、図4の静止画許容視差範囲Bに示すように、遠方向の許容視差範囲を近方向の許容視差範囲よりも大きく設定することが望ましい。
 次に立体静止画信号処理部17が、静止画視差量変換部25により視差量が変換された後の立体静止画を表す立体静止画データに対して上述した立体静止画用の信号処理を行い(S17)、表示制御部15が信号処理後の立体静止画データが表す立体静止画を立体表示部16に表示するか、又は記録/読出制御部12が信号処理後の立体静止画データを画像データ記録部11に記録して(S13)、一連の処理を終了する。
 以上のようにして、本実施形態の立体画像処理装置1は立体画像処理を行う。なお静止画視差量変換部25による視差量の変換は、立体静止画が抽出された直後に行ってもよいし、立体静止画を表示するときに行っても良いし、立体静止画を記録するときに行っても良いし、適宜変更することができる。
 次に図面を参照して本発明の第2の実施形態である立体画像処理装置1-2について説明する。図6は立体画像処理装置1-2の構成を示すブロック図、図7は図6の立体画像処理装置1-2の作用を示すフローチャート、図8は図6の静止画視差量変換部25による視差量変換方法を説明する図である。なお図6に示す本実施形態の立体画像処理装置1-2の構成は、図1に示す上記実施形態の立体画像処理装置1の構成と同様の箇所は同番号で示して説明は省略し、異なる箇所についてのみ説明する。
 本実施形態の立体画像処理装置1-2は、図6に示すように、図1の構成に、静止画視差量設定部26を備えたものである。静止画視差量設定部26は、立体静止画の許容視差範囲の上限値と下限値を設定するものであり、ユーザが操作部23を操作することにより入力した値を許容視差範囲の上限値と下限値として設定可能となっている。許容視差範囲の上限値と下限値は、立体静止画において人体に対する安全性が確保されている許容視差範囲Dで設定可能な構成となっており、本実施形態では十分な立体感を得ることができるように立体静止画の許容視差範囲の上限値と下限値は許容視差範囲Dの上限値と下限値に設定されているものとする。
 次に本実施形態の立体画像処理装置1-2を使用した立体画像処理方法について、以下に図面を参照して説明する。なお図7のステップS20~ステップS25及びステップS27の処理は図2のステップS10~ステップS15及びステップS17の処理と同様であるため説明は省略する。
 本実施形態の立体画像処理装置1-2は、図7に示すように、静止画視差量取得部24により抽出した立体静止画データが表す立体静止画の視差量が取得されると(S25)、静止画視差量変換部25が、静止画視差量取得部24が取得した視差量が、この視差量の最大値と最小値がそれぞれ、設定してある立体静止画の許容視差範囲Dの上限値と下限値になるように立体静止画データを変換する(S26)。すなわち遠方向における視差量の最大値が許容視差範囲Dの遠方向における許容視差量に、近方向における視差量の最大値が許容視差範囲Dの近方向における許容視差量になるように変換する。
 通常、図8に示すように、立体静止画において人体に対する安全性が確保されている許容視差範囲Dは、立体動画における許容視差範囲Dよりも大きく設定されているため、既に再生時に人体に対する安全性が確保されるように視差量が設定されている立体動画データから立体静止画データを抽出したときに、抽出した立体静止画データが表す立体静止画の視差量は許容視差範囲Dよりもだいぶ小さくなるため再生時に立体感を十分に得られない場合がある。
 そこで本実施形態の立体画像処理装置1-2は、静止画視差量変換部25が、図8に示すように、立体動画データから抽出した各フレームfすなわち立体静止画の視差量の最大値と最小値が、一律に許容視差範囲Dの上限値と下限値になるように立体静止画データの視差量を変換する。
 上記のように、立体静止画の視差量を立体動画の視差量よりも大きい許容視差範囲Dにすることにより、立体静止画の再生時に観察者は十分な立体感を得ることができる。このとき抽出元の立体動画データが人体に対する安全性が確保されている許容視差範囲D内の視差量で構成されている場合には、立体動画としての人体に対する安全性の確保と立体静止画としての立体感の効果の両立を図ることができる。
 なお本実施形態では、図8に示すように静止画の基準視差量は、図中・・・で示す立体静止画が表示される表示面いわゆるクロスポイントを中心にして遠近均等に、すなわち、表示面から飛び出し方向の立体感と表示面から奥行き方向の立体感が同じ値になるように視差量を設定しているが、本発明はこれに限られるものではなく、遠方向すなわち奥行き方向の立体感を示す視差量と近方向すなわち飛び出し方向の立体感を示す視差量とを別々に設定できるようにしてもよい。
 通常、立体画像を観察するときに、奥行き方向の立体感を示す視差量が大きくなればなるほど、観察者は両目を該両目が離れる方向へ移動させて立体視を行わなければならず、特に両眼の間隔が狭い小さな子供等は奥行き方向の立体感を示す視差量が大きすぎると人体への影響が大きくなってしまう虞がある。従って、図4の静止画許容視差範囲Bに示すように、遠方向の許容視差範囲を近方向の許容視差範囲よりも大きく設定することが望ましい。
 次に図面を参照して本発明の第3の実施形態である立体画像処理装置1-3について説明する。図9は立体画像処理装置1-3の構成を示すブロック図、図10は図9の立体画像処理装置1-3の作用を示すフローチャート、図11は図9の静止画視差量変換部25による視差量変換方法を説明する図である。なお図9に示す本実施形態の立体画像処理装置1-3の構成は、図1に示す上記実施形態の立体画像処理装置1の構成と同様の箇所は同番号で示して説明は省略し、異なる箇所についてのみ説明する。
 本実施形態の立体画像処理装置1-3は、図9に示すように、図1の構成に、動画・静止画視差量設定部27を備えたものである。動画・静止画視差量設定部27は、立体静止画と立体動画の許容視差範囲の上限値と下限値をそれぞれ設定するものであり、ユーザが操作部23を操作することにより入力した値を各許容視差範囲の上限値と下限値として設定可能となっている。各許容視差範囲の上限値と下限値は、各々人体に対する安全性が確保されている許容視差範囲D、許容視差範囲Dで設定可能な構成となっており、本実施形態では十分な立体感を得ることができるように立体静止画の許容視差範囲の上限値と下限値は許容視差範囲Dの上限値と下限値に、立体動画の許容視差範囲の上限値と下限値は許容視差範囲Dの上限値と下限値にそれぞれ設定されているものとする。
 なお快適に立体視できる視差角θは、各種研究によって経験的に求められている。ここで視差角θとは、表示面上の一点を見たときの輻輳角と両眼視差により決まる立体を見たときの輻輳角との差をいう。現在、ハイビジョンテレビを想定した場合の立体動画の快適視差範囲は、瞳孔間間隔を6.5cm、表示観視距離(テレビの画面高さの3倍距離)での視聴を前提にしたときに、1画面内の奥行き範囲は1度以内に抑えると見易いとの研究結果がある。そのため本実施形態では、立体動画の許容視差範囲の上限値と下限値は視差角が1度となる視差量の値とし、立体静止画の許容視差範囲の上限値と下限値はこの立体動画の許容視差範囲の上限値と下限値よりも大きな値で設定する。
 次に本実施形態の立体画像処理装置1-3を使用した立体画像処理方法について、以下に図面を参照して説明する。なお図10のステップS30~ステップS35及びステップS37の処理は図2のステップS10~ステップS15及びステップS17の処理と同様であるため説明は省略する。
 本実施形態の立体画像処理装置1-3は、図10に示すように、静止画視差量取得部24により抽出した立体静止画データが表す立体静止画の視差量が取得されると(S35)、静止画視差量変換部25が、静止画視差量取得部24が取得した視差量が、設定してある立体静止画の許容視差範囲Dの幅と立体動画の許容視差範囲Dの幅との比率を乗じた値になるように立体静止画データの視差量を変換する(S26)。
 通常、図11に示すように、立体静止画において人体に対する安全性が確保されている許容視差範囲Dは、立体動画における許容視差範囲Dよりも大きく設定されているため、既に再生時に人体に対する安全性が確保されるように視差量が設定されている立体動画データから立体静止画データを抽出したときに、抽出した立体静止画データが表す立体静止画の視差量は許容視差範囲Dよりもだいぶ小さくなるため再生時に立体感を十分に得られない場合がある。
 そこで本実施形態の立体画像処理装置1-3は、静止画視差量変換部25が、図11に示すように、立体動画データから抽出した各フレームfすなわち立体静止画の視差量が、設定してある許容視差範囲Dの幅と立体動画の許容視差範囲Dの幅との比率を乗じた値にあるように立体静止画データの視差量を変換する。すなわち静止画視差量取得部24が取得した立体静止画の各フレームfの視差量が、立体静止画の許容視差範囲Dの幅/立体動画の許容視差範囲Dの幅倍となるように立体静止画データを変換する。
 上記のように、立体静止画の視差量を立体動画の視差量よりも大きくなるように立体静止画の許容視差範囲Dの幅/立体動画の許容視差範囲Dの幅倍にすることにより、立体静止画の再生時に観察者は十分な立体感を得ることができる。このとき抽出元の立体動画データが人体に対する安全性が確保されている許容視差範囲D内の視差量で構成されている場合には、立体動画としての人体に対する安全性の確保と立体静止画としての立体感の効果の両立を図ることができる。
 なお本実施形態では、図11に示すように静止画及び動画の基準視差量は、図中・・・で示す画像が表示される表示面いわゆるクロスポイントを中心にして遠近均等に、すなわち、表示面から飛び出し方向の立体感と表示面から奥行き方向の立体感が同じ値になるように視差量を設定しているが、本発明はこれに限られるものではなく、遠方向すなわち奥行き方向の立体感を示す視差量と近方向すなわち飛び出し方向の立体感を示す視差量とを別々に設定できるようにしてもよい。
 すなわち、視差量が0になるクロスポイントの手前側と奥側とで、乗じる前記比率が異なるものであってもよい。
 通常、立体画像を観察するときに、奥行き方向の立体感を示す視差量が大きくなればなるほど、観察者は両目を該両目が離れる方向へ移動させて立体視を行わなければならず、特に両眼の間隔が狭い小さな子供等は奥行き方向の立体感を示す視差量が大きすぎると人体への影響が大きくなってしまう虞がある。従って、図4の静止画許容視差範囲Bに示すように、遠方向の許容視差範囲を近方向の許容視差範囲よりも大きく設定することが望ましい。
 次に図面を参照して本発明の第4の実施形態である立体画像処理装置1-4について説明する。図12は立体画像処理装置1-4の構成を示すブロック図、図13は図12の立体画像処理装置1-4の作用を示すフローチャートである。なお図12に示す本実施形態の立体画像処理装置1-4の構成は、図1に示す上記実施形態の立体画像処理装置1の構成と同様の箇所は同番号で示して説明は省略し、異なる箇所についてのみ説明する。
 本実施形態の立体画像処理装置1-4は、図12に示すように、図1の構成に、使用目的設定部28を備えたものである。使用目的設定部28は、静止画抽出処理部21により抽出された立体静止画データが表す立体静止画の使用目的を設定するものであり、ユーザが操作部23を操作することにより入力した使用目的を設定可能となっている。なお本実施形態では使用目的として印刷又は画面表示が設定可能となっていて、さらに画面表示は表示面の大きさ毎に設定可能となっている。
 次に本実施形態の立体画像処理装置1-4を使用した立体画像処理方法について、以下に図面を参照して説明する。なお図13のステップS40~ステップS44の処理は図2のステップS10~ステップS14、図13のステップS48の処理は図2のステップS17の処理と同様であるため説明は省略する。
 本実施形態の立体画像処理装置1-4は、図13に示すように、静止画抽出処理部21が立体静止画データを抽出すると(S44)、次に使用目的設定部28が、ユーザが操作部23を操作することにより入力した使用目的を設定する(S45)。そして静止画視差量取得部24が静止画視差量取得部24により抽出した立体静止画データが表す立体静止画の視差量を取得し(S46)、静止画視差量変換部25が、静止画視差量取得部24が取得した視差量が、設定してある使用目的に応じた値となるように立体静止画データの視差量を変換する(S47)。
 本実施形態の静止画視差量変換部25は、立体動画データから抽出した各フレームfすなわち立体静止画の視差量を大きくすると共に、使用目的が印刷に設定されている場合には、使用目的として画面表示が設定されているときよりも視差量が小さくなるように変換する。一般的に立体画像印刷(レンチキュラープリント)する場合には、像が二重に見え易いので、視差量を抑えることが好ましい。また使用目的が画面表示に設定されている場合には、設定された表示面の大きさが大きい程、立体静止画を観察するときに人体への影響が大きくなると考えられるため、表示面の大きさが小さいときよりも変更する視差量が小さくなるように変換する。
 上記のように、立体静止画の視差量を立体動画の視差量よりも大きくなるように立体静止画の使用目的に応じて変換にすることにより、立体静止画の再生時に観察者は十分な立体感を得ることができると共に立体静止画の使用時にその使用目的に応じた立体効果を得ることができる。このとき抽出元の立体動画データが人体に対する安全性が確保されている許容視差範囲D内の視差量で構成されている場合には、立体動画としての人体に対する安全性の確保と立体静止画としての立体感の効果の両立が、立体静止画の使用目的に応じて図ることができる。
 なお本実施形態では、使用目的設定部28は使用目的として印刷又は画面表示が設定可能とし、さらに画面表示は表示面の大きさ毎に設定可能としたが本発明はこれに限られるものではなく、印刷又は画面表示のみを設定可能にしてもよいし、画面表示のみ表示面の大きさ毎に設定可能にしてもよい。またその他の使用目的を設定可能にしてもよいし適宜変更することができる。
 次に図面を参照して本発明の第5の実施形態である立体画像処理装置1-5について説明する。図14は立体画像処理装置1-5の構成を示すブロック図、図15は図13の立体画像処理装置1-5の作用を示すフローチャートである。なお図14に示す本実施形態の立体画像処理装置1-5の構成は、図1に示す上記実施形態の立体画像処理装置1の構成と同様の箇所は同番号で示して説明は省略し、異なる箇所についてのみ説明する。
 本実施形態の立体画像処理装置1-5は、図14に示すように、図1の構成に、絵柄視差量設定部29及び静止画解析部30を備えたものである。絵柄視差量設定部30は立体静止画中の絵柄毎に視差量を設定するものであり、例えば、所定面積以上の面積を有する被写体が視差量が0になるクロスポイントよりも手前側に存在する絵柄は、前記被写体が存在しない絵柄よりも視差量を小さく設定する。なおこのとき所定面積は画面全体の面積の3分の1程度とする。また奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄は、前記被写体が存在しない絵柄よりも視差量を大きく設定する。なおこのとき所定面積は画面全体の面積の10分の1程度とする。
 静止画解析部30は、静止画抽出処理部21により抽出された立体静止画データが表す立体静止画を解析するものであり、静止画視差量取得部24により取得された視差量を用いて、立体静止画において表示画面すなわちクロスポイントの手前側に存在する被写体の領域を算出する。領域の算出は、静止画視差量取得部24により取得された視差量のうちクロスポイントよりも手前側の視差量を検出し、この検出された視差量を有する点(特徴点)が画像全体に対して占める比率を算出する。なお本実施形態においてこの比率が3分の1以上であるときに、所定面積以上の面積を有する被写体がクロスポイントよりも手前側に存在する絵柄であるとして立体静止画を解析する。
 また静止画視差量取得部24により取得された視差量を用いて、立体静止画において奥行き方向に連続的又は断続的な形状を有する被写体の領域を算出する。領域の算出は、静止画視差量取得部24により取得された視差量のうち、視差量が連続的又は断続的に増加しているものを検出し、この検出された視差量を有する点(特徴点が画像全体に対して占める比率を算出する。なお視差量が連続的又は断続的に増加しているものとは、例えば図4において、視差量が徐々に上側に向かうものや視差量が徐々に下側に向かうものをいう。
また本実施形態においてこの比率が10分の1よりも小さいときに、奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄であるとして立体静止画を解析する。
 次に本実施形態の立体画像処理装置1-5を使用した立体画像処理方法について、以下に図面を参照して説明する。なお図15のステップS50~ステップS55の処理は図2のステップS10~ステップS15、図15のステップS58の処理は図2のステップS17の処理と同様であるため説明は省略する。
 本実施形態の立体画像処理装置1-5は、図15に示すように、静止画視差量取得部24が静止画視差量取得部24により抽出した立体静止画データが表す立体静止画の視差量を取得すると(S55)、静止画解析部29が上述のようにして立体静止画の絵柄を解析する(S56)。
 次に静止画視差量変換部25が、静止画視差量取得部24が取得した視差量を、静止画解析部29による解析結果に基づいて変換する(S57)。
 本実施形態の静止画視差量変換部25は、立体動画データから抽出した各フレームfすなわち立体静止画の視差量を大きくすると共に、静止画解析部29により所定面積以上の面積を有する被写体が視差量が0になるクロスポイントよりも手前側に存在する絵柄であると判別された場合には、ユーザが立体静止画を観察したときに視差が大きいと見づらい可能性があるので、変換する視差量を小さくする。また奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄であると判別された場合には、立体感を感じるのに効果的な絵柄であると判別して、変換する視差量を大きくする。このとき視差量は、予め絵柄視差量設定部30により設定されている値に変換する。
 上記のように、立体静止画データの視差量を立体動画の視差量よりも大きくなるように立体画像の絵柄に応じて変換にすることにより、立体静止画の再生時に観察者は立体静止画の絵柄に応じた十分な立体感を得ることができる。このとき抽出元の立体動画データが人体に対する安全性が確保されている許容視差範囲D内の視差量で構成されている場合には、立体動画としての人体に対する安全性の確保と立体静止画としての立体感の効果の両立が、立体静止画の絵柄に応じて図ることができる。
 なお本発明は、上述した実施形態の内容に限られるものではなく、発明の趣旨を逸脱しない範囲において適宜変更することができる。
1 ,1-2,1-3,1-4,1-5  立体画像処理装置
20     CPU(判断部)
22     動作モード設定部
21     立体静止画抽出部(静止画抽出部)
24     静止画視差量取得部
25     静止画視差量変換部
26     静止画視差量設定部
27     動画・静止画視差量設定部(動画静止画視差量設定部)
28     使用目的設定部
29     静止画解析部
30     絵柄視差量設定部

Claims (22)

  1.  立体動画と立体静止画を表示及び/又は記録可能な立体画像処理装置において、
     所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出する立体静止画抽出部と、
     該立体静止画抽出部により抽出された前記立体静止画データが表す前記立体静止画の視差量を取得する静止画視差量取得部と、
     該静止画視差量取得部により取得された視差量よりも大きくなるように、前記立体静止画データの視差量を変換する静止画視差量変換部とを備えていることを特徴とする立体画像処理装置。
  2.  前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、前記立体静止画の視差量の最大値と最小値がそれぞれ立体静止画の許容視差範囲の上限値と下限値になるように前記立体静止画データの視差量を変換するものであることを特徴とする請求項1記載の立体画像処理装置。
  3.  視差量が0になるクロスポイントから前記許容視差範囲の前記上限値までの幅と、前記クロスポイントから前記許容視差範囲の前記下限値までの幅が異なるものであることを特徴とする請求項2記載の立体画像処理装置。
  4.  前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、立体静止画の許容視差範囲の幅と立体動画の許容視差範囲の幅との比率を乗じて前記立体静止画データの視差量を変換するものであることを特徴とする請求項1記載の立体画像処理装置。
  5.  視差量が0になるクロスポイントの手前側と奥側とで、乗じる前記比率が異なるものであることを特徴とする請求項4記載の立体画像処理装置。
  6.  前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画の使用目的を設定する使用目的設定部を備え、
     前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、前記使用目的設定部によって設定された使用目的に基づいて前記立体静止画データの視差量を変換するものであることを特徴とする請求項1記載の立体画像処理装置。
  7.  前記使用目的設定部が、使用目的として印刷及び画面表示を設定可能なものであり、
     前記静止画視差量変換部が、前記使用目的設定部により使用目的が前記印刷に設定されたときは前記画面表示に設定されたときよりも、変換する前記視差量を小さくするものであることを特徴とする請求項6記載の立体画像処理装置。
  8.  前記使用目的設定部が、使用目的として表示面の大きさ毎に画面表示を設定可能であり、
     前記静止画視差量変換部が、前記使用目的設定部により使用目的が画面表示に設定されたときに、該設定された画面表示の前記表示面の大きさが大きいほど、変換する前記視差量を小さくするものであることを特徴とする請求項6又は7記載の立体画像処理装置。
  9.  前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画の絵柄を解析する静止画解析部を備え、
     前記静止画視差量変換部が、前記静止画視差量取得部により取得された視差量よりも大きくなるように、前記静止画解析部による解析結果に基づいて前記立体静止画データの視差量を変換するものであることを特徴とする請求項1記載の立体画像処理装置。
  10.  前記静止画視差量変換部が、前記静止画解析部が前記前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画が、所定面積以上の面積を有する被写体が視差量が0になるクロスポイントよりも手前側に存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を小さくするものであることを特徴とする請求項9記載の立体画像処理装置。
  11.  前記静止画視差量変換部が、前記静止画解析部が前記立体静止画抽出部により抽出された立体静止画データが表す立体静止画が、奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を大きくするものであることを特徴とする請求項9記載の立体画像処理装置。
  12.  立体動画と立体静止画を表示及び/又は記録可能な立体画像処理装置を使用した立体画像処理方法において、
     所定の立体動画データから任意の立体静止画を表す立体静止画データを抽出し、
     該抽出された前記立体静止画データが表す前記立体静止画の視差量を取得し、
     該取得された前記視差量よりも大きくなるように、前記立体静止画データの視差量を変換することを特徴とする立体画像処理方法。
  13.  前記取得された視差量よりも大きくなるように、前記立体静止画の視差量の最大値と最小値がそれぞれ立体静止画の許容視差範囲の上限値と下限値になるように前記立体静止画データの視差量を変換することを特徴とする請求項12記載の立体画像処理方法。
  14.  視差量が0になるクロスポイントから前記許容視差範囲の前記上限値までの幅と、前記クロスポイントから前記許容視差範囲の前記下限値までの幅が異なることを特徴とする請求項13記載の立体画像処理方法。
  15.  前記取得された視差量よりも大きくなるように、立体静止画の許容視差範囲の幅と立体動画の許容視差範囲の幅との比率を乗じて前記立体静止画データの視差量を変換することを特徴とする請求項12記載の立体画像処理方法。
  16.  視差量が0になるクロスポイントの手前側と奥側とで、乗じる前記比率が異なることを特徴とする請求項15記載の立体画像処理方法。
  17.  予め前記抽出された立体静止画データが表す立体静止画の使用目的を設定し、
     前記取得された視差量よりも大きくなるように、前記使用目的設定部によって設定された使用目的に基づいて前記立体静止画データの視差量を変換することを特徴とする請求項12記載の立体画像処理方法。
  18.  前記使用目的が印刷に設定されたときは前記使用目的が画面表示に設定されたときよりも、変換する前記視差量を小さくすることを特徴とする請求項17記載の立体画像処理方法。
  19.  前記使用目的が画面表示に設定されたときに、該設定された画面表示の表示面の大きさが大きいほど、変換する前記視差量を小さくすることを特徴とする請求項17又は18記載の立体画像処理方法。
  20.  前記抽出された立体静止画データが表す立体静止画の絵柄を解析し、
     前記取得された視差量よりも大きくなるように、前記静止画解析部による解析結果に基づいて前記立体静止画データの視差量を変換することを特徴とする請求項12記載の立体画像処理方法。
  21.  前記抽出された立体静止画データが表す立体静止画が、所定面積以上の面積を有する被写体が視差量が0になるクロスポイントよりも手前側に存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を小さくすることを特徴とする請求項20記載の立体画像処理方法。
  22.  前記抽出された立体静止画データが表す立体静止画が、奥行き方向に連続的又は断続的な形状を有し、かつ所定面積よりも小さい面積を有する被写体が存在する絵柄であると解析したときに、前記被写体が存在しない絵柄よりも変換する前記視差量を大きくすることを特徴とする請求項20記載の立体画像処理方法。
PCT/JP2012/001870 2011-03-24 2012-03-16 立体画像処理装置及び立体画像処理方法 WO2012127843A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013505816A JP5507003B2 (ja) 2011-03-24 2012-03-16 立体画像処理装置及び立体画像処理方法
CN201280014949.6A CN103621076B (zh) 2011-03-24 2012-03-16 立体图像处理设备和立体图像处理方法
US14/033,594 US9053567B2 (en) 2011-03-24 2013-09-23 Stereoscopic image processing device and stereoscopic image processing method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011065184 2011-03-24
JP2011-065184 2011-03-24

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US14/033,594 Continuation US9053567B2 (en) 2011-03-24 2013-09-23 Stereoscopic image processing device and stereoscopic image processing method

Publications (1)

Publication Number Publication Date
WO2012127843A1 true WO2012127843A1 (ja) 2012-09-27

Family

ID=46879023

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/001870 WO2012127843A1 (ja) 2011-03-24 2012-03-16 立体画像処理装置及び立体画像処理方法

Country Status (4)

Country Link
US (1) US9053567B2 (ja)
JP (1) JP5507003B2 (ja)
CN (1) CN103621076B (ja)
WO (1) WO2012127843A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9332285B1 (en) 2014-05-28 2016-05-03 Lucasfilm Entertainment Company Ltd. Switching modes of a media content item

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005184377A (ja) * 2003-12-18 2005-07-07 Sharp Corp 画像変換装置及びそれを用いた画像記録装置
JP2009239388A (ja) * 2008-03-26 2009-10-15 Fujifilm Corp 立体動画像処理装置および方法並びにプログラム
JP2010258723A (ja) * 2009-04-24 2010-11-11 Sony Corp 画像情報処理装置、撮像装置、画像情報処理方法およびプログラム
JP2011004036A (ja) * 2009-06-17 2011-01-06 Nec Casio Mobile Communications Ltd 端末装置及びプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3771964B2 (ja) * 1996-03-12 2006-05-10 オリンパス株式会社 立体映像ディスプレイ装置
US6584219B1 (en) 1997-09-18 2003-06-24 Sanyo Electric Co., Ltd. 2D/3D image conversion system
US6765568B2 (en) * 2000-06-12 2004-07-20 Vrex, Inc. Electronic stereoscopic media delivery system
JP2004356772A (ja) * 2003-05-27 2004-12-16 Sanyo Electric Co Ltd 三次元立体画像表示装置およびコンピュータに三次元立体画像表示機能を付与するプログラム
US7643025B2 (en) * 2003-09-30 2010-01-05 Eric Belk Lange Method and apparatus for applying stereoscopic imagery to three-dimensionally defined substrates
US8175398B2 (en) * 2008-11-10 2012-05-08 City University Of Hong Kong Method for encoding a plurality of video signals into a single video signal
JP5166230B2 (ja) 2008-12-26 2013-03-21 富士フイルム株式会社 画像処理装置および方法並びにプログラム
US20110187708A1 (en) * 2009-04-21 2011-08-04 Panasonic Corporation Image processor and image processing method
JP2011022380A (ja) * 2009-07-16 2011-02-03 Sony Corp ズームレンズ及び撮像装置
JP4754031B2 (ja) * 2009-11-04 2011-08-24 任天堂株式会社 表示制御プログラム、情報処理システム、および立体表示の制御に利用されるプログラム
JP5641200B2 (ja) * 2010-05-28 2014-12-17 ソニー株式会社 画像処理装置、画像処理方法および画像処理プログラムならびに記録媒体
JP2012070836A (ja) * 2010-09-28 2012-04-12 Fujifilm Corp 画像処理装置、画像処理方法、および画像処理プログラム、並びに放射線画像撮影システム
JP5678643B2 (ja) * 2010-12-21 2015-03-04 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP2012253690A (ja) * 2011-06-06 2012-12-20 Namco Bandai Games Inc プログラム、情報記憶媒体及び画像生成システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005184377A (ja) * 2003-12-18 2005-07-07 Sharp Corp 画像変換装置及びそれを用いた画像記録装置
JP2009239388A (ja) * 2008-03-26 2009-10-15 Fujifilm Corp 立体動画像処理装置および方法並びにプログラム
JP2010258723A (ja) * 2009-04-24 2010-11-11 Sony Corp 画像情報処理装置、撮像装置、画像情報処理方法およびプログラム
JP2011004036A (ja) * 2009-06-17 2011-01-06 Nec Casio Mobile Communications Ltd 端末装置及びプログラム

Also Published As

Publication number Publication date
JP5507003B2 (ja) 2014-05-28
JPWO2012127843A1 (ja) 2014-07-24
US20140022244A1 (en) 2014-01-23
CN103621076B (zh) 2015-04-01
CN103621076A (zh) 2014-03-05
US9053567B2 (en) 2015-06-09

Similar Documents

Publication Publication Date Title
JP5347717B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
EP2346263B1 (en) GUI providing method, and display apparatus and 3D image providing system using the same
US9398289B2 (en) Method and apparatus for converting an overlay area into a 3D image
EP2259600B1 (en) Image processing method, image processing device, and recording medium
EP2907305B1 (en) Depth adjustment of an image overlay in a 3d image
EP2469876B1 (en) Stereoscopic image display control apparatus and operation control method of the same
JP2011176800A (ja) 画像処理装置、立体表示装置及び画像処理方法
US9693036B2 (en) Imaging apparatus, image processing device, computer-readable medium having stored thereon an imaging apparatus controlling program, and computer-readable medium having stored thereon an image processing program
US9088774B2 (en) Image processing apparatus, image processing method and program
JP4436080B2 (ja) 立体画像再現歪み出力装置、立体画像再現歪み出力方法および立体画像再現歪み出力プログラム
JP2012257105A (ja) 立体画像取得装置
US20130093857A1 (en) Stereoscopic image display device, stereoscopic imaging device, and methods
JP4787369B1 (ja) 画像処理装置および方法並びにプログラム
JP5656676B2 (ja) 映像表示装置、映像表示方法及びプログラム
JP6113411B2 (ja) 画像処理装置
JP5507003B2 (ja) 立体画像処理装置及び立体画像処理方法
KR20110102109A (ko) 스트레오스코픽 동영상 파일의 구성 방법
JP2011176822A (ja) 画像処理装置、立体表示装置及び画像処理方法
JP2011223126A (ja) 立体映像表示装置および立体映像表示方法
WO2012132304A1 (ja) 立体画像表示制御装置及び立体画像表示制御方法
CN103475831A (zh) 应用于显示装置的字幕控制方法与元件
TWI555400B (zh) 應用於顯示裝置的字幕控制方法與元件
JP5250604B2 (ja) 立体画像表示装置、立体画像表示方法およびプログラム
Speranza et al. Visual comfort and apparent depth in 3D systems: effects of camera convergence distance
JP5569635B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12760867

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2013505816

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12760867

Country of ref document: EP

Kind code of ref document: A1