WO2011024352A1 - 立体視画像編集装置および立体視画像編集方法 - Google Patents

立体視画像編集装置および立体視画像編集方法 Download PDF

Info

Publication number
WO2011024352A1
WO2011024352A1 PCT/JP2010/003255 JP2010003255W WO2011024352A1 WO 2011024352 A1 WO2011024352 A1 WO 2011024352A1 JP 2010003255 W JP2010003255 W JP 2010003255W WO 2011024352 A1 WO2011024352 A1 WO 2011024352A1
Authority
WO
WIPO (PCT)
Prior art keywords
cut
stereoscopic image
image
parallax
editing
Prior art date
Application number
PCT/JP2010/003255
Other languages
English (en)
French (fr)
Inventor
松井典弘
Original Assignee
パナソニック株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニック株式会社 filed Critical パナソニック株式会社
Priority to US13/058,263 priority Critical patent/US8682061B2/en
Priority to JP2011507737A priority patent/JP5496185B2/ja
Priority to CN201080002499XA priority patent/CN102144396A/zh
Publication of WO2011024352A1 publication Critical patent/WO2011024352A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation

Definitions

  • the present invention relates to a stereoscopic image editing apparatus and a stereoscopic image editing method for editing a stereoscopic image having a parallax from a plurality of images, and more specifically, editing the stereoscopic image to allow a user to
  • the present invention relates to a stereoscopic image editing apparatus and a stereoscopic image editing method for displaying a stereoscopic image having a stereoscopic effect on a display.
  • the left eye image corresponding to the field of view seen from the left eye and the right eye image corresponding to the field of view seen from the right eye
  • the left eye image is only the left eye
  • the right eye image is the right eye Only project to.
  • the binocular parallax allows the user to obtain a stereoscopic effect with respect to the stereoscopic image composed of the left-eye image and the right-eye image.
  • a stereoscopic image has at least a camera that acquires an image for the left eye and a camera that acquires an image for the right eye arranged in a horizontal direction so that the same field of view is obtained. It is created by shooting simultaneously.
  • the stereoscopic image includes not only a still image such as a photograph but also a moving image, and is used for a movie or the like that allows a subject to be viewed stereoscopically.
  • stereoscopic video using stereo video is becoming popular as a method for providing next-generation AV content.
  • stereoscopic image display technology has become widespread, and furthermore, not only the captured stereoscopic image can be viewed as it is, but also a part of the captured stereoscopic image can be cut and edited. Conceivable.
  • a user designates a cut-out editing area, and a part of the stereoscopic image is displayed.
  • There is a way to cut and edit for example, the same coordinate selection method and the feature point correspondence search method can be used as a method for the user to specify the cut edit area.
  • Patent Document 1 discloses a stereoscopic image display apparatus that makes it easier for a user to view a stereoscopic image.
  • the user designates a desired cut-out editing area, and thereby a part of the captured stereoscopic image is displayed.
  • the area can be cut and edited.
  • the user cannot specify the base point parallax that is the parallax included in the frame of the cut-out edit area for the cut-out edit area of the stereoscopic image, the user can have a desired depth in the display area of the stereoscopic image. Can not. That is, a stereoscopic image having a stereoscopic effect desired by the user cannot be obtained.
  • the frame of the display area itself is stereoscopic. It becomes a visual object. For this reason, the user can also feel a difference in depth between the frame of the display area of the stereoscopic image itself and the subject reflected in the stereoscopic image.
  • the user can specify whether the frame of the cut edit area specified by the user is closest to the image of the cut edit area, and the depth of the image toward the back of the display screen. If the frame of the cut edit area is regarded as being farthest from the display screen, it cannot be set whether the subject is projected to the front side of the frame of the cut edit area.
  • the subject (feature point) shown in the stereoscopic image also has parallax, and a plurality of characteristic points with different parallax are scattered in the stereoscopic image.
  • the parallax of the subject displayed on the parent screen is different from the parallax of the subject displayed on the child screen.
  • the content creator wants to smoothly guide the viewpoint to the subject that the content viewer wants to watch on the child screen.
  • an object of the present invention is to allow a user to specify a stereoscopic image display region by designating a base parallax that is a parallax included in the cut editing region frame itself. Therefore, it is possible to provide a stereoscopic image editing apparatus and a stereoscopic image editing method capable of obtaining a stereoscopic image having a stereoscopic effect desired by a user.
  • the stereoscopic image editing apparatus displays a stereoscopic image composed of a left-eye image and a right-eye image displayed on a display, and provides a user's desired stereoscopic effect.
  • a stereoscopic image editing apparatus that edits a stereoscopic image having a storage unit that stores the stereoscopic image, and a compression / expansion unit that converts the stereoscopic image stored in the storage unit into a format that can be displayed on a display
  • An operation unit that allows a user to specify a base point parallax that is a parallax included in a cut edit area and a frame of the cut edit area for the left eye image and the right eye image of the stereoscopic image displayed on the display.
  • a cut editing unit that cuts and edits the left-eye image and right-eye image of the stereoscopic image displayed on the display based on the cut-edit area specified by the user, and the cut-edited left eye For the image for the right eye image, provided on the basis of the base point parallax specified by the user, and a cut editing area correction unit for correcting the cut editing area.
  • the operation unit causes the user to directly specify the base point parallax, or the operation unit includes the cut-edited left-eye image and the right-eye image in the cut-out editing area.
  • a feature point is specified by a user, and a parallax included in the feature point is set as a base point parallax.
  • a preferable cut edit area correction unit detects a feature point that is the leftmost edge and a feature point that is the rightmost edge among the feature points in the cut edit area having the same parallax as the base point parallax specified by the user, The left end and the right end of the cut edit area are corrected to the position of the detected feature point as the leftmost end and the position of the detected feature point as the rightmost end.
  • the preferable cut edit region correction unit may include, for at least one or more predetermined parallaxes, a feature point that is the leftmost feature point and a feature point that is the rightmost end among the feature points in the cut edit region having the predetermined parallax. And generating a cut edit region correction candidate table in which a predetermined parallax is associated with the detected position of the leftmost feature point and the detected position of the rightmost feature point, and the cut edit region is generated. Are corrected to the position of the leftmost feature point and the position of the rightmost feature point associated with the same parallax as the base parallax specified by the user in the cut edit region correction candidate table. It is characterized by doing.
  • a stereoscopic image editing method provides a stereoscopic image composed of a left-eye image and a right-eye image displayed on a display with a user's desired stereoscopic effect.
  • a stereoscopic image editing method executed by a stereoscopic image editing apparatus that edits a stereoscopic image having a compression / decompression step for converting a stereoscopic image to be edited into a format that can be displayed on a display, and a display on the display
  • the cut-editing region specifying step for specifying the cut-out edit region and the left of the stereoscopic image displayed on the display based on the specified cut-out edit region
  • the cut editing step for cutting and editing the image for the eye and the image for the right eye, and the parallax that the frame of the cut editing area itself has for the cut and edited image for the left eye and the image for the right eye
  • the base point parallax specifying step is characterized in that the base point parallax is directly specified by the user, or the base point parallax specifying step is performed on the cut-edited left-eye image and right-eye image.
  • the feature point in the editing area is designated by the user, and the parallax of the feature point is set as the base point parallax.
  • the preferred cut edit area correction step detects the feature point at the left end and the feature point at the right end from the feature points in the cut edit area having the same parallax as the designated base point parallax, and the cut edit area Are corrected to the position of the feature point that is the leftmost end detected and the position of the feature point that is the rightmost end detected.
  • the preferable cut editing area correction step includes, for at least one or more predetermined parallaxes, among the feature points in the cut editing area having the predetermined parallax, the leftmost feature point and the rightmost feature point And generating a cut edit region correction candidate table in which a predetermined parallax is associated with the detected position of the leftmost feature point and the detected position of the rightmost feature point, and the cut edit region is generated.
  • a predetermined parallax is associated with the detected position of the leftmost feature point and the detected position of the rightmost feature point
  • the cut edit region is generated.
  • the stereoscopic image editing method of the present invention described above is provided in the form of a program for causing a computer to execute a series of processing procedures.
  • This program may be installed in a computer in a form recorded on a computer-readable recording medium.
  • the user designates a base point parallax that is a parallax included in the frame of the cutout editing area for the frame of the designated cutout editing area.
  • the stereoscopic image display area can have a desired depth, and as a result, a stereoscopic image having a stereoscopic effect desired by the user can be obtained.
  • FIG. 1 is a hardware configuration diagram showing a schematic configuration of a stereoscopic image editing apparatus 100 according to the first embodiment of the present invention.
  • FIG. 2 is a block diagram showing a schematic configuration of the stereoscopic image editing apparatus 100 according to the first embodiment of the present invention.
  • FIG. 3 is a flowchart showing a stereoscopic image editing method 300 according to the first embodiment of the present invention.
  • FIG. 4 is a diagram showing the configuration of the stereoscopic image editing screen 400 (cut editing area designation) according to the first embodiment of the present invention.
  • FIG. 5 is a diagram showing a configuration (base parallax designation) of the stereoscopic image editing screen 400 according to the first embodiment of the present invention.
  • FIG. 1 is a hardware configuration diagram showing a schematic configuration of a stereoscopic image editing apparatus 100 according to the first embodiment of the present invention.
  • FIG. 2 is a block diagram showing a schematic configuration of the stereoscopic image editing apparatus 100 according to the first embodiment of the present invention.
  • FIG. 6 is a flowchart showing a cut edit area correction method 600 corresponding to the base parallax.
  • FIG. 7 is a diagram showing a cut edit area correction candidate table 700.
  • FIG. 8 is a diagram showing a stereoscopic image after cut editing in the cut edit correction region shown in FIG.
  • FIG. 9 is a diagram showing a configuration (minimum base point parallax designation) of the stereoscopic image editing screen 410 according to the second embodiment of the present invention.
  • FIG. 10 is a diagram showing a stereoscopic image after cut editing in the cut edit correction area shown in FIG.
  • FIG. 11 is a diagram showing a configuration (maximum base point parallax designation) of the stereoscopic image editing screen 411 according to the second embodiment of the present invention.
  • 12 is a diagram showing a stereoscopic image after cut editing in the cut edit correction region shown in FIG.
  • FIG. 1 is a hardware configuration diagram showing a schematic configuration of a stereoscopic image editing apparatus 100 according to the first embodiment of the present invention.
  • the stereoscopic image editing apparatus 100 includes a storage unit 101, a compression / decompression unit 102, an operation unit 103, a cut editing unit 104, a cut editing area correction unit 105, and a control unit 106. Further, the stereoscopic image editing apparatus 100 may include an external interface 107.
  • the stereoscopic image editing apparatus 100 is connected to the display unit 110.
  • the display unit 110 includes a display 111 and a VRAM (Video Random Access Memory) 112.
  • VRAM Video Random Access Memory
  • the storage unit 101 is, for example, a ROM (Read Only Memory) and a RAM (Random Access Memory), and stores captured stereoscopic images. Furthermore, when reproducing a stereoscopic image, the storage unit 101 temporarily stores the stereoscopic image and stores an edited stereoscopic image to be described later.
  • ROM Read Only Memory
  • RAM Random Access Memory
  • the compression / decompression unit 102 is, for example, a codec, and decompresses and converts a stereoscopic image compressed in a specific compression format into a format that can be displayed on a display.
  • the compression / decompression unit 102 compresses and converts the edited stereoscopic image in a specific compression format.
  • the stereoscopic image compression format is typically the JPEG format, GIF format, or PNG format when the stereoscopic image is a still image, and the AVI format, MPEG format, or the like when the stereoscopic image is a moving image. Is representative.
  • the operation unit 103 is an input device such as a keyboard and a mouse, for example, and inputs the instruction content from the user. Further, the operation unit 103 may be an input device integrated with the display 111, as typified by a touch panel display.
  • the cut edit unit 104 cuts and edits the stereoscopic image based on the cut edit area designated by the user via the operation unit 103.
  • the cut edit area correcting unit 105 corrects the cut edit area of the stereoscopic image cut and edited by the cut edit unit 104 based on the depth with respect to the display screen designated by the user via the operation unit 103.
  • the control unit 106 is, for example, a CPU (Central Processing Unit) and controls processing of each functional unit of the stereoscopic image editing apparatus 100.
  • CPU Central Processing Unit
  • the display unit 110 includes a display 111 and a VRAM (Video Random Access Memory) 112.
  • the display 111 displays a stereoscopic image stored in the storage unit 101 or displays a stereoscopic image edited by the user.
  • the VRAM 112 is a buffer until a stereoscopic image is displayed on the display 111.
  • the display unit 110 may be included in the stereoscopic image editing apparatus 100, or may be a display device connected to the stereoscopic image editing apparatus 100.
  • the external interface 107 is, for example, a USB (Universal Serial Bus), and the stereoscopic image editing apparatus 100 is connected to a network and an external device via the external interface 107.
  • the stereoscopic image editing apparatus 100 may acquire external data from a camera and a storage medium connected to the outside via the external interface 107 and store the external data in the storage unit 101.
  • FIG. 2 is a block diagram showing a schematic configuration of the stereoscopic image editing apparatus 100 according to the first embodiment of the present invention.
  • the stereoscopic image editing apparatus 100 includes a storage unit 101, a compression / decompression unit 102, an operation unit 103, a cut editing unit 104, a cut editing area correction unit 105, and a control unit 106.
  • the stereoscopic image editing apparatus 100 is connected to the display unit 110.
  • each functional block of the stereoscopic image editing apparatus 100 having the hardware configuration shown in FIG. 1 will be described in detail.
  • the storage unit 101 stores a captured stereoscopic image 10.
  • the stereoscopic image 10 includes a left-eye image 11 projected only on the left eye of the user who views the stereoscopic image 10 and a right-eye image 12 projected only on the right eye.
  • the stereoscopic image 10 is a moving image and is compressed in the MPEG format.
  • the storage unit 101 stores a stereoscopic image after cut-out editing, which includes a left-eye cut-out edit correction area image 13 and a right-eye cut-out edit correction area image 14 described later.
  • the user selects the stereoscopic image 10 stored in the storage unit 101 as an editing target image via the operation unit 103.
  • the compression / decompression unit 102 decompresses and converts the stereoscopic image 10 compressed in the MPEG format into a format that can be displayed on the display 111.
  • the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10 are displayed on the display 111 via the VRAM 112.
  • the compression / decompression unit 102 compresses and converts the edited stereoscopic image in the MPEG format, and the storage unit 101 stores the edited stereoscopic image compressed and converted in the MPEG format.
  • the user designates a cut edit area for the left eye image 11 and the right eye image 12 of the stereoscopic image 10 displayed on the display 111 via the operation unit 103.
  • the cut edit unit 104 generates the left eye image 11 and the right eye image 12 of the stereoscopic image 10 displayed on the display 111 based on the cut edit area designated by the user via the operation unit 103. Cut and edit.
  • the user further specifies the depth with respect to the display screen via the operation unit 103 for the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10 cut and edited by the cut and edit unit 104.
  • the cut edit area correction unit 105 is based on the depth designated by the user via the operation unit 103, and the left eye image 11 and the right eye image 12 of the stereoscopic image 10 cut and edited by the cut edit unit 104.
  • the cut edit area is corrected. More specifically, the cut edit area correction unit 105 calculates the base parallax based on the cut edit area information and the base parallax that is the parallax included in the frame of the cut edit area that is depth information with respect to the display screen. Correspondingly, the cut edit area is corrected for each of the left-eye image 11 and the right-eye image 12. Details of the correction contents will be described later.
  • the display 111 displays the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10, and the user uses the left-eye image 11 and the right-eye image 12 of the displayed stereoscopic image 10. Is displayed, and the cut edit area corrected by the cut edit area correcting unit 105 is displayed.
  • control unit 106 controls each functional block of the stereoscopic image editing apparatus 100 described above.
  • FIG. 3 is a flowchart showing a stereoscopic image editing method 300 according to the first embodiment of the present invention.
  • the stereoscopic image editing method 300 includes a screen display step S301, a cut edit area specifying step S302, a base parallax specifying step S303, a cut edit area correcting step S304, and an edited image saving step S305.
  • the display 111 displays the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10.
  • the user selects the stereoscopic image 10 stored in the storage unit 101 as an editing target image via the operation unit 103.
  • the selected stereoscopic image 10 is read from the storage unit 101, and decompressed and converted into a format that can be displayed on the display 111 by the compression / decompression unit 102.
  • the stereoscopic image 10 expanded and converted into a format that can be displayed on the display 111 is transferred to the VRAM 112, and the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10 are displayed on the display 111.
  • FIG. 4 is a diagram showing a configuration of the stereoscopic image editing screen 400 (cut editing area designation) according to the first embodiment of the present invention.
  • the stereoscopic image editing screen 400 includes a left screen 401L and a right screen 401R for displaying an editing target image.
  • the crossing method is used (in FIG. 4, “crossing method” is selected)
  • the right eye image 12 is displayed on the left screen 401L
  • the left eye image 11 is displayed on the right screen 401R. Yes.
  • the left-eye image 11 is displayed on the left screen 401L, and the right-eye image 12 is displayed on the right screen 401R.
  • the intersection method or the parallel method may be selected in advance, or may be selected by the user via the operation unit 103.
  • the cut edit unit 104 cuts and edits the left eye image 11 and the right eye image 12 of the stereoscopic image 10 displayed on the display 111.
  • the user designates a cut edit area for the left eye image 11 and the right eye image 12 of the stereoscopic image 10 displayed on the display 111 via the operation unit 103.
  • the user can move the mouse over the right eye image 12 displayed on the left screen 401L or the left eye image 11 displayed on the right screen 401R. After moving the cursor and determining the first apex angle of the rectangular area as the start point, the first apex angle located on the diagonal is determined as the end point.
  • the user determines the start point and the end point via the operation unit 103, thereby specifying the rectangular area surrounded by the start point and the end point as the cut edit area.
  • a feature point correspondence search method or the same coordinate selection method is used as a method for the user to specify the cut-out editing area for both the left-eye image 11 and the right-eye image 12.
  • the feature point correspondence search method is used (in FIG. 4, “feature point correspondence search” is selected), and the user cuts and edits the right-eye image 12 displayed on the left screen 401L.
  • An area 402L (indicated by a dotted line in FIG. 4) is designated. Accordingly, for example, a position having the same feature point as the cut edit area 402L designated by the user is searched from the left eye image 11 displayed on the right screen 401R by the stereo matching method, and the cut edit area 402R is searched. (Indicated by a dotted line in FIG. 4) is determined.
  • the feature point correspondence search method or the same coordinate selection method may be selected in advance, or may be selected by the user via the operation unit 103.
  • the cut edit area correcting unit 105 specifies the base point parallax for the cut edit areas 402L and 402R specified in the cut edit area specifying step S302. Specifically, the user uses the operation unit 103 to change the base parallax for the frame of the cut edit area of the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10 displayed on the display 111. Is specified. Note that the base point parallax is a parallax included in the frame of the cut editing area, which is depth information with respect to the display screen.
  • FIG. 5 is a diagram showing a configuration (base parallax designation) of the stereoscopic image editing screen 400 according to the first embodiment of the present invention.
  • the user moves the mouse pointer on the base point parallax designation bar that moves in the range of 0.0 mm to 10.0 mm, and the stereoscopic image after the cut editing is displayed on the display screen.
  • Specify the depth For example, if the base parallax is specified as 0.0 mm, it means that the cut editing area of the stereoscopic image 10 is set so that the parallax of the frame of the cut editing area itself is minimized.
  • the base parallax is designated as 10.0 mm
  • the user designates the base parallax as about 3.0 mm.
  • the base point parallax that can be designated by the user with the base point parallax designation bar is in the range of 0.0 mm to 10.0 mm, but is not limited thereto.
  • the method for designating the base parallax is not limited to the base parallax designation bar as shown in FIG. 5.
  • the user directly sets the numerical value of the base parallax via the numeric keypad of the keyboard. You may enter.
  • the cut edit region correcting unit 105 displays the stereoscopic image displayed on the display 111 so as to correspond to the base point parallax based on the base point parallax specified in the base point parallax specifying step S303.
  • the cut edit areas 402L and 402R specified in the cut edit area specifying step S302 are corrected.
  • the cutout edit area correction unit 105 is for the left eye of the stereoscopic image 10 displayed on the display 111 so as to correspond to the base parallax.
  • the cut edit areas 402L and 402R (shown by dotted lines in FIG. 5) are corrected to cut edit correction areas 403L and 403R (shown by solid lines in FIG. 5).
  • FIG. 6 is a flowchart showing a cut edit region correction method 600 corresponding to the base point parallax.
  • step S601 for the right-eye image 12 and the left-eye image 11, within the cut edit areas 402L and 402R specified in the cut edit area specifying step S302, the upper left corners of the cut edit areas 402L and 402R are used as a base point. Then, each region is divided into predetermined unit areas. For the right-eye image 12 and the left-eye image 11, corresponding feature points are searched for in the divided editing area units in the cut editing areas 402L and 402R using area correlation calculation. That is, the position of the same feature point is searched in the cut edit areas 402L and 402R.
  • step S602 for example, when the same feature point exists in the cut edit regions 402L and 402R for the right eye image 12 and the left eye image 11 by the stereo matching method (Yes in step S602), the feature.
  • the parallax that the point has is calculated (step S603).
  • the horizontal shift amount between the relative position of an arbitrary feature point in the cut edit area 402L for the right eye image 12 and the relative position of the same feature point in the cut edit area 402R for the left eye image 11 is parallaxed.
  • the parallax between the left and right feature points by triangulation may be calculated by setting the width of both eyes of humans to an average value of 6.5 cm.
  • step S604 among the feature points searched for in step S602, the feature point having the same parallax as the feature point is the leftmost feature point in the cut edit areas 402L and 402R. It is determined whether or not.
  • the feature point is the leftmost feature point among the feature points of the same parallax (Yes in step S604), the feature in the left-eye image and the right-eye image is used as the leftmost end point information corresponding to the parallax.
  • the coordinates of the point are stored in a memory or the like (step S605).
  • step S606 for the feature point searched in step S602, among the feature points having the same parallax as the feature point, the feature point is the rightmost feature in the cut edit areas 402L and 402R. It is determined whether or not it is a point. Among the feature points of the same parallax, when the feature point is the rightmost feature point (Yes in step S606), the feature in the left-eye image and the right-eye image is used as the rightmost point information corresponding to the parallax. The coordinates of the point are stored in a memory or the like (step S607).
  • step S602 If the same feature point does not exist in the cut edit regions 402L and 402R for the right-eye image 12 and the left-eye image 11 in step S602 (No in step S602), the above-described steps S603 to S607 are performed. No processing is performed.
  • steps S601 to S607 are repeatedly executed for all feature points in the cut edit areas 402L and 402R (step S610).
  • the cut edit region correction unit 105 stores the leftmost end point information and the rightmost end point information of the left-eye image and the right-eye image corresponding to the predetermined parallax in the cut-out edit regions 402L and 402R in a memory or the like. By saving, a cut edit region correction candidate table is generated.
  • FIG. 7 is a diagram showing a cut edit area correction candidate table 700.
  • the cut edit region correction candidate table 700 holds the leftmost and rightmost coordinates corresponding to a predetermined parallax in each of the left eye image and the right eye image.
  • the predetermined parallax is set every 0.0 mm to 1.0 mm, and the coordinates to be held are the X coordinate and the Y coordinate.
  • the parallax interval may be made smaller than 1.0 mm by calculating the parallax in detail in step S603. In stereoscopic viewing using binocular parallax, the parallax is affected only by the horizontal direction, so the coordinates held may be only the X coordinate.
  • the cut edit area correction unit 105 performs the cut edit specified in the cut edit area specifying step S302 so as to correspond to the base parallax specified in the base parallax specifying step S303 based on the cut edit area correction candidate table 700.
  • the regions 402L and 402R are corrected.
  • the cut edit area correction unit 105 corrects the cut edit area 402L of the right-eye image 12 to the cut edit correction area 403L. Since the base point parallax is specified to be 3.0 mm, based on the cut edit region correction candidate table 700, the cut edit correction region 403L has the left end X coordinate of 70 and the right end X coordinate of 1770.
  • the cut edit area correction unit 105 corrects the cut edit area 402R of the left-eye image 11 to the cut edit correction area 403R. Since the base point parallax is specified to be 3.0 mm, based on the cut edit region correction candidate table 700, the cut edit correction region 403R has the left end X coordinate of 50 and the right end X coordinate of 1730.
  • step S610 steps S601 to S607 described above are repeatedly executed for all feature points in the cut edit regions 402L and 402R. However, it is not always necessary for all feature points in the cut edit regions 402L and 402R. There is no need to repeat it. When the leftmost coordinate and the rightmost coordinate for each parallax in the cut edit areas 402L and 402R are determined, the processing in steps S601 to S607 described above may be terminated.
  • the cut edit area is corrected so as to correspond to the designated base point parallax.
  • the cut edit areas 402L and 402R of the left eye image 11 and the right eye image 12 respectively. May be corrected, or one (for example, the cut edit region 402L of the left eye image 11) may be fixed and only the other (the cut edit region 402R of the right eye image 12) may be corrected.
  • the cut edit area correction unit 105 corrects the cut edit areas 402L and 402R to the cut edit correction areas 403L and 403R based on the cut edit area correction candidate table 700, the horizontal size of the cut edit areas 402L and 402R is increased. May become smaller. If only the horizontal size of the cut edit areas 402L and 402R designated by the user is corrected to be small, cut edit unintended by the user may occur. For this reason, the vertical size may be corrected in accordance with the correction of the horizontal size of the cut edit areas 402L and 402R. That is, in the cut edit correction areas 403L and 403R, the aspect ratio of the cut edit areas 402L and 402R specified by the user may be held.
  • the storage unit 101 cuts and edits the right eye cut edit correction area image 14 and the left eye cut edit correction area image 13 cut and edited in the cut edit correction areas 403L and 403R.
  • the storage unit 101 cuts and edits the right eye cut edit correction area image 14 and the left eye cut edit correction area image 13 cut and edited in the cut edit correction areas 403L and 403R.
  • FIG. 8 is a diagram showing a stereoscopic image after cut editing in the cut edit correction region shown in FIG.
  • the stereoscopic image after the cut edit is obtained from the right eye cut edit correction area image 14 and the left eye cut edit correction area image 13 cut and edited in the cut edit correction areas 403L and 403R as described above. Composed.
  • the compression / decompression unit 102 compresses and converts the right-eye cut edit correction area image 14 and the left-eye cut edit correction area image 13 in MPEG format, and the storage unit 101 further compresses and converts the right-eye cut edit correction area image 13.
  • the correction area image 14 and the left-eye cut edit correction area image 13 are stored. In this way, a stereoscopic image after cut editing is generated.
  • the stereoscopic image after the cut edit may use a method of storing the coordinate information of the cut edit correction regions 403L and 403R in association with the stereoscopic image 10 as metadata.
  • a method may be used in which the screen resolution itself of the stereoscopic image 10 is processed so as to become the cut edit correction regions 403L and 403R, and is compressed and converted by the compression / decompression unit 102 and then stored in the storage unit 101.
  • the user can specify the cut editing area frame of the specified cut editing area.
  • the base parallax that is the parallax of the frame itself it is possible to give a desired depth to the display area of the stereoscopic image, and as a result, the stereoscopic image having the stereoscopic effect desired by the user can be obtained.
  • the user can specify the base point parallax that is the parallax of the cut editing area frame itself, the user can specify the cut editing area frame specified by the user.
  • the depth of the image can be given toward the back of the display screen when viewed from the front of the image in the area, and conversely, the frame of the cut edit area specified by the user is located at the back of the display screen. As a result, it is also possible to make the subject pop out toward the near side with respect to the frame of the cut editing area.
  • the stereoscopic image 10 is a moving image and is compressed in the MPEG format.
  • the compression format of the stereoscopic image 10 is AVI format or H.264.
  • Other compression formats such as the H.264 format may be used.
  • the stereoscopic image 10 is a still image, and may use a compression format such as a JPEG format, for example.
  • the compression / decompression unit 102 performs compression conversion and expansion conversion on the stereoscopic image according to various compression formats.
  • the display 111 superimposes the cut edit area specified by the user and the cut edit area corrected by the cut edit area correcting unit 105 on the left-eye image 11 and the right-eye image 12 of the stereoscopic image 10. May be displayed. Further, the display 111 may display the right eye cut edit correction area image 14 and the left eye cut edit correction area image 13 in which the cut edit area is corrected, or the right eye cut edit correction area image 14. And a cut-out edited stereoscopic image composed of the left-eye cut-out edit correction area image 13 may be previewed.
  • the stereoscopic image editing screen 400 may include a preview button, a determination button, and a cancel button.
  • the user can perform cut-out editing processing of a stereoscopic image while confirming the editing state of the stereoscopic image by operating a preview button, a determination button, and a cancel button.
  • the preview button when the user presses the preview button, the user is configured from the right-eye cut edit correction area image 14 and the left-eye cut edit correction area image 13 based on the cut edit correction areas 403L and 403R. Check the stereoscopic image displayed on the display.
  • the right-eye cut edit correction area image is pressed by pressing the enter button. 14 and the left eye cut edit correction area image 13 are stored in the storage unit 101 as images after cut edit.
  • the user can press the cancel button to edit the right eye
  • the correction area image 14 and the left-eye cut edit correction area image 13 are deleted.
  • a key indicating determination such as the Enter key
  • a key indicating cancellation such as the ESC key
  • the user can generate a stereoscopic image having the stereoscopic effect desired by the user while confirming the stereoscopic image after the cut and edit.
  • the user wants to obtain a three-dimensional feeling that gives the depth of the image toward the back of the display screen, looking at the frame of the specified cut edit area closer to the image of the cut edit area, What is necessary is just to change so that the designated base point parallax may be enlarged.
  • the user sees the frame of the specified cut edit area further on the display screen, and obtains a three-dimensional effect that makes the subject pop out toward the near side of the frame of the cut edit area.
  • the base point parallax to be specified may be changed to be small.
  • the user can change the base point parallax specified by the user without changing the size of the cut edit area and the position of the cut edit area by trial and error, and the stereoscopic image having the stereoscopic effect desired by the user. Can be generated.
  • the cut edit area correction candidate table 700 shown in FIG. 7 is created in advance, the cut edit area correction candidate table 700 is referred to. Thus, the cut edit correction area can be determined efficiently.
  • the basic configuration of the stereoscopic image device according to the present embodiment and the basic flow of the stereoscopic image method are the same as those in the first embodiment of the present invention.
  • This embodiment is different from the first embodiment of the present invention in terms of a method for a user to specify a base point parallax that is a parallax included in a frame of a cut edit area.
  • differences from the first embodiment of the present invention will be described.
  • FIG. 9 is a diagram showing a configuration (minimum base point parallax designation) of the stereoscopic image editing screen 410 according to the second embodiment of the present invention.
  • the user selects the cut edit area frame of the left eye image 11 and the right eye image 12 of the stereoscopic image 10 displayed on the display 111 via the operation unit 103.
  • a base point parallax which is a parallax having, is designated.
  • the cut edit area correcting unit 105 specifies the base parallax for the cut edit areas 402L and 402R specified in the cut edit area specifying step S302.
  • the user moves on the base point parallax specifying bar that moves in the range of 0.0 mm to 10.0 mm. By moving the mouse pointer, the depth with respect to the display screen is specified for the stereoscopic image after cut editing.
  • a subject (feature point) shown in a stereoscopic image is designated.
  • the user moves the mouse pointer to designate “building” which is a subject farthest from the display screen.
  • the parallax that is the same as the parallax of the designated “building” is set as the base parallax that is the parallax of the frame of the cut editing area itself.
  • the cut edit area correcting unit 105 uses the parallax included in the designated “building” as a base parallax, as in the first embodiment of the present invention, 402R (indicated by a dotted line in FIG. 9) is corrected to cutout edit correction regions 403L and 403R (indicated by a solid line in FIG. 9).
  • FIG. 10 is a diagram showing a stereoscopic image after cut editing in the cut edit correction region shown in FIG.
  • the stereoscopic image after the cut edit is obtained from the right eye cut edit correction area image 14 and the left eye cut edit correction area image 13 cut and edited in the cut edit correction areas 403L and 403R as described above. Composed.
  • the compression / decompression unit 102 compresses and converts the right-eye cut edit correction area image 14 and the left-eye cut edit correction area image 13 in MPEG format, and the storage unit 101 further compresses and converts the right-eye cut edit correction area image 13.
  • the correction area image 14 and the left-eye cut edit correction area image 13 are stored. In this way, a stereoscopic image after cut editing is generated.
  • FIG. 11 is a diagram showing a configuration (maximum base point parallax designation) of the stereoscopic image editing screen 411 according to the second embodiment of the present invention.
  • the user moves the mouse pointer and designates “tree” as the subject closest to the display screen.
  • the parallax that is the same as the parallax of the designated “tree” is set as the base parallax that is the parallax of the frame of the cut editing area itself.
  • the cut edit area correcting unit 105 uses the parallax included in the designated “building” as the base parallax, as in the first embodiment of the present invention, 402R (indicated by a dotted line in FIG. 11) is corrected to cutout edit correction regions 403L and 403R (indicated by a solid line in FIG. 11).
  • FIG. 12 is a diagram showing a stereoscopic image after cut editing in the cut edit correction region shown in FIG.
  • the stereoscopic image after the cut edit is obtained from the right eye cut edit correction area image 14 and the left eye cut edit correction area image 13 cut and edited in the cut edit correction areas 403L and 403R as described above. Composed.
  • the compression / decompression unit 102 compresses and converts the right-eye cut edit correction area image 14 and the left-eye cut edit correction area image 13 in MPEG format, and the storage unit 101 further compresses and converts the right-eye cut edit correction area image 13.
  • the correction area image 14 and the left-eye cut edit correction area image 13 are stored. In this way, a stereoscopic image after cut editing is generated.
  • the compression format of the stereoscopic image 10 is not limited to the MPEG format. Other compression formats such as the H.264 format may be used. Further, the stereoscopic image 10 is a still image, and may use a compression format such as a JPEG format, for example.
  • the user can specify the frame of the cut edit area for the specified cut edit area frame itself.
  • a base point parallax that is a parallax included in the image it is possible to give a desired depth to the display area of the stereoscopic image, and as a result, a stereoscopic image having a stereoscopic effect desired by the user can be obtained. Can do.
  • the parallax of the frame of the cut-out editing area of the stereoscopic image itself can be matched with the parallax of the subject (feature point) that the content viewer wants to watch. Therefore, in particular, when displayed in picture-in-picture, when the content viewer moves the viewpoint from the parent screen to the child screen, the viewpoint is smoothly guided to the subject that the content viewer wants to watch on the child screen. Can be made.
  • all or some of the functional blocks constituting the stereoscopic image editing apparatus described in the first and second embodiments of the present invention are typically integrated circuits such as LSI (depending on the degree of integration, (Referred to as system LSI, super LSI, or ultra LSI). These may be individually made into one chip, or may be made into one chip so as to include a part or all of them.
  • LSI depending on the degree of integration
  • the method of circuit integration is not limited to LSI's, and implementation using dedicated circuitry or general purpose processors is also possible.
  • an FPGA Field Programmable Gate Array
  • a reconfigurable processor that can reconfigure the connection and setting of circuit cells inside the LSI may be used.
  • integrated circuit technology comes out to replace LSI's as a result of the advancement of semiconductor technology or a derivative other technology, it is naturally also possible to carry out function block integration using this technology. There is a possibility of adaptation of biotechnology.
  • Each function of the stereoscopic image editing apparatus described in the first and second embodiments of the present invention is a predetermined function that can execute the above-described processing procedure stored in a storage device (ROM, RAM, hard disk, etc.).
  • the program data may be realized by being interpreted and executed by the CPU. In this case, the program data may be introduced into the storage device via the recording medium, or may be directly executed from the recording medium.
  • the recording medium refers to a recording medium such as a semiconductor memory such as a ROM, a RAM and a flash memory, a magnetic disk memory such as a flexible disk and a hard disk, an optical disk such as a CD-ROM, DVD and BD, and a memory card.
  • the recording medium is a concept including a communication medium such as a telephone line or a conveyance path.
  • the present invention is useful when a part of a stereoscopic image composed of a left-eye image and a right-eye image is cut out and edited.
  • the present invention can be applied to a case where a partial area of a stereoscopic image is enlarged and displayed in a picture-in-picture format superimposed on a parent screen.
  • the present invention can also be applied to a case where a plurality of images and / or a plurality of stereoscopic images are displayed in a tiled layout.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)

Abstract

 切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を使用者が指定することによって、使用者が所望する立体感を有する立体視画像を得ることができる立体視画像編集装置および立体視画像編集方法を提供する。本発明の立体視画像編集装置は、立体視画像を記憶する記憶部と、立体視画像をディスプレイに表示可能な形式に変換する圧縮伸長部と、立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域、および当該切取り編集領域の枠自体が有する視差である基点視差を、使用者に指定させる操作部と、使用者によって指定された切取り編集領域に基づいて、立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集部と、切取り編集された左眼用画像と右眼用画像とについて、使用者によって指定された基点視差に基づいて、切取り編集領域を補正する切取り編集領域補正部とを備える。

Description

立体視画像編集装置および立体視画像編集方法
 本発明は、複数の画像から視差を有する立体視画像を編集する立体視画像編集装置、および立体視画像編集方法に関し、より特定的には、当該立体視画像を編集して、使用者が所望する立体感を有する立体視画像をディスプレイに表示させる立体視画像編集装置、および立体視画像編集方法に関する。
 左眼から見た視野に相当する左眼用画像と、右眼から見た視野に相当する右眼用画像とを用いて、左眼用画像を左眼のみに、右眼用画像を右眼のみに投影する。その両眼視差によって、使用者は、左眼用画像と右眼用画像とから構成される立体視画像について立体感を得ることができる。
 立体視画像は、人間の両目の間に生じる視差を再現するため、少なくとも左眼用画像を取得するカメラと、右眼用画像を取得するカメラとを水平方向に並ぶよう配置して、同じ視野を同時に撮影することで作成される。また、同じ手法を仮想的に実現するように、計算機によって仮想3D空間を生成し、同様の効果を得られる立体視画像を生成する手法も存在する。
 なお、立体視画像には、写真等の静止画のみならず動画も含まれ、被写体を立体的に見せる映画等に利用される。また、次世代のAVコンテンツの提供方法として、ステレオ映像を用いた立体視映像が普及しつつある。
 このように、立体視画像表示技術が普及しており、さらには、撮影された立体視画像はそのまま視聴されるだけでなく、撮影された立体視画像の一部の領域を切取り編集することが考えられる。
 従来の立体視画像編集技術として、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、使用者が切取り編集領域を指定して、立体視画像の一部の領域を切取り編集する方法がある。使用者が切取り編集領域を指定する方法としては、例えば、同一座標選択方法および特徴点対応探索方法を用いることができる。
 同一座標選択方法は、一方の画像(例えば、左眼用画像)に対して切取り編集領域を指定すれば、他方の画像(右眼用画像)に対しても同一座標の領域を切取り編集領域として選択する方法である。
 特徴点対応探索方法は、画像を小さな矩形領域で分割し、分割した矩形領域単位で面積相関を求めるなどして、左眼用画像と右眼用画像とで同一の特徴点を検索して対応付ける方法である。一方の画像(例えば、左眼用画像)に対して切取り編集領域を指定すれば、他方の画像(右眼用画像)に対しては、左眼用画像と同一の特徴点に基づいて、左眼用画像で指定された切取り編集領域に対応する領域を切取り編集領域として選択する。また、特許文献1には、使用者が立体画像をより見易くする立体画像表示装置が開示されている。
 以上のように、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、使用者は所望の切取り編集領域を指定することによって、撮影された立体視画像の一部の領域を切取り編集することができる。
特開2001-326947号公報
 しかしながら、使用者は、立体視画像の切取り編集領域について、当該切取り編集領域の枠自体が有する視差である基点視差を指定できないため、立体視画像の表示領域について、所望の奥行きを持たせることができない。つまり、使用者が所望する立体感を有する立体視画像を得ることができない。
 具体的には、立体視画像の画角自体が小さい場合や、ピクチャ・イン・ピクチャの子画面として小さく表示する場合など、立体視画像の表示領域が小さくなると、当該表示領域の枠自体が立体視の対象物となる。このため、使用者は、立体視画像の表示領域の枠自体と、立体視画像に映っている被写体との間にも奥行きの差が感じられる。しかし、使用者が指定した切取り編集領域の枠を、当該切取り編集領域の画像に対して最も手前とみて、表示画面の奥に向かって画像の奥行きを持たせるのか、逆に、使用者が指定した切取り編集領域の枠を、表示画面に対して最も奥とみて、当該切取り編集領域の枠に対して手前側に向かって被写体を飛び出させて見せるのか、という設定ができない。
 また、立体視画像に映っている被写体(特徴点)も視差を持っており、立体視画像には、視差が異なる複数の特徴点が散在する。特に、ピクチャ・イン・ピクチャで表示される場合、親画面に表示される被写体の視差と、子画面に表示される被写体の視差とが異なる。例えば、コンテンツ作成者は、コンテンツ視聴者が親画面から子画面へ視点を移した時には、子画面において、コンテンツ視聴者に注視して欲しい被写体へスムーズに視点を誘導させたい。この場合、子画面における立体視画像の切取り編集領域の枠自体が有する視差と、コンテンツ視聴者に注視させたい被写体(特徴点)の視差とを一致させる必要がある。
 それ故に、本発明の目的は、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる立体視画像編集装置および立体視画像編集方法を提供することである。
 上記目的を達成するために、本発明の立体視画像編集装置は、ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置であって、立体視画像を記憶する記憶部と、記憶部に記憶されている立体視画像をディスプレイに表示可能な形式に変換する圧縮伸長部と、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域、および当該切取り編集領域の枠自体が有する視差である基点視差を、使用者に指定させる操作部と、使用者によって指定された切取り編集領域に基づいて、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集部と、切取り編集された左眼用画像と右眼用画像とについて、使用者によって指定された基点視差に基づいて、切取り編集領域を補正する切取り編集領域補正部とを備える。
 好ましくは、操作部は、基点視差を使用者に直接指定させることを特徴とするか、または、操作部は、切取り編集された左眼用画像と右眼用画像とについて、切取り編集領域内の特徴点を使用者に指定させ、特徴点が有する視差を基点視差とすることを特徴とする。
 好ましい切取り編集領域補正部は、使用者によって指定された基点視差と同一の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、切取り編集領域の左端および右端を、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置に補正することを特徴とする。
 さらに、好ましい切取り編集領域補正部は、少なくとも1つ以上の所定の視差について、当該所定の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、所定の視差と、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、切取り編集領域の左端および右端を、切取り編集領域補正候補テーブルにおいて、使用者によって指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする。
 上記目的を達成するために、本発明の立体視画像編集方法は、ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置が実行する立体視画像編集方法であって、編集対象となる立体視画像をディスプレイに表示可能な形式に変換する圧縮伸長ステップと、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域を指定する切取り編集領域指定ステップと、指定された切取り編集領域に基づいて、ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集ステップと、切取り編集された左眼用画像と右眼用画像とについて、切取り編集領域の枠自体が有する視差である基点視差を指定する基点視差指定ステップと、指定された基点視差に基づいて、切取り編集領域を補正する切取り編集領域補正ステップと、補正された切取り編集領域で切取り編集された左眼用画像と右眼用画像とを立体視画像編集装置に保存する編集画像保存ステップとを実行する。
 好ましくは、基点視差指定ステップは、基点視差を使用者に直接指定させることを特徴とするか、または、基点視差指定ステップは、切取り編集された左眼用画像と右眼用画像とについて、切取り編集領域内の特徴点を使用者に指定させ、特徴点が有する視差を基点視差とすることを特徴とする。
 好ましい切取り編集領域補正ステップは、指定された基点視差と同一の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、切取り編集領域の左端および右端を、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置に補正することを特徴とする。
 さらに、好ましい切取り編集領域補正ステップは、少なくとも1つ以上の所定の視差について、当該所定の視差を有する切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、所定の視差と、検出された最左端である特徴点の位置および検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、切取り編集領域の左端および右端を、切取り編集領域補正候補テーブルにおいて、指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする。
 上述した本発明の立体視画像編集方法は、一連の処理手順をコンピュータに実行させるためのプログラムの形式で提供される。このプログラムは、コンピュータ読み取り可能な記録媒体に記録された形態で、コンピュータに導入されてもよい。
 本発明の立体視画像編集装置および立体視画像編集方法によれば、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる。
図1は、本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すハード構成図である。 図2は、本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すブロック図である。 図3は、本発明の第1の実施形態に係る立体視画像編集方法300を示すフローチャートである。 図4は、本発明の第1の実施形態に係る立体視画像の編集画面400の構成(切取り編集領域指定)を示す図である。 図5は、本発明の第1の実施形態に係る立体視画像の編集画面400の構成(基点視差指定)を示す図である。 図6は、基点視差に対応する切取り編集領域補正方法600を示すフローチャートである。 図7は、切取り編集領域補正候補テーブル700を示す図である。 図8は、図5に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。 図9は、本発明の第2の実施形態に係る立体視画像の編集画面410の構成(最小基点視差指定)を示す図である。 図10は、図9に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。 図11は、本発明の第2の実施形態に係る立体視画像の編集画面411の構成(最大基点視差指定)を示す図である。 図12は、図11に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。
 以下、本発明の各実施形態を、図面を参照しながら説明する。
 <第1の実施形態>
 図1は、本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すハード構成図である。図1において、立体視画像編集装置100は、記憶部101と、圧縮伸長部102と、操作部103と、切取り編集部104と、切取り編集領域補正部105と、制御部106とを備える。さらに、立体視画像編集装置100は、外部インタフェース107を備えていてもよい。立体視画像編集装置100は、表示部110と接続されている。なお、表示部110は、ディスプレイ111とVRAM(Video Random Access Memory)112とを備える。
 記憶部101は、例えば、ROM(Read Only Memory)およびRAM(Random Access Memory)であって、撮影された立体視画像を記憶している。さらに、記憶部101は、立体視画像を再生する際には、当該立体視画像を一時的に記憶し、後述する編集後の立体視画像を記憶する。
 圧縮伸長部102は、例えば、コーデック(Codec)であって、特定の圧縮形式で圧縮された立体視画像をディスプレイに表示可能な形式に伸長変換する。また、圧縮伸長部102は、編集後の立体視画像を特定の圧縮形式で圧縮変換する。なお、立体視画像の圧縮形式は、立体視画像が静止画の場合、JPEG形式、GIF形式、およびPNG形式などが代表的であり、立体視画像が動画の場合、AVI形式、およびMPEG形式などが代表的である。
 操作部103は、例えば、キーボードおよびマウスなどの入力デバイスであって、使用者からの指示内容が入力される。また、操作部103は、タッチパネルディスプレイに代表されるような、ディスプレイ111と一体型の入力デバイスであってもよい。
 切取り編集部104は、操作部103を介して使用者によって指定された切取り編集領域に基づいて、当該立体視画像を切取り編集する。
 切取り編集領域補正部105は、操作部103を介して使用者によって指定された表示画面に対する奥行きに基づいて、切取り編集部104によって切取り編集された立体視画像の切取り編集領域を補正する。
 制御部106は、例えば、CPU(Central Processing Unit)であって、立体視画像編集装置100の各機能部の処理を制御する。
 表示部110は、ディスプレイ111とVRAM(Video Random Access Memory)112とを備える。ディスプレイ111は、記憶部101に記憶されている立体視画像を表示したり、使用者によって編集された立体視画像を表示したりする。VRAM112は、立体視画像をディスプレイ111に表示するまでのバッファである。なお、表示部110は、立体視画像編集装置100に含まれていてもよいし、立体視画像編集装置100に接続された表示装置であってもよい。
 外部インタフェース107は、例えば、USB(Universal Serial Bus)であって、立体視画像編集装置100は、外部インタフェース107を介して、ネットワークおよび外部デバイスと接続する。立体視画像編集装置100は、外部インタフェース107を介して、外部に接続されたカメラおよび記憶媒体などから外部データを取得して、記憶部101へ記憶してもよい。
 図2は、本発明の第1の実施形態に係る立体視画像編集装置100の概略的な構成を示すブロック図である。図2において、立体視画像編集装置100は、記憶部101と、圧縮伸長部102と、操作部103と、切取り編集部104と、切取り編集領域補正部105と、制御部106とを備える。立体視画像編集装置100は、表示部110と接続されている。ここでは、図1に示したハード構成を有する立体視画像編集装置100の各機能ブロックについて、詳細に説明する。
 記憶部101は、撮影された立体視画像10が記憶されている。立体視画像10は、立体視画像10を視聴する使用者の左眼のみに投影される左眼用画像11と、右眼のみに投影される右眼用画像12とから構成される。ここで、立体視画像10は、動画であって、MPEG形式で圧縮されているものとする。また、記憶部101は、後述する左眼用切取り編集補正領域画像13と右眼用切取り編集補正領域画像14とから構成される切取り編集後の立体視画像を記憶する。
 使用者は、操作部103を介して、記憶部101に記憶されている立体視画像10を編集対象画像として選択する。
 圧縮伸長部102は、MPEG形式で圧縮されている立体視画像10をディスプレイ111に表示可能な形式に伸長変換する。圧縮伸長部102によって伸長変換された立体視画像10について、当該立体視画像10の左眼用画像11と右眼用画像12とは、VRAM112を介して、ディスプレイ111に表示される。また、圧縮伸長部102は、編集後の立体視画像をMPEG形式で圧縮変換し、記憶部101は、MPEG形式で圧縮変換された編集後の立体視画像を記憶する。
 使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12について、操作部103を介して、切取り編集領域を指定する。
 切取り編集部104は、操作部103を介して使用者によって指定された切取り編集領域に基づいて、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とを切取り編集する。
 使用者は、さらに、切取り編集部104によって切取り編集される立体視画像10の左眼用画像11と右眼用画像12について、操作部103を介して、表示画面に対する奥行きを指定する。
 切取り編集領域補正部105は、操作部103を介して使用者によって指定された奥行きに基づいて、切取り編集部104によって切取り編集される立体視画像10の左眼用画像11と右眼用画像12について、切取り編集領域を補正する。より詳細には、切取り編集領域補正部105は、切取り編集領域の情報と、表示画面に対する奥行き情報である当該切取り編集領域の枠自体が有する視差である基点視差とに基づいて、当該基点視差に対応するように、左眼用画像11および右眼用画像12のそれぞれについて、切取り編集領域を補正する。なお、当該補正内容についての詳細は、後述する。
 ディスプレイ111は、立体視画像10の左眼用画像11と右眼用画像12とを表示し、当該表示された立体視画像10の左眼用画像11と右眼用画像12とについて、使用者が指定した切取り編集領域、および切取り編集領域補正部105によって補正された切取り編集領域を表示する。
 制御部106と各機能ブロックとの関係については図示していないが、制御部106は、上述した立体視画像編集装置100の各機能ブロックを制御している。
 図3は、本発明の第1の実施形態に係る立体視画像編集方法300を示すフローチャートである。図3において、立体視画像編集方法300は、画面表示ステップS301と、切取り編集領域指定ステップS302と、基点視差指定ステップS303と、切取り編集領域補正ステップS304と、編集画像保存ステップS305とを備える。
 画面表示ステップS301において、ディスプレイ111は、立体視画像10の左眼用画像11と右眼用画像12とを表示する。具体的には、使用者は、操作部103を介して、記憶部101に記憶されている立体視画像10を編集対象画像として選択する。選択された立体視画像10は、記憶部101から読み出され、圧縮伸長部102によってディスプレイ111に表示可能な形式に伸長変換される。そして、ディスプレイ111に表示可能な形式に伸長変換された立体視画像10は、VRAM112へ転送され、当該立体視画像10の左眼用画像11と右眼用画像12とは、ディスプレイ111に表示される。
 図4は、本発明の第1の実施形態に係る立体視画像の編集画面400の構成(切取り編集領域指定)を示す図である。図4において、立体視画像の編集画面400は、編集対象画像を表示する左画面401Lと右画面401Rとを備えている。ここで、立体視画像10の左眼用画像11と右眼用画像12とを立体視する際、結像方法として交差法と平行法とがある。ここでは、交差法を用いることとし(図4において、「交差法」を選択)、左画面401Lには右眼用画像12が表示され、右画面401Rには左眼用画像11が表示されている。なお、平行法を用いる場合は、左画面401Lには左眼用画像11が表示され、右画面401Rには右眼用画像12が表示される。交差法または平行法は、予め選択されていてもよいし、使用者が操作部103を介して選択してもよい。
 切取り編集領域指定ステップS302において、切取り編集部104は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とを切取り編集する。具体的には、使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とについて、操作部103を介して、切取り編集領域を指定する。切取り編集領域を指定する簡易的で一般的な方法として、使用者は、左画面401Lに表示されている右眼用画像12、または右画面401Rに表示されている左眼用画像11上にマウスカーソルを移動させ、矩形領域の一頂角を始点として決定した後、その対角に位置する一頂角を終点として決定する。このように、使用者は、操作部103を介して、始点と終点とを決定することによって、始点と終点とで囲まれた矩形領域を切取り編集領域として指定する。
 さらに、左眼用画像11と右眼用画像12との両画像について、使用者が切取り編集領域を指定する方法としては、例えば、特徴点対応探索方法または同一座標選択方法を用いる。ここでは、特徴点対応探索方法を用いることとし(図4において、「特徴点対応探索」を選択)、使用者は、左画面401Lに表示されている右眼用画像12に対して、切取り編集領域402L(図4において点線で示す)を指定する。これにより、例えば、ステレオマッチング方式によって、使用者が指定した切取り編集領域402Lと同一の特徴点を持つ位置を右画面401Rに表示されている左眼用画像11から探索して、切取り編集領域402R(図4において点線で示す)が決定される。特徴点対応探索方法または同一座標選択方法は、予め選択されていてもよいし、使用者が操作部103を介して選択してもよい。
 基点視差指定ステップS303において、切取り編集領域補正部105は、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rについて、基点視差を指定する。具体的には、使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12との切取り編集領域の枠について、操作部103を介して、基点視差を指定する。なお、基点視差とは、表示画面に対する奥行き情報である当該切取り編集領域の枠自体が有する視差である。
 図5は、本発明の第1の実施形態に係る立体視画像の編集画面400の構成(基点視差指定)を示す図である。基点視差を指定する方法として、使用者は、0.0mm~10.0mmの範囲を移動する基点視差指定バー上で、マウスポインタを移動させて、切取り編集後の立体視画像について、表示画面に対する奥行きを指定する。例えば、基点視差が0.0mmに指定されると、立体視画像10の切取り編集領域について、当該切取り編集領域の枠自体が有する視差が最小となるように設定することを意味する。基点視差が10.0mmに指定されると、立体視画像10の切取り編集領域について、当該切取り編集領域の枠自体が有する視差が最大となるように設定することを意味する。ここでは、図5に示しているように、使用者は、基点視差を3.0mm程度に指定しているものとする。
 なお、ここでは、基点視差指定バーで使用者が指定できる基点視差は、0.0mm~10.0mmの範囲としているが、これに限定されるものではない。また、基点視差を指定する方法も、図5に示したような基点視差指定バーに限定されるものではなく、例えば、使用者が、キーボードのテンキー等を介して、直接、基点視差の数値を入力してもよい。
 切取り編集領域補正ステップS304において、切取り編集領域補正部105は、基点視差指定ステップS303において指定された基点視差に基づいて、当該基点視差に対応するように、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とについて、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rを補正する。具体的には、基点視差が3.0mmに指定されているため、当該基点視差に対応するように、切取り編集領域補正部105は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12とについて、切取り編集領域402Lおよび402R(図5において点線で示す)を、切取り編集補正領域403Lおよび403R(図5において実線で示す)に補正する。
 図6は、基点視差に対応する切取り編集領域補正方法600を示すフローチャートである。
 ステップS601において、右眼用画像12と左眼用画像11とについて、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402R内において、当該切取り編集領域402Lおよび402Rの左上端を基点として、それぞれ所定の単位面積毎に領域を分割する。右眼用画像12と左眼用画像11とについて、切取り編集領域402Lおよび402R内において、分割された領域単位で、対応する特徴点を面積相関の計算を用いて探索する。つまり、切取り編集領域402Lおよび402Rにおいて、同一の特徴点の位置を探索する。
 ステップS602において、例えば、ステレオマッチング方式によって、右眼用画像12と左眼用画像11とについて、切取り編集領域402Lおよび402R内において、同一特徴点が存在した場合(ステップS602のYes)、当該特徴点が有する視差を算出する(ステップS603)。例えば、右眼用画像12について切取り編集領域402L内における任意の特徴点の相対位置と、左眼用画像11について切取り編集領域402R内における同一特徴点の相対位置との水平方向のずれ量を視差として利用することができる。また、その他の方法として、人間の両眼の幅をその平均値6.5cmとして三角測量による左右の特徴点の視差を算出してもよい。
 ステップS604において、ステップS602において探索された特徴点について、当該特徴点が有する視差と同一視差を有する特徴点のうち、当該特徴点が切取り編集領域402Lおよび402R内において、最左端の特徴点であるか否かを判定する。同一視差の特徴点のうち、当該特徴点が最左端の特徴点である場合(ステップS604のYes)、当該視差に対応する最左端点情報として、左眼用画像および右眼用画像における当該特徴点の座標をメモリ等に保存する(ステップS605)。
 同様に、ステップS606において、ステップS602において探索された特徴点について、当該特徴点が有する視差と同一視差を有する特徴点のうち、当該特徴点が切取り編集領域402Lおよび402R内において、最右端の特徴点であるか否かを判定する。同一視差の特徴点のうち、当該特徴点が最右端の特徴点である場合(ステップS606のYes)、当該視差に対応する最右端点情報として、左眼用画像および右眼用画像における当該特徴点の座標をメモリ等に保存する(ステップS607)。
 なお、ステップS602において、右眼用画像12と左眼用画像11とについて、切取り編集領域402Lおよび402R内において、同一特徴点が存在しない場合(ステップS602のNo)、上述したステップS603~S607の処理は行わない。
 以上のように、ステップS601~S607を切取り編集領域402Lおよび402R内の全特徴点に対して繰返し実行する(ステップS610)。これにより、切取り編集領域補正部105は、切取り編集領域402Lおよび402R内において、所定の視差に対応する左眼用画像および右眼用画像の最左端点情報と最右端点情報とをメモリ等に保存することによって、切取り編集領域補正候補テーブルを生成する。
 図7は、切取り編集領域補正候補テーブル700を示す図である。図7において、切取り編集領域補正候補テーブル700は、左眼用画像および右眼用画像のそれぞれにおいて、所定の視差に対応する最左端座標と最右端座標とを保持している。ここでは、所定の視差を0.0mmから1.0mm毎とし、保持する座標をX座標およびY座標としているが、これに限定されるわけではない。例えば、ステップS603において詳細に視差を算出することによって、視差の間隔を1.0mmより小さくしてもよい。また、両眼視差による立体視では、視差に影響するのは水平方向のみであるため、保持する座標をX座標のみとしてもよい。
 そして、切取り編集領域補正部105は、切取り編集領域補正候補テーブル700に基づいて、基点視差指定ステップS303において指定された基点視差に対応するように、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rを補正する。具体的には、切取り編集領域補正部105は、右眼用画像12の切取り編集領域402Lを切取り編集補正領域403Lに補正する。基点視差が3.0mmに指定されているため、切取り編集領域補正候補テーブル700に基づいて、切取り編集補正領域403Lは、左端のX座標を70、右端のX座標を1770である。また、切取り編集領域補正部105は、左眼用画像11の切取り編集領域402Rを切取り編集補正領域403Rに補正する。基点視差が3.0mmに指定されているため、切取り編集領域補正候補テーブル700に基づいて、切取り編集補正領域403Rは、左端のX座標を50、右端のX座標を1730である。
 なお、ステップS610において、上述したステップS601~S607を切取り編集領域402Lおよび402R内の全特徴点に対して繰返し実行するこことしたが、必ずしも切取り編集領域402Lおよび402R内の全特徴点に対して繰返し実行する必要はない。切取り編集領域402Lおよび402R内における視差毎の最左座標および最右座標が決定した時点で、上述したステップS601~S607の処理を終了してもよい。
 なお、切取り編集領域を補正する際、指定された基点視差に対応するように、切取り編集領域を補正するが、左眼用画像11および右眼用画像12の切取り編集領域402Lおよび402Rについて、それぞれを補正してもよいし、一方(例えば、左眼用画像11の切取り編集領域402L)を固定して、他方(右眼用画像12の切取り編集領域402R)のみを補正してもよい。
 また、切取り編集領域補正部105が切取り編集領域補正候補テーブル700に基づいて、切取り編集領域402Lおよび402Rを切取り編集補正領域403Lおよび403Rに補正する場合、切取り編集領域402Lおよび402Rの水平方向の大きさが小さくなる場合がある。使用者が指定した切取り編集領域402Lおよび402Rの水平方向の大きさのみ小さく補正されると、使用者が意図しない切取り編集となってしまう場合がある。このため、切取り編集領域402Lおよび402Rの水平方向の大きさの補正に応じて、鉛直方向の大きさも補正してもよい。つまり、切取り編集補正領域403Lおよび403Rにおいて、使用者が指定した切取り編集領域402Lおよび402Rの縦横の比率を保持してもよい。
 編集画像保存ステップS305において、記憶部101は、切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを切取り編集後の画像として記憶する。
 図8は、図5に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。図8において、切取り編集後の立体視画像は、上述したように切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される。圧縮伸長部102は、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とをMPEG形式で圧縮変換し、さらに、記憶部101は、圧縮変換された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを記憶する。このように、切取り編集後の立体視画像が生成される。
 なお、切取り編集後の立体視画像は、切取り編集補正領域403Lおよび403Rの座標情報をメタデータとして立体視画像10に紐付けて保存する方法を用いてもよい。また、立体視画像10の画面解像度そのものを切取り編集補正領域403Lおよび403Rとなるように加工し、圧縮伸長部102によって圧縮変換してから記憶部101へ保存する方法を用いてもよい。
 以上のように、本発明の第1の実施形態に係る立体視画像編集装置100および立体視画像編集方法300によれば、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる。使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することができるため、使用者が指定した切取り編集領域の枠を、当該切取り編集領域の画像に対して最も手前とみて、表示画面の奥に向かって画像の奥行きを持たせることができ、逆に、使用者が指定した切取り編集領域の枠を、表示画面に対して最も奥とみて、当該切取り編集領域の枠に対して手前側に向かって被写体を飛び出させて見せることもできる。
 なお、本実施形態では、立体視画像10は、動画であって、MPEG形式で圧縮されているものとしたが、これに限定されるわけではない。例えば、立体視画像10の圧縮形式は、AVI形式およびH.264形式などの他の圧縮形式でもよい。また、立体視画像10は、静止画であって、例えば、JPEG形式など圧縮形式を用いていもよい。圧縮伸長部102は、種々の圧縮形式に応じて、立体視画像を圧縮変換および伸長変換する。
 なお、ディスプレイ111は、立体視画像10の左眼用画像11と右眼用画像12とについて、使用者が指定した切取り編集領域、および切取り編集領域補正部105によって補正された切取り編集領域を重畳して表示してもよい。さらに、ディスプレイ111は、切取り編集領域が補正された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを表示してもよいし、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される切取り編集後の立体視画像をプレビューしてもよい。
 また、図4および図5に示したように、立体視画像の編集画面400は、プレビューボタン、決定ボタン、およびキャンセルボタンを備えていてもよい。使用者は、プレビューボタン、決定ボタン、およびキャンセルボタンを操作することによって、立体視画像の編集状況を確認しながら、立体視画像の切取り編集処理を行うことができる。具体的には、使用者は、プレビューボタンを押下することによって、切取り編集補正領域403Lと403Rとに基づく右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される立体視画像をディスプレイに表示して確認する。使用者は、表示された立体視画像を確認して、使用者が所望する立体感を有する立体視画像と判断した場合は、決定ボタンを押下することによって、当該右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを切取り編集後の画像として、記憶部101に記憶する。一方、使用者は、表示された立体視画像を確認して、使用者が所望する立体感を有する立体視画像でないと判断した場合は、キャンセルボタンを押下することによって、当該右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを削除する。
 なお、操作部103がキーボードの場合には、図4および図5に示した決定ボタンおよびキャンセルボタンに代えて、決定を意味するキー(Enterキーなど)およびキャンセルを意味するキー(ESCキーなど)を用いてもよい。
 このように、使用者は、切取り編集後の立体視画像を確認しながら、使用者が所望する立体感を有する立体視画像を生成することができる。使用者は、指定した切取り編集領域の枠を当該切取り編集領域の画像に対して、さらに手前とみて、表示画面の奥に向かって画像の奥行きを持たせるような立体感を得たい場合は、指定する基点視差を大きくするように変更すればよい。逆に、使用者は、指定した切取り編集領域の枠を表示画面に対して、さらに奥とみて、当該切取り編集領域の枠に対して手前側に向かって被写体を飛び出させるような立体感を得たい場合は、指定する基点視差を小さくするように変更すればよい。
 つまり、使用者は、切取り編集領域の大きさ、および切取り編集領域の位置について、試行錯誤しなくても、指定する基点視差を変更するだけで、使用者が所望する立体感を有する立体視画像を生成することができる。
 また、使用者が何度も基点視差を変更した場合であっても、予め図7に示した切取り編集領域補正候補テーブル700を作成しておけば、当該切取り編集領域補正候補テーブル700を参照することによって、効率よく、切取り編集補正領域を決定することができる。
 <第2の実施形態>
 本実施形態に係る立体視画像装置の基本的な構成、および立体視画像方法の基本的なフローについては、本発明の第1の実施形態と同様である。本実施形態は、切取り編集領域の枠自体が有する視差である基点視差を使用者が指定する方法について、本発明の第1の実施形態と異なる。以下に、本発明の第1の実施形態と異なる点について説明する。
 図9は、本発明の第2の実施形態に係る立体視画像の編集画面410の構成(最小基点視差指定)を示す図である。使用者は、ディスプレイ111に表示されている立体視画像10の左眼用画像11と右眼用画像12との切取り編集領域の枠について、操作部103を介して、切取り編集領域の枠自体が有する視差である基点視差を指定する。
 図3に示した基点視差指定ステップS303において、切取り編集領域補正部105は、切取り編集領域指定ステップS302において指定された切取り編集領域402Lおよび402Rについて、基点視差を指定する。図5に示したように、本発明の第1の実施形態では、基点視差を指定する方法として、使用者は、0.0mm~10.0mmの範囲を移動する基点視差指定用バー上で、マウスポインタを移動させて、切取り編集後の立体視画像について、表示画面に対する奥行きを指定していた。
 本実施形態では、立体視画像に映っている被写体(特徴点)を指定する。具体的には、図9に示すように、使用者は、マウスポインタを移動させて、表示画面に対して最も奥にある被写体である「建物」を指定する。ここで、指定された「建物」が有する視差と同一の視差を、切取り編集領域の枠自体が有する視差である基点視差とする。その後、切取り編集領域補正ステップS304において、切取り編集領域補正部105は、当該指定された「建物」が有する視差を基点視差として、本発明の第1の実施形態と同様に、切取り編集領域402Lおよび402R(図9において点線で示す)を、切取り編集補正領域403Lおよび403R(図9において実線で示す)に補正する。
 図10は、図9に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。図10において、切取り編集後の立体視画像は、上述したように切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される。圧縮伸長部102は、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とをMPEG形式で圧縮変換し、さらに、記憶部101は、圧縮変換された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを記憶する。このように、切取り編集後の立体視画像が生成される。
 図11は、本発明の第2の実施形態に係る立体視画像の編集画面411の構成(最大基点視差指定)を示す図である。図11に示すように、使用者は、マウスポインタを移動させて、表示画面に対して最も手前にある被写体である「木」を指定する。ここで、指定された「木」が有する視差と同一の視差を、切取り編集領域の枠自体が有する視差である基点視差とする。その後、切取り編集領域補正ステップS304において、切取り編集領域補正部105は、当該指定された「建物」が有する視差を基点視差として、本発明の第1の実施形態と同様に、切取り編集領域402Lおよび402R(図11において点線で示す)を、切取り編集補正領域403Lおよび403R(図11において実線で示す)に補正する。
 図12は、図11に示した切取り編集補正領域における切取り編集後の立体視画像を示す図である。図12において、切取り編集後の立体視画像は、上述したように切取り編集補正領域403Lおよび403Rで切取り編集された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とから構成される。圧縮伸長部102は、右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とをMPEG形式で圧縮変換し、さらに、記憶部101は、圧縮変換された右眼用切取り編集補正領域画像14と左眼用切取り編集補正領域画像13とを記憶する。このように、切取り編集後の立体視画像が生成される。
 なお、立体視画像10の圧縮形式は、MPEG形式に限定されるものではなく、例えば、AVI形式およびH.264形式などの他の圧縮形式でもよい。また、立体視画像10は、静止画であって、例えば、JPEG形式など圧縮形式を用いていもよい。
 以上のように、本発明の第2の実施形態に係る立体視画像編集装置および立体視画像編集方法によれば、使用者は、指定した切取り編集領域の枠について、当該切取り編集領域の枠自体が有する視差である基点視差を指定することによって、立体視画像の表示領域について所望の奥行きを持たせることを可能とし、結果的に、使用者が所望する立体感を有する立体視画像を得ることができる。
 さらに、本発明の第2の実施形態に係る立体視画像の編集画面410および411の構成によれば、コンテンツ作成者は、基点視差を指定する際に、立体視画像に映っている被写体(特徴点)を指定することができるため、立体視画像の切取り編集領域の枠自体が有する視差と、コンテンツ視聴者に注視させたい被写体(特徴点)の視差とを一致させることができる。従って、特に、ピクチャ・イン・ピクチャで表示される場合、コンテンツ視聴者が親画面から子画面へ視点を移した時には、子画面において、コンテンツ視聴者に注視して欲しい被写体へスムーズに視点を誘導させることができる。
 なお、本発明の第1および第2の実施形態で説明した立体視画像編集装置を構成する全て又は一部の機能ブロックは、典型的には集積回路であるLSI(集積度の違いにより、IC、システムLSI、スーパーLSI、又はウルトラLSI等と称される)として実現される。これらは、個別に1チップ化されてもよいし、一部又は全部を含むように1チップ化されてもよい。
 また、集積回路化の手法は、LSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。また、LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
 さらには、半導体技術の進歩又は派生する別の技術により、LSIに置き換わる集積回路化の技術が登場すれば、当然その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてあり得る。
 また、本発明の第1および第2の実施形態で説明した立体視画像編集装置の各機能は、記憶装置(ROM、RAM、ハードディスク等)に格納された上述した処理手順を実行可能な所定のプログラムデータが、CPUによって解釈実行されることで実現してもよい。この場合、プログラムデータは、記録媒体を介して記憶装置内に導入されてもよいし、記録媒体上から直接実行されてもよい。ここで、記録媒体とは、ROM、RAM、フラッシュメモリ等の半導体メモリ、フレキシブルディスクやハードディスク等の磁気ディスクメモリ、CD-ROMやDVD、BD等の光ディスク、メモリカード等の記録媒体をいう。また、記録媒体は、電話回線や搬送路等の通信媒体も含む概念である。
 本発明は、左眼用画像と右眼用画像とから構成される立体視画像の一部の領域を切取り編集する場合等に有用である。例えば、本発明は、立体視画像の一部の領域を拡大表示させたり、親画面に重畳するピクチャ・イン・ピクチャ形式で表示させたりする場合等に適用することができる。また、本発明は、複数の画像および/または複数の立体視画像をタイル状に並べるレイアウトで表示させる場合等に適用することができる。
10  立体視画像
11  左眼用画像
12  右眼用画像
13  左眼用切取り編集補正領域画像
14  右眼用切取り編集補正領域画像
100  立体視画像編集装置
101  記憶部
102  圧縮伸長部
103  操作部
104  切取り編集部
105  切取り編集領域補正部
106  制御部
107  外部インタフェース
110  表示部
111  ディスプレイ
112  VRAM
300  立体視画像編集方法
400、410、411  立体視画像の編集画面
401L  左画面
401R  右画面
402L  左画面切取り編集領域
402R  右画面切取り編集領域
403L  左画面切取り編集補正領域
403R  右画面切取り編集補正領域
600  切取り編集領域補正方法

Claims (12)

  1.  ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置であって、
     前記立体視画像を記憶する記憶部と、
     前記記憶部に記憶されている前記立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長部と、
     前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域、および当該切取り編集領域の枠自体が有する視差である基点視差を、前記使用者に指定させる操作部と、
     前記使用者によって指定された切取り編集領域に基づいて、前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集部と、
     前記切取り編集された左眼用画像と右眼用画像とについて、前記使用者によって指定された基点視差に基づいて、前記切取り編集領域を補正する切取り編集領域補正部とを備える、立体視画像編集装置。
  2.  前記操作部は、前記基点視差を前記使用者に直接指定させることを特徴とする、請求項1に記載の立体視画像編集装置。
  3.  前記操作部は、前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域内の特徴点を前記使用者に指定させ、
     前記特徴点が有する視差を前記基点視差とすることを特徴とする、請求項1に記載の立体視画像編集装置。
  4.  前記切取り編集領域補正部は、
      前記使用者によって指定された基点視差と同一の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
      前記切取り編集領域の左端および右端を、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置に補正することを特徴とする、請求項1に記載の立体視画像編集装置。
  5.  前記切取り編集領域補正部は、
      少なくとも1つ以上の所定の視差について、当該所定の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
      前記所定の視差と、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、
      前記切取り編集領域の左端および右端を、前記切取り編集領域補正候補テーブルにおいて、前記使用者によって指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする、請求項1に記載の立体視画像編集装置。
  6.  ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集装置が実行する立体視画像編集方法であって、
     編集対象となる立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長ステップと、
     前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域を指定する切取り編集領域指定ステップと、
     前記指定された切取り編集領域に基づいて、前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集ステップと、
     前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域の枠自体が有する視差である基点視差を指定する基点視差指定ステップと、
     前記指定された基点視差に基づいて、前記切取り編集領域を補正する切取り編集領域補正ステップと、
     前記補正された切取り編集領域で切取り編集された左眼用画像と右眼用画像とを前記立体視画像編集装置に保存する編集画像保存ステップとを実行する、立体視画像編集方法。
  7.  前記基点視差指定ステップは、前記基点視差を前記使用者に直接指定させることを特徴とする、請求項6に記載の立体視画像編集方法。
  8.  前記基点視差指定ステップは、前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域内の特徴点を前記使用者に指定させ、
     前記特徴点が有する視差を前記基点視差とすることを特徴とする、請求項6に記載の立体視画像編集方法。
  9.  前記切取り編集領域補正ステップは、
      前記指定された基点視差と同一の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
      前記切取り編集領域の左端および右端を、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置に補正することを特徴とする、請求項6に記載の立体視画像編集方法。
  10.  前記切取り編集領域補正ステップは、
      少なくとも1つ以上の所定の視差について、当該所定の視差を有する前記切取り編集領域内の特徴点のうち、最左端である特徴点と最右端である特徴点とを検出し、
      前記所定の視差と、前記検出された最左端である特徴点の位置および前記検出された最右端である特徴点の位置とを対応付けた切取り編集領域補正候補テーブルを生成し、
      前記切取り編集領域の左端および右端を、前記切取り編集領域補正候補テーブルにおいて、前記指定された基点視差と同一の視差に対応付けられた最左端である特徴点の位置および最右端である特徴点の位置に補正することを特徴とする、請求項6に記載の立体視画像編集方法。
  11.  ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する立体視画像編集方法をコンピュータに実行させる、立体視画像編集プログラムであって、
     編集対象となる前記立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長ステップと、
     前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、切取り編集領域を指定する切取り編集領域指定ステップと、
     前記指定された切取り編集領域に基づいて、前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とを切取り編集する切取り編集ステップと、
     前記切取り編集された左眼用画像と右眼用画像とについて、前記切取り編集領域の枠自体が有する視差である基点視差を指定する基点視差指定ステップと、
     前記指定された基点視差に基づいて、前記切取り編集領域を補正する切取り編集領域補正ステップと、
     前記補正された切取り編集領域で切取り編集された左眼用画像と右眼用画像とを前記立体視画像編集装置に保存する編集画像保存ステップとを実行させる、立体視画像編集プログラム。
  12.  ディスプレイに表示された左眼用画像と右眼用画像とから構成される立体視画像を、使用者の所望の立体感を有する立体視画像に編集する、集積回路であって、
     前記立体視画像を記憶する記憶部と、
     前記記憶部に記憶されている前記立体視画像を前記ディスプレイに表示可能な形式に変換する圧縮伸長部と、
     前記ディスプレイに表示された立体視画像の左眼用画像と右眼用画像とについて、前記使用者によって指定された切取り編集領域に基づいて、当該左眼用画像と右眼用画像とを切取り編集する切取り編集部と、
     前記切取り編集された左眼用画像と右眼用画像とについて、前記使用者によって指定された前記切取り編集領域の枠自体が有する視差である基点視差に基づいて、前記切取り編集領域を補正する切取り編集領域補正部とを備える、集積回路。
PCT/JP2010/003255 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法 WO2011024352A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US13/058,263 US8682061B2 (en) 2009-08-25 2010-05-13 Stereoscopic image editing apparatus and stereoscopic image editing method
JP2011507737A JP5496185B2 (ja) 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法
CN201080002499XA CN102144396A (zh) 2009-08-25 2010-05-13 立体视觉图像编辑装置及立体视觉图像编辑方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009194803 2009-08-25
JP2009-194803 2009-08-25

Publications (1)

Publication Number Publication Date
WO2011024352A1 true WO2011024352A1 (ja) 2011-03-03

Family

ID=43627475

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/003255 WO2011024352A1 (ja) 2009-08-25 2010-05-13 立体視画像編集装置および立体視画像編集方法

Country Status (4)

Country Link
US (1) US8682061B2 (ja)
JP (1) JP5496185B2 (ja)
CN (1) CN102144396A (ja)
WO (1) WO2011024352A1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120257816A1 (en) * 2011-04-08 2012-10-11 Sony Corporation Analysis of 3d video
JP2012216979A (ja) * 2011-03-31 2012-11-08 Sony Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2013201470A (ja) * 2012-03-23 2013-10-03 Nintendo Co Ltd 情報処理装置、情報処理プログラム、情報処理システム、および情報処理方法
WO2013146067A1 (ja) * 2012-03-30 2013-10-03 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、記録媒体及びプログラム
CN104553251A (zh) * 2014-12-26 2015-04-29 东莞市智澳通用机械设备有限公司 一种背光源模块贴膜机的除尘装置
JP2015233313A (ja) * 2015-07-28 2015-12-24 ソニー株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2016511979A (ja) * 2013-03-13 2016-04-21 インテル コーポレイション 3次元画像編集のための改善された技術
JP2017143534A (ja) * 2017-03-10 2017-08-17 ソニー株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US10884841B2 (en) 2018-01-17 2021-01-05 Kabushiki Kaisha Toshiba Information processing device, information processing method, and recording medium

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130311861A1 (en) * 2012-05-18 2013-11-21 Chidopi Co., Ltd. Effect Editing Methods, Systems, Application Products and Electronic Devices for Electronic Books
WO2013186960A1 (ja) * 2012-06-15 2013-12-19 パナソニック株式会社 画像データ処理装置及び画像データ処理方法
DE102012012501B4 (de) * 2012-06-21 2019-10-24 Volkswagen Aktiengesellschaft Kamerasystem für ein Kraftfahrzeug
US10114532B2 (en) * 2013-12-06 2018-10-30 Google Llc Editing options for image regions

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317429A (ja) * 1995-05-23 1996-11-29 Matsushita Electric Ind Co Ltd 立体電子ズーム装置及び立体画質制御装置
JP2004343290A (ja) * 2003-05-14 2004-12-02 Sharp Corp 立体画像表示装置
JP2005130310A (ja) * 2003-10-24 2005-05-19 Sony Corp 立体視画像処理装置
JP2006033228A (ja) * 2004-07-14 2006-02-02 Victor Co Of Japan Ltd 画像撮像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6108005A (en) * 1996-08-30 2000-08-22 Space Corporation Method for producing a synthesized stereoscopic image
JP2001326947A (ja) * 2000-05-12 2001-11-22 Sony Corp 立体画像表示装置
JP2002125245A (ja) * 2000-10-17 2002-04-26 Sony Corp 立体画像編集方法、立体画像編集装置および立体画像表示システム
TWI223780B (en) * 2001-01-24 2004-11-11 Vrex Inc Method for zooming a stereoscopic image, article of manufacture comprising a computer usable medium, computer related product for use with a graphics display device, and program storage device readable by a machine and tangibly embodying a program of iK
US7773799B2 (en) * 2004-04-02 2010-08-10 The Boeing Company Method for automatic stereo measurement of a point of interest in a scene
JP4692770B2 (ja) * 2006-12-27 2011-06-01 富士フイルム株式会社 複眼デジタルカメラ

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317429A (ja) * 1995-05-23 1996-11-29 Matsushita Electric Ind Co Ltd 立体電子ズーム装置及び立体画質制御装置
JP2004343290A (ja) * 2003-05-14 2004-12-02 Sharp Corp 立体画像表示装置
JP2005130310A (ja) * 2003-10-24 2005-05-19 Sony Corp 立体視画像処理装置
JP2006033228A (ja) * 2004-07-14 2006-02-02 Victor Co Of Japan Ltd 画像撮像装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9282318B2 (en) 2011-03-31 2016-03-08 Sony Corporation Image processing device, image processing method and image processing computer program product
JP2012216979A (ja) * 2011-03-31 2012-11-08 Sony Corp 画像処理装置、画像処理方法及び画像処理プログラム
US10051258B2 (en) 2011-03-31 2018-08-14 Sony Corporation Image processing device, image processing method and image processing computer program product
US9667945B2 (en) 2011-03-31 2017-05-30 Sony Corporation Image processing device, image processing method and image processing computer program product
CN102740117A (zh) * 2011-04-08 2012-10-17 索尼公司 3d视频分析
US20120257816A1 (en) * 2011-04-08 2012-10-11 Sony Corporation Analysis of 3d video
JP2013201470A (ja) * 2012-03-23 2013-10-03 Nintendo Co Ltd 情報処理装置、情報処理プログラム、情報処理システム、および情報処理方法
JPWO2013146067A1 (ja) * 2012-03-30 2015-12-10 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、記録媒体及びプログラム
US9609302B2 (en) 2012-03-30 2017-03-28 Fujifilm Corporation Image processing device, imaging device, image processing method, and recording medium
WO2013146067A1 (ja) * 2012-03-30 2013-10-03 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、記録媒体及びプログラム
JP2016511979A (ja) * 2013-03-13 2016-04-21 インテル コーポレイション 3次元画像編集のための改善された技術
CN104553251A (zh) * 2014-12-26 2015-04-29 东莞市智澳通用机械设备有限公司 一种背光源模块贴膜机的除尘装置
JP2015233313A (ja) * 2015-07-28 2015-12-24 ソニー株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2017143534A (ja) * 2017-03-10 2017-08-17 ソニー株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US10884841B2 (en) 2018-01-17 2021-01-05 Kabushiki Kaisha Toshiba Information processing device, information processing method, and recording medium

Also Published As

Publication number Publication date
CN102144396A (zh) 2011-08-03
JPWO2011024352A1 (ja) 2013-01-24
US8682061B2 (en) 2014-03-25
JP5496185B2 (ja) 2014-05-21
US20120139900A1 (en) 2012-06-07

Similar Documents

Publication Publication Date Title
JP5496185B2 (ja) 立体視画像編集装置および立体視画像編集方法
US9741152B2 (en) Image processing apparatus, image processing method, and computer program
JP6309749B2 (ja) 画像データ再生装置および画像データ生成装置
KR101802238B1 (ko) 휴대용 단말기에서 입체 영상 데이터를 생성하기 위한 장치 및 방법
EP2448276B1 (en) GUI providing method, and display apparatus and 3D image providing system using the same
TWI444036B (zh) 2d至3d使用者介面內容資料轉換
JP6002043B2 (ja) 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体
JP4925354B2 (ja) 画像処理装置、画像表示装置、撮像装置及び画像処理方法
JP5546633B2 (ja) 立体画像再生装置、立体画像再生システム及び立体画像再生方法
US20090244258A1 (en) Stereoscopic display apparatus, stereoscopic display method, and program
US9154772B2 (en) Method and apparatus for converting 2D content into 3D content
JP2012109934A (ja) 立体画像表示装置
JP6033625B2 (ja) 多視点画像生成装置、画像生成方法、表示装置、プログラム、及び、記録媒体
JP5064424B2 (ja) 立体画像表示装置及び立体画像表示方法
JP2004356772A (ja) 三次元立体画像表示装置およびコンピュータに三次元立体画像表示機能を付与するプログラム
US9986222B2 (en) Image processing method and image processing device
US9123146B2 (en) Stereoscopic image display control apparatus, and stereoscopic image display control method
JP2012103980A (ja) 画像処理装置、画像処理方法及びプログラム
WO2013027305A1 (ja) 立体映像処理装置、及び立体映像処理方法
JP2008167310A (ja) 裸眼立体視画像処理方法および装置ならびに演算プログラムを記録した記録媒体
JPH07239951A (ja) 立体画像生成方法
US9253477B2 (en) Display apparatus and method for processing image thereof
JPH1139508A (ja) 立体画像表示装置および方法ならびに立体画像表示プログラムを記録したコンピュータで読取可能な記録媒体
JPH1155690A (ja) 立体表示方法および立体表示装置ならびに立体表示プログラムを記録したコンピュータで読取可能な記録媒体
JP2012169822A (ja) 画像処理方法及び画像処理装置

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201080002499.X

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2011507737

Country of ref document: JP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10811411

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 13058263

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 10811411

Country of ref document: EP

Kind code of ref document: A1