JP2006146428A - Device and program for setting edition condition of photo-movie - Google Patents

Device and program for setting edition condition of photo-movie Download PDF

Info

Publication number
JP2006146428A
JP2006146428A JP2004333454A JP2004333454A JP2006146428A JP 2006146428 A JP2006146428 A JP 2006146428A JP 2004333454 A JP2004333454 A JP 2004333454A JP 2004333454 A JP2004333454 A JP 2004333454A JP 2006146428 A JP2006146428 A JP 2006146428A
Authority
JP
Japan
Prior art keywords
image
face image
photo movie
cutout
cutout area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004333454A
Other languages
Japanese (ja)
Inventor
Hiroshi Yamaji
啓 山路
Hajime Shintani
一 新谷
Fumihiro Sonoda
文博 園田
Takayuki Iida
孝之 飯田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2004333454A priority Critical patent/JP2006146428A/en
Priority to US11/280,272 priority patent/US20060115185A1/en
Publication of JP2006146428A publication Critical patent/JP2006146428A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To reduce time and labor required for the input of edition conditions to be performed by a customer himself or herself when ordering a photo-movie. <P>SOLUTION: In inputting the edition conditions of a photo-movie, when zoom effects or pan effects for enlarging and displaying a portion of a segmented still image are selected, a segmentation region being the object of the segmentation of the still image is set. The segmentation region is preliminarily designated by a user, and when the face image of a figure is detected in the segmentation region, it is automatically adjusted into the segmentation region having an attractive optimal margin on the basis of the position and size of the face image. When any face image is not detected in the segmentation region, the position and size of the face image is changed by manual adjustment. When performing manual adjustment, the size of the segmentation region is restricted so as to be made larger than the preliminarily decided size. Thus, it is possible to prevent the deterioration of the quality of the photo-movie due to the excessive increase of magnifying power. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、素材となる静止画から動画として観賞されるフォトムービーを作成するための編集条件を設定するフォトムービーの編集条件設定装置及び編集条件設定プログラムに関する。   The present invention relates to a photo movie editing condition setting device and an editing condition setting program for setting editing conditions for creating a photo movie to be viewed as a moving image from a still image as a material.

フォトムービーは、デジタルカメラ等を用いて記録された静止画を加工編集して特殊効果を施すことにより、素材の静止画を動画に変換したものである。この特殊効果には、静止画の一部の領域に注目してズームイン/ズームアウトする電子ズーム効果、クローズアップした状態で画像をスクロールさせる電子パーン効果、画像を縮小表示して直線又は曲線状に移動させる移動効果、特定の一点を中心に画像を回転させる回転効果、歪み(スキュー)を与える歪曲効果、これらを組み合わせた複合効果等がある。   A photo movie is obtained by converting a still image of a material into a moving image by processing and editing a still image recorded using a digital camera or the like and applying a special effect. This special effect includes an electronic zoom effect that zooms in / out by focusing on a part of a still image, an electronic Pan effect that scrolls the image in a close-up state, and a reduced image that is displayed in a straight line or curved line. There are a moving effect for moving, a rotating effect for rotating an image around a specific point, a distortion effect for giving distortion (skew), a combined effect combining these, and the like.

フォトムービーでは、これらの特殊効果を使用して静止画に対する視点を擬似的に変化させることにより、特定の注目被写体を演出することや、画像を躍動的に表現することができる。また、複数の画像を同時に表示するマルチ画面効果、アニメーション画像や装飾画像、字幕の合成による視覚効果が併用されることや、これらの特殊効果を与えずにスライドショーとして画像を表示するものなど、その表示形態には様々なものがある。なお、以下の説明では、これらの特殊効果をエフェクトと称する。   In a photo movie, by using these special effects to change the viewpoint of a still image in a pseudo manner, it is possible to produce a specific subject of interest and to express an image dynamically. In addition, multi-screen effects that display multiple images at the same time, animation images, decorative images, visual effects by combining subtitles, and those that display images as a slide show without giving these special effects, such as There are various display forms. In the following description, these special effects are referred to as effects.

特許文献1及び非特許文献1には、フォトムービーを作成するためのソフトウェアについて記載されている。これらのソフトウェアでは、フォトムービーの素材となる静止画を選択した後に、再生順序やエフェクトの種類等からなる編集条件を設定することでフォトムービーを作成することができる。作成されたフォトムービーは、これらのソフトウェア上で観賞することができる。また、フォトムービーの映像を汎用的なデジタル動画フォーマットに変換し、DVD等の光ディスクに記録すれば、上記ソフトウェアを用いることなく、家庭用DVDプレイヤー等でフォトムービーを観賞できる。   Patent Document 1 and Non-Patent Document 1 describe software for creating a photo movie. In these softwares, a photo movie can be created by selecting a still image as a material for the photo movie and then setting editing conditions such as a reproduction order and an effect type. The created photo movie can be viewed on these softwares. Also, if the video of the photo movie is converted into a general-purpose digital video format and recorded on an optical disc such as a DVD, the photo movie can be viewed on a home DVD player or the like without using the above software.

非特許文献1に記載されたソフトウェアには、全ての画像の編集条件をユーザーが設定できるマニュアル編集モードと、素材とする画像を選択するだけでフォトムービーが自動的に作成される自動編集モードが用意されている。自動編集モードでは、静止画の選択順で再生順序が決定され、各画像のエフェクトの種類等はプログラムにより自動で設定されるので、操作手順が非常に簡単になる。
特開平10−200843号公報 株式会社デジタルステージ LIFE* with-Photo-Cinema [平成16年4月6日検索]インターネット<URL:http://www.digitalstage.net/jp/product/life/index.html>
The software described in Non-Patent Document 1 has a manual editing mode in which the user can set editing conditions for all images, and an automatic editing mode in which a photo movie is automatically created simply by selecting an image as a material. It is prepared. In the automatic editing mode, the playback order is determined according to the selection order of the still images, and the effect type of each image is automatically set by the program, so that the operation procedure becomes very simple.
Japanese Patent Laid-Open No. 10-200843 Digital Stage Co., Ltd. LIFE * with-Photo-Cinema [Search April 6, 2004] Internet <URL: http://www.digitalstage.net/jp/product/life/index.html>

しかしながら、上述の自動編集モードは、画像の内容に基づいて適切にエフェクトが設定されるものではないため、電子ズーム効果や電子パーン効果のように画像を拡大表示するエフェクトが選択されたときに、人物の被写体を無視した映像になることがあり、ユーザーの希望する作品が得られにくいという欠点がある。また、従来のマニュアル編集モードを使用してこのような事態を回避しようとすると、画像を拡大表示するために切り出される静止画の特定の一部を決める切り出し領域の位置や大きさをユーザーが詳細に設定しなければならず、各画像の人物を画面上でバランスよく表示させるためには、大変な手間がかかるという問題がある。また、人物に限らず、風景や建物等を注目被写体にする場合もあることから、ユーザーの希望する作品を得るためには編集作業に多大な労力を要するという問題があった。   However, in the above-described automatic editing mode, the effect is not appropriately set based on the content of the image, so when an effect for enlarging an image such as an electronic zoom effect or an electronic panning effect is selected, There is a drawback that it may be difficult to obtain a work desired by the user because the video may ignore a human subject. Also, when trying to avoid such a situation using the conventional manual editing mode, the user details the position and size of the clipping region that determines the specific part of the still image that is clipped to enlarge the image. In order to display the person of each image in a balanced manner on the screen, there is a problem that it takes a lot of time and effort. Further, since not only a person but also a landscape, a building, or the like may be a subject of attention, there is a problem that a great deal of labor is required for editing in order to obtain a work desired by the user.

本発明は、上記問題点を考慮してなされたもので、マニュアル編集モードを用いて人物の被写体を見映えよく表示するために必要な編集作業の手間が従来に比べて軽減でき、風景や建物等の人物以外の被写体を注目被写体にすることができ、ユーザーの希望する作品をより簡単に作成できるようにしたフォトムービーの編集条件設定装置及び編集条件設定プログラムを提供することを目的とする。   The present invention has been made in consideration of the above-mentioned problems, and the manual editing mode can reduce the labor of editing necessary to display a person's subject in a good-looking manner compared to the conventional one, and can be used for landscapes and buildings. It is an object of the present invention to provide a photo movie editing condition setting device and an editing condition setting program that can make a subject other than a person such as a subject of interest and easily create a work desired by a user.

上記目的を達成するために、本発明は、静止画の一部を切り出してこれに加工編集処理を施して前記静止画を素材とするフォトムービーを作成する際に、前記静止画の一部を切り出す対象となる切り出し領域を前記フォトムービーの編集条件として設定するフォトムービーの編集条件設定装置において、前記静止画から人物の顔画像を検出する顔画像検出手段と、ディスプレイの表示画面に表示された前記静止画上で前記切り出し領域を指定するための切り出し領域指定手段と、前記切り出し領域内に前記顔画像が存在するか否かを判定する顔画像判定手段と、前記切り出し領域内に前記顔画像が存在する時に、前記切り出し領域内の顔画像の位置及び大きさの少なくとも一方に基づいて前記切り出し領域を調整する切り出し領域調整手段とを備えたことを特徴とする。   In order to achieve the above-mentioned object, the present invention cuts out a part of a still image, applies a processing and editing process to the still image, and creates a photo movie using the still image as a material. In a photo movie editing condition setting device for setting a clipping region to be clipped as a photo movie editing condition, face image detection means for detecting a human face image from the still image and a display screen of a display Cutout area designating means for designating the cutout area on the still image, face image determining means for judging whether or not the face image exists in the cutout area, and the face image in the cutout area Clipping region adjusting means for adjusting the clipping region based on at least one of the position and size of the face image in the clipping region when Characterized by comprising.

前記切り出し領域指定手段は、前記静止画上にある1つの任意のポイントが指定されることにより、指定されたポイントを基点として所定の大きさを有する切り出し領域を画定することを特徴とする。   The cutout area specifying means defines a cutout area having a predetermined size with the specified point as a base point by specifying one arbitrary point on the still image.

前記顔画像検出手段は、前記切り出し領域内の画像から前記顔画像を検出することを特徴とする。   The face image detection means detects the face image from an image in the cutout region.

前記切り出し領域内の画像を拡大表示させる場合には、前記切り出し領域内の画素数が予め決められた基準値よりも小さい時に、前記切り出し領域の大きさが前記基準値を上回る画素数となるように調整する画素数調整手段を備えたことを特徴とする。   When the image in the cutout area is enlarged and displayed, when the number of pixels in the cutout area is smaller than a predetermined reference value, the size of the cutout area is larger than the reference value. It is characterized by comprising a pixel number adjusting means for adjusting the number of pixels.

前記切り出し領域調整手段による切り出し領域の調整を実行するか否かを選択するための領域調整選択手段を備えたことを特徴とする。   An area adjustment selection unit is provided for selecting whether or not to adjust the cutout area by the cutout area adjustment unit.

前記顔画像検出手段によって顔画像が検出された静止画に対し、画質補正処理を行う第1の画質補正手段を備えたことを特徴とする。   The image processing apparatus includes a first image quality correction unit that performs image quality correction processing on the still image from which the face image is detected by the face image detection unit.

記憶媒体から前記静止画の画像データを読み出す画像読み出し手段と、前記編集条件の設定を行う前に、読み出された画像データに画質補正処理を行う第2の画質補正手段を備えたことを特徴とする。   Image reading means for reading image data of the still image from a storage medium, and second image quality correction means for performing image quality correction processing on the read image data before setting the editing conditions And

また、本発明の編集条件設定プログラムは、静止画の一部を切り出してこれに加工編集処理を施して前記静止画を素材とするフォトムービーを作成する際に、前記静止画の一部を切り出す対象となる切り出し領域を前記フォトムービーの編集条件として設定する処理をコンピュータに実行させるものであり、前記静止画から人物の顔画像を検出する顔画像検出手段と、ディスプレイの表示画面に表示された前記静止画上で前記切り出し領域を指定するための切り出し領域指定手段と、前記切り出し領域内に前記顔画像が存在するか否かを判定する顔画像判定手段と、前記切り出し領域内に前記顔画像が存在する時に、前記切り出し領域内の顔画像の位置及び大きさの少なくとも一方に基づいて前記切り出し領域を調整する切り出し領域調整手段としてコンピュータを機能させることを特徴とする。   The editing condition setting program of the present invention cuts out a part of the still image when a part of the still image is cut out and processed and edited to create a photo movie using the still image as a material. A process for setting a target cut-out area as an editing condition of the photo movie is executed by a computer, and is displayed on a display screen of a face image detecting means for detecting a human face image from the still image. Cutout area designating means for designating the cutout area on the still image, face image determining means for judging whether or not the face image exists in the cutout area, and the face image in the cutout area A cutout region adjusting hand that adjusts the cutout region based on at least one of the position and size of the face image in the cutout region And characterized by causing a computer to function as a.

本発明によれば、画像の拡大表示を伴う電子ズーム効果、電子パーン効果のように、切り出し領域を設定する必要のあるエフェクトに関する編集条件を設定する場合に、ユーザーにより指定された切り出し領域内に、静止画から検出された人物の顔画像が存在するか否かを判定し、切り出し領域内に顔画像が存在すると判定された場合には、顔画像の位置又は大きさの少なくとも一方に基づいて切り出し領域が調整されるから、人物に注目した最適な切り出し領域を簡単に設定でき、人物の顔を見映えよく画面内に収めたフォトムービーを得ることができるる。また、風景や背景の一部に注目した切り出し領域を設定することができ、ユーザーの多くの意図を反映させたフォトムービーを得ることができる。   According to the present invention, when editing conditions related to an effect that requires setting of a clipping region, such as an electronic zoom effect and an electronic panning effect with an enlarged image display, are set in the clipping region specified by the user. Determining whether or not a face image of a person detected from a still image exists, and if it is determined that a face image exists in the cutout region, based on at least one of the position or size of the face image Since the cutout area is adjusted, the optimum cutout area focused on the person can be easily set, and a photo movie can be obtained in which the face of the person looks good and is stored on the screen. In addition, it is possible to set a cutout region that focuses on a part of the landscape or background, and obtain a photo movie that reflects many of the user's intentions.

また、ユーザーにより切り出し領域を指定する操作がなされる際、静止画上の任意の1点が指定されることで指定されたポイントを基点とする所定の大きさの切り出し領域が画定されるから、切り出し領域の指定が簡単になる。   In addition, when the user performs an operation of specifying a cutout area, a cutout area having a predetermined size with the specified point as a base point is defined by specifying any one point on the still image. It is easy to specify the clipping area.

また、画面に表示された静止画上で切り出し領域を指定し、この切り出し領域内の画像から顔画像を検出するようにしたので、静止画全体から顔画像を検出する場合に比べて顔画像の検出に要する時間を短縮できる。   In addition, since the cutout area is specified on the still image displayed on the screen and the face image is detected from the image in the cutout area, the face image is compared with the case of detecting the face image from the entire still image. The time required for detection can be shortened.

また、予め決められた基準値を下回る画素数の切り出し領域を指定できないようにしたから、過度に小さい切り出し領域が指定された時に、切り出し領域内の画像が拡大される倍率が極端に大きくならず、表示される画像が粗くなる画質の劣化によってフォトムービーの品質が低下することを防止できる。   In addition, since the clipping region with the number of pixels below the predetermined reference value cannot be specified, the magnification at which the image in the clipping region is enlarged does not become extremely large when an excessively small clipping region is specified. Therefore, it is possible to prevent the quality of the photo movie from being deteriorated due to the deterioration of the image quality that makes the displayed image coarse.

また、切り出し領域の調整を有効にするか無効にするかを選択できるようにしたから、切り出し領域内の画像から顔画像が検出された場合でも、人物と背景とをバランスよく収めた切り出し領域を設定でき、ユーザーのより多くの意図を反映させたフォトムービーを得ることができる。   In addition, since it is now possible to select whether to enable or disable adjustment of the cutout area, even if a face image is detected from an image in the cutout area, a cutout area in which the person and the background are stored in a balanced manner It can be set, and a photo movie reflecting more user's intentions can be obtained.

顔画像が検出された静止画に対して画質補正処理を行うことにより、顔画像が拡大表示された際の画像の粗さによるフォトムービーの品質の低下を小さくすることができる。   By performing image quality correction processing on the still image from which the face image is detected, it is possible to reduce the deterioration of the quality of the photo movie due to the roughness of the image when the face image is enlarged and displayed.

記憶媒体から読み出される全ての静止画に対して画質補正処理を行うことにより、顔画像の検出精度を高めることができるとともに、編集条件の設定時にフォトムービーの品質を知ることができる。   By performing image quality correction processing on all the still images read from the storage medium, it is possible to improve the accuracy of face image detection and to know the quality of the photo movie when setting the editing conditions.

図1において、フォトムービー注文受付システム10は、注文受付機11とフォトムービー出力機12とにより構成されている。注文受付機11とフォトムービー出力機12は同一のDPE店等の店舗内に設置され、店舗の構内ネットワーク(LAN)により互いに通信可能に接続されている。なお、注文受付機11がフォトムービー出力機12に対して遠隔地に設置される場合には、両者がインターネットを介して通信可能に接続されてもよい。   In FIG. 1, a photo movie order receiving system 10 includes an order receiving machine 11 and a photo movie output machine 12. The order reception device 11 and the photo movie output device 12 are installed in the same store such as the DPE store, and are connected to each other through a local network (LAN) of the store. In the case where the order receiving machine 11 is installed at a remote location with respect to the photo movie output machine 12, both may be communicably connected via the Internet.

注文受付機11は、顧客が注文内容を入力するための入力操作部15と、注文内容を表示するための表示部16とを備えている。入力操作部15は、表示部16の表示画面と一体に設けられたタッチパネルからなり、画面上に表示された選択キー等の位置に触れることで入力処理が行われる。メディア読取り部17は、顧客が持参した記憶媒体から画像データを読取るもので、メモリカード18とCD又はDVDの光ディスク19とからデータの読取りが可能である。メモリカード18は、デジタルカメラに着脱自在であり、撮影画像を保存するために用いられる。光ディスク19は、パーソナルコンピュータ等に保存された画像データがコピーされ、メモリカード18よりも多くの撮影画像を保存できる大容量記憶媒体である。   The order receiving machine 11 includes an input operation unit 15 for a customer to input order details and a display unit 16 for displaying the order details. The input operation unit 15 includes a touch panel provided integrally with the display screen of the display unit 16, and input processing is performed by touching a position of a selection key or the like displayed on the screen. The media reading unit 17 reads image data from a storage medium brought by the customer, and can read data from the memory card 18 and a CD or DVD optical disk 19. The memory card 18 is detachable from the digital camera, and is used for storing captured images. The optical disk 19 is a large-capacity storage medium in which image data stored in a personal computer or the like is copied and can store more photographed images than the memory card 18.

通信部21は、注文受付機11とフォトムービー出力機12との間でデータの送受信を行う。レシート出力部22は、顧客が商品を受け取る際の引換証となるレシート23を発行する。レシート23には、顧客の注文内容を識別するための識別情報が印刷されている。この識別情報は、注文番号、注文を受付けた受付機の識別コード、商品の受渡し日時及び受渡し店舗を示す情報等がバーコードと文字でそれぞれ記録されている。   The communication unit 21 transmits and receives data between the order receiving machine 11 and the photo movie output machine 12. The receipt output unit 22 issues a receipt 23 that serves as an exchange certificate when the customer receives the product. The receipt 23 is printed with identification information for identifying the order contents of the customer. In this identification information, the order number, the identification code of the accepting machine that accepted the order, the delivery date and time of the product, information indicating the delivery store, etc. are recorded in bar code and characters, respectively.

制御部25及び編集条件設定部26は、注文受付機11に内蔵された記憶装置に格納されたオペレーティングシステムとフォトムービーの編集条件を設定する編集条件設定プログラムとをマイクロプロセサに実行させることによりそれぞれ実現される。この記憶装置は、例えばハードディスク記憶装置(HDD)又は多数のメモリチップからなるメモリユニットにより構成される。制御部25は、メディア読取り部17,通信部21等の各ハードウェアを制御し、入力操作部15でなされた操作に応じて各部の動作を管理する。   The control unit 25 and the editing condition setting unit 26 cause the microprocessor to execute an operating system stored in a storage device built in the order receiving machine 11 and an editing condition setting program for setting photo movie editing conditions. Realized. This storage device is constituted by, for example, a hard disk storage device (HDD) or a memory unit including a large number of memory chips. The control unit 25 controls the hardware such as the media reading unit 17 and the communication unit 21 and manages the operation of each unit according to the operation performed by the input operation unit 15.

編集条件設定部26では、顧客の入力操作等によりフォトムービーに使用する各静止画についてエフェクトの有無やその種類等の編集条件を設定するための処理が行われる。編集条件設定部26は、予め用意されたシナリオテンプレートに従って全ての静止画のエフェクトを自動的に決定する自動編集モードと、顧客の手動設定により画像ごとにエフェクトの設定が行われるマニュアル編集モードとを有する。自動編集モードのシナリオテンプレートには、季節や年間行事等のテーマ別に複数種類のものが用意されており、旅行用のテンプレート、結婚式や卒業式用のテンプレート、正月、ひなまつり、七夕、クリスマス用のテンプレートなどがある。テンプレートごとに、撮影画像に合成される装飾画像の種類や、選ばれやすいエフェクトが異なっている。   The editing condition setting unit 26 performs processing for setting editing conditions such as the presence / absence of an effect and the type of each still image used for the photo movie by a customer's input operation or the like. The editing condition setting unit 26 includes an automatic editing mode in which effects of all still images are automatically determined according to a prepared scenario template, and a manual editing mode in which effects are set for each image by a customer's manual setting. Have. There are several types of scenario templates for the automatic editing mode for different themes such as seasons and annual events. Templates for travel, templates for weddings and graduations, New Year, Hinamatsuri, Tanabata, Christmas There are templates. The type of decoration image to be combined with the photographed image and the effect that can be easily selected are different for each template.

プレビュー動画出力部28は、編集条件設定部26により設定された編集条件に基づいて、実際に作成されるフォトムービーと同様にエフェクトが付与されたプレビュー用フォトムービーを出力する。プレビュー動画出力部28は、メモリカード18や光ディスク19から読み出した撮影画像の画素数を小さくした低解像度画像を生成し、この低解像度画像からプレビュー用フォトムービーを作成する。低解像度画像を用いることで、プレビュー用フォトムービーの生成及び再生表示に要するマイクロプロセサの負荷が軽減される。プレビュー用フォトムービーは表示部16に表示され、その仕上がりの品質が顧客に伝えられる。   The preview moving image output unit 28 outputs a preview photo movie to which an effect is applied in the same manner as a photo movie actually created based on the editing conditions set by the editing condition setting unit 26. The preview moving image output unit 28 generates a low resolution image in which the number of pixels of the captured image read from the memory card 18 or the optical disk 19 is reduced, and creates a preview photo movie from the low resolution image. By using the low-resolution image, the load on the microprocessor required to generate and display the preview photo movie is reduced. The preview photo movie is displayed on the display unit 16, and the quality of the finished product is transmitted to the customer.

編集条件設定部26は、シナリオデータ生成部29と、切り出し領域設定部30と、顔画像検出部31とを有している。シナリオデータ生成部29は、画像の再生順序、各画像のエフェクトの有無やその種類等が指定された編集条件を組み込んだシナリオデータを作成する。シナリオデータは、エフェクトの種類やその詳細な設定内容が画像データのファイル名に関連付けされることにより構成される。シナリオデータは、注文情報の一部として静止画の画像データとともにフォトムービー出力機12に送信される。   The editing condition setting unit 26 includes a scenario data generation unit 29, a cutout region setting unit 30, and a face image detection unit 31. The scenario data generation unit 29 creates scenario data incorporating editing conditions in which the image playback order, the presence / absence of the effect of each image, and the type thereof are specified. The scenario data is configured by associating the effect type and its detailed setting contents with the file name of the image data. The scenario data is transmitted to the photo movie output machine 12 together with still image data as part of the order information.

切り出し領域設定部30は、静止画の一部を切り出して特殊効果を付与するための切り出し領域を設定する。この切り出し領域は、静止画の一部に注目してズームイン又はズームアウトを行うズームエフェクトや、クローズアップした状態で画像をスクロールさせるパーンエフェクト、静止画の一部を除いて暗転表示することにより静止画にスポットライトを当てたような効果を出すスポットライトエフェクト等、静止画中の注目被写体を演出したい場合に使用されるエフェクトのパラメータである。   The cutout area setting unit 30 sets a cutout area for cutting out a part of a still image and adding a special effect. This cropping area is displayed by zooming in and out, focusing on a part of the still image, a panning effect that scrolls the image in a close-up state, and darkened by excluding part of the still image. This is an effect parameter used when it is desired to produce a subject of interest in a still image, such as a spotlight effect that produces an effect as if a spotlight is applied to an image.

例えば、ズームエフェクトは、静止画全体を縮小又は等倍表示した状態から切り出し領域により定まる表示範囲の間で倍率を変化させて静止画を表示する。すなわち、切り出し領域により、ズームインの終了時の表示範囲、ズームアウトの開始時の表示範囲が定められる。また、パーンエフェクトでは、パーンの開始及び終了時にクローズアップされる画像の抽出範囲が定められ、スポットライトエフェクトでは、明るく表示される領域が定められる。ズームエフェクトやパーンエフェクトでは、フォトムービーを再生表示する表示デバイスの画面のアスペクト比に基づいてアスペクト比が固定された矩形の切り出し領域が設定され、スポットライトエフェクトや他のエフェクトでは切り出し領域の形状を円形等の他の形状に指定することができる。なお、ズームエフェクトでは、1つの切り出し領域が設定され、パーンエフェクトでは、複数の切り出し領域が設定される。これらの切り出し領域は、表示部16の画面上に切り出し枠F11(図4参照)として表示される。   For example, the zoom effect displays a still image by changing the magnification between a display range determined by a cutout region from a state where the entire still image is reduced or displayed at the same magnification. That is, the cut-out area defines a display range at the end of zoom-in and a display range at the start of zoom-out. In addition, in the Pann effect, an extraction range of an image to be closed up at the start and end of Pann is determined, and in the spotlight effect, a brightly displayed region is determined. In the zoom effect and pann effect, a rectangular cutout area with a fixed aspect ratio is set based on the aspect ratio of the screen of the display device that plays and displays the photo movie. In the spotlight effect and other effects, the shape of the cutout area is set. Other shapes such as a circle can be specified. In the zoom effect, one clipping region is set, and in the panning effect, a plurality of clipping regions are set. These cutout areas are displayed on the screen of the display unit 16 as a cutout frame F11 (see FIG. 4).

顔画像検出部31は、静止画中に存在する人物の顔画像を検出する。顔画像の検出が行われる際には、顔画像を検出する範囲が切り出し領域によって指定され、切り出し領域内の顔画像が検出される。顔画像の検出処理は、静止画の画素ごとの色情報に基づいて肌色である皮膚が識別され、さらに瞳や眉毛、髪の有無から顔画像が識別される。また、顔の皮膚を示す肌色の画素と髪や眉毛、瞳を示す黒色の画素の配列パターンや、背景との輝度差等に基づき顔及び頭部の輪郭が識別され、その形状が特定される。   The face image detection unit 31 detects a face image of a person present in a still image. When a face image is detected, a range for detecting the face image is designated by the cutout area, and the face image in the cutout area is detected. In the face image detection process, the skin color is identified based on the color information for each pixel of the still image, and the face image is identified based on the presence or absence of pupils, eyebrows, and hair. Further, the contours of the face and head are identified based on the arrangement pattern of skin-colored pixels indicating the skin of the face and black pixels indicating the hair, eyebrows, and pupils, the luminance difference from the background, and the like, and the shape is specified. .

切り出し領域設定部30には、顔画像検出部31により検出された人物の顔が見映えよく表示されるように、検出された顔画像に基づいて顔画像の天地左右の余白を最適にする切り出し領域を画定するための推奨余白データが記憶されている。様々な撮影シーンにより最適とされる余白が異なるため、推奨余白データは、例えば、素材の静止画が横長の画像である場合と縦長の画像である場合ごとに、検出された顔画像の数(人数)や、それぞれの顔の位置関係、顔画像が静止画全体に占める割合等の特徴情報に応じて分類されたものが予め用意されている。   In the cutout area setting unit 30, a cutout that optimizes the left and right margins of the face image based on the detected face image so that the face of the person detected by the face image detection unit 31 is displayed with good appearance. The recommended margin data for defining the area is stored. Since the optimum margin varies depending on various shooting scenes, the recommended margin data is, for example, the number of detected face images (when the still image of the material is a horizontally long image and a vertically long image ( Numbers classified according to feature information such as the number of persons), the positional relationship of each face, and the ratio of the face image to the entire still image are prepared in advance.

切り出し領域設定部30は、顔画像検出部31により検出された顔画像の特徴情報に基づき切り出し領域の位置及び大きさを調整する自動調整モードと、指定された切り出し領域を調整せず、顧客の入力操作をそのまま反映させる手動調整モードの2種類の動作モードを有している。自動調整モードと手動調整モードは、指定された切り出し領域に顔画像が存在するか否かにより切り替えられ、切り出し領域内に顔画像が存在する場合には自動調整モードに移行し、顔画像が存在しない場合には手動調整モードに移行する。   The cutout area setting unit 30 adjusts the position and size of the cutout area based on the feature information of the face image detected by the face image detection unit 31, and does not adjust the specified cutout area, There are two types of operation modes, a manual adjustment mode that reflects input operations as they are. The automatic adjustment mode and the manual adjustment mode are switched depending on whether or not a face image exists in the specified cutout area. If a face image exists in the cutout area, the mode shifts to the automatic adjustment mode and the face image exists. If not, shift to manual adjustment mode.

なお、所定の入力操作を行えば、自動調整モードから強制的に手動調整モードに移行させることもでき、切り出し領域から顔画像が検出された後、これにより決まる切り出し領域の適否に応じて、顧客が自由に指定できる切り出し領域に変更できる。手動調整モードでは、指定される切り出し領域の最低限の大きさが制限されており、切り出し領域が包含する画素数の下限が基準値として定められている。これにより、過度に小さい切り出し領域が指定されることが防止される。   In addition, if a predetermined input operation is performed, the automatic adjustment mode can be forcibly shifted to the manual adjustment mode. After a face image is detected from the cutout area, depending on the suitability of the cutout area determined by the customer, Can be changed to a clipping region that can be freely specified. In the manual adjustment mode, the minimum size of the designated cutout area is limited, and the lower limit of the number of pixels included in the cutout area is set as the reference value. This prevents an excessively small cutout area from being designated.

画質補正部32は、画像データに対して色調補正等の画質補正処理を行う。画質補正処理には、メディア読取り部17から読取られた全ての画像データに対して一律に行われるセットアップ補正処理と、顔画像検出部31により人物の顔が認識された際に行われる高品位処理とがある。セットアップ補正処理では、全ての画像に対し、グレーバランスの調整、肌色画素の調子を整える色合い調整、コントラスト調整等の基本的な画質補正処理が行われる。高品位処理は、ズームエフェクトやパーンエフェクトのように、顔画像検出部31により人物の顔が存在する静止画に対して行われるもので、撮影時のレンズ性能に起因する歪曲や周辺減光の補正、赤目補正処理、ノイズ低減処理、シャープネス補正、ジャギー低減処理等の画像の品質を高めるための画質補正処理が行われる   The image quality correction unit 32 performs image quality correction processing such as color tone correction on the image data. The image quality correction process includes a set-up correction process that is uniformly performed on all the image data read from the media reading unit 17 and a high-quality process that is performed when a human face is recognized by the face image detection unit 31. There is. In the setup correction process, basic image quality correction processes such as gray balance adjustment, color tone adjustment for adjusting the tone of skin color pixels, and contrast adjustment are performed on all images. The high-quality processing is performed on a still image in which a human face is present by the face image detection unit 31 like a zoom effect or a pann effect, and distortion or peripheral light reduction due to lens performance at the time of shooting is performed. Image quality correction processing is performed to improve image quality, such as correction, red-eye correction processing, noise reduction processing, sharpness correction, and jaggy reduction processing.

フォトムービー出力機12は、注文受付機11より送信された注文情報を受信する通信部35と、受信した注文情報が記憶される注文情報記憶部36と、注文情報に組み込まれたシナリオデータを解析し、送信された画像データに基づいてフォトムービーを出力するフォトムービー出力部37と、フォトムービーの映像を汎用的なデジタル動画フォーマットに準拠した映像に変換するビデオムービー変換部38とを備えている。なお、デジタル動画フォーマットの1つとして、フォトムービーをDVD映像として観賞できるように、MPEG2−DVD−Videoフォーマットが採用されている。   The photo movie output machine 12 analyzes the scenario data embedded in the order information, the communication unit 35 that receives the order information transmitted from the order receiving machine 11, the order information storage unit 36 that stores the received order information. In addition, a photo movie output unit 37 that outputs a photo movie based on the transmitted image data, and a video movie conversion unit 38 that converts the photo movie video into a video based on a general-purpose digital video format are provided. . As one of the digital moving image formats, the MPEG2-DVD-Video format is adopted so that a photo movie can be viewed as a DVD image.

制御部39は、予め組み込まれた注文処理プログラムに基づいて各部を制御することにより、注文情報の処理から商品の仕上げまでの一連の流れを管理する。メディア記録部40は、CD又はDVDからなる光ディスク41にフォトムービーのデータを記録する。ラベル印刷部42は、注文内容を識別するための識別情報とフォトムービーの内容を示すラベル画像を光ディスク41の表面にプリントする。   The control unit 39 manages a series of flow from order information processing to product finishing by controlling each unit based on an order processing program incorporated in advance. The media recording unit 40 records photomovie data on an optical disc 41 made of a CD or DVD. The label printing unit 42 prints identification information for identifying the order contents and a label image indicating the contents of the photo movie on the surface of the optical disc 41.

次にフォトムービー注文受付システム10の作用について説明する。図2において、注文受付機11のメディア読取り部17に、静止画の画像データが記憶されたメモリカード18又は光ディスク19の記憶媒体がセットされると、制御部39がセットされた記憶媒体を検知し、画像データの読み込みが開始される。   Next, the operation of the photo movie order receiving system 10 will be described. In FIG. 2, when the storage medium of the memory card 18 or the optical disc 19 storing still image data is set in the media reading unit 17 of the order receiving machine 11, the control unit 39 detects the set storage medium. Then, reading of the image data is started.

記憶媒体から画像データがコピーされると、画質補正部32によって全ての画像データに対してセットアップ補正処理が行われる。また、セットアップ補正処理がなされた画像データからサムネイル画像が生成され、このサムネイル画像が表示部16に一覧表示される。表示されたサムネイル画像を参考にしてフォトムービーの素材として用いる画像を選択することができ、全ての画像を使用するか、一部の画像を使用するかを決定する操作がなされる。   When the image data is copied from the storage medium, the image quality correction unit 32 performs setup correction processing on all the image data. Also, thumbnail images are generated from the image data that has undergone the setup correction process, and the thumbnail images are displayed as a list on the display unit 16. An image to be used as a photo movie material can be selected with reference to the displayed thumbnail image, and an operation of determining whether to use all images or a part of images is performed.

画像の選択が終了すると、選択された画像を用いてフォトムービーを自動で作成する自動編集モードと、再生順序やエフェクトの種類等を顧客が選択できるマニュアル編集モードのいずれかを選択する操作がなされる。自動編集モードが選択されると、編集条件設定部26により、サムネイル画像の配列順に再生順序が決められ、各画像のエフェクトの有無やその種類が決定される。このとき、年間行事や季節等のテーマ別に予め用意されたシナリオテンプレートを選ぶことができる。   When the selection of the image is completed, an operation for selecting either an automatic edit mode for automatically creating a photo movie using the selected image or a manual edit mode for allowing the customer to select a playback order, an effect type or the like is performed. The When the automatic editing mode is selected, the editing condition setting unit 26 determines the playback order in the order in which thumbnail images are arranged, and determines the presence / absence and type of effect for each image. At this time, scenario templates prepared in advance according to themes such as annual events and seasons can be selected.

マニュアル編集モードでは、画像の再生順序、各画像のエフェクトの有無、エフェクトの種類、エフェクトのかけ方を示す詳細設定等の編集条件を顧客が自ら設定する。読み込まれた画像のサムネイル画像が表示部16に一覧表示された状態で、入力操作部15を介して表示部16の画面上で画像の配列順を変更することにより画像の再生順序を決めることができる。また、所定の画像についてエフェクトを与えることを指定する項目が選択されることにより、そのエフェクトの詳細設定を行うためのステップに移る。   In the manual editing mode, the customer himself / herself sets editing conditions such as the playback order of images, the presence / absence of effects of each image, the type of effect, and detailed settings indicating how to apply the effect. In a state where thumbnail images of the read images are displayed as a list on the display unit 16, it is possible to determine the reproduction order of the images by changing the arrangement order of the images on the screen of the display unit 16 via the input operation unit 15. it can. Further, when an item designating that an effect is to be applied to a predetermined image is selected, the process proceeds to a step for performing detailed setting of the effect.

エフェクトには、ズームエフェクト、パーンエフェクトのように拡大表示を伴うエフェクト、静止画の一部を除いて暗転させるスポットライトエフェクト、静止画を画面上に縮小表示して画面の端から端へ直線又は曲線状に移動させるムーブエフェクトや、前に表示された静止画を徐々に透明にして次に表示される画像を徐々に濃くするフェードインエフェクト、装飾画像や字幕を合成する合成エフェクト、これらを組み合わせた複合エフェクトなど、多くの種類が用意されている。以下の説明では、パーンエフェクトを選択した場合を例にして説明する。   The effects include zoom effects, effects with enlarged display such as pan effects, spotlight effects that darken the image except for a portion of the still image, and a straight line from the edge of the screen A move effect that moves in a curved line, a fade-in effect that gradually turns the previously displayed still image transparent and gradually darkens the next image displayed, a composite effect that combines decorative images and subtitles, etc. Many types of composite effects are available. In the following description, the case where the Pann effect is selected will be described as an example.

図3及び図4において、パーンエフェクトが選択されると、パーン動作の基点を指定するステップに移る。パーンエフェクトでは、パーン動作の基点として、パーン開始位置を示す始点、終了位置を示す終点となる切り出し領域が指定され、必要に応じて始点と終点の間の中継点を指定することができる。図4(b)に示すように、表示部16の画面上には、エフェクトを指定した静止画を表示する編集ウインドウW1と、切り出し領域によって切り出される画像を表示するプレビューウインドウW2と、エフェクトの詳細設定を行うための設定ウインドウW3とが表示される。パーン動作の基点を指定する際には、編集ウインドウW1の画面上で人物の顔を指定する。   In FIG. 3 and FIG. 4, when the pan effect is selected, the process proceeds to a step of designating the base point of the pan operation. In the Pann effect, a cutout region that is a start point indicating a Pann start position and an end point indicating an end position is specified as a base point of the Pan operation, and a relay point between the start point and the end point can be specified as necessary. As shown in FIG. 4B, on the screen of the display unit 16, an edit window W1 that displays a still image in which an effect is designated, a preview window W2 that displays an image cut out by the cutout area, and the details of the effect A setting window W3 for setting is displayed. When designating the base point of the panning operation, the person's face is designated on the screen of the editing window W1.

編集ウインドウW1には、パーンエフェクトが指定された編集対象画像として、例えば、人物の被写体A1及び被写体A2,風景の被写体A3が写る画像が表示される。設定ウインドウW3には、パーン動作の始点、終点、中継点を指定するための設定キーK1,K2,K3がそれぞれ表示される。また、自動調整モード時に、強制的に手動調整モードに切り替えるための手動調整キーK4と、顔画像検出部31により検出できなかった人物の顔を指定するときに、これを顔画像として顔画像検出部31に認識させる認識キーK5が表示される。パーン動作の始点を指定するためには、設定キーK1が操作される。表示部16の画面上には、編集ウインドウW1上のポイントを指定するように促すメッセージが表示される。   In the editing window W1, for example, an image in which a subject A1 of a person and a subject A2, a subject A3 of a landscape are captured is displayed as an editing target image for which a panning effect is designated. The setting window W3 displays setting keys K1, K2, and K3 for designating the start point, end point, and relay point of the panning operation. Further, in the automatic adjustment mode, when the manual adjustment key K4 for forcibly switching to the manual adjustment mode and the face of a person that cannot be detected by the face image detection unit 31 are designated, the face image is detected as a face image. A recognition key K5 to be recognized by the unit 31 is displayed. In order to designate the starting point of the panning operation, the setting key K1 is operated. On the screen of the display unit 16, a message prompting the user to specify a point on the editing window W1 is displayed.

パーン動作の始点が指定される際、顧客が被写体A1の顔をクローズアップすることを希望した場合には、被写体A1の顔の位置が指定される。編集ウインドウW1には、図4(b)に示すように、指定された座標を示すマークM1が表示され、マークM1を中心とする矩形状をした所定の大きさの切り出し領域が切り出し枠F11によって表示される。なお、切り出し領域、すなわち切り出し枠F11の大きさや形状は初期設定により決まっているが、変更することも可能である。   When the start point of the panning operation is designated, if the customer desires to close up the face of the subject A1, the position of the face of the subject A1 is designated. In the editing window W1, as shown in FIG. 4B, a mark M1 indicating the designated coordinates is displayed, and a cutout area having a predetermined size and having a rectangular shape centered on the mark M1 is displayed by the cutout frame F11. Is displayed. Note that the size and shape of the cutout area, that is, the cutout frame F11 is determined by the initial setting, but can be changed.

顔画像検出部31は、切り出し枠F11の内部の顔検出処理を行う。顔検出処理により、切り出し領域内から被写体A1の顔が検出される。また、被写体A1の顔の輪郭が特定され、特定された輪郭に基づいて顔画像の認識範囲が反転表示される。顔画像の検出数より切り出し枠F11に含まれる人数が1人であることが特定される。切り出し領域設定部30は、被写体A1の顔の位置及び大きさに基づいて推奨余白データを参照し、最適な切り出し領域の位置及び大きさを算出する。切り出し枠F11は、最適化された切り出し枠F12に調整される。切り出し枠F12の中心は、顔の認識範囲の中心C1と同一である。プレビューウインドウW2には、切り出し枠F12によって切り出される画像が表示される。このように切り出し領域が決定し、パーン動作の始点の設定が終了する。   The face image detection unit 31 performs face detection processing inside the cutout frame F11. The face of the subject A1 is detected from the cutout area by the face detection process. In addition, the face outline of the subject A1 is specified, and the recognition range of the face image is highlighted based on the specified outline. It is specified that the number of people included in the cutout frame F11 is one from the number of detected face images. The cutout area setting unit 30 refers to the recommended margin data based on the position and size of the face of the subject A1, and calculates the optimum position and size of the cutout area. The cutout frame F11 is adjusted to the optimized cutout frame F12. The center of the cutout frame F12 is the same as the center C1 of the face recognition range. In the preview window W2, an image cut out by the cutout frame F12 is displayed. Thus, the cutout area is determined, and the setting of the start point of the panning operation is completed.

図5において、次にパーン動作の終点の設定が行われる。顧客が被写体A2の顔をクローズアップすることを希望した場合には、被写体A2の顔の位置が指定される。編集ウインドウW1には、図5(b)に示すように、指定された座標を示すマークM2が表示され、マークM2を中心とする所定の大きさの切り出し領域が切り出し枠F21によって表示される。顔画像検出部31は、切り出し枠F21について顔検出処理を行う。しかし、被写体A2は横顔で写っているため、顔としての特徴が不足しているため、被写体A2の顔画像は検出ができない。従って、切り出し領域設定部30は、切り出し枠F21の内部には顔が存在しないものと判断し、切り出し枠F21を二重線で表示する。このとき、認識キーK5が点滅し、顔画像の検出のやり直しを促すメッセージが表示される。顧客は、切り出し枠F21が二重線で表示されたことと、認識キーK5が点滅したことにより、顔画像の検出が失敗したことを理解できる。   In FIG. 5, the end point of the panning operation is set next. When the customer desires to close up the face of the subject A2, the position of the face of the subject A2 is designated. In the editing window W1, as shown in FIG. 5B, a mark M2 indicating the designated coordinates is displayed, and a cutout area having a predetermined size centered on the mark M2 is displayed by a cutout frame F21. The face image detection unit 31 performs face detection processing for the cutout frame F21. However, since the subject A2 is shown as a profile, the facial features are insufficient, and the face image of the subject A2 cannot be detected. Therefore, the cutout area setting unit 30 determines that no face exists inside the cutout frame F21, and displays the cutout frame F21 with a double line. At this time, the recognition key K5 blinks and a message prompting the user to redo the face image detection is displayed. The customer can understand that the detection of the face image has failed because the cutout frame F21 is displayed with a double line and the recognition key K5 blinks.

そこで、人物の顔検出のやり直しを行うために認識キーK5が操作される。認識キーK5が操作されると、顔の位置を指定するように促すメッセージが表示される。顧客はメッセージに従い、被写体A2の顔の位置を指定し、指定された座標がマークM3によって表示される。顔画像検出部31は、指定された座標を示すマークM3の周辺に分布する肌色画素を検出し、肌色画素が集合した領域を顔とみなして、顔及び頭部の輪郭を特定する。これにより、被写体A2の顔画像が強制的に認識され、顔画像と推定された範囲が反転表示される。切り出し領域設定部30は、被写体A2の顔の位置及び大きさに基づいて推奨余白データを参照し、最適な切り出し領域の位置及び大きさを算出する。切り出し枠F21は、調整された切り出し枠F22として更新される。切り出し枠F22の中心は、顔の認識範囲の中心C2と同一である。プレビューウインドウW2には、切り出し枠F22によって切り出される画像が表示される。このように切り出し領域が決定し、パーン動作の終点の設定が終了する   Therefore, the recognition key K5 is operated to redo the human face detection. When the recognition key K5 is operated, a message prompting the user to specify the face position is displayed. The customer designates the position of the face of the subject A2 according to the message, and the designated coordinates are displayed by the mark M3. The face image detection unit 31 detects the skin color pixels distributed around the mark M3 indicating the designated coordinates, regards the area where the skin color pixels are gathered as a face, and specifies the contours of the face and the head. As a result, the face image of the subject A2 is forcibly recognized, and the range estimated as the face image is highlighted. The cutout area setting unit 30 refers to the recommended margin data based on the position and size of the face of the subject A2, and calculates the optimum position and size of the cutout area. The cutout frame F21 is updated as the adjusted cutout frame F22. The center of the cutout frame F22 is the same as the center C2 of the face recognition range. In the preview window W2, an image cut out by the cutout frame F22 is displayed. The cutout area is determined in this way, and the setting of the end point of the panning operation is completed.

図6において、パーンエフェクトの中継点として、山の背景である被写体A3上の座標を指定する操作がなされると、その座標を示すマークM4とともに切り出し枠F31が表示される。顔画像検出部31は、切り出し枠F31によって画定される切り出し領域から顔画像の検出処理を行うが、山の背景である被写体A3から顔の特徴を見つけることはできないため、顔画像を検出することはできない。切り出し領域設定部30は、切り出し枠F31を二重線で表示する。このとき、手動調節キーK4が点灯し、手動調節モードであることが報知される。認識キーK5が点滅し、顔画像の検出のやり直しを促すメッセージが表示される。なお、認識キーK5を操作し、被写体A3の特定の座標を入力しても、顔画像を検出することはできず、切り出し枠F31は二重線で表示されたままになる。   In FIG. 6, when an operation for designating coordinates on the subject A3, which is the background of a mountain, is performed as a relay point for the Pann effect, a clipping frame F31 is displayed together with a mark M4 indicating the coordinates. The face image detection unit 31 performs face image detection processing from the cutout area defined by the cutout frame F31. However, since the face image cannot be found from the subject A3 that is the background of the mountain, the face image detection unit 31 detects the face image. I can't. The cutout area setting unit 30 displays the cutout frame F31 with a double line. At this time, the manual adjustment key K4 is lit to notify that the manual adjustment mode is in effect. The recognition key K5 blinks and a message prompting the user to redo the face image detection is displayed. Note that even if the recognition key K5 is operated to input specific coordinates of the subject A3, the face image cannot be detected, and the cutout frame F31 remains displayed as a double line.

切り出し枠F31の内部には、切り出し枠F31の大きさを制限する制限枠RF1が表示される。切り出し枠F31は、画面上での操作によりその位置や大きさを変更できるが、制限枠RF1よりも小さく変更することはできず、切り出し枠F31の最小限の大きさが制限される。制限枠RF1は、切り出し枠F31内の画像が過度に大きい倍率で拡大表示されることによる画質の劣化を防止する役目をする。切り出し枠F31を手動調整し、位置及び大きさが決まると、これを確定する操作がなされる。   A restriction frame RF1 for restricting the size of the cutout frame F31 is displayed inside the cutout frame F31. Although the position and size of the cutout frame F31 can be changed by an operation on the screen, the cutout frame F31 cannot be changed to be smaller than the restriction frame RF1, and the minimum size of the cutout frame F31 is limited. The restriction frame RF1 serves to prevent deterioration in image quality due to the image in the cutout frame F31 being enlarged and displayed at an excessively large magnification. When the cutout frame F31 is manually adjusted and the position and size are determined, an operation for confirming this is performed.

このようにして、パーンエフェクトの始点、終点、中継点に関し、それぞれ切り出し枠F12,22,31を決定し、パーンエフェクトの詳細設定が終了すると、画質補正部32によりパーンエフェクトが指定された画像の高品位処理が行われる。高品位処理により、被写体A1,A2,A3を拡大表示したときに生じる画質の低下が小さくされ、フォトムービーの品質が損なわれることが防止される。なお、セットアップ補正処理や高品位処理では、人物の見映えを高めるのに適した画質調整が行われるため、被写体A3のような非人物の被写体に対しては、切り出し領域の設定時などに、色調補正等を別途行えるようにしてもよい。   In this way, the clipping frames F12, 22, 31 are determined for the start point, the end point, and the relay point of the pann effect, and when the detailed setting of the pann effect is completed, the image for which the pann effect is designated by the image quality correction unit 32 is determined. High quality processing is performed. The high-quality processing reduces the deterioration in image quality that occurs when the subjects A1, A2, and A3 are enlarged and displayed, and prevents the quality of the photo movie from being impaired. In the setup correction process and the high-quality process, image quality adjustment suitable for enhancing the appearance of a person is performed. Therefore, for a non-person subject such as the subject A3, when setting a clipping region, etc. Color tone correction or the like may be performed separately.

図7において、上述のようにパーンエフェクトの基点が設定されたフォトムービーは、被写体A1の顔がクローズアップされた映像から始まり、画面上で被写体A1から被写体A3に向かって画面が移動して擬似的なパーンが再現される。また、被写体A3がクローズアップされると、画面が被写体A2に向かって移動し、被写体A2の横顔をクローズアップした映像へ移行して終了する。なお、パーンエフェクトでは、切り出し枠F12等によって切り出された画像を画面全体に拡大して表示するため、切り出し枠F12等が小さくなればその分だけ拡大倍率は大きくなり、切り出し枠F12が大きければ拡大倍率が小さくなる。また、パーン動作の始点と終点の少なくとも2つの切り出し領域が指定されるため、例えば、切り出し枠F12,F22,F31の大きさが異なれば、パーン動作中に拡大倍率が変化することになる。   In FIG. 7, the photo movie in which the base point of the Pann effect is set as described above starts with an image in which the face of the subject A1 is close-up, and the screen moves on the screen from the subject A1 toward the subject A3. Realistic Pann is reproduced. Further, when the subject A3 is closed up, the screen moves toward the subject A2, and the process shifts to a video in which the profile of the subject A2 is closed up, and the process ends. In the Pann effect, an image cut out by the cutout frame F12 and the like is enlarged and displayed on the entire screen. Therefore, if the cutout frame F12 and the like are reduced, the enlargement magnification is increased accordingly, and if the cutout frame F12 is large, the enlargement is performed. The magnification is reduced. Further, since at least two cutout areas of the start and end points of the panning operation are designated, for example, if the sizes of the cutout frames F12, F22, and F31 are different, the enlargement magnification changes during the panning operation.

図2において、その他の画像についてもエフェクトの有無、その種類等の設定がなされ、全ての編集条件の入力が終了すると、プレビュー動画出力部28によりプレビュー用のフォトムービーが作成される。プレビュー用フォトムービーは表示部16に表示され、顧客により確認される。編集条件の変更の必要がなければ次のステップに移る操作がなされ、氏名や住所等の個人情報を入力するステップに移る。これらの入力処理が終了すると、シナリオデータ生成部29により全ての編集条件を記録したシナリオデータが作成される。また、制御部25は、シナリオデータ、画像データ、顧客の個人情報、注文内容を識別するための識別情報等をまとめた注文情報を作成し、通信部21を介して注文情報をフォトムービー出力機12に送信する。   In FIG. 2, the presence / absence of an effect and the type thereof are set for other images, and when the input of all editing conditions is completed, a preview photo movie is created by the preview moving image output unit 28. The preview photo movie is displayed on the display unit 16 and confirmed by the customer. If there is no need to change the editing conditions, an operation for moving to the next step is performed, and the flow shifts to a step for inputting personal information such as name and address. When these input processes are completed, the scenario data generation unit 29 creates scenario data in which all editing conditions are recorded. Further, the control unit 25 creates order information in which scenario data, image data, customer personal information, identification information for identifying order contents, and the like are collected, and the order information is transmitted to the photo movie output machine via the communication unit 21. 12 to send.

注文情報の送信が終了すると、制御部39はレシート出力部22を作動させる。レシート出力部22が、注文内容の識別情報をプリントしたレシート23を発行すると、注文受付処理が終了する。   When the transmission of the order information is completed, the control unit 39 operates the receipt output unit 22. When the receipt output unit 22 issues a receipt 23 on which the order content identification information is printed, the order receiving process ends.

注文情報を受信したフォトムービー出力機12では、注文情報に組み込まれたシナリオデータ及び画像データに基づいてフォトムービーが作成される。作成されたフォトムービーは、注文内容に基づき、DVD映像として観賞できるMPEG2−DVD−Videoフォーマット等の映像データに変換され、この映像データがメディア記録部40によりDVD等の光ディスク41に記録される。フォトムービーが記録された光ディスク41は、レシート23と引換に顧客に渡される。   The photo movie output machine 12 that has received the order information creates a photo movie based on the scenario data and the image data incorporated in the order information. The created photo movie is converted into video data such as MPEG2-DVD-Video format that can be viewed as a DVD video based on the contents of the order, and this video data is recorded on the optical disk 41 such as a DVD by the media recording unit 40. The optical disc 41 on which the photo movie is recorded is delivered to the customer in exchange for the receipt 23.

以上のように、本発明の実施形態について説明したが、本発明は上記実施形態に限られるものではなく、例えば、注文受付機11とフォトムービー出力機12のように、編集条件の入力設定とフォトムービーの作成を別々の機器により分担して行うことに限らず、これらを1つの装置により行えるようにしてもよい。また、注文受付機11の機能と同等なアプリケーションプログラムを配布し、これを顧客が所有するパーソナルコンピュータに組み込むことにより、編集条件の入力設定とフォトムービーの注文を自宅からインターネット等の通信手段を介して行えるようにしてもよい。   As described above, the embodiment of the present invention has been described. However, the present invention is not limited to the above-described embodiment. For example, as in the order receiving machine 11 and the photo movie output machine 12, the editing condition input setting and the like. The creation of a photo movie is not limited to being performed by separate devices, but may be performed by a single device. In addition, by distributing an application program equivalent to the function of the order receiving machine 11 and incorporating it into a personal computer owned by the customer, editing condition input settings and photo movie orders can be sent from home via communication means such as the Internet. You may be able to do it.

また、顔画像検出部31により複数の顔画像が複数検出された場合には、切り出し領域を決定する基準となる顔画像を指定するステップを追加することで、検出された顔画像の全て又は一部を自由に指定できるようにし、撮影シーンの多様な複数の静止画を素材とする場合であっても、簡単な操作でフォトムービーの編集条件を設定できるようにすることが好ましい。また、人物の顔画像を検出することに加え、人物の全身像、あるいは動物や植物、観光名所を例とする建造物や地形等が検出できるようにしてもよい。   In addition, when a plurality of face images are detected by the face image detection unit 31, a step of designating a face image serving as a reference for determining a cutout region is added, so that all or one of the detected face images can be specified. It is preferable to be able to freely specify the part and to set the editing conditions of the photo movie with a simple operation even when a plurality of still images of a shooting scene are used as materials. Further, in addition to detecting a person's face image, it may be possible to detect a whole body image of a person, or a building or terrain such as an animal, a plant, or a tourist attraction.

上記実施形態は、表示部16の画面と一体にしたタッチパネルによって入力操作部15を構成しているが、ポインティングデバイス等の他の入力装置により構成してもよい。切り出し領域を指定する際には、上記実施形態に示すように静止画上の1点の座標を指定することに限らず、矩形の対角線上に位置する2つの座標を指定して矩形の領域を直接指定するようにしてもよい。また、切り出し領域を指定した後に人物の顔画像を検出することに限らず、画像全体から人物の顔を検出した後に切り出し領域の指定が行えるようにすれば、検出されない顔画像の有無により、認識キーK5の操作を要するか否かが直ちに分かり、便利である。   In the above embodiment, the input operation unit 15 is configured by a touch panel integrated with the screen of the display unit 16, but may be configured by another input device such as a pointing device. When designating the cutout area, it is not limited to designating the coordinates of one point on the still image as shown in the above embodiment, but by designating two coordinates located on the diagonal of the rectangle, You may make it specify directly. In addition to detecting a human face image after specifying a cutout area, if a human face image is detected from the entire image and the cutout area can be specified, recognition is performed depending on the presence or absence of a face image that is not detected. It is convenient to know immediately whether or not the operation of the key K5 is required.

また、商品形態としては、DVDメディアにビデオムービー形式のデータを記録したものに限らず、例えば、フォトムービーのビューワーソフトをユーザーに配布し、このビューワーソフトをインストールしたコンピュータ上で再生できる形式のデータを記録してもよい。また、素材となる静止画は、デジタルカメラで記録された画像の他に、プリント写真や写真フイルムをスキャナーで読取って得られた画像や、ビデオカメラ等で撮影して得られた動画から抽出した1フレームの画像であってもよい。   In addition, the product form is not limited to data recorded in a video movie format on DVD media. For example, photo movie viewer software is distributed to users, and data in a format that can be played back on a computer on which the viewer software is installed. May be recorded. In addition to images recorded with a digital camera, the still images used as material are extracted from images obtained by scanning printed photographs and photo films with a scanner, and videos obtained by shooting with a video camera, etc. An image of one frame may be used.

フォトムービー注文受付システムの概略構成図である。It is a schematic block diagram of a photo movie order reception system. 注文受付機の処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a process of an order reception machine. 切り出し領域設定処理の流れを示す説明図である。It is explanatory drawing which shows the flow of a cut-out area | region setting process. パーンエフェクトの始点設定時における画面の様子を示す説明図である。It is explanatory drawing which shows the mode of the screen at the time of the start point setting of a pan effect. パーンエフェクトの終点設定時における画面の様子を示す説明図である。It is explanatory drawing which shows the mode of the screen at the time of the end point setting of a pan effect. パーンエフェクトの中継点設定時における画面の様子を示す説明図である。It is explanatory drawing which shows the mode of the screen at the time of the relay point setting of a Pann effect. フォトムービーの映像の移り変わりを示す説明図である。It is explanatory drawing which shows the transition of the image | video of a photo movie.

符号の説明Explanation of symbols

10 フォトムービー注文受付システム
11 注文受付機
12 フォトムービー出力機
15 入力操作部
26 編集条件設定部
28 プレビュー動画出力部
29 シナリオデータ生成部
30 切り出し領域設定部
31 顔画像検出部
32 画質補正部
A1,A2,A3 被写体
F11,F12,F21,F22,F31 切り出し枠
W1 編集ウインドウ
W2 プレビューウインドウ
W3 設定ウインドウ
RF1 制限枠
DESCRIPTION OF SYMBOLS 10 Photo movie order reception system 11 Order reception machine 12 Photo movie output machine 15 Input operation part 26 Editing condition setting part 28 Preview moving image output part 29 Scenario data generation part 30 Cutout area setting part 31 Face image detection part 32 Image quality correction part A1, A2, A3 Subject F11, F12, F21, F22, F31 Cutout frame W1 Edit window W2 Preview window W3 Setting window RF1 Restriction frame

Claims (8)

静止画の一部を切り出してこれに加工編集処理を施して前記静止画を素材とするフォトムービーを作成する際に、前記静止画の一部を切り出す対象となる切り出し領域を前記フォトムービーの編集条件として設定するフォトムービーの編集条件設定装置において、
前記静止画から人物の顔画像を検出する顔画像検出手段と、
ディスプレイの表示画面に表示された前記静止画上で前記切り出し領域を指定するための切り出し領域指定手段と、
前記切り出し領域内に前記顔画像が存在するか否かを判定する顔画像判定手段と、
前記切り出し領域内に前記顔画像が存在する時に、前記切り出し領域内の顔画像の位置及び大きさの少なくとも一方に基づいて前記切り出し領域を調整する切り出し領域調整手段とを備えたことを特徴とするフォトムービーの編集条件設定装置。
When a part of a still image is cut out and processed and edited to create a photo movie using the still image as a material, the cut-out area to be cut out of the part of the still image is edited in the photo movie. In the photo movie editing condition setting device to be set as a condition,
Face image detecting means for detecting a human face image from the still image;
Clipping area designating means for designating the clipping area on the still image displayed on the display screen of the display;
Face image determination means for determining whether or not the face image exists in the cutout region;
And a cutout area adjusting unit configured to adjust the cutout area based on at least one of a position and a size of the face image in the cutout area when the face image exists in the cutout area. Photo movie editing condition setting device.
前記切り出し領域指定手段は、前記静止画上にある1つの任意のポイントが指定されることにより、指定されたポイントを基点として所定の大きさを有する切り出し領域を画定することを特徴とする請求項1記載のフォトムービーの編集条件設定装置。   The clip region specifying means defines a clip region having a predetermined size with a specified point as a base point by specifying one arbitrary point on the still image. 1. A photo movie editing condition setting device according to 1. 前記顔画像検出手段は、前記切り出し領域内の画像から前記顔画像を検出することを特徴とする請求項1又は2記載のフォトムービーの編集条件設定装置。   The photo movie editing condition setting apparatus according to claim 1, wherein the face image detecting unit detects the face image from an image in the cutout region. 前記切り出し領域内の画像を拡大表示させる場合には、前記切り出し領域内の画素数が予め決められた基準値よりも小さい時に、前記切り出し領域の大きさが前記基準値を上回る画素数となるように調整する画素数調整手段を備えたことを特徴とする請求項1ないし3にいずれか1つ記載のフォトムービーの編集条件設定装置。   When the image in the cutout area is enlarged and displayed, when the number of pixels in the cutout area is smaller than a predetermined reference value, the size of the cutout area is larger than the reference value. 4. The photo movie editing condition setting device according to claim 1, further comprising a pixel number adjusting means for adjusting the number of pixels. 前記切り出し領域調整手段による切り出し領域の調整を実行するか否かを選択するための領域調整選択手段を備えたことを特徴とする請求項1ないし4にいずれか1つ記載のフォトムービーの編集条件設定装置。   5. The photo movie editing condition according to claim 1, further comprising region adjustment selection means for selecting whether or not to perform adjustment of the cutout area by the cutout area adjustment means. Setting device. 前記顔画像検出手段によって顔画像が検出された静止画に対し、画質補正処理を行う第1の画質補正手段を備えたことを特徴とする請求項1ないし5にいずれか1つ記載のフォトムービーの編集条件設定装置。   6. The photo movie according to claim 1, further comprising first image quality correction means for performing image quality correction processing on a still image in which a face image is detected by the face image detection means. Editing condition setting device. 記憶媒体から前記静止画の画像データを読み出す画像読み出し手段と、
前記編集条件の設定を行う前に、読み出された画像データに画質補正処理を行う第2の画質補正手段を備えたことを特徴とする請求項1ないし6にいずれか1つ記載のフォトムービーの編集条件設定装置。
Image reading means for reading image data of the still image from a storage medium;
7. The photo movie according to claim 1, further comprising second image quality correction means for performing image quality correction processing on the read image data before setting the editing conditions. Editing condition setting device.
静止画の一部を切り出してこれに加工編集処理を施して前記静止画を素材とするフォトムービーを作成する際に、前記静止画の一部を切り出す対象となる切り出し領域を前記フォトムービーの編集条件として設定する処理をコンピュータに実行させるフォトムービーの編集条件設定プログラムにおいて、
前記静止画から人物の顔画像を検出する顔画像検出手段と、
ディスプレイの表示画面に表示された前記静止画上で前記切り出し領域を指定するための切り出し領域指定手段と、
前記切り出し領域内に前記顔画像が存在するか否かを判定する顔画像判定手段と、
前記切り出し領域内に前記顔画像が存在する時に、前記切り出し領域内の顔画像の位置及び大きさの少なくとも一方に基づいて前記切り出し領域を調整する切り出し領域調整手段としてコンピュータを機能させることを特徴とするフォトムービーの編集条件設定プログラム。
When a part of a still image is cut out and processed and edited to create a photo movie using the still image as a material, the cut-out area to be cut out of the part of the still image is edited in the photo movie. In a photo movie editing condition setting program that causes a computer to execute processing to be set as a condition,
Face image detecting means for detecting a human face image from the still image;
Clipping area designating means for designating the clipping area on the still image displayed on the display screen of the display;
Face image determination means for determining whether or not the face image exists in the cutout region;
When the face image exists in the cutout area, the computer functions as cutout area adjustment means for adjusting the cutout area based on at least one of the position and the size of the face image in the cutout area. Photo movie editing condition setting program.
JP2004333454A 2004-11-17 2004-11-17 Device and program for setting edition condition of photo-movie Pending JP2006146428A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004333454A JP2006146428A (en) 2004-11-17 2004-11-17 Device and program for setting edition condition of photo-movie
US11/280,272 US20060115185A1 (en) 2004-11-17 2005-11-17 Editing condition setting device and program for photo movie

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004333454A JP2006146428A (en) 2004-11-17 2004-11-17 Device and program for setting edition condition of photo-movie

Publications (1)

Publication Number Publication Date
JP2006146428A true JP2006146428A (en) 2006-06-08

Family

ID=36626050

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004333454A Pending JP2006146428A (en) 2004-11-17 2004-11-17 Device and program for setting edition condition of photo-movie

Country Status (1)

Country Link
JP (1) JP2006146428A (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006295723A (en) * 2005-04-13 2006-10-26 Noritsu Koki Co Ltd Image processing method
JP2006309661A (en) * 2005-05-02 2006-11-09 Fuji Photo Film Co Ltd Image reproducing apparatus and image reproducing program
JP2010237516A (en) * 2009-03-31 2010-10-21 Nikon Corp Program and device for performing reproduction
JP2012005062A (en) * 2010-06-21 2012-01-05 Sharp Corp Image processing apparatus, image reading apparatus, image forming apparatus, image processing method, computer program and recording medium
KR20130123270A (en) * 2012-05-02 2013-11-12 삼성전자주식회사 Apparatus and method for providing zoom effect for face in image
WO2019093090A1 (en) * 2017-11-10 2019-05-16 シャープ株式会社 Image processing device, image capturing device, image processing method and program
JP7473674B2 (en) 2020-03-23 2024-04-23 北京字節跳動網絡技術有限公司 Special effects processing method and device

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006295723A (en) * 2005-04-13 2006-10-26 Noritsu Koki Co Ltd Image processing method
JP4591167B2 (en) * 2005-04-13 2010-12-01 ノーリツ鋼機株式会社 Image processing method
JP2006309661A (en) * 2005-05-02 2006-11-09 Fuji Photo Film Co Ltd Image reproducing apparatus and image reproducing program
JP2010237516A (en) * 2009-03-31 2010-10-21 Nikon Corp Program and device for performing reproduction
JP2012005062A (en) * 2010-06-21 2012-01-05 Sharp Corp Image processing apparatus, image reading apparatus, image forming apparatus, image processing method, computer program and recording medium
US8848240B2 (en) 2010-06-21 2014-09-30 Sharp Kabushiki Kaisha Image processing apparatus, image reading apparatus, image forming apparatus, image processing method, and recording medium
KR20130123270A (en) * 2012-05-02 2013-11-12 삼성전자주식회사 Apparatus and method for providing zoom effect for face in image
KR101955280B1 (en) * 2012-05-02 2019-03-11 삼성전자주식회사 Apparatus and Method for Providing Zoom Effect for Face in Image
WO2019093090A1 (en) * 2017-11-10 2019-05-16 シャープ株式会社 Image processing device, image capturing device, image processing method and program
JP7473674B2 (en) 2020-03-23 2024-04-23 北京字節跳動網絡技術有限公司 Special effects processing method and device

Similar Documents

Publication Publication Date Title
US20060115185A1 (en) Editing condition setting device and program for photo movie
KR100714888B1 (en) Image display method and image display device
JP4808301B2 (en) Digital camera customization
US7522195B2 (en) Image display controlling apparatus and method for superimposing images based on attention area and data time information
US20060114327A1 (en) Photo movie creating apparatus and program
JP4487872B2 (en) Image processing apparatus and method, program, and recording medium
JP2007521747A (en) Image processing method and system
US20070132860A1 (en) Method for customizing a digital camera using queries to determine the user&#39;s experience level
JP2005032219A (en) Device and method for image display
JP2009278623A (en) Method and apparatus for performing touch-based adjustments within imaging device
US20050238321A1 (en) Image editing apparatus, method and program
JPH10243274A (en) Image-photographing device
JP2002176613A (en) Moving image editing unit, moving image editing method and recording medium
JP2006148344A (en) Edit condition setting apparatus and edit condition setting program for photo movie
US20050237588A1 (en) Printing order receiving method and apparatus and frame extraction method and apparatus
JP2006146428A (en) Device and program for setting edition condition of photo-movie
JP4865528B2 (en) Image processing apparatus, image processing apparatus control method, and program
JP4591167B2 (en) Image processing method
JP4636368B2 (en) Electronic album creation system, creation program, and storage medium
JP2016001821A (en) Content reproduction system, server, portable terminal, content reproduction method, program, and recording media
JP4647343B2 (en) Photo movie creation device and photo movie creation program
JP2006060652A (en) Digital still camera
JP2006157197A (en) Photo movie generating apparatus and program
JP2006350462A (en) Album image preparation device and album image preparation program
JP2007013467A (en) Image compositing device and image compositing program

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20070104