WO2014162788A1 - 顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置 - Google Patents

顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置 Download PDF

Info

Publication number
WO2014162788A1
WO2014162788A1 PCT/JP2014/053783 JP2014053783W WO2014162788A1 WO 2014162788 A1 WO2014162788 A1 WO 2014162788A1 JP 2014053783 W JP2014053783 W JP 2014053783W WO 2014162788 A1 WO2014162788 A1 WO 2014162788A1
Authority
WO
WIPO (PCT)
Prior art keywords
scoring
facial expression
facial
image
expression
Prior art date
Application number
PCT/JP2014/053783
Other languages
English (en)
French (fr)
Inventor
克幸 永井
光洋 藤田
幸司 森下
尚志 野田
Original Assignee
Ｎｅｃソリューションイノベータ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ｎｅｃソリューションイノベータ株式会社 filed Critical Ｎｅｃソリューションイノベータ株式会社
Priority to EP14779300.4A priority Critical patent/EP2982421A1/en
Priority to US14/781,647 priority patent/US20160063317A1/en
Priority to CN201480017641.6A priority patent/CN105050673B/zh
Priority to JP2015509944A priority patent/JP6369909B2/ja
Publication of WO2014162788A1 publication Critical patent/WO2014162788A1/ja
Priority to HK16101827.9A priority patent/HK1213832A1/zh

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80—Special adaptations for executing a specific game genre or game mode
    • A63F13/814—Musical performances, e.g. by evaluating the player's ability to follow a notation
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20—Input arrangements for video game devices
    • A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0251—Targeted advertisements
    • G06Q30/0269—Targeted advertisements based on user profile or attribute
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00—Teaching not covered by other main groups of this subclass
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00—Teaching not covered by other main groups of this subclass
    • G09B19/0015—Dancing

Definitions

  • the present invention relates to a facial expression scoring device, a dance scoring device, a karaoke device, and a game device.
  • Some conventional dance scoring devices or karaoke devices are not only sung in time with music, but are also devised, for example, in background images and lyrics telop of dance scoring devices and karaoke systems.
  • Patent Document 1 if the singer is an elderly person, the lyrics telop is enlarged, and if the singer is a young person, the background image is set as a topical street corner.
  • a karaoke system corresponding to each is disclosed.
  • an object of the present invention is to provide a facial expression scoring device that can improve the quantitative evaluation of expressive power by scoring the facial expressions of users.
  • the facial expression scoring device of the present invention is A face image capturing means for capturing a face image of a scoring target; Facial expression estimation means for estimating facial expression from the captured face image; Facial expression scoring means for scoring the estimated facial image expression according to a predetermined criterion; A scoring result display means for displaying the scored result; It is characterized by including.
  • the dance scoring device of the present invention includes the facial expression scoring device.
  • the karaoke device of the present invention includes the facial expression scoring device.
  • the game device of the present invention includes the facial expression scoring device.
  • the facial expression scoring device of the present invention it is possible to improve quantitative evaluation of expressive power by scoring facial expressions in a dance scoring device, a karaoke device, and a game device.
  • the block diagram which shows the structure of this apparatus is shown.
  • An example of a main screen of a dance scoring apparatus including this apparatus (hereinafter sometimes simply referred to as “dance scoring apparatus”) is shown.
  • movement of choreography of the dance scoring apparatus containing this apparatus is shown.
  • the present device Hereinafter simply referred to as “the present device”.
  • the facial expression scoring device 1 of the present invention includes a facial image imaging means 11, a facial expression estimation means 12, a facial expression scoring means 13, and a scoring result display means 14.
  • the facial expression scoring device 1 may further include a scoring reference display means 17.
  • the facial expression scoring device 1 may further include an image display means 18.
  • the facial expression scoring device 1 may further include a scoring target person attribute determination means 15.
  • the facial expression scoring device 1 may further include advertisement selection means 16.
  • the face image capturing means 11 captures the face image of the person to be scored.
  • the face image capturing unit 11 is not particularly limited, and examples thereof include a camera.
  • the face image capturing unit 11 may be configured to capture an image and extract a single or a plurality of face images from the image.
  • the facial expression estimation means 12 estimates a facial expression from the captured face image.
  • the estimation is not particularly limited.
  • the estimation may be performed by machine learning using a model image.
  • the facial expression is not particularly limited, and examples thereof include smiles, true faces, crying faces, troubled faces, and angry faces.
  • the facial expression scoring means 13 scores the estimated facial image expression according to a predetermined criterion. For example, the facial expression scoring means 13 may adjust the scoring criteria according to the determined attribute, which will be described later.
  • the standard is not particularly limited, and examples thereof include the degree of a specific facial expression (smiling face, angry face, etc.).
  • the above-mentioned scoring is not particularly limited, but for example, GOOD (G) / NO GOOD (NG) two grades, and further, three or more grades are evaluated.
  • the scoring result display means 14 displays the scored result.
  • the scoring result display means 14 may display the scoring result together with the selected advertisement described later.
  • the scoring result is not particularly limited, but may be displayed as an image or transmitted to the terminal of the scoring target person.
  • the said terminal is not restrict
  • the scoring standard display means 17 displays the scoring standard to the scoring target person.
  • the image display means 18 displays the scoring results and scoring standards as images.
  • the scoring target person attribute determination means 15 determines the attributes of the scoring target person from the face image.
  • the attributes are not particularly limited, and examples include sex, age, race, nationality, and the like.
  • the advertisement selection means 16 selects an advertisement according to the attribute of the scoring target person.
  • the advertisement is not particularly limited.
  • an example according to the attribute can be given. That is, in the case of women, cosmetics, accessories, miscellaneous goods, clothing, and the like can be mentioned.
  • examples include cars, motorcycles, and sporting goods.
  • the face image capturing means 11 captures the face image of the woman who is a scoring target.
  • the image data is transmitted to the facial expression estimation means 12.
  • the facial expression estimation means 12 estimates the facial expression based on the image data.
  • the facial expression estimation means 12 estimates the facial expression as a smile.
  • the facial expression estimating means 12 learns using a model image of a smile, and the estimation is performed with reference to the model image.
  • the estimated facial expression is transmitted to the facial expression scoring means 13.
  • the facial expression scoring means 13 scores the female smile level.
  • the smile model image may be used as a standard. Further, if necessary, the scoring standard may be adjusted according to the attribute of the scoring target person.
  • the scoring standard may be set sweetly.
  • GOOD is evaluated.
  • the evaluation data is transmitted to the scoring result display means 14. Further, if necessary, it may be transmitted to the scoring standard display means 17, and for example, the scoring standard may be displayed to the scoring target person.
  • the scoring result display means 14 displays the scoring result. In this case, for example, it is possible to output GOOD as text and display only the result on the terminal of the scoring target, and the GOOD may be displayed as an image by the image display means 18.
  • the image data is transmitted to the scoring target person attribute determining means 15, the attribute data of elderly and female is transmitted to the advertisement selecting means 16, and the advertisement of cosmetics is displayed together with the display of the scoring results. Also good.
  • the present dance scoring apparatus including the present embodiment (hereinafter simply referred to as “the present dance scoring apparatus”) will be described with reference to FIG.
  • FIG. 2 shows an example of the screen of the dance scoring device.
  • the dance scoring device of this embodiment is not particularly limited, for example, a device having a karaoke function may be mentioned, but the karaoke function may or may not be provided.
  • the main screen 101 shown in FIG. 2 is a model image 102, a series of choreography operations (a series of operations) 110, lyrics 103, a display showing timing of judgment (timing bar) 111, a total scoring result display 105, and a pinpoint scoring result display.
  • 106 face marks 107 and 108, and a scoring target person image 109.
  • the components are not particularly limited and may or may not be present. Moreover, you may include the component which is not in the said component suitably.
  • this dance scoring device includes the same configuration as the main screen of a conventional karaoke. Moreover, the same structure as the conventional dance scoring apparatus is included. That is, for example, the lyrics 103 are displayed as in a conventional dance device or karaoke device. Here, the lyrics 103 move from the right side to the left side, but the present invention is not limited to this, and the lyrics 103 may move from the left side to the right side.
  • the main screen 101 is not particularly limited, for example, a background image (video) may be displayed in the same manner as a conventional dance scoring device or karaoke device, but it is preferable to display an artist promotion video (PV) or the like. It is more preferable to project music PV and the like.
  • the model image 102 is not particularly limited, and examples thereof include a singer and a dancer. This makes it possible for the scoring person to implicitly understand that the evaluation is based on the expressive power of an actual singer or dancer.
  • a series of actions 110 of the model image are displayed on the main screen 101 together with the lyrics 103.
  • PV of dance music is flowing on the main screen. That is, the following description will be given on the assumption that an image of a dancer singing as a model image 102 is flowing.
  • the dance scoring device is not limited to this.
  • the dancer's sequence of actions is shown as action 110.
  • the scoring subject dances along with the dancer's movement while singing.
  • the movement of the current dancer is indicated by a timing bar 111 and an operation 112 overlapping therewith.
  • the scoring target person is scored based on whether or not the same operation as the operation 112 overlapping the timing bar 111 is performed. That is, the more the scored person's action is similar to the action 112, the higher the score.
  • the total scoring result display 105 may include, for example, a total score, a basic score, a bonus score, a ranking, etc., as shown in FIG.
  • it may have a function that can be updated at any time by communication means.
  • the pinpoint scoring result display 106 of FIG. 2 it may have a function of displaying scoring results as needed for each operation.
  • FIG. 2 for example, it is indicated that the action of the scoring target with respect to the action 112 is GOOD.
  • the operation of the scoring target may be displayed by a scoring image 109.
  • the scorer image 109 is preferably updated as needed.
  • the grader image has a recording function.
  • the facial expression as well as the choreography (motion) may be used as a scoring standard. This will be described in detail below with reference to FIGS. 3 (A) to 3 (B).
  • FIG. 3 (A) to 3 (B) are enlarged views of a series of operations 110 of the model image 102 (not shown in FIG. 3).
  • a face mark 107 is displayed on the section 104.
  • the face mark 107 is a smile mark
  • the face mark 108 is a true face mark.
  • FIG. 3B the section 104 and the timing bar 111 overlap.
  • the scoring target person adds scoring when the facial expression is smiled during the period in which the section 104 overlaps the timing bar 111. Note that after passing the section 104, another section 104 overlaps the timing bar 111.
  • the scoring target person adds a scoring when making a face.
  • the face mark may or may not match the actual facial expression of the model image (in this case, the dancer), for example.
  • the dance scoring apparatus including the present apparatus has been described above by way of an example, but the present invention is not limited thereto.
  • the apparatus including the present apparatus may be a karaoke apparatus or a game.
  • the karaoke device may be, for example, a karaoke device having a karaoke function as described in the dance scoring device.
  • Examples of the game include a love simulation game and a music game.
  • the romance simulation game in addition to the conventional romance simulation game, a more realistic experience can be provided by adding a facial expression at a specific timing or a facial expression within a certain time to the scenario branching condition. For example, it is possible to increase the intimacy by matching the facial expression of the person appearing on the screen, or to decrease the intimacy when smiling in a serious scene.
  • Facial expression scoring device 11 Facial image imaging means 12 Facial expression estimation means 13 Facial expression scoring means 14 Grading result display means 15 Grading target person attribute determination means 16 Advertisement selection means 17 Grading reference display means 18 Image display means 101 Main screen 102 Model Image 103 Lyrics 104 Section 105 Total scoring result display 106 Pinpoint scoring result display 107, 108 Face mark 109 Scoring subject image 110 A series of operations of the model image 111 Timing bar 112 Operation

Abstract

　利用者の表情を採点することで表現力の定量評価を向上させることが可能な顔表情採点装置を提供する。　本発明の顔表情採点装置（１）は、採点対象者の顔画像を撮像する顔画像撮像手段（１１）と、前記撮像された顔画像から顔の表情を推定する顔表情推定手段（１２）と、前記推定された顔画像の表情を、予め定めた基準によって採点する顔表情採点手段（１３）と、採点された結果を表示する採点結果表示手段（１４）と、を含むことを特徴とする。

Description

顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置
　本発明は、顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置に関する。
　従来のダンス採点装置またはカラオケ装置には、単に楽曲に合わせて歌うだけでなく、例えば、ダンス採点装置やカラオケシステムの背景映像や歌詞テロップにおいても工夫されているものがある。例えば、下記特許文献１では、歌唱者が高齢者であれば、歌詞テロップを大きくしたり、若者であれば背景画像を現在話題の街角にするなど歌唱者の属性（性別、年齢等）に合わせて個別に対応するカラオケシステムが開示されている。
　一方、従来のテレビ会議やテレビ電話などの画像通信において、例えば、下記特許文献２に示すように、顔の表情等の属性判定が可能である属性判定方法を利用している。
特開２０１２－１１８２８６号公報 国際公開第２０１２００２０４７号公報
　しかしながら、従来のカラオケ装置において、利用者の表情に着目して表現力の定量評価をするものが無かった。同様に、ゲームにおいても、利用者の表情に着目して表現力の定量評価をするものが無かった。
　そこで、本発明は、利用者の表情を採点することで表現力の定量評価を向上させることが可能な顔表情採点装置を提供することを目的とする。
　本発明の顔表情採点装置は、
採点対象者の顔画像を撮像する顔画像撮像手段と、
前記撮像された顔画像から顔の表情を推定する顔表情推定手段と、
前記推定された顔画像の表情を、予め定めた基準によって採点する顔表情採点手段と、
採点された結果を表示する採点結果表示手段と、
を含むことを特徴とする。
　本発明のダンス採点装置は、前記顔表情採点装置を含むことを特徴とする。
　本発明のカラオケ装置は、前記顔表情採点装置を含むことを特徴とする。
　本発明のゲーム装置は、前記顔表情採点装置を含むことを特徴とする。
　本発明の顔表情採点装置によれば、ダンス採点装置、カラオケ装置及びゲーム装置において、顔表情を採点することで表現力の定量評価を向上させることが可能になる。
本装置の構成を示すブロック図を示す。 本装置を含むダンス採点装置（以下、単に「ダンス採点装置」ということがある。）のメイン画面の一例を示す。 本装置を含むダンス採点装置の振り付けの一連の動作の拡大図を示す。
（実施形態）
　以下、本発明の顔表情採点装置（以下、単に「本装置」ということがある。）の一実施形態の構成および動きについて説明する。
　本発明の顔表情採点装置１は、顔画像撮像手段１１と、顔表情推定手段１２と、顔表情採点手段１３と、採点結果表示手段１４と、を含む。顔表情採点装置１は、さらに、採点基準表示手段１７を含んでもよい。顔表情採点装置１は、さらに、画像表示手段１８を含んでもよい。顔表情採点装置１は、さらに、採点対象者属性判定手段１５を含んでもよい。顔表情採点装置１は、さらに、広告選択手段１６を含んでもよい。
　顔画像撮像手段１１は、採点対象者の顔画像を撮像する。顔画像撮像手段１１は、特に制限されないが、例えば、カメラ等が挙げられる。また、顔画像撮像手段１１は、画像を撮像し、その画像の中から単一または複数の顔画像を抽出する構成となっていてもよい。
　顔表情推定手段１２は、前記撮像された顔画像から顔の表情を推定する。前記推定は、特に制限されないが、例えば、手本画像を用いた機械学習により行われることが挙げられる。
　前記表情は、特に制限されないが、例えば、笑顔、真顔、泣き顔、困った顔、怒った顔等が挙げられる。
　顔表情採点手段１３は、前記推定された顔画像の表情を、予め定めた基準によって採点する。顔表情採点手段１３は、例えば、後述する、判定された属性に応じ、採点基準を調整してもよい。
　前記基準は特に制限されないが、例えば、特定の表情（笑顔、怒った顔等）の度合い等が挙げられる。
　前記採点は、特に制限されないが、例えばＧＯＯＤ（Ｇ）／ＮＯ　ＧＯＯＤ（ＮＧ）の２段階、さらに３段階以上の点数評価等が挙げられる。
　採点結果表示手段１４は、採点された結果を表示する。採点結果表示手段１４は、後述する、選択された広告と共に、前記採点結果を表示してもよい。
　前記採点結果は、特に制限されないが、例えば、画像により表示されても良いし、採点対象者の端末に送信されても良い。前記端末は、特に制限されないが、例えば、携帯電話、スマートフォン、パーソナルコンピュータ等が挙げられる。
　採点基準表示手段１７は、採点対象者に採点基準を表示する。
　画像表示手段１８は、前記採点結果及び採点基準を画像により表示する。
　採点対象者属性判定手段１５は、前記顔画像から採点対象者の属性を判定する。
　前記属性は、特に制限されないが、例えば、性別、年齢、人種、国籍などが挙げられる。
　広告選択手段１６は、前記採点対象者の属性に応じて広告を選択する。
　前記広告は、特に制限されないが、例えば、属性に合わせた例が挙げられる。すなわち、女性の場合、化粧品、小物、雑貨、服飾等が挙げられる。男性の場合、車、バイク、スポーツ用品等が挙げられる。
　ここでは、本装置を用いた顔表情採点の工程の一例について図１のブロック図を参照しながら説明する。
　以下、採点対象者が高齢の女性で採点対象者の笑顔度（笑顔の度合い）を採点するものとして説明する。なお、これは本実施形態の一例にすぎず、本実施形態は、これに限定されない。
　まず、顔画像撮像手段１１により、採点対象者である前記女性の顔画像を撮像する。次に、前記画像データは、顔表情推定手段１２に送信される。次に、顔表情推定手段１２は、前記画像データに基づいて、顔の表情を推定する。この場合では、顔表情推定手段１２は、前記表情を笑顔と推定する。ここで、例えば、顔表情推定手段１２に笑顔の手本画像を用いて学習させ、前記手本画像を参考にして推定する。前記推定した顔の表情は、顔表情採点手段１３に送信される。この場合、顔表情採点手段１３は、前記女性の笑顔度を採点するものとする。採点基準の一例として、前記笑顔の手本画像を基準にしてもよい。また、必要であれば、採点対象者の属性に合わせて、採点基準を調整しても良い。例えば、この場合、高齢なので、採点基準を甘く設定してもよい。ここでは、ＧＯＯＤと評価するものとする。次に前記評価データは、採点結果表示手段１４に送信される。また、必要であれば、採点基準表示手段１７に送信し、例えば採点対象者に採点基準も表示してもよい。次に採点結果表示手段１４は、採点結果を表示する。この場合、例えば、採点対象者の端末に、テキストでＧＯＯＤと出力し、結果のみを表示してもよいし、さらに画像表示手段１８により、前記ＧＯＯＤを画像により表示してもよい。また、必要であれば、前記画像データを採点対象者属性判定手段１５に送信し、高齢、女性という属性データを広告選択手段１６に送信し、採点結果の表示とともに、化粧品の広告を表示しても良い。
　次に本実施形態を含むダンス採点装置（以下、単に「本ダンス採点装置」という。）の動作について、図２を参照しながら説明する。
　図２は、ダンス採点装置の画面の一例を示す。本実施形態のダンス採点装置は、特に制限されないが、例えば、カラオケ機能を備えた装置が挙げられるが、前記カラオケ機能は、あってもなくてもよい。以下では、前記カラオケ機能を備えた装置として説明する。図２で示すメイン画面１０１は、お手本画像１０２、振り付けの一連の動作（一連の動作）１１０、歌詞１０３、判定タイミングを示す表示（タイミングバー）１１１、総合採点結果表示１０５、ピンポイント採点結果表示１０６、顔マーク１０７および１０８、採点対象者画像１０９から構成されている。なお、前記構成要素は、特に制限されず、あってもなくてもよい。また、前記構成要素にない構成要素を適宜含んでも良い。
　メイン画面１０１には、詳細に図示していないが、本ダンス採点装置は、従来のカラオケのメイン画面と同様の構成を含む。また、従来のダンス採点装置と同様の構成を含む。すなわち、従来のダンス装置またはカラオケ装置のように、例えば、歌詞１０３が表示される。なお、ここでは、歌詞１０３は、右側から左側へ移動しているが、これに限定されず、左側から右側へ移動しても良い。
　メイン画面１０１は、とくに制限されないが、例えば、従来のダンス採点装置またはカラオケ装置と同様に背景画像（映像）を映し出しても良いが、アーティストのプロモーションビデオ（ＰＶ）等を映し出すことが好ましく、ダンスミュージックのＰＶ等を映し出すことがより好ましい。また、お手本画像１０２は、特に制限されないが、例えば、歌手、ダンサー等が挙げられる。これにより、実際の歌手、ダンサーなどの表現力を基準として評価することを採点対象者に暗黙的に理解させることができる。
　図２に示すように、メイン画面１０１に歌詞１０３とともに、お手本画像の一連の動作１１０が表示されている。以下、ここでは、メイン画面にダンスミュージックのＰＶが流れているとして説明する。すなわち、お手本画像１０２であるダンサーが歌いながらダンスを踊る映像が流れているとして以下、説明する。なお、本ダンス採点装置は、これに制限されない。
　ダンサーの一連の動作が動作１１０で示されている。ここで、採点対象者は、歌いながらダンサーの動きに合わせてダンスをする。図２では、現在のダンサーの動きをタイミングバー１１１とそれに重なる動作１１２で示す。ここで、採点対象者は、タイミングバー１１１と重なる動作１１２と同じ動作をしているかどうかで点数評価される。すなわち、採点対象者の動作と動作１１２とが似ていれば似ているほど点数は高く評価される。
　総合採点結果表示１０５は、図２に示すように、例えば、総合得点、基本点、ボーナス点、ランキング等を含んでもよい。前記ランキングを表示するために、例えば、通信手段により随時更新できる機能を有していてもよい。ここで、例えば、図２のピンポイント採点結果表示１０６に示すように、一つ一つの動作について随時採点結果を表示する機能を有していてもよい。図２では、例えば、動作１１２に対する採点対象者の動作がＧＯＯＤであることを示している。
　また、図２に示すように、採点対象者の動作は、採点者画像１０９により映し出してもよい。採点者画像１０９は、随時更新されることが好ましい。また、採点者画像は、録画機能を有していることがより好ましい。
　また、図２に示すように、振り付け（動作）とともに顔の表情も採点基準としてもよい。これについては、以下、図３（Ａ）～（Ｂ）を参照しながら詳細に説明する。
　図３（Ａ）～（Ｂ）は、お手本画像１０２（図３では、図示せず）の一連の動作１１０の拡大図である。ここで、図３（Ａ）では、区間１０４の上に顔マーク１０７が表示されている。左側区間１０４の場合、顔マーク１０７は、笑顔のマークであり、右側の区間１０４の場合、顔マーク１０８は、真顔のマークである。次に、図３（Ｂ）では、区間１０４とタイミングバー１１１が重なっている。この場合、採点対象者は、区間１０４がタイミングバー１１１に重なっている期間、顔表情を笑顔にすると採点が加算される。なお、区間１０４を過ぎると、また、別の区間１０４がタイミングバー１１１に重なる。この場合、採点対象者は、真顔にすると採点が加算される。なお、顔マークは、例えば、お手本画像（ここでは、ダンサー）の実際の顔表情に合わせてもよいし、合わせなくてもよい。このように顔表情も採点基準とすることで、歌、振り付け、顔の表情をお手本画像とまねることになり、これまで以上に表現力が定量評価できる。
　以上、本装置を含むダンス採点装置を一例をあげて説明したが、これに限定されず、例えば、本装置を含む装置がカラオケ装置であってもよいし、ゲームであってもよい。前記カラオケ装置としては、例えば、前記ダンス採点装置で説明したような、カラオケ機能を有するカラオケ装置であってもよい。前記ゲームとしては、例えば、恋愛シミュレーションゲーム、音楽ゲーム等が挙げられる。前記恋愛シミュレーションゲームの場合は、従来の恋愛シミュレーションゲームに加え、特定タイミングでの顔表情や一定時間内の顔表情をシナリオ分岐の条件に加えることにより、よりリアルな体験を提供することができる。例えば、画面上に現れる人物の顔表情に合わせることでより親密度を高める効果を出すことや、シリアスなシーンの中で笑顔でいると親密度を下げる効果を出すことなどが考えられる。
　以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
　この出願は、２０１３年４月２日に出願された日本出願特願２０１３－０７７１１８を基礎とする優先権を主張し、その開示の全てをここに取り込む。
１　　　　　顔表情採点装置
１１　　　　顔画像撮像手段
１２　　　　顔表情推定手段
１３　　　　顔表情採点手段
１４　　　　採点結果表示手段
１５　　　　採点対象者属性判定手段
１６　　　　広告選択手段
１７　　　　採点基準表示手段
１８　　　　画像表示手段
１０１　　　メイン画面
１０２　　　お手本画像
１０３　　　　歌詞
１０４　　　　区間
１０５　　　　総合採点結果表示
１０６　　　　ピンポイント採点結果表示
１０７、１０８　　顔マーク
１０９　　　　採点対象者画像
１１０　　　　お手本画像の一連の動作
１１１　　　　タイミングバー
１１２　　　　動作

 

Claims (8)

  1. 採点対象者の顔画像を撮像する顔画像撮像手段と、
    前記撮像された顔画像から顔の表情を推定する顔表情推定手段と、
    前記推定された顔画像の表情を、予め定めた基準によって採点する顔表情採点手段と、
    採点された結果を表示する採点結果表示手段と、
    を含むことを特徴とする顔表情採点装置。
  2. さらに、採点対象者に採点基準を表示する採点基準表示手段を含むことを特徴とする請求項１記載の顔表情採点装置。
  3. さらに、画像表示手段を含み、前記画像表示手段において、前記採点結果及び採点基準が表示されることを特徴とする請求項２記載の顔表情採点装置。
  4. さらに、前記顔画像から採点対象者の属性を判定する採点対象者属性判定手段を含み、
    前記顔表情採点手段は、前記判定された属性に応じ、採点基準を調整することを特徴とする請求項１から３のいずれか一項に記載の顔表情採点装置。
  5. さらに、広告選択手段を含み、前記広告選択手段は、前記採点対象者の属性に応じて広告を選択し、前記採点結果表示手段は、前記選択された広告と共に、前記採点結果を表示することを特徴とする請求項４記載の顔表情採点装置。
  6. 請求項１から５のいずれか一項に記載の顔表情採点装置を含むことを特徴とするダンス採点装置。
  7. 請求項１から５のいずれか一項に記載の顔表情採点装置を含むことを特徴とするカラオケ装置。
  8. 請求項１から５のいずれか一項に記載の顔表情採点装置を含むことを特徴とするゲーム装置。

     
PCT/JP2014/053783 2013-04-02 2014-02-18 顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置 WO2014162788A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP14779300.4A EP2982421A1 (en) 2013-04-02 2014-02-18 Facial-expression assessment device, dance assessment device, karaoke device, and game device
US14/781,647 US20160063317A1 (en) 2013-04-02 2014-02-18 Facial-expression assessment device, dance assessment device, karaoke device, and game device
CN201480017641.6A CN105050673B (zh) 2013-04-02 2014-02-18 面部表情评分装置、舞蹈评分装置、卡拉ok装置以及游戏装置
JP2015509944A JP6369909B2 (ja) 2013-04-02 2014-02-18 顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置
HK16101827.9A HK1213832A1 (zh) 2013-04-02 2016-02-18 面部表情評分裝置、舞蹈評分裝置、卡拉 裝置以及遊戲裝置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013077118 2013-04-02
JP2013-077118 2013-04-02

Publications (1)

Publication Number Publication Date
WO2014162788A1 true WO2014162788A1 (ja) 2014-10-09

Family

ID=51658092

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/053783 WO2014162788A1 (ja) 2013-04-02 2014-02-18 顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置

Country Status (6)

Country Link
US (1) US20160063317A1 (ja)
EP (1) EP2982421A1 (ja)
JP (2) JP6369909B2 (ja)
CN (1) CN105050673B (ja)
HK (1) HK1213832A1 (ja)
WO (1) WO2014162788A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016092933A1 (ja) * 2014-12-08 2016-06-16 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN105719151A (zh) * 2014-12-05 2016-06-29 趋势投资股份有限公司 伴唱广告销售系统
CN107978308A (zh) * 2017-11-28 2018-05-01 广东小天才科技有限公司 一种k歌评分方法、装置、设备及存储介质
JP2019115522A (ja) * 2017-12-27 2019-07-18 株式会社カプコン ゲームプログラムおよびゲーム装置
JP2019165907A (ja) * 2018-03-22 2019-10-03 株式会社Ｇｐｏ 得点集計システム
JP2021005028A (ja) * 2019-06-27 2021-01-14 株式会社第一興商 カラオケ装置

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6428066B2 (ja) * 2014-09-05 2018-11-28 オムロン株式会社 採点装置及び採点方法
JP6596899B2 (ja) * 2015-04-16 2019-10-30 日本電気株式会社 接客データ処理装置及び接客データ処理方法
CN105477859B (zh) * 2015-11-26 2019-02-19 北京像素软件科技股份有限公司 一种基于用户颜值的游戏控制方法及装置
CN105749537B (zh) * 2016-02-02 2018-07-20 四川长虹电器股份有限公司 一种运动辅助打分系统
CN107368491B (zh) * 2016-05-12 2023-07-25 富泰华工业（深圳）有限公司 影像制作系统及方法
CN106205633B (zh) * 2016-07-06 2019-10-18 李彦芝 一种模仿、表演练习打分系统
CN106851093A (zh) * 2016-12-30 2017-06-13 中南大学 一种微笑评分方法及其系统
CN107038455B (zh) * 2017-03-22 2019-06-28 腾讯科技（深圳）有限公司 一种图像处理方法及装置
CN108960800A (zh) * 2017-05-20 2018-12-07 高春花 一种基于通讯群的支付方案多样化产生方法
CN107590459A (zh) * 2017-09-11 2018-01-16 广东欧珀移动通信有限公司 发表评价的方法和装置
JP6491772B1 (ja) * 2018-03-22 2019-03-27 株式会社元気広場 装置、装置の制御方法、及び、プログラム
CN108509047A (zh) * 2018-03-29 2018-09-07 北京微播视界科技有限公司 动作匹配结果确定装置、方法、可读存储介质及交互装置
CN108553905A (zh) * 2018-03-30 2018-09-21 努比亚技术有限公司 基于游戏应用的数据反馈方法、终端及计算机存储介质
JP7175120B2 (ja) * 2018-07-26 2022-11-18 株式会社フェイス 音楽療法のための歌唱補助装置
CN108853920A (zh) * 2018-07-27 2018-11-23 程燕 一种微笑专用训练器
CN109529317B (zh) * 2018-12-19 2022-05-31 广州方硅信息技术有限公司 游戏交互方法、装置及移动终端
CN109985380A (zh) * 2019-04-09 2019-07-09 北京马尔马拉科技有限公司 互联网游戏人机交互方法及系统
JP7431068B2 (ja) * 2020-03-13 2024-02-14 トヨタ自動車株式会社 貢献度算出装置
CN112102125A (zh) * 2020-08-31 2020-12-18 湖北美和易思教育科技有限公司 一种基于面部识别的学生技能评测方法及装置
CN112216370A (zh) * 2020-10-16 2021-01-12 王华丽 基于认知、音乐和运动的益智训练系统及训练方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000029483A (ja) * 1998-07-15 2000-01-28 Ricoh Co Ltd カラオケ装置
JP2004046591A (ja) * 2002-07-12 2004-02-12 Konica Minolta Holdings Inc 画像評価装置
JP2008027086A (ja) * 2006-07-19 2008-02-07 Sony Computer Entertainment Inc 表情誘導装置および表情誘導方法、表情誘導システム
JP2008042319A (ja) * 2006-08-02 2008-02-21 Sony Corp 撮像装置および方法、表情評価装置およびプログラム
JP2008264367A (ja) * 2007-04-24 2008-11-06 Nintendo Co Ltd トレーニングプログラムおよびトレーニング装置
JP2009186630A (ja) * 2008-02-05 2009-08-20 Nec Corp 広告配信装置
JP2009288446A (ja) * 2008-05-28 2009-12-10 Nippon Telegr & Teleph Corp <Ntt> カラオケ映像編集装置及び方法及びプログラム
JP2011206471A (ja) * 2010-03-30 2011-10-20 Konami Digital Entertainment Co Ltd ゲーム装置、ゲーム装置の制御方法、及びプログラム
WO2012002047A1 (ja) 2010-06-30 2012-01-05 Ｎｅｃソフト株式会社 属性判定方法、属性判定装置、プログラム、記録媒体および属性判定システム
WO2012039467A1 (ja) * 2010-09-22 2012-03-29 パナソニック株式会社 運動支援システム
JP2012078526A (ja) * 2010-09-30 2012-04-19 Xing Inc カラオケシステム
JP2012118286A (ja) 2010-11-30 2012-06-21 Daiichikosho Co Ltd 利用者属性対応カラオケシステム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7346606B2 (en) * 2003-06-30 2008-03-18 Google, Inc. Rendering advertisements with documents having one or more topics using user topic interest
JP2004178003A (ja) * 2002-11-22 2004-06-24 Densei Lambda Kk オーディション情報登録閲覧システム
JP4481682B2 (ja) * 2004-02-25 2010-06-16 キヤノン株式会社 情報処理装置及びその制御方法
US20060128263A1 (en) * 2004-12-09 2006-06-15 Baird John C Computerized assessment system and method for assessing opinions or feelings
JP4240108B2 (ja) * 2006-10-31 2009-03-18 ソニー株式会社 画像記憶装置、撮像装置、画像記憶方法およびプログラム
JP2008139798A (ja) * 2006-12-05 2008-06-19 Ricoh Co Ltd 潤滑剤塗布装置、クリーニング装置、画像形成装置及び画像形成方法
JP5109564B2 (ja) * 2007-10-02 2012-12-26 ソニー株式会社 画像処理装置、撮像装置、これらにおける処理方法およびプログラム
JP4702418B2 (ja) * 2008-09-09 2011-06-15 カシオ計算機株式会社 撮影装置、画像領域の存否判定方法及びプログラム
KR101558553B1 (ko) * 2009-02-18 2015-10-08 삼성전자 주식회사 아바타 얼굴 표정 제어장치
TWI447658B (zh) * 2010-03-24 2014-08-01 Ind Tech Res Inst 人臉影像擷取方法與裝置
JP5863423B2 (ja) * 2011-11-30 2016-02-16 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP5894426B2 (ja) * 2011-12-13 2016-03-30 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 計測対象抽出装置、顔形状推定装置、計測対象抽出方法および顔形状推定方法
JP2013186512A (ja) * 2012-03-06 2013-09-19 Sony Corp 画像処理装置および方法、並びにプログラム
US20140242560A1 (en) * 2013-02-15 2014-08-28 Emotient Facial expression training using feedback from automatic facial expression recognition

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000029483A (ja) * 1998-07-15 2000-01-28 Ricoh Co Ltd カラオケ装置
JP2004046591A (ja) * 2002-07-12 2004-02-12 Konica Minolta Holdings Inc 画像評価装置
JP2008027086A (ja) * 2006-07-19 2008-02-07 Sony Computer Entertainment Inc 表情誘導装置および表情誘導方法、表情誘導システム
JP2008042319A (ja) * 2006-08-02 2008-02-21 Sony Corp 撮像装置および方法、表情評価装置およびプログラム
JP2008264367A (ja) * 2007-04-24 2008-11-06 Nintendo Co Ltd トレーニングプログラムおよびトレーニング装置
JP2009186630A (ja) * 2008-02-05 2009-08-20 Nec Corp 広告配信装置
JP2009288446A (ja) * 2008-05-28 2009-12-10 Nippon Telegr & Teleph Corp <Ntt> カラオケ映像編集装置及び方法及びプログラム
JP2011206471A (ja) * 2010-03-30 2011-10-20 Konami Digital Entertainment Co Ltd ゲーム装置、ゲーム装置の制御方法、及びプログラム
WO2012002047A1 (ja) 2010-06-30 2012-01-05 Ｎｅｃソフト株式会社 属性判定方法、属性判定装置、プログラム、記録媒体および属性判定システム
WO2012039467A1 (ja) * 2010-09-22 2012-03-29 パナソニック株式会社 運動支援システム
JP2012078526A (ja) * 2010-09-30 2012-04-19 Xing Inc カラオケシステム
JP2012118286A (ja) 2010-11-30 2012-06-21 Daiichikosho Co Ltd 利用者属性対応カラオケシステム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105719151A (zh) * 2014-12-05 2016-06-29 趋势投资股份有限公司 伴唱广告销售系统
WO2016092933A1 (ja) * 2014-12-08 2016-06-16 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN107978308A (zh) * 2017-11-28 2018-05-01 广东小天才科技有限公司 一种k歌评分方法、装置、设备及存储介质
JP2019115522A (ja) * 2017-12-27 2019-07-18 株式会社カプコン ゲームプログラムおよびゲーム装置
JP2019165907A (ja) * 2018-03-22 2019-10-03 株式会社Ｇｐｏ 得点集計システム
JP7044358B2 (ja) 2018-03-22 2022-03-30 株式会社Gpo 得点集計システム
JP2021005028A (ja) * 2019-06-27 2021-01-14 株式会社第一興商 カラオケ装置
JP7223650B2 (ja) 2019-06-27 2023-02-16 株式会社第一興商 カラオケ装置

Also Published As

Publication number Publication date
EP2982421A1 (en) 2016-02-10
CN105050673A (zh) 2015-11-11
CN105050673B (zh) 2019-01-04
HK1213832A1 (zh) 2016-07-15
JPWO2014162788A1 (ja) 2017-02-16
JP2018010305A (ja) 2018-01-18
US20160063317A1 (en) 2016-03-03
JP6369909B2 (ja) 2018-08-08

Similar Documents

Publication Publication Date Title
JP6369909B2 (ja) 顔表情採点装置、ダンス採点装置、カラオケ装置、およびゲーム装置
WO2021008158A1 (zh) 一种人体关键点检测方法及装置、电子设备和存储介质
JP4775671B2 (ja) 情報処理装置および方法、並びにプログラム
US10529109B1 (en) Video stream customization using graphics
CN103760968B (zh) 数字标牌显示内容选择方法和装置
US9329677B2 (en) Social system and method used for bringing virtual social network into real life
CN110390048A (zh) 基于大数据分析的信息推送方法、装置、设备及存储介质
WO2014162787A1 (ja) 身体動作採点装置、ダンス採点装置、カラオケ装置及びゲーム装置
US9898850B2 (en) Support and complement device, support and complement method, and recording medium for specifying character motion or animation
CN103797812A (zh) 带评论运动图像生成装置及带评论运动图像生成方法
KR20100073493A (ko) 사용자의 관심 정도에 기반한 컨텐츠 제공장치 및 방법
CN113473182A (zh) 一种视频生成的方法及装置、计算机设备和存储介质
US20110150283A1 (en) Apparatus and method for providing advertising content
US11900683B2 (en) Setting ad breakpoints in a video within a messaging system
WO2022022485A1 (zh) 内容提供及展示方法、装置、电子设备、存储介质
CN110035329A (zh) 图像处理方法、装置及存储介质
JP2016091536A (ja) 電子装置及び漫画制作方法
US20220103894A1 (en) Selecting ads for a video within a messaging system
KR20150131215A (ko) 3d 모바일 및 커넥티드 tv 광고 트래피킹 시스템
Bi et al. Understanding the shared experience of runners and spectators in long-distance running events
US9928877B2 (en) Method and system for automatic generation of an animated message from one or more images
CN112218160A (zh) 视频转换方法及装置和视频转换设备及存储介质
CN110784762B (zh) 一种视频数据处理方法、装置、设备及存储介质
JP2015099603A (ja) 画像表示システム
CN114125149A (zh) 视频播放方法、装置、系统、电子设备及存储介质

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201480017641.6

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14779300

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2015509944

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 2014779300

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 14781647

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE