JP7054725B2 - 生成装置、生成方法および生成プログラム - Google Patents

生成装置、生成方法および生成プログラム Download PDF

Info

Publication number
JP7054725B2
JP7054725B2 JP2020154146A JP2020154146A JP7054725B2 JP 7054725 B2 JP7054725 B2 JP 7054725B2 JP 2020154146 A JP2020154146 A JP 2020154146A JP 2020154146 A JP2020154146 A JP 2020154146A JP 7054725 B2 JP7054725 B2 JP 7054725B2
Authority
JP
Japan
Prior art keywords
image
extracted
user
extracted image
generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020154146A
Other languages
English (en)
Other versions
JP2022048031A (ja
Inventor
友一 中村
太士 岩▲瀬▼張
勝雅 朝日
悠香 江口
宇航 薛
茉里子 吉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2020154146A priority Critical patent/JP7054725B2/ja
Publication of JP2022048031A publication Critical patent/JP2022048031A/ja
Application granted granted Critical
Publication of JP7054725B2 publication Critical patent/JP7054725B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、生成装置、生成方法および生成プログラムに関する。
従来、人物画像を組み合わせた合成画像を生成する技術が知られている。例えば、特許文献1には、一定の関係を有する人物同士の顔画像がかたまって配置された合成画像データを生成する技術が開示されている。
特開2006-121661号公報
しかしながら、上記の従来技術では、オンラインイベントに参加した利用者による一体感のある集合写真を得ることができるとは限らない。例えば、上記の従来技術では、画像データに含まれる人物の顔画像に基づき顔画像同士の関係を検出し、この関係に応じて顔画像を配分し、配分した顔画像の合成位置においてテンプレートと合成して合成画像データを生成している。
このように、上記の従来技術は、一定の関係を有する人物同士の顔画像がかたまって配置された合成画像データを作成することを目的としており、オンラインイベントのように参加者がリアルな現場に集合することのできない状況下であってもこの参加者が実際に集合しているかの如く一体感のある集合写真を生成することができるとはいい難い。
したがって、上記の従来技術では、オンラインイベントに参加した利用者による一体感のある集合写真を得ることができるとは限らない。
本願は、上記に鑑みてなされたものであって、オンラインイベントに参加した利用者による一体感のある集合写真を得ることができる生成装置、生成方法および生成プログラムを提供することを目的とする。
本願に係る生成装置は、オンラインイベントに参加した利用者それぞれが撮像された別々の画像から、前記利用者が写る範囲が抽出された抽出画像を取得する取得部と、前記抽出画像を用いて、前記オンラインイベントに対応する集合画像を生成する生成部とを有することを特徴とする。
実施形態の一態様によれば、オンラインイベントに参加した利用者による一体感のある集合写真を得ることができるという効果を奏する。
図1は、実施形態に係る生成処理の全体像を示す図である。 図2は、実施形態に係る生成システムの一例を示す図である。 図3は、実施形態に係る生成装置の構成例を示す図である。 図4は、実施形態に係る背景画像記憶部の一例を示す図である。 図5は、実施形態に係る条件情報記憶部の一例を示す図である。 図6は、実施形態に係る集合画像記憶部の一例を示す図である。 図7は、実施形態に係る生成処理の詳細な一例(1)を示す図である。 図8は、実施形態に係る生成処理の詳細な一例(2)を示す図である。 図9は、実施形態にかかる生成処理手順を示すフローチャートである。 図10は、生成装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
以下に、本願に係る生成装置、生成方法および生成プログラムを実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る生成装置、生成方法および生成プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略する。
[実施形態]
〔1.実施形態に係る生成処理の概要〕
まず、実施形態に係る生成処理の概要について説明する。例えば、ウィルスへの感染が拡大している状況下や、自然災害など各種災害が発生しているような状況下では、感染やケガにより生命が危険にさらされてしまうリスクがある。したがって、このような状況下にある場合には、リスク回避のためにリアル空間でのイベントが中止や延期されてしまうことがある。また、個人個人もリスクを回避するために外出を控えるようになる。
昨今、こうした社会情勢を踏まえて、オンライン上でのコミュニケーション機会が増えてきている。例えば、通勤を必要とする日常的な仕事、学会、式典、各種会合、娯楽イベントなど、これまでリアル空間で行うことが普通とされてきたイベントがオンラインで開催されるようになってきている。また、専門知識や特別な機材を必要とせず、例えばパソコンや携帯電話さえあれば、いかなる人も容易にオンラインイベントに参加できるような各種のツール(アプリケーション)も着目されてきている。
このように、リアル空間でのリスクが拡大しさらに長期化しているような昨今においては、オンラインイベントは非常に有益なものである。一方で、オンラインイベントでは、人と人が直に接することがないために味気無さが感じられてしまう場合がある。
そこで、オンラインイベントであっても実際にその場に人々が集合しているかの如く一体感を得られるサービスを提供することができれば、温かみのある思い出を記録としてイベント参加者に残させることができるとの発想から、実施形態に係る生成処理がなされるに至った。
このようなことから、実施形態に係る生成処理とは、オンラインでつながってさえいれば、場所を限定せずとも参加者がオンラインイベントに対応する集合写真を得られるようにするサービスである。ここで、オンラインイベントでの集合写真を作成しようとする場合、参加者それぞれが任意の背景画像を利用しているため統一感のある集合写真を作成することができない、統一感を出すために背景画像を各参加者に配布する場合手間がかかるうえどのオンラインイベントであっても同じような雰囲気の集合写真となってしまう、などといった課題が発生する。
したがって、実施形態に係る生成処理では、これらの課題が解決され、参加者は自身が設定している背景を気にすることなく特定のURLにアクセスするだけで容易にオンラインイベントに対応する集合写真を得られるような仕組みとなっている。具体的には、実施形態に係る生成処理では、オンラインイベントに参加した利用者それぞれが撮像された別々の画像から、利用者が写る範囲が抽出された抽出画像が取得され、取得された抽出画像を用いてこのオンラインイベントに対応する集合画像が生成される。また、実施形態に係る生成処理では、オンラインイベントに対応する所定の背景画像に対して、上記抽出画像が配置されることで集合画像が生成される。
また、このような生成処理によれば、オンラインイベントであっても参加者が実際に集合しているかの如く一体感のある集合写真を生成することができるため、参加者は一体感のある集合写真を得ることができるようになると考えられる。
〔2.生成システムについて〕
以下、図1を用いて実施形態に係る生成処理の具体例を示すが、それに先立って、まず、実施形態に係る生成処理が実現されるシステムについて、図2を用いて説明する。図2は、実施形態に係る生成システムの一例を示す図である。図2には、実施形態に係る生成システムの一例として、生成システムSyが示される。
実施形態に係る生成システムSyは、図2に示すように、利用者装置10-xnと、生成装置100とを含む。利用者装置10-xn、生成装置100は、ネットワークを介して有線または無線により通信可能に接続される。なお、図2に示す生成システムSyには、複数台の利用者装置10-xnや、複数台の生成装置100が含まれてよい。
利用者装置10-xnは、任意のオンラインイベントであるオンラインイベントEVxに属する利用者によって利用される情報処理端末である。利用者装置10-xnは、例えば、スマートフォンや、ウェアラブルデバイスや、タブレット型端末や、ノート型PC(Personal Computer)や、デスクトップPCや、携帯電話機や、PDA(Personal Digital Assistant)等である。本実施形態では、利用者装置10-xnは、スマートフォンであるものとする。
また、利用者装置10-xnは、汎用的なアプリケーションであるウェブブラウザや、専用のアプリケーションを介して、生成装置100との間で情報の送受信を行う。例えば、利用者装置10-xnは、これらアプリケーションの制御に従って、利用者が撮像された撮像画像を取得し、取得した撮像画像を生成装置100に送信する。また、例えば、利用者装置10-xnは、生成装置100から送信された各種情報(例えば、後述する集合画像)を受信しこれを画面に表示する。
次に、利用者装置10-xnを区別する場合における表記ルールについて説明する。利用者装置10-xnは、オンラインイベントを識別するイベントID(Identifier)と、イベントIDによって識別されるオンラインイベントに属する利用者を識別する利用者ID(Identifier)とを用いて区別される。具体的には、利用者装置10-xnの「x」にはイベントIDの一部(数字の部分)を入力し、「n」には係るイベントIDによって識別されるオンラインイベントに属する利用者を識別する利用者IDの一部(数字の部分)を入力することで、この利用者の情報処理装置として一意に定まるよう区別表記される。
例えば、オンラインイベントEVxの1つであるオンラインイベントEV1(x=1)と、オンラインイベントEV1に属する利用者Unの一人である利用者U12(n=12)を例に挙げて具体的な一例を示す。係る例では、オンラインイベントEV1を識別するイベントIDが「EV1」であり、利用者U12を識別する利用者IDが「U12」であるものとする。そうすると、「EV1」のうち「x」に対応する数字「1」と、「U12」のうち「n」に対応する数字「12」とを用いて、利用者U12によって利用者される(利用者U12を所有者とする)利用者装置10-xnを、利用者装置10-112と区別して表記することができる。
図1に示す他の利用者の利用者装置10-xnについても同様のルールに従い区別表記することができ詳細な説明については省略する。
なお、実施形態に係る生成システムSyは、オンラインイベントごとに複数に分けられる。例えば、実施形態に係る生成システムSyは、オンラインイベントの中で撮影用URL(Uniform Resource Locator)が生成および配布されることでオンラインイベントごとに分けられる。このようなことから生成システムSyも、イベントIDを用いてオンラインイベントごとに区別されることができる。具体的には、任意のオンラインイベントEVxに対応する生成システムSyxの「x」にイベントIDの一部(数字の部分)を入力することで、生成システムSyのうち係るイベントIDによって識別されるオンラインイベントに対応するシステムが一意に定まるよう区別表記される。イベントID「EV1」により識別されるオンラインイベントEV1(x=1)を例に挙げると、生成システムSyのうちオンラインイベントEV1に対応するシステムは、図2に示すように生成システムSy1と区別して表記することができる。
また、オンラインイベントに属する利用者についても説明しておく。オンラインイベントに属する利用者には、主に2種類(2つの立場)が存在する。具体的にはオンラインイベントに属する利用者には、オンラインイベントの進行を取り仕切るホストとしての立場にある利用者と、当該オンラインイベントに招待された参加者としての立場にある利用者とが存在する。以下の実施形態では、実施形態に係る利用者(具体的には集合画像に表示される対象の利用者)は、参加者としての立場にある利用者であるものとして説明する。一方で、実施形態に係る利用者には、オンラインイベントの進行を取り仕切るホストとしての立場にある利用者も含まれてよい。また、以下の実施形態では、参加者としての立場にある利用者をそのまま「参加者」と表記する場合がある。
〔3.生成処理の一例〕
ここからは、図1を用いて、実施形態に係る生成処理の一例について説明する。図1は、実施形態に係る生成処理の全体像を示す図である。図1では、オンラインイベントEV1への参加者がリアル空間に一堂に会しているかのような集合画像(集合写真)が生成される場面が示される。また、オンラインイベントEV1は、オンラインで実現可能なイベントであればいかなるイベントであってもよいが、図1の例では学生向けのコンペであるものとする。
また、図1には、オンラインイベントEV1(以下「イベントEV1」と略す)のホスト役としての利用者がホストU11(利用者U11)であり、ホストU11が利用者装置10-111を用いてイベントEV1を進行する例が示される。また、図1には、イベントEV1に招待された参加者としての立場の利用者として参加者U12(利用者U12)、参加者U13(利用者U13)、参加者U14(利用者U14)が示される。なお、図1の例では説明を簡単にするための参加者のうちの一部として、3名の参加者が示されているが、参加者の人数は限定されない。また、図1の例では、参加者U12が利用者装置10-112を用いてイベントEV1に遠隔参加し、参加者U13が利用者装置10-113を用いてイベントEV1に遠隔参加し、参加者U14が利用者装置10-114を用いてイベントEV1に遠隔参加している例が示される。以下、利用者装置10-112、利用者装置10-113、利用者装置10-114を区別する必要がない場合には、利用者装置10-xnと表記する。
このような状態において、まず、ホストU11は、利用者装置10-111を用いて撮影用URLを生成し、生成した撮影用URLを参加者U12、U13およびU14(参加者U12~U14)にも共有する(ステップS1)。例えば、ホストU11は、生成装置100に対して撮影用URLを生成するよう要求することで、生成装置100から撮影用URLを得ることができる。
ここで生成される撮影用URLとは、イベントEV1の開催場所として設定されたオンライン上の仮想空間の所在地を示す情報であってよく、参加者U12~U14は、例えば、ブラウザを介して撮影用URLにアクセスすることでイベントEV1に参加することができる。一方で、撮影用URLは、イベントEV1とは別にイベントEV1に対応する集合画像生成のためだけに設定されるものであってもよい。
次に、参加者それぞれの間で利用者装置10-xnを介した写真撮影が行われる(ステップS2)。写真撮影は、イベントEV1が開催されている開催期間中であれば、参加者個々の任意のタイミングで行われてもよい。また、写真撮影は、所定の合図(例えば、カウントダウンを挟んだ後に利用者装置10-xnに表示される合図)に応じて、生成装置100により動的に制御される同時撮影でもよい。
前者の場合、図1の例では、参加者U12~U14それぞれは、例えば、自身の利用者装置10-xnに具備されるカメラを手動操作し顔がメインに写されるよう撮影する。後者の場合、例えば、生成装置100は、ホストU11からの指示に応じて、ブラウザを介して参加者U12~U14それぞれの利用者装置10-xnに具備されるカメラを制御することで、参加者U12~U14それぞれを同一のタイミングで撮影する。また、生成装置100は、カウントダウンとともに、例えば「表示される枠内に顔全体(あるいは首元から頭の上まで)が収まるようにしてください」といったコメントを利用者装置10-xnに表示させることで、カウントゼロとなったタイミングでカメラを制御してもよい。
撮影が完了すると、利用者装置10-xnは、参加者が撮像された撮像画像を生成装置100に送信する(ステップS3)。図1の例によれば、利用者装置10-112は、撮影に応じて参加者U12の顔がメインに写された撮像画像PC12を取得したことで、撮像画像PC12を生成装置100に送信している。また、図1の例によれば、利用者装置10-113は、撮影に応じて参加者U13の顔がメインに写された撮像画像PC13を取得したことで、撮像画像PC13を生成装置100に送信している。また、図1の例によれば、利用者装置10-114は、撮影に応じて参加者U14の顔がメインに写された撮像画像PC14を取得したことで、撮像画像PC14を生成装置100に送信している。
したがって、生成装置100は、図1の例では利用者装置10-xnから撮像画像を取得している。また、撮像画像は、イベントID(図1の例では「EV1」)とともに送信されてよく、生成装置100は、取得した撮像画像をイベントIDに対応付ける形で集合画像記憶部123(図6)に登録することができる。
次に、生成装置100は、撮像画像それぞれから人物が写る範囲を抽出(すなわち、撮像画像から人物部分を切り出し)することで、抽出した範囲内の画像である抽出画像を取得する(ステップS4)。なお、生成装置100は、任意の従来技術を用いて、人物が写る範囲を抽出(特定)することができる。例えば、生成装置100は、撮像画像に対して任意の顔認識技術を適用することで人物が写る範囲を撮像画像から抽出する。任意の顔認識技術としては、BodyPix(ブラウザとTensorFlow.jsによるリアルタイム人セグメンテーション)などが挙げられる。
図1には、生成装置100が、撮像画像PC12から人物(具体的には、参加者U12の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC12を取得した例が示される。また、図1には、生成装置100が、撮像画像PC13から人物(具体的には、参加者U13の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC13を取得した例が示される。また、図1には、生成装置100が、撮像画像PC14から人物(具体的には、参加者U14の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC14を取得した例が示される。
次に、生成装置100は、取得した抽出画像について、顔の部分の特徴点を示す特徴情報を取得する(ステップS5)。例えば、生成装置100は、ステップS4において人物が写る範囲を抽出する場合、任意の従来技術を用いて撮像画像内のピクセルを意味のある領域(例えば、顔を構成するパーツ(目、鼻、口、耳など)ごとの領域)にセグメンテーションしたり、あごのライン・唇のライン・輪郭といった顔の部分を特徴付けるラインを特定している。
したがって、生成装置100は、ここでの分類結果に基づいて、顔の部分の特徴点を示す特徴情報を取得することができる。例えば、生成装置100は、抽出画像を構成するピクセルのうち、顔を構成するパーツ(目、鼻、口、耳など)を示すピクセル情報や、顔の部分を特徴付けるラインを示すピクセル情報と特徴情報として取得することができる。また、このようなピクセル情報は、抽出画像のうち、顔を構成するパーツ(目、鼻、口、耳など)の位置を示す位置情報、顔の部分を特徴付けるラインの位置を示す位置情報と解することができる情報である。
次に、生成装置100は、取得した抽出画像それぞれの間で画像の明るさを統一する(ステップS6)。具体的には、生成装置100は、抽出画像それぞれの間で画像の明るさ示す指標値を統一させる。例えば、生成装置100は、抽出画像ExPC12、抽出画像ExPC13および抽出画像ExPC14それぞれの画像の明るさから明るさの平均値を算出し、算出した平均値へと寄せるようにして、抽出画像ExPC12、抽出画像ExPC13および抽出画像ExPC14それぞれの間で画像の明るさを統一させる。
ここで、例えば、参加者U12、U13およびU14のそれぞれは、撮影環境が異なる場合がある。具体的には、参加者U12は自宅で撮影し、参加者U13およびU14外出先で撮影しているかもしれない。そうすると、抽出画像ExPC12、抽出画像ExPC13および抽出画像ExPC14それぞれで撮像画像の明るさが異なることで、個々の顔の明るさにバラつきのある統一感のない集合写真が出来上がってしまう可能性がある。しかしながら、ステップS6のように抽出画像それぞれの間で画像の明るさが統一されることで、統一感のある集合写真が得られるようになる。
次に、生成装置100は、ステップS6により明るさが統一された統一後の抽出画像()を用いて、集合画像(集合写真)を生成する(ステップS7)。具体的には、生成装置100は、イベントEV1に対応する背景画像に対して、抽出画像を配置することにより集合画像を生成する。例えば、生成装置100は、背景画像に対して抽出画像をどのように配置するかが規定される配置条件に従って、抽出画像を配置することにより集合画像を生成する。
配置条件としては、背景画像に含まれるオブジェクト(例えば、オンラインイベントを示すタイトルやロゴなど)に基づきどのような領域に配置すべきかを条件付ける配置可能領域に関する条件、利用者がどのような位置関係で並んで集合しているように見せるかを条件付ける並ばせ方に関する条件、利用者の属性に応じてどのような位置関係で集合しているように見せるかを条件付ける属性に応じた並ばせ方に関する条件、利用者がきめているポーズに応じてどのような位置関係で集合しているように見せるかを条件付けるポーズに応じた並ばせ方に関する条件、等が挙げられる。
また、配置条件は、利用者(例えば、ホスト)によって任意に設定可能なものであってもよいし、生成装置100に対して予め候補として設定されることで生成装置100によって候補の配置条件の中から今回の背景画像に応じた最適な配置条件が選択されてもよい。
また、生成装置100は、機械学習技術を用いて今回の背景画像の態様に応じた最適な配置条件を動的に生成してもよい。例えば、生成装置100は、背景画像の態様(例えば、デザイン、オブジェクトの位置など)と、抽出画像の配置のさせ方との関係性を学習したモデルを用いて、今回の背景画像の態様に応じた最適な配置条件を動的に生成してもよい。
また、イベントEV1に対応する背景画像は、利用者(例えば、ホスト)によって任意に設定可能なものであってもよいし、イベントEV1に対応する背景画像の候補の中から生成装置100によって選択されたものであってもよい。
図1には、生成装置100が、抽出画像に写される参加者によって左右の列(横一列)が形成(配置条件の一例)されるよう、イベントEV1に対応する背景画像BG11に対して係る抽出画像を配置することで、集合画像EVPC1を生成した例が示される。なお、このとき生成装置100は、例えば抽出画像に写される利用者の目の位置に基づいて、抽出画像に写される利用者間で顔の位置を合わせるように抽出画像を配置する。また、ここでいう目の位置とは、ステップS5で取得された特徴情報に基づくものである。そして、これにより生成装置100は、統一感のあるきれいな左右の列が形成されるよう制御することができる。
図1の集合画像EVPC1の例では明示されていないが、背景画像BG11に配置される抽出画像の中には、当然、抽出画像ExPC12、抽出画像ExPC13、抽出画像ExPC14が含まれることになる。また、生成装置100は、生成した集合画像をイベントID(図1の例では「EV1」)に対応付ける形で集合画像記憶部123(図6)に登録することができる。
最後に、生成装置100は、生成した集合画像を各参加者に提供する(ステップS8)。図1の例では、生成装置100は、集合画像EVPC1を利用者装置10-112、利用者装置10-113、利用者装置10-114それぞれに送信することで、参加者U12~U14に集合画像EVPC1を提供する。
さて、これまで図1を用いて説明してきたように、実施形態に係る生成装置100は、オンラインイベントに参加した利用者それぞれが撮像された別々の画像から、利用者が写る範囲が抽出された抽出画像を取得し、取得した抽出画像を用いてこのオンラインイベントに対応する集合画像を生成する。このような生成装置100によれば、オンラインイベントであっても参加者が実際に集合しているかの如く一体感のある集合写真を生成することができるため、参加者は一体感のある集合写真を得ることができるようになる。また、参加者は、オンラインイベントに参加した思い出を記録として残すことができる。
〔4.生成処理のバリエーション〕
次に、図1で説明した生成処理のバリエーションについて説明する。図1では、生成装置100が、参加者から受け付けた撮像画像から、参加者が写る範囲を抽出することで、抽出した範囲内の画像である抽出画像を取得する例を示した。具体的には、生成装置100が、撮像画像から、参加者が写る範囲内の画像を切り出すことで抽出画像を取得する例を示した。しかしながら、抽出画像の取得は、利用者装置10-xn側で行われてもよい。
この点について、図1の例では、利用者装置10-112が、撮像画像PC12から人物(具体的には、参加者U12の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC12を取得しこれを生成装置100に送信してもよい。また、利用者装置10-113が、撮像画像PC13から人物(具体的には、参加者U13の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC13を取得しこれを生成装置100に送信してもよい。また、利用者装置10-114が、撮像画像PC14から人物(具体的には、参加者U14の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC14を取得しこれを生成装置100に送信してもよい。
また、実施形態に係る生成装置100は、オンラインイベントを実現可能な既存のアプリケーションに対応するサーバ装置と連携されることで、既存のアプリケーションを利用する中で集合画像を得られるよう構成されてもよい。オンラインイベントを実現可能な既存のアプリケーションとしては、Zoom(登録商標)、Skype(登録商標)、Microsoft Teams(登録商標)等のウェブ会議サービス等が挙げられる。
〔5.生成装置の構成〕
次に、図3を用いて、実施形態に係る生成装置100について説明する。図3は、実施形態に係る生成装置100の構成例を示す図である。図3に示すように、生成装置100は、通信部110と、記憶部120と、制御部130とを有する。
(通信部110について)
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部110は、ネットワークNと有線または無線で接続され、例えば、利用者装置10-xnとの間で情報の送受信を行う。
(記憶部120について)
記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子またはハードディスク、光ディスク等の記憶装置によって実現される。記憶部120は、背景画像記憶部121と、条件情報記憶部122と、集合画像記憶部123とを有する。
(背景画像記憶部121について)
背景画像記憶部121は、抽出画像が配置されることで抽出画像に対する背景となる画像を記憶する。ここで、図4に実施形態に係る背景画像記憶部121の一例を示す。図4の例では、背景画像記憶部121は、「イベントID(Identifier)」、「背景画像」といった項目を有する。
「イベントID」は、オンラインイベントを識別する識別情報を示す。「背景画像」は、「イベントID」によって識別されるオンラインイベントに対応する集合画像のうち背景部分となる背景画像の候補を示す。「背景画像」は、「イベントID」によって識別されるオンラインイベントの属する利用者によって登録されてもよいし、生成装置100に対して予め登録されていてもよい。
すなわち、図4の例では、イベントID「EV1」によって識別されるオンラインイベントEV1に対応する集合画像のうち背景部分となる背景画像の候補として、背景画像♯11が登録されている例が示される。なお、背景画像♯11とは、説明を簡単にするために背景画像を概念的に示す表記であり、実際には背景画像として正当な情報が登録される。
(条件情報記憶部122について)
条件情報記憶部122は、背景画像に対して抽出画像をどのように配置するかや、抽出画像同士を重ねて配置する場合そのように重ねるが規定される配置条件を示す条件情報を記憶する。ここで、図5に実施形態に係る条件情報記憶部122の一例を示す。図5の例では、条件情報記憶部122は、「イベントID(Identifier)」、「配置条件」といった項目を有する。
「イベントID」は、オンラインイベントを識別する識別情報を示す。「背景画像」は、「イベントID」によって識別されるオンラインイベントに対応する集合画像を生成する際に適用される配置条件であって、背景画像に対して抽出画像をどのように配置するかや、抽出画像同士を重ねて配置する場合そのように重ねるが規定される条件情報を示す。
すなわち、図5の例では、イベントID「EV1」によって識別されるオンラインイベントEV1に対応する集合画像を生成する際に適用される配置条件として、配置条件♯11が登録されている例を示す。なお、配置条件♯11とは、説明を簡単にするために配置条件を概念的に示す表記であり、実際には配置条件として正当な情報が登録される。
(集合画像記憶部123について)
集合画像記憶部123は、集合画像に関する情報を記憶する。ここで、図6に実施形態に係る集合画像記憶部123の一例を示す。図6の例では、集合画像記憶部123は、「イベントID(Identifier)」、「利用者ID(Identifier)」、「撮像画像」、「抽出画像」、「特徴情報」、「集合画像」といった項目を有する。
「イベントID」は、オンラインイベントを識別する識別情報を示す。「利用者ID」は、「イベントID」によって識別されるオンラインイベントに属する利用者(ホストの立場にある利用者や参加者の立場にある利用者)を識別する識別情報を示す。「利用者ID」は、例えば、「参加者ID」と言い換えることができる。
「撮像画像」は、「利用者ID」によって識別される利用者が利用者装置10-xnを介して撮影されることで得られた撮像画像であって、抽出画像の元となる元画像でもある。「抽出画像」は、「撮像画像」から「利用者ID」によって識別される利用者が写る範囲が抽出されることで取得された当該範囲内の画像を示す。「特徴情報」は、抽出画像に含まれる顔の部分の特徴点を示す特徴情報を示す。「集合画像」は、「イベントID」に対応付けられる「抽出画像」を用いて生成された集合画像を示す。
すなわち、図6の例では、イベントID「EV1」によって識別されるオンラインイベントEV1に招待されることで参加した利用者が、利用者ID「U12」によって識別される利用者U12(参加者U12)、利用者ID「U13」によって識別される利用者U13(参加者U13)、利用者ID「U14」によって識別される利用者U14(参加者U14)である例を示す。
また、図6の例では、参加者U12が撮像された撮像画像PC12から抽出画像ExPC12が得られ、参加者U13が撮像された撮像画像PC13から抽出画像ExPC13が得られ、参加者U14が撮像された撮像画像PC14から抽出画像ExPC14が得られた例を示す。
また、図6の例では、抽出画像ExPC12が解析されることで特徴情報♯12が取得され、抽出画像ExPC13が解析されることで特徴情報♯13が取得され、抽出画像ExPC14が解析されることで特徴情報♯14が取得された例を示す。
また、図6の例では、少なくとも抽出画像ExPC12、抽出画像ExPC13、抽出画像ExPC14を用いて集合画像EVPC1が生成された例を示す。
(その他の記憶部について)
図3では不図示であるが、生成装置100は、オンラインイベントに対応する仮想空間を示す所在地情報や撮影用URLを記憶する記憶部をさらに有してもよい。
(制御部130について)
制御部130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、生成装置100内部の記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部130は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現される。
図3に示すように、制御部130は、イベント制御部131と、撮影制御部132と、画像受付部133と、取得部134と、画像制御部135と、生成部136と、提供部137とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図3に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部130が有する各処理部の接続関係は、図3に示した接続関係に限られず、他の接続関係であってもよい。
(イベント制御部131)
イベント制御部131は、オンラインイベントに関する各種制御を行う。例えば、イベント制御部131は、利用者からの要求に応じて、撮影用URLを生成する。例えば、イベント制御部131は、利用者からの要求に応じて、オンラインイベントの開催場所としとなる仮想空間を生成するとともに、当該仮想空間の所在地を示す所在地情報を撮影用URLとして生成する。また、イベント制御部131は、オンラインインベントに対応する集合画像生成のためだけの専用の撮影用URLを生成してもよい。
(撮影制御部132について)
撮影制御部132は、利用者それぞれの端末装置を制御することで利用者それぞれを同一のタイミングで撮影する。図1の例では、撮影制御部132は、ブラウザを介して参加者U12~U14それぞれの利用者装置10-xnに具備されるカメラを制御することで、参加者U12~U14それぞれを同一のタイミングで撮影している。また、このとき撮影制御部132は、カウントダウンとともに、例えば「表示される枠内に顔全体(あるいは首元から頭の上まで)が収まるようにしてください」といったコメントを利用者装置10-xnに表示させることで、カウントゼロとなったタイミングでカメラを制御することができる。
(画像受付部133について)
画像受付部133は、利用者それぞれの端末装置から利用者が撮像された撮像画像を受け付ける。図1の例では、画像受付部133は、参加者U12の顔がメインに写された撮像画像PC12を利用者装置10-112から受け付け、参加者U13の顔がメインに写された撮像画像PC13を利用者装置10-113から受け付け、参加者U14の顔がメインに写された撮像画像PC14を利用者装置10-114から受け付けている。
(取得部134について)
取得部134は、オンラインイベントに参加した利用者それぞれが撮像された別々の撮像画像から利用者が写る範囲を抽出することで、撮影画像のうち抽出した範囲内の画像である抽出画像を取得する。
例えば、取得部134は、オンラインイベントが開催されている開催期間中において利用者が個々の任意のタイミングで撮影操作することで得られた撮像画像から利用者が写る範囲を抽出することで抽出画像を取得する。また、例えば、取得部134は、撮影制御部132による制御に応じて、利用者それぞれが同一のタイミングで撮影されることで得られた撮像画像から利用者が写る範囲を抽出することで抽出画像を取得する。
また、取得部134は、撮像画像から利用者の身体のうち少なくとも顔の部分が写る範囲を抽出することで抽出画像を取得する。
図1の例では、取得部134は、撮像画像PC12から人物(具体的には、参加者U12の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC12を取得している。また、図1の例では、取得部134は、撮像画像PC13から人物(具体的には、参加者U13の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC13を取得している。また、図1の例では、取得部134は、撮像画像PC14から人物(具体的には、参加者U14の身体のうち少なくとも顔の部分)が写る範囲を抽出することで、抽出画像ExPC14を取得している。
(画像制御部135について)
画像制御部135は、取得部134により取得された抽出画像を対象に各種の制御を行う。例えば、画像制御部135は、取得部134により取得された抽出画像を対象に、顔の部分の特徴点を示す特徴情報を取得する。例えば、画像制御部135は、抽出画像を構成するピクセルのうち、顔を構成するパーツ(目、鼻、口、耳など)を示すピクセル情報や、顔の部分を特徴付けるラインを示すピクセル情報と特徴情報として取得する。
また、例えば、画像制御部135は、抽出画像それぞれの間で画像の明るさを統一させる。図1の例では、画像制御部135は、抽出画像ExPC12、抽出画像ExPC13および抽出画像ExPC14それぞれの画像の明るさから明るさの平均値を算出し、算出した平均値へと寄せるようにして、抽出画像ExPC12、抽出画像ExPC13および抽出画像ExPC14の間で画像の明るさを統一させている。
(生成部136について)
生成部136は、取得部134により取得された抽出画像を用いて、オンラインイベントに対応する集合画像を生成する。例えば、生成部136は、画像制御部135により抽出画像それぞれの間で画像の明るさが統一された後の抽出画像を用いて、集合画像を生成する。
また、生成部136は、オンラインイベントに対応する所定の背景画像に対して、抽出画像を配置することにより集合画像を生成する。また、生成部136は、抽出画像に写される利用者の目の位置(例えば、目の位置を示す特徴情報)に基づいて、抽出画像に写される利用者間で顔の位置を合わせるように抽出画像を配置する。
また、生成部136は、背景画像に含まれる所定のオブジェクトに基づき特定された配置可能領域内に抽出画像を配置する。例えば、生成部136は、オンラインイベントに対応する背景画像内に例えばオンラインイベントを特徴付けるオブジェクト画像(例えば、オンラインイベントを示すタイトルやロゴなど)を検出した場合には、背景画像領域のうち、このオブジェクト画像を囲んだ領域以外の領域を、抽出画像を配置してよい配置可能領域内と定める。そして、生成部136は、特定した配置可能領域内に抽出画像を配置する。このような生成装置100によれば、オンラインイベントを特徴付けるオブジェクト画像が抽出画像により隠されてしまうことで、どのようなオンラインイベントに対応する集合画像であるかわからなくなってしまうことを防止することができるため、完成度の高い集合画像を生成することができるようになる。
また、生成部136は、抽出画像に写される利用者が所定の位置関係で並ぶよう抽出画像を配置する。具体的には、生成部136は、この所定の位置関係が規定された配置条件に基づき、抽出画像を背景画像に配置することで、抽出画像に写される利用者が所定の位置関係で並ぶ見た目となるような集合写真を生成する。例えば、配置条件に基づく集合画像生成として以下のような処理が挙げられる。
一例として、生成部136は、抽出画像に写される利用者によって上下左右の列、または、前後列が形成されるよう抽出画像を配置する。また、一例として、生成部136は、抽出画像に写される利用者によって背景画像に含まれる所定の領域の一部または全てが囲まれる態様で抽出画像を配置する。
また、一例として、生成部136は、抽出画像に写される利用者の属性に応じた位置関係で利用者が配置されるよう抽出画像を配置する。ここで、抽出画像に写される利用者の属性を示す属性情報は、取得部134によって取得されてよい。例えば、取得部134は、このような属性情報として、オンラインイベントで発生した所定の属性を示す属性情報を取得してよい。例えば、オンラインイベントが図1に示すコンペであるとすると、オンラインイベントで発生した所定の属性とは、どの参加者がどのような賞を受賞したかを示す情報であってよい。また、取得部134は、利用者個人を示す属性情報(例えば、年齢)や、利用者の立場や役職を示す属性情報を取得してもよい。
また、一例として、生成部136は、抽出画像のうち第1の抽出画像の一部に対して第2の抽出画像が重なるように配置する場合、当該第1の抽出画像に写される利用者の顔が隠れないように当該第2の抽出画像を重ねて配置する。
(提供部137について)
提供部137は、生成部136により生成された集合画像を各利用者に提供する。図1の例では、提供部137は、集合画像EVPC1を利用者装置10-112、利用者装置10-113、利用者装置10-114それぞれに送信することで、参加者U12~U14に集合画像EVPC1を提供している。
〔6.生成処理の詳細な一例〕
次に、図7および図8を用いて、実施形態に係る生成処理の詳細な一例を示す。図7では、実施形態に係る生成処理のうち基本的な生成処理の一例を示し、図8では、実施形態に係る生成処理のうちポーズを利用した生成処理の一例を示す。
〔6-1.生成処理の詳細な一例(1)〕
まず、図7について説明する。図7は、実施形態に係る生成処理の詳細な一例(1)を示す図である。図7では、オンラインイベントEV2への参加者がリアル空間に一堂に会しているかのような集合画像(集合写真)が生成される場面が示される。
また、図7の例では、オンラインイベントEV2への各参加者の撮像画像から、参加者U22に対応する抽出画像ExPC22、参加者U23に対応する抽出画像ExPC23、参加者U24に対応する抽出画像ExPC24、参加者U25に対応する抽出画像ExPC25、参加者U26に対応する抽出画像ExPC26、参加者U27に対応する抽出画像ExPC27、参加者U28に対応する抽出画像ExPC28、参加者U29に対応する抽出画像ExPC29、参加者U210に対応する抽出画像ExPC210、参加者U211に対応する抽出画像ExPC211、参加者U212に対応する抽出画像ExPC212、参加者U213に対応する抽出画像ExPC213、参加者U214に対応する抽出画像ExPC214、参加者U215に対応する抽出画像ExPC215、という合計14の抽出画像が取得された例が示される。
また、図7の例では、オンラインイベントEV2を特徴付けるオブジェクト画像OB21を含む背景画像BG21に対して、上記14の抽出画像が配置条件に基づき配置される例が示される。
このような状態において、生成部136は、オブジェクト画像の検出を行うことで背景画像BG21内にオンラインイベントEV2を特徴付けるオブジェクト情報が存在するか否かを判定する。図7の例によれば、生成部136は、オブジェクト画像OB21を検出することができ、これにより背景画像BG21内にオンラインイベントEV2を特徴付けるオブジェクト情報が存在すると判定する。
なお、背景画像のうちオブジェクト画像の位置が規定されたピクセル情報が背景画像記憶部121に登録されていてもよく、係る場合には、生成部136は、この登録情報に基づき、オブジェクト画像を検出することができる。
また、生成部136は、オンラインイベントEV2を特徴付けるオブジェクト情報が存在すると判定したことで、背景画像領域のうちオブジェクト画像OB21を囲んだ領域である領域AR21以外の領域を、14の抽出画像を配置してよい配置可能領域内として特定する。
次に、生成部136は、特定した配置可能領域内の所定個所(例えば、配置可能領域を上下に2分割した領域のうち、下の方の領域)において、抽出画像に写される参加者によって前後関係にある2列が形成されるように、この14の抽出画像を背景画像BG21に配置する。例えば、生成部136は、前列7名、後列7名という前後関係にある2列が形成されるように、抽出画像を重ね合わせて配置する。
図7の例によれば、生成部136は、抽出画像ExPC22、抽出画像ExPC23、抽出画像ExPC24、抽出画像ExPC25、抽出画像ExPC26、抽出画像ExPC27、抽出画像ExPC28という7つの抽出画像を前列と定め、抽出画像ExPC29、抽出画像ExPC210、抽出画像ExPC211、抽出画像ExPC212、抽出画像ExPC213、抽出画像ExPC214、抽出画像ExPC215を後列と定めたうえで、前後関係にある2列が表現できるよう前列の抽出画像と、後列の抽出画像とを重ね合わせて配置する。また、このような配置により、図7の例では、生成部136は、集合画像EVPC2を生成している。
ここで、集合写真を精度よく再現するには、列において隣り合う抽出画像をある程度重ね合わせることで参加者同士が接している状態を再現することが重要である。したがって、図7の例では、例えば、隣り合う関係にある抽出画像ExPC211と、抽出画像ExPC212(第2の抽出画像の一例)とを一部分だけ重ね合わせる必要がある。しかしながら、図7の例では、抽出画像ExPC211には、特定のポーズをきめた参加者U211が写されており、重ね方によってはこのポーズで参加者212の顔が隠されてしまうことになり得る。例えば、抽出画像ExPC212(第1の抽出画像の一例)の一部に対して、抽出画像ExPC211(第2の抽出画像の一例)を重ねる必要がある場合、重ね方によってはポーズで参加者212の顔が隠されてしまうことになり得る。
したがって、生成部136は、係る例では、参加者U212の顔が隠れないように抽出画像ExPC212の一部に対して、抽出画像ExPC211を重ねて配置する。
また、図7の例では、生成部136は、各列において端からランダムな順、あるいは、撮像画像が得られた順など任意に定められた順序ルールで抽出画像に写される参加者が並ぶよう14の抽出画像を背景画像BG21に配置している。一方で、生成部136は、抽出画像に写される参加者の属性(例えば、オンラインイベントEV2で発生した所定の属性)に応じた位置関係で参加者が配置されるよう14の抽出画像を配置してもよい。
この点について、オンラインイベントEV2で発生した所定の属性を、どの参加者がどのような賞を受賞したかを示す情報として説明する。例えば、図7の例では、参加者U212が優勝、参加者U211が銀賞、参加者U213が同賞を獲得し、その他の参加者は特定の賞を獲得できなかったとする。係る場合、生成部136は、参加者U212、参加者U211、参加者U213がより目立つ位置にくるよう抽出画像ExPC212、抽出画像ExPC211、抽出画像ExPC213を配置する。
例えば、生成部136は、図7の例で抽出画像ExPC25が配置されている位置(最も中心的な位置)に優勝した参加者U212に対応する抽出画像ExPC212を配置し、図7の例で抽出画像ExPC24が配置されている位置に銀賞の参加者U211に対応する抽出画像ExPC211を配置し、図7の例で抽出画像ExPC26が配置されている位置に銅賞の参加者U213に対応する抽出画像ExPC213を配置する。
このような生成装置100によれば、より優位な属性を有する参加者を目立たせるような集合写真を生成することができる。
〔6-2.生成処理の詳細な一例(2)〕
次に、図8について説明する。図8は、実施形態に係る生成処理の詳細な一例(2)を示す図である。図8では、オンラインイベントEV3への参加者がリアル空間に一堂に会しているかのような集合画像(集合写真)が生成される場面が示される。
また、図8には、生成部136が、所定の態様を示す1つのポーズが形成されるように、当該1つのポーズの一部分となるポーズを決めている参加者が写された抽出画像を配置することで集合画像を生成する処理の一例が示される。ここで、図8の例では、所定の態様を示す1つのポーズとは、3人のポーズ(部分的なポーズ)を合わせることでアルファベット「Y」のような形状が形作られるポーズであるものとする。また、図8の例では、アルファベット「Y」のような形状が形作られるポーズをポーズPS1として、3人それぞれの抽出画像を合わせてアルファベット「Y」のような形状とした場合実際にどのような見た目となるかが規定されたポーズ情報DA1が予め与えられているとする。
係る場合、生成部136は、ポーズ情報DA1に基づいて、オンラインイベントEV3への各参加者の撮像画像から得られた抽出画像の中から、ポーズPS1の一部分となるポーズ(部分的なポーズ)をきめている参加者が写された抽出画像を特定する(ステップS81)。図8には、生成部136が、ポーズPS1の一部分となるポーズをきめている参加者が写された抽出画像として、参加者U32に対応する抽出画像ExPC32、参加者U33に対応する抽出画像ExPC33、参加者U34に対応する抽出画像ExPC34を特定した例が示される。
次に、生成部136は、ポーズ情報DA1に基づいて、ポーズPS1が形成されるように、ステップS81で特定した抽出画像を背景画像に配置することで集合画像を生成する(ステップS82)。図8には、生成部136が、ポーズPS1が形成されるように、抽出画像ExPC32、抽出画像ExPC33、抽出画像ExPC34を背景画像BG31に配置することで集合画像EVPC3を生成した例が示される。図8に示すように、集合画像EVPC3では、参加者U32による指先が上に向くよう左腕を上げるポーズ、参加者U33による指先が上に向くよう右腕を上げるポーズ、参加者U34による両肘を合わせた状態で指先が上に向くよう両腕を上げるポーズによって、アルファベット「Y」のような形状を示す1つのポーズPS1が形成されている。
このような生成装置100によれば、利用者参加型のお楽しみ感のある集合写真を生成することができる。
〔7.処理手順〕
次に、図9を用いて、実施形態にかかる生成処理の手順について説明する。図9は、実施形態にかかる生成処理手順を示すフローチャートである。なお、図9の例では、オンラインイベントEV1の撮影用URLが生成されたことで、生成装置100がオンラインイベントEV1に対応する集合画像を生成する際の生成処理手順を示す。
まず、画像受付部133は、オンラインイベントEV1への参加者それぞれが撮像された個別の撮像画像を受け付けたか否かを判定する(ステップS101)。画像受付部133は、オンラインイベントEV1への参加者それぞれが撮像された個別の撮像画像を受け付けていないと判定している間は(ステップS101;No)、この撮像画像を受け付けたと判定できるまで待機する。
一方、取得部134は、オンラインイベントEV1への参加者それぞれが撮像された個別の撮像画像を受け付けたと判定された場合には(ステップS101;Yes)、受け付けられた各撮像画像から人物が写る範囲を抽出する(ステップS102)。そして、取得部134は、各撮像画像から抽出した範囲内の画像である抽出画像を各撮像画像から取得する(ステップS103)。
次に、画像制御部135は、ステップS103で取得した各抽出画像について、顔の部分の特徴点を示す特徴情報を取得する(ステップS104)。また、画像制御部135は、ステップS103で取得した各抽出画像の間で画像の明るさを統一させる(ステップS105)。
次に、生成部136は、明るさが統一された統一後の抽出画像を用いて、集合画像(集合写真)を生成する(ステップS106)。例えば、生成部136は、オンラインイベントEV1に対応する背景画像に対して、明るさ統一後の各抽出画像を配置することにより収集画像を生成する。例えば、生成部136は、背景画像に対して抽出画像をどのように配置するかが規定される配置条件に従って、明るさ統一後の各抽出画像を配置することにより集合画像を生成する。
最後に、提供部137は、生成された集合画像をオンラインイベントEV1への各参加者に提供する(ステップS107)。
〔8.変形例〕
上記実施形態に係る生成装置100は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、生成装置100の他の実施形態について説明する。
〔8-1.人数に応じて抽出画像のサイズを変更〕
生成部136は、オンラインイベントに参加することにより抽出画像が取得された取得元の利用者の人数に基づき、集合画像に対するサイズが制御された制御後の抽出画像を用いて、集合画像を生成してもよい。具体的には、画像制御部135が、オンラインイベントに参加することにより抽出画像が取得された取得元の利用者の人数に基づき、集合画像のサイズに対する抽出画像のサイズを制御する。そして、生成部136は、画像制御部135によりサイズ制御された制御後の抽出画像を用いて、オンラインイベントに対応する集合画像を生成する。この点について、図7の例を用いて説明する。
図7の例では、画像制御部135は、背景画像BG21のサイズに対する各抽出画像のサイズの割合が第1の割合となるよう各抽出画像のサイズを制御していたものとする。例えば、画像制御部135は、背景画像BG21の面積に対して各抽出画像の面積が占める割合が第1の割合となるよう各抽出画像の面積を制御していたものとする。より詳細には、画像制御部135は、14の抽出画像が取得されたことからオンラインイベントEV2に参加することにより抽出画像が取得された取得元の参加者の人数が「14名」であったことに応じて、背景画像BG21の面積に対して各抽出画像の面積が占める割合が人数14名に対応する第1の割合となるよう各抽出画像の面積を制御していたものとする。
ここで、オンラインイベントEV2に参加することにより抽出画像が取得された取得元の参加者の人数が例えば「100名」という大人数であったものとする。係る場合、背景画像BG21の面積に対して100の抽出画像それぞれの面積が占める割合が図7の例と同じように第1の割合となるよう制御されたとすると、背景画像BG21内に100の抽出画像の全てが入りきらなくなってしまう恐れがある。したがって、例えば、画像制御部135は、背景画像BG21の面積に対して100の抽出画像それぞれの面積が占める割合として最適な割合を判定する。
例えば、画像制御部135は、背景画像BG21の面積と、100の抽出画像それぞれの面積との関係性に基づいて、100の抽出画像の全てを背景画像BG21に収めることができる割合であって、背景画像内の余りスペースに対してバランスの取れたサイズ感が得られる割合を判定する。例えば、画像制御部135は、任意の学習モデルを用いて、このような割合を判定することができる。
また、画像制御部135は、オンラインイベントEV2に参加することにより抽出画像が取得された取得元の利用者の人数ごとに、当該人数に応じた最適な割合が規定されたルールベースに従って、背景画像BG21の面積に対して100の抽出画像それぞれの面積が占める割合を判定してもよい。また、生成部136は、このようにしてサイズが制御された制御後の100の抽出画像を用いて、集合画像を生成する。
このような生成装置100によれば、オンラインイベントに参加することにより抽出画像が取得された取得元の利用者の人数に応じて、各抽出画像のサイズを最適化することができるため、見栄えの良い集合画像を生成することができる。
〔8-2.グループごとの集合画像〕
上記例では、生成部136は、オンラインイベントに参加することにより抽出画像が取得された取得元の利用者の全てが写される集合画像を生成していた。しかしながら、生成部136は、オンラインイベントに参加することにより抽出画像が取得された取得元の利用者が所定のグループに分けられたグループごとの集合画像を生成してもよい。この点について、図7の例を用いて説明する。
例えば、図7の例において、前列として配置される抽出画像に対応する参加者、具体的には、参加者U22、U23、U24、U25、U26、U27、U28が、オンラインイベントEV2内で結成されたチームのうちの、チームAに属する参加者であるとする。また、後列として配置される抽出画像に対応する参加者、具体的には、参加者U29、U210、U211、U212、U213、U214、U215が、オンラインイベント内で結成されたチームのうちの、チームBに属する参加者であるとする。なお、生成部136は、オンラインイベントEV2においてどの利用者がどのような分類に属するかといった分類に関する属性情報を取得してもよく、取得した属性情報に基づき、オンラインイベントEV2への参加者をチームAとチームBに分類することができる。
そして、このような状態において、生成部136は、チームAに属する参加者U22~U28それぞれが写された抽出画像を例えば背景画像BG21-1に配置することで、チームAに属する参加者が集合している集合画像を生成する。また、生成部136は、チームBに属する参加者U29~U215それぞれが写された抽出画像を例えば背景画像BG21-2に配置することで、チームBに属する参加者が集合している集合画像を生成する。
このような生成装置100によれば、全体集合写真だけでなく、グループごとの集合写真も作成することができるため、バリエーションのあり集合写真を実現することができる。
〔8-3.色紙のように見せる〕
また、生成部136は、利用者が写る範囲が抽出された抽出画像と、当該利用者それぞれのコメントを示すテキスト情報とを組み合わせて、集合画像を生成してもよい。この点について、図7の例を用いて説明する。
図7の例では、生成部136は、14の抽出画像に写される参加者によって直線状の列が形成されるように、14の抽出画像を背景画像BG21に配置している。しかし、生成部136は、抽出画像に写される参加者によって背景画像中心部領域(背景画像に含まれる所定の領域の一部または全ての一例)を囲んだ円が形成されるように、14の抽出画像を背景画像BG21に配置してもよい。また、このような状態において、生成部136は、14の抽出画像に写される各参加者から得られたコメントを示すコメント情報を取得する。そして、生成部136は、配置した14の抽出画像それぞれに対して、当該抽出画像に写される参加者から得られたコメントを示すコメント情報を対応付ける。
このような生成装置100によれば、寄せ書きされた色紙のような見た目の集合写真を生成することができるため、オンラインイベントに参加したことを思い出として強く印象付けさせる集合写真を生成することができる。
〔8-4.オブジェクトと人物との関係性に応じた配置〕
上記例では、生成部136は、背景画像に含まれる所定のオブジェクトに基づき特定された配置可能領域内に抽出画像を配置していた。ここで、生成部136は、配置可能領域内に抽出画像を配置するにあたって、オブジェクトと人物との関係性を再現するように抽出画像を配置してもよい。例えば、生成部136は、人物によってオブジェクトが利用される態様を再現するよう抽出画像を配置してもよい。
例えば、所定の野球チームに属する参加者それぞれの撮像画像から得られた抽出画像を用いて、この野球チームに属する参加者が集合している集合画像が生成される場合を例に挙げる。このような場合、生成部136は、バット、グローブ等の野球道具を示すオブジェクト画像が含まれる背景画像を取得することができ、これらオブジェクト画像と抽出画像とが1対1で隣り合うように抽出画像を配置する。
このような生成装置100によれば、野球が行われているかのような躍動感のある集合写真を生成することができるため、オンラインイベント(係る例では、野球に関するオンラインイベント)を特徴付ける印象深い集合写真を生成することができる。
〔8-5.背景画像に応じて抽出画像を制御〕
また、生成部136は、背景画像に応じて抽出画像の表示態様が変更された変更後の抽出画像を用いて、集合画像を生成してもよい。係る例では、例えば、画像制御部135は、背景画像の背景色や明るさに応じて、各抽出画像の色味や明るさを制御する。
〔9.ハードウェア構成〕
また、上記実施形態に係る生成装置100は、例えば図10に示すような構成のコンピュータ1000によって実現される。図10は、生成装置100の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
CPU1100は、ROM1300又はHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
HDD1400は、CPU1100によって実行されるプログラム、および、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、通信網50を介して他の機器からデータを受信してCPU1100へ送り、CPU1100が生成したデータを、通信網50を介して他の機器へ送信する。
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、生成したデータを、入出力インターフェイス1600を介して出力装置へ出力する。
メディアインターフェイス1700は、記録媒体1800に格納されたプログラム又はデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、かかるプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
例えば、コンピュータ1000が実施形態にかかる生成装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部130の機能を実現する。また、HDD1400には、記憶部120内のデータが格納される。コンピュータ1000のCPU1100は、これらのプログラムを、記録媒体1800から読み取って実行するが、他の例として、他の装置から、通信網50を介してこれらのプログラムを取得してもよい。
〔10.その他〕
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
以上、本願の実施形態をいくつかの図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。
Sy 生成システム
EVx オンラインイベント
10-xn 利用者装置
100 生成装置
120 記憶部
121 背景画像記憶部
122 条件情報記憶部
123 集合画像記憶部
130 制御部
131 イベント制御部
132 撮影制御部
133 画像受付部
134 取得部
135 画像制御部
136 生成部
137 提供部

Claims (21)

  1. オンラインイベントに参加した利用者それぞれが、前記オンラインイベントが開催されている開催期間中に撮像された別々の画像から、前記利用者が写る範囲が抽出された抽出画像を取得する取得部と、
    前記抽出画像を用いて、前記オンラインイベントに対応する集合画像を生成する生成部と
    を有し、
    前記生成部は、前記オンラインイベントに対応する所定の背景画像によって示されるデザインの態様と、デザインの態様に応じて前記所定の背景画像に対して抽出画像が配置された配置態様との関係性を学習したモデルに基づいて、前記所定の背景画像に対して前記取得部により取得された抽出画像を配置させる
    ことを特徴とする生成装置。
  2. 前記取得部は、前記オンラインイベントが開催されている開催期間中において前記利用者が個々の任意のタイミングで撮影操作することで得られた前記画像から、前記利用者が写る範囲が抽出された抽出画像を取得する
    ことを特徴とする請求項1に記載の生成装置。
  3. 前記利用者それぞれの端末装置を制御することで前記利用者それぞれを同一のタイミングで撮影する撮影制御部をさらに有し、
    前記取得部は、前記撮影制御部による制御に応じて、前記利用者それぞれが、前記オンラインイベントが開催されている開催期間中において同一のタイミングで撮影されることで得られた前記画像から、前記利用者が写る範囲が抽出された抽出画像を取得する
    ことを特徴とする請求項1または2に記載の生成装置。
  4. 前記取得部は、前記別々の画像から、前記利用者の身体のうち少なくとも顔の部分が写る範囲が抽出された抽出画像を取得する
    ことを特徴とする請求項1~3のいずれか1つに記載の生成装置。
  5. 前記生成部は、前記抽出画像それぞれの間で画像の明るさを統一された後の抽出画像を用いて、前記集合画像を生成する
    ことを特徴とする請求項1~4のいずれか1つに記載の生成装置。
  6. 前記生成部は、前記オンラインイベントに対応する所定の背景画像に対して、前記抽出画像を配置することにより前記集合画像を生成する
    ことを特徴とする請求項1~5のいずれか1つに記載の生成装置。
  7. 前記生成部は、前記背景画像に含まれる所定のオブジェクトに基づき特定された配置可能領域内に前記抽出画像を配置する
    ことを特徴とする請求項6に記載の生成装置。
  8. 前記生成部は、前記抽出画像に写される利用者の目の位置に基づいて、前記抽出画像に写される利用者間で顔の位置を合わせるように前記抽出画像を配置する
    ことを特徴とする請求項6または7に記載の生成装置。
  9. 前記生成部は、前記抽出画像に写される利用者が所定の位置関係で並ぶよう前記抽出画像を配置する
    ことを特徴とする請求項6~8のいずれか1つに記載の生成装置。
  10. 前記生成部は、前記抽出画像に写される利用者によって上下左右の列、または、前後列が形成されるよう前記抽出画像を配置する
    ことを特徴とする請求項9に記載の生成装置。
  11. 前記生成部は、前記抽出画像に写される利用者によって前記背景画像に含まれる所定の領域の一部または全てが囲まれる態様で前記抽出画像を配置する
    ことを特徴とする請求項9または10に記載の生成装置。
  12. 前記取得部は、前記抽出画像に写される利用者それぞれの属性を示す属性情報をさらに取得し、
    前記生成部は、前記抽出画像に写される利用者が前記属性に応じた位置関係で配置されるよう前記抽出画像を配置する
    ことを特徴とする請求項6~11のいずれか1つに記載の生成装置。
  13. 前記取得部は、前記属性情報として、前記オンラインイベントで発生した所定の属性を示す属性情報を取得する
    ことを特徴とする請求項12に記載の生成装置。
  14. 前記生成部は、前記抽出画像のうち第1の抽出画像の一部に対して第2の抽出画像が重なるように配置する場合、当該第1の抽出画像に写される利用者の顔が隠れないように当該第2の抽出画像を重ねて配置する
    ことを特徴とする請求項6~13のいずれか1つに記載の生成装置。
  15. 前記生成部は、前記抽出画像のうちポーズをきめている利用者が写された抽出画像が存在する場合には、ポーズをきめている利用者がポーズの態様に応じた位置関係で配置されるよう前記抽出画像を配置する
    ことを特徴とする請求項6~14のいずれか1つに記載の生成装置。
  16. 前記生成部は、所定の態様を示す1つのポーズが形成されるように、当該1つのポーズの一部分となるポーズを決めている利用者が写された前記抽出画像を配置する
    ことを特徴とする請求項15に記載の生成装置。
  17. 前記生成部は、前記オンラインイベントに参加することにより前記抽出画像が取得された取得元の利用者の人数に基づき、前記集合画像に対するサイズが制御された制御後の抽出画像を用いて、前記集合画像を生成する
    ことを特徴とする請求項1~16のいずれか1つに記載の生成装置。
  18. 前記生成部は、前記集合画像として、前記オンラインイベントに参加することにより前記抽出画像が取得された取得元の利用者の全てが写される集合画像、または、当該利用者が所定のグループに分けられたグループごとの集合画像を生成する
    ことを特徴とする請求項1~17のいずれか1つに記載の生成装置。
  19. 前記生成部は、前記利用者が写る範囲が抽出された抽出画像と、当該利用者それぞれのコメントを示すテキスト情報とを組み合わせて、前記集合画像を生成する
    ことを特徴とする請求項1~18のいずれか1つに記載の生成装置。
  20. 生成装置が実行する生成方法であって、
    オンラインイベントに参加した利用者それぞれが、前記オンラインイベントが開催されている開催期間中に撮像された別々の画像から、前記利用者が写る範囲が抽出された抽出画像を取得する取得工程と、
    前記抽出画像を用いて、前記オンラインイベントに対応する集合画像を生成する生成工程と
    を含み、
    前記生成工程は、前記オンラインイベントに対応する所定の背景画像によって示されるデザインの態様と、デザインの態様に応じて前記所定の背景画像に対して抽出画像が配置された配置態様との関係性を学習したモデルに基づいて、前記所定の背景画像に対して前記取得工程により取得された抽出画像を配置させる
    ことを特徴とする生成方法。
  21. オンラインイベントに参加した利用者それぞれが、前記オンラインイベントが開催されている開催期間中に撮像された別々の画像から、前記利用者が写る範囲が抽出された抽出画像を取得する取得手順と、
    前記抽出画像を用いて、前記オンラインイベントに対応する集合画像を生成する生成手順と
    をコンピュータに実行させ
    前記生成手順は、前記オンラインイベントに対応する所定の背景画像によって示されるデザインの態様と、デザインの態様に応じて前記所定の背景画像に対して抽出画像が配置された配置態様との関係性を学習したモデルに基づいて、前記所定の背景画像に対して前記取得手順により取得された抽出画像を配置させる
    ことを特徴とする生成プログラム。
JP2020154146A 2020-09-14 2020-09-14 生成装置、生成方法および生成プログラム Active JP7054725B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020154146A JP7054725B2 (ja) 2020-09-14 2020-09-14 生成装置、生成方法および生成プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020154146A JP7054725B2 (ja) 2020-09-14 2020-09-14 生成装置、生成方法および生成プログラム

Publications (2)

Publication Number Publication Date
JP2022048031A JP2022048031A (ja) 2022-03-25
JP7054725B2 true JP7054725B2 (ja) 2022-04-14

Family

ID=80781306

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020154146A Active JP7054725B2 (ja) 2020-09-14 2020-09-14 生成装置、生成方法および生成プログラム

Country Status (1)

Country Link
JP (1) JP7054725B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014048876A (ja) 2012-08-31 2014-03-17 Zenrin Datacom Co Ltd 集合写真形成装置、集合写真形成方法および集合写真形成プログラム
JP2017085647A (ja) 2013-07-11 2017-05-18 フリュー株式会社 画像編集装置および画像編集方法
JP2018042250A (ja) 2017-10-03 2018-03-15 株式会社メイクソフトウェア 写真撮影遊戯機
JP2020144780A (ja) 2019-03-08 2020-09-10 フリュー株式会社 画像処理装置、画像処理方法及び画像処理プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001331668A (ja) * 2000-05-18 2001-11-30 Heart Gift:Kk オンラインパーティ関連商品販売賃貸方法
JP2015018545A (ja) * 2013-06-11 2015-01-29 株式会社ジェイティービー 旅行情報管理装置及び旅行情報管理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014048876A (ja) 2012-08-31 2014-03-17 Zenrin Datacom Co Ltd 集合写真形成装置、集合写真形成方法および集合写真形成プログラム
JP2017085647A (ja) 2013-07-11 2017-05-18 フリュー株式会社 画像編集装置および画像編集方法
JP2018042250A (ja) 2017-10-03 2018-03-15 株式会社メイクソフトウェア 写真撮影遊戯機
JP2020144780A (ja) 2019-03-08 2020-09-10 フリュー株式会社 画像処理装置、画像処理方法及び画像処理プログラム

Also Published As

Publication number Publication date
JP2022048031A (ja) 2022-03-25

Similar Documents

Publication Publication Date Title
US10527846B2 (en) Image processing for head mounted display devices
RU2668408C2 (ru) Устройства, системы и способы виртуализации зеркала
US11736756B2 (en) Producing realistic body movement using body images
CN110612533B (zh) 用于根据表情对图像进行识别、排序和呈现的方法
US10140652B2 (en) Computer implemented methods and systems for generating virtual body models for garment fit visualisation
US9369638B2 (en) Methods for extracting objects from digital images and for performing color change on the object
US8970569B2 (en) Devices, systems and methods of virtualizing a mirror
US8982110B2 (en) Method for image transformation, augmented reality, and teleperence
US20140226000A1 (en) User interface and authentication for a virtual mirror
JP2017526079A (ja) 眼信号を識別するためのシステムおよび方法、ならびに連続バイオメトリック認証
JPWO2014181380A1 (ja) 情報処理装置およびアプリケーション実行方法
WO2017177259A1 (en) System and method for processing photographic images
JP2008027086A (ja) 表情誘導装置および表情誘導方法、表情誘導システム
JP6656572B1 (ja) 情報処理装置、表示制御方法および表示制御プログラム
EP3458969A1 (en) Intelligent chatting on digital communication network
CN109074680A (zh) 基于通信的增强现实中实时图像和信号处理方法和系统
Bacci et al. Development of the Wits Face Database: an African database of high-resolution facial photographs and multimodal closed-circuit television (CCTV) recordings
JP6410427B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP7054725B2 (ja) 生成装置、生成方法および生成プログラム
JP2003077001A (ja) 顔画像通信装置およびプログラム
JP2016058937A (ja) 遊戯用画像編集装置、遊戯用画像編集方法およびコンピュータ・プログラム
US20210144297A1 (en) Methods System and Device for Safe-Selfie
Eckel Re/Dis-Solved Selves:(Re) Searching Selfies,(Inter) Facing the Face
JP2009157455A (ja) 印刷システム
Alexander MASKS: Maintaining anonymity by sequestering key statistics

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210317

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210317

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210810

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220111

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220111

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220120

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220404

R150 Certificate of patent or registration of utility model

Ref document number: 7054725

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350