JP2023053546A - 表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法 - Google Patents
表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法 Download PDFInfo
- Publication number
- JP2023053546A JP2023053546A JP2021162642A JP2021162642A JP2023053546A JP 2023053546 A JP2023053546 A JP 2023053546A JP 2021162642 A JP2021162642 A JP 2021162642A JP 2021162642 A JP2021162642 A JP 2021162642A JP 2023053546 A JP2023053546 A JP 2023053546A
- Authority
- JP
- Japan
- Prior art keywords
- model
- user
- posture
- control device
- display control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004519 manufacturing process Methods 0.000 title claims abstract description 49
- 238000000034 method Methods 0.000 title claims description 20
- 238000004590 computer program Methods 0.000 title claims description 6
- 238000001514 detection method Methods 0.000 claims abstract description 12
- 238000003860 storage Methods 0.000 claims description 9
- 238000003384 imaging method Methods 0.000 claims description 4
- 239000000463 material Substances 0.000 claims description 4
- 230000036544 posture Effects 0.000 description 43
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000004927 clay Substances 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】現実空間での制作を効果的に支援する。【解決手段】現実映像から、ユーザーが制作している制作物の特徴点を検出する検出手段と、前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整手段と、前記姿勢が調整されたお手本を前記現実映像に重畳した画像を表示する制御手段と、を備える、表示装置。【選択図】図9
Description
本発明は、表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法に関する。
近年、拡張現実(AR)や複合現実(MR)に代表されるような、現実と仮想を併せ持った環境でユーザー体験を提供する技術が発展している。例えば、スマートフォンで撮影した映像に仮想物体を重畳したり、各種センサを有するヘッドマウントディスプレイ(HMD)を用いて利用者の動作をとらえ複合世界内での動作に同期させて表示したり、これまでにないユーザー体験を提供することができる。
ARやMRは個人レベルでの普及が進み、日常的な場面に加え様々な学習や制作などでも活用が進んでいる。例えば特許文献1では、イラストの描画時にスマートフォンの画面にお手本を重畳表示することで制作をサポートしている。
特許文献1は、撮影した手元の映像の描画領域(紙の縁など)を検出し、描画領域に追従する形で予め設定しておいたお手本画像を重畳表示している。描画領域を検出することにより位置合わせのマーカーを書き込むなどの余計な手間が不要となる利点がある。
しかし、二次元の製作領域から特徴点を検出するという特性上、作業環境の変化などにより制作領域を見失うと、期待通りの重畳表示が出来ない可能性がある。
本発明では、現実空間での制作を効果的に支援するための技術を提供することを目的とする。
本発明の第一の態様は、
現実映像から、ユーザーが制作している制作物の特徴点を検出する検出手段と、
前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整手段と、
前記姿勢が調整されたお手本を前記現実映像に重畳した画像を表示する制御手段と、
を備える、表示装置である。
現実映像から、ユーザーが制作している制作物の特徴点を検出する検出手段と、
前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整手段と、
前記姿勢が調整されたお手本を前記現実映像に重畳した画像を表示する制御手段と、
を備える、表示装置である。
本発明の第二の態様は、コンピュータが行う制御方法であって、
現実映像から、ユーザーが制作している制作物の特徴点を検出する特徴点検出ステップと、
前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整ステップと、
前記姿勢が調整されたお手本を前記現実映像に重畳した画像を生成する表示画面生成ステップと、
を備える、制御方法である。
現実映像から、ユーザーが制作している制作物の特徴点を検出する特徴点検出ステップと、
前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整ステップと、
前記姿勢が調整されたお手本を前記現実映像に重畳した画像を生成する表示画面生成ステップと、
を備える、制御方法である。
本発明によれば、現実空間での制作を効果的に支援することができる。
以下、本発明の実施形態について図面を用いて説明する。なお、以下の説明は本発明の実施形態の一例に過ぎず、本発明を限定する趣旨ではない。本発明は、その技術的思想の範囲内で種々の実装が可能である。
本実施形態は、ユーザーによる制作物の制作を支援する制作支援システムである。本実施形態にかかる制作支援システムは、ユーザーが作成しようとする制作物のお手本画像を現実映像に重畳表示することで、ユーザーによる制作を支援する。制作物は、紙・ホワイトボード・ディスプレイ上に描かれる2次元の画像(イラストなど)であっても良いし、木・粘土・氷などの材料を加工することによって製造される3次元の造形物であってもよい。
製作支援システムは、ディスプレイ(表示装置)、カメラ(撮像装置)、入出力装置、およびディスプレイでの表示を制御するコンピュータ(表示制御装置)を含んで構成される。
図1は、制作支援システム100に含まれるコンピュータのハードウェア構成の一例を示す図である。本実施形態の制作支援システム100は、一般的なコンピュータの構成と同様であり、CPU101、ROM102、RAM103、I/F104を有している。これらの構成要素のそれぞれはバス105で接続されている。制作支援システム100は、以下で説明する機能を実現するためのコンピュータプログラムをコンピュータ可読媒体からRAM103にロードして、CPU101が実行することによって実現される。RAM103はさらに、CPU101にて行う処理の一時的なデータを格納するワークメモリとしても利用される。I/F104は外部と通信するためのインタフェースであり、現実世界の画像データの入力や、利用者の状況を判断するためのデータが入力され、表示する画像データを出力する。
図1にはCPUをひとつのみ図示したが、複数のプロセッサーで画像処理装置を実現してもよい。また、グラフィックプロセッシングユニット(GPU)のような補助的な構成が含まれていてもよい。さらには、一時的なワークメモリを保持する構成としてRAM103のみを示したが、同一あるいは異なる媒体で二次、三次の記憶領域を設けてもよい。その他の媒体としては、ハードディスク(HDD)、ソリッドステートドライブ(SSD)などが考えられる。バス105の構成についてもこの限りではなく、多段にして構成要素を接続しても良い。
図2は、制作支援システム100のソフトウェア論理構成の一例を示す図である。本ソフトウェア論理構成は実施例に依らず共通である。
ユーザーデータ221には、ユーザーの属性や過去の操作履歴などの情報が格納される。お手本データ222は、ユーザーによる制作を支援するためのお手本が複数格納される。お手本データ222のデータ形式は特に限定されず、2次元のデータであってもよいし3次元のデータであってもよい。
お手本検索部213は、お手本データ222の中から、制作支援のために現実映像に重畳して表示する候補である1または複数のお手本を検索する。お手本検索部213は、例えば、ユーザーが登録したユーザーの属性情報や、これから何を制作するかの入力情報に応じて、制作の開始前に検索を実行する。お手本候補223は、お手本検索部213によって選択された1つまたは複数のお手本を表す。
特徴点検出部211は、ユーザーの視野を撮影した現実映像を撮像部201から取得し、当該現実映像から、ユーザーが制作している制作物の特徴点を検出する。特徴点検出部211は、SIFTやHOGのような任意の既存の技術をもちいて実現すれば良い。
お手本姿勢調整部212は、お手本候補223に登録されたお手本の姿勢を、検出された特徴点に一致するようにお手本の姿勢を調整する。具体的には、お手本姿勢調整部212は、お手本の位置、回転、および拡縮の少なくともいずれかを行うことで、お手本の姿勢を様々に調整し、検出した特徴点と最も一致する姿勢を特定する。姿勢の調整方法は特に限定されない。例えば、お手本姿勢調整部212は、検出した特徴点とお手本の姿勢を元に調整方法を決定しても良いし、お手本の姿勢を所定の方法で複数調整し検出した特徴点と最もよく一致する調整方法を選択しても良い。また、お手本姿勢調整部212は、機械学習により学習したモデルを用いて調整方法を決定しても良い。特定した姿勢は現実映像に重畳する際の姿勢としてお手本候補223に記憶する。また、1つのお手本に対して検出した特徴点と一致させる姿勢の調整方法が複数存在する場合には、それぞれの調整後のお手本をお手本候補223に記憶してもよい。
お手本重畳部214は、撮像部201で撮影した現実映像に、姿勢が調整されたお手本候補223を重畳した画像を生成する。お手本重畳部214は、お手本候補223を現実映像に重畳する際に、お手本姿勢調整部212が決定した姿勢情報を用いる。
表示画面生成部215は、お手本重畳部214が生成した画像をお手本候補の提示画像として表示する画面を生成し、表示部202に出力する。お手本重畳部214と表示画面生成部215は、表示部202における表示を制御する表示制御手段と捉えることができる。
お手本選択部216は、提示されたお手本の中からユーザーが操作部203によって選択したお手本を継続的に重畳表示するお手本としてお手本候補223に設定する。
以降、お手本姿勢調整部212およびお手本重畳部214は、選択中のお手本のみにお手本の姿勢調整および現実映像との重畳処理を行う。また、表示画面生成部215はお手本重畳部214が生成した画像をHMDの視野全体に最終的なお手本として継続表示する画面を生成し、表示部202に出力する。本論理構成に記載のユーザーデータ221およびお手本データ222は、ネットワークを介した外部記憶装置上にデータを配置する構成としても良い。
図3は、ユーザーデータ221に記憶するユーザーデータのテーブルの一例を示す。「
ID」はユーザーごとに固有のIDを示す。「ユーザー名」はユーザーを識別する名称を示す。ユーザー名は、実際の氏名でも良いし、メールアドレスなどに代表されるアカウント名でも良い。「属性」はユーザーを分類する属性情報を示す。属性は、性別、年齢、職業といった属性を有していても良い。「履歴」はユーザーが過去に使用したお手本データの情報を示す。履歴は、最近使用したデータのみでも良いし、一定期間内に使用したデータのリストであっても良い。
ID」はユーザーごとに固有のIDを示す。「ユーザー名」はユーザーを識別する名称を示す。ユーザー名は、実際の氏名でも良いし、メールアドレスなどに代表されるアカウント名でも良い。「属性」はユーザーを分類する属性情報を示す。属性は、性別、年齢、職業といった属性を有していても良い。「履歴」はユーザーが過去に使用したお手本データの情報を示す。履歴は、最近使用したデータのみでも良いし、一定期間内に使用したデータのリストであっても良い。
図4は、お手本データ222に記憶するお手本データのテーブルの一例を示す。図に示すように、お手本データは、ID、サムネイル、属性、開始位置と関連付けて記憶部に記憶される。
「ID」はお手本データごとに付与される固有のIDを示す。
「お手本」はお手本データの実体を示す。お手本データのデータ形式は特に限定されない。例えば、イラストの描画といった二次元の制作を支援する場合、お手本は二次元のデータとしても良いし、三次元のデータとしても良い。また、模型作成といった三次元の制作を支援する場合は三次元のデータを用いることが好ましいが、二次元のデータとしても良い。このように、お手本のデータ形式は、利用用途に応じて定めれば良い。
「サムネイル」はお手本を任意の姿勢のスナップショット画像を示す。サムネイルは、例えば、提示枠にお手本を表示する際にどのお手本であるかを容易に判別できるように、提示枠の隅に表示するために使用される。サムネイルのデータ形式は、利用用途に応じて定めれば良い。
「属性」はお手本を分類する属性情報を示す。属性情報はお手本自体の特徴を示す「種別」や、お手本がどのようなユースケースで使用できるかを示す「場面」など、副次的なカテゴリで分類を有していても良い。
「開始位置」はそのお手本を描画する際の開始位置を示す。お手本データを特定サイズの二次元の描画領域に描画したと想定して、左上を起点に横軸をx軸、縦軸をy軸とした座標表現で表す。開始位置は、描画時にユーザーがペンを置いた位置に応じて、重畳するお手本の位置を決定するために利用される。開始位置はお手本ごとに1個のみ定義されても良いし、複数(例えば、2~4個)が定義されても良い。開始位置が2個の場合は、描画領域を左右に二分割した際に、左上、右上の、どの領域から書き始めたかに応じて使用する座標情報を選択しても良い。開始位置が4個の場合は、描画領域を十字に四分割した際に、左上、右上、左下、右下の、どの領域から書き始めたかに応じて使用する座標情報を選択しても良い。「開始位置」の具体的な使用方法は実施例3で説明する。
図5は、お手本候補223に記憶するお手本データのテーブルの一例を示す。“ID”はお手本候補ごとに固有のIDを示す。“お手本”はお手本データのテーブルに記載のお手本のデータごとに固有のIDを示す。“姿勢”はお手本が現在の特徴点と一致する姿勢を示す。姿勢は位置、回転、拡縮で構成される。位置は、お手本の初期座標からの移動量を(x、y、z)軸成分ごとに示す。回転は、お手本の初期配置からの回転量を(x、y、z)軸成分ごとに示す。拡縮は、お手本の初期サイズからの拡大・縮小の倍率を(x、y、z)軸成分ごとに示す。特徴点と一致する姿勢が存在しない場合は空欄とする。“選択中”は、そのお手本がHMDの視野全体に最終的なお手本として継続表示するお手本であることを示す。
(実施例1)
図6は本実施形態における制作支援システムがユーザーの装着するHMDに表示する画
面の例を示す図である。
図6は本実施形態における制作支援システムがユーザーの装着するHMDに表示する画
面の例を示す図である。
画面601はHMDの視野全体に表示する画面を示す。画面601には、現実空間を表す映像と、制作支援システム100によって生成された画像が重畳されて表示される。図6において、紙とペンおよび紙に描かれた線が現実空間の映像であり、この現実空間の映像にお手本画像604が重畳されている。現実の制作物に重畳して表示されるお手本画像のことを、以下では支援画像とも称する。
提示枠602、603は重畳表示するお手本の候補を示す提示枠である。提示枠602、603に表示する画像を提示画像と称する。本実施例において、まずユーザーはあらかじめ「犬」を描くことを制作システムに登録する。すると、お手本の候補としてピックアップされるのは「犬」の属性情報を有するお手本データのみとなる。画面601にはユーザーの手元の映像が表示されている。ユーザーが描画を開始するとシステムはその映像から描画結果の特徴点を検出し、「犬」のお手本の中から姿勢(移動、回転、拡縮)を調整することで特徴点と一致するお手本をピックアップする。ピックアップしたお手本は特徴点に合わせて現実映像と重畳し、提示枠602、603に表示する。ここでは2つのお手本が表示される例を示しているが、3つ以上のお手本が表示されてもよい。複数の候補が提示の対象となる場合、提示の順番は一致度が高い順とし、提示枠の数以上のお手本が対象となる場合は、ジェスチャなどのユーザー操作によって次々と新しいお手本の候補が表示される構成としても良い。ユーザーが提示されたお手本画像の中から継続して重畳表示することを希望するお手本を選択すると、画面601に現実映像に重畳する形でお手本画像604が表示される。以降は、描画結果の特徴点に追従した姿勢で選択したお手本画像を継続的に表示する。
本実施形態におけるお手本データは二次元のデータであっても、お手本は三次元のデータとしても良い。提示枠に表示される画像も、同じお手本であって特徴点の一部の座標が同じである別の姿勢は同じ提示候補として扱っても良い。その場合は、図7に示すようにユーザーのジェスチャ動作によって、特徴点の一部の座標を維持したまま、お手本の姿勢を自由に変更できるものとする。
図8は、実施例1における初期設定のフローチャートである。図8の処理は、ユーザーによる実際の制作の開始前に初期設定として行われる。
ステップS801において、制作支援システム100は、ユーザーからの入力に基づいてユーザーデータを登録する。本実施例では、制作支援システム100は、ユーザーから制作する制作物の種別の指定を受け付け、受け付けた制作物の種別をユーザーデータ221として登録する。例えば、ユーザーが「犬」の絵を描きたい場合には、これから制作する制作物の種別が「犬」であることがユーザーデータ221に登録される。
ステップS802はお手本検索部213の処理であり、お手本データの全体からお手本候補となるデータを検索する。制作物の種別が指定されている場合には、お手本検索部213は、お手本データ222の中から指定された種別と合致する属性を有するお手本をお手本候補としてピックアップする。例えば、「犬」の絵を描くことが登録されている場合には、お手本検索部213は、お手本データの中から属性として「犬」を有するお手本をお手本候補としてピックアップする。
図9は、実施例1におけるお手本決定までのフローチャートである。
ステップS901において、特徴点検出部211は、ユーザーの視野映像として撮影した製作物の描画結果から特徴点を検出する。
ステップS902において、お手本姿勢調整部212は、お手本候補としてピックアップしたお手本データについて、ステップS901で検出した特徴点と一致するようにお手本の姿勢を調整する。算出した姿勢はお手本候補の姿勢属性に結果を反映する。
ステップS903において、お手本重畳部214は、お手本候補としてピックアップされた複数のお手本をお手本候補としてユーザーに提示するための画像を生成する。より具体的には、お手本重畳物214は、それぞれのお手本候補に反映された姿勢属性を参照してお手本データの姿勢を調整し、姿勢調整後のお手本が現実映像に重畳された画像を生成する。
ステップS904において、表示画面生成部215は、ステップS903で生成した画像を用いて提示枠に表示するための提示画面を生成する。
ステップS905において、お手本選択部216は、ステップS904で提示したお手本の候補から、支援画像として表示するお手本をユーザーが選択した際に、そのお手本を支援画像としてシステムに登録する。
ステップS906において、表示画面生成部215は、ステップS905でシステムに設定した支援画像のお手本について、お手本重畳部214で生成した重畳画像を用いて表示部に本画像として表示するための画面を生成する。
以降フローチャートに記載はないが、特徴点検出部211による特徴点の検出およびお手本姿勢調整部212によるお手本姿勢の調整およびお手本重畳部によるお手本の重畳をステップS905でユーザーが選択したお手本について継続するものとする。
本実施例によれば、ユーザーはこれから制作する制作物の種別を指定するだけで、適切なお手本が選択されて現実映像に重畳表示され、制作の支援を受けることができる。お手本は、あらかじめ指定した種別と、ユーザーが実際に制作した制作物の特徴点とに基づいて選択されるので、ユーザーがあらかじめ具体的なお手本を指定することなく適切なお手本が選ばれる。また、お手本の姿勢を制作物の特徴点と一致するように調整しているので、お手本が現実の制作物に追従する。さらに、お手本の姿勢決定に描画領域の4隅を用いていないので、描画領域の4隅を見失ってもお手本を追従して表示し続けることができる。
(実施例2)
実施例1では、ユーザーが制作しようとする制作物の種別をあらかじめ指定しているが、本実施例では制作物の種別の指定なしにお手本を選択する。具体的には、本実施例では、ユーザーの属性情報に基づいてお手本を選択する。
実施例1では、ユーザーが制作しようとする制作物の種別をあらかじめ指定しているが、本実施例では制作物の種別の指定なしにお手本を選択する。具体的には、本実施例では、ユーザーの属性情報に基づいてお手本を選択する。
制作支援システム100が表示する画面は実施例1(図6)と同様である。本実施例においては、初期処理(図8)のステップS801で、ユーザーは自身の属性情報をユーザーデータ221としてあらかじめ制作システムに登録する。ステップS802においてお手本検索部213は、ユーザー属性に合致するお手本をお手本候補としてピックアップする。例えば、ユーザーの属性として「小学生」を有する場合は、関連するお手本の属性として「教育」を有するお手本をピックアップする。ユーザーの属性とお手本の属性の対応付けは、例えば、事前にあらかじめ決定しておけば良い。また、提示枠902、903に提示するお手本の順番は、特徴点との一致度の他にユーザー属性との一致度も加味した順番で提示しても良い。
本実施例においても、実施例1と同様の効果を得ることができる。なお、実施例1と実施例2とを組み合わせて、制作物の種別とユーザー属性の両方を用いてお手本候補を抽出するようにしてもよい。
(実施例3)
本実施例では、ユーザーによる描画の開始位置を考慮してお手本の表示位置を決定する。
本実施例では、ユーザーによる描画の開始位置を考慮してお手本の表示位置を決定する。
図10は本実施形態における制作支援システムが表示する画面の例を示す図である。画面1001はHMDの視野全体に表示する画面を示す。提示枠1002、1003は重畳表示するお手本の候補を示す提示枠である。本実施例では描画に利用するお手本を予めユーザーが決めてあるものとする。
本実施例において、システムが特徴点として検出するのは、ユーザーの描画の開始位置(ペンを置いた位置)である。システムは検出した描画の開始位置に、お手本の開始位置の属性情報を参照して位置を合わせ、お手本画像を重畳表示する。具体的には、お手本姿勢著西武212は、お手本データに含まれる開始位置(図4参照)と、ユーザーの描画の開始位置が一致するように、お手本の位置を調整する。位置以外のお手本の姿勢(回転、拡縮)は、適宜決定すれば良い。例えば、回転は、ユーザーがお手本を選択したときの姿勢としてもよい。拡縮は、描画領域に対して任意のマージンを維持できる最大サイズとしてもよいし、あらかじめ定められたサイズとしても良い。
本実施例において、ペンを置いた位置が描画領域内のどの領域であるかに応じて、画像の開始位置を決めても良い。上述したように、お手本データ222には、描画開始位置が複数関連付けて記憶されても良い。例えば、お手本データ222において、描画領域を左右に二分割して、それぞれの領域から書き始めた場合の開始位置が定義されても良い。この場合、お手本姿勢調整部212は、ユーザーの描画の開始位置が描画領域のどの領域に該当するかに応じて、対応する開始位置を用いる。例えばユーザーが描画領域の左上にペンを置いた場合は、開始位置(図4)の左上座標を使う。また右上にペンを置いた場合は開始位置(図4)の右上座標を使う。以下、左下、右下の場合も同様である。
以降は、ユーザーの描画の開始位置に応じてお手本が追従するように、お手本姿勢調整部212がお手本の姿勢を調整する。
本実施例によれば、お手本の描画位置がユーザーによる描画の開始位置に応じて決定されるので、描画領域の4隅を見失ってもお手本を追従して表示し続けることができる。
なお、上記ではお手本はあらかじめ決定されているものとして説明したが、描画の開始位置に応じてお手本を選択してもよい。描画の開始位置に基づくお手本の選択は、お手本データとしてあらかじめ登録しておいてこれに基づいて行ってもよいし、ユーザーの過去の履歴(描画開始位置と制作物の種別の対応関係)に基づいて行ってもよい。なお、複数の候補が選択された場合には、実施例1と同様に提示枠1001,1002に提示して、どの候補を用いるかをユーザーが選択できるようにすればよい。このようにすれば、お手本をあらかじめ指定するという手間を省略することができる。
(実施例4)
本実施例では、三次元制作の支援を行う。本実施例において、システムが特徴点として検出するのは、立体物を撮影した二次元画像の特徴点とする。ユーザーが材料を切削などの加工によって削り出した特徴点を検出し、お手本の特定の姿勢との一致を二次元で判定して重畳する。重畳する場合のロジックは2次元の時と同様であるので説明は割愛する。
本実施例では、三次元制作の支援を行う。本実施例において、システムが特徴点として検出するのは、立体物を撮影した二次元画像の特徴点とする。ユーザーが材料を切削などの加工によって削り出した特徴点を検出し、お手本の特定の姿勢との一致を二次元で判定して重畳する。重畳する場合のロジックは2次元の時と同様であるので説明は割愛する。
(その他の実施例)
なお、実施例1~4はあくまで一例であり、本発明の要旨の範囲内で実施例1~4の構成を適宜変形したり変更したりすることにより得られる構成も、本発明に含まれる。
なお、実施例1~4はあくまで一例であり、本発明の要旨の範囲内で実施例1~4の構成を適宜変形したり変更したりすることにより得られる構成も、本発明に含まれる。
また、本発明は、ディスプレイおよびカメラを備えたヘッドマウントディスプレイとして実装したり、スマートフォンをゴーグルのようにユーザーの頭部に装着する形態として実装したりすることができる。また、本発明は、ディスプレイとカメラの少なくとも一方が外付けされるコンピュータ(表示制御装置)、また、当該コンピュータを表示制御装置として機能させるためのコンピュータプログラムとして実現することできる。
また、本発明は、上記の制作支援システムを用いた制作物の製造方法と捉えることもできる。すなわち、本発明は、制作物支援システム(表示制御装置)によって表示されるお手本を確認するステップと、表示されたお手本に基づいて、画像の描画、又は、材料の加工をするステップとを含む製造方法として捉えることができる。このように制作支援システムの支援を受けつつ制作物を制作することにより、ユーザーは、お手本に沿った制作物を容易に製作することができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
211:特徴点検出部 212:お手本姿勢調整部 215:表示画面生成部
Claims (17)
- 現実映像から、ユーザーが制作している制作物の特徴点を検出する検出手段と、
前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整手段と、
前記姿勢が調整されたお手本を前記現実映像に重畳した画像を表示する制御手段と、
を備える、表示制御装置。 - 記憶手段に記憶された複数のお手本データの中から、現実映像に重畳して表示するためのお手本を検索する検索手段をさらに有する、
請求項1に記載の表示制御装置。 - 前記お手本データは、属性と関連付けて前記記憶手段に記憶されており、
前記検索手段は、前記ユーザーによって指定されたお手本の属性に合致するお手本を検索する、
請求項2に記載の表示制御装置。 - 前記お手本データは、属性と関連付けて前記記憶手段に記憶されており、
前記検索手段は、前記ユーザーの属性に合致する属性を有するお手本を検索する、
請求項2に記載の表示制御装置。 - 前記制御手段は、前記検索手段によって検索された複数のお手本をお手本の候補として前記ユーザーに提示する画像を生成し、前記ユーザーによって選択されたお手本の候補を前記現実映像に重畳するお手本とする、
請求項2から4のいずれか1項に記載の表示制御装置。 - 前記姿勢調整手段は、前記お手本に対して回転、移動、および拡縮の少なくともいずれかを行うことにより、前記お手本の姿勢を調整する、
請求項2から5のいずれか1項に記載の表示制御装置。 - 1つのお手本データについて、前記検出された特徴点に一致させる姿勢の調整方法が複数存在する場合に、前記制御手段は、それぞれの調整後のお手本データをお手本の候補として前記ユーザーに提示する画面を生成する、
請求項6に記載の表示制御装置。 - 前記お手本データは、前記属性として描画の開始位置が関連付けて前記記憶手段に
記憶されており、
前記検出手段は、前記ユーザーによる制作の開始位置を検出し、
前記姿勢調整手段は、前記ユーザーによる制作の開始位置と、前記お手本データの属性として記憶されている描画の開始位置とが一致するように、前記お手本の姿勢を調整する、
請求項2から7のいずれか1項に記載の表示制御装置。 - 前記お手本データは、前記描画の開始位置が複数関連付けて前記記憶手段に記憶されており、
前記姿勢調整手段は、前記ユーザーの属性情報または前記ユーザーによる制作の開始位置に応じていずれかの描画の開始位置を選択し、前記ユーザーによる制作の開始位置と、前記選択された描画の開始位置とが一致するように、前記お手本の姿勢を調整する、
請求項8に記載の表示制御装置。 - 前記現実映像は、前記ユーザーの視野を撮影した映像である、
請求項1から9のいずれか1項に記載の表示制御装置。 - 前記現実映像を取得する撮像手段と、
前記制御手段によって生成された画像を表示する表示手段と、
を有する請求項1から10のいずれか1項に記載の表示制御装置。 - 前記制作物は、二次元の制作物である、
請求項1から11のいずれか1項に記載の表示制御装置。 - 前記制作物は、三次元の制作物である、
請求項1から11のいずれか1項に記載の表示制御装置。 - コンピュータが行う制御方法であって、
現実映像から、ユーザーが制作している制作物の特徴点を検出する特徴点検出ステップと、
前記検出された特徴点に一致するようにお手本の姿勢を調整する姿勢調整ステップと、
前記姿勢が調整されたお手本を前記現実映像に重畳した画像を生成する表示画面生成ステップと、
を備える、制御方法。 - コンピュータを請求項1から13のいずれか1項に記載された表示制御装置の各手段として機能させるためのコンピュータプログラム。
- コンピュータを請求項1から13のいずれか1項に記載された表示制御装置の各手段として機能させるためのコンピュータプログラムを記憶したコンピュータ可読媒体。
- 請求項1から13のいずれか1項に記載の表示制御装置を用いて、お手本を確認するステップと、
前記お手本に基づいて、画像を描画、又は、材料を加工するステップと、
を有することを特徴とする、制作物の製造方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021162642A JP2023053546A (ja) | 2021-10-01 | 2021-10-01 | 表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法 |
US17/948,264 US20230105800A1 (en) | 2021-10-01 | 2022-09-20 | Display control apparatus, control method, computer-readable medium, and producing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021162642A JP2023053546A (ja) | 2021-10-01 | 2021-10-01 | 表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023053546A true JP2023053546A (ja) | 2023-04-13 |
Family
ID=85775490
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021162642A Pending JP2023053546A (ja) | 2021-10-01 | 2021-10-01 | 表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20230105800A1 (ja) |
JP (1) | JP2023053546A (ja) |
-
2021
- 2021-10-01 JP JP2021162642A patent/JP2023053546A/ja active Pending
-
2022
- 2022-09-20 US US17/948,264 patent/US20230105800A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20230105800A1 (en) | 2023-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US12020380B2 (en) | Systems, methods, and graphical user interfaces for modeling, measuring, and drawing using augmented reality | |
US10074217B2 (en) | Position identification method and system | |
JP6264972B2 (ja) | 表示装置、表示制御プログラム、および表示制御方法 | |
JP7490784B2 (ja) | 拡張現実マップキュレーション | |
KR20200121357A (ko) | 물리적 조작을 사용한 오브젝트 생성 | |
JP6337907B2 (ja) | 表示制御装置、表示制御方法およびプログラム | |
KR20150119621A (ko) | 디스플레이 장치 및 그의 이미지 합성 방법 | |
US11640700B2 (en) | Methods and systems for rendering virtual objects in user-defined spatial boundary in extended reality environment | |
JP4137923B2 (ja) | 画像表示方法および装置 | |
JP2016038728A (ja) | 画像表示装置、画像表示装置の制御方法、及びプログラム | |
JP2010170184A (ja) | 顔画像における特徴部位の位置の特定 | |
JP5920858B1 (ja) | プログラム、情報処理装置、深度定義方法及び記録媒体 | |
KR20120035322A (ko) | 증강 현실 컨텐츠 재생 시스템 및 방법 | |
JP2010021766A (ja) | 画像表示装置、画像表示方法、プログラム及び記憶媒体 | |
JP2023053546A (ja) | 表示制御装置、制御方法、コンピュータプログラム、コンピュータ可読媒体、および製造方法 | |
JP2009065462A (ja) | 映像を要約する装置、方法およびプログラム | |
JP2011215709A (ja) | 漫画作成支援装置、漫画作成支援方法及びプログラム | |
JP6218696B2 (ja) | 画像表示装置、画像表示方法、およびプログラム | |
JP7011363B1 (ja) | 絵コンテ制作装置、絵コンテ制作方法及び絵コンテ制作プログラム | |
JP2019040485A (ja) | キャラクタ動画表示システム | |
WO2023189601A1 (ja) | 情報処理装置、記録媒体及び情報処理方法 | |
JP2008301274A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2009015774A (ja) | 情報処理装置及び情報処理方法 | |
JP5975092B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6390210B2 (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240924 |