JP2000057378A - 画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法 - Google Patents

画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法

Info

Publication number
JP2000057378A
JP2000057378A JP11146797A JP14679799A JP2000057378A JP 2000057378 A JP2000057378 A JP 2000057378A JP 11146797 A JP11146797 A JP 11146797A JP 14679799 A JP14679799 A JP 14679799A JP 2000057378 A JP2000057378 A JP 2000057378A
Authority
JP
Japan
Prior art keywords
image
dimensional
point
displayed
dimensional image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP11146797A
Other languages
English (en)
Inventor
Rui Yamada
類 山田
Mitsuharu Oki
光晴 大木
Takushi Totsuka
卓志 戸塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP11146797A priority Critical patent/JP2000057378A/ja
Publication of JP2000057378A publication Critical patent/JP2000057378A/ja
Withdrawn legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 2次元画像に対して、容易に、3次元的な編
集等を施す。 【解決手段】 家屋を模した3次元物体が表示された2
次元画像(図11(A))が、注目バッファに記憶され
ている場合において、例えば、格子模様の壁が長方形で
ある旨の形状情報ととともに、その壁の4つの頂点が、
特徴点として、ユーザにより指定されると、その形状情
報および特徴点に基づいて、格子模様の壁を、2次元平
面上に展開した展開画像(図11(B))が生成され、
ペーストバッファに記憶される。そして、例えば、円柱
の2次元画像(図11(C))が、注目バッファに記憶
され、円柱の側面である旨の形状情報とともに、その側
面上の所定の点が、特徴点として、ユーザにより指定さ
れると、その形状情報および特徴点に基づいて、ペース
トバッファに記憶された画像(図11(B))が、注目
バッファの円柱の側面に貼り付けられる(図11
(D))。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像処理装置およ
び画像処理方法、媒体、並びに輪郭抽出装置および輪郭
抽出方法に関し、特に、例えば、2次元画像に表示され
た3次元物体に対して、容易に、3次元的な編集等を施
すことができるようにする画像処理装置および画像処理
方法、媒体、並びに輪郭抽出装置および輪郭抽出方法に
関する。
【0002】
【従来の技術】従来より、2次元画像に対して、各種の
処理を施し、また、その処理を施すために必要な情報
を、2次元画像から抽出する様々な方法が提案されてい
る。かかる方法が記載された文献としては、例えば、Ja
mes D.Foley, Andries van Dam,Steven K.Feiner, John
F.Hughes, "Computer Graphics, principles and prac
tice", ADDISON-WESLEY PUBLISHING COMPANY, 1996(以
下、文献1という)、Paul E.Debevec, Camillo J.Tayl
or, Jitendra Malik, "Modeling and Rendering Archit
ecture from Photographs: A hybrid geometry-and ima
ge-based approach", proceedings of SIGGRAPH 96, p
p.11-20(以下、文献2という)、Oliver Faugeras, "T
hree-dimensional computer version", The MIT press
(以下、文献3という)、Kenneth P.Fishkin, Brian
A.Barsky, "A Family of New Algorithms for Soft Fil
ling", proceedings of SIGGRAPH 84, pp235-244(以
下、文献4という)、Pat Hanrahan and Paul Haeberl
i, "Direct WYSIWYG Painting andTexuturing on 3D Sh
apes", proceedings of SIGGRAPH 90, pp.215-233(以
下、文献5という)、Youichi Horry, Ken-ichi Anjyo,
Kiyoshi Arai, "Tour Into the Picture: Using a Spi
dery Mesh Interface to Make Animation from a Singl
e Image", proceedings of SIGGRAPH 97, pp.255-232
(以下、文献6という)、Michael Gleicher, "Image S
napping", proceedings of SIGGRAPH 95, pp.183-190
(以下、文献7という)などがある。
【0003】文献1には、デザイナなどが、絵筆やエア
ブラシ(絵の具を粉末状にして紙に飛ばして絵を描く技
術)を用いて、紙に絵を描くのと同様の作業をコンピュ
ータに行わせる、2D(2次元)ペイントと呼ばれる画
像処理技術が記載されている。
【0004】しかしながら、従来の2Dペイントでは、
画像に3次元物体が表示されている場合でも、画像自体
が2次元の平面で取り扱われるため、そのような2次元
画像に表示された3次元物体の3次元空間における向き
等を考慮せずに、文字を描画したり、また、図形を追加
すると、画像が不自然なものとなる。
【0005】即ち、例えば、図1(A)に示すような、
家屋を模した3次元物体が、2次元画像に表示されてい
る場合において、家屋の壁の部分に、その向きを考慮せ
ずに、文字を描いたときには、図1(B)に示すよう
に、文字は、壁に描かれているようにはならない。ま
た、家屋の壁の部分に、直方体形状の部屋を追加しよう
として、長方形を描いても、その向きを考慮せずに、長
方形を描いたのでは、図1(C)に示すように、画像は
不自然なものとなる。さらに、例えば、図2(A)に示
すように、円柱が、2次元画像に表示されている場合に
おいて、その側面に文字を描いても、その側面の向きを
無視したのでは、図2(B)に示すように、文字は、円
柱の側面に描かれているようにはならない。
【0006】従って、2Dペイントを行う場合におい
て、画像を不自然なものとしないようにするには、2次
元画像に表示された3次元物体の向きにあわせて、文字
や図形を変形しながら、その描画を行う必要があるが、
そのような描画のための操作を行うには、ある程度の熟
練を要する。
【0007】そこで、ユーザに、2次元画像に表示され
た3次元物体の傾き角などを、テンキーやGUI(Grap
hic User Interface)などを用いて入力してもらい、コ
ンピュータにおいて、その入力に基づいて、新たに描画
する文字や図形を変形する方法がある。しかしながら、
この方法では、ユーザが、描画結果を見ながら、それが
不自然なものにならないように、コンピュータに入力す
る3次元物体の傾き角を調整する必要があり、その調整
には、やはり、ある程度の熟練を要する。
【0008】上述のように、ユーザが、2次元画像に表
示された3次元物体の向きを考慮せずに、文字や図形を
描画した場合に、コンピュータにおいて、その描画結果
を自然なものとすること、即ち、あたかも、その文字や
図形が存在する状態で撮影を行ったかのような描画結果
を得ることができないのは、2次元画像に表示された3
次元物体が、3次元空間上のどこに位置し、さらに、そ
の2次元画像が、どの位置から撮影を行うことにより得
られたものであるかに関する情報(2次元画像が絵画を
撮影したものである場合には、その絵画に表された風景
等を観察した位置)が欠落していることに起因する。
【0009】そこで、2次元画像から、そこに表示され
た3次元物体の3次元空間における位置およびその撮影
位置を、画像認識(Computer Vision)の技術を用いて
求める方法がある。
【0010】即ち、文献2では、複数枚の写真に撮影さ
れた建造物に、直方体などの3次元形状を、GUIを用
いて対応させ、その建造物のサイズおよび撮影位置を求
める方法が開示されている。また、文献3では、3次元
物体の位置およびその撮影位置を求めるための、その他
の各種の方法が開示されている。
【0011】しかしながら、このような画像認識の技術
を用いた3次元物体の位置およびその撮影位置の算出方
法は、三角測量の原理を利用している。従って、同一の
3次元物体を、複数の撮影位置から撮影した複数の画像
が必要となるが、2Dペイントを行う場合に、そのよう
な複数の画像を用意することができるとは限らないし、
さらに、2次元画像が絵画を撮影したものであるときに
は、上述のような複数の画像が存在しないのが一般的で
ある。
【0012】また、同一の3次元物体を、複数の撮影位
置から撮影した複数の画像を用意することができる場合
であっても、コンピュータに、その複数の画像から、3
次元物体の位置およびその撮影位置を算出させるには、
複数の画像に表示された同一の3次元物体どうしの対応
する位置(例えば、3次元物体である建造物の屋根の頂
点など)を指定する必要があり、複数の画像それぞれに
ついて、そのような指定を行う操作は面倒であり、時間
も要する。さらに、2次元画像に表示された3次元物体
の3次元空間における位置および撮影位置に基づいて、
3次元的に自然な描画を行う場合には、2次元画像を取
り扱うのにもかかわらず、撮影位置から3次元物体を見
たときの3次元の座標等の3次元のデータを処理しなけ
ればならず、そのための計算量は膨大なものとなる。
【0013】次に、文献4では、2Dペイントを行う際
の色の処理方法が開示されている。
【0014】即ち、2Dペイントでは、例えば、ユーザ
が、GUIによって、描画に用いる色を選択し、その色
で描画を行うが、2次元画像に表示された3次元物体の
色や明るさは、その面の向きと光源との位置関係によっ
て変化する。従って、例えば、3次元物体のある面の全
体を、同一の色(同一のRGB(Red, Green, Blue)
値)で塗ると、その描画結果は不自然なものとなる。従
って、描画結果を自然なものとするには、色を塗る面の
向きと光源との位置関係を考慮して、塗る色を段階的に
変化させる必要がある。特に、色を塗る面が曲面である
場合においては、描画結果を自然なものとするには、画
素値を連続的に変化させる必要があり、従って、例え
ば、数画素ごとに、塗る色を選択し直さなければなら
ず、その作業量は膨大なものとなる。
【0015】そこで、文献4では、画素の色が、ある2
色を混合したものであり、かつその2色が分かっている
場合には、そのうちの一色を別の色に変更することがで
きるティントフィル(tint fill)と呼ばれる方法が記
載されている。しかしながら、ティントフィルでは、例
えば、前景と背景とが混ざっているような部分には有効
に対処することができるが、物体の陰影や、物体による
照明の反射に対処するのは困難である。
【0016】次に、文献5では、タブレットやマウスな
どを操作することにより入力した文字や手書きの図形
を、2次元画像に表示された3次元物体の面(表面)に
沿うように変形して貼り付ける方法が開示されている。
【0017】しかしながら、文献5に開示されている方
法は、2次元画像に表示された3次元物体に関する3次
元情報(例えば、3次元空間における3次元物体の位
置、撮影位置、サイズ、傾きなど)を用いるものであ
り、従って、その3次元情報を、上述したような画像認
識技術を利用して正確に認識する必要があるが、3次元
情報を、画像認識技術を利用して認識する場合には、上
述したように、複数の画像が必要となり、計算量も多く
なる。
【0018】また、文献5の方法は、コンピュータ内部
で生成した3次元物体の3次元モデルを利用することも
可能であるが、この場合でも、3次元のデータを取り扱
うことが必要であり、その計算量は膨大なものとなる。
【0019】ここで、3次元モデルを生成する方法とし
ては、例えば、画像認識の技術を用いて、2次元画像か
ら、そこに表示された3次元物体の形状の概略を抽出
し、その形状の表面に、撮影した画像を貼り付ける(テ
クスチャマッピングを行う)ものがあり、この方法を用
いて、自由な視点から見た(自由な撮影位置から撮影し
た)2次元画像を生成する手法が、上述の文献2に開示
されている。しかしながら、この手法は、画像認識の技
術を用いて、2次元画像から、そこに表示された3次元
物体の形状の概略を抽出するために、上述した場合と同
様に、複数の画像が必要となる。
【0020】次に、文献6では、1枚の2次元画像か
ら、その撮影位置以外の視点から見た画像を生成する方
法が開示されている。しかしながら、この方法では、撮
影位置以外の別の視点から見た画像が生成されるだけで
あり、さらに、2次元画像に表示された物体やその周囲
にある物が、板状の極めて単純な形状であることを前提
としているため、別の視点から見た画像を近似的に生成
するだけであれば、それほど大きな問題はないが、2次
元画像に文字や図形を追加等する場合に、その描画結果
を自然なものとすることは困難である。具体的には、例
えば、2次元画像に円柱が表示されている場合に、その
円柱の側面等に文字や図形を追加した、自然な画像を得
るのは困難である。
【0021】また、2次元画像を対象とした処理を行う
場合、ユーザには、その2次元画像中の、例えば、3次
元物体の頂点などの所定の特徴点の指定を行うことが要
求されることが多い。この指定は、マウスや、ペンなど
が操作されることにより行われるが、2次元画像中の3
次元物体の頂点などを、正確に指定するのは困難であ
る。そこで、文献7では、2次元画像の中のエッジ(明
るさや色が大きく変化する部分)を抽出し、カーソル
が、エッジの近傍に位置する場合には、カーソルをエッ
ジ上に移動させる方法が開示されている。しかしなが
ら、文献7の方法では、2次元画像の中のエッジすべて
を検出するため、その2次元画像のノイズやテクスチャ
に敏感に反応し、不必要な位置に、カーソルが移動され
ることがある。
【0022】
【発明が解決しようとする課題】以上のように、従来よ
り、多くの画像処理技術が提案されているが、2次元画
像に対して、文字や図形の3次元的な追加や削除、移
動、変形、色や模様の変更、光源の変更等の編集や加工
等を施す場合に、特に適した方法は、まだ提案されてい
ない。
【0023】即ち、従来の方法では、2次元画像に対し
て、3次元的な編集や加工等を施すには、ある程度の操
作の熟練と時間を要したり、同一物を異なる方向から撮
影した複数の画像を必要とする。また、計算量が膨大に
なることや、不要なカーソルの移動がされることなどが
ある。さらに、2次元画像中の3次元物体等を削除した
場合には、その削除後の領域に、その背景を再現する必
要があるが、上述の文献1乃至7に記載された方法で
は、そのような背景の再現は困難である。
【0024】本発明は、このような状況に鑑みてなされ
た物であり、2次元画像に対して、容易に、3次元的な
編集等を施すことができるようにするものである。
【0025】
【課題を解決するための手段】本発明の画像処理装置
は、3次元物体を構成する面の形状に関する形状情報
と、その面を構成する、2次元画像上の点である特徴点
とを指定するときに操作される操作手段と、形状情報お
よび特徴点に基づいて、2次元画像の中の3次元物体を
構成する面を、展開画像に変換するための変換式を算出
する算出手段と、変換式に基づいて、2次元画像の中の
3次元物体を構成する面を、展開画像に変換する変換手
段とを備える。
【0026】本発明の画像処理方法は、形状情報および
特徴点に基づいて、2次元画像の中の3次元物体を構成
する面を、展開画像に変換するための変換式を算出する
算出ステップと、変換式に基づいて、2次元画像の中の
3次元物体を構成する面を、展開画像に変換する変換ス
テップとを備える。
【0027】本発明の媒体がコンピュータに実行させる
コンピュータプログラムは、形状情報および特徴点に基
づいて、2次元画像の中の3次元物体を構成する面を、
展開画像に変換するための変換式を算出する算出ステッ
プと、変換式に基づいて、2次元画像の中の3次元物体
を構成する面を、展開画像に変換する変換ステップとを
備える。
【0028】本発明の他の画像処理装置は、3次元物体
を構成する面の形状に関する形状情報と、その面を構成
させる2次元画像上の点である特徴点とを指定するとき
に操作される操作手段と、形状情報および特徴点に基づ
いて、2次元平面上の所定の画像を、投影画像に変換す
るための変換式を算出する算出手段と、変換式に基づい
て、所定の画像を、投影画像に変換する変換手段と、所
定の画像から得られた投影画像を、2次元画像における
特徴点によって特定される部分に貼り付ける貼り付け手
段とを備える。
【0029】本発明の他の画像処理方法は、形状情報お
よび特徴点に基づいて、2次元平面上の所定の画像を、
投影画像に変換するための変換式を算出する算出ステッ
プと、変換式に基づいて、所定の画像を、投影画像に変
換する変換ステップと、所定の画像から得られた投影画
像を、2次元画像における特徴点によって特定される部
分に貼り付ける貼り付けステップとを備える。
【0030】本発明の他の媒体がコンピュータに実行さ
せるコンピュータプログラムは、形状情報および特徴点
に基づいて、2次元平面上の所定の画像を、投影画像に
変換するための変換式を算出する算出ステップと、変換
式に基づいて、所定の画像を、投影画像に変換する変換
ステップと、所定の画像から得られた投影画像を、2次
元画像における特徴点によって特定される部分に貼り付
ける貼り付けステップとを備える。
【0031】本発明の輪郭抽出装置は、所定の空間にお
ける物体の輪郭を定義する、1以上のパラメータを用い
て表される関数fによる式f=0上の点のスカラー量の
微分値のうちの、その点における法線ベクトルの方向の
成分である法線方向成分を最大にするパラメータを求め
るパラメータ算出手段と、そのパラメータを用いて表さ
れる関数fによる式f=0上の点を、物体の輪郭として
抽出する輪郭抽出手段とを備える。
【0032】本発明の輪郭抽出方法は、所定の空間にお
ける物体の輪郭を定義する、1以上のパラメータを用い
て表される関数fによる式f=0上の点のスカラー量の
微分値のうちの、その点における法線ベクトルの方向の
成分である法線方向成分を最大にするパラメータを求
め、そのパラメータを用いて表される関数fによる式f
=0上の点を、物体の輪郭として抽出する。
【0033】
【発明の実施の形態】図3は、本発明を適用した画像処
理装置の一実施の形態の構成例を示している。この画像
処理装置は、コンピュータをベースに構成されており、
2次元画像に対して、容易に、3次元的な編集等を施す
ことができるようになされている。
【0034】即ち、演算処理回路1は、例えば、CPU
(Central Processing Unit)などで構成され、プログ
ラムメモリ2に記憶(ロード)されたOS(Operating
System)の制御の下、同じくプログラムメモリ2に記憶
されたアプリケーションプログラムを実行することで、
2次元画像に対して、後述するような各種の処理を施す
ようになされている。プログラムメモリ2は、例えば、
RAM(Random Access Memory)などでなり、外部記憶
装置7に記憶(記録)されているOSやアプリケーショ
ンプログラムを一時記憶するようになされている。デー
タメモリ3は、例えば、RAMなどでなり、演算処理回
路1の処理上必要なデータを一時記憶するようになされ
ている。フレームメモリ4は、例えば、RAMなどでな
り、画像表示装置5に表示させる画像データを記憶する
ようになされている。画像表示装置5は、例えば、CR
T(Cathode Ray Tube)や液晶ディスプレイなどでな
り、フレームメモリ4に記憶された画像データを表示す
るようになされている。入力装置6は、例えば、マウス
や、ペンおよびタブレットの組み合わせ、キーボードな
どでなり、必要なコマンドやデータを入力するときや、
画像表示装置5に画面上の所定の位置を指示するときな
どに操作されるようになされている。外部記憶装置7
は、例えば、ハードディスクやフロッピーディスク、C
D−ROM(Compact Disc ROM)、光磁気ディスクなど
でなり、OSやアプリケーションプログラムを記憶して
いる。また、外部記憶装置7は、演算処理回路1の動作
上必要なデータや、処理の対象となる2次元画像(ディ
ジタルデータ)も記憶するようになされている。外部イ
ンターフェイス8は、例えば、カメラ9などで撮影され
た2次元画像や、図示せぬ通信回線を介して送信されて
くるデータなど、外部から供給されるデータを取り込む
ためのインターフェイスとして機能するようになされて
いる。
【0035】なお、演算処理装置1、プログラムメモリ
2、データメモリ3、フレームメモリ4、入力装置6、
外部記憶装置7、外部インターフェイス8は、相互に、
バスを介して接続されており、プログラムやデータ等
は、このバスを介して、各ブロックの間でやりとりされ
る。
【0036】以上のように構成される画像処理装置で
は、電源が投入されると、外部記憶装置7に記憶された
OSが読み出され、プログラムメモリ2に展開されて、
演算処理回路1により実行される。そして、アプリケー
ションプログラムを実行するように、入力装置6が操作
されると、演算処理回路1において、OSの制御の下、
外部記憶装置7からアプリケーションプログラムが読み
出され、プログラムメモリ2に展開されて実行される。
これにより、例えば、カメラ9によって撮影され、外部
インターフェイス8を介して、外部記憶装置7に記憶さ
れた2次元画像に対して、各種の処理が施される。
【0037】図4は、演算処理回路1がアプリケーショ
ンプログラムを実行することにより実現される、図3の
画像処理装置の機能的構成例を示している。
【0038】入力イベント処理部11には、OSからの
GUIイベントが供給されるようになされており、入力
イベント処理部11は、そのGUIイベントを解析し、
その解析結果にしたがって、コピー操作処理部12、ペ
ースト操作処理部13、ペーストバッファ選択処理部1
4、イレース操作処理部15、マット操作処理部16、
物体属性操作処理部17、ペイント処理部18を起動し
て処理を行わせるようになされている。
【0039】ここで、GUIイベントとしては、例え
ば、マウスカーソルの移動、マウスのクリック(マウス
ボタンの押し下げや押し上げ)、GUI上のメニューの
選択やボタンの操作などがある。GUIイベントは、例
えば、X Windowなどのウインドウシステムで定義されて
いる。
【0040】コピー操作処理部12は、後述するペース
トバッファに画像を記憶させる(コピーする)コピー処
理を行うようになされている。ペースト操作処理部13
は、ペーストバッファに記憶された画像を、後述する画
像バッファに記憶された2次元画像に貼り付ける(ペー
ストする)ペースト処理を行うようになされている。ペ
ーストバッファ選択処理部14は、画像バッファの中か
ら、ペーストバッファとするものを選択し、そのバッフ
ァID(Identification)をバッファID記憶部21に
記憶させるペーストバッファ選択処理を行うようになさ
れている。
【0041】ここで、データメモリ3には、画像の画素
値を、例えば、1画面単位などで記憶する領域が、画像
バッファとして確保されるようになされている。ここで
は、画像バッファは、データメモリ3の中に複数確保さ
れるようになされており、また、各画像バッファには、
それぞれを識別することができるように、バッファID
が付されている。複数の画像バッファのうち、バッファ
ID記憶部21にバッファIDが記憶されているもの
が、特に、ペーストバッファと呼ばれる。なお、画像バ
ッファは、2次元画像の画素値(例えば、RGB値な
ど)を記憶することができる他、その2次元画像に表示
された物体のマット(matte)も記憶することができる
ようになされている。マットについては後述する。
【0042】イレース操作処理部15は、ペーストバッ
ファに記憶された画像の一部を削除するイレース処理を
行うようになされている。マット操作処理部16は、画
像バッファに記憶された2次元画像に表示された3次元
物体について、マットを生成するマット処理を行うよう
になされている。物体属性操作処理部17は、画像バッ
ファに記憶された2次元画像に表示された3次元物体の
色や材質感などの、いわゆる材質属性(material prope
rty)を変更する物体属性処理や、光源を変更(画像バ
ッファに記憶された2次元画像中の3次元物体の照明の
具合を変更)する光源変更処理を行うようになされてい
る。ペイント処理部18は、ペーストバッファに記憶さ
れた画像に対して、2Dペイントを施すペイント処理を
行うようになされている。
【0043】変換指定処理部19は、コピー操作処理部
12、ペースト操作処理部13の指示にしたがって、ユ
ーザが入力装置6を操作することにより指定した、画像
バッファに記憶された2次元画像上の特徴点の位置を補
正し、その補正後の特徴点を、コピー操作処理部12、
ペースト操作処理部13に戻すようになされている。画
像変換処理部20は、コピー操作処理部12、ペースト
操作処理部13の指示にしたがい、画像バッファまたは
ペーストバッファに記憶された画像を変換するようにな
されている。バッファID記憶部21は、ペーストバッ
ファ選択処理部14によってペーストバッファとして選
択された画像バッファのバッファIDを記憶するように
なされている。なお、バッファID記憶部21に記憶さ
れたバッファIDは、イレース操作処理部15、ペイン
ト処理部18、および画像変換処理部20に供給される
ようになされており、これにより、イレース操作処理部
15、ペイント処理部18、および画像変換処理部20
は、ペーストバッファとなっている画像バッファを認識
するようになされている。
【0044】表示処理部22は、画像バッファに記憶さ
れた2次元画像を、画像表示装置5に表示するのに必要
な処理を施すようになされている。なお、表示処理部2
2が出力する画像データは、OSの表示処理に渡される
ようになされており、これにより、その画像データは、
フレームメモリ4に書き込まれ、画像表示装置5に表示
されるようになされている。
【0045】なお、図4におけるブロックのうち、デー
タメモリ3およびバッファID記憶部21を除いたブロ
ックは、演算処理回路1がアプリケーションプログラム
を実行することで実現されるが、それぞれのブロックに
相当するプログラムは、例えばモジュール化されてい
る。
【0046】以上のように構成される画像処理装置によ
れば、例えば、図5(A)に示すような、家屋を模した
3次元物体が表示された2次元画像が、画像バッファに
記憶されている場合において、家屋の壁の向きを特に意
識せずに、文字を描いても、図5(B)に示すように、
文字が、壁に沿って描かれているかのような2次元画像
を得ることができるようになされている。また、家屋の
壁の向きを意識せずに、長方形を描いても、図5(C)
に示すように、家屋の壁に、直方体形状の部屋が追加さ
れている2次元画像を得ることができるようになされて
いる。さらに、例えば、図6(A)に示すように、円柱
が表示された2次元画像が、画像バッファに記憶されて
いる場合において、その側面の向きを特に意識せずに、
文字を描いても、図6(B)に示すように、その側面に
沿って文字が描かれているかのような2次元画像を得る
ことができるようになされている。
【0047】即ち、例えば、ビデオカメラ9で、文字等
の描かれている3次元物体を実際に撮影しなくても、文
字等の描かれていない3次元物体を、ビデオカメラ9で
撮影した2次元画像に、3次元的な操作を加え、これに
より、その文字等の描かれている3次元物体を、実際に
撮影したかのような2次元画像を、容易に得ることがで
きるようになされている。
【0048】次に、図7のフローチャートを参照して、
図4の画像処理装置の処理について説明する。
【0049】演算処理回路1(図3)において、アプリ
ケーションプログラムが実行されると、画像表示装置5
には、例えば、図8に示すようなメインウインドウが表
示される。メインウインドウの右側には、コマンドボタ
ン(Command)31と形状ボタン(Shape)32が表示さ
れ、その左側には、画像バッファに記憶された2次元画
像が表示されたウインドウ(以下、適宜、バッファウイ
ンドウ)が表示される。
【0050】ここで、コマンドボタン31は、コマンド
を入力するときに操作されるもので、図8の実施の形態
では、ペーストバッファ選択処理を行うときに操作され
る「Paste Sel.」ボタン、コピー処理を行うときに操作
される「Copy」ボタン、ペースト処理を行うときに操作
される「Paste」ボタン、イレース処理を行うときに操
作される「Erase」ボタン、マット処理を行うときに操
作される「Matte」ボタン、物体属性処理を行うときに
操作される「Material」ボタン、光源変更処理を行うと
きに操作される「Light」ボタン、ペイント処理を行う
ときに操作される「Paint」ボタンが設けられている。
【0051】また、形状ボタン32は、処理対象となる
3次元物体の面の形状(形状情報)を入力するときに操
作されるもので、図8の実施の形態では、長方形である
こと、円柱の側面であること、球面であること、円錐の
側面であることを、それぞれ指定するときに操作される
「Rectangle」ボタン、「Cylinder」ボタン、「Spher
e」ボタン、「Cone」ボタンが設けられている。
【0052】さらに、図8の実施の形態では、3つのバ
ッファウインドウが表示されており、それぞれには、複
数の画像バッファのうちの、画像バッファ#1,#2,
#3の記憶内容が表示されている(画像バッファ#iの
サフィックスiは、例えば、バッファIDを表す)。な
お、バッファウインドウが複数表示されている場合に
は、その複数のバッファウインドウのうちの、例えば、
後述する注目バッファの記憶内容が表示されているもの
が、最も手前に表示される(アクティブにされる)よう
になされている。
【0053】メインウインドウの操作は、基本的に、処
理の対象とする画像バッファを選択し、その後に処理を
選択するというユーザインターフェイスに統一されてお
り、従って、ユーザは、まず最初に、メインウインドウ
に表示されたバッファウインドウのうちのいずれかを、
入力装置6を操作することによりクリックすることで、
処理の対象とする画像バッファを選択する。
【0054】即ち、ユーザが、いずれかのバッファウイ
ンドウをクリックすると、ステップS1において、入力
イベント処理部11は、そのバッファウインドウに記憶
内容が表示されている画像バッファを、注目バッファと
して選択する。
【0055】その後、ユーザは、コマンドボタン31の
うちのいずれかをクリックする。この場合、ステップS
2において、入力イベント処理部11は、コマンドボタ
ン31のうちのいずれがクリックされたかを認識し、ス
テップS3に進み、その認識結果に基づいて、どのよう
な処理(操作)を行うことが指示されたのかを判定す
る。ステップS3において、ペーストバッファ選択処理
を行うことが指示されたと判定された場合、即ち、コマ
ンドボタン31の中の「Paste Sel.」ボタンが操作(ク
リック)された場合、ステップS4に進み、入力イベン
ト処理部11は、ペーストバッファ選択処理部14を起
動し、ペーストバッファ選択処理を行わせる。即ち、こ
の場合、ペーストバッファ選択処理部14は、注目バッ
ファのバッファIDを、バッファID記憶部21に上書
きし、これにより、いま注目バッファとなっている画像
バッファを、ペーストバッファとして、ステップS1に
戻る。
【0056】また、ステップS3において、コピー処理
またはペースト処理のうちのいずれかを行うことが指示
されたと判定された場合、即ち、コマンドボタン31の
中の「Copy」ボタンまたは「Paste」ボタンが操作され
た場合、形状ボタン32が操作されるのを待って、ステ
ップS5に進む。即ち、コピー処理は、注目バッファに
記憶された2次元画像に表示された3次元物体を構成す
る面を、2次元平面に展開した展開画像を生成し、ペー
ストバッファに記憶させる処理であり、ペースト処理
は、ペーストバッファに記憶された2次元平面上の画像
を、3次元物体を構成する面に貼り付けてスクリーンに
投影した投影画像を生成し、その投影画像を、注目バッ
ファに記憶された2次元画像に貼り付ける処理であり、
いずれも3次元物体を構成する面を処理の対象とするこ
とから、ユーザは、「Copy」ボタンまたは「Paste」ボ
タンを操作した場合、続けて、コピー処理またはペース
ト処理の対象とする3次元物体の面の形状に関する形状
情報を、形状ボタン32を操作することで指定(入力)
する。
【0057】ステップS5では、形状ボタン32の操作
に基づいて、コピー処理またはペースト処理の対象とす
る3次元物体の面の形状(形状情報)が認識される。そ
して、特徴点が入力されるのを待って、ステップS6に
進む。即ち、コピー処理では、注目バッファに記憶され
た2次元画像に表示された3次元物体の面を構成する幾
つかの点を指定することによって、展開画像を生成する
部分(面)を特定する必要がある。また、ペースト処理
では、ペーストバッファに記憶された画像の投影画像
を、例えば、注目バッファに記憶された2次元画像に表
示された3次元物体を構成する面に貼り付けるのに、そ
の面を構成する幾つかの点を指定することによって、そ
の面を特定する必要がある。そこで、ユーザは、「Cop
y」ボタンまたは「Paste」ボタンを操作し、続けて、コ
ピー処理またはペースト処理の対象とする3次元物体の
面の形状を、形状ボタン32を操作することで指定して
後に、さらに、注目バッファに記憶された2次元画像中
の、処理の対象とする3次元物体の面を構成する幾つか
の点を、入力装置6を操作することにより、特徴点とし
て指定する。
【0058】ステップS6では、このようにして指定さ
れた特徴点の、2次元画像中の座標が認識される。
【0059】なお、上述の場合には、3次元物体の形状
を指定してから、特徴点を指定するようにしたが、先
に、特徴点を指定してから、3次元物体の形状を指定す
るようにすることも可能である。また、ステップS5お
よびS6の処理は、コピー処理が指令されている場合に
は、コピー操作処理部12で、ペースト処理が指令され
ている場合には、ペースト操作処理部13で、それぞれ
行われる。
【0060】ステップS6において、ユーザによって指
定された特徴点を認識したコピー操作処理部12または
ペースト操作処理部13は、その特徴点を、変換指定処
理部19に供給する。変換指定処理部19は、特徴点を
受信すると、ステップS7において、その位置の補正を
行い、補正後の特徴点を、コピー操作処理部12または
ペースト操作処理部13のうちの、特徴点を供給してき
た方に供給する。
【0061】その後、ステップS8において、入力イベ
ント処理部11は、「Copy」ボタンまたは「Paste」ボ
タンのうちのいずれが操作されたのかを判定する。ステ
ップS8において、「Copy」ボタンが操作されたと判定
された場合、コピー操作処理部12において、コピー処
理が行われる。即ち、この場合、ステップS8からS9
に進み、コピー操作処理部12において、形状情報およ
び特徴点に基づいて、注目バッファに記憶された2次元
画像の中の3次元物体を構成する面を、展開画像に変換
するための変換式(以下、適宜、逆変換式という)が算
出され、画像変換処理部20に供給される。画像変換部
20では、ステップS10において、逆変換式に基づい
て、注目バッファに記憶された2次元画像の中の3次元
物体を構成する面(特徴点によって特定される面)が、
展開画像に変換される。さらに、画像変換部20は、ス
テップS11において、その展開画像を、バッファID
記憶部21にバッファIDが記憶されている画像バッフ
ァ、即ち、ペーストバッファにコピー(上書き)し、ス
テップS1に戻る。
【0062】以上のようなコピー処理によれば、例え
ば、図9(A)に示すような、家屋を模した3次元物体
Vが表示された2次元画像が、注目バッファに記憶され
ている場合において、形状情報として、縦線のある壁面
Sの形状である長方形が指定されるとともに、特徴点と
して、その壁面Sの4頂点P1,P2,P3,P4が指定さ
れたときには、図9(B)に示すように、3次元物体V
を、2次元平面上に展開して得られる、縦線のある壁面
Sの2次元画像(展開画像)が生成され、ペーストバッ
ファに記憶される。
【0063】従って、図9(A)に示すような3次元物
体Vが表示された2次元画像が、画像バッファに記憶さ
れている場合に、その縦線のある壁面Sの展開画像を得
たいときには、ユーザは、第1に、その3次元物体Vが
表示された2次元画像の記憶されている画像バッファを
注目バッファとし、第2に、コピー処理を指令する「Co
py」ボタンを操作し、第3に、壁面Sの形状を指定する
「Rectangle」ボタンを操作し、第4に、図9(A)に
示したように、2次元画像中の、縦線のある壁面Sを構
成する四角形の4頂点P1,P2,P3,P4を、特徴点と
して指定すれば良い。
【0064】一方、ステップS8において、「Paste」
ボタンが操作されたと判定された場合、ペースト操作処
理部13において、ペースト処理が行われる。即ち、こ
の場合、ステップS8からS12に進み、ペースト操作
処理部13において、形状情報および特徴点に基づい
て、ペーストバッファに記憶された2次元平面上の画像
(展開画像)を、投影画像に変換するための変換式(以
下、適宜、順変換式という)が算出され、画像変換処理
部20に供給される。画像変換処理部20では、ステッ
プS13において、順変換式に基づいて、ペーストバッ
ファに記憶された画像が、投影画像に変換される。さら
に、画像変換部20は、ステップS14において、その
投影画像を、注目バッファに記憶された2次元画像に表
示された3次元物体の面(特徴点によって特定される
面)に貼り付け、ステップS1に戻る。
【0065】以上のようなペースト処理によれば、例え
ば、図9で説明したコピー処理によって、図10(A)
に示すような2次元平面上の画像が、ペーストバッファ
に記憶されており、さらに、図10(B)に示すよう
な、家屋を模した3次元物体Vが表示された2次元画像
が、注目バッファに記憶されている場合において、形状
情報として、無模様の壁面S’の形状である長方形が指
定されるとともに、特徴点として、壁面S’の4頂点P
1’,P2’,P3’,P4’が指定されたときには、図1
0(C)に示すように、ペーストバッファに記憶された
画像が、3次元物体Vの壁面S’に貼り付けられた状態
で、その3次元物体Vをスクリーン上に投影した場合
の、その壁面S’の部分の投影画像が生成され、注目バ
ッファに記憶された2次元画像に表示された3次元物体
Vの、特徴点P1’乃至P4’で特定される壁面S’に貼
り付けられる。
【0066】従って、図10(A)に示すような画像
が、ペーストバッファに記憶されているとともに、図1
0(B)に示すような、家屋を模した3次元物体Vが表
示された2次元画像が、画像バッファに記憶されている
場合に、ペーストバッファに記憶された画像を、3次元
物体Vの壁面S’に貼り付けた2次元画像を得たいとき
には、ユーザは、第1に、その3次元物体Vが表示され
た2次元画像の記憶されている画像バッファを注目バッ
ファとし、第2に、ペースト処理を指令する「Paste」
ボタンを操作し、第3に、壁面S’の形状を指定する
「Rectangle」ボタンを操作し、第4に、図10(B)
に示したように、2次元画像中の、壁面S’を構成する
四角形の4頂点P1’,P2’,P3’,P4’を、特徴点
として指定すれば良い。
【0067】以上から明らかなように、3次元物体Vが
表示された2次元画像が記憶された画像バッファを注目
バッファとして、図9で説明したようなコピー処理を行
い、さらに、図10で説明したようなペースト処理を行
うことで、壁面Sのテクスチャを、別の壁面S’にコピ
ーすることができる。即ち、ユーザは、壁面Sおよび
S’の向きを特に意識しなくても、上述のようなコピー
処理とペースト処理を行うための操作を行うだけで、2
次元画像中の壁面Sのテクスチャを、別の壁面S’にコ
ピーすることができる。
【0068】さらに、例えば、ペーストバッファに、
「ABC」の文字や、「DEF」の文字を、従来の2D
ペイント等を利用して、平面に文字を描くのと同様にし
て描き、それを、ペースト処理によって、上述の図5
(A)に示した家屋の壁面に貼り付けることで、図5
(B)に示したような自然な2次元画像を得ることがで
きる。即ち、壁面に沿って、文字を描く必要がない。
【0069】また、コピー処理を行い、何らかの展開画
像をペーストバッファに記憶させておき、あるいは、何
らかのテクスチャが記憶された画像バッファをペースト
バッファとして選択し、図5(C)に示す面S1を構成
する頂点p1,p2,p3,p4、面S2を構成する頂点
3,p4,p5,p6、面S3を構成する頂点p2,p3
6,p7を、それぞれ特徴点として指定して、ペースト
処理を3回行うことで、図5(C)に示したように、家
屋の壁に、直方体形状の部屋が追加された2次元画像
を、容易に作成することができる(この場合、面S1
至S3の形状情報としては、いずれも長方形を指定す
る)。
【0070】ここで、図5に示したことから分かるよう
に、ペースト処理を行う対象とする3次元物体は、注目
バッファに記憶された2次元画像中に表示されていても
良いし、表示されていなくても良い。即ち、図5(B)
は、ペースト処理を行う対象とする3次元物体(文字が
貼り付けられる3次元物体)が、元の2次元画像(図5
(A)に示した2次元画像)に表示されている場合を表
しており、図5(C)は、ペースト処理を行う対象とす
る3次元物体(図5(C)における面S1,S2,S3
よって規定される直方体)が、元の2次元画像に表示さ
れていない場合を表している。なお、ペースト処理を行
う対象とする3次元物体が、元の2次元画像に表示され
ていない場合には、その3次元物体上の点として、ユー
ザが指定した特徴点の補正、即ち、図7のステップS7
の処理はスキップされる。これは、ステップS7では、
後述するように、ユーザが指定した特徴点が、3次元物
体の輪郭線上に位置するように補正されるが、3次元物
体が、元の2次元画像に表示されていない場合には、そ
の輪郭線が存在しないためである。
【0071】また、2次元画像から、コピー処理によっ
て得られた展開画像は、元の2次元画像以外の2次元画
像に貼り付けることができるし、さらに、展開画像を貼
り付ける3次元物体の面は、その展開画像を生成する元
になった3次元物体の面と同一の形状でなくても良い。
即ち、例えば、図11(A)に示すような2次元画像に
表示された3次元物体(家屋の形状をした3次元物体)
における格子模様の壁面を対象にコピー処理を行い、図
11(B)に示すように、その展開画像を、ペーストバ
ッファに記憶させた後、図11(C)に示すような2次
元画像に表示された円柱の側面を対象にペースト処理を
行い、図11(D)に示すように、格子模様の展開画像
を、円柱の側面に沿って貼り付けることが可能である。
即ち、ある3次元物体のテクスチャを、他の3次元物体
のテクスチャとして貼り付けることができる。
【0072】さらに、ペーストバッファには、コピー処
理によって得られる画像の他、任意の画像を記憶させる
ことができ、従って、ペースト処理によれば、任意の画
像を、2次元画像に表示された3次元物体(但し、上述
したように、3次元物体は、2次元画像に表示されてい
なくてもかまわない)に貼り付けることができる。
【0073】また、コピー処理やペースト処理によれ
ば、2次元画像に対して、上述した操作の他にも、各種
の3次元的な操作を施すことができる。即ち、例えば、
2次元画像に表示された3次元物体の面に凹凸がある場
合には、コピー処理によって、その面の展開画像を、ペ
ーストバッファに記憶させ、ペーストバッファ上で、凹
凸の部分を削除し、その削除後の画像を、ペースト処理
によって、元の3次元物体の面に貼り付ければ、凹凸が
取り除かれた3次元物体が表示された2次元画像を得る
ことができる。また、例えば、同一の3次元物体を対象
にコピー処理およびペースト処理を行う場合において、
ペースト処理を行うときに指定する特徴点を、コピー処
理を行うときに指定する特徴点と変えることで、3次元
物体の移動や、拡大、縮小、その他非線形な変形(例え
ば、いわゆる魚眼レンズなどの特殊な光学的特性を有す
るレンズを用いて撮影を行ったかのような変形など)を
行うことができる。
【0074】図7に戻り、ステップS3において、マッ
ト処理を行うことが指示されたと判定された場合、即
ち、コマンドボタン31の中の「Matte」ボタンが操作
された場合、ステップS15に進み、入力イベント処理
部11は、マット操作処理部16を起動し、マット処理
を行わせる。即ち、この場合、マット操作処理部16
は、注目バッファに記憶された2次元画像に表示された
3次元物体のマットを生成し、注目バッファに記憶させ
て、ステップS1に戻る。なお、マット処理の詳細につ
いては、後述する。
【0075】また、ステップS3において、物体属性処
理または光源変更処理を行うことが指示されたと判定さ
れた場合、即ち、コマンドボタン31の中の「Materia
l」ボタンまたは「Light」ボタンが操作された場合、ス
テップS16に進み、入力イベント処理部11は、物体
属性操作処理部17を起動し、物体属性処理または光源
変更処理(物体属性/光源変更処理)を行わせ、ステッ
プS1に戻る。なお、物体属性/光源変更処理の詳細に
ついては、後述する。
【0076】一方、ステップS3において、イレース処
理を行うことが指示されたと判定された場合、即ち、コ
マンドボタン31の中の「Erase」ボタンが操作された
場合、ステップS17に進み、入力イベント処理部11
は、イレース操作処理部15を起動し、イレース処理を
行わせ、ステップS1に戻る。なお、イレース処理の詳
細については、後述する。
【0077】また、ステップS3において、ペイント処
理を行うことが指示されたと判定された場合、即ち、コ
マンドボタン31の中の「Paint」ボタンが操作された
場合、ステップS18に進み、入力イベント処理部11
は、ペイント処理部18を起動し、ペイント処理を行わ
せ、ステップS1に戻る。即ち、ペイント処理では、例
えば、従来と同様の2Dペイントを行うペイントツール
によって、ユーザによる入力装置6の操作にしたがい、
ペーストバッファに記憶された画像の一部が消去され、
あるいは、他の画像(文字、図形を含む)が付加され
る。
【0078】例えば、上述したように、2次元画像に表
示された3次元物体の面に凹凸がある場合において、コ
ピー処理によって、その面の展開画像を、ペーストバッ
ファに記憶させ、そのペーストバッファ上で、ペイント
処理によって、凹凸の部分を削除し、その削除後の画像
を、ペースト処理によって、元の3次元物体の面に貼り
付けることにより、凹凸が取り除かれた3次元物体が表
示された2次元画像を得ることができる。また、例え
ば、図5(A)に示したような3次元物体が表示された
2次元画像を対象に、コピー処理を行い、その壁面の展
開画像を、ペーストバッファに記憶させ、そのペースト
バッファに記憶された画像に、ペイント処理によって、
「ABC」の文字や、「DEF」の文字を描き、それ
を、ペースト処理によって、元の壁面に貼り付けること
で、図5(B)に示したような自然な2次元画像を得る
ことができる。即ち、2Dペイントによって、3次元的
な描画を、容易に行うことができる。
【0079】次に、例えば、図9または図10で説明し
たコピー処理またはペースト処理を行う場合に、図9
(A)または図10(B)に示したように、頂点P1
至P4または頂点P1’乃至P4’の位置を、正確に、特
徴点として指定することは、操作に熟練したユーザであ
っても困難である。即ち、例えば、図9に示したような
コピー処理を行う場合において、ユーザが指定する特徴
点P1乃至P4は、例えば、図12に示すように、本来指
定すべき頂点の位置からずれるのが一般的である。さら
に、かなり操作に熟練したユーザであっても、2次元画
像がぼけていたり、また、2次元画像にぶれがある場合
には、本来指定すべき頂点の位置を、正確に、特徴点と
して指定するのは困難である。
【0080】そこで、図7のステップS7では、ユーザ
が指定した特徴点を、本来指定すべき位置に補正する自
動補正処理が行われるようになされている。
【0081】即ち、コピー操作処理部12またはペース
ト操作処理部13は、ステップS7において、変換指定
処理部19を起動し、ユーザが入力装置6を操作するこ
とによって指定した形状情報と特徴点を供給する。
【0082】変換指定処理部19は、形状情報および特
徴点を受信すると、その特徴点を補正する自動補正処理
を行う。
【0083】ここで、特徴点として指定すべき点は、後
述するように、基本的に、コピー処理またはペースト処
理の対象とする3次元形状の面の輪郭線(境界線)上の
点になっている。そこで、変換指定処理部19では、コ
ピー処理またはペースト処理の対象とする3次元形状
(の面)の輪郭線を抽出し、その輪郭線上に位置するよ
うに、特徴点を補正するようになっている。
【0084】図13は、変換指定処理部19が行う自動
補正処理を説明するフローチャートを示している。な
お、ここでは、説明を簡単にするために、例えば、図1
2に示したように、コピー処理またはペースト処理の対
象となる、2次元画像に表示された3次元物体の面が、
四角形であり、従って、同図に示したように、特徴点と
して、その四角形の4つの頂点を指定すべき場合を例に
説明を行う。
【0085】変換指定処理部19では、まず最初に、ス
テップS21において、ユーザが入力(指定)した特徴
点のうちの、隣接する2点の組が選択される。即ち、特
徴点として指定すべき点は、上述したように、基本的
に、コピー処理またはペースト処理の対象とする、2次
元画像に表示された3次元物体の面の輪郭線上の点であ
り、さらに、後述するように、その輪郭線上のどの位置
を指定すべきかは、3次元物体の形状によって、あらか
じめ定められている。従って、ユーザが入力した特徴点
のうち、輪郭線上において隣接する2つの特徴点は、形
状情報に基づいて認識することができるので、変換指定
処理部19は、そのようにして認識した2つの特徴点の
組のうちの1つを、ステップS21において選択する。
【0086】その後、ステップ22に進み、後述するス
テップS23でエッジ検出の対象とする領域(以下、適
宜、エッジ候補領域という)が検出される。即ち、ステ
ップS22では、例えば、ステップS21で選択した2
つの特徴点(以下、適宜、選択特徴点という)を結ぶ線
分が求められ、その線分上の画素から所定の距離(例え
ば、5画素分の距離)の範囲内にある画素が検出され
る。そして、そのような画素で構成される領域が、エッ
ジ候補領域とされる。
【0087】即ち、例えば、図12に示したように、特
徴点P1乃至P4が指定された場合において、そのうちの
特徴点P1とP2が、選択特徴点として選択されたときに
は、図14に斜線を付して示すような領域が、エッジ候
補領域として検出される。
【0088】なお、ステップS22において、2つの選
択特徴点を結ぶ線分上の画素から、どの程度の距離の範
囲内にある画素を検出するかは、あらかじめ設定してお
くこともできるし、ユーザに、入力装置6を操作するこ
とにより入力してもらうようにすることも可能である。
【0089】エッジ候補領域の検出後は、ステップS2
3に進み、そのエッジ候補領域を対象として、エッジの
検出が行われる。
【0090】ここで、エッジの検出方法としては、従来
より各種の方法が提案されており、そのうちのいずれか
によって行うことも可能であるが、ここでは、例えば、
以下の手法により行う。
【0091】即ち、ここでは、エッジ候補領域内の画素
が、ソーベルオペレータ(Sobel operator)と呼ばれる
エッジ検出用のフィルタによってフィルタリングされ、
各画素におけるグラディエント(gradient)(グラディ
エントベクトル)が求められる。このグラディエントが
大きい画素をエッジとして検出する手法は、従来より知
られているが、ここでは、さらに、2つの選択特徴点を
結ぶ線分に直交する方向の単位ベクトル、即ち、法線ベ
クトルと、エッジ候補領域内の各画素のグラディエント
それぞれとの内積が演算され、その内積が所定の閾値以
上の画素が、エッジを構成する画素(以下、適宜、エッ
ジ画素という)として検出される。
【0092】ここで、特徴点としては、図12に示した
ように、コピー処理またはペースト処理の対象とする3
次元物体を構成する面である四角形の頂点には一致しな
いまでも、それに近い点が指定される。従って、2つの
選択特徴点を結ぶ線分は、コピー処理またはペースト処
理の対象とする3次元物体を構成する面である四角形の
輪郭線にほぼ一致している。その結果、法線ベクトルと
グラディエントとの内積は、グラディエントの、法線ベ
クトル方向の成分、即ち、グラディエントの、輪郭線に
ほぼ直交する方向の成分を表すから、この内積の大小に
よってエッジを検出することにより、グラディエントそ
のものの大小によってエッジを検出する場合に比較し
て、ノイズ等の影響を低減したエッジ検出を行うことが
できる。即ち、2次元画像上のノイズや、縞模様等のテ
クスチャの影響を受けにくいエッジ検出を行うことがで
きる。
【0093】エッジ画素の検出後は、ステップS24に
進み、そのエッジ画素を通る直線が、例えば、最小自乗
法によって求められる。即ち、ステップS24では、ス
テップS23で検出されたエッジ画素からの距離の自乗
の総和を最小にする直線(以下、適宜、エッジ直線とい
う)が求められる。
【0094】そして、ステップS25に進み、ユーザが
入力した特徴点のうちの、隣接する2点の組すべてにつ
いて、エッジ直線が求められたかどうかが判定され、ま
だ、隣接する2つの特徴点の組すべてについて、エッジ
直線が求められていないと判定された場合、ステップS
21に戻り、また、エッジ直線が求められていない、隣
接する2つの特徴点が、選択特徴点として選択され、以
下、同様の処理が繰り返される。
【0095】また、ステップS25において、隣接する
2つの特徴点の組すべてについて、エッジ直線が求めら
れたと判定された場合、即ち、図12において、特徴点
1とP2の組、P2とP3の組、P3とP4の組、P4とP1
の組それぞれについて、エッジ直線が求められた場合、
ステップS26に進み、その4つの組について求められ
た4つのエッジ直線の交点が求められる。即ち、特徴点
4およびP1の組について求められたエッジ直線と特徴
点P1およびP2の組について求められたエッジ直線との
交点(以下、適宜、第1の交点という)、特徴点P1
よびP2の組について求められたエッジ直線と特徴点P2
およびP3の組について求められたエッジ直線との交点
(以下、適宜、第2の交点という)、特徴点P2および
3の組について求められたエッジ直線と特徴点P3およ
びP4の組について求められたエッジ直線との交点(以
下、適宜、第3の交点という)、特徴点P3およびP4
組について求められたエッジ直線と特徴点P4およびP1
の組について求められたエッジ直線との交点(以下、適
宜、第4の交点という)が求められる。さらに、ステッ
プS26では、各交点に最も近い特徴点が、その交点の
位置に補正され、即ち、特徴点P1乃至P4が、第1乃至
第4の交点の位置にそれぞれ補正され、リターンする。
【0096】以上のような自動補正処理によれば、ユー
ザが指定した特徴点P1乃至P4が、本来、特徴点として
指定すべき四角形の頂点の位置に移動されるので、ユー
ザは、本来、特徴点として指定すべき位置を、正確に指
定せずに済むようになる。即ち、ユーザは、本来、特徴
点として指定すべき位置に近い点を指定するだけで済
む。
【0097】なお、図7の実施の形態では、特徴点の自
動補正処理を必ず行うようにしたが、自動補正処理は、
ユーザからの指示があった場合にのみ行うようにするこ
とが可能である。また、自動補正処理による補正後の特
徴点を、さらに、ユーザによって補正させるようにする
ことも可能である。
【0098】次に、特徴点の自動補正処理は、図13で
説明したエッジ画素の検出方法を利用して、例えば、以
下のように行うことも可能である。
【0099】即ち、いま、注目バッファに、例えば、図
15に示すような、2次元画像が記憶されているとす
る。なお、図15において、斜線を付してある部分が、
2次元画像に表示された3次元物体(これは、3次元空
間における3次元物体を、スクリーンに投影したもので
あるから、以下、適宜、投影画像という)を表してい
る。
【0100】図15では、2次元画像について、点PA
およびPBが、3次元物体の投影画像の特徴点として指
定されている。なお、特徴点PAおよびPBは、3次元物
体の投影画像の輪郭線上において、隣接したものとなっ
ている。
【0101】いま、注目バッファに記憶された2次元画
像について、図15に示すように、xp軸またはyp
を、それぞれ横軸または縦軸とする2次元座標系(以
下、適宜、スクリーン座標系という)を定義すると、2
次元画像に表示された3次元物体の形状は、形状情報か
ら認識することができ、さらに、3次元物体の形状が分
かれば、その投影画像の、特徴点PAとPBとの間の輪郭
線(投影画像の輪郭線は、基本的に、閉ループを構成す
るから、特徴点PAとPBとの間の輪郭線は2つ存在する
が、ここでは、その2つの輪郭線(図15において、細
線と太線で示す)のうち、その線上に、他の特徴点が存
在しない方(図15において、太線で示す))は、一般
に、1以上のパラメータを用いて表される、xpおよび
pを変数とする関数fによる式f=0で定義すること
ができる(関数fは、3次元物体の形状ごとに、異なる
型(プログラミングでいうところの実装)を有する)。
【0102】即ち、いま、パラメータを、C1,C2,・
・・,CN(Nは1以上の整数)と表すと、特徴点PA
Bとの間の輪郭線は、次式により定義することができ
る。
【0103】 f(xp,yp,C1,C2,・・・,CN)=0 ・・・(1) 一方、真の輪郭線を構成する画素においては、一般に、
その画素値の、輪郭線と直交する方向の成分が急激に変
化している。従って、式(1)で表されるスクリーン座
標系上の画素の画素値の微分値のうちの、その画素にお
ける法線ベクトル方向(輪郭線と直交する方向)の成分
を最大にするパラメータC1,C2,・・・,CNを求め
れば、そのパラメータを用いて表される式(1)によっ
て定義される線が、真の輪郭線を表しているということ
ができる。
【0104】そこで、式(1)によって定義される特徴
点PAとPBとの間の輪郭線に相当する線(上述したよう
に、投影画像の輪郭線に相当する、特徴点PAとPBとの
間の線は2つ存在するが、その2つの線のうち、他の特
徴点が存在しない方)について、エネルギEfを、例え
ば、次式で定義する。
【0105】
【数1】
【0106】・・・(2) ここで、式(2)において、Σは、式(1)で表される
線上の画素すべてについてのサメーションをとることを
表す。また、▽はナブラ演算子を表し、B(x p,yp
は、スクリーン座標系の位置(xp,yp)にある画素の
画素値を表す。さらに、ベクトルnf(xp,yp)は、
位置(xp,yp)にある画素における法線ベクトル(図
15)(式(1)で表される線に直交する方向のベクト
ル(ここでは、輪郭線に囲まれる領域の、外側または内
側のうちの、例えば、外側方向のベクトルとする)の、
位置(xp,yp)における単位ベクトル)を表す。ま
た、|x|は、ベクトルxのノルムを表し、・は、内積
を表す。さらに、Kは、式(1)で表される線上の画素
の総数を表す。
【0107】式(2)における▽B(xp,yp)は、式
(1)で表される線上の画素の画素値の微分値、つまり
グラディエントを表すが、これは、ソーベルオペレータ
を用いることで求めることができる。即ち、▽B
(xp,yp)は、次式にしたがって求めることができ
る。
【0108】 ▽B(xp,yp)=(△xB(xp,yp),△yB(xp,yp)) △xB(xp,yp)=B(xp+1,yp−1)+2B(xp+1,yp) +B(xp+1,yp+1)−(B(xp−1,yp−1) +2B(xp−1,yp)+B(xp−1,yp+1)) △yB(xp,yp)=B(xp−1,yp+1)+2B(xp,yp+1) +B(xp+1,yp+1)−(B(xp−1,yp−1) +2B(xp,yp−1)+B(xp+1,yp−1)) ・・・(3) また、エネルギEfを最大にするパラメータCn(n=
1,2,・・・,N)は、例えば、次のようにして求め
ることができる。即ち、例えば、パラメータCnの初期
値を、Cn’と表すとすると、パラメータCnを、Cn
−εn乃至Cn’+εnの範囲で変えて、式(2)を計算
し、その値が最大になるときのパラメータCnを求めれ
ば良い(εnは、所定の微小値とする)。
【0109】具体的には、特徴点PAとPBとの間の輪郭
線が、例えば、線分Lであるとすると、式(2)は、次
のように表すことができる。
【0110】
【数2】
【0111】・・・(4) ここで、Σは、上述したように、式(1)で表される
線、即ち、ここでは、線分L上の画素すべてについての
サメーションをとることを表す。また、ベクトルn
Lは、式(2)におけるベクトルnf(xp,yp)に相当
し、線分Lの法線ベクトルを表す。さらに、式(4)に
おいて、Kは、線分L上の画素の総数を表す。
【0112】一方、特徴点PAとPBとの間の輪郭線が線
分の場合、式(1)は、例えば、3つのパラメータ
1,C2,C3を用いて、次のように表すことができ
る。
【0113】 f(xp,yp,C1,C2,C3)=C1p+C2p+C3=0 ・・・(5) そして、いま、特徴点PAまたはPBの座標を、(x1
1)または(x2,y2)とそれぞれすると、式(5)
におけるパラメータC1,C2,C3は、次のように表す
ことができる。
【0114】 C1=y1−y2,C2=−x1+x2,C3=x12−x21 ・・・(6) 従って、この場合、式(6)で表される値を、パラメー
タC1,C2,C3の初期値C1’,C2’,C3’として、
それぞれの値を変えながら、式(4)で表されるエネル
ギEfを計算し、そのエネルギEfが最大になるときのパ
ラメータC1,C2,C3を求める。このときのパラメー
タC1,C2,C3を用いて表される式(5)は、特徴点
AとPBとの間の真の輪郭線を表しており、従って、式
(5)で表される線上に、特徴点PAとPBを移動すれ
ば、特徴点PAとPBは、真の輪郭線上に移動されること
になる。
【0115】なお、特徴点PAとPBとの間の輪郭線が線
分の場合、式(6)から明らかなように、パラメータC
1,C2,C3を変えるということは、特徴点PAまたはP
Bのそれぞれの座標(x1,y1)または(x2,y2)を
変えることに相当し、従って、座標x1,y1,x2,y2
が、関数fのパラメータであるということができる。
【0116】また、特徴点PAとPBとの間の輪郭線が線
分の場合には、式(5)における関数fの3つのパラメ
ータC1,C2,C3すべてについて、特徴点PAおよびP
Bによって初期値が与えられるが、特徴点PAとPBとの
間の輪郭線が曲線の場合には、関数fのパラメータすべ
てについて初期値が与えられるとは限らない。この場
合、初期値が与えられないパラメータについては、あら
かじめ設定しておいた値を、初期値として与えても良い
し、あるいは、初期値とする値を、ユーザに入力させて
も良い。
【0117】さらに、上述の場合においては、説明を簡
単にするために、隣接する2つの特徴点だけに注目して
説明を行ったが、この場合、実際の処理では、以下のよ
うな問題が生じることがある。即ち、いま、輪郭線上
に、特徴点#1、それに隣接する特徴点#2、さらにそ
れに隣接する特徴点#3の3つの特徴点が指定されたと
して、特徴点#1および#2に注目して、上述の自動補
正処理を行い、さらに、特徴点#2および#3に注目し
て自動補正処理を行った場合、特徴点#1および#2に
注目して自動補正処理を行って得られる補正後の特徴点
#2の位置と、特徴点#2および#3に注目して自動補
正処理を行って得られる補正後の特徴点#2の位置とが
ずれることがある。
【0118】そこで、実際の処理では、特徴点#1およ
び#2の間の輪郭線を定義する式(1)のパラメータ
(以下、適宜、第1のパラメータという)、並びに特徴
点#2および#3の間の輪郭線を定義する式(1)のパ
ラメータ(以下、適宜、第2のパラメータという)は、
補正後の特徴点#2の上述したような位置ずれが生じな
いように変えるのが望ましい。この場合、第1と第2の
パラメータは独立ではなくなり、それらの間の関係は、
補正後の特徴点#2の位置ずれが生じないという条件に
拘束されるため、例えば、特徴点#1および#2に注目
して得られる式(2)のエネルギEfを最大にする第1
のパラメータと、特徴点#2および#3に注目して得ら
れる式(2)のエネルギEfを最大にする第2のパラメ
ータとが、特徴点#2の位置ずれが生じないという条件
を満足する関係にならないことがある。そこで、この場
合には、例えば、特徴点#1および#2に注目して得ら
れる式(2)のエネルギEfと、特徴点#2および#3
に注目して得られる式(2)のエネルギEfとの和を最
大にする第1および第2のパラメータを求めるようにす
れば良い。
【0119】なお、ここでは、説明を簡単にするため
に、1の特徴点#2の位置がずれる場合を例にしたが、
このずれが生じることは、同一の輪郭線上にある特徴点
すべてについていえるので、同一の輪郭線上にある、隣
接する特徴点の組の間の輪郭線を定義する式(1)のパ
ラメータは、すべての組について、上述の手法を適用し
て求めるのが望ましい。即ち、同一の輪郭線上にある、
隣接する特徴点の組についてのエネルギEfの総和を求
め、その総和を最大にするパラメータを求めるのが望ま
しい。
【0120】次に、図16のフローチャートを参照し
て、上述の自動補正処理が図7のステップS7で行われ
る場合の処理について、さらに説明する。
【0121】なお、ここでは、説明を簡単にするため、
投影画像を四角形とし、その四角形の4つの頂点が、特
徴点P1乃至P4として指定されているものとする。
【0122】また、この場合、式(5)における3つの
パラメータC1,C2,C3、つまり、式(6)における
2つの特徴点のx座標x1,x2とy座標y1,y2を変え
ながら、式(4)で表されるエネルギEfを計算し、そ
の値を最大にするx1,x2,y1,y2を求めることとな
るが、この計算量は比較的多いものとなる。そこで、こ
こでは、計算量を少なくするために、簡略化した手法を
用いることとする。
【0123】即ち、ここでは、まず最初に、ステップS
31において、4つの特徴点P1乃至P4のうちのいずれ
か1つが、注目特徴点として選択され、ステップS32
に進み、その注目特徴点を通る(その注目特徴点と他の
特徴点とを結んでつくられる)四角形の2つの辺のエネ
ルギEfがそれぞれ求められる。即ち、例えば、いま、
図17において、斜線で示す投影画像について、点P1
乃至P4が特徴点として指定され、そのうちの特徴点P4
が注目特徴点として選択されたとする。この場合、ステ
ップS32では、四角形P1234の4辺のうちの、
注目特徴点P 4を通る辺P41およびP34のエネルギ
fが求められる。
【0124】そして、ステップS33に進み、ステップ
S32でエネルギEfが求められた2つの辺のうち、そ
のエネルギEfの大きい方が、より投影画像の輪郭に沿
ったものとして選択され、その辺を延長した直線(この
直線も、以下、適宜、エッジ直線という)に沿って、注
目特徴点が移動される。そして、その移動後の位置にお
ける注目特徴点と、それに隣接する2つの特徴点それぞ
れとがつくる2つの辺のエネルギEfが算出される。即
ち、例えば、図17において、特徴点P4が注目特徴点
とされている場合に、辺P41またはP34のエネルギ
fのうちの、例えば、辺P34のエネルギの方が、辺
41のエネルギに比較して大のときには、注目特徴点
4が、図中、矢印Dで示すように、直線P34に沿っ
て移動される。そして、その移動後の注目特徴点P4
それに隣接する1の特徴点P3とがつくる辺P34のエ
ネルギEf、および移動後の注目特徴点P4とそれに隣接
する他の1の特徴点P1とがつくる辺P41のエネルギ
fが求められる。
【0125】その後、ステップS34に進み、ステップ
S33で求められた2つの辺のエネルギEfの和が最大
値となっているかどうかが判定され、最大値になってい
ないと判定された場合、ステップS33に戻り、注目特
徴点が、再度、エッジ直線に沿って移動され、以下、同
様の処理が繰り返される。
【0126】一方、ステップS34において、ステップ
S33で求められた2つの辺のエネルギEfの和が最大
値となっていると判定された場合、即ち、例えば、上述
したように、注目特徴点P4を、直線P34に沿って移
動することにより、辺P41の法線ベクトルn14が、本
来、特徴点P1およびP4によって指定されるべき2つの
頂点を結ぶ辺に、ほぼ直交するようになった場合、ステ
ップS35に進み、ユーザによって指定された特徴点P
1乃至P4すべてを、注目特徴点として処理を行ったかど
うかが判定され、まだ、ユーザによって指定された特徴
点P1乃至P4すべてを、注目特徴点として処理を行って
いないと判定された場合、ステップS31に戻り、ま
だ、注目特徴点とされていない特徴点が、新たに注目特
徴点として選択され、ステップS32以下の処理を繰り
返す。
【0127】また、ステップS35において、ユーザに
よって指定された特徴点P1乃至P4すべてを、注目特徴
点として処理を行ったと判定された場合、ステップS3
6に進み、特徴点P1乃至P4の中で、前回のステップS
33の処理で移動した移動量(移動前の特徴点と、移動
後の特徴点との間の距離)が、所定の閾値εより大きい
ものがあるかどうかが判定される。ステップS36にお
いて、特徴点P1乃至P4の中で、前回のステップS33
の処理で移動した移動量が、所定の閾値εより大きいも
のがあると判定された場合、ステップS31に戻り、以
下、同様の処理を繰り返す。即ち、再び、特徴点P1
至P4を、順次、注目特徴点として、各注目特徴点がつ
くる2つの辺のエネルギの和が最大となるように、その
位置が移動される。
【0128】一方、ステップS36において、特徴点P
1乃至P4の中で、前回のステップS33の処理で移動し
た移動量が、所定の閾値εより大きいものがないと判定
された場合、即ち、前回のステップS33の処理におい
て、特徴点P1乃至P4のうちのいずれも、ほとんど移動
されなかった場合、リターンする。
【0129】次に、図4のコピー操作処理部12または
ペースト操作処理部13では、上述したようして補正さ
れた特徴点と、形状情報とを用いて、逆変換式または順
変換式がそれぞれ算出されるが、この逆変換式および順
変換式の算出方法について説明する。
【0130】例えば、カメラ9(図3)によって、図1
8(A)に示すような3次元空間にある3次元物体を撮
影した場合、カメラ9が出力する2次元画像には、図1
8(B)に示すように、その3次元物体をスクリーンに
投影した投影像(投影画像)が表示される。従って、画
像バッファ(ペーストバッファを除く)には、このよう
な投影画像が表示された2次元画像が記憶される。
【0131】一方、ペーストバッファには、図18
(C)に示すように、3次元空間にある3次元物体の表
面(図18(A))を2次元平面に展開した展開画像が
記憶される。即ち、3次元物体の面が平面であれば、例
えば、その平面を正面から見た2次元画像が、ペースト
バッファに記憶される。また、3次元物体の面が円柱の
側面であれば、例えば、その側面を、2次元平面上に展
開して長方形状にした2次元画像が、ペーストバッファ
に記憶される。さらに、3次元物体の面が球面であれ
ば、例えば、地図の作成で用いられる正距円筒図法その
他の手法で、その球面を、2次元平面上に展開した2次
元画像が記憶される。また、例えば、3次元物体の面が
ベジェ(Bezier)曲面などの2つの助変数s,tで表さ
れる3次の曲面であれば、助変数sまたはtをそれぞれ
横軸または縦軸にして、その曲面を2次元平面に展開し
た2次元画像が、ペーストバッファに記憶される。さら
に、例えば、3次元物体が回転体であれば、その円周の
方向または回転軸の方向をそれぞれ横軸または縦軸にし
て、その回転体を2次元平面に展開して2次元画像が、
ペーストバッファに記憶される。
【0132】コピー処理では、図18(B)に示したよ
うに、注目バッファに記憶された2次元画像に表示され
た3次元物体の(面の)投影画像上の幾つかの特徴点
(図18(B)において、■印で示す部分)と、その3
次元物体の(面の)形状情報を指定すると、逆変換式が
算出され、その逆変換式にしたがい、図18(B)に示
したような投影画像から、図18(C)に示したような
展開画像が生成され、ペーストバッファに記憶される。
また、ペースト処理では、図18(B)に示したよう
に、注目バッファにおいて、3次元物体の(面の)投影
画像を貼り付ける領域上の幾つかの特徴点(図18
(B)において、■印で示す部分)と、その3次元物体
の(面の)形状情報を指定すると、順変換式が算出さ
れ、その順変換式にしたがい、ペーストバッファに記憶
された、図18(C)に示したような画像(展開画像)
から、図18(B)に示したような投影画像が生成さ
れ、画像バッファに貼り付けられる。
【0133】従って、逆変換式および順変換式の算出に
あたっては、3次元空間上にある3次元物体、その投影
画像、およびその展開画像の相互の関係が問題となる。
【0134】そこで、いま、例えば、図19に示すよう
に、展開画像についての2次元座標系、3次元物体につ
いての3次元座標系、および投影画像についての2次元
座標系を考える。なお、展開画像についての2次元座標
系におけるx,y座標はxe,yeと、3次元物体につい
ての3次元座標系におけるx,y,z座標はxo,y o
oと、投影画像についての2次元座標系におけるx,
y座標はxp,ypと、それぞれ表す。また、点(xp
p)における投影画像の画素値(注目バッファの記憶
値)をB(xp,yp)と、点(xe,ye)における展開
画像の画素値(ペーストバッファの記憶値)をC
(xe,ye)と、それぞれ表す。また、展開画像を、3
次元物体の表面に貼り付ける写像をψと、3次元物体を
投影画像に変換する写像をMと、それぞれ表す。
【0135】ここで、展開画像についての2次元座標
系、3次元物体についての3次元座標系、および投影画
像についての2次元座標系は、任意にとることができ
る。即ち、例えば、3次元物体についての3次元座標系
は、その3次元物体の表現に都合の良い形でとることが
可能である。具体的には、例えば、3次元物体が円柱で
ある場合には、2つの底面である円のうちのいずれか一
方の中心を原点(0,0,0)とし、その回転軸(2つ
の底面である円の中心どうしを結ぶ直線)をyo軸に一
致させるようにすることができる。また、例えば、3次
元物体の面が長方形である場合には、例えば、その長方
形の4つの頂点のうちの最も左下のものを原点(0,
0,0)とし、その長方形の横軸または縦軸を、それぞ
れxo軸またはyo軸に一致させるようにすることができ
る。
【0136】3次元物体上の点(xo,yo,zo)と、
展開画像上の点(xe,ye)とは、1対1に対応し、そ
れらの間の関係、即ち、写像ψ(またはψ-1)は、幾何
学的計算により求めることができる。従って、3次元物
体上の点(xo,yo,zo)と、投影画像上の点(xp
p)との関係、即ち、写像M(またはM-1)が分かれ
ば、展開画像上の点(xe,ye)を、投影画像上の点
(xp,yp)に変換する写像Mψを求めることができ
る。
【0137】しかしながら、3次元物体と投影画像とだ
けに注目した場合、写像Mは、3次元物体上の点
(xo,yo,zo)が、投影画像上の点(xp,yp)の
いずれに投影されているのかが分からなければ求めるこ
とができない。そして、3次元物体上の点(xo,yo
o)が、投影画像上の点(xp,yp)のいずれに投影
されているのかを、投影画像から求めるためには、基本
的に、前述したような、複数の2次元画像を用意して三
角測量の原理を用いる必要がある。さらに、3次元物体
の3次元モデルを表すために、3次元空間における3次
元物体上の点(xo,yo,zo)を、視点(後述するカ
メラ座標の原点)から見たときの3次元のデータを、テ
ンポラリとして保持しておくためのメモリが必要とな
り、また、そのような3次元のデータを取り扱う計算も
必要となる。
【0138】そこで、ここでは、ユーザによって与えら
れる形状情報に基づいて、写像ψを求めるとともに、ユ
ーザによって与えられる特徴点に基づいて、写像Mを求
め、さらに、展開画像と投影画像との関係、即ち、展開
画像を投影画像に変換する写像Mψを求めることとす
る。なお、この写像Mψが順変換式であり、この写像M
ψに相当する変換の逆変換を行う写像(Mψ)-1が逆変
換式である。従って、逆変換式は、写像Mψの逆行列
を、例えば、ガウスの消去法などを用いて計算すること
で求めることができる。
【0139】このように、逆変換式(Mψ)-1は、順変
換式Mψを求めれば、容易に求めることができるので、
ここでは、順変換式Mψの算出方法について説明する。
【0140】上述したように、3次元物体上の点
(xo,yo,zo)と、展開画像上の点(xe,ye)と
は、1対1に対応するため、点(xo,yo,zo)は、
写像ψと、点(xe,ye)を用いて、式(7)のように
表すことができる。
【0141】
【数3】
【0142】・・・(7) いま、3次元空間において、3次元物体をカメラ9で撮
影して、その投影画像を得た場合、カメラ9の位置(x
c,yc,zc)を表す3次元座標(以下、適宜、カメラ
座標という)を考えることができ、点(xo,yo
o)のカメラ座標(xc,yc,zc)は、3次元空間に
おける回転移動を表す9の要素をr11,r1 2,r13,r
21,r22,r23,r31,r32,r33とするとともに、3
次元空間における平行移動を表す3つの要素をt1
2,t3として、次式で表すことができる。
【0143】
【数4】
【0144】・・・(8) 投影画像上の点(xp,yp)は、カメラ座標における3
次元物体上の点(xc,yc,zc)をスクリーン上に投
影したものであり、この変換は、前述の文献1などに記
載されているように、透視変換(射影変換)であるか
ら、分母と分子のいずれもが、x座標、y座標、z座標
のうちのいずれかの一次式(x,y,zのうちのいずれ
かの1次の項と定数項)であるような有理式で表すこと
ができる。即ち、wを、同次座標を表す任意の数とする
と、スクリーン上の投影画像の点(xp,yp)は、同次
座標により、例えば、式(9)のように表すことができ
る。
【数5】 ・・・(9) ここで、カメラ9の焦点距離をfとするとともに、カメ
ラ座標系におけるスクリーンの1画素の横または縦の長
さを、それぞれhまたはvとした場合において、式
(9)におけるfhまたはfvは、f×hまたはf×vを
それぞれ表す。
【0145】式(9)から明らかなように、同次座標の
x座標wxpまたはy座標wypを、そのz座標wで除算
した値が、投影画像のx座標xpまたはy座標ypとな
る。
【0146】式(7)乃至(9)から、式(10)を導
くことができる。
【0147】
【数6】
【0148】・・・(10) 式(10)において、Mは、図19からも明らかなよう
に、ψ(xe,ye)、つまり(xo,yo,zo)を、
(xp,yp)に変換する行列であり、次式のように表さ
れる。
【数7】 ・・・(11) 式(10)におけるψ(ψ1,ψ2,ψ3)は、ユーザに
よって与えられる形状情報に基づき、幾何学的計算によ
って求めることができる。また、式(10)における行
列Mは、ユーザによって与えられる特徴点に基づいて求
めることができる。即ち、行列Mは、式(11)に示す
ように、一般には、11の要素m11,m 12,m13
14,m21,m22,m23,m24,m31,m32,m33を未
知数として有するから、例えば、投影画像上の、自由度
が2の5点と、自由度が1の1点との合計6点が特徴点
として指定されれば、m11乃至m14,m21乃至m24,m
31乃至m33を求めることができる。なお、投影画像上
の、上述の6点を超える数の点が指定された場合には、
例えば、最小自乗法などを用いることで、11の要素m
11乃至m14,m21乃至m24,m31乃至m33を求める。
【0149】以上のように、ここでは、行列Mは、ユー
ザによって与えられる特徴点に基づいて求めることとし
ているため、カメラ座標における3次元物体の3次元の
データを取り扱う必要がなく、従って、その3次元のデ
ータを用いた計算も行う必要がない。さらに、同一の3
次元物体を複数の位置から撮影した複数の2次元画像を
用いる必要もない。即ち、ある位置から3次元物体を撮
影した1つの2次元画像から、行列Mを求めることがで
きる。その結果、写像Mψ(および(Mψ)-1)も、カ
メラ座標における3次元のデータを用いた計算を行った
り、また、複数の2次元画像を用いたりすることなく求
めることができる。
【0150】次に、3次元物体として、幾つかのプリミ
ティブな形状のものを用いた場合のψおよびMの算出方
法について説明する。
【0151】3次元物体が、例えば、直方体である場合
においては、式(7)のψ、即ち、直方体のある面(長
方形)の、3次元空間上の点(xo,yo,zo)と、展
開画像上の点(xe,ye)との関係は、例えば、次のよ
うに表すことができる。
【0152】
【数8】
【0153】・・・(12) 但し、ここでは、投影画像についての2次元座標(以
下、適宜、スクリーン座標という)として、3次元物体
についての3次元座標(以下、適宜、単に、3次元座標
という)におけるzo=0の平面上の座標であって、
x,y座標が等しいもの(xe=xo,ye=yo)、つま
り、3次元物体についての3次元座標系のxy平面を使
用することとしている。また、3次元座標系としては、
直方体のある面のうちの1の頂点が、原点に一致し、か
つその面が、xy平面に含まれるようなものを用いるこ
ととしている。
【0154】式(12)では、zo=0であるから、式
(11)における行列Mの第3列m1 3,m23,m33は不
要となる。即ち、この場合、式(10)は、次のように
表すことができる。
【0155】
【数9】
【0156】・・・(13) 従って、この場合、求めるべき行列Mの要素は、m11
12,m14,m21,m 22,m24,m31,m32の8個であ
るから、展開画像上の4点に対応する投影画像上の4点
を特徴点として指定すれば(4つの特徴点のtp,yp
標の合計で8個の情報を与えれば)、これらの8個の要
素m11,m12,m14,m21,m22,m24,m31,m32
求めることができる。
【0157】3次元物体が直方体である場合において
は、その面(長方形)の投影画像は、例えば、図20
(A)に示すような四角形となる。そこで、ここでは、
ユーザに、例えば、四角形の投影画像の4つの頂点を、
特徴点として指定してもらうこととする。また、ここで
は、例えば、図20(A)に示したように、四角形の投
影画像の頂点を、左上の頂点から時計回りに、点P1
2,P3,P4とそれぞれするとともに、図20(B)
に示すように、ペーストバッファに長方形状に記憶され
る展開画像の頂点を、左上の頂点から時計回りに、点E
1,E2,E3,E4とそれぞれして、点P1とE1、点P2
とE2、点P3とE3、点P4とE4を、それぞれ対応させ
ることとする。
【0158】さらに、展開画像についての2次元座標
(以下、適宜、ペーストバッファ座標という)系におけ
る点E1,E2,E3,E4の座標を、それぞれ(0,
0),(L W,0),(LW,LH),(0,LH)とす
る。ここで、LWまたはLHは、それぞれ、長方形状の展
開画像の横または縦の長さを表し、ペーストバッファの
容量の許す範囲で、ユーザが任意に設定することが可能
である。また、LWおよびLHは、このようにユーザに設
定させる他、展開画像が、ペーストバッファの、例えば
80%などの所定の割合の大きさ(面積)となるような
ものに定めておくことも可能である。
【0159】この場合、ユーザによって指定された特徴
点としての点P1,P2,P3,P4のスクリーン座標を、
それぞれ(xp1,yp1),(xp2,yp2),(xp3
p3),(xp4,yp4)とすると、式(10)から、次
式が成り立つ。
【0160】
【数10】
【0161】・・・(14) 但し、式(14)において、w1,w2,w3,w4は、同
次座標を表す任意の数である。
【0162】式(14)における行列Mは、式(13)
における8個の要素m11,m12,m 14,m21,m22,m
24,m31,m32を未知数とするものであり、また、式
(14)からは、8つの方程式をたてることができるか
ら、8個の未知数m11,m12,m14,m21,m22
24,m31,m32、即ち、行列Mを求めることができ
る。なお、行列Mを求めるための特徴点としては、基本
的に、ユーザによって指定された特徴点を、上述の自動
補正処理により補正したものが用いられる。
【0163】3次元物体が、直方体である場合におい
て、その面(長方形)を対象にコピー処理またはペース
ト処理を行うときには、式(12)によりψを求めると
ともに、式(14)からMを求める。そして、ペースト
処理の場合は、写像Mψがそのまま順変換式とされ、コ
ピー処理の場合は、写像Mψの逆行列が求められ、逆変
換式とされる。ここで、3次元物体が直方体である場合
に限らず、ペースト処理において用いられる変換式は、
写像Mψがそのまま使用されるため順変換式と呼び、コ
ピー処理において用いられる変換式は、写像Mψの逆写
像が使用されるため逆変換式と呼んでいる。
【0164】コピー処理を行う場合においては、画像変
換処理部20において、注目バッファの、図20(A)
に示した投影画像である四角形P1234内の画素そ
れぞれが、逆変換式(Mψ)-1にしたがい、ペーストバ
ッファの、図20(B)に示した長方形E1234
の対応する位置に書き込まれる。
【0165】なお、注目バッファの1画素が、ペースト
バッファの複数の画素に対応する場合には、その複数の
画素すべてについて、注目バッファの1画素の画素値を
書き込むようにしても良いし、また、注目バッファの複
数の画素を用いて補間を行うことにより補間値を求め、
その補間値を、ペーストバッファに書き込むようにして
も良い。即ち、例えば、注目バッファのある画素Aが、
ペーストバッファの隣接する2つの画素a1,a2に対応
する場合には、画素a1には、画素Aの画素値を書き込
み、画素a2には、画素Aと、それに隣接する注目バッ
ファの画素との画素値の平均値等を書き込みようにする
ことができる。
【0166】逆に、注目バッファの複数の画素が、ペー
ストバッファの1画素に対応する場合には、例えば、そ
の複数の画素のうちのいずれか1の画素値を、ペースト
バッファに書き込んでも良いし、その複数の画素に対し
てフィルタをかけることにより重み付け加算値などを求
め、その重み付け加算値を、ペーストバッファに書き込
んでも良い。
【0167】ここで、ペーストバッファへの画素値の書
き込みは、逆変換式(Mψ)-1にしたがっていれば、上
述のように、注目バッファの投影画像の各画素が、ペー
ストバッファの展開画像のどの画素に変換されるのかを
計算して行っても良いし、逆に、展開画像の各画素に変
換されるのが、投影画像のどの画素なのかを計算して行
っても良い。
【0168】一方、ペースト処理を行う場合において
は、画像変換処理部20において、ペーストバッファ
の、図20(B)に示した展開画像である長方形E12
34内の画素それぞれが、順変換式Mψにしたがい、
注目バッファの、図20(A)に示した四角形P12
34内の対応する位置に書き込まれ、これにより、注目
バッファに記憶された2次元画像上に、投影画像が貼り
付けられる。
【0169】なお、ペーストバッファの1画素が、注目
バッファの複数の画素に対応する場合には、コピー処理
における場合と同様に、その複数の画素すべてについ
て、ペーストバッファの1画素の画素値を書き込むよう
にしても良いし、また、ペーストバッファの複数画素を
用いて補間を行うことにより補間値を求め、その補間値
を書き込むようにしても良い。
【0170】逆に、ペーストバッファの複数の画素が、
注目バッファの1画素に対応する場合には、例えば、そ
の複数の画素のうちのいずれか1の画素値を、注目バッ
ファに書き込んでも良いし、その複数の画素に対してフ
ィルタをかけることにより重み付け加算値などを求め、
その重み付け加算値を、注目バッファに書き込んでも良
い。
【0171】ここで、注目バッファへの画素値の書き込
みも、順変換式Mψにしたがっていれば、上述のよう
に、ペーストバッファの展開画像の各画素が、注目バッ
ファの投影画像のどの画素に変換されるのかを計算して
行っても良いし、逆に、投影画像の各画素に変換される
のが、展開画像のどの画素なのかを計算して行っても良
い。
【0172】次に、3次元物体が、例えば、円柱である
場合において、その側面の展開画像を生成してペースト
バッファに記憶させるコピー処理、またはペーストバッ
ファに記憶された画像を円柱の側面に貼り付けるペース
ト処理を行うときには、次のようにして、逆変換式また
は順変換式がそれぞれ算出される。
【0173】即ち、この場合、図21(A)に示すよう
に、3次元空間における円柱の位置を表す3次元座標と
して、その上方または下方の底面(円)のうちの、例え
ば、上方の底面の中心を原点(0,0,0)とし、上方
の底面から下方の底面の方向にyo軸をとり、さらに、
後述する点O5の方向から上方の底面の中心の方向にz o
軸をとったものを考える(xo軸は、yo軸からzo軸の
方向に右ねじを回した場合に、その右ねじが進行する方
向にとる)。
【0174】そして、例えば、いま、注目バッファの2
次元画像に、図21(A)の円柱を、点O5の手前の上
方から撮影して得られる投影画像が表示されているとす
る。この場合、円柱の投影画像は、例えば、図21
(B)に影を付して示すようなものとなる。
【0175】図21(B)において、点P1およびP2
または点P3およびP4は、投影画像における円柱の側面
と、その上方または下方の底面との交線(図21(B)
において太線で示す部分)の端点をそれぞれ表してい
る。即ち、点P1は、投影画像における円柱の側面の左
側の輪郭線と円柱の上方の底面との交点を、点P2は、
投影画像における円柱の側面の右側の輪郭線と円柱の上
方の底面との交点を、点P3は、投影画像における円柱
の側面の右側の輪郭線と円柱の下方の底面との交点を、
点P4は、投影画像における円柱の側面の左側の輪郭線
と円柱の下方の底面との交点を、それぞれ表している。
【0176】そして、図21(A)における点O1
2,O3,O4は、図21(B)における点P1,P2
3,P4にそれぞれ対応している。
【0177】また、図21(A)における点O5は、弧
12(投影画像として見える弧)を2等分する点であ
り、図21(B)における点P5は、この点O5に対応し
ている。さらに、図21(A)における点O6も、弧O3
4(投影画像として見える弧)を2等分する点であ
り、図21(B)における点P6は、この点O6に対応し
ている。
【0178】ここで、上述したように、zo軸は、点O5
の方向から上方の底面の中心の方向を向いており、また
原点である上方の底面の中心を通るから、点O5は、yo
o平面、即ち、xo=0の平面内にある。従って、点O
6も、xo=0の平面内にある。
【0179】また、図21(B)において、点P7は、
円柱の消失点、即ち、直線P14とP23との交点を表
しており、従って、点P6は、点P5とP7とを結ぶ直線
上に位置する。即ち、点P6の自由度は、直線P57
方向の1つしかない。
【0180】図21(A)における角度θ(ラジアン)
は、点O1、上方の底面の中心(ここでは、3次元座標
の原点となっている)、および点O2がつくる角度であ
り(従って、点O3、下方の底面の中心、および点O4
つくる角度でもある)、円柱の底面の半径をrと表す
と、円柱の側面の投影画像の部分に対応する展開画像が
ペーストバッファに記憶されるとした場合には、半径r
と角度θとの関係は、次のように表すことができる(但
し、ここでは、例えば、円柱の底面の円周方向が、展開
画像の横方向に対応するものとする)。
【0181】 r=LW/θ ・・・(15) 但し、LWは、上述したように、展開画像の横幅(横の
長さ)を表す。
【0182】また、角度φを、次のようにおく。
【0183】 φ=θ(xe−LW/2)/LW ・・・(16) なお、xeは、ペーストバッファ座標系のx座標(水平
方向の座標)を表すが、以下、ペーストバッファ座標系
は、例えば、長方形状の展開画像の左上の頂点を原点と
し、左から右方向または上から下方向に、xe軸または
e軸をとるものとする。
【0184】円柱について、角度φを式(16)のよう
においた場合、式(7)のψ、即ち、円柱の側面の、3
次元空間上の点(xo,yo,zo)と、展開画像上の点
(xe,ye)との関係は、図21(A)の円柱の展開図
を考えることにより、次のように表すことができる。
【0185】
【数11】
【0186】・・・(17) この場合は、図20で説明した場合と異なり、行列Mに
おいて不要となる要素はなく、従って、式(11)で説
明した11の要素m11乃至m14,m21乃至m24,m31
至m33を求める必要がある。この11の要素m11乃至m
14,m21乃至m 24,m31乃至m33は、上述したように、
投影画像上の、所定の5点と、自由度が1の1点との合
計6点が、特徴点として指定されれば求めることができ
る。
【0187】そこで、ここでは、ユーザに、例えば、図
21(B)に示した6点P1乃至P6を特徴点として指定
してもらう。また、ここでは、図21(C)に示すよう
に、ペーストバッファに長方形状に記憶される展開画像
の頂点を、左上の頂点から時計回りに、点E1,E2,E
3,E4とそれぞれするとともに、線分E12またはE 3
4を2等分する点を、それぞれ点E5またはE6とし
て、点P1とE1、点P2とE2、点P3とE3、点P4
4、点P5とE5、点P6とE6を、それぞれ対応させる
こととする。
【0188】さらに、ペーストバッファ座標系における
点E1,E2,E3,E4,E5,E6の座標を、それぞれ
(0,0),(LW,0),(LW,LH),(0,
H),(L W/2,0),(LW/2,LH)とする。
【0189】以上の関係を用いて、式(10)にしたが
い、11の要素m11乃至m14,m21乃至m24,m31乃至
33について方程式をたてて解くことで、これらの11
の要素m11乃至m14,m21乃至m24,m31乃至m33、即
ち、行列Mを求めることができる。
【0190】ここで、この場合、行列Mを求めるのに用
いる特徴点P1乃至P6は、自動補正処理により補正され
るが、特徴点P5またはP6のうちのいずれか一方は、さ
らに、他方の特徴点を自動補正処理により補正したもの
と、消失点P7とを結ぶ直線上に位置するように補正さ
れる。即ち、例えば、特徴点P5またはP6のうちの一方
の特徴点である、例えば、特徴点P6は、自動補正処理
により補正され、さらに、他方の特徴点P5を自動補正
処理により補正したものと、消失点P7とを結ぶ直線上
に位置するように補正される。これは、特徴点P6は、
上述したように自由度が1の点であるからである。
【0191】なお、図21(A)の円柱の高さが、図2
1(C)の展開画像の縦の長さLHに等しいとすると、
点O1,O2,O3,O4,O5,O6の座標は、それぞれ、
(−rsin(θ/2),0,−rcos(θ/
2)),(rsin(θ/2),0,−rcos(θ/
2)),(rsin(θ/2),LH,−rcos(θ
/2)),(−rsin(θ/2),LH,−rcos
(θ/2)),(0,0,−r),(0,LH,−r)
となる。
【0192】上述したようにして円柱について求められ
る行列Mは、図21(A)における角度θの関数になっ
ており、従って、この角度θを求める必要がある。さら
に、図21(B)においては、2次元画像に、特徴点P
5と消失点P7とを結ぶ直線が、yp軸と平行になるよう
な円柱の投影画像が表示されているが、一般には、円柱
の投影画像は、例えば、図22に示すように、特徴点P
5と消失点P7とを結ぶ直線が、yp軸に対して傾いてい
るようなものとなっていることが多い。
【0193】そこで、特徴点P5と消失点P7とを結ぶ直
線が、xp軸となす角度をαとして、θを求める方法に
ついて説明する。
【0194】この場合、スクリーン座標系の座標軸であ
るxp軸およびyp軸を、反時計回りにαだけ回転した座
標軸であるxp’軸およびyp’軸を考えれば、その座標
軸と、円柱の投影像との関係は、図21(B)に示した
場合に一致する。そこで、そのように、xp軸およびyp
軸を、反時計回りにαだけ回転したxp’軸およびyp
軸によって規定される座標系を考えて、θを求めること
とする。
【0195】この場合、点(xp,yp)と点(xp’,
p’)との関係は、同次座標を用いて、次式のように
表すことができる。
【0196】
【数12】
【0197】・・・(18) そして、行列M’を、例えば、次のように定義する。
【数13】 ・・・(19) 但し、式(19)におけるMは、式(11)で表され
る。
【0198】この場合、式(10)および(15)乃至
(19)により、次式が導かれる。
【0199】 xp’=(m11’rsinφ+m12’ye−m13’rcosφ+m14’) /(m31’rsinφ+m32’ye−m33’rcosφ+1) yp’=(m21’rsinφ+m22’ye−m23’rcosφ+m24’) /(m31’rsinφ+m32’ye−m33’rcosφ+1) ・・・(20) 即ち、図21(A)に示した3次元物体としての円柱に
おいて、投影画像として表示される弧O152上に、
点Oをとると、その点Oは、図21(B)の投影画像上
の弧P152上の点Pとして投影される。そして、こ
の点Pが、図21(C)に示すように、ペーストバッフ
ァ座標系において、点Eに対応するとすると、この点E
の、点E5を基準とする、xe座標は、xe−Lw/2で表
すことができる。
【0200】また、図21(C)のペーストバッファ座
標系において、点E5または点Eは、図21(A)の3
次元空間にある円柱上の点O5またはOにそれぞれ対応
するから、点Eの、点E5を基準とした、xe座標である
e−Lw/2は、図21(A)の円柱において、点O5
を基準とする、円柱の上面(上方の底面)の円周に沿っ
た点Oの位置に対応する。
【0201】即ち、上述の式(16)で定義されるφ
は、点O5、原点、および点Oがつくる角度を表し、式
(20)で表されるxp’およびyp’は、点Oに対応す
る投影画像上の点Pの座標を表す。
【0202】いま、点Oを、点O5を基準として、円柱
の上面の円周に沿って移動していった場合、即ち、角度
φを、0ラジアンから変えていった場合、点Oに対応す
る、投影画像上の点Pも、点P5を基準として、弧P5
2上や、弧P51上を移動していくが、その点P、消失
点P7、および点P5がつくる角度を、図23に示すよう
に、νとする。
【0203】ここで、点Pの座標は、式(20)で求め
られる(xp’、yp’)で表される。従って、点P7
座標を(xp7’、yp7’)と表すと、角度νは、次式で
求めることができる(図23)。
【0204】 ν=tan-1(|yp’−yp7’|/|xp’−xp7’|) ・・・(21) 角度νは、点Pが移動すること、即ち、角度φが変化す
ることによって変化するから、角度φの関数となってい
る。
【0205】図23において、線分P57を基準とし
て、右回りの方向を、角度νの正の方向とすると、角度
νは、点Pが、点P2に一致したときに最大となり、点
1に一致したときに最小となる。
【0206】そして、点Pが、点P1または点P2に一致
するのは、式|φ|=θ/2が成り立つ場合であり(点
Pが、点P1に一致するのは、式φ=−θ/2が成り立
つ場合であり、点P2に一致するのは、式φ=θ/2が
成り立つ場合)、従って、角度νは、式|φ|=θ/2
が成り立つ場合に極値をとる。
【0207】そこで、式(21)の角度νを、φで偏微
分したものを、次のように0とおく。
【0208】
【数14】
【0209】・・・(22) 上述したように、式(22)は、|φ|がθ/2に等し
いときに成立し、このときのθ(=2φ)が、求めるべ
きθ(図21において、点P1またはP2が、点O1また
はO2にそれぞれ対応しているときに、点O1、円柱の上
方の底面の中心、および点O2がつくる角度)である。
【0210】ところで、式(22)のνをφで偏微分し
たもの(式(22)の左辺)は、θとφの2変数を有す
る関数となるから、式(22)を満たすφおよびθを求
める計算は複雑になる。そこで、ここでは、式(22)
を満たすθを、近似計算によって求めることとする。
【0211】即ち、図24は、式(22)を満たすθを
近似計算より求める処理(以下、適宜、θ算出処理とい
う)を説明するためフローチャートを示している。な
お、このθ算出処理は、例えば、コピー処理を行う場合
にはコピー操作処理部12で、ペースト処理を行う場合
にはペースト操作処理部13でそれぞれ行われる。
【0212】θ算出処理では、まず最初に、ステップS
41において、θに、初期値としてのπ(ラジアン)が
セットされ、ステップS42に進み、そのθと特徴点を
用いて、式(22)を満たす行列M’が求められる。さ
らに、ステップS43において、ステップS42で求め
られた行列M’を用いて、式(21)で表されるνが求
められ、ステップS44に進み、そのνが極値をとると
きのφ、即ち、式(22)を満たすφが求められ、ステ
ップS45に進む。
【0213】式(21)を満たすφは、2つ求められる
が、いま、これを、φ1およびφ2とすると、ステップS
45では、|φ1|+|φ2|が、θに、新たにセットさ
れ、ステップS46に進み、θが収束したかどうか、即
ち、新たなθと、前回のθとの差分の絶対値が所定の閾
値以下であるかどうかが判定される。ステップS46に
おいて、θが収束していないと判定された場合、即ち、
新たなθと、前回のθとの差分の絶対値が所定の閾値以
下でない場合、ステップS42に戻り、新たなθを用い
て、ステップS42以下の処理が繰り返される。
【0214】また、ステップS46において、θが収束
したと判定された場合、即ち、新たなθと、前回のθと
の差分の絶対値が所定の閾値以下である場合、新たなθ
が、求めるべきθとして確定され、θ算出処理を終了す
る。
【0215】なお、以上においては、円柱の投影画像
(図21(B)、図23)に、消失点P7が存在する場
合を例に説明を行ったが、消失点が存在しない場合には
(投影画像において、線分P14と線分P23とが平行
になる場合には)、式(20)のyp’が、式|φ|=
θ/2が成り立つときに極値をとるから、式(20)の
p’を、φで偏微分したものを、式(23)のように
0とおき、上述の式(21)または(22)にそれぞれ
替えて、式(20)または(23)を用いて、図24の
θ算出処理を行うことにより、yp’が極値をとるとき
のθを求めることができる。
【0216】
【数15】
【0217】・・・(23) 次に、3次元物体が、例えば、球である場合において、
その球面の展開画像を生成してペーストバッファに記憶
させるコピー処理、またはペーストバッファに記憶され
た画像を球面に貼り付けるペースト処理を行うときに
は、次のようにして、逆変換式または順変換式がそれぞ
れ算出される。なお、ここでは、球面の展開画像は、例
えば、正距円筒図法により生成されるものとする。
【0218】この場合、図25(A)に示すように、3
次元空間における球の位置を表す3次元座標として、球
の中心を原点(0,0,0)とし、互いに直交するよう
に、xo,yo,zo軸をとったものを考える(但し、xo
軸は、yo軸からzo軸の方向に右ねじを回した場合に、
その右ねじが進行する方向にとる)。
【0219】ここで、以下、適宜、球とyo軸との、yo
座標が正の交点を、北極といい、球とxoo平面(yo
=0の平面)との交線(円)を、赤道という。
【0220】そして、例えば、いま、注目バッファの2
次元画像に、図25(A)の球を、所定の位置から撮影
して得られる投影画像が、例えば、図25(B)に示す
ように表示されているとする。なお、図25(B)にお
いては、後述する点P5とP6とを結ぶ直線P56が、x
p軸に対して、角度αだけ傾いている。
【0221】図25(B)において、点P1およびP
3は、球とyoo平面(xo=0の平面)との交線(円)
のうち、投影画像に表示された部分の2つの端点であ
り、点P 1は、北極側の端点で、点P3は、xoo平面を
基準としたときに、北極と反対側にある端点である。ま
た、点P2およびP4は、球とxoo平面との交線である
赤道のうち、投影画像に表示された部分の2つの端点
で、点P2は、xo座標が正の側の端点で、点P4は、xo
座標が負の側の端点である。そして、図25(A)にお
ける点O1,O2,O3,O4は、図25(B)における点
1,P2,P3,P4にそれぞれ対応している。
【0222】また、図25(A)における点O5は、球
の中心を、点O6は、北極を、点O7は、赤道に沿った弧
24(投影画像として見える弧)を2等分する点を、
それぞれ表しており、図25(B)における点P5
6,P7は、これらの点O5,O 6,O7にそれぞれ対応
している。
【0223】いま、例えば、図25(A)における球面
全体の、正距円筒図法による展開画像がペーストバッフ
ァに記憶されるとすると、球の半径Rは、次のように表
すことができる(但し、ここでは、赤道が、展開画像の
横方向に対応するものとする)。
【0224】 R=LW/(2π) ・・・(24) また、球面については、式(7)のψ、即ち、球面の、
3次元空間上の点(x o,yo,zo)と、その正距円筒
図法による展開画像上の点(xe,ye)との関係は、図
25(A)の球面の正距円筒図法による展開図を考える
ことにより、次のように表すことができる。
【0225】
【数16】
【0226】・・・(25) この場合も、行列Mにおいて不要となる要素はなく、従
って、式(11)で説明した11の要素m11乃至m14
21乃至m24,m31乃至m33を求める必要がある。
【0227】そこで、ここでは、ユーザに、例えば、図
25(B)に示した7点P1乃至P7を特徴点として指定
してもらう。即ち、例えば、まず、点P2,P4,P5
6を、特徴点として指定してもらう。なお、点P2,P
4,P5,P6は、いずれも自由度が2の点である。その
後、点P5とP6を結ぶ直線P56上に位置するように、
点P1,P3,P7を、特徴点として指定してもらう。従
って、点P1,P3,P7は、いずれも直線P56上の点
であるから、自由度が1の点である。
【0228】以上のように、点P2,P4,P5,P6は、
いずれも自由度が2の点であり、点P1,P3,P7は、
いずれも自由度が1の点であるから、これらの7点P1
乃至P 7が分かれば、11の要素m11乃至m14,m21
至m24,m31乃至m33を求めることができる。
【0229】なお、ここでは、図25(A)の球面全体
を、正距円筒図法により展開した展開画像をペーストバ
ッファに記憶させるが、その展開画像は、例えば、図2
5(C)に示すようになる。
【0230】図25(C)において、斜線を付してある
部分が、図25(B)に示した投影画像の部分の展開画
像を示しており、斜線を付していない部分は、図25
(B)に示した投影画像には表示されていない球面の部
分の展開画像を示している。従って、曲線L1は、図2
5(A)に示した球のうちの、図25(B)に示した投
影画像として見える球面と見えない球面との境界線に対
応している。また、長方形状の展開画像の縦方向を2等
分する線分L2が赤道に対応している。
【0231】曲線L1上にある点E1,E2,E3,E
4は、図25(B)の投影画像上の特徴点P1,P2
3,P4にそれぞれ対応している。なお、点E1または
点E3は、曲線L1上の、ye座標が最小または最大の点
であり、点E2またはE4は、それぞれ、曲線L1と赤道
に対応する線分L2との2つの交点のうちの、xe座標の
大きい方または小さい方の点である。
【0232】図25(C)において、線分E6は、ペー
ストバッファ座標系において、原点(0,0)と点(L
W,0)とを結ぶ線分で、図25(B)の点P6に対応し
ている。また、図25(C)において、点E7は、線分
24を2等分する点で、図25(B)の点P7に対応
している。
【0233】次に、図25(A)の球における所定の部
分の角度を、図26に示すように、μ並びにλ1および
λ2と表すこととする。即ち、球をxoo平面との交線
である円の円周(赤道)のうち、投影画像に表示された
部分の2つの端点P1およびP3と、球の中心O5がつく
る角度∠O254を、図26(A)に示すようにμと
表す。また、図26(B)に示すように、球とyoo
面との交線である円の円周のうち、投影画像に表示され
た部分の、北極と反対側の端点O3と、点O7およびO5
がつくる角度∠O357を、λ1と表すとともに、その
北極側の端点O1と、点O7およびO5がつくる角度∠O1
57を、λ2と表す。ここで、λ1+λ2が、球とyo
o平面との交線(円)の円周のうち、投影画像に表示さ
れた部分の2つの端点O1およびO3と、球の中心O5
つくる角度∠O153を表す。
【0234】この場合、図25(A)における点O1
2,O3,O4,O5,O6,O7の座標は、それぞれ、
(0,Rsinλ2,Rcosλ2),(Rsin(μ/
2),0,Rcos(μ/2)),(0,−Rsinλ
1,Rcosλ1),(−Rsin(μ/2),0,Rc
os(μ/2)),(0,0,0),(0,R,0)、
(0,0,R)となる。
【0235】球面について求められる行列Mは、図26
における角度μ並びにλ1およびλ2の関数になってお
り、従って、これらの角度μ並びにλ1およびλ2を求め
る必要がある。さらに、図25(B)においては、球の
中心に相当する点P5と北極に相当する点P6とを結ぶ直
線P56とxp軸とが、角度αを形成しているから、こ
れを考慮して、角度μ並びにλ1およびλ2を求める必要
がある。
【0236】そこで、ここでも、xp軸およびyp軸を、
反時計回りにαだけ回転した座標軸であるxp’軸およ
びyp’軸を考えて、角度μ並びにλ1およびλ2を求め
ることとする。
【0237】この場合も、点(xp,yp)と点
(xp’,yp’)との関係は、同次座標を用いて、式
(18)で表すことができる。
【0238】そして、いま、図25(A)において、球
面と、xo=0の平面(yoo平面)との交点(円)を、
(0,Rsinβ,Rcosβ)と表すとともに、球面
とy o=0の平面(xoo平面)との交点(赤道上の点)
を、(Rsinγ,0,Rcosγ)と表す。また、点
(0,Rsinβ,Rcosβ)がスクリーンに投影さ
れたときのxp’座標またはyp’座標を、それぞれxp1
またはyp1とするとともに、点(Rsinγ,0,Rc
osγ)がスクリーンに投影されたときのxp’座標ま
たはyp’座標を、それぞれxp2またはyp2とする。こ
の場合、xp1またはyp2は、式(19)で定義される行
列M’の要素を用いて、それぞれ、式(26)または
(27)で表すことができる。
【0239】 xp1=(m12’Rsinβ+m13’Rcosβ+m14’) /(m32’Rsinβ+m33’Rcosβ+1) ・・・(26) yp2=(m21’Rsinγ+m22’Rcosγ+m24’) /(m31’Rsinγ+m33’Rcosγ+1) ・・・(27) 図25(A)の球については、式(26)のxp1は、式
β=−λ1またはβ=λ2が成り立つときに、また、式
(27)のyp2は、式γ=μ/2またはγ=−μ/2が
成り立つときに、それぞれ極値をとる。そこで、式(2
6)のxp1についてはβで、式(27)のyp2について
はγで、それぞれ偏微分したものを、次のように0とお
く。
【0240】
【数17】
【0241】・・・(28)
【0242】
【数18】
【0243】・・・(29) 式(28)は、βが−λ1またはλ2に等しいときに成立
し、このときのλ1およびλ2が、求めるべきλ1および
λ2である。また、式(29)は、γがμ/2または−
μ/2に等しいときに成立し、このときのμが、求める
べきμである。
【0244】ところで、行列M’の要素は、μ,λ1
λ2の関数となるから、式(28)のxp1をβで偏微分
したものは、μ,λ1,λ2,βの4変数の関数となり、
また、式(29)のyp2をγで偏微分したものは、μ,
λ1,λ2,γの4変数の関数となる。従って、式(2
8)および(29)を満たすμ並びにλ1およびλ2を求
める計算は、複雑なものとなるが、上述のθ算出処理と
同様に、μ,λ1,λ2について、所定の初期値をセット
して、行列M’の要素を求め、その要素を用いてβ,γ
を求めて、μ,λ1,λ2を更新していくという近似計算
を用いることにより、μ,λ1,λ2を、比較的容易に求
めることが可能である。
【0245】なお、ここでは、球面を、正距円筒図法に
よって展開した展開画像を生成するようにしたが、球面
の展開画像を生成する場合に用いる手法は、これに限定
されるものではない。即ち、球面は、その他、例えば、
メルカトル図法やランベルト等角円錐図法などを用い
て、展開画像に展開することが可能である。
【0246】また、球面については、図25(C)に示
したように、その全体についての展開画像がペーストバ
ッファに記憶されるが、投影画像に対応しているのは、
図25(C)において斜線を付した部分だけであるか
ら、この展開画像を投影画像に変換して、注目バッファ
に記憶された2次元画像に貼り付けたときに、その2次
元画像に表示されるのは、図25(C)において斜線を
付した部分だけである。即ち、ペーストバッファに記憶
された画像全体が、2次元画像上の投影画像として表示
されるわけではないため、球面に貼り付ける展開画像に
ついて、2Dペイントを行う場合には、その点を考慮し
て、文字等の描画を行う必要がある。即ち、図25
(B)の球の投影画像に、文字を貼り付けたい場合に
は、図25(C)の斜線部分の範囲内に、その文字を描
画して、ペースト処理を行う必要がある(斜線部分から
はみ出して、文字を描いた場合には、そのはみ出した部
分については、図25(B)の投影画像には貼り付けら
れない)。
【0247】次に、3次元物体が球である場合における
図26のμ,λ1,λ2については、上述したように、そ
れぞれに関して、図24で説明したθ算出処理と同様の
処理を行うことで求めることが可能であるが、μについ
ては、λ1およびλ2を求めた後に、次のような関係から
求めることも可能である。
【0248】即ち、図25(A)に示した点O1乃至O7
以外に、図27に示すように、点O 5’およびO7’を考
える。ここで、点O5’は、線分O13に対して、点O5
から垂らした垂線と、線分O13との交点であり、点O
7’は、線分O24と、線分O57との交点である。
【0249】いま、∠O5’O57’を、λ3と表すと、
このλ3は、図26(B)に示した∠O357であるλ
1、および∠O157であるλ2とを用いて、次のよう
に表すことができる。
【0250】 λ3=(λ1+λ2)/2−λ1 =(λ2−λ1)/2 ・・・(30) また、図27の球と、点O1,O6,O7,O3を通る平面
(yoo平面)との交面は、図28に示すような、点O
5を中心とし、かつ図27の球と同一半径の円になる
が、この図28において、線分O35’の長さをD1
おくと、このD1は、次式で求めることができる。
【0251】 D1=Rsin((λ1+λ2)/2) ・・・(31) なお、Rは、式(24)に示したように、3次元空間上
における球の半径を表す。
【0252】さらに、図28において、線分O5’O7
の長さをD2とおくと、このD2は、次式で求めることが
できる。
【0253】 D2=Rcos((λ1+λ2)/2)tanλ3 ・・・(32) 次に、図27の球と、点O1,O2,O3,O4を通る平面
との交面は、図29に示すような、点O5’を中心と
し、かつ線分O35’を半径とする円になるが、この図
29において、線分O5’O3と、線分O5’O2とは、い
ずれも、点O5’を中心とする円の半径であるから、互
いに等しく、従って、線分O5’O2の長さは、式(3
1)で求められる線分O5’O3の長さD1に等しい。そ
して、いま、図29において、線分O27’の長さをD
3とおくと、このD3は、三平方の定理により、次式で求
めることができる。
【0254】 D3=√(D1 2−D2 2) =R√(sin2((λ1+λ2)/2) −cos2((λ1+λ2)/2)tan2λ3) ・・・(33) さらに、図27の球と、点O5,O2,O7,O4を通る平
面(xoo平面)との交面は、図26(A)に示した場
合と同様の図30に示すような、点O5を中心とし、か
つ半径がRの円になるが、図30から、角度μ/2の正
弦は、D3/Rを計算することによって求めることがで
きる。従って、角度μと、λ1およびλ2との間には、次
式が成り立つ。
【0255】 sin(μ/2)=D3/R =√(sin2((λ1+λ2)/2) −cos2((λ1+λ2)/2)tan2λ3) =√(sin2((λ1+λ2)/2) −cos2((λ1+λ2)/2)tan2((λ2−λ1)/2)) ・・・(34) 以上から、λ1,λ2については、図24で説明したθ算
出処理と同様の処理を行うことで求め、μについては、
その求まったλ1およびλ2を、式(34)に代入するこ
とで求めることができる。
【0256】θ算出処理によれば、θが収束するまで、
ステップS42乃至S45の処理を繰り返し行う必要が
あるが、μを、式(34)の関係にしたがい、λ1およ
びλ2から求める場合には、そのような繰り返し処理を
行う必要がなく、従って、その分高速に、かつ少ない演
算量で、μを求めることができる。
【0257】次に、3次元物体が、例えば、円錐である
場合において、その側面の展開画像を生成してペースト
バッファに記憶させるコピー処理、またはペーストバッ
ファに記憶された画像を円錐の側面に貼り付けるペース
ト処理を行うときには、次のようにして、逆変換式また
は順変換式がそれぞれ算出される。
【0258】即ち、この場合、例えば、図31(A)に
示すように、3次元空間における円錐の位置を表す3次
元座標として、その頂点(円錐の側面を展開して扇形に
したときに、その扇形の中心に対応する点)O1を原点
(0,0,0)とし、頂点O1から底面の中心O5の方向
にyo軸をとり、さらに、後述する点O4の方向から底面
の中心O5の方向にzo軸をとったものを考える(xo
は、yo軸からzo軸の方向に右ねじを回した場合に、そ
の右ねじが進行する方向にとる)。
【0259】そして、例えば、いま、注目バッファの2
次元画像に、図31(A)の円錐を、やや上方から撮影
して得られる投影画像が表示されているとする。この場
合、円錐の投影画像は、例えば、図31(B)に影を付
して示すようになる。
【0260】図31(B)において、点P1または点P5
は、図31(A)の点O1または点O5にそれぞれ対応し
ている。また、点P2およびP3は、円錐の側面の投影画
像(側面だけを投影したとした場合の投影画像)と、円
錐の底面の投影画像(底面だけを投影したとした場合の
投影画像)との交線の端点(底面の円周の投影画像の端
点)であり、図31(B)では、交線の右側または左側
の端点が、それぞれ、点P2またはP3とされている。こ
の点P2または点P3は、図31(A)における点O2
たはO3に、それぞれ対応している。
【0261】そして、図31(A)において、点O4
たはO6は、点O2とO3との間を、底面の手前側または
奥側の円周それぞれに沿って2等分する点で、図31
(B)における点P4またはP6に、それぞれ対応してい
る。
【0262】ここで、上述したように、zo軸は、点O4
から底面の中心O5の方向を向いており、また点O5は、
o軸上の点である。さらに、上述したことから、点
4,O5,O6は一直線上に存在し、従って、これらの
点O4乃至O6は、すべて、yoo平面(xo=0の平
面)内にある。これにより、図31(B)において、点
4,O5,O6にそれぞれ対応する点P4,P5,P6も一
直線上に位置し、点P4乃至P6のうちの2点である、例
えば、点P4およびP6が指定されれば、残りの1点であ
る点P5は、直線P46上に位置することとなるから、
その自由度は1になる。
【0263】図31(A)における角度θは、∠O25
3を表しており、円錐の底面の半径をrと表すと、円
錐の側面の投影画像の部分に対応する展開画像がペース
トバッファに記憶されるとした場合には、半径rと角度
θとの関係は、図21で説明した円柱における場合と同
様に、式(15)で表すことができる(但し、ここで
は、例えば、円錐の底面の円周方向が、展開画像の横方
向に対応するものとする)。
【0264】また、角度φを、図21で説明した円柱に
おける場合と同様に、式(16)で表すと、円錐の側面
についての式(7)のψ、即ち、円錐の側面の、3次元
空間上の点(xo,yo,zo)と、展開画像上の点
(xe,ye)との関係は、図31(A)の円錐の展開図
を考えることにより、次のように表すことができる。
【0265】
【数19】
【0266】・・・(35) この場合、式(11)で説明した行列Mの11の要素m
11乃至m14,m21乃至m24,m31乃至m33を求める必要
があり、この11の要素m11乃至m14,m21乃至m24
31乃至m33は、上述したように、投影画像上の、自由
度が2の5点と、自由度が1の1点との合計6点が特徴
点として指定されれば求めることができる。
【0267】そこで、ここでは、ユーザに、例えば、図
31(B)に示した6点P1乃至P6を特徴点として指定
してもらう。即ち、自由度が2の5点として、例えば、
点P 1乃至P4およびP6を、特徴点として指定してもら
い、さらに、自由度が1の1点として、例えば、点P5
を指定してもらう。ここで、点P4およびP6が指定され
た場合には、点P5は、上述したように、直線P46
に位置するから、自由度が1の点となる。
【0268】また、ここでは、図31(C)に示すよう
に、ペーストバッファに長方形状に記憶される展開画像
の、ペーストバッファ座標系において、原点(0,0)
と点(LW,0)とを結ぶ線分をE1と、座標(LW
H),(0,LH),(LW/2,LH)で表される点
を、それぞれ点E2,E3,E4として、点P1とE1、点
2とE2、点P3とE3、点P4とE4を、それぞれ対応さ
せることとする。
【0269】以上の関係を用いて、式(10)にしたが
い、11の要素m11乃至m14,m21乃至m24,m31乃至
33について方程式をたてて解くことで、これらの11
の要素m11乃至m14,m21乃至m24,m31乃至m33、即
ち、行列Mを求めることができる。
【0270】ここで、図31(C)の実施の形態では、
円錐の側面の展開画像として、長方形状のものを用いる
ようにしたが、円錐の側面の展開画像としては、その
他、例えば、図31(A)の円錐の側面を、単に展開し
た扇形のものを用いることも可能である。但し、円錐の
側面の展開画像として、扇形のものを用いる場合におい
ては、円錐の側面の投影画像に、その底面と平行な方向
に文字などを貼り付けるときには、その文字を、扇形の
展開画像の円周に沿った形で描く必要がある。これに対
して、図31(C)に示したように、円錐の側面の展開
画像として、長方形状のものを用いる場合には、その展
開画像に対して、xe軸と平行に文字を描き、ペースト
処理を行うことで、円錐の側面の投影画像に、その底面
と平行な方向に文字を貼り付けることができる。
【0271】なお、図31(A)の円錐の高さが、図3
1(C)の展開画像の縦の長さLHに等しいとすると、
点O1,O2,O3,O4,O5,O6の座標は、それぞれ、
(0,0,0),(rsin(θ/2),LH,−rc
os(θ/2)),(−rsin(θ/2),LH,−
rcos(θ/2)),(0,LH,−r),(0,
H,0),(0,LH,r)となる。
【0272】上述したようにして円錐について求められ
る行列Mは、図21で説明した円柱における場合と同様
に、角度θの関数になっており、従って、この角度θを
求める必要がある。さらに、図31(B)においては、
2次元画像に、特徴点P4とP5とを結ぶ直線が、yp
と平行になるような円錐の投影画像が表示されている
が、一般には、円錐の投影画像は、例えば、図32に示
すように、特徴点P4とP5とを結ぶ直線が、yp軸に対
して傾いているようなものとなっていることが多い。
【0273】そこで、特徴点P4とP5とを結ぶ直線が、
p軸となす角度をαとして、θを求める方法について
説明する。
【0274】いま、上述の式(35)において、yo
e=LHとおくと、式(35)は、円柱についてのψを
表す式(17)に等しくなる。従って、この場合、円錐
についてのxp,ypは、円柱についてのxp,ypに等し
くなるから、特徴点P4とP5とを結ぶ直線とxp軸とが
なす角度がαである場合は、xp軸およびyp軸を、反時
計回りにαだけ回転した座標軸であるxp’軸および
p’軸によって規定される座標系においても、円錐の
底面である円の円周上の点Oの、投影画像における点P
(図31)は、円柱における場合と同様に表すことがで
きる。
【0275】即ち、円錐について、その底面の円周上の
点Oに対応する投影画像上の点Pのxp’座標および
p’座標は、式(20)で表される。さらに、点Oに
対応する投影画像上の点Pと、点P1およびP4がつくる
角度を、図33に示すように、νとおくとともに、点P
1の座標を(xp1’、yp1’)とおくと、角度νは、次
式で表される。
【0276】 ν=tan-1(|yp’−yp1’|/|xp’−xp1’|) ・・・(36) 式(36)のνは、円柱における場合と同様に、点O
が、点O5および点O4とともにつくる角度φ(=∠O4
5O)(図31(A))の関数となっており、式|φ
|=θ/2が成り立つ場合に極値をとる。
【0277】従って、図31(A)における円錐のθ
は、式(21)に替えて、式(36)を用いることによ
り、円柱における場合と同様にして求めることができ
る。
【0278】なお、図31(B)や図33に示した円錐
の投影画像において、頂点P1が、その投影画像の内部
にある場合は、側面全体が見えていることとなるので、
その場合のθは2π(360度)ということになる。
【0279】以上、3次元物体として、幾つかのプリミ
ティブな形状のものを用いた場合のψおよびMの算出方
法について説明したが、上述した形状以外の3次元物体
であっても、その形状を、関数で表現することができる
ものであれば、そのような3次元物体を対象に、ψおよ
びMを算出することが可能である。
【0280】また、特徴点として指定すべき点は、上述
したものに限定されるものではない。即ち、例えば、図
20では、直方体の面である四角形の投影画像の特徴点
として、その四角形の頂点を指定するようにしたが、四
角形の投影画像の特徴点としては、その他、例えば、そ
の四角形の各辺の中点などを指定するようにすることも
可能である。また、球については、図25(A)に示す
点O1乃至O7に対応する点P1乃至P7を特徴点として指
定するようにしたが、図25(A)の点O5と点O7を通
る直線と球との交点のうち点O7ではない方を点O8とし
て、例えば、点O1乃至O6,O8のそれぞれの2次元画
像に投影される点を、球の特徴点として指定しても良
い。
【0281】さらに、円錐については、例えば、図34
に示すような点を、特徴点として指定することが可能で
ある。即ち、いま、図34(A)に示すように、3次元
空間において、円錐の頂点O1と、底面の中心とを結ぶ
線分の中点をO60とする。さらに、底面の円周と、xo
o平面との交点をO30およびO50とするとともに、底
面の円周と、yoo平面との交点をO20およびO40とす
る。ここで、点O20,O 30,O40,O50,O60の座標
は、それぞれ、(r,LH,0),(0,LH,−r),
(−r,LH,0),(0,LH,r),(0,LH
2,0)となる。この場合、点O1,O20,O30
40,O50,O60に対応する投影画像上の点を、図34
(B)に示すように、それぞれ点P1,P20,P30,P
40,P50,P60とすると、これらの点を特徴点として指
定することができる。
【0282】また、上述したことから明らかであるが、
特徴点としては、投影画像として表示される点(見える
点)と、表示されない点(見えない点)のいずれをも指
定することも可能である。
【0283】但し、投影画像の特徴点として指定される
点が、ペーストバッファに記憶される展開画像のどの位
置に対応するのかという対応関係は、あらかじめ設定し
ておく必要がある。
【0284】次に、ペースト処理においては、基本的に
は、上述したように、ペーストバッファに記憶された画
像が、注目バッファに記憶された2次元画像の、ユーザ
によって指定された特徴点により特定される3次元物体
の面に貼り付けられる。即ち、ペーストバッファに記憶
された画像の画素値が、注目バッファに上書きされる。
しかしながら、例えば、ペースト処理によって、注目バ
ッファに記憶された2次元画像に、新たな3次元物体を
追加する場合に、ペーストバッファに記憶された画像の
画素値を、注目バッファに、単に上書きするのでは、注
目バッファに記憶された2次元画像に既に表示されてい
る3次元物体の手前側に、新たな3次元物体を追加する
ことはできるが、その奥側に、新たな3次元物体を追加
することはできない。
【0285】そこで、本実施の形態では、マットを利用
して、注目バッファに記憶された2次元画像に既に表示
されている3次元物体の奥側に、新たな3次元物体を追
加することができるようになされている。
【0286】マットは、2次元画像に表示された物体の
形状を表す、いわゆるグレースケールの画像で、その値
は、2次元画像を構成する各画素における物体の寄与率
(αと呼ばれる)を表すことから、α画像とも呼ばれ
る。ここでは、マットは、図7のステップS15におけ
るマット処理が行われることによって、注目バッファに
記憶された2次元画像のマットが生成されるようになさ
れている。なお、2次元画像のマットは、上述したよう
に、その2次元画像が記憶されている画像バッファに記
憶されるようになされている。
【0287】ここで、マットを構成する各画素の画素値
は、例えば、0乃至1の範囲の値をとり、いわゆる前景
を構成する画素の画素値は1に、いわゆる背景を構成す
る画素の画素値は0に、前景と背景との境界部分を構成
する画素の画素値は、その画素に含まれる前景と背景と
の割合に応じた値となる(前景の割合が多いほど1に近
い値となり、背景の割合が多いほど0に近い値とな
る)。
【0288】従って、例えば、いま、図35(A)に示
すような家屋の形状をした3次元物体が表示されている
2次元画像が、注目バッファに記憶されている場合にお
いて、家屋の部分を前景とし、それ以外の部分を背景と
して、マット処理が行われると、マット操作処理部16
では、図35(B)に示すようなマットが生成され、注
目バッファに記憶される。なお、図35(B)におい
て、影を付してある部分の画素値は1になっており、影
を付していない部分の画素値は0になっている。
【0289】ここで、マットの生成方法としては、例え
ば、Eric N.Mortensen, William A.Barrett, "Intellig
ent Scissors for Image Composition", Proceedings o
f SIGGRAPH 95, pp.191-198や、本件出願人が先に提案
した特開平8−331455号公報、特開平10−14
3654号などに開示されているものを利用することが
できる。
【0290】注目バッファに、2次元画像とともに、そ
のマットが記憶されている場合において、そのマットを
有効または無効とするかは、入力装置6を操作すること
により設定することができるようになされている。
【0291】いま、例えば、注目バッファに、図35
(A)または図35(B)にそれぞれ示したような2次
元画像またはマットが記憶されており、新たな3次元物
体として、例えば、円柱を、注目バッファの2次元画像
に貼り付けるペースト処理が指令された場合には、マッ
トが無効とされているときには、円柱の投影画像は、2
次元画像に単に上書きされ、これにより、例えば、図3
5(C)に示すような、円柱が、家屋の手前にあるよう
な2次元画像が生成される。
【0292】一方、マットが有効とされているときに
は、注目バッファに記憶されている2次元画像を構成す
る画素の画素値をAと、円柱の投影画像を構成する画素
の画素値をBと、マットを構成する画素の画素値をα
と、ペースト処理により得られる2次元画像をCと、そ
れぞれ表すと、2次元画像Cは、式C=αA+(1−
α)Bに基づいて生成される。従って、この場合、例え
ば、図35(D)に示すような、円柱が、家屋の奥側に
あるような2次元画像が生成される。
【0293】以上のように、マットを有効にしてペース
ト処理を行うことで、2次元画像に既に表示されている
3次元物体の奥側に隠れている部分を見えなくする、い
わゆるオクルージョン(Occlusion)を実現することが
でき、従って、この場合、マットは、投影画像の書き込
みを許可するかどうかのフラグとして機能しているとい
うことができる。
【0294】なお、マットは、ユーザに作成してもらう
ようにすることも可能である。
【0295】次に、図36のフローチャートを参照し
て、図7のステップS16における物体属性/光源変更
処理について説明する。なお、ここでは、注目バッファ
に記憶された2次元画像のマットが既に生成され、注目
バッファに記憶されているものとする。
【0296】物体属性/光源変更処理では、まず最初
に、ステップS51において、注目バッファに記憶され
たマットにより表される、同じく注目バッファに記憶さ
れた2次元画像に表示された物体の領域における色分布
が検出される。即ち、ステップS51では、注目バッフ
ァに記憶された2次元画像に表示された物体の領域が、
注目バッファに記憶されたマットから認識され、その領
域を構成する画素のRGB値の、RGB空間における分
布(色分布)が検出される。
【0297】色分布の検出後は、ステップS52に進
み、物体の領域を構成する画素のうち、その色の彩度が
最も大きい画素(以下、適宜、最大彩度画素)が、ステ
ップS51で検出された色分布に基づいて検出される。
【0298】即ち、図37は、RGB空間における物体
の色分布(同図において実線で囲んで示す部分)の例を
示している。なお、図37は、R,G,Bの最大値を1
に正規化した色分布を示している。従って、図37のR
GB空間において、(R,G,B)が(0,0,0)の
点は黒を、(1,1,1)の点は白を、それぞれ表す。
【0299】RGB空間において、彩度は、黒の点と白
の点を結ぶ直線、即ち、図37では、点(0,0,0)
と(1,1,1)とを結ぶ直線から離れるほど大きくな
る。従って、ステップS52では、ステップS51で検
出された色分布において、点(0,0,0)と(1,
1,1)とを結ぶ直線から最も離れた点に位置する色を
有する画素が、最大彩度画素として検出される。図37
の実施の形態では、同図においてCで示す色の画素が、
最大彩度画素として検出される。
【0300】ここで、最大彩度画素の色(RGB値)C
が、注目バッファに記憶された2次元画像に表示された
物体の本来の色と考えられる。
【0301】その後、ステップS53に進み、ステップ
S51で検出された色分布が変換され、その変換後の色
分布に対応した画素値(RGB値)が、注目バッファに
記憶された2次元画像を構成する、対応する画素に書き
込まれて、リターンする。即ち、ステップ53では、最
大彩度画素の色Cが、所定の色Dに変換され、さらに、
所定のルールにしたがって、物体の領域を構成する他の
画素の色も変換される。
【0302】具体的には、物体の色や材質感などの材質
属性を変更する物体属性処理が指令された場合、ステッ
プS53では、最大彩度画素の色Cが、所定の色Dに変
換され、その変換と同様にして、物体の領域を構成する
他の画素の色も、線形的に変換される。
【0303】即ち、図37において、最大彩度画素の色
Cが、色Dに変更された場合、物体の色分布の中で、色
Cと、白色を表す点(1,1,1)との間にある色は、
色Dと、白色を表す点(1,1,1)との間にある色
に、線形に変換される。さらに、物体の色分布の中の、
色Cと、黒色を表す点(0,0,0)との間にある色
は、色Dと、黒色を表す点(0,0,0)との間にある
色に、線形に変換される。その結果、物体の色分布は、
図37において、実線で示すものから点線で示すものに
変更される。ここでは、色が線形に変換されるため、元
の色分布の中で、最も明るい色Qは、変換後の色分布の
中でも、最も明るい色Tに変換される。同様に、元の色
分布の中で、最も暗い色Pは、変換後の色分布の中で
も、最も暗い色Sに変換される。
【0304】色Cと、白色を表す点(1,1,1)との
間にある色は、物体における、光源からの光の鏡面反射
による鏡面反射成分であり、また、色Cと、黒色を表す
点(0,0,0)との間にある色は、物体における、光
源からの光の拡散反射による拡散反射成分であり、上述
のように、物体の色分布を、拡散反射成分と鏡面反射成
分とに分けて、それぞれを線形に変換することにより、
注目バッファに記憶された2次元画像に表示されている
物体の投影画像の色を、元の陰影を保持したまま変更す
ることができる。即ち、上述の場合、2次元画像に表示
された物体の色を、色Cから色Dに変更することができ
る。
【0305】なお、このような色の変更は、ダイクロマ
ティックリフレクションモデル(dichromatic reflecti
on model)の理論に基づくものである。
【0306】また、上述の場合には、物体の色分布のう
ちの拡散反射成分または鏡面反射成分それぞれを線形に
変換するようにしたが、ステップS53では、拡散反射
成分や鏡面反射成分を非線形に変換するようにすること
も可能である。即ち、例えば、図37において、鏡面反
射成分である、色CとQとの間にある色のほとんどを、
色D付近に変換し、色Qおよびその付近の色を、色T付
近に変換した場合には、物体を、ごく一部において、強
い鏡面反射が生じているようなものとすることができ
る。この場合、例えば、図38(A)に示すように、拡
散反射が多く、全体的に明るい物体を、図38(B)に
示すように、一部で強い鏡面反射が生じている物体に変
更することができる。
【0307】以上のように、拡散反射成分や鏡面反射成
分を非線形に変換することで、物体において、鏡面反射
している領域を狭くまたは広くしたり、鏡面反射の強度
を変えたりすることができ、これにより、物体の材質感
を変更することができる。
【0308】なお、上述のように、一部で強い鏡面反射
が生じるのは、金属表面に特有の性質であり、従って、
そのように色分布を変更した場合には、物体に、金属の
光沢をもたせることができる。
【0309】次に、光源を変更する光源変更処理が指令
された場合、図36のステップS53では、図37にお
いて、鏡面反射成分である色CとQとの間にある色が、
色Cから、新たな光源の色に沿って分布するように変換
される。即ち、物体の色分布において、最も明るい色
は、光源の色であると考えられるから、図37におい
て、色Cから、最も明るい色Qに沿って分布する色を、
色Cから、新たな光源の色に沿って分布するように変換
することで、光源が、新たな光源に変更されたかのよう
な効果を得ることができる。
【0310】次に、図7のステップS17において行わ
れるイレース処理について説明する。
【0311】イレース処理は、上述したように、画像バ
ッファに記憶された2次元画像の一部を削除するもので
あるから、基本的には、そのイレース処理の対象とする
2次元画像が記憶された画像バッファを注目バッファと
して、コピー処理を行い、展開画像をペーストバッファ
に記憶させ、さらに、ペーストバッファに記憶された展
開画像の一部を消去し、ペースト処理を行い、展開画像
に対応する投影画像を、注目バッファの元の位置に貼り
付けることで行うことができる。
【0312】しかしながら、例えば、図39(A)に示
すような2次元画像のうちの、格子状の模様が描かれた
壁に埋め込まれている円柱を削除する場合において、コ
ピー処理を行い、図39(B)に示すように、その壁の
展開画像をペーストバッファに記憶させた後、単に、円
柱の部分を削除して、ペースト処理を行ったのでは、円
柱のあった部分が無模様の、不自然な2次元画像が得ら
れることになる。
【0313】そこで、イレース処理では、ペーストバッ
ファに記憶された展開画像の一部を削除し、さらに、そ
の削除が行われた部分の背景を再現するようになされて
いる。
【0314】即ち、例えば、図39(A)に示すような
2次元画像のうちの、格子状の模様が描かれた壁に埋め
込まれている円柱を削除する場合において、コピー処理
を行い、図39(B)に示すように、その壁の展開画像
が、ペーストバッファに記憶されたときには、イレース
処理では、円柱の部分が削除され、さらに、その削除が
行われた部分の背景が描画される。これにより、ペース
トバッファの展開画像は、例えば、図39(C)に示す
ように、全体に、格子状の模様が描かれたものとされ
る。
【0315】従って、そのような展開画像を用いて、ペ
ースト処理を行うことにより、図39(D)に示すよう
に、円柱が削除され、さらに、その円柱のあった部分に
格子状の模様が再現された、自然な2次元画像を得るこ
とができる。
【0316】なお、上述のように、画像の一部を削除
し、その削除が行われた部分に背景を再現する方法とし
ては、例えば、本件出願人が先に提案した特開平9−1
28529号公報(EP公開番号0772157に対
応)や特開平10−105700号(USP5,89
2,853に対応)などに記載されているものなどを採
用することができる。
【0317】次に、上述の場合においては、コピー処理
において、注目バッファに記憶された2次元画像に表示
された3次元物体の1面だけの展開画像を生成し、ペー
ストバッファに記憶させるようにしたが、コピー処理で
は、注目バッファに記憶された2次元画像に表示された
3次元物体の隣接する2面以上の部分について、展開画
像を生成し、ペーストバッファに記憶させるようにする
ことも可能である。
【0318】即ち、例えば、図40(A)に示すよう
に、家屋の形状をした3次元物体が表示されている2次
元画像が、注目バッファに記憶されている場合におい
て、格子状の模様が描かれた壁と、それに隣接する無模
様の壁に、連続した文字や図形を付加するときに、格子
状の模様が描かれた壁を対象に、コピー処理を行い、そ
の展開画像をペーストバッファに記憶させ、文字や図形
を描き、ペースト処理を行うことで、文字や図形が描か
れた格子状の模様の壁を貼り付け、さらに、無模様の壁
を対象に、コピー処理を行い、その展開画像をペースト
バッファに記憶させ、文字や図形を描き、ペースト処理
を行うことで、文字や図形が描かれた無模様の壁を貼り
付けるのでは、面倒であり、また、連続した文字や図形
を描きにくい。
【0319】そこで、コピー処理では、図40(B)に
示すように、格子状の模様が描かれた壁と、それに隣接
する無模様の壁の両方の展開画像を生成し、ペーストバ
ッファに記憶させることができる。この場合、格子状の
模様が描かれた壁と、それに隣接する無模様の壁に、連
続した文字や図形を、容易に描くことができる。
【0320】なお、ペースト処理においても同様に、ペ
ーストバッファに記憶された展開画像を、3次元物体の
隣接する2面以上の部分に貼り付けるようにすることが
可能である。
【0321】ところで、上述の自動補正処理では、2次
元画像に表示された物体の輪郭線を、画素値の微分値の
法線ベクトル方向成分に基づいて検出し、ユーザが指定
した特徴点を、その輪郭線上に位置するように補正する
ようにしたが、この画素値の微分値の法線ベクトル方向
成分に基づいて、物体の輪郭線を検出する手法は、自動
補正処理の他、広く、物体の輪郭線の検出を必要とする
処理に適用することができる。
【0322】そこで、画素値の微分値の法線ベクトル方
向成分に基づいて、物体の輪郭線を検出(抽出)する輪
郭抽出装置について説明する。
【0323】図41は、そのような輪郭抽出装置の一実
施の形態の構成例を示している。
【0324】パラメータ算出部41には、輪郭線を抽出
する物体が表示された画像と、その物体の形状を表す形
状情報が供給されるようになされており、そこでは、形
状情報に基づいて、1以上のパラメータを用いて表され
る関数が、関数記憶部42から読み出される。即ち、関
数記憶部42は、物体の形状ごとに、その輪郭線を定義
するための、1以上のパラメータを用いて表される関数
を記憶しており、パラメータ算出部41は、関数記憶部
42に記憶されている関数の中から、形状情報に対応し
た形状の物体の輪郭線を表すものを読み出す。
【0325】そして、関数記憶部42から読み出された
関数をfとすると、パラメータ算出部41は、その関数
fについて、式(2)で表されるエネルギEfを算出
し、そのエネルギEfを最大にするパラメータを求め
る。なお、パラメータ算出部41に供給される画像が、
例えば、2次元画像である場合には、式(2)における
△B(xp,yp)として、例えば、画素値などが用いら
れる。また、パラメータ算出部41に供給される画像
が、例えば、3次元画像(3次元のデータを用いて描画
される画像)である場合には、式(2)における△B
(xp,yp)として、ボリュームレンダリングで用いら
れるボリュームデータなどが用いられる。
【0326】パラメータ算出部41は、関数fのパラメ
ータを求めると、その関数fとともにパラメータを、輪
郭抽出部43に供給する。輪郭抽出部43では、パラメ
ータ算出部41からの関数fに、同じくパラメータ算出
部41からのパラメータをセットして計算を行うこと
で、式f=0を満たす点を求め、その点を、物体の輪郭
線を構成する点として出力する。
【0327】ここで、図41の輪郭抽出装置では、現実
的には考えにくいが、2次元や3次元以外の次元の画像
に表示された物体の輪郭であっても、その物体を表すた
めのスカラー量が定義されており、かつその輪郭が、1
以上のパラメータを用いて表される関数fによる式f=
0で定義することができるものであれば、検出すること
が可能である。なお、この場合、式(2)における△B
(xp,yp)としては、物体を表すためのスカラー量の
微分値が用いられる。
【0328】以上のように、ユーザによって指定された
形状情報および特徴点に基づいて、2次元画像の中の3
次元物体を構成する面を、展開画像に変換するための逆
変換式を算出し、その逆変換式に基づいて、2次元画像
の中の3次元物体を構成する面を、展開画像に変換する
一方、ユーザによって指定された形状情報および特徴点
に基づいて、展開画像を、投影画像に変換するための順
変換式を算出し、その順変換式に基づいて、展開画像
を、投影画像に変換し、その投影画像を、2次元画像に
おける特徴点によって特定される部分に貼り付けるよう
にしたので、2次元画像に対して、容易に、3次元的な
編集や加工等を施すことができる。
【0329】従って、図3の画像処理装置では、例え
ば、カメラ9で、あるオブジェクトを撮影した画像があ
る場合に、そのオブジェクトを、再度撮影することな
く、その画像中のオブジェクトの位置や、形状、テクス
チャなどを変更することが可能である。また、この画像
処理装置は、例えば、画像の撮影後に、デザイナが、そ
の画像に対して加工を加える場合などに利用することが
できる。さらに、この画像処理装置は、最近盛んに行わ
れている仮想現実空間のデータを作成する場合や、その
他の画像編集一般に利用することが可能である。また、
この画像処理装置では、現実の物体を撮影した画像の
他、絵画を撮影して得られる画像や、コンピュータグラ
フィクスの技術を使用して描画された画像なども、処理
の対象とすることが可能である。
【0330】なお、注目バッファに記憶された2次元画
像に表示された3次元物体の面を対象に、コピー処理を
行って、ペーストバッファに記憶させ、そのペーストバ
ッファの記憶内容に加工を加えた後に、それを、ペース
ト処理により、元の3次元物体の面に貼り付ける場合に
は、ペースト処理においては、コピー処理を行う際に用
いられた形状情報と特徴点が、そのまま用いられる。こ
れは、このような場合には、コピー処理とペースト処理
とで用いられる形状情報と特徴点は同一のものであるは
ずなので、コピー処理の際に入力された形状情報および
特徴点と同一の形状情報および特徴点を、ペースト処理
の際に、再度、ユーザに入力させるのは冗長であるから
である。また、ユーザに、コピー処理を行う際と、ペー
スト処理を行う際に、それぞれ特徴点を入力させた場
合、自動補正処理が行われても、コピー処理に用いる特
徴点と、ペースト処理に用いる特徴点とが正確に一致し
ないことが考えられ、この場合、コピー処理により、展
開画像が生成される2次元画像上の領域と、ペースト処
理により、投影画像が貼り付けられる2次元画像上の領
域とが一致しなくなり、ペースト処理後の2次元画像が
不自然なものとなることがあるからである。
【0331】次に、図42を参照して、上述した一連の
処理を実行するプログラムをコンピュータにインストー
ルし、コンピュータによって実行可能な状態とするため
に用いられる媒体について説明する。
【0332】プログラムは、図42(A)に示すよう
に、コンピュータ101に内蔵されている記録媒体とし
てのハードディスク102(例えば、図3の演算処理回
路1における外部記憶装置7に対応する)に予めインス
トールした状態でユーザに提供することができる。
【0333】あるいはまた、プログラムは、図42
(B)に示すように、フロッピーディスク111、CD-R
OM(Compact Disc Read Only Memory)112,MO(Magnet
o optical)ディスク113,DVD(Digital Versatile Di
sc)114、磁気ディスク115、半導体メモリ116
などの記録媒体に、一時的あるいは永続的に格納し、パ
ッケージソフトウエアとして提供することができる。
【0334】さらに、プログラムは、図42(C)に示
すように、ダウンロードサイト121から、ディジタル
衛星放送用の人工衛星122を介して、コンピュータ1
23に無線で転送したり、LAN(Local Area Network)、
インターネットといったネットワーク131を介して、
コンピュータ123に有線で転送し、コンピュータ12
3において、内蔵するハードディスクなどに格納させる
ようにすることができる。
【0335】本明細書における媒体とは、これら全ての
媒体を含む広義の概念を意味するものである。
【0336】また、本明細書において、媒体により提供
されるプログラムを記述するステップは、必ずしもフロ
ーチャートとして記載された順序に沿って時系列に処理
する必要はなく、並列的あるいは個別に実行される処理
(例えば、並列処理あるいはオブジェクトによる処理)
も含むものである。
【0337】なお、本実施の形態では、図3の演算処理
回路1に、外部記憶装置7に記憶されたアプリケーショ
ンプログラムを実行させることで、図4の画像処理装置
を実現することとしたが、この画像処理装置は、図4に
示した各ブロックに相当するハードウェアによって実現
することも可能である。
【0338】
【発明の効果】本発明の画像処理装置および画像処理方
法、並びに媒体によれば、形状情報および特徴点に基づ
いて、2次元画像の中の3次元物体を構成する面を、展
開画像に変換するための変換式が算出され、その変換式
に基づいて、2次元画像の中の3次元物体を構成する面
が、展開画像に変換される。従って、2次元画像の中の
3次元物体を構成する面の展開画像を、容易に得ること
が可能となる。
【0339】本発明の他の画像処理装置および画像処理
方法、並びに媒体によれば、形状情報および特徴点に基
づいて、所定の画像を、投影画像に変換するための変換
式が算出され、その変換式に基づいて、所定の画像が、
投影画像に変換される。そして、所定の画像から得られ
た投影画像が、2次元画像における特徴点によって特定
される部分に貼り付けられる。従って、2次元画像の中
に、例えば、3次元物体の投影画像を、容易に貼り付け
ることが可能となる。
【0340】本発明の輪郭抽出装置および輪郭抽出方法
によれば、所定の空間における物体の輪郭を定義する、
1以上のパラメータを用いて表される関数fによる式f
=0上の点のスカラー量の微分値のうちの、その点にお
ける法線ベクトルの方向の成分である法線方向成分を最
大にするパラメータが求められ、そのパラメータを用い
て表される関数fによる式f=0上の点が、物体の輪郭
として抽出される。従って、比較的精度良く、物体の輪
郭を抽出することが可能となる。
【図面の簡単な説明】
【図1】従来のペイントツールによる描画結果を示す図
である。
【図2】従来のペイントツールによる描画結果を示す図
である。
【図3】本発明を適用した画像処理装置の一実施の形態
のハードウェアの構成例を示すブロック図である。
【図4】図3の画像処理装置の機能的構成例を示すブロ
ック図である。
【図5】図4の画像処理装置による2次元画像の処理結
果を示す図である。
【図6】図4の画像処理装置による2次元画像の処理結
果を示す図である。
【図7】図4の画像処理装置の処理を説明するためのフ
ローチャートである。
【図8】図4の画像処理装置が起動されたときに表示さ
れるメインウインドウを示す図である。
【図9】コピー処理を説明するための図である。
【図10】ペースト処理を説明するための図である。
【図11】コピー処理とペースト処理との組み合わせに
よるテクスチャのコピーを説明するための図である。
【図12】ユーザによって指定される特徴点を示す図で
ある。
【図13】図7のステップS7の処理の詳細を説明する
ためのフローチャートである。
【図14】図13のステップS22の処理を説明するた
めの図である。
【図15】2次元画像に表示された3次元物体の輪郭線
の抽出方法を説明するための図である。
【図16】図7のステップS7の処理の詳細を説明する
ためのフローチャートである。
【図17】特徴点の補正方法を説明するための図であ
る。
【図18】逆変換式および順変換式の算出方法を説明す
るための図である。
【図19】3次元空間上の3次元物体、展開画像、およ
び投影画像の関係を示す図である。
【図20】3次元物体が直方体である場合の、逆変換式
および順変換式の算出方法を説明するための図である。
【図21】3次元物体が円柱である場合の、逆変換式お
よび順変換式の算出方法を説明するための図である。
【図22】3次元物体が円柱である場合の、逆変換式お
よび順変換式の算出方法を説明するための図である。
【図23】角度νを説明するための図である。
【図24】図21におけるθの算出方法を説明するため
のフローチャートである。
【図25】3次元物体が球である場合の、逆変換式およ
び順変換式の算出方法を説明するための図である。
【図26】3次元物体が球である場合の、逆変換式およ
び順変換式の算出方法を説明するための図である。
【図27】図26のλ1およびλ2から、μを算出する方
法を説明するための図である。
【図28】図26のλ1およびλ2から、μを算出する方
法を説明するための図である。
【図29】図26のλ1およびλ2から、μを算出する方
法を説明するための図である。
【図30】図26のλ1およびλ2から、μを算出する方
法を説明するための図である。
【図31】3次元物体が円錐である場合の、逆変換式お
よび順変換式の算出方法を説明するための図である。
【図32】3次元物体が円錐である場合の、逆変換式お
よび順変換式の算出方法を説明するための図である。
【図33】角度νを説明するための図である。
【図34】円錐について指定される特徴点の例を示す図
である。
【図35】マット処理を説明するための図である。
【図36】図7のステップS16の処理の詳細を説明す
るためのフローチャートである。
【図37】図36のステップS53の処理を説明するた
めの図である。
【図38】物体の色分布を非線形に変換した変換結果を
示す図である。
【図39】イレース処理を説明するための図である。
【図40】コピー処理を説明するための図である。
【図41】本発明を適用した輪郭抽出装置の一実施の形
態の構成例を示すブロック図である。
【図42】本発明を適用した媒体を説明するための図で
ある。
【符号の説明】
1 演算処理回路, 2 プログラムメモリ, 3 デ
ータメモリ, 4 フレームメモリ, 5 画像表示装
置, 6 入力装置, 7 外部記憶装置,8 外部イ
ンターフェイス, 9 カメラ, 11 入力イベント
処理部, 12 コピー操作処理部, 13 ペースト
操作処理部, 14 ペーストバッファ選択処理部,
15 イレース操作処理部, 16 マット操作処理
部, 17 物体属性操作処理部, 18 ペイント処
理部, 19 変換指定処理部,20 画像変換処理
部, 21 バッファID記憶部, 22 表示処理
部,31 コマンドボタン, 32 形状ボタン, 4
1 パラメータ算出部,42 関数記憶部, 43 輪
郭抽出部, 101 コンピュータ, 102ハードデ
ィスク, 103 半導体メモリ, 111 フロッピ
ーディスク,112 CD-ROM, 113 MOディスク,
114 DVD, 115 磁気ディスク, 116
半導体メモリ, 121 ダウンロードサイト, 12
2 衛星, 123 コンピュータ, 131 ネット
ワーク

Claims (93)

    【特許請求の範囲】
  1. 【請求項1】 2次元画像から、その中に表示された3
    次元物体を構成する面を、2次元平面に展開した画像で
    ある展開画像を生成する画像処理装置において、 前記3次元物体を構成する面の形状に関する形状情報
    と、その面を構成する、前記2次元画像上の点である特
    徴点とを指定するときに操作される操作手段と、 前記形状情報および特徴点に基づいて、前記2次元画像
    の中の前記3次元物体を構成する面を、前記展開画像に
    変換するための変換式を算出する算出手段と、 前記変換式に基づいて、前記2次元画像の中の前記3次
    元物体を構成する面を、前記展開画像に変換する変換手
    段とを備える。
  2. 【請求項2】 請求項1に記載の画像処理装置におい
    て、 前記展開画像を、3次元空間上の前記3次元物体を構成
    する面に写像する関数をψと、その3次元物体を、スク
    リーンに投影し、前記2次元画像とする関数をMと、そ
    れぞれするとき、 前記算出手段は、前記変換式として、関数Mψの逆関数
    を算出する。
  3. 【請求項3】 請求項1に記載の画像処理装置におい
    て、 前記3次元物体を構成する面のうちの少なくとも1つが
    長方形である。
  4. 【請求項4】 請求項3に記載の画像処理装置におい
    て、 前記長方形が、前記形状情報として指定されたとき、 前記2次元画像に表示された前記長方形の頂点が、前記
    特徴点として指定される。
  5. 【請求項5】 請求項1に記載の画像処理装置におい
    て、 前記3次元物体が円柱である。
  6. 【請求項6】 請求項5に記載の画像処理装置におい
    て、 前記円柱の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円柱の側面と、前記円
    柱の底面との交線の2つの端点、 または前記円柱における、前記交線に相当する部分を、
    前記円柱の底面の円周に沿って2等分する点に相当す
    る、前記2次元画像に表示された点が、前記特徴点とし
    て指定される。
  7. 【請求項7】 請求項1に記載の画像処理装置におい
    て、 前記3次元物体が球である。
  8. 【請求項8】 請求項7に記載の画像処理装置におい
    て、 前記球が、前記形状情報として指定された場合、前記球
    について、その中心を原点とし、互いに直交するx軸、
    y軸、z軸からなる3次元空間座標を考えたときに、 前記2次元画像に表示された前記球の中心、 前記3次元空間座標における、前記球とy軸との交点で
    ある極に相当する、前記2次元画像に表示された点、 前記3次元空間座標における、前記球とxz平面との交
    線である赤道の一部に相当する、前記2次元画像に表示
    された部分の2つの端点、 前記2つの端点に相当する、前記赤道上の2点間を、前
    記赤道に沿って2等分する点に相当する、前記2次元画
    像に表示された点、 または前記3次元空間座標における、前記球とyz平面
    との交線の一部に相当する、前記2次元画像に表示され
    た部分の2つの端点 が、前記特徴点として指定される。
  9. 【請求項9】 請求項1に記載の画像処理装置におい
    て、 前記3次元物体が円錐である。
  10. 【請求項10】 請求項9に記載の画像処理装置におい
    て、 前記円錐の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円錐の側面と、前記円
    錐の底面との交線の2つの端点、 前記円錐における前記交線に相当する部分を、前記円錐
    の底面の円周に沿って2等分する点に相当する、前記2
    次元画像に表示された点、 前記円錐の側面を展開した扇形の中心に相当する、前記
    2次元画像に表示された点、 または前記円錐の底面の中心に相当する、前記2次元画
    像に表示された点が、前記特徴点として指定される。
  11. 【請求項11】 請求項1に記載の画像処理装置におい
    て、 前記操作手段が操作されることにより指定された前記特
    徴点を補正する補正手段をさらに備える。
  12. 【請求項12】 請求項11に記載の画像処理装置にお
    いて、 前記2次元画像に表示された前記3次元物体の輪郭が、
    1以上のパラメータを用いて表される関数fによる式f
    =0で定義される場合において、 前記補正手段は、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、その画素における法線ベクトルの方向の
    成分である法線方向成分を最大にする前記パラメータを
    求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線上に位置するように、前記特徴点を補
    正する。
  13. 【請求項13】 請求項12に記載の画像処理装置にお
    いて、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
  14. 【請求項14】 請求項12に記載の画像処理装置にお
    いて、 前記関数fによる式f=0は直線を表し、 前記パラメータは、前記直線上の2点の座標である。
  15. 【請求項15】 2次元画像から、その中に表示された
    3次元物体を構成する面を、2次元平面に展開した画像
    である展開画像を生成する画像処理方法において、 前記3次元物体を構成する面の形状に関する形状情報
    と、その面を構成する、前記2次元画像上の点である特
    徴点とを指定するときに操作される操作手段によって、
    前記形状情報および特徴点が指定された場合に、前記形
    状情報および特徴点に基づいて、前記2次元画像の中の
    前記3次元物体を構成する面を、前記展開画像に変換す
    るための変換式を算出する算出ステップと、 前記変換式に基づいて、前記2次元画像の中の前記3次
    元物体を構成する面を、前記展開画像に変換する変換ス
    テップとを備える。
  16. 【請求項16】 請求項15に記載の画像処理方法にお
    いて、 前記展開画像を、3次元空間上の前記3次元物体を構成
    する面に写像する関数をψと、その3次元物体を、スク
    リーンに投影し、前記2次元画像とする関数をMと、そ
    れぞれするとき、 前記算出ステップにおいて、前記変換式として、関数M
    ψの逆関数を算出する。
  17. 【請求項17】 請求項15に記載の画像処理方法にお
    いて、 前記3次元物体を構成する面のうちの少なくとも1つが
    長方形である。
  18. 【請求項18】 請求項17に記載の画像処理方法にお
    いて、 前記長方形が、前記形状情報として指定されたとき、 前記2次元画像に表示された前記長方形の頂点が、前記
    特徴点として指定される。
  19. 【請求項19】 請求項15に記載の画像処理方法にお
    いて、 前記3次元物体が円柱である。
  20. 【請求項20】 請求項19に記載の画像処理方法にお
    いて、 前記円柱の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円柱の側面と、前記円
    柱の底面との交線の2つの端点、 または前記円柱における、前記交線に相当する部分を、
    前記円柱の底面の円周に沿って2等分する点に相当す
    る、前記2次元画像に表示された点が、前記特徴点とし
    て指定される。
  21. 【請求項21】 請求項15に記載の画像処理方法にお
    いて、 前記3次元物体が球である。
  22. 【請求項22】 請求項21に記載の画像処理方法にお
    いて、 前記球が、前記形状情報として指定された場合、前記球
    について、その中心を原点とし、互いに直交するx軸、
    y軸、z軸からなる3次元空間座標を考えたときに、 前記2次元画像に表示された前記球の中心、 前記3次元空間座標における、前記球とy軸との交点で
    ある極に相当する、前記2次元画像に表示された点、 前記3次元空間座標における、前記球とxz平面との交
    線である赤道の一部に相当する、前記2次元画像に表示
    された部分の2つの端点、 前記2つの端点に相当する、前記赤道上の2点間を、前
    記赤道に沿って2等分する点に相当する、前記2次元画
    像に表示された点、 または前記3次元空間座標における、前記球とyz平面
    との交線の一部に相当する、前記2次元画像に表示され
    た部分の2つの端点 が、前記特徴点として指定される。
  23. 【請求項23】 請求項15に記載の画像処理方法にお
    いて、 前記3次元物体が円錐である。
  24. 【請求項24】 請求項23に記載の画像処理方法にお
    いて、 前記円錐の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円錐の側面と、前記円
    錐の底面との交線の2つの端点、 前記円錐における、前記交線に相当する部分を、前記円
    錐の底面の円周に沿って2等分する点に相当する、前記
    2次元画像に表示された点、 前記円錐の側面を展開した扇形の中心に相当する、前記
    2次元画像に表示された点、 または前記円錐の底面の中心に相当する、前記2次元画
    像に表示された点が、前記特徴点として指定される。
  25. 【請求項25】 請求項15に記載の画像処理方法にお
    いて、 前記操作手段が操作されることにより指定された前記特
    徴点を補正する補正ステップをさらに備える。
  26. 【請求項26】 請求項25に記載の画像処理方法にお
    いて、 前記2次元画像に表示された前記3次元物体の輪郭が、
    1以上のパラメータを用いて表される関数fによる式f
    =0で定義される場合において、 前記補正ステップでは、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、その画素における法線ベクトルの方向の
    成分である法線方向成分を最大にする前記パラメータを
    求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線上に位置するように、前記特徴点を補
    正する。
  27. 【請求項27】 請求項26に記載の画像処理方法にお
    いて、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
  28. 【請求項28】 請求項26に記載の画像処理方法にお
    いて、 前記関数fによる式f=0は直線を表し、 前記パラメータは、前記直線上の2点の座標である。
  29. 【請求項29】 2次元画像から、その中に表示された
    3次元物体を構成する面を、2次元平面に展開した画像
    である展開画像を生成する画像処理を行うためのコンピ
    ュータプログラムを、コンピュータに実行させる媒体に
    おいて、 前記3次元物体を構成する面の形状に関する形状情報
    と、その面を構成する、前記2次元画像上の点である特
    徴点とを指定するときに操作される操作手段によって、
    前記形状情報および特徴点が指定された場合に、前記形
    状情報および特徴点に基づいて、前記2次元画像の中の
    前記3次元物体を構成する面を、前記展開画像に変換す
    るための変換式を算出する算出ステップと、 前記変換式に基づいて、前記2次元画像の中の前記3次
    元物体を構成する面を、前記展開画像に変換する変換ス
    テップとを備えるコンピュータプログラムを、前記コン
    ピュータに実行させる。
  30. 【請求項30】 請求項29に記載の媒体において、 前記展開画像を、3次元空間上の前記3次元物体を構成
    する面に写像する関数をψと、その3次元物体を、スク
    リーンに投影し、前記2次元画像とする関数をMと、そ
    れぞれするとき、 前記算出ステップにおいて、前記変換式として、関数M
    ψの逆関数を算出する。
  31. 【請求項31】 請求項29に記載の媒体において、 前記3次元物体を構成する面のうちの少なくとも1つが
    長方形である。
  32. 【請求項32】 請求項31に記載の媒体において、 前記長方形が、前記形状情報として指定されたとき、 前記2次元画像に表示された前記長方形の頂点が、前記
    特徴点として指定される。
  33. 【請求項33】 請求項29に記載の媒体において、 前記3次元物体が円柱である。
  34. 【請求項34】 請求項33に記載の媒体において、 前記円柱の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円柱の側面と、前記円
    柱の底面との交線の2つの端点、 または前記円柱における、前記交線に相当する部分を、
    前記円柱の底面の円周に沿って2等分する点に相当す
    る、前記2次元画像に表示された点 が、前記特徴点として指定される。
  35. 【請求項35】 請求項29に記載の媒体において、 前記3次元物体が球である。
  36. 【請求項36】 請求項35に記載の媒体において、 前記球が、前記形状情報として指定された場合、 前記球について、その中心を原点とし、互いに直交する
    x軸、y軸、z軸からなる3次元空間座標を考えたとき
    に、 前記2次元画像に表示された前記球の中心、 前記3次元空間座標における、前記球とy軸との交点で
    ある極に相当する、前記2次元画像に表示された点、 前記3次元空間座標における、前記球とxz平面との交
    線である赤道の一部に相当する、前記2次元画像に表示
    された部分の2つの端点、 前記2つの端点に相当する、前記赤道上の2点間を、前
    記赤道に沿って2等分する点に相当する、前記2次元画
    像に表示された点、 または前記3次元空間座標における、前記球とyz平面
    との交線の一部に相当する、前記2次元画像に表示され
    た部分の2つの端点が、前記特徴点として指定される。
  37. 【請求項37】 請求項29に記載の媒体において、 前記3次元物体が円錐である。
  38. 【請求項38】 請求項37に記載の媒体において、 前記円錐の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円錐の側面と、前記円
    錐の底面との交線の2つの端点、 前記円錐における、前記交線に相当する部分を、前記円
    錐の底面の円周に沿って2等分する点に相当する、前記
    2次元画像に表示された点、 前記円錐の側面を展開した扇形の中心に相当する、前記
    2次元画像に表示された点、 または前記円錐の底面の中心に相当する、前記2次元画
    像に表示された点が、前記特徴点として指定される。
  39. 【請求項39】 請求項29に記載の媒体において、 前記コンピュータプログラムは、前記操作手段が操作さ
    れることにより指定された前記特徴点を補正する補正ス
    テップをさらに備える。
  40. 【請求項40】 請求項39に記載の媒体において、 前記2次元画像に表示された前記3次元物体の輪郭が、
    1以上のパラメータを用いて表される関数fによる式f
    =0で定義される場合において、 前記補正ステップでは、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、その画素における法線ベクトルの方向の
    成分である法線方向成分を最大にする前記パラメータを
    求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線上に位置するように、前記特徴点を補
    正する。
  41. 【請求項41】 請求項40に記載の媒体において、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
  42. 【請求項42】 請求項40に記載の媒体において、 前記関数fによる式f=0は直線を表し、 前記パラメータは、前記直線上の2点の座標である。
  43. 【請求項43】 2次元画像に対して、3次元物体を構
    成する面を投影した画像である投影画像を貼り付ける画
    像処理装置において、 前記3次元物体を構成する面の形状に関する形状情報
    と、その面を構成させる前記2次元画像上の点である特
    徴点とを指定するときに操作される操作手段と、 前記形状情報および特徴点に基づいて、2次元平面上の
    所定の画像を、前記投影画像に変換するための変換式を
    算出する算出手段と、 前記変換式に基づいて、前記所定の画像を、前記投影画
    像に変換する変換手段と、 前記所定の画像から得られた前記投影画像を、前記2次
    元画像における前記特徴点によって特定される部分に貼
    り付ける貼り付け手段とを備える。
  44. 【請求項44】 請求項43に記載の画像処理装置にお
    いて、 前記2次元平面上の所定の画像を、3次元空間上の前記
    3次元物体を構成する面に写像する関数をψと、その3
    次元物体を、スクリーンに投影し、2次元画像とする関
    数をMと、それぞれするとき、 前記算出手段は、前記変換式として、関数Mψを算出す
    る。
  45. 【請求項45】 請求項43に記載の画像処理装置にお
    いて、 前記3次元物体が前記2次元画像に表示されている。
  46. 【請求項46】 請求項45に記載の画像処理装置にお
    いて、 前記3次元物体を構成する面のうちの少なくとも1つが
    長方形である。
  47. 【請求項47】 請求項46に記載の画像処理装置にお
    いて、 前記長方形が、前記形状情報として指定されたとき、 前記2次元画像に表示された前記長方形の頂点が、前記
    特徴点として指定される。
  48. 【請求項48】 請求項45に記載の画像処理装置にお
    いて、 前記3次元物体が円柱である。
  49. 【請求項49】 請求項48に記載の画像処理装置にお
    いて、 前記円柱の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円柱の側面と、前記円
    柱の底面との交線の2つの端点、 または前記円柱における、前記交線に相当する部分を、
    前記円柱の底面の円周に沿って2等分する点に相当す
    る、前記2次元画像に表示された点 が、前記特徴点として指定される。
  50. 【請求項50】 請求項45に記載の画像処理装置にお
    いて、 前記3次元物体が球である。
  51. 【請求項51】 請求項50に記載の画像処理装置にお
    いて、 前記球が、前記形状情報として指定された場合、 前記球について、その中心を原点とし、互いに直交する
    x軸、y軸、z軸からなる3次元空間座標を考えたとき
    に、 前記2次元画像に表示された前記球の中心、 前記3次元空間座標における、前記球とy軸との交点で
    ある極に相当する、前記2次元画像に表示された点、 前記3次元空間座標における、前記球とxz平面との交
    線である赤道の一部に相当する、前記2次元画像に表示
    された部分の2つの端点、 前記2つの端点に相当する、前記赤道上の2点間を、前
    記赤道に沿って2等分する点に相当する、前記2次元画
    像に表示された点、 または前記3次元空間座標における、前記球とyz平面
    との交線の一部に相当する、前記2次元画像に表示され
    た部分の2つの端点 が、前記特徴点として指定される。
  52. 【請求項52】 請求項45に記載の画像処理装置にお
    いて、 前記3次元物体が円錐である。
  53. 【請求項53】 請求項52に記載の画像処理装置にお
    いて、 前記円錐の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円錐の側面と、前記円
    錐の底面との交線の2つの端点、 前記円錐における、前記交線に相当する部分を、前記円
    錐の底面の円周に沿って2等分する点に相当する、前記
    2次元画像に表示された点、 前記円錐の側面を展開した扇形の中心に相当する、前記
    2次元画像に表示された点、 または前記円錐の底面の中心に相当する、前記2次元画
    像に表示された点 が、前記特徴点として指定される。
  54. 【請求項54】 請求項45に記載の画像処理装置にお
    いて、 前記操作手段が操作されることにより指定された前記特
    徴点を補正する補正手段をさらに備える。
  55. 【請求項55】 請求項54に記載の画像処理装置にお
    いて、 前記2次元画像に表示された前記3次元物体の輪郭が、
    1以上のパラメータを用いて表される関数fによる式f
    =0で定義される場合において、 前記補正手段は、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、その画素における法線ベクトルの方向の
    成分である法線方向成分を最大にする前記パラメータを
    求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線上に位置するように、前記特徴点を補
    正する。
  56. 【請求項56】 請求項55に記載の画像処理装置にお
    いて、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
  57. 【請求項57】 請求項55に記載の画像処理装置にお
    いて、 前記関数fによる式f=0は直線を表し、 前記パラメータは、前記直線上の2点の座標である。
  58. 【請求項58】 2次元画像に対して、3次元物体を構
    成する面を投影した画像である投影画像を貼り付ける画
    像処理装置の画像処理方法において、 前記3次元物体を構成する面の形状に関する形状情報
    と、その面を構成させる前記2次元画像上の点である特
    徴点とを指定するときに操作される操作手段によって、
    前記形状情報および特徴点が指定された場合に、前記形
    状情報および特徴点に基づいて、2次元平面上の所定の
    画像を、前記投影画像に変換するための変換式を算出す
    る算出ステップと、 前記変換式に基づいて、前記所定の画像を、前記投影画
    像に変換する変換ステップと、 前記所定の画像から得られた前記投影画像を、前記2次
    元画像における前記特徴点によって特定される部分に貼
    り付ける貼り付けステップとを備える。
  59. 【請求項59】 請求項58に記載の画像処理方法にお
    いて、 前記2次元平面上の所定の画像を、3次元空間上の前記
    3次元物体を構成する面に写像する関数をψと、その3
    次元物体を、スクリーンに投影し、2次元画像とする関
    数をMと、それぞれするとき、 前記算出ステップにおいて、前記変換式として、関数M
    ψを算出する。
  60. 【請求項60】 請求項58に記載の画像処理方法にお
    いて、 前記3次元物体が前記2次元画像に表示されている。
  61. 【請求項61】 請求項60に記載の画像処理方法にお
    いて、 前記3次元物体を構成する面のうちの少なくとも1つが
    長方形である。
  62. 【請求項62】 請求項61に記載の画像処理方法にお
    いて、 前記長方形が、前記形状情報として指定されたとき、 前記2次元画像に表示された前記長方形の頂点が、前記
    特徴点として指定される。
  63. 【請求項63】 請求項60に記載の画像処理方法にお
    いて、 前記3次元物体が円柱である。
  64. 【請求項64】 請求項63に記載の画像処理方法にお
    いて、 前記円柱の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円柱の側面と、前記円
    柱の底面との交線の2つの端点、 または前記円柱における、前記交線に相当する部分を、
    前記円柱の底面の円周に沿って2等分する点に相当す
    る、前記2次元画像に表示された点が、前記特徴点とし
    て指定される。
  65. 【請求項65】 請求項60に記載の画像処理方法にお
    いて、 前記3次元物体が球である。
  66. 【請求項66】 請求項65に記載の画像処理方法にお
    いて、 前記球が、前記形状情報として指定された場合、 前記球について、その中心を原点とし、互いに直交する
    x軸、y軸、z軸からなる3次元空間座標を考えたとき
    に、 前記2次元画像に表示された前記球の中心、 前記3次元空間座標における、前記球とy軸との交点で
    ある極に相当する、前記2次元画像に表示された点、 前記3次元空間座標における、前記球とxz平面との交
    線である赤道の一部に相当する、前記2次元画像に表示
    された部分の2つの端点、 前記2つの端点に相当する、前記赤道上の2点間を、前
    記赤道に沿って2等分する点に相当する、前記2次元画
    像に表示された点、 または前記3次元空間座標における、前記球とyz平面
    との交線の一部に相当する、前記2次元画像に表示され
    た部分の2つの端点が、前記特徴点として指定される。
  67. 【請求項67】 請求項60に記載の画像処理方法にお
    いて、 前記3次元物体が円錐である。
  68. 【請求項68】 請求項67に記載の画像処理方法にお
    いて、 前記円錐の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円錐の側面と、前記円
    錐の底面との交線の2つの端点、 前記円錐における、前記交線に相当する部分を、前記円
    錐の底面の円周に沿って2等分する点に相当する、前記
    2次元画像に表示された点、 前記円錐の側面を展開した扇形の中心に相当する、前記
    2次元画像に表示された点、 または前記円錐の底面の中心に相当する、前記2次元画
    像に表示された点が、前記特徴点として指定される。
  69. 【請求項69】 請求項60に記載の画像処理方法にお
    いて、 前記操作手段が操作されることにより指定された前記特
    徴点を補正する補正ステップをさらに備える。
  70. 【請求項70】 請求項69に記載の画像処理方法にお
    いて、 前記2次元画像に表示された前記3次元物体の輪郭が、
    1以上のパラメータを用いて表される関数fによる式f
    =0で定義される場合において、 前記補正ステップでは、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、その画素における法線ベクトルの方向の
    成分である法線方向成分を最大にする前記パラメータを
    求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線上に位置するように、前記特徴点を補
    正する。
  71. 【請求項71】 請求項70に記載の画像処理方法にお
    いて、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
  72. 【請求項72】 請求項70に記載の画像処理方法にお
    いて、 前記関数fによる式f=0は直線を表し、 前記パラメータは、前記直線上の2点の座標である。
  73. 【請求項73】 2次元画像に対して、3次元物体を構
    成する面を投影した画像である投影画像を貼り付ける画
    像処理を行うためのコンピュータプログラムを、コンピ
    ュータに実行させる媒体において、 前記3次元物体を構成する面の形状に関する形状情報
    と、その面を構成させる前記2次元画像上の点である特
    徴点とを指定するときに操作される操作手段によって、
    前記形状情報および特徴点が指定された場合に、前記形
    状情報および特徴点に基づいて、2次元平面上の所定の
    画像を、前記投影画像に変換するための変換式を算出す
    る算出ステップと、 前記変換式に基づいて、前記所定の画像を、前記投影画
    像に変換する変換ステップと、 前記所定の画像から得られた前記投影画像を、前記2次
    元画像における前記特徴点によって特定される部分に貼
    り付ける貼り付けステップとを備えるコンピュータプロ
    グラムを、前記コンピュータに実行させる。
  74. 【請求項74】 請求項73に記載の媒体において、 前記2次元平面上の所定の画像を、3次元空間上の前記
    3次元物体を構成する面に写像する関数をψと、その3
    次元物体を、スクリーンに投影し、2次元画像とする関
    数をMと、それぞれするとき、 前記算出ステップにおいて、前記変換式として、関数M
    ψを算出する。
  75. 【請求項75】 請求項73に記載の媒体において、 前記3次元物体が前記2次元画像に表示されている。
  76. 【請求項76】 請求項75に記載の媒体において、 前記3次元物体を構成する面のうちの少なくとも1つが
    長方形である。
  77. 【請求項77】 請求項76に記載の媒体において、 前記長方形が、前記形状情報として指定されたとき、 前記2次元画像に表示された前記長方形の頂点が、前記
    特徴点として指定される。
  78. 【請求項78】 請求項75に記載の媒体において、 前記3次元物体が円柱である。
  79. 【請求項79】 請求項78に記載の媒体において、 前記円柱の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円柱の側面と、前記円
    柱の底面との交線の2つの端点、 または前記円柱における、前記交線に相当する部分を、
    前記円柱の底面の円周に沿って2等分する点に相当す
    る、前記2次元画像に表示された点が、前記特徴点とし
    て指定される。
  80. 【請求項80】 請求項75に記載の媒体において、 前記3次元物体が球である。
  81. 【請求項81】 請求項80に記載の媒体において、 前記球が、前記形状情報として指定された場合、 前記球について、その中心を原点とし、互いに直交する
    x軸、y軸、z軸からなる3次元空間座標を考えたとき
    に、 前記2次元画像に表示された前記球の中心、 前記3次元空間座標における、前記球とy軸との交点で
    ある極に相当する、前記2次元画像に表示された点、 前記3次元空間座標における、前記球とxz平面との交
    線である赤道の一部に相当する、前記2次元画像に表示
    された部分の2つの端点、 前記2つの端点に相当する、前記赤道上の2点間を、前
    記赤道に沿って2等分する点に相当する、前記2次元画
    像に表示された点、 または前記3次元空間座標における、前記球とyz平面
    との交線の一部に相当する、前記2次元画像に表示され
    た部分の2つの端点が、前記特徴点として指定される。
  82. 【請求項82】 請求項75に記載の媒体において、 前記3次元物体が円錐である。
  83. 【請求項83】 請求項82に記載の媒体において、 前記円錐の側面が、前記形状情報として指定されたと
    き、 前記2次元画像に表示された前記円錐の側面と、前記円
    錐の底面との交線の2つの端点、 前記円錐における、前記交線に相当する部分を、前記円
    錐の底面の円周に沿って2等分する点に相当する、前記
    2次元画像に表示された点、 前記円錐の側面を展開した扇形の中心に相当する、前記
    2次元画像に表示された点、 または前記円錐の底面の中心に相当する、前記2次元画
    像に表示された点が、前記特徴点として指定される。
  84. 【請求項84】 請求項75に記載の媒体において、 前記コンピュータプログラムは、前記操作手段が操作さ
    れることにより指定された前記特徴点を補正する補正ス
    テップをさらに備える。
  85. 【請求項85】 請求項84に記載の媒体において、 前記2次元画像に表示された前記3次元物体の輪郭が、
    1以上のパラメータを用いて表される関数fによる式f
    =0で定義される場合において、 前記補正ステップでは、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、その画素における法線ベクトルの方向の
    成分である法線方向成分を最大にする前記パラメータを
    求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線上に位置するように、前記特徴点を補
    正する。
  86. 【請求項86】 請求項85に記載の媒体において、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
  87. 【請求項87】 請求項85に記載の媒体において、 前記関数fによる式f=0は直線を表し、 前記パラメータは、前記直線上の2点の座標である。
  88. 【請求項88】 所定の空間において、スカラー量が定
    義されている物体の輪郭を抽出する輪郭抽出装置におい
    て、 前記所定の空間における前記物体の輪郭が、1以上のパ
    ラメータを用いて表される関数fによる式f=0で定義
    される場合において、 前記式f=0上の点の前記スカラー量の微分値のうち
    の、その点における法線ベクトルの方向の成分である法
    線方向成分を最大にする前記パラメータを求めるパラメ
    ータ算出手段と、 そのパラメータを用いて表される前記関数fによる式f
    =0上の点を、前記物体の輪郭として抽出する輪郭抽出
    手段とを備える。
  89. 【請求項89】 請求項88に記載の輪郭抽出装置にお
    いて、 前記物体が2次元画像の中に表示され、その画素値が定
    義されている場合において、 前記パラメータ算出手段は、前記式f=0で表される線
    を構成する画素の画素値の微分値のうちの、前記法線方
    向成分を最大にする前記パラメータを求め、 前記輪郭抽出手段は、そのパラメータを用いて表される
    前記関数fによる式f=0で表される線を、前記2次元
    画像における前記物体の輪郭として抽出する。
  90. 【請求項90】 請求項88に記載の輪郭抽出装置にお
    いて、 前記パラメータ算出手段は、前記法線方向成分を、前記
    パラメータを変化させながら求めることにより、前記法
    線方向成分を最大にする前記パラメータを求める。
  91. 【請求項91】 所定の空間において、スカラー量が定
    義されている物体の輪郭を抽出する輪郭抽出方法におい
    て、 前記所定の空間における前記物体の輪郭が、1以上のパ
    ラメータを用いて表される関数fによる式f=0で定義
    される場合において、 前記式f=0上の点の前記スカラー量の微分値のうち
    の、その点における法線ベクトルの方向の成分である法
    線方向成分を最大にする前記パラメータを求め、 そのパラメータを用いて表される前記関数fによる式f
    =0上の点を、前記物体の輪郭として抽出する。
  92. 【請求項92】 請求項91に記載の輪郭抽出方法にお
    いて、 前記物体が2次元画像の中に表示され、その画素値が定
    義されている場合において、 前記式f=0で表される線を構成する画素の画素値の微
    分値のうちの、前記法線方向成分を最大にする前記パラ
    メータを求め、 そのパラメータを用いて表される前記関数fによる式f
    =0で表される線を、前記2次元画像における前記物体
    の輪郭として抽出する。
  93. 【請求項93】 請求項91に記載の輪郭抽出方法にお
    いて、 前記法線方向成分を、前記パラメータを変化させながら
    求めることにより、前記法線方向成分を最大にする前記
    パラメータを求める。
JP11146797A 1998-06-02 1999-05-26 画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法 Withdrawn JP2000057378A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11146797A JP2000057378A (ja) 1998-06-02 1999-05-26 画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP10-152823 1998-06-02
JP15282398 1998-06-02
JP11146797A JP2000057378A (ja) 1998-06-02 1999-05-26 画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法

Publications (1)

Publication Number Publication Date
JP2000057378A true JP2000057378A (ja) 2000-02-25

Family

ID=26477523

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11146797A Withdrawn JP2000057378A (ja) 1998-06-02 1999-05-26 画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法

Country Status (1)

Country Link
JP (1) JP2000057378A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006120166A (ja) * 2004-10-25 2006-05-11 Adobe Syst Inc 二次元画像に対する遠近法編集ツール
WO2006061999A1 (ja) * 2004-12-07 2006-06-15 Matsushita Electric Industrial Co., Ltd. 画像変換方法、装置およびプログラム、テクスチャマッピング方法、装置およびプログラム、並びに、サーバークライアントシステム
JP2009116464A (ja) * 2007-11-02 2009-05-28 Hitachi Software Eng Co Ltd 輪郭情報生成方法及びシステム、並びにプログラム
KR101388133B1 (ko) * 2007-02-16 2014-04-23 삼성전자주식회사 2차원 실사 영상으로부터 3차원 모델을 생성하는 방법 및장치
CN112509105A (zh) * 2020-11-12 2021-03-16 杭州群核信息技术有限公司 一种纹理连续的建筑物表面铺贴方法及装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006120166A (ja) * 2004-10-25 2006-05-11 Adobe Syst Inc 二次元画像に対する遠近法編集ツール
JP2008257752A (ja) * 2004-10-25 2008-10-23 Adobe Syst Inc 二次元画像に対する遠近法編集ツール
WO2006061999A1 (ja) * 2004-12-07 2006-06-15 Matsushita Electric Industrial Co., Ltd. 画像変換方法、装置およびプログラム、テクスチャマッピング方法、装置およびプログラム、並びに、サーバークライアントシステム
US7486837B2 (en) 2004-12-07 2009-02-03 Panasonic Corporation Method, device, and program for image conversion, method, device and program for texture mapping, and server-client system
KR101388133B1 (ko) * 2007-02-16 2014-04-23 삼성전자주식회사 2차원 실사 영상으로부터 3차원 모델을 생성하는 방법 및장치
JP2009116464A (ja) * 2007-11-02 2009-05-28 Hitachi Software Eng Co Ltd 輪郭情報生成方法及びシステム、並びにプログラム
CN112509105A (zh) * 2020-11-12 2021-03-16 杭州群核信息技术有限公司 一种纹理连续的建筑物表面铺贴方法及装置

Similar Documents

Publication Publication Date Title
US6529206B1 (en) Image processing apparatus and method, and medium therefor
JP2000090290A (ja) 画像処理装置および画像処理方法、並びに媒体
US6556195B1 (en) Image processing device and image processing method
US7199793B2 (en) Image-based modeling and photo editing
US6417850B1 (en) Depth painting for 3-D rendering applications
JP3184327B2 (ja) 3次元グラフィックス処理方法及びその装置
JP5299173B2 (ja) 画像処理装置および画像処理方法、並びにプログラム
US20150325044A1 (en) Systems and methods for three-dimensional model texturing
US20010056308A1 (en) Tools for 3D mesh and texture manipulation
US20080278514A1 (en) Dynamically adjusted brush for direct paint systems on parameterized multi-dimensional surfaces
EP1008112A1 (en) Techniques for creating and modifying 3d models and correlating such models with 2d pictures
GB2419504A (en) Perspective editing tool
US7167173B2 (en) Method and structure for image-based object editing
US10853990B2 (en) System and method for processing a graphic object
CN109523622B (zh) 一种非结构化的光场渲染方法
US6975334B1 (en) Method and apparatus for simulating the appearance of paving stone on an existing driveway
US6801654B2 (en) Picture processing apparatus, method and recording medium for a natural expansion drawing
Crow Shaded computer graphics in the entertainment industry
JP2000057377A (ja) 画像処理装置および画像処理方法、並びに媒体
JP2000057378A (ja) 画像処理装置および画像処理方法、媒体、並びに輪郭抽出装置および輪郭抽出方法
JP2001266176A (ja) 画像処理装置および画像処理方法、並びに記録媒体
JPH08153213A (ja) 画像合成表示方法
JPH05298460A (ja) 貝殻質感表現装置
JP2973413B2 (ja) コンピュータグラフィックスの照度計算方法及び表示装置
JPH07234949A (ja) 透視図作成支援方法および透視図作成支援システム

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20060801