JP2003087549A - 画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 - Google Patents
画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体Info
- Publication number
- JP2003087549A JP2003087549A JP2001276605A JP2001276605A JP2003087549A JP 2003087549 A JP2003087549 A JP 2003087549A JP 2001276605 A JP2001276605 A JP 2001276605A JP 2001276605 A JP2001276605 A JP 2001276605A JP 2003087549 A JP2003087549 A JP 2003087549A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- user
- columns
- rows
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Controls And Circuits For Display Device (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
関係と対応するようにモニタ画面上に2次元配置する際
の操作が簡単となるとともに画像の配置ミスが起こりに
くくなる画像合成装置を提供することを目的とする。 【解決手段】 合成すべき複数枚の画像をモニタ画面上
にm行n列に配置させるための複数種類の画像配置パタ
ーンを含む画像配置パターン選択画面をモニタ画面に表
示させる手段、画像配置パターン選択画面上において複
数種類の画像配置パターンから1つの画像配置パターン
をユーザに選択させるための手段、ならびにユーザによ
って選択された画像配置パターンにしたがって、合成す
べき複数枚の画像をモニタ画面上にm行n列配置させる
手段を備えている。
Description
の顕微鏡画像から、各画像を自動的に接合し、高解像度
かつ広視野の合成画像を獲得するための、画像合成装
置、画像合成方法、画像合成プログラムを記録したコン
ピュータ読み取り可能な記録媒体に関する。
方法についての説明
し、得られたオプティカルフローに基づいて、2枚の画
像間での位置合わせを行う技術が知られている。従来の
オプテカルフローの算出方法について説明する。
(オプティカルフロー)を計算する手法が数多く提案さ
れている。中でも局所勾配法であるLucas-Kanade法は、
最も良い手法の一つである。その理由は、処理が高速、
実装が容易、結果が信頼度を持つことである。
B.Lucas and T.Kanade,"An Iterative Image Registra
tion Technique with an Application to Stereo Visio
n,"In Seventh International Joint Conference on Ar
tificial Intelligence(IJCAI-81), pp. 674-979, 1981
を参照のこと。
ある時刻tの画像座標p=(x,y)の濃淡パターンI
(x,y,t)が、ある微小時間後(δt)に座標(x
+δx,y+δy)に、その濃淡分布を一定に保ったま
ま移動した時、次のオプティカルフロー拘束式1が成り
立つ。
(δx/δt,δy/δt)=(u,v)}を計算する
には、未知パラメータ数が2個であるので、もう一個拘
束式が必要である。Lucas とKanade( 金出) は、同一物
体の局所領域では、同一のオプティカルフローを持つと
仮定した。
ィカルフローが一定であるとすると、最小化したい濃淡
パターンの二乗誤差Eは、 I0 (p)=I(x,y,t), I1 (p+v)=I(x+u,y+v,t+δt) と書き改めると、次式2で定義できる。
開の2次以上の項を無視できるので、次式3の関係が成
り立つ。
分である。
微分値が0の時であるので、次式4の関係が成り立つ。
られる。
ラフソン的な反復演算によって精度良く求めることがで
きる。
好な初期値が必要なために、大きな動きに対しては適用
できないことである。そこで、従来からピラミッド階層
構造型に数段回の解像度の異なる画像を作成して解決す
る方法が提案されている。
予めそれぞれの画像の数段階の解像度の異なる画像を作
成する。次に、最も解像度の低い画像間において、おお
まかなオプティカルフローを計算する。そして、この結
果を参考にして、一段解像度の高い画像間においてより
精密なオプティカルフローを計算する。この処理を最も
解像度の高い画像間まで順次繰り返す。
解像度の低い画像を、図2は図3の低解像度画像より解
像度の低い画像を、図1は図2の低解像度画像より解像
度の低い画像を、それぞれ示している。図1〜図4にお
いて、Sは、1つのパッチを示している。
(階層2の画像)、図3の画像(階層3の画像)および
図4の画像(階層4の画像)の順番で段階的にオプティ
カルフローが求められる。図1〜図4において矢印は、
パッチ毎に求められたオプティカルフローベクトルを示
している。
では、十分な模様(テクスチャ)を含む領域が少なく、
信頼性のあるオプティカルフローが得られないことにあ
る。
ロー算出方法についての説明。
出方法は、ピラミッド階層型に数段回の解像度の異なる
画像を作成して、オプティカルフローを段階的に計算す
る階層的推定を前提としている。オプティカルフローの
計算方法は、Lucas-Kanade法等の勾配法に従う。つま
り、階層構造化した勾配法によるオプティカルフロー推
定法を前提としている。ここでは、勾配法としてLucas-
Kanade法が用いられている。
定方法の特徴は、階層構造化したLucas-Kanade法による
オプティカルフロー推定法の各段階において得られたオ
プティカルフローを、膨張処理によって補完することに
ある。以下、これについて詳しく説明する。
が信頼性を持つことである。Tomasiと Kanade とは、あ
る領域の追跡可能性が、以下のように微分画像から算出
できることを示した(C.Tomasi and T.Kanade,"Shape an
d Motion from Image Streams: a Factorization metho
d-Part 3 Detection and Tracking of Point Features
,"CMU-CS-91-132, Carnegie Mellon University, 199
1.) 。
2乗を要素に持つ次式7の2×2の係数行列Gから、そ
の固有値を計算することで、その領域の追跡可能性を決
定することができる。
には、その領域は直交方向に変化を持ち、一意の位置決
めが可能である。従って、小さい方の固有値λmin と、
追跡後の領域間の濃淡残差Eから、追跡結果の信頼度γ
を次式8によって得ることができる。
階層内で信頼度の高い結果を用いて、信頼度の低い領域
を補間する方法を開発した。これは、一段階粗い階層で
の結果を、追跡の初期値だけに用いて、着目している現
段階の階層の結果には何も利用しない。代わりに、テク
スチャの少ない領域のオプティカルフローはその周囲の
オプティカルフローに近い値を持つと仮定し、モルフォ
ロジー処理によりフロー場を補完するものである。
示す。
を濃淡で表したものである。ここで、黒ければ黒い程信
頼度が高いとする。
る。白い部分は、結果の信頼度が低いために、しきい値
処理されたものである。
よる穴埋め処理を模して、フロー場において結果の膨張
処理を次のように行う。ある領域i,jのフローベクト
ルu(i,j)は、その4近傍のフローベクトルから信
頼度γに応じて重み付けを行って次式9のように計算で
きる。
信頼度の低い領域が埋まるまで、繰り返す。この補完処
理を、各階層において行う。なお、ある領域i,jのフ
ローベクトルu(i,j)を、その8近傍のフローベク
トルから信頼度γに応じて重み付けを行って算出するよ
うにしてもよい。
きい値処理されたオプティカルフローを示し、図6
(b)は補完後のオプティカルフローを示している。図
6(a)において、矢印はしきい値処理によって信頼度
が高いと判定されたオプティカルフローベクトルであ
り、×印は信頼度が低いとされた部分を示している。
の幾何変換係数を算出し、算出した幾何変換係数に基づ
いて合成する技術(画像合成ソフト)を開発している。
フトでは、2次元配列状に撮像した複数の画像を連結し
て1枚の合成画像を生成する場合、まず、複数枚の撮影
画像をそれらの配置位置が実際の相対位置関係と合致す
るように、モニタ画面上に2次元配置させる。この配置
位置情報(画像間の相対位置関係)を利用して、画像の
重なり部を抽出すべき隣接画像ペアを決定し、各隣接画
像毎に画像の重なり部を抽出する。各隣接画像毎に抽出
した画像の重なり部を利用して、各隣接画像毎に、特徴
点の対応付けを行なう。各隣接画像毎に対応付けられた
特徴点を利用して、各隣接画像毎に幾何変換係数を算出
し、各隣接画像毎に算出された幾何変換係数を利用して
全画像を合成する。
置位置が実際の相対位置関係と合致するようにモニタ画
面上に2次元配置する際、ユーザが各画像毎にその配置
位置を設定していた。このため、複数枚の撮影画像をモ
ニタ画面上に2次元配置させるための操作が面倒である
という問題がある。また、ユーザが1枚ずつ撮像画像の
配置位置を設定するため、画像の配置ミスが起こりやす
いという問題がある。
撮影画像を実際の位置関係と対応するようにモニタ画面
上に2次元配置する際の操作が簡単となるとともに画像
の配置ミスが起こりにくくなる画像合成装置、画像合成
方法および画像合成処理プログラムを記録したコンピュ
ータ読み取り可能な記録媒体を提供することを目的とす
る。
装置は、合成すべき複数枚の画像を、それらの配置位置
が実際の相対位置関係と合致するように、モニタ画面上
にm行n列(m,nとも自然数)配置させ、各画像の配
置位置情報を利用して、全画像を合成する画像合成装置
において、合成すべき複数枚の画像をモニタ画面上にm
行n列に配置させるための複数種類の画像配置パターン
を含む画像配置パターン選択画面をモニタ画面に表示さ
せる手段、画像配置パターン選択画面上において複数種
類の画像配置パターンから1つの画像配置パターンをユ
ーザに選択させるための手段、ならびにユーザによって
選択された画像配置パターンにしたがって、合成すべき
複数枚の画像をモニタ画面上にm行n列配置させる手段
を備えていることを特徴とする。
せるとともに、選択した画像に応じて行数mと列数nと
をユーザに設定させるための手段を備えていることが好
ましい。また、今回においてユーザによって選択された
画像配置パターンを、次回の画像配置パターン選択時に
選択パターンの初期値とする手段を備えていることが好
ましい。
き複数枚の画像を、それらの配置位置が実際の相対位置
関係と合致するように、モニタ画面上にm行n列(m,
nとも自然数)配置させ、各画像の配置位置情報を利用
して、全画像を合成する画像合成方法において、合成す
べき複数枚の画像をモニタ画面上にm行n列に配置させ
るための複数種類の画像配置パターンを含む画像配置パ
ターン選択画面をモニタ画面に表示させるステップ、画
像配置パターン選択画面上において複数種類の画像配置
パターンから1つの画像配置パターンをユーザに選択さ
せるステップ、ならびにユーザによって選択された画像
配置パターンにしたがって、合成すべき複数枚の画像を
モニタ画面上にm行n列配置させるステップを備えてい
ることを特徴とする。
せるとともに、選択した画像に応じて行数mと列数nと
をユーザに設定させるステップを備えていることが好ま
しい。また、今回においてユーザによって選択された画
像配置パターンを、次回の画像配置パターン選択時に選
択パターンの初期値とするステップを備えていることが
好ましい。
数枚の画像を、それらの配置位置が実際の相対位置関係
と合致するように、モニタ画面上にm行n列(m,nと
も自然数)配置させ、各画像の配置位置情報を利用し
て、全画像を合成する画像合成処理プログラムを記録し
たコンピュータ読み取り可能な記録媒体であって、合成
すべき複数枚の画像をモニタ画面上にm行n列に配置さ
せるための複数種類の画像配置パターンを含む画像配置
パターン選択画面をモニタ画面に表示させるステップ、
画像配置パターン選択画面上において複数種類の画像配
置パターンから1つの画像配置パターンをユーザに選択
させるステップ、ならびにユーザによって選択された画
像配置パターンにしたがって、合成すべき複数枚の画像
をモニタ画面上にm行n列配置させるステップをコンピ
ュータに実行させるためのプログラムを記録しているこ
とを特徴とする。
せるとともに、選択した画像に応じて行数mと列数nと
をユーザに設定させるステップをコンピュータに実行さ
せるためのプログラムを記録していることが好ましい。
また、今回においてユーザによって選択された画像配置
パターンを、次回の画像配置パターン選択時に選択パタ
ーンの初期値とするステップをコンピュータに実行させ
るためのプログラムを記録していることが好ましい。
装置に適用した場合の実施の形態について説明する。
説明
示している。
ュータによって実現される。パーソナルコンピュータ1
0には、ディスプレイ(モニタ)21、マウス22およ
びキーボード23が接続されている。パーソナルコンピ
ュータ10は、CPU11、メモリ12、ハードディス
ク13、CD−ROMのようなリムーバブルディスクの
ドライブ(ディスクドライブ)14を備えている。
ティングシステム)等の他、顕微鏡画像合成処理プログ
ラムが格納されている。顕微鏡画像合成処理プログラム
は、それが格納されたCD−ROM20を用いて、ハー
ドディスク13にインストールされる。また、ハードデ
ィスク13には、合成されるべき複数の顕微鏡画像が予
め格納されているものとする。
起動された場合にCPU11によって行われる顕微鏡画
像合成処理手順の説明。
ラで、台を移動させたり、試料を移動させながら、各画
像間で重なりを持った複数の顕微鏡画像を撮像する。そ
して、得られた複数の顕微鏡画像をハードディスク13
に格納しておく。
的な処理手順を示している。
下、画像という)を入力する(ステップ1)。つまり、
合成すべき複数の画像を選択し、選択した複数枚の画像
をそれらの配置位置が実際の相対位置関係と合致するよ
うに、モニタ画面上に配置する。
(ステップ2)。つまり、入力画像のうちから合成処理
の基準面となる画像を選択したり、入力画像に対してレ
ンズ歪み補正処理を行なったり、シェーディング補正処
理を行なったりする。
グ補正が行なわれた複数の画像を接合するための処理を
行なう。この画像合成モードとしては、3つのモードが
ある。
ード、画像間の位置合わせ(画像間の重なり部の抽出)
を手動で設定する第2モード、画像間の特徴点の対応付
けを手動で行なう第3モードがある。
位置合わせを行う(ステップ3)。つまり、全入力画像
のおおまかな位置合わせ(平行移動のみ)を自動で行な
い、位置合わせの結果を表示する。
せる(ステップ4)。たとえば、平行移動のみによる合
成(並進)か、平行移動に加えて光軸まわりの回転を考
慮して合成(並進+回転)するかの選択をユーザに行な
わせる。
よび特徴点追跡処理(ステップ6)を行なった後、幾何
変換行列を算出する(ステップ7)。そして、画素値調
合の重みを算出し(ステップ8)、最後に画像合成を行
う(ステップ9)。
わせが失敗するような場合に備えて、用意されている。
第2モードでは、前処理の後、手動位置合わせを行なう
(ステップ10)。つまり、全入力画像から選択された
各隣接画像ペア毎に、両画像の間の位置合わせ(平行移
動のみ)を手動で行う。この後、上記ステップ4〜9の
処理を行なう。
ドによる合成が失敗するような場合に備えて用意されて
いる。第3モードでは、前処理の後、ユーザに特徴点を
設定させる(ステップ11)。つまり、全入力画像から
選択された各隣接画像ペア毎に、両画像間で一致させた
い部分(特徴点)を手動で設定する。次に、合成パラメ
ータをユーザに選択させる(ステップ12)。この後、
上記ステップ7〜9の処理を行なう。
説明
れている画像フォルダを選択するためのフォルダツリー
表示部101、選択された画像フォルダに格納されてい
る画像ファイルを表示するための画像ファイル表示部1
02、作業スペース103、行列数の設定部104、基
準画像選択ボタン105、レンズ歪み補正ボタン10
6、シェーディング補正ボタン107、選択画像入力ボ
タン108、全画像入力ボタン109、選択画像入力解
除ボタン110、全画像入力解除ボタン111、自動位
置合わせボタン112、手動位置合わせボタン113、
特徴点設定ボタン114等を備えている。
プ21)。フォルダツリー表示部101内に表示されて
いるフォルダツリーから、合成すべき画像が格納されて
いる画像フォルダを指定すると、指定された画像フォル
ダに格納されている画像が画像ファイル表示ウインドウ
102に縦方向に表示される。ここでは、指定された画
像フォルダには9枚の画像が格納されており、画像ファ
イル表示ウインドウ102にそれらの9枚の画像がフォ
ルダ名順に表示されたものとする。なお、これらの画像
を、撮像した日時順に表示するようにしてもよい。
業スペース103内に表示される画像入力枠の行列数を
設定する(ステップ22)。なお、行列数の初期値は3
×3であり、作業スペース103内には3×3の画像入
力枠が表示されている。
部104に行数および列数を入力した後にEnter キーを
押すか、全画像入力枠を囲む全画像入力領域Sの右下の
調整つまみ115をドラッグすることによって行なわれ
る。ここでは、行数および列数とも、初期値”3”が維
持されたとする。したがって、作業スペース103内に
は、3×3の画像入力枠が表示されたままとなる。
すると(ステップ23)、図11に示すような画像配置
パターン選択画面が画像入力画面上に表示される(ステ
ップ24)。
イル表示部102に縦方向に表示された画像を2次元配
置された画像入力枠にどのような配置で入力するかを示
す複数種類の画像配置パターンA〜Dと、画像配置パタ
ーンを選択するためのラジオボタンと、OKボタンと、
キャンセルボタンとが表示される。
ボタンが選択された状態となっている。画像合成プログ
ラムがインストールされた直後においては、予め定めら
れたデフォルトの画像配置パターンに対するラジオボタ
ンが選択された状態として表示されるが、ユーザによっ
て画像配置パターンが1度でも選択された後において
は、最新にユーザによって選択された画像配置パターン
に対するラジオボタンが選択された状態として表示され
る。
方向に表示された複数枚の画像が実際の相対位置関係を
保持した状態で2次元配置されるように、画像配置パタ
ーンを選択した後、OKボタンをクリックする(ステッ
プ25)。この結果、画像ファイル表示部102に縦方
向に表示された各画像が、2次元配置された画像入力枠
内に自動的に入力(表示)される(ステップ26)。つ
まり、各画像が、それらの実際の相対位置関係を保持し
た状態で2次元配置される。
9で表すと、各画像配置パターンA〜Dと、画像A1〜
A9の2次元配列位置との関係は、図12に示すように
なる。
が2次元配置されると、各画像のファイル名と、各画像
の2次元配置位置(画像が入力された画像入力枠の位
置)(x,y)とが記憶される(ステップ27)。各画
像の2次元配置位置(x,y)は、全画像入力領域Sの
左上を原点として、右方向にx方向を、下方向にy方向
をとったXY座標系で表される。
は選択画像入力ボタン108によって、各画像入力枠内
に、1つずつ画像を入力させていくことも可能である。
た画像を解除することもできる。全画像入力解除ボタン
111を押すと、全ての入力画像が解除され、入力画像
を選択した後に選択画像入力解除ボタン110を押すと
選択した入力画像が解除される。また、入力画像を全画
像入力領域S外へドラッグ&ドロップすることによって
も入力画像を解除することができる。
(a)〜(c)に示す”改行復帰・改列復帰パターン、
図13の(d)〜(f)に示す”折り返しパターン、図
13の(g)〜(i)に示す渦巻きパターン等を用いる
ことができる。
明
した後に、基準画像選択ボタン105を押せばよい。
タン106を押すと、入力画像に対してレンズ歪み補正
処理が行なわれる。
る。この歪みを取り除くための補正ベクトル(du,d
v)を、次式10を用いて計算する。
し、直交座標軸をU,Vとした時の座標である。また、
kはレンズ歪み補正係数である。
て、入力画像の座標(u,v)を、次式11によって、
座標(u’,v’)に変換することでレンズ歪みを補正
する。
歪み補正ボタン106を押すと、図14に示すようなレ
ンズ歪み係数設定画面が表示される。ユーザは、レンズ
歪み補正係数kを、レンズ歪み係数設定画面上のスライ
ダーバー31を操作することによって設定する。
補正前の画像が表示される領域32と、レンズ歪み補正
後の画像が表示される領域33とが設けられている。こ
のため、ユーザは、レンズ歪み補正前の画像とレンズ歪
み補正後の画像とを同時に見ることができる。また、ユ
ーザは、スライダーバー31で係数kを設定するとリア
ルタイムで変換画像(レンズ歪み補正後の画像)が表示
されるため、簡単な操作でかつ、直感的に係数を設定す
ることができる。
正ボタン107を押すと、入力画像に対してシェーディ
ング補正処理が行なわれる。
画像の周辺部が暗くなるシェーディングが発生する。こ
れを補正するために、各画素毎に、画像中心からの距離
に応じた補正画素値e(u,v)を次式12で計算す
る。
し、直交座標軸をU,Vとした時の座標である。また、
sはシェーディング補正係数、Rは画像中心からもっと
も離れた画素の中心からの距離である。
力画像の画素値I(u,v)を、次式13によって、画
素値I’(u,v)へ変換することでシェーディングを
補正する。
ディング補正ボタン107を押すと、図15に示すよう
なシェーディング補正係数設定画面がディスプレイ21
に表示される。ユーザは、シェーディング補正係数s
を、シェーディング補正係数設定画面上のスライダーバ
ー41を操作することによって設定する。
ェーディング補正前の画像が表示される領域42と、シ
ェーディング補正後の画像が表示される領域43とが設
けられている。このため、ユーザは、シェーディング補
正前の画像とシェーディング補正後の画像とを同時に見
ることができる。また、ユーザは、スライダーバー41
で係数sを設定するとリアルタイムで変換画像(シェー
ディング補正後の画像)が表示されるため、簡単な操作
でかつ、直感的に係数を設定することができる。
いての説明
置合わせボタン112を押すと、自動位置合わせ処理が
行なわれ、図16に示すように、位置合わせ結果を含む
自動位置合わせ結果表示画面が表示される。自動位置合
わせ結果表示画面には、位置合わせ結果の他、自動合成
ボタン121、キャンセルボタン122等も表示され
る。
を抽出すべき隣接画像ペアが決定された後、各隣接画像
ペア毎に重なり部が抽出される。この後、各隣接画像ペ
ア毎に抽出された重なり部に基づいて、平行移動のみを
用いて、全画像を位置合わせする。そして、位置合わせ
結果が表示される。
法については、手動位置合わせ(ステップ10)におい
て説明する。重なり部の抽出処理は、次のようにして行
なわれる。説明の便宜上、ここでは、1組の隣接画像ペ
ア(第1画像A1及び第2画像A2)の重なり部を抽出
する場合について説明する。
法(Sum of Squared Difference)または正規化相互相関
法に基づいて行われる。
A1、A2それぞれについて、原画像より解像度の低い
画像I1 ,I2 が生成される。2枚の低解像度画像
I1 ,I2 の重なり部分ω(サイズ:M×N)が、次式
14に示すように画素あたりの2乗誤差Eを用いて求め
られる。画像間の移動量(d)が可能な範囲で変化せし
められ、Eが最も小さい移動量(d)から、重なり部が
抽出される。
枚の画像A1、A2それぞれについて、原画像より解像
度の低い画像I1 ,I2 が生成される。2枚の低解像度
画像I1 ,I2 の重なり部分ω(サイズ:M×N)が、
次式15に示すように正規化相互相関係数Cを用いて求
められる。画像間の移動量(d)が可能な範囲で変化せ
しめられ、Cが最も大きな移動量(d)から、重なり部
が抽出される。
画像を固定させ、第2画像をdだけ移動させたときの、
両画像の重なり部における各画像それぞれの濃淡値の平
均である。また、σ1 、σ2 は、第1画像I1 を固定さ
せ、第2画像I2 をdだけ移動させたときの、両画像の
重なり部における各画像それぞれの濃淡値の分散であ
る。
で、ユーザが自動合成ボタン121を押すと、図17に
示すような合成パラメータ選択画面が表示されるので、
ユーザは合成パラメータを選択する(図8のステップ4
の処理)。合成パラメータ選択画面には、”並進”ボタ
ン131、”並進+回転”ボタン132、キャンセルボ
タン133等が表示される。ユーザが”並進”ボタン1
31または”並進+回転”ボタン132の何れかを押す
と、ステップ5〜9(図8参照)の処理が行なわれて、
全画像が合成される。
ついての説明
ザが手動位置合わせボタン113を押した場合に行なわ
れる手動位置合わせ処理手順を示している。
置合わせボタン113を押すと、重なり部を抽出すべき
隣接画像ペアが決定される(ステップ31)。
示している。
を、隣接画像間で重なりがあるように1次元配列するこ
とによって決定される。
る。まず、i=1とし(ステップ41)、2次元配列さ
れた画像から、1次元配列の先頭(最初)の画像Bi を
選択する(ステップ42)。たとえば、位置(0,0)
の画像が1次元配列の先頭の画像Bi として選択され
る。
く配置されていると仮定して、未だ選択されていない画
像のうち、画像Bi との中心点間距離が最も短い画像
を、次に配列すべき画像Bi+1 として選択する(ステッ
プ43)。
いるか否かを判定する(ステップ44)。未だ選択され
てない画像が残っている場合には、i=i+1とし(ス
テップ45)、ステップ43に戻る。
まで、ステップ43、44、45の処理を繰り返して行
うことにより、2次元配列された画像が隣接画像間で重
なりがあるように1次元配列される。1次元配列された
各画像の隣合うものどうしが重なり部を抽出する隣接画
像ペアとなる。
縦より横の長さが長いので、横方向に並んだ2つの画像
の中心点間距離より、縦方向に並んだ2つの画像の中心
点間距離の方が短いので、たとえば、画像Bi に対して
縦方向に隣接する未選択画像が存在する場合には、画像
Bi に対して縦方向に隣接する未選択画像が画像Bi+ 1
として選択される。また、たとえば、画像Bi に対して
縦方向に隣接する未選択画像が存在せずに横方向に隣接
する未選択画像が存在する場合には、画像Biに対して
横方向に隣接する未選択画像が画像Bi+1 として選択さ
れる。
ば、20枚の画像が5行4列に配置されている場合に
は、図20に矢印で示す順番でこれらの画像が1次元配
列される。
配置された画像入力枠のうち、中央の2つの画像入力枠
(位置(2,3)および位置(3,3)の画像入力枠)
に画像が存在しないような場合には、図21に矢印で示
す順番でこれらの画像が1次元配列される。
りがあるように1次元配列されると、図22に示すよう
な手動位置合わせ画面が表示される(ステップ32,図
18)。
示部141と、作業スペース142の他、自動位置合わ
せボタン143、自動合成ボタン144、キャンセルボ
タン145等を備えている。
られ、作業スペース142は1次元配列画像表示部14
1の上側に設けられている。1次元配列画像表示部14
1と作業スペース142との間には、位置合わせを行な
う隣接画像ペアを選択するための2つのペア選択用キー
146、147が表示されるとともに、選択された隣接
画像ペアの相対位置関係(合成方向)を示す合成方向指
示マーク148が表示される。
配列された各画像が表示される。作業スペース142に
は、1次元配列画像表示部141に1次元配列表示され
ている画像のうちから隣接画像ペアとして選択されてい
る2つの画像が半透明で表示される。
択されている隣接画像ペアを明示するために、現在選択
されている隣接画像ペアを囲む矩形枠149が表示され
る。ペア選択用キー146がクリックされると、隣接画
像ペアが左側に1画像分シフトせしめられる。ペア選択
用キー147がクリックされると、隣接画像ペアが右側
に1画像分シフトせしめられる。
示すように、上下方向(a)、左右方向(b)、左下と
右上を結ぶ斜め方向(c)および左上と右下を結ぶ斜め
方向(d)の4種類がある。
の2つの画像の2次元配置位置に基づいて決定される。
隣接画像ペアの一方の画像の2次元配置位置を(x1,
y1)とし、他方の画像の2次元配置位置を(x2,y
2)とする。
となる。y1=y2であれば、合成方向は左右方向とな
る。x1≠x2でかつy1≠y2である場合において、
(x1−x2)×(y1−y2)<0であれば、合成方
向は左下と右上を結ぶ斜め方向となる。x1≠x2でか
つy1≠y2である場合において、(x1−x2)×
(y1−y2)>0であれば、合成方向は左上と右下を
結ぶ斜め方向となる。
ると、ユーザは隣接画像ペアを選択した後、作業スペー
ス142内に半透明表示された2つの画像の重なり部分
を目視によって手動で合わせる(ステップ33,図1
8)。この操作は、たとえば、作業スペース142内に
半透明表示された2つの画像のうちの、一方の画像をマ
ウスでドラッグすることによって行なわれる。なお、こ
の操作をキーボードのキーを操作することによって行な
うことも可能である。ステップ33の作業を全ての隣接
画像ペアに対して行なうことにより、手動位置合わせは
終了する。
が半透明表示されている状態で、自動位置合わせボタン
143を押すと、作業スペース142内に半透明表示さ
れている2つの画像が、上述した重なり部の自動抽出処
理と同様な処理によって自動的に位置合わせされる。
った後に、ユーザが自動合成ボタン144を押すと、図
17に示すような合成パラメータ選択画面が表示される
ので、ユーザは合成パラメータを選択する(図8のステ
ップ4の処理)。合成パラメータ選択画面上で、ユーザ
が”並進”ボタン131または”並進+回転”ボタン1
32の何れかを押すと、ステップ5〜9(図8参照)の
処理が行なわれて、全画像が合成される。
いての説明
設定ボタン114を押すと、重なり部を抽出すべき隣接
画像ペアが決定された後、図24に示すような特徴点設
定画面が表示される。
(図18)のステップ31の処理と同様な処理によって
決定される。
る2つの画像をそれぞれ拡大表示するための2つの画像
表示部161、162、隣接画像ペアを選択するための
2つのペア選択用キー163、164、特徴点削除ボタ
ン165、自動合成ボタン166、キャンセルボタン1
67等を備えている。また、特徴点設定画面の右下部分
には、選択された隣接画像ペアの相対位置関係(合成方
向)を示す合成方向指示マーク168が表示される。
方向指示マーク168は、手動位置合わせ画面(図2
2)のペア選択用キー146、147および合成方向指
示マーク148と同じ機能を有している。
2に表示された2つの画像に基づいて、手動で特徴点を
対応づける。具体的には、右側の画像上の任意の特徴点
位置をダブルクリックすると、特徴点設定枠(矩形枠)
169が両方の画像上に表示される。左側の画像上に表
示された特徴点設定枠169をマウスでドラッグするこ
とにより、右画像上の特徴点に対応する位置まで移動さ
せる。なお、特徴点削除ボタン165を押すと、選択中
の特徴点設定枠が削除される。
は、2画像間の特徴点は1箇所以上設定し、合成手法と
して”並進+回転”を選択する場合には、2画像間の特
徴点は2箇所以上設定する。特徴点の設定数が多いほ
ど、合成精度は向上する。
後、ユーザが自動合成ボタン166を押すと、図17に
示すような合成パラメータ選択画面が表示されるので、
ユーザは合成パラメータを選択する(図8のステップ1
2の処理)。合成パラメータ選択画面上で、ユーザが”
並進”ボタン131または”並進+回転”ボタン132
の何れかを押すと、ステップ7〜9(図8参照)の処理
が行なわれて、全画像が合成される。
いての説明
り、ステップ4において表示される合成パラメータ選択
画面(図17参照)上でユーザが”並進”ボタン131
または”並進+回転”ボタン132の何れかを押すと、
特徴点抽出処理が行われる。
A2に対する処理についてのみ説明する。第1画像A1
における第2画像A2との重なり部分から、追跡に有効
な複数の部分画像(矩形領域)が特徴点として抽出され
る。ただし、各特徴点は互いに重ならないように抽出さ
れる。具体的には、上述した固有値λmin (式8参照)
の高い部分が特徴点として抽出される。
いての説明
終了すると、特徴点追跡処理が行われる。つまり、抽出
された第1画像A1上の特徴点に対する第2画像A2上
の位置が追跡される。
プティカルフロー推定方法(従来技術の説明の欄の
〔2〕参照)によって、適当なサイズ(例えば、13×
13)のパッチ毎のオプティカルフローベクトルが求め
られる。第1画像A1上の特徴点に対応する第2画像A
2上の位置は、第1画像A1上の特徴点の4近傍のパッ
チのフローベクトルから線形補間により画素単位以下で
求められる。これにより、第1画像A1と第2画像A2
との重なり部において、両画像の対応点の座標が得られ
る。
7)についての説明
合について説明する。第1モード時または第2モード時
には、上記ステップ6によって自動的に求められた第1
画像A1と第2画像A2との対応点の座標に基づいて、
第3モード時には、上記ステップ11によって手動で求
められた第1画像A1と第2画像A2との対応点の座標
に基づいて、第2画像A2内の各画素の座標を第1画像
A1上の座標に変換するための幾何変換行列(幾何変換
係数)を算出する。
する場合には、第1画像A1内の各画素の座標を第2画
像A2上の座標に変換するための幾何変換行列(幾何変
換係数)を算出すればよい。
たはステップ12)によって”並進”が選択されている
場合には、幾何変換行列としては2次元平行移動のため
の行列が用いられ、”並進+回転”が選択されている場
合には、幾何変換行列としては2次元剛体変換行列が用
いられる。
座標を第1画像A1上の座標に変換しないが、第2画像
A2内の各画素の座標(x,y,1)を第1画像A1の
座標(x’,y’,1)に変換する式は、次式16また
は次式17で表される。なお、ここでいう、座標(x,
y),(x’,y’)は画像内の画素の座標であって、
図8のステップ1の説明において用いた画像の2次元配
置位置を示す座標(x,y)とは異なる。
平行移動のための行列を用いた場合の変換式を示し、上
記式17は、幾何変換行列として2次元剛体変換行列を
用いた場合の変換式を示している。
行移動量を示し、kは零でない任意の定数を示してい
る。また、上記式17において、(tx ,ty )は平行
移動量を示し、θは回転角を示し、kは零でない任意の
定数を示している。
数)の算出処理(ステップ8)についての説明
台を移動させたり、試料台上の試料を移動させながら、
複数の画像を撮像した場合には、自動露出調整機能が動
作することにより、画像間の明るさが異なってしまうこ
とがある。
像とが重なる領域では、各画像の画素値を調合する処理
を後処理として行なう。画素値調合処理は、両画像の重
なり領域の画素値を画像間で滑らかに変化させることに
より、明るさの差異を目立たなくさせる処理である。ま
た、この処理は、同時に、幾何変換による合成誤差も目
立たなくさせることができる。
距離に基づいて両画像の重なり領域の画素値を調合す
る。
また、第2画像を第1画像に接合した合成画像上で、第
2画像の重心位置G2 を、接合のために使用される変換
式(上記式16式または上記式17式)に基づいて求め
る。
それぞれ求める。また、第2画像を第1画像に接合した
合成画像上で、第2画像の4頂点の位置を、接合に使用
される変換式(上記式16式または上記式17式)に基
づいて求める。これにより、合成画像上における第1画
像の4頂点の位置および第2画像の4頂点の位置が分か
るので、合成画像上において第1画像と第2画像との重
なり領域を抽出する。
なり領域内の各画素(画素値調合対象画素)から第1画
像と第2画像のそれぞれの画像の重心位置G1 、G2 ま
での距離に応じて、当該画素値調合対象画素の画素値の
重みを決定する。この重みは、画素値調合対象画素から
重心までの距離が近い方の画像の画素値を大きくするよ
うに決定する。
像との重なり領域内の画素値調合対象画素の座標から、
合成画像上での第1画像の重心位置G1 までのユークリ
ッド距離をd1 、合成画像上での第2画像の重心位置G
2 までのユークリッド距離をd2 とすると、画素値調合
対象画素における第1画像の画素値に対する重みw1お
よび第2画像の画素値に対する重みw2 は、次式18で
表される。
づいて重みw1 およびw2 を算出し、画素値調合対象画
素に対する重みw1 およびw2 のテーブル(重みテーブ
ル)を作成する。
明
式17を用いて第2画像を第1画像の座標系に描画す
る。
ルに基づいて、第1画像と第2画像の重なり領域の画素
値P1 、P2 を画素調合する。すなわち、次式19によ
り、各画素値調合対象画素の画素値Pi を算出する。
合成処理が終了すると、合成結果である合成画像を含む
合成画像表示画面が表示される。
実際の位置関係と対応するようにモニタ画面上に2次元
配置する際の操作が簡単となるとともに画像の配置ミス
が起こりにくくなる。
って、階層1の画像を示す模式図である。
って、階層2の画像を示す模式図である。
って、階層3の画像を示す模式図である。
って、階層4の画像を示す模式図である。
ー推定方法において行われる膨張処理を説明するための
模式図である。
値処理されたオプティカルフローの例を示す模式図であ
り、図6(b)は、補完後のオプティカルフローを示す
模式図である。
ック図である。
された場合にCPU11によって行われる顕微鏡画像合
成処理手順を示すフローチャートである。
ートである。
を示す模式図である。
像A1〜A9の2次元配列位置との関係を示す模式図で
ある。
図である。
例を示す模式図である。
の一例を示す模式図である。
例を示す模式図である。
示す模式図である。
ローチャートである。
すフローチャートである。
決定された1次元配列の順番を示す模式図である。
決定された1次元配列の順番を示す模式図である。
模式図である。
図である。
図である。
Claims (9)
- 【請求項1】 合成すべき複数枚の画像を、それらの配
置位置が実際の相対位置関係と合致するように、モニタ
画面上にm行n列(m,nとも自然数)配置させ、各画
像の配置位置情報を利用して、全画像を合成する画像合
成装置において、 合成すべき複数枚の画像をモニタ画面上にm行n列に配
置させるための複数種類の画像配置パターンを含む画像
配置パターン選択画面をモニタ画面に表示させる手段、 画像配置パターン選択画面上において複数種類の画像配
置パターンから1つの画像配置パターンをユーザに選択
させるための手段、ならびにユーザによって選択された
画像配置パターンにしたがって、合成すべき複数枚の画
像をモニタ画面上にm行n列配置させる手段、 を備えていることを特徴とする画像合成装置。 - 【請求項2】 ユーザに合成すべき複数枚の画像を選択
させるとともに、選択した画像に応じて行数mと列数n
とをユーザに設定させるための手段を備えていることを
特徴とする請求項1に記載の画像合成装置。 - 【請求項3】 今回においてユーザによって選択された
画像配置パターンを、次回の画像配置パターン選択時に
選択パターンの初期値とする手段を備えている請求項1
および2のいずれかに記載の画像合成装置。 - 【請求項4】 合成すべき複数枚の画像を、それらの配
置位置が実際の相対位置関係と合致するように、モニタ
画面上にm行n列(m,nとも自然数)配置させ、各画
像の配置位置情報を利用して、全画像を合成する画像合
成方法において、 合成すべき複数枚の画像をモニタ画面上にm行n列に配
置させるための複数種類の画像配置パターンを含む画像
配置パターン選択画面をモニタ画面に表示させるステッ
プ、 画像配置パターン選択画面上において複数種類の画像配
置パターンから1つの画像配置パターンをユーザに選択
させるステップ、ならびにユーザによって選択された画
像配置パターンにしたがって、合成すべき複数枚の画像
をモニタ画面上にm行n列配置させるステップ、 を備えていることを特徴とする画像合成方法。 - 【請求項5】 ユーザに合成すべき複数枚の画像を選択
させるとともに、選択した画像に応じて行数mと列数n
とをユーザに設定させるステップを備えていることを特
徴とする請求項4に記載の画像合成方法。 - 【請求項6】 今回においてユーザによって選択された
画像配置パターンを、次回の画像配置パターン選択時に
選択パターンの初期値とするステップを備えている請求
項4および5のいずれかに記載の画像合成方法。 - 【請求項7】 合成すべき複数枚の画像を、それらの配
置位置が実際の相対位置関係と合致するように、モニタ
画面上にm行n列(m,nとも自然数)配置させ、各画
像の配置位置情報を利用して、全画像を合成する画像合
成処理プログラムを記録したコンピュータ読み取り可能
な記録媒体であって、 合成すべき複数枚の画像をモニタ画面上にm行n列に配
置させるための複数種類の画像配置パターンを含む画像
配置パターン選択画面をモニタ画面に表示させるステッ
プ、 画像配置パターン選択画面上において複数種類の画像配
置パターンから1つの画像配置パターンをユーザに選択
させるステップ、ならびにユーザによって選択された画
像配置パターンにしたがって、合成すべき複数枚の画像
をモニタ画面上にm行n列配置させるステップ、 をコンピュータに実行させるためのプログラムを記録し
ているコンピュータ読み取り可能な記録媒体。 - 【請求項8】 ユーザに合成すべき複数枚の画像を選択
させるとともに、選択した画像に応じて行数mと列数n
とをユーザに設定させるステップをコンピュータに実行
させるためのプログラムを記録している請求項7に記載
のコンピュータ読み取り可能な記録媒体。 - 【請求項9】 今回においてユーザによって選択された
画像配置パターンを、次回の画像配置パターン選択時に
選択パターンの初期値とするステップをコンピュータに
実行させるためのプログラムを記録している請求項7お
よび8のいずれかに記載のコンピュータ読み取り可能な
記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001276605A JP2003087549A (ja) | 2001-09-12 | 2001-09-12 | 画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 |
US10/237,709 US7256799B2 (en) | 2001-09-12 | 2002-09-10 | Image synthesizer, image synthesis method and computer readable recording medium having image synthesis processing program recorded thereon |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001276605A JP2003087549A (ja) | 2001-09-12 | 2001-09-12 | 画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2003087549A true JP2003087549A (ja) | 2003-03-20 |
Family
ID=19101273
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001276605A Pending JP2003087549A (ja) | 2001-09-12 | 2001-09-12 | 画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2003087549A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006135003A1 (ja) * | 2005-06-15 | 2006-12-21 | Hitachi Medical Corporation | 磁気共鳴イメージング装置 |
JP2007122118A (ja) * | 2005-10-25 | 2007-05-17 | Matsushita Electric Ind Co Ltd | 画像連結方法 |
US7589733B2 (en) | 2004-02-23 | 2009-09-15 | Seiko Epson Corporation | Layout element arranging device, layout element arranging method, layout element arranging program, computer readable recording medium, and electronic apparatus |
US7646517B2 (en) | 2004-02-27 | 2010-01-12 | Seiko Epson Corporation | Image processing system and image processing method |
JP2010118932A (ja) * | 2008-11-13 | 2010-05-27 | Canon Inc | 画像処理装置 |
JP2010147723A (ja) * | 2008-12-17 | 2010-07-01 | Canon Inc | 画像処理装置及びその制御方法 |
US8023145B2 (en) | 2004-02-27 | 2011-09-20 | Seiko Epson Corporation | Image processing system and image processing method |
JP2012156894A (ja) * | 2011-01-27 | 2012-08-16 | Canon Inc | 画像処理装置及びその制御方法、及びプログラム |
US8451335B2 (en) | 2008-12-12 | 2013-05-28 | Keyence Corporation | Imaging device |
US8508587B2 (en) | 2008-12-12 | 2013-08-13 | Keyence Corporation | Imaging device |
US8581996B2 (en) | 2008-12-12 | 2013-11-12 | Keyence Corporation | Imaging device |
WO2016079853A1 (ja) * | 2014-11-20 | 2016-05-26 | オリンパス株式会社 | 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム |
WO2019053839A1 (ja) * | 2017-09-14 | 2019-03-21 | 株式会社日立ハイテクノロジーズ | 荷電粒子顕微鏡装置および広視野画像生成方法 |
-
2001
- 2001-09-12 JP JP2001276605A patent/JP2003087549A/ja active Pending
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7589733B2 (en) | 2004-02-23 | 2009-09-15 | Seiko Epson Corporation | Layout element arranging device, layout element arranging method, layout element arranging program, computer readable recording medium, and electronic apparatus |
US8023145B2 (en) | 2004-02-27 | 2011-09-20 | Seiko Epson Corporation | Image processing system and image processing method |
US7646517B2 (en) | 2004-02-27 | 2010-01-12 | Seiko Epson Corporation | Image processing system and image processing method |
WO2006135003A1 (ja) * | 2005-06-15 | 2006-12-21 | Hitachi Medical Corporation | 磁気共鳴イメージング装置 |
JP4969445B2 (ja) * | 2005-06-15 | 2012-07-04 | 株式会社日立メディコ | 磁気共鳴イメージング装置 |
JP2007122118A (ja) * | 2005-10-25 | 2007-05-17 | Matsushita Electric Ind Co Ltd | 画像連結方法 |
JP2010118932A (ja) * | 2008-11-13 | 2010-05-27 | Canon Inc | 画像処理装置 |
US8508587B2 (en) | 2008-12-12 | 2013-08-13 | Keyence Corporation | Imaging device |
US8581996B2 (en) | 2008-12-12 | 2013-11-12 | Keyence Corporation | Imaging device |
US8451335B2 (en) | 2008-12-12 | 2013-05-28 | Keyence Corporation | Imaging device |
JP2010147723A (ja) * | 2008-12-17 | 2010-07-01 | Canon Inc | 画像処理装置及びその制御方法 |
JP2012156894A (ja) * | 2011-01-27 | 2012-08-16 | Canon Inc | 画像処理装置及びその制御方法、及びプログラム |
WO2016079853A1 (ja) * | 2014-11-20 | 2016-05-26 | オリンパス株式会社 | 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム |
JPWO2016079853A1 (ja) * | 2014-11-20 | 2017-09-21 | オリンパス株式会社 | 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム |
WO2019053839A1 (ja) * | 2017-09-14 | 2019-03-21 | 株式会社日立ハイテクノロジーズ | 荷電粒子顕微鏡装置および広視野画像生成方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7256799B2 (en) | Image synthesizer, image synthesis method and computer readable recording medium having image synthesis processing program recorded thereon | |
US8687017B2 (en) | Method and system for generating pyramid fisheye lens detail-in-context presentations | |
JP4196216B2 (ja) | 画像合成システム、画像合成方法及びプログラム | |
US11290704B2 (en) | Three dimensional scanning system and framework | |
US8711183B2 (en) | Graphical user interfaces and occlusion prevention for fisheye lenses with line segment foci | |
KR20000023784A (ko) | 모자이크 이미지 구성 방법 및 장치 | |
JP2005100407A (ja) | 複数のソース画像からパノラマ画像を作成するシステム及び方法 | |
JP2003087549A (ja) | 画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
WO2015107665A1 (ja) | 作業支援用データ作成プログラム | |
JP2007000205A (ja) | 画像処理装置及び画像処理方法並びに画像処理プログラム | |
JP3696952B2 (ja) | 画像合成装置および方法 | |
JP2001274973A (ja) | 顕微鏡画像合成装置、顕微鏡画像合成方法、顕微鏡画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
KR101875047B1 (ko) | 사진측량을 이용한 3d 모델링 시스템 및 방법 | |
JP6514418B2 (ja) | 撮像システム、撮像方法、及びプログラム | |
JP2016071682A (ja) | オブジェクト配置装置、オブジェクト配置方法、及び、プログラム | |
JP3979811B2 (ja) | 画像合成装置、画像合成方法、画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2002163647A (ja) | レンズ歪み係数算出装置および算出方法、レンズ歪み係数算出プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP5566199B2 (ja) | 画像処理装置およびその制御方法、並びにプログラム | |
KR100908084B1 (ko) | 피사체의 3차원 좌표 검출방법 및 그 방법을 컴퓨터에서실행시키기 위한 프로그램을 기록한 기록매체 | |
JP3241243B2 (ja) | パノラマ画像合成システム及びパノラマ画像合成方法 | |
US20220141441A1 (en) | Image display apparatus, image display method, and image display program | |
JPH0991410A (ja) | パノラマ画像合成システム | |
JP2001222707A (ja) | 中間画像合成方法、中間画像合成装置、中間画像合成プログラムを記録した記録媒体 | |
JP2002094849A (ja) | 広視野画像撮像装置 | |
JP2001256492A (ja) | 画像合成装置、画像合成方法、画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041104 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041221 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050914 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051011 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20051130 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20051226 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20060224 |