JP4084784B2 - プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法 - Google Patents

プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法 Download PDF

Info

Publication number
JP4084784B2
JP4084784B2 JP2004212238A JP2004212238A JP4084784B2 JP 4084784 B2 JP4084784 B2 JP 4084784B2 JP 2004212238 A JP2004212238 A JP 2004212238A JP 2004212238 A JP2004212238 A JP 2004212238A JP 4084784 B2 JP4084784 B2 JP 4084784B2
Authority
JP
Japan
Prior art keywords
value
pixel
image
subject image
hue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2004212238A
Other languages
English (en)
Other versions
JP2006033639A (ja
Inventor
真一 萩野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Namco Ltd
Bandai Namco Entertainment Inc
Original Assignee
Namco Ltd
Namco Bandai Games Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Namco Ltd, Namco Bandai Games Inc filed Critical Namco Ltd
Priority to JP2004212238A priority Critical patent/JP4084784B2/ja
Publication of JP2006033639A publication Critical patent/JP2006033639A/ja
Application granted granted Critical
Publication of JP4084784B2 publication Critical patent/JP4084784B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法に関する。
従来より、CCDカメラ等の撮影部で撮影されたユーザー被写体の画像を編集してプリントする写真シール製造機(写真印刷装置の一例)が知られている。
写真シール製造機では、撮影ブースの被写体の背景面を特定色にして、クロマキー処理やマスク処理等の特定色領域抜き出し処理で、特定色領域を抜き、抜けた部分を他の画像と合成することが行われている。
特開平8−65705号
図23はクロマキー合成について説明するための図である。
クロマキー合成とは対象画像(被写体画像)840から前景850と背景(抜き取り色)860を分離し、前景850を新しい背景(所与の背景)870と合成するための技術である。
画素値をXベクトル=(R,G,B)、前景をFGベクトル、背景をBGベクトルとすると、
が成り立つと仮定している。
k=0の時は背景、k=1の特は前景、0<k<1の時は半透明部分などを意味する。
(39)より新しい背景BG’ベクトルと合成した画素値をX’ベクトルとすると、
であり、(39)と(40)から、
となり、kが求まれば新しい画素値を計算することができる。
単色背景で撮影したときはBGベクトル=Constと考えられるが(39)にはFGベクトルが未知数として含まれているため、(39)をといてkを求めることができない。そこでFGの領域をパラメータで設定しkを計算する方法を工夫するのが従来の方法であった。
図24は従来の方式で生成された画像である。
図25は図24の毛先の部分810であり、被写体の毛先が背景色(抜き取り色)とまじりあって中間色になっている様子812を示した図である。このように従来は単色背景で撮影すると、輪郭や毛先などで前景色と背景色が混じりあい前景と背景の中間色になる場合があった。特に暗い背景と合成するときに髪の毛先などに背景色がまじりあい、精度のよい画像がえられなかった。
また図26は図24のスカート部分820であり、被写体の一部に背景色(抜き取り色)が映り込んでいる様子822を表している。このように、被写体が背景等に近い場合には被写体に背景色が映り込む現象が見られる。
クロマキー合成ではこのような中間色領域を自然に合成することが精度向上につながる。
上記文献にはその精度向上の手法の一例として、RGB色空間をBGベクトルを中心とする三角錐の集合で分割し、背景領域、前景領域、その中間領域を設定する手法が記載されている。
しかし上記引用文献の方法は128面体を用いた計算法であるので、その頂点である66点に、3,4種類のパラメータを設定する必要があり、パラメータ調整には非常に手間がかかるという問題点があった。
またパーソナルコンピュータで画像合成ツールを使ってクロマキー合成を行う場合には個別の画像状態に合わせて人手によってパラメータを調整して精度のよい画像を合成することも可能である。しかし写真印刷装置等に適用する場合には、撮影状況(背景や照明の明るさや色むら等の個別具体的な状況)を考慮してパラメータを調節して画像の調整を行うことは困難である。
ここで対象画像(被写体画像)840から前景850の画像を取り出して各画素のRGB値にα値を追加した画像であるαチャネル付レイヤー(画像)を生成し、これを用いて新しい背景(所与の背景)870と合成することがある。例えば写真印刷装置において被写体の輪郭線を抽出してエフェクトをかけるような編集(例えば被写体の輪郭に沿って発光エフェクトをかける場合等)する場合には、
このαチャネル付レイヤー(画像)FGと背景BGをαに従って次式に従って半透明合成(αブレンディング処理)を行うことによって新しい背景(所与の背景)870と合成画像が計算される。
αチャネル付レイヤー(画像)の形式でデータを保持すると、色調整などの画像処理がしやすくなるが、上記問題点を解決し精度のよい画像を生成するためには、αチャネル付レイヤー(画像)を高精度に作成する必要がある。
本発明は、以上のような課題を解決するためになされたものであり、その目的とするところは、精度のよいクロマキー合成が可能な高精度なαチャネル付レイヤー(画像)を生成可能なプログラム、情報記憶媒体、写真印刷装置及び写真印刷方法を提供することにある。
(1)本発明は、
抜き取り色を背景として撮影された被写体の画像からα値付き被写体画像を生成するためのプログラムであって、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
前記α値演算手段は、
当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
前記クロマキー合成パラメータが前景画像であることを表す第1の値とは例えば1である。
前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率がより小さくなるように補正を行うとは、例えば前記近傍付近で前記α値を第1の値に近づけるような補正を行う場合である。
本発明により生成されるα値付き被写体画像は、各画素のα値に基づき所与の背景(新たな背景)と半透明合成(例えばαブレンディング処理)を行うことに用いられたりする。かかる場合に色相平面における背景中心からの距離が遠い部分(被写体画像と背景の境界付近)においてクロマキー合成パラメータの変化率が緩やかになるのと同じ効果を有する。
前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近にある場合には、背景色が映り込んでいる可能性が高い。
本発明のようにα値を設定することで、後に半透明合成等を行う場合に前景と背景の境界付近では、前景画像が新背景の影響をあまり受けないように制御することができる。
(2)本発明は、
抜き取り色を背景として撮影された被写体の画像からα値付き被写体画像を生成するためのプログラムであって、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
前記α値演算手段は、
当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
前記クロマキー合成パラメータが背景画像であることを表す第2の値とは例えば0である。
前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率がより小さくなるように補正を行うとは、例えば前記α値を第2の値に近づけるような補正を行う場合である。
本発明により生成されるα値付き被写体画像は、各画素のα値に基づき所与の背景(新たな背景)と半透明合成(例えばαブレンディング処理)を行うことに用いられたりする。かかる場合に色相平面における背景中心からの距離が近い部分(背景部分)においてクロマキー合成パラメータの変化率が緩やかになるのと同じ効果を有する。
前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近にある場合には、当該画素は背景画像である可能性が高い。
本発明のようにα値を設定することで、後に半透明合成等を行う場合に背景の色相成分の変動を受けないように制御することができる。従って背景となるカーテン等に色むらや色ずれがある場合でも、これらの違いを吸収してきれいな画像が生成可能な背景の色むらや色ずれにつよいシステムを提供することができる。
(3)本発明のプログラムは、
前記抜き取り色除去手段が、
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする。
(4)本発明は、
抜き取り色を背景として撮影された被写体の画像からα値付き被写体画像を生成するためのプログラムであって、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
前記抜き取り色除去手段は、
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする。
クロマキー合成では所与の画素の画素値(色等)から背景色の混合がない状態の画素値(色等)を推定し、その画素値(色等)を新背景(所与の画像)の画素値(色等)から合成後の画素値(色等)を計算する。本発明のようにα値付き被写体画像においては背景色の混合がない状態の画素値(色等)を求めることが重要である。
色相平面において線形性を仮定するならば色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点によって特定される色相値に基づき抜き取り色を除去した被写体画像の画素値を求めるのが好ましい。しかし各画素の色相位置によっては前記交点までの距離が大きくなりすぎて色相平面の上限値をこえてしまう場合がある。本発明によれば、このような場合各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の画素値を近似することができる。
従って各画素の色相位置によらず抜き取り色を除去した被写体画像の画素値を求めることができる。
(5)本発明のプログラムは、
前記α値演算手段が、
当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(6)本発明のプログラムは、
前記α値演算手段が、
当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(7)本発明は、
コンピュータにより読みとり可能な情報記憶媒体であって、上記のいずれかに記載のプログラムを記憶することを特徴とする情報記憶媒体である。
(8)本発明は、
撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置であって、
撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込み手段と、
取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成手段と、
α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像手段と、
合成画像に基づきプリント画像を生成する手段とを含み、
前記α値付き被写体画像生成手段は、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
前記α値演算手段は、
当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(9)本発明は、
撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置であって、
撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込み手段と、
取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成手段と、
α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像手段と、
合成画像に基づきプリント画像を生成する手段とを含み、
前記α値付き被写体画像生成手段は、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
前記α値演算手段は、
当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(10)本発明の写真印刷装置は、
前記抜き取り色除去手段が、
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする。
(11)本発明は、
撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置であって、
撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込み手段と、
取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成手段と、
α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像手段と、
合成画像に基づきプリント画像を生成する手段とを含み、
前記α値付き被写体画像生成手段は、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
前記抜き取り色除去手段は、
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする。
(12)本発明の写真印刷装置は、
前記α値演算手段が、
当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(13)本発明の写真印刷装置は、
前記α値演算手段が、
当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(14)本発明は、
撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置の写真印刷方法であって、
撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込みステップと、
取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成ステップと、
α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像ステップと、
合成画像に基づきプリント画像を生成するステップとを含み、
前記α値付き被写体画像生成ステップは、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算ステップと、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去ステップとを含み、
前記α値演算ステップは、
当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(15)本発明は、
撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置の写真印刷方法であって、
撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込みステップと、
取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成ステップと、
α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像ステップと、
合成画像に基づきプリント画像を生成するステップとを含み、
前記α値付き被写体画像生成ステップは、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算ステップと、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去ステップとを含み、
前記α値演算ステップは、
当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
(16)本発明は、
撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置の写真印刷方法であって、
撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込みステップと、
取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成ステップと、
α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像ステップと、
合成画像に基づきプリント画像を生成するステップとを含み、
前記α値付き被写体画像生成ステップは、
被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算ステップと、
被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去ステップとを含み、
前記抜き取り色除去ステップは、
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする。
以下、本発明の好適な実施の形態について図面を用いて説明する。
1.写真印刷装置
図1、図2、図3に本実施形態の写真印刷装置(狭義には写真自販装置、写真シール印刷装置)の外観図の一例を示す。なお図1は本実施形態の写真印刷装置の右側面図であり、図2は本実施形態の写真印刷装置の正面図であり、図3は本実施形態の写真印刷装置の背面図である。
まずユーザー(図1のP1)は、筐体の正面側(図2)において被写体(例えば自己)の撮影を行う。次にユーザー(図1のP2)は、筐体の背面側(図3)において撮影した画像の編集操作を行う。
図2の正面図に示すように、本実施形態の写真印刷装置1は、被写体撮影用のカメラ10、12(撮像デバイス)を含む。これらのカメラ10、12は、例えばCCDカメラ、C−MOSカメラ、又はビデオカメラなどにより実現できる。なお、カメラを、複数ではなく1つだけ設ける構成としてもよい。
カメラ10は、被写体を正面方向から撮影するもので、第1の撮像手段として機能する。またカメラ12は、オリジナルスタンプ作成用の小物(第2の被写体)を上方から撮影するもので、第2の撮像手段として機能する。
写真印刷装置1はディスプレイ20を含む。このディスプレイ20は、ユーザーの視点の高さで、ユーザーに対してその表示画面がほぼ正対するように、筺体50に取り付けられている。カメラ10(被写体撮影用カメラ)で撮影された映像はディスプレイ20に表示され、ユーザーはこのディスプレイ20に表示された映像を見て自身のポーズが適当か否かを確認するようにしてもよい。
写真印刷装置1はディスプレイ22を含む。カメラ12(小物撮影用カメラ)で撮影された映像はディスプレイ22に表示され、ユーザーはこのディスプレイ22に表示された映像を見て、小物の配置やアングルが適当か否かを確認するようにしてもよい。
本実施の形態では、オリジナルスタンプ作成用の小物(第2の被写体)は、スタンプ用小物撮影ボックス16の中の載置台18に載置され、載置台18の上方に設定されたカメラ12(小物撮影用カメラ)で撮影される。
また図1に示すように写真印刷装置の筺体50には、基台52、背面板54が設けられている。基台52は、撮影時に被写体(ユーザー)がその上に立つための台である。この基台52には、被写体(ユーザー)が立ち位置を決めるための目印を付けておくことが望ましい。この場合の目印は、例えば足の裏の形をした目印であってもよいし、被写体(ユーザー)がカメラ10に近づきすぎないようにするための線であってもよい。
背面板54(背面部材)は撮影時に外部からの光を遮断するためのものである。この背面板54には、後述するように、付加表示物(背景又は文字等)の合成にクロマキー合成を行う場合には、ブルーバックとしての機能を持たせることもできる。
なお背面板54として、カーテンなどを用いてもよい。
図3に示すように、本実施形態の写真印刷装置1は、編集用ディスプレイ22,24を含む。編集用ディスプレイ22,24は、液晶ディスプレイやタッチパネル方式のディスプレイを用いてよい。
写真印刷装置1は操作部30、32を含む。この操作部30、32は撮影された画像の編集操作や編集メニューの選択操作を行うためのものである。
この操作部30の機能は例えばポインティングデバイス等により実現できる。
写真印刷装置1は、図1に示すように写真の受け取り口40を含む。この受け取り口40には、撮影して編集された画像が印刷されたシール等が出力される。
図4は、本実施形態の写真印刷装置のブロック図の一例である。なお、写真印刷装置は、図4の構成要素(各部)を全て含む必要はなく、その一部を省略した構成としてもよい。
撮影部は、被写体を撮影するためのもので、例えばCCDカメラ、C−MOSカメラ、又はビデオカメラなどにより実現でき、被写体画像取り込み手段として機能する。例えば2つの撮像デバイスを用意して、第1の撮像デバイスを用いて第1の被写体の画像を撮影して第1の被写体の画像を取り込み、第2の撮像デバイスを用いて第2の被写体の画像を撮影して第2の被写体の画像を取り込むようにしてもよい。
またオリジナルスタンプ作成用の小物(第2の被写体)を撮影するためのスタンプ用小物撮影ボックスを設け、スタンプ用小物撮影ボックスの中の載置台に載置されたスタンプ用小物が撮影可能な位置(例えば載置台の上方)に、第2の撮像デバイスを配置するようにしてもよい。
操作部160(ポインティングデバイス、レバー、ボタン等)は、ユーザが編集用コンテンツ選択メニューの選択操作や編集操作を行うためのものである。
記憶部170(RAM)は、処理部100や通信部196などのワーク領域となるものである。情報記憶媒体180(CD、DVD、HDD、ROMなどのコンピュータにより読み取り可能な媒体)は、プログラムやデータなどを格納するものである。この情報記憶媒体180には、本実施形態の各部としてコンピュータを機能させるためのプログラム(各部の処理をコンピュータに実行させるためのプログラム)が記憶される。
ディスプレイ190は画像を表示するものであり、例えば図2の撮影用のディスプレイ20や図3の編集用ディスプレイ22,24等である。編集用ディスプレイとしては、例えば液晶タブレットやタッチパネル等が用いられ、タッチペン(ポインティングデバイスの一例)等の先端をディスプレイ表面に接触させ、文字や図形を描くことにより手書き画像を入力できるようになっている。また予め用意された星マークやハートマーク等のスタンプ画像を選択して、タッチペンの先端をディスプレイ表面に接触させることによりスタンプ画像を入力出来るようになっている。
音出力部192は音声、ゲーム音などの音を出力するものである。
携帯型情報記憶装置194は、ユーザの個人データや編集用のセーブデータなどが記憶されるものである。
印刷部195は、撮影された画像を印刷媒体(シール紙、印画紙、プラスチック板又は記録層)に画像を印刷する処理を行う。この場合の印刷方式としては昇華型、熱転写型、インクジェット方式、レーザプリント方式などの種々の方式がある。また印刷用のプリンタとしては、インクジェット式プリンタ、レーザープリンタ、昇華型プリンタ、熱転写型プリンタ、溶融型プリンタ、サーマルプリンタ、印画紙プリンタ、インスタントフィルムプリンタ等をもちいるようにしてもよい。
通信部196は、インターネットなどのネットワークを介して通信を行うための各種の制御を行うものである。この通信部196を用いることで、生成された画像データをネットワークを介して送信することができる。
処理部100(プロセッサ)は、操作部160からの操作データやプログラムなどに基づいて、ゲーム処理、画像生成処理、或いは音生成処理などの各種の処理を行う。この場合、処理部100は、記憶部170内の主記憶部172をワーク領域として使用して、各種の処理を行う。この処理部100の機能は、各種プロセッサ(CPU、DSP等)又はASIC(ゲートアレイ等)などのハードウェアや、プログラム(ゲームプログラム)により実現できる。
処理部100は、編集処理部110、画像生成部120、音生成部130を含む。
画像生成部120は、編集処理部110で行われる種々の編集処理の結果に基づいて画像を生成し、ディスプレイ190に出力する。
ここで画像生成部120は、クロマキー合成部122、αチャネル付き被写体画像生成部124を含む。
クロマキー合成部122は、被写体画像の各画素のRGB成分を輝度成分と色相成分に変換する手段と、所与の背景画像の各画素のRGB成分を輝度成分と色相成分に変換する手段と、被写体画像の各画素値と抜き取り色の各画素値に基づき、各画素のクロマキー合成パラメータを求めるクロマキー合成パラメータ演算手段と、前記クロマキー合成パラメータに基づき被写体画像の色相成分と所与の背景画像の色相成分を各画素毎に線形合成して、合成画像の色相成分を演算する色相成分合成手段と、前記クロマキー合成パラメータに基づき被写体画像の輝度成分と所与の背景画像の輝度成分を各画素毎に非線形合成して、合成画像の輝度成分を演算する輝度成分合成手段と、演算された合成画像の色相成分、輝度成分をRGB成分に変換する手段として機能する。
クロマキー合成部122は、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求めるクロマキー合成パラメータ演算手段と、各画素毎に、前記クロマキー合成パラメータに基づき被写体画像と所与の背景画像の合成を行い合成画像を演算する手段として機能し、前記クロマキー合成パラメータ演算手段は、所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属しないと判断した画素については、当該クロマキー合成パラメータが前景画像であることを表す第1の値とし、背景領域に属すると判断した画素については、当該クロマキー合成パラメータが背景画像であることを表す第2の値又は第1の値と第2の値の間に位置するいずれかの値にする処理を行う。
ここで被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求める処理を行うようにしてもよい。
また前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行った当該クロマキー合成パラメータを用いて合成画像の輝度成分を非線形合成演算する処理を行うようにしてもよい。
また前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行った当該クロマキー合成パラメータを用いて合成画像の輝度成分を非線形合成演算するようにしてもよい。
また被写体画像の輝度成分、所与の背景画像の輝度成分、抜き取り色の輝度成分及び各画素の輝度成分の対数値が線形であると仮定して合成画像の輝度成分を非線形合成演算するようにしてもよい。
また所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属しないと判断した画素については、当該クロマキー合成パラメータが前景画像であることを表す第1の値とし、背景領域に属すると判断した画素については、当該クロマキー合成パラメータが背景画像であることを表す第2の値又は第1の値と第2の値の間に位置するいずれかの値にするようにしてもよい。
また色相平面において、抜き取り色に基づき設定した背景中心となる色相値及びその周囲の所定のエリアに属する色相値を有する画素については、クロマキー合成パラメータを第2の値とし、背景領域には属するが前記所定のエリア外に位置する色相値を有する画素については、前記画素の色相平面における位置と前記所定のエリアの外延と前記所定の2直線のいずれかとの距離関係に基づきクロマキー合成パラメータを求めるようにしてもよい。
また前記所定の2直線の少なくとも一方を色相平面における原点を通らない直線として定義するようにしてもよい。
αチャネル付き被写体画像生成部124は、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段として機能し、前記α値演算手段は、当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
また前記α値演算手段は、当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定するようにしてもよい。
前記抜き取り色除去手段は、所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めるようにしてもよい。
音生成部130は、処理部100で行われる種々の処理の結果に基づいて音処理を行い、BGM、効果音、又は音声などのゲーム音を生成し、音出力部192に出力する。
写真印刷装置は通信部196を含む。この通信部196は、インターネットなどのネットワークを介してデータを送信又は受信する処理を行う。より具体的には、通信部196は、カメラの撮影画像により生成されたデータを、ネットワークを介して外部のサーバなどに送信する。このようにすればユーザ(被写体)は、自身が被写体となっている画像のデータを、自分の家のパーソナルコンピュータにサーバからダウンロードすることが可能になる。そしてダウンロードした画像データに基づいて、自分の家のプリンタを用いて、紙やシールに画像を印刷して出力することが可能になる。またユーザーが撮影した画像をサーバに保存しておき、写真印刷装置にダウンロードして印刷して出力することも可能である。
この通信部196の機能は、例えば通信用のデバイス(IC)などのハードウェアや、通信用のプログラムなどにより実現できる。なお印刷部195、通信部196のいずれか一方を設けない構成としてもよい。
なお本実施形態の写真印刷装置は、被写体を全身撮影するものには限定されず、被写体の上半身だけを撮影するものであってもよい。
また本実施形態の写真印刷装置で撮影される被写体は人間には限定されない。例えばオークションなどに出品する商品の写真を撮影する装置にも本実施形態は適用できる。この場合には、通信部196を用いて行うインターネットを介したデータの送信と、オークションの出品とを連動させれば、出品者に便宜な写真印刷装置を提供できる。
また本実施形態の写真印刷装置を、プレーヤの写真画像をゲームに使用するようなタイプのゲーム装置に利用することも可能である。即ち本実施形態の写真印刷装置を、ゲーム装置の画像取り込み装置として機能させることも可能である。
2.第1の実施の形態の特徴
本実施の形態では、抜き取り色(単色背景)を背景として撮影された被写体の画像と所与の背景画像を合成する際に、被写体画像の各画素のRGB成分を輝度成分(Y)と色相成分(IQ)に変換し、所与の背景画像の各画素のRGB成分を輝度成分(Y)と色相成分(IQ)に変換し、被写体画像の各画素値と抜き取り色の各画素値に基づき、各画素のクロマキー合成パラメータを求め、前記クロマキー合成パラメータに基づき被写体画像の色相成分と所与の背景画像の色相成分を各画素毎に線形合成し合成画像の色相成分を演算し、前記クロマキー合成パラメータに基づき被写体画像の輝度成分と所与の背景画像の輝度成分を各画素毎に非線形合成して合成画像の輝度成分を演算し、演算された合成画像の色相成分、輝度成分をRGB成分に変換する。
被写体画像の各画素及び所与の背景画像のRGB成分の輝度成分(Y)と色相成分(IQ)への変換については、後述する「5.2.RBG値から輝度成分、色相成分への変換」に記載されている手法により行うことができる。
ここにおいてクロマキー合成パラメータは、被写体画像と抜き取り色のRGB値またはそのいずれかの成分又はRGB値を変換して得られる画素値又はそのいずれかの成分(例えばYIQ値又はそのいずれかの成分)等により求めるようにしてもよい。
また前記クロマキー合成パラメータkに基づく被写体画像の色相成分と所与の背景画像の色相成分の線形合成については、「5.3 色相成分の変換」に記載されている手法により行うことができる。
ここで線形合成とは、例えば線形関数(f(x+y)=f(x)+f(y)が成り立つ場合fを線形関数という)を用いて、被写体画像の色相成分と背景画像の色相成分を合成する場合をいう。
また前記クロマキー合成パラメータkに基づく被写体画像の輝度成分と所与の背景画像の輝度成分の非線形合成については、「5.4 輝度成分の変換」に記載されている手法により行うことができる。
ここで非線形合成とは、例えば非線形関数(f(x+y)=f(x)+f(y)が成り立たない関数)を用いて、被写体画像の色相成分と背景画像の色相成分を合成する場合をいう。
合成画像の色相成分、輝度成分をRGB成分変換については、後述する「5.5 YIQ成分からRGB成分への変換」に記載されている手法により行うことができる。
本実施の形態によれば、色相成分は線形合成を行い、輝度成分については非線形合成を行う。画素値(例えばRGB値)に線形性を仮定して合成を行うと、背景等が暗い場合に合成がうまくいかない状況が生じていた。かかる状況に対して例えば従来は、パラメータを追加して撮影状況に応じて個別に補正する方法等により対応されていた。
これに対し本実施の形態では、輝度成分について非線形合成を行うことにより、個別にパラメータの調整等を行うことなしに背景が暗い場合でも精度良く合成することができる。すなわち背景色の明るさによらず常に精度良く合成することができる。
一般に写真印刷装置の撮影状況は照明の状態や設置されている場所によってばらつきが生じるが、本実施の形態によればこれらのばらつきによらず精度良く画像合成を行うことができる。
また写真印刷装置に適用する場合には、個別にパラメータの調整を行うのは困難であるが、本実施の形態によれば、パラメータの個別調整が不要であるという顕著な効果を有する。
また被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求めるようにしてもよい。
ここにおいてクロマキー合成パラメータkは、「6.クロマキー合成パラメータkの計算方法」に記載されている手法により求めることができる。
また前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行った当該クロマキー合成パラメータを用いて合成画像の輝度成分を非線形合成演算するようにしてもよい。
前記クロマキー合成パラメータが前景画像であることを表す第1の値とは例えば1である。
前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行った当該クロマキー合成パラメータとは、例えば図21の710に示すような変化率を有するように補正を行ったパラメータのことである。
また前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行うとは、例えば前記近傍付近で前記クロマキー合成パラメータを第1の値に近づけるような補正を行う場合である。
このようにすると色相平面における背景中心からの距離が所定の所定の範囲外(遠い)部分においてクロマキー合成パラメータの変化率が緩やかになるのと同じ効果を有する。
前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近にある場合には、撮影時に被写体画像(前景画像)に背景色の映り込みがおこりやすい。例えばグリーンバックで撮影を行う場合には、被写体画像(前景画像)の背景との境界付近に背景色のグリーンが映り込む現象が現れる。この場合新たな背景(所与の背景)と合成した場合には新たな背景(所与の背景)の色を映り込ませることが自然である。しかし輝度については前景と背景の境界付近では、前景画像は旧背景の輝度の影響をあまり受けない方がきれいな画像となる。
本発明のようにクロマキー合成パラメータを補正することで、輝度については非線形合成により前景と背景の境界付近では、前景画像は旧背景の輝度の影響をあまり受けないように制御することができる。
また前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行った当該クロマキー合成パラメータを用いて合成画像の輝度成分を非線形合成演算するようにしてもよい。
前記クロマキー合成パラメータが背景画像であることを表す第2の値とは例えば0である。
前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータの変化率がより小さくなるように補正を行うとは、例えば前記近傍付近で前記クロマキー合成パラメータを第2の値に近づけるような補正を行う場合である。
このようにすると色相平面における背景中心からの距離が所定の範囲内(近い)部分においてクロマキー合成パラメータの変化率が緩やかになるのと同じ効果を有する。
このようにすることによって、背景画像の明るさのばらつきを吸収することができる。
また被写体画像の輝度成分、所与の背景画像の輝度成分、抜き取り色の輝度成分及び各画素の輝度成分の対数値が線形であると仮定して合成画像の輝度成分を非線形合成演算するようにしてもよい。輝度成分の対数値が線形であると仮定した非線形合成演算については、「5.4 輝度成分の変換」に記載されている手法により行うことができる。
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属しないと判断した画素については、当該クロマキー合成パラメータが前景画像であることを表す第1の値とし、背景領域に属すると判断した画素については、当該クロマキー合成パラメータが背景画像であることを表す第2の値又は第1の値と第2の値の間に位置するいずれかの値にするようにしてもよい。
色相成分とは例えばYIQ色空間のIQ平面でもよいし、YUV色空間のUV平面でもよい。またYCrCb色空間のCrCb平面でもよい。R,G,B成分に対しY=aR+bG+cB(a,b,cは所定の定数)で定義されるY軸に垂直な平面(RGB色空間から線形変換によって得られるもの)であればよい。
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否かの判断は、例えば図7等で説明した手法により行うことができる。
前記クロマキー合成パラメータは、例えば色相平面において、背景中心と前記画素の色相平面における位置を結ぶ直線が前記所定のエリアの外延(を特定する外周)と交わる第1の点、また前記直線が前記所定の2直線のいずれかと交わる第2の点を求め、前記画素の色相平面に置ける位置と第1の点の距離及び前記画素の色相平面に置ける位置と第2の点の距離比に基づき求めるようにしてもよい。
また色相平面において、抜き取り色に基づき設定した背景中心となる色相値及びその周囲の所定のエリアに属する色相値を有する画素については、クロマキー合成パラメータを第2の値とし、背景領域には属するが前記所定のエリア外に位置する色相値を有する画素については、前記画素の色相平面における位置と前記所定のエリアの外延と前記所定の2直線のいずれかとの距離関係に基づきクロマキー合成パラメータを求めるようにしてもよい。
例えば図8に示すように、例えば色相平面において、背景中心と前記画素の色相平面における位置を結ぶ直線が前記所定のエリアの外延(を特定する外周)と交わる第1の点250、また前記直線が前記所定の2直線のいずれかと交わる第2の点260を求め、前記画素の色相平面に置ける位置270と第1の点250の距離及び前記画素の色相平面に置ける位置270と第2の点260の距離に基づきクロマキー合成パラメータkを求めるようにしてもよい。
また前記クロマキー合成パラメータ演算手段は、前記所定の2直線の少なくとも一方を色相平面における原点を通らない直線として定義するようにしてもよい。かかる定義は例えば図11や(19)式によって行うようにしてもよい。
3.第2の実施の形態の特徴
本実施の形態では、抜き取り色(単色背景)を背景として撮影された被写体の画像と所与の背景画像をクロマキー合成する際に、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、各画素毎に、前記クロマキー合成パラメータに基づき被写体画像と所与の背景画像の合成を行う。クロマキー合成パラメータを演算する際に所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属しないと判断した画素については、当該クロマキー合成パラメータが前景画像であることを表す第1の値とし、背景領域に属すると判断した画素については、当該クロマキー合成パラメータが背景画像であることを表す第2の値又は第1の値と第2の値の間に位置するいずれかの値にすることを特徴とする。
色相成分とは例えばYIQ色空間のIQ平面でもよいし、YUV色空間のUV平面でもよい。またYCrCb色空間のCrCb平面でもよい。R,G,B成分に対しY=aR+bG+cB(a,b,cは所定の定数)で定義されるY軸に垂直な平面(RGB色空間から線形変換によって得られるもの)であればよい。
所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否かの判断は、例えば図7等で説明した手法により行うことができる。
背景領域属する画素のクロマキー合成パラメータの値は、例えば色相平面に置ける背景中心と画素を結ぶ直線が2直線のいずれかと交わる点を求め、これらの距離比に応じて決定するようにしても良い。
本実施の形態によれば、色相成分(色相平面)においてクロマキー合成パラメータを求めるため、RGBの3成分に基づきクロマキー合成パラメータを求める場合に比べ簡単なアルゴリズム及び少ない演算付加でクロマキー合成を行うことができる。
また背景中心となる色相値及びその周囲の所定のエリアに属する色相値を有する画素については、クロマキー合成パラメータを第2の値とし、背景領域であって所定のエリア外に属する色相値を有する画素については、前記画素の色相平面における位置と前記所定のエリアの外延と前記2直線のいずれかとの距離関係に基づきクロマキー合成パラメータを求めるようにしてもよい。例えば図8にしめすように、色相平面において、背景中心と前記画素の位置を結ぶ直線が前記所定のエリアの外延(を特定する外周)と交わる第1の点、また前記直線が前記2直線のいずれかと交わる第2の点を求め、前記画素の色相平面に置ける位置と第1の点の距離及び前記画素の色相平面に置ける位置と第2の点の距離に基づき求めるようにしてもよい。
このようにすることで色相中心から2直線のいずれかの距離に基づきクロマキー合成パラメータを求め背景中心の回りについてクロマキー合成パラメータを0にする構成に比べ、クロマキー合成パラメータが不連続とならずなめらかな変換を行うことができる。
また色相平面を原点を通らない2つの直線により前景領域と背景領域をわけて、被写体画像の各画素の色相値がいずれの領域に属するか判断するようにしてもよい。色相平面を原点を通らない2つの直線は例えば式(19)を用いて定義することができる。
色相平面の原点付近はグレーに近いため、背景領域として計算すると不自然な合成になる場合がある。本発明によれば原点領域を背景領域に含めないようにできるので、自然な合成を実現することができる。
4.第3の実施の形態の特徴
本実施の形態では抜き取り色を背景として撮影された被写体の画像からα値付き被写体画像を生成する際に、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算し、被写体画像に映り込んだ抜き取り色を除去する。ここで前記α値を演算する際に当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
前記クロマキー合成パラメータが前景画像であることを表す第1の値とは例えば1である。
ここで前記α値を演算する際に当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するような被写体画像の各画素のα値の決定は、例えば図21に示すような関数関係を有する変換を行うことにより実現できる。
また図27において横軸をk(0〜255を0〜1と見る)、縦軸をαとした関数関係を有する変換を行うことにより実現できる。ここで変換は予め用意された関数式により行う場合でもよいし、図28に示すように関数関係を有するような変換テーブルを用意しておいて変換テーブルを用いてクロマキー合成パラメータに対応したα値を演算するようにしてもよい。
前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率がより小さくなるように補正を行うとは、例えば前記近傍付近で前記α値を第1の値に近づけるような補正を行う場合である。
本発明により生成されるα値付き被写体画像は、各画素のα値に基づき所与の背景(新たな背景)と半透明合成(例えばαブレンディング処理)を行うことに用いられたりする。かかる場合に色相平面における背景中心からの距離が遠い部分(被写体画像と背景の境界付近)においてクロマキー合成パラメータの変化率が緩やかになるのと同じ効果を有する。
前記クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近にある場合には、背景色が映り込んでいる可能性が高い。
本発明のようにα値を設定することで、後に半透明合成等を行う場合に前景と背景の境界付近では、前景画像が新背景の影響をあまり受けないように制御することができる。
またα値を演算する際に当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする。
前記クロマキー合成パラメータが背景画像であることを表す第2の値とは例えば0である。
ここで前記α値を演算する際に当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するような被写体画像の各画素のα値の決定は、例えば図27において横軸をk(0〜255を0〜1と見る)、縦軸をαとした関数関係を有する変換を行うことにより実現できる。ここで変換は予め用意された関数式により行う場合でもよいし、図28に示すように関数関係を有するような変換テーブルを用意しておいて変換テーブルを用いてクロマキー合成パラメータに対応したα値を演算するようにしてもよい。
前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率がより小さくなるように補正を行うとは、例えば前記α値を第2の値に近づけるような補正を行う場合である。
本発明により生成されるα値付き被写体画像は、各画素のα値に基づき所与の背景(新たな背景)と半透明合成(例えばαブレンディング処理)を行うことに用いられたりする。かかる場合に色相平面における背景中心からの距離が近い部分(背景部分)においてクロマキー合成パラメータの変化率が緩やかになるのと同じ効果を有する。
前記クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近にある場合には、当該画素は背景画像である可能性が高い。
本発明のようにα値を設定することで、後に半透明合成等を行う場合に背景の色相成分の変動を受けないように制御することができる。従って背景となるカーテン等に色むらや色ずれがある場合でも、これらの違いを吸収してきれいな画像が生成可能な背景の色むらや色ずれにつよいシステムを提供することができる。
また被写体画像から抜き取り色の除去を行う際に、所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする。
クロマキー合成では所与の画素の画素値(色等)から背景色の混合がない状態の画素値(色等)を推定し、その画素値(色等)を新背景(所与の画像)の画素値(色等)から合成後の画素値(色等)を計算する。本発明のようにα値付き被写体画像においては背景色の混合がない状態の画素値(色等)を求めることが重要である。
例えば図16に示すように色相平面において線形性を仮定するならば色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点によって特定される色相値に基づき抜き取り色を除去した被写体画像の画素値を求めるのが好ましい。しかし各画素の色相位置によっては前記交点までの距離が大きくなりすぎて色相平面の上限値をこえてしまう場合がある。本発明によれば、このような場合各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点によって特定される色相値に基づき抜き取り色を除去した被写体画像の画素値を近似することができる。
従って各画素の色相位置によらず抜き取り色を除去した被写体画像の画素値を求めることができる。
5.非線形クロマキー合成
5.1 線形クロマキー合成の問題点
前景の色ベクトルをFGベクトル、背景の色ベクトルをとBGベクトル、輪郭、毛先などの中間領域MDベクトルは、
が成り立つことを前提とし、新背景をBG’ベクトルとすると、変換後の背景MD’ベクトルは、
とし、kを求める方法を工夫するのが従来の方法であった。
(1)の関係式は光学的には妥当といえるが、コンピューターやテレビ信号で扱うデータは、
のようにガンマ補正がかかっており物理的な色情報に対して線形ではない。またカメラにおいてはCCDで光を信号化し、画像データを生成するまでに非線形を有しているために、(1)の関係式がなりたたない。
それでも画像が明るい領域では(1)が成り立っており、明るい背景画像と合成するときは実用に耐えうるものであった。
しかし、暗い背景との合成や、被写体の動きが激しいときなどは(1)、(2)の式の計算では不自然さが目立つ結果となる。
第1の実施の形態では色相成分と輝度成分を分けて計算する。その際に、色相成分は線形合成を行い、輝度成分については非線形計算を行うことで自然な合成を実現する。
5.2 RBG値から輝度成分、色相成分への変換
コンピュータではカラー画像データを一画素あたりR,G,Bの3値データで扱う。本実施の形態では、撮像手段が撮影した被写体画像をRGBの3値データで受け取り、このRGBデータを以下の変換式でYIQ色空間に変換する。
5.3 色相成分の変換
図10は色相成分の変換について説明するための図である。
被写体画像のRBG値を(4)式を用いてYIQ色空間に変換する。そしてIQ平面において新背景合成後の色相データの変換を行う。IQ成分に関しては(1),(2)式の線形性を仮定する。
パラメータkについては、kの計算方法ついては「7.クロマキー合成パラメータkの計算方法」に従って求めてもよいし、他の方法により求めてもよい。
Xベクトルは変換対象画素の色相値310であり、BCベクトルは色相平面に置ける背景中心(旧背景(抜き取り色))320であり、BC”は新背景(所与の背景画像)の色相値であり、ベクトルX’は変換後(合成画像)の色相(IQ)値である。FGベクトルは前景の色相値である。本実施の形態では、色相平面においてXベクトルの色相値310、背景中心320を結ぶ直線330が前景領域と背景領域の境界を特定する直線Lと交差する点350をFGベクトルと仮定する。
図10より以下の式が成り立つ。
(33)−1、(33)−2より
(13)式より、参照点(画素)のIQ値ベクトルX、旧背景(抜き取り色)BCベクトル、パラメータk、新背景(所与の背景画像)BC”ベクトルが与えられば変換後(合成画像)のIQ値ベクトルX’が計算できる。
5.4 輝度成分の変換
輝度成分に関しては非線形変換を行う。
まず上記(14)式よりβを計算する。γは任意に決めるパラメータである。
次にYがYtherより大きいときは次式により補正をかける。
これはYが大きいときはIQが小さくなるため、意図しない領域がBG領域と判断されるからである。
明るい領域の適用を抑えるために補正を行う。
次にβよりYを計算する。
被写体によって生じた背景への影を残す場合、変換前の輝度をYX、旧背景の輝度をYBC,新背景の輝度をYBC",とすると変換後の輝度YX'は次式で計算する。
の式で計算する。
被写体によって生じた背景への影を消す場合には、変換前の輝度をYX,新背景の輝度をYBC"とすると変換後の輝度YX'は次式で計算する。
5.5 YIQ成分からRGB成分への変換
(13),(16),(17)より変換後のYIQを計算しして次式でYIQからRGBに変換し、新画素値とする。
5.6 非線形クロマキー合成の処理の流れ
図6は本実施の形態の輝度成分について非線形合成を行うクロマキー合成処理の流れの一例について説明するためのフローチャート図である。
まずA1ベクトル、A2ベクトル、BCベクトル、rの定義に基づき背景領域を定義する(ステップS210)。
画像データの終わりが来るまで各画素について以下の処理を行う(ステップS220)。
まず参照画素のRGB値を取得する(ステップS230)。
RGB値をYIQに変換する(ステップS240)。
ベクトルX=(I,Q)とする(ステップS250)。ここでベクトルXは参照画像のI,Q成分である。
ベクトルXが背景領域に属するか否か判断する(ステップS260)。例えばベクトルXが式(7)−1〜(7)−4のいずれを満たすかを調べることにより背景領域に属するか否か判断することができる。この場合(7)−4を満たす場合には背景領域に属し、それ以外の場合には前景領域に属すると判断することができる。
前景領域に属すると判断した場合には画素値の置き換えはせずにステップS220に戻る(ステップS270)。
また背景領域に属すると判断した場合にはベクトルXが直線L1とL2のどちらに近いか判断する(ステップS280)。
L1に近い場合にはAベクトルをA1ベクトルとし(ステップS290)、L2に近い場合にはAベクトルをA2ベクトルとする(ステップS300)。
そしてIQ値ベクトルX、旧背景BCベクトル、パラメータk、新背景BCベクトルより変換後のIQ値を計算する(ステップS310)。例えば(13)式により変換後のIQ値を計算することができる。
次にまた変換前の輝度YX、新背景の輝度YBC"、パラメータkから非線形変換を行い、変換後の輝度Yx’を計算する(ステップS320)。例えば式(14)(15)から変換パラメータβを求め、式(16)又は式(17)により変換後の輝度Yx’を計算するようにしてもよい。
そしてステップS310及びS320で求めたYIQ値をRGB値に変換する(ステップS330)。YIQ値からRGB値への変換は例えば式(18)の座標変換により行うことができる。
5.7 非線形合成の一例
図13は、毛先画像の写真であり、図14は毛先画像の写真のQY分布を示している。図14に示すように画像の輝度が低い領域では、髪の毛と背景の交じり合う部分が直線上に分布していない。これはCCDによる光の信号変換後、γ補正や各種画像処理の結果によって生ずる信号変換の非線形性による結果である。
クロマキーアルゴリズムでは新背景に変換するときに、背景と前景の中間領域がどのような過程でそうなったかを仮定して新背景に変換するが、従来の方法では線形性を仮定していたため、暗い領域の変換がうまくいかず、そのためにパラメータを追加して調整する方法等が取られていたため、パラメータの数が増え、自動的に調整することは困難であった。
図15は、輝度Yの対数とQの分布を示した図である。同図のように輝度Yの対数をとると色の分布はほぼ直線上に乗る。本実施の形態ではこれに着目し、中間領域の生成過程を線形ではなく、対数軸上で線形と仮定して新背景に変換する。
そして変換後の輝度をYnew、旧背景をYBC'新背景をYBC"として以下の式で新しいYを計算する。
この式を整理すると次式になる。
(24)式でβ=1とすると以下の式となる。
つまりβ=1の背景領域ではYx=YBCのとき新背景の輝度に変換され、それ以外はYX/YBCの比を保って変換され、輝度情報の比が保存される。つまり影が保たれることを意味する。
(24)式のYBCをYXとすると次式になる。
β=1のときは次式となり新背景に変換される。
この場合輝度情報はすべて新背景に変換されるので影が消されることを意味する。
6.クロマキー合成パラメータkの計算方法
クロマキー合成に使用する、クロマキー合成パラメータkの計算方法を以下に示す。
図5は、被写体と背景領域の関係について説明するための図である。
被写体が前景領域220となり、単一色で撮影された部分が背景領域210となる。
通常クロマキー合成は緑や青などの単一色の背景で被写体を撮影し、背景色の情報を元にして、撮影画像の背景を別の画像におきかえる。
よって別の画像に置き換える背景色領域を定義する必要がある。ここでは明るさ(輝度成分)であるY軸に直交するIQ平面で色範囲を決定する
IQ平面は色相をあらわしている。このIQ平面で原点をとおる2直線により前景領域FGと背景領域BGを分ける。
図7は2直線と前景領域FGと背景領域BGの関係について説明するための図である。
原点を通る直線Lは、直線に直交するベクトルAベクトルを用いて、
とあらわすことができる。
よって直線L1に直交するベクトルをA1ベクトル、直線L2に直交するベクトルをA2ベクトルとすると2直線は
とあらわすことができ、2直線に囲まれる領域は、以下の4つパターンで表すことができる。
よってベクトルA1ベクトル、A2ベクトルと領域(1)〜(4)を定義すれば、背景領域BGと前景領域FGを定義できる。
図8はパラメータkの計算方法について説明するための図である。
背景領域を定義したら背景中心BCベクトルを定義する。BCベクトルには単一背景色のIQ値を指定する。
いまIQ平面におけるベクトルXが与えられたとき、ベクトルXのkを計算する。
ベクトルXとBCベクトルを通る直線と、直線Lとの交点をFGベクトルとする。
ベクトルXとBCベクトルを通る直線上のBCベクトルから距離rの点をBC’ベクトルとする。
背景色のIQ値は一定であることが好ましいが、撮影時には物理的要因のため必ずばらつきが出る。本実施の形態ではそのばらつきを考慮してBCベクトルから半径rの円内はk=0とし、その他のkは次式により計算する。
具体的には、直線Lに直交するベクトルをAベクトルとすると、直線Lは以下の式となる。
BCベクトルは、
とあらわせる。従ってベクトルXとBC’ベクトルを通る直線は
とあらわせる。
(9)(11)より次式でkを計算することができる。
ベクトルXがBCベクトルに近いときはk<0となる場合があるが、そのときはk=0とする。
図9は本実施の形態でクロマキー合成パラメータkを求める処理の一例について説明するためのフローチャート図である。
まずBCベクトル、A1ベクトル、A2ベクトル、BCベクトル、rの定義に基づき背景領域を設定する(ステップS10)。
画像データの終わりが来るまで各画素について以下の処理を行う(ステップS20)。
まず参照画素のRGB値を取得する(ステップS30)。
RGB値をYIQに変換する(ステップS40)。
ベクトルX=(I,Q)とする(ステップS50)。ここでベクトルXは参照画像のI,Q成分である。
ベクトルXが背景領域に属するか否か判断する(ステップS60)。例えばベクトルXが式(7)−1〜(7)−4のいずれを満たすかを調べることにより背景領域に属するか否か判断することができる。この場合(7)−4を満たす場合には背景領域に属し、それ以外の場合には前景領域に属すると判断することができる。
前景領域に属すると判断した場合にはk=1をセットしてステップS20に戻る(ステップS70)。
また背景領域に属すると判断した場合にはベクトルXが直線L1とL2のどちらに近いか判断する(ステップS80)。
L1に近い場合にはAベクトルをA1ベクトルとし(ステップS90)、L2に近い場合にはAベクトルをA2ベクトルとし(ステップS100)、Aベクトル、r、BCベクトルからkを計算する(ステップS110)。例えば式(12)から計算することができる。
そしてk<0の場合はk=0としてステップS20に戻る(ステップS120、S130)。
上記例ではRGB色空間からYIQ色空間に変換し、IQ平面で計算を行う場合を例にとり説明したがこれに限られない。Y軸に垂直な平面(RGB色空間から線形変換によって得られるもの)ならばすべて同じ計算になる。
例えばYUV色空間のUV平面においても同じ計算になる。またYCrCb色空間のCrCb平面においても同じ計算になる。
またいずれの場合にも(9)式を次式に拡張することによって、前景領域と背景領域を区別する直線を、原点を通る直線以外にも拡張することができる。
そのさい以下の式によりクロマキー合成パラメータkを計算することができる。
このように拡張した場合図11のように原点を通らない領域を定義することができる。
色相平面の原点付近はグレーに近いため、背景領域として計算すると不自然な合成になる場合がある。そのときには図11のように定義することで原点領域を背景領域に含めないようにできる。
また図12のように新たに直線L3,L4を追加することで色抜き領域MGを定義することができる。
色抜き領域とは次式の色相の変換と輝度の変換を行い、α値は1とし、新たな背景と合成を行わない領域である。
この場合、BG領域では、(22)式の計算にはA3ベクトル、A4ベクトルを使用し、kの計算にはA1ベクトル、A2ベクトルを用いる。
この方法によりクロマキーの課題である、背景領域と前景領域の混じりあう領域(BG)の合成と前景領域に背景色が写りこんだ領域(MG)の合成の二つを達成することができる。
7.αチャネル付きレイヤーの生成方法
αチャンネル付レイヤーとは、各画素のRGB値にα値を追加した画像である。
このレイヤーFGを背景BGと合成するときは次式によって合成画像が計算される。
(35)の式はαに関して線形の合成となっている。αチャンネル付レイヤーの形式でデータを保持すると、色調整などの画像処理がしやすくなる。よって実用としてはαチャンネル付レイヤーを高精度に作成する必要がある。
図16は背景色を除去した前景画像の作成について説明するための図である。
クロマキー合成ではベクトルXから背景色の混合がない状態のFGベクトルを推定し、そのFGベクトルと新背景BC”ベクトルから合成後のベクトルX’を計算する。ベクトルX’の計算は(24)によってなされるから重要なのはFGベクトルである。
IQ平面におけるFGベクトルの計算は次式で行う。
これは、ベクトルXから直線Lへの射影を表している。本来は図16のようにベクトルXとBCベクトルを結ぶ直線とLとの交点をFGベクトルとすべきであるが、それではFGベクトルが非常に大きくなり、IQの上限値を超えることがしばしば起こる。
例えば図16においてベクトルX2が410の位置にあるとすると、ベクトルXとBCベクトルを結ぶ直線とLとの交点は420となりIQの上限値を超えてしまう。従ってかかる場合には、ベクトルX2の点410から直線Lにおろした垂線440が直線Lと交わる点430をベクトルFGとする。すなわち近似として、ベクトルXのLへの射影を採用する。ただしパラメータkに関しては420にFGベクトルがあるものとして計算する。
FGベクトルのYの計算は以下のようにして行う。
FGベクトルの輝度成分をYFG、ベクトルXの輝度成分をYx、BCベクトルの輝度をYBCとすると、線形性を仮定するならば以下の式となる。
カメラなどの入力装置が持つ非線形性より、YXが小さい領域ではこの式がなりたたなくなる。
よって、YBCに関しては以下の近似式を適用する。まず次式によりβを計算する。
ここでγはユーザが定義するパラメータであり、写真印刷装置ではγ=2を採用している。
γ<2のときは、Yが補正境界値Ythreより大きいときに次式で補正をかける。
これはYが大きいときはIQが小さくなるため、意図しない領域がBG領域と判断される。明るい領域の適用を抑えるために補正を行う。
次にβよりYを計算する。
高速性を求めるならば、
としてもそれなりの結果は得られる。
最後に画像のα値は次式により計算する
図17は本実施の形態のαチャネル付きレーヤーを生成について非線形合成を行うクロマキー合成処理の一例について説明するためのフローチャート図である。
まずA1ベクトル、A2ベクトル、BCベクトル、r、補正境界値Ythreの定義に基づき背景領域を設定する(ステップS410)。
画像データの終わりが来るまで各画素について以下の処理を行う(ステップS420)。
まず参照画素のRGB値を取得する(ステップS430)。
RGB値をYIQに変換する(ステップS440)。
ベクトルX=(I,Q)とする(ステップS450)。ここでベクトルXは参照画像のI,Q成分である。
ベクトルXが背景領域に属するか否か判断する(ステップS460)。例えばベクトルXが式(7)−1〜(7)−4のいずれを満たすかを調べることにより背景領域に属するか否か判断することができる。この場合(7)−4を満たす場合には背景領域に属し、それ以外の場合には前景領域に属すると判断することができる。
前景領域に属すると判断した場合には、FGベクトル=ベクトルX、α=αmaxをセットしてステップS530にいく(ステップS470)。
また背景領域に属すると判断した場合にはベクトルXが直線L1とL2のどちらに近いか判断する(ステップS480)。
L1に近い場合にはAベクトルをA1ベクトルとし(ステップS490)、L2に近い場合にはAベクトルをA2ベクトルとする(ステップS500)。
そしてAベクトル、ベクトルXからFGベクトルを計算する(ステップS510)。例えば(36)式を用いて計算することができる。
そしてY、YBC、kから、YFG、αを計算する(ステップS520)。例えば(38)(27)〜(31)式を用いて計算することができる。
そしてステップS510及びS520で求めたYIQ値をRGB値に変換する(ステップS530)。YIQ値からRGB値への変換は例えば式(18)の座標変換により行うことができる。
このαチャンネル付レイヤーを作成する上で、色相平面において直線で領域を定義する点、α値の計算法に非線形計算をつかっている点がポイントとなる。
原点(I=Q=0)を通る1又は2の直線又は原点以外を通る1又は2の直線で前景領域と背景領域を分け、背景領域にある色要素をすべて、直線上のどこかの点に移すことがポイントとなる。人間の眼は色相の差には敏感であるが、彩度の差には鈍感であるからである。
ここでいう色相とは原点を通る直線の傾きを表し、彩度は原点からの距離に相当する。
直線上のどこかの点に移す手法としては、例えば図16で説明したように直線への射影を取るようにしても良いが、他の方法で直線上のどこかに移されるようにしてもよい。
クロマキー合成の課題としては(1)毛先などの背景と前景の交じり合ったところや(2)洋服などへの背景色の移りこみをいかに自然に合成するかが重要である。(2)に関しては背景画像との合成でなく、単一色への色の置き換えが必要となる。
図18の写真はグーリーンバックで撮影したときの影響で被写体に背景色の緑色が映り込んでいる様子610を表している。
図19の写真では緑色がオレンジ(オレンジの映り込み620)に変換されている様子を表している。このように背景の映り込みが新背景の色に変化しているのでより自然な画像となっている。
多くのクロマキーソフトではこの写りこみ除去のために、合成する領域と背景色を除去する領域に分けて処理を行っている。ここで背景色除去の領域では単に背景色を除去するだけで、図19の例のように新たにオレンジを合成する処理をおこなっていない。
本実施の形態では例えば以下の式でαを設定することができ、新たな背景色の映り込みを実現することができる。
図20はIQ平面上のkに対してαが比例関係にある場合のkとαの関係にすいて示した図である。
これに対し図21はIQ平面上のkに対してαに非線形性を持たせた場合のkとαの関係について示した図である。
例えば(32)式のように非線形を持たせることにより、色相平面における距離(例えばクロマキー合成パラメータk)が所定範囲内(kに近い部分)710ではαの変化率を小さくすることができる。
これは図22に示すように直線付近に色抜きの領域を追加したのと同様の効果を生じさせることを意味する。
しかも通常の色抜き領域で処理を行う場合と異なり、若干背景画像とも合成を行うために、あたかも新背景色が移りこんだかのような効果をもたらすことができ、通常の色抜き処理よりもよりリアルな合成が可能となる。
また、色相平面における距離が所定範囲外(色相平面における距離が大きいとき、又はαが0に近い部分)620ではαの減少率を小さくすることができる。
このようにすることにより背景の明るさのばらつきの影響を受けない画像を生成することができる。
ここで背景画像との合成度が大きいと背景が透けてしまうが、図21のような曲線とすることによって、透けない程度のバランスを保つことが可能となる。
γを大きくすると色抜きに相当する領域を広くすることを意味する。
このようにαの計算に(32)式のような非線形式を用いることによって、これまでは別々であった、合成領域の処理と色抜き領域の処理が同じ処理で扱えるようになった。
またγが2以上のときは原点付近が色抜き領域となることで、式(28)の補正が不必要となる。従って簡単な処理でαチャンネル付レイヤーを作成することができる。
なおα値は上記記載のクロマキー合成パラメータkを用いて(32)式のように変換して求める構成でもよいし、例えば式(38)〜(40)に示すようにいずれかの従来技術により求めたk値(α値)や線形性を仮定して得られたを補正して求めるようにしてもよい。
以下所与の手法により得られたα値を補正して本実施の形態のα’値を求める手法について説明する。
図27は所与の手法により得られたα値と補正後のα値(本実施のα値)の関係について説明するための図である。
ここにおいて所与の手法により得られたα値とは例えば数式(39)に示すように線形性を仮定したkに基づき得られたα値でもよいし、本実施の形態のkの計算方法(例えば数式(12)によって得られた)に基づき得られたα値でもよい。
680はα’=f(α)となる補正関数である。α値は0〜255の値をとるものとする。α値が第1のエリア(α値が0に近いエリア)650ではfの変化率を小さくし(例えば当該エリアのfの傾きが1より小さくなるようにする)、α値が第3のエリア(α値が256に近いエリア)670ではfの変化率を小さくする(例えば当該エリアのfの傾きが1より小さくなるようにする)。そして第1のエリアと第3のエリアの間の第2のエリアではα値がα’に線形変換されるようにしてもよい(例えばfが直線で傾きが1程度にする)。
このようにすると、第1のエリア650付近では多少αが変化してもα’に影響をあたえないようにすることができる。従って、背景色の明るさの変動に強い前景画像を抜き出すことができる。
また第3のエリア650付近でも多少αが変化してもα’に影響をあたえないようにして、背景の映り込み等が自然に除去できる。
例えば次式に示すような所定の変換式を用いて所与の手法により得られたα値を補正して本実施の形態のα’値に変換するようにしても良い。
また例えば図28に示すようなαからα’への変換テーブルを用意しておいて当該テーブルを用いてαからα’への補正を行うよにしてもよい。
なお、本発明は、上記実施の形態で説明したものに限らず、種々の変形実施が可能である。
なお本発明は、上記実施形態で説明したものに限らず、種々の変形実施が可能である。
また、本発明のうち従属請求項に係る発明においては、従属先の請求項の構成要件の一部を省略する構成とすることもできる。また、本発明の1の独立請求項に係る発明の要部を、他の独立請求項に従属させることもできる。
本実施形態の写真印刷装置の右側面図である。 本実施形態の写真印刷装置の正面図である。 本実施形態の写真印刷装置の背面図である。 本実施形態の写真印刷装置のブロック図の一例である。 被写体と背景領域の関係について説明するための図である。 実施の形態の輝度成分について非線形合成を行うクロマキー合成処理の流れの一例について説明するためのフローチャート図である。 色相平面における背景領域と前景領域について説明するための図である。 パラメータkの計算方法について説明するための図である。 本実施の形態でクロマキー合成パラメータkを求める処理の一例について説明するためのフローチャート図である。 色相成分の変換について説明するための図である。 原点を通らない直線による背景領域の定義について説明するための図である。 色抜き領域の定義手法について説明するための図である。 毛先画像の写真である。 毛先画像の写真のQY分布を示している。 毛先画像の写真の輝度Yの対数とQの分布を示した図である。 背景色を除去した前景画像の作成について説明するための図である。 実施の形態のαチャネル付きレーヤーを生成について非線形合成を行うクロマキー合成処理の一例について説明するためのフローチャート図である。 グーリーンバックで撮影したときの影響で被写体に背景色の緑色が映り込んでいる様子を表している。 緑色がオレンジ(オレンジの映り込み)に変換されている様子を表している。 IQ平面上のkに対してαが比例関係にある場合のkとαの関係について示した図である。 IQ平面上のkに対してαに非線形性を持たせた場合のkとαの関係について示した図である。 直線付近に色抜きの領域を追加した場合の図である。 クロマキー合成について説明するための図である。 従来の方式で生成された画像である。 毛先の部分を示している。 スカート部分を示している。 所与の手法により得られたα値と補正後のα値(本実施のα値)の関係について説明するための図である。 αからα’への変換テーブルをもちいた補正について説明するための図である。
符号の説明
1 写真印刷装置
10、12 カメラ
20 ディスプレイ
22,24 編集用ディスプレイ
40 写真の受け取り口
100 処理部
110 編集処理部
120 画像生成部
122 クロマキー合成部
124 αチャネル付き被写体画像生成部
130 音生成部
140 撮影部
160 操作部
170 記憶部
174 描画バッファ
180 情報記憶媒体
190 ディスプレイ
192 音出力部、
194 携帯型情報記憶装置
195 印刷部
196 通信部

Claims (16)

  1. 抜き取り色を背景として撮影された被写体の画像から抜き取り色を除去したα値付き被写体画像を生成するためのプログラムであって、
    被写体画像の各画素の画素値に基づき被写体画像の各画素の色相成分を求め、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求める手段と、
    被写体画像の各画素について、各画素に対応した前記クロマキー合成パラメータに基づき所与の背景画像と半透明合成を行う際に用いるα値を演算するα値演算手段と、
    前記クロマキー合成パラメータに基づき被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段と、してコンピュータを機能させ、
    前記α値演算手段は、
    当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とするプログラム。
  2. 抜き取り色を背景として撮影された被写体の画像から抜き取り色を除去したα値付き被写体画像を生成するためのプログラムであって、
    被写体画像の各画素の画素値に基づき被写体画像の各画素の色相成分を求め、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求める手段と、
    被写体画像の各画素について、各画素に対応した前記クロマキー合成パラメータに基づき所与の背景画像と半透明合成を行う際に用いるα値を演算するα値演算手段と、
    前記クロマキー合成パラメータに基づき被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段と、してコンピュータを機能させ、
    前記α値演算手段は、
    当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とするプログラム。
  3. 請求項1乃至2のいずれかにおいて、
    前記抜き取り色除去手段は、
    所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とするプログラム。
  4. 抜き取り色を背景として撮影された被写体の画像からα値付き被写体画像を生成するためのプログラムであって、
    被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
    被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段としてコンピュータを機能させ、
    前記抜き取り色除去手段は、
    所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とするプログラム。
  5. 請求項4において、
    前記α値演算手段は、
    当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とするプログラム。
  6. 請求項4乃至5のいずれかにおいて、
    前記α値演算手段は、
    当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とするプログラム。
  7. コンピュータにより読みとり可能な情報記憶媒体であって、請求項1乃至6のいずれかに記載のプログラムを記憶することを特徴とする情報記憶媒体。
  8. 撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置であって、
    撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込み手段と、
    取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成手段と、
    α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像手段と、
    合成画像に基づきプリント画像を生成する手段とを含み、
    前記α値付き被写体画像生成手段は、
    被写体画像の各画素の画素値に基づき被写体画像の各画素の色相成分を求め、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求める手段と、
    被写体画像の各画素について、各画素に対応した前記クロマキー合成パラメータに基づき所与の背景画像と半透明合成を行う際に用いるα値を演算するα値演算手段と、
    前記クロマキー合成パラメータに基づき被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段と、を含み、
    前記α値演算手段は、
    当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする写真印刷装置。
  9. 撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置であって、
    撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込み手段と、
    取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成手段と、
    α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像手段と、
    合成画像に基づきプリント画像を生成する手段とを含み、
    前記α値付き被写体画像生成手段は、
    被写体画像の各画素の画素値に基づき被写体画像の各画素の色相成分を求め、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求める手段と、
    被写体画像の各画素について、各画素に対応した前記クロマキー合成パラメータに基づき所与の背景画像と半透明合成を行う際に用いるα値を演算するα値演算手段と、
    前記クロマキー合成パラメータに基づき被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段と、を含み、
    前記α値演算手段は、
    当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする写真印刷装置。
  10. 請求項8乃至9のいずれかにおいて、
    前記抜き取り色除去手段は、
    所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする写真印刷装置。
  11. 撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置であって、
    撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込み手段と、
    取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成手段と、
    α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像手段と、
    合成画像に基づきプリント画像を生成する手段とを含み、
    前記α値付き被写体画像生成手段は、
    被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算手段と、
    被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去手段とを含み、
    前記抜き取り色除去手段は、
    所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする写真印刷装置。
  12. 請求項11において、
    前記α値演算手段が、
    当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする写真印刷装置。
  13. 請求項11乃至12のいずれかにおいて、
    前記α値演算手段が、
    当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする写真印刷装置。
  14. 撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置の写真印刷方法であって、
    撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込みステップと、
    取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成ステップと、
    α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像ステップと、
    合成画像に基づきプリント画像を生成するステップとを含み、
    前記α値付き被写体画像生成ステップは、
    被写体画像の各画素の画素値に基づき被写体画像の各画素の色相成分を求め、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求めるステップと、
    被写体画像の各画素について、各画素に対応した前記クロマキー合成パラメータに基づき所与の背景画像と半透明合成を行う際に用いるα値を演算するα値演算ステップと、
    前記クロマキー合成パラメータに基づき被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去ステップと、を含み、
    前記α値演算ステップは、
    当該クロマキー合成パラメータが前景画像であることを表す第1の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする写真印刷方法。
  15. 撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置の写真印刷方法であって、
    撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込みステップと、
    取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成ステップと、
    α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像ステップと、
    合成画像に基づきプリント画像を生成するステップとを含み、
    前記α値付き被写体画像生成ステップは、
    被写体画像の各画素の画素値に基づき被写体画像の各画素の色相成分を求め、被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求めるステップと、
    被写体画像の各画素について、各画素に対応した前記クロマキー合成パラメータに基づき所与の背景画像と半透明合成を行う際に用いるα値を演算するα値演算ステップと、
    前記クロマキー合成パラメータに基づき被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去ステップと、を含み、
    前記α値演算ステップは、
    当該クロマキー合成パラメータが背景画像であることを表す第2の値の近傍付近では当該クロマキー合成パラメータに対するα値の変化率が小さくなるような関数関係を有するように、被写体画像の各画素のα値を決定することを特徴とする写真印刷方法。
  16. 撮影された被写体の画像を取り込み、編集してプリントする写真印刷装置の写真印刷方法であって、
    撮像手段を用いて、抜き取り色を背景として被写体の画像を撮影して、被写体画像を取り込む被写体画像取り込みステップと、
    取り込まれた被写体画像に基づきα値付き被写体画像を生成するα値付き被写体画像生成ステップと、
    α値付き被写体画像と所与の背景画像を半透明合成して合成画像を生成する合成画像ステップと、
    合成画像に基づきプリント画像を生成するステップとを含み、
    前記α値付き被写体画像生成ステップは、
    被写体画像の各画素の色相成分と抜き取り色の色相成分に基づき、各画素のクロマキー合成パラメータを求め、当該クロマキー合成パラメータに基づき被写体画像の各画素に対応したα値を演算するα値演算ステップと、
    被写体画像に映り込んだ抜き取り色を除去する抜き取り色除去ステップとを含み、
    前記抜き取り色除去ステップは、
    所定の2直線により色相平面における背景領域を定義し、被写体画像の各画素の色相値が背景領域に属するか否か判断し、背景領域に属すると判断した画素については、色相平面における各画素の色相位置と、抜き取り色に基づき設定した背景中心を結ぶ直線が前記所定の2直線のうち各画素の色相位置との距離が近いほうの直線と交わる点又は、各画素の色相位置から前記2直線のうち各画素の色相位置との距離が近いほうの直線におろした垂線が当該直線と交わる点のいずれかの点によって特定される色相値に基づき抜き取り色を除去した被写体画像の色相値を求めることを特徴とする写真印刷方法。
JP2004212238A 2004-07-20 2004-07-20 プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法 Active JP4084784B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004212238A JP4084784B2 (ja) 2004-07-20 2004-07-20 プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004212238A JP4084784B2 (ja) 2004-07-20 2004-07-20 プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法

Publications (2)

Publication Number Publication Date
JP2006033639A JP2006033639A (ja) 2006-02-02
JP4084784B2 true JP4084784B2 (ja) 2008-04-30

Family

ID=35899415

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004212238A Active JP4084784B2 (ja) 2004-07-20 2004-07-20 プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法

Country Status (1)

Country Link
JP (1) JP4084784B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4589464B2 (ja) 2008-10-17 2010-12-01 オリンパス株式会社 画像生成装置、内視鏡システム、および画像生成方法
JP6119164B2 (ja) * 2012-09-28 2017-04-26 大日本印刷株式会社 自動クロマキー合成装置、自動クロマキー合成方法、およびプログラム

Also Published As

Publication number Publication date
JP2006033639A (ja) 2006-02-02

Similar Documents

Publication Publication Date Title
US5469536A (en) Image editing system including masking capability
JP4481236B2 (ja) プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法
CN100365656C (zh) 图像处理装置、图像处理方法
JP3777922B2 (ja) デジタル撮像装置、それを備えた画像処理システム、画像処理装置、デジタル撮像方法および記録媒体
JP4783035B2 (ja) 投影型表示装置、投影表示方法、投影表示プログラム及び投影表示プログラムが格納された記録媒体
US20120250997A1 (en) Image processing apparatus, image processing method, and storage medium
JP2005117407A (ja) 画像処理装置
JP4084784B2 (ja) プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法
JP4171722B2 (ja) プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法
JP4220441B2 (ja) プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法
JP2002044469A (ja) 画像処理方法および画像処理プログラムを記録した記録媒体
JP2008079185A (ja) 自動写真作成装置および自動写真作成方法
JP2005078158A (ja) 画像処理装置、画像処理方法、プログラム、記録媒体
JP2000013625A (ja) 画像処理方法、装置および記録媒体
JP2006350621A (ja) 画像処理装置及び画像処理プログラム
KR20020084321A (ko) 템플릿을 이용한 실시간 인물합성방법
EP1049045A1 (en) Image enhancement for rasterized images
JP5900826B2 (ja) 画像編集装置、画像編集方法、及び制御プログラム
JP4208889B2 (ja) 画像処理方法、装置および記録媒体
KR19980074996A (ko) 에니메이션 합성 사진 제조 방법
JP5854333B2 (ja) 画像出力装置
JP2004229023A (ja) 写真印刷装置、プログラムおよび情報記憶媒体
JP4411357B2 (ja) 画像処理方法、装置および記録媒体
JP2685458B2 (ja) 画像処理方法
JP6606935B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080215

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4084784

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120222

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130222

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130222

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140222

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250