以下、本発明の実施形態を説明するが、本発明の実施形態は、以下の実施形態に限定されるものではない。なお、以下に説明する本発明の実施形態では、種々の画像加工処理により静止画像を編集するためのフォトレタッチ・ツールを実現するコンピュータ装置を画像処理装置の一例として説明する。
図1は、第1実施形態のコンピュータ装置の装置構成10を示す図である。図1に示すコンピュータ装置20は、概ねパーソナル・コンピュータ、ワークステーションなどとして構成されている。コンピュータ装置20は、USB(Universal Serial Bus)やIEEE1394などの適切なインタフェースを介して、デジタルカメラ32などの画像入力装置が接続されている。デジタルカメラ32に蓄積された撮像画像データは、コンピュータ装置20に送信され、本実施形態の画像加工処理の対象とされる。なお、本実施形態で画像加工処理の対象となる画像データは、デジタルカメラ32から取得されるものに限定されるものではなく、ネットワークやリムーバブルメディアを介してコンピュータ装置20に予め複製された画像データなど、如何なる経路で取得される画像データを対象とすることができる。また本実施形態で使用することができる画像データのフォーマットとしては、特に限定されるものではないが、ビットマップ、JPEG(Joint Photographic Experts Group)、JPEG2000、GIF(Graphics Interchange Format)、PNG(Portable Network Graphics)、TIFF(Tagged Image File Format)などの如何なるイメージフォーマットを挙げることができる。
コンピュータ装置20はまた、USBやNIC(Network Interface Card)などの適切なインタフェースを介して、プリンタ30などの画像形成装置と接続されている。本実施形態では、画像加工処理が適用された後の画像データは、プリンタ30を用いてプリント出力することができる。本実施形態のコンピュータ装置20は、さらに、後述する参照画像を記憶する参照画像データベース22と、後述する感性語データベース24とに接続されている。なおデータベース22,24は、説明する実施形態では、コンピュータ装置20のローカルに構成されているものとするが、コンピュータ装置20がアクセス可能である限り、ネットワークを介してリモートコンピュータ上に構成されていてもよい。
以下、コンピュータ装置20の構成について詳細を説明する。図2は、第1実施形態のコンピュータ装置20のハードウェア構成を示す図である。コンピュータ装置20は、マイクロプロセッサ・ユニット(MPU)42と、BIOS(Basic Input Output System)を格納する不揮発性メモリ44と、MPU42によるプログラム処理を可能とする実行記憶空間を提供するRAMなどのメモリ46とを含んで構成されている。MPU42は、起動時に不揮発性メモリ44からBIOSを読み出して、システム診断を行なうとともに入出力装置56の管理を行っている。
MPU42は、内部バス52を介して記憶制御用インタフェース48に接続され、上述したデータベース22,24の記憶領域を提供するハードディスク50が、MPU42からの入出力要求に応答してデータの書込または読み出しを実行する。記憶制御用インタフェース48としては、IDE(Integrated Device Electronics)、ATA(AT Attachment)、シリアルATA、SCSI(Small Computer System Interface)、SAS(Serial Attached SCSI)などの規格によりハードディスク50の入出力を管理するインタフェースを使用することができる。MPU42は、内部バス52を介してUSB、IEEE1284などのシリアルまたはパラレル・インタフェース54を制御して、キーボード、マウスなどの入出力装置56と通信して、ユーザからの入力を受け取る。インタフェース54には、さらに、図1に示したプリンタ30やデジタルカメラ32も接続される。
コンピュータ装置20は、さらにVRAM58とグラフィック・チップ60とを含んでおり、MPU42からの指令に応答してビデオ信号を処理し、ディスプレイ装置62へと表示させている。また、MPU42は、内部バス52を介してネットワーク・インタフェース・カード(NIC;Network Interface Card)64と通信し、ネットワークを通して、コンピュータ装置20を外部装置と通信させることができる。
コンピュータ装置20は、不揮発性メモリ44やハードディスク50、その他、NV−RAM(図示せず)やSDカード(図示せず)などの記憶装置に格納されたプログラム(図示せず)を読み出し、メモリ46のメモリ領域に展開することにより、適切なオペレーティング・システム(OS)のもとで、後述する各機能部および各処理を実現している。上記OSとしては、Windows(登録商標)、UNIX(登録商標)またはLINUX(登録商標)など、如何なるアーキテクチャを有するOSを採用することができる。
以下、機能ブロック図を参照しながら、種類および処理パラメータを決定して画像加工処理を画像データに対して施す第1実施形態の画像加工処理について説明する。図3は、第1実施形態のコンピュータ装置上に実現される機能ブロックを示す。図3に示す機能ブロック100は、入力画像Pから画像特徴量を抽出する画像特徴量抽出部102を含む。この画像特徴量は、特に限定されるものではないが、入力画像の画像特徴、例えば画像の色合い、色の分布、画像から抽出される輪郭線、テクスチャなどを定量評価するものであり、画像特徴に基づく画像検索で用いられるものである。ここで抽出される画像特徴量は、画像検索処理に適合するよう予め設定されたものが用いられる。
上述した色に関する画像特徴量としては、例えば、入力画像を複数の適切なブロック領域に分け、各ブロック領域に含まれるピクセルの色値を色相の各スペクトル領域毎に集計して求めた頻度を画像特徴量として用いることができる。この場合、ブロック領域数Nと、スペクトル領域数Cとを用いて、N×C個の画像特徴量が定義され、これらを要素としたM(=N×C)次元の特徴ベクトルが構成される。さらに、上述したテクスチャに関する画像特徴量として、各ブロック領域における画像の輝度等の各空間周波数領域毎のスペクトル強度を画像特徴量として用いることができる。この場合、ブロック領域数Nと、周波数領域数Fとを用いて、N×F次元さらに特徴量ベクトルに追加される。なお、上述した画像特徴量は、例示を目的とするものであって、実際的には、データベース化する参照画像の特性等に対応して効率かつ高精度に画像検索可能とするため、種々の特徴量が選定され、次元削減などが適宜行われる。
参照画像データベース22は、参照データとして予め登録された参照画像を画像検索可能にデータベース化したものであり、各参照画像を、それぞれから予め抽出しておいた画像特徴量データと、画像の印象を表現する感性語とに紐付けて登録する。図4(A)は、第1実施形態で使用される参照画像データベース内のデータ構造を示す。図4(A)に示す参照画像データテーブル152は、参照画像を固有に識別する参照画像識別値が入力されるフィールド152aと、その参照画像の画像特徴量データが入力されるフィールド152bと、その参照画像に対して設定される1以上の感性語が入力されるフィールド152cとを含む。本実施形態では、フィールド152cの感性語が並列的に入力されているが、他の実施形態では、感性語と当該感性語の優先度とを関連付けてデータベースに登録することにより、感性語の優先度を管理することができる。
参照画像に対応する画像特徴量データは、画像特徴量抽出部102により予め抽出された複数の画像特徴量からなるM次元の特徴量ベクトルとして構成される。参照画像に対応する感性語は、オペレータ側で予め設定されたものを用いることができる。例えばオペレータが参照画像から連想した感性語をその参照画像に紐付けるように設定してもよいし、アンケートなどにより調査して、アンケートの分析結果上有意とされる上位の感性語をその参照画像に紐付けるようにしてもよい。
一方、感性語データベース24は、感性語と、感性語に関連する画像特徴(以下、関連画像特徴という。)と、その関連画像特徴が当該感性語に与える影響の程度(以下、寄与度という。)を表す画像特徴重みとを対応付けて記憶する。図4(B)は、第1実施形態で使用される感性語データベース内のデータ構造を示す。図4(B)に示す感性語データテーブル154は、感性語が入力されるフィールド154aと、その感性語の関連画像特徴を識別する値が入力されるフィールド154cと、その関連画像特徴に対する重みである画像特徴重みが入力されるフィールド154dとを含む。以下、関連画像特徴およびその画像特徴重みをまとめて、画像特徴重みデータと参照する。感性語データテーブル154は、後述するように、感性パラメータの入力を求める際のユーザによるパラメータ設定を容易化することを目的として、当該感性語と同時に提示するための感性語の対義語を保持するフィールド154bをさらに含むこともできる。
感性語に対応付けられる画像特徴重みデータは、当該感性語がどのような画像特徴によりどの程度影響を受けるかを事前に調査した上で設定されるものである。なお、ここで感性語に関連付けられる画像特徴および画像特徴重みは、説明する実施形態では、上述した画像特徴量データに含まれる画像特徴量と一致しているものとして説明するが、上述画像特徴量と必ずしも対応していなくともよく、色合い、色の分布、輪郭、テクスチャに関連する画像特徴といった大きなまとまりの単位で設定されていてもよい。例えば、「暖かい」という感性語については、色合いの画像特徴に強く影響を受けることから、色合いの画像特徴量を関連付け、その重みを高い値とする、といったように設定することができる。その他の例では、「暖かい」という感性語については、暖色系の色の画像特徴量に対して正に相関し、寒色系の色の画像特徴量に対して負の相関を有することから、暖色系および寒色系の色の画像特徴を関連付け、その重みをそれぞれ正および負の値とするといったように設定することができる。
感性語に対する画像特徴重みデータは、特に限定されるものではないが、例えばSD(Semantic Differential)法等により、多数の標本画像等について相対する意味の感性語を用いてn段階の心理評価のアンケートを実施して、このアンケート結果に重回帰分析などの多変量解析を実施し、感性語と各画像特徴量との相関を分析することで求めることができる。例えば重回帰分析を実施する場合には、調査結果から、感性語が表現する印象を実現する度合い(つまり感性パラメータ)を目的変量とし、画像特徴量を説明変量として回帰式を求め、その各画像特徴量に対する各係数を、感性語が画像特徴量により影響を受ける度合い、すなわち画像特徴重みとして求めることができる。なお、感性語の画像特徴重みデータは、その他、感性語を用いた画像検索の技術分野等で知られた如何なる方法を用いて求めることができる。
機能ブロック100は、さらに感性語検索部104を含む。感性語検索部104は、画像特徴量抽出部102により入力画像Pから抽出された画像特徴量データを受け取り、参照画像データベース22にアクセスし、その画像特徴量データを用いて類似した画像特徴を有する参照画像に紐付けられた1以上の感性語を取得するとともに、取得した感性語を用いて感性語データベース24にアクセスし、適宜その感性語に対応する対義語、画像特徴量およびその画像特徴重みを取得する。感性語検索部104は、本実施形態の感性語取得手段および特徴重み取得手段を構成する。
図5は、入力画像から感性語および画像特徴重みデータを求める処理を模式的に示す図である。図5に示すように、まず入力画像から画像特徴量データが抽出される。この画像特徴量データを用いて、入力画像のものに類似する画像特徴量データを有する参照画像を参照画像データベース22から検索する。画像検索は、例えば、ベクトル空間モデルを用いて入力画像の画像特徴データが構成する特徴量ベクトルに対し、ベクトル空間上でユークリッド距離が近接する特徴ベクトルを有する参照画像が検索され、その中で最もユークリッド距離が短いものが最も類似する参照画像として見つけ出される。図5に示す例では、参照画像「10000z」が最も類似する画像として見つけ出されている。そして、参照画像に紐付けられた感性語データが参照画像データベース22から取得され、感性語データ中の各感性語を検索クエリとして、感性語テーブルから該感性語に対応する画像特徴重みデータがそれぞれ取得される。
再び図3を参照すると、機能ブロック100は、感性パラメータ入力部106をさらに含む。感性パラメータ入力部106は、感性語検索部104により取得された感性語および適宜その対義語を受け取り、コンピュータ装置20のディスプレイ装置62などの表示装置上に感性語およびその対義語の表示120を行うとともに、その感性語に対する感性パラメータの値の入力122を受領するための制御を行う。この感性パラメータとは、画像加工処理によってその感性語をどの程度満足するようにしたいかを指定するためのパラメータであり、ユーザにより直感的に指定可能なものとされている。なお、感性パラメータ入力部106は、本実施形態の受領手段を構成する。
他の実施形態では、感性パラメータ入力部106は、後述する画像加工処理部110によって生成され、画像加工処理画面上に表示されるサンプル画像のうち、ユーザが選択したサンプル画像の識別情報を取得する。
機能ブロック100は、処理パラメータ決定部108と、画像加工処理部110とをさらに含む。処理パラメータ決定部108は、感性パラメータ入力部106が受領したユーザ指定の感性パラメータの値と、感性語検索部104が取得した画像特徴重みデータとを用いて、入力画像に適用すべき画像加工処理の種類およびその処理パラメータを決定する。画像加工処理の種類および処理パラメータの決定は、予め定められたルールおよび算定式に従って決定される。上記ルールおよび算定式は、各種類による画像加工処理が処理パラメータに従って画像特徴量にどのように影響を与えるかを事前に分析した上で、あるいは開発者側のデザインのノウハウに従って定めることができる。
例えば分析的な手法により定める場合には、以下に示す(1)〜(6)の手順を行うことにより、処理パラメータの決定に用いるルールまたは算定式を定めることができる。まず(1)画像加工処理を複数選定し、(2)選定した画像加工処理と広範囲の処理パラメータとを組み合わせて分析用画像に対して適用し、結果画像を得る。そして、(3)分析用画像の画像特徴量と結果画像の画像特徴量とを比較し、(4)この比較結果に従って、画像特徴に対する画像加工処理の寄与度と、処理パラメータの変化に伴う画像特徴の傾向を求め、(5)各画像特徴に、寄与度に応じて1以上の画像加工処理を対応付け、(6)各画像特徴の傾向を多項式などにより近似して処理パラメータの算定式を決定する。画像特徴量が画像から直接算出することができるため、上述したルールおよび算定式は、分析により比較的容易にかつ高い精度で求めることができる。
またノウハウにより定める場合には、以下に示す(7)〜(11)の手順を行うことにより、ルールまたは算定式を定めることができる。まず(7)開発者のノウハウに従って、各画像特徴毎に1以上の画像加工処理を割り当て、(8)割り当てた画像加工処理と広範囲の処理パラメータとを組み合わせて分析用画像に対して適用し、結果画像を得る。そして、(9)分析用画像の画像特徴量と結果画像の画像特徴量を比較し、(10)この比較結果に従って、処理パラメータの変化に伴う画像特徴の傾向を求め、(11)各画像特徴の傾向を多項式などにより近似して、処理パラメータの算定式を決定する。なお、(8)〜(11)の手順では、処理パラメータの算定式は、分析的な手法により求められているが、ノウハウに従って求めてもよい。
図4(C)は、第1実施形態で使用される、適用すべき画像加工処理および処理パラメータを決定するための画像加工処理決定テーブルのデータ構造を示す。図4(C)に示すの画像加工処理決定テーブル156は、画像特徴を識別する値が入力されるフィールド156aと、その関連画像特徴に対応付けられる1以上の画像加工処理が指定されるフィールド156bと、その処理パラメータの算定式を保持するフィールド156cとを含む。フィールド156cの算定式は、実際に処理パラメータを算出する際に用いられる。なお、1つの画像特徴に対し、複数の画像加工処理が対応付けられる場合や、画像加工処理間で相互作用が発生する場合には、反復演算などにより最終的な処理パラメータを決定することができる。
他の実施形態では、処理パラメータ決定部108は、サンプル画像の識別情報と、当該サンプル画像の生成に用いられた画像加工処理の種類およびその処理パラメータが関連付けて登録されるサンプル画像データベースを参照して、感性パラメータ入力部106から受領したサンプル画像の識別情報を用いて、当該サンプル画像に関連する画像加工処理の種類およびその処理パラメータを取得して決定する。
画像加工処理部110は、処理パラメータ決定部108により決定された画像加工処理の種類および処理パラメータに従って入力画像に対して画像加工処理を施し、出力画像Qを生成する。なお、処理パラメータ決定部108は、本実施形態の決定手段を構成し、画像加工処理部110は、本実施形態の画像加工処理手段を構成する。
他の実施形態では、画像加工処理部110は、上述したように画像加工処理の種類および処理パラメータに従って入力画像に対して画像加工処理を施すことにより、後述する画像加工処理画面に表示されるプレビュー画像を生成し、当該プレビュー画像に対して、さらに画像加工処理を施して種々のサンプル画像を生成する。サンプル画像の生成は、選択された感性語に対応する画像加工処理を種々の処理パラメータを用いてプレビュー画像に実施することにより行われる。例えば、感性語として「立体的」が選択されている場合、サンプル画像は、プレビュー画像と比較して、より立体的な画像またはより平面的な画像となるように処理パラメータを段階的に設定することができる。処理パラメータは、画像加工処理が1段階強くなるに従って、元の処理パラメータの値に対して所定の処理パラメータの値を加算して算出することもでき、または元の処理パラメータの値を任意の比率で乗算することにより算出することもできる。
また、画像加工処理部110は、既に生成されたサンプル画像を元にサンプル画像を生成することもできる。さらに、画像加工処理部110は、サンプル画像の識別情報と、当該サンプル画像を生成するのに使用した画像加工処理の種類および処理パラメータとを関連付けてサンプル画像データベースに格納する。
上述した画像加工処理としては、特に限定されるものではないが、レベル補正、トーンカーブ、カラーバランス、明るさ調整、コントラスト調整、彩度調整、色相調整、ガンマ補正などの画像調整処理や、シャープネス、アンシャープネス、ソフト、ガウスぼかし、放射状ぼかし、移動ぼかし、エンボス、エッジ抽出、中間値、押し出し、拡散、テクスチャ効果などの特殊効果などを挙げることができる。
図6は、第1実施形態のコンピュータ装置が実行する画像加工処理を示すフローチャートである。以下、このフローチャートを参照しながら、第1実施形態の画像加工処理の流れについて説明する。図6に示す処理は、ステップS600から開始し、ステップS601でコンピュータ装置20は、所定の処理対象画像に対する処理開始の指示をユーザから受ける。ステップS602では、画像特徴量抽出部102は、処理対象画像から画像特徴量を抽出し、画像特徴量データを生成し、メモリやHDDなどの適切な記憶領域に格納する。
ステップS603では、感性語検索部104は、生成された画像特徴量データを用いて参照画像データベース22から最も画像特徴が類似すると判定される参照画像に紐付けられた感性語データを取得する。ステップS604では、感性語検索部104は、取得した感性語データに含まれる各感性語を検索クエリとして、感性語データベース24から対応する画像特徴重みデータを取得する。ステップS605では、感性パラメータ入力部106は、各感性語に対応する感性パラメータを例えば0を初期値として設定する。
ステップS606では、処理パラメータ決定部108は、設定された感性パラメータと、取得された画像特徴重みデータとを用いて、画像加工処理の種類およびその処理パラメータを算出する。ステップS607では、画像加工処理部110は、決定された種類の画像加工処理を、決定された処理パラメータにしたがって処理対象画像に一時的に適用し、プレビュー画像を作成する。ステップS608では、感性語およびその対義語とともに感性パラメータの指定および確定の指示を受け付けるための画像加工処理画面をディスプレイ装置などに表示させる。
図7は、第1実施形態のコンピュータ装置20のディスプレイ装置62の画面上に表示される画像加工処理画面の一実施形態を示す図である。図7に示す画像加工処理画面760は、プレビュー表示領域762と、感性パラメータ指定領域764とを含む。感性パラメータ指定領域764には、感性語検索部104で取得された1以上の感性語のうち特に重要と見なされている感性語に対する感性パラメータの値を操作するためのスライダ770がそれぞれ配置され、スライダの両端には、対応する感性語およびその対義語の表示が配置され、目盛り776が付されている。スライダ770には、つまみ778が配置され、感性パラメータの現在値を表示するとともに、このつまみ778を動かすことによりその値が操作可能とされている。図7に示すように、感性語とその対義語とをスライダ770の両側に表示させることで、ユーザに対し、スライダのどちら側につまみを移動させれば表示の感性語が表す印象が得られるようになるかを伝達し、ユーザによる直感的な操作を容易なものとしている。なお、図7に示すように感性語と感性語の対義語とを表示させてもよいし、対義語を表示させず感性語のみを表示させて、その強弱のみを示す形で代替してもよい。
再び図6を参照すると、ステップS609では、感性パラメータ入力部106は、ユーザからの入力操作に応じて処理を分岐させる。ステップS609で、ユーザによりスライダが操作されて感性パラメータの現在値が変更された場合(「感性パラメータ変更」)には、ステップS606へ処理をループさせ、変更された感性パラメータに応じたプレビュー画像の再演算と表示の更新とを再度行わせる。一方、ステップS609で、ユーザから確定の指示を受け取った場合(「確定」)には、ステップS610へ処理を進める。ステップS610では、画像加工処理部110は、確定された感性パラメータの値および画像特徴重みデータから求められた画像加工処理の種類およびその処理パラメータにしたがって、処理対象画像に対して画像加工処理を施し、出力画像Qを生成し、ステップS611で、処理画像結果をプリンタ出力またはファイル出力し、ステップS612で、本画像加工処理を終了させる。
上述した第1実施形態によれば、予め感性語が紐付けられた素性のよい参照画像のなかから、入力画像に画像特徴が類似したものが検索され、それに紐付けられた感性語が提示されてユーザに対して感性パラメータの入力が求められることとなる。このため、ユーザは、入力画像の特徴(例えば被写体など)に適合した感性語に関連して、画像加工処理の種類および処理パラメータを決定するためのパラメータ指定を直感的に指定することができ、ひいては、感性語が表現する印象を実現する度合いを表す感性パラメータの指定といったユーザが直感的に理解できる心理的なパラメータの操作によって、ユーザの意図に合った画像加工処理を容易に実現することが可能となる。さらに、感性パラメータの指定という自由度の範囲において入力画像の特徴(例えば被写体など)に応じた結果を得ることが可能となる。また、上述した第1実施形態では、プレビュー表示を行うものとして説明してきたが、プレビュー表示の有無をユーザ指定可能としてもよいし、プレビュー表示を行わなくともよいことは言うまでもない。
なお、上述した第1実施形態では、感性パラメータの初期値が、一律に0に設定されるものとして説明してきたが、例えば入力画像の特性に応じて初期値を設定するよう構成してもよい。以下、元の入力画像で実現されている感性パラメータの値を計算し、それを感性パラメータの初期値として用いる第2実施形態について説明する。なお、第2実施形態は、第1実施形態と同様の構成を有しているため、以下の説明では、相違点を中心に説明する。
図8は、第1実施形態のコンピュータ装置が実行する他の実施形態の画像加工処理を示すフローチャートである。以下、図8を参照して、他の実施形態の画像加工処理について説明する。なお、図8に示すステップS800〜ステップS807の処理は、図6に示した処理と同じであるため説明は割愛する。
ステップS808では、画像加工処理部110が、画像加工処理画面のサンプル画像指定領域に表示されるサンプル画像を作成する。ステップS809では、感性パラメータ入力部106が、サンプル画像の指定および確定の指示を受け付けるための画像加工処理画面をディスプレイ装置などに表示させる。ステップS810では、感性パラメータ入力部106が、ユーザからの入力操作に応じて処理を分岐させる。ステップS810で、ユーザによってサンプル画像が選択された旨の指示を受領した場合(「プレビュー画像およびサンプル画像の変更」)には、ステップS808へ処理をループさせ、画像加工処理部110が、画像加工処理画面に新たに表示されるサンプル画像を生成し、感性パラメータ入力部106が、当該生成されたサンプル画像を画像加工処理画面に表示させるともに、選択されたサンプル画像をプレビュー画像として表示させる。
一方、ステップS810で、ユーザからサンプル画像の確定の指示を受け取った場合(「確定」)には、処理をステップS811へ進める。当該指示には、ユーザが選択したサンプル画像の識別情報が含まれており、ステップS811で、処理パラメータ決定部108が、サンプル画像データベースを参照して、当該サンプル画像の識別情報を用いて、当該サンプル画像に関連付けられた画像加工処理の種類およびその処理パラメータを取得する。ステップS812では、画像加工処理部110は、当該画像加工処理の種類および処理パラメータに従って、処理対象画像に対して画像加工処理を施し、出力画像Qを生成する。そして、ステップS813で、処理画像結果をプリンタ出力またはファイル出力し、ステップS814で、本画像加工処理を終了させる。
図9は、第1実施形態のコンピュータ装置のディスプレイ装置の画面上に表示される画像加工処理画面の一実施形態を示す図である。図9に示す画像加工処理画面960は、図7に示す画像加工処理画面760と同様に、プレビュー表示領域962と、サンプル画像指定領域964とを含む。以下、図7に示す画像加工処理画面760と相違する部分について説明する。
サンプル画像指定領域964には、種々のサンプル画像970が表示される。これらのサンプル画像は、それぞれ異なる画像加工処理パラメータによって生成されており、ユーザはこれらのサンプル画像を選択することにより、より直感的に所望の出力画像を得ることができる。
図9に示す実施形態では、感性語およびその対義語として立体的972および平面的974が選択されている。選択される感性語には、上述したように優先度を割り当てることができ、画像加工処理画面960には、優先度の最も高い感性語が表示されている。本実施形態では、プレビュー画像がサンプル画像指定領域964の中心位置に表示される。また、サンプル画像指定領域964の左側位置には、プレビュー画像よりも立体的なサンプル画像が表示され、サンプル画像指定領域964の右側位置にはプレビュー画像よりも平面的なサンプル画像が表示される。
サンプル画像指定領域964には、矢印976、978が含まれている。ユーザがマウス等の入力装置を用いて矢印976、978を押下すると、サンプル画像が横方向にスクロールする旨のイベントが通知される。このイベントには、押下された矢印の識別情報が含まれており、感性パラメータ入力部106は、イベントを受領した回数およびイベントに含まれる矢印の識別情報を用いて、表示すべきサンプル画像を判断する。例えば、左側の矢印976が1回押下されると、そのイベントが感性パラメータ入力部106に通知され、感性パラメータ入力部106は、当該イベントに含まれる矢印の識別情報とその回数から、表示が要求されているサンプル画像を判断する。そして、画像加工処理部110は、プレビュー画像またはサンプル画像から要求されているサンプル画像を生成して、画像加工処理画面960を更新する。これにより、例えば、矢印976を1回押下すると、現在表示されているサンプル画像が右側に1つスクロールし、より立体的なサンプル画像がサンプル画像指定領域964の左側位置に表示することできる。一方、矢印978を1回押下すると、現在表示されているサンプル画像が左側に1つスクロールし、より平面的なサンプル画像をサンプル画像指定領域964の右側位置に表示することができる。
また、感性パラメータ入力部106は、矢印を継続して押下している旨のイベントを受領すると、時間を計測する処理関数等を用いて、矢印が押下されていた時間を計測する。感性パラメータ入力部106は、この計測時間と、予め設定された単位時間に対するサンプル画像の移動量とを用いて、表示すべきサンプル画像を判断することができる。例えば、単位時間に対するサンプル画像の移動量として4が割り当てられている場合に、左側の矢印976が押下されていた時間が3秒であるとすると、現在左側位置に表示されているサンプル画像に対して12段階強い立体的な画像加工処理が施された画像が、表示すべきサンプル画像となる。これにより、矢印976、978を押下し続けると、サンプル画像が連続してスクロールすることができる。ユーザは、当該矢印を用いてサンプル画像を変更することにより、自身が必要とする画像を直感的に選択することができる。なお、本実施形態では、感性語と感性語の対義語とを表示しているが、感性語のみを表示して、その強弱のみを示すようにしてもよい。
図10は、第2実施形態のコンピュータ装置上に実現される機能ブロックを示す。なお、第2実施形態において、第1実施形態と同様の機能を奏する機能部は、下二桁が同一の符号にて参照する。図10に示す機能ブロック200は、第1実施形態のものに加えて、初期値算出部212をさらに含んで構成される。第2実施形態の感性語検索部204は、第1実施形態の場合と同様に、参照画像データベースから、類似の参照画像に紐付けられた1以上の感性語を取得し、その感性語に紐付けられた画像特徴重みデータを感性語データベースから取得する。そして、感性語検索部204は、感性語と、その画像特徴重みデータと、画像特徴量データとを、初期値算出部212へ渡す。なお、ここで渡される画像特徴量データは、画像特徴量抽出部202で本入力画像Pから抽出されたものを用いることができる。しかしながら、他の実施形態では参照画像データベースから取得した類似の参照画像の画像特徴量データを用いてもよい。いずれの場合でも、入力画像の特性に応じた感性パラメータの初期値を算出することができる。
初期値算出部212は、受け取った感性語と、その画像特徴重みデータと、画像特徴量データとを用いて、感性パラメータそれぞれの初期値を算出する。この感性パラメータの初期値は、処理前の入力画像がその感性語が表現する印象をどの程度満足しているかを表している。感性パラメータの値は、特に限定されるものではないが、上述したような重回帰分析により画像特徴重みを求めた場合には、得られた回帰式に実際の画像特徴量(入力画像または最類似の参照画像)を入力して求められる目的変量の推定値を感性パラメータの初期値として計算することができる。初期値算出部212が計算した感性パラメータの初期値は、感性パラメータ入力部206へ渡され、感性語および感性パラメータの初期値の表示220が行われる。なお、類似の参照画像の画像特徴量データを用いる実施形態では、入力画像がこの参照画像の画像特徴量データを用いて算出されたこの感性パラメータの初期値を満たすように、入力画像に画像加工処理を実行した上でプレビュー表示を行うことが望ましい。
図11は、第2実施形態のコンピュータ装置が実行する画像加工処理を示すフローチャートである。図11に示すステップS1100〜ステップS1104の処理は、図6に示した第1実施形態の処理と同一であるため説明は割愛する。ステップS1105では、初期値算出部212は、画像特徴量と、画像特徴重みとを用いて感性パラメータの初期値を算出し、感性パラメータ入力部206は、算出された各感性語の感性パラメータを初期値として設定する。
ステップS1106では、処理パラメータ決定部208は、設定された感性パラメータと取得された画像特徴重みデータとを用いて、画像加工処理の種類およびその処理パラメータを算出する。ここでは、設定された感性パラメータの現在値と、感性パラメータの初期値との差を用いることができる。ステップS1107では、画像加工処理部210は、決定された種類の画像加工処理を処理パラメータに従って処理対象画像に一時的に適用し、プレビュー画像を作成する。ステップS1108では、感性パラメータ入力部206は、感性語およびその対義語とともに感性パラメータの指定および確定の指示を受け付けるための画像加工処理画面をディスプレイ装置などに表示させる。初回の表示では、算出された感性パラメータの初期値がユーザに提示される。類似の参照画像の画像特徴量データを用いる実施形態では、この感性パラメータの初期値を満たすように画像加工処理された結果がプレビュー表示されることとなる。
図12は、第2実施形態のコンピュータ装置20のディスプレイ装置62の画面上に表示される画像加工処理画面を一例として示す。図12に示す画像加工処理画面1260は、第1実施形態と同様に、プレビュー表示領域1262と、感性パラメータ指定領域1264とを含む。感性パラメータ指定領域1264の各スライダの初期値が、算出された感性パラメータの初期値に従って設定される。図12に示すように、算出された感性パラメータの初期値をユーザに提示することにより、ユーザは、入力画像が本来有している印象を数値化した値を知ることができ、ユーザの意図をより適切に画像加工処理に反映させることが可能となる。
再び図11を参照すると、ステップS1109では、感性パラメータ入力部206は、ユーザからの入力操作に応じて処理を分岐させる。ステップS1109で、ユーザによりスライダが操作されて感性パラメータの現在値が変更された場合(「感性パラメータ変更」)には、ステップS1106へ処理をループさせ、変更された感性パラメータに応じたプレビュー画像の再演算と表示の更新を再度行わせる。一方、ステップS1109で、ユーザから確定の指示を受け取った場合(「確定」)には、ステップS1110へ処理を進める。ステップS1110では、画像加工処理部210は、確定した感性パラメータの値および画像特徴重みデータから求められた画像加工処理の種類およびその処理パラメータに従って、処理対象画像に対して画像加工処理を施し、出力画像Qを生成する。そして、ステップS1111で、処理画像結果をプリンタ出力またはファイル出力し、ステップS1112で、本画像加工処理を終了させる。
上述した第2実施形態によれば、入力画像または参照画像の画像特徴量データ、つまり入力画像の特性に応じて、感性パラメータの初期値が算出され、ユーザに提示されることとなる。このため、ユーザは、入力画像が本来有している印象を数値化した値を中心として感性パラメータの変更が行え、ユーザの意図をより適切に画像加工処理に反映させることが可能となる。
図13は、コンピュータ装置のディスプレイ装置の画面上に表示される画像加工処理画面の他の実施形態を示す図である。図13に示す画像加工処理画面1360は、図9に示す画像加工処理画面960と同様に、プレビュー表示領域1362と、サンプル画像指定領域1364,1372,1380とを含む。以下、図9に示す画像加工処理画面960と相違する部分について説明する。
図13に示す画像加工処理画面1360は、3種類の感性語「立体的」、「穏やか」および「柔らかい」がそれぞれ割り当てられたサンプル画像指定領域1364,1372,1380を含んでいる。選択される感性語には、上述したように優先度を割り当てることができ、画像加工処理画面1360には、優先度の高い3つの感性語が表示されている。各サンプル画像指定領域の中心位置1368,1376,1384には、プレビュー表示領域1362に表示するプレビュー画像が表示可能である。また、各サンプル画像指定領域の左側位置1366,1374,1382には、プレビュー画像よりも立体的、穏やか、または柔らかいサンプル画像を表示することができ、各サンプル画像指定領域の右側位置1370,1378,1386には、プレビュー画像よりも平面的、荒々しい、または硬いサンプル画像を表示することができる。これにより、ユーザは、1の画面上で複数の感性語に対応したサンプル画像を選択することができ、種々の感性語に対応する画像加工処理が施された画像の中から所望の出力画像を直感的に選択することができる。なお、本実施形態では、優先度の高い3種類の感性語が表示されているが、他の実施形態では、ユーザがサンプル画像を視認可能である限り、任意の数の感性語とそれに対応するサンプル画像を表示してもよい。
図14は、コンピュータ装置のディスプレイ装置の画面上に表示される画像加工処理画面のさらに他の実施形態を示す図である。図14に示す画像加工処理画面1460は、図13に示す画像加工処理画面1360と同様に、3種類の感性語が割り当てられたサンプル画像指定領域1470,1472,1474を含んでいる。以下、図13に示す画像加工処理画面1360と相違する部分について説明する。
本実施形態では、コンピュータ上に実現される画像加工処理画面1460を生成するユーザ・インタフェース(以下、単にUIとして参照する。)生成部を備えている。UI生成部は、ディスプレイ装置に表示されている画像加工処理画面1460のサンプル画像指定領域がマウス等のポインタによって選択された旨のイベントを受領すると、既に選択されているサンプル画像指定領域が存在するか否か判断し、既に選択されているサンプル画像指定領域が存在しない場合には、当該イベントが示すサンプル画像指定領域を予め規定した大きさに拡大して画像加工処理画面1460を生成して表示装置に表示する。UI生成部は、現在選択されているサンプル画像指定領域の識別情報をRAMやレジスタ等の記憶装置に保持することができ、この識別情報を使用して、既に選択されているサンプル画像指定領域が存在するか否か判断することができる。
一方、既に選択されているサンプル画像指定領域が存在する場合には、UI生成部は、既に選択されているサンプル画像指定領域を通常の元の大きさに縮小し、イベントが示すサンプル画像指定領域を予め規定した通常の大きさ戻した画像加工処理画面1460を生成してディスプレイ装置に再表示する。UI生成部が受領するイベントには、選択されたサンプル画像指定領域の識別情報および当該指定領域が選択された旨の指令を含まれており、UI生成部は、これらの情報を使用して画像加工処理画面1460を生成することができる。
他の実施形態では、イベントは、マウスポインタがサンプル画像指定領域内に存在する旨の指令またはマウスポインタがサンプル画像指定領域から外れた旨の指令を含むことができ、UI生成部は、マウスポインタが存在するサンプル画像指定領域を拡大し、またはマウスポインタが外れたサンプル画像指定領域を縮小して画像加工処理画面1460を生成することができる。
本実施形態では、ユーザが選択したサンプル画像指定領域を拡大表示するため、ユーザのサンプル画面に対する視認性を一層高めることができる。なお、図14では、プレビュー表示領域が省略されているが、画像加工処理画面1460はプレビュー表示領域を含んで構成することができる。また、他の実施形態では、プレビュー表示領域を省略することができ、この場合には、サンプル画像として表示されるプレビュー画像を、例えば、当該プレビュー画像の外枠を強調表示し、またはプレビュー画像の外枠を他の外枠と異なる色で表示するなどして、他のサンプル画像と区別して表示することができる。
図15は、コンピュータ装置のディスプレイ装置の画面上に表示される画像加工処理画面のさらに他の実施形態を示す図である。図15に示す画像加工処理画面1560は、図9に示す画像加工処理画面960と同様に、1種類の感性語が割り当てられたサンプル画像指定領域1572を含んでいる。以下、図9に示す画像加工処理画面960と相違する部分について説明する。
画像加工処理画面1560は、現在表示されているサンプル画像のサンプル画像全体に対する位置を示すバー1502が含まれている。本実施形態では、最初に表示される表示加工処理画面1560では、バー1502を中心位置に表示することができる。
本実施形態では、感性パラメータ入力部が、矢印1576,1578が選択された旨のイベントを受領すると、図9を参照して説明した実施形態と同様に、画像加工処理部によってサンプル画像が更新される。感性パラメータ入力部は、矢印1576,1578が押下された回数をレジスタやRAM等に記憶させることができ、当該回数を使用して、現在表示されているサンプル画像が最初に表示加工処理画面1560に表示されたサンプル画像からどの程度離れているかを判断することができ、その度合いをバー1502の位置によって表現する。本実施形態では、左側の矢印1576が押下された回数を正の数で表し、右側の矢印1578が押下された回数を負の数で表すことができ、例えば、左側の矢印1576が5回押下され、その後、右側の矢印1578が2回押下された場合には、矢印が押下された回数は「+3」となり、これは実質的に左側の矢印が3回押下されたことを意味する。この場合、画像加工処理画面1560は、現在表示されているバー1502の位置を左側に移動して表示する。本実施形態では、バー1502が移動可能な範囲と、1回の矢印の押下により移動可能な距離とを画像加工処理画面1560内の相対的な座標位置により予め設定しておくことにより、バー1502の移動させて表示することができる。これにより、現在表示されているサンプル画像のサンプル画像全体に対する位置をユーザが直感的かつ容易に把握することができる。
他の実施形態では、バー1502と連動してサンプル画像を変更することができる。感性パラメータ入力部は、バー1502が移動した旨のイベントを受領すると、当該イベントに含まれているバー1502の画像加工処理画面1560内の相対的な座標位置からバー1502の移動距離を判断する。そして、感性パラメータ入力部は、この移動距離が矢印の何回分の押下に相当するかを判断する。そして、画像加工処理部が、その回数に対応するサンプル画像を生成して画像加工処理画面1560を更新する。
なお、図15では、図14に示す実施形態と同様、プレビュー表示領域が省略されているが、画像加工処理画面1560はプレビュー表示領域を含んで構成することができる。また、他の実施形態では、プレビュー表示領域を省略することができ、この場合には、サンプル画像として表示されるプレビュー画像を、例えば、当該プレビュー画像の外枠を強調表示し、またはプレビュー画像の外枠を他の外枠と異なる色で表示するなどして、他のサンプル画像と区別して表示することができる。
図16は、コンピュータ装置のディスプレイ装置の画面上に表示される画像加工処理画面のさらに他の実施形態を示す図である。図16に示す画像加工処理画面1660は、2種類の感性語「立体的」および「穏やか」に対応するサンプル画像が2次元的に配置される。画像加工処理画面1660は、プルダウンメニューボタン1602,1604を含んでおり、ユーザは、このメニューボタンを使用して感性語を指定することができる。本実施形態では、感性語の初期値として、最類似の参照画像に関連付けられた感性語である「立体的」および「穏やか」が選択されているが、他の実施形態では、その他の感性語を初期値として設定することができる。さらに、優先度の高い感性語を初期値として設定することもできる。当該優先度の高い感性語の選択は、感性語の優先度が登録されたデータベースを参照することにより行うことができる。
本実施形態では、画像加工処理画面を最初に表示する場合、または感性パラメータ入力部が、ユーザが指定した感性語を受領した場合に、画像加工処理部が、プレビュー画面をサンプル画像1676として生成し、当該サンプル画像1676を用いて他のサンプル画像を生成する。例えば、画像加工処理部は、サンプル画像1676を用いて、選択または指定された感性語に従って、より穏やかな画像1674と、より荒々しい画像1678とを生成する。そして、画像加工処理部は、これらのサンプル画像1674,1676,1678を用いて、選択または指定された別の感性語に従って、より立体的な画像1666,1668,1670と、より平面的な画像1682,1684,1686とを生成する。本実施形態では、2種類の感性語に対応するサンプル画像が2次元的に配置されるため、2種類の感性パラメータを同時に指定することできる。
以上説明してきたように、上述した実施形態によれば、感性語に対するパラメータの入力といったユーザが直感的に理解できる操作により、ユーザが意図する結果が得られるように画像処理の種類およびパラメータを決定し、画像データに対してユーザの意図に沿った画像加工処理を施すことが可能な画像処理装置、画像処理方法、プログラムおよび記録媒体を提供することができる。
なお、上述した実施形態では、静止画像を編集するためのフォトレタッチ・ツールを主にデスクトップ・アプリケーションとして実現するコンピュータ装置を画像処理装置の一例として説明してきたが、上述した画像加工処理機能をウェブベースのアプリケーションとしてサーバ装置上に実現してもよい。
また、上記機能は、アセンブラ、C、C++、C#、Java(登録商標)、などのレガシープログラミング言語やオブジェクト指向プログラミング言語などで記述された装置実行可能なプログラムにより実現でき、ROM、EEPROM、EPROM、フラッシュメモリ、フレキシブルディスク、CD−ROM、CD−RW、DVD、SDメモリ、MOなど装置可読な記録媒体に格納して頒布することができる。
以上本発明の特定の実施形態について説明してきたが、本発明の実施形態は上述した実施形態に限定されるものではなく、他の実施形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。