JP7128665B2 - 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体 - Google Patents

画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体 Download PDF

Info

Publication number
JP7128665B2
JP7128665B2 JP2018110799A JP2018110799A JP7128665B2 JP 7128665 B2 JP7128665 B2 JP 7128665B2 JP 2018110799 A JP2018110799 A JP 2018110799A JP 2018110799 A JP2018110799 A JP 2018110799A JP 7128665 B2 JP7128665 B2 JP 7128665B2
Authority
JP
Japan
Prior art keywords
image
group
images
image group
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018110799A
Other languages
English (en)
Other versions
JP2019215593A (ja
Inventor
啓 山路
幸典 野口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2018110799A priority Critical patent/JP7128665B2/ja
Priority to EP19177107.0A priority patent/EP3582188B1/en
Priority to US16/432,749 priority patent/US11323577B2/en
Priority to CN202310920600.9A priority patent/CN116719492A/zh
Priority to CN201910499200.9A priority patent/CN110580135B/zh
Publication of JP2019215593A publication Critical patent/JP2019215593A/ja
Priority to JP2022130839A priority patent/JP7442589B2/ja
Application granted granted Critical
Publication of JP7128665B2 publication Critical patent/JP7128665B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1202Dedicated interfaces to print systems specifically adapted to achieve a particular effect
    • G06F3/1203Improving or facilitating administration, e.g. print management
    • G06F3/1205Improving or facilitating administration, e.g. print management resulting in increased flexibility in print job configuration, e.g. job settings, print requirements, job tickets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00185Image output
    • H04N1/00196Creation of a photo-montage, e.g. photoalbum
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1253Configuration of print job parameters, e.g. using UI at the client
    • G06F3/1256User feedback, e.g. print preview, test print, proofing, pre-flight checks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1253Configuration of print job parameters, e.g. using UI at the client
    • G06F3/1257Configuration of print job parameters, e.g. using UI at the client by using pre-stored settings, e.g. job templates, presets, print styles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00143Ordering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00148Storage
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00185Image output
    • H04N1/00188Printing, e.g. prints or reprints
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/0044Display of information to the user, e.g. menus for image preview or review, e.g. to help the user position a sheet
    • H04N1/00442Simultaneous viewing of a plurality of images, e.g. using a mosaic display arrangement of thumbnails
    • H04N1/00456Simultaneous viewing of a plurality of images, e.g. using a mosaic display arrangement of thumbnails for layout preview, e.g. page layout

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

この発明は,画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体に関する。
多数の撮影画像の中から所望の画像を選択し,選択した画像を用いてアルバムを作成することが行われている。しかしながら,多数の撮影画像の中から画像を選択したり,レイアウトを決定したり,テンプレートを決定したりするように画像の出力形態を決定することは比較的面倒な作業である。顧客の要望に合わせた再プリントを作成する場合には,再プリントに好適なデータを検索するものや(特許文献1),診断対象の画像に関しては,診断対象に類似している画像を見つけるものが考えられている(特許文献2)。また,ネットプリントシステムにおいては注文履歴からおすすめ画像を提示するもの(特許文献3),注文履歴に応じて以前に注文した画像を強調表示するものなども考えられている(特許文献4)。
特開2003-288350号公報 特開2005-65728号公報 特開2006-178743号公報 特開2007-310655号公報
しかしながら,引用文献1に記載のものは再プリントをする場合についてのものであるから複数の新たな撮影画像の中から所望の画像の出力形態を決定する場合には適さない。引用文献2に記載のものは診断対象の画像に類似した画像を単に見つけるものであり,引用文献3に記載のものは注文履歴からおすすめ画像を提示するものであり,引用文献4に記載のものは以前に注文した画像を強調表示するものである。いずれにしても複数の画像の中から所望の画像の出力形態を決定することは全く考えられていない。
この発明は,複数の画像の中から画像の出力形態を決定する場合に,比較的適切な出力形態を決定することを目的とする。
この発明による画像処理装置は,画像群を入力する画像群入力手段,ならびに以前に入力した画像群である第1画像群に含まれる画像のうち,一のユーザおよび他のユーザの少なくとも一方のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した画像群である第2画像群に含まれる画像の出力形態を決定する出力形態決定手段を備えていることを特徴とする。
この発明は,画像処理装置に適した画像処理方法も提供している。すなわち,この方法は,画像群入力手段が,画像群を入力し,出力形態決定手段が,以前に入力した画像群である第1画像群に含まれる画像のうち,一のユーザおよび他のユーザの少なくとも一方のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した画像群である第2画像群に含まれる画像の出力形態を決定することを特徴とする。
画像処理装置がプロセッサを備え,そのプロセッサが,画像群を入力し,以前に入力した画像群である第1画像群に含まれる画像のうち,一のユーザおよび他のユーザの少なくとも一方のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した画像群である第2画像群に含まれる画像の出力形態を決定してもよい。
この発明は,画像処理装置のコンピュータを制御するコンピュータが読み取り可能なプログラムおよびそのプログラムを格納した記録媒体も提供している。
出力形態決定手段において決定した出力形態によって出力するように出力装置を制御する出力装置制御手段をさらに備えてもよい。
以前に入力した第1画像群は,たとえば,一のユーザが入力した画像群である。
また,以前に入力した第1画像群は,他のユーザが入力した画像群でもよい。
出力形態決定手段は,たとえば,以前に入力した第1画像群のうち,一のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群の中から抽出する画像を決定する,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像のレイアウトを決定する,あるいは,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像を貼り付けるテンプレートを決定する。
出力形態決定手段は,以前に入力した第1画像群のうち,一のユーザが入力した画像群の中から一のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した画像群に含まれる画像の出力形態を決定してもよい。この場合,当該一のユーザの好みをより反映した出力形態を得ることができる。
出力形態決定手段は,以前に入力した第1画像群のうち,他のユーザが入力した画像群の中から他のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像の出力形態を決定してもよい。この場合,他のユーザの一般的な好みをより反映した出力形態を得ることができる。
なお,一のユーザは,基づくべき情報として,当該一のユーザ(自分)が入力した画像群の中から一のユーザが選択した画像を用いるか,他のユーザが入力した画像群の中から他のユーザが選択した画像を用いるかを,選択することができることとしてもよい。また,当該選択をいつでも変更することができることとしてもよい。
以前に入力した第1画像群のうち,一のユーザが入力した画像群の中から,一のユーザが画像群入力手段から新たに入力した第2画像群に類似する画像群を見つける第1の画像群検索手段をさらに備えてもよい。この場合,出力形態決定手段は,たとえば,第1の画像群検索手段において見つけられた画像群に含まれる画像の中から一のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像の出力形態を決定する。
出力形態決定手段は,第1の画像検索手段において見つけられた画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,一のユーザが画像群入力手段から新たに入力した第2画像群の中から抽出する画像を決定してもよい。
以前に入力した第1画像群のうち,他のユーザが入力した画像群の中から,一のユーザが画像群入力手段から新たに入力した第2画像群に類似する画像群を見つける第2の画像群検索手段をさらに備えてもよい。この場合,出力形態決定手段は,たとえば,第2の画像群検索手段において見つけられた画像群に含まれる画像の中から他のユーザが選択した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像の出力形態を決定する。
出力形態決定手段は,たとえば,第2の画像検索手段において見つけられた画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,一のユーザが画像群入力手段から新たに入力した画像群の中から抽出する画像を決定してもよい。
出力形態決定手段は,たとえば,以前に入力した画像群のうち一のユーザが入力した画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,一のユーザが画像群入力手段から新たに入力した第2画像群の中から抽出する画像を決定してもよい。
一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像を解析する画像解析手段をさらに備えてもよい。この場合,出力形態決定手段は,たとえば,画像解析手段における画像解析結果を表わす解析スコアと,以前に入力した第1画像群に含まれる画像のうち,一のユーザおよび他のユーザの少なくとも一方のユーザが選択した画像についての情報と,にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像の出力形態を決定する。
出力形態決定手段は,一のユーザが画像群入力手段から新た入力した第2画像群に含まれる画像のうち,画像解析手段における画像解析結果を表す解析スコアがしきい値以上である画像を抽出する画像と決定してもよい。
出力形態決定手段は,画像解析手段における画像解析結果を表す解析スコアと,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像と以前に入力した第1画像群に含まれる画像のうち一のユーザが選択した画像との類似度を表す類似スコアと,にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群の中から抽出する画像と決定してもよい。
出力形態決定手段において決定した出力形態にもとづいて,出力形態を決定するアルゴリズムを更新する出力形態決定アルゴリズム更新手段をさらに備えてもよい。
出力形態決定手段は,以前に入力した画像群に含まれる画像のうち,さらに,一のユーザが排除した画像についての情報にもとづいて,一のユーザが画像群入力手段から新たに入力した第2画像群に含まれる画像の中から抽出する画像を決定してもよい。
この発明によると,以前に入力した第1画像群に含まれる画像の中から選択された画像の出力形態に準じた出力形態を,新たに入力した第2画像群に含まれる画像について決定できる。
画像処理システムの概要を示している。 アルバム生成の概要を示している。 クライアント・コンピュータの電気的構成を示すブロック図である。 受注サーバの電気的構成を示すブロック図である。 受注データベースの内容を示している。 画像処理システムの処理手順を示すフローチャートである。 画像処理システムの処理手順を示すフローチャートである。 特徴量空間において分類された画像グループの一例である。 画像グループがまとめられる様子を示している。 特徴量空間において分類された画像グループの一例である。 特徴量空間において分類された画像グループの一例である。 第2画像群に含まれる画像から生成されたアルバムの一部を示している。 第1画像群から抽出された画像が配置される様子を示している。 第1画像群から抽出された画像から生成されたアルバムの一部を示している。 画像編集システムの処理手順を示すフローチャートである。 画像編集システムの処理手順を示すフローチャートである。
[第1実施例]
図1は,この発明の第1実施例を示すもので,画像処理システムの概要を示している。
画像処理システムは,複数の画像の中から画像を抽出し,抽出された画像をページにレイアウトしてアルバムを生成するシステムである。
インターネットにn台(nは自然数)のクライアント・コンピュータ1-nおよび受注サーバ5が接続されている。受注サーバ5には受注データベース6が接続されている。クライアント・コンピュータ1-nのそれぞれと受注サーバ5とは互いに通信可能である。クライアント・コンピュータ1-nのそれぞれと受注サーバ5とが画像処理システムを構成している。
クライアント・コンピュータ1-nのいずれかと受注サーバ5とが通信して,アルバムが生成される。
図2は,この実施例によるアルバム生成の概要を示している。
この実施例においては,受注データベース6には複数の第1画像群の情報を表すデータが格納されている。第1画像群は,以前に様々なユーザがアルバムを生成する画像として利用した複数の画像が含まれている画像群であり,ユーザがアルバムに使用する候補となる画像が含まれるものである。第1画像群にはアルバムに利用されなかった画像も含まれている。第1画像群は複数の画像の集まりであり,第1画像群の情報は複数の画像のそれぞれの情報(図5に示すようにレイアウト情報テーブル,テンプレート情報テーブル)である。
アルバムを生成しようとする一のユーザは,複数の画像が含まれている第2画像群を新たに受注サーバ5に入力する。受注データベース6に格納されている複数の第1画像群のうちいずれかの第1画像群においてアルバムに使用する画像として抽出された画像の情報等にもとづいて,第2画像群から複数の画像抽出,アルバムのレイアウトおよびアルバムのテンプレートの決定が行われる。抽出された画像を用いて,決定されたレイアウトおよびテンプレートによるアルバムが生成される。以前に第1画像群にもとづいて生成されたアルバムに準ずるようなアルバムが第2画像群から生成されることとなる。第2画像群からのアルバム生成処理について詳しくは後述する。
図3は,クライアント・コンピュータ1の電気的構成を示すブロック図である。クライアント・コンピュータ2-nのそれぞれもクライアント・コンピュータ1と同じ構成である。
クライアント・コンピュータ1の全体の動作は,CPU(Central Processing Unit)10によって統括される。
クライアント・コンピュータ1には,画像その他の情報を表示画面に表示する表示装置11およびインターネットその他のネットワークに接続してクライアント・コンピュータ1以外の装置等と通信する通信装置12が含まれている。また,クライアント・コンピュータ1には,ハード・ディスク13,ハード・ディスク13にアクセスするハード・ディスク・ドライブ14,データ等を記憶するメモリ15,コマンド等を入力するキーボード16およびマウス17も含まれている。さらに,クライアント・コンピュータ1には,コンパクト・ディスク19にアクセスするコンパクト・ディスク・ドライブ18ならびにメモリ・カード21へのデータの書き込みおよびメモリ・カード21に記録されているデータの読み取りを行うメモリ・カード・リーダ・ライタ20も含まれている。
後述するクライアント・コンピュータ1の動作プログラムは,インターネットを介して通信装置12において受信される。受信された動作プログラムがクライアント・コンピュータ1にインストールされる。動作プログラムはインターネットなどのようなネットワークを介してクライアント・コンピュータ1に受信されてクライアント・コンピュータ1にインストールされずに,コンパクト・ディスク19などの可搬型記録媒体に記録され,その可搬型記録媒体から読み取られてもよい。その場合には,可搬型記録媒体から読み取られた動作プログラムがクライアント・コンピュータ1にインストールされる。動作プログラムは,クライアント・コンピュータ1のコンピュータ(CPU10)が読み取り可能であることは言うまでもない。
図4は,受注データベース6が接続されている受注サーバ5の電気的構成を示すブロック図である。
受注サーバ5の全体の動作は,CPU30によって統括される。
受注サーバ5には,インターネットその他のネットワークに接続して受注サーバ5以外の装置等と通信する通信装置31が含まれている。また,受注サーバ5には,ハード・ディスク32,ハード・ディスク32にアクセスするハード・ディスク・ドライブ33,データ等を記憶するメモリ34も含まれている。さらに,受注サーバ5には,コンパクト・ディスク36にアクセスするコンパクト・ディスク・ドライブ35ならびにメモリ・カード38へのデータの書き込みおよびメモリ・カード38に記録されているデータの読み取りを行うメモリ・カード・リーダ・ライタ37も含まれている。
後述する受注サーバ5の動作プログラムは,インターネットを介して通信装置31において受信される。受信された動作プログラムが受注サーバ5にインストールされる。動作プログラムはインターネットなどのようなネットワークを介して受注サーバ5に受信されて受注サーバ5にインストールされずに,コンパクト・ディスク36などの可搬型記録媒体に記録され,その可搬型記録媒体から読み取られてもよい。その場合には,可搬型記録媒体から読み取られた動作プログラムが受注サーバ5にインストールされる。動作プログラムは,受注サーバ5のコンピュータ(CPU30)が読み取り可能であることは言うまでもない。
図5は,受注データベース6に格納されている内容を示している。
受注データベース6には,m個(mは自然数)のレイアウト情報テーブルおよびm個のテンプレート情報テーブルが格納されている。レイアウト情報テーブルには,過去に生成されたアルバムについてのレイアウト情報が格納されている。テンプレート情報テーブルには,過去に生成されたアルバムに利用されたテンプレート情報が格納されている。一つのレイアウト情報テーブルと一つのテンプレート情報テーブルとの組が上述したように一つの第1画像群の情報に対応し,一つのアルバムについての情報に対応する。
表1はm個のレイアウト情報テーブルのうちの一のレイアウト情報テーブルの一例である。レイアウト情報テーブルにはユーザIDが付与されている。
Figure 0007128665000001
レイアウト情報テーブルには,複数の画像のそれぞれの特徴量が画像IDに対応して格納されている。特徴量は,画像の解像度,データ量,ピンボケの程度,主要被写体の種類,主要被写体の画像に対する相対的な大きさ,主要被写体の位置,色味などであってよい。また,特徴量は,上記の複数を組み合わせて生成されるものであってもよい。さらには,特徴量は,教師あり学習または教師なし学習により予め学習された学習済みモデルが,画像の入力を受けて出力する,複数のパラメタから構成されるものであってもよい。ここで,学習済みモデルから出力される特徴量は人間には意味解釈できない場合もあるが,少なくとも,1の画像を入力したときに一意に出力されるような数値群であれば,本発明の特徴量として用いることができる。特徴量は,アルバムに使用する画像(複数の画像から抽出する画像)として適するか,アルバムの配置位置などを決定するために必要な情報である。また,レイアウト情報テーブルには,あるユーザが複数の画像のうちアルバムに使用された画像か使用されていないかの選択情報,使用された画像のアルバムのページ,位置および画像のサイズのそれぞれの情報も格納されている。選択情報では,「Y」が付与されているとアルバムに使用された画像であることを示し,「N」が付与されているとアルバムに使用されていない画像であることを示す。位置は,アルバムの各ページの左上を原点(0,0)とした場合の座標によって示されている。サイズは画像の(横の長さ)mm×(縦の長さ)mmによって表されている。
たとえば,画像ID1の画像は,選択情報が「Y」であるから,クライアント・コンピュータ1-nのそれぞれのユーザによってアルバムに使用する画像として選択され,CPU10などにより抽出され,ページ情報が「1」であるからアルバムの1ページに使用されており,位置情報が(0,0)であるから,画像の左上の位置とページの左上の位置とが一致するように位置決めされ,サイズが60×40であるから横の長さが60mm,縦の長さが40mmであることを示している。同様に,画像ID2の画像は選択情報が「N」であるから,アルバムに使用されていないことが分かる。
表2はm個のテンプレート情報テーブルのうちの一のテンプレート情報テーブルの一例である。テンプレート情報テーブルにもユーザIDが付与されている。
Figure 0007128665000002
表2のテンプレート情報テーブルは,表1のレイアウト情報テーブルに対応している。レイアウト情報テーブルのそれぞれにはレイアウト情報テーブルを識別するレイアウト情報テーブルIDが付与されており,かつテンプレート情報テーブルのそれぞれにもテンプレート情報テーブルを識別するテンプレート情報テーブルIDが付与されており,レイアウト情報テーブルに対応するテンプレート情報テーブルが,これらのレイアウト情報テーブルIDおよびテンプレート情報テーブルIDを用いて管理されている。
レイアウト情報テーブルとテンプレート情報テーブルとが第1画像群についてのアルバムの情報であり,受注データベース6には複数のレイアウト情報テーブルとテンプレート情報テーブルとが格納されているから,複数の第1画像群についてのアルバムの情報が受注データベース6に格納されていることとなる。受注データベース6には,複数の第1画像群のアルバムの情報だけでなく,複数の第1画像群のアルバムの情報のほかに複数の第1画像群そのもの(画像データそのもの)が格納されていてもよい。複数の第1画像群そのものが格納されている場合には,解析すれば画像の特徴量が分かるのでレイアウト情報テーブルに画像の特徴量が格納されなくともよい。
後述のようにアルバムの注文が行われる都度,受注サーバ5においてクライアント・コンピュータからレイアウト情報およびテンプレート情報が送信され,それらレイアウト情報およびテンプレート情報(第1画像群についてのアルバムの情報)が受注サーバ5の通信装置31において受信されることにより,受注サーバ5においてレイアウト情報テーブルおよびテンプレート情報テーブルが生成される。生成されたレイアウト情報テーブルおよびテンプレート情報テーブルが受注サーバ5によって受注データベース6に格納される。
図6および図7は,画像処理システムの処理手順を示すフローチャートであり,受注サーバ5とクライアント・コンピュータ1-nのうちのいずれかのクライアント・コンピュータとの処理手順を示している。この実施例では,クライアント・コンピュータ1と受注サーバ5(第1実施例においては受注サーバ5が画像処理装置の一例である)との間で通信するものとする。また,クライアント・コンピュータ1のユーザを一のユーザということにする。クライアント・コンピュータ1以外のクライアント・コンピュータ2-nのいずれかのユーザが一のユーザであってもよいのはいうまでもない。
上述のように受注データベース6には受注サーバ5に以前に入力した画像群である第1画像群についての情報(レイアウト情報テーブル,テンプレート情報テーブル)が格納されている。
クライアント・コンピュータ1のメモリ15には,アルバムに使用しようとする複数の画像(第2画像群)を表す画像データが記憶されている。たとえば,メモリ・カード21に第2画像群に含まれる画像を表すデータが格納されている場合にはメモリ・カード・リーダ・ライタ20によってメモリ・カード21から第2像群に含まれる画像を表すデータがクライアント・コンピュータ1に入力する。クライアント・コンピュータ1がスマートフォンなどのような場合には,スマートフォンのカメラによって撮影が行われる都度,蓄積されることにより得られる複数の画像を表す画像データが第2画像群に含まれる画像を表すデータとなる。
第2画像群に含まれる画像を表す画像データがクライアント・コンピュータ1から受注サーバ5に送信される(図6ステップ41)。第2画像群に含まれる画像を表す画像データそのものでなく,第2画像群に含まれる画像の特徴量を表すデータがクライアント・コンピュータ1から受注サーバ5に送信されてもよい。特徴量を表すデータはクライアント・コンピュータ1において検出してもよいし,クライアント・コンピュータ1以外の他の装置において検出してもよい。
クライアント・コンピュータ1から送信された第2画像群に含まれる画像を表すデータ(または第2画像群の特徴を表すデータ)が受注サーバ5の通信装置31(画像群入力手段)において受信されると(図6ステップ51),受注データベース6に格納されているレイアウト情報テーブルとテンプレート情報テーブルとからなる複数の第1画像群のアルバムの情報の中から,第2画像群に類似した第1画像群のアルバムの情報が受注サーバ5のCPU30によって検索される(図6ステップ52)。
受注データベース6に格納されている複数の第1画像群のアルバムの情報には,一のユーザが入力した画像群の情報が含まれていてもよいし,他のユーザが入力した画像群の情報が含まれていてもよい。受注データベース6に一のユーザが入力した画像群の情報および他のユーザが入力した画像群の情報のいずれの情報も含まれている場合には,第2画像群に類似した第1画像群のアルバムの情報として見つけられる情報はいずれでもよい。また,以前に入力した複数の第1画像群の情報のうち,一のユーザが入力した画像群の中から,一のユーザが新たに入力した第2画像群に類似する画像群の情報をCPU30(第1画像群検索手段)によって見つけてもよいし,以前に入力した複数の第1画像群の情報のうち,他のユーザが入力した画像群の中から,一のユーザが新たに入力した第2画像群に類似する画像群の情報をCPU30(第2画像群検索手段)によって見つけてもよい。
受注データベース6に複数の第1画像群自体が格納されている場合には,第1画像群の情報でなく第1画像群そのものが検索されてもよい。第1画像群そのものが検索される場合には,第1画像群に含まれる複数の画像についてのレイアウト情報およびテンプレート情報も読み取られる。
画像群が類似するとは,2つの画像群に含まれる画像同士が類似することをいう。第2画像群に類似する第1画像群とは,第2画像群に含まれる複数の画像に類似する複数の画像を含む画像群を第1画像群とすることである。
第2画像群に類似した第1画像群についてのアルバムの情報は,次のようにして検索される。
図8は,第1段階の分類によって第2画像群に含まれる複数の画像が複数のグループに分類された様子を示している。
図8においては,横軸が第1の特徴量(特徴量とは画像を解析して得られる情報の1つをいう。)であり,縦軸が第2の特徴量を示し,2つの特徴量によって複数の画像が複数のグループに分類されている様子を示しているが,特徴量は2つでなく,3つ以上用いてもよいのはいうまでもない。図8においては,グループG1からグループG100までの100個のグループに分類対象の複数の画像がCPU30によって分けられている。このグループ分けは,たとえば,k-means法を利用することにより実現できる。グループG1からグループG100のそれぞれのグループの中に画像が含まれていることとなる。もちろん,実際の画像が無くとも画像の特徴量から対応する画像(画像を識別するデータ)がグループ分けされればよい。
図9は,グループG1からグループG100の複数のグループに分類された様子を示している。
つづいて,グループ同士の類似度がしきい値以内かどうかがCPU30によって判断され,しきい値以内のグループについてグループ同士がまとめられる。グループ同士の類似度は,たとえば,グループG1からグループG100のそれぞれのグループごとに,図8に示す特徴量空間における重心を求め,それらの重心の類似度を利用すればよい。
たとえば,グループG1とグループG2との類似度(グループG1の重心とグループG2の重心との類似度)がしきい値以内であれば,それらのグループG1とグループG2とがまとめられて新たなグループG101が生成される。グループG1,グループG2を小グループと捉えた場合に小グループ同士の類似度がしきい値(第2のしきい値)以上である場合に小グループ同士をまとめることに相当する。同様に,グループG3とグループG4との類似度がしきい値以内であれば,それらのグループG3とグループG4とがまとめられて新たなグループG102が生成される。同様にして,グループG97とグループG98とがまとめられて新たなグループG149が生成され,グループG99とグループG100とがまとめられて新たなグループG150が生成される。新たに生成されたグループについてもグループ同士の類似度がしきい値以内であれば,まとめられる。たとえば,グループG101とグループG149とがまとめられ,新たなグループG201が生成される。
グループ同士の類似度がしきい値以内のものが無くなると,図9に示すように,第1画像群に含まれる画像が類似する画像ごとの小グループの集まり(第2の小グループの集まり)に分けられる。
図10は,図8と同様に横軸が第1の特徴量,縦軸が第2の特徴量によって規定される特徴量空間を示している。
この特徴量空間に,第2画像群に含まれる画像がグループG301からグループG307までの7つの小グループに分けられている。また,グループG301からグループG307のそれぞれのグループにおいてCPU30によって重心C301からC307が算出される。
同様にして,受注データベース6に格納されている複数の第1画像群の特徴量について,図8および図9を参照して説明した処理が行われ,第1画像群の一つ一つが,図11に示すように第1画像群に含まれる画像の特徴量が類似する画像ごとの小グループの集まり(第1の小グループの集まり)に分けられる。
図11は,図10と同様に横軸が第1の特徴量,縦軸が第2の特徴量によって規定される特徴量空間を示している。
この特徴量空間に,第1画像群に含まれる画像の特徴量がグループG401からG408までの8つの小グループに分けられている。グループG401からグループG408においても重心C401から重心C408が算出される。
図11に示すような画像の特徴量の分布が,受注データベース6に格納されている複数の第1画像群のそれぞれの第1画像群について生成される。
図10に示すように第2画像群について生成されたグループG301からグループG307の重心C301から重心C307のそれぞれと,図11に示すように第1画像群について生成されたグループG401からグループG408の重心C401から重心C408のそれぞれとの,特徴量空間における距離の和(第1の小グループと第2の小グループとの一致度)が,複数の第1画像群のそれぞれの第1画像群のすべてについて算出される。それらの距離の和がしきい値以下(第1の小グループと第2の小グループとの一致度がしきい値以上に相当する)となる第1画像群が,第2画像群に類似する画像群としてCPU30(画像群検索手段,第1の画像群検索手段,第2の画像群検索手段)によって検索される。
複数の第1画像群の中から第2画像群に類似する画像群が検索されると,検索された画像群から抽出された画像がCPU30によって見つけられ,抽出された画像に類似する画像が,CPU30によって,第2画像群に含まれる画像の中からアルゴリズムにもとづいて抽出される(図6ステップ53)。被写体,構図などが類似するだけでなく,画像の様々な特徴量が近似する画像同士を類似する画像とするとよい。このようにして,以前に入力した第1画像群の中から一のユーザおよび他のユーザの少なくとも一方が選択した画像についての情報にもとづいて,一のユーザが新たに入力した第2画像群の中から抽出する画像がCPU30(出力状態決定手段)によって決定(出力形態の決定の一例である)される。
複数の第1画像群の中から第2画像群に類似する画像として検索された画像群から,どの像が抽出されたかは,受注データベース6に格納されているレイアウト情報テーブルとテンプレート情報テーブルとの組のうち,検索された画像群に対応するレイアウト情報テーブルに格納されている選択情報を参照すれば分かる。上述のように,選択情報が「Y」となっている画像が抽出された画像である。
図12は,第1画像群のうち第2画像群に類似する画像群から抽出された画像によって生成されたアルバムの一部のページを示している。
アルバムの一部のページはテンプレート70が利用されている。このテンプレート70には,左上,左下および右に画像をそれぞれ貼り付ける領域71,72およぴ73が規定されている。これらの領域71,72および73に画像I11,I12およびI13が貼り付けられている。ページ70についての情報(どの領域にどの画像が貼り付けられているかなどの情報)は,第1画像群に対応するレイアウト情報テーブルおよびテンプレート情報テーブルから分かる。
一のユーザによって新たに入力された第2画像群から抽出された画像がCPU30によってアルバムに配置される(図5ステップ54)。第2画像群に類似する第1画像群に対応するテンプレート情報テーブルとレイアウト情報テーブルとに含まれるアルバム情報にもとづいて画像がアルバムに配置される。
図13は,第2画像群から抽出された画像がアルバムに配置される様子を示している。
第1画像群から抽出された画像I11,I12およびI13のそれぞれに類似した画像として第2画像群から画像I21,I22およびI23が抽出されたものとする。また,第1画像群から抽出された画像I11,I12およびI13が貼り付けられたテンプレート70と同じテンプレートが見つけられる。
第1画像群の画像I11に類似する第2画像群の画像I21は,画像I11が配置されている領域71に配置される。第1画像群の画像I12に類似する第2画像群の画像I22は,画像I12が配置されている領域72に配置される。同様に,第1画像群の画像I13に類似する第2画像群の画像I23は,画像I13が配置されている領域73に配置される。
図14は,一のユーザによって新たに入力された第2画像群から抽出された画像によって生成されたアルバムの一部のページを示している。
図14に示すアルバムの一部のページは,図12に示す第1画像群から抽出された画像によって生成されたアルバムの一部のページを参考にして同じようなアルバムとなるように生成されたものである。
図12と図14とを比較すると分かるように,類似した画像同士が同じレイアウトでアルバムを構成することとなる。
このように,第1画像群に対応するテンプレート情報テーブルに格納されているテンプレートIDにもとづいてアルバムのテンプレートが決定され,かつ第2画像群から抽出された画像が,第1画像群から抽出された画像が貼り付けられたページ,位置および大きさにしたがってアルバムに配置される。以前に入力した第1画像群の中から一のユーザが新たに入力した第2画像群のレイアウトや第2画像群から抽出された画像を貼り付けるテンプレートがCPU30によって決定される(レイアウトの決定,テンプレートの決定は出力形態の決定の一例である)。決定するレイアウト,テンプレートは必ずしも同一のものでなくとも近似するものでよい。
アルバムが生成されると,生成されたアルバムに配置された画像の配置箇所の修正,画像の変更などの処理が行われるが,この処理について詳しくは後述する。
第2画像群からアルバムが生成されると,その第2画像群についてのレイアウト情報テーブルおよびテンプレート情報テーブルが生成され,生成されたレイアウト情報テーブルおよびテンプレート情報テーブルが受注サーバ5のCPU30によって受注データベース6に格納される(図5ステップ55)。
つづいて,アルバムを表すアルバム・データが受注サーバ5からクライアント・コンピュータ1に送信される(図6ステップ56)。
クライアント・コンピュータ1においてアルバム・データが受信されると(図6ステップ42),受注サーバ5において生成されたアルバムがクライアント・コンピュータ1の表示装置11の表示画面に表示される(図6ステップ43)。
クライアント・コンピュータ1のユーザは,表示されたアルバムを確認してアルバムを修正する必要があると考えると自らアルバムを修正する。たとえば,アルバムに配置されている画像の取替,画像の配置位置の変更,画像の大きさの変更,テンプレートの変更などが,必要に応じて行われる。アルバムが修正された場合には(図6ステップ44でYES),修正した内容を表す修正データがクライアント・コンピュータ1から受注サーバ5に送信される(図6ステップ45)。修正データを送信せずに修正後のアルバム・データが受注サーバ5に送信されてもよい。
クライアント・コンピュータ1から送信された修正データが受注サーバ5において受信されると(図6ステップ57でYES),第1画像群のレイアウト情報テーブルおよびテンプレート情報テーブルの内容が,受信した修正データにもとづいて更新されて受注データベース6に格納される(図6ステップ58)。また,ユーザによってアルバムが修正(アルバムに貼り付ける画像の変更,レイアウトの変更,テンプレートの変更など)された場合には,その修正データにもとづいて,画像抽出アルゴリズム,レイアウト生成アルゴリズム,テンプレート選択アルゴリズムなどのCPU30において利用される出力形態を決定するアルゴリズムがCPU30(出力形態決定アルゴリズム更新手段)によって更新される。
クライアント・コンピュータ1のユーザによって注文ボタンが押されると(図6ステップ46でYES),クライアント・コンピュータ1から受注サーバ5に注文コマンドが送信される(図6ステップ47)。
クライアント・コンピュータ1から送信された注文コマンドが受注サーバ5において受信されると(図6ステップ59でYES),受注処理が行われる(図6ステップ60)。受注データベース6に格納されているレイアウト情報テーブルおよびテンプレート情報テーブルのうち,一のユーザによって新たに入力された第2画像群に対応するレイアウト情報テーブルおよびテンプレート情報テーブルを用いてアルバムが生成されることとなる。受注サーバ5においてアルバム・データが記憶されている場合には,アルバム・データを用いてアルバムが生成されてもよい。このようにして出力形態が決定されたアルバムがCPU30(出力制御手段)の制御のもとにプリンタ(出力装置)などにより印刷される。
第1実施例によると,過去のアルバムの受注にしたがって得られるレイアウト情報,テンプレート情報にもとづいて,新たなアルバムを生成できるようになる。
[第2実施例]
図15および図16は,画像処理システムの処理手順を示すフローチャートであり,受注サーバ5とクライアント・コンピュータ1-nのうちのいずれかのクライアント・コンピュータとの処理手順を示している。第2実施例においても,クライアント・コンピュータ1と受注サーバ5(第2実施例においてはクライアント・コンピュータ1が画像処理装置の一例である)との間で通信するものとする。
第1実施例においては受注サーバ5において行われていた画像の抽出処理(図6ステップ53)等が,第2実施例においてはクライアント・コンピュータ1において行われる。
受注サーバ5に接続されている受注データベース6には上述したように複数の第1画像群の情報を表すm個のレイアウト情報テーブルおよびm個のテンプレート情報テーブルが格納されており,これらの複数の第1画像群の情報が受注サーバ5からクライアント・コンピュータ1に送信される(図15ステップ91)。
受注サーバ5から送信された複数の第1画像群の情報がクライアント・コンピュータ1の通信装置12において受信されると(図15ステップ101),受信した情報はメモリ15に一時的に記憶される。
メモリ・カード21には,アルバムの生成に利用される複数の画像を含む第2画像群が格納されており,メモリ・カード・リーダ・ライタ20(画像入力手段)によってメモリ・カード21に格納されている第2画像群が読み取られる。
読み取られた第2画像群に類似する第1画像群の情報が複数の第1画像群の情報の中からCPU10(画像群検索手段)によって検索される(図18ステップ102)。図15ステップ102の処理において,図6ステップ52の処理と同様の処理がクライアント・コンピュータ1において行われる。複数の第1画像群の中から第2画像群に類似する画像群が実質的に検索されることとなる。複数の第1画像群の情報にはレイアウト情報テーブルが含まれており,そのレイアウト情報テーブルには第1画像群の中からアルバムに使用された画像として選択されたかどうかを示す選択情報が含まれているから,検索された画像群は,第1画像群から抽出された画像の情報を有しているということができる。
つづいて,第1画像群から抽出された画像(たとえば,図12における画像I11,I12およびI13)と類似する画像(たとえば,図13における画像I21,I22およびI23)がクライアント・コンピュータ1のCPU10(出力形態決定手段)によって,検索された画像群から決定されて抽出される(図15ステップ103)。図15ステップ103の処理において上述したように図6ステップ53の処理と同様の処理がクライアント・コンピュータ1において行われる。
第2画像群から抽出された画像が,第1画像群の中から検索された画像群のレイアウトと同様のレイアウトによって,図13に示したようにアルバムに配置される(図15ステップ104)。図15ステップ104において上述したように図5ステップ54の処理と同様の処理がクライアント・コンピュータ1において行われる。
クライアント・コンピュータ1の表示装置11(出力装置)の表示画面には,第2画像群から抽出された画像が配置されたアルバムの内容が表示され,ユーザはその内容を確認する。確認の結果,アルバムの内容を修正する必要があれば(図16ステップ105でYES),ユーザの指示にもとづいてCPU10(出力装置制御手段)によって修正が行われる(図16ステップ106)。ユーザによる修正にもとづいて,CPU10による画像抽出アルゴリズム,レイアウト決定アルゴリズム,テンプレート決定アルゴリズムなどが修正される(図16ステップ107)。
クライアント・コンピュータ1のユーザによって注文ボタンが押されると(図16ステップ108でYES),注文コマンドおよびアルバム・データがクライアント・コンピュータ1から受注サーバ5に送信される(図16ステップ109)。アルバム・データは上述したようにアルバムを生成するために必要なデータである。アルバム・データにより,第2画像群から抽出された画像が各ページに配置されたアルバムを生成できる。
クライアント・コンピュータ1から送信された注文コマンドおよびアルバム・データが受注サーバ5において受信されると(図16ステップ92でYES),受信したアルバム・データが受注サーバ5のCPU30によって解析されレイアウト情報およびテンプレート情報が得られる。得られたレイアウト情報およびテンプレート情報から新たにレイアウト情報テーブルおよびテンプレート情報テーブルが生成され,受注データベース6に格納される(図16ステップ93)。受信したアルバム・データからアルバムが生成されて受注処理が行われる(図16ステップ94)。
第2実施例においては,過去のアルバムの受注にしたがって得られるレイアウト情報,テンプレート情報にもとづく新たなアルバムの生成をクライアント・コンピュータ1においてできるようになる。第1実施例においては受注サーバ5において生成されたアルバム・データをクライアント・コンピュータ1において受信してアルバムを表示しているが,第2実施例においては,アルバムはクライアント・コンピュータ1において生成されるので,生成されたアルバムの表示までの時間が第1実施例の場合よりも短縮される。
[変形例]
上述の実施例においては,受注データベース6に格納されている複数の第1画像群のうち一のユーザが入力した第1画像群または他のユーザが入力した第1画像群の中から,一のユーザが新たに入力した第2画像群に類似した画像群を検索し,検索された画像群のレイアウト情報およびテンプレート情報にもとづいて,第2画像群からアルバムが生成されている。しかしながら,受注データベース6に一のユーザが入力した第1画像群が格納されている場合には他のユーザが入力した第1画像群を利用しないで一のユーザが入力した第1画像群の中から,一のユーザが新たに入力した第2画像群に類似した画像群を検索してもよい。受注データベース6に一のユーザが入力した第1画像群が格納されていない場合に他のユーザが入力した第1画像群の中から,第2画像群に類似した画像群を検索する。
また,上述の実施例においては,以前に入力した第1画像群の中から,一のユーザが新たに入力した第2画像群に類似する画像群を見つけ,見つけられた画像群のレイアウト情報およびテンプレート情報にもとづいて,第2画像群に含まれる画像から抽出する画像の決定,レイアウトの決定,テンプレートの決定などが行われているが,必ずしも類似する画像群を見つける必要はない。一のユーザまたは他のユーザによって入力されたいずれかの第1画像群から抽出された画像,決定されたレイアウト,決定されたテンプレートなどにもとづいて,新たに入力された第2画像群から画像の抽出,レイアウトの決定,テンプレートの決定などが行われてもよい。好ましくは,以前に一のユーザによって入力された第1画像群から抽出された画像,決定されたレイアウト,決定されたテンプレートなどにもとづいて,一のユーザから新たに入力された第2画像群から画像の抽出,レイアウトの決定,テンプレートの決定などが行われる。過去にアルバムを生成した一のユーザの好みに応じたアルバムが生成されることとなる。この場合,検索された画像群に含まれる人物画像(人物画像とは,画像に含まれる主要被写体が人物であると判断されるような画像,たとえば,画像全体に対して人物の割合がしきい値以上となる画像,画像の中央部分に人物がしきい値以上の大きさで配置されている画像などをいう)と非人物画像(非人物画像は,人物画像以外の画像をいう)との割合と同じ割合となるように,新たに入力した第2画像群から抽出する画像を決定してアルバムを生成するようにしてもよい。以前に入力された第1画像群から抽出された人物画像と非人物画像との割合の好みに対応した割合で第2画像群からアルバムを生成できる。
さらに,一のユーザが以前に入力した第1画像群の中から,一のユーザが新たに入力した第2画像群に類似した画像群が検索された場合に,検索された画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,新たに入力した第2画像群から抽出する画像を決定してアルバムを生成するようにしてもよい。一のユーザによる人物画像と非人物画像との割合の好みに対応した割合で第2画像群からアルバムを生成できる。
また,他のユーザが以前に入力した第1画像群の中から,一のユーザが新たに入力した第2画像群に類似した画像群が検索された場合にも,検索された画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,新たに入力した第2画像群から抽出する画像を決定してアルバムを生成するようにしてもよい。類似した画像群から画像を抽出した場合には,一のユーザと他のユーザとでユーザが異なっても,人物画像と非人物画像との割合の好みは似ていると考えられ,他のユーザが抽出した人物画像と非人物画像との割合に対応した割合で第2画像群からアルバムを生成できるからである。
さらに,一のユーザが新たに入力した第2画像群に含まれる画像をCPU10または30(画像解析手段)によって解析してもよい。画像解析結果を表わす解析スコアと,一のユーザおよび他のユーザの少なくとも一方のユーザが選択した画像についての情報と,にもとづいて,第2画像群に含まれる画像の出力形態を決定できる。たとえば,第2画像群に含まれる画像を解析し,画像としての評価を示す解析スコアを算出する。たとえば,画像の先鋭度が高い,主要被写体が中央に近い,顔の向きなど画像の評価が高いと考えられるほど高くなるようにする。そのようにして算出された解析スコアがしきい値以上の画像が第2画像群から抽出され,レイアウト,テンプレートなどが決定される。
また,一のユーザが新たに入力した第2画像群に含まれる画像と以前に一のユーザが入力した第1画像群に含まれる画像との類似度とを表す類似スコアをクライアント・コンピュータ1のCPU10または受注サーバ5のCPU30によって算出し,算出された類似スコアと画像解析結果から得られる解析スコア,たとえば類似スコアと解析スコアとの和である総合スコアがしきい値以上となる画像を決定し,第2画像群から抽出してもよい。以前に選択された画像に類似する画像であって,画像として評価の高い画像が,第2画像群に含まれる画像から抽出されることとなる。
さらに,上述の実施例では,第1画像群の中から第2画像群に類似した画像群を検索し,検索された画像群においてユーザが抽出した画像に類似する画像が,第2画像群の中から抽出されているが,検索された画像群においてユーザが抽出しなかった画像に類似する画像は第2画像群の中から抽出しないようにして,第2画像群の中から抽出する画像を決定するようにしてもよい。レイアウト情報テーブルの選択情報として「N」が付与されていることから,ユーザが抽出しなかった画像が分かる。
クライアント・コンピュータ1などは,パーソナル・コンピュータだけでなく,タブレット端末,スマートフォンを利用して構成することもできる。
また,上述の実施例においては,第1画像群から抽出された画像を用いてアルバムが生成されているが,アルバムを生成する場合に限らず,1枚の用紙などの画像商材に複数の画像を貼り付けるシャッフル・プリント,複数の画像の中から画像を抽出して抽出された画像を1枚1枚プリントする場合などにも利用できる。
上述の処理を実行する処理部には,ソフトウエアを実行して各種の処理部として機能するクライアント・コンピュータ1のCPU10,受注サーバ5のCPU30のほかに,FPGA(field-programmable gate array)などのように製造後に回路構成を変更可能なプログラマブル・ロジック・ディバイス,ASIC(application specific integrated circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は,これらの各種のプロセッサのうちの1つで構成されてもよいし,同種または異種の2つ以上のプロセッサの組合せ(たとえば,複数のFPGA,CPUとFPGAの組合せ)で構成されてもよい。複数の処理部を1つのプロセッサで構成する例としては,第1に,クライアント・コンピュータやサーバなどのコンピュータに代表されるように,1つ以上のCPUとソフトウエアの組合せで1つのプロセッサを構成し,このプロセッサが複数の処理部として機能する形態がある。第2に,システム・オン・チップなどに代表されるように,複数の処理部を含むシステム全体の機能を1つのIC(integrated circuit)チップで実現するプロセッサを使用する形態がある。このように,各種の処理部は,ハードウエア的な構造として各種のプロセッサを1つ以上用いて構成される。
さらに,これらの各種のプロセッサのハードウエア的な構造は,より具体的には,半導体素子などの回路素子を組合せた電気回路である。
1:コンピュータ,5:受注サーバ,6:受注データベース,10:CPU,11:表示装置,12:通信装置,13:ハード・ディスク,14:ハード・ディスク・ドライブ,15:メモリ,16:キーボード,17:マウス,18:コンパクト・ディスク・ドライブ,19:コンパクト・ディスク,20:メモリ・カード・リーダ・ライタ,21:メモリ・カード,30:CPU,31:通信装置,32:ハード・ディスク,33:ハード・ディスク・ドライブ,34:メモリ,35:コンパクト・ディスク・ドライブ,36:コンパクト・ディスク,37:メモリ・カード・リーダ・ライタ,38:メモリ・カード,70:テンプレート,71-73:領域,C301-C307:重心,C401-C408:重心,G1-G102:グループ,G149-G150:グループ,G201:グループ,G301-G307:グループ,G401-G408:グループ,I11-I13:画像,I21-I23:画像,ID1-ID2:画像

Claims (22)

  1. 画像群を入力する画像群入力手段,
    以前に入力した画像群である第1画像群のうち,一のユーザが入力した画像群の中から,上記一のユーザが上記画像群入力手段から新たに入力した画像群である第2画像群に類似する画像群を見つける第1の画像群検索手段,ならびに
    上記第1の画像群検索手段において見つけられた画像群に含まれる画像の中から上記一のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する出力形態決定手段,
    を備えた画像処理装置。
  2. 上記出力形態決定手段において決定した出力形態によって出力するように出力装置を制御する出力装置制御手段,
    をさらに備えた請求項1に記載の画像処理装置。
  3. 以前に入力した上記第1画像群は,
    上記一のユーザが入力した画像群である,
    請求項1または2に記載の画像処理装置。
  4. 以前に入力した上記第1画像群は,
    上記一のユーザとは異なる他のユーザが入力した画像群である,
    請求項1または2に記載の画像処理装置。
  5. 上記出力形態決定手段は,
    上記情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群の中から抽出する画像を決定する,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像のレイアウトを決定する,あるいは,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像を貼り付けるテンプレートを決定する,
    請求項1から3のうち,いずれか一項に記載の画像処理装置。
  6. 上記出力形態決定手段は,
    以前に入力した上記第1画像群のうち,上記一のユーザが入力した画像群の中から上記一のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した画像群に含まれる画像の出力形態を決定する,
    請求項1から3のうち,いずれか一項に記載の画像処理装置。
  7. 上記出力形態決定手段は,
    以前に入力した上記第1画像群のうち,上記一のユーザとは異なる他のユーザが入力した画像群の中から上記一のユーザとは異なる他のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する,
    請求項1,2または4のうち,いずれか一項に記載の画像処理装置。
  8. 上記出力形態決定手段は,
    上記第1の画像群検索手段において見つけられた画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群の中から抽出する画像を決定する,
    請求項1に記載の画像処理装置。
  9. 以前に入力した上記第1画像群のうち,上記一のユーザとは異なる他のユーザが入力した画像群の中から,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に類似する画像群を見つける第2の画像群検索手段をさらに備え,
    上記出力形態決定手段は,
    上記第2の画像群検索手段において見つけられた画像群に含まれる画像の中から上記一のユーザとは異なる他のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する,
    請求項1,2または4のうち,いずれか一項に記載の画像処理装置。
  10. 上記出力形態決定手段は,
    上記第2の画像群検索手段において見つけられた画像群に含まれる人物画像と非人物画像との割合と同じ割合となるように,上記一のユーザが上記画像群入力手段から新たに入力した画像群の中から抽出する画像を決定する,
    請求項9に記載の画像処理装置。
  11. 上記出力形態決定手段は,
    以前に入力した画像群のうち上記一のユーザが入力した画像群に含まれる人物画像と非人物画像との割合が同じ割合となるように,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群の中から抽出する画像を決定する,
    請求項1から3のうち,いずれか一項に記載の画像処理装置。
  12. 上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像を解析する画像解析手段をさらに備え,
    上記出力形態決定手段は,
    上記画像解析手段における画像解析結果を表わす解析スコアと,以前に入力した上記第1画像群に含まれる画像のうち,上記一のユーザおよび上記一のユーザとは異なる他のユーザの少なくとも一方のユーザが選択した画像についての情報と,にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する,
    請求項1から4のうち,いずれか一項に記載の画像処理装置。
  13. 上記出力形態決定手段は,
    上記一のユーザが上記画像群入力手段から新た入力した上記第2画像群に含まれる画像のうち,上記画像解析手段における画像解析結果を表す解析スコアがしきい値以上である画像を抽出する画像と決定する,
    請求項12に記載の画像処理装置。
  14. 上記出力形態決定手段は,
    上記画像解析手段における画像解析結果を表す解析スコアと,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像と以前に入力した上記第1画像群に含まれる画像のうち上記一のユーザが選択した画像との類似度を表す類似スコアと,にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群の中から抽出する画像と決定する,
    請求項12に記載の画像処理装置。
  15. 上記出力形態決定手段において決定した出力形態にもとづいて,出力形態を決定するアルゴリズムを更新する出力形態決定アルゴリズム更新手段,
    をさらに備えた請求項1から14のうち,いずれか一項に記載の画像処理装置。
  16. 上記出力形態決定手段は,
    以前に入力した画像群に含まれる画像のうち,さらに,上記一のユーザが排除した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の中から抽出する画像を決定する,
    請求項1から4のうち,いずれか一項に記載の画像処理装置。
  17. 画像群を入力する画像群入力手段,
    以前に入力した画像群である第1画像群のうち,他のユーザが入力した画像群の中から,一のユーザが上記画像群入力手段から新たに入力した画像群である第2画像群に類似する画像群を見つける画像群検索手段,ならびに
    上記画像群検索手段において見つけられた画像群に含まれる画像の中から上記他のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する出力形態決定手段,
    を備えた画像処理装置。
  18. 画像群入力手段が,画像群を入力し,
    画像群検索手段が,以前に入力した画像群である第1画像群のうち,一のユーザが入力した画像群の中から,上記一のユーザが上記画像群入力手段から新たに入力した画像群である第2画像群に類似する画像群を見つけ,
    出力形態決定手段が,上記画像群検索手段において見つけられた画像群に含まれる画像の中から上記一のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する,
    画像処理方法。
  19. 画像群入力手段が,画像群を入力し,
    画像群検索手段が,以前に入力した画像群である第1画像群のうち,他のユーザが入力した画像群の中から,一のユーザが上記画像群入力手段から新たに入力した画像群である第2画像群に類似する画像群を見つけ,
    出力形態決定手段が,上記画像群検索手段において見つけられた画像群に含まれる画像の中から上記他のユーザが選択した画像についての情報にもとづいて,上記一のユーザが上記画像群入力手段から新たに入力した上記第2画像群に含まれる画像の出力形態を決定する,
    画像処理方法。
  20. 画像処理装置のコンピュータを制御するコンピュータが読み取り可能なプログラムであって,
    画像群を入力させ,
    以前に入力した画像群である第1画像群のうち,一のユーザが入力した画像群の中から,上記一のユーザが新たに入力した画像群である第2画像群に類似する画像群を見つけさせ,
    見つけられた画像群に含まれる画像の中から上記一のユーザが選択した画像についての情報にもとづいて,上記一のユーザが新たに入力した上記第2画像群に含まれる画像の出力形態を決定させるように画像処理装置のコンピュータを制御するコンピュータが読み取り可能なプログラム。
  21. 画像処理装置のコンピュータを制御するコンピュータが読み取り可能なプログラムであって,
    画像群を入力させ,
    以前に入力した画像群である第1画像群のうち,他のユーザが入力した画像群の中から,一のユーザが新たに入力した画像群である第2画像群に類似する画像群を見つけさせ,
    見つけられた画像群に含まれる画像の中から上記他のユーザが選択した画像についての情報にもとづいて,上記一のユーザが新たに入力した上記第2画像群に含まれる画像の出力形態を決定させるように画像処理装置のコンピュータを制御するコンピュータが読み取り可能なプログラム。
  22. 請求項20または21に記載のプログラムを格納した記録媒体。
JP2018110799A 2018-06-11 2018-06-11 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体 Active JP7128665B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2018110799A JP7128665B2 (ja) 2018-06-11 2018-06-11 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体
EP19177107.0A EP3582188B1 (en) 2018-06-11 2019-05-28 Image processing device, image processing method, image processing program, and recording medium storing program
US16/432,749 US11323577B2 (en) 2018-06-11 2019-06-05 Image processing device for creating an album
CN202310920600.9A CN116719492A (zh) 2018-06-11 2019-06-10 图像处理装置、图像处理方法以及记录介质
CN201910499200.9A CN110580135B (zh) 2018-06-11 2019-06-10 图像处理装置、图像处理方法以及图像处理程序及存储有该程序的记录介质
JP2022130839A JP7442589B2 (ja) 2018-06-11 2022-08-19 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018110799A JP7128665B2 (ja) 2018-06-11 2018-06-11 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022130839A Division JP7442589B2 (ja) 2018-06-11 2022-08-19 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体

Publications (2)

Publication Number Publication Date
JP2019215593A JP2019215593A (ja) 2019-12-19
JP7128665B2 true JP7128665B2 (ja) 2022-08-31

Family

ID=66770173

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018110799A Active JP7128665B2 (ja) 2018-06-11 2018-06-11 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体
JP2022130839A Active JP7442589B2 (ja) 2018-06-11 2022-08-19 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022130839A Active JP7442589B2 (ja) 2018-06-11 2022-08-19 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体

Country Status (4)

Country Link
US (1) US11323577B2 (ja)
EP (1) EP3582188B1 (ja)
JP (2) JP7128665B2 (ja)
CN (2) CN110580135B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11314802B2 (en) * 2019-11-01 2022-04-26 Microsoft Technology Licensing, Llc Automatic image selection for visual consistency
JP7451242B2 (ja) 2020-03-13 2024-03-18 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7446876B2 (ja) 2020-03-16 2024-03-11 キヤノン株式会社 プログラム、画像処理方法、及び画像処理装置
JP7446877B2 (ja) 2020-03-16 2024-03-11 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006253992A (ja) 2005-03-10 2006-09-21 Fuji Photo Film Co Ltd 画像レイアウト装置および方法並びにプログラム
JP2012221005A (ja) 2011-04-04 2012-11-12 Canon Inc 画像処理装置、画像処理装置におけるフォトブック作成方法およびプログラム

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001312552A (ja) * 2000-05-01 2001-11-09 Fuji Photo Film Co Ltd アルバム注文装置および方法
EP1411437A4 (en) * 2001-07-23 2007-02-14 Sony Corp INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING DEVICE AND ASSOCIATED METHOD
JP2003288350A (ja) 2002-01-24 2003-10-10 Fuji Photo Film Co Ltd データ検索方法
JP2003271833A (ja) * 2002-03-15 2003-09-26 Fuji Xerox Co Ltd デジタル画像の出力制御方法、画像配信方法、管理サーバ、画像出力制御端末、プログラム、記憶媒体
JP2005065728A (ja) 2003-08-25 2005-03-17 Fuji Photo Film Co Ltd 類似画像検索装置
JP2005216073A (ja) * 2004-01-30 2005-08-11 Fuji Xerox Co Ltd アルバム画像出力システム、アルバム画像提供装置、アルバム画像出力方法、およびプログラム
JP2006178743A (ja) 2004-12-22 2006-07-06 Fuji Photo Film Co Ltd おすすめ機能つきネットプリントシステム、サーバ装置、プリント注文装置、及びおすすめ画像選択提示方法
US7730130B2 (en) * 2005-04-26 2010-06-01 Qurio Holdings, Inc. Automatic creation of bidirectional online album links in a peer-to-peer photo sharing network
JP4741416B2 (ja) 2006-05-18 2011-08-03 富士フイルム株式会社 画像管理システム、画像管理方法、画像表示装置、画像表示方法、及びプログラム
MX2009007794A (es) * 2007-01-23 2009-08-17 Jostens Inc Metodo y sistema para crear una salida personalizada.
US20080307106A1 (en) * 2007-06-08 2008-12-11 Apple Inc. Photo Streaming to Media Device
JP4970301B2 (ja) * 2008-02-08 2012-07-04 シャープ株式会社 画像処理方法、画像処理装置、画像読取装置、画像形成装置、画像処理システム、プログラムおよび記録媒体
US8805110B2 (en) * 2008-08-19 2014-08-12 Digimarc Corporation Methods and systems for content processing
US8929877B2 (en) * 2008-09-12 2015-01-06 Digimarc Corporation Methods and systems for content processing
JP4944183B2 (ja) 2009-12-03 2012-05-30 株式会社ソニー・コンピュータエンタテインメント 情報処理装置および情報処理方法
JP4988012B2 (ja) * 2010-06-15 2012-08-01 株式会社東芝 電子機器およびインデキシング制御方法
JP5225330B2 (ja) * 2010-06-15 2013-07-03 株式会社東芝 電子機器及び画像処理方法
JP4988011B2 (ja) * 2010-06-15 2012-08-01 株式会社東芝 電子機器及び画像処理方法
US20120179571A1 (en) * 2011-01-11 2012-07-12 Portrait Innovations, Inc. System and method for producing digital image photo-specialty products
JP6012309B2 (ja) * 2012-07-09 2016-10-25 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
JP6031278B2 (ja) * 2012-07-09 2016-11-24 キヤノン株式会社 情報処理装置及びその制御方法及びプログラム
US9541522B2 (en) * 2012-09-12 2017-01-10 President And Fellows Of Harvard College Nanoscale field-effect transistors for biomolecular sensors and other applications
JP5859471B2 (ja) * 2013-03-19 2016-02-10 富士フイルム株式会社 電子アルバム作成装置および電子アルバムの製造方法
JP6417154B2 (ja) * 2014-08-27 2018-10-31 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP6533713B2 (ja) 2015-07-31 2019-06-19 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP6532398B2 (ja) * 2015-08-07 2019-06-19 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6632500B2 (ja) * 2016-09-16 2020-01-22 富士フイルム株式会社 画像表示装置、画像表示方法及びプログラム
JP6636406B2 (ja) 2016-09-16 2020-01-29 富士フイルム株式会社 画像抽出システム,画像抽出方法およびそのプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006253992A (ja) 2005-03-10 2006-09-21 Fuji Photo Film Co Ltd 画像レイアウト装置および方法並びにプログラム
JP2012221005A (ja) 2011-04-04 2012-11-12 Canon Inc 画像処理装置、画像処理装置におけるフォトブック作成方法およびプログラム

Also Published As

Publication number Publication date
JP2019215593A (ja) 2019-12-19
JP7442589B2 (ja) 2024-03-04
EP3582188A1 (en) 2019-12-18
US11323577B2 (en) 2022-05-03
CN110580135B (zh) 2023-08-15
CN116719492A (zh) 2023-09-08
CN110580135A (zh) 2019-12-17
US20190379795A1 (en) 2019-12-12
EP3582188B1 (en) 2024-01-24
JP2022159514A (ja) 2022-10-17

Similar Documents

Publication Publication Date Title
JP7128665B2 (ja) 画像処理装置,画像処理方法ならびに画像処理プログラムおよびそのプログラムを格納した記録媒体
JP5009577B2 (ja) 画像検索装置および方法並びにプログラム
US10410108B2 (en) Systems, methods, and computer program products for searching and sorting images by aesthetic quality personalized to users or segments
JP7026218B2 (ja) 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体
JP6080409B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP6887816B2 (ja) 画像処理装置、制御方法、及びプログラム
JP2020140557A (ja) 画像処理装置、制御方法、及びプログラム
CN109598748B (zh) 图像提取装置、图像提取方法及图像提取程序以及存储有该程序的记录介质
JP2014109864A (ja) 情報処理装置、情報処理システム、その制御方法、及びプログラム
US11775618B2 (en) Image processing device, image processing method, and image processing program for deciding a similarity between a captured image and a sample image
US9621505B1 (en) Providing images with notifications
JP2020140555A (ja) 画像処理装置、制御方法、及びプログラム
JP7053423B2 (ja) 画像処理装置,画像処理方法および画像処理プログラム
JP6839366B2 (ja) 情報処理装置、情報処理システム、その制御方法、及びプログラム
US10977848B2 (en) Composite image generating apparatus, composite image generating method, and program
JP7446877B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2017054523A (ja) 情報処理装置、情報処理システム、その制御方法、及びプログラム
US20190378262A1 (en) Image evaluation apparatus, image evaluation method, and image evaluation program
JP2018055699A (ja) 情報処理装置、情報処理システム、その制御方法、及びプログラム
JP7203877B2 (ja) 画像抽出装置,画像抽出方法および画像抽出プログラムならびにそのプログラムを格納した記録媒体
JP2020140556A (ja) 画像処理装置、制御方法、及びプログラム
JP2020140558A (ja) 画像処理装置、制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200903

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220727

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220819

R150 Certificate of patent or registration of utility model

Ref document number: 7128665

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150