JP2008140046A

JP2008140046A - 画像処理装置、画像処理プログラム

Info

Publication number: JP2008140046A
Application number: JP2006324685A
Authority: JP
Inventors: Takashi Nagao; 隆長尾; Yukio Kumazawa; 幸夫熊澤; Yoichi Isaka; 洋一井坂; Kazuyuki Itagaki; 和幸板垣; Yusuke Sugimoto; 裕介杉本; Takashi Igarashi; 貴五十嵐
Original assignee: Fuji Xerox Co Ltd; Fujifilm Corp
Current assignee: Fujifilm Corp; Fujifilm Business Innovation Corp
Priority date: 2006-11-30
Filing date: 2006-11-30
Publication date: 2008-06-19
Also published as: US20080129740A1

Abstract

【課題】効率的な並列処理が実行可能な画像処理装置、画像処理プログラムを提供する。
【解決手段】画像処理に係る演算を実行する複数の演算手段と、画像情報に対して前記演算手段により画像処理を実行させる複数の画像処理手段と、前記複数の画像処理手段を、複数のグループに区分するための区分数を取得する区分数取得手段と、前記区分数取得手段により取得された区分数及び画像処理手段が実行させる画像処理の順序に基づき、各画像処理手段を各グループに属させることにより前記複数の画像処理手段を区分する区分手段と、を有する。
【選択図】図１５

Description

本発明は、画像処理装置、画像処理プログラムに関する。

複数の画像処理モジュールを組み合わせることで所望の処理手順を構築して、画像処理を行う方式としては、特許文献１に開示されているように画像処理モジュールを直接接続して各モジュールが自身の前段の画像処理モジュールを呼び出して処理する方式や、各画像処理モジュールの間に画像データ（画像情報）を一時保持するバッファを配置し、バッファに出力要求に応えられるだけのデータが蓄積されていなければ前段の画像処理モジュールに処理を行わせる事で全体を連携させて処理する方式が提案されている。

さらに、上記複数の画像処理モジュールを組み合わせる方式を高速処理するため、並列処理による高速化も提案されており、特許文献１に対応する並列化方式としては特許文献２に開示された技術などがある。

また、複数の画像処理モジュールを組み合わせて処理する方式において、複数のスレッドを割り付けて並列化する事により処理速度を向上させる手法が提案されている。しかしながら、並列処理には排他制御という（逐次制御にはない）余分なコストが発生し、また装置には固有、又はその時点での有効に動作可能なスレッド数があるため、Ａ個のモジュールを並列に処理する場合に単純にＡ個のスレッドで処理すれば良いとは限らない。

例えば、Ａ個のモジュールをＡ個のスレッドに割り付け、装置の有効演算リソース数がＮ（Ａ＞Ｎ）個の場合には、ＯＳ（Operating System）がそのスケジューリングを行うが、余分なスレッドの切り替えが発生して効率が落ち、さらに１つの演算リソースに適当にスレッドが配置されるので均等に演算リソースが使用されず、結果として（総処理コスト／演算リソース）よりもかなり多くの処理コストがかかる場合がある。上記の特許文献２などでは、この課題に対応できていなかった。

このような、割り付け不均等による並列化効率の低下を避けるため、これまで各種の考案がなされている。

例えば特許文献３では、直前の実行結果から負荷を見積もり、それによって処理モジュールを負荷の重いものと軽いものの２つのグループに分ける。そして最初に重いモジュールの単位処理を割り付け、割り付けが終わったら予測負荷が少ないスレッドから順に軽いモジュールの単位処理を割り付ける方法が提案されている。こうする事で、割り付けの不均等を少なくしている。

また、特許文献４では、処理をその処理方法の違いによってグループ分けし、スレッドに空きができた時に、他のスレッドで実行されているのと同じグループの処理を選択しないようにすることで、リソースの競合を避ける割り付け法が提案されている。

さらに、特許文献５では、複数の装置で分担して処理を行う場合に、これまでの各装置の処理分担率と分担時間の履歴を元に、より長い処理時間の装置の分担率を下げることが提案されている。
特許第３６１７８５１号公報特開平１０−３０４１８４号公報特開２００５−２５０５６５号公報特開２００５−２５９０４２号公報特開２００６−４３８２号公報

しかしながら、特許文献３や特許文献４に開示された方法では、処理モジュールの順序などを考慮せずに割り当てしているため、各モジュール間に何らかの排他制御が必要になり、演算リソースが少なく有効なスレッド数がモジュール数よりも少ない時に、無駄な排他制御が入る事になる。

また、特許文献５に開示されている方法は、処理やその順序が固定の場合には利用可能だが、処理や順序が異なる場合には利用できないという欠点がある。

このように従来の技術では、効率的な並列処理が実行されていないという問題点があった。

本発明は上記問題点に鑑み、効率的な並列処理が実行可能な画像処理装置、画像処理プログラムを提供することを目的とする。

上記目的を達成するために請求項１の画像処理装置は、画像処理に係る演算を実行する複数の演算手段と、画像情報に対して前記演算手段により画像処理を実行させる複数の画像処理手段と、前記複数の画像処理手段を、複数のグループに区分するための区分数を取得する区分数取得手段と、前記区分数取得手段により取得された区分数及び画像処理手段が実行させる画像処理の順序に基づき、各画像処理手段を各グループに属させることにより前記複数の画像処理手段を区分する区分手段と、同一のグループに属する画像処理手段から画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御せずに逐次実行する逐次記憶処理手段と、異なるグループに属する画像処理手段から画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御して実行する排他記憶処理手段と、を有する。

なお、本発明は、請求項２の発明のように、前記区分数取得手段は、前記画像処理に係る演算を並列して実行可能な前記演算手段の個数以下の値を前記区分数として取得するようにしても良い。

なお、本発明は、請求項３の発明のように、前記区分数取得手段は、使用率が所定の値以下の前記演算手段の個数以下の値を前記区分数として取得するようにしても良い。

なお、本発明は、請求項４の発明のように、前記区分手段は、前記画像処理手段のうち、他の画像処理手段による画像処理が終了しなければ実行できない画像処理手段を除いた前記複数の画像処理手段を区分するようにしても良い。

なお、本発明は、請求項５の発明のように、前記区分手段は、同一のグループに属する前記画像処理手段が画像処理の実行に要する処理量の総和が、各グループ毎で略等しくなるように前記複数の画像処理手段を区分するようにしても良い。

なお、本発明は、請求項６の発明のように、前記処理量は、各画像処理手段が実行する処理毎に予め定められているか、又は予め定められた計算により定められるようにしても良い。

また、上記目的を達成するために請求項７の画像処理プログラムは、画像処理に係る演算を実行する複数の演算手段により画像情報に対して画像処理を実行させる複数の画像処理手段を、複数のグループに区分するための区分数を取得する区分数取得ステップと、前記区分数取得ステップにより取得された区分数及び画像処理手段が実行させる画像処理の順序に基づき、各画像処理手段を各グループに属させることにより前記複数の画像処理手段を区分する区分ステップと、同一のグループに属する画像処理手段から画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御せずに逐次実行する逐次記憶処理ステップと、異なるグループに属する画像処理ステップから画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御して実行する排他記憶処理ステップと、を有する処理をコンピュータに実行させる。

本発明によれば、効率的な並列処理が実行可能な画像処理装置、画像処理プログラムを提供することができるという効果が得られる。

以下、図面を参照して本発明の実施形態の一例を詳細に説明する。図１には、本発明に係る画像処理装置として機能することが可能なコンピュータ１０が示されている。なお、このコンピュータ１０は、複写機、プリンタ、ファクシミリ装置、これらの機能を兼ね備えた複合機、スキャナ、写真プリンタ等のように内部で画像処理を行う必要のある任意の画像取扱機器に組み込まれていてもよいし、パーソナル・コンピュータ（ＰＣ）等の独立したコンピュータであってもよく、更にＰＤＡ（Personal Digital Assistant）や携帯電話機等の携帯機器に組み込まれたコンピュータであってもよい。

コンピュータ１０はＣＰＵ１２、メモリ１４、表示部１６、操作部１８、記憶部２０、画像データ供給部２２及び画像出力部２４を備えており、これらはバス２６を介して互いに接続されている。コンピュータ１０が上述したような画像取扱機器に組み込まれている場合、表示部１６や操作部１８としては、画像取扱機器に設けられたＬＣＤ等から成る表示パネルやテンキー等を適用することができる。また、コンピュータ１０が独立したコンピュータである場合、表示部１６や操作部１８としては、当該コンピュータに接続されたディスプレイやキーボード、マウス等を適用することができる。また、記憶部２０としてはＨＤＤ(Hard Disk Drive)が好適であるが、これに代えてフラッシュメモリ等の他の不揮発性記憶手段を用いることも可能である。

また、画像データ供給部２２は処理対象の画像データを供給できるものであればよく、例えば紙や写真フィルム等の記録材料に記録されている画像を読み取って画像データを出力する画像読取部、通信回線を介して外部から画像データを受信する受信部、画像データを記憶する画像記憶部（メモリ１４又は記憶部２０）等を適用することができる。

また、画像出力部２４は画像処理を経た画像データ又は該画像データが表す画像を出力するものであればよく、例えば画像データが表す画像を紙や感光材料等の記録材料に記録する画像記録部、画像データが表す画像をディスプレイ等に表示する表示部、画像データを記録メディアに書き込む書込装置、画像データを通信回線を介して送信する送信部を適用することができる。また、画像出力部２４は画像処理を経た画像データを単に記憶する画像記憶部（メモリ１４又は記憶部２０）であっても構わない。

図１に示すように、記憶部２０には、ＣＰＵ１２によって実行される各種のプログラムとして、メモリ１４等のリソースの管理やＣＰＵ１２によるプログラムの実行の管理、コンピュータ１０と外部との通信等を司るオペレーティングシステム３０のプログラム、コンピュータ１０を本発明に係る画像処理装置として機能させるための画像処理プログラム群３４、ＣＰＵ１２が上記画像処理プログラム群を実行することで実現される画像処理装置に対して所望の画像処理を行わせる各種のアプリケーション３２のプログラム（図１ではアプリケーションプログラム群３２と表記）が各々記憶されている。

画像処理プログラム群３４は、前述した各種の画像取扱機器や携帯機器を開発する際の開発負荷を軽減したり、ＰＣ等で利用可能な画像処理プログラムを開発する際の開発負荷を軽減することを目的として、各種の画像取扱機器や携帯機器、ＰＣ等の各種機器（プラットフォーム）で共通に使用可能に開発されたプログラムであり、本発明に係る画像処理プログラムに対応している。

画像処理プログラム群３４によって実現される画像処理装置は、アプリケーション３２からの構築指示に従い、アプリケーション３２が指示した画像処理を行う画像処理部を構築し、アプリケーション３２からの実行指示に従い、前記画像処理部によって画像処理を行う（詳細は後述）。画像処理プログラム群３４は、所望の画像処理を行う画像処理部（所望の構成の画像処理部）の構築を指示したり、構築された画像処理部による画像処理の実行を指示するためのインタフェースをアプリケーション３２に提供している。

このため、内部で画像処理を行う必要のある任意の機器を新規開発する等の場合にも、前記画像処理を行うプログラムの開発に関しては、当該機器で必要とされる画像処理を上記のインタフェースを利用して画像処理プログラム群３４に行わせるアプリケーション３２を開発するのみで済み、実際に画像処理を行うプログラムを新たに開発する必要が無くなるので、開発負荷を軽減することができる。

また、画像処理プログラム群３４によって実現される画像処理装置は、前述のように、アプリケーション３２からの構築指示に従い、アプリケーション３２が指示した画像処理を行う画像処理部を構築し、構築した画像処理部によって画像処理を行うので、例えば画像処理対象の画像データの色空間や１画素当たりのビット数が不定であったり、実行すべき画像処理の内容や手順・パラメータ等が不定である場合にも、アプリケーション３２が画像処理部の再構築を指示することで、画像処理装置（画像処理部）によって実行される画像処理を、処理対象の画像データ等に応じて柔軟に変更することができる。

以下、画像処理プログラム群３４について説明する。図１に示すように、画像処理プログラム群３４はモジュールライブラリ３６と、処理構築部４２のプログラムと、処理管理部４６に大別される。

本実施形態に係る処理構築部４２は、アプリケーションからの指示により、例として図２に示すように、予め定められた画像処理を行う１つ以上の画像処理モジュール３８と、個々の画像処理モジュール３８の前段及び後段の少なくとも一方に配置され画像データを記憶するためのバッファを備えたバッファモジュール４０と、がパイプライン形態又はＤＡＧ(Directed Acyclic Graph：有向非循環グラフ)形態で連結されて成る画像処理部５０を構築する。

画像処理部５０を構成する個々の画像処理モジュールの実体はＣＰＵ１２によって実行されＣＰＵ１２で所定の画像処理を行わせるための第１プログラム、又は、ＣＰＵ１２によって実行されＣＰＵ１２により図１に図示されていない外部の画像処理装置（例えば専用画像処理ボード等）に対する処理の実行を指示するための第２プログラムである。上述したモジュールライブラリ３６には、予め定められた互いに異なる画像処理（例えば入力処理やフィルタ処理、色変換処理、拡大・縮小処理、スキュー角検知処理、画像回転処理、画像合成処理、出力処理等）を行う複数種の画像処理モジュール３８のプログラムが各々登録されている。以下では、説明を簡単にするために、画像処理部５０を構成する個々の画像処理モジュールの実体が上記の第１プログラムであるものとして説明する。

個々の画像処理モジュール３８は、例として図３(Ａ)にも示すように、画像データに対する画像処理を所定の単位処理データ量ずつ行う画像処理エンジン３８Ａと、画像処理モジュール３８の前段及び後段のモジュールとの画像データの入出力及び画像処理エンジン３８Ａの制御を行う制御部３８Ｂから構成されている。

個々の画像処理モジュール３８における単位処理データ量は、画像の１ライン分、画像の複数ライン分、画像の１画素分、画像１面分等を含む任意のバイト数の中から、画像処理エンジン３８Ａが行う画像処理の種類等に応じて予め選択・設定されている。例えば色変換処理やフィルタ処理を行う画像処理モジュール３８では単位処理データ量が１画素分とされ、拡大・縮小処理を行う画像処理モジュール３８では単位処理データ量が画像の１ライン分又は画像の複数ライン分とされ、画像回転処理を行う画像処理モジュール３８では単位処理データ量が画像１面分とされ、画像圧縮伸長処理を行う画像処理モジュール３８では単位処理データ量が実行環境に依存するＮバイトとされている。

また、モジュールライブラリ３６には、画像処理エンジン３８Ａが実行する画像処理の種類が同一でかつ実行する画像処理の内容が異なる画像処理モジュール３８も登録されている（図１では、この種の画像処理モジュールを「モジュール１」「モジュール２」と表記して示している）。

例えば拡大・縮小処理を行う画像処理モジュール３８については、入力された画像データを１画素おきに間引くことで50％に縮小する縮小処理を行う画像処理モジュール３８、入力された画像データに対して指定された拡大・縮小率で拡大・縮小処理を行う画像処理モジュール３８等の複数の画像処理モジュール３８が各々用意されている。また、例えば色変換処理を行う画像処理モジュール３８については、ＲＧＢ色空間をＣＭＹ色空間へ変換する画像処理モジュール３８やその逆へ変換する画像処理モジュール３８、Ｌ*ａ*ｂ*色空間等の他の色空間変換を行う画像処理モジュール３８が各々用意されている。

また、画像処理モジュール３８の制御部３８Ｂは、画像処理エンジン３８Ａが単位処理データ量ずつ処理するために必要な画像データを入力するために、自モジュールの前段のモジュール（例えばバッファモジュール４０）から画像データを単位読出データ量ずつ取得し、画像処理エンジン３８Ａから出力される画像データを単位書込データずつ後段のモジュール（例えばバッファモジュール４０）へ出力する（画像処理エンジン３８Ａで圧縮等のデータ量の増減を伴う画像処理が行われなければ単位書込データ量＝単位処理データ量となる）か、画像処理エンジン３８Ａによる画像処理の結果を自モジュールの外部へ出力する（例えば画像処理エンジン３８Ａがスキュー角検知処理等の画像解析処理を行う場合、画像データに代えてスキュー角検知結果等の画像解析処理結果が出力されることがある）処理を行うが、モジュールライブラリ３６には、画像処理エンジン３８Ａが実行する画像処理の種類及び内容が同一で、上記の単位処理データ量や単位読出データ量、単位書込データ量が異なる画像処理モジュール３８も登録されている。例えば、画像回転処理を行う画像処理モジュール３８についても、前述のように単位処理データ量が画像１面分の画像処理モジュール３８のプログラム以外に、単位処理データ量が画像の１ライン分や画像の複数ライン分の画像処理モジュール３８のプログラムがモジュールライブラリ３６に登録されていても良い。

また、モジュールライブラリ３６に登録されている個々の画像処理モジュール３８のプログラムは、画像処理エンジン３８Ａに相当するプログラムと制御部３８Ｂに相当するプログラムから構成されているが、制御部３８Ｂに相当するプログラムは部品化されており、個々の画像処理モジュール３８のうち単位読出データ量及び単位書込データ量が同一の画像処理モジュール３８は、画像処理エンジン３８Ａで実行される画像処理の種類や内容に拘わらず、制御部３８Ｂに相当するプログラムが共通化されている（制御部３８Ｂに相当するプログラムとして同一のプログラムが用いられている）。これにより、画像処理モジュール３８のプログラムの開発にあたっての開発負荷が軽減される。

なお、画像処理モジュール３８の中には、入力される画像の属性が未知の状態では単位読出データ量及び単位書込データ量が確定しておらず、入力画像データの属性を取得し、取得した属性を所定の演算式に代入して演算することで単位読出データ量や単位書込データ量が確定するモジュールが存在している。この種の画像処理モジュール３８については、単位読出データ量と単位書込データ量が互いに同一の演算式を用いて導出される画像処理モジュール３８について、制御部３８Ｂに相当するプログラムを共通化するようにすればよい。

また、本実施形態に係る画像処理プログラム群３４は、前述のように各種機器に実装可能であるが、画像処理プログラム群３４のうちモジュールライブラリ３６に登録する画像処理モジュール３８の数や種類等については、画像処理プログラム群３４を実装する各種機器で必要とされる画像処理に応じて、適宜追加・削除・入替等が可能であることは言うまでもない。

また、画像処理部５０を構成する個々のバッファモジュール４０は、例として図３(Ｂ)にも示すように、バッファ４０Ａと、バッファ制御部４０Ｂとから構成されている。バッファ４０Ａは、コンピュータ１０に設けられたメモリ１４からオペレーティングシステム３０を通じて確保されたメモリ領域で構成される。バッファ制御部４０Ｂは、バッファモジュール４０の前段及び後段のモジュールとの画像データの入出力及びバッファ４０Ａの管理を行う。個々のバッファモジュール４０のバッファ制御部４０Ｂもその実体はＣＰＵ１２によって実行されるプログラムであり、モジュールライブラリ３６にはバッファ制御部４０Ｂのプログラムも登録されている（図１ではバッファ制御部４０Ｂのプログラムを「バッファモジュール」と表記して示している）。

また、アプリケーション３２からの指示に従って画像処理部５０を構築する処理構築部４２は、図１に示すように複数種のモジュール生成部４４から構成されている。複数種のモジュール生成部４４は互いに異なる画像処理に対応しており、アプリケーション３２によって起動されることで、対応する画像処理を実現するための画像処理モジュール３８及びバッファモジュール４０から成るモジュール群を生成する処理を行う。

なお、図１ではモジュール生成部４４の一例として、モジュールライブラリ３６に登録されている個々の画像処理モジュール３８が実行する画像処理の種類に対応するモジュール生成部４４を示しているが、個々のモジュール生成部４４に対応する画像処理は、複数種の画像処理モジュール３８によって実現される画像処理（例えばスキュー角検知処理と画像回転処理から成るスキュー補正処理）であってもよい。必要とされる画像処理が複数種の画像処理を組み合わせた処理である場合、アプリケーション３２は複数種の画像処理の何れかに対応するモジュール生成部４４を順次起動する。これにより、アプリケーション３２によって順次起動されたモジュール生成部４４により、必要とされる画像処理を行う画像処理部５０が構築されることになる。

また図１に示すように、処理管理部４６は、画像処理部５０における画像処理の実行を制御するワークフロー管理部４６Ａ、画像処理部５０の各モジュールによるメモリ１４や各種のファイル等のコンピュータ１０のリソースの使用を管理するリソース管理部４６Ｂ、及び、画像処理部５０で発生したエラーを管理するエラー管理部４６Ｃを含んで構成される。

次に本実施形態の作用を図４のシーケンス図を参照して説明する。

画像処理プログラム群３４が実装されている機器において、何らかの画像処理を行う必要のある状況になると、この状況が特定のアプリケーション３２によって検知される。

なお、画像処理を行う必要のある状況としては、例えば画像データ供給部２２としての画像読取部によって画像を読み取り、画像出力部２４としての画像記録部により記録材料に画像として記録するか、画像出力部２４としての表示部に画像として表示させるか、画像出力部２４としての書込装置により画像データを記録メディアに書き込むか、画像出力部２４としての送信部により画像データを送信するか、画像出力部２４としての画像記憶部に記憶させるジョブの実行がユーザによって指示された場合、或いは、画像データ供給部２２としての受信部によって受信されるか、画像データ供給部２２としての画像記憶部に記憶されている画像データに対して、上記の記録材料への記録、表示部への表示、記録メディアへの書き込み、送信、画像記憶部への記憶の何れかを行うジョブの実行がユーザによって指示された場合が挙げられる。

また、画像処理を行う必要のある状況は上記に限られるものではなく、例えばユーザからの指示に応じてアプリケーション３２が実行可能な処理の名称等を表示部１６に一覧表示している状態で、実行対象の処理がユーザによって選択された等の場合であってもよい。

まず、アプリケーション３２はステップ１５８で、画像処理対象の画像データを供給する画像データ供給部２２の種別を認識する。また、認識した種別がバッファ領域（メモリ１４の一部領域）であった場合、アプリケーション３２は、画像データ供給部２２として指定されたバッファ領域を稼働中の処理管理部４６へ通知し、画像データ供給部２２として機能するバッファモジュール４０の生成を処理管理部４６へ要求する。この場合、処理管理部４６はステップ１６０で、バッファ制御部４０ＢのプログラムをＣＰＵ１２が実行可能なようにメモリ１４にロードすると共に、通知されたバッファ領域（画像データ供給部２２として指定されたバッファ領域）を既に確保されたバッファ４０Ａとしてバッファ制御部４０Ｂに認識させるパラメータを設定することで、画像データ供給部２２として機能するバッファモジュール４０を生成し、アプリケーション３２へ応答を返す。

続いてステップ１６２では、アプリケーション３２は、画像処理を行った画像データの出力先としての画像出力部２４の種別を認識する。また、認識した種別がバッファ領域（メモリ１４の一部領域）であった場合、アプリケーション３２は、画像出力部２４として指定されたバッファ領域を稼働中の処理管理部４６へ通知し、画像出力部２４として指定されたバッファ領域を含むバッファモジュール４０（画像出力部２４として機能するバッファモジュール４０）を処理管理部４６によって生成させる。この場合も処理管理部４６は上記と同様に、ステップ１６４で、バッファモジュールを生成し、アプリケーション３２へ応答を返す。

次にアプリケーション３２は、ステップ１６６で、実行すべき画像処理の内容を認識し、実行すべき画像処理を、個々のモジュール生成部４４に対応するレベルの画像処理の組み合わせに分解し、実行すべき画像処理を実現するために必要な画像処理の種類及び個々の画像処理の実行順序を判定する。なお、この判定は、例えば上記の画像処理の種類及び個々の画像処理の実行順序を、ユーザが実行を指示可能なジョブの種類と対応付けて予め情報として登録しておき、アプリケーション３２は、実行が指示されたジョブの種類に対応する情報を読み出すことによって実現することができる。なお、このステップ１６６での画像処理の実行順序に関する判定の詳細は後述する。

ステップ１６８では、アプリケーション３２は、上記で判定した画像処理の種類、実行順序に基づいて、特定の画像処理に対応するモジュール生成部４４を起動する。

更に、アプリケーション３２は、ステップ１７０で、起動したモジュール生成部４４に対し、当該モジュール生成部４４によるモジュール群の生成に必要な情報として、前記モジュール群に画像データを入力する入力モジュールを識別するための入力モジュール識別情報、前記モジュール群が画像データを出力する出力モジュールを識別するための出力モジュール識別情報、前記モジュール群に入力される入力画像データの属性を表す入力画像属性情報、実行すべき画像処理のパラメータを通知して対応するモジュール群の生成を指示する。

また、必要とされる画像処理が複数種の画像処理を組み合わせた処理である場合、アプリケーション３２は、指示したモジュール生成部４４からモジュール群の生成完了が通知されると、個々の画像処理に対応する他のモジュール生成部４４を起動してモジュール群の生成に必要な情報を通知する処理（ステップ１６８，１７０）を個々の画像処理の実行順序の昇順に繰り返す。

なお、上記の入力モジュールは、実行順序が１番目のモジュール群については画像データ供給部２２が入力モジュールとなり、実行順序が２番目以降のモジュール群については前段のモジュール群の最終モジュール（通常はバッファモジュール４０）が入力モジュールとなる。また、上記の出力モジュールについては、実行順序が最後のモジュール群では画像出力部２４が出力モジュールとなるので、画像出力部２４が出力モジュールとして指定されるが、その他のモジュール群では出力モジュールは未確定のためにアプリケーション３２による指定は行われず、必要な場合はモジュール生成部４４によって生成・設定される。また、入力画像属性や画像処理のパラメータについては、例えばユーザが実行を指示可能なジョブの種類と対応付けて予め情報として登録しておき、実行が指示されたジョブの種類に対応する情報を読み出すことでアプリケーション３２が認識するようにしてもよいし、ユーザに指定させるようにしてもよい。

一方、ステップ１７２では、モジュール生成部４４は、アプリケーション３２によって起動されるとモジュール生成処理を行う。モジュール生成処理では、まず生成対象の画像処理モジュール３８に入力される入力画像データの属性を表す入力画像属性情報を取得する。なお、入力画像データの属性を取得する処理は、生成対象の画像処理モジュール３８の前段にバッファモジュール４０が存在している場合、当該バッファモジュール４０に画像データの書き込みを行う更に前段の画像処理モジュール３８から出力画像データの属性を取得することによって実現できる。

そして、取得した情報が表す入力画像データの属性に基づいて、生成対象の画像処理モジュール３８の生成が必要か否か判定する。例えばモジュール生成部４４が色変換処理を行うモジュール群を生成するモジュール生成部であり、画像処理のパラメータにより出力画像データの色空間としてＣＭＹ色空間がアプリケーション３２から指定された場合、取得した入力画像属性情報に基づいて入力画像データがＲＧＢ色空間のデータであることが判明したときには、色空間処理を行う画像処理モジュール３８としてＲＧＢ→ＣＭＹの色空間変換を行う画像処理モジュール３８を生成する必要があるが、入力画像データがＣＭＹ色空間のデータであったときには、入力画像データの属性と出力画像データの属性が色空間に関して一致しているので、色空間変換処理を行う画像処理モジュール３８は生成不要と判断する。

生成対象の画像処理モジュール３８の生成が必要と判断した場合には、生成対象の画像処理モジュール３８の後段にバッファモジュール４０が必要が否かを判定する。この判定は、画像処理モジュールの後段が出力モジュール（画像出力部２４）である場合（例えば図２(Ａ)〜(Ｃ)に示す画像処理部５０における最後段の画像処理モジュール３８を参照）や、例として図２(Ｂ)に示す画像処理部５０においてスキュー角検知処理を行う画像処理モジュール３８のように、画像処理モジュールが、画像データに対して解析等の画像処理を行いその結果を他の画像処理モジュール３８へ出力するモジュールである場合は否定されるが、上記以外の場合は判定が肯定され、稼働中の処理管理部４６に対して画像処理モジュール３８の後段に連結するバッファモジュール４０を生成を要求する。

バッファモジュール４０の生成が要求されると、ステップ１７２で処理管理部４６はバッファ制御部４０ＢのプログラムをＣＰＵ１２が実行可能なようにメモリ１４にロードすることで、バッファモジュール４０を生成し、モジュール生成部４４へ応答を返す。

続いてモジュール生成部４４は、前段のモジュール（例えばバッファモジュール４０）の情報と後段のバッファモジュール４０の情報、画像処理モジュール３８に入力される入力画像データの属性、処理パラメータを与えて、画像処理モジュール３８を生成する。なお、後段のバッファモジュール４０が不要と判断された画像処理モジュール３８に対しては後段のバッファモジュール４０の情報は与えられず、また例えば50％縮小処理のように処理内容が固定的で特別な画像処理パラメータが必要ない場合には処理パラメータは与えられない。

モジュール生成部４４は、モジュールライブラリ３６に登録されており、画像処理モジュール３８として利用可能な複数の候補モジュールの中から、先に取得した入力画像データの属性、及び画像処理モジュール３８で実行すべき処理パラメータに合致する画像処理モジュール３８を選択し、選択した画像処理モジュール３８のプログラムをＣＰＵ１２が実行可能なようにメモリ１４にロードすると共に、当該画像処理モジュール３８の前段及び後段のモジュールを当該画像処理モジュール３８の制御部３８Ｂに認識させるパラメータを設定することで、画像処理モジュール３８を生成する。

例えばモジュール生成部４４が色変換処理を行うモジュール群を生成するモジュール生成部であり、処理パラメータにより出力画像データの色空間としてＣＭＹ色空間が指定され、更に入力画像データがＲＧＢ色空間のデータであった場合には、モジュールライブラリ３６に登録されている各種の色空間処理を行う複数種の画像処理モジュール３８の中から、ＲＧＢ→ＣＭＹの色空間変換を行う画像処理モジュール３８が選択・生成される。

また、画像処理モジュールが拡大・縮小処理を行う画像処理モジュール３８であり、指定された拡大縮小率が50％以外であった場合には、入力された画像データに対して指定された拡大・縮小率で拡大・縮小処理を行う画像処理モジュール３８が選択・生成され、指定された拡大縮小率が50％であれば、拡大縮小率50％に特化した拡大縮小処理、すなわち入力された画像データを１画素おきに間引くことで50％に縮小する縮小処理を行う画像処理モジュール３８が選択・生成される。

なお、画像処理モジュール３８の選択は上記に限られるものではなく、例えば画像処理エンジン３８Ａによる画像処理における単位処理データ量が異なる画像処理モジュール３８をモジュールライブラリ３６に複数登録しておき、画像処理部５０へ割当可能なメモリ領域のサイズ等の動作環境に応じて、適切な単位処理データ量の画像処理モジュール３８を選択する（例えば上記サイズが小さくなるに従って単位処理データ量の小さい画像処理モジュール３８を選択する等）ようにしてもよいし、アプリケーション３２或いはユーザに選択させるようにしてもよい。

モジュール生成部４４は、画像処理モジュール３８の生成が完了すると、後段のバッファモジュール４０のＩＤと生成した画像処理モジュール３８のＩＤの組を稼働中の処理管理部４６に通知する。このＩＤは、個々のモジュールを一意に判別できる情報であればよく、例えば個々のモジュールの生成順に付与した番号や、バッファモジュール４０や画像処理モジュール３８のオブジェクトのメモリ上でのアドレス等でも良い。

またモジュール生成部４４が、複数種の画像処理モジュール３８によって実現される画像処理（例えばスキュー角検知処理を行う画像処理モジュール３８と画像回転処理を行う画像処理モジュール３８によって実現されるスキュー補正処理）を行うモジュール群を生成する場合には、上記処理が繰り返されて２個以上の画像処理モジュール３８を含むモジュール群が生成される。アプリケーション３２によって順次起動された個々のモジュール生成部４４により、以上のモジュール生成処理が順次行われることで、例として図２(Ａ)〜(Ｃ)に示すように、必要とされる画像処理を行う画像処理部５０が構築される。

一方、アプリケーション３２は、順次起動したモジュール生成部４４によって前述のモジュール生成処理が順次行われることで、必要とされる画像処理を行う画像処理部５０の構築が完了すると、ステップ１７４で、稼働中の処理管理部４６に対して画像処理部５０による画像処理の実行を指示する。

処理管理部４６は、アプリケーション３２から画像処理の実行が指示されると、ステップ１７６で、メモリ１４にロードした画像処理部５０の各モジュールのプログラムを、オペレーティングシステム３０を通じてスレッド（又はプロセス又はオブジェクト）としてＣＰＵ１２に実行させる。

画像処理モジュール３８のプログラムがスレッドとして実行されると、個々の画像処理モジュール３８の制御部３８Ｂは自モジュールの初期化を行う。画像処理モジュール３８の初期化では、まずモジュール生成部４４によって設定されたパラメータに基づいて自モジュールの前段のモジュールを判定する。自モジュールの前段にモジュールが存在していない場合には何ら処理を行わないが、前段のモジュールがバッファモジュール４０以外、例えば画像データ供給部２２や特定のファイル等である場合には、必要に応じてその初期化処理を行う。また、自モジュールの前段にバッファモジュール４０が存在している場合には、前段のバッファモジュール４０からの１回の画像データの読み出しによって取得する画像データのデータ量（単位読出データ量）を認識する。

この単位読出データ量は、自モジュールの前段のバッファモジュール４０の数が１個であれば１個だけであるが、例えば図２(Ｃ)に示す画像処理部５０において画像合成処理を行う画像処理モジュール３８のように、前段のバッファモジュール４０の数が複数で、複数のバッファモジュール４０から各々取得した画像データを用いて画像処理エンジン３８Ａが画像処理を行う等の場合、前段の個々のバッファモジュール４０に対応する単位読出データ量は、自モジュールの画像処理エンジン３８Ａが行う画像処理の種類や内容、前段のバッファモジュール４０の数等に応じて定まる。そして、認識した単位読出データ量を、前段に存在している全てのバッファモジュール４０へ通知することで、前段に存在している全てのバッファモジュール４０に単位読出データ量を設定する（図３(Ａ)の(1)も参照）。

次に、自モジュールの後段のモジュールを判定する。自モジュールの後段のモジュールがバッファモジュール４０以外、例えば画像出力部２４や特定のファイル等の場合には、必要に応じてその初期化処理（例えば後段のモジュールが画像出力部２４であれば、単位書込データ量に相当するデータ量ずつ画像データを出力することを通知する処理等）を行う。また、後段のモジュールがバッファモジュール４０であれば、１回の画像データの書き込みにおける画像データのデータ量（単位書込データ量）を認識し、後段のバッファモジュールに当該単位書込データ量を設定（図３(Ａ)の(2)も参照）する。そして、当該画像処理モジュール３８の初期化の完了を処理管理部４６通知する。

また、バッファモジュール４０（のバッファ制御部４０Ｂ）のプログラムがスレッドとして実行されると、個々のバッファモジュール４０のバッファ制御部４０Ｂは自モジュールの初期化を行う。バッファモジュール４０の初期化では、まず自モジュールの前段の画像処理モジュール３８から単位書込データ量が通知されるか又は自モジュールの後段の画像処理モジュール３８から単位読出データ量が通知される毎に、通知された単位書込データ量又は単位読出データ量を記憶する（図３(Ｂ)の(1),(2)も参照）。

自モジュールと連結されている全ての画像処理モジュール３８から単位書込データ量又は単位読出データ量が通知されると、自モジュールと連結されている個々の画像処理モジュール３８によって各々設定された単位書込データ量及び単位読出データ量に基づいて、自モジュールのバッファ４０Ａの管理単位である単位バッファ領域のサイズを決定し、決定した単位バッファ領域のサイズを記憶する。単位バッファ領域のサイズとしては、自モジュールに設定された単位書込データ量及び単位読出データ量のうちの最大値が好適であるが、単位書込データ量を設定してもよいし、単位読出データ量（自モジュールの後段に複数の画像処理モジュール３８が連結されている場合は、個々の画像処理モジュール３８によって各々設定された単位読出データ量の最大値）を設定してもよいし、単位書込データ量と単位読出データ量（の最大値）の最小公倍数を設定してもよいし、この最小公倍数が所定値未満であれば最小公倍数を、最小公倍数が所定値以上であれば別の値（例えば上述した単位書込データ量及び単位読出データ量のうちの最大値、単位書込データ量、単位読出データ量（の最大値）の何れか）を設定するようにしてもよい。

また、自モジュールが画像データ供給部２２又は画像出力部２４として機能するバッファモジュール４０であった場合には、自モジュールのバッファ４０Ａとして用いるメモリ領域が既に存在しているので、先に決定した単位バッファ領域のサイズを、自モジュールのバッファ４０Ａとして用いる既設のメモリ領域のサイズに変更する。更に、自モジュールの後段の個々の画像処理モジュール３８に対応する有効データポインタを各々生成し、生成した有効データポインタを初期化する。この有効データポインタは、自モジュールの前段の画像処理モジュールによって自モジュールのバッファ４０Ａに書き込まれた画像データのうち、対応する後段の画像処理モジュール３８によって読み出されていない画像データ（有効データ）の先頭位置（次の読出開始位置）と末尾位置を各々指し示すポインタであり、初期化時には通常、有効データが存在していないことを意味する特定の情報が設定されるが、自モジュールが画像データ供給部２２として機能するバッファモジュール４０であれば、自モジュールのバッファ４０Ａとして用いるメモリ領域には既に画像処理対象の画像データが書き込まれていることがあり、この場合は当該画像データの先頭位置及び末尾位置が後段の個々の画像処理モジュール３８に対応する有効データポインタに各々設定される。以上の処理によりバッファモジュール４０の初期化が完了し、バッファ制御部４０Ｂは初期化の完了を処理管理部４６へ通知する。

処理管理部４６は、画像処理部５０を構成する全てのモジュールから初期化の完了が通知されると、ワークフロー管理部４６Ａのプログラムを実行するスレッド（又はプロセス又はオブジェクト）を起動し、ワークフロー管理部４６Ａに対して画像処理部５０による画像処理の実行を指示する。

これらの処理は、画像処理部５０を構成する画像処理モジュール３８に処理要求を入力することで、画像処理部５０に画像処理を行わせるものであるが、以下では画像処理部５０全体の動作説明に先立ち、個々のバッファモジュール４０のバッファ制御部４０Ｂによって行われる処理、個々の画像処理モジュール３８の制御部３８Ｂによって行われる処理について順に説明する。

本実施形態では、画像処理モジュール３８が後段のバッファモジュール４０に画像データを書き込む場合には、画像処理モジュール３８からバッファモジュール４０へ書込要求が入力され、画像処理モジュール３８が前段のバッファモジュール４０から画像データを読み出す場合には、画像処理モジュール３８からバッファモジュール４０へ読出要求が入力される。

データ書込処理では、確保すべきメモリ領域のサイズとして単位書込データ量をリソース管理部４６Ｂに通知し、書込用として用いるメモリ領域（書込用バッファ領域：図５(Ｂ)も参照）を稼働中の処理管理部４６のリソース管理部４６Ｂを介して取得する。次に、自モジュールのバッファ４０Ａを構成する保管用の単位バッファ領域の中に、単位書込データ量以上の空き領域が有る単位バッファ領域（単位書込データ量の画像データを書き込み可能な単位バッファ領域）が存在しているか否か判定する。モジュール生成部４４によって生成されたバッファモジュール４０は、当初はバッファ４０Ａとして用いるメモリ領域（単位バッファ領域）が確保されておらず、メモリ領域の不足が生ずる度に単位バッファ領域を単位として確保されるので、バッファモジュール４０に最初に書込要求が入力されたときにはバッファ４０Ａとして用いるメモリ領域（単位バッファ領域）が存在しておらず、この判定は否定される。また、後述する処理を経てバッファ４０Ａとして用いる単位バッファ領域が確保された後も、当該単位バッファ領域への画像データの書込に伴って当該単位バッファ領域内の空き領域が単位書込データ量未満になった場合にも上記判定は否定される。

単位書込データ量以上の空き領域が有る単位バッファ領域（単位書込データ量の画像データを書き込み可能な単位バッファ領域）が存在していないと判定された場合は、確保すべきメモリ領域のサイズ（単位バッファ領域のサイズ）をリソース管理部４６Ｂに通知して、自モジュールのバッファ４０Ａとして用いるメモリ領域（画像データの保管に用いる単位バッファ領域）をリソース管理部４６Ｂを介して取得する。そして、先に取得した書込用バッファ領域を書込領域として、当該書込領域の先頭アドレスを書込要求元の画像処理モジュール３８へ通知すると共に、書込対象の画像データを通知した先頭アドレスから順に書き込むよう要請する。これにより、書込要求元の画像処理モジュール３８は、先頭アドレスが通知された書込用バッファ領域に画像データを書き込む（図５(Ｂ)も参照）。

例えば単位バッファ領域のサイズが単位書込データ量の整数倍でない場合、バッファ４０Ａ（単位バッファ領域）への単位書込データ量の画像データの書込が繰り返されることで、例として図５(Ａ)にも示すように、空き領域有りの単位バッファ領域における空き領域のサイズが単位書込データ量よりも小さい状態が生ずる。この場合、単位書込データ量の画像データが書き込まれる領域が複数の単位バッファ領域に跨ることになるが、本実施形態では、バッファ４０Ａとして用いるメモリ領域を単位バッファ領域を単位として確保するので、異なるタイミングで確保した単位バッファ領域が実メモリ（メモリ１４）上で連続する領域であることは保証されない。これに対して本実施形態では、画像処理モジュール３８による画像データの書き込みを、保管用の単位バッファ領域と別に確保した書込用バッファ領域に対して行わせ、図５(Ｃ)に示すように、書込用バッファ領域に一旦書き込まれた画像データを保管用の単一又は複数の単位バッファ領域へ複写するので、画像データが書き込まれる領域が複数の単位バッファ領域に跨るか否かに拘わらず、書込要求元の画像処理モジュール３８への書込領域の通知は、上記のようにその先頭アドレスを通知するのみで済み、画像処理モジュール３８とのインタフェースが簡単になる。

なお、自モジュールがアプリケーション３２によって生成されたバッファモジュール４０である場合、すなわちバッファ４０Ａとして用いるメモリ領域が既に確保されている場合には、既に確保されたメモリ領域のアドレスを画像処理モジュール３８に書込領域のアドレスとして通知し、上記メモリ領域への画像データの書き込みを行わせる。前段の画像処理モジュール３８による書込領域への画像データの書き込みが完了すると、書込用バッファ領域に書き込まれている画像データに属性情報を付加した後に、保管用バッファ領域にそのまま書き込む。なお、空き領域有りの単位バッファ領域における空き領域のサイズが単位書込データ量よりも小さい場合、書込用バッファ領域に書き込まれた画像データは、図５(Ｃ)に示すように、保管用の複数の単位バッファ領域へ分けて書き込まれることになる。

そして、自モジュールの後段の個々の画像処理モジュール３８に対応する有効データポインタのうち有効データの末尾位置を表すポインタを、該ポインタが指し示す有効データの末尾位置が単位書込データ量分だけ後へ移動するように更新する（図５(Ｃ)も参照）と共に、先に書込用バッファ領域として確保したメモリ領域をリソース管理部４６Ｂによって解放させ、データ書込処理を一旦終了する。なお、書込用バッファ領域はバッファモジュール４０の初期化時に確保し、バッファモジュール４０の消去時に解放するように構成してもよい。

続いて、バッファモジュール４０のバッファ制御部４０Ｂによって実行されるデータ読出処理について説明する。

まず、読出用の待ち行列から先頭に登録されている読出要求情報を取り出し、取り出した読出要求情報に含まれる要求元識別情報に基づいて読出要求元の画像処理モジュール３８を認識し、読出要求元の画像処理モジュール３８によって設定された単位読出データ量を認識すると共に、読出要求元の画像処理モジュール３８に対応する有効データポインタに基づいて、読出要求元の画像処理モジュール３８に対応する有効データのバッファ４０Ａ上での先頭位置及び末尾位置を認識する。次に、認識した有効データの先頭位置及び末尾位置に基づいて、読出要求元の画像処理モジュール３８に対応する有効データ（読出要求元の画像処理モジュール３８が読出可能な画像データ）が単位読出データ量以上有るか否か判定する。

読出要求元の画像処理モジュール３８に対応する有効データが単位読出データ量未満であれば、読出要求元の画像処理モジュール３８が読出可能な有効データの末尾が処理対象の画像データの末尾か否か判定する。読出要求元の画像処理モジュール３８に対応する有効データがバッファ４０Ａに単位読出データ量以上記憶されているか、又は、バッファ４０Ａに記憶されている読出要求元の画像処理モジュール３８に対応する有効データが単位読出データ量未満であるものの、当該有効データの末尾が処理対象の画像データの末尾であった場合には、確保すべきメモリ領域のサイズとして読出要求元の画像処理モジュール３８に対応する単位読出データ量をリソース管理部４６Ｂに通知すると共に、読出に用いるメモリ領域（読出用バッファ領域：図６(Ｂ)も参照）の確保をリソース管理部４６Ｂに要求し、リソース管理部４６Ｂを介して読出用バッファ領域を取得する。

次に、読出対象の有効データをバッファ４０Ａから単位読出データ量分だけ読み出して読出用バッファ領域に書き込み、読出用バッファ領域の先頭アドレスを読出領域の先頭アドレスとして読出要求元の画像処理モジュール３８へ通知すると共に、通知した先頭アドレスから画像データを順に読み出すよう要請する。これにより、読出要求元の画像処理モジュール３８は、先頭アドレスが通知された読出領域（読出用バッファ領域）からの画像データの読み出しを行う。なお、読出対象の有効データが処理対象の画像データの末尾に相当するデータであった場合には、画像データの読出要求に際し、読出対象の画像データのサイズと共に、処理対象の画像データの末尾であることも読出要求元の画像処理モジュール３８に通知する。また、自モジュールがアプリケーション３２によって生成されたバッファモジュール４０である場合は、バッファ４０Ａとして用いているメモリ領域（単位バッファ領域の集合体）は連続領域であるので、読出用バッファ領域の確保、読出対象の画像データの読出用バッファ領域への書き込みを省略し、後段の画像処理モジュール３８が単位バッファ領域から直接画像データを読み出すようにしてもよい。

なお、例として図６(Ａ)に示すように、有効データの先頭部分の画像データを記憶している単位バッファ領域に記憶されている有効データのデータ量が単位読出データ量未満であり、読出対象の有効データが複数の単位バッファ領域に跨っている場合には、今回の読出対象の有効データが実メモリ（メモリ１４）上で連続する領域に記憶されているとは限らないが、上記のデータ読出処理では、図６(Ｂ),(Ｃ)に示すように、このような場合にも読出対象の画像データを読出用バッファ領域に一旦書き込んだ後に該読出用バッファ領域から画像データを読み出させるので、読出対象の画像データが複数の単位バッファ領域に跨って記憶されているか否かに拘わらず、読出要求元の画像処理モジュール３８への読出領域の通知は、上記のようにその先頭アドレスを通知するのみで済み、画像処理モジュール３８とのインタフェースが簡単になる。

読出要求元の画像処理モジュール３８による読出領域からの画像データの読み出し完了が通知されると、読出用バッファ領域として確保したメモリ領域の先頭アドレス及びサイズをリソース管理部４６Ｂへ通知して、当該メモリ領域をリソース管理部４６Ｂによって解放させる。この読出用バッファ領域についても、バッファモジュール４０の初期化時に確保しておき、バッファモジュール４０が消去される時に解放するよう構成してもよい。また、読出要求元の画像処理モジュール３８に対応する有効データポインタのうち有効データの先頭位置を表すポインタを、該ポインタが指し示す有効データの先頭位置を単位読出データ量分だけ後へ移動させることで更新する（図６(Ｃ)も参照）。

次に、後段の個々の画像処理モジュール３８に対応する有効データポインタを各々参照し、先のポインタ更新により、バッファ４０Ａを構成する単位バッファ領域の中に、記憶している画像データの後段の各画像処理モジュール３８による読み出しが全て完了した単位バッファ領域、すなわち有効データを記憶していない単位バッファ領域が出現したか否か判定する。判定が否定された場合は、前述した読出用の待ち行列のチェック処理（読出用の待ち行列に読出要求情報が登録されているか否かの判定）を経てデータ読出処理を終了するが、有効データを記憶していない単位バッファ領域が出現した場合は、当該単位バッファ領域をリソース管理部４６Ｂによって解放させた後に読出用の待ち行列のチェック処理を経てデータ読出処理を終了する。

一方、バッファ４０Ａに記憶されており読出要求元の画像処理モジュール３８が読出可能な有効データのデータ量が単位読出データ量未満であり、かつ読出可能な有効データの末尾が処理対象の画像データの末尾でない場合（図３(Ｂ)の(4)で読出可能な有効データ無が検知された場合）には、新たな画像データを要求するデータ要求をワークフロー管理部４６Ａへ出力し（図３(Ｂ)の(5)も参照）、読出用の待ち行列から取り出した読出要求情報を元の待ち行列（の先頭又は末尾）に再度登録した後に、読出用の待ち行列のチェック処理を経てデータ読出処理を終了する。この場合、ワークフロー管理部４６Ａにより、自モジュールの前段の画像処理モジュール３８に処理要求が入力されることになる。これにより、読出可能な有効データのデータ量が単位読出データ量以上になるか、読出可能な有効データの末尾が処理対象の画像データの末尾であることが検知される迄の間、対応する読出要求情報は読出用の待ち行列に保存されると共に定期的に取り出されて要求された処理の実行が繰り返し試行されることになる。

詳細は後述するが、ワークフロー管理部４６Ａはバッファモジュール４０からデータ要求が入力されると、データ要求元のバッファモジュール４０の前段の画像処理モジュール３８に処理要求を入力する（図３(Ｂ)の(6)も参照）。この処理要求の入力をトリガとして前段の画像処理モジュール３８の制御部３８Ｂで行われる処理により、前段の画像処理モジュール３８がバッファモジュール４０へ画像データを書込可能な状態になると、前段の画像処理モジュール３８から書込要求が入力されることで前述したデータ書込処理が行われ、前段の画像処理モジュール３８からバッファモジュール４０のバッファ４０Ａに画像データが書き込まれる（図３(Ｂ)の(7),(8)も参照）。これにより、後段の画像処理モジュール３８によるバッファ４０Ａからの画像データの読出が行われることになる（図３(Ｂ)の(9)も参照）。

なお、上記で説明したデータ読出処理は、並列処理用の画像処理部５０に組み込まれた排他制御機能付きのバッファモジュール４０のバッファ制御部４０Ｂによって行われるデータ読出処理であるが、逐次処理用の画像処理部５０に組み込まれた排他制御機能無しのバッファモジュール４０のバッファ制御部４０Ｂによって行われるデータ読出処理は、排他制御に相当する処理、すなわちバッファ４０Ａが既にアクセス中か否かを判定し、アクセス中でかつ待ち行列に読出要求情報が登録されている場合はタイマをスタートさせ、タイマがタイムアウトするとバッファ４０Ａがアクセス中か否かを再度判定すると共に、単一の読出要求に対する処理が終了した後に待ち行列に読出要求情報が残っているかをチェックする処理を行わない点以外は上記で説明したデータ読出処理と同一である。排他制御機能無しのバッファモジュール４０におけるデータ読出処理は、逐次処理では不要な排他制御に相当する処理が省略されていることで、処理効率を向上させることができる。

続いて、画像処理部５０を構成する個々の画像処理モジュール３８に対してワークフロー管理部４６Ａから処理要求が入力される毎に、個々の画像処理モジュール３８の制御部３８Ｂによって各々行われる画像処理モジュール制御処理（図７）を説明する。

画像処理モジュール制御処理では、まずステップ２１８において、自モジュールの画像処理エンジン３８Ａが行う画像処理の種類や内容等に基づき、自モジュールが使用するメモリのサイズ及び自モジュールが使用する他のリソースの有無を認識する。なお、画像処理モジュール３８が使用するメモリは、画像処理エンジン３８Ａが画像処理を行うために必要なメモリが主であるが、前段のモジュールが画像データ供給部２２である場合や後段のモジュールが画像出力部２４である場合には、前段又は後段のモジュールとの画像データの送受に際して画像データを一時記憶するためのバッファ用のメモリが必要となることもある。また、処理パラメータにテーブル等の情報が含まれている場合には、それを保持するためのメモリ領域が必要となることもある。そして、認識したサイズのメモリ領域の確保をリソース管理部４６Ｂへ要求し、リソース管理部４６Ｂによって確保されたメモリ領域をリソース管理部４６Ｂから取得する。また、自モジュール（の画像処理エンジン３８Ａ）がメモリ以外の他のリソースを必要としていると認識した場合には、上記他のリソースの確保をリソース管理部４６Ｂへ要求し、上記他のリソースをリソース管理部４６Ｂから取得する。

次のステップ２２０では、自モジュールの前段にモジュール（バッファモジュール４０や画像データ供給部２２、画像処理モジュール３８等）が存在している場合に、当該前段のモジュールに対してデータ（画像データ又は解析等の画像処理の処理結果）を要求する。次のステップ２２２では前段のモジュールからデータが取得可能であるかを判定し、ステップ２２２の判定が否定された場合はステップ２２４で全体処理終了が通知されたか否かを判定する。ステップ２２４の判定が否定された場合はステップ２２２に戻り、前段のモジュールからデータを取得可能となる迄ステップ２２２，２２４を繰り返す。ステップ２２２の判定が肯定された場合には、ステップ２２６で前段のモジュールからデータを取得し、取得したデータをステップ２１８で取得したメモリ領域のうちデータの一時保管用のメモリ領域に書き込むデータ取得処理を行う。

ここで、自モジュールの前段のモジュールがバッファモジュール４０である場合には、先のステップ２２０でデータを要求すると（読出要求）、読出可能な有効データがバッファモジュール４０のバッファ４０Ａに単位読出データ量以上記憶されているか、読出可能な有効データの末尾が処理対象の画像データの末尾に一致している状態であれば直ちに、当該状態でなければ、当該バッファモジュール４０の前段の画像処理モジュール３８が当該バッファモジュール４０のバッファ４０Ａに画像データを書き込んだことに伴って前記状態へ変化した後に、バッファモジュール４０から読出領域の先頭アドレスが通知されて画像データの読出が要請される。これにより、ステップ２２２の判定が肯定されてステップ２２６へ移行し、前段のバッファモジュール４０より先頭アドレスが通知された読出領域から単位読出データ量（又はそれ未満のデータ量）の画像データを読み出し、一時保管用のメモリ領域に書き込むデータ取得処理を行う（図３(Ａ)の(3)も参照）。

また、自モジュールの前段のモジュールが画像データ供給部２２であれば、先のステップ２２０でデータ要求を出力すると画像データを取得可能な状態であることが前段の画像データ供給部２２から直ちに通知されることで、ステップ２２２の判定が肯定されてステップ２２６へ移行し、前段の画像データ供給部２２から単位読出データ量の画像データを取得し、一時保管用のメモリ領域に書き込む画像データ取得処理を行う。また、自モジュールの前段のモジュールが画像処理モジュール３８であれば、先のステップ２２０でデータ要求（処理要求）を出力すると、前段の画像処理モジュール３８が画像処理を実行可能な状態であれば書込要求が入力されることでデータ（画像処理結果）を取得可能な状態であることが通知されるので、ステップ２２２の判定が肯定されてステップ２２６へ移行し、前段の画像処理モジュール３８によってデータを書き込ませる一時保管用のメモリ領域のアドレスを通知して書込を要請することで、前段の画像処理モジュール３８から出力されるデータを一時保管用のメモリ領域に書き込ませるデータ取得処理を行う。

次のステップ２２８では、自モジュールの前段に複数のモジュールが連結されているか否か判定する。判定が否定された場合には何ら処理を行うことなくステップ２３２へ移行するが、判定が肯定された場合はステップ２３０へ移行し、前段に連結されている全てのモジュールからデータを取得したか否か判定する。ステップ２３０の判定が否定された場合はステップ２２０に戻り、ステップ２３０の判定が肯定される迄ステップ２２０〜ステップ２３０を繰り返す。前段のモジュールから取得すべきデータが全て揃うと、ステップ２２８の判定が否定されるかステップ２３０の判定が肯定されてステップ２３２へ移行する。

次のステップ２３２では自モジュールの後段のモジュールに対してデータ出力用の領域を要求し、ステップ２３２でデータ出力領域が取得できる迄（データ出力領域の先頭アドレスが通知される迄）繰り返し判定を行う。なお、後段のモジュールがバッファモジュール４０であれば、上記のデータ出力用領域の要求は当該バッファモジュール４０に対して書込要求を出力することによって成される。データ出力領域（後段のモジュールがバッファモジュール４０であれば当該バッファモジュール４０から先頭アドレスが通知された書込領域）が取得できたら（図３(Ａ)の(4)も参照）、次のステップ２３６において、先のデータ取得処理で取得したデータ、後段のモジュールから取得したデータ出力領域（の先頭アドレス）、先のステップ２１８で取得したメモリ領域のうち画像処理エンジンによる画像処理用のメモリ領域（の先頭アドレス及びサイズ）を画像処理エンジン３８Ａに入力し、入力したデータに対し画像処理用のメモリ領域を使用して所定の画像処理を行わせる（図３(Ａ)の(5)も参照）と共に、処理後のデータをデータ出力領域に書き込ませる（図３(Ａ)の(6)も参照）。画像処理エンジン３８Ａへの単位読出データ量のデータの入力が完了し、画像処理エンジン３８Ａから出力されたデータがデータ出力領域に全て書き込まれると、次のステップ２３８で出力が完了したことを後段のモジュールに通知する。

上記のステップ２２０〜ステップ２３８により画像処理モジュール３８における単位処理データ量のデータに対する処理（単位処理）が完了するが、ワークフロー管理部４６Ａから画像処理モジュール３８に入力される処理要求では、ワークフロー管理部４６Ａによって単位処理の実行回数が指定されることがある。このためステップ２４０では、単位処理の実行回数が、入力された処理要求によって指示された実行回数に達したか否か判定する。指示された単位処理の実行回数が１回の場合、この判定は無条件に肯定されるが、指示された単位処理の実行回数が２回以上の場合はステップ２２０に戻り、ステップ２４０の判定が肯定される迄ステップ２２０〜ステップ２４０を繰り返す。ステップ２４０の判定が肯定されるとステップ２４２へ移行し、ワークフロー管理部４６Ａへ処理完了通知を出力することで、入力された処理要求に対応する処理が完了したことをワークフロー管理部４６Ａへ通知し、画像処理モジュール制御処理を終了する。

また、ワークフロー管理部４６Ａから処理要求が入力される毎に上述した処理が繰り返されることで処理対象の画像データを末尾まで処理すると、前段のモジュールから処理対象の画像データの終了が通知されることで、ステップ２２４の判定が肯定されてステップ２４４へ移行し、処理対象の画像データ（なお、処理対象の画像データは１頁分の画像データであることが多いが、複数頁分の画像データであってもよい）に対する処理が終了したことを意味する全体処理終了通知をワークフロー管理部４６Ａ及び後段のモジュールへ各々出力する。また、次のステップ２４６では取得していた全てのリソースの解放を要求して自モジュールを消去する処理を行い、画像処理モジュール制御処理を終了する。

ワークフロー管理部４６Ａは、画像処理の実行が指示されると、図８(Ａ)に示すブロック単位制御処理１を行い、バッファモジュール４０からデータ要求が入力される毎に図８(Ｂ)に示すブロック単位制御処理２を行い、画像処理モジュール３８から処理完了通知が入力される毎に図８(Ｃ)に示すブロック単位制御処理３を行い、画像処理モジュール３８から全体処理終了通知が入力される毎に図８(Ｄ)に示すブロック単位制御処理４を行う。

先にも述べたように、ブロック単位制御処理１では、ワークフロー管理部４６Ａによる画像処理部５０の個々の画像処理モジュール３８への処理要求の入力では、単位処理の実行回数を指定可能とされているが、ステップ５００では、１回の処理要求で指定する単位処理の実行回数を個々の画像処理モジュール３８毎に決定する。この処理要求１回当りの単位処理の実行回数は、例えば処理対象の画像データ全体を処理する間の個々の画像処理モジュール３８への処理要求の入力回数が平均化されるように定めることができるが、他の基準に従って定めてもよい。そして次のステップ５０２において、画像処理部５０のうち最後段の画像処理モジュール３８に処理要求を入力し（図９の(1)も参照）、ブロック単位制御処理１を終了する。

ここで、図９に示す画像処理部５０において、ワークフロー管理部４６Ａから最後段の画像処理モジュール３８₄に処理要求が入力されると、画像処理モジュール３８₄の制御部３８Ｂは前段のバッファモジュール４０₃に読出要求を入力する（図９の(2)参照）。このとき、バッファモジュール４０₃のバッファ４０Ａには画像処理モジュール３８₄が読出可能な有効データ（画像データ）が記憶されていないので、バッファモジュール４０₃のバッファ制御部４０Ｂはワークフロー管理部４６Ａにデータ要求を入力する（図９の(3)参照）。

ワークフロー管理部４６Ａは、バッファモジュール４０からデータ要求が入力される毎に、図８(Ｂ)に示すブロック単位制御処理２を行う。このブロック単位制御処理２では、ステップ５０４において、データ要求入力元のバッファモジュール４０（ここではバッファモジュール４０₃）の前段の画像処理モジュール３８（ここでは画像処理モジュール３８₃）を認識し、認識した前段の画像処理モジュール３８に処理要求を入力（図９の(4)参照）して処理を終了する。

画像処理モジュール３８₃の制御部３８Ｂは、処理要求が入力されると前段のバッファモジュール４０₂に読出要求を入力し（図９の(5)参照）、バッファモジュール４０₂のバッファ４０Ａにも読出可能な画像データが記憶されていないので、バッファモジュール４０₂のバッファ制御部４０Ｂはワークフロー管理部４６Ａにデータ要求を入力する（図９の(6)参照）。ワークフロー管理部４６Ａは、バッファモジュール４０₂からデータ要求が入力された場合も、前述のブロック単位制御処理２を再度行うことで、その前段の画像処理モジュール３８₂に処理要求を入力し（図９の(7)参照）、画像処理モジュール３８₃の制御部３８Ｂは前段のバッファモジュール４０₁に読出要求を入力する（図９の(8)参照）。また、バッファモジュール４０₁のバッファ４０Ａにも読出可能な画像データが記憶されていないので、バッファモジュール４０₁のバッファ制御部４０Ｂもワークフロー管理部４６Ａにデータ要求を入力し（図９の(9)参照）。ワークフロー管理部４６Ａは、バッファモジュール４０₁からデータ要求が入力された場合も、前述のブロック単位制御処理２を再度行うことで、その前段の画像処理モジュール３８₁に処理要求を入力する（図９の(10)参照）。

ここで、画像処理モジュール３８₁の前段のモジュールは画像データ供給部２２であるので、画像処理モジュール３８₁の制御部３８Ｂは、画像データ供給部２２にデータ要求を入力することで画像データ供給部２２から単位読出データ量の画像データを取得し（図９の(11)参照）、取得した画像データに対して画像処理エンジン３８Ａが画像処理を行うことで得られた画像データを、後段のバッファモジュール４０₁のバッファ４０Ａに書き込む（図９の(12)参照）。

また、バッファモジュール４０₁のバッファ制御部４０Ｂは、後段の画像処理モジュール３８₂が読出可能な単位読出データ量以上の有効データが書き込まれると画像処理モジュール３８₂に対して読出を要請し、これに伴い画像処理モジュール３８₂の制御部３８Ｂは、バッファモジュール４０₁のバッファ４０Ａから単位読出データ量の画像データを読み出し（図９の(13)参照）、取得した画像データに対して画像処理エンジン３８Ａが画像処理を行うことで得られた画像データを、後段のバッファモジュール４０₂のバッファ４０Ａに書き込む（図９の(14)参照）。バッファモジュール４０₂のバッファ制御部４０Ｂは、後段の画像処理モジュール３８₃が読出可能な単位読出データ量以上の有効データが書き込まれると画像処理モジュール３８₃へ読出を要請し、画像処理モジュール３８₃の制御部３８Ｂは、バッファモジュール４０₂のバッファ４０Ａから単位読出データ量の画像データを読み出し（図９の(15)参照）、取得した画像データに対して画像処理エンジン３８Ａが画像処理を行うことで得られた画像データを、後段のバッファモジュール４０₃のバッファ４０Ａに書き込む（図９の(16)参照）。

更に、バッファモジュール４０₃のバッファ制御部４０Ｂは、後段の画像処理モジュール３８₄が読出可能な単位読出データ量以上の有効データが書き込まれると画像処理モジュール３８₄に対して読出を要請し、これに伴い画像処理モジュール３８₄の制御部３８Ｂは、バッファモジュール４０₃のバッファ４０Ａから単位読出データ量の画像データを読み出し（図９の(17)参照）、取得した画像データに対して画像処理エンジン３８Ａが画像処理を行うことで得られた画像データを、後段のモジュールである画像出力部２４へ出力する（図９の(18)参照）。

また、個々の画像処理モジュール３８の制御部３８Ｂは、後段のバッファモジュール４０のバッファ４０Ａへの画像データの書き込みを完了すると、ワークフロー管理部４６Ａへ処理完了通知を入力する。ワークフロー管理部４６Ａは、画像処理モジュール３８から処理完了通知が入力される毎に、図８(Ｃ)に示すブロック単位制御処理３を行う。このブロック単位制御処理３では、まずステップ５０６において、処理完了通知元の画像処理モジュール３８が最後段の画像処理モジュール３８か否か判定する。判定が否定された場合は何ら処理を行うことなくブロック単位制御処理３を終了する。また、判定が肯定された場合はステップ５０８へ移行し、処理完了通知元の画像処理モジュール３８に処理要求を再度入力して処理を終了する。

また、ワークフロー管理部４６Ａは、画像処理モジュール３８から全体処理終了通知が入力される毎に、図１０(Ｄ)に示すブロック単位制御処理４を行う。このブロック単位制御処理４では、ステップ５１０において、全体処理終了通知入力元の画像処理モジュール３８が最後段の画像処理モジュール３８か否か判定する。判定が否定された場合は何ら処理を行うことなく処理を終了するが、処理対象の画像データに対して必要な画像処理が行われた画像データが画像出力部２４へ全て出力されることで、最後段の画像処理モジュール３８から全体処理終了通知が入力された場合には、ステップ５１０の判定が肯定されてステップ５１２へ移行し、アプリケーション３２に対して画像処理の完了を通知し（図５のステップ１７８も参照）、ブロック単位制御処理を終了する。そして、画像処理の完了が通知されたアプリケーション３２は、ユーザに対して画像処理の完了を通知する（図５のステップ１８０も参照）。

このように、ブロック単位処理では、最後段の画像処理モジュール３８に入力された処理要求がより前段の画像処理モジュール３８へ遡り、最前段の画像処理モジュール３８に到達すると、最前段の画像処理モジュール３８で画像処理が行われて後段のバッファモジュール４０にデータが書き込まれ、それでデータが足りるようならば処理が後段のモジュールへ進んで行くという流れで一連の画像処理が行われる。

なお、上記では画像処理部の個々の画像処理モジュール３８が、画像１面分よりも小さいデータ量を単位として後段へ画像データを引き渡しながら画像処理を行うように動作させることで、画像処理部が全体としてブロック単位処理を行うようにワークフロー管理部４６Ａが制御する態様を説明したが、これに限定されるものではなく、画像処理部の個々の画像処理モジュール３８が、前段の画像処理モジュール３８が画像１面分の画像データに対する画像処理を完了した後に、後段の画像処理モジュール３８が画像１面分の画像データに対する画像処理を行うように動作させることで、画像処理部が全体として面単位処理を行うことも可能なように、ワークフロー管理部４６Ａを構成してもよい。

また、上記のようにワークフロー管理部４６Ａが制御を行っている間、処理管理部４６のエラー管理部４６Ｃも動作している。エラー管理部４６Ｃは、画像処理部５０が画像処理を実行している途中でエラーが発生した場合に、発生したエラーの種別・発生箇所等のエラー情報を取得し、画像処理プログラム群３４がインストールされたコンピュータ１０が組み込まれている機器の種別や構成等を表す装置環境情報を記憶部２０等から取得し、取得した装置環境情報が表す装置環境に応じたエラー通知方法を判断し、判断したエラー通知方法でエラーの発生を通知する処理を行う。

以上が本実施形態における全体的な構成及び処理である。以下、上記ステップ１６６での画像処理の実行順序に関する判定の詳細について説明する。具体的には、複数の画像処理モジュール（画像処理手段）を、複数のグループに区分するための区分数を取得し（区分数取得手段）、取得された区分数及び画像処理モジュールが実行させる画像処理の順序に基づき、各画像処理モジュールを各グループに属させることにより複数の画像処理モジュールを区分する（区分手段）処理について説明する。

最初に、区分する処理を実行するための構成について、図１０を用いて説明する。図１０は、図１で説明した処理管理部４６の詳細な構成を示す図である。同図に示されるように、ワークフロー管理部４６Ａには、並列バッファ生成部６０Ａ、逐次バッファ生成部６０Ｂ、及び処理コスト取得部６０Ｃが設けられる。ここで、並列バッファとは、前後に接続された画像処理モジュールからの要求に対する処理を排他制御して実行するバッファモジュールを示している。並列バッファ生成部６０Ａは、このバッファモジュールを生成するものである。なお、画像データの記憶に関する要求である画像処理モジュールからの要求とは、図３で説明したように画像データ要求や画像データ書き込み通知であり、これらの要求に対して実行される並列バッファによる処理が排他記憶処理ステップとなる。

また、上記逐次バッファは、画像処理モジュールからの要求に対する処理を排他制御せずに逐次実行するバッファモジュールである。逐次バッファ生成部６０Ｂは、このバッファモジュールを生成するものである。並列バッファと同様に、画像処理モジュールからの記憶に関する要求とは、図３で説明したように画像データ要求や画像データ書き込み通知であり、これらの要求に対して実行される逐次バッファによる処理が逐次記憶処理ステップとなる。

処理コスト取得部６０Ｃは、画像処理モジュールが処理の実行に要する処理量（処理コスト）を後述するモジュールテーブルから取得するものである。

また、エラー管理部４６Ｃに設けられた状態情報管理部６２は、画像処理モジュールの状態を管理し、エラーが発生した際に対処するための処理を実行するものである。

次に、図１１を用いて、上述したモジュールテーブルについて説明する。モジュールテーブルは、同図に示されるように、モジュールＩＤ、前段処理モジュールＩＤ、全面処理フラグ、及び処理コストを示すテーブルである。

モジュールＩＤは、各画像処理モジュールを識別するための１６進数で表現された識別情報である。前段処理モジュールＩＤとは、その画像処理モジュールの前段に接続されている画像処理モジュールのＩＤであり、もしその画像処理モジュールが先頭の場合には0xffffとなっている。全面処理フラグとは、他の画像処理モジュールによる画像処理が全て終了するなどで入力画像全体が揃わなければ実行できない場合に１、そうでない場合に０となるフラグであり、例えば画像の回転処理のように入力画像全体が揃わないと処理できない場合に１となる。

同図に示されるモジュールＩＤが0x0100の画像処理モジュールは、全面処理フラグが１なので、モジュールＩＤが0x0010及び0x00afの画像処理モジュールによる画像処理が終了しなければ実行できない画像処理モジュールである。

処理コストは、同図に示されるように例えばＣＰＵ処理時間で示される。このＣＰＵ処理時間は、各画像処理モジュールを予め実行させることで、同図に示されるように予め定めておくことができる。しかし、入力画像サイズや処理パラメータによって処理コストが変動する場合がある。そこで、各処理について、入力画像サイズなど、処理に係るパラメータの組を複数与えることで処理コストを求め、そこから予め定められた計算式を作って計算するようにしてもよい。

例えば畳み込みフィルタ処理の場合、処理コストは入力画像サイズとフィルタ係数サイズ（３×３とか５×５など）に大きく依存する。そこで、図１２に示されるように、入力画像サイズを２種類、フィルタの係数サイズを２種類割り振り、その処理コストを求め、線形補間で間を埋めるようにして予測式を求めるようにしても良い。

なお、画像属性を固定（８ビット３チャンネルなど）としても良いが、それ以外の属性（１６ビット３チャンネル、８ビット１チャンネルなど）でも処理可能な場合には、属性毎に予測式を作るとより正確な処理コストを取得することができる。

更に、例えば拡縮処理の場合、処理コストは入力画像サイズと倍率（＝出力画像サイズ）に大きく依存する。そこで入力画像サイズを２種類、倍率を２種類割り振り、その処理コストを求め、線形補間で間を埋めるようにして予測式を求めるようにしても良い。

なお、ここでも画像属性が異なるものについては属性別の予測式が必要であり、また拡縮の補間方式（最近傍法、線形補間法、投影法など）が異なる場合には、方式別に予測式を作るとより正確な処理コストを取得することができる。

なお、上述した例のように２種類ずつ値を割り振るようにしても良いが、３種類以上割り振ることで近似直線を求めたり、或いはＮ次関数で近似するようにしても良い。また影響を与える処理パラメータは１つとは限らないので、複数のパラメータを用いても良いが、処理コストが必要以上に大きくなる可能性のある厳密な予測式を用いては、そのための処理に時間がかかり現実的ではないので、主に影響を与えるもの（処理の内容や、実装方法に依存する）に絞って、簡易な予測式を使う方が好ましい。

また、この処理コストは、同図に示されるような処理時間などの具体的な値である必要はない。他モジュールの結果と比較できれば十分なので、適当な値を１とした比率などで構わない。

以下、フローチャートを用いた各処理についての説明に先立ち、グループとスレッドとの関係について説明する。なお、以下の説明では、グループ、画像処理モジュール、及び後述する演算リソースの個数を、「１つ」や「２つ」など「つ」を用いて数えることがある。

本実施形態におけるグループとは、スレッドとして処理を実行させるための１つ以上からなる画像処理モジュールの集合を示している。

従って、上記グループに属する全ての画像処理モジュールが実行する画像処理は、１つのスレッドとしての処理となる。例えば、図１３には、４つの画像処理モジュールが４つのグループに区分されたスレッド構成が示されている。この場合、１つの画像処理モジュールを１つのスレッドとして処理を実行することとなる。

同図に示されるように、各並列バッファは、異なるグループに属する画像処理モジュールから画像データの記憶に関する要求をされる。

次に、複数の画像処理モジュールが１つのグループに属する場合のスレッド構成例を、図１４を用いて説明する。

同図には、４つの画像処理モジュールが２つのグループに区分された場合のスレッド構成例が示されている。具体的には、スレッドＡは画像処理モジュールＡ、Ｂで構成され、スレッドＢは、画像処理モジュールＣ、Ｄで構成されている。

画像処理モジュールＡと画像処理モジュールＢは、同じスレッドＡにより逐次的に処理が行われるため、同時にバッファＡに要求を行うことはなくバッファＡは排他制御を行わない逐次バッファで動作可能である。一方、画像処理モジュールＢと画像処理モジュールＣは、異なるスレッドＡ，Ｂで並列に処理が行われるため、バッファＢはスレッドＡとスレッドＢとから同時に要求される可能性があり、そのため排他制御を行いながら動作する並列バッファである必要がある。

図１３で示したバッファと同様に、異なるグループに属する画像処理モジュールＢ、Ｃから画像データの記憶に関する要求をされるバッファＢは、並列バッファであり、同一のグループに属する画像処理モジュールから画像データの記憶に関する要求をされるバッファＡ及びバッファＣは、逐次バッファである。

このように、本実施形態では、同一のグループに属する画像処理モジュールから画像データの記憶に関する要求をされるバッファは逐次バッファであり、異なるグループに属する画像処理モジュールから画像データの記憶に関する要求をされるバッファは並列バッファである。

以下フローチャートを用いて複数の画像処理モジュールをグループに区分する処理について説明する。

図１５に示されるフローチャートは、複数の画像処理モジュールをグループに区分する基本的な処理を示している。まず、同図のステップ１０１で、複数の画像処理モジュールを、複数のグループに区分するための区分数を取得する区分数取得処理が実行される。

ステップ１０２では、取得された区分数及び画像処理モジュールが実行させる画像処理の順序に基づき、各画像処理モジュールを各グループに属させることにより複数の画像処理モジュールを区分する区分処理が実行される。

まず、区分数取得処理について説明する。図１６に示されるフローチャートは、区分数取得処理（その１）を示している。この処理は、ステップ２０１で演算リソース数を区分数とする処理である。この演算リソース数は、ＯＳが提供する関数などにより取得することができる。

ここで、演算リソースとは、画像処理に係る演算を実行するもので、特に本実施形態における演算リソースは画像処理に係る演算を並列して実行可能な演算手段であり、画像処理モジュールは、画像データに対して演算リソースにより画像処理を実行する。

具体的に、演算リソースはＣＰＵコアやＤＳＰ（Digital Signal Processor）などで、画像処理に係る演算を並列して実行可能なリソースを示している。近年のＣＰＵは、ハイパースレッド機能を有するものや、コアを２段重ねたものなどがあるため、見かけ上のＣＰＵの数と演算リソース数は異なることがある。

例えば、並列処理可能なスレッドが１つのコアにつき１つで、コアの数が２つのＣＰＵの場合、演算リソース数は２つとなる。また、並列処理可能なスレッドが１つのコアにつき２つで、コアの数が２つのＣＰＵの場合、演算リソース数は４つとなる。

上記ステップ２０１のように、単純に演算リソース数をグループ数とした場合の例を、図１７に示す。図１７は、区分例を示す図であり、同図の場合、６つの画像処理モジュールを２つのグループに区分した例を示している。

このように単純に区分した場合でも、連続したモジュール間は逐次バッファで接続され、グループ間は並列バッファで接続されるので、逐次バッファ部分で余分な排他制御をする必要がなく並列化効率を高めることができる。

なお、画像処理専用機のように比較的他のスレッドが動かない場合には、単純に演算リソース数としても良いが、汎用パーソナルコンピュータのように他のプロセスが演算リソースを使っている場合には、画像処理と競合することにより処理効率が落ちる可能性がある。

そのため、図１８に示される区分数取得処理（その２）に示されるように、ステップ３０１で、演算リソースのうち、使用率が所定の値以下となっている演算リソースの数を区分数とすれば処理効率が落ちる可能性を回避できる。この場合の所定の値として例えばＣＰＵ使用率２０％などが挙げられる。

以上が区分数取得処理の詳細である。次に、区分処理（ステップ１０２）の詳細について説明する。

図１９は、区分処理（その１）を示すフローチャートである。まず、ステップ４０１で、（画像処理モジュール数Ｍ）／（区分数Ｎ）を求め１グループあたりの画像処理モジュール数Ｌを取得する。区分数Ｎは上述した区分数取得処理により取得されている。次のステップ４０２で、Ｌ個の画像処理モジュールからなるグループをＮ個つくることで画像処理モジュールをグループに区分する。なお、上記分数が整数で表現できない場合、ＬをＬの小数点以下を切り捨て、整数として上記処理を実行し、この処理によりグループに属されなかった画像処理モジュールを適当なグループに属させる。

次に、前段処理が存在する画像処理モジュールが含まれる場合の区分処理を、図２０を用いて説明する。上述したように前段処理が必要な画像処理モジュールがあると、その画像処理モジュールを含めてそれよりも後ろにあるモジュールは全て、スレッドを割り当てても処理を始める事ができない。そこでまずステップ５０１で、入力画像全面が揃わないと開始できない画像処理モジュール及びその画像処理モジュール実行後に実行される画像処理モジュール数を除いた画像処理モジュール数Ｍを取得する。この処理は、上述したモジュールテーブルの全面フラグを参照することにより実行される。以降のステップ５０２、５０３は、上述したステップ４０１、４０２の処理であり、これらが実行される。

この場合、例えば図２１に示されるように、前段処理が存在する回転処理モジュールよりも前方の画像処理モジュールだけを対象に、まずグループに区分して（グループＡ、Ｂ）並列に処理し、それが終わったら回転処理モジュールを含む残りの画像処理モジュールに対して改めてグループに区分して（グループＡ’、Ｂ’、Ｃ’）処理を継続する。尚、ここでは区分数が３であるとして説明を行っているが、回転処理モジュールよりも前には画像処理モジュールが２つしかないので、その際には単純に各画像処理モジュールをグループに分けるだけで良い。

次に、処理コストを考慮した区分処理（その３）を、図２２のフローチャートを用いて説明する。まずステップ６０１で、Ｓａに処理コストの総和を代入する。この処理は、上述したモジュールテーブルの処理コストを参照することにより実行される。次のステップ６０２で、画像処理モジュールを特定するための変数ｋ、ｊに０が代入される。

次のステップ６０３で、ＴｈにＳａ／Ｎ、Ｓに０が代入される。ここで、Ｎはグループ数を示し、Ｔｈは、１グループあたりの処理コストの閾値を示している。また、Ｓは処理コストの計算に用いられる変数である。

次に、ステップ６０４で、ＳにＳ＋Ｃ［ｋ］が代入される。ここでＣ［ｋ］は、ｋ番目の画像処理モジュールの処理コストを示す配列である。

次に、ステップ６０５で、Ｓが閾値Ｔｈ以上か否か判断される。否定判断した場合には、Ｓが１グループあたりの処理コストになっていないため、ステップ６０６でｋが１つ増分され、再びステップ６０４の処理が実行される。

一方、ステップ６０５で肯定判断した場合には、Ｓが１グループあたりの処理コストになったため、ステップ６０７で、ｊからｋに対応する画像処理モジュールを１つのグループとする。

次のステップ６０８で、ｋにｋ＋１、ｊにｋ、ＳａにＳａ−Ｓ、ＮにＮ−１がそれぞれ代入される。次のステップ６０８で、Ｓａが０、すなわち、処理コストが０か否かが判断される。処理コストが０である場合は、画像処理モジュールをグループに区分する処理が終了したことを示しているので、処理を終了する。一方、処理コストが０でない場合は、画像処理モジュールをグループに区分する処理が終了していないことを示しているので、再びステップ６０３の処理が実行される。

なお、上記処理では閾値Ｔｈを、Ｓａ／Ｎで求めたが、先頭から順にグループ化していくと多少前方の方が重めになる場合が多い。それを軽減するために、Ｔｈ=(Ｓａ／Ｎ)×０．９などとして調整したり、先頭グループは０．９でそれ以降は少しずつ１．０に近づけるなどの方法を取る事も考えられる。

また、ＤＡＧのような構造に対して上記処理を実行する場合には、前の処理が遅れると後ろに律速となるので、やや前を軽めの処理を実行する画像処理モジュールにした方が良い。そこでグループ分けを後ろの画像処理モジュールから逆に上記区分処理（その３）で行うことも考えられる。なお、最も均等に近い解は動的計画法など使えば求まるが、一般に画像処理モジュールの接続数はあまり多くないため均等には出来ず、またこの処理でかえってトータルとして処理時間が長くなる可能性がある。

上記処理による区分例を図２３、図２４に示す。図２３は６つの画像処理モジュールがＴｈを８０として区分された例を示している。同図に記載されている括弧内の数字が処理コストを示している。

グループＡに属する画像処理モジュール１の処理コストは３０であり、画像処理モジュール２の処理コストは５０である。従って、グループＡ全体での処理コストは８０となっている。また、グループＢに属する画像処理モジュール３の処理コストは１０であり、画像処理モジュール４の処理コストは３０であり、画像処理モジュール５の処理コストは２０であり、画像処理モジュール６の処理コストは２０である。従って、グループＢ全体での処理コストは８０となっている。

また、図２４は６つの画像処理モジュールがＴｈを３０として区分された例を示している。

グループＡに属する画像処理モジュール１の処理コストは１０であり、画像処理モジュール２の処理コストは２０である。従って、グループＡ全体での処理コストは３０となっている。また、グループＢに属する画像処理モジュール３の処理コストは３０であるので、グループＢ全体での処理コストは３０となっている。

さらに、グループＣに属する画像処理モジュール４の処理コストは１０であり、画像処理モジュール５の処理コストは１０であり、画像処理モジュール６の処理コストは１０である。従って、グループＣ全体での処理コストは３０となっている。

このように、各画像処理モジュールの処理コストまたはその比率を元に、各グループの処理コストが均等に近くなるようにグループ分けを行う。

このように処理コストが均等に近くなるように区分することにより、単純に区分した場合に比較してより効率的な並列処理を実現することができる。例えば図１７におけるグループＡが処理コスト全体の９０％を占めている場合、グループＢはグループＡの結果を待って処理が進むので、結果として並列化によって効率は（１００/９０＝１．１１倍）しか向上しないが、上記処理のように処理コストが各グループで略等しくなるように区分することにより、効率的な並列処理が実行可能となる。

以上、区分数取得処理及び区分処理について説明したが、これらの処理によれば、モジュールテーブル（図１１参照）が前段処理のモジュールＩＤを有するため、モジュールテーブルに示されるモジュールＩＤが0x0100のような２つの前段処理が存在するような画像処理モジュールが存在する場合は、図２５に示されるようなグループに区分される。この場合、画像処理モジュール６の前段処理は、画像処理モジュール４と画像処理モジュール５となっている。

以上説明した上記実施形態では、処理管理部４６のプログラムが、記憶部２０に固定的に記憶されている場合を説明したが、これに限定されず、コンピュータ１０の外部から、例えばＵＳＢメモリ等の外部記憶装置や通信回線等を介して、新たな処理管理部（並列処理管理部や逐次処理管理部）のプログラムを追加したり、既登録の処理管理部のプログラムを上書き更新可能としてもよい。ＣＰＵ１２の新たなアーキテクチャの採用等に応じて、最適な並列化の手法が変わる事も考えられるし、また最適な処理管理部のプログラムを当初より提供することが困難な場合や、処理管理部のアルゴリズムとしてより高効率のアルゴリズムが今後新たに開発される可能性もある。このような場合を考慮し、記憶部２０の処理管理部ライブラリ４７は、処理管理部のプログラムの新規追加や上書き更新が可能に構成することが望ましい。上記事項は請求項１０記載の発明に対応している。

また、上記では本発明に係る画像処理プログラムに対応する画像処理プログラム群３４が記憶部２０に予め記憶（インストール）されている態様を説明したが、本発明に係る画像処理プログラムは、ＣＤ−ＲＯＭやＤＶＤ−ＲＯＭ等の記録媒体に記録されている形態で提供することも可能である。

本実施形態に係るコンピュータ（画像処理装置）の概略構成を示すブロック図である。画像処理部の構成例を示すブロック図である。 (Ａ)は画像処理モジュール、(Ｂ)はバッファモジュールの概略構成及び実行される処理を各々示すブロック図である。画像処理部の構築から画像処理の実行に至る一連の処理を説明するためのシーケンス図である。書込対象の画像データが複数の保管用単位バッファ領域に跨る場合を説明する概略図である。読出対象の画像データが複数の保管用単位バッファ領域に跨っていた場合を説明する概略図である。画像処理モジュールの制御部によって実行される画像処理モジュール制御処理の内容を示すフローチャートである。処理管理部のワークフロー管理部によって実行されるブロック単位制御処理の内容を示すフローチャートである。画像処理部における画像処理の流れを説明する概略図である。処理管理部の詳細な構成を示す図である。モジュールテーブルの一例を示す図である。処理コストを求めるためのグラフの一例を示す図である。４つのモジュールが４つのグループに区分されたスレッド構成例を示す図である。４つのモジュールが２つのグループに区分されたスレッド構成例を示す図である。複数の画像処理モジュールをグループに区分する基本的な処理を示すフローチャートである。区分数取得処理を示すフローチャートである（その１）。区分例を示す図である（その１）。区分数取得処理を示すフローチャートである（その２）。区分処理を示すフローチャートである（その１）。区分処理を示すフローチャートである（その２）。区分例を示す図である（その２）。区分処理を示すフローチャートである（その３）。区分例を示す図である（その３）。区分例を示す図である（その４）。区分例を示す図である（その５）。

符号の説明

１０コンピュータ
１２ＣＰＵ
２０記憶部
２２画像データ供給部
２４画像出力部
３４画像処理プログラム群
３８画像処理モジュール
４０バッファモジュール
４６処理管理部
６０Ａ並列バッファ生成部
６０Ｂ逐次バッファ生成部
６０Ｃ処理コスト取得部

Claims

画像処理に係る演算を実行する複数の演算手段と、
画像情報に対して前記演算手段により画像処理を実行させる複数の画像処理手段と、
前記複数の画像処理手段を、複数のグループに区分するための区分数を取得する区分数取得手段と、
前記区分数取得手段により取得された区分数及び画像処理手段が実行させる画像処理の順序に基づき、各画像処理手段を各グループに属させることにより前記複数の画像処理手段を区分する区分手段と、
同一のグループに属する画像処理手段から画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御せずに逐次実行する逐次記憶処理手段と、
異なるグループに属する画像処理手段から画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御して実行する排他記憶処理手段と、
を有する画像処理装置。
前記区分数取得手段は、前記画像処理に係る演算を並列して実行可能な前記演算手段の個数以下の値を前記区分数として取得する請求項１に記載の画像処理装置。
前記区分数取得手段は、使用率が所定の値以下の前記演算手段の個数以下の値を前記区分数として取得する請求項１又は請求項２に記載の画像処理装置。
前記区分手段は、前記画像処理手段のうち、他の画像処理手段による画像処理が終了しなければ実行できない画像処理手段を除いた前記複数の画像処理手段を区分する請求項１から請求項３のいずれか１項に記載の画像処理装置。
前記区分手段は、同一のグループに属する前記画像処理手段が画像処理の実行に要する処理量の総和が、各グループ毎で略等しくなるように前記複数の画像処理手段を区分する請求項１から請求項４のいずれか１項に記載の画像処理装置。
前記処理量は、各画像処理手段が実行する処理毎に予め定められているか、又は予め定められた計算により定められる請求項５のいずれか１項に記載の画像処理装置。
画像処理に係る演算を実行する複数の演算手段により画像情報に対して画像処理を実行させる複数の画像処理手段を、複数のグループに区分するための区分数を取得する区分数取得ステップと、
前記区分数取得ステップにより取得された区分数及び画像処理手段が実行させる画像処理の順序に基づき、各画像処理手段を各グループに属させることにより前記複数の画像処理手段を区分する区分ステップと、
同一のグループに属する画像処理手段から画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御せずに逐次実行する逐次記憶処理ステップと、
異なるグループに属する画像処理ステップから画像情報の記憶に関する要求をされると共に、前記画像処理手段からの前記要求に対する処理を排他制御して実行する排他記憶処理ステップと、
を有する処理をコンピュータに実行させる画像処理プログラム。