JP2021071989A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2021071989A
JP2021071989A JP2019199242A JP2019199242A JP2021071989A JP 2021071989 A JP2021071989 A JP 2021071989A JP 2019199242 A JP2019199242 A JP 2019199242A JP 2019199242 A JP2019199242 A JP 2019199242A JP 2021071989 A JP2021071989 A JP 2021071989A
Authority
JP
Japan
Prior art keywords
image processing
image
data
external device
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019199242A
Other languages
English (en)
Other versions
JP7403279B2 (ja
JP2021071989A5 (ja
Inventor
宏史 鈴木
Hiroshi Suzuki
宏史 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019199242A priority Critical patent/JP7403279B2/ja
Priority to GB2015764.0A priority patent/GB2589204B/en
Priority to US17/083,044 priority patent/US20210133933A1/en
Priority to CN202011183268.5A priority patent/CN112751984B/zh
Priority to DE102020128438.1A priority patent/DE102020128438A1/de
Publication of JP2021071989A publication Critical patent/JP2021071989A/ja
Publication of JP2021071989A5 publication Critical patent/JP2021071989A5/ja
Application granted granted Critical
Publication of JP7403279B2 publication Critical patent/JP7403279B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】外部機器に画像処理を適切に依頼することが可能な画像処理装置および画像処理方法を提供すること。【解決手段】画像処理装置は、画像データに対して画像処理を適用する画像処理手段と、外部機器と通信する通信手段と、画像データに対する画像処理を、画像処理手段で適用するか、外部機器で適用するかを、適用する画像処理の内容もしくは外部機器と通信するデータ量に基づいて制御する制御手段と、を有する。【選択図】図3

Description

本発明は、画像処理装置および画像処理方法に関する。
通信可能に接続された、処理能力の高い外部機器に画像処理の適用を依頼することにより、端末で画像処理を適用するよりも高速に画像処理の実行結果を取得可能とする技術が開発されている(特許文献1)。
特開2007−128250号公報
外部機器に画像処理の適用を依頼する場合、依頼ごとに、処理対象の画像データを外部機器との間で送受信する必要がある。画像データのデータ量が大きくなると、送受信に要する時間も増加する。特に、外部機器が共用ネットワーク上に存在する場合、画像データの送受信に要する時間は共用ネットワークのトラフィック状況によってさらに増加する場合がある。また、外部機器との通信が従量制課金の対象であったり、外部機器に画像処理の適用を依頼することが有料である場合、依頼ごとに費用が発生する。一方で、全ての画像処理を端末で適用する場合、端末の処理能力によっては画像処理に要する時間が非常に長くなり、使い勝手が低下する可能性がある。
本発明はこのような課題に鑑みてなされたものであり、外部機器に画像処理を適切に依頼することが可能な画像処理装置および画像処理方法の提供を目的とする。
上述の目的は、画像データに対して画像処理を適用する画像処理手段と、外部機器と通信する通信手段と、画像データに対する画像処理を、画像処理手段で適用するか、外部機器で適用するかを、適用する画像処理の内容もしくは外部機器と通信するデータ量に基づいて制御する制御手段と、を有することを特徴とする画像処理装置によって達成される。
本発明によれば、外部機器に画像処理を適切に依頼することが可能な画像処理装置および画像処理方法を提供することができる。
実施形態に係る画像処理システムの構成例を示す模式図 実施形態に係るPC101の機能構成例を示すブロック図 実施形態に係るPC101とサーバ103の動作に関するフローチャート 実施形態に係るPC101の画像編集GUIの例を示す図 第2実施形態における画像データのデータ形式に関する図
以下、添付図面を参照して本発明をその例示的な実施形態に基づいて詳細に説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定しない。また、実施形態には複数の特徴が記載されているが、その全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
なお、以下の実施形態では、本発明をコンピュータ機器(パーソナルコンピュータ、タブレットコンピュータ、メディアプレーヤ、PDAなど)で実施する場合に関して説明する。しかし、本発明はネットワークに接続可能な任意の電子機器に対して適用可能である。このような電子機器には、デジタル(ビデオ)カメラ、携帯電話機、スマートフォン、ゲーム機、ロボット、ドローン、ドライブレコーダなどが含まれる。これらは例示であり、本発明は他の電子機器にも適用可能である。
●(第1実施形態)
図1は、第1実施形態に係る画像処理システム100の構成に関する模式図である。画像処理システム100は、PC101とサーバ103とがネットワーク102で通信可能に接続された構成を有する。ネットワーク102は例えば、インターネットのような不特定多数の機器が共用ネットワークまたは公衆ネットワークである。したがって、PC101から見てサーバ103は共用ネットワーク上に存在する外部機器である。
PC101は汎用コンピュータであり、デスクトップ型、ノート型、タブレット型などさまざまな形態をとりうる。PC101は、画像処理の対象となる画像データを保持し、ユーザから画像データに対して実行すべき画像処理に関する指示を受け付ける。また、PC101は、ネットワーク102を介してサーバ103と通信可能である。
サーバ103は、PC101に対して外部の画像処理装置として振る舞う。あるいは、サーバ103は画像処理ソフトウェアをサービスとして提供するクラウドサービスであってよい。サーバ103は、PC101から受信した画像データに対してPC101からの指示に従った(あるいは予めPC101から設定された)画像処理を適用し、画像処理を適用した画像データをPC101に返送する。PC101は、サーバ103から受信した画像データに基づく表示を実施する。
図2は、PC101の機能構成例を示すブロック図である。制御部201は、例えばCPUなどのマイクロプロセッサであり、ROM202や記録部206に記憶されたプログラムをRAM203に読み出して実行することにより、PC101が有する各ブロックの動作を制御する。なお、プログラムは、ネットワーク102を通じて受信してもよい。
ROM202は、電気的に書き替え可能な不揮発性メモリである。ROM202は、制御部201が実行可能なプログラムや、プログラムの実行に必要なパラメータ、各種の設定値、GUIデータなどを記憶する。
RAM203は、電気的に書き換え可能な揮発性メモリである。RAM203は、プログラム、プログラムの実行中に用いられる各種の情報、各ブロックが生成するデータなどの一時的な記憶に用いられる。また、RAM203の一部は表示部207のビデオメモリとして用いられてもよい。
送受信部204は、PC101のネットワークインタフェースである。制御部201は、送受信部204を通じてネットワーク102上の機器(サーバ103を含む)と通信することができる。
画像処理部205は、RAM203に記憶されている画像データに対し、様々な画像処理を適用することができる。例えば、画像データがカメラによる撮影で得られたものである場合、前処理、色補間処理、補正処理、検出処理、データ加工処理を適用することができる。前処理には、信号増幅、基準レベル調整、欠陥画素補正などが含まれる。色補間処理は、画像データに含まれていない色成分の値を補間する処理であり、デモザイク処理とも呼ばれる。補正処理には、ホワイトバランス調整、画像の輝度を補正する処理、撮影に用いられたレンズの光学系の収差を補正する処理、色を補正する処理などが含まれる。検出処理には、特徴領域(たとえば顔領域や人体領域)の検出および追尾処理、人物の認識処理などが含まれる。データ加工処理には、スケーリング処理、符号化および復号処理などが含まれる。なお、これらは画像処理部205が適用可能な画像処理の例示であり、画像処理部205が適用可能な画像処理を限定するものではない。なお、撮影に用いられた機器の情報など、画像データから取得できない情報については、例えば画像データが格納されているデータファイルなどから取得することができる。
記録部206は、メモリカードとカードリーダの組み合わせ、ハードディスクドライブ、SSDなどである。記録部206は、制御部201の制御に従い、データを記録したり記録されたデータを読み出したりする。
表示部207は、LCD等の表示デバイスを有し、RAM203のビデオメモリ領域に書き込まれているデータに基づく表示を行う。
指示入力部208は、キーボード、タッチパネル、マウス、スイッチ、ボタン、ダイヤルなど、ユーザが操作可能な入力デバイスの総称である。指示入力部208の操作は制御部201が検出する。
なお、サーバ103も基本的な機能構成はPC101と同様であってよい。
本実施形態において制御部201は、画像データに適用する画像処理の内容に応じて、PC101(制御部201または画像処理部205)で適用するか、サーバ103に適用を依頼するかを決定する。
ここではその一例として、制御部201は、ユーザの指示に応じた処理レベルや処理パラメータに基づいて実行する画像処理についてはPC101で適用する。ユーザの指示とは無関係に実行する、あるいは、ユーザはオンとオフのみを指示する画像処理についてはサーバ103で適用することを決定する。あるいは、制御部201は、繰り返し適用されうる画像処理についてはPC101で適用し、1回だけ適用される画像処理についてはサーバ103で適用することを決定する。
ユーザの指示とは無関係に実行する、あるいは、ユーザはオンとオフのみを指示する画像処理、もしくは1回だけ適用される画像処理には、例えば、撮影時に用いた装置(特には撮像素子や撮影レンズ)の特性に起因して適用される画像処理が含まれる。具体的には、欠陥画素補正、ノイズ低減処理、色補間処理、ガンマ補正処理、光学収差の補正処理などがあるが、これらに限定されない。
また、ユーザの指示に応じた処理レベルや処理パラメータに基づいて実行する画像処理、もしくは繰り返して起用されうる画像処理には、例えば、いわゆるレタッチ処理として適用される画像処理が含まれる。具体的には、トーンカーブの調整、色相、彩度、明るさの調整、ホワイトバランス調整などがあるが、これらに限定されない。
なお、ユーザの指示に応じた処理レベルや処理パラメータに基づいて実行する画像処理、もしくは繰り返して起用されうる画像処理であっても、予め定められた、処理負荷が大きい画像処理はサーバ103に適用を依頼するようにしてもよい。また、PC101の現在の処理負荷が閾値以上の場合には、通常はPC101で適用する画像処理についても、サーバ103に適用を依頼するようにしてもよい。
サーバ103に適用を依頼する画像処理と、画像処理部205や制御部201が適用する画像処理との情報は、例えばROM202に予め記憶しておくことができる。制御部201は、画像データに適用すべき画像処理に応じてROM202を参照して、画像処理を適用すべき場所を特定し、特定した場所で画像処理を適用するために必要な処理を実行する。必要な処理は例えば特定した場所へ画像データや画像処理に必要な情報を送信する処理である。
このように、ユーザの指示に応じた処理レベルや処理パラメータに基づいて実行する画像処理、もしくは繰り返して起用されうる画像処理についてはPC101で適用するようにする。これにより、PC101とサーバ103との間の通信データ量を効果的に削減することができ、往復の通信時間に起因する処理の遅れがユーザ指示に対する応答性に与える影響を低減することができる。
図3は、本実施形態に係る画像処理システム100の動作に関するフローチャートである。PC101の処理は例えば画像処理アプリケーションの実行が指示されたことによって開始される。
S301において制御部201は、表示部207に画像データの選択画面を表示する。例えば制御部201は、例えば記録部206の予め定められたディレクトリに記録されている画像データの選択可能な一覧を表示部207に表示する。一覧は個々の画像データについて、ファイル名、記録日時、サムネイル画像などの項目を含むものであってよい。
S302において制御部201は、指示入力部208の操作を検出し、検出した操作にしたがって、ユーザが選択した画像データを特定する。
S303において制御部201は、S302でユーザが選択した画像データを、送受信部204を通じてサーバ103へ送信する。ここでは、画像データに必ず適用する画像処理が、サーバ103で適用する画像処理を含んでいるものとする。制御部201は、サーバ103に対し、画像データとともに、画像処理に必要な情報を送信する。画像処理に必要な情報には例えば画像データを撮影した装置や撮影条件に関する情報などである。なお、どのような画像処理を適用するかについてはサーバ103に対して明示してもよいし、サーバ103が適用する画像処理を把握している場合などは画像処理の内容を明示しなくてもよい。
S304でサーバ103は、PC101から送信された画像データを受信し、画像処理を適用する。S304でサーバ103は、上述したように、画像データに対して1度適用する画像処理を適用する。ここでは、一例として、画像データの撮影に使用された撮像光学系および撮像素子に起因する画質劣化を補正する画像処理を適用する。このような画像処理の詳細については後述する。
S305でサーバ103は、画像処理を適用した画像データをPC101へ送信する。
S306で制御部201は、サーバ103から受信した画像データに基づいて表示用画像データを生成し、画像編集用のGUIとともに表示部207に表示する。ユーザは指示入力部208の操作を通じて画像編集用のGUIを操作し、彩度や階調の調整など、希望する画像処理の適用をPC101に指示することができる。
S307で制御部201は、指示入力部208の操作に応じたパラメータに基づいて、画像データに対して画像処理を適用するように画像処理部205を制御する。画像処理部205は画像処理を適用した画像データを制御部201に送信する。制御部201は画像処理を適用した画像データで表示を更新する。
S308で制御部201は、指示入力部208を通じて画像処理の終了がユーザから指示された場合には例えば画像処理後の画像データを記録部209に記録して処理を終了する。一方、制御部201は、指示入力部208を通じて画像処理の終了が検出されなければ、指示入力部208を通じた他の指示入力を待機する。
なお、図3では最初に1度サーバ103で画像処理を適用した後は、PC101で画像処理を適用するものとして記載している。しかし、S306でユーザから処理負荷の大きな画像処理が指示された場合や、PC101の負荷が高い状態などでは、サーバ103にさらに画像処理の適用を依頼してもよい。
次に、S304でサーバ103が適用する画像処理およびS307でPC101が適用する画像処理の例について説明する。
まず、S304においてサーバ103が適用可能な画像処理の例として、画像データの撮影に用いられた撮像光学系に起因する光学収差を補正する画像処理と、撮像素子に起因するノイズを補正する画像処理について説明する。
光学収差を補正する画像処理について説明する。光学収差は撮影に用いられたレンズユニットが有する光学部材の形状や材質、ズームレンズであればズーム位置などの条件に起因して発生する。そのため、レンズユニットの種類、撮影条件(特に絞り値)、ズーム位置(画角)に関する情報から、画像データを構成する各画素データを補正するための補正値を特定することができる。補正値はサーバ103がテーブルとして保持していてもよいし、ネットワーク102上の他の機器から取得してもよい。補正値やそれを用いた補正方法は例えば特開2011−217087号公報に記載されるような、公知の方法を用いることができる。
次にノイズを補正する画像処理について説明する。ノイズは画像データの撮影に用いられた撮像素子の特性や、撮影条件(特に撮影感度)などの条件に起因して発生する。そのため、撮像素子の種類、撮影条件(特に撮影感度)に関する情報から、画像データを構成する各画素データを補正するための補正値を特定することができる。補正値はサーバ103がテーブルとして保持していてもよいし、ネットワーク102上の他の機器から取得してもよい。補正値やそれを用いた補正方法は例えば特開2013−026669号公報に記載されるような、公知の方法を用いることができる。
光学収差やノイズを補正する画像処理は、周辺の画素を用いた2次元空間フィルタ処理を画素ごとに適用するといった計算量の多い処理である。また、これらの画像処理は基本的に画像データに対して1度適用すれば足りる。ネットワーク102上で画像処理サービスを提供するサーバ103の画像処理能力は一般にPC101よりも高い。そのため、これらの画像処理はサーバ103で適用することによる処理時間の低減効果が大きい。
ここでは、S304において、サーバ103が、光学収差を補正する画像処理と、ノイズを補正する画像処理との両方を適用するものとしたが、いずれか1つを適用してもよい。また、サーバ103で適用可能な、撮像光学系または撮像素子に起因する画質劣化を補正する画像処理はこれらに限定されない。例えば、撮像光学系に含まれる絞りに起因する回折現象による解像感の低下を補正する画像処理や、光学ローパスフィルタに起因する解像感の低下を補正する画像処理など、他の画像処理も適用可能である。さらに、色補間処理など、基本的に1度適用する画像処理についても、サーバ103で適用することができる。
次に、S307においてPC101が適用可能な画像処理の例として、彩度を調整する画像処理と、階調を調整する画像処理とについて説明する。図4(a)は、S306でPC101が提示する画像編集用のGUIのうち、彩度調整用のGUIの例を示している。
彩度調整用のGUI401は、スライダー402を有する。制御部201は、スライダー402のつまみ403を移動させる指示入力部208の操作(例えば、つまみ403を指すカーソル410の移動操作)を検出すると、操作に応じてつまみ403の表示位置を移動させる。なお、表示部207がタッチディスプレイであれば、制御部201は、つまみ403を移動させるタッチ操作(例えばつまみ403のドラッグ操作)を検出してもよい。そして、操作が検出されなくなった際のつまみ403の表示位置に応じた彩度を判別し、画像処理部205に対し、表示画像420に対応する画像データに変更後の彩度を適用するように指示する。画像処理部205は画像データに彩度を変更する処理を適用する。また、画像処理部205は変更後の画像データに基づいて新しい表示用の画像データを生成し、新しい表示用の画像データによってRAM203のビデオメモリを更新する。これにより、ユーザは自身が指示した彩度が適用された表示画像420を確認することができる。
図4(b)は、S306でPC101が提示する画像編集用のGUIのうち、階調調整用のGUIの例を示している。階調調整用のGUI404はトーンカーブ405のグラフを含む。制御部201は、トーンカーブ405は制御点406を移動させる指示入力部208の操作(例えば、制御点406を指すカーソル410の移動操作)を検出すると、操作に応じて制御点406の表示位置を移動させる。なお、表示部207がタッチディスプレイであれば、制御部201は、制御点406を移動させるタッチ操作(例えば制御点406のドラッグ操作)を検出してもよい。制御部201は、左右方向の移動操作を検出すると、制御点406だけをトーンカーブ上で移動させる。また制御部201は、上下方向の移動操作を検出すると、制御点406の位置を上下に移動させるとともに、移動後の制御点406の位置に応じてトーンカーブを変形させる。なお、制御点406は複数設定可能であってよい。
そして、制御部201は、画像処理部205に対し、操作が検出されなくなった際のトーンカーブの形状に応じた階調変換を、表示画像420に対応する画像データに適用するように指示する。画像処理部205は画像データの階調特性を変更する処理を適用する。また、画像処理部205は変更後の画像データに基づいて新しい表示用の画像データを生成し、新しい表示用の画像データでRAM203のビデオメモリを更新する。これにより、ユーザは自身が指示した階調特性の変更が適用された表示画像420を確認することができる。
彩度や階調の調整は、表示画像を確認しながら、意図する結果が得られるように試行錯誤的に行われることが多い。つまり、彩度や階調の調整に関する画像処理は繰り返し実行されることが多く、また、使い勝手を考慮すると、調整の結果が直ちに表示画像に変換されることが望ましい。さらに、彩度や階調の調整に関する画像処理は、処理対象の画素単体の情報のみを用いて実施可能であるため、光学収差の補正などと比較すると計算量は少ない。そのため、画像データの送受信を繰り返しながらサーバ103で画像処理を適用するよりも、PC101で画像処理を適用することのメリットが大きい。
なお、PC101で実施する画像処理は、彩度および階調の調整の一方又は両方であってよい。また、彩度および階調の調整に限らず、色相、コントラスト、明るさ、鮮鋭度、リサイズなど、試行錯誤的に実行されることの多い他の任意の画像処理の1つ以上をPC101で適用してもよい。
以上説明したように、本実施形態によれば、外部機器と通信可能に接続された画像処理装置において、画像データに適用する画像処理の内容に応じて、外部機器に画像処理の適用を依頼するか、自身で適用するかを判別するようにした。そのため、全ての画像処理について外部機器に適用を依頼する場合よりも、外部機器との通信に要する時間に起因する処理時間の増加を抑制することができる。
●(第2実施形態)
次に、本発明の第2実施形態について説明する。第1の実施形態では、画像処理をPC101で適用するかサーバ103で適用するかを、主に処理時間の短縮という観点から画像処理の内容に応じて判別した。本実施形態では、サーバ103との通信がデータ量に応じた従量制課金の対象である場合について説明する。画像処理システム100の構成やPC101の構成については第1実施形態と同様であってよいため、以下では本実施形態に特有な動作について重点的に説明する。
本実施形態では、サーバ103で画像データに対して複数の画像処理を順次適用する過程でデータ形式が変化する場合、サーバ103で適用する画像処理を、データ量が多くなるデータ形式に変化する前の段階までにとどめるようにする。あるいは、PC101からサーバ103に送信する画像処理前の画像データのデータ形式よりも、サーバ103からPC101に送信する画像処理後の画像データのデータ形式が、データ量の多いデータ形式にならない範囲で、サーバ103が画像処理を適用する。
例えば、PC101からサーバ103に第1のデータ形式で画像データを送信し、サーバ103で画像データにA→B→Cという順番で適用可能な3種類の画像処理A〜Cがあるものとする。また、画像処理A,Bは第1のデータ形式で、画像処理Cは第1のデータ形式よりもデータ量が多い第2のデータ形式で、それぞれ処理結果を出力するものとする。この場合、サーバ103では画像処理A〜Cのうち画像処理A,Bを適用し、画像処理CについてはPC101で行うようにする。サーバ103で画像処理A〜Cを全て適用した場合、サーバ103からPC101へ返送される画像データは第2のデータ形式であり、第1のデータ形式よりも送信データ量が増加する。サーバ103では画像処理Bまでを適用するようにすれば、サーバ103からPC101へ返送される画像データを第1のデータ形式とすることができ、通信データ量を削減できる。
例えば、画像データが撮影によって得られたものである場合、RAWデータであるか、現像処理後のデータであるかによって画像データのデータ形式は異なりうる。原色ベイヤ配列のカラーフィルタを備えた撮像素子を用いた撮影で得られたRAWデータは、画素ごとにR(赤)、G(緑)、B(青)のいずれか1つの色成分のみを、12ビット/画素もしくは14ビット/画素の深度で有することが多い。
一方、現像処理(色補間処理)後の画像データは、画素ごとにRGBの3成分を8ビット/成分(24ビット/画素)、もしくはY成分とUまたはV成分とを8ビット/成分(16ビット/画素)の深度で有することが多い。
図5に、各データ形式の例を模式的に示す。ここでは画素ごとに1つの色成分を14ビット深度で有するデータ形式をBayer形式(14ビット/画素)、画素ごとにY成分とUまたはV成分とをそれぞれ8ビット深度で有するデータ形式をYUV422形式(16ビット/画素)とする。
例えば、第1実施形態で説明したように、画像データに対して光学収差を補正する画像処理と、ノイズを補正する画像処理との両方を適用する場合を考える。ここで、光学収差を補正する画像処理はBayer形式の画像データを対象とし、ノイズを補正する画像処理がYUV422形式の画像データを対象とするものとする。
この場合、図3に示したフローチャートのS303ではPC101からサーバ103にBayer形式の画像データを送信する。そして、S304でサーバ103は、光学収差を補正する画像処理を行い、Bayer形式の画像データをS305で返送する。そして、PC101の制御部201は、光学収差が補正された画像データに対し、S306の実行前に、ノイズを補正する画像処理を画像処理部205によって適用する。画像処理部205は、画像データをBayer形式からYUV422形式に変換してからノイズを補正する画像処理を適用する。ノイズを補正する画像処理の結果として、Bayer形式の画像データが得られる場合には、第1実施形態と同様に画像処理を適用すればよい。
なお、本実施形態においても、サーバ103に対して適用を依頼する画像処理と、PC101で適用する画像処理とについては、予めROM202に記憶しておくものとする。本実施形態では、画像処理結果として出力される画像データのデータ形式に応じて、サーバ103に対して適用を依頼する画像処理と、PC101で適用する画像処理とを予め定めることができる。サーバ103に適用を依頼する画像処理は、複数のデータ形式のうち、データ量の最も多いデータ形式以外のデータ形式を対象とするものとすることができる。なお、連続的に適用される複数の画像処理については、途中の段階における画像データの形式に関わらず、最終的に得られる画像データの形式がデータ量の最も多いデータ形式でなければ、サーバ103に適用を依頼する画像処理とすることができる。
本実施形態によれば、外部機器で適用する画像処理の範囲を、画像処理前よりもデータ量が増加しない範囲にとどめるようにした。そのため、外部機器に画像処理の適用を依頼する場合に、画像処理前よりもデータ量が増加した画像処理後の画像データが外部機器から返送されることを回避できる。そのため、外部機器との通信が従量制課金の対象である場合に、通信費用を節約することができる。
なお、サーバ103による画像処理が有料である場合には、PC101で不可能であるか、時間がかかりすぎる画像処理についてのみサーバ103で適用するようにしてもよい。この場合もどの画像処理をサーバ103に依頼するかを予めROM202に登録しておくことができる。
(その他の実施形態)
実施形態に係る画像処理システム100は、PC101が適用しない画像処理はサーバ103で適用するものであった。しかし、PC101で適用するものとして説明した画像処理を、PC101から見てネットワーク102よりも手前に存在する(例えばローカルネットワーク上もしくは直接接続された)第2の外部機器で実行するように構成してもよい。この場合、PC101と第2の外部機器との間で画像データを送受信する必要があるが、ネットワーク102を通じたサーバ103との通信より高速かつ安定した通信が可能であるため、通信時間による処理時間の遅れは小さく、また変動も小さい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は上述した実施形態の内容に制限されず、発明の精神および範囲から離脱することなく様々な変更及び変形が可能である。したがって、発明の範囲を公にするために請求項を添付する。
100…画像処理システム、101…PC、102…ネットワーク、103…サーバ、201…A/D変換部、202…ROM、203…RAM、204…送受信部、205…画像処理部、206…記録部、207…表示部、208…指示入力部

Claims (12)

  1. 画像データに対して画像処理を適用する画像処理手段と、
    外部機器と通信する通信手段と、
    前記画像データに対する画像処理を、前記画像処理手段で適用するか、前記外部機器で適用するかを、適用する画像処理の内容もしくは前記外部機器と通信するデータ量に基づいて制御する制御手段と、
    を有することを特徴とする画像処理装置。
  2. 前記制御手段は、ユーザの指示に応じて適用する画像処理については前記画像処理手段で適用することを決定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記ユーザの指示に応じて適用する画像処理が、彩度、階調、色相、コントラスト、明るさ、または鮮鋭度の調整およびリサイズの1つ以上を含むことを特徴とする請求項2に記載の画像処理装置。
  4. 前記制御手段は、前記画像データに対して1度適用する画像処理については前記外部機器で適用することを決定することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記制御手段は、撮像光学系または撮像素子に起因する画質劣化を補正する画像処理については前記外部機器で適用することを決定することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  6. 前記撮像光学系または撮像素子に起因する画質劣化を補正する画像処理が、光学収差を補正する画像処理、ノイズを補正する画像処理、撮像光学系に含まれる絞りに起因する回折現象による解像感の低下を補正する画像処理および、光学ローパスフィルタに起因する解像感の低下を補正する画像処理の1つ以上を含むことを特徴とする請求項5に記載の画像処理装置。
  7. 前記制御手段は、
    前記通信手段を通じて前記外部機器に前記画像データを送信する場合、第1のデータ形式で送信し、
    前記外部機器では、画像処理後の画像データが前記第1のデータ形式である画像処理を適用するように制御する、
    ことを特徴とする請求項1に記載の画像処理装置。
  8. 前記画像処理手段は、前記第1のデータ形式よりもデータ量が多い第2のデータ形式の画像データに対して画像処理を適用することを特徴とする請求項7に記載の画像処理装置。
  9. 前記外部機器が共用ネットワーク上に存在することを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  10. 前記制御手段は、前記画像処理手段で適用する画像処理を、前記画像処理装置から見て前記共用ネットワークより手前に存在する前記外部機器とは別の外部機器に適用するように制御することを特徴とする請求項9に記載の画像処理装置。
  11. 画像データに対して画像処理を適用する画像処理手段を有する画像処理装置が実行する画像処理方法であって、
    前記画像データに対する画像処理を、前記画像処理手段で適用するか、通信可能な外部機器で適用するかを、適用する画像処理の内容もしくは前記外部機器と通信するデータ量に基づいて制御する制御工程を有することを特徴とする画像処理方法。
  12. コンピュータを、請求項1から10のいずれか1項に記載の画像処理装置が有する各手段として機能させるためのプログラム。
JP2019199242A 2019-10-31 2019-10-31 画像処理装置および画像処理方法 Active JP7403279B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019199242A JP7403279B2 (ja) 2019-10-31 2019-10-31 画像処理装置および画像処理方法
GB2015764.0A GB2589204B (en) 2019-10-31 2020-10-05 Image processing apparatus and image processing method
US17/083,044 US20210133933A1 (en) 2019-10-31 2020-10-28 Image processing apparatus and image processing method
CN202011183268.5A CN112751984B (zh) 2019-10-31 2020-10-29 图像处理装置、图像处理方法和计算机可读介质
DE102020128438.1A DE102020128438A1 (de) 2019-10-31 2020-10-29 Bildverarbeitungsvorrichtung und Bildverarbeitungsverfahren

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019199242A JP7403279B2 (ja) 2019-10-31 2019-10-31 画像処理装置および画像処理方法

Publications (3)

Publication Number Publication Date
JP2021071989A true JP2021071989A (ja) 2021-05-06
JP2021071989A5 JP2021071989A5 (ja) 2022-11-04
JP7403279B2 JP7403279B2 (ja) 2023-12-22

Family

ID=73223775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019199242A Active JP7403279B2 (ja) 2019-10-31 2019-10-31 画像処理装置および画像処理方法

Country Status (4)

Country Link
US (1) US20210133933A1 (ja)
JP (1) JP7403279B2 (ja)
DE (1) DE102020128438A1 (ja)
GB (1) GB2589204B (ja)

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3710335B2 (ja) * 1998-09-30 2005-10-26 キヤノン株式会社 通信装置、撮像装置、通信方法、撮像方法、及び記憶媒体
JP4524047B2 (ja) 2000-01-17 2010-08-11 富士フイルム株式会社 画像処理方法および装置、カメラならびに撮影システム
JP4076800B2 (ja) 2002-06-26 2008-04-16 富士フイルム株式会社 画像データ送信方法および携帯端末装置並びにプログラム
JP4143549B2 (ja) * 2004-01-28 2008-09-03 キヤノン株式会社 画像処理装置及び方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP4400237B2 (ja) 2004-02-09 2010-01-20 富士ゼロックス株式会社 携帯端末装置及びサーバ装置
JP2006004382A (ja) * 2004-06-21 2006-01-05 Sharp Corp 情報処理装置、情報処理方法、情報処理プログラムおよびコンピュータ読み取り可能な記録媒体
US7868921B2 (en) * 2006-02-17 2011-01-11 Canon Kabushiki Kaisha Image processing file setting system
KR20090020897A (ko) * 2007-08-24 2009-02-27 삼성전자주식회사 외부기기의 제어명령에 따라 제어되는 무선 영상시스템,무선 영상수신기 및 무선 영상시스템 제어방법
JP5046801B2 (ja) * 2007-08-28 2012-10-10 富士フイルム株式会社 画像処理装置及びプログラム
JP2009071621A (ja) 2007-09-13 2009-04-02 Panasonic Corp 画像処理装置及びデジタルカメラ
US20160012136A1 (en) * 2013-03-07 2016-01-14 Eyeducation A.Y. LTD Simultaneous Local and Cloud Searching System and Method
US9052740B2 (en) * 2013-03-12 2015-06-09 Qualcomm Incorporated Adaptive data path for computer-vision applications
KR102173107B1 (ko) * 2013-12-11 2020-11-02 삼성전자주식회사 클라우드 서버 기반 영상 처리 방법, 단말 및 시스템
JP2016048911A (ja) * 2014-08-25 2016-04-07 キヤノン株式会社 情報処理装置、その制御方法、および制御プログラム
US10055672B2 (en) * 2015-03-11 2018-08-21 Microsoft Technology Licensing, Llc Methods and systems for low-energy image classification
JP6594101B2 (ja) * 2015-08-19 2019-10-23 キヤノン株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP2017169186A (ja) * 2016-03-14 2017-09-21 株式会社リコー 画像処理装置、情報処理装置、画像処理システム及び画像処理方法
US10291844B2 (en) 2016-03-14 2019-05-14 Realop Corporation Image processing apparatus, image processing method, recording medium, program and imaging-capturing apparatus
US10303522B2 (en) * 2017-07-01 2019-05-28 TuSimple System and method for distributed graphics processing unit (GPU) computation
KR102495753B1 (ko) * 2017-10-10 2023-02-03 삼성전자주식회사 카메라를 이용하여 획득한 원시 이미지를 외부 전자 장치를 이용하여 처리하는 방법 및 전자 장치
US10755090B2 (en) * 2018-03-16 2020-08-25 Open Text Corporation On-device partial recognition systems and methods
JP7469884B2 (ja) * 2020-01-15 2024-04-17 キヤノン株式会社 画像処理装置およびその制御方法、プログラム、並びに記憶媒体

Also Published As

Publication number Publication date
GB2589204B (en) 2022-11-02
US20210133933A1 (en) 2021-05-06
JP7403279B2 (ja) 2023-12-22
GB2589204A (en) 2021-05-26
DE102020128438A1 (de) 2021-05-06
GB202015764D0 (en) 2020-11-18
CN112751984A (zh) 2021-05-04

Similar Documents

Publication Publication Date Title
JP6317577B2 (ja) 映像信号処理装置及びその制御方法
CN104284166A (zh) 图像处理装置、摄像装置以及图像处理方法
JP5864037B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP6071419B2 (ja) 画像処理装置及び画像処理方法
JP6141137B2 (ja) 遠隔操作装置およびその制御方法、撮像装置およびその制御方法、システム、並びにプログラム
JP7453772B2 (ja) 情報処理装置及びその制御方法、撮像装置システム、プログラム
JP4725453B2 (ja) デジタルカメラ及び画像処理プログラム
US8872959B2 (en) Digital photographing apparatus, method of controlling the same, and recording medium having recorded thereon program for executing the method
JP7403279B2 (ja) 画像処理装置および画像処理方法
JP7458806B2 (ja) 画像処理装置および画像処理方法
JP6702792B2 (ja) 画像処理装置およびその制御方法
CN112751984B (zh) 图像处理装置、图像处理方法和计算机可读介质
JP2017126914A (ja) 画像処理システム
US11711607B2 (en) Information processing apparatus capable of applying image processing based on evaluation results, image processing apparatus, and method of controlling the same
US9967408B2 (en) Information setting apparatus, information management apparatus, information generation apparatus, and method and program for controlling the same
JP2020112730A (ja) 表示装置及びその制御方法、プログラム、記憶媒体
US20230146844A1 (en) Image processing apparatus and image processing method
US11775157B2 (en) Image processing apparatus, image processing system, and control method for processing a second image with adjusting level of a first image
US11659275B2 (en) Information processing apparatus that performs arithmetic processing of neural network, and image pickup apparatus, control method, and storage medium
JP5627252B2 (ja) 撮像装置及びその制御方法
US11283938B2 (en) Communication apparatus communicating with another communication apparatus based on performance, control method, and storage medium
JP7370762B2 (ja) 撮像装置およびその制御方法
JP2008048168A (ja) 色処理パラメータ設定方法及びデジタル撮像機器
JP2013162462A (ja) 信号処理プログラム、信号処理装置、およびカメラ
JP2021078051A (ja) 画像処理装置および画像制御方法、プログラム、並びに記憶媒体

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221026

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221026

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231212

R151 Written notification of patent or utility model registration

Ref document number: 7403279

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151