JP2007041196A - 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム - Google Patents

画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Download PDF

Info

Publication number
JP2007041196A
JP2007041196A JP2005223985A JP2005223985A JP2007041196A JP 2007041196 A JP2007041196 A JP 2007041196A JP 2005223985 A JP2005223985 A JP 2005223985A JP 2005223985 A JP2005223985 A JP 2005223985A JP 2007041196 A JP2007041196 A JP 2007041196A
Authority
JP
Japan
Prior art keywords
image
thinning
scroll
spatial
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005223985A
Other languages
English (en)
Inventor
Atsushi Ito
厚史 伊藤
Seiji Kobayashi
誠司 小林
Hidenori Koyaizu
秀紀 小柳津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005223985A priority Critical patent/JP2007041196A/ja
Priority to US11/459,515 priority patent/US7750927B2/en
Publication of JP2007041196A publication Critical patent/JP2007041196A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/34Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators for rolling or scrolling
    • G09G5/346Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators for rolling or scrolling for systems having a bit-mapped display memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0414Vertical resolution change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0421Horizontal resolution change

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 静止画像データの高解像度画像としての表示処理を実現する画像処理装置および方法を提供する。
【解決手段】 静止画像を表示装置に表示する際、所定のスクロール速度で表示を行なう構成とし、このスクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を実行してフレーム画像を生成して表示部に出力する。本構成によれば、表示部に表示されるスクロール画像が、視覚系による超解像効果を引き起こし、ユーザ(視覚者)には、表示部の画素数以上の高解像度画像として観察され、高品質な表示画像の提供が実現される。
【選択図】 図1

Description

本発明は、画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。特に、静止画像をディスプレイに表示する場合に高品質な高解像度画像の提示を可能としたものであり、静止画像をスクロール表示することで、高解像度表示を実現する画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。
昨今のデジタルカメラは、数100万画素を超える画素数を持つ撮像素子(CCD)を持ち、高画質画像データを撮影可能な構成をもつものが多い。しかし、このような撮影画像を表示するディスプレイの解像度は、これだけの画素数に対応可能なものは少なく、表示画像は、撮影画像の持つ高品質なデータを再現できていないというのが現状である。
表示装置の持つ限られた画素数を超える高解像度表示を実現する方法については、いくつかの技術が提案されている。例えば、特許文献1〜3には、多数の発光素子を直線状に配列した発光素子列を一定間隔で多数配設して表示部を構成し、これに表示データの各列のデータを各発光素子列に時間制御しながら供給することで、残像効果を利用したスクロール表示を行う方法が提案されている。
特開平8―179717号公報 特開平9―311659号公報 特開2000−81856号公報
上記した従来技術、すなわち、発光素子を一定間隔で多数配設した表示部に残像効果を利用してスクロール表示を行う構成は、コストダウンのため、少ない数の発光素子によって詳細な画像を視認可能とすることを目的とし、具体的にはLEDを採用した電光掲示板におけるLED発光制御により視認性を向上させた構成を示しているのみであり、上述したような、デジタルカメラなどで撮影された高解像度画像を、解像度レベルのさほど高くない液晶ディスプレイなどに表示する際の高解像度表現を実現するものではない。
本発明は、例えば高解像度の撮像素子において撮影された画像データを入力し、低解像度のディスプレイを適用した場合でも、高解像度画像として観察可能な画像を表示することを実現するものであり、静止画像の画像処理を実行し、処理画像のスクロール表示を行なうことで、ディスプレイの有する解像度以上の高い解像度レベルでの画像提示を実現する画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明の第1の側面は、
静止画像データを入力する画像入力部と、
前記静止画像データに対する画素数変換を行う画素数変換処理部と、
前記画素数変換処理部において生成された画素数変換画像データに基づいて、画像表示部に出力する出力画像データとしてのスクロール表示画像を生成する表示画像生成処理部と、
前記画素数変換処理および表示画像生成処理を制御する制御部とを有し、
前記画素数変換処理部は、
前記スクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を実行する空間間引き処理部を有する構成であり、
前記表示画像生成処理部は、
フレーム個別に空間間引き処理の実行されたフレーム画像に基づくスクロール表示画像の生成処理を行う構成であることを特徴とする画像処理装置にある。
さらに、本発明の画像処理装置の一実施態様において、前記制御部は、画像表示部に表示するスクロール画像のスクロール移動速度に基づいて、超解像効果が得られる条件を満たす空間間引き量を決定する処理を実行する構成であり、前記空間間引き処理部は、前記制御部の決定した空間間引き量に従った空間間引き処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記制御部は、画像表示部に表示するスクロール画像のスクロール移動速度と、超解像効果が得られる条件を満たす空間間引き量とを対応付けたテーブルに基づいて空間間引き量を決定する処理を実行する構成であり、前記空間間引き処理部は、前記制御部の決定した空間間引き量に従った空間間引き処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記制御部は、画像表示部に表示するスクロール画像のスクロール移動速度が、超解像効果が得られる条件を満たす空間間引き量nに対応する速度範囲にあるか否かを、予め定めたnの最大値から順次検証し、より大きな空間間引き量nを、前記空間間引き処理部における間引き量として決定する処理を実行する構成であり、前記空間間引き処理部は、前記制御部の決定した空間間引き量に従った空間間引き処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記画素数変換処理部は、空間フィルタ処理部と、空間間引き処理部を有し、前記画像入力部に入力する静止画像が画素数m×nの入力画像であり、前記画像表示部に出力するスクロール表示画像がp×qの出力画像であり、超解像度効果を奏する空間間引き量を、X方向の間引き量Dx、Y方向の間引き量Dyとしたとき、前記空間フィルタ処理部は、前記画像入力部に入力する画素数m×nの入力画像を画素数Dxp×Dyqの画像に変換する処理を実行し、前記空間間引き処理部は、前記空間フィルタ処理部の生成した画素数Dxp×Dyqの画像に基づいて、X方向の間引き量Dx、Y方向の間引き量Dyとした空間間引き処理を実行して、画素数p×qの出力画像を生成する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記空間フィルタ処理部の処理画像を格納するメモリを有し、前記空間間引き処理部は、前記メモリから取得した画素数Dxp×Dyqの画像に基づいて、フレーム個別に空間間引き処理を実行して、画素数p×qの出力画像を生成する処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記画像処理装置は、さらに、前記スクロール移動速度を含むパラメータを入力するパラメータ入力部を有し、前記制御部は、前記パラメータ入力部から入力されたスクロール移動速度情報に基づいて前記空間間引き処理部における間引き量の決定処理を行う構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記制御部は、前記スクロール移動速度を含むパラメータを決定するパラメータ算出部を有し、前記パラメータ算出部は、前記画像入力部に入力される静止画像の画素数を入力し、超解像効果を得る条件を満たすスクロール画像の画素数およびスクロール移動速度の値を算出し、算出情報に従って、前記空間間引き処理部における間引き量の決定処理を行う構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記表示画像生成処理部は、フレーム個別に空間間引き処理の実行されたフレーム画像に基づいて、スクロール移動速度に基づくフレーム移動を考慮したフレーム単位のレンダリング処理を実行する構成を有することを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記画像処理装置は、さらに、前記表示画像生成処理部の生成したスクロール表示画像の表示処理を実行する画像表示部を有する構成であることを特徴とする。
さらに、本発明の第2の側面は、
静止画像データを入力する画像入力ステップと、
画像処理パラメータを決定するパラメータ決定ステップと、
前記パラメータに基づいて静止画像データに対する画素数変換を行う画素数変換処理ステップと、
前記画素数変換処理ステップにおいて生成された画素数変換画像データに基づいて、画像表示部に出力する出力画像データとしてのスクロール表示画像を生成する表示画像生成処理ステップを有し、
前記画素数変換処理ステップは、
前記スクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を前記パラメータに基づいて実行する空間間引き処理ステップを含み、
前記表示画像生成処理ステップは、
フレーム個別に空間間引き処理の実行されたフレーム画像に基づくスクロール表示画像の生成処理を行うステップであることを特徴とする画像処理方法にある。
さらに、本発明の画像処理方法の一実施態様において、前記パラメータ決定ステップは、画像表示部に表示するスクロール画像のスクロール移動速度に基づいて、超解像効果が得られる条件を満たす空間間引き量を決定する処理を実行し、前記空間間引き処理ステップは、前記パラメータ決定ステップにおいて決定した空間間引き量に従った空間間引き処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記パラメータ決定ステップは、前記画像表示部に表示するスクロール画像のスクロール移動速度と、超解像効果が得られる条件を満たす空間間引き量とを対応付けたテーブルに基づいて空間間引き量を決定する処理を実行し、前記空間間引き処理ステップは、前記パラメータ決定ステップにおいて決定した空間間引き量に従った空間間引き処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記パラメータ決定ステップは、画像表示部に表示するスクロール画像のスクロール移動速度が、超解像効果が得られる条件を満たす空間間引き量nに対応する速度範囲にあるか否かを、予め定めたnの最大値から順次検証し、より大きな空間間引き量nを、前記空間間引き処理ステップにおける間引き量として決定する処理を実行し、前記空間間引き処理ステップは、前記制御ステップの決定した空間間引き量に従った空間間引き処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記画素数変換処理ステップは、空間フィルタ処理ステップと、空間間引き処理ステップを有し、前記画像入力ステップにおいて入力する静止画像が画素数m×nの入力画像であり、画像表示部に出力するスクロール表示画像がp×qの出力画像であり、超解像度効果を奏する空間間引き量を、X方向の間引き量Dx、Y方向の間引き量Dyとしたとき、前記空間フィルタ処理ステップは、前記画像入力ステップにおいて入力する画素数m×nの入力画像を画素数Dxp×Dyqの画像に変換する処理を実行し、前記空間間引き処理ステップは、前記空間フィルタ処理ステップの生成した画素数Dxp×Dyqの画像に基づいて、X方向の間引き量Dx、Y方向の間引き量Dyとした空間間引き処理を実行して、画素数p×qの出力画像を生成することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記画像処理方法は、さらに、前記空間フィルタ処理ステップにおける処理画像をメモリに格納するメモリ格納ステップを有し、前記空間間引き処理ステップは、前記メモリから取得した画素数Dxp×Dyqの画像に基づいて、フレーム個別に空間間引き処理を実行して、画素数p×qの出力画像を生成する処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記画像処理方法は、さらに、前記スクロール移動速度を含むパラメータを入力するパラメータ入力ステップを有し、前記パラメータ決定ステップは、前記パラメータ入力ステップにおいて入力されたスクロール移動速度情報に基づいて前記空間間引き処理ステップにおいて適用する間引き量の決定処理を行うことを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記パラメータ決定ステップは、前記画像入力ステップにおいて入力した静止画像の画素数を入力し、超解像効果を得る条件を満たすスクロール画像の画素数およびスクロール移動速度の値を算出し、算出情報に従って、前記空間間引き処理ステップにおける間引き量の決定処理を行うことを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記表示画像生成処理ステップは、フレーム個別に空間間引き処理の実行されたフレーム画像に基づいて、スクロール移動速度に基づくフレーム移動を考慮したフレーム単位のレンダリング処理を実行するステップを有することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記画像処理方法は、さらに、前記表示画像生成処理ステップの生成したスクロール表示画像の表示処理を実行する画像表示ステップを有することを特徴とする。
さらに、本発明の第3の側面は、
静止画像に基づくスクロール画像の生成処理を画像処理装置において実行させるコンピュータ・プログラムであり、
静止画像データを入力する画像入力ステップと、
画像処理パラメータを決定するパラメータ決定ステップと、
前記パラメータに基づいて静止画像データに対する画素数変換を行う画素数変換処理ステップと、
前記画素数変換処理ステップにおいて生成された画素数変換画像データに基づいて、画像表示部に出力する出力画像データとしてのスクロール表示画像を生成する表示画像生成処理ステップを有し、
前記画素数変換処理ステップは、
前記スクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を前記パラメータに基づいて実行する空間間引き処理ステップを含み、
前記表示画像生成処理ステップは、
フレーム個別に空間間引き処理の実行されたフレーム画像に基づくスクロール表示画像の生成処理を行うステップであることを特徴とするコンピュータ・プログラムにある。
なお、本発明のコンピュータ・プログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、CDやFD、MOなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なコンピュータ・プログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づく、より詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本発明の一実施例構成によれば、静止画像を表示装置に表示する際、所定のスクロール速度で表示を行なう構成とし、このスクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を実行してフレーム画像を生成して表示部に出力する構成としたので、表示部に表示されるスクロール画像が、視覚系による超解像効果を引き起こし、ユーザ(視覚者)には、表示部の画素数以上の高解像度画像として観察され、高品質な表示画像の提供が可能となる。
以下、図面を参照しながら、本発明の画像処理装置、および画像処理方法、並びにコンピュータ・プログラムの構成について説明する。
本発明の第1の実施例に係る画像処理装置の構成および処理について、図1以下を参照して説明する。図1は、本発明の第1の実施例に係る画像処理装置の構成を示すブロック図であり、静止画像データを入力し、入力静止画像データの画像処理を実行し、ディスプレイ等の画像表示部に表示する画像処理装置を示している。本発明の画像処理装置において、画像入力部11に入力される静止画像は、例えばデジタルカメラなどによって撮影された比較的高解像度の画像データであり、画像を出力する画像表示部4は、例えば入力画像の解像度レベル以下の解像度を持つディスプレイである。
本発明の画像処理装置は、画像入力部11に入力される静止画像データに対して、パラメータ入力部12に入力されるパラメータに基づく画像処理を実行し、画像表示部4に静止画像のスクロール画像を表示する。このスクロール画像が、画像を見るユーザにとって、高解像度画像として観察される画像となる。
図1に示す画像処理装置の構成について説明する。本実施例における画像処理装置は、入力静止画像信号を入力するとともに、画像表示部4に表示するためのスクロール画像の生成処理に必要なパラメータを入力するインターフェース部1、パラメータに基づく画素数変換および出力画像生成を行う画像変換処理部2、画像変換処理部2における画像変換処理を制御する制御部3、画像変換処理部2において生成された画像信号の表示処理を行なう画像表示部4から構成される。
インターフェース部1は、入力静止画像信号を入力する画像入力部11とスクロール画像生成に必要なパラメータを入力するパラメータ入力部12から構成される。画像入力部11は、前述したように、例えばデジタルカメラの撮影画像などの静止画像信号を入力する。
画像入力部11に入力される静止画像は、画像処理装置において規定される内部データ形式の信号に変換される。また、入力画像の解析あるいは入力画像に付属する属性情報の解析によって、静止画像の構成画素数が取得される。画像入力部11において変換された内部データ形式信号は、画像変換処理部2へと出力される。また、画像入力部11において取得された入力静止画像の画素数データは、制御部3へと出力される。
一方、インターフェース部1のパラメータ入力部12には、スクロール画像の生成に必要なパラメータが入力される。これらのパラメータの一部は、後段で説明するユーザインタフェースを介してユーザが任意に設定可能である。
なお、処理に適用するパラメータは、予め、設定されたデフォルトのパラメータを利用する構成としてもよい。予め、設定されたパラメータを利用する場合は、図1に示すパラメータ入力部12は不要となり、制御部3が、パラメータを記憶した記憶部から、必要なパラメータを取得する。あるいは、入力静止画像の画素数情報などに基づいて、最適パラメータを逐次、算出する構成としてもよい。この場合は、図1に示すパラメータ入力部に代わり、パラメータ算出部を構成する。
スクロール画像生成に必要なパラメータは、画像表示部4に表示されるスクロール画像の表示フレーム数や表示フレームレートの他、スクロール画像の構成画素数、スクロール移動速度などがある。これらの詳細については後述する。
本実施例においては、画像表示部4に表示されるスクロール画像の表示フレーム数や表示フレームレートについては設定値を用い、画像表示部4に表示されるスクロール画像の画素数ならびにスクロール移動速度を、パラメータ入力部12から入力する例として説明する。なお、パラメータ入力部12を設けることなく記憶または算出されたパラメータを利用する処理例については、後段で、実施例2として説明する。
パラメータ入力部12に入力されるパラメータは、制御部3に入力される。インターフェース部1内の画像入力部11から出力され、画像変換処理部2へ入力される処理対象となる静止画像信号は、まず画像変換処理部2内の画素数変換処理部21へと入力され、所定の画素数変換処理が行われる。
画素数変換処理部21における画素数変換処理は、
画像入力部11から制御部3へ入力される入力静止画像の画素数、
パラメータ入力部12から制御部3へ入力されるパラメータであるスクロール画像の画素数ならびに移動速度、
これらの各データに基づいて、制御部3の制御に基づいて実行される。
画像変換処理部2内の画素数変換処理部21において画素数変換処理が施された画像信号は、次に、画像変換処理部2内の表示画像生成処理部22に入力される。表示画像生成処理部22では、入力した画像信号に対し、制御部3の制御の下、レンダリング処理が行われ、画像表示部4を構成する表示デバイスが有する画素数と同数の画素データからなる表示画像信号が生成される。
表示画像生成処理部22において生成された画像信号は、表示画像生成処理部22から出力され、画像表示部4に入力されて表示処理が実行される。
画素数変換処理部21および表示画像生成処理部22において行われる画像変換処理は、画像表示部4に対して出力される表示画像の各フレームに対して各々行われる必要があるため、フレーム数に相当する回数分、繰り返し実行される。なお、本実施例におけるフレームとは、画像表示部4が画面を書き換える画像データ単位を示すものであり、1フレームは表示画像生成処理部22において行われる画像変換処理によって画像表示部4に対して出力される1つの画像データに相当する。
本発明の画像処理装置では、入力静止画像を画像表示部4に対して出力する場合、各フレームの表示位置を順次変更し、スクロール画像として表示する処理を実行する。このスクロール表示によって、高品質な高解像度画像の提示を実現する。
画像表示部4は、表示画像生成処理部22が出力した画像信号を受信し、所定のフレームレートで、これを表示する。なお、本発明における画像処理装置は、高フレームレートでの画像表示において高解像度効果が、より顕著となる特徴があるため、画像表示部4は、高フレームレートでの表示が可能な表示デバイスで構成されることが好ましい。
以降、図1の構成ブロックごとに、各ブロックにおける処理の詳細について説明する。
インターフェース部1は、前記の通り、画像入力部11とパラメータ入力部12から構成される。まず、画像入力部11は、画像処理装置の入力である静止画像信号を受信する。この際、入力静止画像は、前述したように、画像処理装置において規定される内部データ形式に変換されるとともに、入力静止画像の構成画素数が読み取られる。画像入力部11における静止画像信号の入力手段については、特に問わない。
例えば、画像入力部11がフラッシュメモリなどのメディア受口部を持ち、使用者が挿入したメディアから入力する手法、あるいは、画像入力部11がUSBなどの外部インターフェースを持ち、それに接続された記憶媒体から入力する方法など、様々なデータ入力構成が適用可能である。
パラメータ入力部12には、スクロール画像の生成に必要なパラメータが入力される。本実施例では、前述したように、スクロール画像の画素数ならびにスクロール移動速度が、ユーザインタフェースを介して入力される。なお、スクロール移動速度とは、後述の画像表示部4において画像が表示される際、スクロール画像が1フレームにつき何画素移動するかを示すフレーム移動速度(画素/フレーム)を示すパラメータである。
パラメータ入力部12における入力手段は、例えば、画像処理装置に設定されたユーザインタフェース(GUI)によって構成される。インターフェース部は、表示デバイス、マウスなどの入力デバイスを持ち、画像処理装置のユーザはこれらの入力デバイスを使用して、スクロール画像のパラメータを入力する。
パラメータ入力を行なうユーザインタフェース(GUI)の構成例を図2に示す。図2に示すように、スクロール画像の画素数として水平方向(width)の画素数(pixels)と垂直方向(height)の画素数(pixels)を設定するスクロール画像画素数設定部15と、スクロール画像のスクロール移動速度(Velocity)として、水平方向(width)の移動速度と、垂直方向(height)の移動速度を設定するスクロール移動速度(Velocity)設定部16を有し、ユーザはこれらの各設定部を利用して、パラメータとしてのスクロール画像の画素数ならびにスクロール移動速度を入力する。
図2に示すユーザインタフェースの例では、スクロール画像の画素数について、テキストボックスにその値を入力できるように、GUIを設計してある。ユーザは、テキストボックスに任意の値を入力することで、スクロール画像の画素数を設定できる。なお、画像の画素数であるため、入力許容値は、正の整数値に限定しておく必要がある。
図2の例におけるGUIは、もう一方のパラメータであるスクロール画像の移動速度については、スクロールバーを用いて入力できるように設計してある。ユーザはマウスなどの入力デバイスを用いてスクロールバーを動かすことで、x軸方向(水平方向)とy軸方向(垂直方向)のそれぞれのスクロール移動速度について、例えば0〜3の4段階で表現された中からいずれかを選択することができる。
この0〜3の4段階の数値は、移動速度について相対的な大きさの順を示す記号であり、実世界における具体的な意味を有するものではない。言い換えれば、この数値は、スクロール画像が1フレームにつき何画素移動するかを直接表現するものではなく、その大小に順番をつけた記号である。そのため、スクロール移動速度について、ユーザがGUI上のスクロールバーにて選択して指定するが、これは実際にスクロール画像が1フレームにつき何画素移動するかを表す「pixel/frame」の単位へと内部的に読み換えられるようにしておく必要がある。
図2に示すユーザインタフェースのスクロール移動速度(Velocity)設定部16に設定された選択肢(0,1,2,3)に対応する実際のスクロール移動速度は、例えば、
0→0(pixel/frame)
1→1.5(pixel/frame)
2→3.0(pixel/frame)
3→4.5(pixel/frame)
の順のように線形増加で設定しても、あるいは、
0→0(pixel/frame)
1→1.6(pixel/frame)
2→1.9(pixel/frame)
3→2.7(pixel/frame)
の順のように非線形増加で設定しても構わない。
また、スクロール移動速度の選択肢は図2に示すユーザインタフェースにおいては、4段階としているが、これを何段階の設定にしても構わない。図2で示したGUIでは、スクロール画像の画素数については任意の値を入力し、移動速度については多岐選択によって入力する例を示したが、両方のパラメータについて任意の値を入力する方式や、両者のパラメータについて多岐選択の入力方式とすることも可能である。
また、パラメータの入力方法に関しては、もちろんのことながら、本実施例のようなGUIを用いた方法以外の方法でも構わない。
画像入力部11に静止画像データは、前述したように内部データ形式信号に変換された後、画像変換処理部2に入力され、画像入力部11において読み取られた入力静止画像の画素数データは制御部3へ入力される。一方、インターフェース部1のパラメータ入力部12に入力された、スクロール画像の画素数ならびにスクロール移動速度のデータは、制御部3に入力される。
以下、画像変換処理部2で行われる処理について説明する。図3は、本実施例における画像変換処理部2の詳細な構成を中心に示したものである。図1を参照して説明した通り、本実施例における画像変換処理部2は画素数変換処理部21および表示画像生成処理部22によって構成される。
画素数変換処理部21は、入力された静止画像信号を記憶するフレームメモリ(FM)211、フレームメモリ(FM)211から静止画像データを入力し、第1の画素数へと画素数変換を行う空間フィルタ処理部212、第1の画素数へ画素数変換のなされた静止画像データを入力して、第2の画素数へと画素数変換を行う空間間引き処理部213によって構成される。
一方、表示画像生成処理部22は、空間間引き処理部213から出力される第2の画素数へと画素数変換された静止画像データを入力し、画像表示部4にて表示可能な画素数の出力画像を生成するレンダリング部221、レンダリング部221の生成したフレーム画像である出力画像の各フレームを記憶するフレームメモリ222から構成される。
インターフェース部1から出力された内部データ形式の静止画像信号は、まず、画像変換処理部2内の画素数変換処理部21に入力される。本実施例における入力静止画像信号は、m×n(pixel)を有しているものとする。すなわち、x(横)方向にm画素、y(縦)方向にn画素の静止画像である。ここでm,nは正の整数である。
また前述の通り、インターフェース部1のパラメータ入力部12には、スクロール画像生成のために必要なパラメータが入力され制御部3へと入力されるが、本実施例では、この制御部3に入力されるパラメータとして、
スクロール画像の画素数:p×q(pixel)、
スクロール画像の移動速度:x軸,y軸方向のスクロール移動速度をそれぞれVx,Vy(pixel/frame)として記述し、以下の説明に用いる。
なお、p,qは正の整数、Vx,Vyは正負を問わない実数である。本実施例において、x軸は右方向を正、y軸は下方向を正と定義する。また、画像表示部4を構成する表示デバイスはi×j(pixel)を有しているものとする。i,jは正の整数である。
画像変換処理部2における一連の画像変換処理の結果として、指定された画素数を持ち、指定された移動速度でスクロールする画像信号が、i×j画素を有する表示デバイスで構成される画像表示部4において表示可能な画像信号として出力される。
なお、画像表示部4で表示可能な表示デバイス構成画素であるi×j画素中で、スクロール画像のp×q画素の外側領域にある画像表示部4の画素については、画像表示部4において画素の発光をさせない。あるいは一様の背景色信号(グレー、ブルーなど)を出力する設定とすることが好ましい。この処理については、後段のレンダリング処理の説明中で説明する。
上述したように、
入力静止画像:m×n画素、
出力スクロール画像:p×q画素、
表示デバイス構成画素:i×j画素、
である。前述したように、本発明の画像処理装置では、低解像度のディスプレイに高解像度の画像表示を実現するものであり、入力静止画像(m×n画素)の画素数が、表示デバイス構成画素(i×j画素)より大きな画素数を持つ場合、効果的に、低解像度デバイスにおいて高解像度画像を提示できる。従って、
本実施例では、上記の各画素数が、以下の条件、すなわち、
m>i>p、かつ
n>j>q
の条件を満たしているものとして説明する。
画素数変換処理部21に入力した静止画像信号は、まず、フレームメモリ211に記憶される。他方、制御部3には、入力静止画像の画素数m×nの値および、スクロール画像の画素数p×qならびにスクロール移動速度Vx,Vyの値が入力されている。
制御部3は、これらスクロール画像を生成するために必要なパラメータの値に基づいて、X方向、Y方向のそれぞれに対し、超解像効果が得られる条件を満たす空間間引き量を決定しておく。以降、この空間間引き量について、X方向の間引き量をDx、Y方向の間引き量Dyとして表わす(Dx,Dyは正の整数)。
例えば、X方向の間引き量をDx=2とは、X方向にある2画素から1画素をサンプリングし、X方向に1/2の圧縮(縮小)を行なうこと意味する。X方向の間引き量をDx=3とは、X方向にある3画素から1画素をサンプリングし、X方向に1/3の圧縮(縮小)を行なうこと意味する。Y方向の間引き量をDy=2とは、Y方向にある2画素から1画素をサンプリングし、Y方向に1/2の圧縮(縮小)を行なうこと意味する。Y方向の間引き量をDy=3とは、Y方向にある3画素から1画素をサンプリングし、Y方向に1/3の圧縮(縮小)を行なうこと意味する。
フレームメモリ211に記憶された静止画像信号は、以下に記述する要領で、制御部3で決定された間引き量を基に、空間フィルタ処理部212と空間間引き処理部213において処理され、変換されることとなる。
なお、超解像効果は、観測者が、ある時間内に複数の画像が加算されたものを知覚するという視覚特性に基づいて実現される視覚的効果である。人の視覚は、受けた光の刺激の総和がある閾値になったときに光を知覚するという機能(時間的積分機能)を有している。これは、ブロックの法則(Bloch's Law)として知られており、人が一定時間内に受けた光を加算して知覚していることを示している。時間的積分機能において加算される時間は、視環境などにより変化するが、およそ25ms乃至100msであるという報告がある。ブロックの法則の詳細については、例えば、"視覚情報ハンドブック,日本視覚学界編,pp.219−220"などに記載されている。なお、本出願人が先に出願した特願2003−412500号には、動画像の圧縮処理において超解像効果をもたらす変換処理を実現した構成について開示している。
以下では、画素数変換処理部21にて行われる空間フィルタ処理と空間間引き処理の関係について説明する。図4は、
(a)画素数変換処理部21への入力画像、すなわち処理対象となる静止画像の画素数m×nと、
(b)空間フィルタ処理部212における空間フィルタ処理後の画像の画素数Dxp×Dyq、および、
(c)空間間引き処理部213における空間間引き処理後の画像の画素数p×q、
これらの画像の関係を表した図である。
画像変換処理部21で行われる画像変換は、
空間フィルタ処理部212において、
画素数m×nの入力画像を、第1の画素数Dxp×Dyqへ画素数変換され、
続いて、空間間引き処理部213において、
第1の画素数Dxp×Dyqから、第2の画素数p×qへと画素数変換される。
このように2ステップでの画素数変換が実行される。
ここで、スクロール画像の移動速度Vx,Vyが、X方向は間引き量Dxにおいて超解像を得ることが可能な条件であり、Y方向は間引き量Dyにおいて超解像を得ることが可能な条件であるとする。
パラメータ入力部12から入力されるスクロール画像の移動速度Vx,Vyに基づいて、超解像効果を得るための空間間引き量Dx、Dyが制御部3において算出され、この空間間引き量Dx、Dyと、最終的に生成する第2の画素数p×qとに基づいて、算出される第1の画素数情報[Dxp×Dyq]が、空間フィルタ処理部212に入力される。
空間フィルタ処理部212は、図4に示すように、入力画像の画素数m×nが、画素数Dxp×Dyqよりも大きい場合、空間間引き処理部213における空間間引き処理を行う前に、空間フィルタ処理により画素数変換を行い、画素数m×nの入力静止画像を第1の画素数Dxp×Dyqへ変換する。
なお、超解像効果を得るための空間間引き量Dx、Dyは、画像の移動速度Vx,Vyに基づいて算出可能な値である。これは、前述のブロックの法則に基づいて算出される値であり、詳細は、例えば、"視覚情報ハンドブック,日本視覚学界編,pp.219−220"、あるいは、前述の特願2003−412500号になどに記載されている。画像の移動速度Vx,Vyと、超解像効果を得るための空間間引き量Dx、Dyとの関係については、後段で説明する。
空間フィルタ処理部212は、空間周波数の帯域制限を行うデジタルフィルタであり、折り返し成分を軽減して制御部3から与えられる所望の画素数Dxp×Dyqに基づいて、画素数m×nの入力画像を、第1の画素数Dxp×Dyqへ画素数変換する。
空間間引き処理部213は、空間フィルタ処理部212から出力される第1の画素数Dxp×Dyqを持つ画像データを第2の画素数p×qの画像へ画素数変換を行なう。ここでの画素数変換は、空間周波数の帯域制限は行わずに、入力画像の構成画素の間引きサンプリングを行なう。したがって、空間間引き処理部の出力画像には折り返し成分が含まれる。
空間間引き処理部213の実行する空間間引き処理例について、図5を参照して説明する。図5は、入力画像を構成する画素ブロックを示している。ブロックが図5(a)に示すように4×4ピクセルで構成されているとき、水平方向の空間間引きは、図5(b)に示すように、水平方向の4画素のうち1つの画素値のみを選択して代表値とする。図5(b)の例では、P00乃至P30の4画素のうちP10のみを代表値(サンプリング点)として有効にする。その他の画素値は無効とする。同様に、P01乃至P31の4画素に対してはP11を代表値(サンプリング点)とし、P02乃至P32の4画素に対してはP12を代表値(サンプリング点)とし、P03乃至P33の4画素に対してはP13を代表値(サンプリング点)とする。
また、垂直方向の空間間引きは、図5(c)に示すように、垂直方向の4画素のうち1つの画素値をサンプリング点として有効とする。図5(c)の例では、P00乃至P03の4画素のうちP01のみをサンプリング点として有効にする。その他の画素値は無効とする。同様に、P10乃至P13の4画素に対してはP11をサンプリング点とし、P20乃至P23の4画素に対してはP21をサンプリング点とし、P30乃至P33の4画素に対してはP31をサンプリング点とする。
空間間引き処理部213は、このような空間方向間引き処理を、静止画像に基づいて生成される複数の連続するフレームの各々について、様々な態様でのサンプリング点設定を行なって実行する。このような空間間引きを行なうことで、画像表示部4において実行されるフレーム画像のスクロール表示画像に超解像効果が得られ、ディスプレイの持つ解像度レベルを超えた解像度の画像表示が可能となる。
空間間引き処理部213の実行する空間間引き処理により、画像は制御部3から与えられる所望の画素数p×qを持つ画像データに変換される。この間引き処理後の画素数p×qの画像を、制御部3に入力されているスクロール移動速度Vx,Vyで表示することで、観察者が知覚できる空間解像度は、超解像効果に基づいて向上する。このとき、観察者によって知覚される空間解像度は、表示画素数p×qのX方向がDx倍、Y方向がDy倍になったDxp×Dyq画素相当となる。
以上の処理例では、超解像効果を得るために必要となる空間間引き量Dx、Dyと、最終的に生成する第2の画素数p×qとに基づいて算出される画素数[Dxp×Dyq]より、入力画像の画素数m×nが大きい場合について、空間フィルタ処理部212における処理によって、第1の画素数:Dxp×Dyq画素に変換してから、空間間引き処理部213における空間間引き処理を実行して、p×q画素へ変換する処理を説明した。
しかし、超解像効果を得るために必要となる空間間引き量Dx、Dyと、最終的に生成する第2の画素数p×qとに基づいて算出される画素数[Dxp×Dyq]より、入力画像の画素数m×nが小さい場合は、空間フィルタ処理部212は、入力画像の拡大処理を実行することになる。
図6に各画像の関係を示す。
図6には、画素数m×nの入力画像、
第1の画素数Dxp×Dyqの画像、
第2の画素数p×qの画像、
の画素構成の対応を示している。
入力画像の画素数m×nは、第1の画素数Dxp×Dyqの画像より小さい。この場合、空間フィルタ処理部212は、入力画像の拡大処理を実行し、
画素数m×nの入力画像を、第1の画素数Dxp×Dyqへ画素数変換を実行する。続いて、空間間引き処理部213において、
第1の画素数Dxp×Dyqから、第2の画素数p×qへ画素数変換を行なう。
このように、この場合も、2ステップでの画素数変換が実行される。
この設定の場合、空間フィルタ処理部212で行われる空間フィルタ処理は、拡大処理を行うことになるため、間引き処理後の画素数p×qの画像を、指定されたスクロール移動速度Vx,Vyで表示することで、観察者が知覚できる空間解像度は、超解像効果に基づいて向上するが、その知覚される空間解像度は、m×n画素相当を超えない。言い換えれば、図6に示すような画像関係、すなわち、m<Dxpかつn<Dyqの場合、間引き処理後のスクロール画像を表示したとき、観察者が知覚できる空間解像度は、m×n画素相当となる。
また、X方向、Y方向のどちらか一方について、入力画像の画素数が、空間フィルタ処理後の第1の画素数よりも小さい場合(m<Dxpまたはn<Dyq)も同様である。m<Dxpかつn≧Dyqの場合、間引き処理後のスクロール画像を表示したとき、観察者が知覚できる空間解像度は、m×Dyq画素相当となる。m≧Dxpかつn<Dyqの場合、Dxp×n画素相当となる。
以下、空間間引き処理部213の実行する空間間引き処理における空間間引き量について説明する。空間間引き処理部213では、前述したように、第1の画素数Dxp×Dyqから、第2の画素数p×qへ画素数変換を行なう。ここで、空間間引き量Dx、Dyは、パラメータ入力部12から入力されるスクロール画像の移動速度Vx,Vyに基づいて、超解像効果を得るための空間間引き量Dx、Dyとして制御部3が算出する値である。この空間間引き量Dx、Dyに基づいて、空間間引き処理部213では、第1の画素数Dxp×Dyqから、第2の画素数p×qへ画素数変換を行なう。
図7は、画像の移動速度と超解像効果が得られる条件を満たす間引き量の関係を表す図である。図7では、簡易に説明する都合上、最大間引き量を4とした場合を例にとっているが、画像処理装置4の表示フレームレートに応じ、超解像効果が得られる条件において、4以上の間引きに適応させる構成としてもよい。
図7中の横軸における移動速度の値は、ユーザがインターフェース部12で入力したスクロール移動速度Vx,Vyのことを、直接指し示すものではない。スクロール移動速度Vx,Vyとは、実際に画像表示部4において画像が表示される際、スクロール画像が1フレームにつき何画素移動するかを指すものであった。これは、全ての画素数変換処理を施された後の画像(これは「間引き処理後の画像」と同義)の移動速度である。一方、図7中の横軸における移動速度の値とは、間引き処理前の画像の移動に相当する速度である。間引き処理後の画像の移動速度がVx,Vyであるとき、この間引き処理前の画像の移動速度は、間引き処理された後の画像の移動速度と間引き量の積の値VxDx,VyDyに相当する。
以降、この間引き処理前の画像の移動速度に相当する速度を、間引き処理前の画像の移動速度Vxo,Vyoと表して説明に用いる。間引き処理前画像の移動速度Vxo,Vyoの単位はpixel/frameである。
Vxo=VxDx,
Vyo=VyDy
となる。
そのため、図7は、X軸方向に移動に関しては、横軸Vxoと縦軸Dxの対応関係を意味するものであり、Y軸方向の移動に関しては、横軸Vyoと縦軸Dyを意味するものである。また、図7中の横軸に示すt1〜t7は、移動速度をA1〜A7の領域に分割する閾値である。以下では、例えば移動速度Vxoがt4≦Vxo<t5の場合には、「VxoがA4の領域にある」と表現する。
以下、図7に示された移動速度と超解像効果が得られる条件を満たす間引き量の関係、および、この間引き量に対する、空間フィルタ処理と空間間引き処理の関係を、説明する。
まず、図7に示す間引き処理前画像の移動速度Vxo,Vyoと、超解像効果が得られる条件を満たす間引き量との関係について説明する。ここでは簡単のため、X方向だけに移動する画像(Vxo≠0)について説明する。この場合には、Y方向の解像度変換は、空間間引き処理部213では実行せず、全て空間フィルタリング処理で行うことになる。この場合Vy=0、Vyo=0である。図7からも、Y方向は、全て空間フィルタリング処理で変換されることがわかる。移動速度Vxoが閾値t1より小さい場合には、超解像効果が得られないことより、間引き量は1となり、空間フィルタ処理のみによって画素数の変換を行うことになる。
次に、間引き処理前画像の移動速度Vxoの各値に対応して実行すべき空間間引き処理部213のx方向の間引き量について、図7を参照して説明する。
(a)移動速度Vxoが、t1≦Vxo<t2、
すなわち、図7に示す領域A1にあるとき、超解像効果を得るための間引き量は2である。
この場合は、まず空間フィルタ処理により2p×q画素に解像度変換し、変換後の画像を、2画素おきにサンプリングする空間間引き処理によりp×q画素に変換する。
(b)移動速度Vxoが、t2≦Vxo<t3、
すなわち、図7に示す領域A2にあるとき、超解像効果を得るための間引き量は3である。
この場合は、まず空間フィルタ処理により3p×q画素に解像度変換し、変換後の画像を、3画素おきにサンプリングする空間間引き処理によりp×q画素に変換する。
(c)移動速度Vxoが、t3≦Vxo<t4、
すなわち、図7に示す領域A3にあるとき、超解像効果を得るための間引き量は4である。
この場合は、まず空間フィルタ処理により4p×q画素に解像度変換し、変換後の画像を、4画素おきにサンプリングする空間間引き処理によりp×q画素に変換する。
(d)移動速度Vxoが、t4≦Vxo<t5、
すなわち、図7に示す領域A4にあるとき、超解像効果を得るための間引き量は3である。
この場合は、まず空間フィルタ処理により3p×q画素に解像度変換し、変換後の画像を、3画素おきにサンプリングする空間間引き処理によりp×q画素に変換する。
その他、移動速度VxoがA5の領域にあるときは、A3の領域にあるときと同様である。移動速度VxoがA6の領域にあるときは、A4の領域にあるときと同様である。移動速度VxoがA7の領域にあるときは、A3の領域にあるときと同様である。このように、図7に示す移動速度の大きさと空間間引き量の関係から、空間フィルタ処理による解像度変換後に出力される画像の画素数が決まることになる。
しかし、本実施例における画素数変換処理において、既知なのは間引き処理後のスクロール移動速度Vxの値であり、間引き量Dxは未知である。したがって、間引き処理前の画像の移動速度Vxo=VxDxは未知である。制御部3は、この条件において、超解像効果が得られる間引き量Dxを決定する必要がある。以下は、その制御部3における間引き量の決定方法について説明する。
まず、ユーザがインターフェース部12において、例えば、先に図2を参照して説明したユーザインタフェース(GUI)を用いて、多岐選択式にスクロール移動速度Vxの値を入力する場合について、間引き量Dxの決定方法を述べる。
この場合は、ユーザがGUIを用いて選択するスクロール移動速度に関して、それぞれの選択肢に対応する、空間間引き量Dxの値を事前に決めておく。前述した通り、空間間引き処理後の画像をスクロール表示したとき、超解像の原理に基づき、観察者が知覚できる空間解像度は、表示画素数と間引き量の積の値の画素相当[Dxp×Dyq](入力画像の画素数を上限として)である。そのため、できるだけ大きな間引き量[Dx,Dy]の値を採用した処理を実行した方が、観察者の知覚できる空間解像度は向上する。
間引き前の画像の移動速度Vxoと間引き量Dxの関係は、図7に示す関係である場合、この例では最大間引き量を4としていた。図7中の領域A3,A5,A7のいずれかの領域に当てはまるように、すなわち、間引き処理前の画像の移動速度Vxo=4Vxの値が、図7中のA3,A5,A7のいずれかの領域に当てはまる範囲内で、スクロール移動速度Vxを決める選択肢を設定しておけば、空間間引き量Dxは常に4とすることができる。
このように、ユーザが多岐選択式にスクロール移動速度の値を入力できる場合、移動速度の選択肢に対応して、間引き量の値を事前に決めておくことができ、この情報を制御部3に持たせておくことで、空間フィルタ処理および空間間引き処理を制御することができる。
すなわち、図7に示す間引き前の画像の移動速度Vxoと間引き量Dxの関係がある場合、
Vxo=t3〜t4,t5〜t6,t7〜
の場合にのみ、x方向の間引き量Dx=4とされるので、
図2に示すユーザインタフェースにおいて設定可能なX方向の速度Vxの許容値として、Vxo=4Vxに基づいて、
a)Vx=(t3〜t4)/4
b)Vx=(t5〜t6)/4
c)Vx=(t7〜)/4
の値のみを設定可能な構成としておくことで、ユーザは、上記a)〜c)のいずれかをX方向のスクロール移動速度Vxとして設定し、この設定に従って、空間方向の間引き量Dx=4を使用した空間方向間引きによって、超解像効果をもたらす間引き画像を生成することができる。Y方向についての間引き量とスクロール移動速度Vxについても同様である。
また、図7に示す間引き前の画像の移動速度Vxoと間引き量Dxの関係がある場合、
Vxo=t3〜t4,t5〜t6,t7〜の場合、x方向の間引き量Dx=4、
Vxo=t1〜t2の場合、x方向の間引き量Dx=2、
Vxo=t2〜t3,t4〜t5,t6〜t7の場合、x方向の間引き量Dx=3、と決定されるので、
a)Vx=(t3〜t4)/4
b)Vx=(t5〜t6)/4
c)Vx=(t7〜)/4
d)Vx=(t1〜t2)/2
e)Vx=(t2〜t3)/3
f)Vx=(t4〜t5)/3
g)Vx=(t6〜t7)/3
の各Vx値のみを設定可能な構成とし、
ユーザの選択したスクロール移動速度Vxが、
上記a)〜c)のいずれかである場合は、空間方向の間引き量Dx=4とし、
上記d)である場合は、空間方向の間引き量Dx=2とし、
上記e)〜g)のいずれかである場合は、空間方向の間引き量Dx=3として処理を実行する構成としてもよい。
例えば、図8に示すようなGUI設定移動速度と、空間間引き量の対応テーブルを保持し、制御部3が、このテーブルに基づいて、ユーザがGUIを介して入力したスクロール移動速度に基づいて、空間方向間引き量を決定し、決定した間引き量に基づいて空間間引き処理部213が間引き処理を実行する構成としてもよい。なお、図8はX方向のスクロール移動速度Vxおよび間引き量Dxの対応を示しているが、Y方向のスクロール移動速度Vyと間引き量Dyについても同様である。
一方、ユーザがインターフェース部12において、任意のスクロール移動速度Vx,Vyの値を入力できる設定とした場合は、制御部3において入力されたスクロール移動速度Vx,Vyに基づいて、間引き量Dx,Dyを算出することになる。空間間引き処理における間引き量は、制御部3に入力されたスクロール移動速度の値に応じて、入力されるスクロール移動速度が変更される都度、制御部3において決定する。
前述の通り、間引き量ができるだけ大きな値を得られる方が、観察者の知覚できる空間解像度は向上する。移動速度と間引き量の関係が図7に示す関係であり最大間引き量を4としたと想定する。
ユーザが入力したX方向のスクロール移動速度の値をVxとして、図7に示す関係データを用いて間引き量Dxを決定する方法を以下に説明する。まず、空間間引き量Dx=4と仮定すると、図7中の横軸に対応するVxoの値は、Vxo=4Vxとなる。
制御部3は、ユーザが入力したX方向のスクロール移動速度の値をVxに基づいて、x方向の間引き量Dx=4の仮定の下、Vxo=4Vxを算出する。ここで、
算出したVxo=4Vxが、間引き量4で超解像効果が得られる移動速度領域、すなわち、図7中におけるA3,A5,A7の領域の範囲内であれば、この仮定が正しいと見なし、間引き量Dxを4として決定する。
すなわち、
Vxo=4Vx=t3〜t4,t5〜t6,t7〜の場合、x方向の間引き量Dx=4として決定する。
また、ユーザが入力したX方向のスクロール移動速度の値をVxに基づいて、算出したVxo=4Vxが、
Vxo=4Vx≠t3〜t4,t5〜t6,t7〜の場合、
x方向の間引き量Dx=4の仮定は、誤りであると判定し、
次に、x方向の間引き量Dx=3の仮定の下、Vxo=3Vxを算出する。ここで、算出したVxo=3Vxが、間引き量3で超解像効果が得られる移動速度領域、すなわち、図7中におけるA2,A4,A6の領域の範囲内であれば、この仮定が正しいと見なし、間引き量Dxを3として決定する。
すなわち、
Vxo=3Vx=t2〜t3,t4〜t5,t6〜t7の場合、x方向の間引き量Dx=3として決定する。
次に、ユーザが入力したX方向のスクロール移動速度の値をVxに基づいて、算出したVxo=3Vxが、
Vxo=3Vx≠t2〜t3,t4〜t5,t6〜t7の場合、
x方向の間引き量Dx=3の仮定は、誤りであると判定し、
次に、x方向の間引き量Dx=2の仮定の下、Vxo=2Vxを算出する。ここで、算出したVxo=2Vxが、間引き量2で超解像効果が得られる移動速度領域、すなわち、図7中におけるA1の領域の範囲内であれば、この仮定が正しいと見なし、間引き量Dxを2として決定する。
すなわち、
Vxo=2Vx=t1〜t2の場合、x方向の間引き量Dx=2として決定する。
次に、ユーザが入力したX方向のスクロール移動速度の値をVxに基づいて、算出したVxo=2Vxが、
Vxo=2Vx≠t1〜t2の場合、
間引き量Dxを1として決定する。間引き量Dx=1となった場合、空間フィルタ処理のみによって画素数の変換を行うことになる。
以上の要領で、仮定する間引き量を最大間引き量から1ずつ小さくしていき、超解像効果の条件が得られる条件に合致した時点で、空間間引き量Dxを決定する。この空間間引き量の決定は制御部3によって行われ、制御部3は決定したこの値を基に、空間フィルタ処理および空間間引き処理を制御する。
以上の空間間引き量の決定処理シーケンスを図9に示すフローチャートを参照して説明する。まず、ステップS101において、変数nを予め定めた最大間引き量として設定する。例えば図7のグラフに示す設定ではn=4とされる。
次に、ステップS102において、ユーザインタフェースを介して入力されたスクロール移動速度Vxに基づいて、Vxo=nVxを算出する。次に、ステップS103において、
Vxo=Vx=間引き量nに対応する移動速度として設定されている?
か否かを判定する。この判定には、例えば図7に示す間引き前の画像の移動速度Vxoと間引き量Dxの関係データを用いる。このデータは例えばテーブル化されて記憶部に格納し、これを適用する。
ステップS103において、
Vxo=Vx=間引き量nに対応する移動速度として設定されている?
の判定かYesである場合、ステップS104に進み、間引き量nを空間間引き処理において適用する間引き量として決定する。
ステップS103において、
Vxo=Vx=間引き量nに対応する移動速度として設定されている?
の判定かNoである場合、ステップS105に進み、
n=n−1
とする変数更新を実行し、ステップS106においてn=1であるか否かを判定し、n=1でない場合は、ステップS102以下の処理を繰り返す。ステップS106においてn=1であると判定された場合は、n=1を間引き量として設定する。
この処理によって、より大きな空間間引き量を正しく優先的に選択して決定する処理が実現される。なお、説明は、X方向の移動速度と、間引き量について行なったが、Y方向の移動速度と、間引き量についても同様に処理が行なわれる。
X方向、Y方向ともに0でない移動速度を持つ場合、X方向、Y方向のそれぞれに対し、図7から空間間引き処理における間引き量を得ることができる。制御部3は、得られた空間間引き量を基に、空間フィルタ処理部212および空間間引き処理部213における画素数変換処理を制御する。
次に、空間間引き処理部213において行われる空間間引き処理について、間引き処理の詳細を説明する。図10は、空間間引き処理における間引き位置を具体的に示した一例である。この図10の例を用いて、間引き処理においてサンプリングされる画素の位置を説明する。
図10(a)は、第k〜k+3フレームの間引き処理前の画像を示し、図10(b)は、第k〜k+3フレームの間引き処理後の画像を示している。図10(a)の第k〜k+3フレームの間引き処理前の画像において、特定の画素が代表画素(サンプリング画素)として抽出され、サンプリング画素のみによって図10(b)の、第k〜k+3フレームの間引き処理後の画像が生成されて出力される。
図10に示す処理画像例においてスクロール移動速度は、ユーザが図2に示すようなGUIを用いて入力したパラメータであり、X、Y方向の指示スクロール移動速度Vx,Vyは、それぞれ、
Vx=2/3(pixel/frame),
Vy=0(pixel/frame)
であるとする。すなわち、X方向にのみ2/3(pixel/frame)で移動するスクロール設定を行ったものとする。
また、空間間引き量は、X方向の移動に対する超解像効果が得られる条件を満たしている値として、Dx=3が選択されているものとする。なお、Vy=0であるため、Dy=0となる。
処理対象としてのm×n画素の静止画像データ信号は、図3に示す空間間引き処理部213に入力される以前に、空間フィルタ処理部212において解像度変換され、Dxp×Dyq画素の画像、すなわち3p×q画素の画像データに変換済みであり、空間間引き処理部213において間引き処理されることにより、p×q画素となる。
このとき、間引き処理前の画像の移動速度Vxoは、
Vxo=VxDx=(2/3)×3=2(pixel/frame)である。
なお、Vy=0であるため、Vyo=0である。
図10を用いて、空間間引き処理部213において実行する空間間引き処理において選択されるサンプリング画素の位置について説明する。間引き処理によりサンプリングされる画素は、移動速度と間引き量の他に、処理画像フレームがスクロール画像の何フレーム目に当たるかに依存する。
図10には、スクロール表示されるk〜k+3の連続する4フレームに対応する画像データを示している。kは正の整数である。図10(a)は、第k〜k+3フレームの間引き処理前の画像において、サンプリングされる画素位置を示している。
各フレームについて、ユーザによって指定されたスクロール移動速度Vxに基づいて算出される間引き処理前の画像の移動速度Vxoで移動しているとの仮定の下に間引き処理が実行される。前述したように、
Vxo=VxDx=(2/3)×3=2(pixel/frame)であるので、フレームが1つ進むごとにX方向に2ピクセル移動させて示している。処理画像は、1つの静止画像であるが、図1に示す画像表示部4に表示される画像は、1つの静止画像に基づいて生成される出力フレーム単位で処理される。
図において、0,1,2,・・8,・・は、それぞれ1つの画素を示している。位置A,B,Cは、X方向の間引き量Dx=3とした場合のサンプリング画素位置を示している。
例えば、図10(a)に示す第kフレームの「間引き処理前の画像」では、位置A,B,Cにある画素、0,3,6番の番号が付けられた画素がサンプリング画素とされる。本処理例では、X方向の間引き量Dx=3であるため、第k,k+1,k+2・・・の各フレーム画像において、X方向にある3画素から1画素のみがサンプル画素として取得される。すなわち、X方向において1/3の画素データのみが選択された圧縮画像が生成されることになる。図に示す例では、
第kフレームでは、サンプリング画素として、画素0,3,6・・が選択され、
第k+1フレームでは、サンプリング画素として、画素1,4,7・・が選択され、
第k+2フレームでは、サンプリング画素として、画素2,5,8・・が選択され、
第k+3フレームでは、サンプリング画素として、画素0,3,6・・が選択されている。
すなわち、各フレームについて、サンプリング画素を変更して、3画素おきにサンプリングしていき、各フレームに対応する「間引き処理後画像」を生成して、空間間引き処理部213から出力する。図10(b)の間引き処理後画像に示すように、
第kフレームの間引き処理後画像は、画素0,3,6・・からなる画像、
第k+1フレームの間引き処理後画像は、画素1,4,7・・からなる画像、
第k+2フレームの間引き処理後画像は、画素2,5,8・・からなる画像、
第k+3フレームの間引き処理後画像は、画素0,3,6・・からなる画像、
として、順次、空間間引き処理部213から出力される。
このサンプリング点の変更を伴う間引き処理は、画像表示部4に出力される画像が一定のスクロール速度で移動する場合に、超解像効果を発生させるための処理である。第kフレームの次の第k+1フレームでは、図10(a)の「間引き処理前の画像」が、第kフレームと比較して、Vxo画素(この例では2pixel)だけX方向に移動していると見なして、画素をサンプリングする。
図10(a)の「間引き処理前の画像」に示す位置Aには、第k+1フレームでは、フレームの移動に伴い画素が存在しないため、位置B,C,Dの順に(画素1,4,7番の順に)3画素おきにサンプリングされ、「間引き処理後の画像」を生成し、空間間引き処理部213から出力する。
次の第k+2フレームでは、「間引き処理前の画像」が、第k+1フレームと比較して、Vxo画素(この例では2pixel)だけX方向に移動していると見なして、画素をサンプリングする。位置Bには、既に画素が存在しないため、位置C,D,Eの順に(画素2,5,8番の順に)3画素おきにサンプリングされ、「間引き処理後の画像」を生成し、空間間引き処理部213から出力する。
次の第k+3フレームでは、「間引き処理前の画像」が、第k+2フレームと比較して、Vxo画素(この例では2pixel)だけX方向に移動していると見なして、画素をサンプリングする。位置C,D,Eの順に(画素0,3,6番の順に)3画素おきにサンプリングされ、「間引き処理後の画像」を生成し、空間間引き処理部213から出力する。
以降、同様の要領で「間引き処理前の画像」が移動速度Vxoで移動していると見なし、スクロール画像の表示に必要な全てのフレームについて間引きサンプリング処理を行い、「間引き処理後の画像」を生成し、空間間引き処理部213から出力する。
図10(b)「間引き処理後の画像」に示す例では、第kフレームと第k+3フレームの出力結果は同じになり、結果的に、以降のフレームでは、3パターンの「間引き処理後の画像」が繰り返し出力されることになるが、移動速度と間引き量の関係に応じて、常にこのような繰り返しのパターンになるわけではない。
図10に示す例では、簡単のためにX方向だけに移動する場合について考えたが、Y方向のみに移動する場合、および、X方向、Y方向ともに0でない移動速度を持つ場合についても、各移動方向に応じて同様の処理が実行されることになる。
また、図10の例では、間引き前の画像に相当する移動速度は、
X方向がVxo=2(pixel/frame)、
Y方向がVyo=0(pixel/frame)であり、
いずれの移動速度も、整数値である例を示したが、Vxo、Vyoの少なくとも一方が整数値でない場合、空間間引き処理はサブピクセル精度の座標で画素値をサンプリングする必要がある。この場合、1ピクセル単位のサンプリングではなく、1ピクセル中の一部、あるいは複数ピクセルから選択されたピクセル領域などを抽出することが必要となる。この場合、ピクセルの持つ画素値を補正することが必要になる場合があるが、この補正画素値を算出する場合は、4近傍線形補間や2近傍線形補間、最近接補間などの補間方法を用いればよい。もちろん補間計算方法としては他の高次や低次の補間方法を用いてもかまわない。
ここまで、画素数変換処理部21において行われる処理について説明した。上述の要領で変換処理を行った結果、p×q画素の出力画像は、指定された移動速度Vx,Vyで画面上をスクロールする画像の各フレームとして表示されたとき、人間の視覚系における超解像の効果を最大限に用いることにより、Dxp×Dyq画素相当の空間解像度(m×n画素相当の空間解像度を上限として)で観察者に知覚される。
空間間引き処理部213から出力されたp×q画素の画像信号は、図3に示すとおり、表示画像生成処理部22内のレンダリング部221に入力される。レンダリング部221では、入力した画像信号に対し、制御部3の制御のもとレンダリング処理が行われ、画像表示部4を構成する表示デバイスが有する画素数と同数の画素を持つ表示画像信号が生成される。
間引き処理後の画像がレンダリング部221に入力される一方、制御部3では、既に制御部3に入力したスクロール移動速度の値、および、レンダリング部221に入力された画像データがスクロール画像の何フレーム目に当たるかに基づいて、画像表示部4のi×j画素中での各フレームの表示位置を決定する。図11は、レンダリング部221におけるレンダリング処理を説明する図である。以下、図11を用いてレンダリング部221におけるレンダリング処理の概要を述べる。
図11には、画像表示部4の構成画素i×j中に表示されるスクロール画像としての連続するフレーk,k+1,k+2の表示位置を示している。図11中の「第kフレーム」として示しているkは、正の整数である。画像表示部4には、第kフレーム、第k+1フレーム、第k+2フレーム・・の順に、同じ静止画像に基づいて、先に図10を参照して説明した異なるサンプリング点からなる画像に基づくレンダリング処理が実行され、これらのフレームが例えば時間t1,t2,t3に、所定のフレームレートに従って連続表示され、静止画像のスクロール表示がなされることになる。異なるサンプリング点を持つ静止画像がスクロール移動速度Vx,Vyでスクロール表示されることで、超解像度効果がもたらされ、高解像度の画像として視覚される。
レンダリング部221では、制御部3によって決定された各フレーム対応の表示位置に従って、入力された画像データをレンダリング処理する。図11に示すように、画像表示部4で表示されるi×j画素中で、スクロール画像のp×q画素の外部の画素については、画像表示部4において画素が発光しない制御、あるいは一律の背景色の出力を行なう設定手とすることが好ましい。
図11は、p×q画素のスクロール画像を、X軸、Y軸方向にそれぞれ、ユーザ設定パラメータであるVx,Vy(pixel/frame)の移動速度で移動させ、レンダリング処理を行う例を示している。各フレームにおけるスクロール画像の位置は、制御部3によって制御される。図11に示すように、
第k+1フレームは、第kフレームの表示位置からX方向にVx、Y方向にVy移動させてレンダリングが行なわれ、第k+2フレームは、第k+1フレームの表示位置からX方向にVx、Y方向にVy移動させてレンダリングが行われる。
また、スクロール画像のp×q画素が画像表示部4のi×j画素中に収まりきらないフレームについては、スクロール画像のp×q画素の一部が表示画像中から欠けることとなるが、表示されている部分における超解像効果に影響はないことから、スクロール画像の一部が欠けたままレンダリング処理を行っても特に問題はない。レンダリング処理の結果、図11に示すような、i×j画素を持つスクロール画像の各フレームを生成する。
レンダリング処理の行なわれる画像は、前述したように、第kフレーム、第k+1フレーム、第k+2フレーム・・の順に、同じ静止画像に基づいて、先に図10を参照して説明した異なるサンプリング点からなる画像データである。これらのフレームが例えば時間t1,t2,t3に、所定のフレームレートに従って指定された移動速度でスクロール表示がなされることで、超解像度効果がもたらされ、高解像度の画像として視覚される。
図12を参照して、スクロール表示がなされる画像データについて説明する。画像表示部4に表示される間引き処理後の画像データの画像表示部4の構成画素i×j画素中での位置は、前述した通り、制御部3において決定される。
図12は、図12(c)として、間引き処理後レンダリング処理画像、すなわち画像表示部4に出力される画像の元画像として生成されるレンダリング画像の位置関係を示す図を、先に説明した図10に付け加えた図である。
以下、レンダリング処理における間引き処理後の画像の位置決定について、具体的に例を挙げて説明する。先に図10を参照して説明した例、すなわち、X方向のみ、空間間引き量Dx=3と設定した場合の間引き処理後のレンダリレング処理によって生成される表示画像の例について説明する。
図10を参照して説明した各フレーム画像に対する間引き処理は、X方向のスクロール移動のみについて考えたものであり、ユーザ指定のスクロール移動速度Vx,Vyは、
Vx=2/3(pixel/frame),
Vy=0(pixel/frame)であり、
X方向の空間間引き量Dxは、
Dx=3である。この場合の、
間引き処理前画像の移動速度Vxo,Vyoは、
Vxo=VxDx=2(pixel/frame)
Vyo=0
である。
図12(a)(b)は、図10(a)(b)と同様、図12(a)は、第k〜k+3フレームの間引き処理前の画像を示し、図12(b)は、第k〜k+3フレームの間引き処理後の画像を示している。図12(a)の第k〜k+3フレームの間引き処理前の画像において、特定の画素が代表画素(サンプリング画素)として抽出され、サンプリング画素のみによって図12(b)の、第k〜k+3フレームの間引き処理後の画像が生成されて出力される。
図12(c)は、上述の条件設定に基づいて空間間引き処理が実行されて抽出されたサンプリング画素がレンダリング処理されて生成される画像である。図12(c)に示すレンダリング画像は、画像表示部4に表示される画像の元画像に相当する。
本処理例では、X方向のスクロール移動速度Vxは、
Vx=2/3(pixel/frame),
と設定されており、各フレーム間で2/3ピクセル移動する画像が出力されることになるが、ディスプレイでは、1画素単位の移動のみが可能であり、
Vx=2/3(pixel/frame),
の設定がなされた場合、3フレーム進む毎に2画素移動するような表示制御がなされることになる。図12(c)に示すレンダリング画像は、
第kフレームから第k+1フレームにおいてX方向に1画素移動し、
第k+1フレームから第k+2フレームにおいてX方向に1画素移動し、
第k+2フレームから第k+3フレームにおいてX方向に0画素移動し、
結果として、第k〜k+3フレームで、2画素の移動を実現しており、
Vx=2/3(pixel/frame),
のスクロールを行なっている。
図12を参照して、図12(a)に示す間引き処理前の画像におけるサンプリング画素位置と図12(b)に示す間引き処理後の画像に基づいて生成される図12(c)のレンダリング画像における画素位置の関係について説明する。
前述した通り、空間間引き処理においては、図12(a)に示すように、「間引き処理前の画像」は、移動速度Vxo(=2pixel/frame)で移動していると見なし、図12(a)に示すように、中の位置A,B,C,D,Eの順に、3画素ごとにサンプリングを行っていた。
例えば、図12(a)に示すように、第kフレームの間引き処理前の画像のサンプリング画素中、最も左にある画素は位置Aにある0番の画素である。「間引き処理前の画像」の図12(a)に示す位置Aの0番のサンプリング画素は、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって、位置Aに対応した位置A'に描きこまれる。このとき、位置Bの3番のサンプリング画素、位置Cの6番のサンプリング画素は、それぞれ、レンダリングによって、位置B',C'に描きこまれる。
次の第k+1フレームにおいては、図12(a)に示すように、位置Aにはサンプリング画素は存在せず、第k+1フレームの間引き処理前画像のサンプリング画素中、最も左にある画素は位置Bにある1番の画素である。「間引き処理前の画像」の図12(a)に示す位置Bの1番のサンプリング画素は、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって位置Bに対応した位置B'に描きこまれる。
同様に、位置Cの4番のサンプリング画素、位置Dの7番のサンプリング画素は、それぞれ、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって位置C',D'に描きこまれる。結果的に、第k+1フレームにおいて、「間引き処理後の画像」がレンダリング処理される際の位置は、第kフレームから1画素移動したことになる。
次の第k+2フレームにおいては、図12(a)に示すように、最も左にあるサンプリング画素は位置Cにある2番の画素である。「間引き処理前の画像」の図12(a)に示す位置Cの2番のサンプリング画素は、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって位置Cに対応した位置C'に描きこまれる。
同様に、位置Dの5番のサンプリング画素、位置Eの8番のサンプリング画素は、それぞれ、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって位置D',E'に描きこまれる。結果的に、第k+2フレームにおいて、「間引き処理後の画像」がレンダリング処理される際の位置は、第k+1フレームから1画素移動したことになる。
次の第k+3フレームにおいては、図12(a)に示すように、最も左にあるサンプリング画素は位置Cにある0番の画素である。「間引き処理前の画像」の図12(a)に示す位置Cの0番のサンプリング画素は、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって位置Cに対応した位置C'に描きこまれる。
同様に、位置Dの3番のサンプリング画素、位置Eの6番のサンプリング画素は、それぞれ、図12(c)のレンダリング処理画像に示すように、レンダリング処理によって位置D',E'に描きこまれる。結果的に、第k+3フレームにおいて、「間引き処理後の画像」がレンダリング処理される際の位置は、第k+2フレームから0画素移動、すなわち同じ位置に設定されることになる。
以上、図12を参照して説明したように、「間引き処理後の画像」がレンダリングされる位置は、「間引き処理前の画像」から画素をサンプリングする位置の移動に応じて、画素単位で移動されることになる。レンダリング部221においてレンダリングされる画像の位置は、制御部3に入力したスクロール移動速度の値のみを基に、制御部3によって決められる。
言い換えれば、空間間引き処理部213の出力は、図12中の「間引き処理後の画像」のみであり、「間引き処理前の画像」が移動速度Vxoで移動していると見なして画素サンプリングした位置、すなわち、図12(a)に示すA,B,C,D,Eの位置データは出力しない。
そのため、図12を用いて説明したような、「間引き処理前の画像」から画素をサンプリングした位置に応じて、「間引き処理後の画像」のレンダリング位置を決めていくことはできない。しかし、レンダリング位置の決定は、「間引き処理前の画像」における画素のサンプリング位置のデータが未知であっても、前記の決定方法と同じ結果を得ることができる。以下、その方法について説明する。
図12(b)に示す第kフレームにおける「間引き処理後の画像」がレンダリング処理されるX方向の位置を、座標x(k)と表す。x(k)は正の整数である。
また、以降、画像の左上隅の座標値が画像の位置を指すものとする。
初期フレーム(フレーム0)における「間引き処理後の画像」がレンダリング処理されるX方向の位置を、座標x(0)と表す。x(0)は正の整数としておく。
このときx(k)は、
x(k)=x(0)+ceiling(Vxk)
となる。ただし、ceiling(Vxk)は、[Vx×k]の値の小数点以下を切り上げたものである。
図12を参照して説明した例において、例えば、第kフレームを初期フレーム(k=0)とした場合、第k+1〜k+3フレーム(1〜3フレーム)におけるx(1)〜x(3)は、
第k+1フレーム:x(1)=x(0)+ceiling((2/3)1)=x(0)+1
第k+2フレーム:x(2)=x(0)+ceiling((2/3)2)=x(0)+2
第k+3フレーム:x(3)=x(0)+ceiling((2/3)3)=x(0)+2
となり、
図12(c)に示すように、
第k+1フレームは、第kフレームから1画素移動した位置にレンダリングされ、
第k+2フレームは、第kフレームから2画素移動した位置にレンダリングされ、
第k+3フレームは、第kフレームから2画素移動した位置にレンダリングされる。結果として、図12(c)に示す位置にレンダリングが実行され、
Vx=2/3(pixel/frame)
のスクロール移動速度に応じた表示がなされることになる。
この処理により、「間引き処理後の画像」がレンダリング処理されるX方向の位置は、スクロール移動速度と、画像がスクロール画像の何フレーム目に当たるかに応じて、「間引き処理前の画像」における画素のサンプリング位置のデータが未知であっても、制御部3にて決定することができる。
なお、図12を参照して説明した処理例は、X方向のスクロール移動のみの場合について考察した例であるが、Y方向のみの移動の場合、またX方向、Y方向に0でない移動速度でスクロールする場合についても同様に、スクロール画像の位置を決定し、レンダリング処理を行うことができる。
以上、レンダリング部221におけるレンダリング処理について説明した。このようなレンダリング処理によって、生成されたi×j画素の画像信号は、フレームメモリ222に入力し、記憶される。フレームメモリ222に記憶された画像信号は、画像表示部4が要求するタイミングに応じて、順次出力され、画像表示部4に入力される。
ここまで、図3に示す画像変換処理部2内の画素数変換処理部21および表示画像生成処理部22における処理を手順に沿って説明したが、これらの処理は最終的に表示される画像のフレーム数だけ繰り返して行われる必要がある。
図13に、画像変換処理部2において行われる空間フィルタ処理、空間間引き処理およびレンダリング処理について、その繰り返し手順を説明するフローチャートを示す。画像変換処理部2に入力された静止画像信号は、表示装置の動作中または入力画像を変更するまでの間中、フレームメモリ211に記憶され続けられる。
ステップS201において、フレームメモリ211に記憶された静止画像は、ステップS202において、空間フィルタ処理部212において空間フィルタ処理が実行される。この処理は、
入力静止画像(m×n画素)をDxp×Dyq画素の画像に変換する処理である。
次に、ステップS203において、空間間引き処理部において、各フレーム画像についての間引き処理が実行される。この処理は、先に図10等を参照して説明した処理であり、
DxP×Dyq画素の画像をp×q画素の画像に変換する処理である。この処理は、サンプリング画素の抽出処理として実行される。
次に、ステップS204において、各フレーム対応のp×q画素の画像に基づくレンダリング処理をレンダリング部221において実行し、ステップS205においてレンダリング画像をフレームメモリ222に記録する。ステップS206では、フレームメモリ222に記録されたフレーム画像を画像表示部4に出力する。
ステップS207では、表示処理が終了したか否かを判定し、継続中である場合は、ステップS202以下の処理を繰り返し実行する。この処理によって、画像表示部には、静止画像に基づく生成画像のスクロール表示が行なわれる。ステップS207において、表示処理が終了と判定すると処理を終了する。
このように、空間フィルタ処理、空間間引き処理およびレンダリング処理は、画像表示部に表示するフレーム画像個別に繰り返し処理として実行される。すなわち、フレームメモリ211から画像信号を受信し、スクロール画像のフレーム数分だけ繰り返して処理が行われる。
また、本実施例における表示装置においては、スクロール画像の画素数ならびにスクロール移動速度の値は一度指定された後は一定である。そのため、空間フィルタ処理部212で行われる空間フィルタリング処理は総てのフレームについて全く同一の処理を行うこととなる。一方、空間間引き処理部213では各フレームにおいて間引き位置が異なるため、各フレームについて別々の処理を行うことになる。
従って、空間フィルタ処理後の画像信号を記録する新たなメモリを設定し、空間間引き処理部213がこのメモリから空間フィルタ処理後の画像を取得して処理を実行する構成とすれば、空間フィルタ処理部の処理を重複して実行することなく、入力静止画像に対する1回の処理とすることができる。
このような処理構成を持つ画像処理装置の構成例を図14に示す。図14は、図3に示した画像変換処理部2の処理ブロックを変更し、空間フィルタ処理の重複処理を避けることを可能とした構成を示したものである。
空間フィルタ処理部212と空間間引き処理部213の間にフレームメモリ214を設け、唯一度、フィルタリング処理した後の画像をフレームメモリ214に記憶するよう変更したことが、図14に示す画像処理装置における特徴である。
図14に示した画像変換処理部2の構成における処理シーケンスを説明するフローチャートである。
ステップS301において、フレームメモリ211に記憶された静止画像は、ステップS302において、空間フィルタ処理部212において空間フィルタ処理が実行される。この処理は、
入力静止画像(m×n画素)をDxp×Dyq画素の画像に変換する処理である。
次に、ステップS303において、フレームメモリ214に空間フィルタ処理画像を格納する。ステップS304では、空間間引き処理部において、フレームメモリ214に格納された空間フィルタ処理画像を取得して、各フレーム画像についての間引き処理を実行する。この処理は、先に図10等を参照して説明した処理であり、
DxP×Dyq画素の画像をp×q画素の画像に変換する処理である。この処理は、サンプリング画素の抽出処理として実行される。
次に、ステップS305において、各フレーム対応のp×q画素の画像に基づくレンダリング処理をレンダリング部221において実行し、ステップS306においてレンダリング画像をフレームメモリ222に記録する。ステップS307では、フレームメモリ222に記録されたフレーム画像を画像表示部4に出力する。
ステップS308では、表示処理が終了したか否かを判定し、継続中である場合は、ステップS304以下の処理を繰り返し実行する。この処理によって、画像表示部には、静止画像に基づく生成画像のスクロール表示が行なわれる。ステップS308において、表示処理が終了と判定すると処理を終了する。
このように、本処理例では、空間フィルタ処理は1回のみでよく、空間間引き処理およびレンダリング処理を、画像表示部に表示するフレーム画像個別に繰り返し処理として実行すればよい。表示画像生成処理部22から出力された画像信号は、各フレームにおいて順次、画像表示部4に入力される。
画像表示部4は、この処理画像を所定のフレームレート、好ましくは高フレームレートで表示する。その結果、超解像効果によって、観察者は画像表示部4中のスクロール画像の画素数p×q画素を越える空間解像度画像を知覚することが可能となる。このとき観察者が知覚できる空間解像度は、上記の空間間引き処理における間引き量と発光領域の画素数との積であるDxp×Dyq画素相当である。ただし、m×n画素相当の空間解像度が上限とされる。
次に、本発明の画像処理装置の第2の実施例について説明する。前述した本発明の画像処理装置の第1の実施例においては、スクロール画像の生成に必要なパラメータとしてのスクロール画像の画素数とスクロール移動速度のデータは、外部から入力される構成であった。
これに対し、第2の実施例の画像処理装置は、超解像効果を得て表示画素数以上の空間解像度を表現できるような条件を満たした、スクロール画像生成のためのパラメータの値を、表示装置の内部において自動で算出する構成を持つ。図16は、本発明の第2の実施例に係る画像処理装置の構成を示す図である。
第1の実施例における画像処理装置の構成(図1)との相違点は、インターフェース部310内にパラメータ入力部を持他図、画像入力部311のみを有することである。図16におけるその他の構成は図1に示す装置とほぼ同様である。制御部330における処理が異なる。
本実施例においては、スクロール画像の画素数およびスクロール移動速度の値を、インターフェース部において外部から入力するのではなく、制御部330において算出する。制御部330内にパラメータ算出部331を有し、画像入力部311において読み取られた静止画像信号の画素数の値を入力とし、超解像効果を得る条件を満たしたスクロール画像の画素数およびスクロール移動速度の値を内部にて算出し、これらをスクロール画像生成のためのパラメータとして用いる。この構成によって、画像変換処理部2内における空間フィルタリング処理および空間間引き処理を制御する。
制御部330のパラメータ算出部331におけるスクロール画像の画素数およびスクロール移動速度の値を決定する一例は以下の通りである。
例えば、入力静止画像がm×nの画素数を持ち、画像表示部4がi×j画素を有する表示デバイスで構成されているとする。m,n,i,jは正の整数であり、m>iかつn>jの条件を満たしているものとする。
まず、制御部330のパラメータ算出部331は、m,nの値をインターフェース部310から受信し、画像変換後に出力されるスクロール画像の発光領域の画素数p×qの値を適当に決定する。p,qは正の整数である。この決定方法は、特に問わないが、m>i>pかつn>j>qの条件を満たし、また画像変換部への入出力間で画像の縦横比が揃うよう、m/n=p/qの条件を満たすp,qの値を決定することが一般的だと考えられる。
制御部330のパラメータ算出部331は、p,qを決定した後、画素数変換処理部2の空間間引き処理部における間引き量Dx,Dyを決定する。Dx,Dyは、超解像効果が得られる条件を満たす間引き量の条件において、最大の間引き量を設定することで、観察者の知覚できる空間解像度は最も向上する。(例えば、図7に示す移動速度と間引き量の対応が成立する場合、Dx=4,Dy=4)さらに、第1の実施例の図7に示す移動速度と間引き量の関係から、既に決定されている間引き量Dx,Dyを用いてスクロール移動速度を決定する。
このように、制御部330のパラメータ算出部331は、第12の実施例で外部入力されていたパラメータであるスクロール画像の画素数およびスクロール移動速度の値を決定する。画素数変換処理部2では、この決定値に基づいて、空間フィルタ処理および空間間引き処理を実行して、超解像効果をもたらす画像データを生成する。これらの処理は、第1の実施例と同様である。
以上、スクロール画像生成のためのパラメータの値を、表示装置の内部において自動的に算出する方法を示したが、前記の方法はその一例であり、本発明の第2の実施例は、他のパラメータ決定方法の存在を否定するものではない。また、本発明の第2の実施例における、スクロール画像の画素数およびスクロール移動速度の値を全て自動で決定する場合を記載したが、第2の実施例は超解像効果により表示画素数以上の空間解像度を表現できるような、スクロール画像のパラメータの一部を決定する場合を含むものである。具体的には、スクロール画像の画素数およびスクロール移動速度のどちらか一方のみを使用者が入力し(GUI上での入力などが考えられる)、使用者によって決定されない他方のパラメータの値を、超解像効果により表示画素数以上の空間解像度を表現できるように、表示装置内部で自動的に決定する方式など、である。これらの場合、表示装置の構成は、第1の実施例にて示した図1と同様、インターフェース部内にパラメータ入力部を持ち得る。
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウエアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトから、コンピュータに無線転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本発明の一実施例構成によれば、静止画像を表示装置に表示する際、所定のスクロール速度で表示を行なう構成とし、このスクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を実行してフレーム画像を生成して表示部に出力する構成としたので、表示部に表示されるスクロール画像が、視覚系による超解像効果を引き起こし、ユーザ(視覚者)には、表示部の画素数以上の高解像度画像として観察され、高品質な表示画像の提供を可能とした画像処理装置が実現される。
本発明の一実施例に係る画像処理装置の構成を示す図である。 パラメータ入力部におけるユーザインタフェースの構成例を示す図である。 本発明の一実施例に係る画像処理装置における画像変換処理部2の構成例を示す図である。 画像変換処理部において実行する画素数変換処理について説明する図である。 空間間引き処理部において実行する空間間引き処理例について説明する図である。 画像変換処理部において実行する画素数変換処理について説明する図である。 空間間引き処理部において実行する空間間引き処理における間引き量について説明する図である。 空間間引き処理部において実行する空間間引き処理における間引き量の決定に適用するテーブルの例について説明する図である。 空間間引き処理部において実行する空間間引き処理における間引き量の決定処理シーケンスについて説明するフローチャートを示す図である。 空間間引き処理部において実行する空間間引き処理の具体例および生成画像について説明する図である。 レンダリング部におけるレンダリング処理を説明する図である。 空間間引き処理部において実行する空間間引き処理、およびレンダリング部におけるレンダリング処理を説明する図である。 画像変換処理部において行われる空間フィルタ処理、空間間引き処理およびレンダリング処理についてのシーケンスを説明するフローチャートを示す図である。 空間フィルタ処理の繰り返し処理を省略可能とした画像変換処理部の構成例を示す図である。 空間フィルタ処理の繰り返し処理を省略可能とした画像変換処理部の処理シーケンスを説明するフローチャートを示す図である。 本発明の第2の実施例に係る画像処理装置について説明する図である。
符号の説明
1 インターフェース部
2 画像変換処理部
3 制御部
4 画像表示部
11 画像入力部
12 パラメータ入力部
15 スクロール画像画素数設定部
16 スクロール移動速度(Velocity)設定部
21 画素数変換処理部
22 表示画像生成処理部
211 フレームメモリ
212 空間フィルタ処理部
213 空間間引き処理部
214 フレームメモリ
221 レンダリング部
222 フレームメモリ
310 インターフェース部
311 画像入力部
330 制御部
331 パラメータ算出部

Claims (21)

  1. 静止画像データを入力する画像入力部と、
    前記静止画像データに対する画素数変換を行う画素数変換処理部と、
    前記画素数変換処理部において生成された画素数変換画像データに基づいて、画像表示部に出力する出力画像データとしてのスクロール表示画像を生成する表示画像生成処理部と、
    前記画素数変換処理および表示画像生成処理を制御する制御部とを有し、
    前記画素数変換処理部は、
    前記スクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を実行する空間間引き処理部を有する構成であり、
    前記表示画像生成処理部は、
    フレーム個別に空間間引き処理の実行されたフレーム画像に基づくスクロール表示画像の生成処理を行う構成であることを特徴とする画像処理装置。
  2. 前記制御部は、
    画像表示部に表示するスクロール画像のスクロール移動速度に基づいて、超解像効果が得られる条件を満たす空間間引き量を決定する処理を実行する構成であり、
    前記空間間引き処理部は、
    前記制御部の決定した空間間引き量に従った空間間引き処理を実行する構成であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記制御部は、
    画像表示部に表示するスクロール画像のスクロール移動速度と、超解像効果が得られる条件を満たす空間間引き量とを対応付けたテーブルに基づいて空間間引き量を決定する処理を実行する構成であり、
    前記空間間引き処理部は、
    前記制御部の決定した空間間引き量に従った空間間引き処理を実行する構成であることを特徴とする請求項1に記載の画像処理装置。
  4. 前記制御部は、
    画像表示部に表示するスクロール画像のスクロール移動速度が、超解像効果が得られる条件を満たす空間間引き量nに対応する速度範囲にあるか否かを、予め定めたnの最大値から順次検証し、より大きな空間間引き量nを、前記空間間引き処理部における間引き量として決定する処理を実行する構成であり、
    前記空間間引き処理部は、
    前記制御部の決定した空間間引き量に従った空間間引き処理を実行する構成であることを特徴とする請求項1に記載の画像処理装置。
  5. 前記画素数変換処理部は、
    空間フィルタ処理部と、空間間引き処理部を有し、
    前記画像入力部に入力する静止画像が画素数m×nの入力画像であり、
    前記画像表示部に出力するスクロール表示画像がp×qの出力画像であり、
    超解像度効果を奏する空間間引き量を、X方向の間引き量Dx、Y方向の間引き量Dyとしたとき、
    前記空間フィルタ処理部は、
    前記画像入力部に入力する画素数m×nの入力画像を画素数Dxp×Dyqの画像に変換する処理を実行し、
    前記空間間引き処理部は、
    前記空間フィルタ処理部の生成した画素数Dxp×Dyqの画像に基づいて、X方向の間引き量Dx、Y方向の間引き量Dyとした空間間引き処理を実行して、画素数p×qの出力画像を生成する構成であることを特徴とする請求項1に記載の画像処理装置。
  6. 前記空間フィルタ処理部の処理画像を格納するメモリを有し、
    前記空間間引き処理部は、
    前記メモリから取得した画素数Dxp×Dyqの画像に基づいて、フレーム個別に空間間引き処理を実行して、画素数p×qの出力画像を生成する処理を実行する構成であることを特徴とする請求項5に記載の画像処理装置。
  7. 前記画像処理装置は、さらに、
    前記スクロール移動速度を含むパラメータを入力するパラメータ入力部を有し、
    前記制御部は、
    前記パラメータ入力部から入力されたスクロール移動速度情報に基づいて前記空間間引き処理部における間引き量の決定処理を行う構成であることを特徴とする請求項1に記載の画像処理装置。
  8. 前記制御部は、
    前記スクロール移動速度を含むパラメータを決定するパラメータ算出部を有し、
    前記パラメータ算出部は、
    前記画像入力部に入力される静止画像の画素数を入力し、超解像効果を得る条件を満たすスクロール画像の画素数およびスクロール移動速度の値を算出し、算出情報に従って、前記空間間引き処理部における間引き量の決定処理を行う構成であることを特徴とする請求項1に記載の画像処理装置。
  9. 前記表示画像生成処理部は、
    フレーム個別に空間間引き処理の実行されたフレーム画像に基づいて、スクロール移動速度に基づくフレーム移動を考慮したフレーム単位のレンダリング処理を実行する構成を有することを特徴とする請求項1乃至8いずれかに記載の画像処理装置。
  10. 前記画像処理装置は、さらに、
    前記表示画像生成処理部の生成したスクロール表示画像の表示処理を実行する画像表示部を有する構成であることを特徴とする請求項1乃至9いずれかに記載の画像処理装置。
  11. 静止画像データを入力する画像入力ステップと、
    画像処理パラメータを決定するパラメータ決定ステップと、
    前記パラメータに基づいて静止画像データに対する画素数変換を行う画素数変換処理ステップと、
    前記画素数変換処理ステップにおいて生成された画素数変換画像データに基づいて、画像表示部に出力する出力画像データとしてのスクロール表示画像を生成する表示画像生成処理ステップを有し、
    前記画素数変換処理ステップは、
    前記スクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を前記パラメータに基づいて実行する空間間引き処理ステップを含み、
    前記表示画像生成処理ステップは、
    フレーム個別に空間間引き処理の実行されたフレーム画像に基づくスクロール表示画像の生成処理を行うステップであることを特徴とする画像処理方法。
  12. 前記パラメータ決定ステップは、
    画像表示部に表示するスクロール画像のスクロール移動速度に基づいて、超解像効果が得られる条件を満たす空間間引き量を決定する処理を実行し、
    前記空間間引き処理ステップは、
    前記パラメータ決定ステップにおいて決定した空間間引き量に従った空間間引き処理を実行することを特徴とする請求項11に記載の画像処理方法。
  13. 前記パラメータ決定ステップは、
    前記画像表示部に表示するスクロール画像のスクロール移動速度と、超解像効果が得られる条件を満たす空間間引き量とを対応付けたテーブルに基づいて空間間引き量を決定する処理を実行し、
    前記空間間引き処理ステップは、
    前記パラメータ決定ステップにおいて決定した空間間引き量に従った空間間引き処理を実行することを特徴とする請求項11に記載の画像処理方法。
  14. 前記パラメータ決定ステップは、
    画像表示部に表示するスクロール画像のスクロール移動速度が、超解像効果が得られる条件を満たす空間間引き量nに対応する速度範囲にあるか否かを、予め定めたnの最大値から順次検証し、より大きな空間間引き量nを、前記空間間引き処理ステップにおける間引き量として決定する処理を実行し、
    前記空間間引き処理ステップは、
    前記制御ステップの決定した空間間引き量に従った空間間引き処理を実行することを特徴とする請求項11に記載の画像処理方法。
  15. 前記画素数変換処理ステップは、
    空間フィルタ処理ステップと、空間間引き処理ステップを有し、
    前記画像入力ステップにおいて入力する静止画像が画素数m×nの入力画像であり、
    画像表示部に出力するスクロール表示画像がp×qの出力画像であり、
    超解像度効果を奏する空間間引き量を、X方向の間引き量Dx、Y方向の間引き量Dyとしたとき、
    前記空間フィルタ処理ステップは、
    前記画像入力ステップにおいて入力する画素数m×nの入力画像を画素数Dxp×Dyqの画像に変換する処理を実行し、
    前記空間間引き処理ステップは、
    前記空間フィルタ処理ステップの生成した画素数Dxp×Dyqの画像に基づいて、X方向の間引き量Dx、Y方向の間引き量Dyとした空間間引き処理を実行して、画素数p×qの出力画像を生成することを特徴とする請求項11に記載の画像処理方法。
  16. 前記画像処理方法は、さらに、
    前記空間フィルタ処理ステップにおける処理画像をメモリに格納するメモリ格納ステップを有し、
    前記空間間引き処理ステップは、
    前記メモリから取得した画素数Dxp×Dyqの画像に基づいて、フレーム個別に空間間引き処理を実行して、画素数p×qの出力画像を生成する処理を実行することを特徴とする請求項15に記載の画像処理方法。
  17. 前記画像処理方法は、さらに、
    前記スクロール移動速度を含むパラメータを入力するパラメータ入力ステップを有し、
    前記パラメータ決定ステップは、
    前記パラメータ入力ステップにおいて入力されたスクロール移動速度情報に基づいて前記空間間引き処理ステップにおいて適用する間引き量の決定処理を行うことを特徴とする請求項11に記載の画像処理方法。
  18. 前記パラメータ決定ステップは、
    前記画像入力ステップにおいて入力した静止画像の画素数を入力し、超解像効果を得る条件を満たすスクロール画像の画素数およびスクロール移動速度の値を算出し、算出情報に従って、前記空間間引き処理ステップにおける間引き量の決定処理を行うことを特徴とする請求項11に記載の画像処理方法。
  19. 前記表示画像生成処理ステップは、
    フレーム個別に空間間引き処理の実行されたフレーム画像に基づいて、スクロール移動速度に基づくフレーム移動を考慮したフレーム単位のレンダリング処理を実行するステップを有することを特徴とする請求項11乃至18いずれかに記載の画像処理方法。
  20. 前記画像処理方法は、さらに、
    前記表示画像生成処理ステップの生成したスクロール表示画像の表示処理を実行する画像表示ステップを有することを特徴とする請求項11乃至19いずれかに記載の画像処理方法。
  21. 静止画像に基づくスクロール画像の生成処理を画像処理装置において実行させるコンピュータ・プログラムであり、
    静止画像データを入力する画像入力ステップと、
    画像処理パラメータを決定するパラメータ決定ステップと、
    前記パラメータに基づいて静止画像データに対する画素数変換を行う画素数変換処理ステップと、
    前記画素数変換処理ステップにおいて生成された画素数変換画像データに基づいて、画像表示部に出力する出力画像データとしてのスクロール表示画像を生成する表示画像生成処理ステップを有し、
    前記画素数変換処理ステップは、
    前記スクロール表示画像を構成するフレーム画像の各々について、スクロール移動速度に応じて決定される超解像度効果を奏する空間間引き量に従った空間間引き処理を前記パラメータに基づいて実行する空間間引き処理ステップを含み、
    前記表示画像生成処理ステップは、
    フレーム個別に空間間引き処理の実行されたフレーム画像に基づくスクロール表示画像の生成処理を行うステップであることを特徴とするコンピュータ・プログラム。
JP2005223985A 2005-08-02 2005-08-02 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Pending JP2007041196A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005223985A JP2007041196A (ja) 2005-08-02 2005-08-02 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
US11/459,515 US7750927B2 (en) 2005-08-02 2006-07-24 Image processing apparatus, image processing method, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005223985A JP2007041196A (ja) 2005-08-02 2005-08-02 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Publications (1)

Publication Number Publication Date
JP2007041196A true JP2007041196A (ja) 2007-02-15

Family

ID=37717269

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005223985A Pending JP2007041196A (ja) 2005-08-02 2005-08-02 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Country Status (2)

Country Link
US (1) US7750927B2 (ja)
JP (1) JP2007041196A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008311981A (ja) * 2007-06-15 2008-12-25 Sony Corp 画像信号処理装置、画像信号処理方法、プログラム、カメラ装置、画像表示装置および画像信号出力装置
WO2019150450A1 (ja) * 2018-01-30 2019-08-08 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および表示画像生成方法

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009093371A1 (ja) * 2008-01-22 2009-07-30 Sharp Kabushiki Kaisha 表示システム、表示制御装置、画像表示装置
JP5242349B2 (ja) * 2008-11-13 2013-07-24 株式会社東芝 画像表示装置
JP5732218B2 (ja) * 2010-09-21 2015-06-10 任天堂株式会社 表示制御プログラム、表示制御装置、表示制御システム、および表示制御方法
JP5782810B2 (ja) * 2011-04-22 2015-09-24 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP6253440B2 (ja) 2014-02-18 2017-12-27 株式会社Screenホールディングス ベクトルデータ処理装置、画像記録システム、ベクトルデータ処理方法およびプログラム
US10410398B2 (en) * 2015-02-20 2019-09-10 Qualcomm Incorporated Systems and methods for reducing memory bandwidth using low quality tiles
JP6724259B2 (ja) * 2017-10-31 2020-07-15 富士フイルム株式会社 操作装置、その作動方法および作動プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5434591A (en) * 1989-12-15 1995-07-18 Hitachi, Ltd. Scrolling method and apparatus in which data being displayed is altered during scrolling
US6043802A (en) * 1996-12-17 2000-03-28 Ricoh Company, Ltd. Resolution reduction technique for displaying documents on a monitor
JP2005173158A (ja) * 2003-12-10 2005-06-30 Sony Corp 画像表示装置および方法、並びにプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3291311B2 (ja) * 1992-03-16 2002-06-10 富士通株式会社 スクロール制御装置およびスクロール表示方法
JP2802049B2 (ja) * 1994-10-25 1998-09-21 アビックス株式会社 スクロール表示装置
JP3312097B2 (ja) * 1996-05-22 2002-08-05 アビックス株式会社 スクロール表示方法および装置
JP2000018856A (ja) 1998-06-30 2000-01-18 Showa Alum Corp ヒートパイプの検査装置および検査方法
JP2003256187A (ja) * 2001-12-25 2003-09-10 Canon Inc 画像表示装置及び画像表示方法
US20030137525A1 (en) * 2002-01-24 2003-07-24 Smith Randall B. Method and apparatus for facilitating motion-coupled magnification
JP3722097B2 (ja) * 2002-07-15 2005-11-30 株式会社デンソー 画像表示装置
US7454707B2 (en) * 2002-09-30 2008-11-18 Canon Kabushiki Kaisha Image editing method, image editing apparatus, program for implementing image editing method, and recording medium recording program
TWI259972B (en) * 2005-02-05 2006-08-11 Via Tech Inc Apparatus capable of improving the quality of scrolling image with scaling and method of the same

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5434591A (en) * 1989-12-15 1995-07-18 Hitachi, Ltd. Scrolling method and apparatus in which data being displayed is altered during scrolling
US6043802A (en) * 1996-12-17 2000-03-28 Ricoh Company, Ltd. Resolution reduction technique for displaying documents on a monitor
JP2005173158A (ja) * 2003-12-10 2005-06-30 Sony Corp 画像表示装置および方法、並びにプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008311981A (ja) * 2007-06-15 2008-12-25 Sony Corp 画像信号処理装置、画像信号処理方法、プログラム、カメラ装置、画像表示装置および画像信号出力装置
US8548272B2 (en) 2007-06-15 2013-10-01 Sony Corporation Image signal processing apparatus, image signal processing method, camera apparatus, image display apparatus, and image signal output apparatus
WO2019150450A1 (ja) * 2018-01-30 2019-08-08 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および表示画像生成方法
JPWO2019150450A1 (ja) * 2018-01-30 2021-01-14 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および表示画像生成方法
US11450036B2 (en) 2018-01-30 2022-09-20 Sony Interactive Entertainment Inc. Image processing apparatus and display image generating method

Also Published As

Publication number Publication date
US7750927B2 (en) 2010-07-06
US20070030359A1 (en) 2007-02-08

Similar Documents

Publication Publication Date Title
JP2007041196A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP6381215B2 (ja) 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム
KR101295649B1 (ko) 화상처리장치, 화상처리방법, 및 기억매체
KR20080022399A (ko) 영상 생성 장치 및 방법
CN104067310A (zh) 显示图像的改进
JP2004094247A (ja) デルタ構造ディスプレイでのカラー映像の表現方法及びその装置
US8948502B2 (en) Image processing method, and image processor
TWI592903B (zh) Image processing device, image processing method and program
JP6527641B2 (ja) 画像処理装置および重畳画像生成方法
JP2008146190A (ja) 解像度変換装置、解像度変換方法、解像度変換プログラム及び画像表示システム
JP2007017615A (ja) 画像処理装置,画像処理方法及びプログラム
JP5289540B2 (ja) 画像処理装置、及び画像処理方法
JP2006203444A (ja) 背景画像生成装置及び背景画像生成プログラム
US10553004B2 (en) Method and apparatus for processing image and recording medium storing program therefor
JP2016090906A (ja) 画像処理装置、画像処理方法及びプログラム
JP2009008945A (ja) 画像信号処理装置、画像信号処理方法およびプログラム
JP2014147047A (ja) 画像処理装置、方法、及びプログラム、並びに撮像装置
JP6866181B2 (ja) 画像処理装置、その制御方法、画像処理装置を備える表示装置、プログラム、および記憶媒体
JP6854629B2 (ja) 画像処理装置、画像処理方法
JP2005115011A (ja) 画像表示装置、画像表示方法、画像表示プログラムおよびこのプログラムを記録した記録媒体
JP2013168902A (ja) 画像処理装置、表示装置および画像処理方法
JP2011142410A (ja) 画像処理装置
JP6276537B2 (ja) 画像処理装置、及び画像処理方法
JP2004153322A (ja) 画像信号処理装置
JP6357980B2 (ja) 画像処理装置、デジタルカメラおよび画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120619

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121106