JP2010108390A - 画像処理装置及びプログラム - Google Patents

画像処理装置及びプログラム Download PDF

Info

Publication number
JP2010108390A
JP2010108390A JP2008281982A JP2008281982A JP2010108390A JP 2010108390 A JP2010108390 A JP 2010108390A JP 2008281982 A JP2008281982 A JP 2008281982A JP 2008281982 A JP2008281982 A JP 2008281982A JP 2010108390 A JP2010108390 A JP 2010108390A
Authority
JP
Japan
Prior art keywords
display area
image
area
detection target
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008281982A
Other languages
English (en)
Other versions
JP4737270B2 (ja
Inventor
Yukiyo Uehori
幸代 上堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2008281982A priority Critical patent/JP4737270B2/ja
Priority to US12/432,800 priority patent/US8411933B2/en
Priority to CN2009101375916A priority patent/CN101727872B/zh
Publication of JP2010108390A publication Critical patent/JP2010108390A/ja
Application granted granted Critical
Publication of JP4737270B2 publication Critical patent/JP4737270B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】表示装置に備えられた画面の大きさよりも表示する画像が大きい場合に、画像要素の境界を表示領域の境界に一致させつつ、画像の一部を表示させる。
【解決手段】表示領域内の画像の一部から、さらにその一部を検出対象領域として、当該検出対象領域に含まれる画像要素の境界を検出し、検出した境界を画定する辺のうち一つを選択する。表示領域を変更する指示を受け入れて、選択された辺が表示領域の一辺に一致する位置まで、表示領域を変更する制御を行う画像処理装置である。
【選択図】図1

Description

本発明は、画像処理装置及びプログラムに関する。
入力手段と、ドキュメントデータを格納するデータ格納部と、表示手段に表示したドキュメントの表示状態の変更を制御する表示変更制御部と、ドキュメント内の表示対象領域を取得する対象領域取得処理部と、表示手段に表示する表示領域の変更を行う表示領域変更処理部とを備え、入力手段によって表示領域の変更が指示された場合、対象領域取得処理部によってドキュメント内の表示対象領域を取得し、表示領域変更処理部によって、取得した表示対象領域にあわせて表示手段に表示するドキュメント位置を変更するようにしたものであり、簡単な表示領域変更指示操作によって、表示手段に、表示対象領域を順に表示することができるドキュメント閲覧装置が特許文献1に開示されている。
特開2005−165506号公報
表示装置に備えられた画面の大きさよりも表示する画像が大きい場合に、画像要素の境界とは無関係に表示領域を変更するものと比較して、表示領域より大きい画像要素のより多くの部分が表示領域に含まれるようになるよう表示領域を変更させる。
請求項1記載の発明は、画像処理装置であって、処理の対象となる画像の一部を表示領域として抽出する手段と、前記表示領域内の画像の一部から、さらにその一部を検出対象領域として、当該検出対象領域に含まれる画像要素の境界を検出する検出手段と、前記検出した境界を画定する辺のうち一つを選択する選択手段と、前記表示領域を変更する指示を受け入れて、前記選択された辺が前記表示領域の一辺に一致する位置まで、前記表示領域を変更させる制御を行う変更制御手段と、を含むこととしたものである。
請求項2記載の発明は、請求項1記載の画像処理装置であって、前記検出手段は、前記検出対象領域又は前記表示領域外の画像の一部に予め定めた外部検出対象領域に含まれる画像要素の境界を検出し、前記選択手段は、前記検出対象領域又は前記外部検出対象領域から検出した境界を画定する辺のうち一つを選択し、前記変更制御手段は、前記表示領域を変更する指示を受け入れて、前記選択された辺が前記表示領域の一辺に一致する位置まで、前記表示領域を変更させる制御を行うこととしたものである。
請求項3記載の発明は、請求項1または2記載の画像処理装置であって、前記選択手段は、前記画像要素が複数の文字を含む場合に、当該文字の読みの方向に関連して、当該画像要素の境界を画定する辺ごとに予め定めた優先順位に従い、前記辺を選択することとしたものである。また、請求項4記載の発明は、請求項1または2記載の画像処理装置であって、前記選択手段は、前記画像要素が複数の文字を含む場合に、より先に読まれる文字のある側の辺をそれ以外の辺より優先させて前記辺を選択することとしたものである。
請求項5記載の発明は、プログラムであって、コンピュータを、処理の対象となる画像の一部を表示領域として抽出する手段と、前記表示領域内の画像の一部から、さらにその一部を探索領域として、当該探索領域に含まれる画像要素の境界を検出する検出手段と、前記検出した境界を画定する辺のうち一つを選択する選択手段と、前記表示領域を変更する指示を受け入れて、前記選択された辺が前記表示領域の一辺に一致する位置まで、前記表示領域を変更させる変更制御手段と、として機能させることとしたものである。
請求項1、5記載の発明によれば、画像要素の境界とは無関係に表示領域を変更するものと比較して、表示領域より大きい画像要素のより多くの部分が表示領域に含まれるようになるよう表示領域を変更させることができる。
請求項2記載の発明によれば、画像要素の境界とは無関係に表示領域を変更するものと比較して、表示領域より大きい画像要素のより多くの部分が表示領域に残るよう表示領域を変更させることができる。
請求項3記載の発明によれば、複数の画像要素の境界が検出されたときに、文字の読みの方向に関連した優先順位に従って辺を選択することで、当該処理を行わない場合に比べ、読むべき文字がより多く、表示領域に含まれることとなるよう、表示領域を変更できる。
請求項4記載の発明によれば、より先に読まれる文字のある側の辺をそれ以外の辺より優先させない場合と比較して、表示領域を変更させた結果、新たな画像要素が表示領域に含まれることとなった場合に、当該新たな画像要素中の文字のうち、より先に読まれる文字が表示領域に含まれている割合を上げることができる。
本発明の実施の形態について図面を参照しながら説明する。本実施の形態の画像処理装置1は、図1に例示するように、制御部11と、記憶部12と、操作部13と、表示部14とを基本的に含んで構成される。
制御部11は、CPU(Central Processing Unit)等のプログラム制御デバイスであり、記憶部12に格納されたプログラムに従って動作する。この制御部11は、表示処理の対象となる画像の一部、表示部14に表示可能なサイズの領域を表示領域として抽出する。また、この制御部11は、表示領域を変更する指示を受け入れて、表示領域を移動する。本実施の形態のある例では、この制御部11は、表示処理の対象となる画像に含まれる画像要素の境界を移動目標として検出し、当該移動目標が表示領域の予め定めた位置に一致するよう移動する。この制御部11の詳しい処理の内容については後に述べる。
記憶部12は、制御部11によって実行されるプログラムを保持している。このプログラムは、CD−ROM(Compact Disc-Read Only Memory)やDVD−ROM(Digital Versatile Disc-Read Only Memory)などのコンピュータ可読な記録媒体に格納されて提供され、この記憶部12に複写されたものであってもよい。
操作部13は、キーボードなどであり、利用者から表示領域を上側、下側、左側、または右側へ変更する指示を受けて、当該指示の内容を制御部11に出力する。表示部14は、ディスプレイ等であり、制御部11から入力される指示に従って画像の少なくとも一部を表示する。
本実施の形態の制御部11は、記憶部12に格納されたプログラムを実行するものであり、機能的には、図2に例示するように、前処理部21と、検出対象領域画定部22と、境界検出部23と、移動目標設定部24と、表示領域変更部25と、表示領域抽出部26と、表示処理部27と、を含んで構成される。
前処理部21は、文字列領域における読みの方向の情報を取得する。ここで読みの方向は、例えば利用者からの指定を受けて取得してもよいし、文字列領域に含まれる文字種に基づいて利用言語を判定し、当該判定の結果得られた利用言語の情報に対して予め関連づけられている読みの方向の情報を取得することとしてもよい。この読みの方向は例えば行内の文字の配列方向(「左から右」)と、行の配列方向(「上から下」)とによって設定される。
検出対象領域画定部22は、表示領域の移動方向の指示を利用者から受けて、当該指示された移動方向に基づいて、処理の対象となっている画像のうち、現在の表示領域の内部または表示領域の外周に少なくとも一つの検出対象領域を画定する。ここで検出対象領域を表示領域内部に画定するときには、検出対象領域画定部22は必ずしも表示領域の全体を検出対象領域とする必要はなく、指示された移動方向に基づいて表示領域の一部を検出対象領域として画定してもよい。
例えば表示領域が、左上座標(x,y)から右下座標(x+w,y+h)で表される矩形の領域であるとするとき、検出対象領域画定部22は予め定められた幅方向の検出対象領域比率rxと、高さ方向の検出対象領域比率ryとを記憶部12等から取得する。そして表示領域の移動の指示に従って、その移動方向に基づき、検出対象領域を画定する。
一例として左または右方向に移動の指示がされた場合は、検出対象領域画定部22は、図3(a)に示すように、
左上座標(x,y+(1−ry)×h/2)、右下座標(x+w,y+(1+ry)×h/2)
で表される矩形領域(以下、領域Ixと呼ぶ)を検出対象領域として画定する。
また、上または下方向に移動の指示がされた場合は、検出対象領域画定部22は、図3(b)に示すように、
左上座標(x+(1−rx)×w/2,y)、右下座標(x+(1+rx)×w/2,y+h)
で表される矩形領域(以下、領域Iyと呼ぶ)を検出対象領域として画定する。
さらに検出対象領域画定部22は、表示領域の外に検出対象領域を画定してもよい。この場合、移動前の表示領域と移動後の表示領域とで、少なくとも一部が重なり合うよう、表示領域の外周、(x−w,y−h)から(x+w,y+h)までの矩形の領域内に検出対象領域を画定する。具体的に検出対象領域画定部22は、右方向に移動する指示を受けた場合、図3(c)に例示するように、(x+w+Δx,y+(1−ry)×h/2)から(x+2w,y+(1+ry)×h/2)までの領域(以下、領域IIxrと呼ぶ)を画定してもよい。
また、検出対象領域画定部22は、左方向に移動する指示を受けた場合、図3(c)に例示するように、(x−w,y+(1−ry)×h/2)から(x−Δx,y+(1+ry)×h/2)の領域(以下、領域IIxlと呼ぶ)を画定してもよい。
境界検出部23は、処理対象となっている画像に含まれる画像要素の境界を検出する。ここで画像要素の境界は、次のように定める。すなわち、本実施の形態の画像処理装置1において表示の処理の対象となる画像は、一般には図4に例示するように、文字列領域や、絵柄の領域、線画の領域など複数の画像要素を含んで構成される。
そこで境界検出部23は、処理の対象となる画像を例えば二値化し、連続している黒画素部分を検出し、各連続黒画素に外接する外接矩形を検出し、さらに外接矩形が一部重なり合う場合や、連続黒画素がそのサイズなどから文字と推定される場合に両外接矩形が予め定めた距離未満にある場合は、当該重なり合う両外接矩形や近接する両外接矩形にさらに外接する外接矩形を検出していくという方法で、各領域の外接矩形を検出する。このような領域の外接矩形を検出する方法は、例えばレイアウト処理などにおいて知られている方法を採用しても構わないので、ここでの詳しい説明を省略する。
境界検出部23は、検出した外接矩形を構成する各辺の線分を境界として、各境界を表す線分の情報(例えば両端の座標情報)を、図5(a)に例示するように、記憶部12に格納する。
移動目標設定部24は、境界検出部23が検出した境界のうち、検出対象領域画定部22が画定した領域に含まれる境界を抽出する。ここで移動目標設定部24は、抽出された境界が複数ある場合は、予め定めた条件(例えば移動量が最も小さくなるものなどといった移動量に係る条件等)に従って、そのうちの一つを移動目標として設定する。
表示領域変更部25は、移動目標設定部24が設定した移動目標の境界の情報を取得する。そして、当該境界の情報と、利用者からの移動方向の指示とに従って、移動目標となった境界が表示領域の一辺に一致する位置まで、表示領域を変更する。例えば利用者から指示された移動方向が左または右であって、移動目標設定部24が移動目標として設定した境界線のX座標がξであるとすると、表示領域変更部25は、変更前の表示領域の左上隅座標を(x,y)、変更後の表示領域の左上隅座標を(x′,y′)として、
(x′,y′)=(ξ,y)(表示領域の左辺に合わせる場合)または
(x′,y′)=(ξ−w,y)(表示領域の右辺に合わせる場合)
と変更する。ここでwは、表示領域の幅を表す。
なお、移動目標を、表示領域の左隅、または右隅のどちらに合わせるかは、移動目標である境界を検出した検出対象領域に応じて定めればよい。すなわち、
(1)右方向への移動が指示されているときに、表示領域内に画定された検出対象領域から見いだされた移動目標については、表示領域の左辺に合わせる、
(2)右方向への移動が指示されているときに、表示領域外に画定された検出対象領域から見いだされた移動目標については、表示領域の右辺に合わせる、
(3)左方向への移動が指示されているときに、表示領域内に画定された検出対象領域から見いだされた移動目標については、表示領域の右辺に合わせる、
(4)左方向への移動が指示されているときに、表示領域外に画定された検出対象領域から見いだされた移動目標については、表示領域の左辺に合わせる
こととすればよい。これらのことは、上下方向への移動の場合も同様(「左」を「上」、「右」を「下」と読み替える)である。
表示領域抽出部26は、表示の処理の対象となった画像から、表示領域として設定された領域に含まれる画像の一部を抽出して、表示処理部27に出力する。なお、初期的には表示領域の左上隅座標(x,y)を例えば、画像の左上隅座標(0,0)に一致させておくこととしてもよい。表示処理部27は、表示領域抽出部26が抽出した画像を表示部14に出力して表示させる。
[辺ごとの優先順位]
また、画像要素の境界を画定する辺については、処理対象となった画像の外周との距離と、文字列の読みの方向とに基づいて、次のように優先順位を定めてもよい。一例として、境界検出部23は、次のようにして、検出した各辺の優先順位を定める。
境界検出部23は、検出した辺の一つを注目辺として選択する。そして当該注目辺が、画像要素の境界としての外接矩形の左側辺、上側辺、右側辺、下側辺のどれに対応するかを調べる。また、境界検出部23は、前処理部21で検出された文字列の読みの方向を参照し、より先に読まれる文字のある側の辺(左から右、上から下方向に読まれる場合は、左側辺と上側辺)について初期的に優先順位を「2」、そうでない辺については初期的に優先順位を「3」と定める。
次に境界検出部23は、注目辺がX軸方向とY軸方向とのどちら向きであるかを調べる。これは両端の座標を比較することで調べればよい。そしてX軸方向に伸びている場合、すなわち注目辺が例えば、
(Xa,Y)、(Xb,Y)
を各端点とする線分である場合、Y<H/2であるか否かを調べる。ここでHは、処理対象の画像の縦方向の高さを表す。
ここで、Y<H/2であれば、(Xa,0)を左上隅、(Xb,Y)を右下隅とする矩形を仮想的に画定し、この仮想的に画定した矩形内に、他の線分が一部でも含まれているか否かを調べる。ここで、他の線分が一部でも含まれていない場合は、注目辺が画像の外周に最も近い線分であると判断して、注目辺の優先順位を「1」と設定する。
また、Y≧H/2であれば、(Xa,Y)を左上隅、(Xb,H)を右下隅とする矩形を仮想的に画定し、この仮想的に画定した矩形内に、他の線分が一部でも含まれているか否かを調べる。ここで、他の線分が一部でも含まれていない場合は、注目辺が画像の外周に最も近い線分であると判断して、注目辺の優先順位を「1」と設定する。
同様に、注目辺がY軸方向に伸びている場合、すなわち注目辺が例えば、
(X,Ya)、(X,Yb)
を各端点とする線分である場合、X<W/2であるか否かを調べる。ここでWは、処理対象の画像の縦方向の高さを表す。
そしてX<W/2であれば、(0,Ya)を左上隅、(X,Yb)を右下隅とする矩形を仮想的に画定し、この仮想的に画定した矩形内に、他の線分が一部でも含まれているか否かを調べる。ここで、他の線分が一部でも含まれていない場合は、注目辺が画像の外周に最も近い線分であると判断して、注目辺の優先順位を「1」と設定する。また、X≧W/2であれば、(X,Ya)を左上隅、(W,Yb)を右下隅とする矩形を仮想的に画定し、この仮想的に画定した矩形内に、他の線分が一部でも含まれているか否かを調べる。ここで、他の線分が一部でも含まれていない場合は、注目辺が画像の外周に最も近い線分であると判断して、注目辺の優先順位を「1」と設定する。
境界検出部23は、こうして判断した各辺の優先順位の情報を、各辺の両端の座標を表す情報に関連づけて記憶部12に格納する(図5(b))。一例として、図4に示した画像について各辺の優先順位の情報を設定した例を図6に示す。図6では、画像の外周に最も近い各辺について優先順位「1」(図では実線で表す)、優先順位「1」でない辺であって、読みの方向からして、より先に読まれる文字が配される左ないし上側の辺を優先順位「2」(図では破線で表す)、そしてそれ以外の辺を優先順位「3」(図では一点鎖線で表す)としている。
このように各辺に優先順位が付される場合、検出対象領域画定部22は、優先順位との関係において、検出対象領域を画定することとしてもよい。この例では、検出対象領域画定部22は、探索する辺の優先順位の指定を受けて検出対象領域を画定する。
以下、画定する検出対象領域の例について説明するが、以下の例では、文字列が、行内で左から右に配列され、各行が上から下に配列されているとする。
[優先順位「1」の探索を行う検出対象領域の画定]
優先順位「1」の辺について検出対象領域の画定を行う場合、検出対象領域画定部22は、指示された移動方向によって画定する検出対象領域を異ならせる。
具体的に右方向に移動する指示がされた場合、検出対象領域画定部22は、検出対象領域として図3(a)または図3(c)に示した領域Ixまたは領域IIxrを画定する。また左方向へ移動する指示がされた場合は、図3(a)に示した領域Ixを画定する。また、この左方向へ移動する指示がされた場合は、図3(a)に示した領域Ixとともに、領域IIxlを画定してもよい。
さらに、上方向に移動する指示がされた場合は、図3(b)に示した領域Iyを画定する。また、この上方向に移動する指示がされた場合は、領域Iyとともに、領域IIyuを画定してもよい。さらに、下方向に移動する指示がされた場合は図3(b)に示した領域Iyと、図7に示す領域IIydとを画定する。
[優先順位「2」の探索を行う検出対象領域の画定]
また、検出対象領域画定部22は、優先順位「2」の辺について検出対象領域の画定を行う場合も、指示された移動方向によって画定する検出対象領域を異ならせる。
具体的に、右方向への移動指示がされた場合、検出対象領域画定部22は、図3(c)に示した領域IIIを画定する。なお、領域IIIは、表示領域内にあり、座標(x+Δx,y+(1−ry)×h/2)から(x+w,y+(1+ry)×h/2)の範囲の領域である。
また左方向へ移動する指示がされた場合は、検出対象領域画定部22は、図3(c)に示した領域IIxlを画定する。
さらに上方向への移動指示がされた場合は、検出対象領域画定部22は、図7に示した検出対象領域IIyuを、下方向に移動する指示がされた場合は、図7に示した検出対象領域IIIyと、検出対象領域IIydとを画定する。
[優先順位「3」の探索を行う検出対象領域の画定]
さらに、検出対象領域画定部22は、優先順位「3」の辺について検出対象領域の画定を行う場合も、指示された移動方向によって画定する検出対象領域を異ならせる。
具体的に、右方向への移動指示がされた場合、検出対象領域画定部22は、図3(c)に示した領域IIxrを画定する。また下方向に移動する指示がされた場合は、図7に示す検出対象領域IIydとを画定する。さらに優先順位「3」の辺について検出対象領域の画定を行う場合、左または上方向への移動指示がされた場合は、検出対象領域を画定しない。
以上をまとめると、移動方向ごとに、次の表のように検出対象領域の画定の処理が行われることとなる。
Figure 2010108390
なお、この表の通り、本実施の形態の画像処理装置1は、表の左側の検出対象領域から順に検出対象領域を順次画定し、移動目標となる辺を検出する処理を行ってもよい。その場合、同じ優先順位1の辺でも、現在の表示領域に含まれる辺が優先的に検出されることとなる。
[移動目標設定部の動作]
さらに辺ごとに優先順位が定められる場合、移動目標設定部24は、次のように動作する。
移動目標設定部24は、利用者が行った移動指示を受けて、図8に例示する処理を開始し、移動指示に係る移動方向の情報と、優先順位「1」の検出対象領域を画定するべき旨の情報とを検出対象領域画定部22に出力して、優先順位「1」の検出対象領域を画定させる(S1)。
移動目標設定部24は、画定された検出対象領域の内部に含まれている優先順位「1」の辺の情報を列挙する(S2)。そして移動目標設定部24は、列挙された辺の数が「0」でないか(画定された検出対象領域の内部に含まれている優先順位「1」の辺が少なくとも一つあったか)否かを調べ(S3)、辺の数が「0」でなければ、列挙された辺の情報と、現在の表示領域の情報とを参照して、各辺に表示領域の端部を一致させる場合の各移動量を算出する(S4)。そして算出した移動量が最も小さくなる辺の情報を、表示領域変更部25に出力し(S5)、処理を終了する。
一方、移動目標設定部24は処理S3において、列挙された辺の数が「0」であれば(画定された検出対象領域の内部に含まれている優先順位「1」の辺が一つもなかったならば)、優先順位「2」の検出対象領域を画定するべき旨の情報を検出対象領域画定部22に出力して、優先順位「2」の検出対象領域を画定させる(S6)。
移動目標設定部24は、画定された検出対象領域の内部に含まれている優先順位「2」の辺の情報を列挙する(S7)。そして移動目標設定部24は、列挙された辺の数が「0」でないか(画定された検出対象領域の内部に含まれている優先順位「2」の辺が少なくとも一つあったか)否かを調べ(S8)、辺の数が「0」でなければ、処理S4に移行して処理を続ける。
また、移動目標設定部24は処理S8において、列挙された辺の数が「0」であれば(画定された検出対象領域の内部に含まれている優先順位「2」の辺が一つもなかったならば)、優先順位「3」の検出対象領域を画定するべき旨の情報を検出対象領域画定部22に出力して、優先順位「3」の検出対象領域を画定させる(S9)。
移動目標設定部24は、画定された検出対象領域の内部に含まれている優先順位「3」の辺の情報を列挙する(S10)。そして移動目標設定部24は、列挙された辺の数が「0」でないか(画定された検出対象領域の内部に含まれている優先順位「3」の辺が少なくとも一つあったか)否かを調べ(S11)、辺の数が「0」でなければ、処理S4に移行して処理を続ける。
また処理S11において、列挙された辺の数が「0」であれば(画定された検出対象領域の内部に含まれている優先順位「3」の辺が一つもなかったならば)、移動量を予め定めた値に設定し(S12)、利用者から指示された移動方向の情報と、設定した移動量の情報とを、表示領域変更部25に出力して、指示された移動方向に予め定められた移動量だけ、表示領域を変更させ(S13)、処理を終了する。
なお、上記の処理では、優先順位「1」の辺の検出対象領域として、常に領域Ixないし領域Iy(表示領域内部に含まれる検出対象領域)を含めているが、表示領域が、処理対象となった画像の端部(例えば移動方向として指定された方向とは反対側の端、具体的に右方向の移動指示があった場合は左端)にある場合にのみ、領域IxまたはIyを検出対象領域に含めるように、それ以外はIxまたはIyの代わりに、IIIxまたはIIIyを含めるようにしてもよい。これは領域Ixまたは領域Iyに優先順位「1」の辺が含まれるのは、多くの場合、画像の端部に表示領域があることに基づく。
また、処理S4における移動量の算出は、次のようにして行う。すなわち、(1)右方向への移動が指示されているときに、表示領域内に画定された検出対象領域(領域Ix又はIIIx)から見いだされた移動目標については、表示領域の左辺に合わせるため、見いだした移動目標である辺のx座標Xtargetと、現在の表示領域の左辺のx座標XLcurrentとの差の絶対値、|Xtarget−XLcurrent|を移動量として算出する。
同様に、(2)右方向への移動が指示されているときに、表示領域外に画定された検出対象領域(領域IIxr)から見いだされた移動目標については、表示領域の右辺に合わせるため、見いだした移動目標である辺のx座標Xtargetと、現在の表示領域の右辺のx座標XRcurrentとの差の絶対値、|Xtarget−XRcurrent|を移動量として算出する。
また(3)左方向への移動が指示されているときに、表示領域内に画定された検出対象領域から見いだされた移動目標については、表示領域の右辺に合わせるため、見いだした移動目標である辺のx座標Xtargetと、現在の表示領域の右辺のx座標XRcurrentとの差の絶対値、|Xtarget−XRcurrent|を移動量として算出する。
さらに(4)左方向への移動が指示されているときに、表示領域外に画定された検出対象領域から見いだされた移動目標については、表示領域の左辺に合わせるため、見いだした移動目標である辺のx座標Xtargetと、現在の表示領域の右辺のx座標XRcurrentとの差の絶対値、|Xtarget−XRcurrent|を移動量として算出する。
上下方向の移動の場合も同様に、(1)下方向への移動が指示されているときに、表示領域内に画定された検出対象領域(領域Iy又はIIIy)から見いだされた移動目標については、表示領域の上辺に合わせるため、見いだした移動目標である辺のy座標Ytargetと、現在の表示領域の上辺のy座標YUcurrentとの差の絶対値、|Ytarget−YUcurrent|を移動量として算出する。
また、(2)下方向への移動が指示されているときに、表示領域外に画定された検出対象領域(領域IIyd)から見いだされた移動目標については、表示領域の下辺に合わせるため、見いだした移動目標である辺のy座標Ytargetと、現在の表示領域の下辺のy座標YDcurrentとの差の絶対値、|Ytarget−YDcurrent|を移動量として算出する。
また(3)上方向への移動が指示されているときに、表示領域内に画定された検出対象領域から見いだされた移動目標については、表示領域の下辺に合わせるため、見いだした移動目標である辺のy座標Ytargetと、現在の表示領域の下辺のy座標YDcurrentとの差の絶対値、|Ytarget−YDcurrent|を移動量として算出する。
さらに(4)上方向への移動が指示されているときに、表示領域外に画定された検出対象領域から見いだされた移動目標については、表示領域の上辺に合わせるため、見いだした移動目標である辺のy座標Ytargetと、現在の表示領域の上辺のy座標YUcurrentとの差の絶対値、|Ytarget−YUcurrent|を移動量として算出する。
なお、ここまでの説明では、文字列の配列の方向(読みの方向)が、行内では左から右へ、行単位では上から下へと配列される場合を例としていたが、読みの方向が異なる場合は、「左」または「上」とあるのを、それぞれ、より早く読まれる文字がある方向、「右」または「下」とあるのを、それぞれ、より後に読まれる文字がある方向に置き換えればよい。
以上のように構成された本実施の形態の画像処理装置1は、次に例示するように動作する。以下の例では図9に例示するような画像を表示処理の対象とする場合を例として説明する。この図9の例では、文字列は行内では左から右へ、行単位では上から下へ配列される。また図9においては、各画像要素の境界を外接矩形として示しており、各境界の辺において優先順位が付された状態を表している。すなわち、優先順位「1」の辺は実線、優先順位「2」の辺は破線、優先順位「3」の辺は一点鎖線で示している。
本実施の形態の画像処理装置1は、この図9に例示した画像を処理の対象として受け入れて、当初は、その左上隅に表示部14の画素数(幅w画素、高さh画素)に等しい表示領域(幅w×高さhの領域)を設定する(図10のR1)。そしてこの表示領域R1内の画像の一部が表示部14に表示される。ここで利用者が表示領域の右方向への移動操作を行うと、表示領域R1中に設定された検出対象領域Rs1(R1における領域Ix)中に画像要素の外接矩形Q1及びQ2における優先順位「1」の辺が含まれることとなる。
画像処理装置1は、右方向への移動操作が行われ、表示領域中に画定された検出対象領域から見いだされた辺から移動目標を設定するので、表示領域の左辺と移動目標とを一致させることになり、表示領域R1の左辺と、移動目標の候補である外接矩形Q1の左辺までの距離r1と、表示領域R1の左辺と、移動目標の候補である外接矩形Q2の左辺までの距離r2とを比較する。そして、より距離r1がr2よりも短いので、表示領域の左辺を外接矩形Q1の左辺に一致させる。これにより、表示領域をR2へ移動する。そしてこの表示領域R2内の画像の一部が表示部14に表示される。
これにより図11に示すように、表示部14には表示領域R1における表示内容が、表示領域R2における表示内容に移行する(S11)。また以下、右方向への移動指示が行われるごとに(画像の端部にあるときにのみ、領域Ixを画定する場合)、検出対象領域を画定して優先順位「1」から「3」の辺を探索する。例えば表示領域R2においては、その領域Ix内に、外接矩形Q4の優先順位「1」の辺(左辺)が見出され、外接矩形Q2の左辺が表示領域の左辺に一致する位置まで右方向への移動を行う(S12)。ここでさらに右方向への移動指示が行われると、同じく領域Ix内に外接矩形Q4の優先順位「2」の辺(左辺)が見いだされ、外接矩形Q4の左辺が表示領域の左辺に一致する位置まで右方向への移動が行われる(不図示)。
さらに右方向への移動指示が行われると、図10の画像の最上部にある矢印の画像に外接する矩形の左辺R(優先順位「1」)が検出対象領域IIxr内に見いだされ、当該左辺Rが表示領域の左辺に一致する位置まで右方向への移動が行われる(図11のS13)。
また、表示領域が図10のR3にあるときに、右方向への移動操作が行われると、優先順位「1」の辺を探索するために画像処理装置1は検出対象領域Rs2(R3における領域IIxr)を画定する(画像の端部にあるときにのみ、領域Ixを画定する場合)。しかしながら画像処理装置1は、検出対象領域Rs2内に優先順位「1」の辺が含まれず、さらに表示領域R3における領域IIIx(不図示)に優先順位「2」の辺が含まれないので、検出対象領域Rs2から優先順位「3」の辺を探索する。
そして画像処理装置1は、外接矩形Q3の右辺(優先順位「3」の辺)を見いだす。つまり右方向へ移動する指示がされた場合に、表示領域の外部から見いだした辺に表示領域の辺を一致させることになるため、外接矩形Q3の右辺に表示領域の右辺を一致させ、表示領域をR4に移動する。そしてこの表示領域R4内の画像の一部が表示部14に表示される。
また、表示領域が図12のR5にあるときに、上方向への移動操作が行われると、検出対象領域Rs3内に優先順位「2」の辺が含まれるので、この優先順位「2」の辺に、表示領域の上辺側を一致させるべく、画像処理装置1は表示領域をR6へ移動する。そしてこの表示領域R6内の画像の一部が表示部14に表示される。
同様に、表示領域R7内の画像の一部が表示されているときに、下方向への移動操作が行われると、R7における検出対象領域IIIyにQ5の優先順位「2」の辺が見出されるため、Q5の上辺に表示領域の上辺を一致させるべく、表示領域を移動する(移動後の表示領域R8)。そしてこの表示領域R8内の画像の一部が表示部14に表示される。
[変形例]
また表示領域が、表示処理の対象である画像の右端にあるときに、さらに右方向への移動指示の操作が行われたときには、表示領域を画像の左端に戻すとともに、下方向へ予め定めた移動量だけ移動させてもよい。このようにすると、右方向への移動操作を繰り返すことで、スキャンライン順に(左から右へ一ライン移動し、下のラインの左端へ移動する順)移動することになる。
さらに、利用者からの操作を繰り返し受けることなく、予め定められたタイミングごとに右方向への移動操作を受けたこととして処理を行ってもよい。
ここまでの説明では、移動指示の操作が例えばキーの押下などによって行われるものとして説明したが、移動指示の操作は、例えば表示部14に重ね合わせられたタッチパネルなどでペンや指などの接触を検出して、移動指示を受け入れてもよい。また操作部13が、例えばタッチパネルなどにおける押圧の強度を検出できる場合、当該検出した強度に応じて、検出対象領域の位置や大きさを変化させてもよい。例えば押圧強度が強いほど、移動量が大きくなるように、検出対象領域の面積を大きくするなどしてもよい。
また、ここでは表示部14の画素数に応じたサイズの表示領域を定めることとしていたが、拡大縮小率rを設定して、表示部14の画素数(幅w、高さh)に対し、表示領域のサイズを幅[rw]、高さ[rh]と設定してもよい。ここに[*]は、括弧内にある数値を超えない最大の整数、または当該数値に最も近い整数を表すものとする。
さらにこの拡大縮小率rは、移動目標となった辺を含む外接矩形に含まれる画像要素のサイズに応じて表示領域が移動するごとに定めても構わない。
[表示領域の表示]
さらに、本実施の形態においては利用者の指示により、画像全体と、画像上に設定された表示領域の外周線とを表示し(図13)、利用者の表示領域の移動操作に応じて、表示領域を移動する処理を行って、移動先の表示領域を表す外周線を描き直してもよい(S21)。この場合、利用者が外周線で表された表示領域を拡大表示するべき旨の指示を行うと、外周線で囲まれた表示領域内の画像を表示部14に表示させることとしてもよい(S22)。
[サーバにより実現する例]
以上の説明では、画像処理装置1自体が、操作部13や表示部14を備える例について述べてきたが、本実施の形態は、この態様に限られるものではない。例えば、本実施の形態の画像処理装置1は、図示しない通信部を備えて、操作部及び表示部を備えた携帯電話や端末など(以下、端末側装置と呼ぶ)から、利用者の指示操作の内容を受信して、表示領域を変更する処理を行い、端末側装置に対して変更後の表示領域を表す情報を送信してもよい。
この場合、本実施の形態の画像処理装置1は、例えば端末側装置に対して処理の対象となる画像情報を送信する。また、表示領域を表す情報を送信して、当該情報で決定される表示領域内の画像を端末側装置で抽出して表示させてもよい(表示領域抽出部26と表示処理部27としての処理は行わない)。
また、別の態様では、端末側装置においては、処理の対象となった画像情報の全体を必ずしも保持しなくてもよい。すなわち、この別の態様では、本実施の形態の画像処理装置1は、端末側装置から受信した指示により表示領域を表す情報を生成し、当該生成した情報で決定される表示領域内の画像を、処理の対象となった画像情報から抽出する。そして当該抽出した画像を、端末側装置へ送信して表示させる(表示処理部27としての処理を行わず、抽出された画像の一部を端末側装置へ送信する)。
本発明の実施の形態に係る画像処理装置の例を表す構成ブロック図である。 本発明の実施の形態に係る画像処理装置の例を表す機能ブロック図である。 本発明の実施の形態に係る画像処理装置が定める検出対象領域の例を表す説明図である。 本発明の実施の形態に係る画像処理装置の処理の対象の画像例を表す説明図である。 本発明の実施の形態に係る画像処理装置が生成する辺の情報の例を表す説明図である。 本発明の実施の形態に係る画像処理装置が生成する辺の情報の概要を表す説明図である。 本発明の実施の形態に係る画像処理装置が定める検出対象領域の別の例を表す説明図である。 本発明の実施の形態に係る画像処理装置の処理例を表すフローチャート図である。 本発明の実施の形態に係る画像処理装置の動作例を説明するための画像の例を表す説明図である。 本発明の実施の形態に係る画像処理装置の動作例を表す説明図である。 本発明の実施の形態に係る画像処理装置における画像の表示例を表す説明図である。 本発明の実施の形態に係る画像処理装置の動作例を表すまた別の説明図である。 本発明の実施の形態に係る画像処理装置の別の動作例を表す説明図である。
符号の説明
1 画像処理装置、11 制御部、12 記憶部、13 操作部、14 表示部、21 前処理部、22 検出対象領域画定部、23 境界検出部、24 移動目標設定部、25 表示領域変更部、26 表示領域抽出部、27 表示処理部。

Claims (5)

  1. 処理の対象となる画像の一部を表示領域として抽出する手段と、
    前記表示領域内の画像の一部から、さらにその一部を検出対象領域として、当該検出対象領域に含まれる画像要素の境界を検出する検出手段と、
    前記検出した境界を画定する辺のうち一つを選択する選択手段と、
    前記表示領域を変更する指示を受け入れて、前記選択された辺が前記表示領域の一辺に一致する位置まで、前記表示領域を変更させる制御を行う変更制御手段と、
    を含むことを特徴とする画像処理装置。
  2. 前記検出手段は、前記検出対象領域又は前記表示領域外の画像の一部に予め定めた外部検出対象領域に含まれる画像要素の境界を検出し、
    前記選択手段は、前記検出対象領域又は前記外部検出対象領域から検出した境界を画定する辺のうち一つを選択し、
    前記変更制御手段は、前記表示領域を変更する指示を受け入れて、前記選択された辺が前記表示領域の一辺に一致する位置まで、前記表示領域を変更させる制御を行う
    ことを特徴とする請求項1記載の画像処理装置。
  3. 前記選択手段は、前記画像要素が複数の文字を含む場合に、当該文字の読みの方向に関連して、当該画像要素の境界を画定する辺ごとに予め定めた優先順位に従い、前記辺を選択することを特徴とする請求項1または2記載の画像処理装置。
  4. 前記選択手段は、前記画像要素が複数の文字を含む場合に、より先に読まれる文字のある側の辺をそれ以外の辺より優先させて前記辺を選択する
    ことを特徴とする請求項1または2記載の画像処理装置。
  5. コンピュータを、
    処理の対象となる画像の一部を表示領域として抽出する手段と、
    前記表示領域内の画像の一部から、さらにその一部を検出対象領域として、当該検出対象領域に含まれる画像要素の境界を検出する検出手段と、
    前記検出した境界を画定する辺のうち一つを選択する選択手段と、
    前記表示領域を変更する指示を受け入れて、前記選択された辺が前記表示領域の一辺に一致する位置まで、前記表示領域を変更させる変更制御手段と、
    として機能させることを特徴とするプログラム。
JP2008281982A 2008-10-31 2008-10-31 画像処理装置及びプログラム Expired - Fee Related JP4737270B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008281982A JP4737270B2 (ja) 2008-10-31 2008-10-31 画像処理装置及びプログラム
US12/432,800 US8411933B2 (en) 2008-10-31 2009-04-30 Image processing apparatus, image processing method and computer-readable medium
CN2009101375916A CN101727872B (zh) 2008-10-31 2009-05-18 图像处理装置和图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008281982A JP4737270B2 (ja) 2008-10-31 2008-10-31 画像処理装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2010108390A true JP2010108390A (ja) 2010-05-13
JP4737270B2 JP4737270B2 (ja) 2011-07-27

Family

ID=42131482

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008281982A Expired - Fee Related JP4737270B2 (ja) 2008-10-31 2008-10-31 画像処理装置及びプログラム

Country Status (3)

Country Link
US (1) US8411933B2 (ja)
JP (1) JP4737270B2 (ja)
CN (1) CN101727872B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5885398B2 (ja) * 2011-05-20 2016-03-15 キヤノン株式会社 画像処理装置、画像処理方法
WO2014046039A1 (ja) * 2012-09-19 2014-03-27 富士フイルム株式会社 撮像装置及び合焦確認表示方法
JP6054508B2 (ja) * 2013-02-28 2016-12-27 株式会社東芝 表示処理装置、表示処理方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6299789A (ja) * 1985-10-28 1987-05-09 株式会社日立製作所 図面のスクロ−ル表示方式
JP2005165506A (ja) * 2003-12-01 2005-06-23 Matsushita Electric Ind Co Ltd ドキュメント閲覧装置およびドキュメント閲覧方法ならびに情報記録媒体
JP2006209553A (ja) * 2005-01-28 2006-08-10 Kyocera Corp 表示装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5420693A (en) * 1991-04-01 1995-05-30 Canon Kabushiki Kaisha High-speed color image processing
DE69721424T2 (de) * 1996-09-30 2004-05-06 Kabushiki Kaisha Toshiba, Kawasaki Vorrichtung und Verfahren zum Edieren einer graphischen Benutzerschnittstelle
US5973692A (en) * 1997-03-10 1999-10-26 Knowlton; Kenneth Charles System for the capture and indexing of graphical representations of files, information sources and the like
US6313822B1 (en) * 1998-03-27 2001-11-06 Sony Corporation Method and apparatus for modifying screen resolution based on available memory
CN1148674C (zh) 1999-05-13 2004-05-05 松下电器产业株式会社 移动体通信文本处理装置及该装置的画面显示方法
EP1398726B1 (en) * 2002-09-11 2008-07-30 Samsung Electronics Co., Ltd. Apparatus and method for recognizing character image from image screen
JP2004133733A (ja) 2002-10-11 2004-04-30 Sony Corp 表示装置および方法、並びにプログラム
JP2004178163A (ja) * 2002-11-26 2004-06-24 Matsushita Electric Ind Co Ltd 画像処理方法及びその装置
JP2004223110A (ja) * 2003-01-27 2004-08-12 Nintendo Co Ltd ゲーム装置、ゲームシステムおよびゲームプログラム
WO2005041029A2 (en) * 2003-10-24 2005-05-06 Matsushita Electric Industrial Co., Ltd. Remote operation system, communication apparatus remote control system and document inspection apparatus
US7327349B2 (en) 2004-03-02 2008-02-05 Microsoft Corporation Advanced navigation techniques for portable devices
JP2006203463A (ja) 2005-01-19 2006-08-03 Matsushita Electric Ind Co Ltd 画像表示方法、画像撮像方法、及び画像合成方法
JP2007226597A (ja) 2006-02-24 2007-09-06 Sharp Corp 画像表示装置、コンピュータプログラム、記録媒体、情報処理装置、及び画像表示方法
JP2007233871A (ja) * 2006-03-02 2007-09-13 Fuji Xerox Co Ltd 画像処理装置、コンピュータの制御方法及びプログラム
WO2008091768A2 (en) * 2007-01-22 2008-07-31 Global Crypto Systems Methods and systems for digital authentication using digitally signed images
JP5288928B2 (ja) * 2008-08-04 2013-09-11 キヤノン株式会社 画像処理装置及びその制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6299789A (ja) * 1985-10-28 1987-05-09 株式会社日立製作所 図面のスクロ−ル表示方式
JP2005165506A (ja) * 2003-12-01 2005-06-23 Matsushita Electric Ind Co Ltd ドキュメント閲覧装置およびドキュメント閲覧方法ならびに情報記録媒体
JP2006209553A (ja) * 2005-01-28 2006-08-10 Kyocera Corp 表示装置

Also Published As

Publication number Publication date
US8411933B2 (en) 2013-04-02
CN101727872B (zh) 2013-11-20
US20100111425A1 (en) 2010-05-06
JP4737270B2 (ja) 2011-07-27
CN101727872A (zh) 2010-06-09

Similar Documents

Publication Publication Date Title
CN104391666B (zh) 便携式信息终端、显示控制方法和程序
US10909308B2 (en) Information processing apparatus, information processing method, and program
US20110242137A1 (en) Touch screen apparatus and method for processing input of touch screen apparatus
US20140143721A1 (en) Information processing device, information processing method, and computer program product
US8582894B2 (en) Electronic apparatus and character string recognizing method
JP5318924B2 (ja) 画像表示装置、画像表示方法、画像表示プログラム、及びそのプログラムを記録するコンピュータ読み取り可能な記録媒体
US8897594B2 (en) Image reader, mobile terminal apparatus, and non-transitory computer readable medium
JP2007025958A (ja) プレビュー表示装置及びプレビュー表示方法及びプレビュー表示プログラム
US10684772B2 (en) Document viewing apparatus and program
JP5629509B2 (ja) 情報処理装置、情報閲覧装置、情報処理方法、およびプログラム
JP2005141603A (ja) 携帯端末の文字認識における処理対象選択方法および携帯端末
JP4737270B2 (ja) 画像処理装置及びプログラム
JP2009116825A (ja) 情報処理装置、及び情報処理方法
JP2014056389A (ja) 文字認識装置、文字認識方法及びプログラム
JP2011076173A (ja) 文字入力装置、文字入力方法および文字入力プログラム
JP2009294848A (ja) 情報表示装置及びプログラム
JP6156740B2 (ja) 情報表示装置及び入力情報補正プログラム並びに入力情報補正方法
US8520030B2 (en) On-screen marker to assist usability while scrolling
JP6476144B2 (ja) 画面差異確認支援装置、画面差異確認支援方法、及びプログラム
KR101069843B1 (ko) 수식 연산 방법 및 장치
JP2018185569A (ja) 情報処理装置、表示制御プログラム及び表示制御方法
JP2013097646A (ja) 情報処理装置及びその方法
US20230367473A1 (en) Ink data generation apparatus, method, and program
JP7337520B2 (ja) 情報処理装置、情報処理装置の制御方法、プログラム、および記憶媒体
JP4890425B2 (ja) マンガのコマ画像のためのマスク画像の作成方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110418

R150 Certificate of patent or registration of utility model

Ref document number: 4737270

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees