JP4442112B2 - 画像表示装置及び画像ぶれ防止方法 - Google Patents

画像表示装置及び画像ぶれ防止方法 Download PDF

Info

Publication number
JP4442112B2
JP4442112B2 JP2003112006A JP2003112006A JP4442112B2 JP 4442112 B2 JP4442112 B2 JP 4442112B2 JP 2003112006 A JP2003112006 A JP 2003112006A JP 2003112006 A JP2003112006 A JP 2003112006A JP 4442112 B2 JP4442112 B2 JP 4442112B2
Authority
JP
Japan
Prior art keywords
image
image display
display device
user
display position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003112006A
Other languages
English (en)
Other versions
JP2004317813A (ja
Inventor
徹 倉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003112006A priority Critical patent/JP4442112B2/ja
Priority to US10/820,701 priority patent/US20040208394A1/en
Publication of JP2004317813A publication Critical patent/JP2004317813A/ja
Application granted granted Critical
Publication of JP4442112B2 publication Critical patent/JP4442112B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen

Description

【0001】
【発明の属する技術分野】
本発明は、画像表示装置及び画像ぶれ防止方法に関し、特に、移動しながら使用することを前提とした携帯端末に適用して好適なものに関する。
【0002】
【従来の技術】
今日、移動しながら使用することを前提とした携帯端末として、高精細な画像表示装置を備えた携帯電話やPDAやモバイル型パーソナルコンピュータや携帯型ゲーム機が広く普及しつつあり、これらは電車や車のような移動する乗り物内での待ち時間に利用される機会が非常に多い。
【0003】
ところがこれらの機器を、移動する乗り物内で利用しようとすると、乗り物自体の振動により、表示画像がぶれて見えるため、細かい情報が表示された画像を凝視することが困難になる、という問題があった。
【0004】
この問題はただ単に、画像情報を見ることが困難になるというだけでなく、眼精疲労やストレスを招き、場合によっては乗り物酔いを引き起こすことにも繋がるため、かなり以前から問題視されている。
【0005】
従来、画像表示装置の画像ぶれを軽減するための技術としては、例えば、角速度センサのような振動検知手段で画像表示装置本体の振動を検知し、その検知結果から画像位置補正量を計算して、元画像の座標にこの画像位置補正量を加えた値を画像信号として液晶表示デバイスのような画像表示部に送ることが提案されている(例えば、特許文献1参照)。
【0006】
一方、携帯端末を電車内等で利用しようとすると、他人から画面を覗き込んで情報を盗み見られるという問題がある。従来、この問題を軽減するための技術としては、画面の視認角度を狭めるためのプライバシーフィルタが提案されている。
【0007】
【特許文献1】
特開2002−123242公報(段落番号0014〜0016、図3及び図4)
【0008】
【発明が解決しようとする課題】
しかし、上記特許文献1に記載の技術は、画像表示装置本体の振動の検知結果に基づいて画像の表示位置を補正するものであるため、画像表示装置とユーザの目との相対位置関係が変化しない場合(ユーザの頭の揺れ方と画像表示装置の揺れ方とが全く一致している場合)にはユーザからみた画像ぶれが軽減されるが、画像表示装置とユーザの目との相対位置関係が変化する場合(ユーザの頭の揺れ方と画像表示装置の揺れ方とが一致しない場合)にはユーザからみた画像ぶれが軽減されない。
【0009】
そして、実際には、移動する乗り物内で携帯電話等を手にもって画像を見る場合、乗り物の振動による手の揺れ方と頭の揺れ方とが一致しない(手は揺れなかったが頭は揺れたり、手と頭とが別の向きに揺れたりする)ことにより、画像表示装置とユーザの目との相対位置関係が変化することが多い。
【0010】
したがって、上記特許文献1に記載の技術では、移動する乗り物内での携帯電話等の表示画像のぶれを十分に軽減することはできない。
【0011】
一方、他人による画面の覗き込みの問題を軽減するためにプライバシーフィルタを用いることには、画質の低下や着脱の煩わしさを伴うとともに、真後ろから覗き込まれた際には情報の盗み見を防止できないという欠点があった。
【0012】
本発明は、上述の点に鑑み、画像表示装置とユーザの目との相対位置関係が変化する場合にも画像ぶれを軽減できるとともに、プライバシーフィルタを用いる場合のような画質の低下や着脱の煩わしさを伴うことなく電車内等での真後ろからの覗き込みによる情報の盗み見を防止できる画像表示装置及び画像ぶれ防止方法を提供することを課題としてなされたものである。
【0013】
【課題を解決するための手段】
この課題を解決するために、本出願人は、撮像手段と、画像表示手段と、この撮像手段で撮影された画像から、画像認識によって顔の目の位置を検出する検出手段と、この検出手段の検出結果に基づいて、この画像表示手段での画像の表示位置を変更させる表示位置変更手段とを備えた画像表示装置を提案する。
【0014】
この画像表示装置では、画像表示装置に備わっている撮像手段で撮影された画像から、画像認識によって顔の目の位置が検出される。そして、その検出結果に基づいて画像表示手段での画像の表示位置が変更される。
【0015】
したがって、ユーザが撮像手段で自分の顔を撮影することにより、画像表示装置に対するユーザの目の位置(すなわち画像表示装置とユーザの目との相対位置関係)が検出され、この検出結果に基づいて画像の表示位置が変更される。
【0016】
このように、画像表示装置とユーザの目との相対位置関係の検出結果に基づいて画像の表示位置が変更されるので、画像表示装置とユーザの目との相対位置関係が変化する場合にも、ユーザからみた画像ぶれを軽減することができる。
【0017】
また、電車内等でユーザ以外の他人が真後ろからこの画像表示装置の画面を覗き込んだ際にも、その他人の頭の揺れ方とユーザの頭の揺れ方とが全く一致していない限り(画像表示装置とその他人の目との相対位置関係が、画像表示装置とユーザの目との相対位置関係と全く一致していない限り)、その他人からは表示画像がぶれて見えるので、情報の盗み見を防止することができる。
【0018】
また、近年、移動しながら使用することを前提とした携帯端末にはカメラが搭載されることが多くなっているので、そうした携帯端末に適用することにより、カメラの用途や使用機会を増やして、カメラを有効活用することができるようになる。
【0019】
なお、この画像表示装置において、表示位置変更手段は、例えば画像の表示位置をサブピクセル単位で平行移動させるデジタル補間フィルタで実現するようにすればよい。
【0020】
画像表示装置をデジタル補間フィルタで実現する場合には、このデジタル補間フィルタに、デジタル補間フィルタでの処理によって発生する遅延時間分だけ将来の時点における画像の表示位置の平行移動量を予測して求めさせることが好適である。
【0021】
このように、デジタル補間フィルタでの遅延時間分だけ将来の時点(すなわち実際に画像表示手段に画像が表示される時点)における画像の表示位置の平行移動量を求めることにより、画像ぶれを一層よく軽減できるようになる。
【0022】
さらに、画像表示装置をデジタル補間フィルタで実現する場合には、外部すなわちユーザとの遠近方向の距離を計測する距離計測手段を画像表示装置にさらに備え、このデジタル補間フィルタに、この距離計測手段の計測結果に基づく画像の拡大・縮小処理をさらに行わせることが好適である。
【0023】
それにより、ユーザがこの距離計測手段で画像表示装置と自分の顔との距離を計測することにより、画像表示装置と自分の顔との距離が大きくなったとき(ユーザの頭が後ろに揺れたとき)には画像を拡大表示し、画像表示装置と自分の顔との距離が小さくなったとき(ユーザの頭が前に揺れたとき)には画像を縮小表示することができる。したがって、画像表示装置と自分の顔との距離が変化しても、ユーザは常に同じ大きさの画像を見ることができるようになる。
【0024】
また、この画像表示装置において、表示位置変更手段は、画像表示装置本体に対し画像表示手段を物理的に平行移動させる制動装置によって実現してもよい。
【0025】
また、この画像表示装置において、画像表示装置本体の加速度を計測する加速度計測手段をさらに備え、表示位置変更手段に、検出手段の検出結果及びこの加速度計測手段の計測結果に基づいて画像表示手段での画像の表示位置を変更させるようにすることが好適である。
【0026】
加速度計測手段は応答速度が速く計測精度も高いので、加速度計測手段による画像表示装置本体の加速度(振動)の計測結果を組み合わせて画像の表示位置を変更することにより、画像ぶれを一層よく軽減できるようになる。
【0027】
また、この画像表示装置において、撮像手段としてはCMOSセンサを用いることが好適である。
【0028】
CMOSセンサは、任意の領域のみを読み出すブロック読出しが可能なので、CMOSセンサからブロック読出しした画像から検出手段で画像認識による顔の目の位置の検出を行うことにより、高速なフレームレートで顔の目の位置を検出できるようになる。
【0029】
次に、本出願人は、撮像手段と画像表示手段とを有する画像表示装置において、画像表示手段に表示される画像のぶれを防止する方法であって、撮像手段で撮影された画像から、画像認識によって顔の目の位置を検出する第1ステップと、第1ステップでの検出結果に基づいて、画像表示手段での画像の表示位置を変更させる第2ステップとを有する画像ぶれ防止方法を提案する。
ここで、上記第2ステップにおいて、画像の表示位置をサブピクセル単位で平行移動させるデジタル補間フィルタが、該デジタル補間フィルタでの処理によって発生する遅延時間分だけ将来の時点における画像の表示位置の平行移動量を予測して求めることが好適である。
また、上記第2ステップにおいて、画像表示装置本体に対し画像表示手段を物理的に平行移動させるようにしてもよい。
【0030】
この画像ぶれ防止方法では、画像表示装置に備わっている撮像手段で撮影された画像から、画像認識により、顔の目の位置を検出する。そして、その検出結果に基づいて画像表示手段での画像の表示位置を変更する。
【0031】
したがって、ユーザが撮像手段で自分の顔を撮影することにより、画像表示装置に対するユーザの目の位置(すなわち画像表示装置とユーザの目との相対位置関係)が検出され、この検出結果に基づいて画像の表示位置が変更される。
【0032】
このように、画像表示装置とユーザの目との相対位置関係の検出結果に基づいて画像の表示位置が変更されるので、画像表示装置とユーザの目との相対位置関係が変化する場合にも、ユーザからみた画像ぶれを軽減することができる。
【0033】
また、電車内等でユーザ以外の他人が真後ろからこの画像表示装置の画面を覗き込んだ際にも、その他人の頭の揺れ方とユーザの頭の揺れ方とが全く一致していない限り(画像表示装置とその他人の目との相対位置関係が、画像表示装置とユーザの目との相対位置関係と全く一致していない限り)、その他人からは表示画像がぶれて見えるので、情報の盗み見を防止することができる。
【0034】
また、近年、移動しながら使用することを前提とした携帯端末にはカメラが搭載されることが多くなっているので、そうした携帯端末に適用することにより、カメラの用途や使用機会を増やして、カメラを有効活用することができるようになる。
【0035】
【発明の実施の形態】
以下、本発明を、図面を用いて具体的に説明する。本発明の適用対象となるのは、図1に示すような、画像表示画面2とカメラ3とを有する携帯端末1である。ここでいう携帯端末は、移動しながら使用することを前提とした小型機器全般であり、携帯電話やPDAのみならず、モバイル型のパーソナルコンピュータ(ノート型パーソナルコンピュータ等)や携帯ゲーム機も含まれる。
【0036】
本発明は、こうした携帯端末1のカメラ3からユーザの目及び虹彩の位置を認識しその動きを追跡することで、携帯端末1とユーザとの相対的な位置の変動を観測し、その変動を打ち消すように、携帯端末1の画像表示画面2に表示される画像を平行移動させる、というものである。
【0037】
図2は、携帯端末1のカメラ3によるユーザ撮像のイメージを示す図である。携帯端末の場合、ユーザが使用する際のユーザの姿勢がほぼ限定されており、ユーザと携帯端末が数10cmの距離を置いて正対するため、殆どの場合において図2のようにユーザの顔が画面内に収まる画像が得られる。
【0038】
このことは、ユーザの目の位置を検出するという画像認識タスクにおいて、非常に重要である。画像認識においては、撮像環境や撮影条件に関するロバスト性への対応が最も実現困難な事柄だからである。
【0039】
目及び虹彩(黒目)を画像認識によって検出する手段としては、Eigenface法や部分空間法を利用して距離や類似度を求める方法等、既に多くの方法が提案されているが、ここではリアルタイム処理が必要となるため、図10に示すような低解像度のテンプレート12を用意し、図2のような画像を低解像度化した画像に対して、画像の中央やや上方の矩形領域の探索範囲11内でマッチング計算(相関値の最大探索)を行う。これにより、大まかな虹彩13の位置が得られる。
【0040】
この虹彩の正確な位置検出は、テンプレートの虹彩13の中央部分に該当する画素を開始点とする、閾値以下の画素の再帰的探索の後、細線の除去と重心計算によって行う。これを両目独立に行った上で、両者の平均座標をそのフレームの虹彩の代表座標とする。なお、このようなテンプレートを用いた目や虹彩の位置の検出方法自体は、周知の方法であり、例えば特開2002−56394号公報や特開2002−288670号公報等にも詳細に記載されている。
【0041】
ここでの閾値は、テンプレート12の探索範囲11内の画素を、前もってヒストグラム化することで、適当な値を求めておく。このヒストグラムのピーク値もしくは平均値が、ある値よりも小さい場合は、撮像画像が暗すぎて虹彩の探索処理が出来ないものと判断し、以降の処理を行わない。つまり、虹彩の検出自体が困難な場合は、本発明の手法を適用しない。
【0042】
以上のように、本発明で探索に使用する範囲11は、撮像画面の数分の一であるため、演算の処理量としては大幅に軽くなる。これと組み合わせて有効な効果を発揮するのが、CMOSを利用して製造された撮像センサ(CMOSカメラIC)である。
【0043】
CCD素子で構成されたカメラの場合、全画素読み出しが基本のため、撮像画像内の一部しか利用しない探索処理の場合でも、実際のフレームレートを上げることが出来ないのに対し、CMOSカメラの場合、任意の領域のみを読み出すブロック読出しが可能なため、通常よりもずっと高速なフレームレートを実現できる。
【0044】
本発明では、処理の遅延がぶれの解消効果に最も悪影響を及ぼすため、CMOSカメラを利用することによる高速なフレームレートは最適解となる。また、CMOSカメラは低消費電力であるため、この点においても、常時カメラを通電して使用する本発明の利用方法にとって、メリットとなる。
【0045】
次に、ユーザの虹彩の探索処理を行った結果として、携帯端末に表示する画像を、どの方向に平行移動して表示すれば、ユーザから見て画像が静止しているように見えるのかを決定する。
【0046】
このプロセスでは、計測された時点の虹彩の移動量(直前に検出した虹彩の位置と今回検出した虹彩の位置との差)から直接、表示画像の平行移動量を求めて良い。ただし、処理に数10ms〜数100msの遅延が発生することを考慮し、画像情報がディスプレイ上に反映し表示される時間における、平行移動量を予測する方が、より良い効果が得られる。それには、現時点だけでなく過去の虹彩の移動量を基に、周期の算出や統計的手法を用いた予測を行うのが望ましい。
【0047】
つまり、図11に示すように、ある時刻t2の時点において、過去の時刻t1の時点までの虹彩の移動量が計測されたとしたときに、現時点での最新の計測結果Aをそのまま表示画像の平行移動量とするのではなく、画像が表示デバイスに表示される時刻t3の平行移動量を予測するのである。
【0048】
予測のアルゴリズムとしては、FIR線形予測器、自己回帰移動平均法、重回帰法、指数平滑法、クロストン法等、様々なアルゴリズムが知られているが、本発明では特に限定しない。コストや計算速度に合わせて適宜選択して良い。
【0049】
表示画像を平行移動させる方法には大きく2つの手法が考えられる。1つは、表示画像をサブピクセル単位で平行移動した画像を、デジタル補間フィルタによって生成する方法である。
【0050】
これは、コスト的には極めて有利であるし、物理的動作が伴わないため、耐久性(低故障発生率)においても有効である。ただし、通常のデジタル補間フィルタの場合、どうしても画像がぼけたイメージとなるため、画質面においてはデメリットとなる。
【0051】
この場合の装置構成を示す前に、従来の携帯端末の最低限の構成を図4に示す。カメラ3からの画像情報がデジタルデータとしてCPU21に入力され、CPU21は描画IC23に描画コマンドや画像そのものを出力する。ここでの描画IC23は、電圧及び電流変換の単なるドライバICの場合もあるし、パーソナルコンピュータのグラフィックスLSIのように、高度な描画機能を有するものの場合もある。描画IC23は、直接表示装置8を駆動し、画像を表示する。
【0052】
本発明の画像の平行移動を、デジタル補間フィルタで実現する場合の構成を図5に示す。CPU21とは別に画像認識IC24を別途搭載し、画像認識IC24が出力した位置や位相といった平行移動情報を受けて、描画IC25内に設けられたデジタル補間フィルタ26が実際の平行移動を受け持つ。
【0053】
画像認識IC24は単独で動作し、CPU21とのデータのやり取りを行わなくても良い。しかし、過去のデータの処理やその統計処理及び振動周期の計算等を行おうとすると、その部分の処理は、処理能力と汎化能力が高いCPU21のソフトウェアに任せるのが適切であると考えられる。
【0054】
これを突き詰めて、画像認識IC24を搭載せず、全ての処理をCPU21で行っても良いが、本発明のぶれ防止機能は、常時動作することが求められ、処理内容が複雑にも関わらず、常に高速レスポンスが要求されるため、専用のハードウェアとして画像認識IC24を搭載するのが妥当である。
【0055】
また、低消費電力化要求と、異なる処理能力のCPUを搭載した様々な携帯機器への展開を考えた場合でも、専用IC化によるモジュール化が良い。この場合、デジタル補間フィルタ回路も、描画ICではなく画像認識IC側に搭載した方が、より汎用化可能である。
【0056】
図5は、デジタル補間フィルタを描画IC側に持たせた構成である。CPU21側からの命令により描画IC25で描画された画像は、画像認識IC24からの移動情報に従いデジタル補間フィルタ26によって平行移動されて、表示装置8に出力される。ここで求められる処理は、1画素単位よりも細かい、サブピクセル単位の画像の平行移動処理であるため、デジタル補間フィルタ26はポリフェーズフィルタで構成されることが望ましい。
【0057】
このデジタルフィルタリングの結果を画面に表示する際に有効な技術として、クリアタイプ(Clear Type)がある。これはマイクロソフト社の所有する技術であり、液晶ディスプレイのような規則的に赤、緑、青の表示セルが並んでいる固定画素画像表示装置において、通常、白い斜め線を表示しようとすると、図8のようにセルを点灯させるところを、図9のように点灯させることで、水平方向の解像度を実質的に3倍に引き上げる効果を有する。これを用いれば、サブピクセル単位の平行移動表示が、よりスムーズになる。
【0058】
一方、表示画像を平行移動させる方法として、物理的に表示位置を平行移動させるものも考えられる。具体的には図3に示すように、液晶等で構成された画像表示装置8に制動装置9を設け、この制動装置9に信号を送って、表示装置8自体を(携帯端末1の正面から見て)上下左右方向に高速移動させる。
【0059】
この制動装置9の高速応答性や耐久性が非常に重要となる。制動装置9内部の実際の制動素子としては、電磁力を応用したリニアモータ、静電駆動、マイクロマシンの他、ピエゾ素子、圧電素子、揺動モータ、アクチュエータ等が考えられる。ただし、本発明において制動素子に何を使うかは本質でないため、ここでは特に規定しない。
【0060】
この構成を示したものが図6である。画像認識IC24が平行移動量を算出した結果を、直接制動装置9に送り込む形となる。CPU21と表示装置8部分は通常の携帯端末の構成と何ら変わるところはない。CPU21の能力が高ければ、画像認識IC24の代わりにCPU21で全ての処理を行っても良い。
【0061】
ここまで説明した内容は、カメラのみをセンサとして用いた構成であるが、他のセンサをカメラと共に使用することで、より精度を向上させることが可能である。このセンサの候補としては、加速度センサ(ジャイロを含む)とレンジセンサが筆頭となる。この構成を図7に示す。なお、図7はデジタル補間フィルタ26による平行移動を実現する例であるが、これらのセンサと、制動装置9を利用したもの(図6)とを組み合わせても良い。
【0062】
加速度センサ27は、単独で携帯端末1の揺れを検知して、本発明が目的とする画像のぶれの軽減を行うことが可能である。カメラと比較して、応答速度が速いことと精度が高いことが長所である。ただし、ユーザの顔の振動を検知することが不可能なため、限られた性能しか得られない。従って、例えばカメラ3によって撮影された画像から画像認識によって求めた虹彩の移動量と加速度センサ27の出力とを重み付けして足し合わせるというように、カメラ3と共に使用することで相補的な効果を得ることが出来る。
【0063】
レンジセンサ28は、携帯端末1とユーザとの距離を計測するために使用する。レンジセンサ28も、高速応答と高精度がカメラよりも優れる。カメラ3によって撮影された画像から画像認識によって虹彩の移動量を求めるだけでは携帯端末1とユーザとの平行移動成分しか検出できいが、レンジセンサ28を使用することで、携帯端末1とユーザとの遠近方向の距離が得られる。
【0064】
レンジセンサ28を用いれば、距離が近づいたときには画像を縮小し、逆に離れたときには画像を拡大することで、ユーザからは常に同じ大きさの画像を観測することが可能となる。この拡大縮小処理にはデジタル補間フィルタ26を使用することになる。また、レンジセンサ28からの情報を、例えばユーザの顔の凹凸による携帯端末1とユーザとの距離の変動に基づいて目の位置を検出するというように、画像認識を行う処理に使用すれば、より高精度なユーザの認識が実現できる。
【0065】
【発明の効果】
以上のように、本発明によれば、画像表示装置とユーザの目との相対位置関係の検出結果に基づいて画像の表示位置が変更されるので、画像表示装置とユーザの目との相対位置関係が変化する場合(ユーザの頭の揺れ方と画像表示装置の揺れ方とが一致しない場合)にも、ユーザからみた画像ぶれを軽減することができるという効果が得られる。
なお、この画像表示装置において、表示位置変更手段として、例えば画像の表示位置をサブピクセル単位で平行移動させるデジタル補間フィルタを用い、デジタル補間フィルタでの処理によって発生する遅延時間分だけ将来の時点における画像の表示位置の平行移動量を予測して求めさせるようにした場合、画像ぶれを一層よく軽減できるようになる。
また、表示位置変更手段は、画像表示装置本体に対し画像表示手段を物理的に平行移動させる制動装置によって実現してもよい。
【0066】
また、電車内等でユーザ以外の他人が真後ろからこの画像表示装置の画面を覗き込んだ際にも、その他人の頭の揺れ方とユーザの頭の揺れ方とが全く一致していない限り(画像表示装置とその他人の目との相対位置関係が、画像表示装置とユーザの目との相対位置関係と全く一致していない限り)、その他人からは表示画像がぶれて見えるので、情報の盗み見を防止することができるという効果が得られる。
【0067】
また、カメラを搭載した携帯端末に適用することにより、カメラの用途や使用機会を増やして、カメラを有効活用することができるという効果が得られる。
【0068】
さらに、画像表示装置と自分の顔との距離が大きくなったとき(ユーザの頭が後ろに揺れたとき)には画像を拡大表示し、画像表示装置と自分の顔との距離が小さくなったとき(ユーザの頭が前に揺れたとき)には画像を縮小表示することができるので、画像表示装置と自分の顔との距離が変化しても、ユーザは常に同じ大きさの画像を見ることができるという効果も得られる。
【0069】
さらに、加速度計測手段による画像表示装置本体の加速度(振動)の計測結果を組み合わせて画像の表示位置を変更することにより、画像ぶれを一層よく軽減できるという効果も得られる。
【0070】
さらに、CMOSセンサからブロック読出しした画像から画像認識による顔の目の位置の検出を行うことにより、高速なフレームレートで顔の目の位置を検出できるという効果も得られる。
【図面の簡単な説明】
【図1】本発明の適用対象となる携帯端末の外観構成例を示す斜視図である。
【図2】携帯端末のカメラによるユーザの撮像イメージを示す図である。
【図3】画像表示位置の物理的な平行移動の例を示す図である。
【図4】一般的な携帯端末の回路構成を示すブロック図である。
【図5】本発明による携帯端末の回路構成例を示すブロック図である。
【図6】本発明による携帯端末の回路構成例を示すブロック図である。
【図7】本発明による携帯端末の回路構成例を示すブロック図である。
【図8】固定画素表示装置に通常の方法で斜め線を表示する場合のセル点灯例を示す図である。
【図9】固定画素表示装置にクリアタイプ技術で斜め線を表示する場合のセル点灯例を示す図である。
【図10】テンプレート画像を示す図である。
【図11】虹彩移動量の計測結果と、表示画像の平行移動量を予測すべき時刻とを示す図である。
【符号の説明】
1 携帯端末、 2 画像表示画面、 3 カメラ、 5 目、 6 虹彩、8 表示装置、 9 制動装置、 21 CPU、 23,25 描画IC、 24 画像認識IC、 26 デジタル補間フィルタ、 27 加速度センサ、28 レンジセンサ

Claims (9)

  1. 撮像手段と、
    画像表示手段と、
    前記撮像手段で撮影された画像から、画像認識によって顔の目の位置を検出する検出手段と、
    前記検出手段の検出結果に基づいて、前記画像表示手段での画像の表示位置を変更させる表示位置変更手段と、を備え、
    前記表示位置変更手段は、画像の表示位置をサブピクセル単位で平行移動させるデジタル補間フィルタであって、該デジタル補間フィルタでの処理によって発生する遅延時間分だけ将来の時点における画像の表示位置の平行移動量を予測して求める
    像表示装置。
  2. 請求項1に記載の画像表示装置において、
    ユーザとの遠近方向の距離を計測する距離計測手段をさらに備え、
    前記デジタル補間フィルタは、前記距離計測手段の計測結果に基づく画像の拡大・縮小処理をさらに行う
    画像表示装置。
  3. 請求項1又は2に記載の画像表示装置において、
    前記画像表示装置本体の加速度を計測する加速度計測手段をさらに備え、
    前記表示位置変更手段は、前記検出手段の検出結果及び前記加速度計測手段の計測結果に基づいて、前記画像表示手段での画像の表示位置を変更させる
    画像表示装置。
  4. 請求項1乃至3のいずれかに記載の画像表示装置において、
    前記撮像手段はCMOSセンサである
    画像表示装置。
  5. 画像表示装置本体と、
    前記画像表示装置本体に取り付けられた撮像手段と、
    前記画像表示装置本体に搭載されている画像表示手段と、
    前記撮像手段で撮影された画像から、画像認識によって顔の目の位置を検出する検出手段と、
    前記検出手段の検出結果に基づいて、画像表示手段に表示される画像と前記画像表示装置本体との位置関係を変更させる表示位置変更手段と、を備え、
    前記表示位置変更手段は、前記画像表示装置本体に対し前記画像表示手段を物理的に平行移動させる制動装置である
    像表示装置。
  6. 請求項に記載の画像表示装置において、
    前記画像表示装置本体の加速度を計測する加速度計測手段をさらに備え、
    前記表示位置変更手段は、前記検出手段の検出結果及び前記加速度計測手段の計測結果に基づいて、前記画像表示手段での画像の表示位置を変更させる
    像表示装置。
  7. 請求項5又は6のいずれかに記載の画像表示装置において、
    前記撮像手段はCMOSセンサである
    像表示装置。
  8. 撮像手段と画像表示手段とを有する画像表示装置において前記画像表示手段に表示される画像のぶれを防止する方法であって、
    前記撮像手段で撮影された画像から、画像認識によって顔の目の位置を検出する第1ステップと、
    前記第1ステップでの検出結果に基づいて、前記画像表示手段での画像の表示位置を変更させる第2ステップと、を有し、
    前記第2ステップにおいて、画像の表示位置をサブピクセル単位で平行移動させるデジタル補間フィルタが、該デジタル補間フィルタでの処理によって発生する遅延時間分だけ将来の時点における画像の表示位置の平行移動量を予測して求める
    像ぶれ防止方法。
  9. 撮像手段と画像表示手段とを有する画像表示装置において前記画像表示手段に表示される画像のぶれを防止する方法であって、
    前記撮像手段で撮影された画像から、画像認識によって顔の目の位置を検出する第1ステップと、
    前記第1ステップでの検出結果に基づいて、前記画像表示手段に表示される画像と前記画像表示装置本体との位置関係を変更させる第2ステップと、を有し、
    前記第2ステップにおいて、前記画像表示装置本体に対し前記画像表示手段を物理的に平行移動させる
    画像ぶれ防止方法。
JP2003112006A 2003-04-16 2003-04-16 画像表示装置及び画像ぶれ防止方法 Expired - Fee Related JP4442112B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003112006A JP4442112B2 (ja) 2003-04-16 2003-04-16 画像表示装置及び画像ぶれ防止方法
US10/820,701 US20040208394A1 (en) 2003-04-16 2004-04-09 Image display device and method for preventing image Blurring

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003112006A JP4442112B2 (ja) 2003-04-16 2003-04-16 画像表示装置及び画像ぶれ防止方法

Publications (2)

Publication Number Publication Date
JP2004317813A JP2004317813A (ja) 2004-11-11
JP4442112B2 true JP4442112B2 (ja) 2010-03-31

Family

ID=33156995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003112006A Expired - Fee Related JP4442112B2 (ja) 2003-04-16 2003-04-16 画像表示装置及び画像ぶれ防止方法

Country Status (2)

Country Link
US (1) US20040208394A1 (ja)
JP (1) JP4442112B2 (ja)

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008033540A2 (en) * 2006-09-13 2008-03-20 Samuel Kim Motion sickness reduction
WO2006095573A1 (ja) * 2005-03-08 2006-09-14 Sharp Kabushiki Kaisha 携帯端末装置
JP2006323255A (ja) * 2005-05-20 2006-11-30 Nippon Telegr & Teleph Corp <Ntt> 表示装置
JP2006332726A (ja) * 2005-05-23 2006-12-07 Mitsubishi Electric Corp 携帯型端末装置
JP5063871B2 (ja) * 2005-06-15 2012-10-31 株式会社デンソー 携帯機用地図表示システム
JP2007102099A (ja) * 2005-10-07 2007-04-19 Sony Corp 電子機器、画像処理方法及びプログラム
JP4977995B2 (ja) * 2005-10-26 2012-07-18 日本電気株式会社 携帯表示装置
US7774851B2 (en) * 2005-12-22 2010-08-10 Scenera Technologies, Llc Methods, systems, and computer program products for protecting information on a user interface based on a viewability of the information
JP2007274333A (ja) * 2006-03-31 2007-10-18 Nec Corp 画像表示位置補正方法および画像表示位置補正機能付携帯端末
US20070282783A1 (en) * 2006-05-31 2007-12-06 Mona Singh Automatically determining a sensitivity level of a resource and applying presentation attributes to the resource based on attributes of a user environment
JP2008203538A (ja) * 2007-02-20 2008-09-04 National Univ Corp Shizuoka Univ 画像表示システム
US8120717B2 (en) * 2007-02-21 2012-02-21 Sharp Laboratories Of America, Inc. Methods and systems for display viewer motion compensation
US7903166B2 (en) * 2007-02-21 2011-03-08 Sharp Laboratories Of America, Inc. Methods and systems for display viewer motion compensation based on user image data
US8506085B2 (en) * 2007-08-28 2013-08-13 Dell Products, L.P. Methods and systems for projecting images
US8115698B2 (en) * 2007-08-28 2012-02-14 Dell Products, L.P. Methods and systems for image processing and display
JP5338054B2 (ja) * 2007-09-14 2013-11-13 日産自動車株式会社 画像情報提供装置
CA2725789A1 (en) * 2008-09-25 2010-04-01 Tele Atlas B.V. Method of and arrangement for blurring an image
JP2010128778A (ja) * 2008-11-27 2010-06-10 Sony Ericsson Mobilecommunications Japan Inc 情報表示装置、情報表示装置の覗き見防止方法及び覗き見防止プログラム
GB2467898A (en) * 2008-12-04 2010-08-18 Sharp Kk Display with automatic screen parameter adjustment based on the position of a detected viewer
JP5527797B2 (ja) * 2009-08-06 2014-06-25 Necカシオモバイルコミュニケーションズ株式会社 電子機器
US8867780B2 (en) * 2010-02-25 2014-10-21 Apple Inc. Obfuscating the display of information and removing the obfuscation using a filter
EP2550155B1 (en) 2010-03-25 2020-11-04 3M Innovative Properties Company Composite layer
EP2550146B1 (en) 2010-03-25 2018-09-26 3M Innovative Properties Company Extrusion die and method for making multiple stripe extrudate
US8917815B2 (en) 2010-06-21 2014-12-23 Zachary A. Miller Adjustable dynamic filter
TWI473026B (zh) 2010-06-30 2015-02-11 Hon Hai Prec Ind Co Ltd 影像處理系統、顯示裝置及影像顯示方法
CN102314855B (zh) * 2010-07-06 2014-12-10 南通新业电子有限公司 影像处理系统、显示装置及影像显示方法
CN102314856B (zh) * 2010-07-06 2014-12-03 南通新业电子有限公司 影像处理系统、显示装置及影像显示方法
TWI436646B (zh) 2010-08-19 2014-05-01 Univ Nat Taiwan Science Tech 顯示畫面可對應於運動者身體狀態而移動之裝置及其執行方法
FR2968779B1 (fr) * 2010-12-14 2013-01-25 Alstom Transport Sa Dispositif d'affichage tete haute pour un vehicule ferroviaire
EP2505223A1 (en) * 2011-03-31 2012-10-03 Alcatel Lucent Method and device for displaying images
US20120249792A1 (en) * 2011-04-01 2012-10-04 Qualcomm Incorporated Dynamic image stabilization for mobile/portable electronic devices
US9829715B2 (en) 2012-01-23 2017-11-28 Nvidia Corporation Eyewear device for transmitting signal and communication method thereof
JP5270016B1 (ja) * 2012-03-30 2013-08-21 株式会社東芝 電子機器および表示制御方法
US9025111B2 (en) * 2012-04-20 2015-05-05 Google Inc. Seamless display panel using fiber optic carpet
CN103377637B (zh) * 2012-04-25 2017-07-21 赛恩倍吉科技顾问(深圳)有限公司 显示器亮度控制系统及方法
US9582681B2 (en) 2012-04-27 2017-02-28 Nokia Technologies Oy Method and apparatus for privacy protection in images
US9841537B2 (en) 2012-07-02 2017-12-12 Nvidia Corporation Near-eye microlens array displays
US9494797B2 (en) 2012-07-02 2016-11-15 Nvidia Corporation Near-eye parallax barrier displays
USRE47984E1 (en) * 2012-07-02 2020-05-12 Nvidia Corporation Near-eye optical deconvolution displays
US9557565B2 (en) * 2012-07-02 2017-01-31 Nvidia Corporation Near-eye optical deconvolution displays
CA2884513C (en) * 2012-09-11 2017-09-19 Zachary A. Miller Adjustable dynamic filter
US9500865B2 (en) * 2013-03-04 2016-11-22 Alex C. Chen Method and apparatus for recognizing behavior and providing information
CA2849563A1 (en) * 2013-04-22 2014-10-22 Martin Julien Live panning system and method
US9582075B2 (en) 2013-07-19 2017-02-28 Nvidia Corporation Gaze-tracking eye illumination from display
US9880325B2 (en) 2013-08-14 2018-01-30 Nvidia Corporation Hybrid optics for near-eye displays
CN104915663B (zh) * 2015-07-03 2018-07-06 广东欧珀移动通信有限公司 一种提升人脸识别显示的方法、系统及移动终端
CN107462989A (zh) * 2016-06-06 2017-12-12 华硕电脑股份有限公司 影像稳定方法与电子装置
DE112017005143B4 (de) 2016-10-11 2023-12-14 Mitsubishi Electric Corporation Bewegungskrankheitseinschätzvorrichtung, bewegungskrankheitsverhinderungsvorrichtung und bewegungskrankheitseinschätzverfahren

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0294962B1 (en) * 1987-06-09 1995-07-19 Sony Corporation Motion vector estimation in television images
US4836670A (en) * 1987-08-19 1989-06-06 Center For Innovative Technology Eye movement detector
US4950069A (en) * 1988-11-04 1990-08-21 University Of Virginia Eye movement detector with improved calibration and speed
JP3210027B2 (ja) * 1991-04-05 2001-09-17 キヤノン株式会社 カメラ
US5367153A (en) * 1991-11-01 1994-11-22 Canon Kabushiki Kaisha Apparatus for detecting the focus adjusting state of an objective lens by performing filter processing
US5504550A (en) * 1993-02-15 1996-04-02 Nikon Corporation Camera which performs photographic adjustments based on the visual line of the photographer
US6714665B1 (en) * 1994-09-02 2004-03-30 Sarnoff Corporation Fully automated iris recognition system utilizing wide and narrow fields of view
US5933125A (en) * 1995-11-27 1999-08-03 Cae Electronics, Ltd. Method and apparatus for reducing instability in the display of a virtual environment
US6072443A (en) * 1996-03-29 2000-06-06 Texas Instruments Incorporated Adaptive ocular projection display
US6424727B1 (en) * 1998-11-25 2002-07-23 Iridian Technologies, Inc. System and method of animal identification and animal transaction authorization using iris patterns
US6470151B1 (en) * 1999-06-22 2002-10-22 Canon Kabushiki Kaisha Camera, image correcting apparatus, image correcting system, image correcting method, and computer program product providing the image correcting method
US6785469B1 (en) * 1999-11-16 2004-08-31 Olympus Corporation Distance measuring device installed in camera
US6747690B2 (en) * 2000-07-11 2004-06-08 Phase One A/S Digital camera with integrated accelerometers
GB2372683A (en) * 2001-02-23 2002-08-28 Ibm Eye tracking display apparatus
US6659611B2 (en) * 2001-12-28 2003-12-09 International Business Machines Corporation System and method for eye gaze tracking using corneal image mapping
EP1335329B1 (en) * 2002-02-05 2020-05-27 Panasonic Intellectual Property Management Co., Ltd. Personal authentication method, personal authentication apparatus and image capturing device
US6919907B2 (en) * 2002-06-20 2005-07-19 International Business Machines Corporation Anticipatory image capture for stereoscopic remote viewing with foveal priority
US6867753B2 (en) * 2002-10-28 2005-03-15 University Of Washington Virtual image registration in augmented display field

Also Published As

Publication number Publication date
US20040208394A1 (en) 2004-10-21
JP2004317813A (ja) 2004-11-11

Similar Documents

Publication Publication Date Title
JP4442112B2 (ja) 画像表示装置及び画像ぶれ防止方法
CN103017730B (zh) 一种单摄像头测距的方法和系统
KR20170090347A (ko) 이미지 형성에 관한 동적 비전 센서의 이벤트 샘플링을 위한 장치 및 방법
JP2005318546A (ja) 画像認識システム、画像認識方法、及び画像認識プログラム
CN113556464A (zh) 拍摄方法、装置及电子设备
US9311522B2 (en) Apparatus and method for improving face recognition ratio
JP4731953B2 (ja) 撮像装置、撮像方法、及び撮像プログラム
US20230232103A1 (en) Image processing device, image display system, method, and program
JP4719584B2 (ja) 動き検出プログラム、動き検出方法、動き検出装置、
JP2007104516A (ja) 画像処理装置、および、画像処理方法、プログラム、並びに、記録媒体
JP5360406B2 (ja) 画像表示装置
JP2009105559A (ja) 撮影画像からの認識対象検出処理方法およびカメラ付き携帯型電子機器
WO2011024363A1 (ja) 画像表示制御装置、画像表示制御方法及び集積回路
KR20150146424A (ko) 이미지에서 추정된 깊이를 결정하기 위한 방법 및 시스템
US7406182B2 (en) Image capturing apparatus, image capturing method, and machine readable medium storing thereon image capturing program
WO2013187282A1 (ja) 撮像画像表示装置、撮像画像表示方法、記録媒体
US10567787B1 (en) Autofocusing images using motion detection
US11600241B2 (en) Display control device, imaging device, display control method, and display control program
WO2022226432A1 (en) Hand gesture detection methods and systems with hand prediction
CN111614834B (zh) 电子设备控制方法、装置、电子设备及存储介质
JP4531609B2 (ja) 撮像装置、撮像方法、及び撮像プログラム
JP2005210392A (ja) 撮像装置
KR20210108037A (ko) 카메라 프리뷰를 제공하는 전자 장치 및 그 동작 방법
CN114762311A (zh) 摄像支援装置、摄像装置、摄像系统、摄像支援方法及程序
JP2006343652A (ja) 手ブレ補正における手ブレ方向の推定方法と手ブレ補正装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060411

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091222

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100104

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130122

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140122

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees