JP2004120600A - デジタル双眼鏡 - Google Patents
デジタル双眼鏡 Download PDFInfo
- Publication number
- JP2004120600A JP2004120600A JP2002283817A JP2002283817A JP2004120600A JP 2004120600 A JP2004120600 A JP 2004120600A JP 2002283817 A JP2002283817 A JP 2002283817A JP 2002283817 A JP2002283817 A JP 2002283817A JP 2004120600 A JP2004120600 A JP 2004120600A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pair
- images
- image processing
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
- Picture Signal Circuits (AREA)
Abstract
【課題】複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示する。
【解決手段】デジタル双眼鏡の一対の対物レンズを介して入射された光を一対の撮像素子30A,30Bによって撮影することで、両眼視差に相当する相違が生じている一対の画像(ステレオ画像)を取得し、各種の補正を経てメモリ46A,46Bに記憶された一対の画像に対し、両眼視差に相当する像構造の幾何学的な相違を認識した後に、認識した像構造の幾何学的な相違以外の相違(例えば撮像素子30A,30Bによって一対の画像に各々重畳されているランダムなノイズの相違)を減少させるノイズ低減処理を行う。そして、ノイズ低減処理後の画像を表示デバイス34A,34Bに表示させる。表示デバイス34A,34Bに表示された画像は、接眼レンズを介してユーザにより視認(立体視)される。
【選択図】 図3
【解決手段】デジタル双眼鏡の一対の対物レンズを介して入射された光を一対の撮像素子30A,30Bによって撮影することで、両眼視差に相当する相違が生じている一対の画像(ステレオ画像)を取得し、各種の補正を経てメモリ46A,46Bに記憶された一対の画像に対し、両眼視差に相当する像構造の幾何学的な相違を認識した後に、認識した像構造の幾何学的な相違以外の相違(例えば撮像素子30A,30Bによって一対の画像に各々重畳されているランダムなノイズの相違)を減少させるノイズ低減処理を行う。そして、ノイズ低減処理後の画像を表示デバイス34A,34Bに表示させる。表示デバイス34A,34Bに表示された画像は、接眼レンズを介してユーザにより視認(立体視)される。
【選択図】 図3
Description
【0001】
【発明の属する技術分野】
本発明はデジタル双眼鏡に係り、特に、一対の撮像手段によって被写体を撮影し撮影によって得られた画像を立体視可能に表示するデジタル双眼鏡に関する。
【0002】
【従来の技術】
双眼鏡は遠景を両眼で同時に拡大して見ることができ、見易いために疲れにくく、対象物を立体的に認識可能であるという特長を有しており、従来より広範に普及しているが、近年、ユーザの利便性向上等を目的として、付加機能を搭載した双眼鏡が見受けられるようになってきている。
【0003】
例えば映像増倍管装置を搭載し、暗闇等でも対象物を認識可能な双眼鏡タイプの暗視スコープが市販されている(例えば非特許文献1参照)。
【0004】
また、例えばデジタルスチルカメラの機能を搭載した双眼鏡も市販されている(例えば非特許文献2参照)。
【0005】
一方、光学像を撮像素子により光電変換し、該光電変換によって得られた画像信号をデジタルデータへ変換することで得られるデジタル画像のノイズ低減としては、従来より種々の手法が知られており、例えば原画像を複数の小ブロックに分割し、各小ブロック毎に、ブロック内の画像データの特徴を代表的に表すテンプレートプロファイルを算出し、算出したテンプレートプロファイルを用いて当該ブロック内の元の画像データプロファイルを近似し、該近似によって得られた元の画像データを置換することで画像データのノイズを除去する手法がある(例えば特許文献1参照)。
【0006】
また、例えば原画像データに対して平滑化・エッジ検出を行い、平滑化画像データから被写体のエッジとノイズが混在する混在画像データを求め、エッジ検出で求めたエッジ強度データからノイズの重み付け係数を求め、ノイズの重み付け係数と混在画像データからノイズデータを求める一方、ノイズ抑制の広がりを表すノイズ抑制分布関数を設定し、この関数とノイズデータとの畳み込み積分を行ってノイズ抑制分布を算出し、ノイズデータにノイズ抑制分布を乗じてノイズ抑制成分を求め、このノイズ抑制成分を変倍して画像データから減算することでノイズを抑制する手法もある(例えば特許文献2参照)。
【0007】
更に、例えばフィルム原稿を光電的に読み取って得られた入力画像信号を高周波成分とそれ以外の成分に分解し、高周波成分を強調すると共に、フィルム原稿がアンダーネガ又は高感度フィルムの少なくとも一方である場合には、最も低い周波数成分の帯域がより狭くなるように、高周波成分以外の成分を2以上の成分に分解し、高周波成分及び最も低い周波数成分以外の周波数成分を抑制することで粒状(ノイズ)を抑制する手法もある(例えば特許文献3参照)。
【0008】
【特許文献1】
特開2001−144964公報
【特許文献2】
特開平2001−285640公報
【特許文献3】
特開平11−275350号公報
【非特許文献1】
(株)ケンコー、”スーパーナイト シリーズ”、[online]、[平成14年8月19日検索]、インターネット<URL:http://www.kenko−tokina.co.jp/optical/4961607145425.html>
【非特許文献2】
旭光学(株)、”Digital Binoculars −DIGIBINO−”、[online]、
[平成14年8月19日検索]、インターネット<URL:http://
www.pentax.co.jp/japan/product/>
【0009】
【発明が解決しようとする課題】
対象物を立体的に認識可能という特長を損なうことなく、双眼鏡を使用するユーザの利便性を向上させるには、各々が撮影した画像に両眼視差に相当する相違が生じるように複数の撮像素子を双眼鏡に搭載し、被写体を複数の撮像素子によって各々撮影し、撮影によって得られた複数の画像(ステレオ画像)に所定の画像処理を施した後に、画像処理後の画像を立体視可能に表示することが有効である。上記構成を採用することで、表示する画像を画像処理によって自由に加工することができるので、ユーザの利便性向上に寄与する種々の機能を付加することが可能となる。
【0010】
本願発明者等は、上記構成の双眼鏡を想定し、2台のデジタルスチルカメラ(DSC)を用いてステレオ画像を撮影し、撮影したステレオ画像をフィルム等の記録材料に記録し、立体視して画質を評価する実験を行った。その結果、ステレオ画像の左右の画像に両眼視差に相当する相違以外の相違が生じている場合、当該ステレオ画像を立体視すると、前記両眼視差に相当する相違以外の相違が、非常に顕著な画質欠陥として視認されることが明らかになった。
【0011】
例えばDSCによる撮影によって得られた画像は、撮像素子として内蔵されているCCDの特性により、特に高濃度の部分(撮影したシーン全体のうち撮影時の入射光量の低い部分)に視認可能なノイズが生ずる。このノイズは単一の画像を目視している限りはそれ程目立たないが、ランダムなノイズであるため、ステレオ画像の左右の画像に異なるパターンのノイズとして現れることになり、このようなノイズが生じているステレオ画像を立体視すると、鑑賞者には、ノイズのパターンが空間上に浮いており、且つちらついているように見え、単一の画像を目視している場合と比較してノイズが顕著に視認されることになる。
【0012】
上記の現象は、人間の視覚が、両眼で知覚した左右像のうちの相違している部分に感度が高い特性を有しており、左右像のうちの相違している部分を認識した鑑賞者の脳が、過去の経験から金属等の光沢と解釈して処理することが原因ではないかと推察される。
【0013】
これに対し、先に述べたデジタル画像のノイズ低減の手法は、何れも単一の画像を対象としたものであり、双眼鏡に搭載した複数の撮像素子によって撮像されたステレオ画像の個々の画像に前記各手法を適用したとしても、ステレオ画像を立体視する場合に顕著に視認される画質欠陥を軽減又は解消することは困難であった。
【0014】
本発明は上記事実を考慮して成されたもので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示することができるデジタル双眼鏡を得ることが目的である。
【0015】
【課題を解決するための手段】
上記目的を達成するために請求項1記載の発明に係るデジタル双眼鏡は、各々が撮影した画像に両眼視差に相当する相違が生ずるように配置された一対の撮像手段と、前記一対の撮像手段によって撮影された一対の画像における、前記両眼視差に相当する像構造の幾何学的な相違以外の相違を減少させる画像処理を行う画像処理手段と、前記画像処理手段によって画像処理が行われた一対の画像を立体視可能に各々表示する表示手段と、を備え、これらが一体化されて構成されている。
【0016】
請求項1記載の発明に係るデジタル双眼鏡には、一対の撮像手段が、各々が撮影した画像に両眼視差に相当する相違が生ずるように配置されており、該一対の撮像手段によって撮影された一対の画像における、両眼視差に相当する像構造の幾何学的な相違以外の一対の画像における相違を減少させる処理を行う。これにより、一対の撮像手段によって撮影された一対の画像における両眼視差に相当する像構造の幾何学的な相違以外の相違、すなわち一対の画像を立体視した場合に顕著な画質欠陥として認識される相違が減少されることになる。そして、請求項1記載の発明に係る表示手段は、画像処理手段によって画像処理が行われた一対の画像を立体視可能に各々表示するので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示することができる。
なお、請求項1記載の発明において、両眼視差に相当する像構造の幾何学的な相違以外の相違としては、例えば一対の画像に各々重畳されているノイズ成分の相違や、一対の画像における色味の相違が挙げられ、画像処理手段は、重畳されているノイズ成分の相違や色味の相違を減少させる処理を行うように構成することができるが、一対の画像における両眼視差に相当する像構造の幾何学的な相違の影響により、一対の画像におけるノイズ成分や色味の相違が容易には認識できないことも多い。
【0017】
これを考慮すると、請求項1記載の発明において、画像処理手段は、例えば請求項2に記載したように、一対の撮像手段によって撮影された一対の画像における、前記両眼視差に相当する像構造の幾何学的な相違を認識し、認識した前記像構造の幾何学的な相違以外の相違を減少させる画像処理を行うように構成することが好ましい。
【0018】
請求項2記載の発明において、画像処理手段による像構造の幾何学的な相違の認識は、具体的には、例えば一対の画像のマッチングを行うことによって実現できる。上記のマッチングには、例えば一対の画像上の対応する点対を求めるポイントパターン・マッチングや、一対の画像上の対応する線セグメント対を求めるラインパターン・マッチング等を適用できる。これにより、一対の画像における両眼視差に相当する像構造の幾何学的な相違を精度良く認識することができる。そして請求項2記載の発明に係る画像処理手段は、両眼視差に相当する像構造の幾何学的な相違の認識結果に基づき、一対の画像における前記像構造の幾何学的な相違以外の相違を減少させる処理を行うので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ更に高画質に表示することができる。
【0019】
また、本発明に係る一対の画像における両眼視差に相当する像構造の幾何学的な相違以外の典型的な相違としては、例えば画像にノイズ成分が重畳されることによる相違が挙げられるが、像構造の幾何学的な相違以外の相違を生じさせるノイズ成分の重畳には、詳しくは、一対の画像のうちの一方の画像にのみノイズ成分が重畳される場合と、一対の画像に相互に異なるノイズ成分が重畳される場合がある。例えば、一対の撮像手段のうちの一方の撮像手段に、撮像素子の画素欠陥や入射光学系への塵埃の付着等があれば、一対の画像のうちの一方の画像にのみノイズ成分(明瞭に視認可能な欠陥部として現れることも多い)が重畳されることで一対の画像に相違が生じ、一対の撮像手段の各々の撮像素子でランダムなノイズが発生される等の場合には、一対の画像に相互に異なるノイズ成分が各々重畳されることで一対の画像に相違が生ずる。
【0020】
このため、請求項2記載の発明において、画像処理手段は、例えば請求項3に記載したように、画像処理として、一対の画像のうちの一方の画像にのみ重畳しているノイズ成分を一方の画像から除去する処理、及び、一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分の相違が解消又は減少するように一対の画像のうちの少なくとも一方を補正する処理、の少なくとも一方を行うことが好ましい。これにより、ノイズ成分の重畳により一対の画像に生じている相違を低減することができる。
【0021】
また、本発明に係る一対の画像には像構造の幾何学的な相違が生じていることを考慮すると、請求項3記載の発明において、画像処理手段は、例えば請求項4に記載したように、一対の画像を各々部分領域に分割し、認識した一対の画像における像構造の幾何学的な相違に基づいて、一方の画像における特定の部分領域と対応する他方の画像の部分領域を判断し、対応する領域であると判断した部分領域同士を比較することを、個々の部分領域について各々行うことで、像構造の幾何学的な相違以外の相違を生じさせているノイズ成分を判断することが好ましい。これにより、本発明に係る一対の画像に顕著な画質欠陥として認識される相違を生じさせているノイズ成分(一方の画像にのみ重畳しているノイズ成分や、一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分)を正確に判断することができる。
【0022】
また、撮像手段を複数設けた場合、個々の撮像手段に、例えば撮像素子の感度等の特性のばらつきが生じている可能性もある。これを考慮すると、請求項1記載の発明において、画像処理手段は、例えば請求項5に記載したように、一対の撮像手段によって撮影された一対の画像に対し、一対の撮像手段の特性のばらつきに起因するばらつきを補正する補正処理も行うことが好ましい。これにより、撮像手段の特性のばらつきが顕著な画質欠陥として認識されることを防止することができる。
【0023】
また、請求項1記載の発明において、例えば請求項6に記載したように、デジタル双眼鏡の姿勢変化を検出する検出手段を更に備え、画像処理手段は、一対の撮像手段によって撮影された一対の画像から所定サイズの領域を各々切り出して出力すると共に、検出手段によって検出された姿勢変化に応じて前記領域の切り出し位置を変化させる手振れ補正も行うことが好ましい。これにより、本発明に係るデジタル双眼鏡を把持しているユーザの手振れ等により、個々の撮像手段による撮影範囲が一時的に変動した場合にも、デジタル双眼鏡の姿勢変化に応じて一対の画像からの所定サイズの領域の切り出し位置が変化されることで、該所定サイズの領域に対応する撮影範囲の変動が抑制されるので、手振れ等に起因する撮影範囲の変動による影響を軽減することができる。
【0024】
なお、手振れ補正は、例えば入射光学系にバリアングルプリズム等の光学部品を設け、この光学部品の光軸をデジタル双眼鏡の姿勢変化に応じて制御することで行うことも可能であるが、上記のように、一対の画像からの領域の切り出し位置を変化させることで、手振れ補正をより低コストに実現することができる。
【0025】
また、請求項1記載の発明において、例えば請求項7に記載したように、撮像手段による撮影によって得られた画像のデータ又は画像処理手段によって画像処理が行われた画像のデータを、記録媒体に記録するか又は記録媒体に記録するための処理(例えば画像データを記録媒体に記録する機能を備えた装置への画像データの転送等の処理)を行う記録手段を備えることが好ましい。これにより、撮像手段による撮影によって得られた画像をデータとして保存しておき、例えば写真プリントの作成等を依頼する等の利用を行うことも可能となる。なお、記録媒体に記録する画像データは、一対の撮像手段によって撮影された一対の画像のうちの一方のみでもよいし、一対の画像のデータを各々記録媒体に記録するようにしてもよい。
【0026】
また、記録媒体に記録する画像データは、動画像のデータであってもよいが、静止画像のデータであってもよい。請求項7記載の発明において、静止画像のデータを記録する場合には、例えば請求項8に記載したように、一対の撮像手段は各々常時撮影を行うと共に、画像処理手段はリアルタイムで画像処理を行い、記録手段は、一対の撮像手段又は画像処理手段から順次出力される画像データのうち最新の所定数の画像データを記憶する記憶手段を備え、指示手段を介して画像データの記録が指示された場合に、指示のタイミングを基準として記憶手段に記憶されている画像データの中から記録対象の画像データを選択し、選択した記録対象の画像データを記録媒体に記録するか又は前記選択した記録対象の画像データを記録媒体に記録するための処理を行うことが好ましい。
【0027】
これにより、例えば指示手段を介して画像データの記録が指示されてから、該指示に応じて画像データの記録が行われる迄に若干のタイムラグがある等の場合にも、このタイムラグの影響を受けることなく、画像データの記録が指示されたタイミングと略同一のタイミングで撮影された画像データを記録対象の画像データとして選択することが可能となり、画像データの記録が指示されたタイミングと略同一のタイミングで撮影された画像データを記録媒体に記録することが可能となる。
【0028】
請求項9記載の発明は、請求項1記載の発明において、被写体からの光を屈折させる対物光学系と、前記被写体を目視可能なように前記対物光学系からの光を屈折させるための接眼光学系と、前記対物光学系と前記接眼光学系の間に配置され、前記対物光学系を介して入射された光を接眼光学系及び前記撮像手段の撮像素子の少なくとも一方へ向けて射出すると共に、接眼光学系及び撮像素子への光の射出割合を変更可能な第1の光学部品と、前記第1の光学部品と前記接眼光学系の間に配置され、前記画像処理手段によって画像処理が行われた画像を表示するための前記表示手段の表示デバイスから射出された光も入射され、第1の光学部品からの光及び前記表示デバイスからの光の少なくとも一方を接眼光学系へ射出すると共に、第1の光学部品からの光及び前記表示デバイスからの光の接眼光学系への射出割合を変更可能な第2の光学部品と、前記第1の光学部品及び前記第2の光学部品における前記射出割合を制御する制御手段と、を備えたことを特徴としている。
【0029】
請求項9記載の発明では、対物光学系を介して入射された光を接眼光学系及び撮像手段の撮像素子の少なくとも一方へ向けて射出すると共に、接眼光学系及び撮像素子への光の射出割合を変更可能な第1の光学部品が設けられており、接眼光学系及び撮像素子への光の射出割合は制御手段によって制御される。また、第1の光学部品と接眼光学系の間には第2の光学部品が配置されており、この第2の光学部品には、画像処理手段によって画像処理が行われた画像を表示するための表示デバイスからの光が入射され、第1の光学部品からの光及び表示デバイスからの光の少なくとも一方を接眼光学系へ射出すると共に、第1の光学部品からの光及び表示デバイスからの光の接眼光学系への射出割合を変更可能とされている。そして、第1の光学部品からの光及び表示デバイスからの光の接眼光学系への射出割合も制御手段によって制御される。
【0030】
これにより、制御手段が、例えば対物光学系を介して第1の光学部品へ入射された光が撮像素子へのみ射出されるように第1の光学部品を制御すると共に、表示手段の表示デバイスから第2の光学部品へ入射された光のみが第2の光学部品から接眼光学系へ射出されるように第2の光学部品を制御した場合は、画像処理手段による画像処理を経た画像が、接眼光学系を介してユーザに視認されることになる。また、制御手段が、例えば対物光学系を介して第1の光学部品へ入射された光が接眼光学系へのみ射出されるように第1の光学部品を制御すると共に、第1の光学部品からの光のみが第2光学部品から接眼光学系へ射出されるように第2の光学部品を制御した場合には、通常の双眼鏡と同様に、対物光学系及び接眼光学系によって形成される被写体の光学像が接眼光学系を介してユーザに視認されることになる。
【0031】
更に、制御手段が、例えば対物光学系を介して第1の光学部品へ入射された光が接眼光学系及び撮像素子へ各々所定の射出割合で第1の光学部品から射出されるように第1の光学部品を制御すると共に、第1の光学部品からの光及び表示デバイスからの光からの光が第2光学部品から接眼光学系へ各々所定の射出割合で射出されるように第2の光学部品を制御した場合には、画像処理手段による画像処理を経た画像に被写体の光学像が合成された画像が接眼光学系を介してユーザに視認されることになる。このように、請求項9記載の発明によれば、ユーザに多様な画像(光学像)を提示することが可能となり、本発明に係るデジタル双眼鏡を利用するユーザの利便性を向上させることができる。
【0032】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態の一例を詳細に説明する。図1には、本発明に係るデジタル双眼鏡10が示されている。デジタル双眼鏡10は、人間の両眼の間隔と略同じ距離を隔てて軸線が互いに平行となるように配置された2個の筒体12A,12Bが連結されると共に、正面から見て左側に、本体の把持を容易とするための突起(把持部)12Cが形成された形状とされている。なお、筒体12A,12Bの間隔を調整可能とする機構(眼幅調整機構)が設けられていてもよい。
【0033】
筒体12A,12Bの上方には、低照度での撮影等の場合に補助光を発するためのストロボ14が取付けられており、デジタル双眼鏡10本体の上面には、別体のストロボを取り付けるためのブラケット16が設けられている。また、把持部12Cの上面にはシャッタボタン18が各々設けられており、図示は省略するが、把持部12Cの側面には、スマートメディア(R)、コンパクトフラッシュ(R)、メモリスティック(R)等の各種記録メディアの何れかを装填可能なスロットが設けられている。
【0034】
なお、以下では筒体12A,12B内に収納された光学系、及び該光学系に対応して設けられた電気系の構成を順に説明するが、筒体12A,12B内に収納された光学系は同一の構成であり、これらの光学系に対応して各々設けられた電気回路も同一の構成とされている。このため、以下では筒体12Aに対応する光学系及び電気系と、筒体12Bに対応する光学系及び電気系を区別せずに説明するが、必要に応じて、筒体12Aに対応する光学系及び電気系の構成要素には符号「A」、筒体12Aに対応する光学系及び電気系の構成要素には符号「B」を付して区別する。
【0035】
筒体12A,12Bには筒体の正面側の開口を閉止するように対物レンズ20A,20Bが各々取付けられている。図2には筒体12A,12B内に設けられた光学系の構成を示す。なお、筒体12A,12B内に設けられた光学系は互いに同一の構成であるので、図2は筒体12A,12Bの一方に設けられた光学系のみを示す。図2にも示すように、対物レンズ20は、詳しくは複数枚のレンズから成るズームレンズ(焦点距離可変レンズ)であり、オートフォーカス(AF)機構を備えている。対物レンズ20の光学倍率(ズーム倍率)は、筒体12A,12Bの外周に設けられた操作リング13を回動させることで調節可能とされている。なお、モータの駆動力で光学倍率(ズーム倍率)を調節する構成を採用してもよい。また、対物レンズ20としてAF機構のみを備えた焦点距離固定レンズを用いてもよい。
【0036】
対物レンズ20の光射出側には第1プリズム22、第2プリズム24、接眼レンズ26が順に設けられている。なお、図2では接眼レンズ26を単一枚のレンズとして示しているが、実際には複数枚のレンズから成り、左右の接眼レンズ26A,26Bには視度調節機構が各々設けられている。また、第1プリズム22に入射された光が反射面22Aで射出されたときの射出方向下流側には、レンズ28、エリアCCD等から成る撮像素子30が順に配置されている。第1プリズム22は、対物レンズ20を介して入射された光を撮像素子30側及び第2プリズム24側の少なくとも一方へ射出すると共に、撮像素子30側及び第2プリズム24側への光の射出割合を変更可能とされている。
【0037】
また、第2プリズム24の側方にはレンズ32、表示デバイス34が順に配置されている。なお、表示デバイス34はカラー画像を所定値以上の輝度で表示可能な表示デバイスであればよく、例えばバックライト付きのカラーLCDや、R,G,B各色のLEDがマトリクス状に配置されて成るLEDディスプレイ等で構成することができる。なお、左右の撮像素子30A,30Bは、各々に対応して設けられたレンズ28と共に本発明に係る一対の撮像手段に対応しており、左右の表示デバイス34A,34Bは、各々に対応して設けられたレンズ32と共に本発明に係る表示手段に対応している。
【0038】
表示デバイス34及びレンズ32は、表示デバイス34から射出された光がレンズ32を介して第2プリズム24へ入射され、反射面24Aで反射された場合には接眼レンズ26側へ射出されるように配置位置が調整されている。第2プリズム24は、表示デバイス34からの光及び第1プリズム24からの光の少なくとも一方を接眼レンズ26へ射出すると共に、表示デバイス34からの光及び第1プリズム24からの光を接眼レンズ26へ射出する割合を変更可能とされている。
【0039】
なお、接眼レンズ26を凸レンズで構成すると共に、対物レンズ20と第1プリズム22の間、或いは第1プリズム22と第2プリズム24の間にポロプリズム等のプリズムを設けることで、対物レンズ20A.20Bの光軸の間隔を人間の両眼の間隔(瞳孔間隔)よりも広くしてもよい。これにより、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像を目視した際の被写体の遠近感を更に拡大することができる。
なお、対物レンズ20A,20Bは請求項9に記載の対物光学系に、接眼レンズ26A,26Bは請求項9に記載の接眼光学系に、第1プリズム22は請求項9に記載の第1の光学部品に、第2プリズム24は請求項9に記載の第2の光学部品に各々対応している。
【0040】
次に、デジタル双眼鏡10の電気系の構成について図3を参照して説明する。デジタル双眼鏡10は駆動回路36を備えており、対物レンズ20のAF機構及びズーム機構は駆動回路36によって駆動される。また、撮像素子30は、詳しくは対物レンズ20及びレンズ28から成る光学系の焦点位置に相当する位置に配置されており、第1プリズム22が入射光の一部又は全部を撮像素子30側へ反射する状態に制御されている場合、被写体を反射して対物レンズ20に入射された光は、第1プリズム22の反射面22Aで反射され、レンズ28を介して撮像素子30の受光面に結像される。撮像素子30は、駆動回路36が内蔵しているタイミング発生回路(図示省略)によって発生されたタイミング信号に同期したタイミングで駆動され、画像信号(受光面上にマトリクス状に配列された多数個の光電変換セルの各々における受光量を表す信号)を所定周期で出力する。
【0041】
レンズ28と撮像素子30との間にはシャッタ/絞り38が配置されている。シャッタ及び絞りも駆動回路36によって駆動される。シャッタは撮像素子30から画像信号が出力されるときに、撮像素子30の受光面に光が入射することでスミアが発生することを防止するためのものであり、撮像素子30の構成によっては省略可能である。また絞りは、絞り量を連続的に変更可能な単一の絞りで構成してもよいし、絞り量が異なる複数の絞りを切替える構成であってもよい。
【0042】
また、デジタル双眼鏡10はストロボ駆動回路38を備えており、ストロボ駆動回路38はストロボ14に接続されている。ストロボ14は、低照度であることが検出された場合や、ユーザによって発光が指示された場合に、ストロボ駆動回路38によって発光される。
【0043】
撮像素子30の信号出力端にはアナログ信号処理部40、A/D変換器42、デジタル信号処理部44、メモリ46、内蔵メモリ48が順に接続されている。アナログ信号処理部40は、撮像素子30から出力された画像信号を増幅すると共に、増幅した画像信号に対してホワイトバランス等の補正を行う。アナログ信号処理部40から出力された画像信号は、A/D変換器42によってデジタルの画像データに変換されてデジタル信号処理部44へ入力される。デジタル信号処理部44では、入力された画像データに対して色補正・γ補正・Y/C変換等の各種処理を行う。デジタル信号処理部44から出力された画像データは、RAM等で構成されたメモリ46に一時記憶される。
【0044】
また、メモリ46にはFIFO(First In First Out)メモリから成り複数フレーム分の画像データを記憶可能な記憶容量を有する内蔵メモリ48が接続されている。被写体からの光が対物レンズ20、第1プリズム22及びレンズ28を介して撮像素子30に入射されている間、撮像素子30からは所定周期で画像信号が出力されるので、メモリ46にも所定周期で画像データが入力され、メモリ46に一時記憶される画像データは所定周期で更新されると共に、メモリ46に一時記憶された画像データは順次内蔵メモリ48に記憶される。従って、内蔵メモリ48には、常に最新の複数フレーム分の画像データが記憶される。なお、内蔵メモリ48は請求項8に記載の記憶手段に対応している。
【0045】
また、メモリ46には表示デバイス34が接続されている。表示デバイス34には、入力された画像データを、該画像データが表す画像を表示デバイス34に表示させるための表示制御信号へ変換する信号処理回路と、信号処理回路によって生成された表示制御信号に応じて表示デバイス34を駆動することで、入力された画像データが表す画像を表示デバイス34に表示させる駆動回路が付加されており、メモリ46に記憶された画像データは表示デバイス34にも出力され、表示デバイス34に画像(動画像)として表示される。
【0046】
駆動回路36、ストロボ駆動回路38,アナログ信号処理部40、A/D変換器42、デジタル信号処理部44、メモリ46、内蔵メモリ48及び圧縮伸張部50(後述)はバス52に接続されており、このバス52には、CPU54が接続されている。図示は省略するが、CPU54はROM、RAM、不揮発性メモリ(記憶内容を書替え可能なメモリ:例えばEEPROM等)、入出力ポート等の周辺回路を含んで構成されており、ROMには、後述するノイズ低減処理を行うためのノイズ低減プログラムが予め書き込まれている。
【0047】
またバス52には、各種のスイッチ類(例えば電源スイッチや動作モード切替スイッチ等:図1では図示省略)から成る操作スイッチ56、シャッタボタン18が操作されることでオンオフされるシャッタスイッチ58、ジャイロセンサ等から成りデジタル双眼鏡10の姿勢変化を検出する姿勢角センサ60が各々接続されており、第1プリズム22及び第2プリズム24も接続されている。第1プリズム22及び第2プリズム24の光の射出割合はCPU54によって制御される。このように、CPU54は請求項9に記載の制御手段としての機能を備えている。
【0048】
また、圧縮伸張部50A,50Bにはスロットに装填された記録メディア62が接続される。シャッタボタン18が操作されてシャッタスイッチ58がオンされた等により、スロットに装填された記録メディア62への画像データの書き込みが指示されると、CPU54は内蔵メモリ48A,48Bから画像データを読み出して圧縮伸張部50A,50Bへ転送する。これにより、圧縮伸張部50A,50Bへ転送された画像データは、圧縮伸張部50A,50Bで圧縮された後に所定の形式(例えばEXIF形式)の画像ファイルとして記録メディア62に書き込まれる。
【0049】
なお、記録メディア62へ書き込まれる画像データの画素数は、記録画素数の設定に応じて相違すると共に、画像データに対する圧縮率も画質モードとして予め設定されたモードによって相違しており、画質モードによっては画像データが圧縮されることなく記録メディア62に書き込まれる場合もある。
【0050】
また、スロットに装填された記録メディア62に格納されている画像データが表す画像の再生(表示)が指示された場合には、記録メディア62から画像データが読み出され、読み出された画像データが圧縮されて格納されていた場合には、該被圧縮画像データが圧縮伸張部50A,50Bで伸張(解凍)された後にメモリ46A,46Bへ転送される。そして、メモリ46A,46Bに一時記憶された画像データを用いて表示デバイス34A,34Bへの画像の表示(再生)が行われる。
【0051】
次に本実施形態の作用を説明する。本実施形態に係るデジタル双眼鏡10には、動作モードとして、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像を目視するための光学像目視モード、撮像素子30によって撮影され表示デバイス34に表示された画像を目視するための撮影画像目視モード、及び、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像に、表示デバイス34A,34Bに表示された画像が合成された画像を目視するための合成画像目視モードが設けられている。これらの動作モードの選択は、デジタル双眼鏡10本体に設けられた動作モード切替スイッチ(図示省略)を操作することでユーザが選択可能とされている。
【0052】
動作モードとして光学像目視モードが選択された場合、CPU54は、対物レンズ20を介して第1プリズム22に入射された光が第2プリズム24側へのみ射出されるように第1プリズム22からの光の射出割合を変更すると共に、第1プリズム24から第2プリズム24へ入射された光のみが接眼レンズ26へ射出されるように第2プリズム24からの光の射出割合を変更する。これにより、通常の双眼鏡と同様に、接眼レンズ26A,26Bを両眼で覗いたユーザに、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像が視認(立体視)されることになる。
【0053】
この光学像目視モードでは、ユーザが操作リング13を回動操作することで、対物レンズ20の光学倍率(ズーム倍率)を調節することも可能とされている。なお、光学像目視モードにおけるピント調節については、例えばユーザが操作可能なピント調節機構を設けておき、このピント調節機構をユーザに操作させることでユーザに行わせるようにしてもよいが、これに代えて、対物レンズ20を介して第1プリズム22に入射された光が撮像素子30側へも射出されるように第1プリズム22からの光の射出割合を変更し、撮像素子30による撮影によって得られた画像に基づき、駆動回路36A,36Bを介して対物レンズ20A,20BのAF機構を駆動する(例えば画像の鮮鋭度を演算し鮮鋭度が最大となるようにAF機構を駆動する等)ことで自動的に行うようにしてもよい。
【0054】
また、動作モードとして撮影画像目視モードが選択された場合には、CPU54は、対物レンズ20を介して第1プリズム22に入射された光が撮像素子30側へのみ射出されるように第1プリズム22からの光の射出割合を変更すると共に、表示デバイス34から第2プリズム24へ入射された光のみが接眼レンズ26へ射出されるように第2プリズム24からの光の射出割合を変更し、更に、撮像素子30Aによる撮影によって得られた画像を表示デバイス34Aに表示させ、撮像素子30Bによる撮影によって得られた画像を表示デバイス34Bに表示させる。
【0055】
これにより、接眼レンズ26A,26Bを両眼で覗いたユーザに、表示デバイス34A,34Bに表示された画像が視認されることになる。撮像素子30A,30Bは、被写体から人間の両眼の間隔と略同じ距離だけ光軸が隔てられた対物レンズ20A,20Cを介して入射された光を光電変換するので、撮像素子30A,30Bによる撮影によって得られる一対の画像には、少なくとも両眼視差に相当する像構造の幾何学的な相違が生じている(ステレオ画像)。従って、表示デバイス34A,34Bに表示された前記一対の画像を接眼レンズ26A,26Bを介して両眼で視認したユーザが被写体を立体的に認識することができる(所謂立体視)。
【0056】
また、上記の撮影画像目視モードのように撮像素子30A,30Bによって撮影が行われている間、デジタル双眼鏡10では以下で説明する画像処理が行われる。
【0057】
すなわち、本実施形態ではデジタル双眼鏡10に搭載される撮像素子30A,30Bの感度特性(入射光量−出力特性)が個々の画素を単位として事前に測定され、測定された感度特性に基づいて、A/D変換器42A,42Bから入力される画像データを、均一な感度特性の一対の撮像素子で撮像したに等しい画像データへ補正するための補正データが撮像素子30A,30Bの個々の画素を単位として設定されている。デジタル信号処理部44A,44Bには上記の補正データが記憶されており、デジタル信号処理部44A,44Bは記憶されている補正データに基づき、個々の画素を単位として画像データの補正を行う。これにより、撮像素子30A,30Bの感度特性のばらつきを補正することができる。
【0058】
表示デバイス34A,34Bには撮像素子30A,30Bの感度特性のばらつきが補正された画像(動画像)が表示されるので、表示デバイス34A,34Bに表示された前記一対の画像を接眼レンズ26A,26Bを介して両眼で視認したユーザに、撮像素子30A,30Bの感度特性のばらつきが顕著な画質欠陥として認識されることを防止することができる。
【0059】
なお、上記の補正処理は請求項5記載の発明に係る画像処理手段に対応しており、デジタル信号処理部44A,44Bは本発明に係る画像処理手段の一部を構成している。
【0060】
また、本実施形態に係るデジタル双眼鏡10では、A/D変換器42A,42Bから入力された画像データから、デジタル信号処理部44A,44Bにより、前記画像データが表す画像のうち所定サイズの部分領域に相当する画像データが切り出され、該部分領域の画像データが表示デバイス34A,34Bへの画像の表示等に用いられるようになっている。撮像素子30A,30Bによる撮影が行われている間、CPU54は姿勢角センサ60によって検出されるデジタル双眼鏡10の姿勢変化を監視し、デジタル双眼鏡10の姿勢が変化した場合に、デジタル双眼鏡10の姿勢変化に伴う撮像素子30A,30Bによる全撮影範囲の変化に拘らず前記部分領域に対応する撮影範囲の変化が抑制されるように、デジタル双眼鏡10の姿勢変化に応じて部分領域の新たな切り出し位置を演算し、演算した切り出し位置をデジタル信号処理部44A,44Bへ通知することを繰り返す。
【0061】
また、デジタル信号処理部44A,44Bは、CPU54から通知された切り出し位置に応じて、A/D変換器42から入力された画像データが表す画像上での部分領域の位置が変化するように、前記画像データからの部分領域に相当する画像データの切り出しを行う。これにより、デジタル双眼鏡10を把持しているユーザの手振れ等により撮像素子30A,30Bによる全撮影範囲が一時的に変動した場合にも、部分領域に対応する撮影範囲の変動を抑制することができる。そして、表示デバイス34A,34Bには上記の手振れ補正が行われた画像(動画像)が表示されるので、接眼レンズ26A,26Bを介してユーザに視認される画像が、ユーザの手振れ等により撮影範囲が変動する見苦しい画像となることを防止することができる。
【0062】
なお、姿勢角センサ60は請求項6に記載の検出手段に対応している。また、CPU54及びデジタル信号処理部44A,44Bによる上述した処理は請求項6に記載の手振れ補正処理に対応しており、デジタル信号処理部44A,44B及びCPU54は本発明に係る画像処理手段の一部を構成している。
【0063】
また、CPU54は撮像素子30A,30Bによって撮影が行われている間、ROMに書き込まれているノイズ低減プログラムを実行することで、デジタル信号処理部44A,44Bにおける各種の処理を経てメモリ46A,46Bに記憶された画像(データ)を対象としてノイズ低減処理を行う。以下、このノイズ低減処理について、図4のフローチャートを参照して説明する。
【0064】
このノイズ低減処理は本発明に係る画像処理手段(詳しくは、請求項2に記載の画像処理手段及び請求項3に記載の「一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分の相違が解消又は減少するように一対の画像のうちの少なくとも一方を補正する処理」を行う画像処理手段)に対応しており、ノイズ低減プログラムを実行するCPU54は本発明に係る画像処理手段として機能する。なお、以下では便宜的に、メモリ46Aに記憶された画像を左チャンネルの画像、メモリ46Bに記憶された画像を右チャンネルの画像と称する。
【0065】
ステップ100では、左チャンネルの画像と右チャンネルの画像の像構造の幾何学的な相違を認識するために、左右チャンネルの画像のマッチング処理を行う。このマッチング処理としては、例えば左右チャンネルの画像における対応する点である可能性のある候補(対応点候補)を左右チャンネルの画像から各々抽出し、弛緩法により対応点を決定する処理を適用することができる。
【0066】
具体的には、対応点候補としては、全ての方向で濃淡レベルの大きな変化が生じている点であることが望ましく、また、対応点候補が密に存在していると対応点の決定が困難となる。このため、まず対応点候補の抽出対象の画像g(x,y)の各画素について水平・垂直・右斜め・左斜め方向の濃淡レベルの変動g’1,g’2,g’3,g’4を次式に従って求める。
【0067】
g’1(x,y)=[2・g(x,y)−(g(x−1,y)+g(x+1,y))]2
g’2(x,y)=[2・g(x,y)−(g(x,y−1)+g(x,y+1))]2
g’3(x,y)=[2・g(x,y)−(g(x+1,y−1)+g(x−1,y+1))]2
g’4(x,y)=[2・g(x,y)−(g(x−1,y−1)+g(x+1,y+1))]2
次に、適当な大きさのウインドウWを1画素ずつ動かしながら、ウインドウの中心画素(x,y)の値として、次式のオペレータ出力値g”を求める。
【0068】
【数1】
【0069】
続いて、画素(x,y)を中心とする(2w+1)×(2w+1)画素の大きさの局所領域毎にオペレータ出力値g”の最大値g*を抽出する。そして、画像中の最大のg*から順次大きなg*をもつ画素をn個抽出し、これを対応点候補とする。上記処理を左右チャンネルの画像に対して各々行うことで、例えば図5(A)に示す左チャンネルの画像からは例として図5(C)に示すような対応点候補が抽出され、例えば図5(B)に示す右チャンネルの画像からは例として図5(D)に示すような対応点候補が抽出されることになる。
【0070】
次に、抽出された対応点候補に基づいて対応点を決定する。左チャンネルの画像から抽出された対応点候補の集合をL=[L1,L2,…,Ln]、右チャンネルの画像から抽出された対応点候補の集合をR=[R1,R2,…,Rn]とし、左チャンネルの画像から抽出された対応点候補Li(i=1,2,…,n)に対し、Liを中心とする(2r+1)×(2r+1)画素の大きさの矩形領域内に存在する右チャンネルの画像の対応点候補Riを対応点対候補とする。ここで、Liを始点としRiを終点とするベクトルを相違ベクトルと称する。
【0071】
対応点の決定は、対応点候補Liに対して得られている対応点対候補(相違ベクトル候補)と、対応点候補Lj(i≠j)に対して得られている対応点対候補(相違ベクトル候補)が互いに矛盾しないように候補を絞っていくことにより成され、具体的には弛緩法(対象Liに局所的矛盾が少なくなるようにラベルλkを与える)を適用し、ラベルλkとして相違ベクトルのx,y方向の成分Δx,Δyを用いることで実現できる。これにより、例として図5(E)に示すようなマッチング結果(対応点対及び相違ベクトル)が得られ、左チャンネルの画像と右チャンネルの画像の像構造の幾何学的な相違を認識することができる。
【0072】
次のステップ102では、ステップ100におけるマッチング処理の結果に基づき、左右チャンネルの画像の互いに対応する位置(例えば対応点対の存在している位置)を境界として、左右チャンネルの画像を各々多数個の処理ブロックに分割する。なお、この多数個の処理ブロックへの分割は、一方のチャンネルの画像の特定の処理ブロックに対応する他方のチャンネルの画像の処理ブロックが判別可能に分割できればよく、他の分割方法を適用してもよい。また、処理ブロックの形状も矩形状に限られるものではない。上記の処理ブロックは請求項4に記載の部分領域に対応している。
【0073】
ステップ104では、左チャンネルの画像から未処理の処理ブロックのデータを取り出し、次のステップ106では、左チャンネルの画像から取り出した処理ブロック(:処理ブロックL)に対応する右チャンネルの画像の処理ブロックを認識し、認識した処理ブロック(:処理ブロックR)のデータを取り出す。そしてステップ108では、左右チャンネルの画像から取り出した処理ブロックL,Rのデータに基づき、処理ブロックL,R内の全ての画素列j(j=1,2,…,jmax)を対象として、左右チャンネルの画像の平均データ関数fave(j)を次式に従って演算する。
【0074】
【数2】
【0075】
但し、dataL(i,j):処理ブロックL内のi行目j列目の画素
dataR(i,j):処理ブロックR内のi行目j列目の画素
n:処理ブロックL,R内の画素の行の総数
【0076】
ステップ110では変数iに1を代入する。ステップ112では、処理ブロックLのi行目のデータ関数を
fLi(j)=dataL(i,j)
と表したときに、このデータ関数fLi(j)とfave(j)+kLiとの残差が最小になるときの定数kLiを最小自乗法により演算する。そしてステップ114では、処理ブロックLのi行目のデータ関数を次式により設定する。
fLi(j)←fave(j)+kLi
【0077】
また、ステップ116では、処理ブロックRのi行目のデータ関数を
fRi(j)=dataR(i,j)
と表したときに、このデータ関数fRi(j)とfave(j)+kRiとの残差が最小になるときの定数kRiを最小自乗法により演算する。そしてステップ118において、処理ブロックRのi行目のデータ関数を次式により設定する。
fRi(j)←fave(j)+kRi
【0078】
次のステップ120では、変数iが処理ブロックL,R内の画素の行の総数nに一致しているか否か判定する。判定が否定された場合にはステップ122へ移行し、変数iを1だけインクリメントしてステップ122へ戻る。これにより、ステップ104,106で取り出した処理ブロックL,Rの全ての画素の行について、ステップ112〜ステップ118の処理が各々行われることになる。
【0079】
ステップ120の判定が肯定されるとステップ124へ移行し、左右チャンネルの画像の全ての処理ブロックに対してステップ104以降の処理を行ったか否か判定する。判定が否定された場合にはステップ104に戻る。これにより、左右チャンネルの画像の全ての処理ブロックに対してステップ104以降の処理が行われることになる。ステップ124の判定が肯定されるとノイズ低減処理を終了する。
【0080】
上記のノイズ低減処理では、左右チャンネルの画像を同一の平均データ関数fave(j)に基づいて補正しているので、左右チャンネルの画像のうち、ステップ100で認識した像構造の幾何学的な相違以外の相違、詳しくは撮像素子30A,30B等を原因として左右チャンネルの画像に各々重畳されているランダムなノイズの相違が減少されることになる。なお、上記では平均データ関数fave(j)として、左右チャンネルの画像の平均に相当するデータ関数を用いていたが、これに代えて左右チャンネルの画像のうちの何れか一方の画像の平均に相当するデータ関数を用いてもよい。
【0081】
上記のノイズ低減処理は、所定周期でメモリ46に入力・記憶される画像データに対して各々行われ、表示デバイス34A,34Bには、ノイズ低減処理が行われた画像(動画像)が表示されるので、表示デバイス34A,34Bに表示された前記一対の画像を接眼レンズ26A,26Bを介して両眼で視認したユーザに、左右チャンネルの画像に重畳されているランダムなノイズが顕著な画質欠陥として認識されることを防止することができる。
【0082】
また、撮影画像目視モードにおいて、表示デバイス34A,34Bに表示されている動画像を接眼レンズ26A,26Bを介して両眼で視認しているユーザが、視認している画像を静止画像として保存することを所望した場合には、シャッタボタン18が操作されることで、スロットに装填された記録メディア62への画像データの書き込みが指示される。シャッタスイッチ58がオンすることで、シャッタボタン18が操作されたことを検知すると、CPU54は、内蔵メモリ48A,48Bから画像データを読み出して圧縮伸張部50A,50Bへ転送する。
【0083】
詳しくは、シャッタボタン18が操作されてから、シャッタスイッチ58がオンしたことを検知して画像データを読み出す迄に若干の時間がかかることを考慮し、CPU54は、内蔵メモリ48A,48Bに最新の複数フレーム分の画像データが記憶されていることを利用して、内蔵メモリ48A,48Bからの画像データの読み出し時に、撮像素子30A,30Bによって前記時間差分だけ前に撮像された画像データを読み出して圧縮伸張部50A,50Bへ転送する。これにより、シャッタボタン18が操作されたタイミングと略同一のタイミングで撮像された画像データを記録メディア62に書き込むことができる。なお、上記の処理は請求項7(詳しくは請求項8)に記載の記録手段に対応している。
【0084】
一方、動作モードとして合成画像目視モードが選択された場合には、CPU54は、対物レンズ20を介して第1プリズム22に入射された光が第2プリズム24側及び撮像素子30側へ各々所定の射出割合で射出されるように第1プリズム22からの光の射出割合を変更すると共に、第1プリズム22から第2プリズム24へ入射された光及び表示デバイス34から第2プリズム24へ入射された光が各々所定の射出割合で接眼レンズ26へ射出されるように第2プリズム24からの光の射出割合を変更し、更に、表示デバイス34A,34Bに各々画像を表示させる。これにより、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像に、表示デバイス34A,34Bに表示された画像が合成された合成画像が、接眼レンズ26A,26Bを両眼で覗いたユーザに視認(立体視)されることになる。
【0085】
合成画像目視モードにおいて、表示デバイス34A,34Bには任意の画像を表示可能であり、例えば撮像素子30A,30Bによる撮像によって得られた画像を解析して画像中の動体等を認識し、認識した動体等を指し示したり、或いは強調する図形を生成して表示デバイス34A,34Bに表示することで、被写体の光学像に前記図形を合成した画像をユーザに視認させるようにしてもよい。
【0086】
なお、この態様においては、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像と、表示デバイス34A,34Bに表示された画像の位置ずれを回避するために、前述の手振れ補正(部分領域の切り出し位置を変更することによる手振れ補正)の実行を停止するか、或いは、前述の手振れ補正に代えて、第1プリズム22よりも被写体側の光路上に、バリアングルプリズム等の角度を変更可能なプリズムを設けておき、姿勢角センサ60によって検出されたデジタル双眼鏡10の姿勢変化に基づき、該姿勢変化を打ち消すようにプリズムの光軸を制御することで手振れ補正を行うことが好ましい。
【0087】
また、合成画像目視モードにおいて、被写体の光学像に合成する画像は、例えばCG(Computer Graphics)等の技術を用いて生成した架空の世界の画像(仮想現実画像)であってもよい。この仮想現実画像はデジタル双眼鏡10に予め画像データとして記憶しておくようにしてもよいが、無線等の通信手段を介して外部(例えばインターネット等)と通信する機能をデジタル双眼鏡10に搭載しておき、インターネットに接続されたサーバから受信するようにしてもよい。上記のように、光学像に合成する画像が被写体と無関係な画像(撮像素子30A,30Bによる撮像によって得られた画像を利用せずに生成された画像)である場合には、撮像素子30A,30Bによって撮像を行う必要がなくなるので、対物レンズ20を介して第1プリズム22に入射された光が第2プリズム24側へのみ射出されるように第1プリズム22からの光の射出割合を変更するようにしてもよい。また、撮像素子30A,30Bによる撮像によって得られた画像、或いは姿勢角センサ60による検出結果に基づいて、デジタル双眼鏡10の姿勢角(視野方向)の変化を認識し、認識した姿勢角(視野方向)の変化に応じて、表示デバイス34に表示する仮想現実画像を変化させるようにしてもよい。また、光学像に合成する画像は文字画像等であってもよい。
【0088】
このように、本実施形態に係るデジタル双眼鏡10では、ユーザによって選択された動作モードに応じて多様な画像(光学像)がユーザに提示されるので、ユーザの利便性を向上させることができる。
【0089】
なお、上記では左右チャンネルの画像上の対応する領域に各々重畳しているランダムなノイズの相違を低減させる処理として平均データ関数fave(j)を用いる処理を説明したが、これに限られるものではなく、左右チャンネルの画像に重畳しているランダムなノイズ成分を各々抽出し、抽出したノイズ成分を平均化し、抽出したノイズ成分を各々除去した左右チャンネルの画像に、平均化したノイズ成分を各々加算することで、ランダムなノイズ成分の相違を解消するようにしてもよいし、上記の平均化したノイズ成分に代えて、左右チャンネルの画像の一方から抽出したノイズ成分を適用するようにしてもよい。
【0090】
また、上記では本発明に係る画像処理手段による画像処理の一例として、左右チャンネルの画像上の対応する領域に各々重畳しているランダムなノイズ(一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分)の相違を低減させる処理(ノイズ低減処理)を説明したが、これに限定されるものではなく、左右チャンネルの画像のうちの一方の画像にのみ重畳しているノイズ成分を一方の画像から除去するノイズ成分除去処理も併せて行うようにしてもよいし、例えば撮像素子30A,30Bとして低ノイズの高性能な撮像素子を用いる等の場合には、上記のノイズ成分除去処理のみを行うようにしてもよい。
【0091】
ノイズ成分除去処理としては、例えば左右チャンネルの画像のマッチング処理を行うことで左右チャンネルの画像の像構造の幾何学的な相違を認識した後に、左右チャンネルの画像の対応する領域同士を比較し、対物レンズ20に塵埃等が付着した場合に画像上に生ずる欠陥部の規模と同程度の規模の欠陥部が一方の画像に生じていることを検知した場合に、検知した欠陥部の周囲の画像部に基づいて補間するか、又は他方の画像の対応する画像部のデータで埋めることで、検知した欠陥部を消去する処理等を適用することができる。
【0092】
また、上記では本発明に係るノイズ低減処理をCPU54が実行する例を説明したが、これに限定されるものではなく、ノイズ低減処理を実行するための専用ハードウェアを設け、このハードウェアによってノイズ低減処理を実行するようにしてもよい。これによりCPU54の負荷を低減することができる。
【0093】
更に、上記では撮像手段(撮像素子30等)が2個(一対)のみ設けられている場合を例に説明したが、これに限られるものではなく、3個以上の多数個の撮像手段を設けてもよい。
【0094】
また、上記では本発明に係る表示手段として、LCD等から成る一対の表示デバイス34A,34Bを例に説明したが、画像を立体視可能に表示するものであればよく、例えば立体表示用の特殊レンズ面(レンチキュラー等)を有する表示デバイスを用いてもよい。
【0095】
また、上記では記録メディア62に静止画像の画像データを記録する場合を説明したが、これに限定されるものではなく、動画像の画像データも記録可能としてもよい。
【0096】
【発明の効果】
以上説明したように本発明は、撮影した画像に両眼視差に相当する相違が生ずるように配置された一対の撮像手段、撮影された一対の画像における両眼視差に相当する像構造の幾何学的な相違以外の相違を減少させる画像処理を行う画像処理手段、及び画像処理が行われた一対の画像を立体視可能に各々表示する表示手段が一体化されて構成されているので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示することができる、という優れた効果を有する。
【図面の簡単な説明】
【図1】本実施形態に係るデジタル双眼鏡の外観を示す斜視図である。
【図2】デジタル双眼鏡の光学系の概略図である。
【図3】デジタル双眼鏡の電気系の概略ブロック図である。
【図4】ノイズ低減処理の内容を示すフローチャートである。
【図5】左右チャンネルの画像のマッチング処理を説明するためのイメージ図である。
【符号の説明】
10 デジタル双眼鏡
20 対物レンズ
22 第1プリズム
24 第2プリズム
26 接眼レンズ
30 撮像素子
34 表示デバイス
44 デジタル信号処理部
46 メモリ
48 内蔵メモリ
54 CPU
60 姿勢角センサ
62 記録メディア
【発明の属する技術分野】
本発明はデジタル双眼鏡に係り、特に、一対の撮像手段によって被写体を撮影し撮影によって得られた画像を立体視可能に表示するデジタル双眼鏡に関する。
【0002】
【従来の技術】
双眼鏡は遠景を両眼で同時に拡大して見ることができ、見易いために疲れにくく、対象物を立体的に認識可能であるという特長を有しており、従来より広範に普及しているが、近年、ユーザの利便性向上等を目的として、付加機能を搭載した双眼鏡が見受けられるようになってきている。
【0003】
例えば映像増倍管装置を搭載し、暗闇等でも対象物を認識可能な双眼鏡タイプの暗視スコープが市販されている(例えば非特許文献1参照)。
【0004】
また、例えばデジタルスチルカメラの機能を搭載した双眼鏡も市販されている(例えば非特許文献2参照)。
【0005】
一方、光学像を撮像素子により光電変換し、該光電変換によって得られた画像信号をデジタルデータへ変換することで得られるデジタル画像のノイズ低減としては、従来より種々の手法が知られており、例えば原画像を複数の小ブロックに分割し、各小ブロック毎に、ブロック内の画像データの特徴を代表的に表すテンプレートプロファイルを算出し、算出したテンプレートプロファイルを用いて当該ブロック内の元の画像データプロファイルを近似し、該近似によって得られた元の画像データを置換することで画像データのノイズを除去する手法がある(例えば特許文献1参照)。
【0006】
また、例えば原画像データに対して平滑化・エッジ検出を行い、平滑化画像データから被写体のエッジとノイズが混在する混在画像データを求め、エッジ検出で求めたエッジ強度データからノイズの重み付け係数を求め、ノイズの重み付け係数と混在画像データからノイズデータを求める一方、ノイズ抑制の広がりを表すノイズ抑制分布関数を設定し、この関数とノイズデータとの畳み込み積分を行ってノイズ抑制分布を算出し、ノイズデータにノイズ抑制分布を乗じてノイズ抑制成分を求め、このノイズ抑制成分を変倍して画像データから減算することでノイズを抑制する手法もある(例えば特許文献2参照)。
【0007】
更に、例えばフィルム原稿を光電的に読み取って得られた入力画像信号を高周波成分とそれ以外の成分に分解し、高周波成分を強調すると共に、フィルム原稿がアンダーネガ又は高感度フィルムの少なくとも一方である場合には、最も低い周波数成分の帯域がより狭くなるように、高周波成分以外の成分を2以上の成分に分解し、高周波成分及び最も低い周波数成分以外の周波数成分を抑制することで粒状(ノイズ)を抑制する手法もある(例えば特許文献3参照)。
【0008】
【特許文献1】
特開2001−144964公報
【特許文献2】
特開平2001−285640公報
【特許文献3】
特開平11−275350号公報
【非特許文献1】
(株)ケンコー、”スーパーナイト シリーズ”、[online]、[平成14年8月19日検索]、インターネット<URL:http://www.kenko−tokina.co.jp/optical/4961607145425.html>
【非特許文献2】
旭光学(株)、”Digital Binoculars −DIGIBINO−”、[online]、
[平成14年8月19日検索]、インターネット<URL:http://
www.pentax.co.jp/japan/product/>
【0009】
【発明が解決しようとする課題】
対象物を立体的に認識可能という特長を損なうことなく、双眼鏡を使用するユーザの利便性を向上させるには、各々が撮影した画像に両眼視差に相当する相違が生じるように複数の撮像素子を双眼鏡に搭載し、被写体を複数の撮像素子によって各々撮影し、撮影によって得られた複数の画像(ステレオ画像)に所定の画像処理を施した後に、画像処理後の画像を立体視可能に表示することが有効である。上記構成を採用することで、表示する画像を画像処理によって自由に加工することができるので、ユーザの利便性向上に寄与する種々の機能を付加することが可能となる。
【0010】
本願発明者等は、上記構成の双眼鏡を想定し、2台のデジタルスチルカメラ(DSC)を用いてステレオ画像を撮影し、撮影したステレオ画像をフィルム等の記録材料に記録し、立体視して画質を評価する実験を行った。その結果、ステレオ画像の左右の画像に両眼視差に相当する相違以外の相違が生じている場合、当該ステレオ画像を立体視すると、前記両眼視差に相当する相違以外の相違が、非常に顕著な画質欠陥として視認されることが明らかになった。
【0011】
例えばDSCによる撮影によって得られた画像は、撮像素子として内蔵されているCCDの特性により、特に高濃度の部分(撮影したシーン全体のうち撮影時の入射光量の低い部分)に視認可能なノイズが生ずる。このノイズは単一の画像を目視している限りはそれ程目立たないが、ランダムなノイズであるため、ステレオ画像の左右の画像に異なるパターンのノイズとして現れることになり、このようなノイズが生じているステレオ画像を立体視すると、鑑賞者には、ノイズのパターンが空間上に浮いており、且つちらついているように見え、単一の画像を目視している場合と比較してノイズが顕著に視認されることになる。
【0012】
上記の現象は、人間の視覚が、両眼で知覚した左右像のうちの相違している部分に感度が高い特性を有しており、左右像のうちの相違している部分を認識した鑑賞者の脳が、過去の経験から金属等の光沢と解釈して処理することが原因ではないかと推察される。
【0013】
これに対し、先に述べたデジタル画像のノイズ低減の手法は、何れも単一の画像を対象としたものであり、双眼鏡に搭載した複数の撮像素子によって撮像されたステレオ画像の個々の画像に前記各手法を適用したとしても、ステレオ画像を立体視する場合に顕著に視認される画質欠陥を軽減又は解消することは困難であった。
【0014】
本発明は上記事実を考慮して成されたもので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示することができるデジタル双眼鏡を得ることが目的である。
【0015】
【課題を解決するための手段】
上記目的を達成するために請求項1記載の発明に係るデジタル双眼鏡は、各々が撮影した画像に両眼視差に相当する相違が生ずるように配置された一対の撮像手段と、前記一対の撮像手段によって撮影された一対の画像における、前記両眼視差に相当する像構造の幾何学的な相違以外の相違を減少させる画像処理を行う画像処理手段と、前記画像処理手段によって画像処理が行われた一対の画像を立体視可能に各々表示する表示手段と、を備え、これらが一体化されて構成されている。
【0016】
請求項1記載の発明に係るデジタル双眼鏡には、一対の撮像手段が、各々が撮影した画像に両眼視差に相当する相違が生ずるように配置されており、該一対の撮像手段によって撮影された一対の画像における、両眼視差に相当する像構造の幾何学的な相違以外の一対の画像における相違を減少させる処理を行う。これにより、一対の撮像手段によって撮影された一対の画像における両眼視差に相当する像構造の幾何学的な相違以外の相違、すなわち一対の画像を立体視した場合に顕著な画質欠陥として認識される相違が減少されることになる。そして、請求項1記載の発明に係る表示手段は、画像処理手段によって画像処理が行われた一対の画像を立体視可能に各々表示するので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示することができる。
なお、請求項1記載の発明において、両眼視差に相当する像構造の幾何学的な相違以外の相違としては、例えば一対の画像に各々重畳されているノイズ成分の相違や、一対の画像における色味の相違が挙げられ、画像処理手段は、重畳されているノイズ成分の相違や色味の相違を減少させる処理を行うように構成することができるが、一対の画像における両眼視差に相当する像構造の幾何学的な相違の影響により、一対の画像におけるノイズ成分や色味の相違が容易には認識できないことも多い。
【0017】
これを考慮すると、請求項1記載の発明において、画像処理手段は、例えば請求項2に記載したように、一対の撮像手段によって撮影された一対の画像における、前記両眼視差に相当する像構造の幾何学的な相違を認識し、認識した前記像構造の幾何学的な相違以外の相違を減少させる画像処理を行うように構成することが好ましい。
【0018】
請求項2記載の発明において、画像処理手段による像構造の幾何学的な相違の認識は、具体的には、例えば一対の画像のマッチングを行うことによって実現できる。上記のマッチングには、例えば一対の画像上の対応する点対を求めるポイントパターン・マッチングや、一対の画像上の対応する線セグメント対を求めるラインパターン・マッチング等を適用できる。これにより、一対の画像における両眼視差に相当する像構造の幾何学的な相違を精度良く認識することができる。そして請求項2記載の発明に係る画像処理手段は、両眼視差に相当する像構造の幾何学的な相違の認識結果に基づき、一対の画像における前記像構造の幾何学的な相違以外の相違を減少させる処理を行うので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ更に高画質に表示することができる。
【0019】
また、本発明に係る一対の画像における両眼視差に相当する像構造の幾何学的な相違以外の典型的な相違としては、例えば画像にノイズ成分が重畳されることによる相違が挙げられるが、像構造の幾何学的な相違以外の相違を生じさせるノイズ成分の重畳には、詳しくは、一対の画像のうちの一方の画像にのみノイズ成分が重畳される場合と、一対の画像に相互に異なるノイズ成分が重畳される場合がある。例えば、一対の撮像手段のうちの一方の撮像手段に、撮像素子の画素欠陥や入射光学系への塵埃の付着等があれば、一対の画像のうちの一方の画像にのみノイズ成分(明瞭に視認可能な欠陥部として現れることも多い)が重畳されることで一対の画像に相違が生じ、一対の撮像手段の各々の撮像素子でランダムなノイズが発生される等の場合には、一対の画像に相互に異なるノイズ成分が各々重畳されることで一対の画像に相違が生ずる。
【0020】
このため、請求項2記載の発明において、画像処理手段は、例えば請求項3に記載したように、画像処理として、一対の画像のうちの一方の画像にのみ重畳しているノイズ成分を一方の画像から除去する処理、及び、一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分の相違が解消又は減少するように一対の画像のうちの少なくとも一方を補正する処理、の少なくとも一方を行うことが好ましい。これにより、ノイズ成分の重畳により一対の画像に生じている相違を低減することができる。
【0021】
また、本発明に係る一対の画像には像構造の幾何学的な相違が生じていることを考慮すると、請求項3記載の発明において、画像処理手段は、例えば請求項4に記載したように、一対の画像を各々部分領域に分割し、認識した一対の画像における像構造の幾何学的な相違に基づいて、一方の画像における特定の部分領域と対応する他方の画像の部分領域を判断し、対応する領域であると判断した部分領域同士を比較することを、個々の部分領域について各々行うことで、像構造の幾何学的な相違以外の相違を生じさせているノイズ成分を判断することが好ましい。これにより、本発明に係る一対の画像に顕著な画質欠陥として認識される相違を生じさせているノイズ成分(一方の画像にのみ重畳しているノイズ成分や、一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分)を正確に判断することができる。
【0022】
また、撮像手段を複数設けた場合、個々の撮像手段に、例えば撮像素子の感度等の特性のばらつきが生じている可能性もある。これを考慮すると、請求項1記載の発明において、画像処理手段は、例えば請求項5に記載したように、一対の撮像手段によって撮影された一対の画像に対し、一対の撮像手段の特性のばらつきに起因するばらつきを補正する補正処理も行うことが好ましい。これにより、撮像手段の特性のばらつきが顕著な画質欠陥として認識されることを防止することができる。
【0023】
また、請求項1記載の発明において、例えば請求項6に記載したように、デジタル双眼鏡の姿勢変化を検出する検出手段を更に備え、画像処理手段は、一対の撮像手段によって撮影された一対の画像から所定サイズの領域を各々切り出して出力すると共に、検出手段によって検出された姿勢変化に応じて前記領域の切り出し位置を変化させる手振れ補正も行うことが好ましい。これにより、本発明に係るデジタル双眼鏡を把持しているユーザの手振れ等により、個々の撮像手段による撮影範囲が一時的に変動した場合にも、デジタル双眼鏡の姿勢変化に応じて一対の画像からの所定サイズの領域の切り出し位置が変化されることで、該所定サイズの領域に対応する撮影範囲の変動が抑制されるので、手振れ等に起因する撮影範囲の変動による影響を軽減することができる。
【0024】
なお、手振れ補正は、例えば入射光学系にバリアングルプリズム等の光学部品を設け、この光学部品の光軸をデジタル双眼鏡の姿勢変化に応じて制御することで行うことも可能であるが、上記のように、一対の画像からの領域の切り出し位置を変化させることで、手振れ補正をより低コストに実現することができる。
【0025】
また、請求項1記載の発明において、例えば請求項7に記載したように、撮像手段による撮影によって得られた画像のデータ又は画像処理手段によって画像処理が行われた画像のデータを、記録媒体に記録するか又は記録媒体に記録するための処理(例えば画像データを記録媒体に記録する機能を備えた装置への画像データの転送等の処理)を行う記録手段を備えることが好ましい。これにより、撮像手段による撮影によって得られた画像をデータとして保存しておき、例えば写真プリントの作成等を依頼する等の利用を行うことも可能となる。なお、記録媒体に記録する画像データは、一対の撮像手段によって撮影された一対の画像のうちの一方のみでもよいし、一対の画像のデータを各々記録媒体に記録するようにしてもよい。
【0026】
また、記録媒体に記録する画像データは、動画像のデータであってもよいが、静止画像のデータであってもよい。請求項7記載の発明において、静止画像のデータを記録する場合には、例えば請求項8に記載したように、一対の撮像手段は各々常時撮影を行うと共に、画像処理手段はリアルタイムで画像処理を行い、記録手段は、一対の撮像手段又は画像処理手段から順次出力される画像データのうち最新の所定数の画像データを記憶する記憶手段を備え、指示手段を介して画像データの記録が指示された場合に、指示のタイミングを基準として記憶手段に記憶されている画像データの中から記録対象の画像データを選択し、選択した記録対象の画像データを記録媒体に記録するか又は前記選択した記録対象の画像データを記録媒体に記録するための処理を行うことが好ましい。
【0027】
これにより、例えば指示手段を介して画像データの記録が指示されてから、該指示に応じて画像データの記録が行われる迄に若干のタイムラグがある等の場合にも、このタイムラグの影響を受けることなく、画像データの記録が指示されたタイミングと略同一のタイミングで撮影された画像データを記録対象の画像データとして選択することが可能となり、画像データの記録が指示されたタイミングと略同一のタイミングで撮影された画像データを記録媒体に記録することが可能となる。
【0028】
請求項9記載の発明は、請求項1記載の発明において、被写体からの光を屈折させる対物光学系と、前記被写体を目視可能なように前記対物光学系からの光を屈折させるための接眼光学系と、前記対物光学系と前記接眼光学系の間に配置され、前記対物光学系を介して入射された光を接眼光学系及び前記撮像手段の撮像素子の少なくとも一方へ向けて射出すると共に、接眼光学系及び撮像素子への光の射出割合を変更可能な第1の光学部品と、前記第1の光学部品と前記接眼光学系の間に配置され、前記画像処理手段によって画像処理が行われた画像を表示するための前記表示手段の表示デバイスから射出された光も入射され、第1の光学部品からの光及び前記表示デバイスからの光の少なくとも一方を接眼光学系へ射出すると共に、第1の光学部品からの光及び前記表示デバイスからの光の接眼光学系への射出割合を変更可能な第2の光学部品と、前記第1の光学部品及び前記第2の光学部品における前記射出割合を制御する制御手段と、を備えたことを特徴としている。
【0029】
請求項9記載の発明では、対物光学系を介して入射された光を接眼光学系及び撮像手段の撮像素子の少なくとも一方へ向けて射出すると共に、接眼光学系及び撮像素子への光の射出割合を変更可能な第1の光学部品が設けられており、接眼光学系及び撮像素子への光の射出割合は制御手段によって制御される。また、第1の光学部品と接眼光学系の間には第2の光学部品が配置されており、この第2の光学部品には、画像処理手段によって画像処理が行われた画像を表示するための表示デバイスからの光が入射され、第1の光学部品からの光及び表示デバイスからの光の少なくとも一方を接眼光学系へ射出すると共に、第1の光学部品からの光及び表示デバイスからの光の接眼光学系への射出割合を変更可能とされている。そして、第1の光学部品からの光及び表示デバイスからの光の接眼光学系への射出割合も制御手段によって制御される。
【0030】
これにより、制御手段が、例えば対物光学系を介して第1の光学部品へ入射された光が撮像素子へのみ射出されるように第1の光学部品を制御すると共に、表示手段の表示デバイスから第2の光学部品へ入射された光のみが第2の光学部品から接眼光学系へ射出されるように第2の光学部品を制御した場合は、画像処理手段による画像処理を経た画像が、接眼光学系を介してユーザに視認されることになる。また、制御手段が、例えば対物光学系を介して第1の光学部品へ入射された光が接眼光学系へのみ射出されるように第1の光学部品を制御すると共に、第1の光学部品からの光のみが第2光学部品から接眼光学系へ射出されるように第2の光学部品を制御した場合には、通常の双眼鏡と同様に、対物光学系及び接眼光学系によって形成される被写体の光学像が接眼光学系を介してユーザに視認されることになる。
【0031】
更に、制御手段が、例えば対物光学系を介して第1の光学部品へ入射された光が接眼光学系及び撮像素子へ各々所定の射出割合で第1の光学部品から射出されるように第1の光学部品を制御すると共に、第1の光学部品からの光及び表示デバイスからの光からの光が第2光学部品から接眼光学系へ各々所定の射出割合で射出されるように第2の光学部品を制御した場合には、画像処理手段による画像処理を経た画像に被写体の光学像が合成された画像が接眼光学系を介してユーザに視認されることになる。このように、請求項9記載の発明によれば、ユーザに多様な画像(光学像)を提示することが可能となり、本発明に係るデジタル双眼鏡を利用するユーザの利便性を向上させることができる。
【0032】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態の一例を詳細に説明する。図1には、本発明に係るデジタル双眼鏡10が示されている。デジタル双眼鏡10は、人間の両眼の間隔と略同じ距離を隔てて軸線が互いに平行となるように配置された2個の筒体12A,12Bが連結されると共に、正面から見て左側に、本体の把持を容易とするための突起(把持部)12Cが形成された形状とされている。なお、筒体12A,12Bの間隔を調整可能とする機構(眼幅調整機構)が設けられていてもよい。
【0033】
筒体12A,12Bの上方には、低照度での撮影等の場合に補助光を発するためのストロボ14が取付けられており、デジタル双眼鏡10本体の上面には、別体のストロボを取り付けるためのブラケット16が設けられている。また、把持部12Cの上面にはシャッタボタン18が各々設けられており、図示は省略するが、把持部12Cの側面には、スマートメディア(R)、コンパクトフラッシュ(R)、メモリスティック(R)等の各種記録メディアの何れかを装填可能なスロットが設けられている。
【0034】
なお、以下では筒体12A,12B内に収納された光学系、及び該光学系に対応して設けられた電気系の構成を順に説明するが、筒体12A,12B内に収納された光学系は同一の構成であり、これらの光学系に対応して各々設けられた電気回路も同一の構成とされている。このため、以下では筒体12Aに対応する光学系及び電気系と、筒体12Bに対応する光学系及び電気系を区別せずに説明するが、必要に応じて、筒体12Aに対応する光学系及び電気系の構成要素には符号「A」、筒体12Aに対応する光学系及び電気系の構成要素には符号「B」を付して区別する。
【0035】
筒体12A,12Bには筒体の正面側の開口を閉止するように対物レンズ20A,20Bが各々取付けられている。図2には筒体12A,12B内に設けられた光学系の構成を示す。なお、筒体12A,12B内に設けられた光学系は互いに同一の構成であるので、図2は筒体12A,12Bの一方に設けられた光学系のみを示す。図2にも示すように、対物レンズ20は、詳しくは複数枚のレンズから成るズームレンズ(焦点距離可変レンズ)であり、オートフォーカス(AF)機構を備えている。対物レンズ20の光学倍率(ズーム倍率)は、筒体12A,12Bの外周に設けられた操作リング13を回動させることで調節可能とされている。なお、モータの駆動力で光学倍率(ズーム倍率)を調節する構成を採用してもよい。また、対物レンズ20としてAF機構のみを備えた焦点距離固定レンズを用いてもよい。
【0036】
対物レンズ20の光射出側には第1プリズム22、第2プリズム24、接眼レンズ26が順に設けられている。なお、図2では接眼レンズ26を単一枚のレンズとして示しているが、実際には複数枚のレンズから成り、左右の接眼レンズ26A,26Bには視度調節機構が各々設けられている。また、第1プリズム22に入射された光が反射面22Aで射出されたときの射出方向下流側には、レンズ28、エリアCCD等から成る撮像素子30が順に配置されている。第1プリズム22は、対物レンズ20を介して入射された光を撮像素子30側及び第2プリズム24側の少なくとも一方へ射出すると共に、撮像素子30側及び第2プリズム24側への光の射出割合を変更可能とされている。
【0037】
また、第2プリズム24の側方にはレンズ32、表示デバイス34が順に配置されている。なお、表示デバイス34はカラー画像を所定値以上の輝度で表示可能な表示デバイスであればよく、例えばバックライト付きのカラーLCDや、R,G,B各色のLEDがマトリクス状に配置されて成るLEDディスプレイ等で構成することができる。なお、左右の撮像素子30A,30Bは、各々に対応して設けられたレンズ28と共に本発明に係る一対の撮像手段に対応しており、左右の表示デバイス34A,34Bは、各々に対応して設けられたレンズ32と共に本発明に係る表示手段に対応している。
【0038】
表示デバイス34及びレンズ32は、表示デバイス34から射出された光がレンズ32を介して第2プリズム24へ入射され、反射面24Aで反射された場合には接眼レンズ26側へ射出されるように配置位置が調整されている。第2プリズム24は、表示デバイス34からの光及び第1プリズム24からの光の少なくとも一方を接眼レンズ26へ射出すると共に、表示デバイス34からの光及び第1プリズム24からの光を接眼レンズ26へ射出する割合を変更可能とされている。
【0039】
なお、接眼レンズ26を凸レンズで構成すると共に、対物レンズ20と第1プリズム22の間、或いは第1プリズム22と第2プリズム24の間にポロプリズム等のプリズムを設けることで、対物レンズ20A.20Bの光軸の間隔を人間の両眼の間隔(瞳孔間隔)よりも広くしてもよい。これにより、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像を目視した際の被写体の遠近感を更に拡大することができる。
なお、対物レンズ20A,20Bは請求項9に記載の対物光学系に、接眼レンズ26A,26Bは請求項9に記載の接眼光学系に、第1プリズム22は請求項9に記載の第1の光学部品に、第2プリズム24は請求項9に記載の第2の光学部品に各々対応している。
【0040】
次に、デジタル双眼鏡10の電気系の構成について図3を参照して説明する。デジタル双眼鏡10は駆動回路36を備えており、対物レンズ20のAF機構及びズーム機構は駆動回路36によって駆動される。また、撮像素子30は、詳しくは対物レンズ20及びレンズ28から成る光学系の焦点位置に相当する位置に配置されており、第1プリズム22が入射光の一部又は全部を撮像素子30側へ反射する状態に制御されている場合、被写体を反射して対物レンズ20に入射された光は、第1プリズム22の反射面22Aで反射され、レンズ28を介して撮像素子30の受光面に結像される。撮像素子30は、駆動回路36が内蔵しているタイミング発生回路(図示省略)によって発生されたタイミング信号に同期したタイミングで駆動され、画像信号(受光面上にマトリクス状に配列された多数個の光電変換セルの各々における受光量を表す信号)を所定周期で出力する。
【0041】
レンズ28と撮像素子30との間にはシャッタ/絞り38が配置されている。シャッタ及び絞りも駆動回路36によって駆動される。シャッタは撮像素子30から画像信号が出力されるときに、撮像素子30の受光面に光が入射することでスミアが発生することを防止するためのものであり、撮像素子30の構成によっては省略可能である。また絞りは、絞り量を連続的に変更可能な単一の絞りで構成してもよいし、絞り量が異なる複数の絞りを切替える構成であってもよい。
【0042】
また、デジタル双眼鏡10はストロボ駆動回路38を備えており、ストロボ駆動回路38はストロボ14に接続されている。ストロボ14は、低照度であることが検出された場合や、ユーザによって発光が指示された場合に、ストロボ駆動回路38によって発光される。
【0043】
撮像素子30の信号出力端にはアナログ信号処理部40、A/D変換器42、デジタル信号処理部44、メモリ46、内蔵メモリ48が順に接続されている。アナログ信号処理部40は、撮像素子30から出力された画像信号を増幅すると共に、増幅した画像信号に対してホワイトバランス等の補正を行う。アナログ信号処理部40から出力された画像信号は、A/D変換器42によってデジタルの画像データに変換されてデジタル信号処理部44へ入力される。デジタル信号処理部44では、入力された画像データに対して色補正・γ補正・Y/C変換等の各種処理を行う。デジタル信号処理部44から出力された画像データは、RAM等で構成されたメモリ46に一時記憶される。
【0044】
また、メモリ46にはFIFO(First In First Out)メモリから成り複数フレーム分の画像データを記憶可能な記憶容量を有する内蔵メモリ48が接続されている。被写体からの光が対物レンズ20、第1プリズム22及びレンズ28を介して撮像素子30に入射されている間、撮像素子30からは所定周期で画像信号が出力されるので、メモリ46にも所定周期で画像データが入力され、メモリ46に一時記憶される画像データは所定周期で更新されると共に、メモリ46に一時記憶された画像データは順次内蔵メモリ48に記憶される。従って、内蔵メモリ48には、常に最新の複数フレーム分の画像データが記憶される。なお、内蔵メモリ48は請求項8に記載の記憶手段に対応している。
【0045】
また、メモリ46には表示デバイス34が接続されている。表示デバイス34には、入力された画像データを、該画像データが表す画像を表示デバイス34に表示させるための表示制御信号へ変換する信号処理回路と、信号処理回路によって生成された表示制御信号に応じて表示デバイス34を駆動することで、入力された画像データが表す画像を表示デバイス34に表示させる駆動回路が付加されており、メモリ46に記憶された画像データは表示デバイス34にも出力され、表示デバイス34に画像(動画像)として表示される。
【0046】
駆動回路36、ストロボ駆動回路38,アナログ信号処理部40、A/D変換器42、デジタル信号処理部44、メモリ46、内蔵メモリ48及び圧縮伸張部50(後述)はバス52に接続されており、このバス52には、CPU54が接続されている。図示は省略するが、CPU54はROM、RAM、不揮発性メモリ(記憶内容を書替え可能なメモリ:例えばEEPROM等)、入出力ポート等の周辺回路を含んで構成されており、ROMには、後述するノイズ低減処理を行うためのノイズ低減プログラムが予め書き込まれている。
【0047】
またバス52には、各種のスイッチ類(例えば電源スイッチや動作モード切替スイッチ等:図1では図示省略)から成る操作スイッチ56、シャッタボタン18が操作されることでオンオフされるシャッタスイッチ58、ジャイロセンサ等から成りデジタル双眼鏡10の姿勢変化を検出する姿勢角センサ60が各々接続されており、第1プリズム22及び第2プリズム24も接続されている。第1プリズム22及び第2プリズム24の光の射出割合はCPU54によって制御される。このように、CPU54は請求項9に記載の制御手段としての機能を備えている。
【0048】
また、圧縮伸張部50A,50Bにはスロットに装填された記録メディア62が接続される。シャッタボタン18が操作されてシャッタスイッチ58がオンされた等により、スロットに装填された記録メディア62への画像データの書き込みが指示されると、CPU54は内蔵メモリ48A,48Bから画像データを読み出して圧縮伸張部50A,50Bへ転送する。これにより、圧縮伸張部50A,50Bへ転送された画像データは、圧縮伸張部50A,50Bで圧縮された後に所定の形式(例えばEXIF形式)の画像ファイルとして記録メディア62に書き込まれる。
【0049】
なお、記録メディア62へ書き込まれる画像データの画素数は、記録画素数の設定に応じて相違すると共に、画像データに対する圧縮率も画質モードとして予め設定されたモードによって相違しており、画質モードによっては画像データが圧縮されることなく記録メディア62に書き込まれる場合もある。
【0050】
また、スロットに装填された記録メディア62に格納されている画像データが表す画像の再生(表示)が指示された場合には、記録メディア62から画像データが読み出され、読み出された画像データが圧縮されて格納されていた場合には、該被圧縮画像データが圧縮伸張部50A,50Bで伸張(解凍)された後にメモリ46A,46Bへ転送される。そして、メモリ46A,46Bに一時記憶された画像データを用いて表示デバイス34A,34Bへの画像の表示(再生)が行われる。
【0051】
次に本実施形態の作用を説明する。本実施形態に係るデジタル双眼鏡10には、動作モードとして、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像を目視するための光学像目視モード、撮像素子30によって撮影され表示デバイス34に表示された画像を目視するための撮影画像目視モード、及び、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像に、表示デバイス34A,34Bに表示された画像が合成された画像を目視するための合成画像目視モードが設けられている。これらの動作モードの選択は、デジタル双眼鏡10本体に設けられた動作モード切替スイッチ(図示省略)を操作することでユーザが選択可能とされている。
【0052】
動作モードとして光学像目視モードが選択された場合、CPU54は、対物レンズ20を介して第1プリズム22に入射された光が第2プリズム24側へのみ射出されるように第1プリズム22からの光の射出割合を変更すると共に、第1プリズム24から第2プリズム24へ入射された光のみが接眼レンズ26へ射出されるように第2プリズム24からの光の射出割合を変更する。これにより、通常の双眼鏡と同様に、接眼レンズ26A,26Bを両眼で覗いたユーザに、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像が視認(立体視)されることになる。
【0053】
この光学像目視モードでは、ユーザが操作リング13を回動操作することで、対物レンズ20の光学倍率(ズーム倍率)を調節することも可能とされている。なお、光学像目視モードにおけるピント調節については、例えばユーザが操作可能なピント調節機構を設けておき、このピント調節機構をユーザに操作させることでユーザに行わせるようにしてもよいが、これに代えて、対物レンズ20を介して第1プリズム22に入射された光が撮像素子30側へも射出されるように第1プリズム22からの光の射出割合を変更し、撮像素子30による撮影によって得られた画像に基づき、駆動回路36A,36Bを介して対物レンズ20A,20BのAF機構を駆動する(例えば画像の鮮鋭度を演算し鮮鋭度が最大となるようにAF機構を駆動する等)ことで自動的に行うようにしてもよい。
【0054】
また、動作モードとして撮影画像目視モードが選択された場合には、CPU54は、対物レンズ20を介して第1プリズム22に入射された光が撮像素子30側へのみ射出されるように第1プリズム22からの光の射出割合を変更すると共に、表示デバイス34から第2プリズム24へ入射された光のみが接眼レンズ26へ射出されるように第2プリズム24からの光の射出割合を変更し、更に、撮像素子30Aによる撮影によって得られた画像を表示デバイス34Aに表示させ、撮像素子30Bによる撮影によって得られた画像を表示デバイス34Bに表示させる。
【0055】
これにより、接眼レンズ26A,26Bを両眼で覗いたユーザに、表示デバイス34A,34Bに表示された画像が視認されることになる。撮像素子30A,30Bは、被写体から人間の両眼の間隔と略同じ距離だけ光軸が隔てられた対物レンズ20A,20Cを介して入射された光を光電変換するので、撮像素子30A,30Bによる撮影によって得られる一対の画像には、少なくとも両眼視差に相当する像構造の幾何学的な相違が生じている(ステレオ画像)。従って、表示デバイス34A,34Bに表示された前記一対の画像を接眼レンズ26A,26Bを介して両眼で視認したユーザが被写体を立体的に認識することができる(所謂立体視)。
【0056】
また、上記の撮影画像目視モードのように撮像素子30A,30Bによって撮影が行われている間、デジタル双眼鏡10では以下で説明する画像処理が行われる。
【0057】
すなわち、本実施形態ではデジタル双眼鏡10に搭載される撮像素子30A,30Bの感度特性(入射光量−出力特性)が個々の画素を単位として事前に測定され、測定された感度特性に基づいて、A/D変換器42A,42Bから入力される画像データを、均一な感度特性の一対の撮像素子で撮像したに等しい画像データへ補正するための補正データが撮像素子30A,30Bの個々の画素を単位として設定されている。デジタル信号処理部44A,44Bには上記の補正データが記憶されており、デジタル信号処理部44A,44Bは記憶されている補正データに基づき、個々の画素を単位として画像データの補正を行う。これにより、撮像素子30A,30Bの感度特性のばらつきを補正することができる。
【0058】
表示デバイス34A,34Bには撮像素子30A,30Bの感度特性のばらつきが補正された画像(動画像)が表示されるので、表示デバイス34A,34Bに表示された前記一対の画像を接眼レンズ26A,26Bを介して両眼で視認したユーザに、撮像素子30A,30Bの感度特性のばらつきが顕著な画質欠陥として認識されることを防止することができる。
【0059】
なお、上記の補正処理は請求項5記載の発明に係る画像処理手段に対応しており、デジタル信号処理部44A,44Bは本発明に係る画像処理手段の一部を構成している。
【0060】
また、本実施形態に係るデジタル双眼鏡10では、A/D変換器42A,42Bから入力された画像データから、デジタル信号処理部44A,44Bにより、前記画像データが表す画像のうち所定サイズの部分領域に相当する画像データが切り出され、該部分領域の画像データが表示デバイス34A,34Bへの画像の表示等に用いられるようになっている。撮像素子30A,30Bによる撮影が行われている間、CPU54は姿勢角センサ60によって検出されるデジタル双眼鏡10の姿勢変化を監視し、デジタル双眼鏡10の姿勢が変化した場合に、デジタル双眼鏡10の姿勢変化に伴う撮像素子30A,30Bによる全撮影範囲の変化に拘らず前記部分領域に対応する撮影範囲の変化が抑制されるように、デジタル双眼鏡10の姿勢変化に応じて部分領域の新たな切り出し位置を演算し、演算した切り出し位置をデジタル信号処理部44A,44Bへ通知することを繰り返す。
【0061】
また、デジタル信号処理部44A,44Bは、CPU54から通知された切り出し位置に応じて、A/D変換器42から入力された画像データが表す画像上での部分領域の位置が変化するように、前記画像データからの部分領域に相当する画像データの切り出しを行う。これにより、デジタル双眼鏡10を把持しているユーザの手振れ等により撮像素子30A,30Bによる全撮影範囲が一時的に変動した場合にも、部分領域に対応する撮影範囲の変動を抑制することができる。そして、表示デバイス34A,34Bには上記の手振れ補正が行われた画像(動画像)が表示されるので、接眼レンズ26A,26Bを介してユーザに視認される画像が、ユーザの手振れ等により撮影範囲が変動する見苦しい画像となることを防止することができる。
【0062】
なお、姿勢角センサ60は請求項6に記載の検出手段に対応している。また、CPU54及びデジタル信号処理部44A,44Bによる上述した処理は請求項6に記載の手振れ補正処理に対応しており、デジタル信号処理部44A,44B及びCPU54は本発明に係る画像処理手段の一部を構成している。
【0063】
また、CPU54は撮像素子30A,30Bによって撮影が行われている間、ROMに書き込まれているノイズ低減プログラムを実行することで、デジタル信号処理部44A,44Bにおける各種の処理を経てメモリ46A,46Bに記憶された画像(データ)を対象としてノイズ低減処理を行う。以下、このノイズ低減処理について、図4のフローチャートを参照して説明する。
【0064】
このノイズ低減処理は本発明に係る画像処理手段(詳しくは、請求項2に記載の画像処理手段及び請求項3に記載の「一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分の相違が解消又は減少するように一対の画像のうちの少なくとも一方を補正する処理」を行う画像処理手段)に対応しており、ノイズ低減プログラムを実行するCPU54は本発明に係る画像処理手段として機能する。なお、以下では便宜的に、メモリ46Aに記憶された画像を左チャンネルの画像、メモリ46Bに記憶された画像を右チャンネルの画像と称する。
【0065】
ステップ100では、左チャンネルの画像と右チャンネルの画像の像構造の幾何学的な相違を認識するために、左右チャンネルの画像のマッチング処理を行う。このマッチング処理としては、例えば左右チャンネルの画像における対応する点である可能性のある候補(対応点候補)を左右チャンネルの画像から各々抽出し、弛緩法により対応点を決定する処理を適用することができる。
【0066】
具体的には、対応点候補としては、全ての方向で濃淡レベルの大きな変化が生じている点であることが望ましく、また、対応点候補が密に存在していると対応点の決定が困難となる。このため、まず対応点候補の抽出対象の画像g(x,y)の各画素について水平・垂直・右斜め・左斜め方向の濃淡レベルの変動g’1,g’2,g’3,g’4を次式に従って求める。
【0067】
g’1(x,y)=[2・g(x,y)−(g(x−1,y)+g(x+1,y))]2
g’2(x,y)=[2・g(x,y)−(g(x,y−1)+g(x,y+1))]2
g’3(x,y)=[2・g(x,y)−(g(x+1,y−1)+g(x−1,y+1))]2
g’4(x,y)=[2・g(x,y)−(g(x−1,y−1)+g(x+1,y+1))]2
次に、適当な大きさのウインドウWを1画素ずつ動かしながら、ウインドウの中心画素(x,y)の値として、次式のオペレータ出力値g”を求める。
【0068】
【数1】
【0069】
続いて、画素(x,y)を中心とする(2w+1)×(2w+1)画素の大きさの局所領域毎にオペレータ出力値g”の最大値g*を抽出する。そして、画像中の最大のg*から順次大きなg*をもつ画素をn個抽出し、これを対応点候補とする。上記処理を左右チャンネルの画像に対して各々行うことで、例えば図5(A)に示す左チャンネルの画像からは例として図5(C)に示すような対応点候補が抽出され、例えば図5(B)に示す右チャンネルの画像からは例として図5(D)に示すような対応点候補が抽出されることになる。
【0070】
次に、抽出された対応点候補に基づいて対応点を決定する。左チャンネルの画像から抽出された対応点候補の集合をL=[L1,L2,…,Ln]、右チャンネルの画像から抽出された対応点候補の集合をR=[R1,R2,…,Rn]とし、左チャンネルの画像から抽出された対応点候補Li(i=1,2,…,n)に対し、Liを中心とする(2r+1)×(2r+1)画素の大きさの矩形領域内に存在する右チャンネルの画像の対応点候補Riを対応点対候補とする。ここで、Liを始点としRiを終点とするベクトルを相違ベクトルと称する。
【0071】
対応点の決定は、対応点候補Liに対して得られている対応点対候補(相違ベクトル候補)と、対応点候補Lj(i≠j)に対して得られている対応点対候補(相違ベクトル候補)が互いに矛盾しないように候補を絞っていくことにより成され、具体的には弛緩法(対象Liに局所的矛盾が少なくなるようにラベルλkを与える)を適用し、ラベルλkとして相違ベクトルのx,y方向の成分Δx,Δyを用いることで実現できる。これにより、例として図5(E)に示すようなマッチング結果(対応点対及び相違ベクトル)が得られ、左チャンネルの画像と右チャンネルの画像の像構造の幾何学的な相違を認識することができる。
【0072】
次のステップ102では、ステップ100におけるマッチング処理の結果に基づき、左右チャンネルの画像の互いに対応する位置(例えば対応点対の存在している位置)を境界として、左右チャンネルの画像を各々多数個の処理ブロックに分割する。なお、この多数個の処理ブロックへの分割は、一方のチャンネルの画像の特定の処理ブロックに対応する他方のチャンネルの画像の処理ブロックが判別可能に分割できればよく、他の分割方法を適用してもよい。また、処理ブロックの形状も矩形状に限られるものではない。上記の処理ブロックは請求項4に記載の部分領域に対応している。
【0073】
ステップ104では、左チャンネルの画像から未処理の処理ブロックのデータを取り出し、次のステップ106では、左チャンネルの画像から取り出した処理ブロック(:処理ブロックL)に対応する右チャンネルの画像の処理ブロックを認識し、認識した処理ブロック(:処理ブロックR)のデータを取り出す。そしてステップ108では、左右チャンネルの画像から取り出した処理ブロックL,Rのデータに基づき、処理ブロックL,R内の全ての画素列j(j=1,2,…,jmax)を対象として、左右チャンネルの画像の平均データ関数fave(j)を次式に従って演算する。
【0074】
【数2】
【0075】
但し、dataL(i,j):処理ブロックL内のi行目j列目の画素
dataR(i,j):処理ブロックR内のi行目j列目の画素
n:処理ブロックL,R内の画素の行の総数
【0076】
ステップ110では変数iに1を代入する。ステップ112では、処理ブロックLのi行目のデータ関数を
fLi(j)=dataL(i,j)
と表したときに、このデータ関数fLi(j)とfave(j)+kLiとの残差が最小になるときの定数kLiを最小自乗法により演算する。そしてステップ114では、処理ブロックLのi行目のデータ関数を次式により設定する。
fLi(j)←fave(j)+kLi
【0077】
また、ステップ116では、処理ブロックRのi行目のデータ関数を
fRi(j)=dataR(i,j)
と表したときに、このデータ関数fRi(j)とfave(j)+kRiとの残差が最小になるときの定数kRiを最小自乗法により演算する。そしてステップ118において、処理ブロックRのi行目のデータ関数を次式により設定する。
fRi(j)←fave(j)+kRi
【0078】
次のステップ120では、変数iが処理ブロックL,R内の画素の行の総数nに一致しているか否か判定する。判定が否定された場合にはステップ122へ移行し、変数iを1だけインクリメントしてステップ122へ戻る。これにより、ステップ104,106で取り出した処理ブロックL,Rの全ての画素の行について、ステップ112〜ステップ118の処理が各々行われることになる。
【0079】
ステップ120の判定が肯定されるとステップ124へ移行し、左右チャンネルの画像の全ての処理ブロックに対してステップ104以降の処理を行ったか否か判定する。判定が否定された場合にはステップ104に戻る。これにより、左右チャンネルの画像の全ての処理ブロックに対してステップ104以降の処理が行われることになる。ステップ124の判定が肯定されるとノイズ低減処理を終了する。
【0080】
上記のノイズ低減処理では、左右チャンネルの画像を同一の平均データ関数fave(j)に基づいて補正しているので、左右チャンネルの画像のうち、ステップ100で認識した像構造の幾何学的な相違以外の相違、詳しくは撮像素子30A,30B等を原因として左右チャンネルの画像に各々重畳されているランダムなノイズの相違が減少されることになる。なお、上記では平均データ関数fave(j)として、左右チャンネルの画像の平均に相当するデータ関数を用いていたが、これに代えて左右チャンネルの画像のうちの何れか一方の画像の平均に相当するデータ関数を用いてもよい。
【0081】
上記のノイズ低減処理は、所定周期でメモリ46に入力・記憶される画像データに対して各々行われ、表示デバイス34A,34Bには、ノイズ低減処理が行われた画像(動画像)が表示されるので、表示デバイス34A,34Bに表示された前記一対の画像を接眼レンズ26A,26Bを介して両眼で視認したユーザに、左右チャンネルの画像に重畳されているランダムなノイズが顕著な画質欠陥として認識されることを防止することができる。
【0082】
また、撮影画像目視モードにおいて、表示デバイス34A,34Bに表示されている動画像を接眼レンズ26A,26Bを介して両眼で視認しているユーザが、視認している画像を静止画像として保存することを所望した場合には、シャッタボタン18が操作されることで、スロットに装填された記録メディア62への画像データの書き込みが指示される。シャッタスイッチ58がオンすることで、シャッタボタン18が操作されたことを検知すると、CPU54は、内蔵メモリ48A,48Bから画像データを読み出して圧縮伸張部50A,50Bへ転送する。
【0083】
詳しくは、シャッタボタン18が操作されてから、シャッタスイッチ58がオンしたことを検知して画像データを読み出す迄に若干の時間がかかることを考慮し、CPU54は、内蔵メモリ48A,48Bに最新の複数フレーム分の画像データが記憶されていることを利用して、内蔵メモリ48A,48Bからの画像データの読み出し時に、撮像素子30A,30Bによって前記時間差分だけ前に撮像された画像データを読み出して圧縮伸張部50A,50Bへ転送する。これにより、シャッタボタン18が操作されたタイミングと略同一のタイミングで撮像された画像データを記録メディア62に書き込むことができる。なお、上記の処理は請求項7(詳しくは請求項8)に記載の記録手段に対応している。
【0084】
一方、動作モードとして合成画像目視モードが選択された場合には、CPU54は、対物レンズ20を介して第1プリズム22に入射された光が第2プリズム24側及び撮像素子30側へ各々所定の射出割合で射出されるように第1プリズム22からの光の射出割合を変更すると共に、第1プリズム22から第2プリズム24へ入射された光及び表示デバイス34から第2プリズム24へ入射された光が各々所定の射出割合で接眼レンズ26へ射出されるように第2プリズム24からの光の射出割合を変更し、更に、表示デバイス34A,34Bに各々画像を表示させる。これにより、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像に、表示デバイス34A,34Bに表示された画像が合成された合成画像が、接眼レンズ26A,26Bを両眼で覗いたユーザに視認(立体視)されることになる。
【0085】
合成画像目視モードにおいて、表示デバイス34A,34Bには任意の画像を表示可能であり、例えば撮像素子30A,30Bによる撮像によって得られた画像を解析して画像中の動体等を認識し、認識した動体等を指し示したり、或いは強調する図形を生成して表示デバイス34A,34Bに表示することで、被写体の光学像に前記図形を合成した画像をユーザに視認させるようにしてもよい。
【0086】
なお、この態様においては、対物レンズ20及び接眼レンズ26によって形成された被写体の光学像と、表示デバイス34A,34Bに表示された画像の位置ずれを回避するために、前述の手振れ補正(部分領域の切り出し位置を変更することによる手振れ補正)の実行を停止するか、或いは、前述の手振れ補正に代えて、第1プリズム22よりも被写体側の光路上に、バリアングルプリズム等の角度を変更可能なプリズムを設けておき、姿勢角センサ60によって検出されたデジタル双眼鏡10の姿勢変化に基づき、該姿勢変化を打ち消すようにプリズムの光軸を制御することで手振れ補正を行うことが好ましい。
【0087】
また、合成画像目視モードにおいて、被写体の光学像に合成する画像は、例えばCG(Computer Graphics)等の技術を用いて生成した架空の世界の画像(仮想現実画像)であってもよい。この仮想現実画像はデジタル双眼鏡10に予め画像データとして記憶しておくようにしてもよいが、無線等の通信手段を介して外部(例えばインターネット等)と通信する機能をデジタル双眼鏡10に搭載しておき、インターネットに接続されたサーバから受信するようにしてもよい。上記のように、光学像に合成する画像が被写体と無関係な画像(撮像素子30A,30Bによる撮像によって得られた画像を利用せずに生成された画像)である場合には、撮像素子30A,30Bによって撮像を行う必要がなくなるので、対物レンズ20を介して第1プリズム22に入射された光が第2プリズム24側へのみ射出されるように第1プリズム22からの光の射出割合を変更するようにしてもよい。また、撮像素子30A,30Bによる撮像によって得られた画像、或いは姿勢角センサ60による検出結果に基づいて、デジタル双眼鏡10の姿勢角(視野方向)の変化を認識し、認識した姿勢角(視野方向)の変化に応じて、表示デバイス34に表示する仮想現実画像を変化させるようにしてもよい。また、光学像に合成する画像は文字画像等であってもよい。
【0088】
このように、本実施形態に係るデジタル双眼鏡10では、ユーザによって選択された動作モードに応じて多様な画像(光学像)がユーザに提示されるので、ユーザの利便性を向上させることができる。
【0089】
なお、上記では左右チャンネルの画像上の対応する領域に各々重畳しているランダムなノイズの相違を低減させる処理として平均データ関数fave(j)を用いる処理を説明したが、これに限られるものではなく、左右チャンネルの画像に重畳しているランダムなノイズ成分を各々抽出し、抽出したノイズ成分を平均化し、抽出したノイズ成分を各々除去した左右チャンネルの画像に、平均化したノイズ成分を各々加算することで、ランダムなノイズ成分の相違を解消するようにしてもよいし、上記の平均化したノイズ成分に代えて、左右チャンネルの画像の一方から抽出したノイズ成分を適用するようにしてもよい。
【0090】
また、上記では本発明に係る画像処理手段による画像処理の一例として、左右チャンネルの画像上の対応する領域に各々重畳しているランダムなノイズ(一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分)の相違を低減させる処理(ノイズ低減処理)を説明したが、これに限定されるものではなく、左右チャンネルの画像のうちの一方の画像にのみ重畳しているノイズ成分を一方の画像から除去するノイズ成分除去処理も併せて行うようにしてもよいし、例えば撮像素子30A,30Bとして低ノイズの高性能な撮像素子を用いる等の場合には、上記のノイズ成分除去処理のみを行うようにしてもよい。
【0091】
ノイズ成分除去処理としては、例えば左右チャンネルの画像のマッチング処理を行うことで左右チャンネルの画像の像構造の幾何学的な相違を認識した後に、左右チャンネルの画像の対応する領域同士を比較し、対物レンズ20に塵埃等が付着した場合に画像上に生ずる欠陥部の規模と同程度の規模の欠陥部が一方の画像に生じていることを検知した場合に、検知した欠陥部の周囲の画像部に基づいて補間するか、又は他方の画像の対応する画像部のデータで埋めることで、検知した欠陥部を消去する処理等を適用することができる。
【0092】
また、上記では本発明に係るノイズ低減処理をCPU54が実行する例を説明したが、これに限定されるものではなく、ノイズ低減処理を実行するための専用ハードウェアを設け、このハードウェアによってノイズ低減処理を実行するようにしてもよい。これによりCPU54の負荷を低減することができる。
【0093】
更に、上記では撮像手段(撮像素子30等)が2個(一対)のみ設けられている場合を例に説明したが、これに限られるものではなく、3個以上の多数個の撮像手段を設けてもよい。
【0094】
また、上記では本発明に係る表示手段として、LCD等から成る一対の表示デバイス34A,34Bを例に説明したが、画像を立体視可能に表示するものであればよく、例えば立体表示用の特殊レンズ面(レンチキュラー等)を有する表示デバイスを用いてもよい。
【0095】
また、上記では記録メディア62に静止画像の画像データを記録する場合を説明したが、これに限定されるものではなく、動画像の画像データも記録可能としてもよい。
【0096】
【発明の効果】
以上説明したように本発明は、撮影した画像に両眼視差に相当する相違が生ずるように配置された一対の撮像手段、撮影された一対の画像における両眼視差に相当する像構造の幾何学的な相違以外の相違を減少させる画像処理を行う画像処理手段、及び画像処理が行われた一対の画像を立体視可能に各々表示する表示手段が一体化されて構成されているので、複数の撮像素子による撮影によって得られた画像を立体視可能かつ高画質に表示することができる、という優れた効果を有する。
【図面の簡単な説明】
【図1】本実施形態に係るデジタル双眼鏡の外観を示す斜視図である。
【図2】デジタル双眼鏡の光学系の概略図である。
【図3】デジタル双眼鏡の電気系の概略ブロック図である。
【図4】ノイズ低減処理の内容を示すフローチャートである。
【図5】左右チャンネルの画像のマッチング処理を説明するためのイメージ図である。
【符号の説明】
10 デジタル双眼鏡
20 対物レンズ
22 第1プリズム
24 第2プリズム
26 接眼レンズ
30 撮像素子
34 表示デバイス
44 デジタル信号処理部
46 メモリ
48 内蔵メモリ
54 CPU
60 姿勢角センサ
62 記録メディア
Claims (9)
- 各々が撮影した画像に両眼視差に相当する相違が生ずるように配置された一対の撮像手段と、
前記一対の撮像手段によって撮影された一対の画像における、前記両眼視差に相当する像構造の幾何学的な相違以外の相違を減少させる画像処理を行う画像処理手段と、
前記画像処理手段によって画像処理が行われた一対の画像を立体視可能に各々表示する表示手段と、
を備え、
これらが一体化されて成るデジタル双眼鏡。 - 前記画像処理手段は、前記一対の撮像手段によって撮影された一対の画像における、前記両眼視差に相当する像構造の幾何学的な相違を認識し、認識した前記像構造の幾何学的な相違以外の相違を減少させる画像処理を行うことを特徴とする請求項1記載のデジタル双眼鏡。
- 前記画像処理手段は、前記画像処理として、前記一対の画像のうちの一方の画像にのみ重畳しているノイズ成分を前記一方の画像から除去する処理、及び、前記一対の画像上の対応する領域に各々重畳している相互に異なるノイズ成分の相違が解消又は減少するように前記一対の画像のうちの少なくとも一方を補正する処理、の少なくとも一方を行うことを特徴とする請求項2記載のデジタル双眼鏡。
- 前記画像処理手段は、前記一対の画像を各々部分領域に分割し、前記認識した一対の画像における像構造の幾何学的な相違に基づいて、一方の画像における特定の部分領域と対応する他方の画像の部分領域を判断し、対応する領域であると判断した部分領域同士を比較することを、個々の部分領域について各々行うことで、前記像構造の幾何学的な相違以外の相違を生じさせているノイズ成分を判断することを特徴とする請求項3記載のデジタル双眼鏡。
- 前記画像処理手段は、前記一対の撮像手段によって撮影された一対の画像に対し、前記一対の撮像手段の特性のばらつきに起因するばらつきを補正する補正処理も行うことを特徴とする請求項1記載のデジタル双眼鏡。
- デジタル双眼鏡の姿勢変化を検出する検出手段を更に備え、前記画像処理手段は、前記一対の撮像手段によって撮影された一対の画像から所定サイズの領域を各々切り出して出力すると共に、前記検出手段によって検出された姿勢変化に応じて前記領域の切り出し位置を変化させる手振れ補正も行うことを特徴とする請求項1記載のデジタル双眼鏡。
- 前記撮像手段による撮影によって得られた画像のデータ又は前記画像処理手段によって画像処理が行われた画像のデータを、記録媒体に記録するか又は記録媒体に記録するための処理を行う記録手段を備えたことを特徴とする請求項1記載のデジタル双眼鏡。
- 前記一対の撮像手段は各々常時撮影を行うと共に、前記画像処理手段はリアルタイムで前記画像処理を行い、
前記記録手段は、前記一対の撮像手段又は前記画像処理手段から順次出力される画像データのうち最新の所定数の画像データを記憶する記憶手段を備え、指示手段を介して画像データの記録が指示された場合に、前記指示のタイミングを基準として前記記憶手段に記憶されている画像データの中から記録対象の画像データを選択し、選択した記録対象の画像データを記録媒体に記録するか又は前記選択した記録対象の画像データを記録媒体に記録するための処理を行うことを特徴とする請求項7記載のデジタル双眼鏡。 - 被写体からの光を屈折させる対物光学系と、
前記被写体を目視可能なように前記対物光学系からの光を屈折させるための接眼光学系と、
前記対物光学系と前記接眼光学系の間に配置され、前記対物光学系を介して入射された光を接眼光学系及び前記撮像手段の撮像素子の少なくとも一方へ向けて射出すると共に、接眼光学系及び撮像素子への光の射出割合を変更可能な第1の光学部品と、
前記第1の光学部品と前記接眼光学系の間に配置され、前記画像処理手段によって画像処理が行われた画像を表示するための前記表示手段の表示デバイスから射出された光も入射され、第1の光学部品からの光及び前記表示デバイスからの光の少なくとも一方を接眼光学系へ射出すると共に、第1の光学部品からの光及び前記表示デバイスからの光の接眼光学系への射出割合を変更可能な第2の光学部品と、
前記第1の光学部品及び前記第2の光学部品における前記射出割合を制御する制御手段と、
を備えたことを特徴とする請求項1記載のデジタル双眼鏡。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002283817A JP2004120600A (ja) | 2002-09-27 | 2002-09-27 | デジタル双眼鏡 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002283817A JP2004120600A (ja) | 2002-09-27 | 2002-09-27 | デジタル双眼鏡 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004120600A true JP2004120600A (ja) | 2004-04-15 |
Family
ID=32277577
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002283817A Pending JP2004120600A (ja) | 2002-09-27 | 2002-09-27 | デジタル双眼鏡 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004120600A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011114572A1 (ja) | 2010-03-19 | 2011-09-22 | 富士フイルム株式会社 | 撮像装置、方法およびプログラム並びにこれに用いる記録媒体 |
JP2011199889A (ja) * | 2011-05-16 | 2011-10-06 | Panasonic Corp | 映像信号処理装置、及び、映像信号処理方法 |
WO2012001975A1 (ja) * | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 立体視表示用撮像の際の撮像領域内の障害物を判定する装置、方法およびプログラム |
CN102694972A (zh) * | 2011-03-24 | 2012-09-26 | 卡西欧计算机株式会社 | 具有重构图像的功能的装置以及方法 |
CN102857677A (zh) * | 2011-03-31 | 2013-01-02 | 卡西欧计算机株式会社 | 具有重构图像的功能的装置及方法 |
US11115512B1 (en) | 2020-12-12 | 2021-09-07 | John G. Posa | Smartphone cases with integrated electronic binoculars |
-
2002
- 2002-09-27 JP JP2002283817A patent/JP2004120600A/ja active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011114572A1 (ja) | 2010-03-19 | 2011-09-22 | 富士フイルム株式会社 | 撮像装置、方法およびプログラム並びにこれに用いる記録媒体 |
US8310538B2 (en) | 2010-03-19 | 2012-11-13 | Fujifilm Corporation | Imaging apparatus, method, program, and recording medium used in the program |
WO2012001975A1 (ja) * | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 立体視表示用撮像の際の撮像領域内の障害物を判定する装置、方法およびプログラム |
CN102959970A (zh) * | 2010-06-30 | 2013-03-06 | 富士胶片株式会社 | 在立体显示成像期间确定成像范围内障碍物的装置、方法和程序 |
JP5492300B2 (ja) * | 2010-06-30 | 2014-05-14 | 富士フイルム株式会社 | 立体視表示用撮像の際の撮像領域内の障害物を判定する装置、方法およびプログラム |
CN102959970B (zh) * | 2010-06-30 | 2015-04-15 | 富士胶片株式会社 | 在立体显示成像期间确定成像范围内障碍物的装置、方法和程序 |
CN102694972A (zh) * | 2011-03-24 | 2012-09-26 | 卡西欧计算机株式会社 | 具有重构图像的功能的装置以及方法 |
JP2012205015A (ja) * | 2011-03-24 | 2012-10-22 | Casio Comput Co Ltd | 画像処理装置及び画像処理方法、並びにプログラム |
CN102857677A (zh) * | 2011-03-31 | 2013-01-02 | 卡西欧计算机株式会社 | 具有重构图像的功能的装置及方法 |
JP2011199889A (ja) * | 2011-05-16 | 2011-10-06 | Panasonic Corp | 映像信号処理装置、及び、映像信号処理方法 |
US11115512B1 (en) | 2020-12-12 | 2021-09-07 | John G. Posa | Smartphone cases with integrated electronic binoculars |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4156893B2 (ja) | 画像処理装置、方法及びプログラム | |
CN108055452B (zh) | 图像处理方法、装置及设备 | |
US7920172B2 (en) | Method of controlling an action, such as a sharpness modification, using a colour digital image | |
JP4457358B2 (ja) | 顔検出枠の表示方法、文字情報の表示方法及び撮像装置 | |
US8792019B2 (en) | Video creation device, video creation method and non-transitory computer-readable storage medium | |
US8854528B2 (en) | Imaging apparatus | |
CN108154514B (zh) | 图像处理方法、装置及设备 | |
EP1422922A2 (en) | Camera system with eye monitoring | |
EP1422923A2 (en) | Method for determining an area of importance in an image using eye monitoring information | |
KR20200042536A (ko) | 듀얼 카메라 기반 이미징 방법과 장치 및 저장 매체 | |
JPH09181966A (ja) | 画像処理方法及び装置 | |
CN102972032A (zh) | 三维图像显示装置、三维图像显示方法、三维图像显示程序及记录介质 | |
CN107872631B (zh) | 基于双摄像头的图像拍摄方法、装置及移动终端 | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
US7570281B1 (en) | Image processing apparatus and method for detecting a main subject to be photographed | |
JP2004120600A (ja) | デジタル双眼鏡 | |
JP4760496B2 (ja) | 画像データ生成装置、画像データ生成方法 | |
JP4586578B2 (ja) | デジタルカメラ及びプログラム | |
US10447937B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium that perform image processing based on an image processing parameter set for a first object area, and information on a positional relationship between an object in a second object area and an object in the first object area | |
WO2020084894A1 (ja) | マルチカメラシステム、制御値算出方法及び制御装置 | |
JP7134601B2 (ja) | 画像処理装置、画像処理方法、撮像装置及び撮像装置の制御方法 | |
JP5029765B2 (ja) | 画像データ生成装置、画像データ生成方法 | |
JP2013046343A (ja) | 画像撮像装置 | |
JP5281904B2 (ja) | ビューファインダーシステム及びそれを備えた撮像装置 | |
US20240015399A1 (en) | Image processing apparatus, display apparatus, and image processing method |