JP2004020869A - 画像情報伝達方法,音信号作成方法,音信号作成装置,音発生装置及び画像/音変換方法 - Google Patents
画像情報伝達方法,音信号作成方法,音信号作成装置,音発生装置及び画像/音変換方法 Download PDFInfo
- Publication number
- JP2004020869A JP2004020869A JP2002174914A JP2002174914A JP2004020869A JP 2004020869 A JP2004020869 A JP 2004020869A JP 2002174914 A JP2002174914 A JP 2002174914A JP 2002174914 A JP2002174914 A JP 2002174914A JP 2004020869 A JP2004020869 A JP 2004020869A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- sound
- sound signal
- fourier transform
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Rehabilitation Tools (AREA)
Abstract
【課題】周囲の風景を音信号で表現し、自分がいる場所及び/または自分が向いている方向(方位)を目の不自由な人が容易に認識できるように支援する方法及び装置を提供する。
【解決手段】全方位撮像装置30にて取得された全方位画像における画像信号が処理チップ50内にて音信号に変換され、変換された音信号はスピーカ60へ出力され、スピーカ60から音が発せられる。スピーカ60から発せられる音は、目の不自由な人が存在する周囲の風景に対応しており、その音を聞くことにより目の不自由な人は風景を認識して自分が存在する場所を容易に知る。
【選択図】 図13
【解決手段】全方位撮像装置30にて取得された全方位画像における画像信号が処理チップ50内にて音信号に変換され、変換された音信号はスピーカ60へ出力され、スピーカ60から音が発せられる。スピーカ60から発せられる音は、目の不自由な人が存在する周囲の風景に対応しており、その音を聞くことにより目の不自由な人は風景を認識して自分が存在する場所を容易に知る。
【選択図】 図13
Description
【0001】
【発明の属する技術分野】
本発明は、画像信号を音信号に変換する技術に関し、特に、音によって画像情報を伝達する画像情報伝達方法、画像信号を音信号に変換して音信号を作成する音信号作成方法及び装置、作成した音信号に応じた音を発する音発生装置、並びに、周方向の画像を音に変換する画像/音変換方法に関する。
【0002】
【従来の技術】
歩道,駅のホームにおける点字ブロック、横断歩道での音声誘導、公共施設の点字案内などの視覚障害者用の設備が充実してきたとはいえ、目の不自由な人にとって健常者と同様に社会活動を行うことはまだまだ容易ではない。視覚に障害がある人にとって、社会活動を遂行する上で頼りとなる感覚は、触覚,聴覚であり、これらの感覚は健常者より優れている場合が多い。
【0003】
触覚については、情報が点字で盛り込まれている掲示板,案内板などの被接触物のところまで目の不自由な人が行ってそれに触れなければ情報を得ることができない。これに対して、聴覚については、空気を媒体とした音信号によって情報が目の不自由な人に伝わる。よって、特に屋外にあっては、そのような被接触物まで到達することも困難であり、音信号による情報の提供が目の不自由な人にとっては好ましい。
【0004】
【発明が解決しようとする課題】
しかしながら、目の不自由な人に対する音信号での情報提供のシステムとしては、横断歩道で青信号になった際に所定の音楽が流れるシステムが設けられている程度であって、十分であるとは言えない。特に、健常者にとっては、山,川,湖などの自然物または建物,道路,駅などの人工物を視認することにより、自分が存在している場所及び自分がどちらの方向(方位)を向いているかは容易に認識できる。これに対して、目の不自由な人にとっては、視覚による認識が行えず、自分の存在場所または自分が向いている方向(方位)を知ることは容易でない。よって、このような目の不自由な人の不便さを解消できる手段の開発が望まれている。
【0005】
本発明は斯かる事情に鑑みてなされたものであり、目の不自由な人が場所及び方向(方位)を容易に認識でき、また、目の不自由な人を正確に誘導できる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することを目的とする。
【0006】
本発明の他の目的は、場所に応じた音を発することができる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することにある。
【0007】
本発明の更に他の目的は、撮影中のカメラの傾きを音で表現して知らせることができる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することにある。
【0008】
本発明の更に他の目的は、人,動物などの動きに合わせて音楽を奏でることができる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することにある。
【0009】
【課題を解決するための手段】
第1発明に係る画像情報伝達方法は、撮影画像における画像信号を変換して音信号を作成し、作成した音信号に応じた音によって画像情報を伝達することを特徴とする。
【0010】
第7発明に係る音信号作成装置は、画像信号を取得する手段と、取得した画像信号を音信号に変換する変換手段とを備えることを特徴とする。
【0011】
第10発明に係る音発生装置は、全方位画像を取得する手段と、取得した全方位画像における画像信号を音信号に変換する手段と、変換した音信号に応じた音を発する手段とを備えることを特徴とする。
【0012】
第1発明,第7発明及び第10発明にあっては、撮影画像における画像信号(例えば輝度信号)を変換して音信号を作成するため、撮影した場所での画像パターン(画像として映されている物体または風景)に基づいた音信号が作成される。よって、画像情報を音信号で表して伝達することができ、このように作成された音信号に応じた音を聞くことにより、目の不自由な人は自分がいる場所及びまたは向いている方向(方位)を認識できる。また、場所が変われば画像信号も変化するので、その画像信号を音信号に変換することにより、場所に応じた音を出力できる。また、撮影中のカメラの向きが変化した場合に取得される画像の画像信号も変わるので、それを変換した音信号の変化に基づいてカメラの傾きを検出できる。人,動物などが動けば取得される画像の画像信号は変化するので、それを変換した音信号も変化して音楽が奏でられる。
【0013】
第2発明に係る音信号作成方法は、周期的な画像信号を変換して音信号を作成することを特徴とする。
【0014】
第8発明に係る音信号作成装置は、第7発明において、前記画像信号は周期的な画像信号であることを特徴とする。
【0015】
第2発明及び第8発明にあっては、周期的な画像信号、例えば全方位画像における画像信号を変換して音信号を作成する。周期的な画像信号にあっては、1周期を考えた場合に両端のレベルが相等しくなるため、特別な窓関数を設けることなく、正しく音信号に変換できる。
【0016】
第3発明に係る音信号作成方法は、第2発明において、前記画像信号にフーリエ変換処理/逆フーリエ変換処理を順次施し、処理後の信号から音信号を作成することを特徴とする。
【0017】
第9発明に係る音信号作成装置は、第7または第8発明において、前記変換手段は、取得した画像信号にフーリエ変換処理を施す手段と、フーリエ変換処理後の信号に逆フーリエ変換処理を施す手段と、逆フーリエ変換処理後の信号から音信号を生成する手段とを有することを特徴とする。
【0018】
第3発明及び第9発明にあっては、画像信号にフーリエ変換処理/逆フーリエ変換処理を順次施して、滑らかな音信号を作成する。
【0019】
第4発明に係る音信号作成方法は、第3発明において、前記画像信号にフーリエ変換処理を施して得られる信号の所定周波数以上の成分を除去することを特徴とする。
【0020】
第4発明にあっては、画像信号をフーリエ変換処理した後の信号の所定周波数以上の成分を除去する。フーリエ変換処理後の信号の高周波成分はほとんどがノイズ成分であるので、その高周波成分を除去することにより、ノイズの影響を少なくする。
【0021】
第5発明に係る音信号作成方法は、第3または第4発明において、前記画像信号にフーリエ変換処理を施して得られる信号の強度分布を変更することを特徴とする。
【0022】
第5発明にあっては、画像信号にフーリエ変換処理した後の信号の強度分布を変更する。音信号に対する人間の感度を考慮して、フーリエ変換処理後の信号の強度分布を変更することにより、人間の聴覚により合った音信号を作成する。
【0023】
第6発明に係る音信号作成方法は、第3〜第5発明の何れかにおいて、前記画像信号にフーリエ変換処理を施して得られる信号の位相を取り除くことを特徴とする。
【0024】
第6発明にあっては、画像信号にフーリエ変換処理した後の信号の位相を取り除く。フーリエ変換処理で得られる位相を全ての周波数で0として逆フーリエ変換処理を行うことにより、画像を取得した方位に依存せず、場所だけに依存する音信号を作成する。
【0025】
第11発明に係る画像/音変換方法は、全方位画像を音に変換する方法であって、前記画像の方位情報を音の方位情報に対応させて、前記全方位画像における画像信号から時間差を有する複数の音信号を生成することを特徴とする。
【0026】
第11発明にあっては、全方位画像の方位情報を音の方位情報として表現する。左右の耳に到達する音信号の時間的ずれを感じ取って人間は音の方位を判別していることを利用して、画像の方位情報を音で表現できるように、画像信号を時間差を有する複数の音信号に変換する。
【0027】
第12発明に係る画像/音変換方法は、パノラマ画像または全方位画像を音に変換する方法であって、前記パノラマ画像または全方位画像を走査して得られる複数の画像信号から、慨複数の画像信号夫々で基本周波数を異ならせて音信号を生成することを特徴とする。
【0028】
第12発明にあっては、複数の走査夫々によって得られるパノラマ画像または全方位画像の複数の画像信号夫々に対して、基本周波数を変えて音信号に変換することにより、画像全体を音に変換する。
【0029】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面を参照して具体的に説明する。
図1は、本発明の音信号作成装置の構成を示す機能ブロック図である。この音信号作成装置1は、フーリエ変換部11と信号処理部12と逆フーリエ変換部13と音信号生成部14とを有している。
【0030】
フーリエ変換部11は、周期的な画像信号、例えば全方位画像における画像信号(輝度信号)を、後述する全方位撮像装置から入力して、その輝度信号にフーリエ変換を施し、フーリエ変換後の2種の信号(強度信号と位相信号)を信号処理部12へ出力する。信号処理部12は、入力された2種の信号(強度信号と位相信号)に所定の処理(高周波成分の強度は0とする、強度分布を変更する、全ての周波数における位相を0とするなどの処理)を行い、処理後の2種の信号(強度信号と位相信号)を逆フーリエ変換部13へ出力する。逆フーリエ変換部13は、入力される処理後の信号に逆フーリエ変換を施し、変換後の信号を音信号生成部14へ出力する。音信号生成部14は、逆フーリエ変換で得られる信号から音信号を生成して出力する。
【0031】
次に、動作について説明する。図2は、本発明での音による画像情報伝達の動作手順を示すフローチャートである。まず、全方位画像を取得し(ステップS1)、その取得した全方位画像を変換する(ステップS2)。ここでの画像変換の処理としては、例えば取得した全方位画像が赤,緑,青の3種の信号から構成されている場合、赤の輝度信号のみからなる画像に変換する処理、白黒の画像に変換する処理、または、経時的に連続した入力される画像の差分を求めて動く物体のみが映し出された画像を得る処理などである。このような画像変換の処理によっても、全方位の情報は保存されたままである。
【0032】
変換後の全方位画像における輝度信号を得る(ステップS3)。得られた輝度信号に対してフーリエ変換を施して2種の信号(強度信号と位相信号)を得る(ステップS4)。フーリエ変換により得られた2種の信号に対して、作成される音信号の品質を向上するための処理または場所だけに依存する音信号を作成するための処理を実行する(ステップS5)。次いで、S5での処理後の2種の信号に対して逆フーリエ変換を施して信号を得る(ステップS6)。逆フーリエ変換後の信号から音信号を生成する(ステップS7)。最後に、生成した音信号に応じた音を出力する(ステップS8)。
【0033】
以下、本発明による音信号作成の方法について更に詳細に説明する。音信号作成の方法にあっては、図2のS5での処理内容(図1の信号処理部12での処理内容)の種類に応じて、下記のような3つの実施の形態が存在する。
【0034】
第1実施の形態は、生成される音信号の品質を向上するために、S5での処理において、強度信号の高周波成分を除去する例である。また、第2実施の形態は、生成される音信号の品質を向上するために、S5での処理において、第1実施の形態の処理に加えて強度信号の分布を変更する例である。更に、第3実施の形態は、場所だけに依存する音信号を生成するために、S5での処理において、位相信号を全ての周波数において0とする例である。
【0035】
以下、各実施の形態について夫々説明する。図3は全方位画像の一例を示す図、図4〜図6は各種信号の波形図である。
【0036】
(第1実施の形態)
図3に示されるような全方位画像を取得する(図2のS1)。この全方位画像は、図7にその構成を示すような本発明者等が考案した1台の全方位撮像装置にて容易に得られる。図7における全方位撮像装置30は、凸面鏡31,カメラ33,筒体34などを備えている。
【0037】
凸面鏡31は、金属製または樹脂材の表面に金属膜を設けて構成されており、その基部は支持体32に取り付け支持されている。凸面鏡31の頂部と対向する位置には、レンズ,CCD等を有するカメラ33が配置されており、カメラ33は透明な筒体34を介して凸面鏡31に連結されている。筒体34は、一端側が凸面鏡31の外周の支持体32に固定されると共に、他端側が光透過用の窓孔35を有する連結部材36を介してカメラ33に接続されている。また、凸面鏡31の頂部には、先端側が凸面鏡31の軸線延長上をカメラ33方向に延出する棒状体37を設けている。
【0038】
このような構成により、カメラ33の光軸を中心とした周方向360°の全方位からの光が筒体34を介して凸面鏡31に当たり、カメラ33のレンズでCCDに集光されて周方向全域の全方位画像を取得することができる。筒体34の内面反射光が凸面鏡31にてカメラ33側に導かれないように棒状体37を設けており、この不要な内面反射光を棒状体37で遮って、取得画像の精度向上を図っている。
【0039】
このようにして取得した全方位画像に画像変換を施した後(図2のS2)、1水平ライン上の輝度信号を得る(図2のS3)。図3の全方位画像に対する輝度信号の例を図4(a)に示す。ここで、全方位画像は周方向360°の範囲の画像であるので、図3の左端と右端とでつながるようになっており、図4(a)に示す輝度信号では1周期分において最初と最後とのレベルが相等しい。
【0040】
このような輝度信号に対してフーリエ変換を施す(図2のS4)。図4(b),(c)は、4(a)の輝度信号にフーリエ変換を施して得られる強度信号,位相信号を夫々示している。
【0041】
フーリエ変換は、重み付けの係数(重み)と角度のずれ(位相)とが異なる複数の正弦波(または余弦波)の重ね合わせによって周期関数を表現できるという事象に基づくものであり、2つの信号(強度信号と位相信号)によって元の周期関数を表せる。但し、このフーリエ変換の対象は周期関数に限られる。よって、通常の画像信号は周期関数とはならないので、フーリエ変換を施すためには、その前処理として所定の窓関数を画像信号にかける必要がある。この窓関数は画像信号に対してノイズ信号となるため、画像信号の特性を正確に反映させたフーリエ変換信号を得られない。これに対して、本例では、フーリエ変換の対象となる画像信号が全方位画像から得られる輝度信号であるため、それ自体が周期信号であるので、窓関数をかける必要はなく、画像信号(輝度信号)の特性を正確に反映させたフーリエ変換信号を得ることができる。このことが、全方位画像における輝度信号を使用することの大きな利点である。
【0042】
次いで、得られた強度信号に対して、高周波成分を除去する(図2のS5)。図4(d)は、図4(b)の強度信号から高周波成分を除去した後の強度信号を示している。具点的には、一例として20Hz以上の高周波成分を除去している。全方位画像の輝度信号をフーリエ変換した後の信号における高周波成分のほとんどはノイズ成分である。よって、この段階で高周波成分を除去しておくことにより、最終的に作成される音信号の品質を高くできる。
【0043】
次いで、高周波成分を除去した後の強度信号と位相信号とに対して逆フーリエ変換を施して信号を得る(図2のS6)。図4(e)は、図4(d)の強度信号及び図4(c)の位相信号に対して逆フーリエ変換を施して得られる逆フーリエ変換信号を示している。
【0044】
最後に、この逆フーリエ変換後の信号の振幅方向の中央部分を取り出し、その振幅の平均値を位置0として音信号を生成する(図2のS7)。図4(f)は、図4(e)の逆フーリエ変換信号から生成した音信号の一例を示している。
【0045】
(第2実施の形態)
第1実施の形態と同様に、図7の全方位撮像装置30により全方位画像を取得し(図2のS1)、取得した全方位画像に画像変換を施し(図2のS2)、変換後の全方位画像における1水平ライン上の輝度信号を得(図2のS3,図5(a))、輝度信号に対してフーリエ変換を施して強度信号,位相信号を得る(図2のS4,図5(b),(c))。ここまでの処理は第1実施の形態と同じである。
【0046】
次いで、得られた強度信号に対して、第1実施の形態と同様に高周波成分を除去すると共に、その強度分布を変更する(図2のS5)。図5(d)は、図5(b)の強度信号にこれらの処理を実行した後の強度信号を示している。人間の聴覚特性に合わせて、強度分布を変える。具体的には、フーリエ変換後の強度信号(図5(b))に所望の関数をかけあわせることにより変更後の強度信号(図5(d))を得ている。この第2実施の形態では、強度分布を人間の聴覚特性に合わせるべくフーリエ変換後の信号に処理を施しているため、最終的に作成される音信号の品質を高くできる。
【0047】
次いで、このような処理を実行した後の強度信号と位相信号とに対して、第1実施の形態と同様に、逆フーリエ変換を施して逆フーリエ変換信号を得る(図2のS6,図5(e))。最後に、逆フーリエ変換後の信号から、第1実施の形態と同様に、音信号を生成する(図2のS7,図5(f))。
【0048】
(第3実施の形態)
第1実施の形態と同様に、図7の全方位撮像装置30により全方位画像を取得し(図2のS1)、取得した全方位画像に画像変換を施し(図2のS2)、変換後の全方位画像における1水平ライン上の輝度信号を得(図2のS3,図6(a))、輝度信号に対してフーリエ変換を施して強度信号,位相信号を得る(図2のS4,図6(b),(c))。ここまでの処理は第1,第2実施の形態と同じである。
【0049】
次いで、得られた強度信号に対して、第2実施の形態と同様に高周波成分の除去処理及び強度分布の変更処理を行う(図2のS5,図6(d))と共に、位相信号における全ての周波数での位相を0とする(図2のS5,図6(e))。
【0050】
次いで、このような処理を実行した後の強度信号(図6(d))と位相信号(図6(e))とに対して、第1,第2実施の形態と同様に、逆フーリエ変換を施して逆フーリエ変換信号を得る(図2のS6,図6(f))。最後に、この逆フーリエ変換後の信号から、第1,第2実施の形態と同様に、音信号を生成する(図2のS7,図6(g))。
【0051】
第3実施の形態にあっては、フーリエ変換処理で得られる位相を全ての周波数で0にして逆フーリエ変換処理を行うようにしているため、図3に示す全方位画像における始端・終端の位置、言い換えると、全方位画像を取得した際の方向に依存することなく、全方位画像のみ、言い換えると、その全方位画像の取得場所のみに依存する音信号を作成することになる。
【0052】
周方向の画像を音に変換する本発明の他の実施の形態について説明する。
(第4実施の形態)
第4実施の形態は、人間が左右の耳に到達する音の時間差を聞き取って音の方位を判別していることを利用して、全方位画像の方位情報が音の方位情報として表現されるステレオ音を生成するものである。図8は、第4実施の形態の一例を示す模式図である。まず、前述したような全方位撮像装置30により全方位画像を取得する(図8(a))。取得した全方位画像に画像変換を施した後、1水平ライン(図8(a)のA−B線)における輝度信号を得る(図8(b))。
【0053】
得た輝度信号に対して、上述した第1〜第3実施の形態の何れかで述べたような信号変換処理を施して音信号を作成する。更に、この作成した音信号から、図9(a)に示すような時間差と図9(b)に示すような上限周波数の差とを有する2種の音信号(右耳用音信号,左耳用音信号)を、時間差発生装置20により生成する(図8(c))。なお、例えば、図9(a)は正弦曲線を表し、図9(b)は余弦曲線を表す。そして、生成した右耳用音信号,左耳用音信号を夫々、複数チャンネルを有するヘッドホン,スピーカ等の音出力装置へ出力し、それらの音信号に応じたステレオ音を合成して出力する(図8(d))。
【0054】
人間は、約700μsの時間差にて左右の耳で同じ音を聞いた場合に、左右の耳を結ぶ直線方向に音源があることを認識する。この現象を利用して、図9(a)に示すように最大で700μsとなる時間差を有する2種の音信号を画像信号から作成し、画像の方位情報をステレオ音の方位情報として表すようにしている。但し、この時間差だけでは、ヘッドホン等でステレオ音を聞いた場合、左右方向の違いは認識できるが頭の前後方向の違いは認識できない。そこで、図9(b)に示すような上限周波数の差を持たせることにより、音の高さで前後方向を表現できるようにしている。この第4実施の形態では、人間が有する時間差分析能力を最適に利用できるように、全方位画像を音に変換している。
【0055】
(第5実施の形態)
第5実施の形態は、パノラマ画像または全方位画像を音に変換する際に、画像の位置(走査位置)に応じて基本周波数を変動させて、全体の画像を音に変えるものである。図10は、第5実施の形態の一例を示す模式図である。まず、取得したパノラマ画像に画像変換を施した後、そのパノラマ画像を複数の水平ライン(本例では5ライン)で走査して(図10(a))、各ラインにおける輝度信号を得る(図10(b))。
【0056】
各ラインにおける輝度信号に対して、基本周波数を変えて、上述した第1〜第3実施の形態の何れかで述べたような信号変換処理を施して音信号を生成する(図10(c))。本例では、最上ラインにおける基本周波数を100Hz、最下ラインにおける基本周波数を400Hzとしており、両ライン間の残りの3ラインにおける基本周波数を上側から順に175Hz,250Hz,325Hzとしている。生成したこれらの5種類の音信号をスピーカへ出力する。
【0057】
なお、パノラマ画像に対する走査を細かくし、その基本周波数を細かく設定する場合に、発生する音の基本周波数は、図11のようになる。
【0058】
なお、上述した例では、画像を水平方向に走査することとしたが、円形の全方位画像の場合には、図12に示すように、同心円状に複数の走査を行うようにしても良い。この場合には、各走査毎にその画素数が異なるので、走査した画素数に応じて異なる基本周波数を設定すれば良い。
【0059】
なお、上述した例では、フーリエ変換を用いる場合について説明したが、フーリエ変換の変形例であるウェーブレット変換などを利用することも可能である。また、変換対象の画像信号として輝度信号を用いるようにしたが、色信号(R,G,B信号)、色差信号を同様に変換して音信号を作成することも可能である。
【0060】
以上のように、本発明では、ある場所で得られる全方位画像の画像信号に基づいて音信号を作成するため、場所を音で表現できる。また、この際に、全方位画像の画像信号を用いるので、周囲の風景の情報が欠落しない音信号を作成できて場所を認識する精度は高い。元来人間の耳はフーリエ変換機能,ウェーブレット変換機能を有しているが、本発明では事前にこのような変換処理を施した音信号を出力するので、無駄がない音信号を人間に提供している。
【0061】
次に、本発明の応用例について説明する。まず、目の不自由な人に場所を音で知らせる場所通知器について説明する。
【0062】
図13は、目の不自由な人が外出時に携帯する場所通知器40の構成を示す図である。場所通知器40は、前述した全方位撮像装置30と、上述した音信号の作成処理を実行する処理チップ50と、音信号に応じた音を発するスピーカ60と、指示を入力するためにユーザが操作する操作器70とを備えている。
【0063】
処理チップ50は、上述したようなフーリエ変換などの信号処理を行うと共に処理チップ50の他のハードウェアの動作を制御するCPU51と、全方位撮像装置30から全方位画像における画像信号を入力する画像信号入力部52と、作成した音信号をスピーカ60へ出力する音信号出力部53と、操作器70からの入力指示を受け付ける指示受付部54と、CPU51が行う音信号作成処理に必要な種々のソフトウェアのプログラムを予め格納しているROM55と、音信号作成処理の実行時に発生する一時的なデータを記憶するRAM56とを有する。
【0064】
このような構成を有する場所通知器40を目の不自由な人が携帯して、操作器70にて処理を指示した場合、全方位撮像装置30にて取得された全方位画像の画像信号(輝度信号)が画像信号入力部52へ入力される。CPU51は、図2のS4〜S7の手順に従って、入力された輝度信号から音信号を作成する。作成された音信号は音信号出力部53を介してスピーカ60へ出力され、スピーカ60から音が発せられる。
【0065】
このスピーカ60から発せられる音は、目の不自由な人が存在する周囲の風景に対応しており、その音を聞くことにより目の不自由な人は風景を認識してその場所を確認できる。よって、目の不自由な人は自分の存在場所を容易に知ることができる。また、同じ場所でも、目の不自由な人が向いている方向が異なる場合には、スピーカ60から発せられる音も少しずつ異なるので、その音を聞くことによって、自分が向いている方向(方位)も理解できる。
【0066】
なお、第3実施の形態のように位相を0とする処理を行う場合には、目の不自由な人が向いている方位に関係なく、つまり、目の不自由な人が回転して体の向きが変わっても同じ場所にいる限り、一定の音がスピーカ60から発せられる。よって、場所確認を確実に行うためには、体の向きに依存せずに場所だけに依存するこの処理方法が適しているとも言える。
【0067】
図14は、目の不自由な人を誘導する誘導システムを示す図である。図14において、80は目の不自由な人が移動する経路近傍に固定配置された複数の誘導装置である。各誘導装置80は、前述した場所通知器40と同様の構成をなしており、全方位画像を取得してその画像信号(輝度信号)を得る全方位撮像装置、画像信号(輝度信号)に基づく音信号を作成するCPU、作成された音信号に応じた音を発するスピーカなどを有する。
【0068】
目の不自由な人が移動するにつれて、その動きが反映されるので、各誘導装置80から発せられる音は変化し、その人の動きも含めてまわりの風景が音にて知らされる。よって、目の不自由な人は各誘導装置80からの音により、誘導を受けることができる。
【0069】
また、他の応用例として、本発明を撮像用のカメラに適用した場合、カメラが傾くとその取得画像が変化するので、発せられる音の変化に応じてカメラの傾きを容易に検出できる。
【0070】
また、更に他の応用例として、人,動物などに本発明を装着した場合、動きに応じて全方位画像は変化するので、その動きに応じた音楽を奏でることも可能である。
【0071】
上述したこれらの応用例以外に、場所を音にて表現するような全ての手法またはシステムに対して本発明を適用できることは勿論である。
【0072】
なお、上述した実施の形態では、全方位撮像装置にて取得された全方位画像における画像信号をリアルタイムで変換して音信号を作成する場合について説明したが、取得した全方位画像での画像信号を予めメモリに格納しておき、任意のタイミングでメモリから読み出した画像信号を変換して音信号を作成するようにしても良い。
【0073】
また、上述した実施の形態では、全方位画像での画像信号を用いる場合について説明したが、周期的な画像信号であれば、画像を環状に走査して得られる画像信号など、任意の画像信号に対して本発明を有効に適用できることは言うまでもない。
【0074】
【発明の効果】
以上のように本発明では、場所の風景情報を音情報に正確に変換して、場所に応じた音を正しく出力できるので、目の不自由な人が場所及び方向(方位)を容易に認識できるようなシステムの構築に寄与できるなど、視覚障害者に対する社会的インフラの充実に大いに貢献できる。
【図面の簡単な説明】
【図1】本発明の音信号作成装置の構成を示す機能ブロック図である。
【図2】本発明での音による画像情報伝達の動作手順を示すフローチャートである。
【図3】全方位画像の一例を示す図である。
【図4】第1実施の形態における各種信号の波形図である。
【図5】第2実施の形態における各種信号の波形図である。
【図6】第3実施の形態における各種信号の波形図である。
【図7】全方位画像を取得する全方位撮像装置の構成図である。
【図8】第4実施の形態の一例を示す模式図である。
【図9】右耳用音信号と左耳用音信号とにおける時間差及び上限周波数の差を示す図である。
【図10】第5実施の形態の一例を示す模式図である。
【図11】発生する音の基本周波数を示すグラフである。
【図12】第5実施の形態の他の例における画像走査を示す図である。
【図13】本発明の応用例である場所通知器の構成を示す図である。
【図14】本発明の応用例である目の不自由な人を誘導する誘導システムを示す図である。
【符号の説明】
1 音信号作成装置
11 フーリエ変換部
12 信号処理部
13 逆フーリエ変換部
14 音信号生成部
20 時間差発生装置
30 全方位撮像装置
40 場所通知器
50 処理チップ
51 CPU
60 スピーカ
80 誘導装置
【発明の属する技術分野】
本発明は、画像信号を音信号に変換する技術に関し、特に、音によって画像情報を伝達する画像情報伝達方法、画像信号を音信号に変換して音信号を作成する音信号作成方法及び装置、作成した音信号に応じた音を発する音発生装置、並びに、周方向の画像を音に変換する画像/音変換方法に関する。
【0002】
【従来の技術】
歩道,駅のホームにおける点字ブロック、横断歩道での音声誘導、公共施設の点字案内などの視覚障害者用の設備が充実してきたとはいえ、目の不自由な人にとって健常者と同様に社会活動を行うことはまだまだ容易ではない。視覚に障害がある人にとって、社会活動を遂行する上で頼りとなる感覚は、触覚,聴覚であり、これらの感覚は健常者より優れている場合が多い。
【0003】
触覚については、情報が点字で盛り込まれている掲示板,案内板などの被接触物のところまで目の不自由な人が行ってそれに触れなければ情報を得ることができない。これに対して、聴覚については、空気を媒体とした音信号によって情報が目の不自由な人に伝わる。よって、特に屋外にあっては、そのような被接触物まで到達することも困難であり、音信号による情報の提供が目の不自由な人にとっては好ましい。
【0004】
【発明が解決しようとする課題】
しかしながら、目の不自由な人に対する音信号での情報提供のシステムとしては、横断歩道で青信号になった際に所定の音楽が流れるシステムが設けられている程度であって、十分であるとは言えない。特に、健常者にとっては、山,川,湖などの自然物または建物,道路,駅などの人工物を視認することにより、自分が存在している場所及び自分がどちらの方向(方位)を向いているかは容易に認識できる。これに対して、目の不自由な人にとっては、視覚による認識が行えず、自分の存在場所または自分が向いている方向(方位)を知ることは容易でない。よって、このような目の不自由な人の不便さを解消できる手段の開発が望まれている。
【0005】
本発明は斯かる事情に鑑みてなされたものであり、目の不自由な人が場所及び方向(方位)を容易に認識でき、また、目の不自由な人を正確に誘導できる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することを目的とする。
【0006】
本発明の他の目的は、場所に応じた音を発することができる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することにある。
【0007】
本発明の更に他の目的は、撮影中のカメラの傾きを音で表現して知らせることができる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することにある。
【0008】
本発明の更に他の目的は、人,動物などの動きに合わせて音楽を奏でることができる画像情報伝達方法,音信号作成方法及び装置,音発生装置並びに画像/音変換方法を提供することにある。
【0009】
【課題を解決するための手段】
第1発明に係る画像情報伝達方法は、撮影画像における画像信号を変換して音信号を作成し、作成した音信号に応じた音によって画像情報を伝達することを特徴とする。
【0010】
第7発明に係る音信号作成装置は、画像信号を取得する手段と、取得した画像信号を音信号に変換する変換手段とを備えることを特徴とする。
【0011】
第10発明に係る音発生装置は、全方位画像を取得する手段と、取得した全方位画像における画像信号を音信号に変換する手段と、変換した音信号に応じた音を発する手段とを備えることを特徴とする。
【0012】
第1発明,第7発明及び第10発明にあっては、撮影画像における画像信号(例えば輝度信号)を変換して音信号を作成するため、撮影した場所での画像パターン(画像として映されている物体または風景)に基づいた音信号が作成される。よって、画像情報を音信号で表して伝達することができ、このように作成された音信号に応じた音を聞くことにより、目の不自由な人は自分がいる場所及びまたは向いている方向(方位)を認識できる。また、場所が変われば画像信号も変化するので、その画像信号を音信号に変換することにより、場所に応じた音を出力できる。また、撮影中のカメラの向きが変化した場合に取得される画像の画像信号も変わるので、それを変換した音信号の変化に基づいてカメラの傾きを検出できる。人,動物などが動けば取得される画像の画像信号は変化するので、それを変換した音信号も変化して音楽が奏でられる。
【0013】
第2発明に係る音信号作成方法は、周期的な画像信号を変換して音信号を作成することを特徴とする。
【0014】
第8発明に係る音信号作成装置は、第7発明において、前記画像信号は周期的な画像信号であることを特徴とする。
【0015】
第2発明及び第8発明にあっては、周期的な画像信号、例えば全方位画像における画像信号を変換して音信号を作成する。周期的な画像信号にあっては、1周期を考えた場合に両端のレベルが相等しくなるため、特別な窓関数を設けることなく、正しく音信号に変換できる。
【0016】
第3発明に係る音信号作成方法は、第2発明において、前記画像信号にフーリエ変換処理/逆フーリエ変換処理を順次施し、処理後の信号から音信号を作成することを特徴とする。
【0017】
第9発明に係る音信号作成装置は、第7または第8発明において、前記変換手段は、取得した画像信号にフーリエ変換処理を施す手段と、フーリエ変換処理後の信号に逆フーリエ変換処理を施す手段と、逆フーリエ変換処理後の信号から音信号を生成する手段とを有することを特徴とする。
【0018】
第3発明及び第9発明にあっては、画像信号にフーリエ変換処理/逆フーリエ変換処理を順次施して、滑らかな音信号を作成する。
【0019】
第4発明に係る音信号作成方法は、第3発明において、前記画像信号にフーリエ変換処理を施して得られる信号の所定周波数以上の成分を除去することを特徴とする。
【0020】
第4発明にあっては、画像信号をフーリエ変換処理した後の信号の所定周波数以上の成分を除去する。フーリエ変換処理後の信号の高周波成分はほとんどがノイズ成分であるので、その高周波成分を除去することにより、ノイズの影響を少なくする。
【0021】
第5発明に係る音信号作成方法は、第3または第4発明において、前記画像信号にフーリエ変換処理を施して得られる信号の強度分布を変更することを特徴とする。
【0022】
第5発明にあっては、画像信号にフーリエ変換処理した後の信号の強度分布を変更する。音信号に対する人間の感度を考慮して、フーリエ変換処理後の信号の強度分布を変更することにより、人間の聴覚により合った音信号を作成する。
【0023】
第6発明に係る音信号作成方法は、第3〜第5発明の何れかにおいて、前記画像信号にフーリエ変換処理を施して得られる信号の位相を取り除くことを特徴とする。
【0024】
第6発明にあっては、画像信号にフーリエ変換処理した後の信号の位相を取り除く。フーリエ変換処理で得られる位相を全ての周波数で0として逆フーリエ変換処理を行うことにより、画像を取得した方位に依存せず、場所だけに依存する音信号を作成する。
【0025】
第11発明に係る画像/音変換方法は、全方位画像を音に変換する方法であって、前記画像の方位情報を音の方位情報に対応させて、前記全方位画像における画像信号から時間差を有する複数の音信号を生成することを特徴とする。
【0026】
第11発明にあっては、全方位画像の方位情報を音の方位情報として表現する。左右の耳に到達する音信号の時間的ずれを感じ取って人間は音の方位を判別していることを利用して、画像の方位情報を音で表現できるように、画像信号を時間差を有する複数の音信号に変換する。
【0027】
第12発明に係る画像/音変換方法は、パノラマ画像または全方位画像を音に変換する方法であって、前記パノラマ画像または全方位画像を走査して得られる複数の画像信号から、慨複数の画像信号夫々で基本周波数を異ならせて音信号を生成することを特徴とする。
【0028】
第12発明にあっては、複数の走査夫々によって得られるパノラマ画像または全方位画像の複数の画像信号夫々に対して、基本周波数を変えて音信号に変換することにより、画像全体を音に変換する。
【0029】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面を参照して具体的に説明する。
図1は、本発明の音信号作成装置の構成を示す機能ブロック図である。この音信号作成装置1は、フーリエ変換部11と信号処理部12と逆フーリエ変換部13と音信号生成部14とを有している。
【0030】
フーリエ変換部11は、周期的な画像信号、例えば全方位画像における画像信号(輝度信号)を、後述する全方位撮像装置から入力して、その輝度信号にフーリエ変換を施し、フーリエ変換後の2種の信号(強度信号と位相信号)を信号処理部12へ出力する。信号処理部12は、入力された2種の信号(強度信号と位相信号)に所定の処理(高周波成分の強度は0とする、強度分布を変更する、全ての周波数における位相を0とするなどの処理)を行い、処理後の2種の信号(強度信号と位相信号)を逆フーリエ変換部13へ出力する。逆フーリエ変換部13は、入力される処理後の信号に逆フーリエ変換を施し、変換後の信号を音信号生成部14へ出力する。音信号生成部14は、逆フーリエ変換で得られる信号から音信号を生成して出力する。
【0031】
次に、動作について説明する。図2は、本発明での音による画像情報伝達の動作手順を示すフローチャートである。まず、全方位画像を取得し(ステップS1)、その取得した全方位画像を変換する(ステップS2)。ここでの画像変換の処理としては、例えば取得した全方位画像が赤,緑,青の3種の信号から構成されている場合、赤の輝度信号のみからなる画像に変換する処理、白黒の画像に変換する処理、または、経時的に連続した入力される画像の差分を求めて動く物体のみが映し出された画像を得る処理などである。このような画像変換の処理によっても、全方位の情報は保存されたままである。
【0032】
変換後の全方位画像における輝度信号を得る(ステップS3)。得られた輝度信号に対してフーリエ変換を施して2種の信号(強度信号と位相信号)を得る(ステップS4)。フーリエ変換により得られた2種の信号に対して、作成される音信号の品質を向上するための処理または場所だけに依存する音信号を作成するための処理を実行する(ステップS5)。次いで、S5での処理後の2種の信号に対して逆フーリエ変換を施して信号を得る(ステップS6)。逆フーリエ変換後の信号から音信号を生成する(ステップS7)。最後に、生成した音信号に応じた音を出力する(ステップS8)。
【0033】
以下、本発明による音信号作成の方法について更に詳細に説明する。音信号作成の方法にあっては、図2のS5での処理内容(図1の信号処理部12での処理内容)の種類に応じて、下記のような3つの実施の形態が存在する。
【0034】
第1実施の形態は、生成される音信号の品質を向上するために、S5での処理において、強度信号の高周波成分を除去する例である。また、第2実施の形態は、生成される音信号の品質を向上するために、S5での処理において、第1実施の形態の処理に加えて強度信号の分布を変更する例である。更に、第3実施の形態は、場所だけに依存する音信号を生成するために、S5での処理において、位相信号を全ての周波数において0とする例である。
【0035】
以下、各実施の形態について夫々説明する。図3は全方位画像の一例を示す図、図4〜図6は各種信号の波形図である。
【0036】
(第1実施の形態)
図3に示されるような全方位画像を取得する(図2のS1)。この全方位画像は、図7にその構成を示すような本発明者等が考案した1台の全方位撮像装置にて容易に得られる。図7における全方位撮像装置30は、凸面鏡31,カメラ33,筒体34などを備えている。
【0037】
凸面鏡31は、金属製または樹脂材の表面に金属膜を設けて構成されており、その基部は支持体32に取り付け支持されている。凸面鏡31の頂部と対向する位置には、レンズ,CCD等を有するカメラ33が配置されており、カメラ33は透明な筒体34を介して凸面鏡31に連結されている。筒体34は、一端側が凸面鏡31の外周の支持体32に固定されると共に、他端側が光透過用の窓孔35を有する連結部材36を介してカメラ33に接続されている。また、凸面鏡31の頂部には、先端側が凸面鏡31の軸線延長上をカメラ33方向に延出する棒状体37を設けている。
【0038】
このような構成により、カメラ33の光軸を中心とした周方向360°の全方位からの光が筒体34を介して凸面鏡31に当たり、カメラ33のレンズでCCDに集光されて周方向全域の全方位画像を取得することができる。筒体34の内面反射光が凸面鏡31にてカメラ33側に導かれないように棒状体37を設けており、この不要な内面反射光を棒状体37で遮って、取得画像の精度向上を図っている。
【0039】
このようにして取得した全方位画像に画像変換を施した後(図2のS2)、1水平ライン上の輝度信号を得る(図2のS3)。図3の全方位画像に対する輝度信号の例を図4(a)に示す。ここで、全方位画像は周方向360°の範囲の画像であるので、図3の左端と右端とでつながるようになっており、図4(a)に示す輝度信号では1周期分において最初と最後とのレベルが相等しい。
【0040】
このような輝度信号に対してフーリエ変換を施す(図2のS4)。図4(b),(c)は、4(a)の輝度信号にフーリエ変換を施して得られる強度信号,位相信号を夫々示している。
【0041】
フーリエ変換は、重み付けの係数(重み)と角度のずれ(位相)とが異なる複数の正弦波(または余弦波)の重ね合わせによって周期関数を表現できるという事象に基づくものであり、2つの信号(強度信号と位相信号)によって元の周期関数を表せる。但し、このフーリエ変換の対象は周期関数に限られる。よって、通常の画像信号は周期関数とはならないので、フーリエ変換を施すためには、その前処理として所定の窓関数を画像信号にかける必要がある。この窓関数は画像信号に対してノイズ信号となるため、画像信号の特性を正確に反映させたフーリエ変換信号を得られない。これに対して、本例では、フーリエ変換の対象となる画像信号が全方位画像から得られる輝度信号であるため、それ自体が周期信号であるので、窓関数をかける必要はなく、画像信号(輝度信号)の特性を正確に反映させたフーリエ変換信号を得ることができる。このことが、全方位画像における輝度信号を使用することの大きな利点である。
【0042】
次いで、得られた強度信号に対して、高周波成分を除去する(図2のS5)。図4(d)は、図4(b)の強度信号から高周波成分を除去した後の強度信号を示している。具点的には、一例として20Hz以上の高周波成分を除去している。全方位画像の輝度信号をフーリエ変換した後の信号における高周波成分のほとんどはノイズ成分である。よって、この段階で高周波成分を除去しておくことにより、最終的に作成される音信号の品質を高くできる。
【0043】
次いで、高周波成分を除去した後の強度信号と位相信号とに対して逆フーリエ変換を施して信号を得る(図2のS6)。図4(e)は、図4(d)の強度信号及び図4(c)の位相信号に対して逆フーリエ変換を施して得られる逆フーリエ変換信号を示している。
【0044】
最後に、この逆フーリエ変換後の信号の振幅方向の中央部分を取り出し、その振幅の平均値を位置0として音信号を生成する(図2のS7)。図4(f)は、図4(e)の逆フーリエ変換信号から生成した音信号の一例を示している。
【0045】
(第2実施の形態)
第1実施の形態と同様に、図7の全方位撮像装置30により全方位画像を取得し(図2のS1)、取得した全方位画像に画像変換を施し(図2のS2)、変換後の全方位画像における1水平ライン上の輝度信号を得(図2のS3,図5(a))、輝度信号に対してフーリエ変換を施して強度信号,位相信号を得る(図2のS4,図5(b),(c))。ここまでの処理は第1実施の形態と同じである。
【0046】
次いで、得られた強度信号に対して、第1実施の形態と同様に高周波成分を除去すると共に、その強度分布を変更する(図2のS5)。図5(d)は、図5(b)の強度信号にこれらの処理を実行した後の強度信号を示している。人間の聴覚特性に合わせて、強度分布を変える。具体的には、フーリエ変換後の強度信号(図5(b))に所望の関数をかけあわせることにより変更後の強度信号(図5(d))を得ている。この第2実施の形態では、強度分布を人間の聴覚特性に合わせるべくフーリエ変換後の信号に処理を施しているため、最終的に作成される音信号の品質を高くできる。
【0047】
次いで、このような処理を実行した後の強度信号と位相信号とに対して、第1実施の形態と同様に、逆フーリエ変換を施して逆フーリエ変換信号を得る(図2のS6,図5(e))。最後に、逆フーリエ変換後の信号から、第1実施の形態と同様に、音信号を生成する(図2のS7,図5(f))。
【0048】
(第3実施の形態)
第1実施の形態と同様に、図7の全方位撮像装置30により全方位画像を取得し(図2のS1)、取得した全方位画像に画像変換を施し(図2のS2)、変換後の全方位画像における1水平ライン上の輝度信号を得(図2のS3,図6(a))、輝度信号に対してフーリエ変換を施して強度信号,位相信号を得る(図2のS4,図6(b),(c))。ここまでの処理は第1,第2実施の形態と同じである。
【0049】
次いで、得られた強度信号に対して、第2実施の形態と同様に高周波成分の除去処理及び強度分布の変更処理を行う(図2のS5,図6(d))と共に、位相信号における全ての周波数での位相を0とする(図2のS5,図6(e))。
【0050】
次いで、このような処理を実行した後の強度信号(図6(d))と位相信号(図6(e))とに対して、第1,第2実施の形態と同様に、逆フーリエ変換を施して逆フーリエ変換信号を得る(図2のS6,図6(f))。最後に、この逆フーリエ変換後の信号から、第1,第2実施の形態と同様に、音信号を生成する(図2のS7,図6(g))。
【0051】
第3実施の形態にあっては、フーリエ変換処理で得られる位相を全ての周波数で0にして逆フーリエ変換処理を行うようにしているため、図3に示す全方位画像における始端・終端の位置、言い換えると、全方位画像を取得した際の方向に依存することなく、全方位画像のみ、言い換えると、その全方位画像の取得場所のみに依存する音信号を作成することになる。
【0052】
周方向の画像を音に変換する本発明の他の実施の形態について説明する。
(第4実施の形態)
第4実施の形態は、人間が左右の耳に到達する音の時間差を聞き取って音の方位を判別していることを利用して、全方位画像の方位情報が音の方位情報として表現されるステレオ音を生成するものである。図8は、第4実施の形態の一例を示す模式図である。まず、前述したような全方位撮像装置30により全方位画像を取得する(図8(a))。取得した全方位画像に画像変換を施した後、1水平ライン(図8(a)のA−B線)における輝度信号を得る(図8(b))。
【0053】
得た輝度信号に対して、上述した第1〜第3実施の形態の何れかで述べたような信号変換処理を施して音信号を作成する。更に、この作成した音信号から、図9(a)に示すような時間差と図9(b)に示すような上限周波数の差とを有する2種の音信号(右耳用音信号,左耳用音信号)を、時間差発生装置20により生成する(図8(c))。なお、例えば、図9(a)は正弦曲線を表し、図9(b)は余弦曲線を表す。そして、生成した右耳用音信号,左耳用音信号を夫々、複数チャンネルを有するヘッドホン,スピーカ等の音出力装置へ出力し、それらの音信号に応じたステレオ音を合成して出力する(図8(d))。
【0054】
人間は、約700μsの時間差にて左右の耳で同じ音を聞いた場合に、左右の耳を結ぶ直線方向に音源があることを認識する。この現象を利用して、図9(a)に示すように最大で700μsとなる時間差を有する2種の音信号を画像信号から作成し、画像の方位情報をステレオ音の方位情報として表すようにしている。但し、この時間差だけでは、ヘッドホン等でステレオ音を聞いた場合、左右方向の違いは認識できるが頭の前後方向の違いは認識できない。そこで、図9(b)に示すような上限周波数の差を持たせることにより、音の高さで前後方向を表現できるようにしている。この第4実施の形態では、人間が有する時間差分析能力を最適に利用できるように、全方位画像を音に変換している。
【0055】
(第5実施の形態)
第5実施の形態は、パノラマ画像または全方位画像を音に変換する際に、画像の位置(走査位置)に応じて基本周波数を変動させて、全体の画像を音に変えるものである。図10は、第5実施の形態の一例を示す模式図である。まず、取得したパノラマ画像に画像変換を施した後、そのパノラマ画像を複数の水平ライン(本例では5ライン)で走査して(図10(a))、各ラインにおける輝度信号を得る(図10(b))。
【0056】
各ラインにおける輝度信号に対して、基本周波数を変えて、上述した第1〜第3実施の形態の何れかで述べたような信号変換処理を施して音信号を生成する(図10(c))。本例では、最上ラインにおける基本周波数を100Hz、最下ラインにおける基本周波数を400Hzとしており、両ライン間の残りの3ラインにおける基本周波数を上側から順に175Hz,250Hz,325Hzとしている。生成したこれらの5種類の音信号をスピーカへ出力する。
【0057】
なお、パノラマ画像に対する走査を細かくし、その基本周波数を細かく設定する場合に、発生する音の基本周波数は、図11のようになる。
【0058】
なお、上述した例では、画像を水平方向に走査することとしたが、円形の全方位画像の場合には、図12に示すように、同心円状に複数の走査を行うようにしても良い。この場合には、各走査毎にその画素数が異なるので、走査した画素数に応じて異なる基本周波数を設定すれば良い。
【0059】
なお、上述した例では、フーリエ変換を用いる場合について説明したが、フーリエ変換の変形例であるウェーブレット変換などを利用することも可能である。また、変換対象の画像信号として輝度信号を用いるようにしたが、色信号(R,G,B信号)、色差信号を同様に変換して音信号を作成することも可能である。
【0060】
以上のように、本発明では、ある場所で得られる全方位画像の画像信号に基づいて音信号を作成するため、場所を音で表現できる。また、この際に、全方位画像の画像信号を用いるので、周囲の風景の情報が欠落しない音信号を作成できて場所を認識する精度は高い。元来人間の耳はフーリエ変換機能,ウェーブレット変換機能を有しているが、本発明では事前にこのような変換処理を施した音信号を出力するので、無駄がない音信号を人間に提供している。
【0061】
次に、本発明の応用例について説明する。まず、目の不自由な人に場所を音で知らせる場所通知器について説明する。
【0062】
図13は、目の不自由な人が外出時に携帯する場所通知器40の構成を示す図である。場所通知器40は、前述した全方位撮像装置30と、上述した音信号の作成処理を実行する処理チップ50と、音信号に応じた音を発するスピーカ60と、指示を入力するためにユーザが操作する操作器70とを備えている。
【0063】
処理チップ50は、上述したようなフーリエ変換などの信号処理を行うと共に処理チップ50の他のハードウェアの動作を制御するCPU51と、全方位撮像装置30から全方位画像における画像信号を入力する画像信号入力部52と、作成した音信号をスピーカ60へ出力する音信号出力部53と、操作器70からの入力指示を受け付ける指示受付部54と、CPU51が行う音信号作成処理に必要な種々のソフトウェアのプログラムを予め格納しているROM55と、音信号作成処理の実行時に発生する一時的なデータを記憶するRAM56とを有する。
【0064】
このような構成を有する場所通知器40を目の不自由な人が携帯して、操作器70にて処理を指示した場合、全方位撮像装置30にて取得された全方位画像の画像信号(輝度信号)が画像信号入力部52へ入力される。CPU51は、図2のS4〜S7の手順に従って、入力された輝度信号から音信号を作成する。作成された音信号は音信号出力部53を介してスピーカ60へ出力され、スピーカ60から音が発せられる。
【0065】
このスピーカ60から発せられる音は、目の不自由な人が存在する周囲の風景に対応しており、その音を聞くことにより目の不自由な人は風景を認識してその場所を確認できる。よって、目の不自由な人は自分の存在場所を容易に知ることができる。また、同じ場所でも、目の不自由な人が向いている方向が異なる場合には、スピーカ60から発せられる音も少しずつ異なるので、その音を聞くことによって、自分が向いている方向(方位)も理解できる。
【0066】
なお、第3実施の形態のように位相を0とする処理を行う場合には、目の不自由な人が向いている方位に関係なく、つまり、目の不自由な人が回転して体の向きが変わっても同じ場所にいる限り、一定の音がスピーカ60から発せられる。よって、場所確認を確実に行うためには、体の向きに依存せずに場所だけに依存するこの処理方法が適しているとも言える。
【0067】
図14は、目の不自由な人を誘導する誘導システムを示す図である。図14において、80は目の不自由な人が移動する経路近傍に固定配置された複数の誘導装置である。各誘導装置80は、前述した場所通知器40と同様の構成をなしており、全方位画像を取得してその画像信号(輝度信号)を得る全方位撮像装置、画像信号(輝度信号)に基づく音信号を作成するCPU、作成された音信号に応じた音を発するスピーカなどを有する。
【0068】
目の不自由な人が移動するにつれて、その動きが反映されるので、各誘導装置80から発せられる音は変化し、その人の動きも含めてまわりの風景が音にて知らされる。よって、目の不自由な人は各誘導装置80からの音により、誘導を受けることができる。
【0069】
また、他の応用例として、本発明を撮像用のカメラに適用した場合、カメラが傾くとその取得画像が変化するので、発せられる音の変化に応じてカメラの傾きを容易に検出できる。
【0070】
また、更に他の応用例として、人,動物などに本発明を装着した場合、動きに応じて全方位画像は変化するので、その動きに応じた音楽を奏でることも可能である。
【0071】
上述したこれらの応用例以外に、場所を音にて表現するような全ての手法またはシステムに対して本発明を適用できることは勿論である。
【0072】
なお、上述した実施の形態では、全方位撮像装置にて取得された全方位画像における画像信号をリアルタイムで変換して音信号を作成する場合について説明したが、取得した全方位画像での画像信号を予めメモリに格納しておき、任意のタイミングでメモリから読み出した画像信号を変換して音信号を作成するようにしても良い。
【0073】
また、上述した実施の形態では、全方位画像での画像信号を用いる場合について説明したが、周期的な画像信号であれば、画像を環状に走査して得られる画像信号など、任意の画像信号に対して本発明を有効に適用できることは言うまでもない。
【0074】
【発明の効果】
以上のように本発明では、場所の風景情報を音情報に正確に変換して、場所に応じた音を正しく出力できるので、目の不自由な人が場所及び方向(方位)を容易に認識できるようなシステムの構築に寄与できるなど、視覚障害者に対する社会的インフラの充実に大いに貢献できる。
【図面の簡単な説明】
【図1】本発明の音信号作成装置の構成を示す機能ブロック図である。
【図2】本発明での音による画像情報伝達の動作手順を示すフローチャートである。
【図3】全方位画像の一例を示す図である。
【図4】第1実施の形態における各種信号の波形図である。
【図5】第2実施の形態における各種信号の波形図である。
【図6】第3実施の形態における各種信号の波形図である。
【図7】全方位画像を取得する全方位撮像装置の構成図である。
【図8】第4実施の形態の一例を示す模式図である。
【図9】右耳用音信号と左耳用音信号とにおける時間差及び上限周波数の差を示す図である。
【図10】第5実施の形態の一例を示す模式図である。
【図11】発生する音の基本周波数を示すグラフである。
【図12】第5実施の形態の他の例における画像走査を示す図である。
【図13】本発明の応用例である場所通知器の構成を示す図である。
【図14】本発明の応用例である目の不自由な人を誘導する誘導システムを示す図である。
【符号の説明】
1 音信号作成装置
11 フーリエ変換部
12 信号処理部
13 逆フーリエ変換部
14 音信号生成部
20 時間差発生装置
30 全方位撮像装置
40 場所通知器
50 処理チップ
51 CPU
60 スピーカ
80 誘導装置
Claims (12)
- 撮影画像における画像信号を変換して音信号を作成し、作成した音信号に応じた音によって画像情報を伝達することを特徴とする画像情報伝達方法。
- 周期的な画像信号を変換して音信号を作成することを特徴とする音信号作成方法。
- 前記画像信号にフーリエ変換処理/逆フーリエ変換処理を順次施し、処理後の信号から音信号を作成することを特徴とする請求項2記載の音信号作成方法。
- 前記画像信号にフーリエ変換処理を施して得られる信号の所定周波数以上の成分を除去することを特徴とする請求項3記載の音信号作成方法。
- 前記画像信号にフーリエ変換処理を施して得られる信号の強度分布を変更することを特徴とする請求項3または4記載の音信号作成方法。
- 前記画像信号にフーリエ変換処理を施して得られる信号の位相を取り除く請求項3〜5の何れかに記載の音信号作成方法。
- 画像信号を取得する手段と、取得した画像信号を音信号に変換する変換手段とを備えることを特徴とする音信号作成装置。
- 前記画像信号は周期的な画像信号であることを特徴とする請求項7記載の音信号作成装置。
- 前記変換手段は、取得した画像信号にフーリエ変換処理を施す手段と、フーリエ変換処理後の信号に逆フーリエ変換処理を施す手段と、逆フーリエ変換処理後の信号から音信号を生成する手段とを有することを特徴とする請求項7または8記載の音信号作成装置。
- 全方位画像を取得する手段と、取得した全方位画像における画像信号を音信号に変換する手段と、変換した音信号に応じた音を発する手段とを備えることを特徴とする音発生装置。
- 全方位画像を音に変換する方法であって、前記画像の方位情報を音の方位情報に対応させて、前記全方位画像における画像信号から時間差を有する複数の音信号を生成することを特徴とする画像/音変換方法。
- パノラマ画像または全方位画像を音に変換する方法であって、前記パノラマ画像または全方位画像を走査して得られる複数の画像信号から、慨複数の画像信号夫々で基本周波数を異ならせて音信号を生成することを特徴とする画像/音変換方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002174914A JP2004020869A (ja) | 2002-06-14 | 2002-06-14 | 画像情報伝達方法,音信号作成方法,音信号作成装置,音発生装置及び画像/音変換方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002174914A JP2004020869A (ja) | 2002-06-14 | 2002-06-14 | 画像情報伝達方法,音信号作成方法,音信号作成装置,音発生装置及び画像/音変換方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004020869A true JP2004020869A (ja) | 2004-01-22 |
Family
ID=31173760
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002174914A Pending JP2004020869A (ja) | 2002-06-14 | 2002-06-14 | 画像情報伝達方法,音信号作成方法,音信号作成装置,音発生装置及び画像/音変換方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004020869A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006221374A (ja) * | 2005-02-09 | 2006-08-24 | National Institute Of Advanced Industrial & Technology | 多バンド・多時期・マルチスペクトル画像データ−音変換システム |
JP2011067479A (ja) * | 2009-09-28 | 2011-04-07 | Masahiro Kuroda | 画像聴覚化装置 |
US7973848B2 (en) | 2007-04-02 | 2011-07-05 | Samsung Electronics Co., Ltd. | Method and apparatus for providing composition information in digital image processing device |
JP2012170790A (ja) * | 2011-02-24 | 2012-09-10 | Universal Entertainment Corp | 遊技機 |
JP2013039480A (ja) * | 2012-11-29 | 2013-02-28 | Universal Entertainment Corp | 遊技機 |
JP2014110163A (ja) * | 2012-12-03 | 2014-06-12 | Hitachi High-Technologies Corp | 荷電粒子装置 |
-
2002
- 2002-06-14 JP JP2002174914A patent/JP2004020869A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006221374A (ja) * | 2005-02-09 | 2006-08-24 | National Institute Of Advanced Industrial & Technology | 多バンド・多時期・マルチスペクトル画像データ−音変換システム |
US7973848B2 (en) | 2007-04-02 | 2011-07-05 | Samsung Electronics Co., Ltd. | Method and apparatus for providing composition information in digital image processing device |
JP2011067479A (ja) * | 2009-09-28 | 2011-04-07 | Masahiro Kuroda | 画像聴覚化装置 |
JP2012170790A (ja) * | 2011-02-24 | 2012-09-10 | Universal Entertainment Corp | 遊技機 |
JP2013039480A (ja) * | 2012-11-29 | 2013-02-28 | Universal Entertainment Corp | 遊技機 |
JP2014110163A (ja) * | 2012-12-03 | 2014-06-12 | Hitachi High-Technologies Corp | 荷電粒子装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6904963B2 (ja) | 拡張現実システムにおいてオーディオを指向させるための技法 | |
CN107050774B (zh) | 一种基于动作采集的健身动作纠错系统及方法 | |
JP5685177B2 (ja) | 情報伝達システム | |
Cavaco et al. | Color sonification for the visually impaired | |
US11185445B2 (en) | Portable system that allows blind or visually impaired persons to interpret the surrounding environment by sound and touch | |
JP5564873B2 (ja) | 収音処理装置、収音処理方法、及びプログラム | |
US20130194402A1 (en) | Representing visual images by alternative senses | |
CN111862932B (zh) | 一种将图像转化为声音的可穿戴助盲系统及方法 | |
JP2004020869A (ja) | 画像情報伝達方法,音信号作成方法,音信号作成装置,音発生装置及び画像/音変換方法 | |
Cavaco et al. | From pixels to pitches: Unveiling the world of color for the blind | |
JP2022533755A (ja) | 空間オーディオをキャプチャする装置および関連する方法 | |
JP5071938B2 (ja) | 音源探査装置 | |
CN114594892B (zh) | 远程交互方法、远程交互设备以及计算机存储介质 | |
KR20070094207A (ko) | 영상을 소리로 변환하는 방법 및 장치 | |
JP5275496B1 (ja) | 画像聴覚化装置 | |
JP4891375B2 (ja) | 画像聴覚化装置 | |
RU2649422C2 (ru) | Способ преобразования изображения в звуковой образ | |
JP2004023180A (ja) | 音声伝送装置、音声伝送方法及びプログラム | |
WO2014208169A1 (ja) | 情報処理装置、制御方法、プログラム、および記憶媒体 | |
Mengucci et al. | From color to sound: Assessing the surrounding environment | |
WO2018088210A1 (ja) | 情報処理装置および方法、並びにプログラム | |
JP2007144111A5 (ja) | ||
JP2001084484A (ja) | 景色認識装置及び景色認識方法 | |
JP4657532B2 (ja) | 形状伝達装置 | |
Balakrishnan et al. | Stereo image to stereo sound methods for vision based ETA |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050516 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070828 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080108 |