JP4803147B2 - 撮像装置、画像生成方法、およびプログラム - Google Patents

撮像装置、画像生成方法、およびプログラム Download PDF

Info

Publication number
JP4803147B2
JP4803147B2 JP2007250950A JP2007250950A JP4803147B2 JP 4803147 B2 JP4803147 B2 JP 4803147B2 JP 2007250950 A JP2007250950 A JP 2007250950A JP 2007250950 A JP2007250950 A JP 2007250950A JP 4803147 B2 JP4803147 B2 JP 4803147B2
Authority
JP
Japan
Prior art keywords
image
character string
displayed
character
narrowing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007250950A
Other languages
English (en)
Other versions
JP2009081785A (ja
Inventor
明弘 塚本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2007250950A priority Critical patent/JP4803147B2/ja
Publication of JP2009081785A publication Critical patent/JP2009081785A/ja
Application granted granted Critical
Publication of JP4803147B2 publication Critical patent/JP4803147B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、デジタルカメラ等の撮像装置を用いて撮影時に画像に文字列を関連付けて表示させる技術に関し、特に画像ブログ(Weblog)を生成する画像ブログ生成技術に関する。
ウエブサイトに手記風の電子日記(ブログ)を書き込んで公開するユーザがいる。ブログはパソコンで作成した文章と説明用の画像を合成して作成する場合が多いが、携帯電話などの撮像装置で撮影した画像とキー入力した電子メールデータを電子絵日記作成装置に送信し、電子絵日記作成装置でブログデータを生成し、データベースに格納しておき、閲覧要求があると生成したブログデータを要求元装置に送信するように構成したものもある(例えば、特許文献1参照)。
また、受信した音声データを文字データに変換し、同時に受信した画像の口元に文字列を表示する画像表示装置がある(例えば、特許文献2参照)。
特開2003−17339号公報 特許第3711418号
しかしながら、上記特許文献1に開示の技術ではブログは書き手の体験や主張を表記した文章を主体とし撮影済み画像を説明用に取り込んで構成したものや、撮影者が、撮影済みの画像とその画像の撮影場所や日時、その日の思い出等を撮影後に編集して日記風に文字、または文字と画像で構成したものであって、撮影時に、注目画像(人物や動物等の被写体(人物以外の場合は、注目画像を擬人的にみて撮影者が被写体と同化した場合の))の感想や面白い発言をその注目画像と関連付けて表示しているものではないので、被写体側に立った言語的表現を読み手に直接的表現で伝えることができないといった課題があった。
また、撮影者が撮影時の様子や被写体の姿勢等から被写体に撮影者が役を割り当てて画像に面白みを付けたりしてブログそのものの表現を豊富化するといったことができなかった。
また、上述した特許文献2に開示の技術によれば、被写体人物の発言を被写体画像の口元に文字列風に文字表示できるので、被写体人物の主張や気持ちを可視的に伝えることができるが、撮影者が撮影時の様子や被写体の姿勢等から被写体に役を割り当てて画像に面白みを付けたりして画像表現を豊富化するといったことができなかった。
本発明は、撮影した画像を編集してブログを作成するのではなく、撮影時にスルー表示されるカメラ視野内の被写体を選ぶ(つまり注目画像を指定する)ことにより、選択された画像に文字列を関連付けて表示してなる画像ブログを作成し得る撮像装置、画像生成方法、およびプログラムの提供を目的とする。
上記課題を解決するために、請求項1に記載の発明の撮像装置は、被写体像を取り込んで画像データに変換し、撮影待機時に被写体画像をスルー表示する撮像系を備えた撮像装置において、文字列を所定の分類基準により分類し、分類した各文字列を検索可能に記録した文字列データベースと、撮像系によってスルー表示される画像のうちから文字列を関連付けて表示する注目画像を指定するための注目画像指定手段と、文字列データベースから注目画像指定作手段によって指定された注目画像に関連付けて表示するための文字列を取得する文字列取得手段と、文字列取得手段によって取得された複数の文字列の中から注目画像に関連付けて表示する文字列を絞り込むための文字列絞込み手段と、
文字列絞込み手段によって絞り込まれた文字列と注目画像とを視覚的に関連付けて表示する表示制御手段と、文字列絞込み手段によって絞り込まれた文字列と注目画像とを視覚的に関連付けて表示できるように合成してメモリに記録する画像ブログ記録制御手段と、を備えたことを特徴とする。
また、請求項2の発明は請求項1に記載の発明の撮像装置において、分類基準は、画像の属性を分類基準として含み、属性ごとに画像の特定部分のパターンを複数登録した画像データベースと、注目画像から前記画像データベースに登録されている画像パターンに応じた部分を抽出し、画像データベースに登録されている画像パターンと比較して画像の属性を取得する画像認識処理手段を備え、文字列取得手段は、画像認識処理手段によって取得された注目画像の属性を基に該注目画像に関連付けて表示するための文字列を取得する文字列自動取得手段を含むことを特徴とする。
また、請求項3の発明は請求項1または請求項2に記載の発明の撮像装置において、文字列取得手段は、分類基準に属する各分類の名称を順次表示する分類名表示手段と、分類名表示手段によって表示された分類名の中から所望の分類を選択するための分類選択手段を含み、この分類選択手段によって選択された分類に基づいて注目画像に関連付けて表示するための文字列を取得することを特徴とする。
また、請求項4の発明は請求項1に記載の発明の撮像装置において、文字列絞込み手段は、文字列取得手段によって取得された複数の文字列の中から注目画像に関連付けて表示する文字列を絞り込む絞込み手段を含むことを特徴とする。
また、請求項5の発明は請求項1に記載の発明の撮像装置において、音声入力装置と音声入力装置から入力した音声信号を文字に変換する音声/文字変換手段を備え、文字列絞込み手段は、音声/文字変換手段によって変換された文字を基に文字列取得手段によって取得された複数の文字列の中から注目画像に関連付けて表示する文字列を絞り込む音声絞込み手段を含むことを特徴とする。
また、請求項6の発明は請求項1に記載の発明の撮像装置において、文字を入力するためのキー入力手段を備え、文字列絞込み手段は、キー入力手段によって入力された文字を基に文字列取得手段によって取得された複数の文字列の中から注目画像に関連付けて表示する文字列を絞り込む絞込み手段を含むことを特徴とする。
また、請求項7の発明は請求項1に記載の発明の撮像装置において、更に、画像送信指示を検出すると、前記文字列と前記注目画像とを視覚的に関連付けて表示するように合成した画像をインターネット上のウエブサイトに送信する画像送信制御手段を備えたことを特徴とする。
また、請求項8に記載の画像ブログ生成方法は、被写体像を取り込んで画像データに変換し、撮影待機時に被写体画像をスルー表示する撮像系を備えた撮像装置において、撮像系によってスルー表示される画像のうちから文字列を関連付けて表示する注目画像を指定する画像指定ステップと、この画像指定ステップで指定された注目画像に関連付けて表示するための文字列を、所定の分類基準により分類された各文字列を記録した文字列データベースから取得する文字列取得ステップと、この文字列取得ステップで取得した複数の文字列の中から注目画像に関連付けて表示する文字列を絞り込む絞込みステップと、この絞込みステップによって絞り込まれた文字列と注目画像とを視覚的に関連付けて表示する表示ステップとからなり、絞り込まれた文字列と注目画像とを視覚的に関連付けて表示できるように合成してメモリに記録することを特徴とする。
また、請求項9に記載の画像ブログ生成プログラムは、コンピュータを制御するためのプログラムであって、コンピュータを、被写体像を取り込んで画像データに変換し、撮影待機時に被写体画像をスルー表示するスルー表示手段、撮像系によってスルー表示される画像のうちから文字列を関連付けて表示する注目画像として指定された注目画像に関連付けて表示するための文字列を、所定の分類基準により分類された各文字列を記録した文字列データベースから取得する文字列取得手段、この文字列取得ステップで取得した複数の文字列の中から注目画像に関連付けて表示する文字列を絞り込む絞込み手段、この絞込み手段によって絞り込まれた文字列と注目画像とを視覚的に関連付けて表示する表示手段、絞り込まれた文字列と注目画像とを視覚的に関連付けて表示できるように合成してメモリに記録する画像ブログ生成手段、として機能させる。
本発明によれば、撮影過程(スルー画像表示時)に、撮影者が指定した被写体(注目画像)に対しその属性や振る舞い等に応じた文字を対応付けて撮影することができるので、注目した被写体に対応したバラエティに富んだ画像を生成することができる。
また、撮影者は、スルー画像表示時に注目画像の属性や振る舞いに応じた文字を簡単に対応付けることができるので、撮影時の状況とは無関係にユーザが被写体や背景に役割を与えて小さな劇場世界をモニタ上に作り出してスルー画像をみながら楽しむことができる。
また、本発明を携帯電話等、通信機能を備えた装置に適用すれば、被写体に文字を対応付けて撮影したあと、携帯電話の無線送信機能を用いてインターネットに接続し、生成された絵日記風の画像を簡単にウエブサイトにアップロードできる。
本発明の撮像装置は、撮影時にスルー表示されるカメラ視野内の被写体(注目画像)を選ぶと、撮影環境や注目画像の動作や表情等の状態に応じた文字列を出力し、注目画像とその文字列を関連付けて表示してなる画像ブログを生成する。なお画像ブログという文言は説明が分かりやすいように使用しているものであって、格別限定するものではなく、画像日記、画像物語、ストーリー創作などの文言をあてはめてもよい。ブログとは本来ウエブ上のURLとともに日記や論評などを記録するものであり、本実施の形態の撮像装置ではカメラ内で完結してブログが作成できるので、この発明で使用するブログの意味は狭義のブログとは多少異なる。
本発明において属性とは、人物、動物、植物、生物、年齢層山、川、建造物等ある概念で分類できる分類区分のことを意味する。注目画像を決定したとき、その画像がどの属性に属するかを識別することができる。この属性は細かく設定しても良いし、大ざっぱに設定しても良い。
また、本発明は、撮像機能を備えた機器、例えば、デジタルカメラやカメラ付き携帯電話、カメラ付き携帯情報機器(PDA(Personal Digital Assistant))などに適用できる。以下、図面を参照して本発明の実施形態について説明する。
<実施形態1>
図1は、本発明の実施形態に係わる撮像装置の一実施例として用いるデジタルカメラ100の電子回路の構成例を示すブロック図である。
デジタルカメラ100は、制御部10、撮像部11、画像データ処理部12、画像認識処理部13、画像データベース14、プログラム格納メモリ15、一時記憶メモリ16、画像表示部17、画像記録部18、文字列データベース20、外部入出力部40、操作部60を備えており、本発明に基づく画像ブログ生成モード(機能)を含む静止画撮影モードおよび動画撮影モード、および公知のオートフォーカス機能等を備えている。また、撮像部11および画像データ処理部12は本発明の撮像系を構成する。制御部10は画像データ処理部12、画像認識処理部13を兼ねてもよい。
制御部10は、デジタルカメラ100全体の制御動作を司るものであり、CPU若しくはMPU(以下、CPU)と、該CPUで実行される動作プログラム等を記憶したフラッシュメモリ等のプログラム格納メモリ、及びワークメモリとして使用されるRAM等により構成されている。また、制御部10は画像データ処理部12からの画像データ(輝度及び色差信号)のDRAM等の一時記憶メモリ16へのDMA転送終了後に、この輝度及び色差信号を一時記憶メモリ16から読出し、画像表示部17の表示用バッファ171に書き込むよう制御する。また、送信指示があると通信制御プログラムの制御により外部入出力部40を介してインターネットと接続し、撮影画像や画像ブログをウエブサイトにアップロードすることができる。
撮像部11は、撮影レンズのほか、基本モードである撮影モードにおいてズームレンズを移動させて光学ズーム動作を行わせるズーム駆動部やフォーカスレンズを移動させて合焦動作を行わせるAF駆動部等を含むレンズ駆動系(図示せず)と、撮像素子、信号変換部、撮像タイミング制御部や撮影補助光源等を含む撮像信号系(図示せず)を有しており、撮像レンズを経由し、撮像レンズの撮像光軸後方に配置された撮像素子に入射した被写体光像は撮像素子によって光電変換され撮像信号(アナログ)として出力される。撮像素子の出力信号は信号変換部で相関二重サンプリングおよびゲイン調整され、A/D変換によりデジタル信号に変換される。A/D変換された撮像信号は所定の周期で画像データ処理部12に送られる。撮像素子は、被写体の二次元画像を撮像するCMOS(Complementary Metal Oxide Semiconductor)などの固体撮像デバイスであり、典型的には毎秒数十フレームの画像を撮像する。なお、撮像素子はCMOSに限定されない。
画像データ処理部12は、撮像部11から出力されたデジタル信号(画像データ)に対して画像補間処理及びγ補正処理を含むカラープロセス処理を行ってデジタル値の輝度信号Y及び色差信号Cb、Crを生成し、DRAM等の一時記憶メモリ16にバス90を介してDMA転送する。
画像認識処理部13は、画像ブログ生成モード時に、一時記憶メモリ16に記憶されている1フレーム分の画像データの中から注目画像として指定された画像の特定部分領域(例えば、注目画像が人物や動物の場合は顔画像領域)から画像(特定部分)を抽出しバス90を介して制御部10に送出する。また、抽出した特定部分とスルー表示される画像の特定領域内の画像を比較して類似判定によりスルー表示される画像のなかから注目画像を特定する。更に、抽出した特定部分と画像データベースの画像パターンを比較して注目画像の属性や感情を判別する。
人物等の顔画像領域の抽出処理は、公知の技術(例えば、特開平2004−145563号公報に記載の技術)を適宜用いることができる。なお、この特定部分の認識処理のために専用の回路を設けてもよいし、プログラム格納メモリ15等のメモリに画像認識処理のための画像認識処理プログラムを格納しておき、制御部10で画像認識処理プログラムを実行させるようにしてもよい。
画像データベース14には画像の属性ごとにいくつかの画像パターンが登録されており、画像認識処理部13による注目画像の属性および感情判定の際に参照される。画像データベース14の構成例等については後述する(図3の説明参照)。
プログラム格納メモリ15は、本発明に基づく画像ブログ生成プログラムや、撮像制御プログラム、画像処理プログラム、通信制御プログラム等の各種プログラムを格納し、処理段階に応じて呼び出され制御部10によって実行される。プログラム格納メモリ15に格納されるプログラムの機能等については後述する(図2の説明参照)。また、上述した画像認識処理部33を設けることなくプログラム格納メモリ15に画像認識処理のための画像認識処理プログラムを格納するようにしてもよい。
一時記憶メモリ16はDRAM等のメモリで構成され、画像データ処理部12から取得する画像データを一時記憶するバッファメモリや、画像認識処理部13による注目画像の顔画像抽出処理用のワークメモリや、本発明の画像ブログ生成方法に基づく画像ブログ生成用のワークメモリ等、各種プログラムによるデータ処理に必要なワークメモリとして用いられる。
画像ブログ生成モードにおいて、一時記憶メモリ16には、画像ブログ生成時に用いられる部分領域として、画像認識処理部13による認識処理の際、注目画像から抽出された特定部分(たとえば、人物や動物の場合、顔)の特徴データを保持する特徴データ保持領域161および注目画像に関連付けて合成する文字列を保持しておく文字列保持領域162がそれぞれ複数個確保される。また、取得した季節(季節コード)を保持しておく季節データ保持領域163も確保される。
画像表示部17はVRAM等の表示バッファメモリ171や、表示制御部172及び液晶モニタ173を有し、制御部10の制御下で表示用バッファメモリ171に書き込まれた上記輝度及び色差信号を表示制御部172を介して定期的に読み出し、これらのデータを基にビデオ信号を生成して液晶モニタ173に出力する。
画像記録部18は、画像データの圧縮または伸張を行うデータ圧縮伸張部、DRAM等のバッファメモリから転送されるデータの記録媒体19への書き込みや記録媒体19からの読み出しを行うコントローラ(図示せず)から構成されている。
記録媒体19は内蔵メモリ(フラッシュメモリ)や光ディスク、あるいは着脱可能なメモリーカード等の書き換え可能な記録媒体からなり画像記録部18によって書き込まれた撮影画像データや、生成された画像ブログや、データ撮像情報等を保存記録する。また、文字列データベース20を記録媒体19に予め格納しておくようにしてもよい。
文字列データベース20は、注目画像に関連付けて表示する文字列を所定の分類区分(被写体の属性や感情、撮影環境(季節、気候、撮影場所等)や、相手方や、言葉の種類等)に基づいて簡易に検索可能に構成されており、文字列データベース20に格納されている文字列は撮影時に、撮影環境や被写体の属性によって自動的に注目画像に関連付けられて表示される。文字列は、また、キー操作(実施例ではカーソル操作)等により絞り込まれ、注目画像に視覚的に関連付けて表示することもできる。文字列データベース20の構成例等については後述する(図4の説明参照)。
外部入出力部40は、デジタルカメラ100とUSBケーブル等の接続手段やインターネット等の通信ネットワークによりデジタルカメラ100に接続する外部装置との間で画像データやプログラム等を入出力する際の入出力インターフェィス等からなる。
操作部60は、モードダイアル61、カーソルキー62、SETキー63、シャッターキー65、メニューキー66、および電源ボタン69等のキーと、それらのキーが操作されると操作されたキーの操作信号を生成して制御部10に送出するキー処理部(図示せず)等から構成されている。
モードダイアル61は撮影モードや再生モードの選択を行うものである。ユーザはモードダイアル61を操作して、各種撮影モードのほか本発明に基づく画像ブログ生成モードを選択することができる。画像ブログ生成モードは静止画撮影モードまたは動画撮影モード下で表示される処理選択メニューで選択できる。なお、モードダイアル61で画像ブログ生成モードを選択できるように構成してもよい。
カーソルキー62はモード設定やメニュー選択等に際して液晶モニタ173に表示されるメニューやアイコン等をカーソルでポイント(指定)する際に操作するキーであり、カーソルキー62の操作によりカーソルを上下又は左右に移動させることができる。
SETキー63はカーソルキー62によってカーソル表示されている項目を選択設定する際に押されるキーである。また、画像ブログ生成モード時には液晶モニタ173の中央部分(フォーカス領域)にある画像をプログ対象の画像(注目画像)として指定する注目画像指定キーとして機能させることもできる。また、カーソルキー62およびSETキー63は本実施形態において、注目画像やブログ用文字列の絞込み操作手段として用いることができる。
シャッターキー65は、撮像時にレリーズ操作を行うもので、2段階のストロークを有しており、1段目の操作(半押し状態)でオートフォーカス(AF)と自動露出(AE)を行わせるための合焦指示信号を発生し、2段目の操作(全押し状態)で撮像処理を行うための撮像指示信号を発生する。なお、画像ブログ生成モード下では2段目の操作(全押し状態)があると、撮影処理が行われ、注目画像と文字列が関連付けられて記録媒体に記録される。
また、画像ブログ生成モード時には、上述したSETキー63に代えて、液晶モニタ173の中央部分(フォーカス領域)にある画像をプログ対象の画像(注目画像)として指定する注目画像指定キーとして機能させるようにしてもよい。
メニューキー66は、その時点で処理可能な選択メニューやアイコンを表示する場合に操作されるキーである。
図2はプログラム格納メモリ15に格納されているプログラムの例を示す図であり、図示の例ではプログラム格納メモリ15には、撮像制御プログラム151、画像処理プログラム152、通信制御プログラム153、および本発明に基づく画像ブログ生成プログラム154等が格納されている。また、画像認識処理部13として専用の回路を設けない場合は、プログラム格納メモリ15に画像認識処理のための画像認識処理プログラム155を格納するようにしてもよい。通信制御プログラムはインターネットとの接続制御プログラムを含んでいる。
なお、プログラムを格納するメモリはプログラム格納メモリ15に限定されない。プログラムはその構成や使用目的に応じてプログラム格納メモリ15以外のメモリ(例えば、記録媒体19)に格納される。また、プログラムはその構成や使用目的に応じて外部入出力部40を介してダウンロードして実行することもできる。
撮像制御プログラム151は、いくつかのサブプログラムからなり、制御部10がレンズ駆動系や撮像信号系の動作制御や各種プログラムの実行タイミングの制御等を行うように機能する。画像処理プログラム152は、いくつかのサブプログラムからなり、画像データ処理部12の動作制御や画像表示時の画像処理、画像記録/読み出し時の画像圧縮/伸張処理等を行うように機能する。通信制御プログラム153は、いくつかのサブプログラムからなり、外部入出力部40によるデジタルカメラ100と外部装置との間での画像データやプログラム等の送受信を制御するように機能する。また、本発明により生成された画像ブログをインターネット上のサイトに送信するよう機能することもできる。
画像ブログ生成プログラム154は、撮影時にスルー表示されるカメラ視野内の被写体(注目画像)を選ぶと、注目画像の属性や撮影環境や注目画像の動作等に応じた文字列を出力し、注目画像とその文字列を視覚的に関連付けて表示してなる画像ブログを生成する。画像ブログ生成プログラム154の動作例を図5のフローチャートに示す。
図3は注目画像の属性等の判定に用いる画像データベースの構成例を示す図である。画像データベース14は図示のように画像の種類ごとに階層的に分類され、それぞれについていくつかの画像パターンが登録されている。
図示の例では第一分類(属性)として画像の種類(人物、動物、昆虫、魚、鳥、風景、建造物、・・)に分類され、第2分類として種類ごとに分類((人物の場合は、例えば、高齢者、中年、青年、少年、幼児、乳幼児)、(動物の場合は、動物の種類および成獣、幼獣の別)、(昆虫の場合は、昆虫の種類および成虫、幼虫の別、・・、(風景の場合は、山、川、海、といった種類別)・・)され、最終的に分類された要素ごとにいくつかの画像パターンA1、A2、・・・、A10、・・・、D1、D2、・・D20、・・・が登録されている。また、各画像パターンA1、A2、・・・、A10、・・・、D1、D2、・・D20、・・・の多くは、正面パターン、左右側面パターン、俯瞰パターン、鳥瞰パターン別に登録されている。更に、画像が人物若しくは動物の場合は感情別にコード付けされて登録されている。なお、図示の例では分類の階層を2としたがこれに限定されない。
また、図示していないが、各分類階層ごとにコード付けなされている。これにより、画像認識部13で注目画像と画像パターンD2との類似度が最も高いときこの注目画像は少年(人物)であると判定される。人物の分類コードを「01」少年の分類コードを「04」画像パターンD2と判定された注目画像のコードは「010401」となる。また、少年「喜び」の表情を示しているとし、「喜び」の分類コードを「01」とすると、分類コードは「010401」となり、「後述する文字列データベースの注目画像の「属性」+「感情」のコード「010401」(喜んでいる少年、(人物))と対応する。
これらの属性のよる分類、画像パターンの登録と認識の技術は、基本的には顔認識の技術と同じものである。属性としてAさん、Bさん、・・・を分類・認識してもよい。画像の種類として人物個人の識別を行うか、人か動物かを識別するか、年代を識別するか、動植物の種類を識別するか、表情を識別するか・・・の違いである。
(文字列データベース)
注目画像と関連付けて表示する言葉(文字列)は、(1)撮影者が事実を述べる場合と、(2)撮影者の意図に応じて注目画像の台詞を変える場合によって異なり、(3)指定した被写体の年齢層(高齢者、中年、青年、学生、高校生、中学生、小学生、幼児、乳幼児)に応じて言葉使い、(4)職業、(5)シチュエーション(仕事中、家庭内、友人と一緒、飲み屋、・・)、(6)話しかける相手(被写体が一人の場合はカメラ外の相手の属性)、(7)若しくは複数の画像間で会話している構成では対話相手の属性や感情)によって異なる。
また、自動設定可能要素として、季節、時間、天候、イベントなどによりよく用いられる言葉(文字列)がある。
さらに、上記各言葉について標準語、方言(秋田弁、青森弁、山形弁、名古屋弁、大阪弁、京都弁、広島弁、博多弁、長崎弁、鹿児島弁、琉球弁)等の別で表現したい場合もある。
文字列データベースは、このような、被写体の属性や対話相手との関係や、職業や、シチュエーション、標準語・方言の別、自動設定可能要素等を考慮してインデックスで検索可能に関係付けられた語句(文字列)の集まりで構成されている。
図4は文字列データベース20の構成例を示す図である。文字列データベース20は、注目画像に関連付けて表示する文字列を所定の分類区分に基づいて簡易に検索可能に構成されている。なお、本実施形態では注目画像の分類基準(および分類コード)は画像データベース14の分類基準(および分類コード)と一致(若しくは対応)するように構成することが望ましい。
文字列データベース20の分類基準として、図示の例では、画像の属性21、感情22、季節23、相手24、言葉の種類25が示されている。属性21は、注目画像が人物の場合は、「年齢層((老人、中年、・・・乳幼児))別、動物や昆虫、魚、鳥、植物の場合は「成獣(虫、魚、鳥、木(花))、幼獣(虫、魚、鳥、木(全体))、その他」の別、風景の場合は「明暗、新鮮、荒廃、その他」の別、に分類されている。
感情22は、注目画像が人物または動物の場合に各属性に対応付けられた、「喜び」、「悲しみ」、「怒り」、「恐怖」、「好感」、「嫌悪」等の感情を表す言葉(文字列)からなる。
季節22は、デジタルカメラ100のカレンダー機能を基にして暦に従って自動的に決定できる春夏秋冬の別が属性ごとに示されている。なお、季節の分類として春夏秋冬とは別に季節行事(暦に従った行事、例えば、正月、節句、お彼岸、お盆、大晦日、クリスマスイブ等)用の言葉辞書を文字列データベース20のサブ辞書として設けるようにしてもよい。
相手24としては、季節別に、注目画像(撮影者による注目画像への言葉)、撮影者(注目画像による撮影者への言葉)、注目画像同士に分類されている。
言葉の種類25としては、例えば、相手別に、「おはよう」、「今日は」等の挨拶言葉25−1、「綺麗」、「汚い」等の美的表現25−2、「旨い」、「不味い」等の嗜好表現25−3、「早い」「遅い」、「すぐ行く」等の行動表現25−4、「大きい」、「小さい」、「重い」「長い」等の尺度的表現25−5、「〜してよ」といった依頼言葉25−6、「おーい」といった呼びかけや、「オギャー」、ワンワン」、「コケコッコー」といった鳴き声25−7、「ヨシヨシ」といったあやし言葉等を一括したその他25−8として分類することができる。
なお、図示していないが、注目画像の属性に係わりなく撮影者が記入する説明文辞書や、慣用句辞書や、「人、動物、植物の名前や物の名称、地名」等の名称辞書や、「ガガーン」「ズドーン」、「ドシーン」、「ブー」といったような擬音辞書や、類似語や同義語を登録した類似語・同義語辞書や、方言を登録した方言辞書を文字列データベース20のサブ辞書として設けることが望ましい。
(画像ブログ生成方法)
図5は、画像ブログ生成時の制御部10の制御動作例を示すフローチャートであり、画像ブログ生成プログラムによる制御動作に相当する。以下、本実施形態に係わる画像ブログ生成時の動作について図5と、図1、図3、および図4を基に説明する。
画像ブログ生成モードが選択されると、注目画像カウンタJの値を1に設定し(ステップS1)、スルー画像の表示を開始する(ステップS2)。
次に、注目画像指定操作(例えば、SETキー63の押し下げ操作)を検出するとステップS4に進み、そうでない場合はステップS2に戻る(ステップS3)。
次に、合焦領域(カメラ中央に示される矩形領域)に表示されている画像を注目画像として画像認識処理部13に注目画像の特定部分(人物、動物の場合は顔部分)について画像認識処理を行わせ、画像認識処理部13によって抽出された特定部分の特徴を一時記憶メモリ16に確保されている特徴データ保持領域161のうちJ番目の領域に保持(記憶)する(ステップS4)。
注目画像に関連付けて表示する文字列の種類を選択するための文字列種類自動表示処理を実行する。文字列種類自動表示に係わる動作例を図6のフローチャートに示す(ステップS5)。
ユーザは、上記ステップS5の文字列種類自動表示処理により表示された文字列から所望の文字列を得るためにカーソルキー62を操作して、文字列選択や連想検索等による文字列絞込み処理により所望の文字列を選択し、所望の文字が確定すると確定キー(本実施形態では、SETキー63)を押すので、制御部10は、確定キーの押し下げを検出すると、その文字列を注目画像に関連付けるべき言葉として、一時記憶メモリ16の特徴データ保持領域161のうちJ番目の領域に確保されている特徴データと対応付けて文字列保持領域162のうちJ番目の領域に保持(記憶)する(ステップS6)。
次に、上記ステップで絞り込んだ文字列(表示文字列)と注目画像を視覚的に関連付けて液晶モニタ173に表示する(図9、図10参照)(ステップS7)。
次の注目画像指定操作(例えば、SETキー63の押し下げ操作)の有無を調べ、注目画像指定操作を検出するとステップS9に進み、そうでない場合はステップS14に進む(ステップS8)。
注目画像指定操作を検出すると、合焦領域(カメラ中央に示される矩形領域)にある画像を注目画像として画像認識処理部13に特定部分(人物、動物の場合は顔部分)について画像認識処理を行わせ、画像認識処理部13によって抽出された特定部分の特徴を一時記憶メモリ16の特徴データ保持領域161のうちJ番目の領域に確保されている特徴データと比較し(ステップS9)、類似度が所定の閾値を超えた場合はステップS11に進み、所定の閾値以下の場合はステップS13に進む(ステップS10)。
類似度が所定の閾値を超えた場合は、指定された注目画像がすでに指定済みの注目画像の被写体と同一被写体と判定して抽出された特定部分の特徴を一時記憶メモリ16の特徴データ保持領域161のうちJ番目の領域に確保されている特徴データに上書きする(ステップS11)。
次に、液晶モニタ173の所定領域にその注目被写体に関連付けられている言葉(文字列)を変更するか否かの選択メニューを表示して撮影者の選択を促し、撮影者が「変更」を選択するとステップS5(図6のステップS5−2)に戻る。「変更」を選択しない場合はS13に進む(ステップS12)。
注目画像カウンタJの値に1を加えてステップS2に戻る。これにより、新たな注目画像に文字列を関連付けるための処理を開始できる(ステップS13)。
シャッターキー65が操作されたか否かを調べ、シャッターキー65の操作がされていない場合はステップS2に戻る(ステップS14)。
シャッターキー65が半押し操作されるとオートフォーカス処理を行なう。オートフォーカス終了後、シャッターキー65が全押し操作されると撮影処理を実行し、撮影された画像の各注目画像に一時記憶メモリ16の文字列保持領域162に保持(記憶)されている文字列を視覚的に関連付けることができるように合成(たとえば、文字列を画像に上書き合成)し、記録部18を制御して記録媒体に記録させて1枚分の画像の撮影を終了する(ステップS15)。
制御部10は、画像ブログ送信指示があると通信制御プログラムの制御により外部入出力部50を介してインターネットと接続を試み、接続が成立すると、合成された画像ブログを外部入出力部50を介してインターネット上のウエブサイト(ホームページ)にアップロード(送信)する。なお、ウエブサイトのURLは(図示しない設定画面において)予め設定済みであるものとする(ステップS15)。
上記図5のフローチャートに示した動作により、デジタルカメラ100はスルー表示時に撮影者が注目画像として指定した被写体画像に言葉(文字列)を視覚的に関連付けた画像ブログを生成し、簡単にインターネット上のウエブサイトにアップロードすることができる。また、ステップS7以下の動作により、複数の注目画像を指定し、それぞれ言葉(文字列)を視覚的に関連付けることもできる。
なお、図5に示したフローチャートでは、注目画像指定操作手段としてSETキー63を用い、SETキー63が押されたときにステップS2およびステップS7でカメラの合焦領域にある画像を注目画像とするように構成したが、注目画像指定操作手段はSETキー63に限定されない。例えば、シャッターキー65を注目画像指定操作手段として用いるようにしてもよい。
また、カメラの合焦領域にある画像を注目画像とするのではなく、カーソルキー62によってカーソルを画面中の所望の画像部分に移動させ、SETキー63等の注目画像指定操作手段の操作があるとカーソルが位置している部分画像を注目被写体とするようにしてもよい。
図5に示したフローチャートでは注目画像に関連付ける文字列の表示位置を所定の位置としたが、文字列の表示位置としては、注目画像の頭上、足元、口元、文字表示領域内(画面上で画像表示領域と文字表示領域を別にした場合)がある。
図6は、図5のフローチャートのステップS5の文字列種類自動表示処理時の動作例を示すフローチャートである。
制御部10は、図5のステップS4での画像認識処理部13の認識結果から得られる注目画像の属性(属性コード+感情表現コード(人物、動物の以外の場合は「00」)と、現在日時とデジタルカメラ100のカレンダー機能から季節(季節コード)を取得して一時記憶メモリ16の季節データ保持領域163に保持する(ステップS5−1)。
次に、液晶モニタ173の所定の位置に、相手23(注目画像、撮影者、注目画像同士)を選択するための表示(図示せず)を行いカーソルを位置づけて撮影者に相手先の選択を促し、相手先が選択されるとステップS5−3に進む(ステップS5−2)。
次に、液晶モニタ173の所定の位置に言葉の種類(挨拶、嗜好的表現、行動表現、尺度表現、依頼言葉、その他)を選択させるための表示(図7参照)を行いカーソルを位置づけて撮影者に言葉の種類の選択を促し、言葉の種類が選択されるとステップS5−4に進む(ステップS5−3)。
制御部10は、ステップS5−1で取得した注目画像の属性、感情及び季節と、ステップS5−2、S5−3で選択された相手先および言葉の種類をキーとして文字列データベース20を検索し、検索された言葉の種類に属する文字列(一個または複数個)を表示する(ステップS5−4)。
図7は、文字の種類を選択するための種類選択メニューの表示例を示す図であり、液晶モニタ173の画面の下部には図6のフローチャートのステップS5−3で言葉の種類(挨拶、嗜好的表現、行動表現、尺度表現、依頼言葉、その他)を選択するために文字表示される。撮影者はカーソル62を操作して所望の選択メニューを指定し、SETキー63を押すことにより、注目画像に関連付けて表示する言葉(文字列)の種類を確定することができる。
(文字選択による文字列絞込みおよび文字列変更)
上記図6のフローチャートのステップS5−4で撮影者が選択した言葉の種類に属する文字列を文字列データベース20から取得するが、取得した文字列は、通常、複数あるので図5のフローチャートのステップS5で複数の文字列の中から所望の文字列を迅速に取得するための絞込みを行っている。文字列の絞り込みは公知の絞込み方法を用いることができるが、効率的な絞込みを行うために同音語句または同義語句(同じ意未を持つ語句)の中から選択可能に表示して所望の文字列を絞り込むといった連想的な絞込みを行うことが望ましい。
また、文字列データベース20には膨大な数の文字列が登録されているが、登録されている文字列では言葉として十分な表現ができない場合がある。このような場合に、絞り込まれた文字列の前後に文字を付加したり、文字列データベース20に未登録の表現がある場合には撮影者による文字列ができることが望ましい。
以下、文字選択による文字列絞込みおよび文字列変更時の撮影者のキー操作、制御部10の動作例および文字列表示例について図8〜図10を基に説明する。
図8は、文字列絞込みの説明図であり、液晶モニタ173の画面の下部には図6のフローチャートのステップS5−4で文字列データベース20から取得した文字列71,72、・・75とスクロール指示欄76、連想検索指示欄77、方言指定欄78、五十音による検索指示欄79が表示されている。
表示されている文字列71,72、・・75は撮影者がカーソル62でスクロール欄76を指定すると順方向または逆順方向にスクロールし、指定された言葉の種類の範囲内で文字列データベース20から取得した文字列を順次表示する。
また、表示されている文字列71,72、・・75のうちある文字列(例えば、文字列72をカーソル62で指定したあと、連想検索指示欄77を指定すると、その文字列の類似語または同義語からなる連想辞書から取得され表示されるので、この連想検索により連想的に文字列の検索ができ、撮影者はカーソル62の操作により所望の文字列を選択することができる。
表示されている文字列71,72、・・75のうちある文字列を選択した後、方言指定欄78を指定すると、「秋田弁、山形弁、名古屋弁、・・」といったように方言の種類が順次スクロール表示されるので所望の方言の種類を選択すると、選択した文字列が方言辞書により対応の方言に変換される。
五十音による検索指示欄79をカーソル62で指定すると、五十音が一文字ずつ検索指示欄79内に表示されるので、SETキー63を押して五十音検索用の一文字を指定できる。そこで、表示されている文字列71,72、・・、75をスクロールする手間を省きたいような場合には、五十音による検索指示欄79で先頭文字を選択すると、五十音のうちの一文字(例えば、言葉の種類が美的表現の場合「う」)を選択すると、先頭文字が選択された文字と一致する文字列(例えば、「美しい、美しいですね、美しいわ、麗しい、・・」)が表示されるので撮影者はカーソル62の操作により所望の文字列を選択することができる。
また、さらに先頭から2番目の文字として五十音のうちの一文字を選択し、先頭文字によって表示された文字列の中から先頭から2番目の文字が選択された文字と一致する文字列を表示するようにして文字列を絞り込むこともできる。
文字列を選択したが表現がしっくりしない場合や、文字列データベース20に登録されていない言葉を注目画像に関連付けて表示したい場合には、五十音による検索指示欄79で選択した文字を選択済みの文字列に追加したり、選択済みの文字列の一部を置換して変更することもできる。また、選択済みの文字列の一部を削除することもできる。
図9は注目画像に対応付けて表示された文字列の一実施例を示す図であり、文字列93−1、94−1を注目画像91、92の下方に(図9(a))、文字列93−2,94−2を夕目画像91、92の下方に表示(図9(b))した例を示す。このように、注目画像が複数の場合でも文字列を注目画像に視覚的に関連付けて表示できることができる。
図10は注目画像に対応付けて表示された吹き出しの一実施例を示す図であり、文字列97を注目画像96の口元から吹き出る吹き出し枠98内に表示した例である。なお、図10の例では文字列の表示位置を注目画像の口元(注目画像が風景や建造物の場合は近傍)とし、吹き出し枠内に表示するようにしたがこれに限定されない。口元に吹き出し枠を表示し、吹き出し枠内に文字列を表示するには公知の技術(例えば、特許文献2(特許第3711418号)や特許第307096号に開示の技術)を適宜用いることができる。
<実施形態2>
上記実施形態1では撮像装置が音声入力装置を備えていない例を示したが、撮像装置を音声入力装置を備えるように構成し、音声/文字変換部(若しくは音声/文字変換プログラム)により、入力した音声を文字に変換し、注目画像に関連付けて表示するようにすることもできる。
図11は、実施形態2に係わるデジタルカメラの内部構成例を示すブロック図であり、
デジタルカメラ200の内部構成は、実施形態1(図1)で示したデジタルカメラ100の構成に、音声入出力部31および音声/文字変換部32を付加した構成でよい。
音声入出力部31はデジタルカメラ200の液晶モニタ173側に設けられたマイクロフォンであり、入力した音声を音声信号に変換して文字列音声/文字変換部32に出力する。音声/文字変換部32は音声入力部31から入力した音声信号を一音節ごとに音声認識処理により認識して対応する文字列を出力する。
このような音声入出力部31および音声/文字変換部32を設けることにより、画像ブログ生成モードでの文字列絞込みを簡単に行うことができる。
具体的には、図5のフローチャートのステップS6を、「ユーザは、上記ステップS5の文字列種類自動表示処理により表示された文字列から所望の文字列を得るために、音声を発して所望の文字列を選択するので、制御部10は音声/変換部31を制御して音声入力部31からの入力音声信号を音声認識し、出力された文字列とテップS5の文字列種類自動表示処理で取得した文字列を比較し、一致した文字列(つまり、類似度が所定の閾値を越えた文字列)を注目画像に関連付けるべき言葉として、一時記憶メモリ16の特徴データ保持領域161のうちJ番目の領域に確保されている特徴データと対応付けて文字列保持領域162のうちJ番目の領域に保持(記憶)する(ステップS6)。」ように構成すればよい。
このように、文字列の絞込みを音声入力装置からの入力音声に基づいて行うよう構成することにより、カーソル操作で絞込みを行う場合に比べ簡単に文字列の絞込みを行うことができる。
<実施形態3>
本発明の画像ブログ生成方法をカメラ付き携帯電話機に適用すると、カメラ付き携帯電話機に設けられている文字入力キー若しくはマイクロフォン等を用いて文字列の絞込みを行い、生成した画像ブログをインターネット上のブログサイト(ホームページ)に簡単にアップロードすることができる。
図12は、本実施形態に係わるカメラ付き携帯電話機300の内部構成例を示すブロック図であり、携帯電話機300は、無線送受信部331、無線信号処理部332、制御部333、キー入力部334、ドライバ337、表示部338、加入者情報記憶部339、ROM340、一時記憶メモリ341、記憶部342、音声信号処理部343、スピーカ344、マイクロフォン345、ドライバ346、スピーカ347、バイブレータ348に加え、撮像部335、画像データ処理部336、画像認識処理部349、画像データベース359、音声/文字変換部351、および文字列データベース352を備えている。また、撮像部335および画像データ処理部336は本発明の撮像系を構成する。制御部10は画像データ処理部336、画像認識処理部349を兼ねてもよい。
なお、文字列の絞込みをキー操作(カーソル操作若しくは文字キーの操作による入力文字)で行うように構成する場合は音声/文字変換部351は不要である。
無線送受信部331は無線によりアンテナ311を介して音声信号やデータを送受する。
無線信号処理部332は無線送受信部331で受信した音声信号やデータを復調したり、無線送受信部331から送信する音声信号やデータを変調するなどの無線通信に必要な処理を行う。
画像プログ生成モード時には通信制御プログラムの制御によりインターネットと接続すると、無線送受信部331を介してウエブサイト(ホームページ)に画像ブログを送信できる。
制御部333は、図2に示した各内部構成要素を総括し、ROM40に格納されている制御プログラム及び動作プログラムや、本発明に基づく画像ブログ生成プログラムや、通信制御プログラムや、撮像制御プログラム、画像処理プログラム、等の各種プログラムにより、各内部構成要素の動作を制御する。動作プログラムにはモード選択プログラム、本発明に係わる画像認識プログラムおよび画像ブログ生成プログラムを含んでいる。また、通信制御プログラムはインターネットとの接続制御プログラムを含んでいる。
キー入力部334は、電源キー、テンキー、送受信開始キー、送受信停止キー、カーソルキー、取り消しキー、決定キー、シャッターキー等の各種キーを含みこれらのキーが操作されると対応する信号が制御部333に送出される。カーソルキーは実施形態1(図1参照)のカーソルキー62に、決定キーはSETキー63に、シャッターキーはシャッターキー66に相当する。
撮像部335は、撮像素子、信号変換部、撮像タイミング制御部や撮影補助光源等を含む撮像信号系(図示せず)を有しており、撮像レンズを経由し、撮像レンズの撮像光軸後方に配置された撮像素子に入射した被写体光像は撮像素子によって光電変換され撮像信号(アナログ)として出力される。撮像素子の出力信号は信号変換部で相関二重サンプリングおよびゲイン調整され、A/D変換によりデジタル信号に変換される。A/D変換された撮像信号は所定の周期で画像データ処理部336に送られる。
画像データ処理部336は、撮像部335から出力されたデジタル信号(画像データ)に対して画像補間処理及びγ補正処理を含むカラープロセス処理を行ってデジタル値の輝度信号Y及び色差信号Cb、Crを生成し、RAM等の一時記憶メモリ341にバスを介してDMA転送する。
ドライバ337は表示部338を駆動し、画像及びデータを表示させる。また、加入者情報記憶部339は携帯電話機300を呼び出すための電話番号やユーザ(加入者)のID等、プロフィールデータを格納する。
ROM340は制御部の動作プログラムが記録されたプログラム格納用メモリであり、ROM40には制御プログラム及び動作プログラム、本発明に基づく画像ブログ生成プログラムや、撮像制御プログラム、画像処理プログラム、等の各種プログラムを格納し、処理段階に応じて呼び出され制御部10によって実行される。また、動作プログラムにはモード選択プログラムが含まれている。また、上述した画像認識処理部33を設けることなくプログラム格納メモリ15に画像認識処理のための画像認識処理プログラムを格納するようにしてもよい。
一時記憶メモリ341はDRAM等のメモリで構成され、無線通信端末として必要な各種データを記憶し、且つ制御部333が動作する上で必要なプログラムやデータを記憶する。また、一時記憶メモリ341は撮影モードおよび画像ブログ生成モードでは、画像データ処理部336から取得する画像データを一時記憶するバッファメモリや、画像認識処理部349による注目画像の顔画像抽出処理用のワークメモリや、画像ブログ生成用のワークメモリ等、各種プログラムによるデータ処理に必要なワークメモリとして用いられる。
画像ブログ生成モードにおいて、一時記憶メモリ341には、画像ブログ生成時に用いられる部分領域として、画像認識処理部349による認識処理の際、注目画像から抽出された特定部分(たとえば、人物や動物の場合、顔)の特徴データを保持する特徴データ保持領域および注目画像に関連付けて合成する文字列を保持しておく文字列保持領域がそれぞれ複数個確保される。また、取得した季節(季節コード)を保持しておく季節データ保持領域も確保される(図1参照)。
記憶部342は無線通信端末として必要な各種データや撮影画像や生成された画像ブログを記憶する。また、プログラムを記憶することもできる。携帯電話機300の電源スイッチがオフの場合でも、記憶部342には電源が供給され記憶内容が維持される。
音声信号処理部343はマイクロフォン345から入力された音声信号を符号化処理したり、無線信号処理部332から出力された信号に基づいて音声信号を復号してスピーカ347から出力したりする。ドライバ346は、スピーカ347、バイブレータ348を駆動するためのドライバである。
画像認識処理部349は、実施形態1(図1)の画像認識処理部13と同様の構成および機能を備え、画像ブログ生成モード時に、一時記憶メモリ16に記憶されている1フレーム分の画像データの中から注目画像として指定された画像の特定部分領域(例えば、注目画像が人物や動物の場合は顔画像領域)から画像(特定部分)を抽出しバス90を介して制御部10に送出する。また、抽出した特定部分とスルー表示される画像の特定領域内の画像を比較して類似判定によりスルー表示される画像のなかから注目画像を特定する。更に、抽出した特定部分と画像データベースの画像パターンを比較して注目画像の属性や感情を判別する。また、画像データベース350は実施形態1(図1)の画像データベース24と同様の構成および機能を備えている(図3参照)。
音声/文字変換部351は、マイクロフォン345から入力した音声信号を一音節ごとに音声認識処理により認識して対応する文字列を出力する。
上記カメラ付き携帯電話機300のキー入力部334に設けられている文字入力キーを用いて画像ブログ生成モードでの文字列の絞込みを簡単に行うことができる。
具体的には、図5のフローチャートのステップS6を、「ユーザは、上記ステップS5の文字列種類自動表示処理により表示された文字列から所望の文字列を得るために、文字入力キーを操作して所望の文字列を選択するので、制御部10はキー入力部334からの入力文字列とテップS5の文字列種類自動表示処理で取得した文字列を比較し、一致した文字列(つまり、類似度が所定の閾値を越えた文字列)を注目画像に関連付けるべき言葉として、一時記憶メモリ16の特徴データ保持領域161のうちJ番目の領域に確保されている特徴データと対応付けて文字列保持領域162のうちJ番目の領域に保持(記憶)する(ステップS6)。」ように構成すればよい。
このように、文字列の絞込みを文字入力に基づいて行うよう構成することにより、カーソル操作で絞込みを行う場合に比べ簡単に文字列の絞込みを行うことができる。撮影者は、注目画像指定操作、音声出力、出力された文字列の確認操作といった簡単な操作で文字列を絞り込めば画像ブログを生成することができ、送信指示キーを押すだけで画像ブログをウエブサイトに送信できる。
また、表示部338に表示される被写体の属性や言葉の種類等の選択を入力装置からの入力音声に基づいて行うようにしてもよい(実施形態2参照)。
本発明の実施形態に係わる撮像装置の一実施例として用いるデジタルカメラの電子回路の構成例を示すブロック図である。 プログラム格納メモリに格納されているプログラムの例を示す図である。 注目画像の属性判定に用いる画像データベースの構成例を示す図である。 文字列データベースの構成例を示す図である。 画像ブログ生成時の制御部の制御動作例を示すフローチャートである。 図5のフローチャートの文字列種類自動表示処理時の制御部の動作例を示すフローチャートである。 種類選択メニューの表示例を示す図である。 文字列絞込みの説明図である。 注目画像に対応付けて表示された文字列の例である。 注目画像に対応付けて表示された吹き出しの例である。 実施形態2に係わるデジタルカメラの内部構成例を示すブロック図である。 実施形態3に係わるカメラ付き携帯電話機の内部構成例を示すブロック図であり、
符号の説明
10,333 制御部
11,335 撮像部
12,336 画像データ処理部
13、349 画像認識処理部
14、350 画像データベース
15 プログラム格納メモリ
16、341 一時記憶メモリ
17 画像表示部
18 画像記録部
20、352 文字列データベース
31 音声入力部
32、351 音声/文字変換部
40 外部入出力部
60 操作部
100、200、200‘ デジタルカメラ
300 カメラ付き携帯電話機
345 マイクロフォン

Claims (9)

  1. 被写体像を取り込んで画像データに変換し、撮影待機時に被写体画像をスルー表示する撮像系を備えた撮像装置において、
    文字列を所定の分類基準により分類し、分類した各文字列を検索可能に記録した文字列データベースと、
    前記撮像系によってスルー表示される画像のうちから文字列を関連付けて表示するための注目画像を指定する注目画像指定手段と、
    前記文字列データベースから前記注目画像指定作手段によって指定された注目画像に関連付けて表示するための文字列を取得する文字列取得手段と、
    前記文字列取得手段によって取得された複数の文字列の中から前記注目画像に関連付けて表示する文字列を絞り込むための文字列絞込み手段と、
    前記文字列絞込み手段によって絞り込まれた文字列と前記注目画像とを視覚的に関連付けて表示する表示制御手段と、
    前記文字列絞込み手段によって絞り込まれた文字列と前記注目画像とを視覚的に関連付けて表示できるように合成しメモリに記録する記録制御手段と、
    を備えたことを特徴とする撮像装置。
  2. 前記所定の分類基準は、画像の属性を分類基準として含み、
    前記属性ごとに画像の特定部分のパターンを複数登録した画像データベースと、
    前記注目画像から前記画像データベースに登録されている画像パターンに応じた部分を抽出し、前記画像データベースに登録されている画像パターンと比較して注目画像の属性を取得する画像認識処理手段を備え、
    前記文字列取得手段は、前記画像認識処理手段によって取得された注目画像の属性に基づいて該注目画像に関連付けて表示するための文字列を取得する文字列自動取得手段を含むことを特徴とする請求項1に記載の撮像装置。
  3. 前記文字列取得手段は、前記分類基準に属する各分類の名称を順次表示する分類名表示手段と、前記分類名表示手段によって表示された分類名の中から所望の分類を選択するための分類選択手段を含み、この分類選択手段によって選択された分類に基づいて前記注目画像に関連付けて表示するための文字列を取得することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記文字列絞込み手段は、前記文字列取得手段によって取得された複数の文字列の中から前記注目画像に関連付けて表示する文字列を絞り込む絞込み手段を含むことを特徴とする請求項1に記載の撮像装置。
  5. 音声入力装置と音声入力装置から入力した音声信号を文字に変換する音声/文字変換手段を備え、
    前記文字列絞込み手段は、前記音声/文字変換手段によって変換された文字を基に前記文字列取得手段によって取得された複数の文字列の中から前記注目画像に関連付けて表示する文字列を絞り込む音声絞込み手段を含むことを特徴とする請求項1に記載の撮像装置。
  6. 文字を入力するためのキー入力手段を備え、
    前記文字列絞込み手段は、前記キー入力手段によって入力された文字を基に前記文字列取得手段によって取得された複数の文字列の中から前記注目画像に関連付けて表示する文字列を絞り込む絞込み手段を含むことを特徴とする請求項1に記載の撮像装置。
  7. 更に、画像送信指示を検出すると、前記文字列と前記注目画像とを視覚的に関連付けて表示するように合成した画像をインターネット上のウエブサイトに送信する画像送信制御手段を備えたことを特徴とする請求項1に記載の撮像装置。
  8. 被写体像を取り込んで画像データに変換し、撮影待機時に被写体画像をスルー表示する撮像系を備えた撮像装置の画像生成方法において、
    前記撮像系によってスルー表示される画像のうちから文字列を関連付けて表示する注目画像を指定する画像指定ステップと、
    この画像指定ステップで指定された注目画像に関連付けて表示するための文字列を、所定の分類基準により分類された各文字列を記録した文字列データベースから取得する文字列取得ステップと、
    この文字列取得ステップで取得した複数の文字列の中から前記注目画像に関連付けて表示する文字列を絞り込む絞込みステップと、
    この絞込みステップによって絞り込まれた文字列と前記注目画像とを視覚的に関連付けて表示する表示ステップと、
    からなり、前記絞り込まれた文字列と前記注目画像とを視覚的に関連付けて表示できるように合成してメモリに記録することを特徴とする画像生成方法。
  9. コンピュータを制御するためのプログラムであって、
    前記コンピュータを、
    被写体像を取り込んで画像データに変換し、撮影待機時に被写体画像をスルー表示するスルー表示手段、
    前記撮像系によってスルー表示される画像のうちから文字列を関連付けて表示する注目画像として指定された注目画像に関連付けて表示するための文字列を、所定の分類基準により分類された各文字列を記録した文字列データベースから取得する文字列取得手段、
    この文字列取得ステップで取得した複数の文字列の中から前記注目画像に関連付けて表示する文字列を絞り込む絞込み手段、
    この絞込み手段によって絞り込まれた文字列と前記注目画像とを視覚的に関連付けて表示する表示手段、
    前記絞り込まれた文字列と前記注目画像とを視覚的に関連付けて表示できるように合成してメモリに記録する画像ブログ生成手段、
    として機能させるためのプログラム。
JP2007250950A 2007-09-27 2007-09-27 撮像装置、画像生成方法、およびプログラム Expired - Fee Related JP4803147B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007250950A JP4803147B2 (ja) 2007-09-27 2007-09-27 撮像装置、画像生成方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007250950A JP4803147B2 (ja) 2007-09-27 2007-09-27 撮像装置、画像生成方法、およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2011167840A Division JP5304854B2 (ja) 2011-07-30 2011-07-30 撮像装置、画像生成方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2009081785A JP2009081785A (ja) 2009-04-16
JP4803147B2 true JP4803147B2 (ja) 2011-10-26

Family

ID=40656190

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007250950A Expired - Fee Related JP4803147B2 (ja) 2007-09-27 2007-09-27 撮像装置、画像生成方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP4803147B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100238323A1 (en) * 2009-03-23 2010-09-23 Sony Ericsson Mobile Communications Ab Voice-controlled image editing
JP4660611B2 (ja) * 2009-06-30 2011-03-30 株式会社東芝 画像処理装置および画像処理方法
JP2013179465A (ja) * 2012-02-28 2013-09-09 Nikon Corp 撮像装置、通信システム
WO2014013763A1 (ja) * 2012-07-17 2014-01-23 Necカシオモバイルコミュニケーションズ株式会社 携帯端末とその制御方法、および、プログラム
JP2014038429A (ja) * 2012-08-14 2014-02-27 Zenrin Datacom Co Ltd 画像処理装置、画像処理方法および画像処理プログラム
JP6268722B2 (ja) * 2013-03-06 2018-01-31 日本電気株式会社 表示装置、表示方法、及び、プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4227257B2 (ja) * 1999-08-12 2009-02-18 キヤノン株式会社 カメラ
JP2003060956A (ja) * 2001-08-20 2003-02-28 Fuji Photo Film Co Ltd デジタルカメラ
JP4406735B2 (ja) * 2001-12-19 2010-02-03 富士フイルム株式会社 デジタルスチルカメラ
JP2003198909A (ja) * 2001-12-26 2003-07-11 Canon Inc 撮像装置、その制御方法、及び制御プログラム
JP4478513B2 (ja) * 2004-06-10 2010-06-09 キヤノン株式会社 デジタルカメラ、デジタルカメラの制御方法、プログラムおよびそれを格納した記録媒体
JP2006101156A (ja) * 2004-09-29 2006-04-13 Casio Comput Co Ltd 情報処理装置及び情報処理プログラム

Also Published As

Publication number Publication date
JP2009081785A (ja) 2009-04-16

Similar Documents

Publication Publication Date Title
US20190235706A1 (en) Display device providing feedback based on image classification
US8599251B2 (en) Camera
JP5611829B2 (ja) 情報処理装置の動作制御システム及び動作制御方法
JP4914778B2 (ja) カメラ
JP4803147B2 (ja) 撮像装置、画像生成方法、およびプログラム
WO2010047336A1 (ja) 画像撮影システム及び画像撮影方法
US20060092291A1 (en) Digital imaging system
US20120062766A1 (en) Apparatus and method for managing image data
US8462231B2 (en) Digital camera with real-time picture identification functionality
US9525841B2 (en) Imaging device for associating image data with shooting condition information
JP6108755B2 (ja) 撮影機器、撮影画像送信方法及び撮影画像送信プログラム
JP2009141516A (ja) 画像表示装置,カメラ,画像表示方法,プログラム,画像表示システム
US20130055079A1 (en) Display device providing individualized feedback
JP2008257358A (ja) 文書自動作成装置、文書自動作成方法、及びプログラム
CN102918586B (zh) 用于图像数据记录和再现的设备及其方法
JP5601401B2 (ja) 撮像装置、画像生成方法、およびプログラム
JP5304854B2 (ja) 撮像装置、画像生成方法、およびプログラム
JP5478747B2 (ja) 文書自動作成装置
JP5023932B2 (ja) 撮像装置、シナリオによる画像撮影方法、およびプログラム
JP2007156729A (ja) 検索装置及び検索方法並びに検索装置を有するカメラ
JP6166070B2 (ja) 再生装置および再生方法
WO2022014143A1 (ja) 撮像システム
JP6902764B1 (ja) メタデータ抽出プログラム
JP2017211995A (ja) 再生装置、再生方法、再生プログラム、音声要約装置、音声要約方法および音声要約プログラム
KR20230008687A (ko) 스마트폰에서 사진 자동 레이블링 및 녹음 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100419

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110712

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110725

R150 Certificate of patent or registration of utility model

Ref document number: 4803147

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees