JP2004320233A - 画像記録再生方法および画像記録再生装置 - Google Patents
画像記録再生方法および画像記録再生装置 Download PDFInfo
- Publication number
- JP2004320233A JP2004320233A JP2003109290A JP2003109290A JP2004320233A JP 2004320233 A JP2004320233 A JP 2004320233A JP 2003109290 A JP2003109290 A JP 2003109290A JP 2003109290 A JP2003109290 A JP 2003109290A JP 2004320233 A JP2004320233 A JP 2004320233A
- Authority
- JP
- Japan
- Prior art keywords
- image
- file
- recording
- reproducing
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】ユーザーは、撮影した画像が気に入ったとき、感性キーを“1”に設定する。システム制御部は、その感性キー情報を画像ファイルのユーザーコメント欄に記録するとともに、原画像1を再生した回数を当該の画像に対するアクセス頻度としてユーザーコメント欄に記録する。システム制御部は、サムネイル画像の表示時、感性キー情報が“1”(好感キー情報)とされた画像のみ、またはユーザーが指示したユーザー別のアクセス頻度が所定値以上の画像のみを、表示するとともに、そのうちのユーザーによって選択された画像の原画像1を表示する際、感性キー情報が“1”(好感キー情報)であるときには、「お気に入りの画像です」というメッセージ文を生成し、音声ナレーションを出力する。
【選択図】 図12
Description
【発明の属する技術分野】
この発明は、DSC(デジタルスチルカメラ)やカメラ付きPDA(Personal Digital Assistant)などの、画像を撮影記録し、再生する装置、および、この画像記録再生装置での画像記録再生方法に関する。
【0002】
【従来の技術】
DSCでは、撮影された画像が、定められたファイルフォーマットの画像ファイルとして、メモリカードなどのリムーバブル(着脱可能な)記録メディアに記録される。画像ファイルには、原画像(主画像)のデータのほかに、サムネイル画像(見出し用の縮小画像)のデータが付加され、原画像のデータとリンクされる。
【0003】
再生時には、サムネイル画像のデータによって、ディスプレイ上にサムネイル画像が配列表示され、そのうちのユーザーによって選択された画像が、原画像のデータによってディスプレイ上に表示される。
【0004】
ユーザーは、その表示された画像を見て、画像をプリントアウトし、パーソナルコンピュータに取り込み、または不要なものは廃棄する、などの処理を行う。
【0005】
しかし、DSCの表示画面は、もともと小さく、DSCの小型化の要請によって、さらに小さくなる傾向にある。そのため、表示された画像を見ただけでは、どのような画像であるかを確実に判断することが難しい。勿論、サムネイル画像の配列表示状態では、その判断がいっそう難しい。
【0006】
表示画面上に、画像を解説する文字を表示することも考えられているが、画面自体が小さいので、文字も大きくできないとともに、同時に多数の文字を表示できないため、十分に解説することは困難である。
【0007】
特許文献1(特許第3081304号公報)には、通信衛星を利用した放送のビジネスニュース番組など、特定の視聴者にのみ配信する映像番組を制作するに際して、データベースに用意されている多数の画像データから番組制作用の素材として利用する画像を迅速に検索することができるように、各画像の内容を説明する文の音声データをデータベースに蓄積しておき、この音声データによる音声ナレーションを聞いて画像の内容を判断することが示されている。
【0008】
【特許文献1】
特許第3081304号公報。
【0009】
【発明が解決しようとする課題】
しかしながら、上記の特許文献1に示されたような方法を、DSCによって撮影された画像に利用しようとすると、ユーザーは、撮影の都度、撮影された画像の内容を説明する文章を考え、DSCに文字を入力して、記録メディアに画像ファイルに対応づけてテキストファイルを記録し、または、文章を読み上げて、記録メディアに画像ファイルに対応づけて音声ファイルを記録しなければならず、ユーザーの負担が大きくなるだけでなく、記録メディアに記録されるファイルが多くなる。
【0010】
そこで、この発明は、ユーザーとしては簡単な操作や入力によって、または特に操作や入力を必要とすることなく、しかも、画像ファイルとは別にテキストファイルや音声ファイルを記録することなく、再生される画像がユーザーの気に入っている画像であるか否かをユーザーに的確に提示することができ、ユーザーが自分の気に入っている画像を容易かつ確実に検索することができるようにしたものである。
【0011】
【課題を解決するための手段】
第1の発明の画像記録再生方法は、
画像を撮影し、定められたファイルフォーマットの画像ファイルとして記録メディアに記録する撮影記録工程と、
ユーザーの操作に基づいて、前記画像がユーザーの気に入っている画像であることを示す好感キー情報を、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録する情報記録工程と、
前記画像ファイルとして記録された画像の原画像またはサムネイル画像を再生する画像再生工程と、
前記好感キー情報に基づいて、再生する画像がユーザーの気に入っている画像であることを、音声によってメッセージするメッセージ工程と、
を備えることを特徴とする。
【0012】
第2の発明の画像記録再生方法は、
画像を撮影し、定められたファイルフォーマットの画像ファイルとして記録メディアに記録する撮影記録工程と、
前記画像ファイルとして記録された画像の原画像またはサムネイル画像を再生する画像再生工程と、
前記画像ファイルとして記録された画像の原画像を再生した回数を、当該の画像に対するアクセス頻度として、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録するとともに、当該の画像の原画像を再生するごとにカウントアップする処理工程と、
を備えることを特徴とする。
【0013】
上記の構成の、第1の発明の画像記録再生方法では、ユーザーは、撮影された画像が自分の気に入った画像であるときには、撮影時や撮影後において、画像記録再生装置で所定のキーを操作するなどの簡単な操作を行うだけで、当該の画像の再生時、画像記録再生装置による、「お気に入りの画像です」というような音声ナレーションや「ピンポーン」というような効果音などの音声メッセージによって、当該の画像が自分の気に入っている画像であることが分かり、自分の気に入っている画像を容易かつ確実に見つけ出すことができる。
【0014】
上記の構成の、第2の発明の画像記録再生方法では、ユーザーは、自分が気に入っている画像の原画像を何度か再生するだけで、ほかに特別の操作や入力を行うことなく、画像記録再生装置に対して、サムネイル画像の表示時にはアクセス頻度が所定値以上の画像のみを表示させるなど、アクセス頻度に応じた処理を実行させることができ、自分の気に入っている画像を容易かつ確実に見つけ出すことができる。
【0015】
しかも、第1の発明における好感キー情報や、第2の発明におけるアクセス頻度データは、画像ファイルのファイルフォーマットで指定された領域に記録するので、画像ファイルとは別にテキストファイルや音声ファイルなどを記録する必要がない。
【0016】
【発明の実施の形態】
〔画像記録再生装置のシステム構成:図1〕
図1は、この発明の画像記録再生装置の一実施形態のシステム構成を示し、DSCシステムとして構成した場合である。
【0017】
このDSCシステムでは、被写体画像からの光が、撮像光学系11を介して、CCD撮像素子やCMOS撮像素子などの撮像素子12に投射されて、撮像素子12からアナログ画像信号が得られ、そのアナログ画像信号が、信号処理部13で、サンプルホールドされ、自動利得制御された後、デジタル画像データに変換される。
【0018】
記録再生処理部14では、画像記録時には、この信号処理部13からの撮影された画像のデータが圧縮される。その圧縮画像データは、システム制御部17によって、後述のようなファイルフォーマットの画像ファイルとして、リムーバブル記録メディア25に記録され、リムーバブル記録メディア25から読み出される。記録再生処理部14では、画像再生時には、この読み出された画像ファイルの圧縮画像データが伸長される。
【0019】
その伸長後の画像データは、表示処理部15で表示用に処理されて、液晶ディスプレイなどのディスプレイ16に供給され、ディスプレイ16上に再生画像が表示される。
【0020】
さらに、後述のように、リムーバブル記録メディア25に記録される、または記録された画像ファイルの、ファイルフォーマットで指定された領域(欄、フィールド、タグなどと称される領域)には、ユーザーによって入力される画像内容や撮影場所を示す情報、システム制御部17によって取得される撮影属性情報、ユーザーによって設定される感性キー情報、およびシステム制御部17によって生成されるアクセス頻度データが書き込まれ、画像再生時、これら情報から、構文構成部18で、辞書解析および構文解析によって、画像についてのメッセージ文が生成され、さらに、そのテキストから、テキスト音声合成部19で、テキスト音声合成によって、音声ナレーションのデータが生成され、音声ナレーションが出力される。
【0021】
システム制御部17は、CPU、このCPUが実行すべき処理プログラムや後述のファイルフォーマット(ファイルシステム)が記述されたプログラムメモリ、およびCPUのワークエリアなどとして機能するRAMなどを備えるものである。
【0022】
システム制御部17には、カメラ操作部21が、インターフェース22を介して接続され、文字入力用のキー操作入力部23が、インターフェース24を介して接続されるとともに、メディア用スロットに装着されたリムーバブル記録メディア25が、メディアドライブ26を介して接続される。
【0023】
リムーバブル記録メディア25としては、メモリカード、カード型HDD(ハードディスクドライブ)、リムーバブル光ディスクなどの、書き込み可能な、または書き込み消去可能な、好ましくは大容量化された書き換え可能な、不揮発性メディアを用いる。具体的に、以下の実施形態では、メモリカードを用いる。
【0024】
テキスト音声合成部19で生成された音声データは、D/Aコンバータ27でアナログ音声信号に変換され、その音声信号が音声増幅回路28で増幅されてスピーカ29に供給され、スピーカ29から音声ナレーションが出力される。
【0025】
さらに、この実施形態のDSCシステムでは、ユーザーが音声を入力し、音声ファイルとしてリムーバブル記録メディア25に記録することができるように、マイクロホン31が設けられる。
【0026】
このマイクロホン31からのアナログ音声信号は、音声増幅回路32で増幅されて、A/Dコンバータ33でデジタル音声データに変換され、その音声データが、システム制御部17に取り込まれ、記録再生処理部14で圧縮されて、音声ファイルとしてリムーバブル記録メディア25に記録され、再生時には、記録再生処理部14で伸長されて、システム制御部17からD/Aコンバータ27に送出される。
【0027】
〔ファイルフォーマットおよび画像関連情報:図2〜図7〕
(ファイルフォーマットの概要)
携帯型の撮影画像記録メディアのフォーマットとしては、Exif(Exchangeable image file format:以下ではExifファイルフォーマットと称する)が広く使用されており、そのなかでも、DSC用としては、DCF(Design rule for Camera Filesystem:以下ではDCFファイルシステムと称する)というファイルシステム(実体はDSC用フラッシュメモリのメディアファイルフォーマット)が広く採用されている。
【0028】
DCFファイルシステムおよびその基本であるExifファイルフォーマットは、DSCの撮影画像に限らず、音声ファイルのメモリカード用フォーマットとして広く使用されている。
【0029】
また、このExifファイルフォーマットおよびDCFファイルシステムでは、JPEG(Joint Photographic Experts Group)やTIFF(Tagged Image File Format)などの既存のフォーマットによる画像データとともに、ファイル作成日時などのファイル付属情報やサムネイル画像データを一つのファイルに記録することができる。
【0030】
なお、「サムネイル」は、Exif規格およびDCF規格でも定義されているように、見出し用の縮小画像であるが、場合によって「サムネイル画像」と称する。また、この発明で、サムネイル画像の配列表示とは、複数のサムネイル画像を、一行または一列に配置して表示し、または行列方向に2次元に配置して表示することである。
【0031】
以下の実施形態では、リムーバブル記録メディア25としては、上記のようにメモリカードを用い、そのファイルフォーマットとして、ExifファイルフォーマットおよびDCFファイルシステムを用いる。
【0032】
画像データの圧縮方式としては、JPEG圧縮方式を用いるが、将来のJPEG2000を初めとする進歩した圧縮方式や他の圧縮方式を用いることもできる。
【0033】
メモリカードのファイルシステムとしては、FAT(File Allocation Table)やFAT32が広く使用されているが、以下の実施形態では、メディア容量が2GByteを超える場合にもアクセス可能なFAT32ファイルシステムを用いる。
【0034】
ただし、Windows(登録商標)システムがサポートするFATやNTFS(NT File System)を用いることもでき、リムーバブル記録メディア25として光ディスクを用いる場合には、UDF(Universal Disc Format)およびその静止画対応ファイルフォーマットを用いることができる。
【0035】
Exifファイルフォーマットでは、(a)フォルダ名は英数字番号のみであり、その開始番号は100である、(b)フォルダ名およびファイル名に2バイトコードを使用することはできない、などの制限がある。
【0036】
(画像ファイルフォーマット:図2〜図4)
<DCF基本ファイル:図2および図3>
図2に、DCFファイルシステムに準拠する画像ファイルフォーマットの一例を示し、圧縮タグ“6”で圧縮サムネイルを有し、DCF基本ファイルとしてDCF基本主画像データとDCF基本サムネイルデータを同一ファイル内に有する場合である。この場合、ファイル拡張子は“JPG”である。
【0037】
図3に、DCF基本ファイル(拡張子“JPG”)がDCF基本主画像とDCF基本サムネイルとからなることを概略的に示す。
【0038】
図2に示すように、DCF基本ファイル(Exif圧縮ファイル)は、SOI(Start Of Image)で開始し、これに続いて、最大64kByteサイズのExif付属情報用のAPP(アプリケーション・マーカーセグメント)1、拡張データ用に必要に応じて追加されるAPP2(図では省略)、JPEGテーブル、およびJPEG圧縮の基本主画像データが記録され、EOI(End Of Image)で終了する。
【0039】
APP1は、APP1マーカーで開始し、これに続いて、APP1データ長、Exif識別コード、JPEGテーブル、およびExifIFDが記録される。ExifIFDは、後述のような構造とされる。
【0040】
さらに、ExifIFDに続く第1IFDで、JPEG圧縮データのアドレスおよびデータ長が指定され、その指定されたアドレスに、JPEG圧縮の基本サムネイルデータが記録される。
【0041】
このJPEG圧縮の基本サムネイルデータ(圧縮サムネイル)は、SOIで開始し、これに続いて、JPEGテーブル、およびJPEG圧縮の基本サムネイルの生ストリームデータが記録され、EOIで終了する。
【0042】
ExifIFDには、付属情報として、Exifバージョンに関するタグ、画像データの特性に関するタグ、画像構造に関するタグ、ユーザーコメントタグ、関連ファイル情報に関するタグ、日時に関するタグ、撮影条件に関するタグ、およびIFDポインタ互換性が記録される。
【0043】
関連ファイル情報タグでは、当該の画像ファイルと関連する音声ファイルなどのファイルとの相互リンクが規定される。
【0044】
ユーザーコメントタグでは、ExifIFD内のユーザーコメント欄が指定される。そのユーザーコメント欄の先頭には、ユーザーコメントの文字コードタイプが、ASCII文字8字によって指定される。日本語の場合、文字コードは、ASCII,UnicodeまたはJISであり、最も望ましいのは、Unicodeである。
【0045】
日本でのパーソナルコンピュータの事情によってShiftJISを用いる場合には、未定義コードに指定されて使用されるので、それに対応することを考えて、コード変換部や対応する翻訳部があることが望ましい。インターネット上からダウンロードしたファイルを蓄えたDCFファイルシステムのメモリカードを用いる場合にも、海外からのダウンロードへの対応を考えて、コード変換部や対応する翻訳部があることが望ましい。
【0046】
日時タグでは、ExifIFD内の日時フィールドが指定され、その日時フィールドには、システム制御部17によって決定されたファイル作成日時(撮影日時)が、撮影属性情報として記録される。
【0047】
<DCF拡張画像ファイルおよびDCFサムネイルファイル:図4>
DCFファイルシステムに準拠する画像ファイルフォーマットとしては、図4に概略的に示すように、同一フォルダ内でDCF拡張画像ファイルとDCFサムネイルファイルを別ファイルのペアとして対応づけることもできる。この場合のDCFサムネイルファイルの拡張子は、“THM”である。
【0048】
この場合には、DCFサムネイルファイル内に、ExifIFDを有するAPP1が記録され、そのExifIFD内に、ユーザーコメント欄および日時フィールドが指定される。
【0049】
<ファイルの種類および拡張子>
DCFファイルシステムでは、撮影専用のファイルヘッダが設けられ、ここで圧縮データの種別によって画像ファイルであることが示され、さらには、図2および図3のようにDCF基本主画像とDCF基本サムネイルを同一ファイル内に有するJPEG圧縮DCF基本ファイルであることを示す拡張子“JPG”、または図4のようにDCF拡張画像ファイルとDCFサムネイルファイルが別ファイルでペアとなる場合のDCFサムネイルファイルであることを示す拡張子“THM”が記録される。
【0050】
<画像関連情報>
画像ファイルのファイルフォーマットとして、以上のようなファイルフォーマットを用いる場合には、ユーザーによって入力される画像内容や撮影場所を示す文字列データ、ユーザーによって設定される感性キー情報、およびシステム制御部17によって生成されるアクセス頻度データが、ユーザーコメントデータとして、ExifIFD内のユーザーコメント欄に書き込まれ、構文構成およびテキスト音声合成による音声ナレーションの生成に供されるように、DSCシステムを構成する。
【0051】
また、撮影日時(ファイル作成日時)を示す文字列データが、システム制御部17によって撮影属性情報として、ExifIFD内の日時フィールドに書き込まれ、構文構成およびテキスト音声合成による音声ナレーションの生成に供されるように、DSCシステムを構成する。
【0052】
<フォルダ名およびファイル名>
フォルダ名は、Exifファイルフォーマットでは、上記(a)(b)の制限のもとに、「数字3桁+アルファベット5文字」が認められ、DCFファイルシステムでは、1バイトコードの集合として、「英字2文字のIM+英字5文字」が推奨されている。
【0053】
そこで、この実施形態では、図3または図4に示すように、画像ファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)とは別に、フォルダ名対照テーブルファイル9を設けて、後述のようにユーザーによって画像整理用に命名されるフォルダ名、例えば「家族」「花」「犬」などという文字列の2バイトコードと、DCFファイルシステムに準拠してシステム制御部17によって登録される上記の「数字3桁+アルファベット5文字」のフォルダ名、例えば「101AAAAA」「102AAAAA」「103AAAAA」などというコードとをリンクさせる。
【0054】
そして、後述のようにユーザーがユーザー命名のフォルダ名を選択したときには、システム制御部17は、このフォルダ名対照テーブルファイル9から、その選択されたユーザー命名のフォルダ名に対応する自動登録のフォルダ名を読み出し、そのフォルダ名が付されたフォルダを呼び出すように、DSCシステムを構成する。
【0055】
ファイル名は、DCF基本ファイルおよびDCF拡張画像ファイルでは、「(先頭4文字の英字)+(ファイル番号4文字)」からなるDCFファイル名として、順番に並べて管理するものとされ、以下の実施形態でも、これに従う。
【0056】
(音声ファイルフォーマット:図5)
図5に、Exif規格に準拠する音声ファイルフォーマットの一例を示し、「RIFF/WAVE MP3Audio」の圧縮オーディオファイルの場合である。この場合、ファイル拡張子は“WAV”または“MP3”である。
【0057】
このRIFFファイルは、「チャンク」と呼ばれるデータブロックから構成され、最上位のRIFFチャンクでは、“RIFF”というチャンクID(ckID)に続いて、RIFFチャンクのチャンクサイズ(ckSize)、および“WAVE”タイプが指定され、さらに、フォーマットチャンクで、音声符号化方式や音声チャネル数などが指定される。
【0058】
さらに、ファクトチャンクで、音声データのサンプル長が指定され、それに続いて、付属情報サブチャンクとして、INFOリストチャンクおよびExifリストチャンクが記録され、最後に、データチャンクとして、MP3圧縮形式のWAVEオーディオストリームデータが記録される。データチャンクは、チャンクID(ckID)として、ASCII文字列“data”(64617461)を開始マーカーとする。
【0059】
INFOリストチャンクでは、“LIST”というチャンクID、INFOリストチャンクのチャンクサイズ、および“INFO”というリストタイプの記録に続いて、音声ファイルのタイトル、ジャンル、ファイル作成年月日、コメント、アーティスト、および著作権情報が、それぞれASCII文字列で記載される。
【0060】
Exifリストチャンクでは、“LIST”というチャンクID、Exifリストチャンクのチャンクサイズ、および“exif”というExif専用のリストタイプの記録に続いて、規格バージョン、関連画像ファイル名、音声ファイル作成日時、作成メーカー名、作成モデル名、メーカー用ノート、およびユーザーコメントeucmというデータフィールドが記録される。
【0061】
関連画像ファイル名は、当該の音声ファイルに関連する画像ファイルがある場合に、その画像ファイルを「ファイル名.拡張子」の形式で直接指定する(ポインタは許可されない)ものであり、音声ファイル作成日時は、当該の音声ファイルの作成日時を「年:月:日:時:分:秒.サブ秒」の形式でサブ秒まで記載するものである。
【0062】
ユーザーコメントeucmは、“eucm”というチャンクID、およびユーザーコメントeucmのチャンクサイズに続いて、チャンクデータ(ckData)であるユーザーコメントが記載される。
【0063】
このユーザーコメントでは、先頭8バイトで、ASCII大文字によって文字コードタイプが指定され、それに続いて、ユーザーコメント欄が設けられる。
【0064】
文字コードは、Unicodeが望ましい。日本でのパーソナルコンピュータの事情によってShiftJISを用いる場合には、Undefinedが指定される。
【0065】
ユーザーコメント欄には、2バイトコード文字によるユーザーコメントデータとして、アーティスト名や曲名、ファイル作成日時、曲のさび部分の歌詞などが登録される。
【0066】
(画像関連情報の書き込み読み出し制御:図6および図7)
図6に、図2および図3に示したDCF基本ファイル(拡張子“JPG”)を用いる場合の、ユーザーコメントデータおよび撮影属性情報の書き込み読み出し制御の様子を示す。
【0067】
この例は、ユーザーによって、画像内容として「家族」「チワワ」「モモちゃん」の各単語が入力され、撮影場所として「自宅」の単語が入力されるとともに、システム制御部17によって、撮影日(撮影年月日)として「2002年11月21日」が取得される場合である。
【0068】
システム制御部17は、入力された「家族」「チワワ」「モモちゃん」「自宅」の各単語に、FAT32ファイルシステムのクラスタ単位で文字列コードを指定して、ユーザーコメントデータの文字列データを生成し、DCF基本ファイル内のAPP1内のExifIFD内のユーザーコメント欄に、アドレスで区切って記録し、撮影日時(ファイル作成日時)を、「年:月:日:時:分:秒.サブ秒」の形式でサブ秒まで取得して、同じExifIFD内の日時フィールドに、16進数データの撮影属性情報として記録する。
【0069】
感性キー情報は、ユーザーが当該の画像を気に入って、後述のような肯定的な操作をしたときには、システム制御部17によって“1”(Yes,ON)に設定されて、好感キー情報(当該の画像がユーザーの気に入っている画像であることを示す情報)となり、ユーザーが後述のような非肯定的な操作をし、または特に操作をしなかったときには、システム制御部17によって“0”(No,OFF)に設定されるものである。
【0070】
感性キー情報も、favoriteな属性情報として、DCF基本ファイル内のAPP1内のExifIFD内のユーザーコメント欄に、アドレスで区切って記録される。
【0071】
アクセス頻度とは、当該の画像の原画像を再生した回数である。画像を撮影し、画像ファイルとしてリムーバブル記録メディア25に記録した直後の時点では、当該の画像に対するアクセス頻度は、初期値の0(ゼロ回)とされる。
【0072】
この実施形態では、一台のDSCを、数人の家族など、複数のユーザーが共用する場合を考慮して、父親、母親、子供というユーザー別にアクセス頻度をカウントするもので、例えば、父親アクセス頻度は、後述のように、あるユーザーが、再生時、父親モードを選択した上で、当該の画像の原画像を再生した場合に、システム制御部17によって1回カウントアップされる。
【0073】
ただし、システム制御部17は、当該の画像の原画像を、数秒以上というような所定時間以上に渡ってディスプレイ16上に表示した場合にのみ、ユーザーが当該の画像を鑑賞したと判断して、アクセス頻度をカウントアップし、ユーザーの操作によって、当該の画像の原画像を、所定時間に満たない時間でしかディスプレイ16上に表示しなかった場合には、ユーザーが当該の画像を鑑賞しなかったと判断して、アクセス頻度をカウントアップしないように、DSCシステムを構成することが望ましい。
【0074】
ユーザー別のアクセス頻度を示すデータ(カウント値)も、DCF基本ファイル内のAPP1内のExifIFD内のユーザーコメント欄に、アドレスで区切って記録される。
【0075】
これらユーザーコメントデータ(画像内容情報、撮影場所情報、感性キー情報およびユーザー別アクセス頻度データ)および撮影属性情報(撮影日時のデータ)に、DCF基本ファイルへのポインタが付加されて、ソフトウェア処理上の登録キー情報クラス構造体が構成される。
【0076】
DCF基本ファイルへのポインタは、そのファイルフォーマットの論理ブロックアドレス(LBA)または論理セクタ番号(LSN)でベースアドレスを指定して、FAT32ファイルシステムのクラスタ単位でExifIFD内のユーザーコメント欄および日時フィールドに対して、データオブジェクト集合インスタンスの書き込み読み出しを制御するものである。
【0077】
日時フィールドの撮影属性情報(撮影日時のデータ)は、システム制御部17が取得し、ユーザーが記入することはできないので、ユーザーに対しては読み出し専用のパーミッション属性を持つデータである。
【0078】
これに対して、画像内容情報、撮影場所情報および感性キー情報は、ユーザーの入力または設定によって記録されるので、書き込み読み出しの双方が可能なパーミッション属性を持つデータである。ユーザー別のアクセス頻度データも、同様に、書き込み読み出しの双方が可能なパーミッション属性を持つデータである。
【0079】
上述したユーザー命名の2バイトコード文字列のフォルダ名も、同様に、ユーザーが変更可能なパーミッション属性を持つデータとする。
【0080】
また、この場合のファイル拡張子“JPG”は、DCFファイルシステムに準拠する一意のファイル拡張子であるので、ファイルを作成または削除する場合以外では、ソフトウェアによる変更が禁止される。
【0081】
図7に、図4に示したようにDCF拡張画像ファイルとDCFサムネイルファイルをペアで用いる場合の、ユーザーコメントデータおよび撮影属性情報の書き込み読み出し制御の様子を示す。
【0082】
これは、ユーザーコメントデータ(画像内容情報、撮影場所情報、感性キー情報およびユーザー別アクセス頻度データ)および撮影属性情報(撮影日時のデータ)が、DCFサムネイルファイル(拡張子“THM”)内のAPP1内のExifIFD内のユーザーコメント欄および日時フィールドに記録され、ファイルへのポインタが、DCFサムネイルファイルへのポインタとなる点を除いて、図6に示したDCF基本ファイルを用いる場合と同じである。
【0083】
〔ユーザーコメントデータの入力および記録:図8〜図10〕
(キー操作入力部23の例:図8)
画像内容や撮影場所を示す文字列の入力、および感性キーの設定は、図1に示したキー操作入力部23によって行う。
【0084】
図8に、キー操作入力部23の一例を示す。この例は、携帯電話端末などのキー操作入力部と同様に、メニュー画面の開閉やメニュー項目の選択・決定などを行う操作キー231と、文字入力キー232とを備え、操作キー231の操作によって、文字入力キー232の入力モードを、同図(A)のような数字入力モード、同図(B)のような仮名入力モード、または同図(C)のようなアルファベット入力モードに切り換えることができる場合である。
【0085】
(画像内容などの入力・設定および記録:図9および図10)
ユーザーは、以下のように、撮影時または撮影後、キー操作入力部23での操作によって、フォルダ名を命名し、画像内容および撮影場所を入力し、感性キーを設定して、画像ファイル内に記録することができる。
【0086】
撮影時、撮影された画像は、図9(A)に示すように、原画像1としてディスプレイ16上に表示され、ユーザーは撮影状態を確認することができる。
【0087】
この状態で、ユーザーがキー操作入力部23でフォルダ名のメニューを呼び出す操作をすると、図9(B)に示すように、ディスプレイ16上に、原画像1にオーバーレイされてフォルダ名メニュー画面2が表示され、ユーザーが命名できるフォルダ名が、「家族」「花」「犬」などというように幾つか提示される。
【0088】
ユーザーは、原画像1の内容に応じて、そのうちの一つ、例えば「犬」を選択する。これによって、システム制御部17は、そのユーザー指定のフォルダ名に対応づけるDCFファイルシステムに準拠するフォルダ名を決定し、上述したフォルダ名対照テーブルファイル9に記述する。
【0089】
フォルダ名を指定したら、ユーザーは、ユーザーコメントデータ用の入力画面を呼び出す。これによって、フォルダ名メニュー画面2に代えて、図9(C)に示すような入力画面3が表示される。この入力画面3は、画像内容記入欄3a、撮影場所記入欄3bおよび感性キー設定欄3cに区分されたものとされ、その撮影場所記入欄3bには、「場所:」のプロンプトが表示され、感性キー設定欄3cには、「大切?『はい』『ふつう』」のプロンプトが表示される。
【0090】
ユーザーは、画像内容記入欄3aに、画像内容として、例えば「家族」「チワワ」「モモちゃん」の文字列を、各単語の間に半角スペースまたはカンマを挿入して入力し、その後、キー操作入力部23の#キー232aを押して、入力フォーカスを撮影場所記入欄3bに移動させ、「場所:」のプロンプトが表示されている箇所に、撮影場所として、例えば「自宅」の文字列を入力し、その後、キー操作入力部23の#キー232aを押して、入力フォーカスを感性キー設定欄3cに移動させ、カーソル操作および決定操作によって、「はい」と「ふつう」のいずれかを選択する。
【0091】
これによって、システム制御部17は、上述したフォルダ名対照テーブルファイル9を参照して、例えば「犬」というユーザー指定のフォルダ名に対応する「103AAAAA」というDCFファイルシステムに準拠するフォルダ名のフォルダをファイル保存先として、ユーザー入力の画像内容および撮影場所を示す文字列データ、およびユーザー設定の感性キー情報を、上述したようにDCF基本ファイル内またはDCFサムネイルファイル内のユーザーコメント欄に書き込んだ上で、撮影された画像のファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)をメモリカードに記録する。
【0092】
このとき、図9(C)に示すように、入力画面3とともに撮影日提示画面4が表示されて、既にシステム制御部17が取得している撮影日(撮影日時)が変更不可状態で提示されることが望ましい。
【0093】
以上は、撮影された画像を記録する場合であるが、既に画像ファイルとして記録されている画像についても、ユーザーの操作によって、その画像がディスプレイ16上に呼び出され、入力画面3が表示されて、画像内容または撮影場所が入力され、感性キーが変更されることによって、未記録の画像内容情報または撮影場所情報が記録され、あるいは記録済みの画像内容情報、撮影場所情報または感性キー情報が書き換えられる。
【0094】
図10に、この画像記録後の各種情報の記録または書き換えの例を示す。この例では、ユーザーは、まず、フォルダ名のメニューを呼び出す操作をする。これによって、図10左上に示すように、ディスプレイ16上にフォルダ名メニュー画面2が表示される。
【0095】
ユーザーは、そのうちから、呼び出すフォルダのフォルダ名、例えば「犬」を指示する。これによって、システム制御部17は、上述したフォルダ名対照テーブルファイル9を参照して、例えば「犬」というユーザー指定のフォルダ名に対応する「103AAAAA」というDCFファイルシステムに準拠するフォルダ名のフォルダをファイル呼び出し先として、そのフォルダ内に記録されている各画像ファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)を、DCFファイルシステムに準拠するファイル名中のファイル番号順に読み出し、それぞれのDCF基本サムネイルまたはDCFサムネイルファイルのデータによって、図10右上に示すように、ディスプレイ16上にサムネイル画像を配列表示する。
【0096】
この状態で、ユーザーは、アイコン形状のサムネイル画像の一つを選択する。これによって、システム制御部17は、その選択された画像のファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)中のDCF基本主画像またはDCF拡張画像ファイルのデータによって、図10左下に示すように、ディスプレイ16上に、選択された画像の原画像1を表示する。
【0097】
次に、ユーザーは、ユーザーコメントデータ用の入力画面を呼び出す。これによって、図10右下に示すように、ディスプレイ16上に、原画像1にオーバーレイされて入力画面3および撮影日提示画面4が表示される。入力画面3は、画像内容記入欄3a、撮影場所記入欄3bおよび感性キー設定欄3cに区分されたものとされ、撮影日提示画面4には、記録済みの撮影日(撮影日時)が変更不可状態で表示される。
【0098】
この状態で、ユーザーは、画像内容記入欄3aに画像内容を示す文字列を入力し、または画像内容記入欄3aに記入表示されている文字列を修正し、入力フォーカスを撮影場所記入欄3bに移動させて、撮影場所記入欄3bに撮影場所を示す文字列を入力し、または撮影場所記入欄3bに記入表示されている文字列を修正し、入力フォーカスを感性キー設定欄3cに移動させて、感性キーの設定を、「はい」から「ふつう」に、または「ふつう」から「はい」に修正する。
【0099】
これによって、システム制御部17は、未記録の画像内容情報または撮影場所情報を記録し、あるいは記録済みの画像内容情報、撮影場所情報または感性キー情報を書き換える。
【0100】
〔画像の再生および音声ナレーション:図11〜図14〕
この実施形態では、画像記録後、ユーザーは、以下のような再生モードにおいて、画像を再生し、再生画像をディスプレイ16上に表示させることができるとともに、構文構成部18での構文構成およびテキスト音声合成部19でのテキスト音声合成によって、再生画像についての音声ナレーションを出力させることができる。
【0101】
なお、この場合の構文構成およびテキスト音声合成の具体的方法は、後記の〔構文構成(テキスト生成):図15および図16〕および〔テキスト音声合成:図17および図18〕で詳細に示す。
【0102】
さらに、この実施形態では、再生モードとして、通常モード、大切モード、父親モード、母親モードおよび子供モードが設定される。
【0103】
通常モードは、感性キー情報およびアクセス頻度データの如何に関係なく画像を再生する再生モードであり、大切モードは、後述のように、感性キー情報によって画像の再生を制御する再生モードであり、父親モード、母親モードまたは子供モードのユーザー別モードは、対応するユーザー別アクセス頻度データによって画像の再生を制御する再生モードである。
【0104】
(閲覧モード:図11〜図13)
サムネイル画像からユーザーによって選択された画像の原画像を再生し、ディスプレイ16上に表示する再生モードを、ここでは閲覧モードと称する。
【0105】
図11に、閲覧モードでの画像再生の例を示す。この例では、ユーザーは、まず、再生モードのメニューを呼び出す操作をする。これによって、図11(A)に示すように、ディスプレイ16上にモード選択メニュー画面5が表示される。
【0106】
ユーザーは、このモード選択メニュー画面5から、上述した通常モード、大切モード、父親モード、母親モードおよび子供モードのうちのいずれかを選択した後、フォルダ名のメニューを呼び出す操作をする。これによって、図11(B)に示すように、ディスプレイ16上にフォルダ名メニュー画面2が表示される。
【0107】
ユーザーは、そのうちから、呼び出すフォルダのフォルダ名、例えば「犬」を指示する。これによって、システム制御部17は、上述したフォルダ名対照テーブルファイル9を参照して、例えば「犬」というユーザー指定のフォルダ名に対応する「103AAAAA」というDCFファイルシステムに準拠するフォルダ名のフォルダをファイル呼び出し先として、そのフォルダ内に記録されている画像ファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)を読み出し、それぞれのDCF基本サムネイルまたはDCFサムネイルファイルのデータによって、ディスプレイ16上にサムネイル画像を配列表示する。
【0108】
この場合、ユーザーが通常モードを選択した場合には、そのフォルダ内の全ての画像ファイルが、DCFファイルシステムに準拠するファイル名中のファイル番号順に読み出され、図11(C)に示すように、フォルダ内の全ての画像のサムネイル画像が、ファイル番号順に表示される。
【0109】
また、ユーザーが大切モードを選択した場合には、そのフォルダ内の、感性キー情報が“1”(好感キー情報)とされたfavoriteな属性情報を持つ画像ファイルのみが、DCFファイルシステムに準拠するファイル名中のファイル番号順に読み出され、図11(D)に示すように、ユーザーの気に入っている画像のサムネイル画像のみが、ファイル番号順に表示される。
【0110】
また、ユーザーがユーザー別モード、例えば父親モードを選択した場合には、そのフォルダ内の、対応するユーザー別アクセス頻度、例えば父親アクセス頻度が、所定値(所定回)以上、例えば3(3回)以上の画像ファイルのみが、DCFファイルシステムに準拠するファイル名中のファイル番号順に読み出され、図11(E)に示すように、favoriteな属性情報である、対応するユーザー別アクセス頻度データ、例えば父親アクセス頻度データが、所定値以上、例えば3以上の画像のサムネイル画像のみが、ファイル番号順に表示される。
【0111】
図12の左上に示すように、図11(C)(D)または(E)のようにサムネイル画像が配列表示された状態で、ユーザーは、アイコン形状のサムネイル画像の一つを選択する。これによって、システム制御部17は、その選択された画像のファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)中のDCF基本主画像またはDCF拡張画像ファイルのデータによって、ディスプレイ16上に、選択された画像の原画像1を表示する。
【0112】
同時に、このとき、システム制御部17によって、その画像ファイルから、ユーザーコメントデータ(画像内容情報、撮影場所情報、およびfavoriteな属性情報である感性キー情報およびユーザー別アクセス頻度データ)および撮影属性情報(撮影日時のデータ)が読み出され、これらデータから、構文構成部18での構文構成によって、メッセージ文が生成され、さらに、そのメッセージ文から、テキスト音声合成部19でのテキスト音声合成によって、音声ナレーションが出力される。
【0113】
また、上記のようにユーザー別モードが選択された場合には、このとき、対応するユーザー別アクセス頻度が1回カウントアップされる。図12は、父親モードが選択された場合で、父親アクセス頻度が1回カウントアップされる。
【0114】
図13に、閲覧モードでの構文構成の例を示す。この例では、ユーザー指定のユーザー命名フォルダ名によって、「犬」という単語が選択され、画像内容を示す文字列データによって、「家族」「チワワ」「モモちゃん」という単語が選択されるとともに、構文パターンに付加する語として「この」「は」「の」「の」「です」という語が選択されて、「この犬は家族のチワワのモモちゃんです」というメッセージ文が生成され、音声ナレーションが出力される。
【0115】
また、上述したファイル種類情報またはファイル拡張子によって、記録されているファイルの種類(この場合は画像ファイル)が判別されて、「画像」という単語が選択されるとともに、撮影日時のデータによって、「2002年」「11月21日」という、年と月日に分けられた単語が選択され、撮影場所を示す文字列データによって、「自宅」という単語が選択され、構文パターンに付加する語として「この」「は」「の」「に」「で」「撮影」「しました」という語が選択されて、「この画像は2002年の11月21日に自宅で撮影しました」というメッセージ文が生成され、音声ナレーションが出力される。
【0116】
この撮影日撮影場所メッセージ中の動詞は、ファイルの種類に応じて選択されるもので、この場合には、画像データが画像ファイルとして記録されるので、動詞として「撮影」が選択される。
【0117】
さらに、その画像ファイルに記録されている感性キー情報が“1”(好感キー情報)である場合には、あらかじめ構文構成部18に備えられているテンプレートによって、「お気に入りの画像です」というメッセージ文が生成され、音声ナレーションが出力される。
【0118】
なお、この感性メッセージについては、このように音声ナレーションを出力する代わりに、上記の画像内容メッセージや撮影日撮影場所メッセージの音声ナレーションを変調し、あるいは、システム制御部17内のメモリに記録されている効果音の音声データによって、「ピンポーン」というような効果音を出力して、ユーザーの気に入っている画像であることを示すように、DSCシステムを構成してもよい。
【0119】
また、ユーザー別モードが選択された場合には、対応するユーザー別アクセス頻度が所定値以上、例えば3以上であるときには、上記の画像内容メッセージや撮影日撮影場所メッセージの音声ナレーションを半音高くし、または上記の「ピンポーン」というような効果音を半音高くするなど、再生中の画像のアクセス頻度が所定値以上であること、または再生中の画像のアクセス頻度の程度を、音声によってメッセージすると、より好ましい。
【0120】
(早見モード:図14)
さらに、この実施形態では、ユーザーは、ディスプレイ16上にサムネイル画像を順次表示させ、表示されたサムネイル画像を順次選択することによって、サムネイル画像の表示状態のまま、音声ナレーションを出力させることができる。
【0121】
図14に、この早見モードで音声ナレーションを出力する場合の例を示す。
【0122】
この場合、ユーザーは、早見モードを選択した上で、フォルダ名のメニューを呼び出す操作をする。これによって、図14左上に示すように、ディスプレイ16上にフォルダ名メニュー画面2が表示される。
【0123】
ユーザーは、そのうちから、呼び出すフォルダのフォルダ名、例えば「犬」を指示する。これによって、システム制御部17は、上述したフォルダ名対照テーブルファイル9を参照して、例えば「犬」というユーザー指定のフォルダ名に対応する「103AAAAA」というDCFファイルシステムに準拠するフォルダ名のフォルダをファイル呼び出し先として、そのフォルダ内に記録されている各画像ファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)を、DCFファイルシステムに準拠するファイル名中のファイル番号順に読み出し、それぞれのDCF基本サムネイルまたはDCFサムネイルファイルのデータによって、ディスプレイ16上にサムネイル画像を順次表示する。
【0124】
ユーザーは、その順次表示されるサムネイル画像を順次選択する。これによって、システム制御部17は、サムネイル画像データ(DCF基本サムネイルまたはDCFサムネイルファイルのデータ)によってサムネイル画像を表示した状態で、その選択された画像のファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)から、ユーザーコメントデータ(画像内容情報、撮影場所情報、感性キー情報およびユーザー別アクセス頻度データ)および撮影属性情報(撮影日時のデータ)を読み出し、構文構成部18での構文構成およびテキスト音声合成部19でのテキスト音声合成によって、図13に示した「この犬は家族のチワワのモモちゃんです」「この画像は2002年の11月21日に自宅で撮影しました」「お気に入りの画像です」というようなメッセージ文を生成し、音声ナレーションを出力する。
【0125】
さらに、システム制御部17は、このように構文構成部18によって、選択された画像についてのメッセージ文を生成しつつ、次にサムネイル画像を表示すべき、すなわち次にユーザーによって選択されるべき画像のファイル(DCF基本ファイル、またはDCF拡張画像ファイルとDCFサムネイルファイルのペア)から、サムネイル画像データ(DCF基本サムネイルまたはDCFサムネイルファイルのデータ)を読み出す。
【0126】
これによって、選択された画像についての音声ナレーションの終了後、直ちに、次のサムネイル画像がディスプレイ16上に表示され、ユーザーは迅速かつ円滑に同一フォルダ内の各画像の内容などを知ることができる。
【0127】
なお、この早見モードでも、閲覧モードと同様に、ユーザーが大切モードまたはユーザー別モードを選択することによって、サムネイル画像を表示する画像ファイルを、感性キー情報が“1”(好感キー情報)とされた画像ファイルのみ、または対応するユーザー別アクセス頻度が所定値以上の画像ファイルのみに制限するように構成すると、より好適である。
【0128】
〔構文構成(テキスト生成):図15および図16〕
上述したように、図1の構文構成部18では、画像ファイルから読み出されたユーザーコメントデータまたは撮影属性情報をもとに、辞書解析および構文解析を実行して、メッセージ文を生成する。
【0129】
図15に、この構文構成部18の一例を示す。ただし、図1に示したインターフェース22および24は省略した。
【0130】
システム制御部17から構文構成部18には、画像関連情報、カメラ状態情報およびユーザー指示情報が送出される。
【0131】
画像関連情報は、ユーザーコメントデータ(画像内容情報、撮影場所情報、感性キー情報およびユーザー別アクセス頻度データ)、撮影属性情報(撮影日時のデータ)、ユーザー命名のフォルダ名、ファイル種類情報、ファイル拡張子などである。
【0132】
カメラ状態情報は、記録モード、閲覧モード、早見モードなどのカメラモードを示す情報、使用されているアプリケーションが何語で起動されているかを示す情報、その時点の時間帯や季節を示す情報などである。
【0133】
ユーザー指示情報は、ユーザーによってカメラ操作部21またはキー操作入力部23で指示された、出力音声ナレーションの言語、速度(話速)、高さ(周波数)、音色、音量などを示す情報である。
【0134】
構文構成部18は、制御部41、情報抽出部46およびテキスト生成部50によって構成され、その制御部41は、出力言語決定モジュール42、出力内容決定モジュール43および文体決定モジュール44によって構成され、情報抽出部46には、形態素境界判定部47および翻訳装置部48が設けられる。
【0135】
出力言語決定モジュール42は、(a)アプリケーションの起動言語、(b)ユーザー命名フォルダ名やユーザーコメントデータの文字列の言語、および(c)ユーザー指定の言語から、テキスト生成部50で生成するテキスト(メッセージ文)の言語を決定するものである。
【0136】
ただし、あらかじめ(a)(b)(c)の間に優先順位を設定しておいて、優先順位の高いものに従って出力言語を決定し、または、(a)(b)(c)を同一順位として、それらの間での多数決によって出力言語を決定するように構成する。
【0137】
(b)の文字列の言語を判定する方法としては、文字列の文字コードの種別によって判定する方法、文字列の並びの特徴から判定する方法、文字列を辞書で引くことによって判定する方法などを採ることができる。
【0138】
出力内容決定モジュール43は、テキスト生成部50で生成するテキスト(メッセージ文)の内容を決定するものである。ユーザーは、ユーザー指示情報として、詳細な文を生成すべきか簡潔な文を生成すべきか、文の語数、メッセージに要する時間、および複数のメッセージを生成できる場合に生成すべき文の数や種類(画像内容メッセージ、撮影日撮影場所メッセージ、感性メッセージなど)などを指示することができるように、DSCシステムを構成する。
【0139】
文体決定モジュール44は、テキスト生成部50で生成するテキスト(メッセージ文)の文体を決定するものである。ユーザーは、ユーザー指示情報として、丁寧な文体の文を生成すべきこと、くだけた文体の文を生成すべきこと、または特定の方言の文を生成すべきことなどを指示することができるように、DSCシステムを構成する。
【0140】
情報抽出部46は、入力された画像関連情報、カメラ状態情報およびユーザー指示情報から、制御部41によって指定された情報を抽出するもので、例えば、制御部41がユーザーコメントデータをもとにテキストを生成することを指示したときには、ユーザーコメントデータの文字列データを抽出する。
【0141】
具体的に、そのユーザーコメントデータの文字列が2つ以上の意味をなす単位(形態素:単語や語句)から構成されている場合、情報抽出部46は、形態素境界判定部47によって、その文字列の形態素境界を判定して、単語や語句を抽出する。
【0142】
形態素境界判定部47での形態素境界の判定は、最長一致法または分割数最小法のような経験則による方法、文法的な接続の可能性をチェックする方法、統計的な言語モデルを使用する方法などによって実行する。
【0143】
また、ユーザーコメントデータの文字列が、形態素境界に空白などのデリミタを含む文字列である場合には、情報抽出部46は、そのデリミタを手掛かりに、それぞれの単語や語句を抽出ことができる。
【0144】
また、ユーザーコメントデータの文字列の言語が、ユーザー指定の言語と異なる場合には、情報抽出部46は、翻訳装置部48の対訳辞書などによって、文字列から抽出した単語や語句をユーザー指定の言語に翻訳するように、または、単語や語句を抽出する前の文字列をユーザー指定の言語に翻訳し、翻訳後の文字列から単語や語句を抽出するように、構文構成部18を構成することができる。
【0145】
テキスト生成部50は、制御部41からの、出力言語、出力内容および文体を指示する情報と、情報抽出部46で抽出された単語や語句の情報とに基づいて、テキスト(メッセージ文)を生成するもので、図26に示すように、文字列解析モジュール51、テンプレート選択モジュール54およびテンプレート適用モジュール57によって構成される。
【0146】
文字列解析モジュール51は、情報抽出部46で得られた単語や語句を、ルールデータベース52および辞書データベース53と照らし合わせることによって、それぞれの単語や語句に、品詞情報などの言語的な情報を付与する。
【0147】
テキスト生成部50でのテキスト生成は、単語や語句をテンプレートに当てはめることによって実現される。テンプレートとしては、「これは<名詞/名詞句>です」などが挙げられる。
【0148】
テンプレート選択モジュール54は、制御部41からの情報に基づいて、ルールデータベース55および辞書データベース56を用いて、適切なテンプレートを選択する。
【0149】
例えば、ユーザーコメントデータの画像内容を示す文字列をもとに画像内容メッセージを生成する場合には、それ用のテンプレートが選択され、撮影日および撮影場所を示す文字列をもとに撮影日撮影場所メッセージを生成する場合には、それ用のテンプレートが選択され、感性キー情報をもとに感性メッセージを生成する場合には、それ用のテンプレートが選択される。
【0150】
また、ユーザー指示情報に応じて、選択するテンプレートを変え、例えば、丁寧な文体の文を生成すべきことが指示された場合には、上記のように「これは<名詞>です」というテンプレートを選択し、くだけた文体の文を生成すべきことが指示された場合には、「これは<名詞>だよ」というテンプレートを選択する。
【0151】
テンプレート適用モジュール57は、ルールデータベース58および辞書データベース59を用いて、入力された単語や語句を、テンプレート選択モジュール54で選択されたテンプレートに当てはめて、テキスト(メッセージ文)を生成する。
【0152】
例えば、テンプレート選択モジュール54で「これは<名詞/名詞句>です」というテンプレートが選択され、文字列解析モジュール51によって単語や語句が名詞または名詞句であるとされた場合には、その単語や語句を、「これは<名詞/名詞句>です」というテンプレートの<名詞/名詞句>の部分に当てはめて、テキストを生成する。
【0153】
また、入力された単語や語句をそのまま当てはめないで、概念(thesaurus)辞書の、単語間の概念的な関係を示すデータを用いて、入力された単語や語句を、同じ概念の語、または上位概念を有する語などで置き換えて、テンプレートに当てはめるように、テキスト生成部50を構成することもできる。
【0154】
例えば、ユーザーコメントデータの画像内容を示す文字列が「赤」「薔薇」であり、文字列解析モジュール51で、それらが共に名詞であると解析され、テンプレート選択モジュール54で、「これは<“色”>の<“花”>です」というテンプレート(“色”および“花”は概念)が選択された場合、概念辞書によって、赤の上位概念が色であり、「薔薇」の上位概念が花であることが分かるので、「赤」「薔薇」という単語は、選択されたテンプレートに当てはめることができると判定されて、「これは赤の薔薇です」という文が生成される。
【0155】
解析の結果、当該の単語や語句を、そのままテンプレートに当てはめることができないことが判明することもある。例えば、情報抽出部46で「駅前で見かけた」という語句が抽出されたとする。この語句を解析すると、「名詞+格助詞+動詞+助動詞」という品詞列が得られるが、これは、上記のテンプレートに当てはまらない。しかし、この語句に「もの」という形式名詞を追加することによって、語句全体が「駅前で見かけたもの」という名詞句になり、テンプレートに当てはめることができるようになる。このように、テンプレート適用モジュール57では、入力された単語や語句を、選択されたテンプレートに当てはめることができるように変形する。
【0156】
なお、上述したカメラ状態情報によって、例えば、DSCシステムの使用時間帯に応じて、ユーザーに対する挨拶文のテキストを生成し、上記のメッセージ文に付加することもできる。
【0157】
〔テキスト音声合成:図17および図18〕
図1のテキスト音声合成部19では、上記のように構文構成部18で生成されたテキスト(メッセージ文)から、テキスト音声合成によって、音声ナレーション用の音声波形データを生成する。
【0158】
図17に、テキスト音声合成部19の一例を示す。上述したカメラ状態情報およびユーザー指示情報は、テキスト音声合成部19にも送出される。
【0159】
この例のテキスト音声合成部19は、言語処理部61、韻律制御部71および波形生成部81によって構成される。
【0160】
言語処理部61は、ルールデータベース62および辞書データベース63を用いて、構文構成部18からのテキストを解析し、テキスト音声合成に必要な情報を抽出するもので、図18に示すように、テキスト解析モジュール64および韻律情報生成モジュール67によって構成される。
【0161】
テキスト解析モジュール64は、ルールデータベース65および辞書データベース66を用いて、入力テキストを解析して、形態素(単語や語句)に分割し、それぞれの形態素につき、品詞や読みなどの情報を得るものである。
【0162】
テキスト解析モジュール64でのテキスト解析は、最長一致法または分割数最小法のような経験則による方法、文法的な接続の可能性をチェックする方法、統計的な言語モデルを使用する方法、正規文法や文脈文法などの文法を用いる方法などによって実行する。
【0163】
以上のテキスト解析によって、構文構成部18から出力されたテキスト(メッセージ文)のそれぞれの単語や語句につき、品詞や読み、アクセント型などの情報が求められる。
【0164】
韻律情報生成モジュール67は、テキスト解析モジュール64の解析結果をもとに、ルールデータベース68内の、ルール、統計的な言語モデル、決定木を用いて、アクセント核位置やポーズ位置の決定、フレージング処理など、入力テキストを音声で読み上げるために必要な情報を求めるものである。
【0165】
テキスト解析モジュール64および韻律情報生成モジュール67からなる言語処理部61で得られた解析結果および情報は、音声記号列という中間的な表現形態で出力される。
【0166】
音声記号列は、IPA(国際音声字母)やSAMPAなどの一般的な発音記号を用いて記述してもよく、あるいは独自の発音記号を定めて記述してもよい。
【0167】
図17の韻律制御部71は、言語処理部61から音声記号列を受け取り、ルールデータベース72およびデータベース73を用いて、それぞれの音(音素)の継続時間長および基本周波数を求めるもので、図18に示すように、継続時間長決定モジュール74および基本周波数決定モジュール77によって構成される。
【0168】
継続時間長決定モジュール74は、ルールデータベース75およびデータベース76中の、あらかじめ大量のデータから学習して得られた、音韻環境と音の継続時間長との関係を示すルールおよびデータを用いて、音声記号列を解析し、それぞれの音(音素)の長さを決定するものである。
【0169】
音韻環境とは、それぞれの音素の文における位置、アクセントやストレスの有無、ポーズの長さ、フレーズやアクセントの強さなどである。
【0170】
基本周波数決定モジュール77は、ルールデータベース78およびデータベース79中の、あらかじめ大量のデータから学習して得られた、音韻環境と音の基本周波数との関係を示すルールおよびデータを用いて、音声記号列を解析し、それぞれの音(音素)のピッチを決定するものである。
【0171】
継続時間長決定モジュール74および基本周波数決定モジュール77からなる韻律制御部71で求められたデータは、韻律データという中間的な表現形態で出力される。
【0172】
図17および図18の波形生成部81は、韻律制御部71から出力された韻律データに従って、音素の並び、継続時間長および基本周波数などを考慮して、素片データベース82から適切な音声素片を選択し、必要に応じて変形を施した上で接続して、音声ナレーションの音声波形を示す音声データを生成するものである。
【0173】
さらに、この例では、ユーザーは、上述したユーザー指示情報によって、テキスト音声合成部19で生成される音声ナレーションの音声波形につき、話速、声の高さ、音色、音声レベルなどを指定することができる。
【0174】
語の発音やアクセントは、年代によって変化するが、テキスト音声合成部19の各部および各モジュールが、年代ごとにルール、辞書、データ、音声素片を保持し、ユーザーによって指定された年代のルール、辞書、データ、音声素片によって、解析、生成、決定などの処理を実行することによって、テキスト音声合成部19から出力される音声ナレーションとして、ユーザーによって指定された年代の発話の特徴を反映したものが得られる。
【0175】
また、上述したカメラ状態情報によって、例えば、DSCシステムの使用時間帯に応じて、テキスト音声合成部19で生成される音声ナレーションの音声波形につき、話速、声の高さ、音色、音声レベルなどを変化させ、例えば、朝には声を高くし、深夜には音声レベルを下げるなどの制御を行うことができる。また、季節や特定日に合わせて、テキスト音声合成による音声にBGMを付加することもできる。
【0176】
図1で上述したように、テキスト音声合成部19で生成された音声データは、D/Aコンバータ27でアナログ音声信号に変換され、その音声信号が音声増幅回路28で増幅されてスピーカ29に供給され、スピーカ29から音声ナレーションが出力される。
【0177】
〔他の実施形態〕
上述した実施形態は、ユーザー入力の撮影場所を示す文字列データを、ユーザーコメントデータとして画像ファイルのユーザーコメント欄に書き込み、画像再生時、「この画像は2002年の11月21日に自宅で撮影しました」というようなメッセージ文を生成し、音声ナレーションを出力する場合であるが、DSCシステムにGPS(Global Positioning System)受信機を設け、または接続できるようにし、このGPS受信機で測定された撮影位置を、ユーザーコメントデータとして画像ファイルのユーザーコメント欄に書き込み、画像再生時、「この画像は2002年の11月21日に北緯35度25分、東経138度54分の場所で撮影しました」というようなメッセージ文を生成し、音声ナレーションを出力するように、システムを構成することもできる。
【0178】
さらに、DSCシステムまたはCPU受信機が地図メモリを備え、撮影時、その地図メモリを参照して、GPS受信機で測定された「北緯35度25分、東経138度54分」というような撮影位置を、「山中湖近傍」というような撮影場所に変換して、ユーザーコメントデータとして画像ファイルのユーザーコメント欄に書き込み、画像再生時、「この画像は2002年の11月21日に山中湖近傍で撮影しました」というようなメッセージ文を生成し、音声ナレーションを出力するように、システムを構成することもできる。
【0179】
なお、上述した実施形態は、画像ファイルフォーマットとしてExifファイルフォーマットのDCFファイルシステムを用いる場合であるが、将来的に考えられるファイルフォーマットまたはファイルシステムを用いることもできる。
【0180】
また、上述した実施形態は、この発明をDSCに適用した場合であるが、この発明は、DSCに限らず、カメラ付きPDAやカメラ付き携帯電話端末などにも適用することができる。
【0181】
また、カメラ一体型ポータブルディスク装置に適用する場合にも、DCFファイルシステムの拡張ファイルシステムでの実施形態と同様に、インデックスファイルが別ファイルで構成されて、外部参照ファイルとして主画像、映像、音声ファイルを持ち、さらにユーザーデータ領域を外部参照ファイルとして持ち、それらのファイルにアクセスする、Audio&Visualコンテンツファイル用のナビゲーションファイルシステムやプレイリスト、Audio&Visualコンテンツファイルへのアクセスのためのインデックスファイルシステムに用いることができる。
【0182】
【発明の効果】
上述したように、この発明によれば、ユーザーとしては簡単な操作や入力によって、または特に操作や入力を必要とすることなく、再生される画像がユーザーの気に入っている画像であるか否かをユーザーに的確に提示することができ、ユーザーは自分の気に入っている画像を容易かつ確実に検索することができる。
【0183】
しかも、音声メッセージの出力のために画像ファイルとは別の音声ファイルなどにアクセスする必要がないので、記録メディアが光ディスクのようなメディア上のシークに時間がかかるものである場合でも、画像の再生および音声メッセージの出力のためのファイルへのアクセス時間が増加することがない。
【0184】
さらに、画像ファイルとは別に音声ファイルなどを記録する必要がないので、ファイル書き込み回数が増加することがなく、記録メディアとして、書き込み回数に制限のあるメモリや、一括して書き込み消去を行う必要のある、例えばフラッシュメモリを用いたメモリカードを用いる場合、記録メディアを長く使用することができる。
【図面の簡単な説明】
【図1】この発明の画像記録再生装置の一実施形態のDSCシステムを示す図である。
【図2】画像ファイルフォーマットの一例を示す図である。
【図3】フォルダ名対照テーブルファイルと画像ファイルの一例を示す図である。
【図4】フォルダ名対照テーブルファイルと画像ファイルの他の例を示す図である。
【図5】音声ファイルフォーマットの一例を示す図である。
【図6】画像関連情報の書き込み読み出し制御の一例を示す図である。
【図7】画像関連情報の書き込み読み出し制御の他の例を示す図である。
【図8】キー操作入力部の一例を示す図である。
【図9】ユーザーコメントデータの入力方法の一例を示す図である。
【図10】ユーザーコメントデータの入力方法の他の例を示す図である。
【図11】閲覧モードの説明に供する図である。
【図12】閲覧モードの説明に供する図である。
【図13】閲覧モードでの構文構成の説明に供する図である。
【図14】早見モードの説明に供する図である。
【図15】構文構成部の一例を示す図である。
【図16】構文構成部中のテキスト生成部の一例を示す図である。
【図17】テキスト音声合成部の一例を示す図である。
【図18】テキスト音声合成部の各部の具体例を示す図である。
【符号の説明】
主要部については図中に全て記述したので、ここでは省略する。
Claims (16)
- 画像を撮影し、定められたファイルフォーマットの画像ファイルとして記録メディアに記録する撮影記録工程と、
ユーザーの操作に基づいて、前記画像がユーザーの気に入っている画像であることを示す好感キー情報を、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録する情報記録工程と、
前記画像ファイルとして記録された画像の原画像またはサムネイル画像を再生する画像再生工程と、
前記好感キー情報に基づいて、再生する画像がユーザーの気に入っている画像であることを、音声によってメッセージするメッセージ工程と、
を備える画像記録再生方法。 - 請求項1の画像記録再生方法において、
前記メッセージ工程では、前記好感キー情報に基づいて構文構成によってメッセージ文を生成し、そのメッセージ文に基づいてテキスト音声合成によって音声ナレーションを生成する画像記録再生方法。 - 請求項1の画像記録再生方法において、
撮影された画像に関連する情報を、文字列データとして、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録する文字列記録工程を備え、
前記メッセージ工程では、前記文字列データに基づいて構文構成によって画像関連メッセージ文を生成し、そのメッセージ文に基づいてテキスト音声合成によって音声ナレーションを生成し、その音声ナレーションを前記好感キー情報によって変調する画像記録再生方法。 - 請求項1の画像記録再生方法において、
前記メッセージ工程では、前記音声メッセージとして、あらかじめ定められた効果音を出力する画像記録再生方法。 - 請求項1の画像記録再生方法において、
前記画像再生工程では、サムネイル画像を再生する際、前記画像ファイル中に前記好感キー情報が記録されている画像のみを再生する画像記録再生方法。 - 画像を撮影し、定められたファイルフォーマットの画像ファイルとして記録メディアに記録する撮影記録工程と、
前記画像ファイルとして記録された画像の原画像またはサムネイル画像を再生する画像再生工程と、
前記画像ファイルとして記録された画像の原画像を再生した回数を、当該の画像に対するアクセス頻度として、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録するとともに、当該の画像の原画像を再生するごとにカウントアップする処理工程と、
を備える画像記録再生方法。 - 請求項6の画像記録再生方法において、
前記画像再生工程では、サムネイル画像を再生する際、前記アクセス頻度が所定値以上の画像のみを再生する画像記録再生方法。 - 請求項6の画像記録再生方法において、
再生する画像ファイル中に記録されているアクセス頻度データに基づいて、再生中の画像のアクセス頻度が所定値以上であること、または再生中の画像のアクセス頻度の程度を、音声によってメッセージする工程を備える画像記録再生方法。 - 画像を撮影する撮像手段と、
その撮影された画像を、定められたファイルフォーマットの画像ファイルとして記録メディアに記録する画像記録手段と、
ユーザーの操作に基づいて、前記画像がユーザーの気に入っている画像であることを示す好感キー情報を、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録する情報記録手段と、
前記画像ファイルとして記録された画像の原画像またはサムネイル画像を再生する画像再生手段と、
前記好感キー情報に基づいて、再生される画像がユーザーの気に入っている画像であることを、音声によってメッセージするメッセージ手段と、
を備える画像記録再生装置。 - 請求項9の画像記録再生装置において、
前記メッセージ手段は、前記好感キー情報に基づいて構文構成によってメッセージ文を生成し、そのメッセージ文に基づいてテキスト音声合成によって音声ナレーションを生成する画像記録再生装置。 - 請求項9の画像記録再生装置において、
撮影された画像に関連する情報を、文字列データとして、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録する文字列記録手段を備え、
前記メッセージ手段は、前記文字列データに基づいて構文構成によって画像関連メッセージ文を生成し、そのメッセージ文に基づいてテキスト音声合成によって音声ナレーションを生成し、その音声ナレーションを前記好感キー情報によって変調する画像記録再生装置。 - 請求項9の画像記録再生装置において、
前記メッセージ手段は、前記音声メッセージとして、あらかじめ定められた効果音を出力する画像記録再生装置。 - 請求項9の画像記録再生装置において、
前記画像再生手段は、サムネイル画像を再生する際、前記画像ファイル中に前記好感キー情報が記録されている画像のみを再生する画像記録再生装置。 - 画像を撮影する撮像手段と、
その撮影された画像を、定められたファイルフォーマットの画像ファイルとして記録メディアに記録する画像記録手段と、
前記画像ファイルとして記録された画像の原画像またはサムネイル画像を再生する画像再生手段と、
前記画像ファイルとして記録された画像の原画像を再生した回数を、当該の画像に対するアクセス頻度として、前記画像ファイルの前記ファイルフォーマットで指定された領域に記録するとともに、当該の画像の原画像を再生するごとにカウントアップする処理手段と、
を備える画像記録再生装置。 - 請求項14の画像記録再生装置において、
前記画像再生手段は、サムネイル画像を再生する際、前記アクセス頻度が所定値以上の画像のみを再生する画像記録再生装置。 - 請求項14の画像記録再生装置において、
再生される画像ファイル中に記録されているアクセス頻度データに基づいて、再生中の画像のアクセス頻度が所定値以上であること、または再生中の画像のアクセス頻度の程度を、音声によってメッセージする手段を備える画像記録再生装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003109290A JP4189653B2 (ja) | 2003-04-14 | 2003-04-14 | 画像記録再生方法および画像記録再生装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003109290A JP4189653B2 (ja) | 2003-04-14 | 2003-04-14 | 画像記録再生方法および画像記録再生装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004320233A true JP2004320233A (ja) | 2004-11-11 |
JP4189653B2 JP4189653B2 (ja) | 2008-12-03 |
Family
ID=33470495
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003109290A Expired - Fee Related JP4189653B2 (ja) | 2003-04-14 | 2003-04-14 | 画像記録再生方法および画像記録再生装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4189653B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006310944A (ja) * | 2005-04-26 | 2006-11-09 | Fuji Photo Film Co Ltd | 撮影装置 |
JP2007102765A (ja) * | 2005-09-06 | 2007-04-19 | Ricoh Co Ltd | 情報処理装置、情報記録システム、情報記録方法、並びにプログラムおよび記録媒体 |
JP2017503394A (ja) * | 2014-12-14 | 2017-01-26 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 映像処理方法、映像処理装置および表示装置 |
US9973728B2 (en) | 2014-12-14 | 2018-05-15 | SZ DJI Technology Co., Ltd. | System and method for supporting selective backtracking data recording |
-
2003
- 2003-04-14 JP JP2003109290A patent/JP4189653B2/ja not_active Expired - Fee Related
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006310944A (ja) * | 2005-04-26 | 2006-11-09 | Fuji Photo Film Co Ltd | 撮影装置 |
JP2007102765A (ja) * | 2005-09-06 | 2007-04-19 | Ricoh Co Ltd | 情報処理装置、情報記録システム、情報記録方法、並びにプログラムおよび記録媒体 |
JP2017503394A (ja) * | 2014-12-14 | 2017-01-26 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 映像処理方法、映像処理装置および表示装置 |
US9973728B2 (en) | 2014-12-14 | 2018-05-15 | SZ DJI Technology Co., Ltd. | System and method for supporting selective backtracking data recording |
US20180227539A1 (en) | 2014-12-14 | 2018-08-09 | SZ DJI Technology Co., Ltd. | System and method for supporting selective backtracking data recording |
US10284808B2 (en) | 2014-12-14 | 2019-05-07 | SZ DJI Technology Co., Ltd. | System and method for supporting selective backtracking data recording |
US10567700B2 (en) | 2014-12-14 | 2020-02-18 | SZ DJI Technology Co., Ltd. | Methods and systems of video processing |
US10771734B2 (en) | 2014-12-14 | 2020-09-08 | SZ DJI Technology Co., Ltd. | System and method for supporting selective backtracking data recording |
US11095847B2 (en) | 2014-12-14 | 2021-08-17 | SZ DJI Technology Co., Ltd. | Methods and systems of video processing |
Also Published As
Publication number | Publication date |
---|---|
JP4189653B2 (ja) | 2008-12-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2207165B1 (en) | Information processing apparatus and text-to-speech method | |
JP4127668B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US20100082344A1 (en) | Systems and methods for selective rate of speech and speech preferences for text to speech synthesis | |
US20080208574A1 (en) | Name synthesis | |
JP2003330777A (ja) | データファイル再生装置、記録メディア、データファイル記録装置及びデータファイル記録プログラム | |
JP2013072957A (ja) | 文書読み上げ支援装置、方法及びプログラム | |
KR101100191B1 (ko) | 멀티미디어 재생장치와 이를 이용한 멀티미디어 자료검색방법 | |
JP5106608B2 (ja) | 読み上げ支援装置、方法、およびプログラム | |
JP2849504B2 (ja) | 自動読書装置 | |
KR101567449B1 (ko) | 음성인식에 기반한 애니메이션 재생이 가능한 전자책 단말기 및 그 방법 | |
JP5465926B2 (ja) | 音声認識辞書作成装置及び音声認識辞書作成方法 | |
US20050192714A1 (en) | Travel assistant device | |
JP4189653B2 (ja) | 画像記録再生方法および画像記録再生装置 | |
JP2000231475A (ja) | マルチメディア情報閲覧システムにおける音声読み上げ方法 | |
JP2004289560A (ja) | 画像記録再生方法および画像記録再生装置 | |
JP4697432B2 (ja) | 音楽再生装置、音楽再生方法及び音楽再生用プログラム | |
KR20050060753A (ko) | Tts탐색기능을 지원하는 방법 및 이를 이용한멀티미디어 장치 | |
US20040193592A1 (en) | Recording and reproduction apparatus | |
US20060248105A1 (en) | Interactive system for building and sharing databank | |
JP2011064969A (ja) | 音声認識装置及び音声認識方法 | |
JP2005326811A (ja) | 音声合成装置および音声合成方法 | |
JP2008021235A (ja) | 読み登録システム及び読み登録プログラム | |
JP4765274B2 (ja) | 音声合成装置及び音声合成方法 | |
KR20020006620A (ko) | 휴대용 시디재생장치 및 자막표시 오디오시디 및 이를이용한 학습시스템 | |
JP2004294577A (ja) | 文字情報音声変換方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060330 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080820 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080902 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110926 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4189653 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110926 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120926 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120926 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130926 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |