JP2009100351A - Information processing device, information processing system, and information processing method - Google Patents

Information processing device, information processing system, and information processing method Download PDF

Info

Publication number
JP2009100351A
JP2009100351A JP2007271410A JP2007271410A JP2009100351A JP 2009100351 A JP2009100351 A JP 2009100351A JP 2007271410 A JP2007271410 A JP 2007271410A JP 2007271410 A JP2007271410 A JP 2007271410A JP 2009100351 A JP2009100351 A JP 2009100351A
Authority
JP
Japan
Prior art keywords
information
data
recipe
recipe information
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007271410A
Other languages
Japanese (ja)
Inventor
Fumiaki Suzuki
文明 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2007271410A priority Critical patent/JP2009100351A/en
Publication of JP2009100351A publication Critical patent/JP2009100351A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Character Discrimination (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an information processing device for acquiring recipe information from video data. <P>SOLUTION: An information processing device is provided for storage, search and display of recipe information extracted by performing image recognition processing for video data. A recipe information creation determination part 520 determines whether it is a cooking program by program information acquired by an EPG or the like. If it is a cooking program, still picture data is acquired from video data by a capture part 30. Furthermore, character recognition is carried out on the still picture data by an image recognition processing part 60. Also, a character data determination processing part determines whether the recipe information is included in character data subjected to character recognition. When character data is included, a still picture data read/write processing part 560 stores the still picture data in a storage part 40. A recipe information management data preparing part 510 also stores management information of the still picture data in the storage part 40. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は情報処理装置、情報処理システム、及び情報処理方法に係り、特に映像データからレシピ情報を抽出する情報処理装置、情報処理システム、及び情報処理方法に関する。   The present invention relates to an information processing device, an information processing system, and an information processing method, and more particularly to an information processing device, an information processing system, and an information processing method for extracting recipe information from video data.

テレビジョン放送における料理番組は、調理の材料の分量や調理法が紙に書かれたレシピのみを参考にして自分で調理するのと比べて、より具体的に実際の調理の様子を映像で見ながら調理ができるという利点がある。
しかしながら、料理番組では、実際の材料の分量等を示すレシピは、ごく短時間しか表示されないという問題がある。
Compared to cooking by yourself with reference to only recipes on paper, the amount of cooking ingredients and cooking methods are more specific for watching TV programs. There is an advantage that you can cook while.
However, in the cooking program, there is a problem that the recipe showing the actual amount of ingredients is displayed only for a very short time.

つまり、料理番組を基にして実際に料理をつくる場合は、その料理番組の視聴者であるユーザは、視聴しながらメモを取るか、録画しておいて後でそれを見ながら作る必要がある。よって、いずれの場合でもユーザは料理番組をすべて視聴しなければならない。
これは、ただ特定の料理を作りたいだけのユーザには、時間の浪費となるために不便であった。
In other words, when actually creating a dish based on a cooking program, the user who is the viewer of the cooking program needs to take notes while watching or record and watch it later. . Therefore, in any case, the user must watch all the cooking programs.
This is inconvenient for users who just want to make a particular dish, because it is a waste of time.

そこで、テレビジョンの料理番組において、番組放送時に予め用意していたレシピ情報を、番組に付随する文字放送データとして送信するシステムが実用化されている。
これにより、テレビジョン受信機における料理番組の本放送の受信中や、録画した番組内の文字放送データの閲覧中は、ユーザは、いつでも文字情報化されたレシピ情報を閲覧することができる。
In view of this, in a cooking program for television, a system for transmitting recipe information prepared in advance at the time of program broadcasting as character broadcast data accompanying the program has been put into practical use.
Thereby, the user can browse the recipe information converted into character information at any time while receiving the main broadcast of the cooking program in the television receiver or browsing the text broadcast data in the recorded program.

この種の技術としては、特許文献1の段落〔0046〕を参照すると、レシピを表示する食情報装置が記載されている(以下、従来技術1とする。)。
従来技術1の装置は、テレビの電波放送において、放送者が番組に付随するレシピ情報である食情報コードを予め用意して放送電波の走査線の帰線期間内に入れ込んでおくと、従来技術1の食情報装置がこの食情報コードを受信して電子的に表示することができる。これにより、ユーザは従来技術1の食情報装置によりレシピをいつでも閲覧することができる。
ここで、従来技術1の食情報コードは、特許文献1の段落〔0037〕を参照すると、上述の文字放送と同様にコード化された文字情報と、その他にアスキーコード化された音声情報と、JPEGやJBIG等の画像圧縮技術でコード化した画像を用いることが記載されている。
特開平8−272808号公報
As this type of technology, referring to paragraph [0046] of Patent Document 1, a food information device for displaying a recipe is described (hereinafter referred to as Conventional Technology 1).
In the apparatus of prior art 1, in a radio wave broadcast on a television, when a broadcaster prepares in advance a food information code that is recipe information attached to a program and puts it in the blanking period of the scan line of the broadcast radio wave, The food information device of technology 1 can receive this food information code and display it electronically. Thereby, the user can browse a recipe at any time by the food information apparatus of the prior art 1.
Here, with reference to paragraph [0037] of Patent Document 1, as for the food information code of the prior art 1, character information encoded in the same manner as the above-mentioned character broadcasting, audio information encoded in ASCII code, It describes that an image coded by an image compression technique such as JPEG or JBIG is used.
JP-A-8-272808

しかしながら、従来の文字放送や従来技術1においては、番組に付随したレシピ情報を閲覧するためには、予め放送にレシピ情報である文字情報や別の画像を用意して入れ込む必要があった。
また、従来技術1の装置は、その装置用に配信された食情報コードしか読み取ることができず、汎用性がないという問題があった。
However, in the conventional text broadcasting and the prior art 1, in order to view the recipe information attached to the program, it is necessary to prepare and insert text information as recipe information and another image in advance in the broadcast.
Moreover, the apparatus of the prior art 1 can read only the food information code distributed for the apparatus and has a problem that it is not versatile.

本発明は、このような状況に鑑みてなされたものであり、上述の課題を解消することを課題とする。   This invention is made | formed in view of such a condition, and makes it a subject to eliminate the above-mentioned subject.

本発明の情報処理装置は、映像データの画像認識処理を行う情報処理装置であって、前記映像データから前記画像認識処理により料理のレシピ情報を抽出する制御手段を備えることを特徴とする。
本発明の情報処理装置は、前記制御手段は、前記映像データから文字認識を行う文字認識手段を備え、前記文字認識手段は、前記映像データから静止画データを取得するキャプチャ手段と、前記静止画データを用いて文字認識を行う画像認識手段とを備えることを特徴とする。
本発明の情報処理装置は、前記制御手段は、前記文字認識された文字データから前記レシピ情報を抽出するレシピ情報抽出手段を備えることを特徴とする。
本発明の情報処理装置は、前記レシピ情報抽出手段は、映像データの付随情報から前記静止画データを取得するか判断する判断手段を備えることを特徴とする。
本発明の情報処理装置は、前記レシピ情報抽出手段は、前記静止画データの一覧表示をする一覧表示手段を備えることを特徴とする。
本発明の情報処理装置は、前記制御手段は、前記静止画データと前記映像データの付随情報を記憶する記憶手段を備え、前記レシピ情報抽出手段は、前記記憶手段に記憶された前記静止画データを前記画像認識手段により文字認識を行いキーワードと一致するか検索する検索手段を備えることを特徴とする。
本発明の情報処理装置は、前記記憶手段は、前記レシピ情報の文字データも記憶する記憶手段であることを特徴とする。
本発明の情報処理装置は、前記レシピ情報抽出手段は、前記レシピ情報の文字データと前記付随情報についてレシピ情報管理データを作成して前記記憶手段に記憶するレシピ情報管理データ作成手段を備えることを特徴とする。
本発明の情報処理装置は、前記検索手段は、前記キーワードを前記レシピ情報管理データからも検索する検索手段であることを特徴とする。
本発明の情報処理装置は、前記映像データは、アナログ放送又はデジタル放送から取得した映像データであり、前記映像データの付随情報は番組ジャンルの情報であることを特徴とする。
本発明の情報処理システムは、映像データの画像認識処理を行う情報処理装置と端末を備える情報処理システムであって、前記情報処理装置は、前記映像データから前記画像認識処理により料理のレシピ情報を抽出する制御手段を備え、前記端末は、前記情報処理装置の静止画データ及び/又は前記レシピ情報を表示する表示手段を備え、前記情報処理装置と前記端末とを接続するネットワーク手段を備えることを特徴とする。
本発明の情報処理システムは、前記制御手段は、前記映像データから文字認識を行う文字認識手段を備え、前記文字認識手段は、前記映像データから静止画データを取得するキャプチャ手段と、前記静止画データを用いて文字認識を行う画像認識手段とを備えることを特徴とする。
本発明の情報処理システムは、前記制御手段は、前記文字認識された文字データから前記レシピ情報を抽出するレシピ情報抽出手段を備え、前記レシピ情報抽出手段は、前記レシピ情報の文字データと映像データの付随情報についてレシピ情報管理データを作成して記憶手段に記憶するレシピ情報管理データ作成手段と、前記キーワードを前記レシピ情報管理データからも検索する検索手段とを備えることを特徴とする。
本発明の情報処理方法は、映像データの画像認識処理を行う情報処理装置において、
映像データから文字認識を行い、文字認識された文字データに料理のレシピ情報が含まれている場合に前記レシピ情報を抽出することを特徴とする。
本発明の情報処理方法は、前記映像データから静止画データを取得し、前記静止画データから文字認識を行うことを特徴とする。
本発明の情報処理方法は、前記静止画データを記憶し、記憶された前記静止画データから文字認識を行い、前記レシピ情報を検索して一覧表示することを特徴とする。
An information processing apparatus according to the present invention is an information processing apparatus that performs image recognition processing of video data, and includes control means for extracting cooking recipe information from the video data by the image recognition processing.
In the information processing apparatus of the present invention, the control means includes character recognition means for recognizing characters from the video data, and the character recognition means includes capture means for acquiring still image data from the video data, and the still image And image recognition means for performing character recognition using data.
The information processing apparatus according to the present invention is characterized in that the control means includes a recipe information extraction means for extracting the recipe information from the character-recognized character data.
The information processing apparatus according to the present invention is characterized in that the recipe information extraction unit includes a determination unit that determines whether to acquire the still image data from accompanying information of video data.
The information processing apparatus according to the present invention is characterized in that the recipe information extraction means includes list display means for displaying a list of the still image data.
In the information processing apparatus of the present invention, the control means includes storage means for storing accompanying information of the still image data and the video data, and the recipe information extraction means is the still image data stored in the storage means. The image recognition means comprises character recognition and search means for searching for a match with the keyword.
In the information processing apparatus according to the present invention, the storage unit is a storage unit that also stores character data of the recipe information.
In the information processing apparatus of the present invention, the recipe information extraction unit includes a recipe information management data creation unit that creates recipe information management data for the character data of the recipe information and the accompanying information and stores the recipe information in the storage unit. Features.
The information processing apparatus according to the present invention is characterized in that the search means is search means for searching the keyword also from the recipe information management data.
In the information processing apparatus according to the present invention, the video data is video data acquired from an analog broadcast or a digital broadcast, and the accompanying information of the video data is program genre information.
An information processing system according to the present invention is an information processing system including an information processing device that performs image recognition processing of video data and a terminal, and the information processing device obtains cooking recipe information from the video data by the image recognition processing. Control means for extracting, and the terminal comprises display means for displaying still image data and / or recipe information of the information processing apparatus, and network means for connecting the information processing apparatus and the terminal. Features.
In the information processing system of the present invention, the control means includes character recognition means for recognizing characters from the video data, and the character recognition means includes capture means for acquiring still image data from the video data, and the still image And image recognition means for performing character recognition using data.
In the information processing system of the present invention, the control unit includes a recipe information extraction unit that extracts the recipe information from the character-recognized character data, and the recipe information extraction unit includes the character data and video data of the recipe information. It includes a recipe information management data creating means for creating recipe information management data for the accompanying information and storing it in a storage means, and a search means for retrieving the keyword from the recipe information management data.
An information processing method of the present invention is an information processing apparatus that performs image recognition processing of video data.
Character recognition is performed from video data, and the recipe information is extracted when the character-recognized character data includes cooking recipe information.
The information processing method of the present invention is characterized in that still image data is acquired from the video data and character recognition is performed from the still image data.
The information processing method of the present invention stores the still image data, performs character recognition from the stored still image data, searches the recipe information, and displays the list.

本発明によれば、画像認識手段を用いることで、予め放送電波に付随したレシピ情報がなくても、汎用的な番組の映像データからレシピ情報を作成する情報処理装置を提供することができる。   According to the present invention, it is possible to provide an information processing apparatus that creates recipe information from video data of a general-purpose program without using recipe information associated with broadcast radio waves in advance by using image recognition means.

<実施の形態>
(制御構成)
図1を参照すると、本発明の実施の形態に係る情報処理装置Xは、液晶テレビジョン受信機、DVDレコーダ、ネットワーク接続テレビジョン受信装置、レシピ抽出専用テレビジョン受信等であり、あるいはPC(パーソナル・コンピュータ)用ビデオキャプチャデバイスとこのデバイス用のソフトウェア等である。
この情報処理装置Xは、共通のバスにより、映像受信処理部10と、番組情報取得部20と、番組情報解析部25と、キャプチャ部30(キャプチャ手段)と、記憶部40(記憶手段)と、レシピ情報作成処理部50と、画像認識処理部60(画像認識手段)と、自然言語処理部70と、GUI処理部80とを備えている。これらの構成要素を制御手段とする。また、キャプチャ部30と、画像認識処理部60と、自然言語処理部70とにより、文字認識手段の機能を実現する。
情報処理装置Xは、実行する機能毎に各部位の制御構成を能動的に変更する再構成が可能な構造(リコンフィギュララブル)を備えている。
<Embodiment>
(Control configuration)
Referring to FIG. 1, an information processing apparatus X according to an embodiment of the present invention is a liquid crystal television receiver, a DVD recorder, a network connection television receiver, a recipe extraction dedicated television receiver, or the like, or a PC (personal computer). A computer) video capture device and software for this device.
The information processing apparatus X includes a video reception processing unit 10, a program information acquisition unit 20, a program information analysis unit 25, a capture unit 30 (capture unit), and a storage unit 40 (storage unit) via a common bus. A recipe information creation processing unit 50, an image recognition processing unit 60 (image recognition means), a natural language processing unit 70, and a GUI processing unit 80 are provided. These components are used as control means. The capture unit 30, the image recognition processing unit 60, and the natural language processing unit 70 implement the function of character recognition means.
The information processing apparatus X includes a reconfigurable structure (reconfigurable) that actively changes the control configuration of each part for each function to be executed.

そして、上記の映像受信処理部10は、アンテナからの放送電波を受信するアナログ又はデジタルチューナと、外部映像入力端子と、放送電波と放送に付随する情報をデジタルデータに変換する変換部とを備える。
番組情報取得部20は、放送に付随する情報であるEPG(Electronic Program Guide)の番組情報や文字放送等の付随情報を取得する部位である。
番組情報解析部25は、上述の番組情報や文字放送等の付随情報から、必要な情報を抽出する部位である。
キャプチャ部30は、デジタルデータである映像データから静止画である静止画データを取得する部位である。
記憶部40は、RAM、SRAM、バッテリバックアップSRAM、ROM、HDD、NAND/NOR型のフラッシュメモリや、外付けのメモリカード等である。
レシピ情報作成処理部50は、上述の映像データ、静止画データと付随情報とからレシピ情報や映像のインデックス等を作成する部位である。
画像認識処理部60は、静止画データの画像処理と画像認識又は文字認識を行う専用の画像・映像処理用のMPUやDSP(デジタル・シグナル・プロセッサ)又は/及びOCR(Optical Character Reader、Optical Character Recognition)の画像認識プログラム等である。
自然言語処理部70は、文字情報から所定の予約語を抽出し、統計計算や人工知能的な処理により文法・文脈推定をするような自然言語処理を行うDSP又は/及びプログラム等である。
GUI処理部80は、ボタン等の入力部からのユーザのコマンドを検知して、液晶パネル等である表示部に情報を出力する、GUI(グラフィカル・ユーザ・インターフェイス)の処理を行う部位である。
The video reception processing unit 10 includes an analog or digital tuner that receives a broadcast radio wave from an antenna, an external video input terminal, and a conversion unit that converts the broadcast radio wave and information accompanying the broadcast into digital data. .
The program information acquisition unit 20 is a part that acquires EPG (Electronic Program Guide) program information, which is information associated with broadcasting, and accompanying information such as text broadcasting.
The program information analysis unit 25 is a part that extracts necessary information from the above-mentioned program information and accompanying information such as text broadcasting.
The capture unit 30 is a part that acquires still image data that is a still image from video data that is digital data.
The storage unit 40 is a RAM, SRAM, battery backup SRAM, ROM, HDD, NAND / NOR type flash memory, an external memory card, or the like.
The recipe information creation processing unit 50 is a part that creates recipe information, a video index, and the like from the above-described video data, still image data, and accompanying information.
The image recognition processing unit 60 is a dedicated image / video processing MPU or DSP (digital signal processor) or / and OCR (Optical Character Reader, Optical Character) that performs image processing of still image data and image recognition or character recognition. (Recognition) image recognition program.
The natural language processing unit 70 is a DSP or / and a program that performs natural language processing such as extracting predetermined reserved words from character information and performing grammar / context estimation by statistical calculation or artificial intelligence processing.
The GUI processing unit 80 is a part that performs GUI (graphical user interface) processing that detects a user command from an input unit such as a button and outputs information to a display unit such as a liquid crystal panel.

上記レシピ情報作成処理部50は、レシピ情報管理データ作成部510(レシピ情報管理データ作成手段)と、レシピ情報作成判断部520(判断手段)と、文字データ判断処理部540(レシピ情報抽出手段)と、レシピ情報抽出部550(検索手段)と、静止画データ読込/書込処理部560と、レシピ一覧表示処理部570(一覧表示手段)と、レシピ情報管理データ読み込み処理部580の各機能を備えている。
そして上記のレシピ情報作成処理部50の各機能は、CPUやMPUやDSPやレシピ情報作成専用プロセッサによりROM又はHDD等の補助記憶装置に記憶されたレシピ情報作成処理プログラムがRAM等の主記憶装置にロードされて実行されることで実現される。
The recipe information creation processing unit 50 includes a recipe information management data creation unit 510 (recipe information management data creation unit), a recipe information creation judgment unit 520 (judgment unit), and a character data judgment processing unit 540 (recipe information extraction unit). Functions of the recipe information extraction unit 550 (search means), still image data read / write processing unit 560, recipe list display processing unit 570 (list display means), and recipe information management data read processing unit 580. I have.
Each function of the recipe information creation processing unit 50 is such that a recipe information creation processing program stored in an auxiliary storage device such as a ROM or HDD by a CPU, MPU, DSP, or recipe information creation dedicated processor is a main storage device such as a RAM. It is realized by being loaded and executed.

上記のレシピ情報管理データ作成部510は、記憶部40に記憶するレシピ情報の管理データであるレシピ情報管理データを作成する部位である。
レシピ情報作成判断部520は、自然言語処理部70で処理された文字情報からレシピ情報を作成するか判断する部位である。
文字データ判断処理部540は、自然言語処理部70で処理された文字情報から文字データを取得したか判断する部位である。
レシピ情報抽出部550は、GUI処理部80に入力された検索キーワードにレシピ情報を基に記憶部40からレシピ情報を検索する部位である。
静止画データ読込/書込処理部560は、記憶部40との間で、レシピの静止画データの読み込みや書き込みを行う部位である。
レシピ情報管理データ読み込み処理部580は、記憶部40からレシピ情報管理データを読み込むデータベースアクセス手段である。
レシピ一覧表示処理部570は、GUI処理部80からの信号によりレシピ一覧を検索して表示するためのデータを作成する部位である。
The recipe information management data creation unit 510 is a part that creates recipe information management data that is management data of recipe information stored in the storage unit 40.
The recipe information creation determination unit 520 is a part that determines whether to create recipe information from the character information processed by the natural language processing unit 70.
The character data determination processing unit 540 is a part that determines whether character data has been acquired from the character information processed by the natural language processing unit 70.
The recipe information extraction unit 550 is a part that retrieves recipe information from the storage unit 40 based on the recipe information in the search keyword input to the GUI processing unit 80.
The still image data read / write processing unit 560 is a part that reads and writes recipe still image data with the storage unit 40.
The recipe information management data reading processing unit 580 is a database access unit that reads recipe information management data from the storage unit 40.
The recipe list display processing unit 570 is a part that creates data for searching and displaying a recipe list based on a signal from the GUI processing unit 80.

GUI処理部80は、テンキーや矢印キーやタッチパッドやソフトキーボード等である検索キーワード入力処理部810と、レシピ一覧を表示するための信号を入力するボタンやファイルメニューであるレシピ一覧表示受付処理部820とを備える。
なお、GUI処理部80は、記憶部40から検索したレシピの画像と文字やレシピ一覧や管理情報等を表示する液晶ディスプレイ・プラズマディスプレイパネル・有機ELパネル・液晶/DLPプロジェクタ等である表示部を備えていてもよい。
さらに、http等のプロトコルを送信可能なwebサーバと、webフォームの入力に対応するCGI(Common Gateway Interface)やJava(登録商標)のサーブレットやASP実行機能のようなインターフェイスを含んでいてもよい。
The GUI processing unit 80 includes a search keyword input processing unit 810 that is a numeric keypad, an arrow key, a touch pad, a soft keyboard, and the like, and a recipe list display reception processing unit that is a button or file menu for inputting a signal for displaying a recipe list. 820.
The GUI processing unit 80 includes a display unit such as a liquid crystal display, a plasma display panel, an organic EL panel, a liquid crystal / DLP projector, or the like that displays a recipe image and characters retrieved from the storage unit 40, a recipe list, management information, and the like. You may have.
Further, it may include a web server capable of transmitting a protocol such as http, and an interface such as a CGI (Common Gateway Interface) or Java (registered trademark) servlet corresponding to web form input, or an ASP execution function.

アナログ放送の場合、上述の付随する情報は、走査線の帰線期間内に入れ込まれている。
デジタル放送の場合は、放送電波のデジタル信号の一部として直接入れ込まれている付随する情報をデコードすることができる。
In the case of analog broadcasting, the accompanying information is included in the blanking period of the scanning line.
In the case of digital broadcasting, accompanying information that is directly inserted as part of the digital signal of the broadcast radio wave can be decoded.

次に、本発明の実施の形態に係る情報処理装置Xが行う、実際の処理について詳しく説明する。
情報処理装置Xは、レシピ情報作成、レシピ情報検索、レシピ一覧表示の3つの機能を持つ。
この3つの機能のうち、まずはレシピ情報作成機能について説明する。
Next, actual processing performed by the information processing apparatus X according to the embodiment of the present invention will be described in detail.
The information processing apparatus X has three functions: recipe information creation, recipe information search, and recipe list display.
Of these three functions, the recipe information creation function will be described first.

〔レシピ情報作成機能〕
図2と図3を参照して、本発明の実施の形態に係る情報処理装置Xの機能の1つであるレシピ情報作成機能について説明する。
本発明の実施の形態に係る情報処理装置Xは、画像認識を用いて映像からレシピ情報を抽出し、この抽出したレシピ情報を管理情報とともに、記憶部40内に保存する。このため、予め放送者が文字情報として放送に付随して送信している文字データからではなく、文字データが入れ込まれた映像データからレシピ情報を取得するようにする。
すなわち、レシピ情報作成機能では、放映されている映像からOCRなどの文字認識技術を使って画像認識処理を行い、テロップなどの文字データが入っているかどうかを調べ、文字データが存在する箇所を自動的に静止画データとしてキャプチャし、レシピ情報として保存しておくという機能を実現する。
さらに、放送信号に含まれているEPG(番組情報)データ等により、番組の終了時刻が分かるので、その時刻でレシピ情報の作成を終了する。
また、レシピ情報をひとまとめに管理できるようにレシピ情報管理データを作成することもできる。
[Recipe information creation function]
With reference to FIG. 2 and FIG. 3, the recipe information creation function which is one of the functions of the information processing apparatus X according to the embodiment of the present invention will be described.
The information processing apparatus X according to the embodiment of the present invention extracts recipe information from video using image recognition, and stores the extracted recipe information in the storage unit 40 together with management information. For this reason, recipe information is acquired from video data in which character data is inserted, not from character data transmitted in advance by broadcasters as character information.
In other words, the recipe information creation function uses image recognition processing such as OCR from the video that is being broadcast to check whether character data such as telop is included, and automatically detects where character data exists. The function of capturing as still image data and saving it as recipe information is realized.
Furthermore, since the end time of the program is known from the EPG (program information) data included in the broadcast signal, the creation of the recipe information is finished at that time.
Also, recipe information management data can be created so that recipe information can be managed collectively.

このレシピ情報作成機能を使用するかについては、ユーザが予め設定を行うことができる。
この設定としては:(1)現在ユーザが視聴している番組において、ユーザがレシピ情報作成機能を呼び出すリモコンのボタンを押下する、(2)現在視聴している番組において常にレシピ情報作成機能を使う設定をする、(3)録画予約時に、その録画する番組においてレシピ情報作成機能を使う(ユーザに指摘させる)設定をする、(4)既に録画した番組を再生し、レシピ情報があるものを検索して作成する設定をする、(5)EPGデータにより、料理番組をすべて録画してレシピ情報作成機能を使う設定をする、といった設定を検出して記憶部40に記憶しておき、以下の処理で用いることができる。
The user can set in advance whether to use this recipe information creation function.
The settings are as follows: (1) The user presses the remote control button for calling the recipe information creation function in the program currently being viewed by the user. (2) The recipe information creation function is always used in the program currently being viewed. (3) When recording reservations, set to use the recipe information creation function for the recorded program (make the user point out), (4) Play the already recorded program and search for the one with recipe information (5) By using EPG data, settings such as recording all cooking programs and setting to use the recipe information creation function are detected and stored in the storage unit 40, and the following processing is performed. Can be used.

また、レシピ作成機能においては、リアルタイムでレシピ情報を作成することも、追いかけ再生のように一旦記憶部40に映像データを記憶してからレシピ情報を作成することもできる。   Moreover, in the recipe creation function, recipe information can be created in real time, or recipe data can be created after video data is once stored in the storage unit 40 as in chasing playback.

(リアルタイムのレシピ情報作成処理)
まずは、番組の放送時に映像データからリアルタイムにレシピ情報を作成するレシピ情報作成処理について、このリアルタイムのレシピ情報作成処理の際に情報処理装置Xが再構成された際の制御構成を示す図2とフローチャートの図3を参照して、詳細に説明する。
このレシピ情報作成処理を行う際に、情報処理装置Xは、ユーザが予め上述の設定を行っていることを記憶部40に記憶しており、これを基に処理を行う。
また、情報処理装置Xは、ユーザが電源を投入したか、予約録画のタイマーにより起動されて録画開始状態になっていると仮定する。すなわち待機状態から稼働状態になっている。
さらに、情報処理装置Xは、ユーザのリモコンの信号又は録画予約の情報に従って、アナログチューナ又はデジタルチューナが、ある特定チャンネルに選局されていると仮定する。
これらの状態の下で、情報処理装置Xは、以下に行うような処理を行う。
(Real-time recipe information creation process)
First, with respect to recipe information creation processing for creating recipe information in real time from video data when a program is broadcast, FIG. 2 shows a control configuration when the information processing apparatus X is reconfigured during this real-time recipe information creation processing. This will be described in detail with reference to FIG. 3 of the flowchart.
When performing this recipe information creation process, the information processing apparatus X stores in the storage unit 40 that the user has made the above settings in advance, and performs the process based on this.
Further, it is assumed that the information processing apparatus X is turned on by a user or is started by a timer for scheduled recording and is in a recording start state. That is, the standby state is changed to the operating state.
Further, the information processing apparatus X assumes that an analog tuner or a digital tuner is selected for a specific channel in accordance with a signal from the user's remote controller or recording reservation information.
Under these conditions, the information processing apparatus X performs the following processing.

(ステップS101)
始めに、ステップS101において、映像受信処理部10は、アンテナ(端子)から入った放送電波をアナログチューナやデジタルチューナで受信し、デコードして映像データを作成する映像データ受信処理を行う。
ここで、映像受信処理部10は、アナログチューナからの受信信号に関しては、例えば3次元Y/C分離やゴースト除去等のノイズ除去のための映像処理を施した上でMPEG2方式やH.264方式のエンコーダLSI等によりデジタルデータ化する。
映像受信処理部10は、デジタルチューナからの受信信号に関しては、MPEG2のTS(トランスポート・ストリーム)形式のデータにデコードして映像データを作成する。
(Step S101)
First, in step S101, the video reception processing unit 10 performs a video data reception process in which a broadcast radio wave input from an antenna (terminal) is received by an analog tuner or a digital tuner and decoded to create video data.
Here, the video reception processing unit 10 performs video processing for noise removal such as three-dimensional Y / C separation and ghost removal on the received signal from the analog tuner, and then performs MPEG2 or H.264. It is converted into digital data by an H.264 encoder LSI or the like.
The video reception processing unit 10 generates video data by decoding the received signal from the digital tuner into data in the MPEG2 TS (Transport Stream) format.

(ステップS102)
次に、ステップS102において、番組情報取得部20は、映像受信処理部10で受信した映像信号又はTSデータを基にEPGデータや文字放送データ等の付随情報を取得するEPG取得処理を行う。
この際に、映像受信処理部10は、アナログチューナで受信した映像信号からは、所定時間ごとに放送電波の走査線の帰線期間内(VBI、Vertical Blanking Interval)からEPGのデータを取得する。
映像受信処理部10は、デジタルチューナから受信したTSデータからは、上述のデコード時に文字放送データやEPGデータを取得する。さらに、番組情報であるPSI(Program Specific Information)や、SI(Service Information)等も参照することができる。
また、映像受信処理部10は、LAN端子等からは、インターネット等のネットワーク経由でEPGのデータ(iEPG)を取得することもできる。
加えて、EPGの他にも、放送信号に含まれる時刻情報や、ネットワークを介したNTP(Network Time Protocol)により時刻情報を取得する。これにより、情報処理装置Xのタイマーの時刻を合わせることができる。
これらの付随情報は、文字情報化されて、以下のステップで用いる。
(Step S102)
Next, in step S102, the program information acquisition unit 20 performs an EPG acquisition process for acquiring accompanying information such as EPG data and teletext data based on the video signal or TS data received by the video reception processing unit 10.
At this time, the video reception processing unit 10 acquires EPG data from the video signal received by the analog tuner within a blanking period (VBI, Vertical Blanking Interval) of the broadcast radio wave scanning line at predetermined time intervals.
The video reception processing unit 10 acquires teletext data and EPG data from the TS data received from the digital tuner at the time of decoding described above. Further, PSI (Program Specific Information), SI (Service Information), and the like, which are program information, can be referred to.
The video reception processing unit 10 can also acquire EPG data (iEPG) from a LAN terminal or the like via a network such as the Internet.
In addition to EPG, time information is acquired by time information included in a broadcast signal and NTP (Network Time Protocol) via a network. Thereby, the time of the timer of the information processing apparatus X can be set.
The accompanying information is converted into character information and used in the following steps.

なお、映像受信処理部10は、コンポジット、S端子、D端子、HDMI、i−link(IEEE1394)端子等の外部入力から入力した映像を、デジタルデータ化することもできる。
この際に、付随情報に関する信号を受信することも可能である。しかし、外部入力からの映像は映像のみが入力されて、付随情報がない場合は、情報処理装置Xの設定に従って、以下の処理で料理番組の映像データであるとして扱うこともできる。
The video reception processing unit 10 can also convert video input from an external input such as a composite, S terminal, D terminal, HDMI, i-link (IEEE 1394) terminal into digital data.
At this time, it is also possible to receive a signal related to the accompanying information. However, when the video from the external input is only the video and there is no accompanying information, it can be handled as video data of the cooking program by the following processing according to the setting of the information processing apparatus X.

(ステップS103)
次に、ステップS103において、番組情報解析部25は、上述の文字情報化された付随情報からレシピ情報作成に必要な情報を抽出して出力する番組情報抽出処理を行う。
具体的には、番組情報解析部25は、文字データ化されたEPGのデータから、アナログ又はデジタルチューナが現在受信している番組のジャンル等の情報を読み取る。さらに、文字放送の情報を読み取る。
この上で、番組情報解析部25は、これらのジャンル等の情報と文字データから、現在受信している番組が料理番組であるかについての文字情報と、文字放送中に料理コーナー等のレシピに関係する単語がでてきたか等について解析を行って出力する。
この解析については、番組情報解析部25は、ジャンルデータ番組のジャンル等の情報のみを切り出して出力する。
なお、番組情報解析部25は、自然言語処理部70を用いて、文字放送のデータ内に予め記憶部40に記憶されていた所定の予約語(例えば、「料理」「レシピ」「調理」「クッキング」等)が出てきたか等のについて自然言語処理の解析を行って出力してもよい。
この場合、自然言語処理部70は、文字放送の情報において、例えばベイズ推定や予約語の出現確率のノンパラメトリックな統計検定などの各種統計検定等の統計的手法を用いて、レシピ情報に関係するデータが含まれているかについての推定結果を出力することもできる。
(Step S103)
Next, in step S103, the program information analysis unit 25 performs program information extraction processing for extracting and outputting information necessary for creating recipe information from the accompanying information converted into character information.
Specifically, the program information analysis unit 25 reads information such as the genre of the program currently received by the analog or digital tuner from the EPG data converted into character data. Furthermore, the information of the teletext is read.
On this basis, the program information analysis unit 25 uses the information on the genre and the character data as character information about whether the currently received program is a cooking program, and a recipe such as a cooking corner during character broadcasting. Analyzes and outputs whether related words appear.
For this analysis, the program information analysis unit 25 cuts out and outputs only information such as the genre of the genre data program.
Note that the program information analysis unit 25 uses the natural language processing unit 70 to store predetermined reserved words (for example, “cooking”, “recipe”, “cooking”, “ It may be output by analyzing natural language processing as to whether "cooking" has occurred.
In this case, the natural language processing unit 70 relates to the recipe information by using statistical methods such as various statistical tests such as Bayesian estimation and non-parametric statistical tests of the appearance probability of reserved words in the text broadcast information. It is also possible to output an estimation result as to whether data is included.

(ステップS104)
次に、ステップS104において、レシピ情報作成判断部520は、実際にレシピ情報を作成するかについて判断を行う。
ここで、現在受信している番組について、レシピ情報作成機能を使用する設定になっており、且つ、上述の自然言語処理部70により、料理番組である場合や文字放送のデータにより所定の予約語が入っている場合は、レシピ情報を作成する(Yes)と判断する。
Yesと判断した場合、レシピ情報作成判断部520は、処理をステップS105に進める。
Noと判断した場合は、レシピ情報作成判断部520は、処理をステップS110に進める。
(Step S104)
Next, in step S104, the recipe information creation determination unit 520 determines whether to actually create recipe information.
Here, it is set to use the recipe information creation function for the currently received program, and the above-mentioned natural language processing unit 70 makes a predetermined reserved word in the case of a cooking program or text broadcast data. Is included, it is determined that recipe information is to be created (Yes).
If the determination is Yes, the recipe information creation determination unit 520 advances the process to step S105.
When it is determined No, the recipe information creation determination unit 520 advances the process to step S110.

(ステップS105)
ここで、ステップS105において、キャプチャ部30は、レシピ情報を作成すると判断された場合に、キャプチャ処理を行う。
具体的には、上述のEPGの番組データにおける番組の放送時間の間、録画が行われている間、又は、映像データを再生している間、常に映像データから静止画データを作成して記憶部40の主記憶部に確保された一次記憶メモリに保存する。
この静止画データは、映像データのフレーム毎、MPEG2のIピクチャ(又はキーフレーム)毎、又は所定時間(例えば、10秒)毎、といったタイミングで作成されて一次記憶メモリに上書きされる。
しかし、後述するように、この一次記憶メモリ上の静止画データは、キャプチャ部30により記憶部40の補助記憶装置にコピーして記憶・保存することもできる。
(Step S105)
Here, in step S105, the capture unit 30 performs a capture process when it is determined to create recipe information.
Specifically, during the broadcast time of the program in the above EPG program data, still image data is always created and stored from video data while recording is being performed or while video data is being reproduced. The data is stored in a primary storage memory secured in the main storage unit of the unit 40.
This still image data is created at a timing such as every frame of video data, every MPEG2 I picture (or key frame), or every predetermined time (for example, 10 seconds), and is overwritten in the primary storage memory.
However, as will be described later, the still image data in the primary storage memory can be copied and stored / saved in the auxiliary storage device of the storage unit 40 by the capture unit 30.

(ステップS106)
次に、ステップS106において、画像認識処理部60と自然言語処理部70により、文字情報解析処理を行う。
このステップでは、まず、画像認識処理部60が一次記憶メモリに記憶された静止画データを基に、OCR等の画像認識処理を行う。
この画像認識処理としては、画像認識処理部60は、まず、静止画データを複数のエリア毎に分割した上で、FFT(離散フーリエ変換)、ウェーブレット変換、SVM(サポート・ベクター・マシン)や人工ニューラルネット等の手法を用いて、(a)線画で(b)色が2値表示に近く(c)形状の揃ったキャラクターがマス目状に描かれている等の、文字表示の特徴量をもつエリアを抽出する。ここで、実際に料理番組にて文字が表示されるエリアとしては、画面の下部、左、右等の位置にレシピが表示されることが多いので、このエリアに重みづけをして抽出する。また、映像データに、時報や放送局名のロゴや電子透かし等のデータが入っている場合は、これらを抽出しないようにする。
さらに、リングバッファ等を用いて所定の時間ごとに複数の静止画データを用意しておき、この静止画データを比較することで、ほとんど変化のなかった部分を文字データとして扱うような処理を行うこともできる。また、映像データの差分ピクチャの情報量でこの変化のなかった部分を検出することもできる。
(Step S106)
Next, in step S <b> 106, character information analysis processing is performed by the image recognition processing unit 60 and the natural language processing unit 70.
In this step, first, the image recognition processing unit 60 performs image recognition processing such as OCR based on still image data stored in the primary storage memory.
As the image recognition processing, the image recognition processing unit 60 first divides still image data into a plurality of areas, and then performs FFT (discrete Fourier transform), wavelet transform, SVM (support vector machine), or artificial Using a technique such as a neural network, (a) in a line drawing, (b) the color is close to binary display, (c) the character with uniform shape is drawn in a grid, etc. Extract the area that has. Here, as an area where characters are actually displayed in a cooking program, recipes are often displayed at positions such as the bottom, left, and right of the screen. Therefore, this area is weighted and extracted. Also, if the video data contains data such as a time signal, a broadcast station name logo, or a digital watermark, these are not extracted.
Further, a plurality of still image data is prepared at predetermined time intervals using a ring buffer or the like, and by comparing the still image data, a process in which almost no change is handled as character data is performed. You can also. It is also possible to detect a portion where this change has not occurred in the information amount of the difference picture of the video data.

ここで、文字データの特徴量をもつエリアがあった場合は、このエリアについて、実際の文字認識を行って、この文字データを記憶部40に記憶する。
画像認識処理部60を複数のDSP等のハードウェアで構成している場合は、上述のエリア毎に各DSPに処理を行わせることで、より高速に処理することができる。これにより、フルフレーム(1/60秒毎)でのリアルタイムのOCR処理も可能である。
If there is an area having the character data feature amount, actual character recognition is performed on the area, and the character data is stored in the storage unit 40.
When the image recognition processing unit 60 is configured by hardware such as a plurality of DSPs, the processing can be performed at higher speed by causing each DSP to perform processing for each area described above. Thereby, real-time OCR processing in a full frame (every 1/60 seconds) is also possible.

画像認識処理部60が文字認識を行った場合は、自然言語処理部70はこの認識された文字データから、レシピ情報の文字データが存在するか確認する。
すなわち、静止画データ上に文字データが存在した場合で、この文字データにレシピに関する所定の予約語(例えば、「g(グラム)」「塩」「コショウ」等)が認識された場合や、ベイズ推定等の統計推定で推定値が高い場合は、自然言語処理部70は、レシピ情報の文字データが存在すると確認する。また、各種統計検定を行った場合は検定結果が所定値(例えば、p<0.05)だった場合は文字データが存在すると確認し、更にp値(p−value、確率の値)等の統計量を出力する。
それ以外の場合は、自然言語処理部70は、文字データはなしと確認し、その旨を出力する。
なお、画像認識処理部60及び自然言語処理部70は、文字情報解析処理の認識に関するデータを記憶部40に蓄積する。これにより、後にOCR処理等を行う際に精度を上げることが可能になる。
When the image recognition processing unit 60 performs character recognition, the natural language processing unit 70 checks whether character data of recipe information exists from the recognized character data.
That is, when character data is present on still image data and a predetermined reserved word related to the recipe (for example, “g (gram)”, “salt”, “pepper”, etc.) is recognized in this character data, When the estimated value is high in the statistical estimation such as estimation, the natural language processing unit 70 confirms that the character data of the recipe information exists. In addition, when various statistical tests are performed, if the test result is a predetermined value (for example, p <0.05), it is confirmed that character data exists, and further, a p value (p-value, probability value), etc. Output statistics.
In other cases, the natural language processing unit 70 confirms that there is no character data, and outputs that effect.
Note that the image recognition processing unit 60 and the natural language processing unit 70 accumulate data related to recognition of character information analysis processing in the storage unit 40. This makes it possible to increase the accuracy when performing OCR processing or the like later.

(ステップS107)
次に、ステップS107において、文字データ判断処理部540は、レシピ情報の文字データがあったかについて判定する。
具体的には、上述のステップS106において自然言語処理部70によりレシピ情報の文字データが存在すると確認された場合は、文字データ判断処理部540は、文字データが存在する、すなわちYesと判断する。それ以外の場合は、文字データ判断処理部540は、レシピ情報の文字データはなかった、すなわちNoと判断する。
Yesの場合、文字データ判断処理部540は、処理をステップS108に進める。
Noの場合、文字データ判断処理部540は、処理をステップS110に進める。
(Step S107)
Next, in step S107, the character data determination processing unit 540 determines whether there is character data of recipe information.
Specifically, when the natural language processing unit 70 confirms that the character data of the recipe information exists in the above-described step S106, the character data determination processing unit 540 determines that the character data exists, that is, Yes. In other cases, the character data determination processing unit 540 determines that there is no character data of the recipe information, that is, No.
In the case of Yes, the character data determination processing unit 540 advances the process to step S108.
In No, the character data determination process part 540 advances a process to step S110.

(ステップS108)
次に、ステップS108において、静止画データ読込/書込処理部560は、静止画データ保存処理を行う。
この静止画データ保存処理においては、静止画データ読込/書込処理部560は、一次記憶メモリ上の静止画データを記憶部40のHDDやフラッシュメモリやメモリカード等の補助記憶装置にコピーして記憶する。
なお、この保存の際には、後述するレシピ情報管理データと同じフォルダや関連づけされた状態で記憶部40に記憶する。
(Step S108)
Next, in step S108, the still image data read / write processing unit 560 performs still image data storage processing.
In this still image data saving process, the still image data reading / writing processing unit 560 copies the still image data in the primary storage memory to an auxiliary storage device such as an HDD, a flash memory, or a memory card in the storage unit 40. Remember.
In addition, at the time of this storage, it is stored in the storage unit 40 in the same folder or associated state as recipe information management data described later.

(ステップS109)
次に、ステップS109において、レシピ情報管理データ作成部510は、レシピ情報管理データの作成・保存処理を行う。
具体的には、レシピ情報管理データ作成部510は、上述の静止画データとレシピ情報に関する管理データを作成し、記憶部40のメモリカードやHDDなどの補助記録装置に記憶することで保存する。
このレシピ情報管理データとしては、レシピ情報管理データ作成部510は、記憶部40に記憶した静止画データの管理情報(ファイル名、インデックス番号、フレーム数等、その静止画データを特定する情報)を作成し、記憶する。
また、録画データが存在する場合は、この録画データのファイルの保存場所やファイル名といった録画データの管理情報も記憶する。
さらに、文字放送のデータやEPGのデータから、番組名や番組の内容、番組の開始・終了の年月日と時間等の情報についても作成し、記憶する。
加えて、上述の文字認識されたレシピ情報の文字データそのものも記憶する。
(Step S109)
Next, in step S109, the recipe information management data creation unit 510 performs recipe information management data creation / storage processing.
Specifically, the recipe information management data creation unit 510 creates management data related to the above-described still image data and recipe information, and stores it by storing it in an auxiliary recording device such as a memory card or HDD in the storage unit 40.
As the recipe information management data, the recipe information management data creation unit 510 uses still image data management information (information specifying the still image data such as a file name, an index number, and the number of frames) stored in the storage unit 40. Create and remember.
If recording data exists, recording data management information such as the storage location and file name of the recording data file is also stored.
Furthermore, information such as the program name, program contents, and the start / end date and time of the program is created and stored from the text broadcast data and EPG data.
In addition, the character data itself of the above-recognized recipe information is also stored.

上述のレシピ情報の文字データについては、レシピの文字データと、料理名や材料名についての情報を作成し、記憶する。
このレシピの文字データについて、レシピ情報管理データ作成部510は、OCRで誤認識があったと判断した場合(例えば、「砂糖」が「石少米唐」と認識された場合や、「g」が「呂」と認識された場合等)は、記憶部40に蓄積したレシピで用いられる単語の出現確率を基に、これを正しいと推定される単語に置き換えて記憶する。また、文字放送データのデータを用いて自動的に修正することも可能である。
加えて、レシピ情報管理データ作成部510は、レシピ情報の文字データや文字放送のデータと、記憶部40に記憶した所定の料理の属性を示す単語(例えば、イタリア料理、おかず、低カロリー、低塩食等)と検索し、この一致率等である料理の属性情報を記憶することができる。
As for the character data of the recipe information described above, the character data of the recipe and information on the dish name and material name are created and stored.
For the character data of this recipe, the recipe information management data creation unit 510 determines that there has been a misrecognition in the OCR (for example, when “sugar” is recognized as “stone shabby rice” or “g” In the case of “recognized”, etc.), based on the appearance probability of the word used in the recipe accumulated in the storage unit 40, this is replaced with a word estimated to be correct and stored. It is also possible to automatically correct using the data of teletext data.
In addition, the recipe information management data creation unit 510 includes character data of recipe information and text broadcast data, and words indicating attributes of predetermined dishes stored in the storage unit 40 (for example, Italian cuisine, side dishes, low calories, low Salted food etc.) and the attribute information of the dish such as the matching rate can be stored.

ここで、実際の料理番組では、調理の各手順で材料を使う際に材料名と分量のテロップが表示され、最後に全ての材料と分量のテロップの表示を行うのが一般的である。
よって、番組毎に、表示されている文字データをまとめて保存しておくことにより、各手順における材料名と分量、及び全体で必要な材料と分量についての情報を蓄積することができる。
また、各手順において文字認識された情報と、最後に表示されるテロップを文字認識した情報とで情報を比較して、明らかな文字認識ミスの箇所について修正して記憶することもできる。
Here, in an actual cooking program, when using ingredients in each cooking procedure, it is common to display a material name and a quantity of telop, and finally display all ingredients and a quantity of telop.
Therefore, by storing the displayed character data collectively for each program, it is possible to accumulate information on the material name and quantity in each procedure and the necessary material and quantity as a whole.
It is also possible to compare information between character-recognized information in each procedure and information obtained by character-recognizing the last displayed telop, and correct and store a portion of an apparent character recognition error.

さらに、情報処理装置Xが上述の単語の置き換えや修正に失敗して記憶した場合でも、ユーザがGUI処理部80を用いて静止画データを参照して修正することも可能である。
この修正は、レシピ情報管理データ作成部510が記憶部40に記憶し、後の文字情報認識処理において参照される。
Furthermore, even when the information processing apparatus X has failed and stored the above word replacement or correction, the user can use the GUI processing unit 80 to refer to still image data for correction.
This correction is stored in the storage unit 40 by the recipe information management data creation unit 510 and is referred to in subsequent character information recognition processing.

これらのレシピ情報管理データにより、後述するように料理名や材料名等について、検索キーワードを用いてレシピ情報を検索することができる。
この検索のために、これらのレシピ情報管理データの記憶においては、記憶部40にDBMやSQL等のデータベースを用意して、このデータベースに記憶するのが好適である。
With these recipe information management data, it is possible to search for recipe information using a search keyword for a dish name, an ingredient name, etc., as will be described later.
For storing the recipe information management data for this search, it is preferable to prepare a database such as DBM or SQL in the storage unit 40 and store it in this database.

(ステップS110)
次に、ステップS110において、レシピ情報作成判断部520は、レシピ情報作成処理を終えるかどうかについて判定する。
具体的には、ユーザがレシピ情報作成を終了するリモコンのボタンを押下したことを検出した場合、現在の時間を計測して上述したEPGデータにおける視聴している番組の放送時間が終了した場合、予約録画時間が経過した場合、又は外部入力からの入力信号がなくなった場合等に、レシピ情報作成判断部520は、レシピ情報作成処理を終了する、すなわちYesの判定を行うことができる。それ以外の場合は、Noの判定を行う。
Yesの場合は、レシピ情報作成判断部520は、レシピ情報作成処理を終了する。これにより、情報処理装置Xは待機状態に戻る。
Noの場合は、レシピ情報作成判断部520は、ステップS101に処理を戻して、さらに映像信号を受信し、付随情報を取得する。
(Step S110)
Next, in step S110, the recipe information creation determination unit 520 determines whether or not to finish the recipe information creation process.
Specifically, when it is detected that the user has pressed the button on the remote controller to finish the recipe information creation, when the current time is measured and the broadcast time of the program being viewed in the above EPG data is over, The recipe information creation determination unit 520 can end the recipe information creation process, that is, determine Yes when the scheduled recording time has elapsed or when there is no input signal from the external input. In other cases, No is determined.
In the case of Yes, the recipe information creation determination unit 520 ends the recipe information creation process. As a result, the information processing apparatus X returns to the standby state.
In the case of No, the recipe information creation determination unit 520 returns the process to step S101, further receives a video signal, and acquires accompanying information.

以上により、リアルタイムにレシピ情報を作成するレシピ情報作成処理を終了する。
このようにリアルタイムにレシピ情報を作成することで、上述したようにリモコンのボタン等で、レシピ情報をとりたいと思ったときに、すぐにレシピ情報を得ることができる。また、録画予約した映像を録画するのと同時に、レシピ情報を作成することもできる。さらに、外部入力からの録画と同時にレシピ情報を作成することもできる。
作成したレシピ情報は、レシピ情報管理データと、キャプチャした静止画データが記憶されるので、後に簡単に呼び出すことが可能である。
Thus, the recipe information creation process for creating recipe information in real time is completed.
By creating the recipe information in real time in this way, the recipe information can be obtained immediately when it is desired to obtain the recipe information with the buttons on the remote controller as described above. In addition, recipe information can be created at the same time as recording the video reserved for recording. Furthermore, recipe information can be created simultaneously with recording from an external input.
Since the created recipe information stores recipe information management data and captured still image data, it can be easily called later.

(記憶した映像データからのレシピ情報作成処理)
次に、図4と図5を参照して追いかけ再生等、一旦、番組の映像データを記憶部40に記憶して、レシピ情報を抽出する場合のレシピ情報作成処理について、以下で詳細に説明する。
追いかけ再生等の際に、レシピ情報作成処理を行うことで、ユーザがたまたま情報処理装置Xを用いてテレビ放送を視聴していて、番組中で紹介されていたレシピを書き留めておきたいと思った場合等に利用することができる。
(Recipe information creation process from stored video data)
Next, with reference to FIGS. 4 and 5, the recipe information creation process in the case where the video data of the program is temporarily stored in the storage unit 40 and the recipe information is extracted, such as chasing playback, will be described in detail below. .
During follow-up playback, etc., by performing recipe information creation processing, the user happened to watch the TV broadcast using the information processing device X and wanted to write down the recipe introduced in the program It can be used in some cases.

(ステップS201)
まず、ステップS201において、映像受信処理部10は、上述のステップS101と同様の映像データ受信処理を行う。つまり、受信した映像をデコードする処理を行う。
(Step S201)
First, in step S201, the video reception processing unit 10 performs video data reception processing similar to that in step S101 described above. That is, a process for decoding the received video is performed.

(ステップS202)
次に、ステップS202において、番組情報取得部20は、上述のステップS102と同様に、映像受信処理部10で受信した映像信号を基にEPGデータや文字放送データ等の付随情報を取得する。
また、外部入力からの映像に付随情報がない場合は、これも上述のステップS102と同様に、設定により料理番組の映像データであるとして扱うことができる。
(Step S202)
Next, in step S202, the program information acquisition unit 20 acquires accompanying information such as EPG data and teletext data based on the video signal received by the video reception processing unit 10, as in step S102 described above.
Further, when there is no accompanying information in the video from the external input, this can also be handled as video data of the cooking program by setting as in step S102 described above.

(ステップS203)
次に、ステップS203において、番組情報解析部25は、上述のステップS103と同様に、文字情報化された付随情報からレシピ情報作成に必要な情報を抽出して出力する。
(Step S203)
Next, in step S203, the program information analysis unit 25 extracts and outputs information necessary for creating recipe information from the accompanying information converted into character information, as in step S103 described above.

(ステップS204)
次に、ステップS204において、レシピ情報作成判断部520は、上述のステップS104と同様に、実際にレシピ情報を作成するかについて判断を行う。
Yesと判断した場合、レシピ情報作成判断部520は、処理をステップS205に進める。
Noと判断した場合は、レシピ情報作成判断部520は、処理をステップS211に進める。
(Step S204)
Next, in step S204, the recipe information creation determination unit 520 determines whether to actually create recipe information, as in step S104 described above.
If it is determined Yes, the recipe information creation determination unit 520 advances the process to Step S205.
If it is determined No, the recipe information creation determination unit 520 advances the process to step S211.

(ステップS205)
ステップS205において、映像受信処理部10は、映像データ保存処理を行う。
ここでは、上述のステップS201でデコードした映像データについて、記憶部40のHDDやフラッシュメモリ等に、所定時間分の映像データを一次的に記憶する。この所定時間としては、追いかけ再生の時間(例えば、5分)等、デフォルト又はユーザが予め設定している時間とする。
また、この一次的に記憶されている映像データは、デコードしたTSのデータをそのまま保存することができる。また、静止画データを取得しやすく、早送りや巻き戻しの計算がしやすいデータ形式、たとえば非圧縮形式や、MotionJPEG形式等に変換した上で記憶していてもよい。
(Step S205)
In step S205, the video reception processing unit 10 performs video data storage processing.
Here, for the video data decoded in step S201 described above, video data for a predetermined time is temporarily stored in the HDD or flash memory of the storage unit 40. The predetermined time is a default or a time set in advance by the user, such as a chasing playback time (for example, 5 minutes).
Further, the temporarily stored video data can store the decoded TS data as it is. Still image data may be stored after being converted into a data format that is easy to acquire and easy to calculate fast forward or rewind, for example, an uncompressed format or a Motion JPEG format.

(ステップS206)
次に、ステップS206において、キャプチャ部30は、映像データ読み出し処理を行う。
具体的には、キャプチャ部30は、上述の一時的に記憶されている映像データを記憶部40から読み出す。
さらに、上述のステップS105と同様に、静止画データを作成して記憶部40の主記憶部に確保された一次記憶メモリに保存する。
(Step S206)
Next, in step S206, the capture unit 30 performs video data read processing.
Specifically, the capture unit 30 reads the above-described temporarily stored video data from the storage unit 40.
Furthermore, as in step S105 described above, still image data is created and saved in the primary storage memory secured in the main storage unit of the storage unit 40.

(ステップS207)
次に、ステップS207において、上述のステップS106と同様に、画像認識処理部60と自然言語処理部70により、文字情報解析処理を行う。
この文字情報解析においては、上述の一時的に記憶されている映像データから作成した静止画データを用いる。
(Step S207)
Next, in step S207, character information analysis processing is performed by the image recognition processing unit 60 and the natural language processing unit 70, as in step S106 described above.
In this character information analysis, still image data created from the above-mentioned temporarily stored video data is used.

さらに、ユーザがリモコンのレシピ作成処理を呼び出すボタンを受信している番組の途中で押下したことを検出し、更に静止画データを解析した際にレシピ情報の文字データを確認できなかった場合は、上述の一時的に記憶されている映像データを遡って静止画データを作成して、文字情報解析処理を繰り返す。
これにより、ユーザがとっさにレシピを保存したいと思ったところ、リモコンの操作に手間取ってボタンの押下が遅れた場合等のシチュエーションに対処することができる。
Furthermore, when it is detected that the user has pressed the button for calling the recipe creation process of the remote controller in the middle of the program and the still image data is analyzed, the character data of the recipe information cannot be confirmed. The video data stored temporarily is created to create still image data, and the character information analysis process is repeated.
As a result, it is possible to cope with situations such as when the user wants to save the recipe at once, but the operation of the remote controller takes time and the button press is delayed.

(ステップS208)
次に、ステップS208において、上述のステップS107と同様に、文字データ判断処理部540は、レシピ情報の文字データがあったかについて判定する。
Yesの場合、文字データ判断処理部540は、処理をステップS209に進める。
Noの場合、文字データ判断処理部540は、処理をステップS211に進める。
(Step S208)
Next, in step S208, as in step S107 described above, the character data determination processing unit 540 determines whether there is character data in the recipe information.
In the case of Yes, the character data determination processing unit 540 advances the process to step S209.
In No, the character data determination process part 540 advances a process to step S211.

(ステップS209)
次に、ステップS209において、上述のステップS108と同様に、キャプチャ部30は、静止画データ保存処理を行う。
上述の一時的に記憶されている映像データから静止画データを作成した場合は、キャプチャ部30は、その静止画データについて静止画保存処理を行う。さらに、ユーザの設定により、所定時間まで、又はCMの検出や映像の切れ目の検出をしてそれまでの間まで、一時的に記憶されている映像データを保存することもできる。
(Step S209)
Next, in step S209, as in step S108 described above, the capture unit 30 performs still image data storage processing.
When still image data is created from the above-mentioned temporarily stored video data, the capture unit 30 performs still image storage processing on the still image data. Furthermore, the video data stored temporarily can be saved until a predetermined time or until the detection of a CM or a break of video depending on user settings.

(ステップS210)
次に、ステップS210において、上述のステップS109と同様に、レシピ情報管理データ作成部510は、レシピ情報管理データの作成・保存処理を行う。
(Step S210)
Next, in step S210, as in step S109 described above, the recipe information management data creation unit 510 creates and stores recipe information management data.

(ステップS211)
次に、ステップS211において、上述のステップS110と同様に、レシピ情報作成判断部520は、レシピ情報作成処理を終えるかどうかについて判定する。
Yesの場合は、レシピ情報作成判断部520は、レシピ情報作成処理を終了する。これにより、情報処理装置Xは待機状態に戻る。
Noの場合は、レシピ情報作成判断部520は、ステップS201に処理を戻して、さらに映像信号を受信し、付随情報を取得する。
(Step S211)
Next, in step S211, as in step S110 described above, the recipe information creation determination unit 520 determines whether or not to finish the recipe information creation process.
In the case of Yes, the recipe information creation determination unit 520 ends the recipe information creation process. As a result, the information processing apparatus X returns to the standby state.
In the case of No, the recipe information creation determination unit 520 returns the process to step S201, further receives a video signal, and acquires accompanying information.

以上により、一旦、番組の映像データを記憶部40に記憶して、レシピ情報を抽出する場合のレシピ情報作成処理を終了する。
このように、追いかけ再生等、番組の映像データを蓄積した上で、レシピ情報を抽出することで、上述のように、ユーザがとっさにレシピを保存しておきたいと意図した際に対応することができる。
さらに、追いかけ再生は、通常は標準でONになっているため、ユーザが特に録画していない番組においても、とっさのレシピ情報の記憶に対応することができる。
また、EPG等において、料理番組というジャンルになっていない番組でも、レシピ情報が公開されていることもある(例えば、ニュース番組や、ショッピング番組)。ユーザがこれをリアルタイムに視聴中、レシピを保存しようと思ったところレシピのテロップがすぐ消えてしまった場合等に対処できる。
As described above, the video data of the program is temporarily stored in the storage unit 40, and the recipe information creation process for extracting the recipe information is completed.
In this manner, by accumulating video data of a program such as chasing playback, by extracting recipe information, as described above, it is possible to cope with a case where the user intends to quickly save the recipe. Can do.
Furthermore, since the chasing playback is normally turned on as a standard, it is possible to deal with a quick storage of recipe information even in a program that is not particularly recorded by the user.
Also, in EPG and the like, recipe information may be disclosed even for programs that are not in the genre of cooking programs (for example, news programs and shopping programs). While the user is watching this in real time, it is possible to cope with a case where the recipe telop immediately disappears when the user wants to save the recipe.

なお、録画して記憶部40のHDD等に記憶しているファイルからは、上述の一旦、記憶した映像データからのレシピ情報作成処理と同様の処理によりレシピ情報を作成することができる。
この場合、EPGのデータや文字放送等の付随情報はすでに記憶部40に記憶しているため、上述のステップS206から処理を開始することもできる。
また、上述した設定(4)のような場合は、この記憶部40に記憶されたジャンル等の情報を基にして、録画ファイルが料理番組である場合に、レシピ情報作成処理を行うこともできる。
さらに、ユーザの設定により、料理番組でない場合でもレシピ抽出を行うこともできる。
Recipe information can be created from a file recorded and stored in the HDD or the like of the storage unit 40 by the same process as the recipe information creation process from the video data once stored.
In this case, since the accompanying information such as EPG data and text broadcasting has already been stored in the storage unit 40, the processing can be started from step S206 described above.
In the case of setting (4) described above, recipe information creation processing can also be performed when the recorded file is a cooking program based on information such as a genre stored in the storage unit 40. .
Furthermore, recipe extraction can be performed even if it is not a cooking program, according to user settings.

また、記憶部40にMPEG2やMPEG4形式等の映像データを、LANや無線LAN等のネットワーク・USB・eSATA・i−link・電話回線・光ファイバ等を経由して入力し、ここから直接、上述のレシピ情報作成機能を実行するようにすることもできる。
この場合は、EPGのデータや文字放送等の付随情報は入力せずに、上述のステップS206から処理を開始することもできる。
Also, video data in MPEG2 or MPEG4 format is input to the storage unit 40 via a network such as a LAN or wireless LAN, USB, eSATA, i-link, telephone line, optical fiber, etc. The recipe information creation function can be executed.
In this case, it is also possible to start the process from the above-described step S206 without inputting incidental information such as EPG data or text broadcasting.

〔レシピ情報検索機能〕
次に、上述のレシピ情報作成処理において作成されたレシピ情報を検索する、レシピ情報検索機能について説明する。
このレシピ情報検索機能は、上述したレシピ情報管理データを保存したデータベースを用いて、ユーザにより指定された材料名や料理名などの検索キーワードと日時や属性の絞り込みを基に、レシピ情報管理データを直接検索してもよい。
[Recipe information search function]
Next, a recipe information search function for searching for recipe information created in the above-described recipe information creation process will be described.
This recipe information search function uses the database storing the recipe information management data described above, and retrieves recipe information management data based on a search keyword such as an ingredient name and a dish name specified by the user and narrowing down the date and attribute. You may search directly.

また、記憶部40に記憶した静止画データの情報を用いて再び文字情報解析処理を行い、得られた文字情報を用いて再検索するようにしてレシピ情報検索機能を実現することもできる。
すなわち、検索キーワードを使用して、レシピ情報である静止画データからOCR等の文字認識技術を用い、合致する静止画データがあるかどうか調べ、合致した静止画データがあれば、そのレシピを表示することでレシピ情報検索機能を実現する。
これにより、記憶部40に記憶された文字情報認識処理の際に蓄積されたデータやユーザによる修正のデータを参照することができるため、より検索の精度を上げることができる。
以下で、図6、図7を参照して、再び文字情報解析処理を行う場合のレシピ情報検索機能を実現するための処理について詳しく説明する。
It is also possible to realize a recipe information search function by performing character information analysis processing again using the information of the still image data stored in the storage unit 40 and performing a search again using the obtained character information.
That is, using a search keyword, the character recognition technology such as OCR is used from still image data as recipe information to check whether there is matching still image data. If there is matching still image data, the recipe is displayed. By doing so, the recipe information search function is realized.
Thereby, since the data accumulated in the character information recognition process stored in the storage unit 40 and the data corrected by the user can be referred to, the search accuracy can be further improved.
Hereinafter, with reference to FIG. 6 and FIG. 7, a process for realizing the recipe information search function when the character information analysis process is performed again will be described in detail.

(ステップS301)
まず、ステップS301において、図3の検索キーワード入力処理部810は、検索キーワード受け取り処理を行う。
具体的には、GUI処理部80の検索キーワード入力処理部810は、表示部にソフトキーボード等を表示して、ユーザがこのソフトキーボードを用いてリモコンのボタンの押下等により入力した検索キーワードを検知する。
なお、検索キーワード入力処理部810は、USB接続等のキーボードのキーの押下信号を検知するか、情報処理装置Xが内蔵するwebサーバとCGIの機能を用いて、PC等のウェブブラウザに表示されるフォームにユーザ入力したキーワードを検知する等により検索を行うこともできる。
また、この検索キーワードの他に、「料理名」「放送日時」「素材」といった条件の絞り込みが可能である。さらに、「スープ」「低塩食(塩分7g以下)」「夕食向け(500kcal以上)」「おかず」「一汁」といったレシピ情報管理データの属性データに関する条件の絞り込みをすることもできる。
(Step S301)
First, in step S301, the search keyword input processing unit 810 in FIG. 3 performs a search keyword receiving process.
Specifically, the search keyword input processing unit 810 of the GUI processing unit 80 displays a soft keyboard or the like on the display unit, and detects a search keyword input by a user pressing a button on the remote controller using the soft keyboard. To do.
The search keyword input processing unit 810 is displayed on a web browser such as a PC using a web server and CGI function built into the information processing apparatus X, or detecting a key press signal of a keyboard such as a USB connection. It is also possible to perform a search by detecting a keyword input by the user in a form.
In addition to this search keyword, it is possible to narrow down conditions such as “dishes name”, “broadcast date / time”, and “material”. Further, it is possible to narrow down the conditions regarding the attribute data of the recipe information management data such as “soup”, “low salt diet (salt content of 7 g or less)”, “for dinner (500 kcal or more)”, “side dish”, and “one soup”.

(ステップS302)
次に、ステップS302において、静止画データ読込/書込処理部560は、静止画データ読み込み処理を行う。
具体的には、静止画データ読込/書込処理部560は、記憶部40から上述のステップにて記憶した静止画データを1枚づつ読み込み、画像認識処理部60に送る。
この際に、記憶したすべての静止画データを読み込む処理を行うことも可能であるが、レシピ情報管理データをまず検索して、キーワードと一致文字が多いものに対応する静止画データから読み込むようにすると好適である。
(Step S302)
Next, in step S302, the still image data reading / writing processing unit 560 performs still image data reading processing.
Specifically, the still image data reading / writing processing unit 560 reads the still image data stored in the above steps from the storage unit 40 one by one and sends it to the image recognition processing unit 60.
At this time, it is possible to perform processing for reading all stored still image data. However, the recipe information management data is first searched to read from still image data corresponding to a keyword having many matching characters. It is preferable.

(ステップS303)
次に、ステップS303において、画像認識処理部60は、文字情報解析処理を行う。
この文字情報認識処理は、上述のステップS302で読み込まれた1枚の静止画データについて、上述のステップS106と同等の処理を行う。
(Step S303)
Next, in step S303, the image recognition processing unit 60 performs character information analysis processing.
In the character information recognition processing, processing equivalent to that in step S106 described above is performed on one piece of still image data read in step S302 described above.

(ステップS304)
次に、文字データ判断処理部540は、レシピ情報の文字データが検索キーワードと一致していたか判定する。
具体的には、上述のステップS303において自然言語処理部70によりレシピ情報の文字データが存在すると確認された場合、この文字データと検索キーワードとの間で動的プログラミング等によりアラインメント(すり合わせ)を行う。さらに、ユーザが検索キーワードの入力時に絞り込んだ条件についても一致させる。
これにより、所定文字数又は統計的に有意な文字数が一致して、更にユーザが絞り込んだ条件についても一致した場合は、文字データ判断処理部540は、文字情報解析処理を行った静止画データは、検索キーワードが含まれた静止画データである、すなわちYesと判断する。それ以外の場合は、文字データ判断処理部540は、Noと判断する。
Yesの場合、文字データ判断処理部540は、処理をステップS305に進める。
Noの場合、文字データ判断処理部540は、処理をステップS307に進める。
(Step S304)
Next, the character data determination processing unit 540 determines whether the character data of the recipe information matches the search keyword.
Specifically, when the natural language processing unit 70 confirms that the character data of the recipe information exists in the above-described step S303, alignment is performed between the character data and the search keyword by dynamic programming or the like. . Furthermore, the conditions narrowed down by the user when inputting the search keyword are also matched.
As a result, when the predetermined number of characters or the number of statistically significant characters match and the conditions narrowed down by the user also match, the character data determination processing unit 540 It is determined that the still image data includes the search keyword, that is, Yes. Otherwise, the character data determination processing unit 540 determines No.
In the case of Yes, the character data determination processing unit 540 advances the processing to step S305.
In the case of No, the character data determination processing unit 540 advances the process to step S307.

(ステップS305)
ここで、レシピ情報抽出部550とレシピ情報管理データ読み込み処理部580は、レシピ情報管理データ抽出処理を行う。
具体的には、まず、上述のステップS304で文字データ判断処理部540が検索キーワードが含まれている静止画データであると判断した場合、レシピ情報抽出部550は、この静止画データのレシピ情報管理データを取得する。また、メモリカードに記憶されているレシピ情報管理データを取得することもできる。レシピ情報抽出部550は、実際に読み込む際には、この静止画データのインデックス番号等を指定して、レシピ情報管理データ読み込み処理部580を介して、記憶部40からレシピ情報管理データを取得する。
その後、レシピ情報抽出部550は、静止画データと抽出したデータを、記憶部40に記憶する。
(Step S305)
Here, the recipe information extraction unit 550 and the recipe information management data read processing unit 580 perform a recipe information management data extraction process.
Specifically, first, when the character data determination processing unit 540 determines in step S304 described above that the still image data includes the search keyword, the recipe information extraction unit 550 determines the recipe information of the still image data. Get management data. Also, recipe information management data stored in the memory card can be obtained. When actually reading, the recipe information extraction unit 550 specifies the index number of the still image data and acquires the recipe information management data from the storage unit 40 via the recipe information management data reading processing unit 580. .
Thereafter, the recipe information extraction unit 550 stores the still image data and the extracted data in the storage unit 40.

(ステップS306)
次に、ステップS306において、レシピ一覧表示処理部570は、上述の静止画データと抽出したデータを表示するための表示処理を行う。
具体的には、ステップS305でレシピ情報抽出部550が記憶したデータを、表示部に表示するために、実際に表示部にレンダリング(画像描画)を行うための描画用データを作成する処理を行う。
また、表示処理において画像描画をする場合は、後述するレシピ情報一覧表示を表示部に表示することができる。この場合は、先に、レシピ一覧表示処理部570により、静止画データと抽出したデータを配列した表示用データを作成する。この表示用データを、レシピ一覧表示処理部570でレンダリングして表示部に表示する。表示の際には、サムネイル表示を行い、フィルムロールのような形式で表示することも可能である。
また、ウェブサーバ経由で表示する場合には、レシピ一覧表示処理部570により、CGIのプログラムにより、サムネイル画像とHTMLデータのような描画用データを作成する。このHTMLには、ユーザがリンクをクリックすることで、大きなレシピの静止画を表示するためのリンクを貼り付けておく。なお、webブラウザにより静止画を表示するためには、当然、静止画データをwebブラウザで表示可能なjpeg、GIF、PNG等の画像のデータ形式に変換して表示する必要がある。
(Step S306)
Next, in step S306, the recipe list display processing unit 570 performs display processing for displaying the above-described still image data and the extracted data.
Specifically, in order to display the data stored in the recipe information extraction unit 550 in step S305 on the display unit, a process of creating drawing data for actually rendering (image drawing) on the display unit is performed. .
In addition, when drawing an image in the display process, a recipe information list display described later can be displayed on the display unit. In this case, the recipe list display processing unit 570 first creates display data in which still image data and extracted data are arranged. The display data is rendered by the recipe list display processing unit 570 and displayed on the display unit. At the time of display, it is possible to display thumbnails and display them in a format such as a film roll.
Further, when displaying via a web server, the recipe list display processing unit 570 creates drawing data such as thumbnail images and HTML data by a CGI program. A link for displaying a still image of a large recipe is pasted on the HTML by the user clicking on the link. In order to display a still image with a web browser, it is naturally necessary to convert the still image data into an image data format such as jpeg, GIF, or PNG that can be displayed with the web browser.

(ステップS307)
次に、ステップS307において、静止画データ読込/書込処理部560は、検索結果に係る静止画データをすべて読み出したか判断する。
この判断においては、当然、上述のユーザ検索キーワードの入力時に絞り込んだ条件も基にして判断する。例えば、ユーザが日時を指定していた場合は、この日時にまでの静止画データを検索したかを判断し、ユーザが属性データに関する絞り込みを行っていた場合は、その属性データに関連する静止画データのみを検索したかを判断する。
Yesの場合は、静止画データ読込/書込処理部560は、処理をステップS308に進める。
Noの場合は、静止画データ読込/書込処理部560は、処理をステップS301に戻す。
(Step S307)
In step S307, the still image data read / write processing unit 560 determines whether all the still image data related to the search result has been read.
This determination is naturally made based on the conditions narrowed down when the user search keyword is input. For example, if the user has specified a date and time, it is determined whether still image data up to this date and time has been searched. If the user has narrowed down attribute data, the still image associated with the attribute data is determined. Determine whether you searched for data only.
In the case of Yes, the still image data reading / writing processing unit 560 advances the processing to step S308.
In the case of No, the still image data reading / writing processing unit 560 returns the process to step S301.

(ステップS308)
次に、ステップS308において、レシピ一覧表示処理部570は、検索終了表示処理を行う。
具体的には、表示部に「検索終了」等の文字を表示して、検索された静止画の数を表示する。また、更に絞り込みを行うかについてのダイアログボックス等を表示することもできる。
webサーバ経由で表示する場合は、ここで作成したサムネイル画像とHTMLデータとを、webサーバにてhttpプロトコルで送信する。一旦検索してから、一度に送信することで、検索途中でタイムアウトした場合のwebブラウザでの表示不具合を抑えることができる。
以上により、再び文字情報解析処理を行う場合のレシピ情報検索機能を実現するための処理を終了する。
(Step S308)
Next, in step S308, the recipe list display processing unit 570 performs a search end display process.
Specifically, characters such as “search end” are displayed on the display unit, and the number of searched still images is displayed. In addition, a dialog box or the like about whether or not to further narrow down can be displayed.
When displaying via a web server, the thumbnail image and HTML data created here are transmitted by the web server by the http protocol. By performing a search once and then transmitting at a time, it is possible to suppress display defects in the web browser when a timeout occurs during the search.
Thus, the process for realizing the recipe information search function when the character information analysis process is performed again is completed.

これらの処理により、静止画データから再び文字情報解析処理を行うことで、受信状態がよくないアナログ放送から文字認識を行った場合や、使用されている文字フォントやレイアウトが共通する同じシリーズの番組を文字認識した場合に、より認識効率を上げることができる。よって、検索効率を高めることが可能になる。   Through these processes, character information analysis processing is performed again from still image data, so that characters can be recognized from analog broadcasts with poor reception status, or the same series of programs with the same character font and layout used. When the character is recognized, the recognition efficiency can be further improved. Therefore, it is possible to increase search efficiency.

なお、上述の複数のDSP等を用いたハードウェアによる文字認識が可能な高速な画像認識処理部60がある場合は、いつでも文字認識を行いながら検索が可能であるため、レシピ情報管理データに文字認識後の文字データを含んでいなくてもよい。
これにより、記憶部40のデータベースの構成が簡単になり、文字データ用に必要な領域を少なくすることもできる。この場合、レシピ情報検索機能には、番組の放送日等の情報のみを記憶しておくことができる。
If there is a high-speed image recognition processing unit 60 capable of character recognition by hardware using a plurality of DSPs as described above, it is possible to search while performing character recognition at any time. It does not have to include character data after recognition.
Thereby, the structure of the database of the memory | storage part 40 becomes simple and it can also reduce the area | region required for character data. In this case, only the information such as the broadcast date of the program can be stored in the recipe information search function.

〔レシピ一覧表示機能〕
次に、上述のレシピ情報やレシピ情報管理データを一覧表示する、レシピ一覧表示機能について説明する。
本発明の実施の形態に係る情報処理装置Xでは、ユーザが保存されたレシピ情報を閲覧する場合、管理データを使ってレシピ一覧を表示し、ユーザに選択された料理番組をダイジェスト的に再生するようなレシピ一覧表示機能を実現することができる。
このレシピ一覧表示機能は、上述のレシピ情報作成機能でユーザが(5)の設定を行ったように、自動でレシピ情報を蓄積するような場合に適用するのが好適である。
また、上述したように、キーワードの検索結果を一覧として表示することもできる。
以下で、図8の機能ブロック図と、図9のフローチャートと、図10の一覧表示の例を参照して、レシピ情報一覧表示機能の具体的な処理について説明する。
[Recipe list display function]
Next, a recipe list display function for displaying a list of the above recipe information and recipe information management data will be described.
In the information processing apparatus X according to the embodiment of the present invention, when the user browses the stored recipe information, the recipe list is displayed using the management data, and the cooking program selected by the user is reproduced in a digest manner. Such a recipe list display function can be realized.
This recipe list display function is preferably applied to a case where recipe information is automatically accumulated as the user has set (5) with the above-described recipe information creation function.
Further, as described above, keyword search results can be displayed as a list.
Hereinafter, specific processing of the recipe information list display function will be described with reference to the functional block diagram of FIG. 8, the flowchart of FIG. 9, and the example of the list display of FIG. 10.

(ステップS401)
まず、ステップS401において、図3のレシピ一覧表示受付処理部820が、レシピ一覧表示の受付処理を行う。
具体的には、レシピ一覧表示受付処理部820は、ユーザがリモコンのレシピ表示機能やレシピ一覧表示のためのボタン押下を感知するか、外部機器からのhttpリクエスト等によって、レシピの一覧表示を受け付ける。
この際に、ユーザがリモコンの「戻る」ボタンやキャンセルボタンや押下したことを検知した場合は、レシピ一覧表示機能を終了する。
(Step S401)
First, in step S401, the recipe list display acceptance processing unit 820 of FIG. 3 performs a recipe list display acceptance process.
Specifically, the recipe list display acceptance processing unit 820 accepts a recipe list display when a user senses a recipe display function of the remote controller or a button press for recipe list display, or by an http request from an external device. .
At this time, if it is detected that the user has pressed the “return” button or cancel button on the remote controller, the recipe list display function is terminated.

(ステップS402)
次に、ステップS402において、レシピ情報抽出部550は、レシピ情報管理データ抽出処理を行う。
具体的には、レシピ情報抽出部550は、すべての静止画データについて、データベースからレシピ情報管理データを取得する。この際に、レシピ情報管理データ読み込み処理部580を介して、記憶部40に記憶している静止画データのレシピ情報管理データを読み込む。また、記憶部40であるメモリカード等から取得してもよい。
この上で、レシピ情報抽出部550は、レシピ情報一覧表示機能に必要な、例えば日付データやタイトル名といったデータを抽出する。
(Step S402)
Next, in step S402, the recipe information extraction unit 550 performs a recipe information management data extraction process.
Specifically, the recipe information extraction unit 550 acquires recipe information management data from the database for all still image data. At this time, recipe information management data of still image data stored in the storage unit 40 is read via the recipe information management data reading processing unit 580. Further, it may be acquired from a memory card or the like that is the storage unit 40.
On this basis, the recipe information extraction unit 550 extracts data such as date data and title names necessary for the recipe information list display function.

(ステップS403)
次に、ステップS403において、レシピ一覧表示処理部570は、レシピ情報の表示データ作成処理を行う。
具体的には、上述のステップで取得したレシピ情報管理データについて、実際にレシピ一覧表示処理部570で表示するための表示データを作成する。
この表示データとしては、図10の表のようなものを実際のレンダリング用のデータやHTML形式で作成することができる。この表においては、静止画データからの文字抽出や文字放送の情報から料理名等の属性と、EPGにて取得した番組タイトル・放送局名・放送日・放送時刻などを表示データとして作成できる。
加えて、文字放送の情報から自然言語処理部70が抽出して得た、料理関係の単語が含まれる文字放送情報を表示データとして作成することができる。これにより、放送者側の意図した信頼性の高い料理関係の情報と、文字認識で得た料理名とを比較することができる。
(Step S403)
Next, in step S403, the recipe list display processing unit 570 performs display information creation processing for recipe information.
Specifically, display data to be actually displayed on the recipe list display processing unit 570 is created for the recipe information management data acquired in the above steps.
As the display data, the table shown in FIG. 10 can be created in actual rendering data or HTML format. In this table, it is possible to create, as display data, attributes such as names of dishes from character extraction from still image data and text broadcast information, and program titles, broadcast station names, broadcast dates, broadcast times, etc. acquired by EPG.
In addition, it is possible to create text broadcast information including cooking-related words obtained by the natural language processing unit 70 extracted from text broadcast information as display data. As a result, it is possible to compare highly reliable cooking-related information intended by the broadcaster and the cooking name obtained by character recognition.

さらに、図10の表においては、映像データがあるかないかについても表示データを作成することができる。
たとえば、予約録画の際にレシピ情報を作成した場合は、その録画データが存在することの表示データを作成する。また、メモリカードやHDDの容量不足又はユーザが削除した等で録画した映像データがない場合や、リアルタイムでレシピ情報を作成したために映像データがない場合(例えば、図10の表の「ミックスジュース」の場合)は、映像データを「なし」又は「静止画のみ」の表示データを作成する。
さらに、追っかけ再生等でレシピ情報検索機能を使用した場合等で、短い映像データのみ存在する場合(例えば、図8の表の「グリーンカレー」の場合)は、時分単位で映像データの量を示す表示データを作成する。
Furthermore, in the table of FIG. 10, display data can be created for whether or not there is video data.
For example, when recipe information is created at the time of scheduled recording, display data indicating that the recorded data exists is created. Also, when there is no video data recorded due to lack of memory card or HDD capacity or deletion by the user, or when there is no video data because the recipe information was created in real time (for example, “Mix Juice” in the table of FIG. 10). In this case, display data of “none” or “still image only” is created as video data.
In addition, when only the short video data exists (for example, in the case of “green curry” in the table of FIG. 8) when the recipe information search function is used for chasing playback, etc., the amount of video data is set in units of hours and minutes. Create the display data shown.

また、ユーザが設定することで、レシピ情報管理データの他の属性(例えば、低塩等)についても、表示データを作成することができる。
加えて、この表に上述のサムネイル表示データを組み合わせることもできる。
さらに、ユーザのリモコン操作やネットワークからのリクエストに従って、アイウエオ順、静止画作成が新しい順、カロリー順、カテゴリー別等の順番にて並び替えが可能である。この並び替えは、レシピ一覧表示受付処理部820が、レシピ一覧表示の受付処理を行っている際にユーザのGUIでの操作を検知して行う。
Moreover, display data can be created also about other attributes (for example, low salt etc.) of recipe information management data by a user setting.
In addition, the above-mentioned thumbnail display data can be combined with this table.
Furthermore, according to the user's remote control operation or a request from the network, the images can be rearranged in the order of eye way, new image creation order, calorie order, category order, and the like. This rearrangement is performed when the recipe list display reception processing unit 820 detects a user operation on the GUI while performing the reception process of the recipe list display.

(ステップS404)
次に、ステップS404において、レシピ情報管理データ読み込み処理部580は、レシピ情報管理データをすべて読み出したか判断する。
Yesの場合は、レシピ情報管理データ読み込み処理部580は、ステップS405に処理を進める。
Noの場合は、レシピ情報管理データ読み込み処理部580は、ステップS401に処理を戻してまたレシピ情報管理データの読み込みを続ける。
(Step S404)
Next, in step S404, the recipe information management data read processing unit 580 determines whether all recipe information management data has been read.
In the case of Yes, the recipe information management data reading processing unit 580 advances the process to step S405.
In the case of No, the recipe information management data reading processing unit 580 returns the process to step S401 and continues to read the recipe information management data.

(ステップS405)
ステップS405においては、レシピ一覧表示処理部570がレシピ情報一覧表示処理を行う。
ここでは、上述のステップS308のように、レシピ一覧表示処理部570が上述のレシピ一覧表示処理部570が作成した表示データを用いて、レンダリングを行ったり、webサーバから出力したりすることができる。
ここで、図10の表が映像表示装置のGUIに表示されており、レシピ情報が多数あった場合は、ユーザがカーソルキーを押下することを検知して、レシピ一覧表示処理部570はスクロール表示等を行うことができる。
また、この表でユーザがカーソルを移動して「決定」ボタン等を押下したことを検知した場合、レシピ一覧表示処理部570は、その行のレシピ情報管理データに係る静止画データを表示する。
さらに、映像データがある場合は、この映像を小さく表示することも可能である。
この映像が表示されている状態で、ユーザが「再生」ボタン等を押下したことを検知した場合、レシピ一覧表示処理部570は、この映像を大きな画面で通常再生する。
このレシピ情報一覧表示処理が終了すると、レシピ一覧表示機能の処理は終了する。
(Step S405)
In step S405, the recipe list display processing unit 570 performs a recipe information list display process.
Here, as in step S308 described above, the recipe list display processing unit 570 can perform rendering using the display data created by the recipe list display processing unit 570 or output from the web server. .
Here, when the table of FIG. 10 is displayed on the GUI of the video display device and there is a lot of recipe information, it is detected that the user presses the cursor key, and the recipe list display processing unit 570 displays the scroll. Etc. can be performed.
In addition, when it is detected in this table that the user has moved the cursor and pressed the “decision” button or the like, the recipe list display processing unit 570 displays still image data related to the recipe information management data in that row.
Further, when there is video data, the video can be displayed in a small size.
When it is detected that the user has pressed the “play” button or the like while this video is displayed, the recipe list display processing unit 570 normally plays back this video on a large screen.
When this recipe information list display process ends, the process of the recipe list display function ends.

以上のように構成することにより、本発明の実施の形態に係る情報処理装置Xは、以下のような効果を得ることができる。
まず、従来技術1では、料理メニュー、材料表、作り方、調理時間、調理器具の制御情報、栄養情報、価格等の文字または音声または画像からなる、放送者側で付加されたコード情報が配信され、これを記憶したメディア媒体を用いた食情報装置を提供していた。
しかし、従来技術1は、対応する機器のために放送者側で配信した情報しか利用することができないという問題があった。
そもそも、従来技術1では、放送者側がコード情報として入れ込んでいないレシピの情報を用いることはできないという問題があった。すなわち、文字情報の入っていない単なる映像から食情報装置でレシピ情報を抽出することはできなかった。
By configuring as described above, the information processing apparatus X according to the embodiment of the present invention can obtain the following effects.
First, in the prior art 1, code information added by the broadcaster, which is composed of characters, sounds or images such as a cooking menu, a material table, how to make, cooking time, cooking utensil control information, nutrition information, price, etc. is distributed. In addition, a food information device using a media medium storing the same has been provided.
However, the prior art 1 has a problem that only information distributed on the broadcaster side for the corresponding device can be used.
In the first place, the conventional technique 1 has a problem that information on recipes that the broadcaster does not include as code information cannot be used. That is, recipe information cannot be extracted by a food information device from a mere video that does not contain character information.

しかしながら、本発明の実施の形態に係る情報処理装置Xは、放送者が予めコード化されたレシピ情報を提供していない番組においても、映像データからレシピ情報を作成することができる。
つまり、情報処理装置Xは、文字認識技術を用い、料理番組として放映されている映像からレシピ情報を抽出する。これにより、料理番組の放映中の映像においてテロップなどの文字データ入っている映像を認識し、その映像を静止画でキャプチャし保存することができる。
また、リアルタイムや追いかけ再生時に映像からレシピ情報を作成することができるため、ユーザが映像を視聴する際に、映像を一時停止してメモ書きをするといった手間を省くことが可能になる。
さらに、情報処理装置Xは、ユーザの設定によりレシピ情報の作成を自動的に行うことで、映像からレシピ情報を蓄積し、後でダイジェスト的にその料理の手順や材料、分量を見ることができる。
However, the information processing apparatus X according to the embodiment of the present invention can create recipe information from video data even in a program for which a broadcaster does not provide pre-encoded recipe information.
That is, the information processing apparatus X uses the character recognition technique to extract recipe information from the video broadcast as a cooking program. As a result, it is possible to recognize a video containing text data such as a telop in a video of a cooking program being broadcast, and to capture and save the video as a still image.
In addition, since recipe information can be created from video during real-time or chasing playback, it is possible to save the user from having to pause the video and write notes when viewing the video.
Furthermore, the information processing apparatus X automatically creates recipe information according to user settings, accumulates recipe information from the video, and can later view the cooking procedure, ingredients, and amount in a digest manner. .

このため、情報処理装置Xの利用者であるユーザは、一般に配信されている多種多様な料理番組の映像に表示されたレシピをレシピ情報として用いることができる。加えて、外部入力から入力を行うことで、本発明の情報処理装置X以外の機種でユーザが録画した番組の映像データもレシピ情報として用いることもできる。
結果として、好みの番組を選んでレシピ情報を蓄積することができ、ユーザの利便性が高まる。
For this reason, the user who is the user of the information processing apparatus X can use the recipe displayed on the video of various cooking programs distributed in general as recipe information. In addition, by inputting from an external input, video data of a program recorded by a user with a model other than the information processing apparatus X of the present invention can also be used as recipe information.
As a result, a favorite program can be selected and recipe information can be accumulated, improving the convenience for the user.

また、文字データが入っている映像のみを抽出し、それを自動的に保存することで、いわば料理本を自動的に作成してくれるので、料理番組をすべて見なくても料理を作ることができるという効果が得られる。
また、これらの静止画データを指定した材料名や料理名などで検索する機能を搭載することにより、レシピを探しやすくするという効果が得られる。
さらに、材料名や料理名などをキーワードとして検索する機能を装備することにより、蓄積された膨大なレシピ情報からニーズに合ったレシピを容易に探し出すことができるという効果が得られる。
また、静止画データも同時に記憶しているので、その静止画データを基に誤認識があった場合でも、修正することが容易である。
Also, by extracting only the video that contains text data and automatically saving it, a cookbook is automatically created, so you can cook without having to watch all the cooking programs. The effect that it can be obtained.
In addition, an effect of making it easy to find a recipe can be obtained by installing a function of searching for the still image data by a designated material name or cooking name.
Furthermore, by providing a function of searching for material names and cooking names as keywords, it is possible to easily find a recipe that meets the needs from a large amount of stored recipe information.
Further, since still image data is also stored at the same time, it is easy to correct even if there is an erroneous recognition based on the still image data.

また、情報処理装置Xにおいて、リアルタイムで又はジャンル情報を指定しないでも、レシピ情報の抽出を行うことができるため、料理番組とは認識されていないショッピング番組・ニュース番組・バラエティ番組等からでもレシピ情報を保存しておくことができる。   In addition, since the recipe information can be extracted in real time or without specifying genre information in the information processing apparatus X, the recipe information can be obtained from shopping programs, news programs, variety programs, etc. that are not recognized as cooking programs. Can be saved.

なお、本発明の実施の形態に係る情報処理装置Xにおいては、レシピ情報の静止画データを記憶したが、これを特に編集等を行わずに表示するように記載した。
しかし、実際に地上デジタルテレビジョン放送表示器やDVDレコーダ等を用いて表示する際には、このレシピ情報と文字情報を組み合わせて編集した上で表示することも可能である。
さらに、文字情報を半透明で描画して、静止画データの情報と重ね合わせて表示することも可能である。
In the information processing apparatus X according to the embodiment of the present invention, the still image data of the recipe information is stored, but is described so as to be displayed without any particular editing.
However, when it is actually displayed using a terrestrial digital television broadcast display, a DVD recorder, or the like, it is also possible to display it after editing the recipe information and character information in combination.
Furthermore, it is also possible to draw the character information translucently and display it superimposed on the information of the still image data.

また、記憶部40に記憶されたレシピ情報は、互換性が高いテキストやHTML形式で保存することも可能であり、スチームオーブンや電子レンジの液晶表示パネルや、携帯電話のディスプレイ、電子手帳、テレビジョン受信機等で閲覧可能である。
また、情報処理装置Xは、脱着可能なメモリカード等の記憶媒体に記憶させることも、LANや無線LAN等のネットワークで送信・受信することもできる。
The recipe information stored in the storage unit 40 can be stored in a highly compatible text or HTML format, such as a steam oven, a liquid crystal display panel of a microwave oven, a mobile phone display, an electronic notebook, a television. It can be viewed with a John receiver.
Further, the information processing apparatus X can be stored in a storage medium such as a removable memory card, or can be transmitted / received via a network such as a LAN or a wireless LAN.

このような、情報処理装置Xと他の機器を組み合わせた情報処理システムの1例である情報処理システムZについて、図11を参照して説明する。
この情報処理システムZにおいては、情報処理装置Xが、一般的なPC/AT互換機等であるPC1000と、例えばスチームオーブンや電子レンジ等の調理器であるスチームオーブン1500とが、家庭内のPLC(Power Line Communications)ネットワークや無線LAN、有線LAN、無線USB(ウルトラ・ワイド・バンド)等である、ネットワーク5に接続している。
An information processing system Z that is an example of an information processing system that combines the information processing apparatus X and other devices will be described with reference to FIG.
In this information processing system Z, the information processing apparatus X includes a PC 1000 which is a general PC / AT compatible machine, and a steam oven 1500 which is a cooking device such as a steam oven or a microwave oven. (Power Line Communications) It is connected to a network 5 such as a network, a wireless LAN, a wired LAN, and a wireless USB (ultra wide band).

情報処理システムZにおいては、情報処理装置XはGUI処理部80にwebサーバ等とネットワーク接続部を備える。よって、情報処理装置Xはネットワーク5を介して、PC1000やスチームオーブン1500から送付されたリクエストを検知してレシピ情報を送信する。
これにより、PC1000とスチームオーブン1500においては、情報処理装置Xと記憶部40に記憶されたレシピ情報を閲覧可能である。
さらに、このスチームオーブン1500が閲覧しやすいデータ形式に変換し、この機器で読み込ませて調理の際に用いることも可能である。
In the information processing system Z, the information processing apparatus X includes a web processing unit 80 and a network connection unit in the GUI processing unit 80. Therefore, the information processing apparatus X detects a request sent from the PC 1000 or the steam oven 1500 via the network 5 and transmits recipe information.
Thereby, in the PC 1000 and the steam oven 1500, the recipe information stored in the information processing apparatus X and the storage unit 40 can be browsed.
Further, the steam oven 1500 can be converted into a data format that can be easily viewed, read by this device, and used for cooking.

また、DLNA(Digital Living Network Alliance)の伝送規格等に対応した無線伝送のテレビデバイスが普及しているため、これに送信してレシピを見ながら調理することもできる。
以上のように情報処理システムZを構成することにより、蓄積したレシピ情報を活用する際の、ユーザの利便性を向上させることが可能になる。
Further, since a television device for wireless transmission corresponding to a transmission standard of DLNA (Digital Living Network Alliance) or the like is widespread, it is possible to cook while watching the recipe by sending it.
By configuring the information processing system Z as described above, it is possible to improve user convenience when utilizing the accumulated recipe information.

また、上述したように、本発明の実施の形態に係る情報処理装置Xは、静止画データのみ記憶部40に記憶して、レシピ情報管理データとして文字認識したレシピの文字データを含んでいなくてもよい。
この例として、アナログチューナからの映像データに対しては文字データを付加せずに静止画データのみ保存し、デジタルチューナからの映像データに対しては文字データも保存するという構成が可能である。
これは、アナログチューナからの映像データは放送の受信状態やノイズのために、文字認識の効率が低くなる場合があるためである。この場合も、ユーザはEPGの番組情報を基にして番組の内容をチェックし、静止画データを視認して調理を行うことが可能である。
また、アナログチューナからの映像データを画像解析した際に、GUI処理部80により、ユーザに文字データの確認を求めて修正してもらうように構成することも可能である。
Further, as described above, the information processing apparatus X according to the embodiment of the present invention stores only still image data in the storage unit 40 and does not include the character data of the recipe that has been recognized as the recipe information management data. May be.
As an example of this, it is possible to store only still image data without adding character data to the video data from the analog tuner, and to store character data with respect to the video data from the digital tuner.
This is because video data from an analog tuner may have low character recognition efficiency due to the broadcast reception status and noise. Also in this case, the user can check the contents of the program based on the EPG program information, and can cook by visually recognizing the still image data.
In addition, when the video data from the analog tuner is image-analyzed, the GUI processing unit 80 can be configured to ask the user to check and correct the character data.

上述したように、デジタルチューナから受信した映像データは、放送者側の機器でデジタル的にテロップ画像を作成することが多いため、文字認識の効率が高い。
このため、本発明の実施の形態に係る情報処理装置において、地上アナログチューナと地上デジタルチューナを同時に受信可能な場合は、地上アナログ放送と地上デジタル放送を同時に受信して、この両方の映像データを用いてレシピ情報の抽出を行うことも可能である。
また、レシピ情報の抽出においては地上デジタル放送の映像からキャプチャを行い、実際に録画保存するデータとしては、データ量が少ない地上アナログ放送の映像データを保存するといった構成も可能である。
As described above, since video data received from a digital tuner often creates a telop image digitally by a device on the broadcaster side, character recognition efficiency is high.
Therefore, in the information processing apparatus according to the embodiment of the present invention, when the terrestrial analog tuner and the terrestrial digital tuner can be received at the same time, the terrestrial analog broadcast and the terrestrial digital broadcast are received at the same time, and both the video data are received. It is also possible to extract recipe information by using it.
In addition, in the extraction of recipe information, it is possible to capture from terrestrial digital broadcast video, and as data to be actually recorded and saved, terrestrial analog broadcast video data with a small amount of data can be saved.

さらに、上述した構成では、静止画データを記憶部に記憶して、この静止画データを基にキャプチャを行うように説明したが、リアルタイムでOCRを行う場合は、TSデータから直接文字認識を行うように構成することも当然可能である。
この場合、MPEG2のTSデータの場合は、Iピクチャのように画像データがほぼ含まれる箇所のデータを用いて文字認識を行うと処理の負担を抑えることができて好適である。また、それ以外のフレームについても、デコードしながら文字認識を行うことも可能である。
Furthermore, in the above-described configuration, it has been described that still image data is stored in the storage unit and captured based on the still image data. However, when OCR is performed in real time, character recognition is directly performed from TS data. Of course, such a configuration is also possible.
In this case, in the case of MPEG2 TS data, it is preferable that character recognition is performed using data in a portion almost including image data such as an I picture because the processing load can be reduced. It is also possible to perform character recognition while decoding other frames.

なお、上記実施の形態の構成及び動作は例であって、本発明の趣旨を逸脱しない範囲で適宜変更して実行することができることは言うまでもない。   Note that the configuration and operation of the above-described embodiment are examples, and it is needless to say that the configuration and operation can be appropriately changed and executed without departing from the gist of the present invention.

本発明の実施の形態に係る情報処理装置Xの制御構成を示すブロック図である。It is a block diagram which shows the control structure of the information processing apparatus X which concerns on embodiment of this invention. 本発明の実施の形態に係るリアルタイムのレシピ情報作成の際の制御構成を示すブロック図である。It is a block diagram which shows the control structure at the time of the real-time recipe information preparation which concerns on embodiment of this invention. 本発明の実施の形態に係るリアルタイムのレシピ情報作成処理のフローチャートである。It is a flowchart of the real-time recipe information creation process which concerns on embodiment of this invention. 本発明の実施の形態に係る記憶した映像データからのレシピ情報作成の際の制御構成を示すブロック図である。It is a block diagram which shows the control structure at the time of the recipe information preparation from the image | video data memorize | stored which concerns on embodiment of this invention. 本発明の実施の形態に係る記憶した映像データからのレシピ情報作成処理のフローチャートである。It is a flowchart of the recipe information creation process from the stored video data according to the embodiment of the present invention. 本発明の実施の形態に係る再び文字情報解析処理を行う場合の制御構成を示すブロック図である。It is a block diagram which shows the control structure in the case of performing the character information analysis process again concerning embodiment of this invention. 本発明の実施の形態に係る再び文字情報解析処理を行う場合のレシピ情報検索機能のフローチャートである。It is a flowchart of the recipe information search function in the case of performing the character information analysis process again according to the embodiment of the present invention. レシピ一覧表示機能の制御構成を示すブロック図である。It is a block diagram which shows the control structure of a recipe list display function. 本発明の実施の形態に係るレシピ一覧表示機能のフローチャートである。It is a flowchart of the recipe list display function which concerns on embodiment of this invention. 本発明の実施の形態に係るレシピ一覧表示機能による一覧表示の例を示す概念図である。It is a conceptual diagram which shows the example of the list display by the recipe list display function which concerns on embodiment of this invention. 本発明の実施の形態に係る情報処理システムのブロック図である。It is a block diagram of an information processing system concerning an embodiment of the invention.

符号の説明Explanation of symbols

5 ネットワーク
10 映像受信処理部
20 番組情報取得部
25 番組情報解析部
30 キャプチャ部
40 記憶部
50 レシピ情報作成処理部
60 画像認識処理部
70 自然言語処理部
80 GUI処理部
510 レシピ情報管理データ作成部
520 レシピ情報作成判断部
540 文字データ判断処理部
550 レシピ情報抽出部
560 静止画データ読込/書込処理部
570 レシピ一覧表示処理部
580 レシピ情報管理データ読み込み処理部
810 検索キーワード入力処理部
820 レシピ一覧表示受付処理部
1000 PC
1500 スチームオーブン
X 情報処理装置
Z 情報処理システム
5 Network 10 Video Reception Processing Unit 20 Program Information Acquisition Unit 25 Program Information Analysis Unit 30 Capture Unit 40 Storage Unit 50 Recipe Information Creation Processing Unit 60 Image Recognition Processing Unit 70 Natural Language Processing Unit 80 GUI Processing Unit 510 Recipe Information Management Data Creation Unit 520 Recipe information creation determination unit 540 Character data determination processing unit 550 Recipe information extraction unit 560 Still image data reading / writing processing unit 570 Recipe list display processing unit 580 Recipe information management data reading processing unit 810 Search keyword input processing unit 820 Recipe list Display reception processing unit 1000 PC
1500 Steam oven X Information processing device Z Information processing system

Claims (16)

映像データの画像認識処理を行う情報処理装置であって、
前記映像データから前記画像認識処理により料理のレシピ情報を抽出する制御手段を備える
ことを特徴とする情報処理装置。
An information processing apparatus for performing image recognition processing of video data,
An information processing apparatus comprising: control means for extracting recipe information of a dish from the video data by the image recognition process.
前記制御手段は、
前記映像データから文字認識を行う文字認識手段を備え、
前記文字認識手段は、
前記映像データから静止画データを取得するキャプチャ手段と、
前記静止画データを用いて文字認識を行う画像認識手段とを備える
ことを特徴とする請求項1に記載の情報処理装置。
The control means includes
Character recognition means for performing character recognition from the video data,
The character recognition means includes
Capture means for acquiring still image data from the video data;
The information processing apparatus according to claim 1, further comprising: an image recognition unit that performs character recognition using the still image data.
前記制御手段は、
前記文字認識された文字データから前記レシピ情報を抽出するレシピ情報抽出手段を備える
ことを特徴とする請求項2に記載の情報処理装置。
The control means includes
The information processing apparatus according to claim 2, further comprising a recipe information extraction unit that extracts the recipe information from the character data that has been character-recognized.
前記レシピ情報抽出手段は、
映像データの付随情報から前記静止画データを取得するか判断する判断手段を備える
ことを特徴とする請求項3に記載の情報処理装置。
The recipe information extracting means includes
The information processing apparatus according to claim 3, further comprising: a determination unit that determines whether to acquire the still image data from accompanying information of video data.
前記レシピ情報抽出手段は、
前記静止画データの一覧表示をする一覧表示手段を備える
ことを特徴とする請求項3又は4に記載の情報処理装置。
The recipe information extracting means includes
The information processing apparatus according to claim 3, further comprising a list display unit configured to display a list of the still image data.
前記制御手段は、
前記静止画データと前記映像データの付随情報を記憶する記憶手段を備え、
前記レシピ情報抽出手段は、
前記記憶手段に記憶された前記静止画データを前記画像認識手段により文字認識を行いキーワードと一致するか検索する検索手段を備える
ことを特徴とする請求項3から5のいずれか1項に記載の情報処理装置。
The control means includes
Storage means for storing accompanying information of the still image data and the video data;
The recipe information extracting means includes
6. The apparatus according to claim 3, further comprising: a search unit that performs character recognition on the still image data stored in the storage unit by the image recognition unit and searches for a match with a keyword. Information processing device.
前記記憶手段は、前記レシピ情報の文字データも記憶する記憶手段である
ことを特徴とする請求項6に記載の情報処理装置。
The information processing apparatus according to claim 6, wherein the storage unit is a storage unit that also stores character data of the recipe information.
前記レシピ情報抽出手段は、
前記レシピ情報の文字データと前記付随情報についてレシピ情報管理データを作成して前記記憶手段に記憶するレシピ情報管理データ作成手段を備える
ことを特徴とする請求項7に記載の情報処理装置。
The recipe information extracting means includes
The information processing apparatus according to claim 7, further comprising: recipe information management data creation means for creating recipe information management data for the character data of the recipe information and the accompanying information and storing the recipe information in the storage means.
前記検索手段は、前記キーワードを前記レシピ情報管理データからも検索する検索手段である
ことを特徴とする請求項8に記載の情報処理装置。
The information processing apparatus according to claim 8, wherein the search means is search means for searching the keyword also from the recipe information management data.
前記映像データは、アナログ放送又はデジタル放送から取得した映像データであり、前記映像データの付随情報は番組ジャンルの情報である
ことを特徴とする請求項4から9のいずれか1項に記載の情報処理装置。
The information according to any one of claims 4 to 9, wherein the video data is video data acquired from an analog broadcast or a digital broadcast, and the accompanying information of the video data is information on a program genre. Processing equipment.
映像データの画像認識処理を行う情報処理装置と端末を備える情報処理システムであって、
前記情報処理装置は、
前記映像データから前記画像認識処理により料理のレシピ情報を抽出する制御手段を備え、
前記端末は、
前記情報処理装置の静止画データ及び/又は前記レシピ情報を表示する表示手段を備え、
前記情報処理装置と前記端末とを接続するネットワーク手段を備える
ことを特徴とする情報処理システム。
An information processing system comprising an information processing apparatus and a terminal for performing image recognition processing of video data,
The information processing apparatus includes:
Control means for extracting cooking recipe information from the video data by the image recognition process;
The terminal
Comprising display means for displaying still image data and / or recipe information of the information processing apparatus;
An information processing system comprising network means for connecting the information processing apparatus and the terminal.
前記制御手段は、
前記映像データから文字認識を行う文字認識手段を備え、
前記文字認識手段は、
前記映像データから静止画データを取得するキャプチャ手段と、
前記静止画データを用いて文字認識を行う画像認識手段とを備える
ことを特徴とする請求項11に記載の情報処理システム。
The control means includes
Character recognition means for performing character recognition from the video data,
The character recognition means includes
Capture means for acquiring still image data from the video data;
The information processing system according to claim 11, further comprising: an image recognition unit that performs character recognition using the still image data.
前記制御手段は、
前記文字認識された文字データから前記レシピ情報を抽出するレシピ情報抽出手段を備え、
前記レシピ情報抽出手段は、
前記レシピ情報の文字データと映像データの付随情報についてレシピ情報管理データを作成して記憶手段に記憶するレシピ情報管理データ作成手段と、
前記キーワードを前記レシピ情報管理データからも検索する検索手段とを備える
ことを特徴とする請求項12に記載の情報処理システム。
The control means includes
A recipe information extracting means for extracting the recipe information from the character-recognized character data;
The recipe information extracting means includes
Recipe information management data creating means for creating recipe information management data and storing it in the storage means for the accompanying information of the character data and video data of the recipe information;
The information processing system according to claim 12, further comprising search means for searching for the keyword from the recipe information management data.
映像データの画像認識処理を行う情報処理装置において、
映像データから文字認識を行い、
文字認識された文字データに料理のレシピ情報が含まれている場合に
前記レシピ情報を抽出する
ことを特徴とする情報処理方法。
In an information processing apparatus that performs image recognition processing of video data,
Character recognition from video data,
An information processing method comprising: extracting recipe information when character recipe data includes character recipe information.
前記映像データから静止画データを取得し、前記静止画データから文字認識を行う
ことを特徴とする請求項14に記載の情報処理方法。
The information processing method according to claim 14, wherein still image data is acquired from the video data, and character recognition is performed from the still image data.
前記静止画データを記憶し、記憶された前記静止画データから文字認識を行い、前記レシピ情報を検索して一覧表示する
ことを特徴とする請求項15に記載の情報処理方法。
The information processing method according to claim 15, wherein the still image data is stored, character recognition is performed from the stored still image data, the recipe information is searched and displayed as a list.
JP2007271410A 2007-10-18 2007-10-18 Information processing device, information processing system, and information processing method Pending JP2009100351A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007271410A JP2009100351A (en) 2007-10-18 2007-10-18 Information processing device, information processing system, and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007271410A JP2009100351A (en) 2007-10-18 2007-10-18 Information processing device, information processing system, and information processing method

Publications (1)

Publication Number Publication Date
JP2009100351A true JP2009100351A (en) 2009-05-07

Family

ID=40702910

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007271410A Pending JP2009100351A (en) 2007-10-18 2007-10-18 Information processing device, information processing system, and information processing method

Country Status (1)

Country Link
JP (1) JP2009100351A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102892031A (en) * 2012-09-26 2013-01-23 西南石油大学 Method for intelligently identifying television program by mobile phone
CN103020581A (en) * 2011-09-21 2013-04-03 富士施乐株式会社 Information processing apparatus and information processing method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000341630A (en) * 1999-05-31 2000-12-08 Seiko Epson Corp Tv broadcast information storage and display system and printer
JP2002191002A (en) * 2000-12-21 2002-07-05 O2 Interactive:Kk Receiver
JP2003058699A (en) * 2001-08-09 2003-02-28 Sharp Corp Food material management and supply system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000341630A (en) * 1999-05-31 2000-12-08 Seiko Epson Corp Tv broadcast information storage and display system and printer
JP2002191002A (en) * 2000-12-21 2002-07-05 O2 Interactive:Kk Receiver
JP2003058699A (en) * 2001-08-09 2003-02-28 Sharp Corp Food material management and supply system

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020581A (en) * 2011-09-21 2013-04-03 富士施乐株式会社 Information processing apparatus and information processing method
JP2013069015A (en) * 2011-09-21 2013-04-18 Fuji Xerox Co Ltd Information processing device and information processing program
CN103020581B (en) * 2011-09-21 2018-01-02 富士施乐株式会社 Message processing device and information processing method
CN102892031A (en) * 2012-09-26 2013-01-23 西南石油大学 Method for intelligently identifying television program by mobile phone

Similar Documents

Publication Publication Date Title
US20200221163A9 (en) Method for receiving enhanced service and display apparatus thereof
US10080046B2 (en) Video display device and control method thereof
KR100424848B1 (en) Television receiver
US8228435B2 (en) Enhanced metadata presented in a pop-up window on cross-media bar user interface when a user hovers a screen cursor over a TV channel icon
CN100563311C (en) Messaging device and control method thereof
JP4410929B2 (en) Information output control device and information output control method
US8554884B2 (en) Setting and modifying method of user operating interface for use in digital audio/video playback system
CN1698353A (en) Information processing apparatus, information processing method, and computer program
JP2013017172A (en) Broadcast stream receiving apparatus and method
WO2012027607A2 (en) Technique and apparatus for analyzing video and dialog to build viewing context
JP2010011332A (en) Telop collecting apparatus, and telop collecting method
JP2010130445A (en) Viewing system, display device, remote controller device, and viewing method
US20060109378A1 (en) Apparatus and method for storing and displaying broadcasting caption
JPWO2008078717A1 (en) Program data management server, identifier assigning apparatus, program data management method, and program
JP2004080748A (en) Television receiver and system including same
US20030181198A1 (en) Portable information terminal, information equipment and information equipment control system based on portable information terminal
JP2009100351A (en) Information processing device, information processing system, and information processing method
US20150063782A1 (en) Electronic Apparatus, Control Method, and Computer-Readable Storage Medium
US20090162035A1 (en) Playback method and playback system of contents
EP1954037A2 (en) Method and apparatus for storing electronic program guide (EPG), and method and apparatus for providing EPG
JP2007266827A (en) Broadcast receiver
US6344879B1 (en) Apparatus and method for capturing object in TV program
JP4881459B2 (en) Recording and playback apparatus and method
JP5002293B2 (en) Program display device and program display method
JPH11261976A (en) Receiver capable of displaying program information

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120522

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120925