図1は、本発明の一実施例であるカラオケシステム10の構成を説明する図である。図1に示すように、本実施例のカラオケシステム10においては、カラオケボックス、スナック、旅館等の店舗12における複数の個室14a、14b、・・・(以下、特に区別しない場合には単に個室14と称する)にそれぞれ1台乃至は複数台ずつ(図1では1台ずつ)カラオケ装置16a、16b、・・・(以下、特に区別しない場合には単にカラオケ装置16と称する)が設置されている。これら複数のカラオケ装置16は、ルータ28を介して通信回線18に接続されており、同様にその通信回線18に接続されたサーバ装置20および翻訳サーバ30等との相互間でその通信回線18を介して情報の通信が可能とされている。ここで、店舗12は、好適には、固有の識別情報としての店舗IDをそれぞれ有し、その店舗IDにより各店舗12が識別されるものである。また、複数のカラオケ装置16は、固有の識別情報としての装置ID(シリアルナンバー等)をそれぞれ有し、その装置IDにより各カラオケ装置16が識別されるものである。
カラオケシステム10は、各カラオケ装置16に通信可能な1または複数のカラオケリモコン装置22a、22b、・・・(以下、特に区別しない場合には単にカラオケリモコン装置22と称する)を備えており、カラオケ装置16の利用に際して、利用者(グループ)毎に1台乃至数台ずつのカラオケリモコン装置22が貸与され、各個室14においてカラオケ装置16との間で対応付け処理が行われることで、そのカラオケ装置16の電子早見本装置として用いられるようになっている。また、図1に示すように、店舗12内には複数のカラオケ装置16を相互に接続するLAN24が敷設されており、カラオケリモコン装置22からのカラオケ装置16への入力は、所定のアクセスポイント26及びLAN24を介したLAN通信により行われる。
通信回線18は、例えば、公衆電話回線、ADSL回線、或いは光ファイバ回線等から構成されるWWW(World Wide Web)等の情報回線であり、インターネットすなわち広域情報通信網の一部である。サーバ装置20は、例えば、カラオケシステム10を管理する情報配信サービス提供会社によって運営されるサーバであり、そのカラオケシステム10におけるカラオケ楽曲(演奏情報)、背景画像情報、曲間情報等のデジタルコンテンツ(Digital Contents)の記憶や入出力管理の基本的な制御を行うセンタ装置として機能する。また、カラオケシステム10を利用する利用者毎の、カラオケ装置16を用いたカラオケ演奏に関する情報を、その利用者の識別情報(ユーザID)と対応付けて記憶するSNSデータベースを管理するデータベースサーバとして機能する。なお、本実施例においては、カラオケシステム10のセンタ装置としての機能及びデータベースサーバとしての機能を兼ね備えた単一のサーバ装置20を備えた構成について説明するが、それらセンタ装置及びデータベースサーバが個別のサーバ装置として構成されたものであってもよい。また、後述するサーバ装置20による各種制御が、複数のサーバ装置により分散的に実行される態様も考えられる。
図1に示すように、本実施例のカラオケシステム10は、通信回線18を介して複数のシステム乃至通信端末装置との間で相互に情報の送受信が可能とされている。すなわち、翻訳サーバ30が通信回線18に接続されると共に、携帯電話機又は通信機能付きの携帯型コンピュータである携帯端末32が中継基地局34を介して通信回線18に接続され、それら翻訳サーバ30及び携帯端末32とカラオケ装置16やサーバ装置20等との間で相互に情報の送受信が可能とされている。本実施例の携帯端末32は、選曲予約に用いるカラオケリモコン装置22との間において、相互通信可能にするための設定が予め行われている。たとえば、相互の機器を認識するためのID、認識コード、或いはシリアルナンバ−が予め設定されており、そのID、認識コード、或いはシリアルナンバ−が付された通信情報のみが受け入れられるようになっている。
図2は、カラオケ装置16の構成を例示するブロック線図である。図2に示すように、カラオケ装置16は、TFT(Thin Film Transistor Liquid Crystal)やPDP(Plasma Display Panel)等の画像表示装置40と、ビデオボード(グラフィックスボード)等の画像出力制御部42と、画像情報デコーダ44と、ビデオミキサ46と、音源であるシンセサイザ48と、音声入力装置であるマイクロフォン50と、アンプミキサ52と、スピーカ54と、操作パネル56と、その操作パネル56等からの入力信号を処理する入出力インターフェイス58と、中央演算処理装置であるCPU60と、読出専用メモリであるROM62と、随時書込読出メモリであるRAM64と、記憶装置であるハードディスク66と、モデム等のデータ回線装置68と、LANポート70と、カラオケリモコン装置22等の入力装置からの指示信号を受信するためのリモコン受信部72とを、備えて構成されている。
画像出力制御部42は、CPU60において生成された歌詞文字画像等の文字画像(テロップ)を出力する文字画像出力装置として機能する他、画像表示装置40による種々の画像表示を制御する表示制御装置である。また、画像情報デコーダ44は、利用者が歌詞を参照しながら歌唱する際にハードディスク66に記憶された背景画像情報に基づいて所定の背景画像を再生(デコード)する背景画像再生装置である。この背景画像情報は、例えば、MPEG(Moving Picture Experts Group)形式の情報であり、そのMPEG情報に基づいて画像情報デコーダ44により再生された背景画像は、ビデオミキサ46へ送られる。また、ビデオミキサ46は、CPU60において生成され、且つ、画像出力制御部42から出力される文字画像と、画像情報デコーダ44により再生される背景画像とを合成して画像表示装置40に表示させる画像合成装置である。
シンセサイザ48は、ハードディスク66から読み出されて送信されるカラオケ楽曲の演奏情報に基づいて楽器の演奏信号等の音楽信号を生成する音源である。この演奏情報は、例えば、MIDI(Musical Instrument Digital Interface)形式の情報であり、そのMIDI情報に基づいてシンセサイザ48により生成された音楽信号は、アナログ信号に変換されてアンプミキサ52へ送られる。アンプミキサ52では、送られてきた音楽信号とマイクロフォン50を介して入力される利用者(演奏者)の歌声とがミキシングされ、それらの信号が電気的に増幅されてスピーカ54から出力される。
操作パネル56は、カラオケ装置16の利用者が歌いたいカラオケ楽曲を選択したり、楽曲の音程を調整したり、演奏と歌との音量バランスを調整したり、その他、エコー、音量、トーン等の各種調整を行うための操作ボタン(スイッチ)或いはつまみを備えた入力装置である。また、カラオケ装置16とカラオケリモコン装置22或いは携帯端末22との対応付け(くくりつけ)処理もリモコン受信部72を介して行われる。カラオケ装置16に対応付けられたカラオケリモコン装置22は、カラオケ装置の指示入力装置として機能する。なお、本実施例においては、対応付け処理の行われたカラオケリモコン装置22等の入力装置もそのカラオケ装置16の一部を構成するものであるとして以下の説明を行う。
CPU60は、RAM64の一時記憶機能を利用しつつROM62に予め記憶された所定のプログラムに基づいて電子情報を処理・制御する所謂マイクロコンピュータであり、カラオケ装置16に係る各種制御を実行する。すなわち、カラオケリモコン装置22或いは携帯端末22により所定のカラオケ楽曲が選曲された場合、その選曲されたカラオケ楽曲をRAM64に設けられた予約曲テーブルに追加する選曲予約制御、その予約曲テーブルの演奏順に従ってハードディスク66からRAM64に選曲されたカラオケ楽曲の演奏情報に含まれる演奏情報及び歌詞情報を読み出す楽曲データ読出制御、カラオケ楽曲の演奏が進行に基づいて、RAM64からシンセサイザ48へ演奏情報を送信する演奏出力制御、演奏出力制御に際してRAM64に展開された歌詞情報に基づいて歌詞文字画像を生成して画像出力制御部42へ送信する歌詞文字画像出力制御、演奏出力制御に際して画像情報デコーダ44を制御して所定の背景画像を再生させる背景画像出力制御、カラオケ演奏が行われていない間すなわち曲間において、新譜情報、選曲ランキング、店舗広告等の曲間情報を出力させる曲間情報出力制御、及び通信回線18を介したサーバ装置20等との間の情報通信制御等の基本的な制御を実行する。
データ回線終端装置68は、カラオケ装置16を通信回線18に接続するための装置であり、CPU60から出力されるデジタル信号をアナログ信号に変換して通信回線18に送り出すと共に、通信回線18を介して伝送されるアナログ信号をデジタル信号に変換してCPU60に供給する処理を行う。なお、店舗12に備えられた複数のカラオケ装置16のうち何れかのカラオケ装置16がルータ28の機能を備えてマスターコマンダとして通信回線18に接続される態様も考えられる。その場合、データ回線終端装置68はそのマスターコマンダとして機能するカラオケ装置16には必要とされるが、そのマスターコマンダを介してサーバ装置20等との間で情報の通信を行う他のカラオケ装置16には必ずしも設けられなくともよい。
LANポート70は、LAN24を介して他のカラオケ装置16或いはカラオケリモコン装置22等の他の機器に接続するための接続器である。カラオケ装置16は、LAN24を介してカラオケ装置16と他の機器とが接続されることで、他の機器との間で情報の送受信が可能とされる。例えば、アクセスポイント26を介して受信されるカラオケリモコン装置22からの選曲予約を受け付けてRAM64に設けられた予約曲テーブルに追加したり、そのアクセスポイント26を介してカラオケ装置16からカラオケリモコン装置22へ所定の情報を送信したりというように、電波を介してカラオケ装置16とカラオケリモコン装置22との間における相互の情報のやりとりが実行される。また、通信回線18を介してのカラオケリモコン装置22とサーバ装置20との間の通信も、このLAN24乃至ルータ28を備えたカラオケ装置16を介して行われる。
ハードディスク66には、カラオケ楽曲を送信するための多数のカラオケ楽曲(演奏情報)を記憶するカラオケデータベース等の各種データベースが設けられている。カラオケボックス等の店舗12にそれぞれ備えられた複数のカラオケ装置16のうち所定のカラオケ装置16、例えばカラオケ装置16aは、データ回線終端装置68を介して通信回線18に接続されており、複数のカラオケ装置16によって常に新しい曲が演奏可能とされるように、随時新たなカラオケ楽曲等の情報がサーバ装置20から通信回線18を介して送信され、ハードディスク66のカラオケデータベース等のデータベースに追加され、ハードディスク66に記憶される。また、サーバ装置20から情報を受信したカラオケ装置16aとその他のカラオケ装置16との間でLAN24を介した通信が行われることにより、各カラオケ装置16のハードディスク66に記憶される情報が共有され、各カラオケ装置16のデータベースの内容が等価なものとされる。
カラオケデータベースは、カラオケ装置16により送信可能な楽曲に対応する多数(例えば、数万曲分)の演奏情報(カラオケ楽曲)である。この演奏情報は、シンセサイザ48により所定の楽器の演奏音を生成するための演奏情報と、歌詞文字画像(歌詞テロップ)を生成するための歌詞情報と、その歌詞情報に基づいて生成された歌詞文字画像を演奏の進行に合わせて順次色替わりさせてゆくための歌詞色替情報とを、含むものであり、コンテンツIDである各楽曲に固有の選曲番号により識別される。また、演奏情報には、楽曲の曲名、アーティスト名(歌手名)、発表年月日、ジャンル、曲調、アーティスト(歌手)の出身地、コンサート情報(近い将来その楽曲のコンサートが行われる開催地等に係る情報)、タイアップ情報(例えばその楽曲が主題歌として用いられたドラマの放映された曜日、時間帯、CMソング)等の情報が関連づけられて情報であって、ハードディスク66に記憶される。
図3は、サーバ装置20の構成を説明する図である。図3に示すように、サーバ装置20は、中央演算処理装置であるCPU80、読出専用メモリであるROM82、及び随時書込読出メモリであるRAM84を備え、CPU80によりRAM84の一時記憶機能を利用しつつROM82に予め記憶されたプログラムに従って信号処理を行う所謂ノイマン式コンピュータである。また、TFTやPDP等の画像表示装置86と、その画像表示装置86による画像の表示を制御するためのビデオボード(グラフィックスチップ)88と、キーボード等の入力装置90と、入力装置90による入力を処理するためのインターフェイス92と、CPU80を通信回線18に接続するためのデータ回線終端装置94とを、備えて構成されている。
図3に示すように、サーバ装置20は、ハードディスク96にカラオケデータベースをはじめとする各種データベースを備えている。このカラオケデータベースは、通信カラオケシステム10におけるカラオケ装置16等に送信するための多数のカラオケ楽曲(演奏情報)を記憶する。新しく作成されたカラオケ楽曲(演奏情報)は、このカラオケデータベースに追加される。そして、所定の送信制御プログラムにより定期的に、或いはカラオケ装置16からの要求に基づいて、ハードディスク96に記憶されたカラオケデータベースの随時新たなカラオケ楽曲が通信回線18を介して送信され、カラオケ装置16により演奏可能にハードディスク66等の記憶領域に記憶される。
図4は、翻訳サーバ30の構成を例示する図である。この図4に示すように、翻訳サーバ30は、中央演算処理装置であるCPU、随時書込読出メモリであるRAM、読出専用メモリであるROMを含む制御部100と、ハードディスク等から構成されて予め翻訳ソフトが記憶された記憶部102と、通信回線18を介して伝送された翻訳前の文字情報を受信して制御部100へ供給し、制御部100において翻訳された翻訳後の翻訳文字情報を通信回線18を介して送信するデータ回線終端装置104とを備えている。
図5は、カラオケリモコン装置22の構成を説明するブロック線図である。図5に示すように、カラオケリモコン装置22は、電子早見本装置としても機能するものであり、表示装置112とタッチパネル116とを備えた表示部110と、表示部110に所定の画像を表示させる表示装置112と、その表示装置112による表示を制御する表示制御部114と、利用者の指や図示しない備え付けのペン等による接触操作に基づいて、上部基板と下部基板との接触点の上部基板X座標の電圧を検出し、検出された電圧をA/D変換して位置座標Xを決定する。また、上部基板と下部基板との接触点の下部基板Y座標の電圧を検出し、検出された電圧をA/D変換して位置座標Yを決定するためのタッチパネル116と、タッチパネル116による入力を制御する入力制御部118と、中央演算処理装置であるCPU120と、読出専用メモリであるROM122と、随時書込読出メモリであるRAM124と、フラッシュROM等の記憶部126と、インターフェイス128と、リモコン送信部130と、無線LAN通信部132と、クレイドル134と電気的な接続を可能とするためのコネクタ136aとを、備えて構成されている。クレイドル134には、カラオケリモコン装置22と電気的な接続を可能とするためのコネクタ136bが設けられており、カラオケリモコン装置22は、クレイドル134に載置されてコネクタ136a及び136bが相互に接触させられることで、インターフェイス128を介してLAN24に接続されるようになっている。
CPU120は、表示制御部114を介して表示部110に所定のカラー画像たとえば選曲予約等の入力画像を表示させたり、その画像に基づく表示部110への接触により入力制御部118を介して入力される入力信号を処理したり、入力信号に基づき無線LAN通信部132等の回線を介してカラオケ装置16へ選曲予約をはじめとする入力送信を行ったり、マスターコマンダであるカラオケ装置16aを介してサーバ装置20とカラオケリモコン装置22との間で情報の通信を行うといった基本的な制御を実行する。また、記憶部146には、多数のカラオケ楽曲に対応して曲名、アーティスト名、属性情報、歌詞の歌い出し部分等の選曲案内情報、及び備考等の楽曲関連情報が選曲番号毎に記憶されている。なお、表示制御部114により表示部110に表示される入力画像は、接触により選択入力される複数の入力操作領域を備える。入力操作領域は、相互に異なる色彩で表示される。
図6は、携帯端末32の構成を例示する図である。図6において、携帯端末32は、中央演算処理装置であるCPU140と、読出専用メモリであるROM142と、随時書込読出メモリであるRAM144と、フラッシュROM等の記憶部148、後述する表示部164の補助的な操作を行うための操作部168と、アンテナ150と、送受信部152と、データ回線終端部154と、音声コーディック部156と、アナログフロントエンド158と、スピーカ160と、マイクロフォン162と、カラー画像表示可能な表示部164とを、備えて構成されている。
CPU140は、随時書込読出メモリであるRAM144の一時記憶機能を利用しつつ読出専用メモリであるROM142に予め記憶されたプログラムに従って信号処理を行う所謂マイクロコンピュータであり、表示部164に表示された文字入力ボタンに対する入力操作に従って文字入力が実行されるように制御したり、入力操作により入力された電話番号に従って通信或いは通話チャンネルを成立させると共に相互の通信或いは通話が可能となるように制御したり、入力操作により入力されたURLに従って所定のウェブサイトにアクセスしたり、メールの作成及び送受信を制御する等の基本的な制御を実行する。例えば、携帯端末32の通話状態においては、アンテナ150を介して送受信部152に受けた通話信号がデータ回線終端部154を介して音声コーディック部156においてデジタルコード信号から音声信号に変換され、アナログフロントエンド158によりスピーカ160が駆動されて音声が出力される。同時に、マイクロフォン162により音声から変換された音声信号がアナログフロントエンド158を介して音声コーディック部156に送られてそこでデジタル信号に変換され、データ回線終端部154、送受信部152、及びアンテナ150を介して送信される。
携帯端末32は、表示装置166とタッチパネル170とを備える表示部164と、表示部164に所定の画像を表示させる表示装置166と、その表示装置166による表示を制御する表示制御部168と、利用者の指や図示しない備え付けのペン等による表示部164への接触により入力を行うタッチパネル170と、タッチパネル170による入力を制御する入力制御部172とを、備えている。タッチパネル170は、カラオケリモコン装置22のタッチパネル116と同様である為、説明を省く。また、送受信部152を介して通信回線18に接続され、例えば公衆電話回線、ADSL回線、或いは光ファイバ回線等から構成されるWWW等のインターネットに接続された翻訳サーバ30およびカラオケリモコン装置22をはじめとする各種通信機器との間で情報の通信が可能とされる。また、通信回線18を介しての通信状態において、CPU140は、表示部164等の入力手段から入力された信号を通信先へ送信すると同時に、通信先から受信された信号をその表示部164に表示させる制御を行う。すなわち、携帯電話機32は、表示部164を有すると共に、その表示部164を介しての操作に応じたインターネットへのアクセス機能をはじめとする各種機能を備える所謂携帯電話機である。
また、携帯端末32は、カラー画像を撮像可能なCCDカメラなどから成るデジタル式の撮像装置174を備え、撮像したカラー撮像画像を記憶部146に記憶し、記憶したカラー撮像画像を表示部164にカラー表示させる。携帯端末32は、この表示部164にカラー表示されたカラー撮像画像内に含まれる日本語文字をそれぞれ抽出して翻訳サーバ30へ送信する。携帯端末32は、翻訳サーバ30から送信された翻訳後の翻訳文字(外国語文字)を取得して対応する日本語文字が表示されている位置に表示させた合成画像を生成する。生成された合成画像を表示した表示部164に対して接触入力された位置(タッチされた位置)を検出し、検出された位置の色彩に関連する色彩関連情報を、入力された入力操作領域情報としてカラオケリモコン装置22へ送信するように、予めプログラムされているカラオケ指示操作アプリケーションプログラムを記憶部148に搭載している。
図7は、前記カラオケ指示操作アプリケーションプログラムに従った図6の携帯端末32のCPU120の制御機能の要部を説明するブロック線図である。図7において、撮像手段180は、撮像装置174により撮像させ、撮像した撮像画像をRAM144に一時記憶させる。例えば、撮像手段180は、カラオケリモコン装置22の表示部110に表示された初期入力画面、選曲履歴画面、曲指示画面などの入力画面Grを撮像装置174により撮像させて、撮像した入力画面のカラー撮像画像をRAM144に一時記憶させる。
図8(a)および図9(a)は、カラオケリモコン装置22の入力画面Grの一例である。入力画面Grは、複数の入力操作領域を含む。入力操作領域は、入力操作領域A1「歌手」、入力操作領域A2「曲名」、入力操作領域A3「キーワード」、入力操作領域A4「ジャンル」、入力操作領域A5「ランキング」、入力操作領域A6「りれき」である。各入力操作領域は、日本語文字が含まれて表示される。各入力操作領域A1、A2、・・・A6は、異なる色彩で表示されており、その色彩に対応する異なる斜線が示されている。例えば、右から左に向かう粗い斜線は赤色、左から右に向かう粗い斜線は橙色、右から左に向かう破線の斜線は黄色、左から右に向かう破線の斜線は緑色、右から左に向かう細かな斜線は青色、左から右に向かう細かな斜線は藍色を、それぞれ示している。図13、図16も同様である。
図8(b)は、カラオケ指示操作アプリケーションプログラムが搭載され、且つ、アプリケーションプログラム起動操作された携帯端末32を例示する図である。図8(b)において、携帯端末32の表示部164には、撮像モードにおいて表示されるスキャン開始(撮像開始)の入力操作領域Mが設けられている。
図9(b)は、入力操作領域Mの近傍を接触入力操作が行われることにより、撮像装置による撮像が実行され、撮像画像が表示部164に表示されている様子を示す。具体的には、カラオケリモコン装置22の表示部110に表示された初期入力画面の入力画面Grが、撮像されたカラー撮像画像Gsを端末装置32の表示部164に表示されている状態を示す。
文字抽出手段182は、文字画像に絞り込む絞込処理、文字列のレイアウト解析処理、画像内文字の正規化処理、文字の特徴抽出処理、標準文字パターンとのマッチング処理を順次行う文字認識手法を用いて、文字或いは文字列を抽出する。具体的には、図10に示すように、撮像装置174により撮像されたカラー撮像画像Gs内に存在する日本語の文字或いは文字列を、自動的に抽出する。
翻訳文字取得手段184は、文字抽出手段182によりカラー撮像画像Gsから抽出された1または複数の文字或いは文字列を表す文字情報と、携帯端末32に初期設定された使用言語を表す言語情報とを、翻訳サーバ30へ送信する文字送信手段186と、翻訳サーバ30により文字情報が表す1または複数の文字或いは文字列から使用言語へ翻訳された1または複数の翻訳文字或いは文字列を表す翻訳文字情報を受信する翻訳文字受信手段188とを備える。
翻訳文字取得手段184は、具体的には、文字抽出手段182によりカラー撮像画像から抽出された1または複数の日本語の文字或いは文字列を表す日本語文字情報と、携帯端末32に初期設定された使用言語である英語を表す英語言語情報とを翻訳サーバ30へ送信する。翻訳文字取得手段184は、翻訳サーバ30から日本文字情報が表す1または複数の文字或いは文字列から使用言語の英語に翻訳された1または複数の翻訳文字或いは文字列を表す英語翻訳文字情報を取得する。たとえば、翻訳文字取得手段184は、「歌手」、「曲名」、「キーワード」、「ジャンル」、「ランキング」、「りれき」という日本語文字が英訳された「Singer」、「Song」、「Keyword」、「Genre」、「Ranking」、「History」を、翻訳サーバ30から取得する。
合成画像生成手段190は、翻訳文字取得手段184により取得された1または複数の翻訳文字と、撮像手段180により撮像されたカラー撮像画像とを合成し、翻訳文字とカラー撮像画像とが重ねられたカラー合成画像を生成する。具体的には、カラー合成画像は、日本語の文字或いは文字列と翻訳文字或いは文字列とが接近した位置に合成された画像である。例えば、カラー撮像画像内において日本語の文字或いは文字列が抽出された位置と抽出された文字或いは文字列とを対応付けてRAM144に一時記憶し、抽出された文字或いは文字列が翻訳された翻訳文字或いは文字列は、RAM144に一時記憶された位置と抽出された文字或いは文字列とに基づいて、翻訳文字とカラー撮像画像とを合成する。
合成画像表示手段192は、合成画像生成手段190により合成されたカラー合成画像を、携帯端末32の表示部164に表示させる。図11は、携帯端末32の表示部164に、日本語の文字或いは文字列と翻訳文字或いは文字列とが合成されたカラー合成画像Ggが表示部164に表示された状態を示す。
操作位置検出手段194は、携帯端末32の表示部164に表示されたカラー合成画像のいずれかの位置に、携帯端末32の操作者の指やタッチペン195によって接触(タッチ)操作された操作位置を、検出する。例えば、図12(a)に示すように、タッチペン195によって日本語文字の「りれき」と英語翻訳文字の「Histoy」との近傍を接触操作された場合には、操作位置検出手段194は、その接触操作位置を示す印Sを検出する。印Sは、図面において便宜上示しており、実際のサービスにおいては、印Sは必ずしも表示されない。携帯端末32の表示部164の接触操作位置を示す印Sに関する情報は、後述の送信手段200によりカラオケリモコン装置22に送信される。図12の(b)は、携帯端末32によって、カラオケリモコン装置22の表示部110に表示されている初期入力画面内の印Sの位置が接触操作されたことを示す。
色彩検出手段196は、携帯端末32の表示部164に表示されたカラー合成画像のうち操作位置検出手段194により検出された接触操作位置の色彩を示す色彩情報を、カラー合成画像の画像情報に基づいて検出する。色彩情報は、表示部164に表示されたカラー合成画像の色彩に関する情報である。色彩情報は、例えばRGB情報である。
操作領域決定手段198は、カラオケリモコン装置22の入力画面における各入力操作領域の色彩情報と、カラオケリモコン装置22の入力画面の各入力操作領域の色彩情報に対応付けられている入力操作領域情報との関係(マップ)を、たとえば通信許可信号と共にカラオケリモコン装置22から受信し、その関係を用いて、色彩検出手段196により検出された色彩が、各入力操作領域のいずれかが操作されたことを決定する。具体的には、携帯端末32は、カラオケリモコン装置22よりカラオケリモコン装置22の入力画面における各入力操作領域の色彩情報と、カラオケリモコン装置22の入力画面における各入力操作領域の色彩情報に対応付けられている入力操作領域情報を受信する。操作領域決定手段198は、受信された入力操作領域情報と、色彩検出手段196により検出された色彩とに基づいて、カラオケリモコン装置22の入力画面における入力操作領域を決定する。
送信手段200は、操作領域決定手段198により決定された入力操作領域を表す操作領域情報を表す入力操作領域情報を、カラオケリモコン装置22に送信する。
カラオケリモコン装置22は、携帯端末32から送信された入力操作領域情報に基づいて、カラオケリモコン装置22の表示部110に表示された入力画面が接触操作された場合に生成される接触操作信号が生成され、生成された接触操作信号に基づいてカラオケリモコン装置22の表示部110を変化させる。具体的には、図12の(b)に示す図において、カラオケリモコン装置22の表示部110に表示される初期入力画面内の入力操作領域A6の履歴ボタンが接触操作されたことを示す入力操作領域情報をカラオケリモコン装置22が受信すると、図13(a)に示す図において、カラオケリモコン装置22の表示部110が、過去にカラオケ装置16に送信されたカラオケ楽曲に関する情報である選曲履歴画面が表示される。前述と同様に、携帯端末32の撮像手段180は、選曲履歴画面を撮像装置174により撮像させて、撮像した選曲履歴画面のカラー撮像画像をRAM144に一時に記憶させる。
図13(a)は、カラオケリモコン装置22の選曲履歴画面の一例である。この選曲履歴画面には、複数の入力操作領域が含まれている。入力操作領域は、楽曲名とアーティスト名とを日本語文字にて表した文字が含まれる領域である。入力操作領域は、具体的には、入力操作領域A7「SKY INABAかすみ」、入力操作領域A8「海 MAJU」、入力操作領域A9「やま 西よしお」、入力操作領域A10「靴 かしまり」、入力操作領域A11「森 RIRIKA」である。図13(b)は、図8(b)と同じである為、説明を省く。
文字抽出手段182は、前述と同様の文字認識手法を用いて、カラー撮像画像から文字或いは文字列を抽出する。例えば、図13(a)に示された選曲履歴画面を撮像装置174により撮像されたカラー撮像画像から日本語の文字或いは文字列を、自動的に抽出する。
翻訳文字取得手段184は、文字抽出手段182によりカラー撮像画像から抽出された1または複数の文字或いは文字列を表す文字情報を翻訳サーバ30へ送信し、翻訳サーバ30から文字情報が表す1または複数の文字或いは文字列から使用言語へ翻訳された1または複数の翻訳文字或いは文字列を表す翻訳文字情報を取得する。例えば、文字抽出手段182は、図13(a)に示す「SKY INABAかすみ」、「海 MAJU」、「やま 西よしお」、「靴 かしまり」、「森 RIRIKA」の文字を含むカラオケリモコン装置22の画面を、撮像したカラー撮像画像から文字を抽出し、文字送信手段188によって抽出された文字を表す文字情報を翻訳サーバ30に送信する。翻訳文字受信手段188は、翻訳サーバ30から文字を翻訳文字「Sky Inaba kazumi」、「Sea Maju」、「Mountain NishiYoshio」、「Shoes Kashimari」、「Forest Ririka」を、受信する。
合成画像生成手段190は、翻訳文字取得手段184により取得された翻訳文字と、撮像手段180により撮像されたカラー撮像画像とを合成し、翻訳文字とカラー撮像画像とが重ねられたカラー合成画像を生成する。合成画像表示手段192は、合成画像生成手段190により合成されたカラー合成画像を、携帯端末32の表示部164に表示させる。図14は、日本語の文字或いは文字列と、日本語の文字或いは文字列が翻訳された翻訳文字とが合成されたカラー合成画像Ggが表示部164に表示された図である。具体的には、入力操作領域の入力操作領域A7’、入力操作領域A8’、入力操作領域A9’、入力操作領域A’、入力操作領域A11’内に、文字と翻訳文字とが表示されるカラー合成画像Ggが携帯端末32の表示部164に表示された図を示す。
操作位置検出手段194は、携帯端末32の表示部164に表示されたカラー合成画像のいずれかの位置に、携帯端末32の操作者の指、又は、タッチペン195によって接触操作された操作位置を、検出する。例えば、図15に示すように、タッチペン195によって文字の「海」と「MAJU」と、及び翻訳文字の「Sea」と「Maju」とが含まれる入力操作領域A8’に接触操作された場合には、操作位置検出手段194は、その接触操作位置を示す印Sを検出する。携帯端末32の表示部164の接触操作位置を示す印Sに関する情報は、後述の送信手段200によりカラオケリモコン装置22に送信される。
色彩検出手段196は、携帯端末32の表示部164に表示されたカラー合成画像のうちのうち操作位置検出手段194により検出された接触操作位置の色彩を、カラー合成画像の画像情報に基づいて検出する。
操作領域決定手段198は、カラオケリモコン装置22の入力画面における各入力操作領域の色彩情報と、カラオケリモコン装置22の入力画面の各入力操作領域の色彩情報に対応付けられている入力操作領域情報との関係(マップ)を、たとえば通信許可信号と共にカラオケリモコン装置22から受信し、その関係を用いて、色彩検出手段196により検出された色彩が、各入力操作領域のいずれかが操作されたことを決定する。具体的には、携帯端末32は、カラオケリモコン装置22よりカラオケリモコン装置22の入力画面における各入力操作領域の色彩情報と、カラオケリモコン装置22の入力画面における各入力操作領域の色彩情報に対応付けられた入力操作領域情報を受信する。操作領域決定手段198は、受信された入力操作領域情報と、色彩検出手段196により検出された色彩とに基づいて、図15において、カラオケリモコン装置22の入力画面における入力操作領域のうちの入力操作領域A8’が操作されたことを決定する。
送信手段200は、操作領域決定手段198により決定された入力操作領域(入力操作領域A8’)を表す入力操作領域情報を、カラオケリモコン装置22に送信する。
カラオケリモコン装置22は、携帯端末32から送信された入力操作領域情報に基づいて、カラオケリモコン装置22の表示部110に表示された入力画面が接触操作された場合に生成される接触操作信号が生成され、生成された接触操作信号に基づいてカラオケリモコン装置22の表示部110を変化させる。具体的には、図13に示す図において、カラオケリモコン装置22の表示部110に表示された選曲履歴画面内の入力操作領域A8すなわち「海」と「MAJU」とを含めた入力操作領域が接触操作されたことを示す入力操作領域情報をカラオケリモコン装置22が受信すると、図16(a)に示す、カラオケリモコン装置22の表示部110が曲指示画面に変化する。前述と同様に、携帯端末32の撮像手段180は、曲指示画面を撮像装置174により撮像させて、撮像された曲指示画面のカラー撮像画像をRAM144に一時記憶させる。
図16(a)は、カラオケリモコン装置22の曲指示画面の一例である。この曲指示画面には、複数の入力操作領域が含まれている。入力操作領域は、前のページに戻ることを示す「戻るボタン」と、カラオケ楽曲の音高を変更することを示す「キー変更ボタン」と、カラオケ楽曲をカラオケ装置16に予約することを示す「予約ボタン」とが、日本語にて表した文字が含まれる領域である。入力操作領域は、具体的には、入力操作領域A12「戻る」、入力操作領域A13「キー変更」、入力操作領域A14「予約」である。図16(b)は、図8(b)及び図13(b)と同様である為、説明を省く。
文字抽出手段182は、前述と同様の文字認識手法を用いて、カラー撮像画像から文字或いは文字列を抽出する。例えば、図16(a)に示された曲指示画面を、撮像装置174により撮像されたカラー撮像画像から日本語の文字或いは文字列を、自動的に抽出する。
翻訳文字取得手段184は、文字抽出手段162によりカラー撮像画像から抽出された1または複数の文字或いは文字列を表す文字情報を翻訳サーバ30へ送信し、翻訳サーバ30から文字情報が表す1または複数の翻訳文字或いは文字列を表す翻訳文字情報を受信する。例えば、文字出力手段182は、図16(a)に示す「歌手名:MAJU 曲名:海」、「戻る」、「キー変更」、「予約」を含むカラオケリモコン装置22の画面を、撮像されたカラー撮像画像から文字を抽出し、文字送信手段186によって抽出された文字を表す文字情報を翻訳サーバ30に送信する。翻訳文字受信手段188は、翻訳サーバ30から文字を翻訳文字「Singer Maju, Song Sea」、「Return」、「Key Change」、「Reservation」を、受信する。
合成画像生成手段190は、翻訳文字取得手段184により取得された翻訳文字と、撮像手段180により撮像されたカラー撮像画像とを合成し、翻訳文字とカラー撮像画像とが重ねられたカラー合成画像を生成する。合成画像表示手段192は、合成画像生成手段190により合成されたカラー合成画像を、携帯端末32の表示部164に表示させる。図17は、日本語の文字或いは文字列と、日本語の文字或いは文字列が翻訳された翻訳文字とが合成されたカラー合成画像Ggが表示部164に表示された図である。具体的には、入力操作領域A12’、入力操作領域A13’、入力操作領域A14’内に、文字と翻訳文字或いは文字列とが表示されるカラー合成画像Ggが携帯端末32の表示部164に表示された図を示す。
操作位置検出手段194は、携帯端末32の表示部164に表示されたカラー合成画像のいずれかの位置に、携帯端末32の操作者の指やタッチペン195によって接触(タッチ)操作された操作位置を、検出する。例えば、図18に示すように、タッチペン195によって日本語文字の「予約」と英語翻訳文字の「Reservation」との近傍を接触操作された場合には、操作位置検出手段194は、接触操作位置を示す印Sを検出する。表示部164に表示されたカラー合成画像において印Sに関する情報は、後述の送信手段200によりカラオケリモコン装置22に送信される。
色彩検出手段196は、携帯端末32の表示部164に表示されたカラー合成画像のうち操作位置検出手段194により検出された接触操作位置の色彩を、カラー合成画像の画像情報に基づいて検出する。
操作領域決定手段198は、カラオケリモコン装置22の入力画面における各入力操作領域の色彩情報と、カラオケリモコン装置22の入力画面の各入力操作領域の色彩情報に対応付けられている入力操作領域情報との関係(マップ)を、たとえば通信許可信号と共にカラオケリモコン装置22から受信し、その関係を用いて、色彩検出手段196により検出された色彩が、各入力操作領域のいずれかが操作されたことを決定する。具図18において、カラオケリモコン装置22の入力画面における入力操作領域のうちの入力操作領域A14’が操作されたことを決定する。
送信手段200は、操作領域決定手段198により決定された入力操作領域を表す入力操作領域情報を表す入力操作領域情報を、カラオケリモコン装置22に送信する。
カラオケリモコン装置22は、送信手段200から送信された入力操作領域情報に基づいて、カラオケリモコン装置22の表示部110に表示された入力画面が接触操作された場合に生成される接触操作信号が生成され、生成された接触操作信号に基づいてカラオケリモコン装置22の表示部110を変化させる。具体的には、図16に示す図において、カラオケリモコン装置22の表示部110に表示される曲指示画面の入力操作領域A14、すなわち「予約」文字を含めた入力操作領域が接触操作されたことを示す入力操作領域情報をカラオケリモコン装置22が受信すると、「歌手名:MAJU 曲名:海」の選曲予約制御を実行する。選曲予約制御が完了されると、カラオケリモコン装置22の表示部110に、図19(a)に示す「予約を完了しました」が表示される画面に変化する。図19(b)は、図8(b)、図13(b)、および図16(b)と同様である為、説明を省く。
図20、図21、図22、図23は、図6の携帯端末32のCPU120の制御作動の要部を説明するフローチャートであって、図20は記憶部126に記憶されたプログラムに従うカラオケリモコン装置22のコンピュータの制御作動のうちの通信許可制御ルーチンを示し、図21は記憶部148に記憶されたプログラムに従う携帯端末32のコンピュータの制御作動のうちの通信許可制御ルーチンを示し、図22は携帯端末32のコンピュータの制御作動のうちのカラオケ指示制御ルーチンを示し、図23は記憶部126に記憶されたプログラムに従うカラオケリモコン装置22のコンピュータのうちのカラオケ指示制御ルーチンを示している。
図20において、カラオケリモコン装置22と携帯端末32との通信可能に設定する指示をカラオケリモコン装置22が受信すると、ステップS11(以下、ステップを省略する)では、カラオケリモコン装置22のIDを表す情報を含む二次元バーコードがカラオケリモコン装置22の表示部110に表示される。次いで、S12では、携帯端末32からの通信許可要求信号を受信したか否かが判断される。このS12の判断が否定される場合はS13において、二次元バーコードがカラオケリモコン装置22の表示部110に表示されてから所定時間Tが経過したか否かが判断される。このS13の判断が否定される場合はS12以下が繰り返し実行されるが、S13の判断が肯定されると、本ルーチンが終了される。しかし、S12の判断が肯定される場合は、S14において、通信を許可する通信許可信号(通信許可フラグ)が生成された後、S15において、携帯端末32のIDとカラオケリモコン装置22のIDと通信許可信号とが関連づけて記憶される。そして、S16では、相互に関連づけられた通信許可信号とカラオケリモコン装置22のIDと、カラオケリモコン装置22の入力画面の各入力操作領域の色彩情報と、カラオケリモコン装置22の入力画面の各入力操作領域の色彩情報に対応づけられて入力操作領域情報との関係(マップ)とが携帯端末32のIDに基づいて、携帯端末32へ送信される。
図21において、S21では、携帯端末32の撮像操作により撮像手段180が撮像指示を受けたか否かが判断される。このS21の判断が否定されると待機させられるが、S21の判断が肯定されると、撮像手段180により撮像装置174を用いた撮像が実行される。次いで、S23において、S22において撮像された撮像画像中にカラオケリモコン装置22のカラオケリモコン装置のID含まれているか否かが判断される。このS23の判断が否定される場合はS21以下が繰り返されるが、S23の判断が肯定される場合は、S24において、携帯端末32のIDおよびカラオケリモコン装置22のIDを含む通信許可要求信号がカラオケリモコン装置22に送信される。S25では、カラオケリモコン装置22から送信される通信許可信号を受信したか否かが判断される。このS25の判断が否定される場合は、S26において通信許可要求信号がカラオケリモコン装置22に送信されてから所定時間Tsが経過したか否かが判断される。このS26の判断が否定される場合はS25以下が繰り返し実行されるが、S26の判断が肯定されると、本ルーチンが終了される。S25の判断が肯定される場合は、S27において、受信した通信許可信号とカラオケリモコン装置22のIDと、携帯端末32のIDとがRAM144に一時記憶される。
図22において、カラオケ指示操作モードを実行するために、ユーザが、携帯端末32の表示部164を操作すると、カラオケ指示操作プログラムが記憶部148から読み出され、図22に示す一連のステップの処理が開始される。S31では、携帯端末32の表示部164には、スキャン開始(撮像開始)を示す画像(アイコン)により撮像開始を指示する入力操作領域Mが表示される。次いで、S32では、入力操作領域Mの接触入力操作により撮像開始が指示されたか否かが判断される。このS32の判断が否定される場合はS31以下が繰り返し実行される。S32の判断が肯定される場合は、撮像手段180に対応するS33において、携帯端末32の撮像装置174によりカラオケリモコン装置22の表示部110に表示された初期入力画面、選曲履歴画面、曲指示画面などの入力画面の撮像が実行される。次いで、文字抽出手段182に対応するS34では、撮像装置174により撮像されたカラー撮像画像中から文字或いは文字列が抽出される。文字送信手段186に対応するS35では、S34において抽出された文字を表す文字情報および携帯端末32において初期設定されている言語を表す言語情報が、翻訳サーバ30へ送信される。次いで、翻訳文字受信手段188に対応するS36では、翻訳サーバ30からの翻訳文字を表す翻訳情報が受信されたか否かが判断される。このS36の判断が否定される場合はS36以下が繰り返し実行されることにより待機される。S36の判断が肯定される場合は、合成画像生成手段190に対応するS37において、カラー撮像画像と翻訳文字とを合成したカラー合成画像が生成される。合成画像表示手段192に対応するS38において、生成されたカラー合成画像が携帯端末32の表示部164に表示される。
操作位置検出手段194に対応するS39では、カラー合成画像が表示された携帯端末32の表示部164において、カラー合成画像が接触入力操作されたか否かが判断される。S39の判断が否定される場合はS40において、カラー合成画像が表示部164部に表示されてから予め設定された有効期限、たとえば、撮像装置174によって撮影が実行されてから所定時間内であるか否かが判断される。このS40の判断が否定される場合は本ルーチンが終了させられるが、S40の判断が肯定される場合は、S38以下が繰り返し実行される。S39の判断が肯定される場合は、色彩検出手段196に対応するS41において、接触入力操作が検出された位置の色彩を表すRGB(色彩)情報が抽出される。そして、送信手段200に対応するS42では、S41において検出されたRGB情報および/または、入力操作領域情報がカラオケリモコン装置22に送信される。また、予めカラオケリモコン装置22から送信されて記憶されたカラオケリモコン装置22の各入力操作領域の色彩情報と、その色彩情報に対応づけられている入力操作領域情報との関係(マップ)を用いて、各入力操作領域のいずれかが操作されたかが決定される。
図23において、S51では、カラオケリモコン装置22の表示部110において表示された入力画面をユーザが接触入力操作したか否かが判断される。このS51の判断が肯定される場合は後述のS54以下が実行されるが、否定される場合は、S52において、携帯端末32から送信された入力操作領域の色彩を表すRGB情報がカラオケリモコン装置22に受信されたか否かが判断される。このS52の判断が否定される場合はS51以下が繰り返し実行される。S52の判断が肯定される場合は、S53において、入力画面内の入力操作領域と入力操作領域の色彩とに基づいて、受信されたRGB情報が表す色彩の入力操作領域を決定する。決定された入力操作領域を表す接触操作信号が生成される。次に、S54では、接触操作信号に基づいて、画像処理、および各種処理が実行される。S52において入力操作領域情報が受信された場合は、S54において、その入力操作領域情報に基づいて、画像処理および各種処理が実行される。S55において、その処理結果を表す画像がカラオケリモコン装置22の表示部110に表示される。S54およびS55において、例えば、入力画面が図8(a)に示す初期入力画面であって、その初期入力画面内の入力操作領域A1、入力操作領域A2、入力操作領域A3、入力操作領域A4、入力操作領域A5、入力操作領域A6のうちの「りれき」という日本語文字が表示されている入力操作領域A6の操作が行われた場合には、図13(a)に示される選曲履歴画面を表示する処理が実行されて表示される。例えば、入力画面が図13(a)に示される選曲履歴画面であって、選曲履歴画面内の入力操作領域A7、入力操作領域A8、入力操作領域A9、入力操作領域A10、入力操作領域A11のうち、「海」という日本語文字が表示されている入力操作領域A8の操作が行われた場合には、図16に示す曲指示画面が表示される。また、例えば、入力画面Grが図16に示す曲指示画面であって、その曲指示画面内の入力操作領域A12、入力操作領域A13、入力操作領域A14のうちの「予約」という日本語文字が表示されている入力操作領域A14の操作が行われた場合には、予め設定されている選曲予約作動が実施された後、図19に示す「予約が完了しました」という文字が、カラオケリモコン装置22の表示部110において表示される。
上述のように、本実施例のカラオケシステム10、携帯端末32およびそれに搭載されたプログラムによれば、撮像手段180によって撮像されたカラー撮像画像に含まれる文字が文字抽出手段182により抽出され、抽出された文字が携帯端末32に設定された言語に翻訳された翻訳文字が翻訳文字取得手段184により取得され、取得された翻訳文字とカラー撮像画像とを合成したカラー合成画像が合成画像生成手段190によって生成され、生成されたカラー合成画像が合成画像表示手段192により表示部164に表示され、表示部164に表示されたカラー合成画像のうち操作位置検出手段194により検出された接触操作位置の色彩が色彩検出手段196によりを検出され、色彩検出手段196により検出された接触操作位置の色彩を表す色彩情報が送信手段200によってカラオケリモコン装置22に送信される。これにより、日本語以外の言語を使用するユーザは、携帯端末32の表示部164に表示されたカラー合成画像内において翻訳文字で表される機能にしたがってタッチ入力操作を行うことにより、間違いがなく簡単にカラオケ装置16をリモコン操作できる。
また、本実施例によれば、さらに、色彩検出手段196により検出された色彩に基づいて、カラオケリモコン装置22の表示部110に表示された入力画面における入力操作領域を決定する操作領域決定手段198を含み、送信手段200は、その操作領域決定手段198により決定された入力操作領域をカラオケリモコン装置22へ送信することから、その入力操作領域に対応した部位にある操作領域に応じた入力操作でカラオケ装置22をリモコン操作することで、日本語以外の言語を使用するユーザの携帯端末32の表示部164に表示されたカラー合成画像内において翻訳文字で表される機能にしたがってタッチ入力操作を行うことにより、間違いがなく簡単にカラオケ装置22をリモコン操作できる。
また、本実施例によれば、携帯端末32は、カラオケリモコン装置22の表示部110に表示された入力画面内の日本語文字を携帯端末32に設定された言語に翻訳する翻訳サーバと通信可能であり、携帯端末32は、さらに、前記日本語文字と携帯端末32に設定された外国語とを、翻訳サーバ30に送信する文字送信手段186、および翻訳サーバ30から翻訳文字を受信する翻訳受信手段188を有することから、携帯端末32内に翻訳ソフトを内蔵する必要がなく、携帯端末32の構成が小型且つ簡単となる。