JP4564344B2 - 情報端末装置及び翻訳システム - Google Patents
情報端末装置及び翻訳システム Download PDFInfo
- Publication number
- JP4564344B2 JP4564344B2 JP2004342513A JP2004342513A JP4564344B2 JP 4564344 B2 JP4564344 B2 JP 4564344B2 JP 2004342513 A JP2004342513 A JP 2004342513A JP 2004342513 A JP2004342513 A JP 2004342513A JP 4564344 B2 JP4564344 B2 JP 4564344B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- observation target
- view
- real field
- terminal device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
例えば、特開2002−278583号公報(特許文献1)には、犬の鳴き方の違いによる犬の感情を音声又は画像として出力することにより、犬とのコミュニケーションを図ることのできる技術が開示されている。
上記特許文献1には、飼い犬の首輪に取り付けられた犬側ケースから送信された犬の鳴き声をユーザが保有する飼い主側ケースにて受信し、受信した犬の鳴き声に基づいて犬の感情を解析し、この犬の感情を文字や音声により飼い主へ伝える技術が開示されている。
本発明は、画像表示部と、使用者の視線方向の実視野からの光を透過するとともに前記画像表示部に表示された情報を光学的に虚像として前記実視野中に重畳的に表示する半透過光学素子と、観察対象の音声を取得する音声取得部と、前記半透過光学素子を通して視認される実視野中に存在する前記観察対象を検出する検出部と、前記検出部の検出結果に基づいて、前記観察対象が前記実視野中に存在するか否かを判定する判定部と、前記判定部によって前記観察対象が前記実視野中に存在すると判定された場合に、前記音声取得部により取得された前記音声に基づいて、前記観察対象の状態を解析する状態解析部と、前記状態解析部の解析結果を前記画像表示部に表示させる画像表示制御部とを備える情報端末装置を提供する。
これにより、動物や植物などの観察対象の状態は、半透過光学素子により、実視野中に存在する観察対象に重畳的に表示される。これにより、植物、動物などの観察対象と、その観察対象の状態とを、一体性をもたせた形で表示させることができる。
これにより、植物などのように、一定の場所に固定されているような場合には、非常に容易に、且つ、高い精度で判定を行うことが可能となる。
例えば、植物や動物などの観察対象の状態は、音声の大小や周波数パターン等と、その状態とが対応付けられて、データベースに登録されている。
〔第1の実施形態〕
図1及び図2は、本発明の第1の実施形態に係る情報端末装置の構成例を示す外観斜視図である。図1は、使用状態における外観斜視図、図2は格納状態における外観斜視図を示している。
図1、図2に示すように、本実施形態に係る情報端末装置10は、後述する各種制御機構及び制御基板等を内蔵した筐体(本体)20の外部に、表示装置30及び撮像装置(撮像部)40を備えている。
上記表示装置30は、画像表示部50及びコンバイナー60を備えている。これら画像表示部50及びコンバイナー60は、格納状態で、筐体20を貫通する開口部21の空間部に収納され(図2参照)、それぞれが矩形状とした短辺側の一辺を筐体20に軸支されて揺動による開閉動作が可能とされる。
このコンバイナー60としては、例えば、少なくとも1面に自由曲面(3次元非球面)を有する光学素子、ハーフミラー、ホログラムなどが挙げられる。
本実施形態において、コンバイナー60は、例えば、アクリルやポリカーボネート等の透明な材質からなる略長方形板状の部材であり、その片面側に金属膜等の反射層が形成されている。この反射層の表面が、画像表示部50から入射した光を表面で反射させる反射面61となる。
使用状態では、図1に示すように、この反射面61と表示面51とが略対向し、かつ、筐体20とともに略Z字状を形成するように開かれ、図3に示すように、筐体20の後端部側となる側面22が使用者の側頭部に押し当てられるように保持される。この状態において、画像表示部50の表示面51に表示された情報の光は、開口部21を通じて斜め前方へ向けて出射され、反射面61によって筐体20の後端部側へ向けて反射される。これにより、使用者には、コンバイナー60の前方に、すなわち、使用者から見てコンバイナー60よりも遠方に、画像表示部50に表示された情報が虚像として視認される。
撮像装置40としては、例えば、感光フィルム等の感光体を用いたアナログ式撮像装置を用いてもよく、またCCD素子等の撮像素子を用いたデジタル式撮像装置を用いてもよい。本実施形態では、撮像装置40として、デジタル式撮像装置が用いられている。
図4は、本実施形態に係る情報端末装置の電気的構成の概略を示したブロック図である。この図において、図1乃至図3と同様の構成要素には、同一の符号を付している。
図4に示すように、筐体20には、通信部71、各種処理を実行する処理部72、第1のデータベース73、第2のデータベース74、及び画像表示部75などが内蔵されている。これら各部は、いずれも処理部72と電気的に接続されている。
通信部71は、外部に設置された通信装置101と通信を行うことにより、観察対象が発した音声信号を取得する音声取得部として、主に機能する。例えば、本実施形態において、図5に示すように、観察対象である観葉植物200の近傍には、観察対象が発した音を検出するマイク100、及びマイク100に接続される通信装置101が設置されている。
ここで、マイク100は、観察対象が発した音声を取得し、取得した音声を電気信号(以下、変換後の音声を「音声信号」という。)に変換して出力するものである。例えば、観察対象が植物であれば、その植物の幹或いは根元などに設置され、植物が水を吸い上げる音などを取得する。また、観察対象が犬などの動物である場合には、動物の首輪などに設置されることにより、動物の鳴き声などを取得する。
通信装置101は、マイク100から出力された音声信号を通信部71へ送信するものである。通信部101と通信部71との間の通信は、例えば、無線により行われる。また、観察対象が複数存在する場合には、観察対象毎に通信チャネルを設定し、通信チャネル毎に音声信号を受信できるような構成にしても良い。
通信部71は、通信装置101から受信した音声信号を処理部72に出力する。
第2のデータベース74には、図6に示すように、観察対象の種別(例えば、犬、猫、観葉植物など)毎に、複数の音声テーブル300が対応付けられて格納されている。音声テーブル300は、音声信号の各種パラメータの状態に応じて、観察対象の状態を表す表示内容がそれぞれ対応付けられたテーブルである。
例えば、観察対象が植物である場合は、水を吸い上げる音が大きいほど、水やりが十分なされており、植物が水分を多く吸い上げている状態であると判断できる。この音量の大小は、音声信号の振幅により判断できる。従って、「振幅」をパラメータにした音声テーブルが第2のデータベース74に登録されている。
このように、周波数パターンをパラメータとした音声テーブルが登録されていることにより、風が当たることによる植物の状態や、落葉の状態などを解析することが可能となる。
また、猫や犬、或いはその他の種別などにおいても、観察対象となる生物などが発する音に着目した音声テーブルが第2のデータベース74(図4参照)にそれぞれ格納されている。
以下、観葉植物200を観察対象として登録するための初期登録処理について説明する。
初期登録においては、図5に示すように、例えば、使用者は、使用状態の情報端末装置10の筐体20の側部22を側頭部に押し当てるように保持する。次に、コンバイナー60を介した実視野中に、観葉植物200を確認できる状態において、筐体20の側面に設けられた図示しないシャッタスイッチを押す。これにより、シャッタスイッチが押下された旨の電気信号が、筐体20に内蔵されている処理部72(図5参照)に入力される。
処理部72は、シャッタスイッチが押下された旨の電気信号を取得すると、現時点において、撮像装置40により撮像されている画像を取り込む。これにより、使用者の視線方向の風景、つまり、観葉植物200が存在する風景が撮像装置40により撮像されて、画像として処理部72に取り込まれる。
使用者は、例えば、画像表示部50の表示面51を直接的に確認することにより、観察対象とした観葉植物200が画像として確実に取り込まれたかを確認すると、図示しない登録ボタンを押下する。これにより、登録ボタンが押下された旨の電気信号が処理部72に入力される。処理部72は、登録ボタンが押下された旨の電気信号を取得すると、先ほどの画像を第1のデータベース73に書き込む。これにより、当該観葉植物200が観察対象として登録されることとなる。
次に、登録後における情報端末装置10の通常時における作用について、図9を参照して説明する。
図5に示すように、使用状態にされた情報端末装置10が使用者の側頭部に保持された状態において、撮像装置40は、使用者の視野方向の風景を撮像し、取得した画像を処理部72に出力する。
処理部72は、撮像装置40から画像を取得すると(図9のステップSA1)、コンバイナー60を介した実視野中に観察対象、つまり観葉植物200が存在するか否かを判定する(ステップSA2;判定機能)。
具体的には、撮像装置40により取得された使用者の視線方向の風景画像と、第1のデータベース73に登録されている観葉植物200の画像とのパターンマッチングを行う。そして、撮像装置40により取得された風景画像に、観葉植物200の画像とマッチングする輪郭が認識できた場合には、コンバイナー60を介した実視野中に観葉植物200が存在すると判定する。
通信部71は、通信装置101から音声信号を受信すると、受信した音声信号を処理部72へ出力する。処理部72は、通信部71から音声信号を取得すると(ステップSA4)、この音声信号に基づいて、観察対象の状態を解析し(ステップSA5)、その解析結果に応じた表示内容を抽出して(ステップSA6)、これを画像表示制御部75へ出力する(ステップSA7)。なお、上記ステップSA4からステップSA7の処理においては、処理部71が予め保有している状態解析プログラムを実行することにより実現される。
例えば、音声信号の振幅を解析し(例えば、平均値を算出する)、解析した振幅のレベルに応じた表示内容を「振幅」をパラメータとした音声テーブルから抽出する。また、音声信号の周波数パターンを解析し、解析した周波数パターンに該当する表示内容を「周波数パターン」をパラメータとして音声テーブルから抽出する。
このようにして、音声信号に対応する表示内容を抽出すると、この抽出した表示内容を画像表示制御部75へ出力する。
画像表示制御部75は、処理部72から入力された表示内容を画像表示部50に表示させる。これにより、図10に示すように、観葉植物200の状態を示す内容500が、コンバイナー60により、実視野中に存在する観葉植物200に重畳的に表示されることとなる。
次に、本発明の第2の実施形態に係る情報端末装置について説明する。なお、機械的な構造及び電気的な構造は、第1の実施形態に係る情報端末装置10と同様である。
本実施形態においては、処理部72が行う処理の内容が上述した第1の実施形態におけるものとは異なる。つまり、上述した第1の実施形態においては、実視野中に観葉植物200が存在する場合に限って、通信部71を起動させ、音声信号を取得することにより、観葉植物200の状態に応じた内容を虚像として投影させていた。
本実施形態では、観葉植物200が実視野中に存在するか否かに拘わらず、常に、通信部71を起動させておき、観葉植物200が発した音声信号を受信可能な状態とする。
更に、第2のデータベース74には、実視野中に観葉植物200が存在する場合と存在しない場合とに分けて、それぞれ音声テーブルを登録する。これにより、実視野中に観葉植物200が存在しない場合であっても、観葉植物の状態に応じた所定の表示内容を画像表示部50に表示可能な構成とする。このように、実視野中に観葉植物200が存在する場合と存在しない場合とに応じて、音声テーブルをそれぞれ設け、表示内容を異ならせることにより、違和感のない内容を使用者に対して提供することができる。
これにより、ユーザと生物との間でのコミュニケーションをより一層図ることが可能となるとともに、特に、観葉植物200などの観察対象が好ましくない状態にある場合に、使用者に注意を促すことができるので、観葉植物200の状態を良好に保つことが可能となる。
第1に、上述した実施形態においては、撮像装置40により取得された画像と予め登録されている観察対象の画像とをパターンマッチングすることにより、実視野中に観察対象が存在するか否かを判定していたが、このような態様に限らず、例えば、以下のような第1の他の態様、第2の他の態様などによっても判定を行うことが可能である。
そして、処理部が備える判定機能において、方位情報測定部により特定された位置及び方向に基づいて決定される所定の範囲内、例えば、方位情報測定部により特定された位置を中心として、方位情報測定部により特定された方向に描かれる扇状の範囲内に、予め登録されている観察対象の配置位置が存在するか否かを判定することにより、前記観察対象が前記実視野中に存在するか否かを判定する。
上述したような、第1の他の態様、第2の他の態様によれば、パターンマッチングなどの煩雑な処理を行うことなく、判定を行うことが可能となる。
更に、観察対象が発する音声を直接的に取得するマイク100に加えて、周囲の音声を取得する第2のマイクを観察対象の近傍に配置し、マイク100により取得された音声信号と第2のマイクにより取得された音声信号との差分を最終的な音声信号として使用するようにしても良い。このように、音声信号の差分を用いることにより、マイク100により取得された音声信号から雑音を除去することが可能となるので、より正確な音声信号に基づいて、観察対象の状態を解析することが可能となる。
これに代わって、例えば、音声取得部をマイクにより構成することにより、図5に示したように、マイク100、通信装置101を介すことなく、情報端末装置が備えるマイクなどの音声取得部により、直接的に音声を取得するような構成としても良い。
第5に、上述した実施形態においては、処理部72がソフトウェアによる処理を実行することにより、判定機能、状態解析機能を実現させていたが、この構成例に限られず、アナログ回路などにより、判定機能、状態解析機能を実現するようにしても良い。
図11は、本実施形態に係る翻訳システムの電気的構成の概略を示したブロック図である。この図において、図4と同様の構成要素には、同一の符号を付し、詳細な説明を省略する。
上記情報端末装置1は、機械構造的には、図1に示した第1の実施形態に係る情報端末装置10と同じであるが、筐体20に内蔵されている電気的構成要素が異なっている。
具体的には、情報端末装置1は、撮像装置40、画像表示部50、半透過型光学素子60、通信部71、画像表示制御部75、及び処理部721を備えている。
音声取得装置3は、マイク100、通信装置101を備えている。
まず、撮像装置40は、使用者の視野方向の風景を撮像し、取得した画像を処理部721に出力する。処理部721は、撮像装置40から入力された画像を通信部71を介してサーバ2へ送信する。
情報端末装置1から送信された画像は、サーバ2内の通信部6により受信され、処理部722に出力される。処理部722は、通信部6を介して当該画像を取得すると、この画像と、第1のデータベース73に登録されている観葉植物200の画像とのパターンマッチングを行い、コンバイナー60を介した実視野中に観葉植物200が存在するか否かを判定する。
第1に、上述した実施形態において、サーバ2が備える各構成要素や処理部722が実現させる各種機能は、一例であり、これらの一部が情報端末装置1に備えられていても良い。例えば、コンバイナー60を介した実視野中に観察対象が存在するか否かを判定する判定機能、及び、観察対象が発した音声信号に基づいて観察対象の状態を解析し、この解析結果に応じ他表意内容を第2のデータベース74から抽出する状態解析機能、又は、これらのいずれか一方が、情報端末装置1に備えられていても良い。
第3に、上述した通信部71、通信部6、及び通信装置101の間で行われるデータ通信の規格は、特に限定されるものではなく、例えば、ブルーツースなどの無線インターフェースにより直接的に行われても良い。また、各通信部及び通信装置間の通信経路についても適宜選択することができる。
2 サーバ
3 音声取得装置
20 筐体
30 表示装置
40 撮像装置
50 画像表示部
60 コンバイナー
6、71 通信部
72、721、722 処理部
73 第1のデータベース
74 第2のデータベース
75 画像表示制御部
100 マイク
101 通信装置
Claims (8)
- 画像表示部と、
使用者の視線方向の実視野からの光を透過するとともに前記画像表示部に表示された情報を光学的に虚像として前記実視野中に重畳的に表示する半透過光学素子と、
観察対象の音声を取得する音声取得部と、
前記半透過光学素子を介した実視野中に存在する前記観察対象を検出する検出部と、
前記検出部の検出結果に基づいて、前記観察対象が前記実視野中に存在するか否かを判定する判定部と、
前記判定部によって前記観察対象が前記実視野中に存在すると判定された場合に、前記音声取得部により取得された前記音声に基づいて、前記観察対象の状態を解析する状態解析部と、
前記状態解析部の解析結果を前記画像表示部に表示させる画像表示制御部と
を備える情報端末装置。 - 前記検出部が、前記実視野の方向を撮像する撮像部を備え、
前記判定部が、前記撮像部から出力される画像情報と予め登録されている観察対象の画像情報とを照合することにより、前記観察対象が前記実視野中に存在するか否かを判定する請求項1に記載の情報端末装置。 - 前記検出部が、当該本体及び前記観察対象の近傍に設置された一対の発振器及び受信機を備え、
前記判定部が、前記発振器から発せられた信号が前記受信機により受信されたか否かにより、前記観察対象が前記実視野中に存在するか否かを判定する請求項1に記載の情報端末装置。 - 前記検出部が、位置及び方向を特定する方位情報測定部を備え、
前記判定部が、前記方位情報測定部により特定された位置及び方向に基づいて決定される所定の範囲内に、予め登録されている観察対象が存在するか否かを判定することにより、前記観察対象が前記実視野中に存在するか否かを判定する請求項1に記載の情報端末装置。 - 前記観察対象が前記実視野中に存在しない場合であって、前記音声取得部により前記観察対象の音声が取得された場合には、前記画像表示制御部は、前記観察対象が前記実視野中に存在する場合と異なる表示内容を前記画像表示部に表示させる請求項1から請求項4のいずれかの項に記載の情報端末装置。
- 前記状態解析部が、
前記音声と観察対象の状態とが対応付けられたデータベースと、
前記音声取得部により取得された音声に対応する前記観察対象の状態を前記データベースから抽出する抽出部と
を具備する請求項1から請求項5のいずれかの項に記載の情報端末装置。 - 前記判定部により、前記観察対象が前記実視野中に存在すると判定された場合に、前記音声取得部が起動する請求項1から請求項4のいずれかの項に記載の情報端末装置。
- 少なくとも画像表示部、使用者の視線方向の実視野からの光を透過するとともに前記画像表示部に表示された情報を光学的に虚像として前記実視野中に重畳的に表示する半透過光学素子を備える情報端末装置と、
前記半透過光学素子を介した実視野中に存在する前記観察対象を検出する検出部と、
前記観察対象の音声を取得する音声取得部と、
前記検出部の検出結果に基づいて、前記観察対象が前記実視野中に存在するか否かを判定する判定部と、
前記判定部によって前記観察対象が前記実視野中に存在すると判定された場合に、前記音声取得部により取得された前記音声に基づいて、前記観察対象の状態を解析する状態解析部とを備え、
前記状態解析部の解析結果を前記情報端末装置の前記画像表示部に表示させる翻訳システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004342513A JP4564344B2 (ja) | 2004-11-26 | 2004-11-26 | 情報端末装置及び翻訳システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004342513A JP4564344B2 (ja) | 2004-11-26 | 2004-11-26 | 情報端末装置及び翻訳システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006154101A JP2006154101A (ja) | 2006-06-15 |
JP4564344B2 true JP4564344B2 (ja) | 2010-10-20 |
Family
ID=36632517
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004342513A Expired - Fee Related JP4564344B2 (ja) | 2004-11-26 | 2004-11-26 | 情報端末装置及び翻訳システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4564344B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014052974A (ja) * | 2012-09-10 | 2014-03-20 | Toshiba Corp | 情報端末装置、制御方法及び制御プログラム |
WO2020093980A1 (zh) * | 2018-11-05 | 2020-05-14 | 深圳恒兴视光科技有限公司 | 自动浇水器 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH103479A (ja) * | 1996-06-14 | 1998-01-06 | Masaomi Yamamoto | 動物等の意思翻訳方法および動物等の意思翻訳装置 |
JP2002182148A (ja) * | 2000-12-14 | 2002-06-26 | Canon Inc | 画像表示装置および画像表示システム |
JP2004207848A (ja) * | 2002-12-24 | 2004-07-22 | Megachips System Solutions Inc | 情報配信システム |
JP2004212544A (ja) * | 2002-12-27 | 2004-07-29 | Casio Comput Co Ltd | 音声分析結果送信装置、動物用端末装置、音声分析結果表示装置及びプログラム |
-
2004
- 2004-11-26 JP JP2004342513A patent/JP4564344B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH103479A (ja) * | 1996-06-14 | 1998-01-06 | Masaomi Yamamoto | 動物等の意思翻訳方法および動物等の意思翻訳装置 |
JP2002182148A (ja) * | 2000-12-14 | 2002-06-26 | Canon Inc | 画像表示装置および画像表示システム |
JP2004207848A (ja) * | 2002-12-24 | 2004-07-22 | Megachips System Solutions Inc | 情報配信システム |
JP2004212544A (ja) * | 2002-12-27 | 2004-07-29 | Casio Comput Co Ltd | 音声分析結果送信装置、動物用端末装置、音声分析結果表示装置及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2006154101A (ja) | 2006-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10755695B2 (en) | Methods in electronic devices with voice-synthesis and acoustic watermark capabilities | |
JP2006267887A (ja) | 映像認識手段を備えたヘッドマウントディスプレイ | |
US9805619B2 (en) | Intelligent glasses for the visually impaired | |
US10248856B2 (en) | Smart necklace with stereo vision and onboard processing | |
US20190385332A1 (en) | Display control device, display control method, and program | |
CN108014002A (zh) | 自适应视觉辅助装置 | |
CN113099031B (zh) | 声音录制方法及相关设备 | |
US12052545B2 (en) | Hearing aid system integrable in an eyeglass frame | |
CN110096251A (zh) | 交互方法及装置 | |
CN113678141A (zh) | 用于盲人和视力受损人员的立体声装置 | |
JP3974098B2 (ja) | 関係検知システム | |
KR20200141517A (ko) | 스마트 안경 추적 방법과 장치, 및 스마트 안경과 저장 매체 | |
JP2006262980A (ja) | 情報端末装置及び仮想ペット表示方法 | |
JP4564344B2 (ja) | 情報端末装置及び翻訳システム | |
KR20190014733A (ko) | 애완동물 급식장치 | |
CN110572600A (zh) | 一种录像处理方法及电子设备 | |
CN207571782U (zh) | 一种聊天机器人 | |
JP5360115B2 (ja) | ヘッドマウントディスプレイ | |
JP4573634B2 (ja) | 情報端末装置及び状態表示システム | |
JP2004301869A (ja) | 音声出力装置およびポインティングデバイス | |
JP2019028603A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2024161299A1 (en) | Wearable device for visual assistance, particularly for blind and/or visually impaired people | |
KR102527208B1 (ko) | 반려동물 관리 서비스 융합장치, 및 이를 이용한 서비스 융합 시스템 | |
US20230290369A1 (en) | Audio input device | |
CN113390374B (zh) | 生态环境信息的确定方法、装置、探测设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071122 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100615 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100706 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100730 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130806 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4564344 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130806 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |