JP2014521247A - 拡張現実アプリケーション向けの効率的な混合方法 - Google Patents

拡張現実アプリケーション向けの効率的な混合方法 Download PDF

Info

Publication number
JP2014521247A
JP2014521247A JP2014518877A JP2014518877A JP2014521247A JP 2014521247 A JP2014521247 A JP 2014521247A JP 2014518877 A JP2014518877 A JP 2014518877A JP 2014518877 A JP2014518877 A JP 2014518877A JP 2014521247 A JP2014521247 A JP 2014521247A
Authority
JP
Japan
Prior art keywords
path
boundary
pixels
symbol
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014518877A
Other languages
English (en)
Other versions
JP5823614B2 (ja
Inventor
ヒュン−イル・クー
ヨン−キ・ペク
ボム−ス・キム
Original Assignee
クアルコム,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by クアルコム,インコーポレイテッド filed Critical クアルコム,インコーポレイテッド
Publication of JP2014521247A publication Critical patent/JP2014521247A/ja
Application granted granted Critical
Publication of JP5823614B2 publication Critical patent/JP5823614B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/58Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/15Cutting or merging image elements, e.g. region growing, watershed or clustering-based techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Character Input (AREA)
  • Processing Or Creating Images (AREA)
  • Machine Translation (AREA)

Abstract

モバイル装置におけるOCR(optical character recognition)の利用が、モバイル装置の利用の増大とともに普及してきている。モバイル装置におけるOCRに関する重要なアプリケーションは、テキストを認識しユーザが理解可能な言語に変換することである。背景画像を再描画した結果としてのアーチファクトを削減しつつ、画像内の記号を置換する技術を提供する。

Description

関連出願の記載
本願は、発明の名称を「拡張現実アプリケーション向けの効率的な混合方法」とした2011年6月30日出願の米国仮特許出願第61/503、421号に対する優先権を主張する。当該米国仮特許出願第61/503、421号は、本発明の出願人に譲渡されており、引用により本明細書に組み込む。
本発明の諸態様は拡張技術の分野に関する。
拡張現実により、モバイル装置のような装置がユーザ環境の現実を拡張することができる。OCR(optical character recognition)を用いることにより、モバイル装置にマウントしたカメラの視野の中のテキストを認識することで、当該テキストとそのコンテキストに関するより多くの情報をユーザに提供して拡張現実の領域で重要なアプリケーションを実現することができる。モバイル装置におけるOCRの利用は、モバイル装置の利用の増大とともに普及してきている。モバイル装置におけるOCRに関する重要なアプリケーションは、テキストを認識しユーザが理解可能な言語に変換することである。
テキストを変換し当該テキストと当該テキストの背景を再描画する際のハードルの1つは、背景の再描画から生ずる背景内の不要かつ迷惑なアーチファクトの発生である。さらに、モバイル装置の計算能力は制限されているので、アーチファクトを残さずにテキストを変換テキストで置換することは、計算的に複雑で大量の電力を浪費するものであってはならない。
背景画像を再描画した結果としてのアーチファクトを削減しつつ、画像内の記号を置換する技術を提供する。一般に、本技術は画像処理に適用することができる。
本発明の1実施形態では、テキストを変換し置換している間に、補間を用いて背景を再生成することによって背景上のアーチファクトの影響を削減する。1態様では、線形補間を使用する。あるいは、非線形補間を使用してもよい。さらに別の実施形態では、本発明では、雑音経路を回避し迷惑なアーチファクトが非常に少ない補間を可能とする、最適経路を発見するプロセスを説明する。
第1の画像の中の少なくとも1つの記号を置換するための方法の1例は、当該少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む第1の画像を取得するステップと、当該第1の画像の中の第1の境界と第2の境界を定義するステップであって、当該第1の境界と当該第2の境界とが当該第1の画像を表す当該少なくとも1つの記号の反対側に配置されるステップと、当該少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するステップと、当該第1の境界と当該第2の境界の間の複数の背景画素値を補間することによって、当該背景領域の補強バージョンを表す複数の画素を生成するステップと、当該少なくとも1つの変換記号を表す当該複数の画素と当該背景領域の補強バージョンを表す当該複数の画素とを含む第2の画像を構築するステップと、を含む。1態様では、当該少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、当該少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む。
幾つかの実施形態では、第1の境界と第2の境界の各々を、当該少なくとも1つの記号の片側に沿った一連の画素として定義することができる。さらに、当該一連の画素を、当該経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義することができる。
当該第1の画像の中の第1の境界と第2の境界を定義する実装形態が、第1のバンドと第2のバンドを当該少なくとも1つの記号の反対側で定義するステップと、第1のバンドを横断する少なくとも第1の経路と第2のバンドを横断する少なくとも第2の経路を選択するステップと、各経路に沿った複数の画素の画素色の勾配変化を合計することによって当該少なくとも第1の経路と当該少なくとも第2の経路とのコストを導出するステップと、第1のバンドからのコストが最小である経路を第1の境界として選択し、第2のバンドからのコストが最小である経路を第2の境界として選択するステップと、を含んでもよい。
幾つかの実装形態では、背景画素値を補間するステップで線形補間を利用する。他の実装形態では、背景画素値を補間するステップで非線形補間を利用する。さらに、当該少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、当該少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む。
当該システムを実装する1つの例示的な装置は、プロセッサ、当該プロセッサに接続された入力装置、当該プロセッサに接続された出力装置、当該プロセッサに接続された非一時的なコンピュータ読取可能記憶媒体を備えてもよい。当該非一時的なコンピュータ読取可能記憶媒体は、少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む第1の画像を取得するステップと、当該第1の画像の中の第1の境界と第2の境界を定義するステップであって、当該第1の境界と当該第2の境界とが当該第1の画像を表す当該少なくとも1つの記号の反対側に配置されるステップと、当該少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するステップと、当該第1の境界と当該第2の境界の間の複数の背景画素値を補間することによって、当該背景領域の補強バージョンを表す複数の画素を生成するステップと、当該少なくとも1つの変換記号を表す当該複数の画素と当該背景領域の補強バージョンを表す当該複数の画素とを含む第2の画像を構築するステップを含む方法を実施するための、プロセッサにより実行可能なコードを含む。幾つかの態様では、当該少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、当該少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む。
かかる装置の実装形態は、以下の特徴のうち1つまたは複数を含んでもよい。第1の境界と第2の境界の各々を当該少なくとも1つの記号の片側に沿った一連の画素として定義することができる。さらに、当該一連の画素を、当該経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義することができる。当該第1の画像における当該第1の境界と当該第2の境界を定義するステップは、第1のバンドと第2のバンドを当該少なくとも1つの記号の反対側で定義するステップと、第1のバンドを横断する少なくとも第1の経路と第2のバンドを横断する少なくとも第2の経路を選択するステップと、各経路に沿った複数の画素の画素色の勾配変化を合計することによって当該少なくとも第1の経路と当該少なくとも第2の経路とのコストを導出するステップと、第1のバンドからのコストが最小な経路を第1の境界として選択し、第2のバンドからのコストが最小な経路を第2の境界として選択するステップと、を含んでもよい。線形補間または非線形補間を利用して、背景画素値の補間を実現することができる。
プロセッサに接続された1つの例示的な非一時的なコンピュータ読取可能記憶媒体は、少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む第1の画像を取得するステップと、当該第1の画像の中の第1の境界と第2の境界を定義するステップであって、当該第1の境界と当該第2の境界とが当該第1の画像を表す当該少なくとも1つの記号の反対側に配置されるステップと、当該少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するステップと、当該第1の境界と当該第2の境界の間の複数の背景画素値を補間することによって、当該背景領域の補強バージョンを表す複数の画素を生成するステップと、当該少なくとも1つの変換記号を表す当該複数の画素と当該背景領域の補強バージョンを表す当該複数の画素とを含む第2の画像を構築するステップと、を含む方法を実施するための、プロセッサにより実行可能なコンピュータ・プログラムを含む。幾つかの態様では、当該コンピュータ・プログラム内の少なくとも1つの記号は、少なくとも1つのテキスト文字を第1の人間の言語で含み、当該少なくとも1つの変換記号は少なくとも1つのテキスト文字を第2の人間の言語で含む。
かかるコンピュータ・プログラム製品の実施形態が、以下の特徴のうち1つまたは複数を含んでもよい。第1の境界と第2の境界の各々を、当該少なくとも1つの記号の片側に沿った一連の画素として定義してもよい。さらに、当該一連の画素を、当該経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義してもよい。当該第1の画像における当該第1の境界と当該第2の境界を定義するステップは、第1のバンドと第2のバンドを当該少なくとも1つの記号の反対側で定義するステップと、第1のバンドを横断する少なくとも第1の経路と第2のバンドを横断する少なくとも第2の経路を選択するステップと、各経路に沿った複数の画素の画素色の勾配変化を合計することによって当該少なくとも第1の経路と当該少なくとも第2の経路とのコストを導出するステップと、第1のバンドからのコストが最小である経路を第1の境界として選択し、第2のバンドからのコストが最小である経路を第2の境界として選択するステップと、を含んでもよい。線形補間または非線形補間を利用して背景画素値の補間を実現することができる。
第1の画像内の少なくとも1つの記号を置換するための1つの例示的な装置は、当該少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む当該第1の画像を取得するための手段と、当該第1の画像の中の第1の境界と第2の境界を定義するための手段であって、当該第1の境界と当該第2の境界とが当該第1の画像を表す当該少なくとも1つの記号の反対側に配置される手段と、当該少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するための手段と、当該第1の境界と当該第2の境界の間の複数の背景画素値を補間することによって、当該背景領域の補強バージョンを表す複数の画素を生成するための手段と、当該少なくとも1つの変換記号を表す複数の画素と当該背景領域の補強バージョンを表す複数の画素とを含む第2の画像を構築するための手段と、を備える。1態様では、当該少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、当該少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む。
上記の例示的なシステムでは、当該第1の画像における当該第1の境界と当該第2の境界を定義するステップは、第1のバンドと第2のバンドを当該少なくとも1つの記号の反対側で定義するための手段と、第1のバンドを横断する少なくとも第1の経路と第2のバンドを横断する少なくとも第2の経路を選択するための手段と、各経路に沿った複数の画素の画素色の勾配変化を合計することによって当該少なくとも第1の経路と当該少なくとも第2の経路とのコストを導出するための手段と、第1のバンドからのコストが最小である経路を第1の境界として選択し、第2のバンドからのコストが最小である経路を第2の境界として選択するための手段と、を含んでもよい。
かかるシステムの実施形態が、以下の特徴のうち1つまたは複数を含んでもよい。第1の境界と第2の境界の各々を当該少なくとも1つの記号の片側に沿った一連の画素として定義してもよい。さらに、当該一連の画素を当該経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義してもよい。線形補間または非線形補間を利用して、背景画素値の補間を実現することができる。
以上で、後述する詳細な説明をより良く理解できるようにするために、本開示に従う種々の例の特徴と技術的な利点をかなり広範囲に概観した。さらなる特徴と利点は以降で説明する。開示した概念と具体的な例を、本開示の同一の目的を実行する他の構造を修正または設計するための基礎として容易に利用することができる。かかる均等な構成は、添付の特許請求の範囲の趣旨と範囲から逸脱するものではない。本明細書で開示した概念に特有であると信ずる特徴は、その編成と動作の方法の両方に関して、関連する利点とともに、添付図面と関連して検討する下記の説明からより良く理解されよう。添付図面の各々は、例示と説明の目的のために与えたにすぎず、諸請求項の限定を定義するものではない。
添付図面を参照して下記の説明を提供する。添付図面では、図面にわたって、同一の参照番号を使用して同一の要素を参照する。1つまたは複数の技術の様々な詳細を本明細書では説明するが、他の技術も可能である。幾つかの事例では、様々な技術の説明を容易にするために、公知な構造と装置をブロック図の形で示してある。
本開示で提供する種々の例の性質と利点のさらなる理解を、本明細書の残の部分と図面を参照して実現することができる。図面では、同様な参照番号を幾つかの図面にわたって使用して、同様な構成要素を参照する。幾つかの事例では、サブラベルを参照番号に関連付けて、複数の同様な構成要素のうち1つを示す。既存のサブラベルに特に言及せずに参照番号を引用するときは、当該参照番号は全てのかかる同様な構成要素をさす。
本発明の様々な実施形態に従って構成されたモバイル装置内の混合システムの1例を示す単純なブロック図である。 カメラ装置で取得した画像の変形を示すグラフィカル画像を示す図である。 線形補間を使用して言語間で変換する1つの例示的な実施形態のステップを示すグラフィカル画像を示す図である。 線形補間を使用して背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するプロセスを示す単純な流れ図である。 非線形補間を使用して背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するプロセスを示す単純な流れ図である。 最適経路上の補間を使用して背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するプロセスを示す単純な流れ図である。 雑音経路を回避する最適経路を導出するためのプロセスを示す単純な流れ図である。 最適経路を導出するプロセスを通じた、テキストを有する画像の進行を示す単純な流れ図である。 1組の近傍画素を選択し当該画素周囲の勾配変化を計算する1実施形態を示す、画素のグラフィック表現を示す図である。 本発明の実施形態を実施する際に使用される装置の一部を組み込んだ例示的なコンピュータ・システムを示す図である。
本発明の諸実施形態は、背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するための技術を含む。当該技術により、携帯電話が、記号をユーザが容易に認識可能な記号に変換することができる。一般に、当該技術を画像処理に適用することができる。
図1は、本発明の様々な諸実施形態に従って構成した装置100内部の混合システム120の非限定的な例を示す単純なブロック図である。1実施形態では、装置100は、背景画像の再描画の結果としてのアーチファクトを削減しつつ、記号を変換し置換する混合システム120を実施することが可能なモバイル装置である。幾つかの実施形態では、当該モバイル装置は、混合システム120とともに、カメラ・ユニット102、混合バッファ116、画像バッファ118を有する。混合システム120は、検出モジュール104、経路発見器106、背景補間器108、変換器110、テキスト画素生成器112、および画素混合器114を有する。装置カメラ102は、背景上に記号を含む画像を捕捉し、当該画像をさらに処理するために画像バッファ118に格納する。当該画像は、テキスト、文字、および標識を含む任意の図形表現でありうる記号を有する。検出モジュール104は、記号と背景領域を含む画像の中の変換領域を検出する。経路発見器106は、記号を(垂直に)分離する2つの経路を発見する。これらの境界は、検出されたボックスの上界と下界であってもよく、または、(後述する)最適経路であってもよい。当該境界が、画像内の雑音の分散を回避する直線または最適経路であってもよい。背景補間器108は、第1の境界と第2の境界の間の画素値を補間することによって背景を再描画する。背景補間器108は、線形補間、非線形補間、または背景画像を再描画し背景の画素を生成するのに適した任意の手段を使用してもよい。変換器110はOCR機能を使用して記号を認識してもよい。次に、変換器110が当該記号を変換する。テキスト画素生成器112は、変換されたテキストに対する画素を生成する。画素混合器114は、変換記号を混合バッファ116内の背景領域に埋め込む。画素混合器114は、画像バッファ118から捕捉した画像を、それを出力装置でユーザに表示する前に、混合画像で置換する。
図2は、カメラ102により取得した画像の変形を示すグラフィカル画像である。図2(A)を参照すると、画像が装置のカメラにより検出される。画像が検出され捕捉された後に、ユーザは装置上で可視のテキストを、機能メニューまたは他の適切な手段を介してその出力ユニットにより変換するように指示してもよい。あるいは、当該装置が、画像を出力画面に表示する前に、ユーザの介入なしにテキストを変換してもよい。ユーザは、装置の視界にある記号を装置が変換し始める前に機能メニューまたは他の任意の適切な手段を用いることによって、装置を変換モードにしてもよい。ユーザがまた、ユーザが記号をそこへ変換する必要がある言語またはシステムを選択する選択肢を有してもよい。例えば、ユーザが、英語(米語)および米国のシステムへ変換するように装置を設定してもよい。ユーザが日本を旅行するとき、装置は、装置の視界で可視の日本語を英語に変換し、装置の視界で可視の日本語の道路標識を当該ユーザが認識可能な米国の道路標識に変換して、米国人のユーザが快適に日本を旅行できるようにする。
図2を参照すると、装置は画像内の記号を英語からドイツ語に変換する。図1に示す混合システム120は、英語のテキスト「CAUTION SITE TRAFFIC CROSSING」を含む画像2(A)を処理する。装置カメラ102は、当該テキストと背景を含む画像を捕捉し、当該画像をさらに処理するために画像バッファ118に格納する。検出モジュール104は、変換するためのフレーズを当該画像から検出する。経路発見器106は、記号を(垂直に)分離する2つの経路を発見する。これらの経路は、検出されたボックスの上界と下界であってもよく、最適経路であってもよい。背景補間器108は、第1の境界と第2の境界の間の画素値を補間することによって背景を再描画する。変換器110はOCR機能を使用してテキストを認識してもよい。次に、変換器110が英語のテキストをドイツ語のテキストに変換する。テキスト画素生成器112は、変換されたテキストに対する画素を生成する。画素混合器114は、変換された記号を混合バッファ116内の背景領域に埋め込む。画素混合器114は、画像バッファ118からの捕捉画像を混合画像で置換する。2(B)である混合画像は、変換されたドイツ語のテキスト「WARNUNG BAU VERKEHR KREUZUNG」として出力装置でユーザに表示される。
図3は、線形補間を使用して背景を変換し再描画するステップを示す非限定的な実施形態を示すグラフィカル画像である。ステップ1で、検出モジュール104は、変換するためのテキストと背景を含む画像の部分を切り出す。テキストの上端と下端にある境界を表す2つの直線が選択される。ステップ2で示すように、背景補間器108は、上の直線と下の直線に対する線形補間を用いて内部領域を再生成する。背景補間器108は、移動平均フィルタを用いて雑音を除去する線形フィルタ機構を使用してもよい。ステップ3で、当該変換器は英単語「CAUTION」をドイツ語「WARNUNG」に変換する。画素混合器114は、結果のテキストをステップ2で生成した背景に埋め込む。ステップ4で、画素混合器114は、ステップ1で切り出した領域を混合バッファからのデータで置換する。
図4は、背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するための方法400を示す単純な流れ図である。方法400は、ハードウェア(回路、専用ロジック等)、(汎用目的のコンピューティング・システムまたは専用マシンで実行されるような)ソフトウェア、ファームウェア(組込みソフトウェア)、またはそれらの任意の組合せを備える処理論理部により実施される。1実施形態では、方法400は図10の装置1000により実施される。
図4を参照すると、ブロック402で、装置カメラ102は、少なくとも1つの記号と背景領域を表す複数の記号とを表現する複数の画素を含む画像を取得する。例えば、当該画像が、掲示板、道路標識、ブック・カバー、または変換が必要な記号を有する任意のものであってもよい。ブロック404で、経路発見器106が、第1の直線境界と第2の直線境界を当該記号の反対側に配置して、当該記号を垂直に分離する。経路発見器106は、当該記号を有する領域と当該記号のすぐ後の領域の間の勾配変化を検出して、線を当該記号の各辺に配置してもよい。ブロック406で、変換器110は、当該記号を或る言語またはシステムから別の言語またはシステムに変換する。当該変換器は、まず、OCR技術を用いて当該記号を、当該記号を表す機械認識可能な形式に変換してもよい。当該変換器はまた、辞書、ならびに、言語および記号を或る言語またはシステムから別の言語またはシステムに変換するための他の様々な適切な手段を使用してもよい。ブロック406で、テキスト画素生成器112はまた、少なくとも1つの記号の変換記号を表す複数の画素を生成する。ブロック408で、背景補間器108は、第1の境界と第2の境界の間で背景画素値を線形に補間することによって、背景領域の補強バージョンを表す複数の画素を生成する。当該方法は、当該記号の周囲の2つの境界の間の内部領域を補間する。当該境界を含むボックスの内部の色は、2つの境界にある色が既知であるので、補間することができる。移動平均フィルタを使用する線形フィルタ機構を使用して雑音を除去してもよい。線形フィルタはあまり複雑でなく高速であるが、依然として結果の変換画像には幾つかの迷惑なアーチファクトが生ずる可能性がある。最後に、ブロック410で、画素生成器は、少なくとも1つの記号の変換を表す複数の画素と当該背景領域の補強バージョンを表す複数の画素とを含む新たな画像を生成する。幾つかの実施形態では、変換された記号を表す画素により背景画像を置換する。
図4に示す特定のステップは、本発明の1実施形態に従う、動作モードを切り替える特定の方法を提供することは理解される。代替的な実施形態では、それに応じて他のステップのシーケンスを実施してもよい。例えば、本発明の代替的な実施形態では、上で概観したステップを別の順序で実施してもよい。例えば、ユーザは第3の動作モードから第1の動作モードに変更することを選択し、第4のモードから第2のモードに変更することを選択し、またはその間の任意の組合せを選択してもよい。さらに、図4に示した個々のステップが、当該個々のステップに対して必要に応じて様々なシーケンスで実施できる複数のサブステップを含んでもよい。さらに、特定のアプリケーションに応じてさらなるステップを追加または削除してもよい。当業者は、方法400の多数の変形、修正、および代替を認識し理解するはずである。
図5は、背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するための方法500を示す別の単純な流れ図である。方法500は、ハードウェア(回路、専用ロジック等)、(汎用目的のコンピューティング・システムまたは専用マシンで実行されるような)ソフトウェア、ファームウェア(組込みソフトウェア)、またはそれらの任意の組合せを備える処理論理部により実施される。1実施形態では、方法500は図10の装置1000により実施される。
図5を参照すると、ブロック502で、装置カメラ102は、少なくとも1つの記号と、背景領域を表す複数の記号とを表現する複数の画素を含む画像を取得する。例えば、当該画像が、掲示板、道路標識、ブック・カバー、または変換が必要な記号を有する任意のものであってもよい。ブロック504で、経路発見器106が、第1の直線境界と第2の直線境界を当該記号の反対側に配置する。経路発見器106は、当該記号を有する領域と当該記号のすぐ後の領域の間の勾配変化を検出して、線を当該記号の各辺に配置してもよい。ブロック506で、変換器110は、当該記号を或る言語またはシステムから別の言語またはシステムに変換する。当該変換器は、まず、OCR技術を用いて当該記号を、当該記号を表す機械認識可能な形式に変換してもよい。当該変換器はまた、辞書、ならびに、言語および記号を或る言語またはシステムから別の言語またはシステムに変換するための他の様々な適切な手段を使用してもよい。ブロック506で、テキスト画素生成器112はまた、少なくとも1つの記号の変換記号を表す複数の画素を生成する。ブロック508で、背景補間器108は、第1の境界と第2の境界の間で背景画素値を非線形に補間することによって、背景領域の補強バージョンを表す複数の画素を生成する。非線形フィルタでは、(雑音、反射、および隣接テキスト内の文字色のような)背景色の異常値を、推定した背景色で置換する。当該方法は、少量の計算オーバヘッドでアーチファクトを大幅に削減することができる。最後に、ブロック510で、画素生成器は、少なくとも1つの記号の変換を表す複数の画素と当該背景領域の補強バージョンを表す当該複数の画素とを含む新たな画像を生成する。幾つかの実施形態では、変換された記号を表す画素により背景画像を置換する。
図5に示す特定のステップは、本発明の1実施形態に従う、動作モードを切り替える特定の方法を提供することは理解される。代替的な実施形態では、それに応じて他のステップのシーケンスを実施してもよい。例えば、本発明の代替的な実施形態では、上で概観したステップを別の順序で実施してもよい。例えば、ユーザは第3の動作モードから第1の動作モードに変更することを選択し、第4のモードから第2のモードに変更することを選択し、またはその間の任意の組合せを選択してもよい。さらに、図5に示す個々のステップが、当該個々のステップに対して必要に応じて様々なシーケンスで実施できる複数のサブステップを含んでもよい。さらに、特定のアプリケーションに応じてさらなるステップを追加または削除してもよい。当業者は、方法500の多数の変形、修正、および代替を認識し理解するはずである。
図6は、最適経路上の補間を用いて、背景画像の再描画の結果としてのアーチファクトを削減しつつ、画像内の記号を置換するためのさらに別の単純な流れ図である。方法600は、ハードウェア(回路、専用ロジック等)、(汎用目的のコンピューティング・システムまたは専用マシンで実行されるような)ソフトウェア、ファームウェア(組込みソフトウェア)、またはそれらの任意の組合せを備える処理論理部により実施される。1実施形態では、方法600は図10の装置1000により実施される。
様々な補間およびフィルタ機構により、雑音の効果と結果のアーチファクトを削減することで背景のより良い実現が可能となる。しかし、別のアプローチは、不要な雑音を分散させる経路を回避しアーチファクトが非常に少ない背景画像をもたらす境界として最適経路を発見するものである。記号のシーケンスは、4つの辺全てに対して間隔を有する。この間隔が、当該記号からの雑音を回避できる経路をもたらす。したがって、雑音に対処する補間アルゴリズムを専ら利用するのではなく、1つのアプローチでは、歪みを有する雑音経路を纏めて回避する。背景の内部を補間するために使用される2つの境界は一連の画素として定義され、当該一連の画素は、当該一連の画素に沿った画素値の変化を最小にするものである。換言すれば、本実施形態では、当該記号と経路内の雑音とを回避する、当該記号の反対側に沿った最適経路を発見することに注力する。当該最適経路を使用して、2つの境界の間の画素値を補間する。最適経路を用いた内部画素の(線形および非線形)補間により、最終的な画像におけるアーチファクトが大幅に削減される。
図6を参照すると、ブロック602で、装置カメラ102は、少なくとも1つの記号と、背景領域を表す複数の記号とを表現する複数の画素を含む画像を取得する。例えば、当該画像が、掲示板、道路標識、ブック・カバー、または変換が必要な記号を有する任意のものであってもよい。ブロック604で、経路発見器106が、記号の反対側の最適経路を見つけることによって、第1の直線境界と第2の直線境界を当該記号の反対側に配置する。経路発見器106は、雑音経路を回避しアーチファクトが少ない背景画像をもたらす最適経路を発見する。最適経路を発見するための例示的な実施形態を図7、図8、および図9でさらに説明する。
ブロック606で、変換器110は、当該記号を或る言語またはシステムから別の言語またはシステムに変換する。当該変換器は、まず、OCR技術を用いて当該記号を、当該記号を表す機械認識可能な形式に変換してもよい。当該変換器はまた、辞書、ならびに、言語および記号を或る言語またはシステムから別の言語またはシステムに変換するための他の様々な適切な手段を使用してもよい。ブロック606で、テキスト画素生成器112はまた、少なくとも1つの記号の変換記号を表す複数の画素を生成する。ブロック608で、背景補間器108は、第1の境界と第2の境界の間で背景画素値を補間することによって、背景領域の補強バージョンを表す複数の画素を生成する。背景補間器108は、線形補間、非線形補間、または背景を再描画するのに適した任意の手段を用いて補間を行ってもよい。最後に、ブロック610で、画素生成器は、少なくとも1つの記号の変換を表す複数の画素と当該背景領域の補強バージョンを表す当該複数の画素とを含む新たな画像を生成する。幾つかの実施形態では、変換された記号を表す画素により背景画像を置換する。
図6に示す特定のステップは、本発明の1実施形態に従う、動作モードを切り替える特定の方法を提供することは理解される。代替的な実施形態では、それに応じて他のステップのシーケンスを実施してもよい。例えば、本発明の代替的な実施形態では、上で概観したステップを別の順序で実施してもよい。例えば、ユーザは第3の動作モードから第1の動作モードに変更することを選択し、第4のモードから第2のモードに変更することを選択し、またはその間の任意の組合せを選択してもよい。さらに、図6に示す個々のステップが、当該個々のステップに対して必要に応じて様々なシーケンスで実施できる複数のサブステップを含んでもよい。さらに、特定のアプリケーションに応じてさらなるステップを追加または削除してもよい。当業者は、方法600の多数の変形、修正、および代替を認識し理解するはずである。
図7は、雑音を回避する最適経路を導出するための方法700を示す単純な流れ図である。方法700は、ハードウェア(回路、専用ロジック等)、(汎用目的のコンピューティング・システムまたは専用マシンで実行されるような)ソフトウェア、ファームウェア(組込みソフトウェア)、またはそれらの任意の組合せを備える処理論理部により実施される。1実施形態では、方法700は図10の装置1000により実施される。
例示の目的のため、図7での境界の説明では、2つの境界が記号の反対側にある上の空間と下の空間に水平に配置されるとし、最適経路が左から右に生成されている。しかし、境界を垂直に配置して記号のシーケンスを夫々の側に束縛してもよいことは当業者には理解される。例えば、垂直に書かれる一部のアジアの文字や記号では、境界は両側に上から下に垂直に描かれるかもしれない。同様に、右から左に書かれる一部の中東の文字に対しては、右から左への境界を表す最適経路を検索し生成することが有利であろう。
図7を参照すると、ブロック702で、混合システムは検索領域を上と下の水平のバンドに分割して、(804に示すように)大部分が当該記号で覆われたエリアで当該領域をマスクする。当該記号で覆われたエリアの大部分で当該領域をマスクすることが、最適経路の計算中に、マスクしたエリア内の画素を無視することであってもよい。記号の2つの対向する辺に2つのバンドを生成することによって、当該画像に沿った可能な経路の数が大幅に減る。
ブロック704で、混合システムは、各水平のバンドを水平に横断する経路を選択する。当該経路を、テキストの左側から開始してテキストの右側に伸びる一連の画素として定義する。下記の式(1)では、各pはi番目の列にある画素の垂直位置を表し、nは経路の長さであり、(a、b)は、テキストの左側から開始してテキストの右側に伸びる経路の検索範囲(バンド)である。
ブロック706で、混合システムは、個々の画素の周囲の勾配変化を経路に沿って計算する。勾配変化を計算する1実施形態を、後で図9を説明しながらさらに説明する。ブロック708で、当該システムは、選択した経路に沿って画素の勾配変化を合計することによって経路のコストを計算する。経路のコストを計算するコスト関数を次式で表す。
ここで、D(i、p)は画素(i、p)の周囲の勾配変化を表す。したがって、上式は、選択した経路に沿った全画素の周囲の勾配変化の和を表す。当該混合システムが経路のコストを計算すると、当該コストを他の経路のコストと比較する。ブロック710で当該混合システムが最適経路を発見しなかったと判定した場合には、(ブロック704に戻って)混合ルーチンが新たな経路を訪問して、より低い勾配変化を表すコストが低い経路を見つける。
問題をより小さな部分問題に分割してテキストの上下の水平なバンドと当該水平なバンド内の最適経路を発見することによって、動的プログラミングの概念を図7に示す混合システムの実装に使用してもよい。当該動的プログラミング・モデルにより、経路の大きさと方向(ブロック704)と、選択した経路に沿った勾配変化の計算の停止または継続の判定の頻度(ブロック710)を記述してもよい。
図7に示す特定のステップは、本発明の1実施形態に従う、動作モードを切り替える特定の方法を提供することは理解される。代替的な実施形態では、それに応じて他のステップのシーケンスを実施してもよい。例えば、本発明の代替的な実施形態では、上で概観したステップを別の順序で実施してもよい。例えば、ユーザは第3の動作モードから第1の動作モードに変更することを選択し、第4のモードから第2のモードに変更することを選択し、またはその間の任意の組合せを選択してもよい。さらに、図7に示す個々のステップが、当該個々のステップに対して必要に応じて様々なシーケンスで実施できる複数のサブステップを含んでもよい。さらに、特定のアプリケーションに応じてさらなるステップを追加または削除してもよい。当業者は、方法700の多数の変形、修正、および代替を認識し理解するはずである。
図8は、画像の上領域と下領域に沿って最適経路を発見するための遷移ステップを示す、テキストを有する画像の流れ図である。ブロック802で、テキストを有する画像を取得する。ブロック804で、当該テキストの大部分を有する領域をマスクして、当該テキストの下側と上側に2つの細いバンドを形成する。当該バンドは、記号からの雑音が殆どまたは全くない領域である。バンドを特定することによって、最適経路の探索空間が減る。当該記号により覆われるエリアの大部分で当該領域をマスクすることにより、テキストの何れかの側に2つのバンドが効果的に作成される。これにより、最適経路の計算中に、マスクされたエリア内の画素が無視されることとなる。当該混合システムはさらに、上の領域と下の領域をより細いバンド(図示せず)へと、当該より細いバンド内の勾配変化の全コストに基づいてまたは他の適切な技術を用いることによって、分割してもよい。当該混合システムが、テキストの上側と下側にある細いバンドを選択すると、ブロック806に示すように、最適経路が各バンドに沿って生成される。これらの最適経路は、図7を参照して説明した2つの経路の間の領域の背景色を補間するのに使用される。記号の対向する側にこれらのバンドを生成することは、当該混合システムが最適経路の発見前に検索すべき経路(ブロック704乃至710の繰返し)の数が大幅に減るので、有利である。
図9は、1組の近傍画素を選択し当該画素の周囲の勾配変化を計算する非限定的な例示的な実施形態を示す、近傍画素の図形表現である。本実施形態では、画素の周囲の勾配変化を、着目する画素の周囲の1組の近傍画素を選択することによって計算する。画素の周囲の勾配変化を、着目する画素と各近傍画素の間の差分の絶対値の和として計算する。画素の周囲の勾配変化を発見する方法を次式で表す。
ここで、D(u、v)は画素(u、v)周囲の勾配変化を表す。
は、(m、n)が(u、v)の近傍であることを意味する。
は、(u、v)にある画素の色であり、
は、近傍の系である。図9を参照すると、勾配変化が画素904の周囲で計算される。画素904は、着目する画素であり(u、v)に配置されている。902、906、908、910、および912にある画素は、画素904周囲の1組の画素である。1実施形態では、最適化ルーチンは画素908、910および912のみを選択して、勾配変化を計算するための1組の近傍画素を形成する。
図10に示すコンピュータ・システムを、前述のコンピュータ装置の一部として組み込んでもよい。例えば、コンピュータ・システム1000が、ハンドヘルド装置の構成要素の一部を表してもよい。ハンドヘルド装置は、カメラのような入力検知ユニットと表示ユニットとを有する任意のコンピューティング装置であってもよい。ハンドヘルド装置の例には、ビデオ・ゲーム・コンソール、タブレット、スマート・フォンおよびモバイル装置が含まれるがこれらに限られない。図10は、様々な他の実施形態で提供される方法を本明細書で説明したように実施でき、かつ/または、ホスト・コンピュータ・システム、リモート・キオスク/端末、POS装置、モバイル装置、セットトップ・ボックスおよび/もしくはコンピュータ・システムとして機能できる、コンピュータ・システム1000の1実施形態の略図を提供する。図10は、様々な構成要素の一般的な説明を提供するものにすぎず、その一部または全部を必要に応じて利用することができる。図10は、したがって、どのように個々のシステム要素を相対的に独立した形でまたは相対的により統合された形で実装できるかを広く示すものである。
コンピュータ・システム1000は、バス1005を介して電子的に接続できる(または、必要に応じて別の方法で通信できる)ハードウェア要素を備えるとして示されている。当該ハードウェア要素は、1つまたは複数のプロセッサ1010、1つまたは複数の入力装置1015、および1つまたは複数の出力装置1020を備えてもよい。1つまたは複数のプロセッサ1010には、限定ではなく、1つもしくは複数の汎用目的のプロセッサおよび/または(デジタル信号処理チップ、グラフィック・アクセラレーション・プロセッサ等のような)1つもしくは複数の特殊目的のプロセッサが含まれる。1つまたは複数の入力装置1015は、限定ではなく、カメラ、マウス、キーボード等を含むことができる。1つまたは複数の出力装置1020は、限定ではなく、ディスプレイ装置、プリンタ等を含むことができる。
コンピュータ・システム1000は、1つまたは複数の非一時的な記憶装置1025を備えてもよい(かつ/または1つまたは複数の非一時的な記憶装置1025と通信してもよい)。1つまたは複数の非一時的な記憶装置1025は、限定ではなく、局所アクセス可能記憶部および/もしくはネットワーク・アクセス記憶部を備えてもよく、かつ/または、限定ではなく、ディスク・ドライブ、ドライブ・アレイ、光記憶装置、RAM(random access memory)および/もしくはROM(read−only memory)のような固体記憶装置を含んでもよい。RAM、ROMは、プログラム可能、フラッシュ更新可能等であってもよい。かかる記憶装置を、任意の適切なデータ記憶部を実装するように構成してもよい。当該記憶部には、限定ではなく、ファイル・システム、データベース構造等が含まれる。
コンピュータ・システム1000が、通信サブシステム1000を備えてもよい。通信サブシステム1000は、限定ではなく、モデム、ネットワーク・カード(無線または有線)、赤外線通信装置、(Bluetooth(登録商標)、802.11装置、WiFi装置、WiMax装置、セルラ通信施設等)無線通信装置および/またはチップセット等を含んでもよい。通信サブシステム1030により、(1例を挙げれば後述するネットワークのような)ネットワーク、他のコンピュータ・システム、および/または本明細書に記載の他の任意の装置とデータを交換することができる。多数の実施形態では、コンピュータ・システム1000がさらに、非一時的な作業用メモリ1035を備える。作業用メモリ1035は、上述のRAM装置またはROM装置を含んでもよい。
コンピュータ・システム1000はまた、作業用メモリ1035内部に現在配置されているとして示されているソフトウェア要素を含んでもよい。当該ソフトウェア要素には、オペレーティング・システム1040、装置ドライバ、実行可能ライブラリ、および/または1つもしくは複数のアプリケーション・プログラム1045のような他のコードが含まれる。当該ソフトウェア要素が、本明細書で説明した、様々な実施形態で提供するコンピュータ・プログラムを備えてもよく、かつ/または、他の実施形態で提供する方法を実装しかつ/もしくはシステムを構成するように設計されてもよい。単なる例として、上述の方法(複数可)に関して説明した1つまたは複数の手続きを、コンピュータ(および/またはコンピュータ内のプロセッサ)により実行可能なコードおよび/または命令として実装してもよい。1態様では、かかるコードおよび/または命令を使用して、汎用目的のコンピュータ(または他の装置)を、説明した方法に従って1つまたは複数の動作を実施するように構成および/または適合させてもよい。
1組のこれらの命令および/またはコードを、上述の記憶装置(複数可)1025のようなコンピュータ読取可能記憶媒体に格納してもよい。幾つかのケースでは、当該記憶媒体を、システム1000のようなコンピュータ・システム内部に組み込んでもよい。他の実施形態では、当該記憶媒体がコンピュータ・システムから独立であってもよく(例えば、コンパクト・ディスクのような取外し可能媒体)、かつ/または、インストール・パッケージ内で提供し、当該記憶媒体を使用して当該記憶媒体に格納した命令/コードで汎用目的のコンピュータをプログラムし、構成し、かつ/または適合させてもよい。これらの命令が、コンピュータ・システム1000により実行可能である実行可能コード、ならびに/または、ソースおよび/もしくはインストール可能コードの形をとってもよい。これらは、コンピュータ・システム1000上で(例えば、様々な一般に入手可能なコンパイラ、インストール・プログラム、圧縮/解凍ユーティリティ等の何れかを用いて)コンパイルおよび/またはインストールされたとき、実行可能コードの形をとる。
特定の要件に従って実質的な変形を行ってもよいことは当業者には理解される。例えば、カスタマイズしたハードウェアを使用してもよく、かつ/または、特定の要素をハードウェア、ソフトウェア(アプレット等のポータブル・ソフトウェアを含む)、またはその両方で実装してもよい。さらに、ネットワーク入出力装置のような他のコンピューティング装置への接続を使用してもよい。
幾つかの実施形態では、(コンピュータ・システム1000のような)コンピュータ・システムを使用して、本発明の様々な実施形態に従う方法を実施してもよい。例えば、説明した方法の手続きの一部または全部を、作業用メモリ1035に含まれる(オペレーティング・システム1040、および/または、アプリケーション・プログラム1045のような他のコードに組み込んでもよい)1つまたは複数の命令から成る1つまたは複数の列をプロセッサ1010が実行したことに応答して、コンピュータ・システム1000により実施してもよい。かかる命令を、1つまたは複数の記憶装置(複数可)1025のような別のコンピュータ読取可能媒体から作業用メモリ1035に読み込んでもよい。単なる例として、作業用メモリ1035に含まれる命令の列の実行により、プロセッサ(複数可)1010に、本明細書に記載の方法の1つまたは複数の手続きを実施させてもよい。
本明細書で使用する「機械読取可能媒体」および「コンピュータ読取可能媒体」という用語は、機械を特定の様式で動作させるデータの提供に参加する任意の媒体をさす。コンピュータ・システム1000を用いて実装した1実施形態では、様々なコンピュータ読取可能媒体が、実行用の命令/コードをプロセッサ(複数可)1010に提供することに関与してもよく、かつ/または、当該コンピュータ読取可能媒体を使用してかかる命令/コード(例えば、信号)を格納および/または運搬してもよい。多数の実装形態では、コンピュータ読取可能媒体は物理的および/または有形的な記憶媒体である。かかる媒体が不揮発性媒体、揮発性媒体、および送信媒体の形をとってもよいがこれらに限られない。不揮発性媒体には、例えば、記憶装置(複数可)1025のような光ディスクおよび/または磁気ディスクが含まれる。揮発性媒体には、限定ではなく、作業用メモリ1035のような動的メモリが含まれる。送信媒体には、限定ではなく、同軸ケーブル、バス1005を備える線を含む、銅線および光ファイバ、ならびに通信サブシステム1030の様々な構成要素(および/または通信サブシステム1030がそれにより他の装置との通信を提供する媒体)が含まれる。したがって、送信媒体は波(限定ではなく、無線通信および赤外線通信中に生成されるもののような、無線波、音波、および/または光波が含まれる)の形をとってもよい。
物理的および/または有形的なコンピュータ読取可能媒体の共通的な形態には、例えば、フロッピ・ディスク、フレキシブル・ディスク、ハード・ディスク、磁気テープ、または、他の任意の磁気媒体、CD−ROM、他の任意の光媒体、パンチカード、紙テープ、穴のパターンを有する他の任意の物理媒体、RAM、PROM、EPROM、FLASH−EPROM、他の任意のメモリチップもしくはカートリッジ、以下で説明する搬送波、またはコンピュータがそこから命令および/もしくはコードを読み取れる他の任意の媒体等が含まれる
様々な形態のコンピュータ読取可能媒体が、1つまたは複数の命令から成る1つまたは複数の列をプロセッサ(複数可)1010に実行のために伝送することに関与してもよい。単なる例として、当該命令を最初にリモート・コンピュータの磁気ディスクおよび/または光ディスクに保持してもよい。リモート・コンピュータが命令をその動的メモリにロードし、当該命令を、コンピュータ・システム1000により受信および/または実行される送信媒体上の信号として当該命令を送信してもよい。これらの信号は、電磁信号、音響信号、光信号等の形であってもよく、本発明の様々な諸実施形態に従って命令を符号化できる搬送波の全ての例である。
通信サブシステム1030(および/またはその構成要素)は一般に当該信号を受信し、バス1005が当該信号(および/または当該信号が保持するデータ、命令等)を作業用メモリ1035に伝送し、プロセッサ(複数可)1010が作業用メモリ1035から当該命令を取り出して実行する。場合によっては、作業用メモリ1035が受信した命令を、プロセッサ(複数可)1010による実行の前または後の何れかに非一時的な記憶装置1025に格納してもよい。
上述の方法、システム、および装置は例である。様々な実施形態では、必要に応じて様々な手続きまたは構成要素を省略し、置換し、または追加してもよい。例えば、代替的な構成では、当該方法を、説明したのとは異なる順序で実施してもよく、かつ/または、様々な段階を追加し、省略し、かつ/または組み合せてもよい。また、特定の実施形態に関して説明した機能を様々な他の実施形態と組み合わせてもよい。当該実施形態の様々な態様と要素を同様に組み合わせてもよい。また、技術は発展するので、当該要素の多くは例であって本開示または諸請求項の範囲を限定するものではない。
本明細書では具体的な詳細を与えて、実施形態の徹底的な理解を与えた。しかし、これらの具体的な詳細なしに実装形態を実施することができる。例えば、公知な回路、プロセス、アルゴリズム、構造、および技術は、当該実施形態を不明瞭にするのを避けるために、不必要に詳細には説明しなかった。本明細書は、例示的な実施形態のみを提供するものであり、本発明の範囲、適用可能性、または構成を限定するものではない。寧ろ、実施形態の以上の説明は、本発明の諸実施形態を実装するための実施可能な説明を当業者に提供するものである。本発明の趣旨または範囲から逸脱しない様々な変更を、諸要素の機能と配置構成において行ってもよい。
また、幾つかの実施形態を、流れ図またはブロック図として示したプロセスとして説明した。各実施形態では動作を逐次的なプロセスとして説明したかもしれないが、当該動作の多くを並列または並行に実施してもよい。さらに、動作の順序を再構成してもよい。プロセスが、図面に含まれない追加のステップを有してもよい。さらに、方法の諸実施形態をハードウェア、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語、またはそれらの任意の組合せで実装してもよい。ソフトウェア、ファームウェア、ミドルウェア、またはマイクロコードで実装するとき、関連するタスクを実施するためのプログラム・コードまたはコード・セグメントを、記憶媒体のようなコンピュータ読取可能媒体に格納してもよい。プロセッサが関連するタスクを実施してもよい。
幾つかの実施形態を説明したが、本開示の趣旨を逸脱しない様々な修正、代替構成、および均等物を使用してもよい。例えば、以上の要素が、大規模システムの構成要素であってもよい。この場合、他の規則が優先してもよく、または、当該他の規則が本発明のアプリケーションを修正してもよい。また、幾つかのステップを、上記の要素を考慮する前、最中、または後に行ってもよい。したがって、上記の説明は本開示の範囲を限定しない。
102 カメラ
104 検出モジュール
106 経路発見器
108 背景補間器
110 変換器
112 テキスト画素生成器
114 画素混合器
116 混合バッファ
118 画像バッファ

Claims (32)

  1. 第1の画像の中の少なくとも1つの記号を置換するための方法であって、
    前記少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む前記第1の画像を取得するステップと、
    前記第1の画像の中の第1の境界と第2の境界を定義するステップであって、前記第1の境界と前記第2の境界とが前記第1の画像を表す前記少なくとも1つの記号の反対側に配置されるステップと、
    前記少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するステップと、
    前記第1の境界と前記第2の境界の間の複数の背景画素値を補間することによって、前記背景領域の補強バージョンを表す複数の画素を生成するステップと、
    前記少なくとも1つの変換記号を表す前記複数の画素と前記背景領域の補強バージョンを表す前記複数の画素とを含む第2の画像を構築するステップと、
    を含む、方法。
  2. 前記第1の境界と前記第2の境界の各々は前記少なくとも1つの記号の片側に沿った一連の画素として定義される、請求項1に記載の方法。
  3. 前記一連の画素は画素の経路として定義され、前記画素の経路は前記経路に関連付けられたコストを最小にする、請求項2に記載の方法。
  4. 前記経路に関連付けられた前記コストは、前記経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義される、請求項3に記載の方法。
  5. 前記第1の画像の中の前記第1の境界と前記第2の境界を定義するステップは、
    前記少なくとも1つの記号の反対側にある第1のバンドと第2のバンドを定義するステップと、
    前記第1のバンドを横断する少なくとも第1の経路と前記第2のバンドを横断する少なくとも第2の経路を選択するステップと、
    各経路に沿った複数の画素の画素色の勾配変化を合計することによって前記少なくとも第1の経路と前記少なくとも第2の経路とのコストを導出するステップと、
    前記第1のバンドから最小コストを有する経路を前記第1の境界として選択し、前記第2のバンドから最小コストを有する経路を前記第2の境界として選択するステップと、
    を含む、請求項1に記載の方法。
  6. 背景画素値を補間するステップは線形補間を利用する、請求項1に記載の方法。
  7. 背景画素値を補間するステップは非線形補間を利用する、請求項1に記載の方法。
  8. 前記少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、前記少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む、請求項1に記載の方法。
  9. プロセッサと、
    前記プロセッサに接続された入力装置と、
    前記プロセッサに接続された出力装置と、
    前記プロセッサに接続された非一時的なコンピュータ読取可能記憶媒体であって、
    少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む第1の画像を取得するステップと、
    前記第1の画像の中の第1の境界と第2の境界を定義するステップであって、前記第1の境界と前記第2の境界とは前記第1の画像を表す前記少なくとも1つの記号の反対側に配置されるステップと、
    前記少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するステップと、
    前記第1の境界と前記第2の境界の間の複数の背景画素値を補間することによって、前記背景領域の補強バージョンを表す複数の画素を生成するステップと、
    前記少なくとも1つの変換記号を表す前記複数の画素と前記背景領域の前記補強バージョンを表す前記複数の画素とを含む第2の画像を構築するステップと、
    を含む方法を実装するための前記プロセッサにより実行可能なコードを備える、非一時的なコンピュータ読取可能記憶媒体と、
    を備える、装置。
  10. 前記第1の境界と前記第2の境界の各々は前記少なくとも1つの記号の片側に沿った一連の画素として定義される、請求項9に記載の装置。
  11. 前記一連の画素は画素の経路として定義され、前記画素の経路は前記経路に関連付けられたコストを最小にする、請求項10に記載の装置。
  12. 前記経路に関連付けられた前記コストは前記経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義される、請求項11に記載の装置。
  13. 前記第1の画像の中の前記第1の境界と前記第2の境界を定義するステップは、
    前記少なくとも1つの記号の反対側にある第1のバンドと第2のバンドを定義するステップと、
    前記第1のバンドを横断する少なくとも第1の経路と前記第2のバンドを横断する少なくとも第2の経路を選択するステップと、
    各経路に沿った複数の画素の画素色の勾配変化を合計することによって前記少なくとも第1の経路と前記少なくとも第2の経路とのコストを導出するステップと、
    前記第1のバンドから最小コストを有する経路を前記第1の境界として選択し、前記第2のバンドから最小コストを有する経路を前記第2の境界として選択するステップと、
    を含む、請求項9に記載の装置。
  14. 背景画素値を補間するステップは線形補間を利用する、請求項9に記載の装置。
  15. 景画素値を補間するステップは非線形補間を利用する、請求項9に記載の装置。
  16. 前記少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、前記少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む、請求項9に記載の装置。
  17. プロセッサに接続された非一時的なコンピュータ読取可能記憶媒体であって、
    少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む第1の画像を取得するステップと、
    前記第1の画像の中の第1の境界と第2の境界を定義するステップであって、前記第1の境界と前記第2の境界とが前記第1の画像を表す前記少なくとも1つの記号の反対側に配置されるステップと、
    前記少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するステップと、
    前記第1の境界と前記第2の境界の間の複数の背景画素値を補間することによって、前記背景領域の補強バージョンを表す複数の画素を生成するステップと、
    前記少なくとも1つの変換記号を表す前記複数の画素と前記背景領域の前記補強バージョンを表す前記複数の画素とを含む第2の画像を構築するステップと、
    を含む方法を実装するための前記プロセッサにより実行可能なコンピュータ・プログラムを備える、非一時的なコンピュータ読取可能記憶媒体。
  18. 前記第1の境界と前記第2の境界の各々は前記少なくとも1つの記号の片側に沿った一連の画素として定義される、請求項17に記載の非一時的なコンピュータ読取可能記憶媒体。
  19. 前記一連の画素は画素の経路として定義され、前記画素の経路は前記経路に関連付けられたコストを最小にする、請求項18に記載の非一時的なコンピュータ読取可能記憶媒体。
  20. 前記経路に関連付けられた前記コストは前記経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義される、請求項19に記載の非一時的なコンピュータ読取可能記憶媒体。
  21. 前記第1の画像の中の前記第1の境界と前記第2の境界を定義するステップは、
    前記少なくとも1つの記号の反対側にある第1のバンドと第2のバンドを定義するステップと、
    前記第1のバンドを横断する少なくとも第1の経路と前記第2のバンドを横断する少なくとも第2の経路を選択するステップと、
    各経路に沿った複数の画素の画素色の勾配変化を合計することによって前記少なくとも第1の経路と前記少なくとも第2の経路とのコストを導出するステップと、
    前記第1のバンドから最小コストを有する経路を前記第1の境界として選択し、前記第2のバンドから最小コストを有する経路を前記第2の境界として選択するステップと、
    を含む、請求項17に記載の非一時的なコンピュータ読取可能記憶媒体。
  22. 背景画素値を補間するステップは線形補間を利用する、請求項17に記載の非一時的なコンピュータ読取可能記憶媒体。
  23. 背景画素値を補間するステップは非線形補間を利用する、請求項17に記載の非一時的なコンピュータ読取可能記憶媒体。
  24. 前記少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、前記少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む、請求項17に記載の非一時的なコンピュータ読取可能記憶媒体。
  25. 第1の画像の中の少なくとも1つの記号を置換するための装置であって、
    前記少なくとも1つの記号を表す複数の画素と背景領域を表す複数の画素を含む前記第1の画像を取得するための手段と、
    前記第1の画像の中の第1の境界と第2の境界を定義ための手段であって、前記第1の境界と前記第2の境界とは前記第1の画像を表す前記少なくとも1つの記号の反対側に配置される手段と、
    前記少なくとも1つの記号の少なくとも1つの変換記号を表す複数の画素を生成するための手段と、
    前記第1の境界と前記第2の境界の間の複数の背景画素値を補間することによって、前記背景領域の補強バージョンを表す複数の画素を生成するための手段と、
    前記少なくとも1つの変換記号を表す前記複数の画素と前記背景領域の補強バージョンを表す前記複数の画素とを含む第2の画像を構築するための手段と、
    を備える、装置。
  26. 前記第1の境界と前記第2の境界の各々は前記少なくとも1つの記号の片側に沿った一連の画素として定義される、請求項25に記載の装置。
  27. 前記一連の画素は画素の経路として定義され、前記画素の経路は前記経路に関連付けられたコストを最小にする、請求項26に記載の装置。
  28. 前記経路に関連付けられた前記コストは前記経路に沿った複数の画素の画素色の勾配変化の和を最小にする画素の経路として定義される、請求項27に記載の装置。
  29. 前記第1の画像の中の前記第1の境界と前記第2の境界を定義するための手段は、
    前記少なくとも1つの記号の反対側にある第1のバンドと第2のバンドを定義するための手段と、
    前記第1のバンドを横断する少なくとも第1の経路と前記第2のバンドを横断する少なくとも第2の経路を選択するための手段と、
    各経路に沿った複数の画素の画素色の勾配変化を合計することによって前記少なくとも第1の経路と前記少なくとも第2の経路とのコストを導出するための手段と、
    前記第1のバンドから最小コストを有する経路を前記第1の境界として選択し、前記第2のバンドから最小コストを有する経路を前記第2の境界として選択するための手段と、
    を含む、請求項25に記載の装置。
  30. 背景画素値を補間するステップは線形補間を利用する、請求項25に記載の装置。
  31. 背景画素値を補間するステップは非線形補間を利用する、請求項25に記載の装置。
  32. 前記少なくとも1つの記号は第1の人間の言語で少なくとも1つのテキスト文字を含み、前記少なくとも1つの変換記号は第2の人間の言語で少なくとも1つのテキスト文字を含む、請求項25に記載の装置。
JP2014518877A 2011-06-30 2012-06-22 拡張現実アプリケーション向けの効率的な混合方法 Active JP5823614B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201161503421P 2011-06-30 2011-06-30
US61/503,421 2011-06-30
US13/283,462 US8842909B2 (en) 2011-06-30 2011-10-27 Efficient blending methods for AR applications
US13/283,462 2011-10-27
PCT/US2012/043876 WO2013003242A1 (en) 2011-06-30 2012-06-22 Efficient blending methods for ar applications

Publications (2)

Publication Number Publication Date
JP2014521247A true JP2014521247A (ja) 2014-08-25
JP5823614B2 JP5823614B2 (ja) 2015-11-25

Family

ID=47390758

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014518877A Active JP5823614B2 (ja) 2011-06-30 2012-06-22 拡張現実アプリケーション向けの効率的な混合方法

Country Status (6)

Country Link
US (1) US8842909B2 (ja)
EP (1) EP2727085B1 (ja)
JP (1) JP5823614B2 (ja)
KR (1) KR101544074B1 (ja)
CN (1) CN103650000B (ja)
WO (1) WO2013003242A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016065904A (ja) * 2014-09-22 2016-04-28 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム
JP2018515972A (ja) * 2015-04-10 2018-06-14 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイによって提示されるパーソナル空間コンテンツの制御

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5631362B2 (ja) * 2011-08-08 2014-11-26 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
KR101756842B1 (ko) * 2011-08-29 2017-07-12 삼성전자주식회사 영상 프레임의 보간 방법 및 장치
AU2012330895B2 (en) 2011-11-02 2016-03-10 Tracerco Limited Scanning method and apparatus
KR101193668B1 (ko) * 2011-12-06 2012-12-14 위준성 스마트 기기를 이용한 상황 인식 기반 외국어 습득 및 학습 서비스 제공 방법
US9292498B2 (en) * 2012-03-21 2016-03-22 Paypal, Inc. Device orientation based translation system
KR101899977B1 (ko) * 2012-07-10 2018-09-19 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
US9519641B2 (en) * 2012-09-18 2016-12-13 Abbyy Development Llc Photography recognition translation
US20140253590A1 (en) * 2013-03-06 2014-09-11 Bradford H. Needham Methods and apparatus for using optical character recognition to provide augmented reality
WO2014162211A2 (en) * 2013-03-15 2014-10-09 Translate Abroad, Inc. Systems and methods for displaying foreign character sets and their translations in real time on resource-constrained mobile devices
JP2015069234A (ja) * 2013-09-26 2015-04-13 シャープ株式会社 表示処理装置、並びにその制御方法および制御プログラム
CN103488630B (zh) * 2013-09-29 2016-06-08 小米科技有限责任公司 一种图像的处理方法、装置及终端
US9547644B2 (en) 2013-11-08 2017-01-17 Google Inc. Presenting translations of text depicted in images
EP3066584A2 (en) * 2013-11-08 2016-09-14 Google, Inc. Presenting translations of text depicted in images
US9239833B2 (en) 2013-11-08 2016-01-19 Google Inc. Presenting translations of text depicted in images
US11291010B2 (en) * 2014-04-17 2022-03-29 Commscope Technologies Llc Detecting traffic load for a telecommunications system using narrowband signal monitoring
US9652896B1 (en) 2015-10-30 2017-05-16 Snap Inc. Image based tracking in augmented reality systems
US10580213B2 (en) 2016-09-13 2020-03-03 Magic Leap, Inc. Systems and methods for sign language recognition
CN108062301B (zh) * 2016-11-08 2021-11-05 希思特兰国际 文字翻译方法及其装置
CN106780663B (zh) * 2016-11-22 2020-02-21 维沃移动通信有限公司 一种模板边框文字的处理方法及装置
US10387730B1 (en) * 2017-04-20 2019-08-20 Snap Inc. Augmented reality typography personalization system
CN107609553A (zh) * 2017-09-12 2018-01-19 网易有道信息技术(北京)有限公司 图像处理方法、介质、装置和计算设备
CN109215416A (zh) * 2018-10-24 2019-01-15 天津工业大学 一种基于增强现实技术的汉字辅助学习系统及方法
US11972529B2 (en) 2019-02-01 2024-04-30 Snap Inc. Augmented reality system
US11347381B2 (en) * 2019-06-13 2022-05-31 International Business Machines Corporation Dynamic synchronized image text localization
KR102695828B1 (ko) * 2022-08-22 2024-08-20 한국전자기술연구원 Ar 영상 수신 장치 및 방법
US20240404159A1 (en) * 2023-05-30 2024-12-05 Get Together, Inc. doing business as IRL System and Method for a Dynamic Scene-Aware Blending

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000331156A (ja) * 1999-05-17 2000-11-30 Internatl Business Mach Corp <Ibm> 輪郭に沿うトラッカを自動的に決定するための方法、及び該方法を実施するプログラムを記憶した記憶媒体
JP2005149488A (ja) * 2003-10-22 2005-06-09 Sony Corp データ処理装置およびデータ処理方法、プログラム、並びに記録媒体
JP2006146454A (ja) * 2004-11-18 2006-06-08 Sony Corp 情報変換装置および情報変換方法
JP2006251902A (ja) * 2005-03-08 2006-09-21 Fuji Xerox Co Ltd 翻訳文書画像生成装置、翻訳文書画像生成プログラム及び翻訳文書画像生成方法
JP2008054236A (ja) * 2006-08-28 2008-03-06 Nikon Corp 撮像装置
JP2008158859A (ja) * 2006-12-25 2008-07-10 Denso Corp 表示装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69027712T2 (de) * 1989-05-19 1997-02-06 Sony Corp Verfahren zur Bildtransformation
TW347503B (en) * 1995-11-15 1998-12-11 Hitachi Ltd Character recognition translation system and voice recognition translation system
GB9807097D0 (en) * 1998-04-02 1998-06-03 Discreet Logic Inc Processing image data
US6674902B1 (en) * 1998-07-31 2004-01-06 Canon Kabushiki Kaisha Image processing apparatus image processing method, and storage medium
US6577762B1 (en) 1999-10-26 2003-06-10 Xerox Corporation Background surface thresholding
US6473522B1 (en) 2000-03-14 2002-10-29 Intel Corporation Estimating text color and segmentation of images
US6771835B2 (en) * 2000-06-12 2004-08-03 Samsung Electronics Co., Ltd. Two-dimensional non-linear interpolation system based on edge information and two-dimensional mixing interpolation system using the same
JP4391704B2 (ja) * 2001-01-11 2009-12-24 富士通株式会社 多値画像から二値画像を生成する画像処理装置および方法
US7840070B2 (en) * 2004-11-16 2010-11-23 Koninklijke Philips Electronics N.V. Rendering images based on image segmentation
US8144990B2 (en) * 2007-03-22 2012-03-27 Sony Ericsson Mobile Communications Ab Translation and display of text in picture
DE102007028895B4 (de) * 2007-06-22 2010-07-15 Siemens Ag Verfahren zur Segmentierung von Strukturen in 3D-Bilddatensätzen
JP4483909B2 (ja) * 2007-08-24 2010-06-16 富士ゼロックス株式会社 翻訳装置及びプログラム
US8249345B2 (en) * 2008-06-27 2012-08-21 Mako Surgical Corp. Automatic image segmentation using contour propagation
US8780131B2 (en) 2008-12-19 2014-07-15 Xerox Corporation Systems and methods for text-based personalization of images
JP5768719B2 (ja) * 2010-01-06 2015-08-26 日本電気株式会社 学習装置、識別装置、学習識別システム及び学習識別装置
US8447105B2 (en) * 2010-06-07 2013-05-21 Microsoft Corporation Data driven interpolation using geodesic affinity

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000331156A (ja) * 1999-05-17 2000-11-30 Internatl Business Mach Corp <Ibm> 輪郭に沿うトラッカを自動的に決定するための方法、及び該方法を実施するプログラムを記憶した記憶媒体
JP2005149488A (ja) * 2003-10-22 2005-06-09 Sony Corp データ処理装置およびデータ処理方法、プログラム、並びに記録媒体
JP2006146454A (ja) * 2004-11-18 2006-06-08 Sony Corp 情報変換装置および情報変換方法
JP2006251902A (ja) * 2005-03-08 2006-09-21 Fuji Xerox Co Ltd 翻訳文書画像生成装置、翻訳文書画像生成プログラム及び翻訳文書画像生成方法
JP2008054236A (ja) * 2006-08-28 2008-03-06 Nikon Corp 撮像装置
JP2008158859A (ja) * 2006-12-25 2008-07-10 Denso Corp 表示装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016065904A (ja) * 2014-09-22 2016-04-28 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム
JP2018515972A (ja) * 2015-04-10 2018-06-14 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイによって提示されるパーソナル空間コンテンツの制御
JP2020036334A (ja) * 2015-04-10 2020-03-05 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイによって提示されるパーソナル空間コンテンツの制御

Also Published As

Publication number Publication date
CN103650000A (zh) 2014-03-19
US8842909B2 (en) 2014-09-23
EP2727085A1 (en) 2014-05-07
JP5823614B2 (ja) 2015-11-25
US20130004068A1 (en) 2013-01-03
KR101544074B1 (ko) 2015-08-12
CN103650000B (zh) 2016-11-02
WO2013003242A1 (en) 2013-01-03
EP2727085B1 (en) 2017-07-19
KR20140028139A (ko) 2014-03-07

Similar Documents

Publication Publication Date Title
JP5823614B2 (ja) 拡張現実アプリケーション向けの効率的な混合方法
JP6713141B1 (ja) レイアウト解析方法、読書補助装置、回路及び媒体
KR100837166B1 (ko) 전자기기의 정보 표시 방법 및 그 전자기기
KR20210019537A (ko) 이미지 처리 방법 및 장치, 전자 기기 및 기억 매체
US20140129941A1 (en) Information display processing device
EP2386941A2 (en) Information processing apparatus and method, and program
CN107077296B (zh) 用户终端设备和用于控制用户终端设备的方法
AU2013201206A1 (en) Method and apparatus for displaying on electronic device
US9826166B2 (en) Vehicular surrounding-monitoring control apparatus
EP3751448A1 (en) Text detecting method, reading assisting device and medium
JP5654851B2 (ja) 文書画像表示装置ならびにその動作制御方法およびその制御プログラム
WO2020207134A1 (zh) 图像处理方法、装置、设备以及计算机可读介质
CN109324736A (zh) 局部放大图片的交互方法及装置
JP2022515274A (ja) 検出器の配置方法、検出器の配置装置及び非一時的コンピュータ可読記憶媒体
KR20160006965A (ko) 디스플레이 장치 및 이의 하이라이트 표시 방법
JP2010243605A (ja) 地図表示装置
JP5100532B2 (ja) 情報処理装置、その制御方法及びプログラム
US8831348B2 (en) Retrograde curve filtering for variable offset curves
JP5554972B2 (ja) 地図情報処理装置、地図情報処理方法、およびプログラム
JP2005107871A (ja) 画像表示方法と装置、該方法によるプログラムとこれを格納した記録媒体
JP4982890B2 (ja) 画像出力装置、画像出力システム、およびプログラム
KR20190049197A (ko) 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치
KR100840568B1 (ko) 선택적 필터링을 이용한 차등 보간 방법 및 장치
JP4890425B2 (ja) マンガのコマ画像のためのマスク画像の作成方法及びプログラム
CN116205790A (zh) 图像超分处理方法、装置、存储介质、产品及电子设备

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150907

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151007

R150 Certificate of patent or registration of utility model

Ref document number: 5823614

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250