JP6666121B2 - 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム - Google Patents

情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム Download PDF

Info

Publication number
JP6666121B2
JP6666121B2 JP2015219677A JP2015219677A JP6666121B2 JP 6666121 B2 JP6666121 B2 JP 6666121B2 JP 2015219677 A JP2015219677 A JP 2015219677A JP 2015219677 A JP2015219677 A JP 2015219677A JP 6666121 B2 JP6666121 B2 JP 6666121B2
Authority
JP
Japan
Prior art keywords
light emitting
information processing
light
distance
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015219677A
Other languages
English (en)
Other versions
JP2017090202A (ja
Inventor
嘉泰 小笠原
嘉泰 小笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2015219677A priority Critical patent/JP6666121B2/ja
Priority to US15/345,812 priority patent/US10376778B2/en
Publication of JP2017090202A publication Critical patent/JP2017090202A/ja
Application granted granted Critical
Publication of JP6666121B2 publication Critical patent/JP6666121B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/219Input arrangements for video game devices characterised by their sensors, purposes or types for aiming at specific areas on the display, e.g. light-guns
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/23Input arrangements for video game devices for interfacing with the game device, e.g. specific interfaces between game controller and console
    • A63F13/235Input arrangements for video game devices for interfacing with the game device, e.g. specific interfaces between game controller and console using a wireless connection, e.g. infrared or piconet
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/428Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/12Reflex reflectors
    • G02B5/136Reflex reflectors plural reflecting elements forming part of a unitary body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、反射部材と、所定の画像処理が可能な情報処理装置とを少なくとも備える情報処理システムに関する。
従来から、長手のハウジングを含み、ハウジングに手のひらで包まれるように把持される把持部が形成されているゲーム用操作装置や、これを用いたゲームシステムが知られている(例えば、特許文献1)。この操作装置には、ハウジングの長手方向前方端に撮像部が設けられている。また、このゲームシステムでは、ディスプレイの画面の近傍に、赤外光(赤外線)を発光するLEDモジュールが配置される。そして、例えば当該LEDモジュールから出力される赤外光を上記撮像部で撮像し、その撮像画像内における赤外光の位置を解析することで、ゲーム用操作装置の操作状況を推定することが可能であった。
特開2007−054114号公報
上記のようなゲームシステムでは、ディスプレイ側の近傍に赤外光を発するためのLEDモジュールを配置するという構成を採っていた。この点について、発明者は、同様のことを実現するために、より簡易な構成とする余地があることに気付いた。
それ故に、本発明の目的は、簡易な構成によって、様々な状況や場面に応じた発光制御が実現可能な情報処理システムを提供することである。
上記目的を達成するために、例えば以下のような構成例が挙げられる。
構成例の一例は、反射部材と、所定の画像処理が可能な情報処理装置とを少なくとも備える情報処理システムであって、反射部材は、再帰性反射材である。情報処理装置は、撮像手段と、第1発光手段と、第2発光手段と、光源検出手段とを備える。撮像手段は、画像を撮影する。第1発光手段は、所定の光を発光する。第2発光手段は、第1発光手段とは半減角または照射角の少なくともいずれか一方が異なっており、所定の光を発光する。光源検出手段は、撮像手段によって撮像された撮像画像において、再帰性反射材によって反射された第1および/または第2発光手段からの反射光を示す再帰性反射材画像を含む光源画像を検出する。ここで、光源画像とは、上記撮像画像内における、各種の反射光に係る画像部分のことである。また、再帰性反射材画像とは、上記撮像画像内における、上記再帰性反射材による反射光に係る画像部分のことである。なお、第1発光手段および第2発光手段は、撮像手段の近傍に設けられていてもよい。
上記構成例によれば、半減角または照射角の少なくともいずれか一方が異なる2種類の発光手段について、様々な状況・場面に応じて使い分けることが可能な情報処理システムを提供することができる。
他の構成例として、情報処理装置は、第1発光手段または第2発光手段のいずれか一方、またはその双方を発光させる発光制御手段を更に備えていてもよい。また、情報処理システムは、情報処理装置とは異なる他の情報処理装置を更に含み、発光制御手段は、他の情報処理装置から送信された指示データを受信し、当該指示データに基づいて発光制御を行うようにしてもよい。あるいは、発光制御手段は、反射部材から情報処理装置までの距離を算出する距離算出手段を含み、当該距離算出手段で算出された距離に応じて発光制御を行うようにしてもよい。
上記構成例によれば、2種類の発光手段を距離に応じて適宜オン/オフ制御することもでき、様々な状況・場面に応じた発光制御が可能となる。
他の構成例として、第1発光手段の半減角または照射角は、撮像手段の画角以上の角度であり、第2発光手段の半減角または照射角は、撮像手段の画角未満の角度であってもよい。
上記構成例によれば、例えば発光手段から発光される光の反射光に基づいて所定の物体を検出するような場合において、その検出精度を維持しながら、消費電力の軽減を図ることも可能となる。
他の構成例として、第1発光手段および第2発光手段は、赤外光を発光するように構成されていても良い。
上記構成例によれば、ユーザの視認行動の邪魔にならないようにすることができ、また、例えば部屋が暗い状況であっても、反射部材からの反射光等、赤外光を用いた認識処理の実行も可能となる。
他の構成例として、情報処理装置は、検出した光源画像の撮像画像内における位置情報を算出する算出手段を更に備えていてもよい。そして、算出手段は、検出した光源画像の明るさまたは撮像画像内における大きさを更に算出するよう構成しても良い。更には、情報処理装置は、算出手段で算出された光源画像の大きさと、撮像画像内における光源画像間の距離とに基づき、反射部材画像を特定する反射部材特定手段を備える構成であってもよい。
上記構成例によれば、撮像画像内における反射部材の位置を特定でき、これに基づいて、情報処理装置の(反射部材に対しての相対的な)姿勢等を算出することも可能となる。
他の構成例として、撮像手段の撮像方向と、第1発光手段および第2発光手段の発光方向とは、略同方向であってもよい。
上記構成例によれば、情報処理装置の撮像手段がある面が向いている方向をより正確に算出できる。
他の構成例として、情報処理装置は、ハンドヘルド型の情報処理装置であってもよい。
上記構成例によれば、例えば片手持ちの携帯型情報処理装置やゲーム用の多機能コントローラ等で、その向きや姿勢を検出し、これに応じた情報処理を実行することができる。
他の構成例の一例は、撮像手段と、第1発光手段と、第2発光手段と、光源検出手段とを備える、情報処理装置である。撮像手段は、画像を撮影する。第1発光手段は、所定の光を発光する。第2発光手段は、所定の光を発光し、第1発光手段とは半減角または照射角の少なくともいずれか一方が異なっている。光源検出手段は、撮像手段によって撮像された撮像画像において、所定の再帰性反射材によって反射された第1または第2発光手段からの反射光を示す反射部材画像を含む光源画像を検出する。
上記構成例によれば、半減角または照射角の少なくともいずれか一方が異なる2種類の発光手段につき、様々な状況・場面に応じた発光制御が可能となる。
本実施形態によれば、簡易なシステム構成で、様々な状況・場面に応じた複数の発光手段の使い分けを行うことができる。
本実施形態の一例であるゲームシステムの全体像を示す模式図 撮像対象部材8を正面から見たときの模式図 ゲーム装置3のブロック図 コントローラ5の外観構成を示す斜視図 ハウジング51の前面を示す模式図 コントローラ5の内部構成を示すブロック図 本実施形態にかかる制御処理の一例を示すフローチャート
以下、本発明の一実施形態について説明する。
図1は、情報処理システムの一例であるゲームシステム1の外観図である。図1において、ゲームシステム1は、テレビジョン受像器等に代表される据置型のディスプレイ装置(以下、「テレビ」と記載する)2、ゲーム装置3、ハンドヘルド型の入力装置の一例であるコントローラ5、および、再帰性反射材付き撮像対象部材8(以下、単に撮像対象部材と呼ぶ)を含む。ゲームシステム1は、コントローラ5を用いたゲーム操作に基づいてゲーム装置3においてゲーム処理を実行し、ゲーム処理によって得られるゲーム画像をテレビ2に表示するものである。
ゲーム装置3には、当該ゲーム装置3に対して交換可能に用いられる情報記憶媒体の一例である光ディスク(図示せず)が脱着可能に挿入される。
ゲーム装置3には、テレビ2が接続コードを介して接続される。テレビ2は、ゲーム装置3において実行されるゲーム処理によって得られるゲーム画像を表示する。なお、他の実施形態においては、ゲーム装置3と据置型の表示装置とは一体となっていてもよい。また、ゲーム装置3とテレビ2との通信は無線通信であってもよい。
テレビ2の画面の周辺(図1では画面の上側)には、撮像対象部材8が設置される。ユーザ(プレイヤ)はコントローラ5を動かすゲーム操作を行うことができ、撮像対象部材8は、コントローラ5の(撮像対象部材8に対する相対的な)姿勢等をゲーム装置3が算出するために用いられる。撮像対象部材8は、コントローラ5と対向することになる表面上に、3つの再帰性反射材81A〜81C(以下では総称して再帰性反射材81と呼ぶこともある)を有している。当該再帰性反射材81は、入射した方向に光を返す素材である(入射角と出射角が等しくなる)。
ここで、図2に、撮像対象部材8のサイズと、再帰性反射材81の配置の一例を示す。図2は、撮像対象部材8を正面から見た場合の模式図である。図2の例では、撮像対象部材8は、30cmの横幅(x軸方向の長さ)を有している。また、高さ(y軸方向長さ)が1cmである。なお、図示は省略しているが、奥行き(z軸方向長さ)は、テレビ2の画面の上側における程度の長さを有しているものとする。撮像対象部材8の左端に再帰性反射材81Aが配置され、撮像対象部材8の中央に再帰性反射材81Bが配置され、撮像対象部材8の右端に再帰性反射材81Cが配置されている。再帰性反射材81はそれぞれ、3cmの横幅を有している。また、再帰性反射材81同士は、10.5cmの間隔を空けて配置されている。つまり、再帰性反射材81は等間隔で配置されている。
なお、図2に示す配置間隔やサイズはあくまで一例であり、これに限定されるものではなく、他のサイズや配置間隔を利用しても良い。
コントローラ5は、自機に対して行われた操作の内容を表す操作データをゲーム装置3に与えるものである。コントローラ5とゲーム装置3とは無線通信によって通信可能である。本実施形態では、コントローラ5とゲーム装置3との間の無線通信には例えばBluetooth(ブルートゥース)(登録商標)の技術が用いられる。なお、他の実施形態においてはコントローラ5とゲーム装置3とは有線で接続されてもよい。また、ゲーム装置3は複数のコントローラと通信可能であり、所定台数のコントローラを同時に使用することによって複数人でゲームをプレイすることが可能である。また、本実施形態では、コントローラ5はバッテリーを電源として動作するものとする。
ここで、本実施形態では、コントローラ5の前面(先端側)に赤外光発光部(本実施例ではIR−LED)および赤外カメラが設けられている。そのため、コントローラ5の前面を撮像対象部材8に向けることで、撮像対象部材8に赤外光を照射することになる。その結果、上記赤外光発光部から発光された赤外光は上記再帰性反射材81によって反射される。そのため、上記赤外カメラで撮像して得られた画像には、当該再帰性反射材81からの反射光が写っていることになる(例えば、輝度が高い3つの光点として写っている)。従って、当該撮像画像を解析し、撮像画像内における上記再帰性反射材からの反射光を特定(検出)し、撮像画像内における位置等を算出することで、コントローラ5の前面が向いている方向(指示方向)や、更にはコントローラ5の姿勢等を把握することが可能となっている。
ところで、本実施例では、上記撮像対象部材8に配置される再帰性反射材81の数を3つとしている。これは、当該再帰性反射材81からの反射光を特定するための解析処理における解析精度と処理負荷とのバランスを考慮したものとなっている。すなわち、この数が少ないと精度の低下が懸念され、多すぎると、解析処理にかかる処理負荷の増大が懸念される。そのため、両者のバランスを取るという観点から、本実施形態では再帰性反射材81の数を3としている。しかしながら、他の実施例では、撮像対象部材8が有する再帰性反射材81は、(十分な検出精度が確保できる等の条件が整えば)1つや2つであってもよい。また、十分な演算処理能力が見込めるのであれば、再帰性反射材81を4つ以上有する構成としても良い。
次に、ゲーム装置3の内部構成について説明する。図3は、ゲーム装置3のブロック図である。図3において、ゲーム装置3は、プロセッサ13、内部記憶装置14、メインメモリ15、およびコントローラ通信部16を備えている。プロセッサ13は、ゲーム装置3の各種制御を行う。また、コントローラ通信部16を介して、コントローラ5から送信された各種データを受信し、これに基づいた情報処理を実行する。コントローラ通信部16は、例えばBluetoothチップ等である。内部記憶装置14には、プロセッサ13によって実行されるコンピュータプログラムが格納されている。内部記憶装置14は、典型的には、フラッシュEEPROMである。メインメモリ15は、コンピュータプログラムや情報を一時的に記憶する。
なお、上記ゲーム装置3のプロセッサ13に関しては、単一のプロセッサで処理を行う構成でも良いし、単一のゲーム装置3に複数のプロセッサ13を搭載し、これら複数のプロセッサ13を併用して処理されてもよい。
次に、コントローラ5について説明する。図4は、コントローラ5の外観構成を示す斜視図である。図4において、コントローラ5は、例えばプラスチック成型によって形成されたハウジング51を有している。ハウジング51は、その前後方向(図4に示すz軸方向)を長手方向とした略直方体形状を有しており、全体として大人や子供の片手で把持可能な大きさである。コントローラ5は、操作部として、十字キー52や複数の操作ボタン53等を備える。また、コントローラ5はモーションセンサも備える。ユーザは、コントローラ5に設けられたボタンを押下すること、および、コントローラ5自体を動かしてその位置や姿勢(傾き)を変えることによってゲーム操作を行うことができる。
また、ハウジング51の前面には、赤外カメラおよび4つの赤外光発光部が設けられる。図5は、ハウジング51の前面を示す模式図である。図5において、ハウジング51の前面のほぼ中央となる位置に赤外カメラ61(より正確には、その光入射面)が配置されている。ここで、本実施形態では、赤外カメラの画角は120°であるものとする。(本実施形態において「画角」は、「対角の画角」意味で用いることとする。)
更に、図5において、赤外カメラ61の左側の領域には、第1の赤外光発光部62および第2の赤外光発光部63が配置されている。また、図5における赤外カメラ61の右側の領域には、第3の赤外光発光部64および第4の赤外光発光部65が配置されている。つまり、赤外カメラ61と同じ面に4つの赤外光発光部が配置されていることになる。本実施例では、赤外カメラ61を中心として、その左右の近傍となる位置に4つの赤外光発光部が設けられている(この例では左右に2つずつ)。そのため、これら4つの赤外光発光部の発光方向と、赤外カメラ61の撮像方向は略同方向にもなっている。
ここで、第1の赤外光発光部62および第2の赤外光発光部63と、第3の赤外光発光部64および第4の赤外光発光部65とは、放出する光量は同じであるが、その半減角(正面へ照射した時に比べて、光量が半分になる角度、照射角とも呼ばれる)は異なるものとなっている。具体的には、第1の赤外光発光部62および第2の赤外光発光部63については、その半減角は130°となっている。一方、第3の赤外光発光部64および第4の赤外光発光部65は、その半減角は75°となっている。上記のように、赤外カメラの画角は120°であるため、第1の赤外光発光部62および第2の赤外光発光部63については、その半減角が赤外カメラ61の画角以上の角度のものが用いられている。また、第3の赤外光発光部64および第4の赤外光発光部65は、その半減角が赤外カメラの画角未満の角度であるものが用いられている。
なお、以下の説明では、第1の赤外光発光部62および第2の赤外光発光部63については、まとめて「130°発光部」と呼び、第3の赤外光発光部64および第4の赤外光発光部65については、まとめて「75°発光部」と呼ぶこともある。
また、上記赤外カメラ61と赤外光発光部との位置関係については、図5で示したような位置関係に限るものではない。上記撮像対象部材8(再帰性反射材81)に赤外光を照射しつつ、その反射光を捉える(撮像する)ことができるような位置関係であれば、上記赤外カメラ61および赤外光発光部はいずれも任意の位置に配置されてもよい。例えば、赤外カメラ61の上下となる位置に赤外光発光部が配置されてもよい。
次に、コントローラ5の内部構成について説明する。図6は、コントローラ5の内部構成を示すブロック図である。コントローラ5は、赤外カメラ61、第1赤外光発光部62、第2赤外光発光部63、第3赤外光発光部64、第4赤外光発光部65、制御部66、操作部67(各操作ボタン)、および、無線通信部68を備えている。コントローラ5は、自機に対して行われた操作内容を表すデータを操作データとしてゲーム装置3へ送信するものである。
制御部66は、コントローラ5における動作を制御する。具体的には、制御部66は、各入力部(操作部67、赤外カメラ61)からの出力データを受け取り、操作データとして無線通信部68を介してゲーム装置3へ送信する。また、制御部66は、ゲーム装置3から所定の制御指示を含むデータを受信し、これに基づいて第1赤外光発光部62、第2赤外光発光部63、第3赤外光発光部64、第4赤外光発光部65のオン/オフ制御も行う。その他、制御部66は、コントローラ5の動作制御を行う(例えば電源制御等)。換言すれば、制御部66はコントローラ5を制御する機能を有しており、その意味では、コントローラ5はハンドヘルド型の情報処理装置の一種ともいえる。
また、本実施形態においては、コントローラ5とゲーム装置3との間では無線通信が行われるが、他の実施形態においては有線で通信が行われてもよい。
第1の赤外光発光部62、第2の赤外光発光部63、第3の赤外光発光部64、第4の赤外光発光部65はそれぞれ、制御部66による制御に基づき赤外光を発光する。上記のように、第1の赤外光発光部62、第2の赤外光発光部63は、その半減角は130°であり、第3の赤外光発光部64、第4の赤外光発光部65は、その半減角は75°である。
赤外カメラ61は、赤外線フィルタ61a、レンズ61b、撮像素子61c、および画像処理回路61d(ハードウェアエンジン)を含んでいる。赤外線フィルタ61aは、コントローラ5の前方から入射する光から赤外線のみを通過させる。レンズ61bは、赤外線フィルタ61aを透過した赤外線を集光して撮像素子61cへ入射させる。撮像素子61cは、例えばCMOSセンサやあるいはCCDセンサのような固体撮像素子であり、レンズ61bが集光した赤外線を受光して画像信号を出力する。
ここで、撮像対象となる撮像対象部材8には、上記のように再帰性反射材81が設けられている。そのため、第1の赤外光発光部62〜第4の赤外光発光部65から発光された赤外光は、再帰性反射材81で反射され、反射光として赤外カメラ61に入射されることになる。また、赤外線フィルタ61aが設けられているため、撮像素子61cは、赤外線フィルタ61aを通過した赤外光だけを受光して画像データを生成することになる。以下では、撮像素子61cによって撮像された画像を撮像画像と呼ぶ。また、この撮像画像に写っている上記赤外光に対応する部分(赤外光の画像、光源の画像)を光源点と呼ぶ。
撮像素子61cによって生成された画像データは、画像処理回路61dで処理される。画像処理回路61dは、撮像画像内における光源点の位置、大きさ、輝度を算出する。ここで、上記撮像画像に写っている光源点には、上記再帰性反射材81からの反射光以外の赤外光も含まれ得る。以下では、再帰性反射材81からの反射光以外の光源点に係る画像のことを「ノイズ光」と呼ぶ。また、再帰性反射材81A、81B、81Cからの反射光に対応する3つの光源点に係る画像のことを「撮像対象部材反射光」と呼ぶ。そして、画像処理回路61dは、このようなノイズ光を除去する処理等を行い、撮像対象部材反射光を特定する処理を行う。そして、画像処理回路61dは、特定された撮像対象部材反射光の位置を示す座標、当該撮像対象部材反射光の大きさを示す情報、当該撮像対象部材反射光の輝度を示す情報を制御部66へ出力する。これらのデータは、制御部66によって操作データの一部としてゲーム装置3に送信される。以下では、上記データを「撮像対象部材情報」と呼ぶ。
次に、本実施形態における、上記4つの赤外光発光部62〜65の制御の概要を説明する。上記のように、コントローラ5の前面には、半減角が異なる2種類の赤外光発光部(130°発光部および75°発光部)が設けられている。また、例えば4つの赤外光発光部62〜65の光量が全てほぼ同じである場合は、130°発光部よりも、75°発光部のほうが、より遠くに赤外光が届くことになる。このことを利用し、本実施形態では、状況に応じて、2種類の赤外光発光部のオン/オフを切換える制御を行う。具体的には、コントローラ5から見て一定の距離以上離れた位置からの赤外光(反射光含む)を認識したい場合(以下、遠距離認識と呼ぶ)は、4つの赤外光発光部の全てをオンにする。一方、コントローラ5から見て一定の距離未満、すなわち、比較的近い位置からの赤外光が認識できればよい場合(以下、近距離認識と呼ぶ)であれば、上記130°発光部のみをオンにし、75°発光部はオフにする制御を行う。例えば、撮像対象部材8とコントローラ5との間の距離が所定距離以上離れているような状況であれば、4つの赤外光発光部62〜65の全てをオンにする。一方、撮像対象部材8とコントローラ5間の距離が所定距離未満という状況であれば、130°発光部のみをオンにする、という制御を行う(なお、上記のように、130°発光部の半減角は赤外カメラの画角よりも広いため、赤外カメラの光を取りこぼすことはない。)。また、他の例として、例えば、ゲーム処理の進行過程で、所定距離以上離れた位置にある撮像対象部材8を認識させたい(遠距離認識させたい)という状況と、撮像対象部材8を認識させる必要はないが、撮像対象部材8とは別のものを近距離認識させたいという状況とをゲームの進行に応じて使い分ける場合を想定する(例えば、赤外カメラ61を用いてユーザの手のひらを認識させたい等)。このような場合にも、上記と同様に2種の赤外光発光部のオン/オフの制御を行ってもよい。また、更に他の例としては、ゲーム装置側で複数のアプリケーションを切換えて実行可能である場合、実行するアプリケーションに応じて上記2種類の赤外光発光部のオン/オフ制御を行ってもよい。また、例えば、同じアプリケーションの実行中であっても、場面に応じて上記2種類の赤外光発光部のオン/オフを切換えるようにしてもよい。このように、ユースケースに応じて2種の赤外光発光部のオン/オフを切換える制御を行うことで、赤外光発光部にかかる消費電力を軽減することが可能となる。また、様々な状況や場面に応じた発光制御を実現することも可能である。
なお、本実施形態では、130°発光部および75°発光部をそれぞれ2つずつ設ける構成としているが、これは、光量を稼ぐという観点によるものである。そのため、他の実施形態では、必要となる光量に応じて、130°発光部および75°発光部は1つずつ設けるという構成としてもよいし、それぞれ3つ以上設ける構成としても良い。
次に、上記のような制御処理の詳細について説明する。図7は、本実施形態にかかる制御処理の一例を示すフローチャートである。以下に説明する例では、撮像対象部材8とコントローラ5間の距離に応じて赤外光発光部62〜65のオン/オフ制御を行う例を示す。このフローの処理では、概ね次のような処理が行われる。まず、コントローラ5における処理で生成された上記撮像対象部材情報が、ゲーム装置3に送信される。次に、これに基づいてゲーム装置側で撮像対象部材8とコントローラ5との距離が算出される。更に、この距離に応じて、赤外光発光部62〜65のオン/オフの切替指示を示す情報がゲーム装置3からコントローラ5に送信される。そして、コントローラ5では、当該送信されてきた情報に基づいて赤外光発光部62〜65それぞれのオン/オフ制御を行う。
なお、図7では、左側にコントローラ側の処理のフローチャートを示し、右側にゲーム装置側の処理のフローチャートを示している。また、このフローの処理が所定の周期(例えば、1/60秒毎)で繰り返し実行されるものとする。
まず、ステップS1で、コントローラ5の制御部66からの指示に基づき、赤外カメラ61で撮像処理が行われる。すなわち、撮像素子61cを用いて撮像画像を生成する処理が実行される。
次に、ステップS2で、赤外カメラ61内の画像処理回路61dにおいて上記撮像画像の解析処理が実行される。この処理では、例えば次のような処理が実行される。まず、撮像画像から上記光源点を検出する処理が実行される(この処理は、クラスタリング処理とも呼ばれる)。次に、検出された光源点のうちから、上記ノイズ光を除外し、上記撮像対象部材反射光を特定する処理が実行される(撮像対象部材反射光は、直進的に並んだ3つの光源点として写っている)。更に、当該撮像対象部材反射光の撮像画像内における位置(座標)、大きさ、輝度を算出し、上記撮像対象部材情報を生成する処理が実行される。そして、当該撮像対象部材情報が画像処理回路61dから制御部66へ出力される。
次に、ステップS3で、制御部66は、上記撮像対象部材情報を含む操作データを生成する処理を実行する。続くステップS4で、制御部66は、当該操作データをゲーム装置3に送信する処理を実行する。
ここで、一旦、ゲーム装置3側の処理を説明する。ステップS11で、ゲーム装置3のプロセッサ13は、上記コントローラ5から送信された操作データを受信する処理を実行する。
次に、ステップS12で、プロセッサ13は、操作データに含まれる撮像対象部材情報に基づき、コントローラ5と撮像対象部材8間の距離を算出する処理を実行する。例えば、撮像対象部材反射光の3つの光源点の間隔や、各光源点の大きさに基づき、当該距離が算出される。
次に、ステップS13で、プロセッサ13は、コントローラに送信するための制御データを作成する処理を実行する。この制御データには、上記算出された距離に基づき、コントローラ5の赤外光発光部62〜65のオン/オフの切替を指示する指示情報が含まれている。そして、プロセッサ13は、当該制御データをコントローラ5に送信する。また、図示は省略するが、その後、プロセッサ13は、コントローラ5の姿勢等に基づいて画面上に表示されるカーソルやポインタの動きを制御する等の処理を適宜実行する。
コントローラ5側の処理に戻り、次に、ステップS5で、制御部66は、ゲーム装置3からの制御データを受信する処理を実行する。次に、ステップS6で、制御部66は、上記制御データに基づき、赤外光発光部62〜65のオン/オフ制御を実行する。
上記のような処理が所定の周期で繰り返し行われることで、撮像対象部材8とコントローラ5間の距離に応じて赤外光発光部62〜65が適宜オン/オフされることになる。これにより、コントローラ5の消費電力を軽減することが可能となる。
なお、他の実施形態では、コントローラ5の制御部66が、上記のようなコントローラ5と撮像対象部材8間の距離を算出する処理を実行するようにしてもよい。すなわち、コントローラ5自身が上記距離を算出する構成としても良い。
このように、本実施形態では、コントローラ5の前面に赤外カメラ61を設け、更に、照射角または半減角が異なる2種類の赤外光発光部62〜65を当該赤外カメラ61の左右となる位置に設けている。そして、これら2種類の赤外光発光部について、そのユースケースに応じた切替制御を行っている。これにより、コントローラ5の利便性を確保しつつ、消費電力を軽減することも可能となる。また、実行するアプリケーションに応じた制御や、同じアプリケーションであっても、その場面に応じた制御を行うことができる。これにより、輝度値の飽和や不必要な反射を抑え、撮像対象物の検知精度を高めることができる。例えば、上記赤外光発光部62〜65の全てを発光させると、輝度値(明るさ)が飽和したり、不必要な反射が発生して、撮像対象物が検知しにくくなるような場合でも、上記のような制御を行うことで、その状況や場面に合わせた発光制御を行い、撮像対象物をより的確に検知することが可能となる。
また、本実施形態では、不可視光である赤外光を用いているため、ユーザの視認行動の邪魔にならないようにすることができ、また、例えば部屋が暗い状況であっても、例えば上記のように、コントローラ5の姿勢等に応じて画面上に表示されるカーソルやポインタの動きを制御する処理等を実行することが可能である。
なお、本実施形態では、赤外光を例としたが、これに限らず、他の種類の不可視光を用いる構成としても構わない。
また、上記のような処理を実行するプロセッサに関して、上記の例ではゲーム装置3にプロセッサが搭載されている場合を例に説明したが、他の実施形態では、コントローラ5に単数または複数のプロセッサを搭載するようにしても良い。そして、上記実施例ではゲーム装置3で行っていた処理の全て、あるいはその一部について、コントローラ5のプロセッサで実行するように構成しても良い。また、上記実施例ではコントローラ5で行っていた処理の一部について、ゲーム装置3のプロセッサで実行するように構成しても良い。
2 テレビ
3 ゲーム装置
5 コントローラ
8 再帰性反射材付き撮像対象部材
13 プロセッサ
14 内部記憶装置
15 メインメモリ
16 コントローラ通信部
61 赤外カメラ
62 第1の赤外光発光部
63 第2の赤外光発光部
64 第3の赤外光発光部
65 第4の赤外光発光部
66 制御部
67 操作部
68 無線通信部

Claims (11)

  1. 反射部材と、所定の画像処理が可能な情報処理装置とを少なくとも備える情報処理システムであって、
    前記反射部材は、再帰性反射材であり、
    前記情報処理装置は、
    画像を撮影する撮像手段と、
    赤外光を発光する第1発光手段と、
    前記赤外光を発光し、前記第1発光手段とは半減角または照射角の少なくともいずれか一方が異なる第2発光手段と、
    前記撮像手段によって撮像された撮像画像において、前記再帰性反射材によって反射された前記第1および/または第2発光手段からの反射光を示す再帰性反射材画像を含む光源画像を検出する光源検出手段と、
    前記反射部材から前記情報処理装置までの距離に基づいて、前記第1および第2発光手段のいずれか一方、またはその双方を発光させる発光制御手段とを備え
    前記情報処理装置はゲームコントローラであり、
    前記発光制御手段は、
    前記反射部材から前記情報処理装置までの前記距離を算出する距離算出手段を含み、
    当該距離算出手段で算出された距離が所定の距離より長い場合は、前記第1および第2発光手段の双方を発光させ、当該算出された距離が所定の距離より短い場合は、前記第1および第2発光手段のうち、半減角または照射角が大きいほうの発光手段を発光させて、他方は発光させないように制御する、情報処理システム。
  2. 前記第1発光手段および第2発光手段は、前記撮像手段の近傍となる位置に設けられる、請求項1に記載の情報処理システム。
  3. 前記情報処理システムは、前記情報処理装置とは異なる他の情報処理装置を更に含み、
    前記発光制御手段は、さらに前記他の情報処理装置から送信された指示データを受信し、当該指示データおよび前記距離に基づいて前記発光制御を行う、請求項1に記載の情報処理システム。
  4. 前記第1発光手段の半減角または照射角は、前記撮像手段の画角以上の角度であり、
    前記第2発光手段の半減角または照射角は、前記撮像手段の画角未満の角度である、
    請求項1〜のいずれかに記載の情報処理システム。
  5. 前記情報処理装置は、
    前記検出した光源画像の前記撮像画像内における位置情報を算出する算出手段を更に備える、請求項1〜のいずれかに記載の情報処理システム。
  6. 前記算出手段は、前記検出した光源画像の明るさまたは撮像画像内における大きさを更に算出する、請求項に記載の情報処理システム。
  7. 前記情報処理装置は、前記算出手段で算出された前記光源画像の大きさと、前記撮像画像内における光源画像間の距離とに基づき、前記再帰性反射材画像を特定する反射部材特定手段を更に備える、請求項に記載の情報処理システム。
  8. 前記撮像手段の撮像方向と、前記第1発光手段および第2発光手段の発光方向とは、略同方向である、請求項1〜のいずれかに記載の情報処理システム。
  9. 画像を撮影する撮像手段と、
    赤外光を発光する第1発光手段と、
    前記赤外光を発光し、前記第1発光手段とは半減角または照射角の少なくともいずれか一方が異なる第2発光手段と、
    前記撮像手段によって撮像された撮像画像において、所定の再帰性反射材によって反射された前記第1または第2発光手段からの反射光を示す再帰性反射材画像を含む光源画像を検出する光源検出手段と、
    前記反射部材から前記情報処理装置までの距離に基づいて、前記第1および第2発光手段のいずれか一方、またはその双方を発光させる発光制御手段とを備え
    前記発光制御手段は、
    前記反射部材から前記情報処理装置までの前記距離を算出する距離算出手段を含み、
    当該距離算出手段で算出された距離が所定の距離より長い場合は、前記第1および第2発光手段の双方を発光させ、当該算出された距離が所定の距離より短い場合は、前記第1および第2発光手段のうち、半減角または照射角が大きいほうの発光手段を発光させて、他方は発光させないように制御する、ゲームコントローラ
  10. 反射部材と、所定の画像処理が可能な情報処理装置とを少なくとも備える情報処理システムを制御するための情報処理方法であって、
    前記反射部材は、再帰性反射材であり、
    前記情報処理装置は、
    画像を撮影する撮像ステップと、
    赤外光を発光する第1発光ステップと、
    前記赤外光を発光し、前記第1発光手段とは半減角または照射角の少なくともいずれか一方が異なる第2発光ステップと、
    前記撮像手段によって撮像された撮像画像において、前記再帰性反射材によって反射された前記第1および/または第2発光手段からの反射光を示す再帰性反射材画像を含む光源画像を検出する光源検出ステップと、
    前記反射部材から前記情報処理装置までの距離に基づいて、前記第1および第2発光手段のいずれか一方、またはその双方を発光させる発光制御ステップとを実行し、
    前記情報処理装置はゲームコントローラであり、
    前記発光制御ステップは、
    前記反射部材から前記情報処理装置までの前記距離を算出する距離算出ステップを含み、
    当該距離算出ステップで算出された距離が所定の距離より長い場合は、前記第1および第2発光手段の双方を発光させ、当該算出された距離が所定の距離より短い場合は、前記第1および第2発光手段のうち、半減角または照射角が大きいほうの発光手段を発光させて、他方は発光させないように制御する、情報処理方法。
  11. 所定の画像処理が可能な情報処理装置のコンピュータに実行させる情報処理プログラムであって、
    前記情報処理装置のコンピュータを、
    画像を撮影する撮像手段と、
    赤外光を発光する第1発光手段と、
    前記赤外光を発光し、前記第1発光手段とは半減角または照射角の少なくともいずれか一方が異なる第2発光手段と、
    前記撮像手段によって撮像された撮像画像において、所定の再帰性反射材によって反射された前記第1および/または第2発光手段からの反射光を示す再帰性反射材画像を含む光源画像を検出する光源検出手段と、
    前記反射部材から前記情報処理装置までの距離に基づいて、前記第1および第2発光手段のいずれか一方、またはその双方を発光させる発光制御手段として機能させ
    前記情報処理装置はゲームコントローラであり、
    前記発光制御手段は、
    前記反射部材から前記情報処理装置までの前記距離を算出する距離算出手段を含み、
    当該距離算出手段で算出された距離が所定の距離より長い場合は、前記第1および第2発光手段の双方を発光させ、当該算出された距離が所定の距離より短い場合は、前記第1および第2発光手段のうち、半減角または照射角が大きいほうの発光手段を発光させて、他方は発光させないように制御する、情報処理プログラム。
JP2015219677A 2015-11-09 2015-11-09 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム Active JP6666121B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015219677A JP6666121B2 (ja) 2015-11-09 2015-11-09 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム
US15/345,812 US10376778B2 (en) 2015-11-09 2016-11-08 Information processing system, information processing apparatus, and computer-readable non-transitory storage medium having stored therein information processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015219677A JP6666121B2 (ja) 2015-11-09 2015-11-09 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2017090202A JP2017090202A (ja) 2017-05-25
JP6666121B2 true JP6666121B2 (ja) 2020-03-13

Family

ID=58668305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015219677A Active JP6666121B2 (ja) 2015-11-09 2015-11-09 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム

Country Status (2)

Country Link
US (1) US10376778B2 (ja)
JP (1) JP6666121B2 (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08210825A (ja) * 1995-02-02 1996-08-20 Data Stream:Kk リモコン送信装置の姿勢角度検出システム
JP3429590B2 (ja) * 1995-02-06 2003-07-22 オリンパス光学工業株式会社 カメラの測距装置
JP4805633B2 (ja) 2005-08-22 2011-11-02 任天堂株式会社 ゲーム用操作装置
JP4908523B2 (ja) * 2007-01-10 2012-04-04 株式会社タムラ製作所 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム
US8363894B2 (en) * 2008-12-12 2013-01-29 Silicon Laboratories Inc. Apparatus and method for implementing a touchless slider
US20100201808A1 (en) * 2009-02-09 2010-08-12 Microsoft Corporation Camera based motion sensing system
JP2015158444A (ja) * 2014-02-25 2015-09-03 アイシン・エィ・ダブリュ株式会社 車両姿勢判定システム、車両姿勢判定プログラム及び車両姿勢判定方法
KR102364084B1 (ko) * 2014-10-21 2022-02-17 엘지전자 주식회사 이동단말기 및 그 제어방법

Also Published As

Publication number Publication date
US20170128826A1 (en) 2017-05-11
US10376778B2 (en) 2019-08-13
JP2017090202A (ja) 2017-05-25

Similar Documents

Publication Publication Date Title
US20100201808A1 (en) Camera based motion sensing system
US9804667B2 (en) Electronic apparatus
JP2015526927A (ja) カメラ・パラメータのコンテキスト駆動型調整
JP2008269616A (ja) 画像表示装置のカーソル制御装置及び制御方法、ならびに画像システム
US10025975B2 (en) Information processing device, storage medium storing information processing program, information processing system, and information processing method
US20160073017A1 (en) Electronic apparatus
US9864905B2 (en) Information processing device, storage medium storing information processing program, information processing system, and information processing method
US20210149478A1 (en) Silhouette-based limb finder determination
JP2010205223A (ja) 仮想対象に対するジェスチャーに従う制御を行うシステム及び装置
TWI788607B (zh) 人機交互系統和人機交互方法
US20150049021A1 (en) Three-dimensional pointing using one camera and three aligned lights
TWI468997B (zh) 具有較大可操作範圍的指向系統及影像系統
US20160232404A1 (en) Information processing device, storage medium storing information processing program, information processing system, and information processing method
JP6654019B2 (ja) 情報処理システム情報処理装置、情報処理方法、情報処理プログラム、および、ハンドヘルド型情報処理装置
JP6666121B2 (ja) 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム
CN111656778B (zh) 图像采集装置、图像采集方法及采集芯片
US9824293B2 (en) Information processing device, storage medium storing information processing program, information processing system, and information processing method
JP2006338328A (ja) 操作システム、処理装置、指示装置、操作方法およびプログラム
US8333664B2 (en) Information processing apparatus, control method therefor, operation device, and information storage medium
US9354706B2 (en) Storage medium having stored therein information processing program, information processing apparatus, information processing system, and method of calculating designated position
JP6589216B2 (ja) 電子機器
KR20140148288A (ko) 3차원 인터액티브 시스템 및 그 3차원 인터액티브 시스템의 인터액티브 감지 방법
CN213754772U (zh) 图像采集装置
JP2012113494A (ja) 指示位置検出装置および指示位置検出方法
EP3813018A1 (en) Virtual object operating system and virtual object operating method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190808

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191220

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200220

R150 Certificate of patent or registration of utility model

Ref document number: 6666121

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250