[go: up one dir, main page]

JP7031578B2 - 情報処理装置、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP7031578B2
JP7031578B2 JP2018516359A JP2018516359A JP7031578B2 JP 7031578 B2 JP7031578 B2 JP 7031578B2 JP 2018516359 A JP2018516359 A JP 2018516359A JP 2018516359 A JP2018516359 A JP 2018516359A JP 7031578 B2 JP7031578 B2 JP 7031578B2
Authority
JP
Japan
Prior art keywords
user
area
information processing
unit
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018516359A
Other languages
English (en)
Other versions
JPWO2017195440A1 (ja
Inventor
淳己 大村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2017195440A1 publication Critical patent/JPWO2017195440A1/ja
Application granted granted Critical
Publication of JP7031578B2 publication Critical patent/JP7031578B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B15/00Systems controlled by a computer
    • G05B15/02Systems controlled by a computer electric
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/1815Semantic context, e.g. disambiguation of the recognition hypotheses based on word meaning
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/20Pc systems
    • G05B2219/26Pc applications
    • G05B2219/2642Domotique, domestic, home control, automation, smart house
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、情報処理装置、情報処理方法およびプログラムに関する。
近年、ユーザまたはユーザを取り巻く環境に応じて出力を行う情報処理装置が盛んに研究開発されている。以下の特許文献1では、ユーザの音声に応じて出力を行う音声対話システムにおいて、容易に設計を行うことができる技術が開示されている。
特開平10-111698号公報
ここで、仮に、ユーザの行動に応じて出力を行う場合、ユーザにとって適切な出力が行われない可能がある。例えば、ユーザがデスクで教科書を読んでいる場合と、リビングで雑誌を読んでいる場合において、情報処理装置は、どちらの場合も「読書」という同一の行動が行われていると認識し、「テレビの電源をオフにする」という同一の出力を行う可能性がある。ここで、リビングで雑誌を読んでいるユーザがテレビ鑑賞も行いたい場合には、「テレビの電源をオフにする」という出力は適切ではない。
そこで、本開示は、上記に鑑みてなされたものであり、本開示では、ユーザにとってより適切な出力を行うことが可能な、新規かつ改良された情報処理装置、情報処理方法およびプログラムを提案する。
本開示によれば、領域、行動および装置出力の制御内容が関連付けられた制御情報を記憶する記憶部と、ユーザの位置する領域、ユーザの行動および前記制御情報に基づいて出力を行う処理部と、を備える、情報処理装置が提供される。
また、本開示によれば、領域、行動および装置出力の制御内容が関連付けられた制御情報を記憶する機能と、ユーザの位置する領域、ユーザの行動および前記制御情報に基づいて出力を行う機能と、を含む、コンピュータに実現させるためのプログラムが提供される。
また、本開示によれば、領域、行動および装置出力の制御内容が関連付けられた制御情報を記憶することと、ユーザの位置する領域、ユーザの行動および前記制御情報に基づいて出力を行うこと、を含む、コンピュータにより実行される処理方法が提供される。
以上説明したように本開示によれば、ユーザにとってより適切な出力を行うことが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係る情報システムの概要を示す図である。 制御情報の一例を示す図である。 ユーザの位置する領域の特定に用いられる領域の概要を示す図である。 本開示の一実施形態に係る情報処理装置の構成を示す図である。 本開示の一実施形態に係る管理サーバの構成を示す図である。 本開示の一実施形態に係る管理装置の構成を示す図である。 制御情報のバリエーションの一例を示す図である。 制御情報のバリエーションの一例を示す図である。 モードの設定例を示す図である。 制御情報のバリエーションの一例を示す図である。 制御情報に基づく情報処理装置の動作を示すフローチャートである。 コンパニオンアプリを用いた領域の設定例を示す図である。 コンパニオンアプリを用いた領域の設定例を示す図である。 コンパニオンアプリを用いた領域の設定例を示す図である。 コンパニオンアプリを用いた履歴の表示例を示す図である。 履歴の活用例を示す図である。 本開示の一実施形態に係る情報処理装置のハードウェア構成を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.はじめに
2.本開示の一実施形態
2-1.情報処理システムの概要
2-2.各装置の構成
3.制御情報の詳細
3-1.制御情報の設定内容
3-2.制御情報の設定方法
3-3.制御情報に基づく情報処理装置の動作
3-4.領域の設定
4.履歴の利用
5.情報処理装置のハードウェア構成
<1.はじめに>
はじめに、近年、画像解析技術、人工知能(AI:Artificial Intelligence)技術またはセンシングデバイスの発展に伴い、自律的に人やデバイスに対して出力を行う情報処理装置が発展している。例えば、センサによってユーザまたはユーザを取り巻く状況を検知し出力を行うソフトウェアであるエージェントについて、従来は、事前に登録されたプログラムや設定に基づいて出力を行うエージェントが中心であった。一方、近年は、人工知能技術が活用され、エージェントが機械学習を行い、事前に登録されたプログラムや設定を自律的に変更することで、あたかも人間のように動作したり、合理的に動作したりするエージェントの研究開発が盛んになっている。
一例として以下のようなエージェントが研究開発されている。
・バイヤーエージェント:ユーザの購入履歴に基づいて、ユーザが好むと思われる商品
をインターネットなどから検索し、自発的にユーザに提示するエージェント。
・パーソナルエージェント:ユーザ個人のために特化して動作するエージェン
ト。ユーザに関連する情報をニュースやメールなどから検索し、自発的にユーザに提
示するエージェント。
・監視エージェント:機器、在庫などの変化を監視し、機器の不良または在庫の枯渇な
どの報告を行うエージェント。
・データマイニングエージェント:多量のデータを解析し、有用な法則や情報を出力す
るエージェント。
本開示の一実施形態として説明する情報処理装置は、エージェントとして機能する装置である。
<2.本開示の一実施形態>
[2-1.情報処理システムの概要]
続いて、図1を参照しながら、本開示の一実施形態に係る情報処理システムの概要について説明をする。図1は、本開示の一実施形態に係る情報システムの概要を示す図である。当該情報処理システムは、情報処理装置100、管理サーバ200、管理装置300および、情報処理装置100によって操作される外部機器を備える。また、管理サーバ200は、クラウド環境上に存在し、情報処理装置100と管理サーバ200はネットワーク410によって接続され、管理サーバ200と管理装置300はネットワーク420によって接続される。外部機器は、情報処理装置100によって操作されるためのインタフェースが備えられている機器であれば任意である。具体的には、外部機器は、テレビ、スピーカまたは照明などであってもよく、外部機器は、情報処理装置100と一体型になっていてもよい。
情報処理装置100は、ユーザまたはユーザを取り巻く環境の検出結果に応じて出力を行う装置である。具体的には、情報処理装置100は、ユーザまたはユーザを取り巻く状況を検出し、出力の条件および出力の内容が含まれる制御情報に基づいて出力を行う。出力は、情報処理装置100による処理だけでなく、外部機器に処理をさせるために情報処理装置100が当該処理に関する情報を外部機器へ送信することも含む。また、情報処理装置100は、管理サーバ200とネットワーク410を介して接続されることによって、制御情報、履歴、ユーザ情報などを管理サーバ200へ送信する。送信された各種情報は、管理サーバ200による情報処理装置100の管理や機械学習による解析アルゴリズムの改良のために使用される。また、情報処理装置100は、ユーザに関する通知を管理サーバ200へ送信する。送信された通知は、管理サーバ200によって管理装置300へ送信されることによってユーザへ提供される。
情報処理装置100は、ユーザまたはユーザを取り巻く状況を検出するために、様々な検出機能を有している。例えば、情報処理装置100は、マイクのような収音機能、カメラのような撮像機能などを有している。また、これらの検出機能を有する外部機器が、検出した情報を情報処理装置100へ提供し、情報処理装置100が提供された情報に基づいて出力を行っても良い。
図1に示す情報処理装置100の形状は円柱形であるが、情報処理装置100の形状は任意である。また、情報処理装置100の設置場所は任意である。例えば、情報処理装置100は、住宅、オフィス、商業施設、公共施設、交通機関などに設置され得る。本開示の一実施形態としては、情報処理装置100が住宅の中に設置される例について説明する。また、情報処理装置100は据え置き型の装置でもよく、自走可能なロボットのような装置でもよい。
ここで、図2を参照して、情報処理装置100が使用する制御情報の概要について説明する。図2は制御情報の一例を示す図である。図2に示すように、制御情報は、「領域」、「行動」および「装置出力の制御内容」が対応付けられた情報である。領域はユーザの位置に関する情報であり、行動はユーザの行動に関する情報である。情報処理装置100は、ユーザが当該制御情報に対応する領域に位置し、当該制御情報に対応する行動をとっていることを検出すると、当該領域および行動に対応付けられた出力を行う。例えば、図2の制御情報10の場合、情報処理装置100は、ユーザがソファーでテレビ鑑賞を行っていることを検出すると、ユーザへの通知機能をオフにする。制御情報の詳細については後述する。
続いて、図3を参照して、ユーザの位置する領域の概要について説明する。図3は、ユーザの位置する領域の特定に用いられる領域の概要を示す図である。本開示の一実施形態においては、情報処理装置100は住宅の部屋の中に設置されているとする。そして、本開示の一実施形態における領域は、情報処理装置100が設置される敷地内(住宅の敷地内)の領域であってもよい。
図3に示された例では、部屋内の複数の領域は、備え付け設備(キッチン31)、家具(ソファー32、ダイニングテーブル33)、家電製品(テレビ34、照明35、スピーカ36)、ゾーン(リラックスゾーン37、作業ゾーン38)を含む。ゾーンとは、ユーザによって定義された部屋の構成部分の一種である。図3におけるAGENT30は情報処理装置100を指す。
ここで仮に、ユーザがキッチン31にいる場合は、ユーザの位置する領域は「キッチン」となり、ユーザがソファー32に座っている場合は、ユーザの位置する領域は「ソファー」となり、ユーザが作業ゾーン38にいる場合は、ユーザの位置する領域は「作業ゾーン」となる。また、ユーザがテレビ34の視聴領域にいる場合は、ユーザの位置する領域は「テレビの視聴領域」となる。このように、備え付け設備、家具、家電製品については、ユーザがそれらを使用する態様に応じて、所定の領域が設定され得る。具体的には、照明35によって照らされる領域や、スピーカ36が向けられる領域などである。
管理サーバ200は、情報処理装置100を管理する装置である。具体的には、管理サーバ200は、情報処理装置100とネットワーク410を介して接続されることによって、情報処理装置100から送信される制御情報、履歴、ユーザ情報などを管理する。管理サーバ200が管理する情報処理装置100の台数は任意である。また、管理サーバ200は、所有者が異なる情報処理装置100を管理してもよい。また、管理サーバ200は、これらの情報に基づいて機械学習を行うことで、制御情報の変更や、解析アルゴリズムの改良を行う。
管理サーバ200は、管理装置300に対して各種情報を提供する。具体的には、管理サーバ200は、ネットワーク420を介して管理装置300と接続されることによって、管理装置300に対して制御情報、履歴、ユーザ情報または通知を提供する。これにより、ユーザは管理装置300を用いて情報処理装置100を管理すること、または通知を取得することができる。
管理サーバ200が設置されるクラウド環境は、パブリッククラウドでもよく、プライベートクラウドでもよい。また、管理サーバ200はクラウド環境に設置されなくてもよい(つまり仮想化されなくてもよい)。
管理装置300は、ユーザが情報処理装置100を管理するための装置である。具体的には、管理装置300は、管理サーバ200とネットワーク420を介して接続されることによって、制御情報、履歴、ユーザ情報など管理する。例えば、ユーザは、管理装置300を用いて、制御情報を変更したり、履歴の正誤を入力したり、履歴の修正を行ったり、ユーザ情報を編集したりすることができる。これらの情報は、管理サーバ200および情報処理装置100へ提供される。また、管理装置300は、管理サーバ200を介して通知を受信することができる。
図示していないが、管理装置300は、情報処理装置100とネットワークで接続されていてもよい。これにより、管理装置300は、管理サーバ200を介さず情報処理装置100と通信を行うことができるため、ネットワーク障害や遅延などの影響を軽減することができる。
図1に管理装置300として示されている装置は、PC(Personal Computer)、タブレット型デバイスおよびスマートフォンであるが、管理装置300は任意の装置である。例えば、管理装置300は、通信機能付き腕時計、PDA(Personal Digital Assistant)、通信機能付き携帯型ゲーム機、通信機能付き携帯型映像プレーヤーまたは通信機能付き音声プレーヤーなどであり得る。
ネットワーク410、420は、情報処理装置100、管理サーバ200および管理装置300から送信される情報のための有線、または無線の伝送路である。例えば、ネットワーク410、420は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク410、420は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網や、Bluetooth(登録商標)などの近距離無線通信網を含んでもよい。
[2-2.各装置の構成]
以上では、情報処理システムの概要について説明した。続いて、図4を参照して、情報処理システムを構成する各装置の構成について説明する。
まず、情報処理装置100の構成について説明する。情報処理装置100は、収音部101、撮像部102、解析部103、処理部106、発音部107、表示部108、発光部109、通信部110、管理部111、入力部116および記憶部117を備える。解析部103は、音声解析部104および撮像解析部105を備える。管理部111は、制御情報管理部112、ユーザ管理部113、領域管理部114および履歴管理部115を備える。
収音部101は、情報処理装置100の周辺の音を収音し、音声信号として音声解析部104へ提供する。
撮像部102は、情報処理装置100の周囲を撮像し、生成した撮像画像を撮像解析部105へ提供する。
音声解析部104は、収音部101から提供された音声信号からユーザの音声を認識し、文字列への変換を行い、発話テキストを取得する。そして当該発話テキストに対して自然言語処理等を行うことで意味解析を行う。意味解析の結果は、処理部106へ提供される。また、音声解析部104は、認識した音声の特徴に基づいて声を出しているユーザを識別したり、音声の発生源、すなわち発話者の方向を推定したりすることも可能である。
撮像解析部105は、撮像部102から提供された撮像画像を解析することで、ユーザ、領域(備え付け設備、家具、家電製品またはゾーン)、ユーザの位置する領域、ユーザの行動を特定する。これらの特定方法は任意であり、一例を以下へ記載する。
ユーザの特定方法については、撮像解析部105は、撮像画像と予め登録されているユーザの顔画像とのパターンマッチングにより類似度を算出し、この類似度に基づいてユーザを特定してよい。この場合、撮像解析部105は、撮像画像に対する登録顔画像の相対的な位置を変えつつ、撮像画像と登録顔画像の間の正規化相互相関値を算出し、その正規化相互相関値の最大値を、撮像画像とその登録顔画像との類似度としてもよい。
ユーザの位置する領域の特定方法については、撮像解析部105は、ユーザの特定方法と同様に領域を特定してもよい。具体的には、撮像解析部105は、撮像画像と予め登録されている物体画像とのパターンマッチングにより類似度を算出し、この類似度に基づいて物体を特定してよい。この場合、撮像解析部105は、撮像画像に対する登録物体画像の相対的な位置を変えつつ、撮像画像と登録物体画像の間の正規化相互相関値を算出し、その正規化相互相関値の最大値を、撮像画像とその登録物体画像との類似度としてもよい。
そして、撮像解析部105は、上記で特定したユーザと物体の相対的な位置関係に基づいてユーザの位置する領域を特定する。例えば、撮像解析部105は、物体をソファーと特定し、ユーザがソファーの上に乗っている場合には、撮像解析部105は、ユーザの位置する領域はソファーであると特定する。
また、撮像解析部105は、物体がテレビなどの別途領域の算出が必要な物体であると特定した場合、領域の算出を行う。例えば、撮像解析部105は、テレビの向き、テレビの設置位置などからテレビの視聴領域を算出する。その後、特定したユーザが算出されたテレビの視聴領域に含まれる場合には、撮像解析部105は、ユーザの位置する領域はテレビの視聴領域であると特定する。
ユーザの行動の特定方法については、撮像解析部105は、ユーザの特定方法と同様にユーザの行動を特定してもよい。具体的には、撮像解析部105は、撮像画像と予め登録されている行動画像とのパターンマッチングにより類似度を算出し、この類似度に基づいて物体を特定してよい。ここで、行動画像とは、行動を行っているユーザを時系列に撮像した複数の撮像画像を指す。この場合、撮像解析部105は、撮像画像におけるユーザを構成するパーツの時系列的な変化と、行動画像におけるユーザを構成するパーツの時系列的な変化とのパターンマッチングを行う。そして、撮像解析部105は、特定したユーザの行動情報を処理部106へ提供する。
処理部106は、解析部103からの入力および制御情報に基づいて出力を行う。具体的には、処理部106は、制御情報において、撮像解析部105から提供されるユーザの位置する領域、ユーザの行動に対応する出力がある場合には、該当の出力を行うように各構成を制御する。処理部106は、発音部107、表示部108、発光部109を制御することで出力を行ってもよいし、通信部110を介して外部機器に対して出力に関する情報を提供することで、外部機器によって出力が行われてもよい。
発音部107は、処理部106に制御されることによって、音声信号を音声に変換して出力する。
表示部108は、処理部106に制御されることによって各種画像を表示する。例えば、表示部108は、ユーザが情報処理装置100をGUI(Graphical User Interface)で操作するための操作画像を表示したり、画像や映像などを表示したりすることができる。表示する方法は、ディスプレイへ表示する方法でもよく、壁などに投影して表示する方法でもよい。
発光部109は、発光素子により実現され、処理部106に制御されることによって全灯、一部点灯、点滅、または点灯位置の変更などを行うことができる。例えば発光部109は、処理部106に制御されることによって解析部103によって認識されたユーザの方向を一部点灯することで、ユーザの方向に視線を向けているように見せることができる。
通信部110は、管理サーバ200および外部機器と通信を行う。例えば、通信部110は、ユーザによって制御情報、履歴、ユーザ情報の編集が行われた場合、編集内容を管理サーバ200へ送信する。また、通信部110は、任意のタイミングまたは一定のタイミングで管理サーバ200と各種情報を送受信することによって、管理サーバ200と同期をとる。
また、通信部110は、処理部106から提供される出力に関する情報を外部機器へ送信することで、外部機器が出力を行えるようにする。さらに、通信部110は、外部機器が検出した情報を受信した場合、当該情報を処理部106へ提供する。これにより、外部機器が備えている検出機能に基づいて情報処理装置100が出力を行うことが可能となる。
制御情報管理部112は、制御情報を管理する。具体的には、制御情報管理部112は、ユーザが入力部116を介して制御情報の編集(新規追加、変更、削除)を行う場合には、編集内容に基づいて制御情報の編集を行う設定部としても機能する。また、制御情報管理部112は、通信部110を介して管理サーバ200と同期を行う場合には、制御情報の同期を行う。そして、制御情報管理部112は、編集または同期を行った制御情報を記憶部117へ記憶させる。
ユーザ管理部113は、当該情報処理システムを使用するユーザの情報を管理する。例えば、ユーザ管理部113は、ユーザが入力部116を介してユーザ情報の編集を行う場合には、編集内容に基づいてユーザ情報の編集を行う。また、ユーザ管理部113は、通信部110を介して管理サーバ200と同期を行う場合には、ユーザ情報の同期を行う。そして、ユーザ管理部113は、編集または同期を行ったユーザ情報を記憶部117へ記憶させる。
領域管理部114は領域を管理する。例えば、領域管理部114は、ユーザが入力部116を介して領域の編集を行う場合には、編集内容に基づいて領域の編集を行う。また、領域管理部114は、通信部110を介して管理サーバ200と同期を行う場合には、領域の同期を行う。そして、領域管理部114は、編集または同期を行った領域を記憶部117へ記憶させる。また、領域管理部114は、撮像部102による撮像結果に基づいて領域の編集が行われる場合には、領域管理部114は、撮像画像の解析結果に関する情報を受信し、領域を編集する。そして、領域管理部114は、編集後の領域を記憶部117へ記憶させる。
履歴管理部115は、処理部106の出力に関する履歴を管理する。例えば、履歴管理部115は、出力が行われた日時、ユーザが位置する領域、ユーザの行動、出力の内容、などの情報を履歴として記憶部117に記憶させる。
また、履歴管理部115は、履歴の編集を行う履歴編集部としても機能する。具体的には、ユーザが入力部116を介して、履歴の正誤、履歴の修正を入力した場合、履歴管理部115は、当該入力に基づいて履歴を編集する。また、通信部110を介して管理サーバ200と同期を行う場合には、履歴の同期を行う。そして、履歴管理部115は、編集または同期を行った履歴を記憶部117へ記憶させる。
入力部116は、ユーザからの各種入力を受ける。例えば、入力部116は、ユーザによって入力される制御情報、領域、履歴、ユーザ情報などに対する編集内容を受け、当該情報を管理部111へ提供する。また、入力部116は、制御情報の設定のためのユーザによる入力を取得する取得部としても機能する。
記憶部117は、上述の各種情報を記憶する。具体的には、記憶部117は、制御情報、ユーザ情報、領域、履歴などを記憶する。
次いで、管理サーバ200の構成について説明する。管理サーバ200は、通信部201、管理部202、処理部208および記憶部209を備える。管理部202は、制御情報管理部203、ユーザ管理部204、領域管理部205、履歴管理部206および解析アルゴリズム管理部207を備える。
通信部201は、情報処理装置100および管理装置300と通信を行う。例えば、通信部201は、情報処理装置100または管理装置300から制御情報、領域、履歴、ユーザ情報などが編集された場合に、その編集内容の情報を受信し管理部202へ提供する。これにより、管理サーバ200の各種情報が編集される。
また、通信部201は、任意のタイミングまたは一定のタイミングで情報処理装置100および管理装置300と、制御情報、領域、履歴、ユーザ情報を送受信することによって、情報処理装置100および管理装置300と同期をとる。
また、通信部201は、処理部208から提供された通知に関する情報に基づいて管理装置300へ通知を送信する。
制御情報管理部203、ユーザ管理部204、領域管理部205および履歴管理部206は、それぞれ制御情報、ユーザ情報、領域、履歴を管理する。通信部201が各情報の編集内容の情報を受信した場合には、編集内容に基づいて各情報の編集を行い、編集後の情報を記憶部209へ記憶させる。
解析アルゴリズム管理部207は、解析用のアルゴリズムを管理する。具体的には、解析アルゴリズム管理部207は、情報処理装置100の音声解析部104が使用する音声解析用のアルゴリズム、撮像解析部105が使用する画像解析用のアルゴリズムを管理する。解析アルゴリズム管理部207は、通信部201が情報処理装置100または管理装置300から履歴の正誤、履歴の修正などのフィードバックを受信した場合、フィードバックの内容に基づいて解析用のアルゴリズムを改良し、改良後のアルゴリズムを情報処理装置100へ提供する。
処理部208は、管理サーバ200における各処理を行う。例えば、処理部208は、通信部201が情報処理装置100からユーザの通知を受信した場合、この通知を記憶部209へ記憶させるとともに、通信部201を介して管理装置300へ送信させる。これらの処理は一例であり、処理部208は任意の処理を行い得る。
記憶部209は、上述の各種情報を記憶する。具体的には、記憶部209は、制御情報、ユーザ情報、領域、履歴、解析アルゴリズム、通知などを記憶する。
次いで、管理装置300について説明する。管理装置300は、加速度検出部301、位置検出部302、解析部303、処理部304、通信部305、表示部306、入力部307、記憶部308を備える。
加速度検出部301は、管理装置300の加速度を検出し、その情報を解析部303へ提供する。
位置検出部302は、管理装置300の位置を検出する。具体的には、加速度検出部301は、GPS(Global Positioning System)信号を受信し、GPS信号を解析部303へ提供する。
解析部303は、加速度検出部301および位置検出部302から提供された各種情報を解析する。具体的には、解析部303は、加速度検出部301から提供された管理装置300の加速度に関する情報を解析し、ユーザの行動を特定する。例えば、解析部303は、ユーザが停止していること、歩行していること、走行していること、各種交通機関(車、電車、バス、飛行機など)に乗っていることを特定する。また、解析部303は、位置検出部302から提供されたGPS信号を解析し、管理装置300の絶対位置及び絶対方位を特定する。そして、解析部303は、これらの解析結果に関する情報を処理部304へ提供する。
処理部304は、管理装置300における各処理を行う。例えば、処理部304は、通信部305を制御することによって、解析部303から提供された解析結果に関する情報を管理サーバ200へ送信させる。これにより、情報処理装置100が解析部303から提供された解析結果に基づいて出力を行うことができる。
また、処理部304は、ユーザによって入力部307から入力される制御情報、ユーザ情報、領域、履歴に対する編集内容を通信部305へ提供して管理サーバ200へ送信させたり、記憶部308へ記憶させたりする。これらの処理は一例であり、処理部304は任意の処理を行い得る。
また、処理部304は、表示部306を制御し、各種情報に基づいて決定した表示内容を表示部306に表示させる。
通信部305は、管理サーバ200と通信を行う。例えば、通信部305は、ユーザによって制御情報、履歴、ユーザ情報の編集が行われた場合、編集内容を管理サーバ200へ送信する。また、通信部305は、任意のタイミングまたは一定のタイミングで管理サーバ200と制御情報、履歴、ユーザ情報を送受信することによって、管理サーバ200と同期をとる。
表示部306は、処理部304に制御されることによって、ユーザが管理装置300をGUIで操作するための操作画像を表示する。
入力部307は、ユーザからの各種入力を受ける。例えば、入力部307は、ユーザによって制御情報、ユーザ情報、領域、履歴に対する編集内容を入力され、当該編集内容を処理部304へ提供する。
記憶部308は、上述の各種情報を記憶する。具体的には、記憶部308は、制御情報、ユーザ情報、領域、履歴などを記憶する。
<3.制御情報の詳細>
[3-1.制御情報の設定内容]
以上では、各装置の構成について説明した。続いて、図2および図7~10を用いて制御情報の設定内容について説明する。
上述したとおり、制御情報は領域、行動および出力を対応付けた情報である。そして、情報処理装置100は、ユーザが当該制御情報に対応する領域に位置し、当該制御情報に対応する行動をとっていることを検出すると、当該領域および行動に対応付けられた出力を行う。
制御情報に領域と行動の条件が設定される本開示の一実施形態は、制御情報に行動の条件のみが設定される場合と比較して、出力が行われる条件をより詳細に設定することができる。したがって、ユーザは、情報処理装置100に、ユーザにとってより適切な出力をさせることができる。例えば、ユーザがデスクで教科書を読んでいる場合と、リビングで雑誌を読んでいる場合とで、情報処理装置100の出力を変えることができる。
また、制御情報は、図2の制御情報10のように、領域、行動、出力が全て設定されていてもよいし、制御情報11のように領域と行動のみが設定されていてもよい。領域と行動のみが設定されている場合は、情報処理装置100は、ユーザが当該制御情報に対応する領域に位置し、当該制御情報に対応する行動をとっていることを検出しても出力を行わない。
また、制御情報における領域は、制御情報12のように「全ての領域」が設定されてもよい。この場合、情報処理装置100は、ユーザの位置する領域によらず、制御情報に対応するユーザの行動が検出されると、制御情報に対応する出力を行う。
また、制御情報における行動は、制御情報13のように「全ての行動」が設定されてもよい。この場合、情報処理装置100は、ユーザの行動によらず、ユーザが制御情報に対応する領域に位置することが検出されると、制御情報に対応する出力を行う。
また、ユーザは、制御情報を編集することができる。具体的には、ユーザは、情報処理装置100の入力部116または、管理装置300の入力部307から編集内容を入力することで、制御情報を編集することができる。なお、制御情報は全てユーザによって新規追加されてもよいし、予め設定されている制御情報がユーザによって編集されてもよい。
ユーザが制御情報を変更できる本開示の一実施形態は、例えば、制御情報が機械学習によってのみ変更される場合と比較して、出力が行われる条件をよりユーザの希望に合った条件にすることができる。したがって、ユーザは、情報処理装置100に、ユーザにとってより適切な出力をさせることができる。
また、ユーザは、制御情報14のように領域をカスタムすることができる。例えば、ユーザは、新たに設置した家具や家電製品を制御情報における領域として新規追加することができる。また、ユーザは、部屋の所定の領域をゾーンとして新規追加することができる。また、ユーザは、改築などのタイミングで備え付け設備を新規追加することができる。
また、ユーザは、制御情報14のように行動をカスタムすることができる。例えば、ユーザは、「発話」という行動に対して、発話する内容を指定することができる(例:発話「疲れた」、など)。
また、ユーザは、制御情報14のように出力をカスタムすることができる。例えば、ユーザは、「BGM再生」という出力に対して、BGMのジャンル、アーティスト、再生時間、再生するタイミングまたは音量などを指定することができる。
制御情報の領域、行動、出力がカスタムされることによって、ユーザは所望の制御情報を設定することができる。したがって、ユーザは、情報処理装置100に、ユーザにとってより適切な出力をさせることができる。
続いて、図7、8を参照して、制御情報のバリエーションについて説明する。図7、8は、制御情報のバリエーションの一例を示す図である。
まず、図7に示す制御情報は、領域、行動、出力に「ユーザ」が加えられた制御情報である。この場合、情報処理装置100は、制御情報に対応する領域、行動およびユーザの条件が満たされた場合に出力を行う。
制御情報のユーザの指定方法は様々であり得る。例えば、図7の制御情報15のように、制御情報のユーザには特定の個人(ママ、パパ、氏名など)が設定されてもよい。これにより、情報処理装置100を特定の個人に適用させることができる。
また、制御情報16のように、制御情報のユーザにはグループが設定されてもよい。この場合、グループはユーザによって事前に作成され、1人または複数名のユーザがグループメンバーとして登録される。これにより、制御情報の管理を容易にすることができる。例えば、グループメンバーの変更があった場合、制御情報を変更する必要がない(グループメンバーを変更することで対応できる)。
また、制御情報17のように、制御情報のユーザにはグループ(または特定の個人)と不明者が設定されてもよい。この場合、情報処理装置100に登録されていないユーザに対しても、情報処理装置100は適切な出力を行うことができる。例えば、来客時に、家族のプライベートな情報(企業であれば社外秘の情報)が情報処理装置100によって出力されないようにすることなどができる。
また、制御情報18のように、制御情報のユーザには不明者のみが設定されてもよい。この場合、情報処理装置100は警備用の装置としても機能することができる。例えば、不明者の身元を確認し、不明者が不審な行動をとった場合には、ユーザまたは警備会社へ通知することなどができる。
続いて、図8に示す制御情報は、領域、行動、出力に「時間」が加えられた制御情報である。この場合、情報処理装置100は、制御情報に対応する領域、行動および時間の条件が満たされた場合に出力を行う。
制御情報の時間の指定方法は様々であり得る。例えば、図8に示すように、制御情報の時間には、制御情報19の「AM6:00 ~ AM8:00」などの開始時刻と終了時刻が指定されてもよく、制御情報20の「夜間」などの時間を表す概念が指定されてもよい。また、制御情報の時間には、特定の日付または期間を表す概念が指定されてもよい。例えば、制御情報の時間には、制御情報23の「平日朝」、制御情報24の「毎週月・水・金の朝」、制御情報25の「祝日の日中」、制御情報26の「次の三連休」、制御情報28の「毎月30日」、制御情報29の「夏季」などが指定されてもよい。また、制御情報の時間には、具体的な日付と時刻が指定されてもよい。例えば、制御情報の時間には、制御情報27の「2016/05/10 AM8:00 ~ 2016/05/11 PM10:00」などが指定されてもよい。上述の「夜間」、「朝」、「日中」、「夏季」などが指す開始時刻と終了時刻、開始期間と終了期間は別途設定される。また、図示されていないが、制御情報の時間には、ある時刻(PM1:00など)が指定されてもよい。
制御情報に時間の要素が加えられることにより、情報処理装置100は時間(または)時刻に応じた出力をすることができる。例えば、図8に示すように、情報処理装置100は、ベッドにいるユーザに対して、AM6:00~AM8:00には、その日の予定を連絡し、夜間には目覚まし時計の設定時間を確認することができる。
また、図7の制御情報21および図8の制御情報22のように、制御情報の出力にはモードが設定され得る。モードとは、情報処理装置100が実行してはいけない出力内容、または情報処理装置100が実行してもよい出力内容が定義された情報である。ここで、図9を参照してモードの設定内容について説明する。図9は、モードの設定例を示す図である。
図9には、モードと各モードにおいて情報処理装置100が実行してはいけない出力内容が記載されている。例えば、夜間モードにおいては、情報処理装置100はBGM再生を実行してはいけない。図9と同様に、情報処理装置100が実行してもよい出力内容が定義されてもよい。
制御情報の出力にモードが設定されることによって、情報処理装置100はシーンに応じた出力をすることができる。例えば、制御情報の出力に、図9に示すお客様モードが設定されることによって、情報処理装置100に家族写真のスライドショーを上映させないようにすることができる。
なお、情報処理装置100の様々な検出機能の検出結果に応じて、情報処理装置100は自律的にモードを設定してもよい。例えば、撮像解析部105の解析によって、不明者が検出された場合、情報処理装置100はお客様モードを設定してもよい。
また、制御情報の領域は、ある領域から他の領域への移動を表す情報であってもよい。具体的には、図10に示すように、ユーザがある領域に入った場合(図10における「部屋IN」「キッチンIN」「帰宅」)または、ユーザがある領域から出た場合(図10における「部屋OUT」「外出」)における情報処理装置100の出力内容を制御情報に設定することができる。また、図10に示すように、ユーザがある領域から別のある領域へ移動した場合(図10における「ダイニングテーブル」から「リラックスゾーン」への移動)における情報処理装置100の出力内容を制御情報に設定することもできる。
これにより、情報処理装置100は、ユーザの動線に応じた出力をすることができる。具体的には、情報処理装置100はユーザがその領域に位置することと、ユーザがその領域に入る動作とを判別することができる。
また、図示していないが、制御情報の領域は、情報処理装置100が設置される敷地内の領域でなくてもよい。例えば、制御情報の領域は、情報処理装置100からの距離または特定の場所(会社、学校など)でもよい。これにより、情報処理装置100が管理装置300の絶対位置に関する情報を取得することで、情報処理装置100は管理装置300に対する出力を制御することができる。例えば、制御情報の領域に「会社」、出力に「通知オフ」が設定されているとする。この場合、情報処理装置100は、管理装置300の絶対位置に基づいて管理装置300(を保持するユーザ)が会社に存在すると特定される場合は、管理装置300への通知を行わない。
また、図示していないが、制御情報の行動は、管理装置300の解析によって得られるユーザの行動であってもよい。具体的には、制御情報の行動は、管理装置300の加速度検出部301から得られるユーザの行動(ユーザが停止していること、歩行していること、走行していること、各種交通機関に乗っていることなど)でもよい。これにより、例えば、制御情報の行動に「電車による移動」、出力に「通知オフ」が設定されているとする。この場合、情報処理装置100は、管理装置300によって取得される情報に基づいて管理装置300(を保持するユーザ)が電車移動をしていると特定される場合は、管理装置300への通知を行わない。
[3-2.制御情報の設定方法]
以上では、制御情報の設定内容について説明した。続いて、制御情報の設定方法について説明する。制御情報の設定は、様々な方法によって実現され得る。以下で説明する方法は、その一例である。
まず、コンパニオンアプリによる設定方法について説明する。ユーザは、情報処理装置100または管理装置300にインストールされるアプリケーション(以降、「コンパニオンアプリ」と呼称する)を用いて、領域を設定することができる。
コンパニオンアプリの画面イメージは、図2または図7~8であり得る。コンパニオンアプリを用いた制御情報の設定方法は、任意である。例えば、タッチパネルへのタッチ操作で配置する方法などが挙げられる。
次いで、ヒアリングによる設定方法について説明する。制御情報は、情報処理装置100からのヒアリングによって設定されることが可能である。例えば、情報処理装置100は「あなたは、ソファーで読書をしている時、何をしたいですか?」という質問を行う。その質問に対して、ユーザ「音楽が聴きたい」という回答を行うと、設定内容が領域「ソファー」、行動「読書」、出力「BGM再生」である制御情報が追加される。情報処理装置100から行われる質問の内容は様々であり得る。これにより、ITリテラシーの低いユーザも、制御情報の編集を容易に行うことができる。
また、情報処理装置100からユーザに対して主体的に提案型の質問を行ってもよい。例えば、撮像解析部105による解析によって、ユーザが勉強しており、かつテレビの電源がオンになっていることが判明した場合、情報処理装置100は「あなたが勉強している時、テレビを消しましょうか?」という質問を行う。その質問に対して、ユーザ「はい」という回答を行うと、設定内容が領域「全ての領域(または作業ゾーン、デスクなど)」、行動「勉強」、出力「テレビオフ」である制御情報が追加される。情報処理装置100から提案型の質問が行われることによって、ユーザは当該設定を行うか否かの判断を行い易い。また、ユーザが気づかない観点の質問が行われることによって、ユーザの潜在的なニーズを制御情報へ反映させることが可能である。
[3-3.制御情報に基づく情報処理装置の動作]
以上では、制御情報の設定方法について説明した。続いて、図11を参照して、制御情報に基づく情報処理装置100の動作について説明する。図11は、制御情報に基づく情報処理装置100の動作を示すフローチャートである。
まず、情報処理装置100の処理部106は、記憶部117から制御情報を取得し、制御情報の読み込みを行う(ステップS1000)。その後、収音部101または撮像部102による検出結果を解析部103が解析し(ステップS1004)、制御情報の条件に対応する解析結果が得られた場合(ステップS1008/Yes)、処理部106は出力を行う(ステップS1012)。制御情報の条件に対応する解析結果が得られない場合(ステップS1008/No)、ステップS1000の処理が行われる(ステップS1016)。
ここで、図11に示すフローチャートは適宜変更され得る。例えば、制御情報の条件に対応する解析結果が得られない場合(ステップS1008/No)、ステップS1000へ遷移するのではなく、ステップS1004へ遷移してもよい。つまり、処理部106は処理の度に制御情報の読み込みを行わなくてもよい。これにより、処理部106による制御情報の読み込みの負荷を軽減することができる。
また、外部機器がステップS1004における検出処理と解析処理を行い、情報処理装置100は、その解析結果に基づいてステップS1008以降の処理を行っても良い。これにより、情報処理装置100の撮像部102や収音部101が検出できない範囲、例えば、別室などの環境の検出結果に基づいた出力を行うことができる。
[3-4.領域の設定]
以上では、制御情報に基づく情報処理装置100の動作について説明した。続いて、領域の設定方法について説明する。領域の設定は、様々な方法によって実現され得る。以下で説明する方法は、その一例である。
まず、コンパニオンアプリによる設定について説明する。ユーザは、情報処理装置100または管理装置300にインストールされるコンパニオンアプリを用いて、領域を設定することができる。領域を設定する際のコンパニオンアプリの画面遷移について、図12A~Cを参照して説明する。図12A~Cは、コンパニオンアプリを用いた領域の設定例を示す図である。なお、以降は、情報処理装置100が住宅の中で使用されることを想定して説明する。
まず、情報処理装置100の処理部106に制御されることで表示部108がコンパニオンアプリのメニュー画面を表示する(画面50)。次いで、ユーザが入力部116を介して部屋のアウトラインを設定する(画面51)。次いで、ユーザが入力部116を介して窓、キッチン、クローゼットなどの備え付け設備を配置する(画面52)。
次いで、ユーザが入力部116を介して、ソファー、テーブル、椅子などの家具を配置し(画面53)、情報処理装置100(図中には「AGENT」と記載されている)を配置し(画面54)、テレビ、照明、スピーカなどの家電製品を配置する(画面55)。そして、ユーザが入力部116を介して、リラックスゾーン、作業ゾーンなどのゾーンを設定することで(画面56)、領域の設定が完了する(画面57)。この画面遷移は適宜変更され得る。例えば、備え付け設備、家具、情報処理装置100、家電製品、ゾーンの設定順番は適宜入れ替えられ得る。これにより、ユーザは、直観的な操作で領域を設定することができる。
次いで、音声または撮像画像による設定について説明する。ユーザは、音声または撮像画像によって領域を設定することもできる。具体的には、収音部101によって取得された音声信号または、撮像部102によって撮像された撮像画像を解析部103が解析することによって、情報処理装置100は領域を設定することができる。
例えば、ユーザが情報処理装置100に対して「君から右にテレビがあるよ」と発話する。当該音声信号が音声解析部104によって意味解析され、意味解析の結果が処理部106に提供される。併せて、撮像画像が撮像解析部105によって解析され、解析結果が処理部106に提供される。処理部106は、音声信号の意味解析の結果と撮像画像の解析結果に基づいて、情報処理装置100の右に位置する物体がテレビであると認識する。そして、処理部106は、テレビの3次元的な位置や方向に基づいて、テレビの視聴領域を算出する。
また、ユーザが情報処理装置100に対して「ここにソファーがあるよ」と発話する。処理部106は、音声信号の意味解析の結果と撮像画像の解析結果に基づいて、ユーザが位置する物体がソファーであると認識する。
また、ユーザが情報処理装置100に対して「あっちにテーブルがあるよ」と発話しながら、テーブルの方向を指さす。処理部106は、音声信号の意味解析の結果と撮像画像の解析結果に基づいて、ユーザの腕または指の延長線上にある物体がテーブルであると認識する。これにより、ITリテラシーの低いユーザも、領域の追加などを容易に行うことができる。
次いで、撮像画像による設定について説明する。領域は、撮像画像が解析されることによって設定されてもよい。具体的には、撮像解析部105は、情報処理装置100の撮像部102によって取得された撮像画像を解析し、壁、備え付け設備、家具、家電製品の3次元座標を算出する。そして、撮像解析部105は、予め登録されている物体画像とのパターンマッチングにより類似度を算出し、この類似度に基づいて物体を特定し、当該物体に対して領域を設定する。なお、上述の方法により物体の特定ができない場合は、ユーザによって当該物体が何であるかを示す情報が付加されてもよい。
これにより、例えば、家具または家電製品などが新たに設置されたり、配置換えが行われたりした場合に、情報処理装置100が自律的に領域を設定することができるため、ユーザが領域を編集する負荷を削減することができる。
次いで、情報処理装置100からの問い合わせによる設定について説明する。情報処理装置100からユーザに対して能動的に問い合わせを行うことで、領域が設定されてもよい。例えば、撮像画像の解析結果に基づいてユーザが位置している領域が特定できない場合は、情報処理装置100は、ユーザに対して「あなたは、どこに座っていますか?」と質問する。その質問に対してユーザが「ソファーだよ」などと回答することによって、情報処理装置100は、ユーザが座っている物体はソファーであると認識し、ソファーを領域として追加することができる。
この場合、情報処理装置100は、ユーザに対して「あなたは、ソファーに座っていますか?」と質問してもよい。その質問に対してユーザが「そうだよ」などと回答することによって、上述のように情報処理装置100は、ソファーを領域として追加してもよい。
また、情報処理装置100は、ユーザに対して「ソファーの位置を教えて頂けないでしょうか」など、物体の位置を質問してもよい。その質問に対して、ユーザが発話しながら、ソファーの方向を指さすことなどによって、情報処理装置100は、ソファーを特定し領域として追加してもよい。
<4.履歴の利用>
以上では、領域の設定方法について説明した。続いて、図13を参照して、履歴の利用について説明する。図13は、コンパニオンアプリを用いた履歴の表示例を示す図である。
図13に示すように、ユーザは、コンパニオンアプリを用いて履歴に関する情報を確認することができる。具体的には、ユーザは、コンパニオンアプリを用いて、各時刻におけるユーザの位置する領域、ユーザの行動、情報処理装置100の出力内容、ユーザを特定する情報(ママ、パパ、氏名など)を確認することができる。コンパニオンアプリの操作方法の一例を以下へ記載する。
コンパニオンアプリにおいて、間取り表示ボタン57が押下されると、部屋のアウトライン、備え付け設備、家具、家電製品またはゾーンの概要図が表示される。そして、フィルタ機能60を用いて、所望の条件の履歴のみを抽出することができる。具体的には、ユーザは、時刻、ユーザの位置する領域、ユーザの行動、情報処理装置100の出力内容またはユーザを特定する情報を用いて、履歴に対してフィルタリングを行うことで、所望の条件の履歴を取得することができる。図13に示す例では、ユーザを「祐太」、ユーザの位置する領域を「ソファー」、ユーザの行動を「読書」としてフィルタリングを行っている。
また、期間指定ボタン61を用いることによって、抽出する履歴の期間を指定することができる。図13に示す例では、1日間の履歴を抽出している。さらに、スライダ62を用いることによって、表示する履歴の時間を指定することができる。
そして、この概要図中に履歴オブジェクト58が表示されることで、履歴が存在する領域が示される。ユーザによって、履歴オブジェクト58が選択されると、履歴の詳細が履歴詳細オブジェクト59として表示される。図13に示す例では、履歴詳細オブジェクト59によって、11:52にユーザがソファーで読書をし、情報処理装置100はBGMを推薦する出力を行ったことが分かる。もちろん、履歴詳細オブジェクト59にユーザを特定する情報が含まれても良い。これにより、間取り(領域)上に履歴が表示されるため、ユーザの行動や動線を容易にイメージすることができる。
なお、リスト表示ボタン63が押下されると、履歴の一覧64が表示される。これにより、ユーザは、スライダ62の操作や履歴オブジェクト58の選択などを行うことなく、履歴を取得することができる。また、ユーザは、容易に履歴の一覧データを加工したり、検索したりすることができる。
続いて、図14を参照して、履歴の正誤の入力、履歴の修正、履歴に基づいた制御情報の変更について説明する。図14は、履歴の活用例を示す図である。
ユーザは、コンパニオンアプリを用いて履歴に関する情報を確認することができる。そして、図14に示すように、ユーザは、履歴に誤りがある場合に誤りフラグ70を付加することができる。図14に示す例では、ユーザは、ユーザの行動「読書」に誤りフラグ70を付加することで、読書以外の行動をとっていたことを示すことができる。この例では、行動に対して誤りフラグ70が付加されているが、日時、領域に対して誤りフラグ70が付加されてもよい。また、ユーザは、誤りフラグ70を付加するだけでなく、正しい情報を入力してもよい。
また、図14に示すように、ユーザは、履歴に不特定情報がある場合には、プルダウンリスト72を用いて正しい情報に修正することができる。図14に示す例では、ユーザは、行動を修正している。もちろん、日時、領域が修正されてもよい。また、ユーザは、プルダウンリスト72ではなく、テキストボックスなどを用いて修正を行ってもよい。
このような履歴の正誤または履歴の修正の情報は、解析アルゴリズムの改良のために使用される。具体的には、これらの情報は、管理サーバ200に送信され、解析アルゴリズム管理部207はこれらの情報に基づいて機械学習を行うことで解析アルゴリズムを改良する。
改良された解析アルゴリズム(または改良された解析アルゴリズムに基づいて作成されたプログラム)は、情報処理装置100へ提供される。これにより、情報処理装置100の解析部103の解析処理の精度を向上させることができる。ここで、位置の検出処理または行動の検出処理のように、特定のユーザに特化していない検出処理について改良した解析アルゴリズムまたはプログラムは、該当のユーザが保有する情報処理装置100以外の情報処理装置100に対して提供されてもよい。また、ユーザの特定処理のように、特定のユーザに特化した処理について改良した解析アルゴリズムまたはプログラムは、該当のユーザが保有する情報処理装置100のみに提供されてもよい。上記の方法により、ユーザからのフィードバックに基づいて、情報処理装置100の解析処理の精度を向上させることができる。
また、図14に示すように、ユーザは、プルダウンリスト71を用いて履歴に基づいて制御情報を変更することができる。図14に示す例では、ユーザは、領域「キッチン」、行動「洗い物」に対応する出力「明日のイベント通知」をその他の出力に変更しようとしている。もちろん、ユーザは、プルダウンリスト71ではなく、テキストボックスなどを用いて制御情報を変更してもよい。これにより、ユーザは、履歴を確認する作業と並行して制御情報を編集することができるため、ユーザの作業不可を軽減することができる。
<5.情報処理装置のハードウェア構成>
以上、本開示の一実施形態を説明した。続いて、本開示の一実施形態に係る情報処理装置100のハードウェア構成例について説明する。
図15は、本開示の一実施形態に係る情報処理装置100のハードウェア構成を示す図である。図15に示すように、情報処理装置100は、CPU(Central Processing Unit)901と、ROM(Read Only Memory)902と、RAM(Random Access Memory)903と、入力装置904と、出力装置905と、ストレージ装置906と、撮像装置907と、通信装置908とを備える。
CPU901は、演算処理装置及び制御装置として機能し、各種プログラムに従って情報処理装置100内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバス等から構成されるホストバスにより相互に接続されている。主に、CPU901、ROM902及びRAM903とソフトウェアとの協働により、解析部103、処理部106および管理部111の機能が実現される。
入力装置904は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等ユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU901に出力する入力制御回路等から構成されている。情報処理装置100のユーザは、該入力装置904を操作することにより、情報処理装置100に対して各種のデータを入力したり処理動作を指示したりすることができる。入力装置904は、収音部101および入力部116に対応する。
出力装置905は、例えば、液晶ディスプレイ(LCD)装置、OLED装置、シースルーディスプレイ、及びランプ等の表示装置を含む。さらに、出力装置905は、スピーカ及びヘッドホン等の音声出力装置を含む。例えば、出力装置905は、撮像された画像や生成された画像等を表示する。一方、音声出力装置は、音声データ等を音声に変換して出力する。出力装置905は、発音部107、表示部108および発光部109に対応する。
ストレージ装置906は、データ格納用の装置である。ストレージ装置906は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置及び記憶媒体に記録されたデータを削除する削除装置等を含んでもよい。ストレージ装置906は、CPU901が実行するプログラムや各種データを格納する。ストレージ装置906は、記憶部117に対応する。
撮像装置907は、光を集光する撮影レンズ及びズームレンズ等の撮像光学系、及びCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等の信号変換素子を備える。撮像光学系は、被写体から発せられる光を集光して信号変換部に被写体像を形成し、信号変換素子は、形成された被写体像を電気的な画像信号に変換する。撮像装置907は、撮像部102に対応する。
通信装置908は、例えば、通信網に接続するための通信デバイス等で構成された通信インタフェースである。また、通信装置908は、無線LAN(Local Area Network)対応通信装置、LTE(Long Term Evolution)対応通信装置、有線による通信を行うワイヤー通信装置、またはBluetooth(登録商標)通信装置を含んでもよい。通信装置908は、通信部110に対応する。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記の一実施形態ではユーザまたは物体を特定することについて説明したが、ペットなどの生物を特定してもよい。生物を特定する方法は、ユーザまたは物体を特定する方法と同様のパターンマッチングによる特定方法をとり得る。
情報処理装置100がペットなどの生物を特定することによって、例えば、ユーザとペットが同一の部屋にいる場合に、情報処理装置100は、ペットの撮像画像のスライドショーを実行するなどの出力を行ってもよい。また、情報処理装置100は、撮像部102によって撮像したペットの撮像画像を管理装置300へ通知することで、ユーザに対してペットの様子を通知してもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
領域、行動および装置出力の制御内容が関連付けられた制御情報を記憶する記憶部と、
ユーザの位置する領域、ユーザの行動および前記制御情報に基づいて出力を行う処理部と、を備える、
情報処理装置。
(2)
前記情報処理装置は、
前記領域、前記行動および前記出力のユーザによる入力を取得する取得部と、
前記取得部により取得された前記ユーザによる入力に基づいて前記制御情報を設定する設定部と、をさらに備える、
前記(1)に記載の情報処理装置。
(3)
前記領域は、前記情報処理装置が設置される敷地内の領域である、
前記(2)に記載の情報処理装置。
(4)
前記領域は、建物を構成する部屋内の領域である、
前記(3)に記載の情報処理装置。
(5)
前記情報処理装置は、
前記部屋において1または2以上の領域を定義する領域管理部をさらに備え、
前記取得部は、前記1または2以上の領域からユーザにより選択された領域を前記ユーザによる入力として取得する、
前記(4)に記載の情報処理装置。
(6)
前記領域管理部は、ユーザによる入力に基づいて前記1または2以上の領域を定義する、
前記(5)に記載の情報処理装置。
(7)
前記領域管理部は、ユーザによって描画または配置されるオブジェクトによって構成される図に基づいて前記1または2以上の領域を定義する、
前記(6)に記載の情報処理装置。
(8)
前記領域管理部は、ユーザの音声に基づいて前記1または2以上の領域を定義する、
前記(6)に記載の情報処理装置。
(9)
前記情報処理装置は、撮像部をさらに備え、
前記領域管理部は、前記撮像部により得られた撮像画像を解析することにより、前記1または2以上の領域を定義する、
前記(5)に記載の情報処理装置。
(10)
前記1または2以上の領域は、家具、家電製品または備え付け設備に対応する領域である、前記(5)に記載の情報処理装置。
(11)
前記ユーザは、特定のユーザ、前記特定のユーザによって構成されるグループまたは前記特定のユーザではないユーザである、
前記(1)に記載の情報処理装置。
(12)
前記制御情報に含まれる前記領域および行動は、領域へ入出に関する情報である、
前記(1)から(11)のいずれか1項に記載の情報処理装置。
(13)
前記制御情報に含まれる前記領域および行動は、第1の領域から第2の領域への移動に関する情報である、
前記(1)から(11)のいずれか1項に記載の情報処理装置。
(14)
前記取得部は、前記領域、前記行動および前記出力のユーザの音声による入力を取得し、
前記設定部は、前記取得部により取得された前記ユーザの音声による入力に基づいて前記制御情報を設定する、
前記(2)に記載の情報処理装置。
(15)
前記記憶部は、前記情報処理装置の処理に関する履歴を記憶し、
前記履歴の正誤または修正に関するユーザによる入力を取得する履歴編集部をさらに備える、
前記(1)から(14)のいずれか1項に記載の情報処理装置。
(16)
領域、行動および装置出力の制御内容が関連付けられた制御情報を記憶する機能と、
ユーザの位置する領域、ユーザの行動および前記制御情報に基づいて出力を行う機能と、を含む、
コンピュータに実現させるためのプログラム。
(17)
領域、行動および装置出力の制御内容が関連付けられた制御情報を記憶することと、
ユーザの位置する領域、ユーザの行動および前記制御情報に基づいて出力を行うこと、を含む、
コンピュータにより実行される処理方法。
100 情報処理装置
101 収音部
102 撮像部
103 解析部
104 音声解析部
105 撮像解析部
106 処理部
107 発音部
108 表示部
109 発光部
110 通信部
111 管理部
112 制御情報管理部
113 ユーザ管理部
114 領域管理部
115 履歴管理部
116 入力部
117 記憶部
200 管理サーバ
300 管理装置
410、420 ネットワーク

Claims (16)

  1. 建物を構成する部屋内の領域、ユーザの行動および外部機器の制御内容が関連付けられた制御情報を記憶する記憶部と、
    前記ユーザの位置する領域および前記ユーザの行動を検出する検出機能と、
    前記検出機能により検出された前記ユーザの位置する領域、前記検出機能により検出された前記ユーザの行動および前記制御情報に基づいて、前記検出機能により検出された前記ユーザの位置する領域に一致する前記部屋内の領域と、前記検出機能により検出された前記ユーザの行動とに関連付けられた前記制御内容を求め、前記外部機器に出力する処理部と、を備え、
    前記部屋内の領域は、前記ユーザが家具、家電製品または備え付け設備を使用する位置に応じて設定され、
    前記部屋内の領域、前記ユーザの行動および前記制御内容のユーザによる入力を取得する取得部と、
    前記取得部により取得された前記ユーザによる入力に基づいて前記制御情報を設定する設定部と、をさらに備える、
    情報処理装置。
  2. 前記部屋内の領域は、前記情報処理装置が設置される敷地内の領域である、
    請求項に記載の情報処理装置。
  3. 前記検出機能は、
    撮像部と、
    前記撮像部により得られた撮像画像を解析して前記ユーザの位置する領域および前記ユーザの行動を特定する撮像解析部と、をさらに備える、
    請求項1に記載の情報処理装置。
  4. 前記情報処理装置は、
    1または2以上の前記部屋内の領域を定義する領域管理部をさらに備え、
    前記取得部は、前記1または2以上の前記部屋内の領域からユーザにより選択された領域を前記ユーザによる入力として取得する、
    請求項に記載の情報処理装置。
  5. 前記領域管理部は、ユーザによる入力に基づいて前記1または2以上の前記部屋内の領域を定義する、
    請求項に記載の情報処理装置。
  6. 前記領域管理部は、ユーザによって描画または配置されるオブジェクトによって構成される図に基づいて前記1または2以上の前記部屋内の領域を定義する、
    請求項に記載の情報処理装置。
  7. 前記領域管理部は、ユーザの音声に基づいて前記1または2以上の前記部屋内の領域を定義する、
    請求項に記載の情報処理装置。
  8. 前記情報処理装置は、撮像部をさらに備え、
    前記領域管理部は、前記撮像部により得られた撮像画像を解析することにより、前記1または2以上の前記部屋内の領域を定義する、
    請求項に記載の情報処理装置。
  9. 前記検出機能は、
    撮像部と、
    前記撮像部により得られた撮像画像を解析して前記ユーザ及び物体を特定し、特定した前記ユーザと前記物体との相対位置関係に基づいて、前記ユーザの位置する領域を特定する撮像解析部と、をさらに備える、
    請求項1に記載の情報処理装置。
  10. 前記制御情報は、前記部屋内の領域、前記ユーザの行動および前記外部機器の制御内容に加え、時間が関連付けられた制御情報である、
    請求項1に記載の情報処理装置。
  11. 前記撮像解析部は、前記撮像部により得られた前記撮像画像を解析し、前記物体が前記家電製品であると特定した場合、前記ユーザが前記家電製品を使用する位置に応じて設定される所定領域を算出し、算出した前記所定領域に前記ユーザが含まれる場合、算出した前記所定領域を前記ユーザの位置する領域として特定する、
    請求項に記載の情報処理装置。
  12. 前記制御情報に含まれる前記部屋内の領域および前記ユーザの行動は、第1の領域から第2の領域への移動に関する情報である、
    請求項1に記載の情報処理装置。
  13. 前記取得部は、前記部屋内の領域、前記ユーザの行動および前記制御内容のユーザの音声による入力を取得し、
    前記設定部は、前記取得部により取得された前記ユーザの音声による入力に基づいて前記制御情報を設定する、
    請求項に記載の情報処理装置。
  14. 前記記憶部は、前記情報処理装置の処理に関する履歴を記憶し、
    前記履歴の正誤または修正に関するユーザによる入力を取得する履歴編集部をさらに備える、
    請求項1に記載の情報処理装置。
  15. 建物を構成する部屋内の領域、ユーザの行動および外部機器の制御内容が関連付けられた制御情報を記憶する機能と、
    前記ユーザの位置する領域および前記ユーザの行動を検出する検出機能と、
    前記検出機能により検出された前記ユーザの位置する領域、前記検出機能により検出された前記ユーザの行動および前記制御情報に基づいて、前記検出機能により検出された前記ユーザの位置する領域に一致する前記部屋内の領域と、前記検出機能により検出された前記ユーザの行動とに関連付けられた前記制御内容を求め、前記外部機器に出力する機能と、
    前記ユーザが家具、家電製品または備え付け設備を使用する位置に応じて、前記制御情報に含まれる前記部屋内の領域を設定する機能と、
    前記部屋内の領域、前記ユーザの行動および前記制御内容のユーザによる入力を取得する機能と、
    取得された前記ユーザによる入力に基づいて前記制御情報を設定する機能と、を含む、
    コンピュータに実現させるためのプログラム。
  16. 建物を構成する部屋内の領域、ユーザの行動および外部機器の制御内容が関連付けられた制御情報を記憶することと、
    前記ユーザの位置する領域および前記ユーザの行動を検出することと、
    検出された前記ユーザの位置する領域、検出された前記ユーザの行動および前記制御情報に基づいて、検出された前記ユーザの位置する領域に一致する前記部屋内の領域と、検出された前記ユーザの行動とに関連付けられた前記制御内容を求め、前記外部機器に出力することと、
    前記ユーザが家具、家電製品または備え付け設備を使用する位置に応じて、前記制御情報に含まれる前記部屋内の領域を設定すること
    前記部屋内の領域、前記ユーザの行動および前記制御内容のユーザによる入力を取得することと、
    取得された前記ユーザによる入力に基づいて前記制御情報を設定することと、を含む、
    コンピュータにより実行される処理方法。
JP2018516359A 2016-05-12 2017-03-03 情報処理装置、情報処理方法およびプログラム Expired - Fee Related JP7031578B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016095949 2016-05-12
JP2016095949 2016-05-12
PCT/JP2017/008417 WO2017195440A1 (ja) 2016-05-12 2017-03-03 情報処理装置、情報処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2017195440A1 JPWO2017195440A1 (ja) 2019-03-07
JP7031578B2 true JP7031578B2 (ja) 2022-03-08

Family

ID=60266937

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018516359A Expired - Fee Related JP7031578B2 (ja) 2016-05-12 2017-03-03 情報処理装置、情報処理方法およびプログラム

Country Status (4)

Country Link
US (1) US11340565B2 (ja)
JP (1) JP7031578B2 (ja)
CN (1) CN109074329A (ja)
WO (1) WO2017195440A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210366270A1 (en) * 2018-01-18 2021-11-25 Hewlett-Packard Development Company, L.P. Learned quiet times for digital assistants
JP2019207463A (ja) * 2018-05-28 2019-12-05 株式会社日立製作所 ロボット、行動検知サーバ、および行動検知システム
JP7702789B2 (ja) * 2021-01-26 2025-07-04 本田技研工業株式会社 情報処理装置、情報処理方法、及び、プログラム
CN113031460B (zh) * 2021-05-21 2021-08-03 中家院(北京)检测认证有限公司 基于人居场景智能感知分析的智慧家庭系统及其方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006324876A (ja) 2005-04-18 2006-11-30 Sony Corp 制御装置および方法、プログラム、並びに記録媒体
JP2009087074A (ja) 2007-09-28 2009-04-23 Panasonic Electric Works Co Ltd 機器制御システム
JP2011055121A (ja) 2009-08-31 2011-03-17 Panasonic Electric Works Co Ltd 機器制御システム
JP2011061247A (ja) 2007-11-15 2011-03-24 Panasonic Corp マルチリモコン制御装置
WO2014128777A1 (ja) 2013-02-20 2014-08-28 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 携帯情報端末の制御方法及びプログラム
JP2015146514A (ja) 2014-02-03 2015-08-13 パナソニックIpマネジメント株式会社 センサ管理システム、センサ管理方法及びセンサ管理プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5657425A (en) * 1993-11-15 1997-08-12 International Business Machines Corporation Location dependent verbal command execution in a computer based control system
JP3037902B2 (ja) 1996-10-07 2000-05-08 三菱電機株式会社 音声対話システム
CN101782768A (zh) * 2010-02-09 2010-07-21 华南理工大学 一种基于上下文感知的智能家居系统
US9275734B2 (en) * 2010-02-18 2016-03-01 Katsumi Inoue Memory having information refinement detection function by applying a logic operation in parallel for each memory address to the match/mismatch results of data items and memory addresses, information detection method using memory, and memory address comparison circuit for the memory
CN101969718B (zh) 2010-09-08 2013-10-02 无锡中星微电子有限公司 智能灯光控制系统及其控制方法
CN104714504A (zh) * 2013-12-12 2015-06-17 中兴通讯股份有限公司 智能家居控制方法、控制系统和远程服务器
US20150286943A1 (en) * 2014-04-06 2015-10-08 AI Laboratories, Inc. Decision Making and Planning/Prediction System for Human Intention Resolution
US10203665B2 (en) 2014-04-24 2019-02-12 Vivint, Inc. Managing home automation system based on behavior and user input
CN105159107B (zh) * 2015-08-17 2019-01-04 广州市果豆科技有限责任公司 一种智能家居控制方法、控制装置及控制系统
CN105425602A (zh) * 2015-11-30 2016-03-23 青岛海尔智能家电科技有限公司 一种家电设备自动控制方法及装置
US9940801B2 (en) * 2016-04-22 2018-04-10 Microsoft Technology Licensing, Llc Multi-function per-room automation system

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006324876A (ja) 2005-04-18 2006-11-30 Sony Corp 制御装置および方法、プログラム、並びに記録媒体
JP2009087074A (ja) 2007-09-28 2009-04-23 Panasonic Electric Works Co Ltd 機器制御システム
JP2011061247A (ja) 2007-11-15 2011-03-24 Panasonic Corp マルチリモコン制御装置
JP2011055121A (ja) 2009-08-31 2011-03-17 Panasonic Electric Works Co Ltd 機器制御システム
WO2014128777A1 (ja) 2013-02-20 2014-08-28 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 携帯情報端末の制御方法及びプログラム
JP2015146514A (ja) 2014-02-03 2015-08-13 パナソニックIpマネジメント株式会社 センサ管理システム、センサ管理方法及びセンサ管理プログラム

Also Published As

Publication number Publication date
US11340565B2 (en) 2022-05-24
WO2017195440A1 (ja) 2017-11-16
JPWO2017195440A1 (ja) 2019-03-07
CN109074329A (zh) 2018-12-21
US20200301377A1 (en) 2020-09-24

Similar Documents

Publication Publication Date Title
AU2020200421B2 (en) System and method for output display generation based on ambient conditions
KR102325697B1 (ko) 정보 처리 장치, 정보 처리 방법 및 프로그램
JP6625418B2 (ja) 人工知能に基づくヒューマンコンピュータインターアクションの方法、装置及び端末機器
CN105051676B (zh) 响应端点选择
US10346480B2 (en) Systems, apparatus, and methods for social graph based recommendation
US20180107445A1 (en) Information processing device, control method, and program
JP7031578B2 (ja) 情報処理装置、情報処理方法およびプログラム
KR102787316B1 (ko) 층간소음 분쟁을 예방하기 위한 인공지능 기반의 이웃간 데이터 처리 장치 및 이를 이용한 데이터 처리 방법
JP7342862B2 (ja) 情報処理装置及び情報処理方法、並びに情報処理システム
JP2019521449A (ja) 永続的コンパニオンデバイス構成及び配備プラットフォーム
HK1217847A1 (zh) 用於提供持久夥伴裝置的設備和方法
US11119722B2 (en) Movable body control apparatus and recording medium
US20170052678A1 (en) Information processing device, display control method, and program
US20190042188A1 (en) Information processing device, information processing method, and program
Korzun et al. Virtual shared workspace for smart spaces and M3-based case study
JPWO2020026799A1 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2012032714A1 (en) User device, server, and operating conditions setting system
JP6373709B2 (ja) 対話装置
JP6973380B2 (ja) 情報処理装置、および情報処理方法
CN107027340A (zh) 可穿戴电子系统
JPWO2018043115A1 (ja) 情報処理装置、情報処理方法、並びにプログラム
US20210004747A1 (en) Information processing device, information processing method, and program
JPWO2020202354A1 (ja) コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法
EP4502827A1 (en) Information processing device, information processing method, terminal device, and output method
WO2022201198A1 (en) Artificially intelligent perceptive entertainment companion system

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220207

R151 Written notification of patent or utility model registration

Ref document number: 7031578

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees