[go: up one dir, main page]

JP2018137723A - 遠隔会議の参加者の資質のフィードバックを提供するための方法およびシステム、コンピューティングデバイス、プログラム - Google Patents

遠隔会議の参加者の資質のフィードバックを提供するための方法およびシステム、コンピューティングデバイス、プログラム Download PDF

Info

Publication number
JP2018137723A
JP2018137723A JP2017179932A JP2017179932A JP2018137723A JP 2018137723 A JP2018137723 A JP 2018137723A JP 2017179932 A JP2017179932 A JP 2017179932A JP 2017179932 A JP2017179932 A JP 2017179932A JP 2018137723 A JP2018137723 A JP 2018137723A
Authority
JP
Japan
Prior art keywords
participant
participants
qualification
teleconference
session
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017179932A
Other languages
English (en)
Other versions
JP7039900B2 (ja
Inventor
リー マシュー
Lee Matthew
リー マシュー
カーター スコット
Scott Carter
カーター スコット
ヘザー ホーセット
Ashley Faucett Heather
ヘザー ホーセット
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Publication of JP2018137723A publication Critical patent/JP2018137723A/ja
Application granted granted Critical
Publication of JP7039900B2 publication Critical patent/JP7039900B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • H04M3/563User guidance or feature selection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • H04M3/567Multimedia conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M7/00Arrangements for interconnection between switching centres
    • H04M7/0012Details of application programming interfaces [API] for telephone networks; Arrangements which combine a telephonic communication equipment and a computer, i.e. computer telephony integration [CPI] arrangements
    • H04M7/0021Details of Application Programming Interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/50Telephonic communication in combination with video communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2203/00Aspects of automatic or semi-automatic exchanges
    • H04M2203/25Aspects of automatic or semi-automatic exchanges related to user interface aspects of the telephonic communication service
    • H04M2203/256Aspects of automatic or semi-automatic exchanges related to user interface aspects of the telephonic communication service comprising a service specific user interface
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2203/00Aspects of automatic or semi-automatic exchanges
    • H04M2203/30Aspects of automatic or semi-automatic exchanges related to audio recordings in general
    • H04M2203/303Marking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2203/00Aspects of automatic or semi-automatic exchanges
    • H04M2203/30Aspects of automatic or semi-automatic exchanges related to audio recordings in general
    • H04M2203/305Recording playback features, e.g. increased speed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/22Arrangements for supervision, monitoring or testing
    • H04M3/2227Quality of service monitoring

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ophthalmology & Optometry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Telephonic Communication Services (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】参加者について遠隔会議の質を向上する。
【解決手段】コンピューティングデバイスにおける方法は、2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得することであって、遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を含む、取得することと、遠隔会議データに基づいて参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することであって、参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、特定することと、参加者のうちの少なくとも1人について参加者の資質シグナルに基づいて参加者の資質基準値を特定することと、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することであって、情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、提供することとを含む。
【選択図】図6

Description

本出願は、一般に、遠隔会議技術を記載し、より詳細には、遠隔会議の参加者に遠隔会議における参加者の資質に関するフィードバックを提供するための方法およびシステムに関する。
人々の間の協業は、ビジネスおよび他の試みにおける長年の慣行である。チームの中で働き、互いに協業する人々は、より効率的に働くことができ、目の前にある仕事に役立つ考えを生むための大きい潜在力をもつことができる。技術における進歩は、長距離間の協業を容易にすることを含む、協業をさらに容易にしてきた。技術を使用する協業の一般的な形態は、オーディオおよび/またはビデオを用いる遠隔会議を介した会合である。
しかしながら、遠隔会議は、直接会って会合が行われた場合に参加者が直面しない可能性がある、1組の課題を参加者に与える。たとえば、ビデオ遠隔会議では、通常、参加者の視界は遠隔会議で使用されるカメラの視界に制限される。これにより、参加者が他の参加者からの言葉を使わない合図を感知し、ならびに会合環境のより広い視覚的な全体像を得ることができないように妨げられる可能性がある。また、参加者が離れていると、他の参加者が知ることなく、参加者が注意散漫になる機会が与えられる。これらの課題、ならびに遠隔会議の質を落とす様々な他の参加者の挙動は、参加者について遠隔会議の質に影響を及ぼす。
米国特許出願公開第2011−0292162号公報
本開示の技術は、従来技術より、参加者について遠隔会議の質を向上することを目的とする。
いくつかの実施形態によれば、1つまたは複数のプロセッサと、1つまたは複数のプロセッサによる実行用の1つまたは複数のプログラムを記憶するメモリとを有するコンピューティングデバイスにおいて実施される方法は、2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得することであって、遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を含む、取得することと、遠隔会議データに基づいて参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することであって、参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、特定することと、参加者のうちの少なくとも1人について参加者の資質シグナルに基づいて参加者の資質基準値を特定することと、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することであって、情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、提供することとを含む。
遠隔会議セッションの時間的に変化する遠隔会議データを取得するステップが、前記遠隔会議セッションの間にリアルタイムで前記遠隔会議データを取得するステップを備えるようにしてもよい。
前記遠隔会議データに基づいて前記参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定するステップが、前記遠隔会議セッションの間にリアルタイムで前記参加者の資質シグナルを特定するステップを備え、前記参加者の資質シグナルに基づいて前記参加者のうちの少なくとも1人について参加者の資質基準値を特定するステップが、前記遠隔会議セッションの間にリアルタイムで前記参加者の資質基準値を特定するステップを備えるようにしてもよい。
前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供するステップが、前記遠隔会議セッションの間にリアルタイムで前記情報を提供するステップを備えるようにしてもよい。
前記遠隔会議セッションの間にリアルタイムで前記情報を提供するステップが、前記参加者のうちの前記少なくとも1人に1つまたは複数のプロンプトを与えて、前記遠隔会議セッションの間に前記参加者の資質シグナルに関連付けられた挙動および/または位置を調整するステップを備えるようにしてもよい。
前記遠隔会議セッションの間にリアルタイムで前記情報を提供するステップが、前記遠隔会議セッションの間に参加者の資質基準値ユーザインターフェースを提供するステップを備え、前記参加者の資質基準値ユーザインターフェースが、遠隔会議ユーザインターフェースと同時に前記遠隔会議セッションの間に表示されるように構成され、前記情報が前記参加者の資質基準値ユーザインターフェース内に表示されるように構成されるようにしてもよい。
前記情報が、前記参加者のうちの1人が前記参加者のうちの別の1人に割り込んでいる指示、前記参加者のうちの参加者による割込みのカウント、前記参加者のうちの参加者による注視の指示、前記参加者のうちの前記注視する参加者による前記注視の継続時間タイマ、前記参加者のうちの参加者が前記遠隔会議セッションのビデオビュー内の中心にあるかどうかの指示、および前記遠隔会議セッション内の時間期間単位の前記参加者による相対的な発言寄与の指示のうちの1つまたは複数を備えるようにしてもよい。
前記遠隔会議セッション内の時間期間単位の前記参加者による相対的な発言寄与の前記指示が、前記参加者のうちの参加者について、第1のグラフィカルオブジェクトであって、前記第1のグラフィカルオブジェクトのサイズが、あらかじめ定義された時間長の進行する時間ウィンドウにわたる前記参加者の相対的な発言寄与を表し、前記第1のグラフィカルオブジェクトがリアルタイムで更新される、第1のグラフィカルオブジェクトと、1つまたは複数の第2のグラフィカルオブジェクトのセットであって、前記第2のグラフィカルオブジェクトの各々が、前記あらかじめ定義された時間長の過去の時間期間に対応し、前記第2のグラフィカルオブジェクトのサイズが、前記過去の時間期間内の前記参加者の相対的な発言寄与を表す、1つまたは複数の第2のグラフィカルオブジェクトのセットとを備えるようにしてもよい。
いくつかの実施形態によれば、コンピューティングデバイスは、1つまたは複数のプロセッサと、1つまたは複数のプロセッサによって実行されるべき1つまたは複数のプログラムを記憶するメモリとを含む。1つまたは複数のプログラムは、2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得することであって、遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を含む、取得することと、遠隔会議データに基づいて参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することであって、参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、特定することと、参加者のうちの少なくとも1人について参加者の資質シグナルに基づいて参加者の資質基準値を特定することと、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することであって、情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、提供することとを行うための命令を含む。
前記1つまたは複数の参加者の資質シグナルを前記遠隔会議セッション内の対応する時間にインデックス付けするための命令をさらに備えるようにしてもよい。
前記インデックス付けに従って前記情報を提供するための命令をさらに備えるようにしてもよい。
前記遠隔会議セッションが終了した後に前記情報を提供するための命令をさらに備えるようにしてもよい。
前記遠隔会議セッション用の参加者の資質要約ユーザインターフェースを提供するための命令をさらに備え、前記情報が、前記参加者の資質要約ユーザインターフェース内に表示されるように構成されるようにしてもよい。
前記参加者の資質要約ユーザインターフェースが、コンテンツプレーヤユーザインターフェースを備え、前記コンテンツプレーヤユーザインターフェースが、前記遠隔会議セッションの前記オーディオデータおよび/またはビデオデータを再生し、前記オーディオデータおよび/またはビデオデータとともに前記情報の少なくとも一部分を表示するように構成されるようにしてもよい。
前記情報が、前記参加者のうちの参加者による全割込みのカウント、前記遠隔会議セッションの前記継続時間にわたる前記参加者のうちの参加者による割込みのタイムライン、前記参加者のうちの参加者による方向単位の注視の量の指示、前記参加者のうちの参加者による平均視線時間の指示、前記参加者のうちの参加者による位置単位の顔および/または体の配置の量の指示、前記遠隔会議セッションの前記継続時間にわたる前記参加者による発言寄与の指示、ならびに前記遠隔会議セッション内の時間期間単位の前記参加者による相対的な発言寄与の指示のうちの1つまたは複数を備えるようにしてもよい。
プログラムは、1つまたは複数のプロセッサを有するコンピューティングデバイスによって実行されると、2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得することであって、遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を含む、取得することと、遠隔会議データに基づいて参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することであって、参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、特定することと、参加者のうちの少なくとも1人について参加者の資質シグナルに基づいて参加者の資質基準値を特定することと、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することであって、情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、提供することとを含む動作をコンピューティングデバイスに実施させる。
前記オーディオデータが、前記遠隔会議セッションの1つまたは複数のオーディオストリームを備えるようにしてもよい。
前記ビデオデータが、前記遠隔会議セッションの1つまたは複数のビデオストリームを備えるようにしてもよい。
前記コンピューティングデバイスがサーバシステムであり、前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供することが、表示用に前記参加者のうちの少なくとも1人に関連付けられたクライアントデバイスに前記情報を送信することを備えるようにしてもよい。
前記コンピューティングデバイスが、前記遠隔会議セッション内の前記参加者のうちの1人に関連付けられたクライアントデバイスであり、前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供することが、情報を表示することを備えるようにしてもよい。
上記コンピューティングデバイスにおいて実施される方法、コンピューティングデバイス、及びプログラムでは、前記参加者の資質シグナルは、前記参加者の前記遠隔会議セッションへの影響を示し、前記資質基準値は、前記参加者の前記遠隔会議セッションへの影響の度合いを示し、前記参加者の資質基準値に対応する情報は、前記参加者へのフィードバック情報であるとしてもよい。

いくつかの実施形態による、例示的な遠隔会議環境を示すブロック図である。 いくつかの実施形態による、例示的な遠隔会議環境を示すブロック図である。 いくつかの実施形態による、例示的なクライアントデバイスを示すブロック図である。 いくつかの実施形態による、参加者の資質の経験則のための例示的なデータ構造を示す図である。 いくつかの実施形態による、例示的なサーバシステムを示すブロック図である。 いくつかの実施形態による、遠隔会議用の例示的なユーザインターフェースの図である。 いくつかの実施形態による、発言者の寄与基準値の例示的な可視化の図である。 いくつかの実施形態による、遠隔会議後の参加者の資質のフィードバック用の例示的なユーザインターフェースの図である。 いくつかの実施形態による、遠隔会議参加者の資質のフィードバックを提供するための例示的な方法のフロー図である。
図面全体を通して、同様の参照番号は対応する部分を指す。
次に、それらの例が添付図面に示されている様々な実施形態に対して、詳細に参照が行われる。以下の詳細な説明では、本発明および記載された実施形態を完全に理解するために、多数の具体的な詳細が明記される。しかしながら、本発明は、これらの具体的な詳細なしに実践されてもよい。他の例では、実施形態の態様を不必要に覆い隠さないように、良く知られている方法、手順、構成要素、および回路は、詳細に記載されていない。
図1Aは、いくつかの実施形態による、遠隔会議環境100を示す。遠隔会議環境100は、互いから離れて位置する2つ以上のクライアントデバイス104−1〜104−Mを含む。ユーザ102−1〜102−Mの各々は、それぞれのクライアントデバイス104を使用および操作して、ユーザ102−1〜102−Mの間の遠隔会議セッションに参加する。いくつかの実施形態では、遠隔会議セッション内で、各クライアントデバイス104は、それぞれのユーザ−参加者102と関連付けられる。いくつかの実施形態では、クライアントデバイス104は、デスクトップコンピュータ、ラップトップコンピュータもしくはノートブックコンピュータ、スマートフォン、タブレットデバイス、マルチメディアデバイス、または遠隔会議システム内のデバイスのうちのいずれかであってもよい。
遠隔会議環境100は、1つまたは複数の通信ネットワーク106も含む。通信ネットワーク106は、イントラネット、エクストラネット、またはインターネットなどの、任意の有線またはワイヤレスのローカルエリアネットワーク(LAN)および/またはワイドエリアネットワーク(WAN)であってもよい。通信ネットワーク106がクライアントデバイス104の間の通信機能を提供することは十分である。
いくつかの実施形態では、遠隔会議セッションは、オーディオおよび/または画像(たとえば、ビデオ、静止画像)を含む。いくつかの実施形態では、クライアントデバイス104は、オーディオ(たとえば、ユーザ−参加者102の発言)を取り込むためのマイクロフォン(たとえば、マイクロフォン216、図2A)と、オーディオ(たとえば、他のクライアントデバイス104から受信された他のユーザ102の発言)を出力するためのスピーカ(たとえば、スピーカ220、図2A)とを含む。いくつかの実施形態では、クライアントデバイス104は、画像(たとえば、静止画像、ビデオ)を取り込むためのカメラデバイス(たとえば、カメラ224、図2A)を含む。いくつかの実施形態では、クライアントデバイス104は、ユーザ102のための遠隔会議ユーザインターフェース、ならびに遠隔会議内の他のクライアントデバイス104から受信されたビデオおよび画像を表示するためのディスプレイ(たとえば、ディスプレイ222、図2A)を含む。
いくつかの実施形態では、クライアントデバイス104は、ピアツーピア接続によって互いに接続して、遠隔会議セッションを確立する。たとえば、クライアントデバイス104は、プロトコルのWebRTCフレームワーク、アプリケーションプログラミングインターフェースなどを使用して、ピアツーピア方式で互いに接続してもよい。ピアツーピア方式で互いに接続して遠隔会議セッションを確立するために、他の適切なピアツーピアプロトコル、ピアツーピア規格、アプリケーションプログラミングインターフェースなどが、クライアントデバイス104によって使用されてもよい。いくつかの実施形態では、ピアツーピア接続は、通信ネットワーク106を介して行われる。
接続が行われ、遠隔会議セッションが確立された後、クライアントデバイス104は、ピアツーピア接続を介して、遠隔会議セッション用の遠隔会議データを互いに送信することにより、遠隔会議セッションに参加する。いくつかの実施形態では、遠隔会議データは、オーディオデータ(たとえば、マイクロフォンによって取り込まれたユーザの発言)と、ビデオ/画像データ(たとえば、カメラによって取り込まれたビデオおよび画像)とを含む。いくつかの実施形態では、オーディオデータは、1つまたは複数のオーディオストリームを含む(たとえば、クライアントデバイス104−1の場合、1つまたは複数のオーディオストリームは、クライアントデバイス104−1によって他のクライアントデバイス104に送信されるオーディオストリームと、他のクライアントデバイス104から受信されたオーディオストリームとを含む)。いくつかの実施形態では、ビデオ/画像データは、1つまたは複数のビデオ/画像ストリームを含む(たとえば、クライアントデバイス104−1の場合、1つまたは複数のビデオストリームは、クライアントデバイス104−1によって他のクライアントデバイス104に送信されるビデオストリームと、他のクライアントデバイス104から受信されたビデオストリームとを含む)。いくつかの実施形態では、遠隔会議データは、ユーザ入力データ(たとえば、クライアントデバイス104におけるユーザ102によるキーストローク、マウスクリック、および/またはカーソル移動に対応するデータ)、スクリーン共有データ、文書、ノート、チャット、メタデータ、ネットワーク性能データ、ならびに他の情報をさらに含む。
いくつかの実施形態では、クライアントデバイス104は、遠隔会議データを処理して、遠隔会議セッション内のユーザ102のうちの1人または複数について1つまたは複数の遠隔会議参加者の資質シグナルを検出および特定する。クライアントデバイス104は、クライアントデバイス104において作成された遠隔会議データ(たとえば、クライアントデバイス104を使用するユーザ−参加者のオーディオおよびビデオ)、ならびにクライアントデバイス104において受信された遠隔会議データ(たとえば、遠隔会議セッション内の他のクライアントデバイスからのオーディオおよびビデオ)を処理して、ユーザ102についての遠隔会議の資質(たとえば、会話の質)に影響を及ぼす場合がある、参加者の挙動(たとえば、会話の挙動、言葉を使わない挙動など)のシグナルを特定する。いくつかの実施形態では、シグナルは、遠隔会議の間のユーザの1つまたは複数の挙動およびユーザの1つまたは複数の状態を含む。シグナルについてのさらなる詳細が下記に記載される。
クライアントデバイス104は、遠隔会議セッション内のユーザ102のうちの1人または複数について、特定された資質シグナルに基づいて1つまたは複数の基準値を特定する。基準値は、分析および提示のために資質シグナルを測定し定量化する。いくつかの実施形態では、シグナルおよび対応する基準値は同じである。いくつかの実施形態では、シグナルに対応する基準値はシグナルの定量化である。
クライアントデバイス104は、ユーザ102への提示用に、特定された基準値に基づいて情報を作成する。いくつかの実施形態では、情報は、グラフィック形式、テキスト形式、および/または音響形式で提示される。たとえば、クライアントデバイス104は、ユーザへの表示用に基準値の(グラフィックおよび/またはテキストを伴う)可視化を作成してもよい。別の例として、クライアントデバイス104は、基準値がしきい値を超えるとユーザに警告することができる音響通知を作成してもよい。
いくつかの実施形態では、クライアントデバイス104は、それぞれのクライアントデバイスに関連付けられたユーザ102の観点から情報を作成する。たとえば、作成された可視化は、ユーザに関連付けられた基準値(たとえば、ユーザの割込みの長さ、ユーザが発言に費やした時間など)を提示し、かつ/またはユーザを遠隔会議内の他の参加者と比較する。
いくつかの実施形態では、シグナルおよび基準値の特定ならびに情報の作成は、1つまたは複数のあらかじめ定義された規則または経験則に基づく。クライアントデバイス104は、(たとえば、遠隔会議アプリケーション内に)、シグナル、関連する基準値、ならびに、これらのシグナルおよび基準値を特定するための対応する規則、アルゴリズム、経験則、しきい値などのうちの1つまたは複数の定義を含む。たとえば、シグナルは視界内のユーザの体の位置であってもよく、関連する基準値はユーザの位置が視界内で水平方向にどれだけ中心からずれているかであってもよく、関連するしきい値は体が水平方向に中心からずれている特定の割合である。クライアントデバイス104は、遠隔会議データ内のビデオデータを分析して、(ビデオデータ内のユーザの体を識別し、遠隔会議セッションの継続時間にわたって視界内のその位置を特定することにより)遠隔会議セッションの継続時間にわたってシグナルを特定し、遠隔会議セッションの継続時間にわたって関連する基準値を特定し、遠隔会議セッションの継続時間にわたって基準値をしきい値と比較する。クライアントデバイス104は、ユーザへの提示用にこれらのシグナルおよび基準値に関連付けられた情報を作成する。作成された情報は、たとえば、体の位置がしきい値よりも大きく水平方向に中心からずれていることを示すグラフィックと、体の位置がしきい値よりも大きく水平方向に中心からずれたときの音響通知と、遠隔会議セッションのどれだけの間、基準値がしきい値を超えたか、またはしきい値を超えなかったかを示すチャートとを含む場合がある。
いくつかの実施形態では、クライアントデバイス104は、遠隔会議データ(たとえば、オーディオおよびビデオ、場合によっては他の遠隔会議データも)、ならびに特定されたシグナルおよび基準値のうちの少なくともいくつかを(たとえば、データベース内に)記憶する。記憶された遠隔会議データならびにシグナルおよび基準値は、遠隔会議セッションが終了した後アクセスされてもよい。
いくつかの実施形態では、クライアントデバイス104は、遠隔会議セッション全体を通して、シグナルおよび基準値を特定し、情報を作成する。たとえば、遠隔会議セッションが進行するにつれて、クライアントデバイス104は、(たとえば、リアルタイムで、ほぼリアルタイムで、または周期的に(たとえば、30秒ごとに、毎分))遠隔会議セッションの間に作成および受信された遠隔会議データを分析して、(たとえば、同様にリアルタイムで、ほぼリアルタイムで、または周期的に)遠隔会議セッションの間にシグナルおよび基準値を特定し、基準値に基づいて情報を作成する。情報は提示され、(たとえば、同様にリアルタイムで、ほぼリアルタイムで、または周期的に)遠隔会議セッションの間に、かつ遠隔会議セッション全体を通して更新されてもよい。
いくつかの実施形態では、クライアントデバイス104は、シグナルおよび基準値を特定すると、また、特定されたシグナルおよび基準値を遠隔会議セッション内のタイムスタンプにインデックス付けするか、または場合によっては、シグナルおよび基準値の値が特定されたときのタイムスタンプを追跡する。たとえば、体の位置のシグナル例に戻ると、クライアントデバイス104は、遠隔会議において複数回体の位置の値を特定し、値が特定された時間のタイムスタンプを記録する。クライアントデバイス104はまた、遠隔会議において複数回対応する基準値の値を特定し、値が特定された時間のタイムスタンプを記録する。このように、シグナルおよび基準値の特定された値は、遠隔会議における対応するタイムスタンプを有し、その結果、遠隔会議における所与の時間の値が取得されてもよい。いくつかの実施形態では、値はタイムスタンプとともに記憶され、その結果、遠隔会議セッションが終了した後それらにアクセスすることができる。
上述されたように、特定されたシグナルと基準値、および対応するタイムスタンプ、ならびに遠隔会議データは、遠隔会議セッションが終了した後のアクセス用に記憶される。いくつかの実施形態では、シグナルおよび基準値の遠隔会議後の要約は、ユーザ102への提示用に作成されてもよい。要約は、遠隔会議にわたるシグナルおよび基準値の集計表を示し、シグナルおよび基準値が遠隔会議の継続時間にわたってどのように変化したかを示す場合もある。このようにして、ユーザは、遠隔会議が終了した後にシグナルおよび基準値を見直して、遠隔会議の間の自分の挙動に関する洞察を取得し、将来調整を行うことができる。
図1Bは、いくつかの実施形態による、遠隔会議環境110を示す。遠隔会議環境110は、遠隔会議環境100と同様の要素を含み、サーバシステム112が追加されている。遠隔会議環境110では、クライアントデバイス104はサーバシステム112と通信して、遠隔会議セッションを確立する。クライアントデバイス104はサーバシステム112に遠隔会議データを送信し、サーバシステム112はクライアントデバイス104に遠隔会議データを送信する。言い換えれば、サーバシステム112は遠隔会議セッション用の中間システムまたは媒介システムとして働き、クライアントデバイス104は、ピアツーピア接続を介して互いに遠隔会議セッションを確立することとは対照的に、サーバシステム112を介して遠隔会議セッションを確立する。遠隔会議環境110では、サーバシステム112は、遠隔会議の間であれ後であれ、遠隔会議データを処理して資質シグナルおよび基準値を特定し、シグナルおよび基準値を遠隔会議セッション内のタイムスタンプにインデックス付けし、提示用にクライアントデバイス104に送信するための情報を作成する。いくつかの実施形態では、サーバシステム112はまた、遠隔会議データならびに特定された資質シグナルおよび基準値を記憶し、その結果、それらは遠隔会議セッションの終了後にアクセスすることができる。このように、遠隔会議環境110は、上述された遠隔会議環境100と同様であるが、遠隔会議環境110では、シグナルと基準値、およびシグナルと基準値に関連する情報作成、ならびに遠隔会議セッションの確立および遠隔会議データの分配は、サーバシステム112によって実施される。
図2Aは、いくつかの実施形態による、クライアントデバイス104を示すブロック図である。クライアントデバイス104は、通常、1つまたは複数の処理ユニット(CPU)202と、1つまたは複数のネットワークまたは他の通信インターフェース204と、メモリ206と、これらの構成要素を相互接続するための1つまたは複数の通信バス208とを含む。通信バス208は、場合によっては、システム構成要素間の通信を相互接続し制御する(時々、チップセットと呼ばれる)回路を含む。クライアントデバイス104は、マイクロフォン216、ならびに場合によっては、マウス212および/またはキーボード214を含む、1つまたは複数の入力デバイス210を含む。入力デバイス210の他の例には、タッチセンサ式の面(たとえば、トラックパッド、タッチパッド、タッチセンサ式ディスプレイ)、トラックボール、ジョイスティック、およびキーパッドが含まれる。クライアントデバイス104はまた、オーディオ出力デバイス220(たとえば、スピーカ、ヘッドフォン)およびディスプレイ222を含む、1つまたは複数の出力デバイス218を含む。いくつかの実施形態では、クライアントデバイス104はまた、カメラまたは他の画像/ビデオ取込みデバイス224を含む。
メモリ206は、DRAM、SRAM、DDR RAMなどの高速ランダムアクセスメモリ、または他のランダムアクセス半導体メモリデバイスを含み、1つもしくは複数の磁気ディスクストレージデバイス、光ディスクストレージデバイス、フラッシュメモリデバイス、または他の不揮発性半導体ストレージデバイスなどの不揮発性メモリを含む場合がある。メモリ206は、場合によっては、CPU202から離れて位置する1つまたは複数のストレージデバイスを含む場合がある。メモリ206、または代替としてメモリ206内の不揮発性メモリデバイスは、非一時的コンピュータ可読記憶媒体を備える。いくつかの実施形態では、メモリ206またはメモリ206のコンピュータ可読記憶媒体は、以下のプログラム、モジュール、およびデータ構造、またはそれらのサブセットを記憶する。
●様々な基本システムサービスを扱い、ハードウェア依存タスクを実施するためのプロシージャを含むオペレーティングシステム232。
●1つまたは複数の通信ネットワークインターフェース204(有線またはワイヤレス)、および1つまたは複数の通信ネットワーク106を介して、他のデバイス、コンピュータ、およびシステム(たとえば、他のクライアントデバイス104、サーバシステム112)にクライアントデバイス104を接続し、それらとの通信を容易にするためのネットワーク通信モジュール234。
●遠隔会議セッションを確立し、遠隔会議データを処理し、遠隔会議の資質シグナルおよび基準値に対応する情報を提示するための遠隔会議モジュール236であって、
○遠隔会議データを取得するための遠隔会議データ取得モジュール238と、
○遠隔会議データから参加者の資質シグナルを特定するための参加者の資質シグナルモジュール240と、
○参加者の資質シグナルから基準値を特定するための参加者の資質基準値モジュール242と、
○参加者の資質シグナルおよび基準値を遠隔会議セッション内のタイムスタンプにインデックス付けするための資質シグナルインデックス付けモジュール244と、
○ユーザへの提示用に参加者の資質シグナルおよび基準値に関するフィードバック情報を作成するための参加者の資質フィードバックモジュール246と
を含む、遠隔会議モジュール236。
●複数の遠隔会議セッションについて、遠隔会議データならびに対応する特定された資質シグナルおよび基準値を記憶するための遠隔会議データ252。
●資質シグナルおよび基準値を特定するための定義、規則、経験則などを記憶するための資質シグナルおよび基準値定義264。
いくつかの実施形態では、参加者の資質フィードバックモジュール246は、リアルタイムで、ほぼリアルタイムで、または場合によっては遠隔会議の間に情報を作成および提示するためのリアルタイムフィードバックモジュール248と、遠隔会議後の情報を作成および提示するためのセッション後フィードバックモジュール250とを含む。
いくつかの実施形態では、遠隔会議データ252は、それぞれのセッション254−1〜254−Mについての遠隔会議データ、ならびに特定されたシグナルおよび基準値を含む。遠隔会議セッションについて、そのセッション用のデータ254−1は、オーディオ、ビデオ、および場合によっては、セッションからの他の遠隔会議データを含む遠隔会議セッションデータ256と、参加者の資質シグナル258と、参加者の資質基準値260と、資質シグナル258および資質基準値260を遠隔会議セッション内の時間にインデックス付けするためのインデックス付けデータ262とを含む。
いくつかの実施形態では、参加者の資質シグナルモジュール240は、オーディオおよびビデオを処理するため(たとえば、オーディオ認識、オーディオ分析、自然言語処理、音声テキスト化、ビデオ内の顔/人物認識、ビデオ内の視線追跡など)の適切なサブモジュールと、場合によっては、他の遠隔会議データ(たとえば、ネットワーク性能評価、キーストローク検出、マウスアクティビティ検出など)を処理するためのサブモジュールとを含む。
いくつかの実施形態では、モジュール240および242は、それぞれのシグナルおよび基準値を特定するための適切なサブモジュールとともに、資質シグナルおよび基準値を特定するための1つのモジュールの中に組み合わされてもよい。
図2Bは、いくつかの実施形態による、資質シグナルおよび基準値定義264用の例示的な部分データ構造を示す。フィールド282(たとえば、識別子)および値284を含むように構造化された、図示された部分データ構造内に、様々な資質基準値用の複数のしきい値286が存在する。これらのしきい値286は、超えられると、ユーザ−参加者の資質が低い挙動または状態を示すしきい値を定義する。いくつかの実施形態では、基準値が超過すると、ユーザ−参加者に対する遠隔会議の間の警告または通知がトリガされて、挙動または状態が調整される。定義264は、参加者の資質シグナルおよび基準値を定義するための経験則、アルゴリズム、定義などのさらなるデータ構造を含む場合もある。
上記で識別された要素の各々は、前述されたメモリデバイスのうちの1つまたは複数に記憶されてもよく、モジュールまたはプログラムの各々は、上述された機能を実施するための命令のセットに対応する。命令のセットは、1つまたは複数のプロセッサ(たとえば、CPU202)によって実行することができる。上記で識別されたモジュールまたはプログラム(すなわち、命令のセット)は、別個のソフトウェアプログラム、プロシージャ、またはモジュールとして実装される必要はなく、したがって、これらのモジュールの様々なサブセットは、様々な実施形態において組み合わされるか、または場合によっては再配置されてもよい。いくつかの実施形態では、メモリ206は、上記で識別されたモジュールおよびデータ構造のサブセットを記憶してもよい。さらに、メモリ206は、上述されていないさらなるモジュールおよびデータ構造を記憶してもよい。
図2Aはクライアントデバイスを示すが、図2Aは、本明細書に記載された実施形態の構造概略図よりも、クライアントデバイス内に存在してもよい様々な特徴の機能的な説明を目的としている。実際には、当業者によって認識されるように、別々に図示された項目は組み合わされる可能性があり、いくつかの項目は分離される可能性がある。
図3は、いくつかの実施形態による、サーバシステム112を示すブロック図である。サーバシステム112は、通常、1つまたは複数の処理ユニット(CPU)302と、1つまたは複数のネットワークまたは他の通信インターフェース304と、メモリ306と、これらの構成要素を相互接続するための1つまたは複数の通信バス308とを含む。通信バス308は、場合によっては、システム構成要素間の通信を相互接続し制御する(時々、チップセットと呼ばれる)回路を含む。サーバシステム112は、場合によっては、1つまたは複数の入力デバイス310(たとえば、キーボード、マウス、タッチセンサ式の面)と、1つまたは複数の出力デバイス312(たとえば、ディスプレイ)とを含む。
メモリ306は、DRAM、SRAM、DDR RAMなどの高速ランダムアクセスメモリ、または他のランダムアクセス半導体メモリデバイスを含み、1つもしくは複数の磁気ディスクストレージデバイス、光ディスクストレージデバイス、フラッシュメモリデバイス、または他の不揮発性半導体ストレージデバイスなどの不揮発性メモリを含む場合がある。メモリ306は、場合によっては、CPU302から離れて位置する1つまたは複数のストレージデバイスを含む場合がある。メモリ306内の不揮発性メモリデバイスおよび揮発性メモリデバイスを含むメモリ306は、非一時的コンピュータ可読記憶媒体を備える。いくつかの実施形態では、メモリ306またはメモリ306の非一時的コンピュータ可読記憶媒体は、以下のプログラム、モジュール、およびデータ構造、またはそれらのサブセットを記憶する。
●様々な基本システムサービスを扱い、ハードウェア依存タスクを実施するためのプロシージャを含むオペレーティングシステム316。
●1つまたは複数の通信ネットワークインターフェース304(有線またはワイヤレス)、および1つまたは複数の通信ネットワーク106を介して、他のデバイス、コンピュータ、およびシステム(たとえば、クライアントデバイス104)にサーバシステム112を接続し、それらとの通信を容易にするためのネットワーク通信モジュール318。
●遠隔会議セッションを確立し、遠隔会議データを処理し、提示用にクライアントデバイスに送信するための遠隔会議の資質シグナルおよび基準値に対応する情報を作成するための遠隔会議モジュール320であって、
○遠隔会議データを取得するための遠隔会議データ取得モジュール322と、
○遠隔会議データから参加者の資質シグナルを特定するための参加者の資質シグナルモジュール324と、
○参加者の資質シグナルから基準値を特定するための参加者の資質基準値モジュール326と、
○参加者の資質シグナルおよび基準値を遠隔会議セッション内のタイムスタンプにインデックス付けするための資質シグナルインデックス付けモジュール328と、
○ユーザへの提示用に参加者の資質シグナルおよび基準値に関するフィードバック情報を作成するための参加者の資質フィードバックモジュール330と
を含む、遠隔会議モジュール320。
●複数の遠隔会議セッションについて、遠隔会議データならびに対応する特定された資質シグナルおよび基準値を記憶するための遠隔会議データ336。
●資質シグナルおよび基準値を特定するための定義、規則、経験則などを記憶するための資質シグナルおよび基準値定義348。
いくつかの実施形態では、参加者の資質フィードバックモジュール330は、遠隔会議の間の提示用に、リアルタイムで、ほぼリアルタイムで、または場合によっては遠隔会議の間に情報を作成するためのリアルタイムフィードバックモジュール332と、遠隔会議後の提示用の情報を作成するためのセッション後フィードバックモジュール334とを含む。
いくつかの実施形態では、遠隔会議データ336は、それぞれのセッション338−1〜338−Pについての遠隔会議データ、ならびに特定されたシグナルおよび基準値を含む。遠隔会議セッションについて、そのセッション用のデータ338−1は、オーディオ、ビデオ、および場合によっては、セッションからの他の遠隔会議データを含む遠隔会議セッションデータ340と、参加者の資質シグナル342と、参加者の資質基準値344と、資質シグナル342および資質基準値344を遠隔会議セッション内の時間にインデックス付けするためのインデックス付けデータ346とを含む。
いくつかの実施形態では、資質シグナルおよび基準値定義348は、定義264(図2A〜図2B)と同様のデータ構造を含む。
いくつかの実施形態では、参加者の資質シグナルモジュール324は、オーディオおよびビデオを処理するため(たとえば、オーディオ認識、オーディオ分析、自然言語処理、音声テキスト化、ビデオ内の顔/人物認識、ビデオ内の視線追跡など)の適切なサブモジュールと、場合によっては、他の遠隔会議データ(たとえば、ネットワーク性能評価、キーストローク検出、マウスアクティビティ検出など)を処理するためのサブモジュールとを含む。
いくつかの実施形態では、モジュール324および326は、それぞれのシグナルおよび基準値を特定するための適切なサブモジュールとともに、資質シグナルおよび基準値を特定するための1つのモジュールの中に組み合わされてもよい。
上記で識別された要素の各々は、前述されたメモリデバイスのうちの1つまたは複数に記憶されてもよく、モジュールまたはプログラムの各々は、上述された機能を実施するための命令のセットに対応する。命令のセットは、1つまたは複数のプロセッサ(たとえば、CPU302)によって実行することができる。上記で識別されたモジュールまたはプログラムは、別個のソフトウェアプログラム、プロシージャ、またはモジュールとして実装される必要はなく、したがって、これらのモジュールの様々なサブセットは、様々な実施形態において組み合わされるか、または場合によっては再配置されてもよい。いくつかの実施形態では、メモリ306は、上記で識別されたモジュールおよびデータ構造のサブセットを記憶してもよい。さらに、メモリ306は、上述されていないさらなるモジュールおよびデータ構造を記憶してもよい。
図3はサーバシステムを示すが、図3は、本明細書に記載された実施形態の構造概略図よりも、単一のサーバまたは複数のサーバのセット内に存在してもよい様々な特徴の機能的な説明を目的としている。実際には、当業者によって認識されるように、別々に図示された項目は組み合わされる可能性があり、いくつかの項目は分離される可能性がある。たとえば、図3において別々に示されたいくつかの項目(たとえば、オペレーティングシステム316およびネットワーク通信モジュール318)は、単一のサーバ上に実装される可能性があり、単一の項目は1つまたは複数のサーバによって実装される可能性がある。サーバシステム112を実装するために使用されるサーバの実際の数、およびそれらの間に特徴がどのように割り振られるかは、実施形態ごとに変化し、ピーク使用期間の間ならびに平均使用期間の間にシステムが扱わなければならないデータトラフィックの量に部分的に依存してもよい。
例示的な参加者の資質シグナルおよび対応する基準値
上述されたように、1つまたは複数の参加者の資質シグナルは、遠隔会議内の参加者について特定されてもよい。資質シグナルおよび対応する基準値の例が下記に記載される。これらの例は、クライアントデバイス104および/またはサーバシステム112に記憶された資質シグナルおよび基準値264および/または348を代表する。下記に記載される例は網羅的ではなく、さらなる資質シグナルおよび基準値が考えられることを諒解されたい。さらに、クライアントデバイス104またはサーバシステム112は、下記に記載されるシグナルおよび基準値のサブセットを特定してもよいことを諒解されたい。
いくつかの実施形態では、参加者の資質シグナルは、遠隔会議内で各参加者によって取られる「会話の順番」である。このシグナルは、ユーザ−参加者による割り込まれない連続する発話に基づいて「会話の順番」を検出することにより、遠隔会議のオーディオデータから特定されてもよい。このシグナルに対応する基準値は、遠隔会議の間に各ユーザ−参加者によって取られたそのような順番の数(単位時間当たりの絶対値または平均値)である。いくつかの実施形態では、順番の大きい数は、遠隔会議内の多い堂々巡り、および、したがってユーザ−参加者の間のより多い関与の指示である。
いくつかの実施形態では、参加者の資質シグナル(および対応する基準値)は、「会話の順番」の長さである。このシグナルは、遠隔会議内のユーザ−参加者による「会話の順番」の平均/中間時間長(たとえば、何秒)を特定することにより、遠隔会議のオーディオデータから特定されてもよい。いくつかの実施形態では、長い順番を有するユーザ−参加者は、遠隔会議内でより支配的であると考えられる。
いくつかの実施形態では、参加者の資質シグナルは、ユーザ−参加者による1語の(または場合によっては短い)応答である。このシグナルは、短い「会話の順番」(たとえば、ある特定の時間しきい値(たとえば、800ミリ秒)よりも短い順番、1語または2語のみを含む順番)を識別することにより、遠隔会議のオーディオデータから特定されてもよい。対応する基準値は、ユーザ−参加者によるそのような短い順番の数であってもよい。いくつかの実施形態では、大きい数のそのような短い順番を有するユーザ−参加者は、遠隔会議内であまり支配的ではないと考えられる。
いくつかの実施形態では、参加者の資質シグナルは、繰り返される1語の(または場合によっては短い)応答のパターンある。このシグナルは、あるユーザ−参加者が比較的中長期の発語(たとえば、しきい値の時間長よりも長い発語)を行い、その後続いて別のユーザ−参加者が短い発語(たとえば、しきい値の時間長よりも短い発語、1語または2語のみを有する発語)オーディオ内のパターンを識別することにより、遠隔会議のオーディオデータから特定されてもよい。対応する基準値は、そのようなパターンの数であってもよい。いくつかの実施形態では、そのようなパターンの大きい数は、遠隔会議内の選択回答形式の質問が多いこと、またはある特定のユーザ−参加者が発言に十分に寄与していないような場合があることを示す。
いくつかの実施形態では、参加者の資質シグナル(および対応する基準値)は、ユーザ−参加者による発言の音量である。このシグナルは、ユーザ−参加者の発言入力の音量を測定することにより、遠隔会議のオーディオデータから特定されてもよい。いくつかの実施形態では、より声の大きいユーザ−参加者は、遠隔会議内でより多く関与し、より支配的であると考えられる。
いくつかの実施形態では、参加者の資質シグナルは、ユーザ−参加者の発言のピッチである。このシグナルは、たとえば、時間とともに遠隔会議のオーディオデータの高速フーリエ変換を計算し、スペクトル値における変化を測定することにより、遠隔会議のオーディオデータから特定されてもよい。対応する基準値は変化量である。いくつかの実施形態では、より変化したピッチは、より没頭し、かつ/またはより親和的な参加者を示す。
いくつかの実施形態では、参加者の資質シグナルは、遠隔会議内の自由回答形式の質問の存在であり、対応する基準値は、そのような自由回答形式の質問の数である。このシグナルは、たとえば、発言内の自由回答形式の質問を識別することにより(たとえば、発言内の文を分析することにより)、または質問の発語よりも長い応答の発語により、遠隔会議のオーディオデータから特定されてもよい。
いくつかの実施形態では、参加者の資質シグナルは中断であり、対応する基準値は、ユーザ−参加者による各「順番」の前後の中断の長さ、ならびにそのようなユーザ−参加者当たりの平均値および/または中間値である。このシグナルは、たとえば、各順番の前後の中断の長さを測定することにより、遠隔会議のオーディオデータから特定されてもよい。いくつかの実施形態では、ユーザ−参加者の順番の前の長い中断は、ユーザ−参加者があまり支配的ではないことを示してもよい。いくつかの実施形態では、全体的に短い中断は、ユーザ−参加者の発言における円滑さが大きいことを示す。
いくつかの実施形態では、参加者の資質シグナルは、アイコンタクトである。このシグナルは、たとえば、視線追跡用のコンピュータビジョン顔追跡技法を使用することにより、遠隔会議データのビデオデータから特定されてもよい。このシグナルに対応する基準値は、視線が中心にある(たとえば、視線がカメラ上にある、視線が他のユーザ−参加者のビデオ上にある)時間の長さまたは量である。いくつかの実施形態では、視線が中心にある時間がより長いことは、より没頭していることを示す。
いくつかの実施形態では、参加者の資質シグナルは、うなずきである。このシグナルは、たとえば、ヘッドの配置および移動用のコンピュータビジョン顔追跡技法を使用することにより、遠隔会議データのビデオデータから特定されてもよい。このシグナルに対応する基準値は、ユーザ−参加者がうなずいた回数である。いくつかの実施形態では、より多いうなずきは、より没頭していることを示す。
いくつかの実施形態では、参加者の資質シグナルは、ユーザ−参加者の顔の位置および範囲である。このシグナルは、たとえば、コンピュータビジョン顔追跡技法を使用して、どれだけの視界を顔がカバーするかを測定することにより、遠隔会議データのビデオデータから特定されてもよい。このシグナルに対応する基準値は、ユーザ−参加者の顔がカバーする視界の割合である。いくつかの実施形態では、顔による視界のより大きい範囲は、より没頭していることを示す。
いくつかの実施形態では、参加者の資質シグナルは、ユーザ−参加者によるタイピングまたはマウスアクティビティである。このシグナルは、たとえば、キーストローク、マウスクリック、および/またはマウス移動に耳を傾けることにより、遠隔会議データのユーザ入力データから特定されてもよい。このシグナルに対応する基準値は、ユーザ−参加者がタイピングまたはマウスアクティビティに従事している時間の長さまたは量である。いくつかの実施形態では、より多いタイピングまたはマウスアクティビティは、あまり没頭していないことを示す。いくつかの実施形態では、タイピングまたはマウスクリックアクティビティは、不必要なキーストロークまたはマウスクリックのノイズの取込みを低減するように、マイクロフォン216を調節するためのシグナルとして使用される場合もある。
いくつかの実施形態では、参加者の資質シグナルは、遠隔会議の間のネットワーク性能である。このシグナルは、クライアントデバイス104から取得されたネットワーク統計データ内に取り込まれた、利用可能な実際の帯域幅、送信レート、待ち時間、脱落パケットなどを追跡することにより、(たとえば、遠隔会議データのネットワーク性能データから)特定されてもよい。対応する基準値は、利用可能な帯域幅、送信レート、待ち時間、脱落パケットなどである。いくつかの実施形態では、ネットワーク性能は、不十分な品質のオーディオ/ビデオに対する、またはユーザ−参加者が遠隔会議の部分を逸する場合がある可能性をユーザ−参加者に警告するために使用される場合がある。
いくつかの実施形態では、参加者の資質シグナルは、ユーザ−参加者による割込みであり、対応する基準値は、開始された割込みの数である。このシグナルは、別のユーザ−参加者が発言を終了する前にユーザ−参加者が発言を開始するときを検出し、割り込まれた参加者が発言を譲ったかどうかに基づいて、割込みの成功と不成功との間を区別することにより、遠隔会議のオーディオデータから特定されてもよい。いくつかの実施形態では、ユーザ−参加者によって開始された割込みの数が多いことは、より支配的なユーザ−参加者を示す。
いくつかの実施形態では、参加者の資質シグナル、および対応する基準値は、各発言者によって話された時間の量である。このシグナルは、オーディオデータを処理して、各ユーザ−参加者が話した時間の量を特定することにより、遠隔会議のオーディオデータから特定されてもよい。いくつかの実施形態では、ユーザ−参加者によってより多く話されたことは、より支配的なユーザ−参加者を示す。
いくつかの実施形態では、参加者の資質シグナル、および対応する基準値は、各発言者による発言の速度である。このシグナルは、オーディオデータを処理して、ユーザ−参加者当たりの発言の速度を計算することにより、遠隔会議のオーディオデータから特定されてもよい。いくつかの実施形態では、参加者による発言の速度がより高いことは、より没頭していることを示す。
いくつかの実施形態では、参加者の資質シグナルは、ユーザ−参加者による笑みであり、対応する基準値は、参加者当たりの笑みの数である。このシグナルは、ビデオデータを処理および分析して、参加者による笑みを検出することにより、遠隔会議データのビデオデータから特定されてもよい。いくつかの実施形態では、笑みが多いことは、より肯定的な感情を示す。
参加者の資質シグナルおよび基準値の他の例には、参加者の発言におけるつなぎ言葉または中断言葉(たとえば、「うーん」、「あのー」)、視界内の体の位置、および尋ねる質問(たとえば、最後にトーンが上がる発語、既定の疑問詞につながる発語)が含まれる。
このように参加者の資質シグナルは、参加者の遠隔会議セッションへの影響を示し、資質基準値は、参加者の遠隔会議セッションへの影響の度合いを示す。
例示的なユーザインターフェース
図4Aは、いくつかの実施形態による、例示的な遠隔会議ユーザインターフェースを示す。ユーザインターフェース400は、遠隔会議セッションがアクティブである間に、ユーザ−参加者102のクライアントデバイス104において表示されてもよい。いくつかの実施形態では、ユーザインターフェース400は、遠隔会議内の各クライアントデバイス104において表示され、クライアントデバイス104に固有のユーザインターフェース内にビューおよび情報が提示される。説明を容易にするために、ユーザインターフェース400は、クライアントデバイス104−1(すなわち、クライアントデバイス104−1において表示されたユーザインターフェース400)、およびクライアントデバイス104−1を使用して遠隔会議に参加するユーザ102−1の観点から下記に記載される。
ユーザインターフェース400は、遠隔会議の別のユーザ−参加者404(たとえば、ユーザ102−1以外のユーザ102)を示すビデオビュー402を含む場合がある(たとえば、ビデオビュー402は、遠隔会議内のクライアントデバイス104−1以外のクライアントデバイス104のカメラからのビデオフィードを示す)。遠隔会議内の1人または複数のユーザ−参加者のビデオサムネイル406(たとえば、遠隔会議内のクライアントデバイス104−1以外のクライアントデバイス104からのビデオフィードのビデオサムネイル406−1、およびクライアントデバイス104−1からのビデオフィードのビデオサムネイル406−2)も、ユーザインターフェースに含まれる。いくつかの実施形態では、遠隔会議内のクライアントデバイス104ごとにビデオサムネイル406が存在する。いくつかの実施形態では、遠隔会議内のクライアントデバイス104がビデオデータを送信していない(たとえば、クライアントデバイス104がオーディオのみで参加している)場合、静止画像(たとえば、アバター画像)がサムネイル406内に表示されてもよい。いくつかの実施形態では、アバター画像のサムネイルは、サムネイル406内のビデオの代わりに表示されてもよい。
いくつかの実施形態では、サムネイル406は、対応するユーザが遠隔会議内の別のユーザに割り込んでいると判断された場合、強調表示された境界(たとえば、かなり太い境界、あらかじめ定義された色の境界)とともに表示されてもよい。たとえば、サムネイル406−2のまわりの境界が強調表示され、サムネイル406−2に対応するユーザ102−1が遠隔会議内の別のユーザに現在割り込んでいると判断されたことを示す。
ユーザインターフェース400は、ユーザ102−1に関する参加者の資質シグナルおよび基準値を提示する領域またはパネル408も含む。パネル408は、参加者の寄与可視化410と、ユーザ102−1による割込みのカウント412と、ユーザ102−1による現在または進行中の視線の指示414と、ユーザ102−1による以前の視線の指示416とを含む場合がある。現在の視線の指示414は、(たとえば、矢印を伴う)方向およびユーザ102−1の現在の中心からずれている視線のタイマを示し、以前の視線の指示416は、(たとえば、矢印を伴う)方向およびユーザ102−1の最後に中心からずれていた視線の時間の量を示す。パネル408は、ユーザ102−1の顔/体の位置の指示418を含む場合もある。位置の指示418は、ユーザ102−1の顔または体の位置が中心にあるかどうかを示す(たとえば、チェックマークは顔/体が中心にあることを示し、Xマークは顔/体が中心からずれていることを示す)。
いくつかの実施形態では、強調表示されたバー419(たとえば、あらかじめ定義された色のバー)は、ユーザ102−1が遠隔会議の間に現在中心からずれて注視しており、しきい値の量以上の時間の間注視していたときをユーザ102−1に示すためにユーザインターフェース400内に表示される。バー419は、視線の方向にユーザインターフェース400内で配置される。たとえば、バー419は左に配置され、ユーザ102−1は左方向を注視している。このようにして、バー419は、ユーザ102−1が注視していることをユーザ102−1に警告し、その結果、ユーザ102−1は自分の視線を調整することができる。
図4Bは、いくつかの実施形態による、発言者の寄与基準値の例示的な可視化を示す。図4Bは、参加者の寄与可視化410の拡大図を示す。参加者の寄与可視化410は、遠隔会議の2人以上の参加者用の列420である、(図4A〜図4Bにおける「ジョン」という名前の)ユーザ102−1用の1つの列420−1と、遠隔会議の他のそれぞれのユーザ−参加者102用の1つまたは複数のさらなる列420(「ジェーン」という名前の別のユーザ102用に1つのさらなる列420−2が図4A〜図4B内に示される)とを含む。列420ごとに、遠隔会議内の対応するユーザの発言寄与(すなわち、ユーザが発言した秒数)を示すために、1つまたは複数の形状422(たとえば、円形)が存在する。たとえば、列420−1内に形状422−1〜422−5が存在し、列420−2内に形状422−6〜422−10が存在する。いくつかの実施形態では、形状422−1および422−6は水平方向に位置合せされ(たとえば、行の中に位置合せされ)、形状422−2および422−7は水平方向に位置合せされ(たとえば、別の行の中に位置合せされ)、以下同様である。
列420の場合、各形状422は、定義された時間期間にわたって対応するユーザの発言寄与を可視化するか、または場合によっては示し、形状のサイズは寄与の量を示す。いくつかの実施形態では、定義された期間は60秒であり、形状はユーザが発言した秒数を表し、形状のサイズは発言の秒数が増えるにつれて増大する。最上位の形状422−1および422−6はリアルタイムで(たとえば、毎秒)動的に更新され、現在時刻までの進行する60秒ウィンドウ内で対応するユーザのリアルタイムの発言寄与を示す。列の中の他の形状は、以前の60秒ウィンドウ内のユーザの寄与を示す。形状は水平方向に位置合せされ、その結果、同じ時間期間の間のユーザの寄与を比較することができる。たとえば、水平方向に位置合せされた形状422−1および422−6は、進行する60秒ウィンドウ内の、それぞれ、ジョンおよびジェーンの寄与を示す。同様に水平方向に位置合せされた形状422−2および422−7は、過去の60秒期間内の、それぞれ、ジョンおよびジェーンの寄与を示す。同様に水平方向に位置合せされた形状422−3および422−8は、形状422−2および422−7が対応する60秒期間直前の60秒期間内の、それぞれ、ジョンおよびジェーンの寄与を示し、以下同様である。いくつかの実施形態では、過去の時間期間に対応する形状は固定されている。いくつかの実施形態では、列420ごとに、ユーザのリアルタイムの寄与を示すために、1つの動的に更新される形状(たとえば、形状422−1、422−6)が存在し、ユーザの最近の発言寄与履歴を示すために、列内にあらかじめ定義された量までの1つまたは複数のさらなる形状(たとえば、形状422−2〜422−5、422−6〜422−10)が存在する。
このように、たとえば、図4Bでは、形状422−1および422−6のサイズに基づいて、ジェーンは、最後の60秒内に遠隔会議においてより多くの発言寄与を有する。形状422−2および422−7のサイズに基づいて、前の60秒ウィンドウ内で、ジョンおよびジェーンの寄与はほぼ等しかった。形状422−5および422−10のサイズに基づいて、さらに過去の60秒ウィンドウ内で、ジョンはジェーンよりも大きい寄与を有した。
いくつかの実施形態では、直前の60秒ウィンドウ内で発言された秒数は、ユーザが黙っていると、現在の60秒ウィンドウ内の発言量から減算される。このようにして、形状のサイズはより表示空間効率がよい。
図5は、いくつかの実施形態による、遠隔会議後の参加者の資質のフィードバック用の例示的なユーザインターフェースの図である。図5は、遠隔会議後の要約ユーザインターフェース500を示す。要約ユーザインターフェース500は、様々なチャート、グラフ、可視化、ならびに、遠隔会議セッション用に特定された参加者の資質シグナルおよび基準値の他の指示を含む。説明を容易にするために、要約ユーザインターフェース500は、ユーザインターフェース500がクライアントデバイス104−1においてユーザ102−1に表示されているように記載される。
要約ユーザインターフェース500は、遠隔会議後の発言者の寄与可視化502を含む。発言者の寄与可視化502は、その中で可視化502がユーザ102−1および1人または複数の他のユーザ102の寄与を示し、そのサイズが発言者の寄与の量を伝える形状も利用する可視化410と同様である。可視化502は、遠隔会議セッションの結末(たとえば、遠隔会議の最後15分)において(時間ウィンドウに分割される)定義された時間期間内の発言者の寄与を示す。いくつかの実施形態では、遠隔会議セッションがすでに終わっているので、可視化502内の形状は固定されている。いくつかの実施形態では、可視化502内の時間ウィンドウは、可視化410内の時間ウィンドウよりも大きい場合がある(たとえば、60秒ウィンドウの代わりに3分ウィンドウ)。
要約ユーザインターフェース500は、遠隔会議セッション内のユーザ−参加者の全体的な発言寄与をパーセント単位で示す、全体的な発言寄与パイチャート504も含む。
要約ユーザインターフェース500は、ユーザ102−1による全割込みのカウント、およびタイムライン上にマークされたユーザ102−1による割込みを伴う遠隔会議タイムラインを示す、発言者割込みグラフィック506も含む。
要約ユーザインターフェース500は、ユーザ102−1の顔/体の位置が、それぞれ、中心にあったこと、および中心からはずれていたことの遠隔会議の割合を示す、顔/体の位置パイチャート508も含む。
要約ユーザインターフェース500は、遠隔会議セッションの間のユーザの最も頻度が高い注視方向、平均注視時間、および注視ヒートマップチャート512を示す、視線グラフィック510も含む。注視ヒートマップチャート512は、領域によって遠隔会議の間のユーザ102−1の注視の方向を示し、領域の陰影付けはそれぞれの方向における注視の量を示す。いくつかの実施形態では、注視ヒートマップチャート512において、ユーザによる「許容できる」注視の方向に対応する上部中央領域は緑に色づけされ、中心からはずれている注視領域(左、右、中央下)は、それぞれの方向に注視がある場合赤に色づけされ(陰影強度は注視の量を示す)、それぞれの方向に注視がない場合白に色づけされる。
要約ユーザインターフェース500は、遠隔会議プレーヤインターフェース514も含む。遠隔会議プレーヤインターフェース514は、再生/一時停止ボタン、再生時間インジケータ、スクラバー、音量制御、およびフルウィンドウモードに入るか、またはそこから戻るボタンなどの、メディア再生制御盤を含む。ユーザ102−1は、遠隔会議データプレーヤインターフェース514を使用して、遠隔会議のオーディオおよびビデオ、ならびに自分自身および場合によっては遠隔会議内の1人または複数の他のユーザ102のユーザインターフェース400を再生する。このようにして、ユーザ102−1は、遠隔会議の間の自分の挙動および状態を見直すことができる。
いくつかの実施形態では、要素502、504、506、508、および510は、ユーザ102−1がプレーヤインターフェース514を使用して遠隔会議を再生するにつれて、動的に更新して、再生位置の時点のシグナルおよび基準値を反映してもよい。このようにして、ユーザ102−1は、遠隔会議の継続時間にわたってシグナルおよび基準値がどのように変化したかを見ることができる。資質シグナルおよび基準値は遠隔会議内のタイムスタンプにインデックス付けされるので、要素502、504、506、508、および510は、プレーヤインターフェース514内の再生位置の時点のシグナルおよび基準値を表すことができる。
要約ユーザインターフェース500およびその中に含まれる要素は、例にすぎないことを諒解されたい。多いかまたは少ない要素が含まれてもよく、ユーザインターフェース500内で同じシグナルおよび基準値を示す代替方法が考えられる。
例示的なプロセス
図6は、いくつかの実施形態による、遠隔会議参加者の資質のフィードバックを提供するための方法(プログラム)のフロー図600を示す。いくつかの実施形態では、方法600は、1つまたは複数のプロセッサと、1つまたは複数のプロセッサによる実行用の1つまたは複数のプログラムを記憶するメモリとを有するコンピューティングデバイスにおいて(たとえば、遠隔会議環境100内のクライアントデバイス104において、遠隔会議環境110内のサーバシステム112において)実施される。
デバイスは、2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得し(602)、遠隔会議データは、オーディオデータおよびビデオデータのうちの1つまたは複数を備える。遠隔会議データ取得モジュール238または322は、確立された進行中の遠隔会議セッションから(たとえば、それぞれ、クライアントデバイス104またはサーバシステム112から送受信された遠隔会議データのストリームから)遠隔会議データを取得する。遠隔会議データは、オーディオデータおよびビデオデータ、ならびに場合によってはさらなるデータ(たとえば、スクリーン共有データ、文書、ユーザ入力データ(たとえば、キーストローク、マウスクリック、カーソル移動)、ノート、チャット、および、遠隔会議の間に共有される他の情報などの他のコンテンツ)を含む。遠隔会議データは、資質シグナルおよび基準値の特定と、遠隔会議後のインデックス付けされた見直しの両方のための入力として有用である。
デバイスは、遠隔会議データに基づいて参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定し(604)、参加者の資質シグナルのうちの少なくとも1つは、時間とともに変化する。クライアントデバイス104において、その中の参加者の資質シグナルモジュール240は、遠隔会議セッションの遠隔会議データ252を処理して、少なくともクライアントデバイス104に関連付けられたユーザ102、および場合によってはさらなるユーザ102について、1つまたは複数の参加者の資質シグナルを特定する。サーバシステム112において、その中の参加者の資質シグナルモジュール324は、遠隔会議データ336を処理して、1人または複数のユーザ−参加者102(たとえば、特定を認可するユーザ−参加者102)について、1つまたは複数の参加者の資質シグナルを特定する。シグナルは、参加者の資質シグナルモジュール240によって特定されようと、参加者の資質シグナルモジュール324によって特定されようと、遠隔会議が進行するにつれて時間とともに変化し、モジュール240/324は、新しい遠隔会議データが取得されたときに、遠隔会議セッションの継続時間にわたってシグナルを特定する。
デバイスは、参加者の資質シグナルに基づいて参加者のうちの少なくとも1人について、参加者の資質基準値を特定する(606)。クライアントデバイス104において、その中の参加者の資質基準値モジュール242は、少なくともクライアントデバイス104に関連付けられたユーザ102、および場合によってはさらなるユーザ102について特定されたシグナルに基づいて、1つまたは複数の参加者の資質基準値を特定する。サーバシステム112において、その中の参加者の資質基準値モジュール326は、1人または複数のユーザ−参加者102(たとえば、特定を認可するユーザ−参加者102)について特定されたシグナルに基づいて、1つまたは複数の参加者の資質基準値を特定する。基準値は、参加者の資質基準値モジュール242によって特定されようと、参加者の資質基準値モジュール326によって特定されようと、同様に、遠隔会議が進行するにつれて時間とともに変化し、モジュール242/326は、遠隔会議セッションの継続時間にわたってシグナルが特定されたときに、遠隔会議セッションの継続時間にわたって基準値を特定する。
デバイスは、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供し(608)、情報は、グラフィック形式、テキスト形式、および音響形式のうちの1つまたは複数で提供される。クライアントデバイス104において、参加者の資質フィードバックモジュール246は、シグナルおよび基準値に対応する情報を作成し、クライアントデバイス104においてクライアントデバイス104に関連付けられたユーザ102に情報を提示する(たとえば、ユーザインターフェース400または500を表示する、音響警告を出力する)。サーバシステム112において、参加者の資質フィードバックモジュール330は、シグナルおよび基準値に対応する情報(たとえば、ユーザインターフェース400または500、オーディオ警告用のオーディオ)を作成し、提示用にクライアントデバイス104に情報を送信する。いくつかの実施形態では、サーバシステム112は、クライアントデバイス104にシグナルおよび基準値のデータを送信し、クライアントデバイス104は、情報(たとえば、ユーザインターフェース400または500、オーディオ警告用のオーディオ)を作成し提示する。
いくつかの実施形態では、提供される情報は、音響情報(たとえば、音響通知または音響警告)、グラフィカル情報、および/またはテキスト情報を含む。グラフィカル情報および/またはテキスト情報は、ユーザインターフェース(たとえば、ユーザインターフェース400または500)内で提示されてもよい。
いくつかの実施形態では、遠隔会議セッションの時間的に変化する遠隔会議データを取得することは、遠隔会議セッションの間にリアルタイムで遠隔会議データを取得することを含む。遠隔会議データ取得モジュール238または322は、確立された進行中の遠隔会議セッションから(たとえば、それぞれ、クライアントデバイス104またはサーバシステム112から送受信された遠隔会議データのストリームから)、遠隔会議が進行するにつれてリアルタイムで遠隔会議データを取得する。
いくつかの実施形態では、遠隔会議データに基づいて参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することは、遠隔会議セッションの間にリアルタイムで参加者の資質シグナルを特定することを含み、参加者の資質シグナルに基づいて参加者のうちの少なくとも1人について参加者の資質基準値を特定することは、遠隔会議セッションの間にリアルタイムで参加者の資質基準値を特定することを含む。シグナルおよび基準値は、遠隔会議が進行するにつれてリアルタイムで特定されてもよく、リアルタイムのシグナルおよび基準値は、遠隔会議全体を通してリアルタイムで参加者の資質を反映する。
いくつかの実施形態では、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することは、遠隔会議セッションの間にリアルタイムで情報を提供することを含む。情報は、遠隔会議の間にリアルタイムで提供されてもよい(たとえば、遠隔会議ユーザインターフェース400内で表示され、クライアントデバイス104に送信されてもよい)。
いくつかの実施形態では、遠隔会議セッションの間にリアルタイムで情報を提供することは、参加者のうちの少なくとも1人に1つまたは複数のプロンプトを与えて、遠隔会議セッションの間に参加者の資質シグナルに関連付けられた挙動および/または位置を調整することを含む。質の低い挙動または状態の通知、警告、または他の指示は、遠隔会議の間に提示されてもよい。たとえば、バー419は、ユーザの注視にユーザの注意を引くために、遠隔会議の間にユーザインターフェース400内に表示されてもよい。別の例として、ユーザのサムネイル406−2は、ユーザが割り込んでいることを示すために強調表示されてもよい。さらなる例として、位置インジケータ418は、ユーザの位置が中心にあるかどうかを示し、発言寄与可視化410は、別のユーザと比較してユーザの更新された発言寄与を示す。これらの表示された要素は、質の低い挙動または状態をユーザに警告するように働く。さらに、オーディオ警告またはオーディオ通知は、質の低い挙動または状態をユーザに警告するために遠隔会議の間に提示されてもよい。
いくつかの実施形態では、プロンプトは、1つまたは複数のモダリティにおいて提示されてもよく、モダリティは、ユーザ−参加者の状況およびコンテキストに依存する場合がある。たとえば、ビデオストリーム内に分断がある場合、または視覚的なプロンプトの提示が会話を妨げる場合、視覚的ではなくオーディオを介してプロンプトが提示されてもよい。モダリティは、ビジュアル(テキスト、アイコン、グラフィック)、オーディオ(言葉、音色、音声)、振動触覚(ブザー、パルス)、または、クライアントデバイスに接続されたアクチュエータの他のモダリティであってもよい。
いくつかの実施形態では、プロンプトは、基準値(たとえば、基準値の可視化)についてのフィードバックを提供するだけでなく、自分自身で基準値を解釈することをユーザ−参加者に要求しない、挙動または位置の変更のための指示またはガイダンスも、ユーザ−参加者に提供する。
たとえば、ユーザ−参加者の発言の速度が、あらかじめ定義されたしきい値またはユーザの前の挙動に基づくしきい値のセットを超えると、もっとゆっくりおよび/またははっきりと発言するようにユーザに指示するプロンプトが、ユーザに提示される場合がある。変更の望ましい結果は、ユーザがもっとゆっくりおよびはっきりと発言し、そのため他のユーザが発言するユーザをより良く理解できることである。
たとえば、ユーザ−参加者の発言寄与が、遠隔会議内の他のユーザ−参加者の数に基づいてあらかじめ定義されたしきい値を超えると、発言を少なくし、より多く聴くようにユーザに指示するプロンプトがユーザに提示される場合がある。変更の望ましい結果は、遠隔会議内の他のユーザがより多く寄与することができるように、ユーザが遠隔会議を過度に支配しないことである。
たとえば、ユーザ−参加者が他のユーザへの割込みに成功した数が時間期間内のある特定の比率(たとえば、あらかじめ定義されたしきい値の比率)を超えると、ユーザが発言を開始する前に他のユーザが発言を終了することを可能にするようにユーザに指示するプロンプトがユーザに提示される場合がある。変更の望ましい結果は、ユーザが他のユーザに割り込まず、他のユーザ越しに話さないことである。
たとえば、ユーザ−参加者の中心からずれている視線の累積継続時間がしきい値(たとえば、あらかじめ定義された固定しきい値、現在の遠隔会議内の時間量に対するしきい値、遠隔会議全体を通して系統的に変化するしきい値)を超えると、より頻繁に他のユーザとのアイコンタクトを再確立するようにユーザに指示するプロンプトがユーザに提示される場合がある。変更の望ましい結果は、ユーザがより効果的に視線を使用して注意を伝えることができることである。
たとえば、ユーザの検出された顔/体に対応する(たとえば、それによって一杯になった)視野の部分があらかじめ定義されたしきい値よりも小さいとき、他のユーザがユーザをより良く見ることができるようにカメラにより近づくようにユーザに指示するプロンプトがユーザに提示される場合がある。変更の望ましい結果は、遠隔会議内の他のユーザがユーザをより良く見ることができ、このようにユーザが顔および体の表現をより効果的に使用して、言葉を使わないで伝えることができることである。
たとえば、カメラビュー内でユーザの顔を検出する際の信頼度がしきい値を下回るとき、または、顔検出が顔検出状態と顔非検出状態との間をすぐにぐらつくとき、照明を調整するようにユーザに指示するプロンプトがユーザに提示される場合がある。変更の望ましい結果は、ユーザが自分の顔を遠隔会議内の他のユーザによって容易に見られるようにすることができることである。
いくつかの実施形態では、遠隔会議セッションの間にリアルタイムで情報を提供することは、遠隔会議セッションの間に参加者の資質基準値ユーザインターフェースを提供することを含み、参加者の資質基準値ユーザインターフェースは、遠隔会議ユーザインターフェースと同時に遠隔会議セッションの間に表示されるように構成され、情報は参加者の資質基準値ユーザインターフェース内に表示されるように構成される。パネル408は遠隔会議ユーザインターフェース400内に表示されてもよく、パネルは参加者の資質基準値に対応する情報を含む。たとえば、パネル408は、発言者寄与可視化410と、割込みカウント412と、それぞれ、現在の視線インジケータ414および以前の視線インジケータ416と、位置インジケータ418とを含む。
いくつかの実施形態では、情報は、参加者のうちの1人が参加者のうちの別の1人に割り込んでいる指示、参加者のうちの参加者による割込みのカウント、参加者のうちの参加者による注視の指示、参加者のうちの注視する参加者による注視の継続時間タイマ、参加者のうちの参加者が遠隔会議セッションのビデオビュー内の中心にあるかどうかの指示、および、遠隔会議セッション内の時間期間単位の参加者による相対的な発言寄与の指示のうちの1つまたは複数を含む。たとえば、ユーザインターフェース400は、あるユーザが別のユーザに割り込んでいる指示(たとえば、サムネイル406−2の強調表示)、ユーザによる注視の指示(たとえば、バー419)、ユーザの注視のタイマ(たとえば、現在の視線インジケータ414),ユーザの体の位置が中心にあるかどうかの指示(たとえば、位置インジケータ418)、および、ユーザの発言寄与を別のユーザの発言寄与と比較する発言者の寄与可視化410を含む。
いくつかの実施形態では、遠隔会議セッション内の時間期間単位の参加者による相対的な発言寄与の指示は、参加者のうちの参加者について、第1のグラフィカルオブジェクトであって、第1のグラフィカルオブジェクトのサイズが、あらかじめ定義された時間長の進行する時間ウィンドウにわたる参加者の相対的な発言寄与を表し、第1のグラフィカルオブジェクトがリアルタイムで更新される、第1のグラフィカルオブジェクトと、1つまたは複数の第2のグラフィカルオブジェクトのセットであって、第2のグラフィカルオブジェクトの各々が、あらかじめ定義された時間長の過去の時間期間に対応し、第2のグラフィカルオブジェクトのサイズが、過去の時間期間内の参加者の相対的な発言寄与を表す、1つまたは複数の第2のグラフィカルオブジェクトのセットとを含む。発言寄与可視化410は、ユーザについて、進行する時間期間にわたるリアルタイムの寄与を示す形状(たとえば、422−1または422−6)と、過去の時間期間にわたる寄与を示すさらなる形状(たとえば、422−2〜422−5または422−7〜422−10)とを含む。形状のサイズは、対応する時間期間にわたるユーザの寄与の量を反映し、同じ時間期間の間の異なるユーザの形状を互いに比較することができる。
いくつかの実施形態では、デバイスは、1つまたは複数の参加者の資質シグナルを遠隔会議セッション内の対応する時間にインデックス付けする。シグナルインデックス付けモジュール244または328は、特定されたシグナルおよび対応する基準値を遠隔会議内のタイムスタンプにインデックス付けする。
いくつかの実施形態では、デバイスは、インデックス付けに従って情報を提供する。たとえば、ユーザインターフェース500では、割込みグラフィック506は、遠隔会議のタイムラインにおいて検出された割込みのインスタンスを示し、検出された割込みは、遠隔会議内のタイムスタンプにインデックス付けされる。さらに、ユーザインターフェース500内の要素は、遠隔会議が進行するにつれてシグナルおよび基準値がどのように進化するかを示してもよい。
いくつかの実施形態では、デバイスは、遠隔会議セッションが終了した後に情報を提供する。たとえば、要約ユーザインターフェース500は、遠隔会議が終了した後の資質シグナルおよび基準値の見直しのために、遠隔会議後に表示されてもよい。
いくつかの実施形態では、デバイスは、遠隔会議セッション用の参加者の資質要約ユーザインターフェースを提供し、情報は、参加者の資質要約ユーザインターフェース内に表示されるように構成される。たとえば、要約ユーザインターフェース500は、遠隔会議が終了した後の資質シグナルおよび基準値の見直しのために、遠隔会議後に表示されてもよい。セッション後フィードバックモジュール250または334は、要約ユーザインターフェース500内の表示用のシグナルおよび基準値に基づいて、要約ユーザインターフェース500内の要素(たとえば、要素502、504)を作成する。
いくつかの実施形態では、参加者の資質要約ユーザインターフェースは、コンテンツプレーヤユーザインターフェースを含み、コンテンツプレーヤユーザインターフェースは、遠隔会議セッションのオーディオデータおよび/またはビデオデータを再生し、オーディオデータおよび/またはビデオデータとともに情報の少なくとも一部分を表示するように構成される。要約ユーザインターフェース500は、遠隔会議データのオーディオ/ビデオを再生し、遠隔会議内のユーザによって見られるようにユーザインターフェース400も示す、プレーヤインターフェース514を含む。
いくつかの実施形態では、遠隔会議後情報は、参加者のうちの参加者による全割込みのカウント、遠隔会議セッションの継続時間にわたる参加者のうちの参加者による割込みのタイムライン、参加者のうちの参加者による方向単位の注視の量の指示、参加者のうちの参加者による平均視線時間の指示、参加者のうちの参加者による位置単位の顔および/または体の配置の量の指示、遠隔会議セッションの継続時間にわたる参加者による発言寄与の指示、ならびに、遠隔会議セッション内の時間期間単位の参加者による相対的な発言寄与の指示のうちの1つまたは複数を含む。たとえば、要約ユーザインターフェース500は、ユーザによる全割込みのカウント、および、ユーザの割込みがタイムライン内で示される遠隔会議のタイムラインを示す割込みグラフィック506と、(たとえば、視線チャート512内の)方向単位の注視の量、および平均視線時間を示す視線グラフィック510と、顔/体位置パイチャート508と、発言寄与パイチャート504と、遠隔会議後の発言者寄与可視化502とを含む。
いくつかの実施形態では、オーディオデータは、遠隔会議セッションの1つまたは複数のオーディオストリームを含む。遠隔会議データは、遠隔会議セッション内の複数のクライアントデバイス104からのオーディオストリームを含む。いくつかの実施形態では、複数のオーディオストリームは、1人または複数の参加者についての参加者の資質シグナルおよび基準値の分析に入力される。たとえば、取る順番に関するシグナルおよび基準値は、参加者および他の参加者のオーディオストリームに依存する。
いくつかの実施形態では、ビデオデータは、遠隔会議セッションの1つまたは複数のビデオストリームを含む。遠隔会議データは、遠隔会議セッション内の複数のクライアントデバイス104からのビデオストリームを含む。いくつかの実施形態では、複数のビデオストリームは、1人または複数の参加者についての参加者の資質シグナルおよび基準値の分析に入力される。
いくつかの実施形態では、コンピューティングデバイスはサーバシステムであり、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することは、表示用に参加者のうちの少なくとも1人に関連付けられたクライアントデバイスに情報を送信することを含む。遠隔会議環境110内のサーバシステム112は、遠隔会議データからシグナルおよび基準値を特定し、シグナルおよび基準値に基づいて情報(たとえば、ユーザインターフェース400または500およびその中に含まれる情報)を作成し、提示用にクライアントデバイス104に情報を送信する。
いくつかの実施形態では、遠隔会議環境(たとえば、環境110)は、遠隔会議セッションを確立し、遠隔会議データを処理する中央サーバ(たとえば、サーバシステム112)を含む。いくつかの実施形態では、遠隔会議環境(たとえば、環境100)は、中央サーバなしに(たとえば、WebRTCを介して接続された)ピアツーピア接続内の各クライアント(たとえば、各クライアントデバイス104)においてローカルに発生する、遠隔会議データストリームの処理を有してもよい。各クライアントは、ローカルにデータストリームを処理して、資質シグナルおよび基準値を特定し、同じクライアント上のシグナルおよび基準値に基づいて、グラフィック情報、テキスト情報、および/または音響情報を提示する。
いくつかの実施形態では、コンピューティングデバイスは、遠隔会議セッション内の参加者のうちの1人に関連付けられたクライアントデバイスであり、参加者の資質基準値に対応する情報を参加者のうちの少なくとも1人に提供することは、情報を表示することを備える。遠隔会議環境100内のクライアントデバイス104は、シグナルおよび基準値を特定し、シグナルおよび基準値に基づいて情報を作成し、情報を提示(たとえば、表示)する。
いくつかの実施形態では、デバイスは、参加者のうちの参加者に、参加者のうちの別の参加者の参加者の資質基準値に対応する情報を提供する。クライアントデバイス104−1において、デバイス104−1に関連付けられたユーザ102−1以外のユーザの参加者の資質シグナルおよび基準値に対応する情報は、(他のユーザの認証を有する)ユーザ102−1に提示されてもよい。
いくつかの実施形態では、デバイスは、遠隔会議セッション用の遠隔会議データ、特定された参加者の資質シグナル、および特定された参加者の資質基準値を記憶する。クライアントデバイス104またはサーバシステム112は、(たとえば、遠隔会議データ252または336の中に)遠隔会議データを記憶する。
いくつかの実施形態では、遠隔会議セッションの遠隔会議データは、参加者に関連付けられた複数のクライアントデバイスのうちの1つまたは複数から遠隔会議セッションの間に取得されたユーザ入力データをさらに含む。遠隔会議データは、クライアントデバイス104からのユーザ入力データ(たとえば、キーストローク、マウスクリック、カーソル移動)を含む場合がある。ユーザ入力データは、いくつかの資質シグナル(たとえば、参加者によるタイピング/マウスアクティビティ)の特定のために入力される。
様々な要素を記載するために、本明細書において「第1の」、「第2の」などの用語が使用される場合があるが、これらの要素はこれらの用語によって限定されるべきではないことを理解されたい。これらの用語は、1つの要素を別の要素から区別するために使用されるにすぎない。たとえば、第1の接点は第2の接点と呼ばれる可能性があり、同様に、第2の接点は第1の接点と呼ばれる可能性があり、「第1の接点」のすべての出現が均一に改名され、第2の接点のすべての出現が均一に改名される限り、それは記載の意味を変更する。第1の接点および第2の接点は両方とも接点であるが、それらは同じ接点ではない。
本明細書において使用される用語は、特定の実施形態のみを記載するためであり、特許請求の範囲を限定することを意図するものではない。実施形態および添付の特許請求の範囲の説明において使用されるように、単数形の「a」、「an」、および「the」は、文脈が特に明確に示さない限り、複数形も含むことを意図する。本明細書において使用される「および/または」という用語は、関連する列挙された項目のうちの1つまたは複数のありとあらゆる可能な組合せを指し、包含することも理解されたい。「備える」および/または「備えている」という用語は、本明細書において使用されると、述べられた特徴、整数、ステップ、動作、要素、および/または構成要素の存在を指定するが、1つまたは複数の他の特徴、整数、ステップ、動作、要素、構成要素、および/またはそれらのグループの存在または追加を排除しないことをさらに理解されたい。
本明細書において使用されるように、「する場合」という用語は、文脈に応じて、述べられた前の条件が真である「とき」または「とすると」または「と判定することに応答して」または「との判定に従って」または「と検出することに応答して」を意味するように解釈されてもよい。同様に、「[述べられた前の条件が真である]と判定された場合」または「[述べられた前の条件が真である]場合」または「[述べられた前の条件が真である]とき」というフレーズは、文脈に応じて、述べられた前の条件が真である「と判定すると」または「と判定することに応答して」または「との判定に従って」または「と検出することに応答して」を意味するように解釈されてもよい。
次に、それらの例が添付図面に示されている様々な実施形態に対して、詳細に参照が行われる。以下の詳細な説明では、本発明および記載された実施形態を完全に理解するために、多数の具体的な詳細が明記される。しかしながら、本発明は、これらの具体的な詳細なしに実践されてもよい。他の例では、実施形態の態様を不必要に覆い隠さないように、良く知られている方法、手順、構成要素、および回路は、詳細に記載されていない。
説明のための前述の記載は、特定の実施形態を参照して記載されている。しかしながら、上記の例示的な説明は、発明を開示された厳密な形態に徹底または限定を意図するものではない。上記の教示に鑑みて、多くの修正形態および変形形態が考えられる。実施形態は、本発明の原理およびその実際的な適用例を最も良く説明し、それにより、他の当業者が本発明および様々な修正形態を伴う様々な実施形態を、考えられる特定の使用法に適するように最も良く利用することを可能にするために、選択および記載される。

Claims (23)

  1. 1つまたは複数のプロセッサと、前記1つまたは複数のプロセッサによる実行用の1つまたは複数のプログラムを記憶するメモリとを有するコンピューティングデバイスにおいて、
    2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得するステップであって、前記遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を備える、ステップと、
    前記遠隔会議データに基づいて前記参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定するステップであって、前記参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、ステップと、
    前記参加者のうちの少なくとも1人について前記参加者の資質シグナルに基づいて参加者の資質基準値を特定するステップと、
    前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供するステップであって、前記情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、ステップと
    を備える、方法。
  2. 遠隔会議セッションの時間的に変化する遠隔会議データを取得するステップが、前記遠隔会議セッションの間にリアルタイムで前記遠隔会議データを取得するステップを備える、請求項1に記載の方法。
  3. 前記遠隔会議データに基づいて前記参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定するステップが、前記遠隔会議セッションの間にリアルタイムで前記参加者の資質シグナルを特定するステップを備え、
    前記参加者の資質シグナルに基づいて前記参加者のうちの少なくとも1人について参加者の資質基準値を特定するステップが、前記遠隔会議セッションの間にリアルタイムで前記参加者の資質基準値を特定するステップを備える、
    請求項2に記載の方法。
  4. 前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供するステップが、前記遠隔会議セッションの間にリアルタイムで前記情報を提供するステップを備える、請求項3に記載の方法。
  5. 前記遠隔会議セッションの間にリアルタイムで前記情報を提供するステップが、前記参加者のうちの前記少なくとも1人に1つまたは複数のプロンプトを与えて、前記遠隔会議セッションの間に前記参加者の資質シグナルに関連付けられた挙動および/または位置を調整するステップを備える、請求項4に記載の方法。
  6. 前記遠隔会議セッションの間にリアルタイムで前記情報を提供するステップが、前記遠隔会議セッションの間に参加者の資質基準値ユーザインターフェースを提供するステップを備え、前記参加者の資質基準値ユーザインターフェースが、遠隔会議ユーザインターフェースと同時に前記遠隔会議セッションの間に表示されるように構成され、前記情報が前記参加者の資質基準値ユーザインターフェース内に表示されるように構成される、請求項4に記載の方法。
  7. 前記情報が、
    前記参加者のうちの1人が前記参加者のうちの別の1人に割り込んでいる指示、
    前記参加者のうちの参加者による割込みのカウント、
    前記参加者のうちの参加者による注視の指示、
    前記参加者のうちの前記注視する参加者による前記注視の継続時間タイマ、
    前記参加者のうちの参加者が前記遠隔会議セッションのビデオビュー内の中心にあるかどうかの指示、および
    前記遠隔会議セッション内の時間期間単位の前記参加者による相対的な発言寄与の指示
    のうちの1つまたは複数を備える、請求項6に記載の方法。
  8. 前記遠隔会議セッション内の時間期間単位の前記参加者による相対的な発言寄与の前記指示が、前記参加者のうちの参加者について、
    第1のグラフィカルオブジェクトであって、前記第1のグラフィカルオブジェクトのサイズが、あらかじめ定義された時間長の進行する時間ウィンドウにわたる前記参加者の相対的な発言寄与を表し、前記第1のグラフィカルオブジェクトがリアルタイムで更新される、第1のグラフィカルオブジェクトと、
    1つまたは複数の第2のグラフィカルオブジェクトのセットであって、前記第2のグラフィカルオブジェクトの各々が、前記あらかじめ定義された時間長の過去の時間期間に対応し、前記第2のグラフィカルオブジェクトのサイズが、前記過去の時間期間内の前記参加者の相対的な発言寄与を表す、1つまたは複数の第2のグラフィカルオブジェクトのセットと
    を備える、請求項7に記載の方法。
  9. 1つまたは複数のプロセッサと、
    前記1つまたは複数のプロセッサによって実行されるべき1つまたは複数のプログラムを記憶するメモリと
    を備えるコンピューティングデバイスであって、前記1つまたは複数のプログラムが、
    2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得することであって、前記遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を備える、取得することと、
    前記遠隔会議データに基づいて前記参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することであって、前記参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、特定することと、
    前記参加者のうちの少なくとも1人について前記参加者の資質シグナルに基づいて参加者の資質基準値を特定することと、
    前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供することであって、前記情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、提供することと
    を行うための命令を備える、コンピューティングデバイス。
  10. 前記1つまたは複数の参加者の資質シグナルを前記遠隔会議セッション内の対応する時間にインデックス付けするための命令をさらに備える、請求項9に記載のコンピューティングデバイス。
  11. 前記インデックス付けに従って前記情報を提供するための命令をさらに備える、請求項10に記載のコンピューティングデバイス。
  12. 前記遠隔会議セッションが終了した後に前記情報を提供するための命令をさらに備える、請求項9に記載のコンピューティングデバイス。
  13. 前記遠隔会議セッション用の参加者の資質要約ユーザインターフェースを提供するための命令をさらに備え、前記情報が、前記参加者の資質要約ユーザインターフェース内に表示されるように構成される、請求項12に記載のコンピューティングデバイス。
  14. 前記参加者の資質要約ユーザインターフェースが、コンテンツプレーヤユーザインターフェースを備え、前記コンテンツプレーヤユーザインターフェースが、前記遠隔会議セッションの前記オーディオデータおよび/またはビデオデータを再生し、前記オーディオデータおよび/またはビデオデータとともに前記情報の少なくとも一部分を表示するように構成される、請求項13に記載のコンピューティングデバイス。
  15. 前記情報が、
    前記参加者のうちの参加者による全割込みのカウント、
    前記遠隔会議セッションの継続時間にわたる前記参加者のうちの参加者による割込みのタイムライン、
    前記参加者のうちの参加者による方向単位の注視の量の指示、
    前記参加者のうちの参加者による平均視線時間の指示、
    前記参加者のうちの参加者による位置単位の顔および/または体の配置の量の指示、
    前記遠隔会議セッションの前記継続時間にわたる前記参加者による発言寄与の指示、ならびに
    前記遠隔会議セッション内の時間期間単位の前記参加者による相対的な発言寄与の指示
    のうちの1つまたは複数を備える、請求項13に記載のコンピューティングデバイス。
  16. プログラムが、1つまたは複数のプロセッサを有するコンピューティングデバイスによって実行されると、
    2人以上の参加者を有する遠隔会議セッションの時間的に変化する遠隔会議データを取得することであって、前記遠隔会議データがオーディオデータおよびビデオデータのうちの1つまたは複数を備える、取得することと、
    前記遠隔会議データに基づいて前記参加者のうちの少なくとも1人について1つまたは複数の参加者の資質シグナルを特定することであって、前記参加者の資質シグナルのうちの少なくとも1つが時間とともに変化する、特定することと、
    前記参加者のうちの少なくとも1人について前記参加者の資質シグナルに基づいて参加者の資質基準値を特定することと、
    前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供することであって、前記情報がグラフィック形式、テキスト形式、および音響形式のうちの少なくとも1つで提供される、提供することと
    を備える動作を前記コンピューティングデバイスに実施させるプログラム。
  17. 前記オーディオデータが、前記遠隔会議セッションの1つまたは複数のオーディオストリームを備える、請求項16に記載のプログラム。
  18. 前記ビデオデータが、前記遠隔会議セッションの1つまたは複数のビデオストリームを備える、請求項16に記載のプログラム。
  19. 前記コンピューティングデバイスがサーバシステムであり、
    前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供することが、表示用に前記参加者のうちの少なくとも1人に関連付けられたクライアントデバイスに前記情報を送信することを備える、
    請求項16に記載のプログラム。
  20. 前記コンピューティングデバイスが、前記遠隔会議セッション内の前記参加者のうちの1人に関連付けられたクライアントデバイスであり、
    前記参加者の資質基準値に対応する情報を前記参加者のうちの少なくとも1人に提供することが、情報を表示することを備える、
    請求項16に記載のプログラム。
  21. 前記参加者の資質シグナルは、前記参加者の前記遠隔会議セッションへの影響を示し、
    前記資質基準値は、前記参加者の前記遠隔会議セッションへの影響の度合いを示し、
    前記参加者の資質基準値に対応する情報は、前記参加者へのフィードバック情報である、
    請求項1〜請求項8の何れか1項に記載の方法。
  22. 前記参加者の資質シグナルは、前記参加者の前記遠隔会議セッションへの影響を示し、
    前記資質基準値は、前記参加者の前記遠隔会議セッションへの影響の度合いを示し、
    前記参加者の資質基準値に対応する情報は、前記参加者へのフィードバック情報である、
    請求項9〜請求項15の何れか1項に記載のコンピューティングデバイス。
  23. 前記参加者の資質シグナルは、前記参加者の前記遠隔会議セッションへの影響を示し、
    前記資質基準値は、前記参加者の前記遠隔会議セッションへの影響の度合いを示し、
    前記参加者の資質基準値に対応する情報は、前記参加者へのフィードバック情報である、
    請求項16〜請求項20の何れか1項に記載のプログラム。
JP2017179932A 2017-02-23 2017-09-20 遠隔会議の参加者の資質のフィードバックを提供するための方法およびシステム、コンピューティングデバイス、プログラム Active JP7039900B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/441,053 2017-02-23
US15/441,053 US10218852B2 (en) 2017-02-23 2017-02-23 Methods and systems for providing teleconference participant quality feedback

Publications (2)

Publication Number Publication Date
JP2018137723A true JP2018137723A (ja) 2018-08-30
JP7039900B2 JP7039900B2 (ja) 2022-03-23

Family

ID=63168188

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017179932A Active JP7039900B2 (ja) 2017-02-23 2017-09-20 遠隔会議の参加者の資質のフィードバックを提供するための方法およびシステム、コンピューティングデバイス、プログラム

Country Status (2)

Country Link
US (1) US10218852B2 (ja)
JP (1) JP7039900B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022004244A1 (ja) * 2020-07-03 2022-01-06 株式会社シーエーシー コンピュータを介したコミュニケーションを実施するためのシステム、方法及びプログラム
WO2022264220A1 (ja) * 2021-06-14 2022-12-22 株式会社I’mbesideyou 動画像分析システム
JPWO2023276700A1 (ja) * 2021-06-28 2023-01-05
JP2023066895A (ja) * 2021-10-29 2023-05-16 ビッグローブ株式会社 発声状態認識システム、発声状態認識装置、発声状態認識方法及びプログラム
JP2024155959A (ja) * 2019-10-28 2024-10-31 株式会社リコー 通信システム、端末装置、通信方法、プログラム

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11494793B2 (en) * 2010-05-26 2022-11-08 Userzoom Technologies, Inc. Systems and methods for the generation, administration and analysis of click testing
US10048751B2 (en) * 2016-03-31 2018-08-14 Verizon Patent And Licensing Inc. Methods and systems for gaze-based control of virtual reality media content
US10586131B2 (en) 2017-07-11 2020-03-10 International Business Machines Corporation Multimedia conferencing system for determining participant engagement
US20190180753A1 (en) * 2017-12-12 2019-06-13 Ca, Inc. Analysis of collaborative dialog data structures from speech processing computer system
US11302208B2 (en) * 2018-10-05 2022-04-12 International Business Machines Corporation Dynamically providing video checkpoint questions to counter viewer distraction events
US11785136B2 (en) 2020-10-29 2023-10-10 International Business Machines Corporation Audio quality feedback during live transmission from a source
US12052299B2 (en) * 2020-11-02 2024-07-30 Virtual Sapiens Inc. System and method to improve video conferencing using presence metrics
US11863872B2 (en) * 2020-12-08 2024-01-02 Avaya Management L.P. Method and system for improving a visual presentation of a user during a video conference
JP7036463B1 (ja) * 2020-12-11 2022-03-15 Necプラットフォームズ株式会社 遠隔会議システム、通信端末、遠隔会議方法及びプログラム
US11595278B2 (en) * 2020-12-16 2023-02-28 Rovi Guides, Inc. Systems and methods to automatically perform actions based on media content
US11290684B1 (en) 2020-12-16 2022-03-29 Rovi Guides, Inc. Systems and methods to automatically perform actions based on media content
US11606465B2 (en) 2020-12-16 2023-03-14 Rovi Guides, Inc. Systems and methods to automatically perform actions based on media content
US11749079B2 (en) 2020-12-16 2023-09-05 Rovi Guides, Inc. Systems and methods to automatically perform actions based on media content
US11637989B2 (en) * 2020-12-23 2023-04-25 Motorola Mobility Llc Methods, systems, and devices for presenting an audio difficulties user actuation target in an audio or video conference
US20220385491A1 (en) * 2021-05-27 2022-12-01 Avaya Management L.P. Real-Time Speaker Selection for Multiparty Conferences
US11558209B1 (en) 2021-07-30 2023-01-17 Zoom Video Communications, Inc. Automatic spotlight in video conferencing
US12244771B2 (en) 2021-07-30 2025-03-04 Zoom Communications, Inc. Automatic multi-camera production in video conferencing
US11870825B2 (en) * 2021-10-15 2024-01-09 Motorola Mobility Llc Eye contact prompting electronic device in a video communication session
US20230135075A1 (en) * 2021-10-31 2023-05-04 Zoom Video Communications, Inc. Indication of non-verbal cues within a video communication session
US11770422B2 (en) * 2021-12-18 2023-09-26 Zoom Video Communications, Inc. Real-time engagement analytics for communication sessions
US11770425B2 (en) 2021-12-29 2023-09-26 Microsoft Technology Licensing, Llc Dynamic management of presenters of a communication session
US12526330B1 (en) * 2022-01-31 2026-01-13 Zoom Communications, Inc. Adjusting a configuration associated with a video output during a video conference
CN114826804B (zh) * 2022-06-30 2022-09-16 天津大学 一种基于机器学习的远程会议质量监控的方法和系统
US12300272B2 (en) * 2022-10-17 2025-05-13 Adobe Inc. Speaker thumbnail selection and speaker visualization in diarized transcripts for text-based video

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004173058A (ja) * 2002-11-21 2004-06-17 Nippon Telegr & Teleph Corp <Ntt> 会議情報可視化方法、装置、プログラムおよび該プログラムを記録した記録媒体
JP2006146871A (ja) * 2004-10-20 2006-06-08 Fuji Xerox Co Ltd 注意喚起装置および方法ならびに情報処理システム
JP2010141843A (ja) * 2008-12-15 2010-06-24 Brother Ind Ltd 会議システム、通信会議支援方法、会議端末装置及びプログラム
JP2012065211A (ja) * 2010-09-17 2012-03-29 Funai Electric Co Ltd テレビ会議端末
WO2012095917A1 (ja) * 2011-01-13 2012-07-19 株式会社ニコン 電子機器および電子機器の制御プログラム
JP2015507416A (ja) * 2011-12-28 2015-03-05 グーグル・インコーポレーテッド 動的な能動的参加者が無制限のテレビ会議
JP2016103727A (ja) * 2014-11-28 2016-06-02 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
JP2017091536A (ja) * 2015-11-10 2017-05-25 株式会社リコー 電子会議システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6363145B1 (en) * 1998-08-17 2002-03-26 Siemens Information And Communication Networks, Inc. Apparatus and method for automated voice analysis in ACD silent call monitoring
US7151826B2 (en) * 2002-09-27 2006-12-19 Rockwell Electronics Commerce Technologies L.L.C. Third party coaching for agents in a communication system
US9088589B2 (en) * 2006-09-27 2015-07-21 Avaya Inc. Bidirectional user notification system for media quality control
US8275843B2 (en) * 2010-03-12 2012-09-25 Microsoft Corporation Collaborative conference experience improvement
US9538133B2 (en) * 2011-09-23 2017-01-03 Jie Diao Conveying gaze information in virtual conference
WO2015189723A1 (en) * 2014-06-10 2015-12-17 Koninklijke Philips N.V. Supporting patient-centeredness in telehealth communications

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004173058A (ja) * 2002-11-21 2004-06-17 Nippon Telegr & Teleph Corp <Ntt> 会議情報可視化方法、装置、プログラムおよび該プログラムを記録した記録媒体
JP2006146871A (ja) * 2004-10-20 2006-06-08 Fuji Xerox Co Ltd 注意喚起装置および方法ならびに情報処理システム
JP2010141843A (ja) * 2008-12-15 2010-06-24 Brother Ind Ltd 会議システム、通信会議支援方法、会議端末装置及びプログラム
JP2012065211A (ja) * 2010-09-17 2012-03-29 Funai Electric Co Ltd テレビ会議端末
WO2012095917A1 (ja) * 2011-01-13 2012-07-19 株式会社ニコン 電子機器および電子機器の制御プログラム
US20130234826A1 (en) * 2011-01-13 2013-09-12 Nikon Corporation Electronic device and electronic device control program
JP2015507416A (ja) * 2011-12-28 2015-03-05 グーグル・インコーポレーテッド 動的な能動的参加者が無制限のテレビ会議
JP2016103727A (ja) * 2014-11-28 2016-06-02 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
JP2017091536A (ja) * 2015-11-10 2017-05-25 株式会社リコー 電子会議システム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024155959A (ja) * 2019-10-28 2024-10-31 株式会社リコー 通信システム、端末装置、通信方法、プログラム
JP7754248B2 (ja) 2019-10-28 2025-10-15 株式会社リコー システム、方法、制御装置
WO2022004244A1 (ja) * 2020-07-03 2022-01-06 株式会社シーエーシー コンピュータを介したコミュニケーションを実施するためのシステム、方法及びプログラム
JP2022013123A (ja) * 2020-07-03 2022-01-18 株式会社シーエーシー コンピュータを介したコミュニケーションを実施するためのシステム、方法及びプログラム
WO2022264220A1 (ja) * 2021-06-14 2022-12-22 株式会社I’mbesideyou 動画像分析システム
JPWO2022264220A1 (ja) * 2021-06-14 2022-12-22
JP7734989B2 (ja) 2021-06-14 2025-09-08 株式会社I’mbesideyou 動画像分析システム
JPWO2023276700A1 (ja) * 2021-06-28 2023-01-05
JP7595269B2 (ja) 2021-06-28 2024-12-06 パナソニックIpマネジメント株式会社 注力判定システム、コミュニケーション解析システム、及び、注力判定方法
JP2023066895A (ja) * 2021-10-29 2023-05-16 ビッグローブ株式会社 発声状態認識システム、発声状態認識装置、発声状態認識方法及びプログラム
JP7398416B2 (ja) 2021-10-29 2023-12-14 ビッグローブ株式会社 発声状態認識システム、発声状態認識装置、発声状態認識方法及びプログラム

Also Published As

Publication number Publication date
JP7039900B2 (ja) 2022-03-23
US10218852B2 (en) 2019-02-26
US20180241882A1 (en) 2018-08-23

Similar Documents

Publication Publication Date Title
JP7039900B2 (ja) 遠隔会議の参加者の資質のフィードバックを提供するための方法およびシステム、コンピューティングデバイス、プログラム
US11575531B2 (en) Dynamic virtual environment
US10757367B1 (en) Enhanced video conference management
US10542237B2 (en) Systems and methods for facilitating communications amongst multiple users
US10075491B2 (en) Directing communications using gaze interaction
US12015874B2 (en) System and methods to determine readiness in video collaboration
US20140229866A1 (en) Systems and methods for grouping participants of multi-user events
EP3350980B1 (en) Systems and methods for managing, analyzing, and providing visualizations of multi-party dialogs
US20130019187A1 (en) Visualizing emotions and mood in a collaborative social networking environment
US20140176665A1 (en) Systems and methods for facilitating multi-user events
CN119817091A (zh) 眼神接触优化
US12260876B2 (en) Voice conference apparatus, voice conference system and voice conference method
US12386581B2 (en) Videoconference automatic mute control system
WO2022064621A1 (ja) ビデオミーティング評価システム及びビデオミーティング評価サーバ
WO2022145043A1 (ja) ビデオミーティング評価端末、ビデオミーティング評価システム及びビデオミーティング評価プログラム
JP7471683B2 (ja) 反応通知システム
JP7465012B2 (ja) ビデオミーティング評価端末、ビデオミーティング評価システム及びビデオミーティング評価プログラム
陳家東 Study on Speaking Intention Recognition and Turn-Taking Support in Multi-User Virtual Reality Communication
CN117616738A (zh) 促进高效会议管理
JP2025004539A (ja) 情報処理システム及び情報処理方法
WO2022064617A1 (ja) ビデオミーティング評価システム及びビデオミーティング評価サーバ
WO2022064620A1 (ja) ビデオミーティング評価システム及びビデオミーティング評価サーバ
WO2022064618A1 (ja) ビデオミーティング評価システム及びビデオミーティング評価サーバ
WO2022145042A1 (ja) ビデオミーティング評価端末、ビデオミーティング評価システム及びビデオミーティング評価プログラム
WO2022064619A1 (ja) ビデオミーティング評価システム及びビデオミーティング評価サーバ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220221

R150 Certificate of patent or registration of utility model

Ref document number: 7039900

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150