[go: up one dir, main page]

JP2018032911A - Information processing apparatus, conference system, and program - Google Patents

Information processing apparatus, conference system, and program Download PDF

Info

Publication number
JP2018032911A
JP2018032911A JP2016162227A JP2016162227A JP2018032911A JP 2018032911 A JP2018032911 A JP 2018032911A JP 2016162227 A JP2016162227 A JP 2016162227A JP 2016162227 A JP2016162227 A JP 2016162227A JP 2018032911 A JP2018032911 A JP 2018032911A
Authority
JP
Japan
Prior art keywords
conference
terminal device
unit
voice
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016162227A
Other languages
Japanese (ja)
Inventor
大塚 愛子
Aiko Otsuka
愛子 大塚
昌也 安藤
Masaya Ando
昌也 安藤
直也 岸本
Naoya Kishimoto
直也 岸本
信介 寺村
Shinsuke Teramura
信介 寺村
國枝 孝之
Takayuki Kunieda
孝之 國枝
村田 淳
Atsushi Murata
淳 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chiba Institute of Technology
Ricoh Co Ltd
Original Assignee
Chiba Institute of Technology
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chiba Institute of Technology, Ricoh Co Ltd filed Critical Chiba Institute of Technology
Priority to JP2016162227A priority Critical patent/JP2018032911A/en
Publication of JP2018032911A publication Critical patent/JP2018032911A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

【課題】会議において、端末装置を使用するユーザに適切な音声を提供する。
【解決手段】会議に参加する複数のユーザのそれぞれが使用する複数の端末装置と、複数の端末装置とネットワークを介して接続して、会議での複数のユーザによる討議を支援する情報処理装置とを備える会議システムであって、情報処理装置は、会議において集音された音声を表す複数のチャネルの音声データを収集する音声収集部と、複数のチャネルの音声データのうち、指定されたチャネルの音声データを端末装置に送信する音声提供部と、を有する。
【選択図】図1
The present invention provides an appropriate voice to a user who uses a terminal device in a conference.
A plurality of terminal devices used by each of a plurality of users participating in a conference, an information processing device connected to the plurality of terminal devices via a network, and supporting discussion by the plurality of users at the conference, The information processing apparatus includes: a sound collection unit that collects sound data of a plurality of channels representing sound collected in a meeting; and a specified channel among the sound data of the plurality of channels. And an audio providing unit that transmits audio data to the terminal device.
[Selection] Figure 1

Description

本発明は、情報処理装置、会議システム、方法およびプログラムに関する。   The present invention relates to an information processing apparatus, a conference system, a method, and a program.

それぞれがユーザにより使用される複数の端末装置とネットワークを介して接続して、複数のユーザにより行われる会議を支援する会議支援装置が知られている。また、会議室に設置されたインタラクティブホワイトボードに表示された画像を、ネットワークを介して遠隔地のユーザの端末装置に送信する会議支援装置も知られている。このような会議支援装置によれば、遠隔地のユーザにも会議室のインタラクティブホワイトボードに表示された内容を提供することができるので、討議をスムーズに進行させることができる。   2. Description of the Related Art A conference support device that supports a conference held by a plurality of users by connecting to a plurality of terminal devices used by the user via a network is known. There is also known a conference support device that transmits an image displayed on an interactive whiteboard installed in a conference room to a terminal device of a remote user via a network. According to such a conference support apparatus, it is possible to provide the content displayed on the interactive whiteboard in the conference room to users at remote locations, so that the discussion can proceed smoothly.

特許文献1には、会議に使用されるホワイトボード装置と、ホワイトボード装置に描画された描画データを記憶する情報処理装置とを備えるシステムが記載されている。このシステムでは、ホワイトボード装置と情報処理装置との間で描画データを連係して管理することができる。   Patent Document 1 describes a system including a whiteboard device used for a conference and an information processing device that stores drawing data drawn on the whiteboard device. In this system, drawing data can be managed in cooperation between the whiteboard device and the information processing device.

ところで、会議では、多数のユーザが発言をする。このため、遠隔地のユーザは、1つのマイクロホンにより集音された音声を聞いていただけでは、討議の内容が理解できない場合がある。従って、会議システムは、多数のユーザが発言をした場合であっても、遠隔地のユーザに確実に音声を聞き取らせる必要がある。   By the way, many users speak in the conference. For this reason, a user at a remote location may not understand the contents of the discussion only by listening to the sound collected by one microphone. Therefore, it is necessary for the conference system to make it possible for a user at a remote location to hear a voice even when a large number of users speak.

本発明は、上記に鑑みてなされたものであって、会議において、端末装置を使用するユーザに適切な音声を提供することができる情報処理装置、会議システム、方法およびプログラムを提供することを目的とする。   The present invention has been made in view of the above, and an object of the present invention is to provide an information processing apparatus, a conference system, a method, and a program that can provide appropriate audio to a user who uses a terminal device in a conference. And

上述した課題を解決し、目的を達成するために、本発明は、ユーザが使用する端末装置とネットワークを介して接続して、会議での複数のユーザによる討議を支援する情報処理装置であって、前記会議において集音された音声を表す複数のチャネルの音声データを収集する音声収集部と、前記複数のチャネルの音声データのうち、指定されたチャネルの音声データを前記端末装置に送信する音声提供部と、を備える。   In order to solve the above-described problems and achieve the object, the present invention is an information processing apparatus that supports a discussion by a plurality of users in a conference by connecting to a terminal device used by a user via a network. An audio collection unit that collects audio data of a plurality of channels representing audio collected in the conference, and audio that transmits audio data of a specified channel among the audio data of the plurality of channels to the terminal device A providing unit.

本発明によれば、会議において、端末装置を使用するユーザに適切な音声を提供することができる、という効果を奏する。   According to the present invention, it is possible to provide an appropriate voice to a user who uses a terminal device in a conference.

図1は、第1実施形態に係る会議システムを示す図である。FIG. 1 is a diagram illustrating a conference system according to the first embodiment. 図2は、会議システムの機能構成を示す図である。FIG. 2 is a diagram illustrating a functional configuration of the conference system. 図3は、第1実施形態に係る音声収集部および音声提供部の機能構成を示す図である。FIG. 3 is a diagram illustrating a functional configuration of the voice collecting unit and the voice providing unit according to the first embodiment. 図4は、会議の開始時の会議システムの処理の流れを示すシーケンス図である。FIG. 4 is a sequence diagram showing a flow of processing of the conference system at the start of the conference. 図5は、機器用会議画面の一例を示す図である。FIG. 5 is a diagram illustrating an example of a device conference screen. 図6は、端末用会議画面の一例を示す図である。FIG. 6 is a diagram illustrating an example of a terminal conference screen. 図7は、チャネル時における会議支援装置の処理の流れを示すフローチャートである。FIG. 7 is a flowchart showing the flow of processing of the conference support apparatus during a channel. 図8は、端末用会議画面の第1変形例を示す図である。FIG. 8 is a diagram showing a first modification of the terminal conference screen. 図9は、端末用会議画面の第2変形例を示す図である。FIG. 9 is a diagram illustrating a second modification of the terminal conference screen. 図10は、端末用会議画面の第3変形例を示す図である。FIG. 10 is a diagram showing a third modification of the terminal conference screen. 図11は、第2実施形態に係る会議システムを示す図である。FIG. 11 is a diagram illustrating a conference system according to the second embodiment. 図12は、第2実施形態に係る音声収集部および音声提供部の機能構成を示す図である。FIG. 12 is a diagram illustrating a functional configuration of the voice collecting unit and the voice providing unit according to the second embodiment. 図13は、第3実施形態に係る音声収集部および音声提供部の機能構成を示す図である。FIG. 13 is a diagram illustrating a functional configuration of the voice collecting unit and the voice providing unit according to the third embodiment. 図14は、IWBのハードウェア構成を示す図である。FIG. 14 is a diagram illustrating a hardware configuration of the IWB. 図15は、端末装置のハードウェア構成を示す図である。FIG. 15 is a diagram illustrating a hardware configuration of the terminal device. 図16は、会議支援装置のハードウェア構成を示す図である。FIG. 16 is a diagram illustrating a hardware configuration of the conference support apparatus.

以下、図面を参照しながら実施形態に係る会議システム10について詳細に説明する。会議システム10は、会議での複数のユーザによる討議を支援するためのシステムである。例えば、会議システム10は、所定の場所(例えば会社内の会議室)において会議に参加するユーザと、遠隔地(例えば、在宅勤務者の家庭)において会議に参加するユーザとの間のコミュニケーションを支援する。   Hereinafter, the conference system 10 according to the embodiment will be described in detail with reference to the drawings. The conference system 10 is a system for supporting discussion by a plurality of users in a conference. For example, the conference system 10 supports communication between a user who participates in a conference in a predetermined place (for example, a conference room in a company) and a user who participates in a conference in a remote location (for example, the home of a telecommuter). To do.

(第1実施形態)
図1は、第1実施形態に係る会議システム10を示す図である。会議システム10は、複数のユーザのそれぞれが用いる複数の端末装置20と、インタラクティブホワイトボード(IWB)22と、会議支援装置30とを備える。
(First embodiment)
FIG. 1 is a diagram illustrating a conference system 10 according to the first embodiment. The conference system 10 includes a plurality of terminal devices 20 used by each of a plurality of users, an interactive whiteboard (IWB) 22, and a conference support device 30.

複数の端末装置20のそれぞれは、ネットワークを介して会議支援装置30と接続可能である。ネットワークは、例えば、LAN(Local Area Network)、VPN(Virtual Private Network)またはLANがルータを介して接続されたWAN(Wide Area Network)である。また、ネットワークは、インターネットまたは電話通信回線等を含んでいてもよい。また、ネットワークは、有線で構成されていてもよいし、一部または全部が無線により構成されていてもよい。   Each of the plurality of terminal devices 20 can be connected to the conference support device 30 via a network. The network is, for example, a LAN (Local Area Network), a VPN (Virtual Private Network), or a WAN (Wide Area Network) in which LANs are connected via a router. The network may include the Internet or a telephone communication line. Further, the network may be configured by wire, or a part or all of the network may be configured by radio.

端末装置20は、情報の処理機能、情報の入力機能、情報の出力機能および通信機能等を有する装置である。端末装置20は、ノート型またはデスクトップ型等の一般的なコンピュータ、タブレット端末またはスマートフォン等であってもよい。また、端末装置20は、電子会議を行うための専用装置であってもよい。   The terminal device 20 is a device having an information processing function, an information input function, an information output function, a communication function, and the like. The terminal device 20 may be a general computer such as a notebook type or a desktop type, a tablet terminal, a smartphone, or the like. The terminal device 20 may be a dedicated device for conducting an electronic conference.

端末装置20は、所定のアプリケーションプログラムを実行して、会議支援装置30にアクセスする。端末装置20は、所定のアプリケーションプログラムを用いて、会議支援装置30から提供された情報を出力する。   The terminal device 20 accesses the conference support device 30 by executing a predetermined application program. The terminal device 20 outputs information provided from the conference support device 30 using a predetermined application program.

端末装置20は、マイクロホンを有し、会議中においてユーザ等が発した音声を集音して、音声データを生成する。また、端末装置20は、カメラを有し、会議中においてユーザ等を撮像して、動画像データを生成する。端末装置20は、生成した音声データおよび動画像データを会議支援装置30に送信する。   The terminal device 20 has a microphone and collects voices uttered by a user or the like during a meeting to generate voice data. The terminal device 20 includes a camera, captures a user or the like during a meeting, and generates moving image data. The terminal device 20 transmits the generated audio data and moving image data to the conference support device 30.

IWB22は、電子ペンまたは手等によるディスプレイに対するユーザの操作に応じて描画データを生成し、生成した描画データを記憶する。そして、IWB22は、生成した描画データをディスプレイに表示する。これにより、ユーザは、壁にペンを用いて文字または図形を描くように、IWB22に文字または図形を描くことができる。   The IWB 22 generates drawing data in response to a user operation on the display using an electronic pen or a hand, and stores the generated drawing data. Then, the IWB 22 displays the generated drawing data on the display. Thereby, the user can draw a character or a figure on IWB22 like drawing a character or a figure using a pen on a wall.

さらに、IWB22は、通信機能を有し、ネットワークを介して会議支援装置30と接続可能である。IWB22は、例えば専用のアプリケーションプログラムを実行して、会議支援装置30にアクセスする。IWB22は、会議支援装置30から提供された情報に応じた画面を出力する。また、IWB22は、例えば専用のアプリケーションプログラムおよび会議支援装置30から提供された情報に基づき動作する。   Furthermore, the IWB 22 has a communication function and can be connected to the conference support apparatus 30 via a network. The IWB 22 accesses the conference support apparatus 30 by executing a dedicated application program, for example. The IWB 22 outputs a screen corresponding to the information provided from the conference support device 30. The IWB 22 operates based on information provided from, for example, a dedicated application program and the conference support apparatus 30.

また、IWB22は、ディスプレイに表示された画像をキャプチャリングし、キャプチャリングした画像を表す機器画像データを生成する。例えば、IWB22は、ディスプレイに表示した画像が変化する毎に、機器画像データを生成する。IWB22は、生成した機器画像データを会議支援装置30に送信する。   Further, the IWB 22 captures an image displayed on the display and generates device image data representing the captured image. For example, the IWB 22 generates device image data each time an image displayed on the display changes. The IWB 22 transmits the generated device image data to the conference support apparatus 30.

なお、会議システム10は、文字または図形等の入力操作を受け付けて、入力された文字または図形等を表示できる機器であれば、IWB22以外の機器を備えてもよい。例えば、会議システム10は、大型のディスプレイを有する情報処理装置を備えてもよい。   Note that the conference system 10 may include a device other than the IWB 22 as long as it can receive an input operation of characters or graphics and display the input characters or graphics. For example, the conference system 10 may include an information processing apparatus having a large display.

会議支援装置30は、情報の処理機能および通信機能を有する一般的なサーバ等のコンピュータである。また、会議支援装置30は、1個のサーバ等により構成されていてもよいし、複数のサーバ等により構成されていてもよい。   The conference support apparatus 30 is a computer such as a general server having an information processing function and a communication function. Moreover, the meeting assistance apparatus 30 may be comprised by one server etc., and may be comprised by the some server etc.

会議支援装置30は、複数の端末装置20およびIWB22からネットワークを介してアクセスを受け付ける。そして、会議支援装置30は、複数の端末装置20のそれぞれおよびIWB22に対して、要求した情報をネットワークを介して提供する。   The meeting support device 30 receives access from the plurality of terminal devices 20 and the IWB 22 via the network. Then, the conference support device 30 provides the requested information to each of the plurality of terminal devices 20 and the IWB 22 via the network.

また、会議支援装置30は、複数の端末装置20のそれぞれから、音声データおよび動画像データをネットワークを介して収集する。そして、会議支援装置30は、収集した音声データおよび動画像データを記憶する。これにより、会議支援装置30は、会議中におけるユーザの音声および動画像を記録し、後で再生させることができる。   In addition, the conference support apparatus 30 collects audio data and moving image data from each of the plurality of terminal apparatuses 20 via a network. The conference support apparatus 30 stores the collected audio data and moving image data. Thereby, the meeting assistance apparatus 30 can record a user's voice and moving image during the meeting, and can reproduce them later.

また、会議支援装置30は、収集した音声データおよび動画像データを、取得を要求した端末装置20に送信することが可能である。例えば、会議支援装置30は、収集した複数のチャネルの音声データのうち、指定されたチャネルの音声データを、取得を要求した端末装置20に送信することができる。また、例えば、会議支援装置30は、収集した複数のチャネルの動画像データのうち、指定されたチャネルの動画像データを、取得を要求した端末装置20に送信することができる。端末装置20は、所定のアプリケーションプログラムを介して音声データの出力または動画像データの表示をする。これにより、会議支援装置30は、例えば遠隔地のユーザに、所定の場所(会議室等)の音声または動画像を提供することができる。   In addition, the conference support apparatus 30 can transmit the collected audio data and moving image data to the terminal apparatus 20 that has requested acquisition. For example, the conference support apparatus 30 can transmit audio data of a designated channel among the collected audio data of a plurality of channels to the terminal apparatus 20 that has requested acquisition. Further, for example, the conference support apparatus 30 can transmit the moving image data of the designated channel among the collected moving image data of the plurality of channels to the terminal device 20 that has requested acquisition. The terminal device 20 outputs audio data or displays moving image data via a predetermined application program. Thereby, the meeting support apparatus 30 can provide the audio | voice or moving image of a predetermined place (a meeting room etc.) to the user of a remote place, for example.

また、会議支援装置30は、IWB22から機器画像データをネットワークを介して収集する。そして、会議支援装置30は、収集した機器画像データを記憶する。これにより、会議支援装置30は、会議中におけるIWB22に表示された画像を記録し、後で表示させることができる。   Further, the conference support apparatus 30 collects device image data from the IWB 22 via a network. The conference support apparatus 30 stores the collected device image data. Thereby, the conference support apparatus 30 can record the image displayed on the IWB 22 during the conference and display it later.

また、会議支援装置30は、収集した機器画像データを、それぞれの端末装置20に送信する。端末装置20は、所定のアプリケーションプログラムを介して、IWB22に表示された画像を表す機器画像データを表示する。これにより、会議支援装置30は、例えば、ユーザに、IWB22に表示されている画像を提供することができる。   In addition, the conference support apparatus 30 transmits the collected device image data to each terminal apparatus 20. The terminal device 20 displays device image data representing an image displayed on the IWB 22 via a predetermined application program. Thereby, the meeting assistance apparatus 30 can provide the image currently displayed on IWB22 to a user, for example.

ここで、会議システム10では、会議に参加する複数のユーザのそれぞれが、何れかの端末装置20を使用する。会議支援装置30は、端末装置20からネットワークを介してログイン要求を受けた場合に、端末装置20を使用しているユーザを認証する。これにより、会議支援装置30は、端末装置20を使用しているユーザを特定することができる。   Here, in the conference system 10, each of a plurality of users participating in the conference uses one of the terminal devices 20. When the meeting support apparatus 30 receives a login request from the terminal apparatus 20 via the network, the meeting support apparatus 30 authenticates the user who is using the terminal apparatus 20. Thereby, the meeting assistance apparatus 30 can specify the user who is using the terminal device 20.

また、IWB22は、所定の場所(例えば会議室)に設置されている。会議支援装置30は、IWB22からネットワークを介してログイン要求を受けた場合、IWB22を認証する。これにより、会議支援装置30は、IWB22を特定することができるとともに、会議の開催場所(IWB22の設置場所)を特定することができる。   The IWB 22 is installed in a predetermined place (for example, a conference room). When the meeting support apparatus 30 receives a login request from the IWB 22 via the network, the meeting support apparatus 30 authenticates the IWB 22. Thereby, the conference support apparatus 30 can specify the IWB 22 and can also specify the meeting place (the installation location of the IWB 22).

また、会議システム10では、会議に先立って、会議に参加するそれぞれのユーザに対して、直接参加、遠隔参加および準参加の何れかを参加形態として登録する。直接参加は、IWB22が設置されている所定の場所(例えば会議室)において会議に参加するユーザに対して登録される参加形態である。   Also, in the conference system 10, prior to the conference, any of direct participation, remote participation, and semi-participation is registered as a participation mode for each user participating in the conference. Direct participation is a participation form registered for a user who participates in a conference at a predetermined location (for example, a conference room) where the IWB 22 is installed.

遠隔参加は、所定の場所とは異なる場所において、端末装置20を利用して会議に参加するユーザに対して登録される参加形態である。例えば、遠隔参加は、在宅勤務をし、自宅等において会議に参加するユーザに対して登録される。   Remote participation is a participation form registered for a user who participates in a conference using the terminal device 20 in a place different from a predetermined place. For example, remote participation is registered for a user who works from home and participates in a conference at home or the like.

準参加は、会議における一部の議題について、所定の場所とは異なる場所において、端末装置20を利用して会議に参加するユーザに対して登録される参加形態である。例えば、準参加は、子育てをしつつ在宅勤務し、自身に関連する議題について討議の内容等を確認するユーザに対して登録される。   The semi-participation is a participation form that is registered for a user who participates in a conference using the terminal device 20 at a place different from a predetermined place for some agenda items in the conference. For example, semi-participation is registered for a user who works from home while raising a child and confirms the contents of the discussion on the agenda related to himself / herself.

なお、会議システム10では、不参加を、参加形態に含めてもよい。不参加は、病欠または出張等により会議にはリアルタイムでは参加しないが、後で関連する情報を参照するユーザに対して登録される参加形態である。   In the conference system 10, non-participation may be included in the participation form. Non-participation is a form of participation that is registered for a user who refers to related information later, but does not participate in the meeting in real time due to sick leave or business trip.

図2は、会議システム10の機能構成を示す図である。   FIG. 2 is a diagram illustrating a functional configuration of the conference system 10.

IWB22は、第1通信部42と、操作入力部44と、画面表示部46と、画像生成部48とを有する。IWB22は、プロセッサが例えば所定のアプリケーションプログラムを実行することにより、第1通信部42、操作入力部44、画面表示部46および画像生成部48として機能する。   The IWB 22 includes a first communication unit 42, an operation input unit 44, a screen display unit 46, and an image generation unit 48. The IWB 22 functions as a first communication unit 42, an operation input unit 44, a screen display unit 46, and an image generation unit 48, for example, when a processor executes a predetermined application program.

第1通信部42は、会議支援装置30とネットワークを介して通信をする。操作入力部44は、ディスプレイに対する、電子ペンまたは手等による入力操作を受け付ける。画面表示部46は、会議支援装置30から取得したデータに基づき、ディスプレイに情報を表示する。例えば、画面表示部46は、会議支援装置30から第1通信部42を介して受信した画面データに基づき、ディスプレイに所定の画面を表示する。また、画面表示部46は、操作入力部44が受け付けた入力操作に応じて、ディスプレイに文字または図形等を表示する。また、画面表示部46は、操作入力部44が受け付けた入力操作に応じて、ディスプレイに表示された画面を変化させる。   The first communication unit 42 communicates with the conference support apparatus 30 via a network. The operation input unit 44 receives an input operation on the display by using an electronic pen or a hand. The screen display unit 46 displays information on the display based on the data acquired from the conference support apparatus 30. For example, the screen display unit 46 displays a predetermined screen on the display based on the screen data received from the conference support apparatus 30 via the first communication unit 42. Further, the screen display unit 46 displays characters or figures on the display in accordance with the input operation received by the operation input unit 44. The screen display unit 46 changes the screen displayed on the display in accordance with the input operation received by the operation input unit 44.

画像生成部48は、ディスプレイに表示された画像をキャプチャリングして、ディスプレイに表示された画像を表す機器画像データを生成する。例えば、画像生成部48は、ディスプレイに表示した画像が変化する毎に、機器画像データを生成する。第1通信部42は、画像生成部48が生成した機器画像データを会議支援装置30に送信する。   The image generation unit 48 captures an image displayed on the display, and generates device image data representing the image displayed on the display. For example, the image generation unit 48 generates device image data each time an image displayed on the display changes. The first communication unit 42 transmits the device image data generated by the image generation unit 48 to the conference support apparatus 30.

端末装置20は、第2通信部50と、集音部52と、撮像部54と、入力部56と、表示部58と、音声出力部60とを有する。端末装置20は、プロセッサが例えば所定のアプリケーションプログラムを実行することにより、第2通信部50、集音部52、撮像部54、入力部56、表示部58および音声出力部60として機能する。   The terminal device 20 includes a second communication unit 50, a sound collection unit 52, an imaging unit 54, an input unit 56, a display unit 58, and an audio output unit 60. The terminal device 20 functions as the second communication unit 50, the sound collection unit 52, the imaging unit 54, the input unit 56, the display unit 58, and the audio output unit 60, for example, when the processor executes a predetermined application program.

第2通信部50は、会議支援装置30とネットワークを介して通信をする。集音部52は、周囲の音声を集音した音声信号に基づき、周囲の音声を表す音声データを生成する。撮像部54は、周囲の被写体を撮像した撮像信号に基づき、周囲の被写体の画像を表す動画像データを生成する。入力部56は、ユーザの入力操作を受け付ける。第2通信部50は、生成した音声データ、生成した動画像データおよびユーザによる操作情報を会議支援装置30に送信する。   The second communication unit 50 communicates with the conference support apparatus 30 via the network. The sound collection unit 52 generates sound data representing the surrounding sound based on the sound signal obtained by collecting the surrounding sound. The imaging unit 54 generates moving image data representing an image of a surrounding subject based on an imaging signal obtained by imaging the surrounding subject. The input unit 56 receives user input operations. The second communication unit 50 transmits the generated voice data, the generated moving image data, and user operation information to the conference support apparatus 30.

表示部58は、会議支援装置30から取得したデータに基づき、ディスプレイに情報を表示する。例えば、表示部58は、会議支援装置30から第2通信部50を介して受信した画面データに基づき、ディスプレイに所定の画面を表示する。また、例えば、表示部58は、会議支援装置30から取得した動画像データをディスプレイに表示する。また、例えば、表示部58は、会議支援装置30から取得した、IWB22に表示された画像を表す機器画像データをディスプレイに表示する。また、表示部58は、入力部56が受け付けた入力操作に応じて、ディスプレイに表示された画面を変化させる。音声出力部60は、会議支援装置30から第2通信部50を介して受信した音声データに応じた音声を、スピーカから出力させる。   The display unit 58 displays information on the display based on the data acquired from the conference support apparatus 30. For example, the display unit 58 displays a predetermined screen on the display based on the screen data received from the conference support apparatus 30 via the second communication unit 50. For example, the display unit 58 displays the moving image data acquired from the conference support apparatus 30 on the display. For example, the display unit 58 displays the device image data representing the image displayed on the IWB 22 acquired from the conference support apparatus 30 on the display. The display unit 58 changes the screen displayed on the display in accordance with the input operation received by the input unit 56. The audio output unit 60 outputs sound corresponding to the audio data received from the conference support apparatus 30 via the second communication unit 50 from the speaker.

会議支援装置30は、第3通信部62と、情報記憶部64と、機器画面提供部70と、端末画面提供部72と、機器操作受付部74と、端末操作受付部76と、機器画像収集部78と、機器画像提供部80と、音声収集部82と、音声提供部84と、動画像収集部86と、動画像提供部88と、会議処理部90とを有する。会議支援装置30は、プロセッサが例えば所定のアプリケーションプログラムを実行することにより、第3通信部62、機器画面提供部70、端末画面提供部72、機器操作受付部74、端末操作受付部76、機器画像収集部78、機器画像提供部80、音声収集部82、音声提供部84、動画像収集部86、動画像提供部88および会議処理部90として機能する。   The conference support device 30 includes a third communication unit 62, an information storage unit 64, a device screen providing unit 70, a terminal screen providing unit 72, a device operation receiving unit 74, a terminal operation receiving unit 76, and a device image collection. Unit 78, device image providing unit 80, audio collecting unit 82, audio providing unit 84, moving image collecting unit 86, moving image providing unit 88, and conference processing unit 90. The conference support apparatus 30 includes a third communication unit 62, a device screen providing unit 70, a terminal screen providing unit 72, a device operation receiving unit 74, a terminal operation receiving unit 76, a device, and the like when a processor executes a predetermined application program, for example. It functions as an image collecting unit 78, a device image providing unit 80, an audio collecting unit 82, an audio providing unit 84, a moving image collecting unit 86, a moving image providing unit 88, and a conference processing unit 90.

第3通信部62は、IWB22およびそれぞれの端末装置20とネットワークを介して通信する。情報記憶部64は、会議支援装置30で用いる各種の画面データおよび会議において使用する管理データを記憶する。   The 3rd communication part 62 communicates with IWB22 and each terminal device 20 via a network. The information storage unit 64 stores various screen data used in the conference support apparatus 30 and management data used in the conference.

機器画面提供部70は、IWB22に画面データを送信して、IWB22に各種の操作用の画面等を表示させる。端末画面提供部72は、それぞれの端末装置20に画面データを送信して、端末装置20に各種の操作用の画面等を表示させる。   The device screen providing unit 70 transmits screen data to the IWB 22 and causes the IWB 22 to display various operation screens. The terminal screen providing unit 72 transmits screen data to each terminal device 20 to display various operation screens on the terminal device 20.

機器操作受付部74は、IWB22から操作情報を受信して、IWB22に対して提供した画面に対するユーザの操作を受け付ける。端末操作受付部76は、端末装置20から操作情報を受信して、端末装置20に対して提供した画面に対するユーザの操作を受け付ける。   The device operation reception unit 74 receives operation information from the IWB 22 and receives a user operation on a screen provided to the IWB 22. The terminal operation reception unit 76 receives operation information from the terminal device 20 and receives a user operation on a screen provided to the terminal device 20.

機器画像収集部78は、IWB22から、IWB22のディスプレイに表示された画像を表す機器画像データを収集する。機器画像収集部78は、収集した機器画像データをタイムスタンプ等を付加して情報記憶部64に記憶させる。   The device image collection unit 78 collects device image data representing an image displayed on the display of the IWB 22 from the IWB 22. The device image collection unit 78 adds the time stamp or the like to the collected device image data and stores it in the information storage unit 64.

機器画像提供部80は、機器画像収集部78が収集した機器画像データをそれぞれの端末装置20に送信する。これにより、機器画像提供部80は、会議中において、IWB22に表示された画像をそれぞれの端末装置20に表示させることができる。また、機器画像提供部80は、過去の機器画像データの取得要求を端末装置20から受けた場合には、情報記憶部64から指定された時刻の機器画像データを読み出して、要求元の端末装置20に送信する。これにより、機器画像提供部80は、会議後または会議中において、IWB22に表示された過去の画像を端末装置20に表示させることができる。   The device image providing unit 80 transmits the device image data collected by the device image collecting unit 78 to each terminal device 20. Thereby, the apparatus image provision part 80 can display the image displayed on IWB22 on each terminal device 20 during a meeting. When the device image providing unit 80 receives an acquisition request for past device image data from the terminal device 20, the device image providing unit 80 reads out the device image data at the specified time from the information storage unit 64, and requests the requesting terminal device. 20 to send. Thereby, the device image providing unit 80 can display the past image displayed on the IWB 22 on the terminal device 20 after the meeting or during the meeting.

音声収集部82は、それぞれの端末装置20の集音部52が生成した、周囲の音声を表す音声データを収集する。音声収集部82は、収集した音声データをタイムスタンプ等を付加して情報記憶部64に記憶させる。   The sound collection unit 82 collects sound data representing the surrounding sound generated by the sound collection unit 52 of each terminal device 20. The voice collection unit 82 stores the collected voice data in the information storage unit 64 with a time stamp or the like added thereto.

音声提供部84は、音声データの取得要求を端末装置20から受けた場合、音声収集部82が収集した音声データのうち、指定された音声データを要求元の端末装置20に送信する。これにより、音声提供部84は、会議中において、何れかの端末装置20により集音された音声を、他の端末装置20から出力させることができる。   When the voice providing unit 84 receives a voice data acquisition request from the terminal device 20, the voice providing unit 84 transmits the designated voice data among the voice data collected by the voice collecting unit 82 to the requesting terminal device 20. Thereby, the audio | voice provision part 84 can output the audio | voice collected by one of the terminal devices 20 from the other terminal device 20 during a meeting.

また、音声提供部84は、過去の音声データの取得要求を端末装置20から受けた場合には、情報記憶部64から指定された時刻の音声データを読み出して、要求元の端末装置20に送信する。これにより、音声提供部84は、会議後または会議中において、過去に何れかの端末装置20により集音された音声を端末装置20から出力させることができる。   When the voice providing unit 84 receives a request for acquisition of past voice data from the terminal device 20, the voice providing unit 84 reads the voice data at the specified time from the information storage unit 64 and transmits it to the requesting terminal device 20. To do. Thereby, the audio | voice provision part 84 can output the audio | voice collected by any of the terminal devices 20 in the past after the meeting or during the meeting from the terminal device 20.

動画像収集部86は、それぞれの端末装置20の集音部52により集音された動画像を表す動画像データを収集する。動画像収集部86は、収集した動画像データをタイムスタンプ等を付加して情報記憶部64に記憶させる。   The moving image collection unit 86 collects moving image data representing the moving image collected by the sound collection unit 52 of each terminal device 20. The moving image collection unit 86 stores the collected moving image data in the information storage unit 64 with a time stamp added.

動画像提供部88は、動画像データの取得要求を端末装置20から受けた場合、動画像収集部86が収集した動画像データのうち、指定された動画像データを端末装置20に送信する。これにより、動画像提供部88は、会議中において、何れかの端末装置20により撮像された動画像を、他の端末装置20から出力させることができる。   When receiving the moving image data acquisition request from the terminal device 20, the moving image providing unit 88 transmits the specified moving image data among the moving image data collected by the moving image collection unit 86 to the terminal device 20. Thereby, the moving image providing unit 88 can cause the moving image captured by any one of the terminal devices 20 to be output from the other terminal devices 20 during the conference.

また、動画像提供部88は、過去の動画像データの取得要求を端末装置20から受けた場合には、情報記憶部64から指定された時刻の動画像データを読み出して、要求元の端末装置20に送信する。これにより、動画像提供部88は、会議後または会議中において、過去の動画像を端末装置20から出力させることができる。   Further, when the moving image providing unit 88 receives an acquisition request for past moving image data from the terminal device 20, the moving image providing unit 88 reads out the moving image data at the designated time from the information storage unit 64, and requests the requesting terminal device. 20 to send. Accordingly, the moving image providing unit 88 can output past moving images from the terminal device 20 after or during the meeting.

会議処理部90は、IWB22または端末装置20からの要求等に応じて、会議に関する処理を実行する。例えば、会議処理部90は、会議に先立って、会議に参加するそれぞれのユーザに対して、直接参加、遠隔参加および準参加の何れかを参加形態として登録する。   The conference processing unit 90 executes a process related to the conference in response to a request from the IWB 22 or the terminal device 20. For example, prior to the conference, the conference processing unit 90 registers one of direct participation, remote participation, and semi-participation as a participation mode for each user participating in the conference.

図3は、第1実施形態に係る音声収集部82および音声提供部84の機能構成を示す図である。   FIG. 3 is a diagram illustrating a functional configuration of the voice collecting unit 82 and the voice providing unit 84 according to the first embodiment.

音声収集部82は、会議において集音された音声を表す複数のチャネルの音声データを収集する。例えば、それぞれの端末装置20は、ユーザから発せられた音声を集音して音声データを生成する。音声収集部82は、複数の端末装置20のそれぞれから、1つのチャネルの音声データを収集する。   The sound collection unit 82 collects sound data of a plurality of channels representing sound collected in the conference. For example, each terminal device 20 collects sound emitted from the user and generates sound data. The voice collecting unit 82 collects voice data of one channel from each of the plurality of terminal devices 20.

また、端末装置20から、会議支援装置30に対して、音声データの送信要求を送信することができる。この場合、端末装置20は、会議支援装置30が収集した複数のチャネルの音声データのうちの、何れか1つのチャネルの音声データに対する送信要求を送信することができる。   In addition, a transmission request for audio data can be transmitted from the terminal device 20 to the conference support device 30. In this case, the terminal device 20 can transmit a transmission request for audio data of any one of the plurality of channels of audio data collected by the conference support apparatus 30.

音声提供部84は、何れかの端末装置20から、音声データの送信要求、および、チャネルの指定を受け付ける。音声提供部84は、複数のチャネルの音声データのうち、指定されたチャネルの音声データを、音声データの送信を要求した端末装置20に送信する。音声データの送信要求を送信した端末装置20は、会議支援装置30から音声データを受信し、受信した音声データを出力する。   The voice providing unit 84 receives a voice data transmission request and a channel designation from any of the terminal devices 20. The voice providing unit 84 transmits the voice data of the designated channel among the voice data of the plurality of channels to the terminal device 20 that has requested transmission of the voice data. The terminal device 20 that has transmitted the audio data transmission request receives the audio data from the conference support device 30 and outputs the received audio data.

なお、遠隔参加および準参加により会議に参加するユーザが使用する端末装置20が、会議支援装置30に対して、音声データの送信要求を送信してもよい。この場合、音声提供部84は、遠隔参加および準参加により会議に参加するユーザが使用する端末装置20に対して、指定されたチャネルの音声データを送信する。これにより、音声提供部84は、遠隔地において会議に参加しているユーザに対して、聞き取りやすい音声データを提供することができる。   Note that the terminal device 20 used by a user who participates in a conference by remote participation or semi-participation may transmit a voice data transmission request to the conference support device 30. In this case, the voice providing unit 84 transmits the voice data of the designated channel to the terminal device 20 used by the user participating in the conference by remote participation and semi-participation. Thereby, the audio | voice provision part 84 can provide audio | voice data which is easy to hear with respect to the user who is participating in the meeting in a remote place.

具体的には、音声収集部82は、受信部142と、書込部144とを含む。音声提供部84は、選択部152と、送信部154と、読出部156とを含む。   Specifically, the voice collection unit 82 includes a reception unit 142 and a writing unit 144. Audio providing unit 84 includes a selection unit 152, a transmission unit 154, and a reading unit 156.

受信部142は、複数のチャネルの音声データを受信する。具体的には、受信部142は、複数の端末装置20のそれぞれから、音声を集音して生成した音声データをネットワークを介して受信する。   The receiving unit 142 receives audio data of a plurality of channels. Specifically, the receiving unit 142 receives voice data generated by collecting voice from each of the plurality of terminal devices 20 via the network.

書込部144は、受信した複数のチャネルの音声データを、チャネル毎に情報記憶部64に書き込む。これにより、情報記憶部64は、会議において集音された音声を表す複数のチャネルの音声データを記憶することができる。   The writing unit 144 writes the received audio data of a plurality of channels to the information storage unit 64 for each channel. Thereby, the information storage part 64 can memorize | store the audio | voice data of the several channel showing the audio | voice collected in the meeting.

選択部152は、何れかの端末装置20から音声データの送信要求を取得する。これとともに、選択部152は、端末装置20から、送信すべき音声データのチャネルの指定も受け付ける。なお、選択部152は、端末操作受付部76を介して、端末装置20から音声データの送信要求およびチャネルの指定情報を取得する。   The selection unit 152 acquires a voice data transmission request from any of the terminal devices 20. At the same time, the selection unit 152 accepts designation of a channel of audio data to be transmitted from the terminal device 20. Note that the selection unit 152 acquires a voice data transmission request and channel designation information from the terminal device 20 via the terminal operation reception unit 76.

選択部152は、受信部142が受信した複数のチャネルの音声データを受け取る。選択部152は、受け取った複数のチャネルの音声データのうち、端末装置20に指定されたチャネルの音声データを選択する。そして、選択部152は、選択した音声データを送信部154に与える。   The selection unit 152 receives audio data of a plurality of channels received by the reception unit 142. The selection unit 152 selects the audio data of the channel designated by the terminal device 20 from the received audio data of the plurality of channels. Then, the selection unit 152 provides the selected audio data to the transmission unit 154.

送信部154は、選択部152により選択された音声データを、送信を要求した端末装置20にネットワークを介して送信する。これにより、端末装置20は、会議において集音された音声を表す複数のチャネルの音声データのうち、指定したチャネルの音声データを受信して出力することができる。   The transmission unit 154 transmits the audio data selected by the selection unit 152 to the terminal device 20 that has requested transmission over the network. Thereby, the terminal device 20 can receive and output the audio data of the designated channel among the audio data of the plurality of channels representing the audio collected in the conference.

また、読出部156は、何れかの端末装置20から、過去の会議において集音された音声の送信要求を受け取る。さらに、読出部156は、端末装置20から、送信すべき音声データのチャネルの指定も受け付ける。この場合、読出部156は、端末操作受付部76を介して、端末装置20から音声データの送信要求、および、チャネルの指定情報を取得する。そして、読出部156は、指定されたチャネルの音声データを情報記憶部64から読み出して、送信部154に送信する。   Further, the reading unit 156 receives a transmission request for audio collected in a past conference from any of the terminal devices 20. Further, the reading unit 156 accepts designation of a channel of audio data to be transmitted from the terminal device 20. In this case, the reading unit 156 acquires a voice data transmission request and channel designation information from the terminal device 20 via the terminal operation reception unit 76. Then, the reading unit 156 reads the audio data of the designated channel from the information storage unit 64 and transmits it to the transmission unit 154.

送信部154は、読出部156により読み出された音声データを、送信を要求した端末装置20にネットワークを介して送信する。これにより、端末装置20は、過去の会議において集音された音声を表す音声データを受信して出力することができる。   The transmission unit 154 transmits the audio data read by the reading unit 156 to the terminal device 20 that has requested transmission over the network. Thereby, the terminal device 20 can receive and output the audio data representing the audio collected in the past conference.

図4は、会議の開始時の会議システム10の処理の流れを示すシーケンス図である。会議システム10は、会議の開始時において、図4に示す流れで処理を実行する。   FIG. 4 is a sequence diagram showing the flow of processing of the conference system 10 at the start of the conference. The conference system 10 executes processing in the flow shown in FIG. 4 at the start of the conference.

まず、会議に参加している何れかのユーザが、IWB22を用いて会議支援装置30へのログイン操作をする。ログイン操作がされると、IWB22は、ログイン情報を会議支援装置30に送信する(S401)。会議支援装置30は、IWB22の認証が成功すると、IWB22に機器用会議画面データを送信する(S402)。   First, any user participating in the conference performs a login operation to the conference support apparatus 30 using the IWB 22. When the login operation is performed, the IWB 22 transmits login information to the conference support apparatus 30 (S401). When the authentication of the IWB 22 is successful, the conference support apparatus 30 transmits device conference screen data to the IWB 22 (S402).

IWB22は、機器用会議画面データを受信すると、機器用会議画面550(詳細は図5を参照して後述)を表示する(S403)。また、会議支援装置30は、機器用会議画面データを送信すると、以後、IWB22から、IWB22に表示された画像を表す機器画像データを受信して、記録を開始する(S404)。   Upon receiving the device conference screen data, the IWB 22 displays a device conference screen 550 (details will be described later with reference to FIG. 5) (S403). In addition, when the conference support device 30 transmits the device conference screen data, the conference support device 30 subsequently receives device image data representing an image displayed on the IWB 22 from the IWB 22 and starts recording (S404).

また、会議に参加しているそれぞれのユーザは、自身が使用している端末装置20を用いて会議支援装置30へのログイン操作をする。ログイン操作がされると、それぞれの端末装置20は、ログイン情報を会議支援装置30に送信する(S405−1、S405−2)。会議支援装置30は、端末装置20の認証が成功すると、端末装置20に端末用会議画面データを送信する(S406−1、S406−2)。   In addition, each user participating in the conference performs a login operation to the conference support device 30 using the terminal device 20 used by the user. When a login operation is performed, each terminal device 20 transmits login information to the conference support device 30 (S405-1, S405-2). When the authentication of the terminal device 20 is successful, the conference support device 30 transmits terminal conference screen data to the terminal device 20 (S406-1, S406-2).

それぞれの端末装置20は、端末用会議画面データを受信すると、端末用会議画面650(詳細は図6を参照して後述)を表示する(S407−1、S407−2)。また、会議支援装置30は、端末用会議画面データを送信すると、以後、それぞれの端末装置20から送信された音声データおよび動画像データの記録を受信して、記録を開始する(S408−1、S408−2)。   Upon receiving the terminal conference screen data, each terminal device 20 displays a terminal conference screen 650 (details will be described later with reference to FIG. 6) (S407-1, S407-2). In addition, when the conference support device 30 transmits the terminal conference screen data, the conference support device 30 subsequently receives the recording of the audio data and the moving image data transmitted from each terminal device 20 and starts the recording (S408-1, S408-2).

図5は、機器用会議画面550の一例を示す図である。機器画面提供部70は、会議が開始された場合、IWB22に画面データを送信して、例えば、図5に示すような機器用会議画面550を表示させる。   FIG. 5 is a diagram illustrating an example of the device conference screen 550. When the conference is started, the device screen providing unit 70 transmits screen data to the IWB 22 to display a device conference screen 550 as shown in FIG. 5, for example.

例えば、機器用会議画面550には、各種の操作用のボタンが設けられている。これらのボタンが操作されることにより、IWB22は、所定の処理を実行する。   For example, the device conference screen 550 is provided with various operation buttons. By operating these buttons, the IWB 22 executes a predetermined process.

また、機器用会議画面550は、文字または図形等を描画できる作業領域を有する。ユーザが例えば電子ペンを用いて作業領域に描画することにより、IWB22は、作業領域に、ユーザの描画内容を表す描画データを表示する。IWB22は、ディスプレイに表示した画像が変化する毎に、画像をキャプチャリングして機器画像データを生成する。そして、IWB22は、生成した機器画像データを会議支援装置30に送信する。会議支援装置30は、IWB22から機器画像データを受信して、記憶する。   The device conference screen 550 has a work area in which characters, graphics, and the like can be drawn. When the user draws in the work area using, for example, an electronic pen, the IWB 22 displays drawing data representing the user's drawing contents in the work area. Each time the image displayed on the display changes, the IWB 22 captures the image and generates device image data. Then, the IWB 22 transmits the generated device image data to the conference support apparatus 30. The conference support apparatus 30 receives the device image data from the IWB 22 and stores it.

図6は、端末用会議画面650の一例を示す図である。端末画面提供部72は、会議が開始された場合、画面データを送信して、例えば、図6に示すような端末用会議画面650を表示させる。例えば、端末画面提供部72は、遠隔参加または準参加により参加するユーザが使用する端末装置20に、図6に示すような端末用会議画面650を表示させる。   FIG. 6 is a diagram illustrating an example of the terminal conference screen 650. When the conference is started, the terminal screen providing unit 72 transmits screen data to display a terminal conference screen 650 as shown in FIG. 6, for example. For example, the terminal screen providing unit 72 displays a terminal conference screen 650 as shown in FIG. 6 on the terminal device 20 used by a user who participates by remote participation or semi-participation.

操作インターフェイス領域660は、会議支援装置30が収集した複数のチャネルの音声データのうちから、1つのチャネルの音声データを指定させるための操作インターフェイスを含む。例えば、操作インターフェイス領域660は、会議支援装置30が受信している複数のチャネルの音声データうちから、1つのチャネルの音声データを指定するための複数のチャネルボタン670を含む。   The operation interface region 660 includes an operation interface for designating audio data of one channel from the audio data of a plurality of channels collected by the conference support apparatus 30. For example, the operation interface area 660 includes a plurality of channel buttons 670 for designating one channel of audio data from among a plurality of channels of audio data received by the conference support apparatus 30.

複数のチャネルボタン670のそれぞれは、会議支援装置30が受信している、何れかの音声データのチャネルに対応している。例えば、それぞれのチャネルボタン670には、対応するチャネル番号が表示されている。ユーザは、複数のチャネルボタン670のうちの何れか1つを押下することにより、1つの音声データのチャネルを指定することができる。   Each of the plurality of channel buttons 670 corresponds to one of the audio data channels received by the conference support apparatus 30. For example, each channel button 670 displays a corresponding channel number. The user can designate one audio data channel by pressing any one of the plurality of channel buttons 670.

ユーザにより何れか1つのチャネルが指定された場合、端末装置20は、音声データの送信要求およびチャネルを指定する情報を、ネットワークを介して会議支援装置30に送信する。会議支援装置30の音声提供部84は、端末装置20から音声データの送信要求およびチャネルを指定する情報を受信した場合、指定されたチャネルの音声データを、端末装置20に送信する。そして、端末装置20は、会議支援装置30から音声データを受信し、受信した音声データに応じた音声を出力する。これにより、端末装置20は、指定したチャネルの音声データを出力することができる。   When any one channel is designated by the user, the terminal device 20 transmits an audio data transmission request and information designating the channel to the conference support device 30 via the network. When receiving the voice data transmission request and the information specifying the channel from the terminal device 20, the voice providing unit 84 of the conference support device 30 transmits the voice data of the specified channel to the terminal device 20. And the terminal device 20 receives audio | voice data from the meeting assistance apparatus 30, and outputs the audio | voice according to the received audio | voice data. Thereby, the terminal device 20 can output the audio data of the designated channel.

また、操作インターフェイス領域660は、会議中において、任意のタイミングでユーザからチャネルの指定を受け付けることができる。これにより、端末装置20は、会議中において、音声データの音声が小さくなった場合、出力させる音声データのチャネルを切り替えることができる。   The operation interface area 660 can accept a channel designation from the user at an arbitrary timing during the conference. Thereby, the terminal device 20 can switch the channel of the audio data to be output when the audio of the audio data is reduced during the conference.

機器画像662は、IWB22に表示されている画像である。端末装置20は、会議支援装置30から、IWB22に表示されている画像を表す機器画像データを受信する。そして、端末装置20は、受信した機器画像データを、機器画像662として表示する。これにより、端末装置20は、ユーザに、IWB22に表示されている画像を認識させることができる。   The device image 662 is an image displayed on the IWB 22. The terminal device 20 receives device image data representing an image displayed on the IWB 22 from the conference support device 30. Then, the terminal device 20 displays the received device image data as a device image 662. Thereby, the terminal device 20 can make a user recognize the image currently displayed on IWB22.

トークボタン664は、端末装置20を使用しているユーザの音声を、他のユーザに伝えるためのボタンである。端末装置20は、トークボタン664が押下されている間において、音声を集音し、集音した音声を表す音声データを生成する。そして、端末装置20は、生成した音声データを会議支援装置30にネットワークを介して送信する。会議支援装置30は、端末装置20から受信した音声データを記録するとともに、他の端末装置20へとネットワークを介して送信する。これにより、会議支援装置30は、端末装置20を使用しているユーザの音声を、他のユーザに伝えることができる。   The talk button 664 is a button for transmitting the voice of the user who is using the terminal device 20 to other users. The terminal device 20 collects sound while the talk button 664 is pressed, and generates sound data representing the collected sound. And the terminal device 20 transmits the produced | generated audio | voice data to the meeting assistance apparatus 30 via a network. The conference support apparatus 30 records the audio data received from the terminal apparatus 20 and transmits it to the other terminal apparatus 20 via the network. Thereby, the meeting assistance apparatus 30 can tell the voice of the user who is using the terminal device 20 to other users.

ボタン群666は、端末装置20を使用しているユーザにより操作されるボタンを含む。例えば、ボタン群666は、会議中における任意の位置にマーキングをするためのマークボタン、音声のテキストデータを取得するためのテキストボタン、および、他のユーザに任意のアイコンを送信するためのアイコンボタン等を含む。   The button group 666 includes buttons operated by a user using the terminal device 20. For example, the button group 666 includes a mark button for marking an arbitrary position in the meeting, a text button for acquiring audio text data, and an icon button for transmitting an arbitrary icon to other users. Etc.

図7は、チャネル時における会議支援装置30の処理の流れを示すフローチャートである。何れかの端末装置20に対して音声データを出力する場合、会議支援装置30は、図7に示す流れで処理を実行する。   FIG. 7 is a flowchart showing the flow of processing of the conference support apparatus 30 during a channel. When audio data is output to any one of the terminal devices 20, the conference support device 30 executes processing according to the flow shown in FIG.

まず、対象の端末装置20に対して音声データを出力している状態において、会議支援装置30は、対象の端末装置20においてチャネルの変更操作がされたか否かを判断する(S411)。チャネルの変更操作がされていない場合(S411のNo)、会議支援装置30は、処理をS411で待機する。チャネルの変更操作がされた場合(S411のYes)、会議支援装置30は、処理をS412に進める。   First, in a state where audio data is being output to the target terminal device 20, the conference support device 30 determines whether or not a channel change operation has been performed on the target terminal device 20 (S411). If the channel change operation has not been performed (No in S411), the conference support apparatus 30 stands by for processing in S411. If a channel change operation has been performed (Yes in S411), the conference support apparatus 30 advances the process to S412.

S412において、会議支援装置30は、受信している複数のチャネルのうち、チャネルの変更操作により指定されたチャネルの音声データを選択する。続いて、S413において、会議支援装置30は、選択した音声データを、対象の端末装置20にネットワークを介して送信する。   In S412, the conference support apparatus 30 selects the audio data of the channel designated by the channel changing operation from the plurality of received channels. Subsequently, in S413, the conference support device 30 transmits the selected audio data to the target terminal device 20 via the network.

以上のように、本実施形態に係る会議支援装置30は、端末装置20を使用するユーザが指定したチャネルの音声データを、その端末装置20に送信して出力させる。これにより、会議支援装置30は、会議において、端末装置20を使用するユーザに適切な音声を提供することができる。例えば、会議支援装置30は、会議において、端末装置20を使用するユーザに、聞き取りやすい音声を提供することができる。   As described above, the conference support apparatus 30 according to the present embodiment transmits the audio data of the channel specified by the user who uses the terminal apparatus 20 to the terminal apparatus 20 for output. Thereby, the meeting assistance apparatus 30 can provide a suitable audio | voice to the user who uses the terminal device 20 in a meeting. For example, the conference support apparatus 30 can provide easy-to-hear audio to a user who uses the terminal device 20 in a conference.

図8は、端末用会議画面650の第1変形例を示す図である。端末画面提供部72は、会議に参加している他のユーザを指定するための操作インターフェイスを含む端末用会議画面650を、端末装置20に表示させてもよい。   FIG. 8 is a diagram showing a first modification of the terminal conference screen 650. The terminal screen providing unit 72 may cause the terminal device 20 to display a terminal conference screen 650 including an operation interface for designating other users participating in the conference.

例えば、図8に示すように、端末画面提供部72は、それぞれのチャネルボタン670に、対応するユーザを識別する情報を表示させてもよい。ユーザを識別する情報は、例えば、ユーザの顔の画像であってよい。また、ユーザを識別する情報は、ユーザ名またはユーザを識別するアイコン等であってもよい。   For example, as illustrated in FIG. 8, the terminal screen providing unit 72 may display information for identifying the corresponding user on each channel button 670. The information for identifying the user may be, for example, an image of the user's face. Further, the information for identifying the user may be a user name or an icon for identifying the user.

操作インターフェイス領域660を操作することにより何れか1つのユーザが指定された場合、端末装置20は、音声データの送信要求および指定されたユーザを識別する情報を、ネットワークを介して会議支援装置30に送信する。会議支援装置30の音声提供部84は、端末装置20から音声データの送信要求およびユーザを識別する情報を受信した場合、ユーザを識別する情報から、対応する音声データのチャネルを特定する。そして、会議支援装置30の音声提供部84は、特定したチャネルの音声データを、端末装置20に送信する。   When any one user is designated by operating the operation interface area 660, the terminal device 20 sends a voice data transmission request and information for identifying the designated user to the conference support device 30 via the network. Send. When receiving the voice data transmission request and the information for identifying the user from the terminal device 20, the voice providing unit 84 of the conference support apparatus 30 specifies the corresponding voice data channel from the information for identifying the user. Then, the audio providing unit 84 of the conference support device 30 transmits the audio data of the identified channel to the terminal device 20.

端末装置20は、会議支援装置30から音声データを受信し、受信した音声データに応じた音声を出力する。これにより、端末装置20は、ユーザを指定することにより、そのユーザが発声している音声を出力することができる。   The terminal device 20 receives audio data from the conference support device 30 and outputs audio corresponding to the received audio data. Thereby, the terminal device 20 can output the voice uttered by the user by designating the user.

図9は、端末用会議画面650の第2変形例を示す図である。端末画面提供部72は、複数のチャネルの音声データのそれぞれの音量を表す操作インターフェイスを含む端末用会議画面650を、端末装置20に表示させてもよい。   FIG. 9 is a diagram showing a second modification of the terminal conference screen 650. The terminal screen providing unit 72 may cause the terminal device 20 to display a terminal conference screen 650 including an operation interface representing the sound volume of the audio data of the plurality of channels.

例えば、図9に示すように、端末画面提供部72は、それぞれのチャネルボタン670に、音声データのリアルタイムの音量を表すゲージを表示させてもよい。これにより、端末画面提供部72は、現在発話しているユーザの音声が含まれる音声データのチャネルを、ユーザに指定させることができる。   For example, as illustrated in FIG. 9, the terminal screen providing unit 72 may cause each channel button 670 to display a gauge indicating the real-time volume of the audio data. Thereby, the terminal screen provision part 72 can make a user designate the channel of the audio | voice data in which the audio | voice of the user who is uttering now is included.

また、端末装置20は、ユーザによりチャネルの選択がされなかった場合には、音量が最も大きいチャネルの音声データを自動的に指定してもよい。また、音量が最も大きいチャネルの音声データを自動的に指定する処理を、端末装置20に代わり、会議支援装置30の音声提供部84が実行してもよい。これにより、端末装置20は、ユーザによりチャネルの指定がされなくても、最も音量が大きいチャネルの音声データを自動的に出力することができる。   Further, when the channel is not selected by the user, the terminal device 20 may automatically specify the audio data of the channel with the highest volume. In addition, the voice providing unit 84 of the conference support apparatus 30 may execute the process of automatically designating the voice data of the channel with the highest volume instead of the terminal apparatus 20. Thereby, the terminal device 20 can automatically output the audio data of the channel with the highest volume even if the channel is not designated by the user.

図10は、端末用会議画面650の第3変形例を示す図である。また、例えば、図10に示すように、端末画面提供部72は、それぞれのチャネルボタン670に、音声データの音量波形を表示させてもよい。このようにしても、端末画面提供部72は、現在発話しているユーザの音声が含まれる音声データのチャネルを、ユーザに指定させることができる。   FIG. 10 is a diagram illustrating a third modification of the terminal conference screen 650. For example, as illustrated in FIG. 10, the terminal screen providing unit 72 may display the volume waveform of the audio data on each channel button 670. Even in this way, the terminal screen providing unit 72 can allow the user to specify a channel of audio data including the audio of the user who is currently speaking.

(第2実施形態)
図11は、第2実施形態に係る会議システム10を示す図である。第2実施形態に係る会議システム10は、図1から図10を参照して説明した第1実施形態に係る会議システム10と略同一の構成および機能を有する。従って、第2実施形態に係る会議システム10は、略同一の機能を有するブロックについては同一の符号を付けて、相違点を除き説明を省略する。第3実施形態に係る会議システム10についても同様である。
(Second Embodiment)
FIG. 11 is a diagram showing a conference system 10 according to the second embodiment. The conference system 10 according to the second embodiment has substantially the same configuration and function as the conference system 10 according to the first embodiment described with reference to FIGS. Therefore, in the conference system 10 according to the second embodiment, blocks having substantially the same functions are denoted by the same reference numerals, and description thereof is omitted except for differences. The same applies to the conference system 10 according to the third embodiment.

第2実施形態に係る会議システム10は、マイクロホンアレイ160をさらに備える。マイクロホンアレイ160は、ネットワークを介して会議支援装置30に接続される。また、マイクロホンアレイ160は、IWB22に接続され、IWB22を介して会議支援装置30に音声データを送信してもよい。   The conference system 10 according to the second embodiment further includes a microphone array 160. The microphone array 160 is connected to the conference support apparatus 30 via a network. Further, the microphone array 160 may be connected to the IWB 22 and transmit audio data to the conference support apparatus 30 via the IWB 22.

マイクロホンアレイ160は、互いに異なる方向の音声を集音する複数のマイクロホンを含む。マイクロホンアレイ160は、複数のマイクロホンにより集音された、異なる方向の音声を表す複数のチャネルの音声データを出力する。そして、会議支援装置30は、マイクロホンアレイ160から出力された複数のチャネルの音声データを取得する。   The microphone array 160 includes a plurality of microphones that collect sounds in different directions. The microphone array 160 outputs sound data of a plurality of channels representing sounds in different directions collected by a plurality of microphones. Then, the conference support apparatus 30 acquires audio data of a plurality of channels output from the microphone array 160.

マイクロホンアレイ160は、IWB22が設置されている場所(例えば、会議室)に設置される。マイクロホンアレイ160に含まれるそれぞれのマイクロホンは、高い指向性を有する。従って、マイクロホンアレイ160は、音量が大きい音声を検出したマイクロホンを特定することにより、音声が発せられた方向を特定することができる。   The microphone array 160 is installed in a place (for example, a conference room) where the IWB 22 is installed. Each microphone included in the microphone array 160 has high directivity. Therefore, the microphone array 160 can specify the direction in which the sound is emitted by specifying the microphone that has detected the sound with a high volume.

図12は、第2実施形態に係る音声収集部82および音声提供部84の機能構成を示す図である。   FIG. 12 is a diagram illustrating a functional configuration of the voice collecting unit 82 and the voice providing unit 84 according to the second embodiment.

第2実施形態に係る音声収集部82は、音声生成部162をさらに有する。音声生成部162は、マイクロホンアレイ160から出力された複数のチャネルの音声データを取得する。音声生成部162は、マイクロホンアレイ160から取得した複数のチャネルの音声データに基づき、所定方向からの音声を表す1以上のチャネルの音声データを生成する。ここで、例えば、所定方向からの音声は、会議に参加しているユーザの方向である。   The voice collection unit 82 according to the second embodiment further includes a voice generation unit 162. The sound generation unit 162 acquires sound data of a plurality of channels output from the microphone array 160. The sound generation unit 162 generates sound data of one or more channels representing sound from a predetermined direction based on the sound data of a plurality of channels acquired from the microphone array 160. Here, for example, the voice from a predetermined direction is the direction of the user participating in the conference.

例えば、マイクロホンアレイ160は、会議に参加しているそれぞれのユーザが発声している音声を、そのユーザの方向へ向いている一部のマイクロホンが高い感度で集音する。従って、音声生成部162は、マイクロホンアレイ160から出力された複数のチャネルの音声データのうち、例えば、音量の大きいチャネルの音声データを抽出することにより、個別のユーザが発声した音声を表す音声データを生成することができる。また、音声生成部162は、音量の大きいチャネルの音声データと、指向性の方向が隣接するチャネルの音声データとを合成して、1つのチャネルの音声データを生成してもよい。   For example, the microphone array 160 collects sound uttered by each user participating in the conference, with some microphones facing toward the user having high sensitivity. Therefore, the sound generation unit 162 extracts sound data of a channel with a high volume from the sound data of a plurality of channels output from the microphone array 160, for example, sound data representing sound uttered by an individual user. Can be generated. In addition, the sound generation unit 162 may synthesize the sound data of a channel with a high volume and the sound data of a channel whose directivity direction is adjacent to generate sound data of one channel.

書込部144は、音声生成部162が生成した1以上のチャネルの音声データ、および、受信部142が受信した複数のチャネルの音声データを、チャネル毎に情報記憶部64に書き込む。   The writing unit 144 writes the audio data of one or more channels generated by the audio generating unit 162 and the audio data of a plurality of channels received by the receiving unit 142 in the information storage unit 64 for each channel.

選択部152は、端末装置20から、送信すべき音声データのチャネルの指定を受け付ける。この場合、音声生成部162により生成された音声データのチャネル、および、受信部142により受信された音声データのチャネルのうちの、何れか1つのチャネルの指定を受け付ける。   The selection unit 152 receives a designation of a channel of audio data to be transmitted from the terminal device 20. In this case, designation of any one of the channel of the audio data generated by the audio generation unit 162 and the channel of the audio data received by the reception unit 142 is accepted.

選択部152は、音声生成部162が生成した1以上のチャネルの音声データ、および、受信部142が受信した複数のチャネルの音声データを受け取る。選択部152は、受け取った複数のチャネルの音声データのうち、端末装置20に指定されたチャネルの音声データを選択する。そして、選択部152は、選択した音声データを送信部154に与える。これにより、本実施形態に係る端末装置20によれば、マイクロホンアレイ160により集音された音声データを受信して出力することができる。   The selection unit 152 receives the audio data of one or more channels generated by the audio generation unit 162 and the audio data of a plurality of channels received by the reception unit 142. The selection unit 152 selects the audio data of the channel designated by the terminal device 20 from the received audio data of the plurality of channels. Then, the selection unit 152 provides the selected audio data to the transmission unit 154. Thereby, according to the terminal device 20 which concerns on this embodiment, the audio | voice data collected by the microphone array 160 can be received and output.

このように、本実施形態に係る会議支援装置30は、マイクロホンアレイ160により集音された音声データを端末装置20に送信して出力させることができる。これにより、会議支援装置30は、端末装置20を使用するユーザにさらに適切な音声を提供することができる。   As described above, the conference support apparatus 30 according to the present embodiment can transmit the voice data collected by the microphone array 160 to the terminal apparatus 20 to be output. Thereby, the meeting assistance apparatus 30 can provide a more suitable audio | voice to the user who uses the terminal device 20. FIG.

(第3実施形態)
図13は、第3実施形態に係る音声収集部82および音声提供部84の機能構成を示す図である。第3実施形態に係る音声提供部84は、合成部170をさらに有する。
(Third embodiment)
FIG. 13 is a diagram illustrating a functional configuration of the voice collecting unit 82 and the voice providing unit 84 according to the third embodiment. The voice providing unit 84 according to the third embodiment further includes a synthesis unit 170.

第3実施形態において、選択部152は、端末装置20から、送信すべき音声データのチャネルとして、2以上のチャネルの指定も受け付けることが可能である。選択部152は、2以上のチャネルの音声データの指定を受け付けた場合、指定された2以上のチャネルの音声データを出力する。   In the third embodiment, the selection unit 152 can also accept designation of two or more channels from the terminal device 20 as channels of audio data to be transmitted. When the selection unit 152 receives designation of audio data of two or more channels, the selection unit 152 outputs the audio data of the designated two or more channels.

合成部170は、選択部152が2以上のチャネルの音声データの指定を受け付けた場合、選択部152から出力された2以上のチャネルの音声データを合成して、1つのチャネルの音声データを出力する。なお、合成部170は、選択部152が1つのチャネルの音声データの指定を受け付けた場合には、選択部152から出力された1つのチャネルの音声データをそのまま出力する。送信部154は、合成部170から出力された1つのチャネルの音声データを、送信を要求した端末装置20にネットワークを介して送信する。   When the selection unit 152 receives the designation of audio data of two or more channels, the synthesis unit 170 synthesizes the audio data of two or more channels output from the selection unit 152 and outputs the audio data of one channel To do. Note that when the selection unit 152 receives designation of audio data of one channel, the synthesis unit 170 outputs the audio data of one channel output from the selection unit 152 as it is. The transmission unit 154 transmits the audio data of one channel output from the synthesis unit 170 to the terminal device 20 that has requested transmission over the network.

このように、第3実施形態に係る端末装置20は、2以上のチャネルの音声データを合成した音声データを、端末装置20に送信して出力させることができる。これにより、会議支援装置30は、端末装置20を使用するユーザにさらに適切な音声を提供することができる。   As described above, the terminal device 20 according to the third embodiment can transmit the audio data obtained by synthesizing the audio data of two or more channels to the terminal device 20 and output the audio data. Thereby, the meeting assistance apparatus 30 can provide a more suitable audio | voice to the user who uses the terminal device 20. FIG.

(ハードウェア構成)
図14は、IWB22のハードウェア構成の一例を示す図である。IWB22は、CPU(Central Processing Unit)721と、ROM(Read Only Memory)722と、RAM(Random Access Memory)723と、フラッシュメモリ724と、SSD(Solid State Drive)725と、HD(Hard Disk)726と、HDD(Hard Disk Drive)727と、ネットワークI/F728と、メディアドライブ729と、音声入出力I/F731と、画像入力I/F732と、キャプチャデバイス733と、GPU(Graphics Processing Unit)734と、ディスプレイ720と、ディスプレイコントローラ735と、接触センサ736と、センサコントローラ737と、電子ペンコントローラ738と、バスライン740とを備える。
(Hardware configuration)
FIG. 14 is a diagram illustrating an example of a hardware configuration of the IWB 22. The IWB 22 includes a CPU (Central Processing Unit) 721, a ROM (Read Only Memory) 722, a RAM (Random Access Memory) 723, a flash memory 724, an SSD (Solid State Drive) 725, and an HD (Hard Disk) 726. A hard disk drive (HDD) 727, a network I / F 728, a media drive 729, an audio input / output I / F 731, an image input I / F 732, a capture device 733, a GPU (Graphics Processing Unit) 734, A display 720, a display controller 735, a contact sensor 736, a sensor controller 737, an electronic pen controller 738, and a bus line 740.

CPU721は、IWB22の全体の動作を制御する。ROM722は、CPU721により実行されるプログラムを記憶する。RAM723は、CPU721のワークエリアとして使用される。フラッシュメモリ724は、IWB22用の制御プログラム等の各種データを記憶する。IWB22は、フラッシュメモリ724に代えて、EEPROM等を備えてもよい。SSD725は、CPU721の制御に従ってフラッシュメモリ724に対する各種データの読み出しまたは書き込みを制御する。   The CPU 721 controls the overall operation of the IWB 22. The ROM 722 stores a program executed by the CPU 721. The RAM 723 is used as a work area for the CPU 721. The flash memory 724 stores various data such as a control program for the IWB 22. The IWB 22 may include an EEPROM or the like instead of the flash memory 724. The SSD 725 controls reading or writing of various data with respect to the flash memory 724 according to the control of the CPU 721.

HD726は、CPU721により実行されるデータおよびプログラム等を記憶する。HDD727は、CPU721の制御に従ってHD726に対する各種データの読み出しまたは書き込みを制御する。   The HD 726 stores data and programs executed by the CPU 721. The HDD 727 controls reading or writing of various data with respect to the HD 726 according to the control of the CPU 721.

ネットワークI/F728は、ネットワークを介した通信を制御する。メディアドライブ729は、IWB22に対して着脱可能なフラッシュメモリ等の記録メディアに対するデータの読み出しまたは書き込み(記憶)を制御する。音声入出力I/F731は、CPU721の制御に従ってマイクロフォンスピーカ等との間で音信号の入出力を処理する。   The network I / F 728 controls communication via the network. The media drive 729 controls reading or writing (storage) of data with respect to a recording medium such as a flash memory that can be attached to and detached from the IWB 22. The voice input / output I / F 731 processes input / output of a sound signal with a microphone speaker or the like according to the control of the CPU 721.

画像入力I/F732は、カメラにより撮像された画像を入力する。キャプチャデバイス733は、ディスプレイ720に表示された静止画または動画を取り込む。GPU734は、グラフィクス処理を実行する。GPU734は、ユーザにより入力された情報に応じた画像の描画処理を実行する。また、GPU734は、描画した画像と、CPU721がプログラムを実行することにより表示される画像およびカメラから入力した画像とを合成する処理等を実行する。ディスプレイ720は、情報を表示する。例えば、ディスプレイ720は、フラットパネルディスプレイである。ディスプレイコントローラ735は、GPU734からの出力画像をディスプレイ720へ出力するために画面表示の制御および管理を行う。   The image input I / F 732 inputs an image captured by the camera. The capture device 733 captures a still image or a moving image displayed on the display 720. The GPU 734 executes graphics processing. The GPU 734 executes an image drawing process according to information input by the user. Further, the GPU 734 executes processing for combining the drawn image with an image displayed when the CPU 721 executes the program and an image input from the camera. Display 720 displays information. For example, the display 720 is a flat panel display. The display controller 735 controls and manages screen display in order to output an output image from the GPU 734 to the display 720.

接触センサ736は、電子ペンまたはユーザの手によるディスプレイ720に対する接触の操作および情報の入力を検知する。センサコントローラ737は、CPU721の制御に従って接触センサ736の処理を制御する。   The contact sensor 736 detects a touch operation on the display 720 and an input of information by an electronic pen or a user's hand. The sensor controller 737 controls processing of the contact sensor 736 according to the control of the CPU 721.

電子ペンコントローラ738は、電子ペンと通信することで、ディスプレイ720へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ738が、電子ペンのペン先およびペン尻だけでなく、電子ペンのユーザが握る部分またはその他の電子ペンの部分のタッチの有無を判断するようにしてもよい。   The electronic pen controller 738 determines whether or not there is a pen tip touch or a pen butt touch on the display 720 by communicating with the electronic pen. It should be noted that the electronic pen controller 738 may determine whether there is a touch not only on the pen tip and the pen butt of the electronic pen, but also on the part held by the user of the electronic pen or other electronic pen part.

バスライン740は、各構成要素の間を接続するためのアドレスバスおよびデータバス等である。   The bus line 740 is an address bus, a data bus, or the like for connecting each component.

図15は、端末装置20のハードウェア構成の一例を示す図である。端末装置20は、CPU821と、ROM822と、RAM823と、フラッシュメモリ824と、SSD825と、電源スイッチ826と、ネットワークI/F831と、カメラ832と、撮像素子I/F833と、マイクロホン834と、スピーカ835と、音声入出力I/F836と、タッチパネルディスプレイ820と、ディスプレイI/F838と、入力I/F839と、バスライン840とを備える。   FIG. 15 is a diagram illustrating an example of a hardware configuration of the terminal device 20. The terminal device 20 includes a CPU 821, ROM 822, RAM 823, flash memory 824, SSD 825, power switch 826, network I / F 831, camera 832, image sensor I / F 833, microphone 834, and speaker 835. A voice input / output I / F 836, a touch panel display 820, a display I / F 838, an input I / F 839, and a bus line 840.

CPU821は、端末装置20の全体の動作を制御する。ROM822は、CPU821により実行されるプログラムを記憶する。RAM823は、CPU821のワークエリアとして使用される。フラッシュメモリ824は、端末装置20用の制御プログラムおよび画像データ等の各種データを記憶する。端末装置20は、フラッシュメモリ824に代えて、EEPROM等を備えてもよい。SSD825は、CPU821の制御に従ってフラッシュメモリ824に対する各種データの読み出しまたは書き込みを制御する。電源スイッチ826は、端末装置20の電源のオン/オフを切り換えるためのボタンである。   The CPU 821 controls the overall operation of the terminal device 20. The ROM 822 stores a program executed by the CPU 821. The RAM 823 is used as a work area for the CPU 821. The flash memory 824 stores various data such as a control program for the terminal device 20 and image data. The terminal device 20 may include an EEPROM or the like instead of the flash memory 824. The SSD 825 controls reading or writing of various data with respect to the flash memory 824 according to the control of the CPU 821. The power switch 826 is a button for switching on / off the power of the terminal device 20.

ネットワークI/F831は、ネットワークを介した通信を制御する。カメラ832は、CPU821の制御に従って被写体を撮像して画像データを得る。撮像素子I/F833は、カメラ832の駆動を制御する。マイクロホン834は、音を入力する。スピーカ835は、音を出力する。音声入出力I/F836は、CPU821の制御に従ってマイクロホン834およびスピーカ835との間で音信号の入出力を処理する。   The network I / F 831 controls communication via the network. The camera 832 captures a subject according to the control of the CPU 821 and obtains image data. The image sensor I / F 833 controls driving of the camera 832. The microphone 834 inputs sound. The speaker 835 outputs sound. The voice input / output I / F 836 processes input / output of a sound signal between the microphone 834 and the speaker 835 according to the control of the CPU 821.

タッチパネルディスプレイ820は、画像データに応じた画像および操作用アイコン等を表示する。さらに、タッチパネルディスプレイ820は、画面上にされた操作入力を受け付ける。ディスプレイI/F838は、CPU821の制御に従ってタッチパネルディスプレイ820に画像データを伝送する。入力I/F839は、タッチパネルディスプレイ820に対してされた操作入力を検出する。バスライン840は、各構成要素の間を接続するためのアドレスバスおよびデータバス等である。   The touch panel display 820 displays an image corresponding to the image data, an operation icon, and the like. Furthermore, touch panel display 820 accepts operation inputs made on the screen. The display I / F 838 transmits image data to the touch panel display 820 under the control of the CPU 821. The input I / F 839 detects an operation input made on the touch panel display 820. The bus line 840 is an address bus, a data bus, or the like for connecting each component.

なお、端末装置20がノート型コンピュータ等である場合には、端末装置20は、タッチパネルディスプレイ820に代えて、入力機能を有さないディスプレイを備えてもよい。この場合、端末装置20は、キーボードおよびマウス等の入力デバイスを有する。   When the terminal device 20 is a notebook computer or the like, the terminal device 20 may include a display that does not have an input function instead of the touch panel display 820. In this case, the terminal device 20 has input devices such as a keyboard and a mouse.

図16は、会議支援装置30のハードウェア構成の一例を示す図である。会議支援装置30は、コンピュータまたはサーバ装置等の情報処理装置である。   FIG. 16 is a diagram illustrating an example of a hardware configuration of the conference support apparatus 30. The meeting support apparatus 30 is an information processing apparatus such as a computer or a server apparatus.

会議支援装置30は、CPU921と、ROM922と、RAM923と、ネットワークI/F924と、記憶装置925とを備える。CPU921は、会議支援装置30の全体の動作を制御する。ROM922は、CPU921により実行されるプログラムを記憶する。RAM923は、CPU921のワークエリアとして使用される。   The conference support apparatus 30 includes a CPU 921, a ROM 922, a RAM 923, a network I / F 924, and a storage device 925. The CPU 921 controls the overall operation of the conference support apparatus 30. The ROM 922 stores a program executed by the CPU 921. The RAM 923 is used as a work area for the CPU 921.

ネットワークI/F924は、ネットワークを介した通信を制御する。記憶装置925は、例えばハードディスクドライブ等である。記憶装置925は、会議支援装置30用の制御プログラムおよび会議支援装置30が参照する各種のデータを記憶する。また、記憶装置925は、会議を支援するために必要な各種の管理データ、および、会議において記録される音声データ、動画像データおよび機器画像データを記憶する。   The network I / F 924 controls communication via the network. The storage device 925 is, for example, a hard disk drive. The storage device 925 stores a control program for the conference support device 30 and various data referred to by the conference support device 30. In addition, the storage device 925 stores various management data necessary for supporting the conference, and audio data, moving image data, and device image data recorded in the conference.

本実施形態の会議支援装置30で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供される。   The program executed by the conference support apparatus 30 according to the present embodiment is an installable format or executable format file, and is a computer-readable recording such as a CD-ROM, a flexible disk (FD), a CD-R, and a DVD. Provided by being recorded on a medium.

また、本実施形態の会議支援装置30で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施形態の会議支援装置30で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。また、本実施形態のプログラムを、ROM922等に予め組み込んで提供するように構成してもよい。   In addition, the program executed by the conference support apparatus 30 of the present embodiment may be provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. In addition, the program executed by the conference support apparatus 30 of the present embodiment may be configured to be provided or distributed via a network such as the Internet. Further, the program of the present embodiment may be configured to be provided by being incorporated in advance in the ROM 922 or the like.

コンピュータを会議支援装置30として機能させるためのプログラムは、機器画面提供モジュールと、端末画面提供モジュールと、機器操作受付モジュールと、端末操作受付モジュールと、機器画像収集モジュールと、機器画像提供モジュールと、音声収集モジュールと、音声提供モジュールと、動画像収集モジュールと、動画像提供モジュールと、会議処理モジュールとを有する。   A program for causing a computer to function as the conference support apparatus 30 includes a device screen providing module, a terminal screen providing module, a device operation receiving module, a terminal operation receiving module, a device image collecting module, a device image providing module, The audio collecting module, the audio providing module, the moving image collecting module, the moving image providing module, and the conference processing module are included.

会議支援装置30は、実際のハードウェアとしてはプロセッサ(CPU921)が記憶媒体(記憶装置925等)からプログラムを読み出して実行することにより上記各部が主記憶装置(RAM923)上にロードされる。そして、プロセッサ(CPU921)が、機器画面提供部70、端末画面提供部72、機器操作受付部74、端末操作受付部76、機器画像収集部78、機器画像提供部80、音声収集部82、音声提供部84、動画像収集部86、動画像提供部88、会議処理部90として機能する。   In the conference support apparatus 30, as the actual hardware, the processor (CPU 921) reads out and executes a program from a storage medium (such as the storage device 925), so that the above-described units are loaded onto the main storage device (RAM 923). Then, the processor (CPU 921) includes a device screen providing unit 70, a terminal screen providing unit 72, a device operation receiving unit 74, a terminal operation receiving unit 76, a device image collecting unit 78, a device image providing unit 80, a sound collecting unit 82, and a sound. It functions as a providing unit 84, a moving image collection unit 86, a moving image providing unit 88, and a conference processing unit 90.

以上、本発明の実施形態を説明したが、実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能である。   As mentioned above, although embodiment of this invention was described, embodiment is shown as an example and is not intending limiting the range of invention. These novel embodiments can be implemented in various other forms.

10 会議システム
20 端末装置
22 IWB
30 会議支援装置
42 第1通信部
44 操作入力部
46 画面表示部
48 画像生成部
50 第2通信部
52 集音部
54 撮像部
56 入力部
58 表示部
60 音声出力部
62 第3通信部
64 情報記憶部
70 機器画面提供部
72 端末画面提供部
74 機器操作受付部
76 端末操作受付部
78 機器画像収集部
80 機器画像提供部
82 音声収集部
84 音声提供部
86 動画像収集部
88 動画像提供部
90 会議処理部
142 受信部
144 書込部
152 選択部
154 送信部
156 読出部
160 マイクロホンアレイ
162 音声生成部
170 合成部
550 機器用会議画面
650 端末用会議画面
660 操作インターフェイス領域
662 機器画像
664 トークボタン
666 ボタン群
670 チャネルボタン
10 Conference System 20 Terminal Device 22 IWB
30 Conference support device 42 First communication unit 44 Operation input unit 46 Screen display unit 48 Image generation unit 50 Second communication unit 52 Sound collection unit 54 Imaging unit 56 Input unit 58 Display unit 60 Audio output unit 62 Third communication unit 64 Information Storage unit 70 Device screen providing unit 72 Terminal screen providing unit 74 Device operation receiving unit 76 Terminal operation receiving unit 78 Device image collecting unit 80 Device image providing unit 82 Audio collecting unit 84 Audio providing unit 86 Moving image collecting unit 88 Moving image providing unit 90 Conference processing unit 142 Reception unit 144 Writing unit 152 Selection unit 154 Transmission unit 156 Reading unit 160 Microphone array 162 Audio generation unit 170 Synthesis unit 550 Device conference screen 650 Terminal conference screen 660 Operation interface area 662 Device image 664 Talk button 666 Button group 670 Channel button

特開2010−28389号公報JP 2010-28389 A

Claims (11)

ユーザが使用する端末装置とネットワークを介して接続して、会議での複数のユーザによる討議を支援する情報処理装置であって、
前記会議において集音された音声を表す複数のチャネルの音声データを収集する音声収集部と、
前記複数のチャネルの音声データのうち、指定されたチャネルの音声データを前記端末装置に送信する音声提供部と、
を備える情報処理装置。
An information processing apparatus connected to a terminal device used by a user via a network and supporting discussion by a plurality of users in a conference,
An audio collection unit that collects audio data of a plurality of channels representing audio collected in the conference;
An audio providing unit that transmits audio data of a designated channel among the audio data of the plurality of channels to the terminal device;
An information processing apparatus comprising:
前記端末装置は、音声を集音して音声データを生成し、
前記音声収集部は、前記端末装置により生成された音声データを収集する
請求項1に記載の情報処理装置。
The terminal device collects voice to generate voice data,
The information processing apparatus according to claim 1, wherein the voice collection unit collects voice data generated by the terminal device.
前記会議に先立って、前記会議に参加するそれぞれのユーザについて、所定の場所において前記会議に参加する直接参加、前記所定の場所とは異なる場所において前記端末装置を利用して前記会議に参加する遠隔参加、または、前記会議における一部の議題について前記所定の場所とは異なる場所において前記端末装置を利用して前記会議に参加する準参加の何れの参加形態により、前記会議に参加するかを登録する会議処理部をさらに備え、
前記音声提供部は、前記遠隔参加または前記準参加により前記会議に参加するユーザが使用する前記端末装置に対して、指定されたチャネルの音声データを送信する
請求項2に記載の情報処理装置。
Prior to the conference, for each user who participates in the conference, direct participation to participate in the conference at a predetermined location, or remote participation in the conference using the terminal device at a location different from the predetermined location Register whether to participate in the conference according to the participation mode of participation or semi-participation that participates in the conference using the terminal device at a location different from the predetermined location for some agenda items in the conference A conference processing unit for
The information processing apparatus according to claim 2, wherein the voice providing unit transmits voice data of a designated channel to the terminal device used by a user who participates in the conference by the remote participation or the semi-participation.
前記端末装置に、チャネルを指定させるための操作インターフェイスを含む画面を表示させる端末画面提供部をさらに備え、
前記音声提供部は、前記画面により指定されたチャネルの音声データを、対応する前記端末装置に送信する
請求項1から3の何れか1項に記載の情報処理装置。
The terminal device further comprises a terminal screen providing unit for displaying a screen including an operation interface for designating a channel.
The information processing apparatus according to any one of claims 1 to 3, wherein the voice providing unit transmits voice data of a channel specified by the screen to the corresponding terminal device.
前記端末画面提供部は、前記会議に参加している他のユーザを指定するための操作インターフェイスを含む前記画面を、前記端末装置に表示させ、
前記音声提供部は、前記画面により指定されたユーザが使用する前記端末装置により生成されたチャネルの音声データを、対応する前記端末装置に送信する
請求項4に記載の情報処理装置。
The terminal screen providing unit displays the screen including an operation interface for designating another user participating in the conference on the terminal device,
The information processing apparatus according to claim 4, wherein the voice providing unit transmits the voice data of the channel generated by the terminal device used by the user specified by the screen to the corresponding terminal device.
前記端末画面提供部は、前記複数のチャネルの音声データのそれぞれの音量を表す操作インターフェイスを含む前記画面を、前記会議に参加するユーザが使用する前記端末装置に表示させる
請求項4に記載の情報処理装置。
The information according to claim 4, wherein the terminal screen providing unit displays the screen including an operation interface representing the volume of each of the audio data of the plurality of channels on the terminal device used by a user participating in the conference. Processing equipment.
前記音声収集部は、互いに異なる方向の音声を集音する複数のマイクロホンを含むマイクロホンアレイから取得した複数のチャネルの音声データに基づき、所定方向からの音声を表す1以上のチャネルの音声データをさらに生成し、
前記音声提供部は、前記音声収集部が生成した所定方向からの音声を表す1以上のチャネルの音声データ、および、前記音声収集部が受信した前記複数のチャネルの音声データのうち、指定されたチャネルの音声データを前記端末装置に送信する
請求項1から6の何れか1項に記載の情報処理装置。
The sound collection unit further includes sound data of one or more channels representing sound from a predetermined direction based on sound data of a plurality of channels acquired from a microphone array including a plurality of microphones collecting sound in different directions. Generate and
The voice providing unit is designated out of voice data of one or more channels representing voice from a predetermined direction generated by the voice collecting unit, and voice data of the plurality of channels received by the voice collecting unit. The information processing device according to claim 1, wherein channel audio data is transmitted to the terminal device.
前記音声提供部は、前記音声収集部が収集した前記複数のチャネルの音声データのうち、2以上のチャネルの音声データが指定された場合、指定された2以上のチャネルの音声データを合成した1つのチャネルの音声データを前記端末装置に送信する
請求項1から7の何れか1項に記載の情報処理装置。
The voice providing unit is configured to synthesize voice data of two or more designated channels when voice data of two or more channels is designated among the voice data of the plurality of channels collected by the voice collecting unit. The information processing apparatus according to any one of claims 1 to 7, wherein audio data of one channel is transmitted to the terminal apparatus.
会議に参加する複数のユーザのそれぞれが使用する複数の端末装置と、
前記複数の端末装置とネットワークを介して接続して、前記会議での複数のユーザによる討議を支援する情報処理装置と
を備える会議システムであって、
前記情報処理装置は、
前記会議において集音された音声を表す複数のチャネルの音声データを収集する音声収集部と、
前記複数のチャネルの音声データのうち、指定されたチャネルの音声データを前記端末装置に送信する音声提供部と、
を有する会議システム。
A plurality of terminal devices used by each of a plurality of users participating in the conference;
An information processing apparatus that is connected to the plurality of terminal devices via a network and supports discussion by a plurality of users in the meeting,
The information processing apparatus includes:
An audio collection unit that collects audio data of a plurality of channels representing audio collected in the conference;
An audio providing unit that transmits audio data of a designated channel among the audio data of the plurality of channels to the terminal device;
Conference system.
会議に参加する複数のユーザのそれぞれが使用する複数の端末装置とネットワークを介して接続して、前記会議での複数のユーザによる討議を支援する情報処理装置において実行される方法であって、
前記情報処理装置が、
前記会議において集音された音声を表す複数のチャネルの音声データを収集し、
収集した前記複数のチャネルの音声データのうち、指定されたチャネルの音声データを前記端末装置に送信する
処理を実行する方法。
A method that is executed in an information processing device that supports a discussion by a plurality of users in a conference by connecting to a plurality of terminal devices used by each of a plurality of users participating in the conference via a network,
The information processing apparatus is
Collecting audio data of a plurality of channels representing audio collected in the conference;
A method of executing processing of transmitting audio data of a designated channel among the collected audio data of the plurality of channels to the terminal device.
情報処理装置を、ユーザが使用する端末装置とネットワークを介して接続して、会議での複数のユーザによる討議を支援する装置として機能させるためのプログラムであって、
前記情報処理装置を、
前記会議において集音された音声を表す複数のチャネルの音声データを収集する音声収集部と、
前記複数のチャネルの音声データのうち、指定されたチャネルの音声データを前記端末装置に送信する音声提供部と、
して機能させるプログラム。
A program for connecting an information processing device to a terminal device used by a user via a network and functioning as a device that supports discussion by a plurality of users at a conference,
The information processing apparatus;
An audio collection unit that collects audio data of a plurality of channels representing audio collected in the conference;
An audio providing unit that transmits audio data of a designated channel among the audio data of the plurality of channels to the terminal device;
Program to make it work.
JP2016162227A 2016-08-22 2016-08-22 Information processing apparatus, conference system, and program Pending JP2018032911A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016162227A JP2018032911A (en) 2016-08-22 2016-08-22 Information processing apparatus, conference system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016162227A JP2018032911A (en) 2016-08-22 2016-08-22 Information processing apparatus, conference system, and program

Publications (1)

Publication Number Publication Date
JP2018032911A true JP2018032911A (en) 2018-03-01

Family

ID=61303841

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016162227A Pending JP2018032911A (en) 2016-08-22 2016-08-22 Information processing apparatus, conference system, and program

Country Status (1)

Country Link
JP (1) JP2018032911A (en)

Similar Documents

Publication Publication Date Title
CN110958537A (en) Intelligent sound box and use method thereof
WO2014192552A1 (en) Display controller, display control method, and computer program
CN110162255B (en) Single-machine program running method, device, equipment and storage medium
CN108124114A (en) A kind of audio/video conference sound collection method and device
JP5729844B1 (en) Content evaluation apparatus, system, server apparatus, and terminal apparatus
JP2018032097A (en) Information processing apparatus, conference system, method, and program
JP4572615B2 (en) Information processing apparatus and method, recording medium, and program
JP2019140517A (en) Information processing device and program
JP2012118751A (en) External input apparatus, display data creation method and program
US11368611B2 (en) Control method for camera device, camera device, camera system, and storage medium
JP2016010039A (en) Remote conference system, video processing method, video controller, conference terminal, and program thereof
JP2023131635A (en) Display system, display method, imaging device, program
JP2016063477A (en) Conference system, information processing method and program
JP2018032911A (en) Information processing apparatus, conference system, and program
US20230280961A1 (en) Device management system, information processing system, information processing device, device management method, and non-transitory recording medium
US11184184B2 (en) Computer system, method for assisting in web conference speech, and program
US20240015462A1 (en) Voice processing system, voice processing method, and recording medium having voice processing program recorded thereon
JP2018036688A (en) Information processing device, server device, information processing system, control method thereof, and program
JP5529617B2 (en) Remote conference apparatus, remote conference method, and remote conference program
JP6610076B2 (en) Information processing apparatus, information processing system, program, and recording medium
JP2012165170A (en) Conference device, conference method and conference program
JP2008032787A (en) Language learning system and program for language learning system
JP2023130822A (en) Equipment system, imaging device, display method
JP4632132B2 (en) Language learning system
JP2023106865A (en) Information processing device, information processing system, and program

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20161004

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20161004