[go: up one dir, main page]

JP2019215762A - Communication device, control method, and program - Google Patents

Communication device, control method, and program Download PDF

Info

Publication number
JP2019215762A
JP2019215762A JP2018113204A JP2018113204A JP2019215762A JP 2019215762 A JP2019215762 A JP 2019215762A JP 2018113204 A JP2018113204 A JP 2018113204A JP 2018113204 A JP2018113204 A JP 2018113204A JP 2019215762 A JP2019215762 A JP 2019215762A
Authority
JP
Japan
Prior art keywords
reproduction data
external device
source device
communication device
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018113204A
Other languages
Japanese (ja)
Inventor
篤志 皆川
Atsushi Minagawa
篤志 皆川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018113204A priority Critical patent/JP2019215762A/en
Publication of JP2019215762A publication Critical patent/JP2019215762A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Telephone Function (AREA)

Abstract

【課題】外部装置と再生用データを共有することができる通信装置の操作性を向上すること。【解決手段】第1の無線ネットワークを介して第1の外部装置と第1の再生用データの共有を行うことができる通信装置であって、前記第1の外部装置と共有すべき第1の再生用データを、前記第1の外部装置に送信する送信手段と、前記送信手段が前記第1の再生用データを前記第1の外部装置へ送信中であるかを判定する判定手段と、第2の外部装置が有する第2の再生用データを、第2の無線ネットワークを介して取得する装置を、ユーザに選択させるための選択手段と、前記第1の外部装置または他の装置が前記第2の再生用データを前記第2の外部装置から取得する場合、前記判定手段の判定結果に基づいて、前記第2の再生用データを取得する装置を、前記選択手段により選択するかしないかを切り替える切替手段と、を備える。【選択図】 図4PROBLEM TO BE SOLVED: To improve operability of a communication device capable of sharing reproduction data with an external device. A communication device capable of sharing first reproduction data with a first external device via a first wireless network, which is a first communication device to be shared with the first external device. Transmission means for transmitting the reproduction data to the first external device; determination means for determining whether the transmission means is transmitting the first reproduction data to the first external device; Selection means for allowing the user to select a device for acquiring the second reproduction data of the second external device via the second wireless network; and the first external device or another device. When the second reproduction data is acquired from the second external device, whether the device for acquiring the second reproduction data is selected by the selection device based on the determination result of the determination device. Switching means for switching. [Selection diagram]

Description

本発明は、無線ネットワークを介して外部装置と再生用データを共有することができる通信装置、当該通信装置の制御方法、および、プログラムに関する。   The present invention relates to a communication device capable of sharing reproduction data with an external device via a wireless network, a control method of the communication device, and a program.

通信装置が表示している画面や再生している音声をワイヤレスでミラーリングする技術が知られている。ミラーリングとは、通信装置(送信装置)が表示している画面の情報や再生している音声の情報を、ネットワークを介して受信装置へ伝送することで、表示している画面や再生している音声を送信装置と受信装置とで共有する技術である。
このような技術として、Wi−Fi Display(Miracast)がある。Wi−Fi Displayでは、表示している画面の情報や再生している音声の情報を送信するソース機器と、ソース機器から当該画面の情報や当該音声の情報を受信するシンク機器とが定められる。
2. Description of the Related Art A technology for wirelessly mirroring a screen displayed by a communication device and a sound being reproduced is known. Mirroring is a method of transmitting information on a screen displayed by a communication device (transmitting device) or information on a sound being reproduced to a receiving device via a network, thereby displaying or reproducing the displayed screen. This is a technique for sharing audio between a transmitting device and a receiving device.
As such a technique, there is Wi-Fi Display (Miracast). In the Wi-Fi Display, a source device that transmits information of a screen being displayed or information of a sound being reproduced, and a sink device that receives information of the screen or information of the audio from the source device are defined.

特許文献1には、上述したミラーリングと、シンク機器がソース機器以外の外部装置からコンテンツを取得して表示するコンテンツリダイレクトとに関する技術が開示されている。コンテンツリダイレクトを実施すると、ソース機器はシンク機器に外部装置が有するコンテンツの取得に必要な情報を送信し、シンク機器は外部装置からコンテンツを取得して再生する。   Patent Literature 1 discloses a technology related to the above-described mirroring and content redirection in which a sink device acquires content from an external device other than a source device and displays the content. When the content redirection is performed, the source device transmits information necessary for acquiring the content of the external device to the sink device, and the sink device acquires the content from the external device and reproduces the content.

特開2016−71638号公報JP-A-716-71638

コンテンツリダイレクトを実施する場合に、外部装置からコンテンツを取得するシンク機器を選択する必要がある。このため、ユーザが送信装置のUI(User Interface)等を用いて、コンテンツリダイレクトを実施するシンク機器(受信装置)を選択する必要がある。特許文献1では、既にミラーリングを実施している受信装置に、コンテンツリダイレクトを実施するように指示する場合でも、受信装置の選択をユーザに要求してしまう。つまり、ミラーリングの実施状態にかかわらず、コンテンツリダイレクトを実施する受信装置を選択する必要がある。
上記した課題に鑑み、本発明は、外部装置と再生用データを共有することができる通信装置の操作性を向上することを目的とする。
When performing content redirection, it is necessary to select a sink device that acquires content from an external device. For this reason, it is necessary for the user to select a sink device (receiving device) that performs content redirection by using a UI (User Interface) of the transmitting device or the like. In Patent Literature 1, even when an instruction is given to a receiving device that has already performed mirroring to perform content redirection, the user is requested to select a receiving device. That is, it is necessary to select a receiving device that performs content redirection regardless of the mirroring implementation state.
In view of the above-described problems, an object of the present invention is to improve the operability of a communication device capable of sharing reproduction data with an external device.

上記目的を達成するため、本発明の1つの態様に係る通信装置は、第1の無線ネットワークを介して第1の外部装置と第1の再生用データの共有を行うことができる通信装置であって、前記第1の外部装置と共有すべき第1の再生用データを、前記第1の外部装置に送信する送信手段と、前記送信手段が前記第1の再生用データを前記第1の外部装置へ送信中であるかを判定する判定手段と、第2の外部装置が有する第2の再生用データを、第2の無線ネットワークを介して取得する装置を、ユーザに選択させるための選択手段と、前記第1の外部装置または他の装置が前記第2の再生用データを前記第2の外部装置から取得する場合、前記判定手段の判定結果に基づいて、前記第2の再生用データを取得する装置を、前記選択手段により選択するかしないかを切り替える切替手段と、を備える。   In order to achieve the above object, a communication device according to one aspect of the present invention is a communication device capable of sharing first reproduction data with a first external device via a first wireless network. Transmitting means for transmitting the first reproduction data to be shared with the first external device to the first external device; and the transmitting means transmitting the first reproduction data to the first external device. Determining means for determining whether the data is being transmitted to the device, and selecting means for allowing the user to select a device for acquiring the second reproduction data of the second external device via the second wireless network And when the first external device or another device acquires the second reproduction data from the second external device, the second reproduction data is obtained based on the determination result of the determination unit. The device to be acquired is selected by the selection means. Comprising a switching means for switching whether or not to, the.

本発明によれば、外部装置と再生用データを共有することができる通信装置の操作性を向上することができる。   ADVANTAGE OF THE INVENTION According to this invention, the operability of the communication apparatus which can share reproduction | regeneration data with an external device can be improved.

通信システムのネットワーク構成を示す図。FIG. 1 is a diagram illustrating a network configuration of a communication system. 通信装置のハードウェア構成を示す図。FIG. 2 is a diagram illustrating a hardware configuration of the communication device. 通信装置がミラーリングを実施する際に実現するフローチャート。9 is a flowchart realized when the communication device performs mirroring. 通信装置がコンテンツリダイレクトを実施する際に実現するフローチャート。9 is a flowchart realized when the communication device performs content redirection. 2つの通信装置がコンテンツリダイレクトを実施する際に実現するシーケンス図。FIG. 6 is a sequence diagram that is realized when two communication devices perform content redirection. 通信装置のミラーリング実施中の表示画面の一例を示す図。FIG. 4 is a diagram illustrating an example of a display screen during mirroring of a communication device.

以下、本発明の実施形態を、図面を参照して詳細に説明する。なお、以下の実施形態は本発明を限定するものではなく、また、実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。実施形態の構成は、本発明が適用される装置の仕様や各種条件(使用条件、使用環境等)によって適宜修正又は変更され得る。本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、図示された構成に限定されない。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. The following embodiments do not limit the present invention, and all combinations of features described in the embodiments are not necessarily essential to the solution of the present invention. The configuration of the embodiment can be appropriately modified or changed depending on the specifications of the apparatus to which the present invention is applied and various conditions (use conditions, use environment, and the like). The technical scope of the present invention is defined by the appended claims, and is not limited to the illustrated configuration.

本実施形態では、ソース機器とシンク機器の間でミラーリングを実施しているときに、コンテンツリダイレクトを実施する場合のソース機器の動作を説明する。
(通信システムのネットワーク構成)
図1は、本実施形態に係る通信システム100のネットワーク構成を示している。通信システム100は、第1のネットワーク111と第2のネットワーク112を有する。第1のネットワーク111には、通信装置であるソース機器101と、ソース機器101とミラーリングを実施するシンク機器102が含まれている。シンク機器102は、ソース機器101から見た場合、第1の外部装置と称することができる。第2のネットワーク112には、シンク機器102とアクセスポイント(AP)103が含まれている。
第1のネットワーク111および第2のネットワーク112に含まれる各装置101〜103は、IEEE802.11シリーズ規格に準拠した無線通信方式で通信を行う。IEEEとは、Institute of Electrical and Electronics Engineers,Incの略である。
In the present embodiment, an operation of the source device when performing content redirection when mirroring is being performed between the source device and the sink device will be described.
(Network configuration of communication system)
FIG. 1 shows a network configuration of a communication system 100 according to the present embodiment. The communication system 100 has a first network 111 and a second network 112. The first network 111 includes a source device 101 that is a communication device, and a sink device 102 that performs mirroring with the source device 101. When viewed from the source device 101, the sink device 102 can be referred to as a first external device. The second network 112 includes the sink device 102 and the access point (AP) 103.
Each of the devices 101 to 103 included in the first network 111 and the second network 112 communicates by a wireless communication method based on the IEEE 802.11 series standard. IEEE is an abbreviation of Institute of Electrical and Electronics Engineers, Inc.

第1のネットワーク111は、Wi−Fi P2P仕様(Wi−Fi Direct規格)に従って形成される無線ネットワークである。P2Pとは、Peer−to−Peerの略である。本実施形態において、ソース機器101とシンク機器102は、Wi−Fi Display仕様(Wi−Fi Miracast規格)に従い、ネットワーク111を介して直接通信する。なお、ソース機器101とシンク機器102の間の通信は、Wi−Fi Miracastに規格されたものに限定されず、IEEE802.11シリーズ規格に規定されたインフラストラクチャモードの無線ネットワークを介して行われてもよい。インフラストラクチャモードでソース機器101とシンク機器102が通信する場合、ソース機器101とシンク機器102の間にアクセスポイントが設けられる。   The first network 111 is a wireless network formed according to the Wi-Fi P2P specification (Wi-Fi Direct standard). P2P is an abbreviation for Peer-to-Peer. In the present embodiment, the source device 101 and the sink device 102 directly communicate via the network 111 in accordance with the Wi-Fi Display specification (Wi-Fi Miracast standard). Note that the communication between the source device 101 and the sink device 102 is not limited to the one specified in Wi-Fi Miracast, and is performed via a wireless network in an infrastructure mode specified in the IEEE 802.11 series standard. Is also good. When the source device 101 and the sink device 102 communicate with each other in the infrastructure mode, an access point is provided between the source device 101 and the sink device 102.

第2のネットワーク112は、IEEE802.11シリーズ規格に準拠したアクセスポイント103が形成するインフラストラクチャモードの無線ネットワークであり、シンク機器102が参加可能である。なお、ソース機器101もネットワーク112に参加可能であってもよい。
アクセスポイント103はルータ機能を備えており、シンク機器102等は、アクセスポイント103を介してクラウドサーバ104と通信することができる。クラウドサーバ104は、ソース機器101から見た場合、第2の外部装置と称することができる。
The second network 112 is a wireless network of an infrastructure mode formed by the access point 103 conforming to the IEEE 802.11 series standard, and the sink device 102 can participate. Note that the source device 101 may also be able to participate in the network 112.
The access point 103 has a router function, and the sink device 102 and the like can communicate with the cloud server 104 via the access point 103. When viewed from the source device 101, the cloud server 104 can be referred to as a second external device.

なお、上記した各装置101〜103はIEEE802.11シリーズ規格に準拠した無線通信に加えて、もしくは、代えて、Bluetooth(登録商標)、近距離無線通信、UWB、ZigBee、MBOAなどの他の無線通信方式に準拠した通信方式も利用してもよい。なお、UWBはUltra Wide Bandの略であり、MBOAはMulti Band OFDM Allianceの略である。また、近距離無線通信としては、Near Field Communication(以下、「NFC」と称す)がある。また、UWBには、ワイヤレスUSB、ワイヤレス1394、WiNETなどが含まれる。OFDMは、Orthogonal Frequency Division Multiplexingの略である。さらに、上記した各装置101〜103の間の通信には、有線LANなどの有線通信方式に準拠した通信方式も適用可能である。   Each of the above-described devices 101 to 103 may perform other wireless communication such as Bluetooth (registered trademark), short-range wireless communication, UWB, ZigBee, and MBOA in addition to or instead of wireless communication conforming to the IEEE 802.11 series standard. A communication method conforming to the communication method may be used. UWB is an abbreviation for Ultra Wide Band, and MBOA is an abbreviation for Multi Band OFDM Alliance. In addition, as near field communication, there is Near Field Communication (hereinafter, referred to as “NFC”). UWB includes wireless USB, wireless 1394, WiNET, and the like. OFDM is an abbreviation for Orthogonal Frequency Division Multiplexing. Furthermore, a communication method based on a wired communication method such as a wired LAN can be applied to the communication between the devices 101 to 103 described above.

第1のネットワーク111内において、ソース機器101とシンク機器102は、Wi−Fi Display仕様に基づいたミラーリングを実施する。このとき、ソース機器101およびシンク機器102はそれぞれWi−Fi Display仕様に基づいてデータの送信処理及び受信処理を行う。Wi−Fi Display仕様に基づいたミラーリングでは、ソース機器101は、表示している画面や再生している音声の情報のストリーム(再生用データ)を、ネットワークを介してシンク機器へ伝送(ストリーミング)する送信装置として動作する。そして、シンク機器102は、ソース機器から受信した画面の表示や音声の情報のストリームを受信し、ソース機器101と同期して再生する受信装置として動作する。つまり、ソース機器101が表示している画面や再生している音声がソース機器101とシンク機器102とで共有されて再生される。なお、Wi−Fi Displayに限らず、他の仕様に基づいてミラーリングを行ってもよい。   In the first network 111, the source device 101 and the sink device 102 perform mirroring based on the Wi-Fi Display specification. At this time, the source device 101 and the sink device 102 respectively perform a data transmission process and a data reception process based on the Wi-Fi Display specification. In the mirroring based on the Wi-Fi Display specification, the source device 101 transmits (streams) a displayed screen or a stream of reproduced audio information (reproduction data) to a sink device via a network. Operate as a transmitting device. The sink device 102 operates as a receiving device that receives a screen display and a stream of audio information received from the source device, and reproduces the stream in synchronization with the source device 101. That is, the screen displayed by the source device 101 and the sound being played are shared and played between the source device 101 and the sink device 102. In addition, mirroring may be performed based on other specifications without being limited to Wi-Fi Display.

ソース機器101の例としては、タブレット、スマートフォン、PC(Personal Computer)、携帯電話、カメラ、ビデオカメラなどの入力装置が挙げられるが、これらに限定されない。シンク機器102の例としては、タブレット、スマートフォン、PC、携帯電話、テレビ、ヘッドマウントディスプレイ、プロジェクタ、ディスプレイ、カーナビゲーション装置などの出力装置が挙げられるが、これらに限定されない。   Examples of the source device 101 include, but are not limited to, input devices such as tablets, smartphones, PCs (Personal Computers), mobile phones, cameras, and video cameras. Examples of the sink device 102 include, but are not limited to, tablets, smartphones, PCs, mobile phones, televisions, head-mounted displays, projectors, displays, and output devices such as car navigation devices.

また、ソース機器101とシンク機器102は、コンテンツリダイレクトを実施することができる。コンテンツリダイレクトを実施すると、ソース機器101はシンク機器102に、ソース機器以外の外部装置からコンテンツ(画像データ、音声データなどの再生用データ)を取得させ、シンク機器102に当該コンテンツを再生させる。このとき、ソース機器101は、シンク機器102にコンテンツを外部装置から取得させるために必要な情報を送信する。外部装置は、本実施形態では、クラウドサーバ104である。   Further, the source device 101 and the sink device 102 can execute content redirection. When the content redirection is performed, the source device 101 causes the sink device 102 to acquire content (reproduction data such as image data and audio data) from an external device other than the source device, and causes the sink device 102 to reproduce the content. At this time, the source device 101 transmits information necessary for causing the sink device 102 to acquire the content from the external device. The external device is the cloud server 104 in the present embodiment.

シンク機器102にコンテンツをクラウドサーバ104から取得させるために必要な情報とは、クラウドサーバ104上にあるコンテンツを特定する情報である。コンテンツを特定する情報は、例えば、クラウドサーバ104上にあるコンテンツを識別するための識別子や、サービス名、コンテンツの所在情報(URI、URL)、再生開始時間(オフセット)などの情報である。なお、シンク機器102が受信するコンテンツ特定情報は、これらの情報の一部であってもよい。例えば、コンテンツ特定情報は、コンテンツの識別子、サービス名および所在情報の少なくとも1つを含む。コンテンツの識別子とは、コンテンツを一意に決定するための識別子のことである。また、URIはUniform Resource Identifierの略であり、URLはUniform Resource Locatorの略である。シンク機器102はソース機器101から受信したコンテンツ特定情報に基づいて、アクセスポイント103を介してクラウドサーバ104上にあるコンテンツを受信して再生する。   The information necessary for causing the sink device 102 to acquire the content from the cloud server 104 is information for specifying the content on the cloud server 104. The information for specifying the content is, for example, an identifier for identifying the content on the cloud server 104, a service name, content location information (URI, URL), a reproduction start time (offset), and the like. Note that the content identification information received by the sink device 102 may be a part of such information. For example, the content specifying information includes at least one of a content identifier, a service name, and location information. The content identifier is an identifier for uniquely determining the content. URI is an abbreviation for Uniform Resource Identifier, and URL is an abbreviation for Uniform Resource Locator. The sink device 102 receives and reproduces the content on the cloud server 104 via the access point 103 based on the content specifying information received from the source device 101.

(通信装置のハードウェア構成)
図2は、ソース機器101のハードウェア構成を示している。シンク機器102はソース機器101と同様のハードウェア構成を有するので、以下の記載においてはソース機器101を説明する。
ソース機器101は、記憶部201、制御部202、機能部203、入力部204、出力部205、通信部206およびアンテナ207を備える。
記憶部201はROMやRAM等のメモリにより構成され、後述する各種動作を行うためのプログラム(アプリケーションプログラムを含む)、オペレーティングシステム(OS)、無線通信のための通信パラメータ等の各種情報を記憶する。また、記憶部103は、データ送受信情報、画像データなども記憶する。なお、記憶部201は、ROM、RAM等のメモリの他に、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、DVDなどの記憶媒体により構成されてもよい。また、記憶部201が複数のメモリ等を備えていてもよい。OSは、Operating Systemの略である。
(Hardware configuration of communication device)
FIG. 2 shows a hardware configuration of the source device 101. Since the sink device 102 has the same hardware configuration as the source device 101, the source device 101 will be described below.
The source device 101 includes a storage unit 201, a control unit 202, a function unit 203, an input unit 204, an output unit 205, a communication unit 206, and an antenna 207.
The storage unit 201 is configured by a memory such as a ROM or a RAM, and stores various information such as a program (including an application program) for performing various operations described later, an operating system (OS), and communication parameters for wireless communication. . The storage unit 103 also stores data transmission / reception information, image data, and the like. The storage unit 201 includes a storage medium such as a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a CD-R, a magnetic tape, a nonvolatile memory card, and a DVD, in addition to a memory such as a ROM and a RAM. May be configured. Further, the storage unit 201 may include a plurality of memories and the like. OS is an abbreviation for Operating System.

制御部202はCPUやMPU等のプロセッサにより構成され、記憶部201に記憶されたプログラムを実行することによりソース機器101全体を制御する。また、制御部202は、記憶部201に記憶されたプログラムを実行することで、ソース機器101としてのミラーリング機能、および、コンテンツリダイレクト機能を実現する。
ソース機器101としてのミラーリング機能は、自装置が表示している画面をキャプチャし、符号化した画面データや、符号化した音声データをシンク機器102に送信する機能である。また、ソース機器101としてのコンテンツリダイレクト機能は、シンク機器102で再生するコンテンツを、シンク機器102がソース機器以外の外部装置(クラウドサーバ104)から取得するために必要な情報をシンク機器102に送信し、当該コンテンツの再生をシンク機器102に指示する機能である。なお、当該指示は明示的なものでなくてもよい。例えば、コンテンツを外部装置から取得するために必要な情報を受信したシンク機器102が、自動的にコンテンツリダイレクト処理を行うシステムである場合には、ソース機器101は当該必要な情報をシンク機器102に送るだけでよい。
The control unit 202 is configured by a processor such as a CPU and an MPU, and controls the entire source device 101 by executing a program stored in the storage unit 201. In addition, the control unit 202 realizes a mirroring function and a content redirection function as the source device 101 by executing a program stored in the storage unit 201.
The mirroring function as the source device 101 is a function of capturing a screen displayed by the own device and transmitting coded screen data and coded audio data to the sink device 102. The content redirection function as the source device 101 transmits to the sink device 102 information necessary for the sink device 102 to acquire the content to be reproduced by the sink device 102 from an external device (cloud server 104) other than the source device. This is a function of instructing the sink device 102 to reproduce the content. Note that the instruction need not be explicit. For example, if the sink device 102 that has received the information necessary to acquire the content from the external device is a system that automatically performs content redirection processing, the source device 101 sends the necessary information to the sink device 102. Just send it.

なお、制御部202は、記憶部201に記憶されたプログラムとOSとの協働によりソース機器101全体を制御するようにしてもよい。また、制御部202がマルチコアなどの複数のプロセッサを備え、複数のプロセッサによりソース機器101全体を制御するようにしてもよい。   Note that the control unit 202 may control the entire source device 101 in cooperation with the program stored in the storage unit 201 and the OS. Further, the control unit 202 may include a plurality of processors such as a multi-core, and control the entire source device 101 by the plurality of processors.

制御部202は、機能部203を制御して、撮像やコンテンツの閲覧等の所定の処理を実行する。
機能部203は、ソース機器101が所定の処理を実行するためのハードウェアである。例えば、ソース機器101がカメラである場合、機能部203は撮像部であり、撮像処理を行う。この場合、ソース機器101は、撮像部(機能部203)が生成した画像データを、出力部205によって画面上に表示し、制御部202のミラーリング機能によって当該画像データをシンク機器102に送信することでミラーリングを実施することができる。あるいは、ソース機器101の記憶部201に記憶されているデータを出力部205によって画面上に表示し、同様にミラーリングを実施してもよい。
The control unit 202 controls the functional unit 203 to execute a predetermined process such as imaging and browsing of content.
The function unit 203 is hardware for the source device 101 to execute a predetermined process. For example, when the source device 101 is a camera, the functional unit 203 is an imaging unit and performs an imaging process. In this case, the source device 101 displays the image data generated by the imaging unit (functional unit 203) on the screen by the output unit 205, and transmits the image data to the sink device 102 by the mirroring function of the control unit 202. Can perform mirroring. Alternatively, data stored in the storage unit 201 of the source device 101 may be displayed on a screen by the output unit 205, and mirroring may be performed in the same manner.

入力部204は、ユーザからの各種操作の受付を行う。入力部204は、例えば、ボタン(コンテンツリダイレクトを開始するボタン等)、スイッチ、キーボード、マウス、タッチパネルなどを有する。入力部108は、操作部と称することもできる。入力部204は、コンテンツリダイクトを実施する装置をユーザに選択させる選択部としても機能する。
出力部205は、液晶ディスプレイ、有機ELディスプレイ、LED(発光ダイオード)、スピーカ、振動部等により構成される。液晶ディスプレイ等はモニタ画面となる。出力部205は、モニタ画面やスピーカなどを介してユーザに対して各種出力を行う。出力部205による出力は、モニタ画面上への表示の他、スピーカによる音声出力や、振動部による振動出力などであってもよい。なお、タッチパネルを利用して入力部204と出力部205の出力先とを1つのモジュールで実現するようにしてもよい。このようなタッチパネルは、例えば、クラウドサーバ104からコンテンツを取得する指示を、ソース機器101に入力するためのユーザインターフェースとして使用できる。
The input unit 204 receives various operations from the user. The input unit 204 includes, for example, a button (a button for starting content redirection), a switch, a keyboard, a mouse, a touch panel, and the like. The input unit 108 can also be called an operation unit. The input unit 204 also functions as a selection unit that allows the user to select a device that performs content redirection.
The output unit 205 includes a liquid crystal display, an organic EL display, an LED (light emitting diode), a speaker, a vibration unit, and the like. A liquid crystal display or the like serves as a monitor screen. The output unit 205 performs various outputs to a user via a monitor screen, a speaker, or the like. The output by the output unit 205 may be a sound output by a speaker, a vibration output by a vibration unit, or the like, in addition to the display on the monitor screen. Note that the input unit 204 and the output destination of the output unit 205 may be realized by one module using a touch panel. Such a touch panel can be used, for example, as a user interface for inputting an instruction to acquire content from the cloud server 104 to the source device 101.

通信部206は、IEEE802.11シリーズ規格に準拠した無線通信の制御や、有線LAN等の有線通信の制御、IP(Internet Protocol)通信の制御を行う。また、通信部206はアンテナ207を制御して、無線通信のための無線信号の送受信を行う。ソース機器101は、通信部206を介して、画像データ、文書データ、音声データ、映像データ等のコンテンツをシンク機器102に送信する。また、通信部206は、例えば、クラウドサーバ104からのコンテンツ(再生用データ)の取得に関する情報を、シンク機器102から受信する。この情報は、シンク機器102がコンテンツリダイレクトを実施可能か判定する場合に利用される。   The communication unit 206 controls wireless communication in accordance with the IEEE 802.11 series standard, controls wired communication such as a wired LAN, and controls IP (Internet Protocol) communication. In addition, the communication unit 206 controls the antenna 207 to transmit and receive a wireless signal for wireless communication. The source device 101 transmits contents such as image data, document data, audio data, and video data to the sink device 102 via the communication unit 206. In addition, the communication unit 206 receives, for example, information on acquisition of content (reproduction data) from the cloud server 104 from the sink device 102. This information is used when the sink device 102 determines whether the content redirection can be performed.

シンク機器102の記憶部201、機能部203、入力部204、出力部205およびアンテナ207は、ソース機器101と同様であるため説明を省略する。
シンク機器102の制御部202は、記憶部201に記憶されたプログラムを実行することで、シンク機器102としてのミラーリング機能およびコンテンツリダイレクト機能を実現する。シンク機器102としてのミラーリング機能は、ソース機器101が表示している画面をキャプチャしたものである符号化された画面データや符号化された音声データを受信し、復号して再生する機能である。シンク機器102としてのコンテンツリダイレクト機能は、ソース機器101から送られた情報および指示に基づいてソース機器以外の外部装置からコンテンツを取得し、再生する機能である。なお、シンク機器102は、明示的な指示がなくても、コンテンツの取得および再生を行うようにしてもよい。
The storage unit 201, the function unit 203, the input unit 204, the output unit 205, and the antenna 207 of the sink device 102 are the same as those of the source device 101, and the description is omitted.
The control unit 202 of the sink device 102 realizes a mirroring function and a content redirection function as the sink device 102 by executing a program stored in the storage unit 201. The mirroring function as the sink device 102 is a function of receiving coded screen data and coded audio data which are obtained by capturing a screen displayed by the source device 101, and decoding and reproducing the data. The content redirection function as the sink device 102 is a function of acquiring content from an external device other than the source device based on information and instructions sent from the source device 101 and reproducing the content. Note that the sink device 102 may acquire and reproduce the content without an explicit instruction.

シンク機器102の制御部202のその他の点は、ソース機器101の制御部202と同じである。例えば、シンク機器102の制御部202は、CPUやMPU等のプロセッサにより構成され、記憶部201に記憶されたプログラムを実行することによりシンク機器102全体を制御する。また、制御部202は、記憶部201に記憶されたプログラムとOSとの協働によりシンク機器102全体を制御するようにしてもよい。さらに、制御部202がマルチコアなどの複数のプロセッサを備え、複数のプロセッサによりシンク機器102全体を制御するようにしてもよい。また、制御部202は、機能部203を制御して、撮像やコンテンツの閲覧等の所定の処理を実行する。   In other respects, the control unit 202 of the sink device 102 is the same as the control unit 202 of the source device 101. For example, the control unit 202 of the sink device 102 is configured by a processor such as a CPU and an MPU, and controls the entire sink device 102 by executing a program stored in the storage unit 201. Further, the control unit 202 may control the entire sink device 102 in cooperation with the OS stored in the storage unit 201 and the program. Further, the control unit 202 may include a plurality of processors such as a multi-core, and control the entire sink device 102 by the plurality of processors. In addition, the control unit 202 controls the function unit 203 to execute predetermined processing such as imaging and content browsing.

シンク機器102の通信部206は、複数のネットワークへ並行して接続することが可能である同時接続機能を有している。同時接続機能によって、シンク機器102は第1のネットワーク111を介してソース機器101と通信すると共に、第2のネットワーク112を介してアクセスポイント103と通信することができる。同時接続が実行できる条件は、2つのネットワーク111と112におけるシンク機器102の役割に基づいて決められている。本実施形態では、シンク機器102の同時接続機能がサポートする、各ネットワークにおけるシンク機器102の役割の組み合わせは、STA/GOであるとする。   The communication unit 206 of the sink device 102 has a simultaneous connection function capable of connecting to a plurality of networks in parallel. With the simultaneous connection function, the sink device 102 can communicate with the source device 101 via the first network 111 and with the access point 103 via the second network 112. The conditions under which the simultaneous connection can be performed are determined based on the role of the sink device 102 in the two networks 111 and 112. In the present embodiment, it is assumed that the combination of roles of the sink device 102 in each network supported by the simultaneous connection function of the sink device 102 is STA / GO.

STAはStationのことであり、アクセスポイント(AP)103が構築する第2のネットワーク112に参加する役割を有する機器である。また、GOはWi−Fi P2P仕様に準拠したGroup Ownerのことであり、ネットワークを構築する役割を有する機器である。本実施形態でGOが構築するネットワークは、第1のネットワーク111である。また、Wi−Fi P2P接続において、GOが構築するネットワークに参加する機器をCL(Client)と称する。同時接続機能がサポートする役割の組み合わせがSTA/GOであるとは、シンク機器102が第2のネットワーク112においてSTAの役割を有し、かつ、第1のネットワーク111においてGOの役割を有している場合に限り、同時接続が実行できるということである。
本実施形態ではソース機器101およびシンク機器102は、画像の表示(再生)と音声の再生のどちらも行える装置であるが、ソース機器101とシンク機器102のどちらも、画像の表示か音声の再生のどちらか一方しか行えない装置であってもよい。
The STA is a station and is a device that has a role of participating in the second network 112 constructed by the access point (AP) 103. GO is a Group Owner conforming to the Wi-Fi P2P specification, and is a device having a role of constructing a network. The network constructed by the GO in the present embodiment is the first network 111. In a Wi-Fi P2P connection, a device that participates in a network constructed by a GO is referred to as a CL (Client). That the combination of roles supported by the simultaneous connection function is STA / GO means that the sink device 102 has the role of STA in the second network 112 and has the role of GO in the first network 111. This means that simultaneous connection can be performed only if
In the present embodiment, the source device 101 and the sink device 102 are devices that can perform both display (playback) of an image and playback of audio. However, both the source device 101 and the sink device 102 perform image display or audio playback. A device that can perform only one of the above may be used.

(ミラーリング)
図3のフローチャートは、ソース機器101がミラーリングを実施する際の処理を示している。図3のフローチャートは、ソース機器101の記憶部201に記憶されたプログラムを制御部202が読み出して実行することにより実現される。図3のフローチャートは、本実施形態においては、ソース機器において所定のアプリケーションが起動したことに応じて開始される。なお、ソース機器の電源が入ることで開始されるようにしてもよい。以下の記載において、SはStepの略である。
(Mirroring)
The flowchart of FIG. 3 shows processing when the source device 101 performs mirroring. The flowchart in FIG. 3 is realized by the control unit 202 reading and executing a program stored in the storage unit 201 of the source device 101. In the present embodiment, the flowchart of FIG. 3 is started in response to the activation of a predetermined application in the source device. Note that the processing may be started when the power of the source device is turned on. In the following description, S is an abbreviation for Step.

まず、ソース機器101はデバイス探索を開始する(S301)。デバイス検索とは、接続相手機器になる得る機器(シンク機器102)を検索することである。具体的には、ソース機器101は、第1のネットワーク111内で、探索信号(例えば、IEEE802.11シリーズ規格に準拠したProbe Request)を送信する。探索信号を受信したシンク機器102は、探索信号に対する応答信号(例えば、IEEE802.11シリーズ規格に準拠したProbe Response)をソース機器101に送信する。ソース機器101は、応答信号を受信することにより、シンク機器102を発見(検知)する。なお、ソース機器101は、シンク機器102が送信する報知信号(例えば、IEEE802.11シリーズに準拠したビーコン)や探索信号(Probe Request)を受信することにより、シンク機器102を発見してもよい。   First, the source device 101 starts device search (S301). The device search is to search for a device (sink device 102) that can be a connection partner device. Specifically, the source device 101 transmits a search signal (for example, a Probe Request conforming to the IEEE 802.11 series standard) within the first network 111. The sink device 102 that has received the search signal transmits a response signal to the search signal (for example, a Probe Response conforming to the IEEE 802.11 series standard) to the source device 101. The source device 101 discovers (detects) the sink device 102 by receiving the response signal. The source device 101 may discover the sink device 102 by receiving a notification signal (for example, a beacon conforming to the IEEE 802.11 series) or a search signal (Probe Request) transmitted by the sink device 102.

続いて、ソース機器101は、ソース機器101が発見したデバイスの一覧(リスト)を出力部205によって画面上に表示する(S302)。
そして、ソース機器101は、ユーザが当該一覧から接続相手装置を選択したかを判定する(S303)。つまり、ソース機器101の制御部202は、デバイス決定が行われたかを判定する。ユーザは、入力部204を使用して、接続相手装置を選択する。当該選択が行われない場合(S303のNo)、ソース機器はS303を繰り返す。なお、S303の判定を開始してから所定の時間内に接続相手装置の選択が行われない場合、ソース機器は、ミラーリングを実施する処理を終了してもよい。一方、接続相手装置の選択が行われた場合(S303のYes)、S304に進む。
Next, the source device 101 displays a list of devices discovered by the source device 101 on the screen by the output unit 205 (S302).
Then, the source device 101 determines whether the user has selected a connection partner device from the list (S303). That is, the control unit 202 of the source device 101 determines whether a device has been determined. The user uses the input unit 204 to select a connection partner device. If the selection is not made (No in S303), the source device repeats S303. If the connection partner device is not selected within a predetermined time after the start of the determination in S303, the source device may end the process of performing mirroring. On the other hand, when the connection partner device is selected (Yes in S303), the process proceeds to S304.

なお、ソース機器101は、NFC、QRコード(登録商標)、Bluetooth Low Energy(BLE)などを利用して、接続相手装置を発見してもよい。例えば、ソース機器101がNFCの通信機能を有しているとき、ソース機器101とシンク機器102とのペアリングをNFCタッチ操作で行い、以降の通信はWi−Fi Display仕様に基づいて行うことも可能である。あるいは、ソース機器101がシンク機器102に表示されるQRコード(登録商標)を読み取り、シンク機器102との接続に必要な情報を得て、以降の通信はWi−Fi Display仕様に基づいて行ってもよい。また、ソース機器101がBLEの通信機能を有しているとき、BLE対応機器をスキャンし、シンク機器102とペアリングを行い、以降の通信はWi−Fi Display仕様に基づいて行うことも可能である。なお、ソース機器101ではなく、シンク機器102が接続相手装置を発見してもよい。   Note that the source device 101 may discover a connection partner device using NFC, QR Code (registered trademark), Bluetooth Low Energy (BLE), or the like. For example, when the source device 101 has an NFC communication function, pairing of the source device 101 and the sink device 102 is performed by an NFC touch operation, and subsequent communication may be performed based on the Wi-Fi Display specification. It is possible. Alternatively, the source device 101 reads a QR code (registered trademark) displayed on the sink device 102, obtains information necessary for connection with the sink device 102, and performs subsequent communication based on the Wi-Fi Display specification. Is also good. Also, when the source device 101 has a BLE communication function, the BLE-compatible device is scanned and paired with the sink device 102, and subsequent communication can be performed based on the Wi-Fi Display specification. is there. Note that the sink device 102 may discover the connection partner device instead of the source device 101.

続いて、ソース機器101は接続セットアップを行う(S304)。具体的には、ソース機器101は、Wi−Fi Displayの接続処理を行い、その後、TCPの接続処理を行う。これら接続処理を行うことにより、接続セットアップが完了する。TCPとはTransmission Control Protocolの略である。
Wi−Fi Display接続を確立させる方法として、本実施形態ではWi−Fi P2P仕様を採用する。なお、TDLSを採用してもよい。TDLSはTunneled Direct Link Setupの略である。
Subsequently, the source device 101 performs connection setup (S304). Specifically, the source device 101 performs a Wi-Fi Display connection process, and then performs a TCP connection process. By performing these connection processes, the connection setup is completed. TCP is an abbreviation for Transmission Control Protocol.
In this embodiment, the Wi-Fi P2P specification is adopted as a method of establishing a Wi-Fi Display connection. Note that TDLS may be employed. TDLS is an abbreviation for Tunneled Direct Link Setup.

ここで、S304の詳細な手順について説明する。まず、GOを決定するため、ソース機器101は役割決定要求としてGO Negotiation Request信号を送信する。GO Negotiation Request信号には、ソース機器101がGOになりたい度合いを示すインテント値が含まれる。GO Negotiation Request信号に対する応答として、シンク機器102はGO Negotiation Response信号を送信する。GO Negotiation Response信号には、シンク機器102のインテント値(シンク機器がGOになりたい度合いを示す値)が含まれる。ソース機器101は、シンク機器102とソース機器101の夫々のインテント値の大小を比較する。インテント値が大きかった方の機器がGOとなり、インテント値が小さかった方の機器がCLとなる。本実施形態では、ソース機器101のインテント値の方がシンク機器102のインテント値よりも小さく、ソース機器101がCLになるとする。最後に、ソース機器101はシンク機器102にGO Negotiation Confirm信号を送信する。GO Negotiation Confirm信号の送信により、ソース機器101の役割がCLになることが決定する。なお、ソース機器101のインテント値の方がシンク機器102のインテント値よりも大きい場合は、ソース機器101がGOとなる。このようなGOやCLを決定するための信号のやり取りを、GO Negotiationという。   Here, the detailed procedure of S304 will be described. First, in order to determine GO, the source device 101 transmits a GO Negotiation Request signal as a role determination request. The GO Negotiation Request signal includes an intent value indicating the degree to which the source device 101 wants to become a GO. As a response to the GO Negotiation Request signal, the sink device 102 transmits a GO Negotiation Response signal. The GO Negotiation Response signal includes the intent value of the sink device 102 (a value indicating the degree to which the sink device wants to become GO). The source device 101 compares the intent values of the sink device 102 and the source device 101 with each other. The device with the larger intent value is GO, and the device with the smaller intent value is CL. In the present embodiment, it is assumed that the intent value of the source device 101 is smaller than the intent value of the sink device 102, and the source device 101 becomes CL. Finally, the source device 101 transmits a GO Negotiation Confirm signal to the sink device 102. The transmission of the GO Negotiation Confirm signal determines that the role of the source device 101 becomes CL. If the intent value of the source device 101 is larger than the intent value of the sink device 102, the source device 101 becomes GO. Such exchange of signals for determining GO and CL is called GO Negotiation.

その後、WPSに従って、ソース機器101は、シンク機器102との間でネットワーク接続を確立するために必要なパラメータ情報(接続やセキュリティに関する情報など)をシンク機器から受信する。WPSは、Wi−Fi Protected Setupの略である。そして、CLであるソース機器101は受信したパラメータ情報を利用してGOであるシンク機器102へ、Association Request信号を送信する。ソース機器101は、シンク機器102から、当該信号に対する応答としてAssociation Response信号を受信する。   After that, according to WPS, the source device 101 receives from the sink device parameter information (information on connection and security, etc.) necessary for establishing a network connection with the sink device 102. WPS is an abbreviation for Wi-Fi Protected Setup. Then, the source device 101, which is the CL, transmits an Association Request signal to the sink device 102, which is the GO, using the received parameter information. The source device 101 receives an Association Response signal from the sink device 102 as a response to the signal.

以上のようにして、シンク機器102との間で、Wi−Fi P2P仕様に従ったWi−Fi Display接続(即ち、Wi−Fi P2P接続)が確立する。なお、本実施形態において、ソース機器101が送信する各無線信号をシンク機器102が送信するようにし、シンク機器102が送信する各無線信号をソース機器101が送信するようにしてもよい。また、Wi−Fi Display接続を確立させるにあたって、上記した無線信号以外の無線信号を用いてもよい。具体的には、Beacon、Reassociationメッセージ、P2P Invitationメッセージ、Provision Discoveryメッセージ等を用いてもよい。
続いて、ソース機器101はシンク機器102との間でTCP接続を確立する。TCP接続はソース機器101がTCPクライアントの役割を担い、シンク機器102とThree−way handshakingを行うことで確立される。
このように、Wi−Fi Display接続の確立とTCP接続が確立されたことにより、接続セットアップが完了する。
As described above, a Wi-Fi Display connection (that is, a Wi-Fi P2P connection) according to the Wi-Fi P2P specification is established with the sink device 102. Note that, in the present embodiment, each wireless signal transmitted by the source device 101 may be transmitted by the sink device 102, and each wireless signal transmitted by the sink device 102 may be transmitted by the source device 101. In establishing the Wi-Fi Display connection, a wireless signal other than the wireless signal described above may be used. Specifically, a Beacon, Reassociation message, P2P Invitation message, Provision Discovery message, or the like may be used.
Subsequently, the source device 101 establishes a TCP connection with the sink device 102. The TCP connection is established by the source device 101 playing the role of a TCP client and performing three-way handshaking with the sink device 102.
As described above, the connection setup is completed by the establishment of the Wi-Fi Display connection and the establishment of the TCP connection.

続いて、ソース機器101は、Capability Negotiationを行う(S305)。Wi−Fi Display仕様では、Capability NegotiationにはRTSP(Real Time Streaming Protocol)を利用するよう規定されている。RTSPはストリーミングを制御するためのプロトコルである。また、下位層のトランスポートプロトコルとしては一般的にTCPが用いられる。Capability Negotiationでは、ソース機器101はRTSP M1〜M4までの所定のメッセージをシンク機器102との間で交換する。このRTSPメッセージの交換によって、シンク機器102はソース機器101にシンク機器の能力情報を提供する。そして、ソース機器101は、シンク機器102の能力情報に基づいてミラーリングで使用するパラメータを決定し、シンク機器102へ通知する。シンク機器102は、通知されたパラメータをシンク機器102に設定する。   Subsequently, the source device 101 performs Capability Negotiation (S305). The Wi-Fi Display specification stipulates that RTSP (Real Time Streaming Protocol) is used for Capability Negotiation. RTSP is a protocol for controlling streaming. In addition, TCP is generally used as a lower-layer transport protocol. In Capability Negotiation, the source device 101 exchanges predetermined messages of RTSPs M1 to M4 with the sink device 102. By exchanging the RTSP message, the sink device 102 provides the source device 101 with the capability information of the sink device. Then, the source device 101 determines a parameter to be used for mirroring based on the capability information of the sink device 102 and notifies the sink device 102 of the parameter. The sink device 102 sets the notified parameters in the sink device 102.

能力情報とは、例えば、シンク機器102の画面についての能力情報や、シンク機器102の音声処理についての能力情報である。シンク機器102の画面についての能力情報は、対応する画面の解像度、フレームレート、コーデックなどの情報である。シンク機器102の音声処理についての能力情報は、対応するコーデックやサンプリング周波数などの情報である。S305のCapability Negotiationの結果、シンク機器102にパラメータが設定され、シンク機器102がソース機器101との間でミラーリング時に使用する画面や音声の符号化方式の種類、映像の解像度、フレームレートなどが決定される。なお、送受信する能力情報は、これらの情報の一部であってもよい。また、ソース機器101から通知され、シンク機器102で設定されるパラメータは、ミラーリングで使用するパラメータだけでなく、コンテンツリダイレクトなど他の機能に関するパラメータが含まれていてもよい。   The capability information is, for example, capability information on the screen of the sink device 102 and capability information on audio processing of the sink device 102. The capability information about the screen of the sink device 102 is information such as the resolution, frame rate, and codec of the corresponding screen. The capability information on audio processing of the sink device 102 is information such as a corresponding codec and a sampling frequency. As a result of the Capability Negotiation in S305, parameters are set in the sink device 102, and the type of screen and audio coding schemes used in mirroring between the sink device 102 and the source device 101, the type of audio coding method, video resolution, frame rate, and the like are determined. Is done. The capability information to be transmitted and received may be a part of such information. The parameters notified by the source device 101 and set by the sink device 102 may include not only parameters used in mirroring but also parameters related to other functions such as content redirection.

Capability Negotiationが完了すると、ソース機器101は、シンク機器102とWi−Fi Displayのセッションを確立する(S306)。具体的には、ソース機器101は、Wi−Fi Display仕様に従い、RTSP M5〜M7までの所定のメッセージを、シンク機器102との間で交換することでWi−Fi Displayのセッションを確立する。このRTSPメッセージの交換によって、ソース機器101とシンク機器102の双方において、ミラーリングで使用するポート番号の設定などが行われ、Wi−Fi Displayのセッションが確立される。なお、Wi−Fi Displayのセッション確立に際して、ソース機器101はコンテンツリダイレクトなどの他の機能で使用するポート番号を設定してもよい。また、複数のポート番号がミラーリングで使用するポート番号として設定されてもよい。   When the Capability Negotiation is completed, the source device 101 establishes a Wi-Fi Display session with the sink device 102 (S306). Specifically, the source device 101 establishes a Wi-Fi Display session by exchanging predetermined messages of RTSP M5 to M7 with the sink device 102 according to the Wi-Fi Display specification. By exchanging the RTSP message, setting of a port number used for mirroring is performed on both the source device 101 and the sink device 102, and a Wi-Fi Display session is established. Note that when establishing a Wi-Fi Display session, the source device 101 may set a port number used for another function such as content redirection. Further, a plurality of port numbers may be set as port numbers used for mirroring.

S306の後、ソース機器101は、ミラーリング処理を行う(S307)。ソース機器101におけるミラーリング処理は、例えば、キャプチャ画像の符号化、多重化、データ送信である。このようなミラーリング処理が行われることで、シンク機器102はソース機器101に表示されている画面や再生している音声の情報のストリーム(画面・音声ストリーム)を受信し、再生する。   After S306, the source device 101 performs a mirroring process (S307). The mirroring process in the source device 101 is, for example, encoding, multiplexing, and data transmission of a captured image. By performing such a mirroring process, the sink device 102 receives and reproduces the screen (screen / audio stream) of the screen displayed on the source device 101 or the audio information being reproduced.

(コンテンツリダイレクトのフローチャート)
図4のフローチャートは、ソース機器101がコンテンツリダイレクトを実施する際の処理を示している。図4のフローチャートは、ソース機器101の記憶部201に記憶されたプログラムを制御部202が読み出して実行することにより実現される。図4のフローチャートは、本実施形態においては、ソース機器101において所定のアプリケーションが起動したことに応じて開始される。なお、ソース機器101の電源が入ることで開始されるようにしてもよい。
(Content redirection flowchart)
The flowchart in FIG. 4 illustrates processing when the source device 101 performs content redirection. 4 is realized by the control unit 202 reading and executing a program stored in the storage unit 201 of the source device 101. In the present embodiment, the flowchart of FIG. 4 is started in response to the activation of a predetermined application in the source device 101. Note that the processing may be started when the power of the source device 101 is turned on.

まず、ソース機器101はミラーリングを実施中であるか判定する(S401)。ミラーリングを実施中であるか否かは、シンク機器102と共有すべき再生用データを、ソース機器101の通信部(送信部)206から、シンク機器102に送信中であるか否かにより判定する。ミラーリングを実施中でない場合(S401のNo)、ソース機器101は、S403〜S406の処理を行う。S403〜S406は、図3のS301〜S304と同じである。なお、S405において、入力部204は、コンテンツリダイレクトを実施する装置を選択するユーザ入力を受け取ることになる。
接続セットアップ(S406)の後、S407へ進む。なお、図4において、S406とS470の間で、図3のS305およびS306と同様の処理(Capability Negotiation、Wi−Fi Displayのセッション確立)を行ってもよい。
First, the source device 101 determines whether mirroring is being performed (S401). Whether or not mirroring is being performed is determined based on whether or not reproduction data to be shared with the sink device 102 is being transmitted from the communication unit (transmission unit) 206 of the source device 101 to the sink device 102. . If mirroring is not being performed (No in S401), the source device 101 performs the processing in S403 to S406. Steps S403 to S406 are the same as steps S301 to S304 in FIG. In step S405, the input unit 204 receives a user input for selecting a device for performing content redirection.
After the connection setup (S406), the process proceeds to S407. In FIG. 4, between S406 and S470, the same processing (Capability Negotiation, Wi-Fi Display session establishment) as in S305 and S306 in FIG. 3 may be performed.

一方、ミラーリングを実施中である場合(S401のYes)、ソース機器101は、ミラーリングによって画面を共有しているシンク機器102を、コンテンツを再生させるデバイス(リダイレクトデバイス)に決定する(S402)。S402の後、S407に進む。
S407において、ソース機器101は、シンク機器102にコンテンツリダイレクト機能についての問合せ信号を送信する(S407)。この問合せ信号は、シンク機器102がコンテンツリダイレクトを実施可能であるかについての情報を取得するための信号である。この問い合わせ信号は、シンク機器102のアプリケーションの中でコンテンツリダイレクトを実施可能なアプリケーションに関する情報の要求を含む。アプリケーションに関する情報とは、例えばアプリケーションの名称、種類、発行元などの情報である。また、S407の問合せ信号は、シンク機器102がコンテンツリダイレクトを実施可能な状態にあるかについての問合せを含んでもよい。さらに、問合せ信号は、コンテンツリダイレクトの開始指示と、コンテンツの情報との少なくとも一方を含んでもよい。
S408において、問合せ信号に対する応答を受信したソース機器101は、シンク機器102がコンテンツリダイレクトを実施可能か判定する。実施可能でないという判定結果の場合(S408のNo)、S403に進む。なお、S408の判定結果がNoの場合、S403に進まずに、コンテンツリダイレクトを実施する処理を終了してもよい。
On the other hand, when mirroring is being performed (Yes in S401), the source device 101 determines the sink device 102 sharing the screen by mirroring as a device (redirect device) for reproducing content (S402). After S402, the process proceeds to S407.
In S407, the source device 101 transmits an inquiry signal about the content redirection function to the sink device 102 (S407). This inquiry signal is a signal for acquiring information on whether the sink device 102 can execute content redirection. This inquiry signal includes a request for information on an application capable of executing content redirection among the applications of the sink device 102. The information on the application is, for example, information such as the name, type, and issue source of the application. Further, the inquiry signal of S407 may include an inquiry as to whether the sink device 102 is in a state in which the content redirection can be performed. Further, the inquiry signal may include at least one of a content redirection start instruction and content information.
In step S408, the source device 101 that has received the response to the inquiry signal determines whether the sink device 102 can perform content redirection. If it is determined that the operation cannot be performed (No in S408), the process proceeds to S403. If the determination result in S408 is No, the process of performing the content redirection may be ended without proceeding to S403.

一方、S408の判定結果がYesの場合、ソース機器101は、シンク機器102にコンテンツを特定する情報を送信する(S409)。ここで送信するコンテンツを特定する情報は、例えば、クラウドサーバ104上にあるコンテンツを識別するための識別子、サービス名、コンテンツの所在情報(URI、URL)、再生開始時間(オフセット)などの情報である。なお、送信するコンテンツを特定する情報は、上記した情報の一部であってもよい。コンテンツを特定する情報の送信には、RTSP SET_PARAMETERメッセージを用いる。コンテンツを特定する情報を受信したシンク機器102は、コンテンツを再生することができる。   On the other hand, if the determination result in S408 is Yes, the source device 101 transmits information specifying the content to the sink device 102 (S409). The information for specifying the content to be transmitted here is, for example, an identifier for identifying the content on the cloud server 104, a service name, content location information (URI, URL), a reproduction start time (offset), and the like. is there. The information for specifying the content to be transmitted may be a part of the information described above. The RTSP SET_PARAMETER message is used to transmit the information specifying the content. The sink device 102 that has received the information specifying the content can reproduce the content.

(コンテンツリダイレクト実施時のシーケンス)
図5は、ソース機器101とシンク機器102がコンテンツリダイレクトを実施する際のシーケンス図を示している。図5のソース機器は、図3および図4のフローチャートに従って動作するとする。また、シンク機器102は、コンテンツリダイレクトを実施可能であるとする。
図5におけるソース機器101のシーケンス動作は、ソース機器101の記憶部201に記憶されたプログラムを制御部202が読み出して、実行することで実現される。また、シンク機器102のシーケンス動作は、シンク機器102の記憶部201に記憶されたプログラムを制御部202が読み出して、実行することで実現される。
(Sequence when implementing content redirection)
FIG. 5 shows a sequence diagram when the source device 101 and the sink device 102 execute content redirection. It is assumed that the source device of FIG. 5 operates according to the flowcharts of FIGS. It is also assumed that the sink device 102 can execute content redirection.
The sequence operation of the source device 101 in FIG. 5 is realized by the control unit 202 reading and executing a program stored in the storage unit 201 of the source device 101. The sequence operation of the sink device 102 is realized by the control unit 202 reading and executing a program stored in the storage unit 201 of the sink device 102.

図5において、まず、ソース機器101の入力部204に、ユーザからミラーリングの開始操作が行われる(S501)。つまり、ソース機器101は、ユーザからのミラーリング開始操作の入力を受け取る。開始操作とは、例えば、ユーザによるミラーリングを開始するための制御ボタンの押下や、所定のアプリケーションの立ち上げ、または所定のコンテンツの再生開始などである。
開始操作が行われると、ソース機器101とシンク機器102の間においてデバイス探索が行われる(S502)。つまり、ソース機器101とシンク機器102は、デバイス探索が行う。デバイス探索により、ソース機器101とシンク機器102は互いを発見する。そして、ソース機器101は、発見されたデバイスの一覧を表示する(S503)。ユーザは、デバイス一覧から、接続相手装置(シンク機器102)を選択する(S504)。
In FIG. 5, first, the user performs a mirroring start operation on the input unit 204 of the source device 101 (S501). That is, the source device 101 receives the input of the mirroring start operation from the user. The start operation is, for example, pressing of a control button for starting mirroring by a user, starting of a predetermined application, or starting reproduction of predetermined content.
When the start operation is performed, a device search is performed between the source device 101 and the sink device 102 (S502). That is, the source device 101 and the sink device 102 perform a device search. By device search, the source device 101 and the sink device 102 discover each other. Then, the source device 101 displays a list of discovered devices (S503). The user selects a connection partner device (sink device 102) from the device list (S504).

次に、ソース機器とS504で選択されたシンク機器102との間で接続セットアップが行われる(S505)。つまり、ソース機器101とS504で選択されたシンク機器102は、接続セットアップを行う。具体的にはWi−Fi Displayの接続処理を行い、その後、TCPの接続処理を行う。これらの接続処理を行うことにより、接続セットアップが完了する。本実施形態では、図3のS304で決定したように、ソース機器101がCL、シンク機器がGOとなるものとする。   Next, connection setup is performed between the source device and the sink device 102 selected in S504 (S505). That is, the source device 101 and the sink device 102 selected in S504 perform connection setup. Specifically, a Wi-Fi Display connection process is performed, and then a TCP connection process is performed. By performing these connection processes, the connection setup is completed. In the present embodiment, it is assumed that the source device 101 is a CL and the sink device is a GO, as determined in S304 of FIG.

続いて、ソース機器101とシンク機器102は、Capability Negotiationを行う(S506)。Capability Negotiationが完了すると、ソース機器101とシンク機器102は、Wi−Fi Displayのセッションを確立する(S507)。S506とS507の処理は、図3(S305、S306)で説明したようにRTSPメッセージを交換することにより行われる。
S507の後、ソース機器101とシンク機器102との間でミラーリング処理が行われる(S508)。
Subsequently, the source device 101 and the sink device 102 perform Capability Negotiation (S506). When the Capability Negotiation is completed, the source device 101 and the sink device 102 establish a Wi-Fi Display session (S507). The processing of S506 and S507 is performed by exchanging the RTSP message as described in FIG. 3 (S305, S306).
After S507, mirroring processing is performed between the source device 101 and the sink device 102 (S508).

続いて、ソース機器101の入力部204を介してユーザからコンテンツリダイレクトの開始指示が入力される(S509)。つまり、ソース機器101は、ユーザからコンテンツリダイレクトの開始指示の入力を受け取る。コンテンツリダイレクトの開始指示の入力とは、例えば、ソース機器101の入力部204を用いて、コンテンツリダイレクトの対象とされているコンテンツ(クラウドサーバ104上にあるコンテンツ)をユーザが選択するなどの操作である。あるいは、コンテンツリダイレクトの開始指示の入力は、シンク機器102がコンテンツを特定するために必要な情報をユーザが入力部204から入力するといった操作でもよい。あるいは、コンテンツリダイレクトの開始指示の入力は、コンテンツ再生中にユーザが入力部204を用いて特定の操作を行うことでもよし、ユーザが入力部204を用いて所定のアプリケーションを起動する操作を行うことでもよい。   Subsequently, the user inputs a content redirection start instruction via the input unit 204 of the source device 101 (S509). That is, the source device 101 receives a content redirection start instruction input from the user. The input of the content redirection start instruction is performed by, for example, an operation of the user using the input unit 204 of the source device 101 to select content (content on the cloud server 104) targeted for content redirection. is there. Alternatively, the input of the content redirection start instruction may be an operation in which the user inputs information necessary for the sink device 102 to specify the content from the input unit 204. Alternatively, the input of the content redirection start instruction may be performed by the user performing a specific operation using the input unit 204 during the reproduction of the content, or the user may perform an operation of starting a predetermined application using the input unit 204. May be.

ソース機器101がユーザからコンテンツリダイレクトの開始指示の入力を受け取ると、ソース機器101はミラーリングを実施中かを判定する(S510)。本実施形態ではミラーリングを実施している(S508)ので、S510でソース機器101は、ミラーリングを実施中であると判定する。そして、ソース機器101は、ミラーリング処理が行われているシンク機器102を、コンテンツを再生させるデバイスに決定する(S511)。図5では、このデバイスをリダイレクトデバイスと記載している。   When the source device 101 receives an input of a content redirection start instruction from the user, the source device 101 determines whether mirroring is being performed (S510). In the present embodiment, since mirroring is being performed (S508), the source device 101 determines in S510 that mirroring is being performed. Then, the source device 101 determines the sink device 102 on which the mirroring process has been performed as a device for reproducing the content (S511). In FIG. 5, this device is described as a redirect device.

次に、ソース機器101は、シンク機器102へコンテンツリダイレクト機能についての問合せを送信し、シンク機器102から応答を受け取る(S512)。応答を受け取ったソース機器は、シンク機器102がコンテンツリダイレクトを実施可能である判定する(S513)。S513の後、ソース機器101は、シンク機器102にコンテンツの情報を送信する(S514)。
シンク機器102は、ソース機器101からコンテンツを特定する情報を受信する(S515)。そして、シンク機器102はコンテンツリダイレクトを行うためにアクセスポイント103との接続を確立する(S516)。なお、シンク機器102によるアクセスポイント103との接続は、S515より先に行ってもよい。例えば、S512の問い合わせがあった際に、シンク機器102はアクセスポイント103との接続を行ってもよい。
Next, the source device 101 transmits an inquiry about the content redirection function to the sink device 102, and receives a response from the sink device 102 (S512). The source device that has received the response determines that the sink device 102 can execute content redirection (S513). After S513, the source device 101 transmits content information to the sink device 102 (S514).
The sink device 102 receives the information specifying the content from the source device 101 (S515). Then, the sink device 102 establishes a connection with the access point 103 to perform content redirection (S516). Note that the connection with the access point 103 by the sink device 102 may be performed before S515. For example, when the inquiry in S512 is received, the sink device 102 may connect to the access point 103.

続いて、シンク機器102はS515で受信したコンテンツを特定する情報に基づいて、クラウドサーバ104にコンテンツを要求する(S517)。この際、シンク機器102はアクセスポイント103に、STAとして接続する。そして、シンク機器102はコンテンツをアクセスポイント103を介してクラウドサーバ104から受信・取得し、当該コンテンツをシンク機器102の出力部205で再生する(S518)。S518でのコンテンツの取得方法やプロトコルは、コンテンツの種類やサービスの種類によって決められる。例えば、HLS方式やHTTPのGETメソッドなどを用いてもよい。HLSはHTTP Live Streamingの略であり、HTTPはHyperText Transfer Protocolの略である。   Subsequently, the sink device 102 requests the cloud server 104 for the content based on the information specifying the content received in S515 (S517). At this time, the sink device 102 connects to the access point 103 as an STA. Then, the sink device 102 receives and acquires the content from the cloud server 104 via the access point 103, and reproduces the content on the output unit 205 of the sink device 102 (S518). The content acquisition method and protocol in S518 are determined by the type of content and the type of service. For example, an HLS method or an HTTP GET method may be used. HLS is an abbreviation for HTTP Live Streaming, and HTTP is an abbreviation for HyperText Transfer Protocol.

(実施形態の効果)
本実施形態では、コンテンツリダイレクトを実施する際にソース機器101がシンク機器102とミラーリングを実施していれば(S401のYes)、自動的にシンク機器102をコンテンツリダイレクトデバイスとする(S402)。自動的とは、ユーザにシンク機器102をコンテンツリダイレクトデバイスと選択させることなくという意味である。コンテンツリダイレクトを実施する際とは、例えば、コンテンツリダイレクトを開始するボタンをユーザが押下する際という意である。一方、コンテンツリダイレクトを実施する際にソース機器101がシンク機器102とミラーリングを実施していなければ(S401のNo)、まず、コンテンツリダイレクトデバイスの候補を探索する(S403)。つまり、図1のシンク機器102に代わるデバイス(ソース機器101から見ると第3の外部装置)を探索する。そして、探索したデバイスの中から、ユーザにコンテンツリダイレクトデバイスを選択させる(S405)。よって、ソース機器101は、自装置のミラーリングの実施状態に応じて、コンテンツリダイレクトデバイスをユーザに選択させるか否か(入力部204により選択するかしないか)を切り替えている。当該切り替えにより、ソース機器101の操作性を向上している。
(Effect of embodiment)
In the present embodiment, if the source device 101 performs mirroring with the sink device 102 when performing content redirection (Yes in S401), the sink device 102 is automatically set as the content redirection device (S402). Automatic means that the user does not have to select the sink device 102 as the content redirection device. Performing content redirection means, for example, when a user presses a button for starting content redirection. On the other hand, if the source device 101 has not performed mirroring with the sink device 102 when performing content redirection (No in S401), first, a candidate for a content redirection device is searched (S403). That is, a device (third external device as viewed from the source device 101) replacing the sink device 102 in FIG. 1 is searched for. Then, the user is caused to select a content redirection device from the searched devices (S405). Therefore, the source device 101 switches whether or not to allow the user to select the content redirection device (whether or not to use the input unit 204) according to the state of mirroring of the source device. The operability of the source device 101 is improved by the switching.

(変形例)
上記した実施形態では、シンク機器102の同時接続機能がサポートする役割の組み合わせはSTA/GOとしたが、本実施形態はこの組み合わせに限定されない。例えば、シンク機器102の同時接続機能がサポートする役割の組み合わせは、STA/CL、STA/GO&CL、AP/GO、AP/CL、AP/GO&CL、AP&STA/GO&CLなどであってもよい。STA/GO&CLとは、シンク機器102がアクセスポイント103との通信においてSTAである場合、ソース機器101との通信における役割がGOであってもCLであっても同時接続が可能という意味である。
(Modification)
In the above embodiment, the combination of roles supported by the simultaneous connection function of the sink device 102 is STA / GO, but the present embodiment is not limited to this combination. For example, the combination of roles supported by the simultaneous connection function of the sink device 102 may be STA / CL, STA / GO & CL, AP / GO, AP / CL, AP / GO & CL, AP & STA / GO & CL, or the like. STA / GO & CL means that when the sink device 102 is an STA in communication with the access point 103, simultaneous connection is possible regardless of whether the role in communication with the source device 101 is GO or CL.

図5のシーケンス図の少なくとも一部または全部の処理(動作)をハードウェアにより実現してもよい。ハードウェアにより実現する場合、例えば、所定のコンパイラを用いることで、各ステップを実現するためのプログラムからFPGA上に専用回路を生成し、当該専用回路を利用すればよい。FPGAとは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてGate Array回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。図3および図4のソース機器101のフローチャートにおいても同様に、少なくとも一部または全部の処理をハードウェアにより実現してもよい。   At least some or all of the processes (operations) in the sequence diagram of FIG. 5 may be realized by hardware. In the case of realization by hardware, for example, a dedicated circuit may be generated on a FPGA from a program for implementing each step by using a predetermined compiler, and the dedicated circuit may be used. FPGA is an abbreviation for Field Programmable Gate Array. Further, a Gate Array circuit may be formed in the same manner as the FPGA, and may be realized as hardware. Further, it may be realized by an ASIC (Application Specific Integrated Circuit). Similarly, in the flowchart of the source device 101 in FIGS. 3 and 4, at least a part or all of the processing may be realized by hardware.

図3〜図5に示したシーケンス図やフローチャートの各ステップを不図示の複数のCPUもしくは装置で分散して行うようにしてもよい。複数の装置で分散して行う場合、ソース機器はソースシステムとして動作し、シンク機器はシンクシステムとして動作する。
なお、本実施形態において、ミラーリング実施中にコンテンツリダイレクトの開始指示をソース機器101に入力する場合、ユーザが開始指示を入力するための操作画像を、シンク機器102にミラーリング(送信)しなくてもよい。例えば、コンテンツリダイレクトを開始するためのボタン等のUI(ユーザインタフェース)がソース機器101のモニタ画面(出力部205)に表示されている場合、ソース機器101は、ユーザインターフェース画像のデータをシンク機器102に送信しなくてよい。図6は、ソース機器101がタブレット端末またはスマートフォンである場合の、ミラーリング実施中のソース機器101のモニタ画面の例である。ソース機器101の表示部600(モニタ画面)の中央部に動画Aが再生・表示されており、動画Aの上方にはUIであるアイコン601が表示されている。アイコン601のCRはContents Redirect(コンテンツリダイレクト)の略である。ソース機器101のユーザがアイコン601に触れる(またはアイコン601を押す)と、ソース機器101はコンテンツリダイレクトを開始する。ソース機器101は、制御部202の制御により、アイコン601の画像データをシンク機器102と共有すべき再生用データに含めなくてよい。
Each step of the sequence diagrams and flowcharts shown in FIGS. 3 to 5 may be performed in a distributed manner by a plurality of CPUs or devices (not shown). When the processing is performed in a distributed manner by a plurality of devices, the source device operates as a source system, and the sink device operates as a sink system.
In the present embodiment, when a content redirection start instruction is input to the source device 101 during mirroring, the operation image for the user to input the start instruction need not be mirrored (transmitted) to the sink device 102. Good. For example, when a UI (user interface) such as a button for starting content redirection is displayed on the monitor screen (output unit 205) of the source device 101, the source device 101 transmits the data of the user interface image to the sink device 102. Need not be sent to FIG. 6 is an example of a monitor screen of the source device 101 during mirroring when the source device 101 is a tablet terminal or a smartphone. The moving image A is reproduced and displayed at the center of the display unit 600 (monitor screen) of the source device 101, and an icon 601 as a UI is displayed above the moving image A. The CR of the icon 601 is an abbreviation of Contents Redirect (content redirection). When the user of the source device 101 touches the icon 601 (or presses the icon 601), the source device 101 starts content redirection. The source device 101 does not have to include the image data of the icon 601 in the reproduction data to be shared with the sink device 102 under the control of the control unit 202.

上記した実施形態において、シンク機器102がコンテンツリダイレクトを実施できない状態(S408がNo)の場合、ユーザがコンテンツリダイレクトの開始指示を行うと、ソース機器101の画面にエラーメッセージを表示してもよい。エラーメッセージは、例えば、「シンク機器102はコンテンツリダイレクトを開始できません」等である。また、シンク機器102がコンテンツリダイレクトを実施できない状態の場合、ソース機器101は、ユーザがコンテンツリダイレクトの開始指示するための操作を行えないようにしてもよい。例えば、コンテンツリダイレクトが実施不可能な状態では、ソース機器101の制御部202は、UI操作によるユーザ入力を無視する制御をすることにより、UI画像の操作を不能してもよい。コンテンツリダイレクトが実施可能な状態と実施不可能な状態とで、UI表示を異なる色で表示することにより、2つの状態を区別してもよい。また、コンテンツリダイレクトが実施不可能な状態の場合、ソース機器101は、コンテンツリダイレクトを開始するためのボタン等のUIを表示しなくてもよい。   In the above-described embodiment, when the sink device 102 cannot execute the content redirection (No in S408), an error message may be displayed on the screen of the source device 101 when the user instructs the start of the content redirection. The error message is, for example, “The sink device 102 cannot start the content redirection”. When the sink device 102 cannot execute the content redirection, the source device 101 may prevent the user from performing an operation for instructing the start of the content redirection. For example, in a state where the content redirection cannot be performed, the control unit 202 of the source device 101 may disable the operation of the UI image by performing control to ignore the user input by the UI operation. The two states may be distinguished by displaying the UI display in different colors between the state in which the content redirection can be performed and the state in which the content redirection cannot be performed. When content redirection cannot be performed, the source device 101 does not need to display a UI such as a button for starting content redirection.

上記した実施形態において、図4のS409のコンテンツを特定する情報の送信後に、ソース機器101はミラーリングの処理を停止してもよい。また、シンク機器102もコンテンツを特定する情報の受信後に、ミラーリングの処理を停止してもよい。
上記した実施形態において、ミラーリングを実施しているシンク機器102が複数台存在してもよい。その場合、コンテンツリダイレクトを実施するためのコンテンツ特定情報は、ミラーリングを実施している全てのシンク機器102に送信してもよいし、一部のシンク機器102に送信してもよい。一部のシンク機器102とは、例えば、コンテンツリダイレクトを実施できるシンク機器である。あるいは、一部のシンク機器102とは、ディスプレイおよびスピーカ群が存在するホームシアターシステムの中のディスプレイである。
In the above-described embodiment, the source device 101 may stop the mirroring process after transmitting the information specifying the content in S409 of FIG. Also, the sink device 102 may stop the mirroring process after receiving the information specifying the content.
In the embodiment described above, there may be a plurality of sink devices 102 performing mirroring. In this case, the content specifying information for performing the content redirection may be transmitted to all the sink devices 102 that are performing the mirroring, or may be transmitted to some of the sink devices 102. Some of the sink devices 102 are, for example, sink devices that can execute content redirection. Alternatively, some of the sink devices 102 are displays in a home theater system in which a display and a speaker group exist.

上記した実施形態において、シンク機器102がクラウドサーバ104からコンテンツを取得し再生している場合に、ソース機器101とシンク機器102との間の通信を介して、ソース機器101とシンク機器102はコンテンツの再生に関する情報を互いに送信してもよい。例えば、ソース機器101はシンク機器102に、コンテンツを制御するための再生制御情報を送信してもよい。具体的には、例えばコンテンツの停止や早送りなどの再生制御情報を、ソース機器101からシンク機器102に送信することで、ソース機器101は、シンク機器102で再生されているコンテンツを制御する。ソース機器101からシンク機器102へ送信される再生制御情報は、一時停止、巻き戻し、再生、音量の変更などであってもよい。また、再生制御情報は、ユーザが指定した時間と、当該ユーザ指定時間までコンテンツの再生位置を飛ばす指示とを含んでもよい。あるいは、現在シンク機器102で再生されているコンテンツの次にユーザが再生したいコンテンツの情報が、ソース機器101からシンク機器102に送信されてもよい。   In the above-described embodiment, when the sink device 102 acquires and reproduces content from the cloud server 104, the source device 101 and the sink device 102 communicate with each other via the communication between the source device 101 and the sink device 102. May be transmitted to each other. For example, the source device 101 may transmit playback control information for controlling content to the sink device 102. Specifically, the source device 101 controls the content being reproduced by the sink device 102 by transmitting, for example, reproduction control information such as stopping or fast-forwarding the content from the source device 101 to the sink device 102. The playback control information transmitted from the source device 101 to the sink device 102 may be pause, rewind, playback, volume change, and the like. Further, the reproduction control information may include a time designated by the user and an instruction to skip the reproduction position of the content until the user designated time. Alternatively, information on the content that the user wants to play next to the content currently being played on the sink device 102 may be transmitted from the source device 101 to the sink device 102.

また、シンク機器102はソース機器101に、ソース機器101とシンク機器102との間の通信を介して、コンテンツの再生状況情報を送信してもよい。コンテンツの再生状況情報とは、例えばコンテンツの再生が停止状態になったことや、早送り状態になったことを示す情報である。具体的には、ソース機器101あるいはシンク機器102を介して、コンテンツの再生の停止を示すユーザ操作が入力されて、コンテンツの再生が停止された場合を考える。この場合に、シンク機器102は、コンテンツの再生が停止されたこと(またはコンテンツの再生停止の指示が入力されたこと)を示す情報をソース機器101に送信する。コンテンツの再生状況情報は、一時停止状態、巻き戻し状態、再生状態などであってもよい。また、コンテンツの再生に関してシンク機器102でエラーが発生した場合、シンク機器102は、ソース機器101に当該エラーに関する情報を送信してもよい。例えば、シンク機器102は、エラーであることを示す情報、エラーの原因に関する情報、エラーの種類に関する情報などの情報をソース機器101に送信してもよい。あるいはシンク機器102は、シンク機器102から入力されたユーザ操作に関する情報をソース機器102に送信してもよい。また、シンク機器102でコンテンツの再生が終了した場合に、コンテンツの再生が終了したことをソース機器101に通知してもよい。例えば、シンク機器102は、シンク機器102でのコンテンツの再生が終了した後、何も再生していないことを示す情報をソース機器101に送信してもよい。   In addition, the sink device 102 may transmit content reproduction status information to the source device 101 via communication between the source device 101 and the sink device 102. The content playback status information is, for example, information indicating that the playback of the content has been stopped or has been fast-forwarded. Specifically, consider a case where a user operation indicating stop of reproduction of a content is input via the source device 101 or the sink device 102 and the reproduction of the content is stopped. In this case, the sink device 102 transmits information indicating that the reproduction of the content has been stopped (or that the instruction to stop the reproduction of the content has been input) to the source device 101. The content reproduction status information may be a pause state, a rewind state, a reproduction state, or the like. When an error occurs in the reproduction of the content in the sink device 102, the sink device 102 may transmit information about the error to the source device 101. For example, the sink device 102 may transmit to the source device 101 information such as information indicating an error, information on the cause of the error, and information on the type of error. Alternatively, the sink device 102 may transmit the information on the user operation input from the sink device 102 to the source device 102. Further, when the reproduction of the content is completed by the sink device 102, the source device 101 may be notified that the reproduction of the content has ended. For example, the sink device 102 may transmit to the source device 101 information indicating that nothing has been reproduced after the reproduction of the content on the sink device 102 has been completed.

ミラーリングを実施する場合、ソース機器101からシンク機器102へ送信する情報(再生用データ)は、画像情報(画像データ)と音声情報(音声データ)のいずれかであってもよい。また、コンテンツリダイレクトを実施する場合も、クラウドサーバ104からソース機器101を介してシンク機器102へ送信する情報は、画像情報(画像データ)と音声情報(音声データ)のいずれかあってもよい。
図2に示した機能ブロック構成は1例であり、複数の機能ブロックをまとめて1つの機能ブロックとしてもよいし、何れかの機能ブロックが複数の機能ブロックに分けられてもよい。また、機能ブロックの少なくとも1つがハードウェアとして実装されてもよい。
上記した実施形態では、コンテンツリダイレクトを実施する場合、コンテンツをクラウドサーバ104から取得したが、コンテンツの取得先はクラウドサーバ104以外でもよい。
When mirroring is performed, information (reproduction data) transmitted from the source device 101 to the sink device 102 may be either image information (image data) or audio information (audio data). Also, when performing content redirection, information transmitted from the cloud server 104 to the sink device 102 via the source device 101 may be either image information (image data) or audio information (audio data).
The functional block configuration shown in FIG. 2 is an example, and a plurality of functional blocks may be combined into one functional block, or any one of the functional blocks may be divided into a plurality of functional blocks. Further, at least one of the functional blocks may be implemented as hardware.
In the above-described embodiment, when the content redirection is performed, the content is acquired from the cloud server 104. However, the content acquisition destination may be other than the cloud server 104.

以上、本発明の1つの実施形態を詳述したが、本発明は例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)などの実施態様をとることが可能である。具体的には、本発明は、複数の機器(例えば、ホストコンピュータ、インタフェース機器、撮像装置、webアプリケーションなど)から構成されるシステムに適用してもよいし、1つの機器からなる装置に適用してもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
As described above, one embodiment of the present invention has been described in detail. However, the present invention can take embodiments such as a system, an apparatus, a method, a program, and a recording medium (storage medium). Specifically, the present invention may be applied to a system including a plurality of devices (for example, a host computer, an interface device, an imaging device, a web application, etc.), or may be applied to a device including a single device. You may.
The present invention supplies a program for realizing one or more functions of the above-described embodiments to a system or an apparatus via a network or a storage medium, and one or more processors in a computer of the system or the apparatus read and execute the program. This processing can also be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

101…ソース機器、102…シンク機器、103…アクセスポイント、104…クラウドサーバ、202…制御部、203…機能部、204…入力部、205…出力部、206…通信部   101: Source Device, 102: Sink Device, 103: Access Point, 104: Cloud Server, 202: Control Unit, 203: Functional Unit, 204: Input Unit, 205: Output Unit, 206: Communication Unit

Claims (16)

第1の無線ネットワークを介して第1の外部装置と第1の再生用データの共有を行うことができる通信装置であって、
前記第1の外部装置と共有すべき第1の再生用データを、前記第1の外部装置に送信する送信手段と、
前記送信手段が前記第1の再生用データを前記第1の外部装置へ送信中であるかを判定する判定手段と、
第2の外部装置が有する第2の再生用データを、第2の無線ネットワークを介して取得する装置を、ユーザに選択させるための選択手段と、
前記第1の外部装置または他の装置が前記第2の再生用データを前記第2の外部装置から取得する場合、前記判定手段の判定結果に基づいて、前記第2の再生用データを取得する装置を、前記選択手段により選択するかしないかを切り替える切替手段と、
を備えることを特徴とする通信装置。
A communication device capable of sharing first reproduction data with a first external device via a first wireless network,
Transmitting means for transmitting, to the first external device, first reproduction data to be shared with the first external device;
Determining means for determining whether the transmitting means is transmitting the first reproduction data to the first external device;
Selecting means for allowing a user to select a device for acquiring the second reproduction data of the second external device via the second wireless network;
When the first external device or another device acquires the second reproduction data from the second external device, acquires the second reproduction data based on a result of the determination by the determination unit. Switching means for switching whether the device is selected or not by the selection means,
A communication device comprising:
前記判定手段が前記第1の再生用データの送信中でないと判定した場合、前記切替手段は、前記第2の再生用データを取得する装置を、前記選択手段により選択させる請求項1に記載の通信装置。   2. The switch according to claim 1, wherein when the determination unit determines that the first reproduction data is not being transmitted, the switching unit causes the selection unit to select a device that acquires the second reproduction data. 3. Communication device. 前記判定手段が前記第1の再生用データの送信中であると判定した場合、前記切替手段は、前記第2の再生用データを取得する装置を、前記選択手段により選択させず、前記第1の外部装置にする請求項1または2に記載の通信装置。   When the determination unit determines that the first reproduction data is being transmitted, the switching unit does not cause the selection unit to select the device for acquiring the second reproduction data, and The communication device according to claim 1, wherein the communication device is an external device. 前記第2の外部装置から前記第2の再生用データを取得するために必要な情報を、前記第1の外部装置または前記他の装置に送信する第2の送信手段をさらに備え、
前記第2の再生用データは、前記第2の外部装置が有するコンテンツであり、前記第2の再生用データを取得するために必要な情報は、前記コンテンツの識別子、サービス名および所在情報の少なくとも1つを含む請求項1から3のいずれか1項に記載の通信装置。
A second transmission unit configured to transmit information necessary for acquiring the second reproduction data from the second external device to the first external device or the other device,
The second reproduction data is a content included in the second external device, and information necessary for acquiring the second reproduction data includes at least an identifier of the content, a service name, and location information. The communication device according to claim 1, wherein the communication device includes one.
前記第2の再生用データを前記第2の外部装置から取得するための指示を入力するためのユーザインターフェース画像を表示する表示手段をさらに備える請求項1から4のいずれか1項に記載の通信装置。   The communication according to any one of claims 1 to 4, further comprising display means for displaying a user interface image for inputting an instruction for acquiring the second reproduction data from the second external device. apparatus. 送信手段は、前記ユーザインターフェース画像のデータを前記第1の再生用データに含めない請求項5に記載の通信装置。   The communication device according to claim 5, wherein the transmission unit does not include the data of the user interface image in the first reproduction data. 前記第1の外部装置および前記他の装置から前記第2の再生用データの取得に関する情報を受信する受信手段をさらに備える請求項5または6に記載の通信装置。   The communication device according to claim 5, further comprising a receiving unit configured to receive information regarding acquisition of the second reproduction data from the first external device and the other device. 前記取得するに関する情報が前記第2の再生用データを取得できないことを示している場合、前記表示手段は前記ユーザインターフェース画像を表示しない請求項7に記載の通信装置。   The communication device according to claim 7, wherein the display unit does not display the user interface image when the information on the acquisition indicates that the second reproduction data cannot be acquired. 前記取得するに関する情報が前記第2の再生用データを取得できないことを示している場合、前記表示手段はエラーメッセージを表示する請求項7に記載の通信装置。   The communication device according to claim 7, wherein the display unit displays an error message when the information regarding the acquisition indicates that the second reproduction data cannot be acquired. 前記取得するに関する情報が前記第2の再生用データを取得できないことを示している場合、前記ユーザインターフェース画像の操作を不能にする制御手段をさらに備える請求項7に記載の通信装置。   The communication device according to claim 7, further comprising: a control unit that disables operation of the user interface image when the information regarding the acquisition indicates that the second reproduction data cannot be acquired. 前記取得するに関する情報が前記第2の再生用データを取得できないことを示している場合、前記表示手段は、前記ユーザインターフェース画像の色の少なくとも一部を、前記取得するに関する情報が前記第2の再生用データを取得できることを示す場合と異ならせる請求項7に記載の通信装置。   When the information about obtaining indicates that the second reproduction data cannot be obtained, the display unit may display at least a part of the color of the user interface image with the information about obtaining the second data. The communication device according to claim 7, wherein the communication device is different from a case indicating that reproduction data can be acquired. 前記第1および第2の無線ネットワークの少なくとも一方は、Wi−Fi Direct規格に準拠した無線ネットワークである請求項1から11のいずれか1項に記載の通信装置。   The communication device according to any one of claims 1 to 11, wherein at least one of the first and second wireless networks is a wireless network conforming to the Wi-Fi Direct standard. 前記送信手段は、Wi−Fi Miracast規格に準拠した通信により前記第1の再生用データを送信する請求項1から12のいずれか1項に記載の通信装置。   The communication device according to any one of claims 1 to 12, wherein the transmission unit transmits the first reproduction data by communication conforming to the Wi-Fi Miracast standard. 前記第1および第2の無線ネットワークは、IEEE802.11シリーズ規格に準拠した無線ネットワークである請求項1から13のいずれか1項に記載の通信装置。   The communication device according to any one of claims 1 to 13, wherein the first and second wireless networks are wireless networks based on the IEEE 802.11 series standard. 第1の無線ネットワークを介して第1の外部装置と第1の再生用データの共有を行うことができる通信装置の制御方法であって、
前記第1の外部装置と共有すべき第1の再生用データを、前記通信装置から前記第1の外部装置に送信中であるかを判定するステップと、
第2の外部装置が有する第2の再生用データを、第2の無線ネットワークを介して取得する装置を選択する、ユーザ入力を受け取るステップと、
前記第1の外部装置または他の装置が前記第2の再生用データを前記第2の外部装置から取得する場合、前記判定するステップの判定結果に基づいて、前記第2の再生用データを取得する装置を、前記ユーザ入力により選択するかしないかを切り替えるステップと、
を有することを特徴とする制御方法。
A method for controlling a communication device capable of sharing first reproduction data with a first external device via a first wireless network,
Determining whether the first reproduction data to be shared with the first external device is being transmitted from the communication device to the first external device;
Receiving a user input, selecting a device that acquires the second reproduction data of the second external device via the second wireless network;
When the first external device or another device obtains the second reproduction data from the second external device, obtains the second reproduction data based on a result of the determination. Switching the device to be selected or not by the user input,
A control method comprising:
コンピュータを請求項1から14のいずれか1項に記載の通信装置の各手段として機能させるためのプログラム。   A program for causing a computer to function as each unit of the communication device according to claim 1.
JP2018113204A 2018-06-13 2018-06-13 Communication device, control method, and program Pending JP2019215762A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018113204A JP2019215762A (en) 2018-06-13 2018-06-13 Communication device, control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018113204A JP2019215762A (en) 2018-06-13 2018-06-13 Communication device, control method, and program

Publications (1)

Publication Number Publication Date
JP2019215762A true JP2019215762A (en) 2019-12-19

Family

ID=68919620

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018113204A Pending JP2019215762A (en) 2018-06-13 2018-06-13 Communication device, control method, and program

Country Status (1)

Country Link
JP (1) JP2019215762A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113050801A (en) * 2021-03-31 2021-06-29 联想(北京)有限公司 Control method and electronic device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113050801A (en) * 2021-03-31 2021-06-29 联想(北京)有限公司 Control method and electronic device

Similar Documents

Publication Publication Date Title
KR102400856B1 (en) Communication apparatus, control method, and program
JP6914728B2 (en) Communication equipment, communication methods, and programs
US10649723B2 (en) Communication device, control method, and storage medium
JP6620759B2 (en) Information processing apparatus, information processing method, and program
US11093206B2 (en) Communication apparatus, method of controlling the same, and non-transitory computer-readable storage medium
US10912013B2 (en) Communication apparatus, control method, and storage medium
JP2017028587A (en) Information processing device and information processing method
CN108632244B (en) Communication apparatus, communication system, communication method, and storage medium
US11457267B2 (en) Communication apparatus, communication method, and storage medium
JP2019215762A (en) Communication device, control method, and program
JP7146473B2 (en) Communication device, communication method and program
US10764737B2 (en) Communication apparatus, control method, and storage medium
US20180317272A1 (en) Communication apparatus, control method, and recording medium
US11128990B2 (en) Communication apparatus, control method, and storage medium
JP2019169870A (en) Communication device, control method, and program