[go: up one dir, main page]

CN108829371A - 界面控制方法、装置、存储介质及电子设备 - Google Patents

界面控制方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN108829371A
CN108829371A CN201810629387.5A CN201810629387A CN108829371A CN 108829371 A CN108829371 A CN 108829371A CN 201810629387 A CN201810629387 A CN 201810629387A CN 108829371 A CN108829371 A CN 108829371A
Authority
CN
China
Prior art keywords
interface
target element
coordinates
target
enter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810629387.5A
Other languages
English (en)
Other versions
CN108829371B (zh
Inventor
陈岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201810629387.5A priority Critical patent/CN108829371B/zh
Publication of CN108829371A publication Critical patent/CN108829371A/zh
Application granted granted Critical
Publication of CN108829371B publication Critical patent/CN108829371B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请公开了一种界面控制方法、装置、存储介质及电子设备。该方法包括:当处于第一界面时,从用户处获取语音指令;确定该语音指令所要完成的操作,该操作为进入该第一界面中包含的目标元素的第二界面;获取该目标元素在该第一界面中的目标位置;对该目标位置进行模拟点击,以进入该目标元素的第二界面。本实施例可以进一步完善终端的语音控制功能。

Description

界面控制方法、装置、存储介质及电子设备
技术领域
本申请属于终端技术领域,尤其涉及一种界面控制方法、装置、存储介质及电子设备。
背景技术
随着技术的不断发展,用户与终端之间的人机交互方式越来越丰富。比如,很多终端上都安装有语音助手类的应用。用户可以通过语音助手类的应用与终端进行语音交互,从而控制终端执行一定的操作。然而,相关技术中,终端上所能实现的语音控制功能仍然较为有限。
发明内容
本申请实施例提供一种界面控制方法、装置、存储介质及电子设备,可以进一步完善终端的语音控制功能。
本申请实施例提供一种界面控制方法,包括:
当处于第一界面时,从用户处获取语音指令;
确定所述语音指令所要完成的操作,其中所述操作为进入所述第一界面中包含的目标元素的第二界面;
获取所述目标元素在所述第一界面中的目标位置;
对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
本申请实施例提供一种界面控制装置,包括:
第一获取模块,用于当处于第一界面时,从用户处获取语音指令;
确定模块,用于确定所述语音指令所要完成的操作,其中所述操作为进入所述第一界面中包含的目标元素的第二界面;
第二获取模块,用于获取所述目标元素在所述第一界面中的目标位置;
操作模块,用于对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
本申请实施例提供一种存储介质,其上存储有计算机程序,当所述计算机程序在计算机上执行时,使得所述计算机执行本申请实施例提供的界面控制方法中的步骤。
本申请实施例还提供一种电子设备,包括存储器,处理器,所述处理器通过调用所述存储器中存储的计算机程序,用于执行本申请实施例提供的界面控制方法中的步骤。
本实施例中,当处于第一界面时,终端可以获取用户发出的用于指示终端进入第一界面中某一目标元素的界面的指令。然后,终端可以在第一界面中确定出该目标元素所在的目标位置,并对该目标位置进行模拟点击,从而进入到该目标元素的第二界面。由于本实施例可以通过语音指令和模拟点击来控制终端进入某一界面中包含的某一元素的界面,因此本实施例可以进一步完善终端的语音控制功能。
附图说明
下面结合附图,通过对本发明的具体实施方式详细描述,将使本发明的技术方案及其有益效果显而易见。
图1是本申请实施例提供的界面控制方法的流程示意图。
图2是本申请实施例提供的界面控制方法的另一流程示意图。
图3至图6是本申请实施例提供的界面控制方法的场景示意图。
图7是本申请实施例提供的界面控制装置的结构示意图。
图8是本申请实施例提供的界面控制装置的另一结构示意图。
图9是本申请实施例提供的移动终端的结构示意图。
图10是本申请实施例提供的移动终端的另一结构示意图。
具体实施方式
请参照图示,其中相同的组件符号代表相同的组件,本发明的原理是以实施在一适当的运算环境中来举例说明。以下的说明是基于所例示的本发明具体实施例,其不应被视为限制本发明未在此详述的其它具体实施例。
可以理解的是,本申请实施例的执行主体可以是诸如智能手机或平板电脑等的终端设备。
请参阅图1,图1是本申请实施例提供的界面控制方法的流程示意图,流程可以包括:
在101中,当处于第一界面时,从用户处获取语音指令。
随着技术的不断发展,用户与终端之间的人机交互方式越来越丰富。比如,很多终端上都安装有语音助手类的应用。用户可以通过语音助手类的应用与终端进行语音交互,从而控制终端执行一定的操作。然而,相关技术中,终端上所能实现的语音控制功能仍然较为有限。比如,相关技术中,语音助手类的应用一般只能为用户开启某一应用,而无法进入到该应用内部的一些功能模块的界面。若要进入到该应用内部的一些功能模块的界面,则用户仍然需要手动点击该功能模块才能进入该功能模块的界面。
在本实施例中,比如,当处于应用的第一界面时,用户需要进入该应用的某一功能模块的界面,此时用户可以发出语音指令,那么终端可以从用户处获取该语音指令。
在102中,确定语音指令所要完成的操作,其中该操作为进入第一界面中包含的目标元素的第二界面。
比如,在从用户处获取到语音指令后,终端可以确定出该语音指令所要完成的操作,其中该操作为进入第一界面中包含的某一元素(即目标元素)的界面(即第二界面)。
需要说明的是,界面中包含的元素是指界面中允许用户点击的功能模块或功能区域。若用户手动点击某一功能模块或功能区域,那么终端会进入到该功能模块或功能区域的界面。
比如,当开启即时通信应用A时,可以进入到该即时通信应用A的首页界面。例如,在该首页界面的底部可以包含“信息”、“通讯录”、“我的”等允许用户点击的功能模块。每一功能模块属于首页界面中包含的元素。此外,例如当前默认被选中的是“信息”功能模块,在该“信息”功能模块的界面上可以包含用户与好友的聊天窗口。若用户点击与某好友的聊天窗口,则终端会进入到与该好友的聊天界面。即,“信息”功能模块中可以包含有多个聊天窗口,每一聊天窗口也属于首页界面中包含的元素。
在103中,获取目标元素在第一界面中的目标位置。
比如,在确定出用户的语音指令是要进入到第一界面中包含的目标元素的第二界面后,终端可以获取该目标元素在第一界面中的位置,即目标位置。
在104中,对目标位置进行模拟点击,以进入目标元素的第二界面。
比如,在获取到目标元素的目标位置后,终端可以对该目标位置进行模拟点击,从而进入到目标元素的第二界面。
需要说明的是,模拟点击是指终端模拟用户的点击动作从而触发终端完成该点击动作所对应的操作。例如,当用户手动点击即时通信应用A的首页界面底部的“我的”功能模块时,终端会进入到“我的”这一功能模块的界面。那么,模拟点击就是用户可以不需手动点击“我的”功能模块,而是由终端确定出“我的”这一功能模块在首页界面上的目标位置,然后由终端模拟出用户手动点击该目标位置时的触发效果,使终端自动进入到“我的”功能模块的界面。
可以理解的是,本实施例中,当处于第一界面时,终端可以获取用户发出的用于指示终端进入第一界面中某一目标元素的界面的指令。然后,终端可以在第一界面中确定出该目标元素所在的目标位置,并对该目标位置进行模拟点击,从而进入到该目标元素的第二界面。由于本实施例可以通过语音指令和模拟点击来控制终端进入某一界面中包含的某一元素的界面,因此本实施例可以进一步完善终端的语音控制功能。
请参阅图2,图2为本申请实施例提供的界面控制方法的另一流程示意图,流程可以包括:
在201中,当处于第一界面时,终端从用户处获取语音指令。
比如,如图3所示,用户向终端发出“请打开即时通信应用A”的语音指令,终端通过语音助手接收到该语音指令后,可以先从该语音中提取声纹特征。然后,终端可以将提取到的声纹特征与预设的机主的声纹特征进行比对。在确定出当前用户为机主后,终端可以开启即时通信应用A。
在开启即时通信应用A后,即可进入即时通信应用A的界面。例如,如图4所示,为终端开启即时通信应用A后的第一界面。之后,例如由于语音助手无法获取即时通信应用A中的功能模块的应用接口,导致用户通过语音助手无法再进入即时通信应用A的某一功能模块对应的界面。
在本实施例中,当用户需要进入即时通信应用A的某一功能模块对应的界面时,用户可以向终端发出语音指令,则终端可以从用户处获取语音指令。
例如,如图4所示,用户向终端发出“请点击‘我的’”这一语音指令。
在202中,终端确定语音指令所要完成的操作,其中该操作为进入第一界面中包含的目标元素的第二界面。
比如,在从用户处获取到语音指令后,终端可以对该语音指令进行语音识别。通过语音识别可以解析出该语音指令所要完成的操作。例如,通过语音识别,终端确定出该语音指令所要完成的操作为进入第一界面中包含的某一目标元素的界面,即第二界面。
例如,通过语音识别,终端确定出从用户处获取到的语音指令“请点击‘我的’”所要完成的操作是进入“我的”这一功能模块的界面。
在203中,终端识别第一界面中包含的元素,并为每一元素分配坐标。
比如,在确定出从用户处获取的语音指令所要完成的操作为进入第一界面中包含的目标元素的第二界面后,终端可以识别第一界面中包含的元素,并为每一元素分配坐标。
在一种实施方式中,终端可以以显示屏幕的左下角的顶点为坐标原点建立平面直角坐标系,并根据该平面直角坐标系为第一界面中包含的每一元素分配坐标。
需要说明的是,界面中包含的元素是指界面中允许用户点击的功能模块或功能区域。若用户手动点击某一功能模块或功能区域,那么终端会进入到该功能模块或功能区域的界面。
例如,在如图4所示的第一界面中,终端可以识别出其中包含的元素可以包括:消息、通讯录、我的、第一消息、第二消息、以及第三消息等词汇。这些元素都是允许用户手动点击的功能模块或功能区域。例如,当用户手动点击“通讯录”这一元素时,可以进入“通讯录”功能模块查看联系人信息。或者,当用户手动点击“第一消息”这一元素时,可以查看第一消息的详情。另外,由于屏幕上的状态栏不可点击,因此终端可以不将状态栏上的信息确定为相应的元素。
在识别出第一界面中包含的元素后,终端可以为每一元素分配一对应的坐标。例如,终端为“消息”分配的坐标为(1,1),为“通讯录”分配的坐标为(3,1),为“我的”分配的坐标为(5,1),为“第一消息”分配的坐标为(3,3),为“第二消息”分配的坐标为(3,5),为“第三消息”分配的坐标为(3,7)。
在一种实施方式中,终端可以通过图片识别的方式来识别第一界面中包含的元素。即,终端将第一界面作为一张图片,然后利用图片识别的方式识别出其中包含的文字或词汇,再将识别出来的文字或词汇确定为一个元素。
例如,在一种实施方式中,在进入第一界面后,终端可以对第一界面进行截图,从而得到一张图片。然后,终端可以对该图片进行图片识别,并将从该图片中识别出来的文字或词汇确定为元素。
在204中,终端生成每一元素及其分配到的坐标的对应关系。
比如,在为第一界面中包含的每一元素分配坐标后,终端可以生成每一元素及其分配到的坐标的对应关系,并将该对应关系保存起来。
在205中,终端从分配的坐标中获取目标元素的坐标,并将该目标元素的坐标确定为该目标元素在第一界面中的目标位置。
比如,在为第一界面中的每一元素分配对应的坐标后,终端可以从分配的坐标中获取目标元素的坐标,并将该目标元素的坐标确定为该目标元素在第一界面中的目标位置。
例如,目标元素为“我的”,终端为该目标元素分配的坐标为(5,1),那么终端可以将该坐标(5,1)确定为目标元素“我的”在第一界面中的目标位置。
在206中,终端对目标位置进行模拟点击,以进入目标元素的第二界面。
比如,在确定出目标元素在第一界面中的目标位置后,终端可以对该目标位置进行模拟点击,从而进入该目标元素的界面,即第二界面。
例如,在确定出目标元素“我的”的目标位置后,终端可以对坐标为(5,1)的位置进行模拟点击,从而进入到“我的”的界面。例如,“我的”界面可以如图5所示,其中包含“我的钱包”、“我的收藏”、“我的相册”、“我的设置”等功能模块。
需要说明的是,模拟点击是指终端模拟用户的手动点击动作从而触发终端完成该点击动作所对应的操作。例如,用户手动点击图4中“我的”这一功能模块后,可以进入到图5所示的界面。那么,在确定出“我的”这一目标元素在图4中的坐标(5,1)后,终端通过模拟点击(5,1)的位置,也可以进入到图5所示的界面。
比如,在进入到图5所示的“我的”界面(即第二界面)后,终端同样可以通过图片识别出该第二界面包含的元素,并为每一元素分配对应的坐标。例如,第二界面中包含的元素可以包括“消息”、“通讯录”、“我的”、“我的钱包”、“我的收藏”、“我的相册”、“我的设置”等。
之后,终端可以为“消息”分配坐标(1,1),为“通讯录”分配坐标(3,1),为“我的”分配坐标(5,1),为“我的设置”分配坐标(3,3),为“我的相册”分配坐标(3,5),为“我的收藏”分配坐标(3,7),为“我的钱包”分配坐标(3,9)。
之后,当用户发出“点击我的钱包”的语音指令时,终端可以将“我的钱包”确定为目标元素,并获取终端为“我的钱包”这一目标元素分配的坐标。在获取到终端为“我的钱包”分配的坐标(3,9)后,终端可以对坐标为(3,9)的位置进行模拟点击,从而进入到“我的钱包”的界面。例如,“我的钱包”的界面可以如图6所示。
在207,当再次处于第一界面并需要进入目标元素的第二界面时,终端检测当前显示屏是否处于分屏显示状态。
比如,在进入到如图6所示“我的钱包”的界面后,用户退出了即时通信应用A。之后一段时间,用户又开启了即时通信应用A,此时终端再次处于如图4所示的第一界面,并且用户向终端发出了“点击我的”的语音指令。此时,终端可以确定出需要进入目标元素“我的”的界面(即第二界面),那么终端可以先检测当前显示屏是否处于分屏显示状态。
若检测到当前显示屏处于分屏显示状态,那么终端可以选中即时通信应用A所在的目标显示屏区域,并通过对该目标显示屏区域进行图片识别,从而识别出该目标显示屏区域中包含的元素。之后,终端可以为目标显示屏区域中的每一元素分配对应的坐标。然后,终端可以获取目标元素“我的”分配到的坐标,并将该坐标确定为目标位置。最后,终端可以通过对该目标位置的模拟点击进入到“我的”界面。
若检测到当前显示屏未处于分屏显示状态,那么进入208。
在208中,若当前显示屏未处于分屏显示状态,则终端根据对应关系获取目标元素的坐标,并对目标元素的坐标对应的位置进行模拟点击。
比如,终端检测到当前显示屏未处于分屏显示状态,那么终端可以根据204中生成的第一界面中的每一元素及其分配到的坐标的对应关系,获取目标元素“我的”的坐标,并对该坐标对应的位置进行模拟点击,从而进入到“我的”的界面。
可以理解的是,在当前显示屏未处于分屏显示状态时,终端可以根据204中生成的元素与坐标的对应关系来获取目标元素的坐标,而无需重新对第一界面进行包含的元素进行识别,并未识别出的元素分配坐标。这样可以提高终端的处理速度。但是若当前显示屏处于分屏显示状态,那么第一界面中的元素的分布位置相对于图4中所示的第一界面可能发生变化,因此终端需要重新识别目标显示屏区域中包含的元素,并为每一元素重新分配坐标。然后终端再获取目标元素的坐标,以及对目标元素的坐标所在的位置进行模拟点击,从而进入目标元素的界面。
在一种实施方式中,在204中终端生成每一元素及其分配到的坐标的对应关系的步骤之后,还可以包括如下步骤:记录应用的第一版本号。
那么,当再次处于第一界面并需要进入目标元素的第二界面时,终端根据204中生成的对应关系获取目标元素的坐标,并对目标元素的坐标对应的位置进行模拟点击的步骤,可以包括:
当再次处于第一界面并需要进入目标元素的第二界面时,终端获取应用的第二版本号;
若第二版本号与第一版本号一致,则终端根据对应关系获取目标元素的坐标,并对目标元素的坐标对应的位置进行模拟点击。
比如,由于应用版本更新后,应用的各界面所包含的元素和/或元素的分布位置可能发生变化。因此,204中生成的第一界面中的每一元素及其分配到的坐标的对应关系可能不再适用于版本更新后的应用的第一界面。
因此,在本实施例中,在204中终端生成每一元素及其分配到的坐标的对应关系的步骤之后,终端可以记录应用的第一版本号。当再次处于第一界面并需要进入目标元素的第二界面时,若确定出应用未发生版本更新,即此时终端获取到的应用的第二版本号和第一版本号一致,则终端可以根据204中生成的对应关系获取目标元素的坐标,并对该目标元素的坐标对应的位置进行模拟点击,从而接入到该目标元素的界面。
请参阅图7,图7为本申请实施例提供的界面控制装置的结构示意图。界面控制装置300可以包括:第一获取模块301,确定模块302,第二获取模块303,以及操作模块304。
第一获取模块301,用于当处于第一界面时,从用户处获取语音指令。
确定模块302,用于确定所述语音指令所要完成的操作,所述操作为进入所述第一界面中包含的目标元素的第二界面。
第二获取模块303,用于获取所述目标元素在所述第一界面中的目标位置。
操作模块304,用于对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
在一种实施方式中,所述第二获取模块303可以用于:
识别所述第一界面中包含的元素,并为每一所述元素分配坐标;
从分配的坐标中获取所述目标元素的坐标,并将所述目标元素的坐标确定为所述目标元素在所述第一界面中的目标位置。
请一并参阅图8,图8为本申请实施例提供的界面控制装置的另一结构示意图。在一实施例中,界面控制装置300还可以包括:生成模块305以及记录模块306。
生成模块305,用于生成每一所述元素及其分配到的坐标的对应关系。
那么,所述操作模块304可以用于:当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
在一种实施方式中,所述操作模块304还可以用于:
当再次处于所述第一界面并需要进入所述目标元素的第二界面时,检测当前显示屏是否处于分屏显示状态;
若当前显示屏未处于分屏显示状态,则根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
记录模块306,用于记录应用的第一版本号。
那么,所述操作模块304可以用于:
当再次处于所述第一界面并需要进入所述目标元素的第二界面时,获取所述应用的第二版本号;若所述第二版本号与所述第一版本号一致,则根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
本申请实施例提供一种计算机可读的存储介质,其上存储有计算机程序,当所述计算机程序在计算机上执行时,使得所述计算机执行如本实施例提供的界面控制方法中的步骤。
本申请实施例还提供一种电子设备,包括存储器,处理器,所述处理器通过调用所述存储器中存储的计算机程序,用于执行本实施例提供的界面控制方法中的步骤。
例如,上述电子设备可以是诸如平板电脑或者智能手机等移动终端。请参阅图9,图9为本申请实施例提供的移动终端的结构示意图。
该移动终端400可以包括显示屏401、存储器402、处理器403等部件。本领域技术人员可以理解,图9中示出的移动终端结构并不构成对移动终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
显示屏401可以用于显示图像和文字等信息。
存储器402可用于存储应用程序和数据。存储器402存储的应用程序中包含有可执行代码。应用程序可以组成各种功能模块。处理器403通过运行存储在存储器402的应用程序,从而执行各种功能应用以及数据处理。
处理器403是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器402内的应用程序,以及调用存储在存储器402内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。
在本实施例中,移动终端中的处理器403会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行代码加载到存储器402中,并由处理器403来运行存储在存储器402中的应用程序,从而实现步骤:
当处于第一界面时,从用户处获取语音指令;
确定所述语音指令所要完成的操作,所述操作为进入所述第一界面中包含的目标元素的第二界面;
获取所述目标元素在所述第一界面中的目标位置;
对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
请参阅图10,移动终端500可以包括显示屏501、存储器502、处理器503、输入单元504、输出单元505等部件。
显示屏501可以用于显示图像和文字等。
存储器502可用于存储应用程序和数据。存储器502存储的应用程序中包含有可执行代码。应用程序可以组成各种功能模块。处理器503通过运行存储在存储器502的应用程序,从而执行各种功能应用以及数据处理。
处理器503是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器502内的应用程序,以及调用存储在存储器502内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。
输入单元504可用于接收输入的数字、字符信息或用户特征信息(比如指纹),以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
输出单元505可用于显示由用户输入的信息或提供给用户的信息以及移动终端的各种图形用户接口,这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。输出单元可包括显示面板。
在本实施例中,移动终端中的处理器503会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行代码加载到存储器502中,并由处理器503来运行存储在存储器502中的应用程序,从而实现步骤:
当处于第一界面时,从用户处获取语音指令;
确定所述语音指令所要完成的操作,所述操作为进入所述第一界面中包含的目标元素的第二界面;
获取所述目标元素在所述第一界面中的目标位置;
对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
在一种实施方式中,处理器503执行所述获取所述目标元素在所述第一界面中的目标位置的步骤时,可以执行:识别所述第一界面中包含的元素,并为每一所述元素分配坐标;从分配的坐标中获取所述目标元素的坐标,并将所述目标元素的坐标确定为所述目标元素在所述第一界面中的目标位置。
在一种实施方式中,在为每一所述元素分配坐标的步骤之后,处理器503还可以执行:生成每一所述元素及其分配到的坐标的对应关系。
那么,在进入所述目标元素的第二界面的步骤之后,处理器503还可以执行:当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
在一种实施方式中,处理器503执行所述当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击的步骤时,可以执行:当再次处于所述第一界面并需要进入所述目标元素的第二界面时,检测当前显示屏是否处于分屏显示状态;若当前显示屏未处于分屏显示状态,则根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
在一种实施方式中,在生成每一所述元素及其分配到的坐标的对应关系的步骤之后,处理器503还可以执行:记录应用的第一版本号。
那么,处理器503执行所述当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击的步骤时,可以执行:当再次处于所述第一界面并需要进入所述目标元素的第二界面时,获取所述应用的第二版本号;若所述第二版本号与所述第一版本号一致,则根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见上文针对界面控制方法的详细描述,此处不再赘述。
本申请实施例提供的所述界面控制装置与上文实施例中的界面控制方法属于同一构思,在所述界面控制装置上可以运行所述界面控制方法实施例中提供的任一方法,其具体实现过程详见所述界面控制方法实施例,此处不再赘述。
需要说明的是,对本申请实施例所述界面控制方法而言,本领域普通技术人员可以理解实现本申请实施例所述界面控制方法的全部或部分流程,是可以通过计算机程序来控制相关的硬件来完成,所述计算机程序可存储于一计算机可读取存储介质中,如存储在存储器中,并被至少一个处理器执行,在执行过程中可包括如所述界面控制方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)等。
对本申请实施例的所述界面控制装置而言,其各功能模块可以集成在一个处理芯片中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中,所述存储介质譬如为只读存储器,磁盘或光盘等。
以上对本申请实施例所提供的一种界面控制方法、装置、存储介质以及电子设备进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种界面控制方法,其特征在于,包括:
当处于第一界面时,从用户处获取语音指令;
确定所述语音指令所要完成的操作,其中所述操作为进入所述第一界面中包含的目标元素的第二界面;
获取所述目标元素在所述第一界面中的目标位置;
对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
2.根据权利要求1所述的界面控制方法,其特征在于,获取所述目标元素在所述第一界面中的目标位置,包括:
识别所述第一界面中包含的元素,并为每一所述元素分配坐标;
从分配的坐标中获取所述目标元素的坐标,并将所述目标元素的坐标确定为所述目标元素在所述第一界面中的目标位置。
3.根据权利要求2所述的界面控制方法,其特征在于,在为每一所述元素分配坐标的步骤之后,还包括:
生成每一所述元素及其分配到的坐标的对应关系;
在进入所述目标元素的第二界面的步骤之后,还包括:当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
4.根据权利要求3所述的界面控制方法,其特征在于,当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击,包括:
当再次处于所述第一界面并需要进入所述目标元素的第二界面时,检测当前显示屏是否处于分屏显示状态;
若当前显示屏未处于分屏显示状态,则根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
5.根据权利要求3所述的界面控制方法,其特征在于,在生成每一所述元素及其分配到的坐标的对应关系的步骤之后,还包括:
记录应用的第一版本号;
所述当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击,包括:
当再次处于所述第一界面并需要进入所述目标元素的第二界面时,获取所述应用的第二版本号;
若所述第二版本号与所述第一版本号一致,则根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
6.一种界面控制装置,其特征在于,包括:
第一获取模块,用于当处于第一界面时,从用户处获取语音指令;
确定模块,用于确定所述语音指令所要完成的操作,其中所述操作为进入所述第一界面中包含的目标元素的第二界面;
第二获取模块,用于获取所述目标元素在所述第一界面中的目标位置;
操作模块,用于对所述目标位置进行模拟点击,以进入所述目标元素的第二界面。
7.根据权利要求6所述的界面控制装置,其特征在于,所述第二获取模块用于:
识别所述第一界面中包含的元素,并为每一所述元素分配坐标;
从分配的坐标中获取所述目标元素的坐标,并将所述目标元素的坐标确定为所述目标元素在所述第一界面中的目标位置。
8.根据权利要求7所述的界面控制装置,其特征在于,所述装置还包括:
生成模块,用于生成每一所述元素及其分配到的坐标的对应关系;
所述操作模块,用于当再次处于所述第一界面并需要进入所述目标元素的第二界面时,根据所述对应关系获取所述目标元素的坐标,并对所述目标元素的坐标对应的位置进行模拟点击。
9.一种存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序在计算机上执行时,使得所述计算机执行如权利要求1至5中任一项所述的方法。
10.一种电子设备,包括存储器,处理器,其特征在于,所述处理器通过调用所述存储器中存储的计算机程序,用于执行如权利要求1至5中任一项所述的方法。
CN201810629387.5A 2018-06-19 2018-06-19 界面控制方法、装置、存储介质及电子设备 Expired - Fee Related CN108829371B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810629387.5A CN108829371B (zh) 2018-06-19 2018-06-19 界面控制方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810629387.5A CN108829371B (zh) 2018-06-19 2018-06-19 界面控制方法、装置、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN108829371A true CN108829371A (zh) 2018-11-16
CN108829371B CN108829371B (zh) 2022-02-22

Family

ID=64142544

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810629387.5A Expired - Fee Related CN108829371B (zh) 2018-06-19 2018-06-19 界面控制方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN108829371B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111681658A (zh) * 2020-06-05 2020-09-18 苏州思必驰信息科技有限公司 车载app的语音控制方法和装置
CN112286486A (zh) * 2020-12-30 2021-01-29 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法、智能终端和存储介质
CN112304325A (zh) * 2020-10-23 2021-02-02 上海博泰悦臻网络技术服务有限公司 基于社交软件的自动导航方法、终端、系统、及存储介质
CN112634896A (zh) * 2020-12-30 2021-04-09 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法和智能终端
CN112732379A (zh) * 2020-12-30 2021-04-30 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法、终端和存储介质
CN113900620A (zh) * 2021-11-09 2022-01-07 杭州逗酷软件科技有限公司 交互方法、装置、电子设备以及存储介质
US11450322B2 (en) 2018-11-23 2022-09-20 Huawei Technologies Co., Ltd. Speech control method and electronic device
CN115359793A (zh) * 2022-08-19 2022-11-18 星河智联汽车科技有限公司 一种车载语音交互方法、装置及车辆

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104217152A (zh) * 2014-09-23 2014-12-17 陈包容 一种移动终端在待机状态下进入应用程序的实现方法和装置
CN105302619A (zh) * 2015-12-03 2016-02-03 腾讯科技(深圳)有限公司 一种信息处理方法及装置、电子设备
CN106201177A (zh) * 2016-06-24 2016-12-07 维沃移动通信有限公司 一种操作执行方法及移动终端
CN106373570A (zh) * 2016-09-12 2017-02-01 深圳市金立通信设备有限公司 一种语音控制方法及终端
CN107608652A (zh) * 2017-08-28 2018-01-19 三星电子(中国)研发中心 一种语音控制图形界面的方法和装置
CN107919129A (zh) * 2017-11-15 2018-04-17 百度在线网络技术(北京)有限公司 用于控制页面的方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104217152A (zh) * 2014-09-23 2014-12-17 陈包容 一种移动终端在待机状态下进入应用程序的实现方法和装置
CN105302619A (zh) * 2015-12-03 2016-02-03 腾讯科技(深圳)有限公司 一种信息处理方法及装置、电子设备
CN106201177A (zh) * 2016-06-24 2016-12-07 维沃移动通信有限公司 一种操作执行方法及移动终端
CN106373570A (zh) * 2016-09-12 2017-02-01 深圳市金立通信设备有限公司 一种语音控制方法及终端
CN107608652A (zh) * 2017-08-28 2018-01-19 三星电子(中国)研发中心 一种语音控制图形界面的方法和装置
CN107919129A (zh) * 2017-11-15 2018-04-17 百度在线网络技术(北京)有限公司 用于控制页面的方法和装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11450322B2 (en) 2018-11-23 2022-09-20 Huawei Technologies Co., Ltd. Speech control method and electronic device
EP3872807B1 (en) * 2018-11-23 2023-10-18 Huawei Technologies Co., Ltd. Voice control method and electronic device
CN111681658A (zh) * 2020-06-05 2020-09-18 苏州思必驰信息科技有限公司 车载app的语音控制方法和装置
CN112304325A (zh) * 2020-10-23 2021-02-02 上海博泰悦臻网络技术服务有限公司 基于社交软件的自动导航方法、终端、系统、及存储介质
CN112286486A (zh) * 2020-12-30 2021-01-29 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法、智能终端和存储介质
CN112634896A (zh) * 2020-12-30 2021-04-09 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法和智能终端
CN112732379A (zh) * 2020-12-30 2021-04-30 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法、终端和存储介质
CN112732379B (zh) * 2020-12-30 2023-12-15 智道网联科技(北京)有限公司 智能终端上应用程序的运行方法、终端和存储介质
CN113900620A (zh) * 2021-11-09 2022-01-07 杭州逗酷软件科技有限公司 交互方法、装置、电子设备以及存储介质
CN113900620B (zh) * 2021-11-09 2024-05-03 杭州逗酷软件科技有限公司 交互方法、装置、电子设备以及存储介质
CN115359793A (zh) * 2022-08-19 2022-11-18 星河智联汽车科技有限公司 一种车载语音交互方法、装置及车辆

Also Published As

Publication number Publication date
CN108829371B (zh) 2022-02-22

Similar Documents

Publication Publication Date Title
CN108829371A (zh) 界面控制方法、装置、存储介质及电子设备
CN109240576B (zh) 游戏中的图像处理方法及装置、电子设备、存储介质
US10140014B2 (en) Method and terminal for activating application based on handwriting input
KR102309175B1 (ko) 스크랩 정보를 제공하는 전자 장치 및 그 제공 방법
WO2016206113A1 (en) Technologies for device independent automated application testing
US20140019905A1 (en) Method and apparatus for controlling application by handwriting image recognition
CN106484266A (zh) 一种文本处理方法及装置
CN109740041B (zh) 网页爬取方法、装置、存储介质和计算机设备
CN115016710B (zh) 应用程序推荐方法
CN107885823A (zh) 音频信息的播放方法、装置、存储介质及电子设备
CN107977155B (zh) 一种手写识别方法、装置、设备和存储介质
CN112612469A (zh) 一种界面元素的处理方法、装置和电子设备
CN108984089A (zh) 触控操作方法、装置、存储介质及电子设备
CN114443022A (zh) 生成页面搭建区块的方法及电子设备
CN113626441A (zh) 基于扫描设备的文本管理方法、装置、设备以及存储介质
CN114296857A (zh) 界面的调整方法、装置、电子设备及可读介质
US9904461B1 (en) Method and system for remote text selection using a touchscreen device
CN119668457A (zh) 与桌面虚拟形象进行人机交互的方法、装置、设备及介质
CN114092608B (zh) 表情的处理方法及装置、计算机可读存储介质、电子设备
WO2024140978A1 (zh) 一种光标的展示方法以及相关设备
CN112783483B (zh) 基于悬浮按钮组件的功能创建方法、装置、设备及介质
CN108984024A (zh) 触控操作方法、装置、存储介质及电子设备
US20180300301A1 (en) Enhanced inking capabilities for content creation applications
US12307212B2 (en) Method for providing remote service capable of multilingual input and server performing the same
CN119759229B (zh) 交互方法、装置、计算机设备、存储介质及产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20220222