[go: up one dir, main page]

JP2021118000A - アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体 - Google Patents

アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体 Download PDF

Info

Publication number
JP2021118000A
JP2021118000A JP2021007184A JP2021007184A JP2021118000A JP 2021118000 A JP2021118000 A JP 2021118000A JP 2021007184 A JP2021007184 A JP 2021007184A JP 2021007184 A JP2021007184 A JP 2021007184A JP 2021118000 A JP2021118000 A JP 2021118000A
Authority
JP
Japan
Prior art keywords
training
item
user
task
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021007184A
Other languages
English (en)
Other versions
JP7135255B2 (ja
Inventor
チェン、リアンフイ
Lianghui Chen
フ、ヤン
Yan Hu
ワン、クアンビン
Quanbin Wang
ヤン、シャオシュアン
Xiaoxuan Yang
ペン、リアングアン
Liangang Peng
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Publication of JP2021118000A publication Critical patent/JP2021118000A/ja
Application granted granted Critical
Publication of JP7135255B2 publication Critical patent/JP7135255B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/951—Indexing; Web crawling techniques
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9536—Search customisation based on social or collaborative filtering
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0282—Rating or review of business operators or products
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Recommending goods or services
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Software Systems (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Multimedia (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Computer Security & Cryptography (AREA)

Abstract

【課題】人工知能分野におけるアイテム推奨及びモデルトレーニング方法を提供する。【解決手段】方法は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築して、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得し、ユーザーの特徴表現とアイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得し、Ｎ個のアイテムの識別子に基づいて、ユーザーにＮ個のアイテムの相関情報を推奨する。【効果】計算量を効果的に削減でき、計算エラーを回避し、推奨精度を高めることができ、また、アイテム推奨のインテリジェンスを効果的に高め、アイテム推奨効率を向上させる。【選択図】図１

Description

本出願は、コンピュータ技術分野に関するものであり、特に人工知能、具体的にアイテム推奨方法及びモデルトレーニング方法、システム、プログラム、電子機器及び記憶媒体に関するものである。
インターネットがこれまで発展し、様々なインターネットの製品が生み出された。例えば、電子商取引などのショッピングのプラットフォームの登場により、人々のライフスタイルが変えられてショッピングの利便性を高めた。
様々なインターネットアプリケーション製品において、ユーザーは、インタレストのアイテムを個別に選択してもよく、システムからユーザーにアイテムを推奨してもよい。例えば、既存のアイテム推奨システムでは、協調フィルタリングの推奨様式を採用することができる。例えば、業界で一般的に、アイテムベースの協調フィルタリング推奨であるｉｔｅｍＣＦ、または、ユーザーベースの協調フィルタリング推奨であるｕｓｅｒＣＦを使用する。ｉｔｅｍＣＦは、二つのアイテムに全部インタレストを持つユーザーの重複量を使用して、二つのアイテムの間の類似度を測定して、ユーザーの過去のアイテムをベースに、類似の候補アイテムを推奨する。ｕｓｅｒＣＦは、二つのユーザーが同時にインタレストを持つアイテムの重複量を使用して、二つのユーザーの間の類似度を測定し、類似のユーザーグループが気に入るアイテムをベースに、候補アイテムをターゲットユーザーに推奨する。
しかし、ユーザー数やアイテム数が多い場合、上述の推奨案の計算量の代価が非常に大きくて、計算エラーが発生しやすく、推奨案のアイテム推奨精度が低くなる。
上記技術的課題を解決するために、本出願は、アイテムの推奨方法及びモデルトレーニング方法、システム、電子機器及び記憶媒体を提供して、アイテム推奨精度を高める。
一方、本出願は、
予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築するステップと、
前記予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得するステップと、
前記ユーザーの特徴表現と前記アイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得するステップと、
前記Ｎ個のアイテムの識別子に基づいて、前記ユーザーに前記Ｎ個のアイテムの相関情報を推奨するステップと、を含むアイテム推奨方法を提供する。
さらに、選択的に、上述の方法において、前記ユーザーの特徴表現と前記アイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得するステップは、
前記アイテムの特徴表現のデータベースから前記ユーザーの特徴表現と相関性が最も高いＮ個のアイテムの特徴表現を検索するステップと、
前記Ｎ個のアイテムの特徴表現に対応される前記Ｎ個のアイテムの識別子を取得するステップと、を含む。
さらに、選択的に、上述の方法において、予めトレーニングされた、前記ユーザーがアイテムをクリックするタスクモデルは、リコールのタスクモジュールとクリック率推定のタスクモジュールを具備し、前記リコールのタスクモジュールと前記クリック率推定のタスクモジュールの間は連合学習を受ける。
他方、本出願は、
複数のトレーニングデータを収集するステップと、
前記複数のトレーニングデータを使用して、前記ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールについて連合学習を行うステップと、を含み、
各前記トレーニングデータは、トレーニングユーザーの少なくとも二つのトレーニング特徴情報、トレーニングアイテムの少なくとも二つのトレーニング特徴情報及び前記トレーニングユーザーが前記トレーニングアイテムに対するクリック相互作用情報を含む、ユーザーがアイテムをクリックするタスクモデルのトレーニング方法を提供する。
さらに、選択的に、上述の方法において、前記複数のトレーニングデータを使用して、前記ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールについて連合学習を行うステップは、
各前記トレーニングデータについて、前記トレーニングユーザーの少なくとも二つの特徴情報を埋め込み表現してからスプライシングさせ、トレーニングユーザーの組み合わせ特徴表現を得るステップと、
前記トレーニングアイテムの少なくとも二つのトレーニング特徴情報を埋め込み表現してからスプライシングさせ、トレーニングアイテムの組み合わせ特徴表現を得るステップと、
前記リコールのタスクモジュールにおいて、前記トレーニングユーザーの組み合わせ特徴表現と前記トレーニングアイテムの組み合わせ特徴表現を、それぞれ完全接続処理や活性化処理の処理層を含む少なくとも二つの層の処理を通じて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を得るステップと、
前記リコールのタスクモジュールにおいて、前記トレーニングユーザーの特徴表現と前記トレーニングアイテムの特徴表現を乗じて、前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックスを得るステップと、
前記クリック率推定のタスクモジュールにおいて、前記トレーニングユーザーの組み合わせ特徴表現と前記トレーニングアイテムの組み合わせ特徴表現をスプライシングさせ、順次に、完全接続処理や活性化処理の処理層、及びｓｉｇｍｏｉｄ活性化関数の処理層を含む少なくとも二つの層の処理を通じて、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率を得るステップと、
前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックス、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率及び既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数を生成するステップと、
前記総合的な交差エントロピー損失関数が収束されるか否かを判断し、収束されない場合は、前記ユーザーがアイテムをクリックするタスクモデルのパラメータを調整するステップと、
収束される場合は、第１の連続予定ループ数のトレーニングで全部収束されるか否かを判断し、収束される場合、前記ユーザーがアイテムをクリックするタスクモデルのパラメータを決定して、前記ユーザーがアイテムをクリックするタスクモデルを決定するステップと、を含む。
さらに、選択的に、上述の方法において、前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックス、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率及び既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数を生成するステップは、
前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックスと既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、第１の交差エントロピー損失関数を生成するステップと、
前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率と既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、第２の交差エントロピー損失関数を生成するステップと、
前記第１の交差エントロピー損失関数と前記第２の交差エントロピー損失関数の和を求めて、前記総合的な交差エントロピー損失関数を得るステップと、を含む。
さらに、選択的に、上述の方法において、前記総合的な交差エントロピー損失関数が、前記第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、
継続して前記複数のトレーニングデータを使用して、前記第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、前記リコールのタスクモジュールをトレーニングし、前記リコールのタスクモジュールのパラメータを決定して、前記リコールのタスクモジュールを決定し、前記ユーザーがアイテムをクリックするタスクモデルを決定するステップをさらに含む。
もう一方、本出願は、
予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築する構築モジュールと、
前記予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得する特徴取得モジュールと、
前記ユーザーの特徴表現と前記アイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得するアイテム取得モジュールと、
前記Ｎ個のアイテムの識別子に基づいて、前記ユーザーに前記Ｎ個のアイテムの相関情報を推奨する推奨モジュールと、を具備するアイテム推奨システムをさらに提供する。
また一方、本出願は、
複数のトレーニングデータを収集する収集モジュールと、
前記複数のトレーニングデータを使用して、前記ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールについて連合学習を行うトレーニングモジュールと、
各前記トレーニングデータは、トレーニングユーザーの少なくとも二つのトレーニング特徴情報、トレーニングアイテムの少なくとも二つのトレーニング特徴情報及び前記トレーニングユーザーが前記トレーニングアイテムに対するクリック相互作用情報を含む、ユーザーがアイテムをクリックするタスクモデルのトレーニング装置をさらに提供する。
もう他方、本出願は、
少なくとも一つのプロセッサーと、
前記少なくとも一つのプロセッサーに通信接続されるメモリと、を具備して、
前記メモリには、前記少なくとも一つのプロセッサーによって実行可能なコマンドが記憶されており、前記コマンドが前記少なくとも一つのプロセッサーによって実行されることで、上述のいずれか一項に記載の方法を前記少なくとも一つのプロセッサーに実行させることができる電子機器をさらに提供する。
また他方、本出願は、コンピューターに上述のいずれか一項に記載の方法を実行させるためのコンピューターコマンドが記憶されている非一時的コンピューター可読記録媒体をさらに提供する。
上記の出願における一実施例は以下の利点又は有益な効果を有する。予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築し、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得し、ユーザーの特徴表現とアイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得し、Ｎ個のアイテムの識別子に基づいて、ユーザーにＮ個のアイテムの相関情報を推奨することで、既存の技術に比べて、本出願の技術案は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルを使用してアイテムを推奨し、計算量を効果的に削減することができ、計算エラーを回避し、推奨精度を高めることができる。また、アイテム推奨のインテリジェンスを効果的に高め、アイテム推奨効率を向上させることができる。
また、本出願において、ユーザーがアイテムをクリックするタスクモデルに含まれるリコールのタスクモジュールとクリック率推定のタスクモジュールは、二つの互いに独立したタスクであるので、クリック率推定のタスクモジュールにおいてユーザーの特徴表現とアイテムの特徴表現を相互作用させることができる。このように、トレーニング時、当該クリック率推定のタスクモジュールは、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与えることができ、ユーザーの特徴表現とアイテムの特徴表現との間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させ、アイテム推奨の効果をより効果的に高めることができる。
本出願におけるユーザーがアイテムをクリックするタスクモデルのトレーニング方法は、リコールタスクとクリック率推定タスクを同時にトレーニングすることができ、トレーニング時、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与え、ユーザーの特徴表現とアイテムの特徴表現の間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させた。したがって、本実施例の技術案によってトレーニングされたユーザーがアイテムをクリックするタスクモデルは、リコール効果を効果的に高めることができ、当該ユーザーがアイテムをクリックするタスクモデルに基づいてアイテムを推奨する際、推奨精度をに高めることができ、アイテム推奨効率を向上させることができる。
また、本出願において、総合的な交差エントロピー損失関数が第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、また、継続して複数のトレーニングデータを使用して、第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールをトレーニングし、リコールのタスクモジュールのパラメータを決定し、リコールのタスクモジュールを決定し、ユーザーがアイテムをクリックするタスクモデルを決定することにより、リコール効果をより一層高めることができ、推奨精度を高めることができ、アイテム推奨効率を向上させることができる。
上記好適な方式が有する他の効果ついては、具体的な実施例に基づいて以下説明される
図面はこの方案をよりよく理解するためのものであり、本出願の制限を構成するものではない。
本出願に係る実施例１の概略図である。 本実施例で提供されるユーザーがアイテムをクリックするタスクモデルの構成図である。 本出願に係る実施例２の概略図である。 本出願に係る実施例３の概略図である。 本出願に係る実施例４の概略図である。 本出願の実施例の上記方法を実現するための電子機器のブロック図である。
以下、図面に基づいて、本発明の例示的な実施例を記述する。理解を容易にするために、本出願の実施例の様々な詳細が含まれており、それらは単なる例示と見なされるべきである。当業者は、本出願の範囲及び精神から逸脱することなく、本明細書に記載の実施形態に対して様々な変更及び修正を行うことができることを認識するはずである。明らか、簡明のために、以下の説明では、よく知られた機能と構造の説明は省略される。
図１は、本出願に係る実施例１の概略図である。図１に示すように、本実施例のアイテム推奨の方法は、具体的に、ステップＳ１０１、ステップＳ１０２、ステップＳ１０３及びステップＳ１０４を含む。
ステップＳ１０１で、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築する。
本実施例におけるアイテム推奨の方法を実行する主体はアイテム推奨装置であり、当該アイテム推奨装置は、電子エンティティであってもよく、またはプログラムが統合されたアプリケーションであってもよく、使用時、コンピュータ装置により実行されると、すぐにアイテム推奨が実現されることができる。
本実施例のアイテム推奨の方法は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルに基づいて実現される。当該ユーザーがアイテムをクリックするタスクモデルは、ニューラルネットワークモデルであり、当該ニューラルネットワークモデルは、ユーザーがアイテムをクリックする少なくとも一つのタスク、例えば、リコールタスク及び/またはクリック率推定タスクについてのシミュレーションを実現することができる。ユーザーがアイテムをクリックするタスクのシミュレーションの過程では、必然的に、まずユーザーの特徴情報とアイテムの特徴情報に基づいて、ユーザーとアイテムのそれぞれについて、埋め込み（ｅｍｂｅｄｄｉｎｇ）処理をして、該当する特徴表現を得た後、特徴表現に基づいて、タスクについてのシミュレーションを実現する。したがって、ユーザーがアイテムをクリックするタスクモデルの中のトレーニングされた特徴表現のパラメータに基づいて、アイテムの特徴情報に基づいてのアイテムの特徴表現の取得を実現することができる。本実施例の特徴表現は、具体的には、ベクトルの様式を採用することができ、ベクトル表現と呼ばれてもよい。したがって、アイテムの特徴表現のデータベースは、ＦＡＩＳＳベクトルインデックスデータベースであることができる。
本実施例の推奨待ちアイテムライブラリは、予め収集された複数のアイテム情報を含み、例えば、各々のアイテム情報には、当該アイテムの識別子と当該アイテムの少なくとも二つの特徴情報を含む。ここで、アイテムの識別子は、当該アイテムを一対一に識別するために使用され、例えば、アイテムの識別子は、数字、アルファベット及び文字の中の少なくとも一つまたは少なくとも二つの組み合わせが使用できる。アイテムの少なくとも二つの特徴情報は、アイテムのタイプ、アイテムのキーワードなどの、その他の情報を含むことができる。
本実施例では、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリ中の各アイテムの少なくとも二つの特徴情報に基づいて、各アイテムの特徴表現を取得することができる。また、各アイテムの特徴表現に基づいて、アイテムライブラリの中の各アイテムの特徴表現を含むアイテムの特徴表現のデータベースを構築することができる。ここで、当該アイテムの特徴表現のデータベースには、各アイテムの識別子をさらに含むことができる。
本実施例の特徴表現は、全部ベクトル様式を使用し、ベクトル表現またはベクトルと呼ばれてもよい。
ステップＳ１０２で、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得する。
ステップＳ１０１の実施形態を参照すると、また、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報に基づいて、ユーザーの特徴表現を取得することもできて、詳細については、上述のステップＳ１０１の記載を参照すればよく、ここで繰り返して説明しない。
本実施例のユーザーの少なくとも二つの特徴情報は、ユーザーの動作情報、ユーザーのインタレストタグ及び年齢、性別、ライフステージのようなユーザーのデモグラフィック属性などを含んでもよく、ここでいちいち繰り返して説明しない。
ステップＳ１０３で、ユーザーの特徴表現とアイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得する。
具体的には、まず、アイテムの特徴表現のデータベースからユーザーの特徴表現と相関性が最も高いＮ個のアイテムの特徴表現を検索する。次に、Ｎ個のアイテムの特徴表現に対応するＮ個のアイテムの識別子を取得する。
ステップＳ１０４で、Ｎ個のアイテムの識別子に基づいて、ユーザーにＮ個のアイテムの相関情報を推奨する。
例えば、Ｎ個のアイテムの識別子に基づいて、ユーザーに、Ｎ個のアイテムの識別子、特徴情報、詳細情報やリンクなどの相関情報を推奨することができる。本実施例では、ユーザーに推奨待ちＮ個のアイテムの相関情報は、上述のいくつかに制限されず、実際の適用際、Ｎ個のアイテムの他の情報をさらに含んでもよく、ここでいちいち繰り返して説明しない。具体的には、本実施例の技術案の適用シナリオによって、Ｎ個のアイテムの識別子に基づいて、Ｎ個のアイテムの相関情報を取得して、ユーザーに推奨することができる。例えば、インターネットショッピングのプラットフォームの場合は、Ｎ個のアイテムの識別子に基づいて、Ｎ個のアイテムの詳細情報や購入リンクを取得して、ユーザーに推奨することができる。
上記記載によると、本実施例のアイテム推奨方法の適用シナリオが、推奨待ちアイテムライブラリとユーザーの少なくとも二つの特徴情報を分かった場合である時、トレーニングされたユーザーがアイテムをクリックするタスクモデルに基づいて、ユーザーにアイテムライブラリの中のＮ個のアイテムの相関情報を推奨することを実現できることを知ることができる。
選択的に、本実施例の予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルは、リコールのタスクモジュールとクリック率推定のタスクモジュールを具備することができ、リコールのタスクモジュールとクリック率推定のタスクモジュールの間は、連合学習（Ｃｏ−ｔｒａｉｎｉｎｇ）を受けて得られる。例えば、図２は、本実施例で提供されるユーザーがアイテムをクリックするタスクモデルの構成図である。図２に示すように、本実施例のユーザーがアイテムをクリックするタスクモデルは、リコールのタスクモジュールとクリック率推定のタスクモジュールを具備するほかに、基本情報の処理モジュール、即ち、埋め込み（ｅｍｂｅｄｄｉｎｇ）処理モジュールをさらに具備する。埋め込み処理モジュールは、ユーザーの少なくとも二つの特徴情報とアイテムの少なくとも二つの特徴情報についてそれぞれ埋め込み（ｅｍｂｅｄｄｉｎｇ）処理を行い、スプライシングさせる。リコールのタスクモジュールとクリック率推定のタスクモジュールは、いずれもスプライシング後の表現を入力として使用して処理を行う。
ここで、リコールのタスクモジュールは、ユーザーについてのアイテム推奨度のインデックスの計算に使用され、当該推奨度のインデックスが高いほど、当該ユーザーにアイテムを推奨する際、当該アイテムがリコールされる可能性が大きい。逆に、当該推奨度のインデックスが小さいほど、当該アイテムがリコールされる可能性が小さい。
クリック率推定のタスクモジュールは、アイテムについてのユーザーのクリック率の予測に使用され、クリック率が大きいほど、当該ユーザーが当該アイテムについてのインタレストがより多く、当該アイテムをクリックする可能性が大きいことを表す。逆に、クリック率が小さいほど、ユーザーが当該アイテムについてのインタレストがより少なく、当該アイテムをクリックする可能性が小さいことを表す。
本実施例のユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールは、二つの互いに独立したタスクである。実際の適用において、埋め込み処理モジュールは、リコールのタスクモジュールと組み合わせて、一つの独立したタスクモデルを形成してリコールタスクを実現することができる。または、埋め込み処理モジュールは、クリック率推定のタスクモジュールと組み合わせて、一つの独立したタスクモデルを形成してクリック率推定を実現することができる。
例えば、本実施例では、ユーザーがアイテムをクリックするタスクモデルは、埋め込み処理モジュールとリコールのタスクモジュールのみ具備して、クリック率推定のタスクモジュールを具備しなくてもよい。当該タスクモデルをトレーニングした後、当該タスクモデルに基づいて、上述の図１に示される実施例のステップＳ１０１及びステップＳ１０２を実現することができる。
しかし、図２に示すように、ユーザーがアイテムをクリックするタスクモデルが、埋め込み処理モジュールとリコールのタスクモジュールのみ具備した場合、ユーザーの特徴表現とアイテムの特徴表現とは、最上位でユーザーについてのアイテム推奨度のインデックスを計算するときに乗ずるほかに、どのような相互作用もない。最上位の情報は既に圧縮されたものであり、モデルには最下位の特徴表現同士の特徴の相互作用が不足して、当該ユーザーがアイテムをクリックするタスクモデルのトレーニング時、ユーザーの特徴表現とアイテムの特徴表現とが完全に独立して、ユーザーとアイテムの間の交差情報を学習することができないので、トレーニングされたモデルのリコール効果が低下する。
図２に示される本実施例のユーザーがアイテムをクリックするタスクモデルは、クリック率推定のタスクモジュールをさらに導入しており、当該クリック率推定のタスクモジュールは、ユーザーの組み合わせ特徴表現とアイテムの組み合わせ特徴表現のスプライシング後の特徴に基づいて、クリック率を予測する。つまり、ユーザーの特徴表現とアイテムの特徴表現を相互作用させた。このように、トレーニング時、当該クリック率推定のタスクモジュールは、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与えることができ、ユーザーの特徴表現とアイテムの特徴表現との間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させた。
このとき、これに応じて、ステップＳ１０１の実施際、トレーニングされた図２に示されるユーザーがアイテムをクリックするタスクモデルの中の、埋め込み処理モジュールとリコールのタスクモジュールの中のネットワーク構造のパラメータに基づいて、アイテムライブラリの各アイテムの少なくとも二つの特徴情報に基づいて、アイテムライブラリの各アイテムの特徴表現を取得することができる。アイテムライブラリの中のすべてのアイテムの特徴表現を組み合わせて、一つのアイテムの特徴表現のデータベースを構築する。
同様に、ステップＳ１０２の実施際、トレーニングされた図２に示されるユーザーがアイテムをクリックするタスクモデルの中の、埋め込み処理モジュールとリコールのタスクモジュールの中のネットワーク構造のパラメータに基づいて、ユーザーの少なくとも二つの特徴情報に基づいて、ユーザーの特徴表現を取得してもよい。
本実施例でのアイテムは、商品であるほかに、広告などのその他の情報であってもよく、また、他の分野で広告やその他の情報の推奨を実現することができることに留意すべきである。
本実施例のアイテム推奨の方法は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築し、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得し、ユーザーの特徴表現とアイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得し、Ｎ個のアイテムの識別子に基づいて、ユーザーにＮ個のアイテムの相関情報を推奨することで、既存の技術に比べて、本実施例の技術案は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルを使用してアイテムを推奨し、計算量を効果的に削減することができ、計算エラーを回避し、推奨精度を高めることができる。また、アイテム推奨のインテリジェンスを効果的に高め、アイテム推奨効率を向上させることができる。
また、本実施例のユーザーがアイテムをクリックするタスクモデルに含まれるリコールのタスクモジュールとクリック率推定のタスクモジュールは、二つの互いに独立したタスクであるので、クリック率推定のタスクモジュールにおいてユーザーの特徴表現とアイテムの特徴表現を相互作用させることができる。このように、トレーニング時、当該クリック率推定のタスクモジュールは、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与えることができ、ユーザーの特徴表現とアイテムの特徴表現との間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させ、アイテム推奨の効果をより効果的に高めることができる。
図３は、本出願の実施例２の概略図であり、図３に示すように、本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング方法は、具体的に、ステップＳ３０１、ステップＳ３０２を含むことができる。
ステップＳ３０１で、複数のトレーニングデータを収集し、各トレーニングデータは、トレーニングユーザーの少なくとも二つのトレーニング特徴情報、トレーニングアイテムの少なくとも二つのトレーニング特徴情報及びトレーニングユーザーがトレーニングアイテムに対するクリック相互作用情報を含む。
本実施例では、ユーザーがアイテムをクリックするタスクモデルのトレーニング方法の実行主体は、ユーザーがアイテムをクリックするタスクモデルのトレーニング装置である。当該ユーザーがアイテムをクリックするタスクモデルのトレーニング装置は、電子エンティティであってもよく、またはソフトウェアが統合されたアプリケーションであってもよく、使用時、当該アプリケーションを大型コンピュータ装置により実行され、本実施例の技術案を使用して、当該ユーザーがアイテムをクリックするタスクモデルについてのトレーニングを実現する。
本実施例では、収集されたトレーニングデータの量は、百万以上超えることができ、収集されたトレーニングデータの件数が多いほど、トレーニングされたユーザーがアイテムをクリックするタスクモデルがより正確である。
本実施例では、収集された各トレーニングデータに含まれるトレーニングユーザーの少なくとも二つのトレーニング特徴情報とトレーニングアイテムの少なくとも二つのトレーニング特徴情報は、上述の図１に示される実施例のユーザーの少なくとも二つの特徴情報とアイテムの少なくとも二つの特徴情報を参照すればよく、ここで繰り返して説明しない。ここで、トレーニングユーザーがトレーニングアイテムに対するクリック相互作用情報は、ユーザーが当該トレーニングアイテムをクリックしたか、またはユーザーが当該トレーニングアイテムをクリックしなかったことを含むことができる。
本実施例でトレーニングデータを収集する際、サイトまたはアプリケーション（ａｐｐｌｉｃａｔｉｏｎ；ａｐｐ）のイベントトラッキング（ｅｖｅｎｔ ｔｒａｃｋｉｎｇ）を介してユーザーの過去に現れたクリック、動作データを取得して、トレーニングデータをマイニングする。
ステップＳ３０２で、複数のトレーニングデータを使用して、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールについて連合学習を行う。
トレーニング前、ユーザーがアイテムをクリックするタスクモデルの中のネットワーク構造の各層のパラメータについて、ランダムに初期化してから、ランダムに初期化されたパラメータに基づいて、ユーザーがアイテムをクリックするタスクモデルをトレーニングし始めなければならないことに留意すべきである。
本実施例のユーザーがアイテムをクリックするタスクモデルは、図２に示される構造を使用することができ、例えば、トレーニング時、具体的にステップ（ａ）からステップ（ｊ）を含むことができる。
ステップ（ａ）において、各トレーニングデータについて、トレーニングユーザーの少なくとも二つの特徴情報を埋め込み表現してからスプライシングさせ、トレーニングユーザーの組み合わせ特徴表現を得る。
ステップ（ｂ）において、トレーニングアイテムの少なくとも二つのトレーニング特徴情報を埋め込み表現してからスプライシングさせ、トレーニングアイテムの組み合わせ特徴表現を得る。
埋め込み表現して得られたものがすべてベクトル様式的な表現なので、スプライシング後のトレーニングユーザーの組み合わせ特徴表現をまたトレーニングユーザーの組み合わせベクトルと呼ばれてもよく、スプライシング後のトレーニングアイテムの組み合わせ特徴表現をまたトレーニングアイテムの組み合わせベクトルとも呼ばれてもよい。
ステップ（ｃ）において、リコールのタスクモジュールにおいて、トレーニングユーザーの組み合わせ特徴表現とトレーニングアイテムの組み合わせ特徴表現を、それぞれ完全接続（fully connected）処理や活性化（Activation）処理の処理層を含む少なくとも二つの層の処理を通じて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を得る。
本実施例では、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を生成する過程で、完全接続処理や活性化処理の処理層を含む少なくとも二つの層を通じなければならず、具体的には、処理層の層数はトレーニングユーザーの特徴情報の量によって決定される。トレーニングユーザーの特徴情報の量が比較的多い場合に、情報の混合がより均一でかつより正確なトレーニングユーザーの特徴表現を得るように、処理層の層数も比較的多く要られる。トレーニングアイテムの特徴表現側の原理もこれに似ており、ここで繰り返して説明しない。例えば、図２のネットワーク構造により示すように、リコールのタスクモジュールの各層の処理層には、いずれも完全接続処理や活性化処理を含み、ここで、活性化処理はＲｅＬＵ活性化処理を使用してもよい。
ステップ（ｄ）において、リコールのタスクモジュールにおいて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を乗じて、トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックスを得る。
本実施例では、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を乗じて得られたものはドット積（ｄｏｔ ｐｒｏｄｕｃｔ）であり、当該ドット積は、トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックスを表すために使用される。
ステップ（ｅ）において、クリック率推定のタスクモジュールにおいて、トレーニングユーザーの組み合わせ特徴表現とトレーニングアイテムの組み合わせ特徴表現をスプライシングさせ、順次に、完全接続処理や活性化処理の処理層、及びｓｉｇｍｏｉｄ活性化関数の処理層を含む少なくとも二つの層の処理を通じて、トレーニングアイテムに対するトレーニングユーザーの予測クリック確率を得る。
同様に、クリック率推定のタスクモジュールで、トレーニングユーザーの特徴情報とトレーニングアイテムの特徴情報の量が比較的多い場合、より多くの層数の処理層を設定して、特徴情報をより均一に混合して、より正確な特徴情報を得て、予測クリック確率の値を高める。同様に、図２に示されるネットワーク構造では、クリック率推定のタスクモジュールの各層の処理層にも、いずれも完全接続処理や活性化処理を含み、ここで、活性化処理はＲｅＬＵ活性化処理を使用してもよい。
ステップ（ｆ）において、トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックス、トレーニングアイテムに対するトレーニングユーザーの予測クリック確率及び既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数（Ｃｒｏｓｓ Ｅｎｔｒｏｐｙ Ｌｏｓｓ）を生成する。
例えば、当該ステップは、具体的に、下記のステップ（１）、ステップ（２）及びステップ（３）を含むことができる。
ステップ（１）において、トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックスと既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて、第１の交差エントロピー損失関数を生成する。
ステップ（２）において、トレーニングアイテムに対するトレーニングユーザーの予測クリック確率と既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて、第２の交差エントロピー損失関数を生成する。
ステップ（３）において、第１の交差エントロピー損失関数と第２の交差エントロピー損失関数の和を求めて、総合的な交差エントロピー損失関数を得る。
例えば、本実施例の総合的な交差エントロピー損失関数は、下記式で表すことができる。
Figure 2021118000
ここで、
Figure 2021118000
 は、第１の交差エントロピー損失関数を表し、
Figure 2021118000
 は、リコールタスクの中の既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて得られたトレーニングユーザーに対するトレーニングアイテムの既知の推奨度のインデックスである。例えば、トレーニングユーザーがトレーニングアイテムに対して実際のクリック動作があった場合に、
Figure 2021118000
 を１と表記して、そうでない場合、すなわち、実際の動作がなかった場合に、
Figure 2021118000
 を０と表記する。
Figure 2021118000
 は、トレーニングユーザーに対するトレーニングアイテムの予測推奨度のインデックスを表す。

Figure 2021118000
 は、第２の交差エントロピー損失関数を表し、
Figure 2021118000
 は、クリック率推定タスクの中の既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて得られたトレーニングユーザーがトレーニングアイテムに対する実際のクリック率である。クリックが１である場合、非クリックは０である。
Figure 2021118000
 は、モデルによって予測されたクリック率である。
ステップ（ｇ）において、総合的な交差エントロピー損失関数が収束されるか否かを判断し、収束されない場合は、ステップ（ｈ）を実行し、収束される場合は、ステップ（ｉ）を実行する。
ステップ（ｈ）において、ユーザーがアイテムをクリックするタスクモデルのパラメータを調整し、ステップ（ａ）に戻り、次のトレーニングデータを使用して継続してトレーニングを行う。
具体的に、組み込み処理モジュール、リコールのタスクモジュール及びクリック率推定のタスクモジュールの中のネットワーク構造のパラメータを調整することを含むことができる。
ステップ（ｉ）において、第１の連続予定ループ数のトレーニングで全部収束されるか否かを判断し、収束される場合、ステップ（ｊ）を実行して、収束されていない場合は、ステップ（ａ）に戻り、次のトレーニングデータを使用して継続してトレーニングを行う。
ステップ（ｊ）において、ユーザーがアイテムをクリックするタスクモデルのパラメータを決定して、ユーザーがアイテムをクリックするタスクモデルを決定する。
選択的に、ステップ（ｉ）で総合的な交差エントロピー損失関数が、第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、継続して複数のトレーニングデータを使用して、第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、リコールのタスクモジュールをトレーニングし、リコールのタスクモジュールのパラメータを決定して、リコールのタスクモジュールを決定し、ユーザーがアイテムをクリックするタスクモデルを決定するステップをさらに含むことができる。
言い換えると、本実施例のユーザーがアイテムをクリックするタスクモデルの中のクリック率推定のタスクモジュールは、単にモデルをトレーニングする過程のみに使用され、ユーザーの特徴表現とアイテムの特徴表現の相互作用を導入するために使用され、再トレーニング時、逆伝播を介して埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与え、ユーザーの特徴表現とアイテムの特徴表現との間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させた。また、リコールの効果をより一層高めるために、リコールのタスクモジュールのネットワーク構造のパラメータを最適化し、本実施例では、総合的な交差エントロピー損失関数が収束するようにトレーニングした後、さらにリコールのタスクモジュールのネットワーク構造のパラメータを調整して、第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するようにして、リコールのタスクモジュールのパラメータを決定し、リコールのタスクモジュールを決定して、ユーザーがアイテムをクリックするタスクモデルを決定する。
本実施例の第１の連続予定ループ数及び第２の連続予定ループ数は、実際の需要に応じて、１００、２００、またはその他の数値に設定することができ、ここでこれに対して限定しない。
図１に示される実施例で使用された、トレーニングされたユーザーがアイテムをクリックするタスクモデルは、上述のトレーニング方法を使用してトレーニングされたユーザーがアイテムをクリックするタスクモデルである。
本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング方法は、上述の技術案を使用することにより、リコールタスクとクリック率推定タスクを同時にトレーニングすることができ、トレーニング時、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与え、ユーザーの特徴表現とアイテムの特徴表現の間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させた。したがって、本実施例の技術案によってトレーニングされたユーザーがアイテムをクリックするタスクモデルは、リコール効果を効果的に高めることができ、当該ユーザーがアイテムをクリックするタスクモデルに基づいてアイテムを推奨する際、推奨精度をに高めることができ、アイテム推奨効率を向上させることができる。
また、本実施例のトレーニングにおいて、総合的な交差エントロピー損失関数が第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、また、継続して複数のトレーニングデータを使用して、第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールをトレーニングし、リコールのタスクモジュールのパラメータを決定し、リコールのタスクモジュールを決定し、ユーザーがアイテムをクリックするタスクモデルを決定することにより、リコール効果をより一層高めることができ、推奨精度を高めることができ、アイテム推奨効率を向上させることができる。
図４は、本出願に係る実施例３の概略図である。図４に示すように、本実施例のアイテム推奨システム４００は、具体的に、構築モジュール４０１、特徴取得モジュール４０２、アイテム取得モジュール４０３及び推奨モジュール４０４を具備する。
構築モジュール４０１は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築する。
特徴取得モジュール４０２は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得する。
アイテム取得モジュール４０３は、ユーザーの特徴表現とアイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得する。
オススメモジュール４０４は、Ｎ個のアイテムの識別子に基づいて、ユーザーにＮ個のアイテムの相関情報を推奨する。
選択的に、本実施例のアイテム推奨システム４００のアイテム取得モジュール４０３は、
アイテムの特徴表現のデータベースからユーザーの特徴表現と相関性が最も高いＮ個のアイテムの特徴表現を検索し、
Ｎ個のアイテムの特徴表現に対応するＮ個のアイテムの識別子を取得する。
選択的に、本実施例のアイテム推奨システム４００において、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルは、リコールのタスクモジュールとクリック率推定のタスクモジュールを具備することができ、リコールのタスクモジュールとクリック率推定のタスクモジュールの間は、連合学習（Ｃｏ−ｔｒａｉｎｉｎｇ）を受ける。
本実施例のアイテム推奨システム４００にとって、上述のモジュールによるアイテム推奨を実現する実現原理と技術的効果は、上述の関連方法の実施例の実現と同じであり、詳細は、上述の関連方法の実施例の記載を参照すればよく、ここで繰り返して説明しない。
図５は、本出願に係る実施例４の概略図である。図５に示すように、本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング装置５００は、収集モジュール５０１、トレーニングモジュール５０２を具備する。
収集モジュール５０１は、複数のトレーニングデータを収集し、各トレーニングデータは、トレーニングユーザーの少なくとも二つのトレーニング特徴情報、トレーニングアイテムの少なくとも二つのトレーニング特徴情報及びトレーニングユーザーがトレーニングアイテムに対するクリック相互作用情報を含む。
トレーニングモジュール５０２は、複数のトレーニングデータを使用して、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールについて連合学習を行う。
選択的に、本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング装置５００において、トレーニングモジュール５０２は、具体的に
各トレーニングデータについて、トレーニングユーザーの少なくとも二つの特徴情報を埋め込み表現してからスプライシングさせ、トレーニングユーザーの組み合わせ特徴表現を得て、
トレーニングアイテムの少なくとも二つのトレーニング特徴情報を埋め込み表現してからスプライシングさせ、トレーニングアイテムの組み合わせ特徴表現を得て、
リコールのタスクモジュールにおいて、トレーニングユーザーの組み合わせ特徴表現とトレーニングアイテムの組み合わせ特徴表現を、それぞれ完全接続（fully connected）処理や活性化（Activation）処理の処理層を含む少なくとも二つの層の処理を通じて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を得て、
リコールのタスクモジュールにおいて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を乗じて、トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックスを得て、
クリック率推定のタスクモジュールにおいて、トレーニングユーザーの組み合わせ特徴表現とトレーニングアイテムの組み合わせ特徴表現をスプライシングさせ、順次に、完全接続処理や活性化処理の処理層、及びｓｉｇｍｏｉｄ活性化関数の処理層を含む少なくとも二つの層の処理を通じて、トレーニングアイテムに対するトレーニングユーザーの予測クリック確率を得て、
トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックス、トレーニングアイテムに対するトレーニングユーザーの予測クリック確率及び既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数（Ｃｒｏｓｓ Ｅｎｔｒｏｐｙ Ｌｏｓｓ）を生成し、
総合的な交差エントロピー損失関数が収束されるか否かを判断し、収束されない場合は、ユーザーがアイテムをクリックするタスクモデルのパラメータを調整し、
収束される場合は、第１の連続予定ループ数のトレーニングで全部収束されるか否かを判断し、収束される場合、ユーザーがアイテムをクリックするタスクモデルのパラメータを決定して、ユーザーがアイテムをクリックするタスクモデルを決定する。
選択的に、本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング装置５００において、トレーニングモジュール５０２は、
トレーニングユーザーに対するトレーニングアイテムの推奨度のインデックスと既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて、第１の交差エントロピー損失関数を生成し、
トレーニングアイテムに対するトレーニングユーザーの予測クリック確率と既知のトレーニングアイテムに対するトレーニングユーザーのクリック相互作用情報に基づいて、第２の交差エントロピー損失関数を生成し、
第１の交差エントロピー損失関数と第２の交差エントロピー損失関数の和を求めて、総合的な交差エントロピー損失関数を得る。
選択的に、本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング装置５００において、トレーニングモジュール５０２は、
総合的な交差エントロピー損失関数が第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、継続して複数のトレーニングデータを使用して、第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、リコールのタスクモジュールをトレーニングし、リコールのタスクモジュールのパラメータを決定して、リコールのタスクモジュールを決定し、ユーザーがアイテムをクリックするタスクモデルを決定する。
本実施例のユーザーがアイテムをクリックするタスクモデルのトレーニング装置５００において、上述のモジュールによるユーザーがアイテムをクリックするタスクモデルのトレーニングを実現する実現原理と技術的効果は、上述の関連方法の実施例の実現と同じであり、詳細は、上述の関連実施例の記載を参照すればよく、ここで繰り返して説明しない。
本発明に係る実施例によれば、本発明は、電子機器と可読記憶媒体を提供する。
図６に示すように、本出願の実施例によるユーザークリックモデルのトレーニング又はリソース推奨方法の電子機器のブロック図である。電子機器は、様々な形式のデジタルコンピューター、例えば、ラップトップ、デスクトップ、ワークステーション、携帯情報端末、サーバー、ブレードサーバ、メインフレームコンピューター、及び他の適切なコンピューターであることが意図される。電子機器は、様々な種類のモバイル装置、例えば、携帯情報端末、携帯電話、スマートフォン、ウェアラブルデバイス、及び他の類似するコンピューティング装置を示してもよい。ここで示した構成要素、これらの接続及び関係、ならびにこれらの機能は例示にすぎなく、本明細書において説明及び／又は請求される本出願の実現を限定することが意図されない。
図６に示すように、上記電子機器は、一つ又は複数のプロセッサー６０１、メモリ６０２、及び各構成要素に接続するためのインターフェースを含み、高速インターフェース及び低速インターフェースを含む。各構成要素は、異なるバスで相互接続され、そして、共通マザーボードに、又は必要に応じて、他の方式で実装されてもよい。プロセッサーは、電子機器内で実行されるコマンドを処理してもよく、メモリに又はメモリ上で外部入力／出力装置（例えば、インターフェースに結合される表示装置）にグラフィカルユーザーインターフェースのグラフィカル情報を表示するコマンドを含む。他の実施形態において、複数のプロセッサー及び／又は複数のバスが、適宜、複数のメモリ及びメモリのタイプとともに用いられてもよい。同様に、複数の電子機器が接続されてもよく、それぞれの装置が（例えば、サーババンク、ブレードサーバの集まり、又はマルチプロセッサーシステムとして）必要な操作の一部を提供する。図６において、一つのプロセッサー６０１を例にとる。
メモリ６０２は、本出願で提供される非一時的コンピューター可読記録媒体である。なお、メモリは、少なくとも一つのプロセッサーによって実行可能なコマンドが記憶されており、少なくとも一つのプロセッサーに本出願で提供されるアイテム推奨方法やユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実行させる。本出願の非一時的コンピューター可読記録媒体は、上記ココンピューターに本出願で提供されるアイテム推奨方法やユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実行させるためのコンピューターコマンドが記憶されている。
メモリ６０２は、非一時的コンピューター可読記録媒体として、非一時的ソフトウェアプログラム、非一時的コンピューター実行可能なプログラム、モジュール、例えば、本出願の実施例におけるアイテム推奨方法またはユーザーがアイテムをクリックするタスクモデルのトレーニング方法に対応するプログラムコマンド／モジュール（例えば、図４に示すモジュールのそれぞれ及び図５に示すモジュールのそれぞれ）を記憶するために用いられる。プロセッサー６０１は、メモリ６０２に記憶されている非一時的ソフトウェアプログラム、コマンド及びモジュールを実行することで、サーバーの様々な機能アプリケーション及びデータ処理を実行し、即ち、上記の方法実施例におけるアイテム推奨の方法またはユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実現する。
メモリ６０２は、記憶プログラム領域及び記憶データ領域を含んでもよく、記憶プログラム領域はオペレーティングシステム、少なくとも一つの機能に必要なアプリケーションプログラムを記憶してもよく、記憶データ領域は、アイテム推奨方法またはユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実現するための電子機器の使用により作成されたデータなどを記憶してもよい。また、メモリ６０２は、高速ランダムアクセスメモリを含んでもよく、さらに非一時的メモリを含んでもよく、例えば、少なくとも一つの磁気ディスク記憶装置、フラッシュメモリ装置、又は他の非一時的固体記憶装置を含んでもよい。幾つかの実施例において、メモリ６０２は、プロセッサー６０１に対してリモートに設置されたメモリを選択的に含んでもよく、これらのリモートメモリは、ネットワークを介してアイテム推奨の方法またはユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実現するための電子機器に接続されてもよい。上記のネットワークの例には、インターネット、イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク、及びそれらの組み合わせが含まれるが、これらに限定されない。
アイテム推奨方法やユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実現するための電子機器は、入力装置６０３及び出力装置６０４をさらに含むことができる。プロセッサー６０１、メモリ６０２、入力装置６０３及び出力装置６０４はバス又は他の方式で接続されてもよく、図６に、バスで接続されることを例にとる。
入力装置６０３は、入力された数値又は文字情報を受信し、また、アイテム推奨方法やユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実現するための電子機器のユーザー設定と機能制御に関連するキー信号入力を生成でき、例えば、タッチスクリーン、キーパッド、マウス、トラックパッド、タッチパッド、ポインティングスティック、一つ又は複数のマウスボタン、トラックボール、ジョイスティックなどの入力装置である。出力装置６０４は、表示装置、補助照明装置（例えば、ＬＥＤ）、触覚フィードバック装置（例えば、振動モーター）などを含むことができる。上記表示装置は、液晶ディスプレイ（ＬＣＤ）、発光ダイオードディスプレイ（ＬＥＤ）、及びプラズマディスプレイを含み得るが、これらに限定されない。いくつかの実施形態では、表示装置はタッチスクリーンであってもよい。
本明細書に説明されるシステム及び技術的様々な実施形態は、デジタル電子回路システム、集積回路システム、特定用途向け集積回路、コンピューターハードウェア、ファームウェア、ソフトウェア、及び／又はそれらの組み合わせにおいて実現することができる。これらの様々な実施形態は、記憶システム、少なくとも一つの入力装置、及び少なくとも一つの出力装置からデータ及びコマンドを受信し、記憶システム、少なくとも一つの入力装置、及び少なくとも一つの出力装置にデータ及びコマンドを送信するようにつなげられた、特殊用途でもよく一般用途でもよい少なくとも一つのプログラマブルプロセッサーを含む、プログラム可能なシステム上で実行可能及び／又は解釈可能な一つ又は複数のコンピュータープログラムにおける実行を含んでもよい。
これらのコンピューティングプログラム（プログラム、ソフトウェア、ソフトウェアアプリケーション、又は、コードとも称される）は、プログラマブルプロセッサーの機械コマンドを含み、高水準のプロセス及び／もしくはオブジェクト向けプログラミング言語、及び／又はアセンブリ／機械言語で実行されることができる。本明細書で用いられる「機械可読媒体」という用語は、機械可読信号としての機械コマンドを受け取る機械可読媒体を含むプログラマブルプロセッサーに機械コマンド及び／又はデータを提供するのに用いられる任意のコンピュータープログラム製品、機器、及び／又は装置（例えば、磁気ディスク、光ディスク、メモリ、及びプログラマブル論理デバイス）を指す。「機械可読信号」という用語は、プログラマブルプロセッサーに機械コマンド及び／又はデータを提供するために用いられる任意の信号を指す。
ユーザーとのインタラクトを提供するために、本明細書に説明されるシステムと技術は、ユーザーに対して情報を表示するためのディスプレイデバイス（例えば、ＣＲＴ（ブラウン管）又はＬＣＤ（液晶ディスプレイ）モニタ）、ユーザーがコンピューターに入力を与えることができるキーボード及びポインティングデバイス（例えば、マウス又はトラックボール）を有するコンピューター上に実施されることが可能である。その他の種類の装置は、さらに、ユーザーとのインタラクションを提供するために使用されることが可能であり、例えば、ユーザーに提供されるフィードバックは、任意の形態の感覚フィードバック（例えば、視覚的フィードバック、聴覚的フィードバック、又は触覚的フィードバック）であり得、ユーザーからの入力は、任意の形態で（音響、発話、又は触覚による入力を含む）受信され得る。
本明細書に説明されるシステムと技術的実施形態は、バックエンド構成要素を含むコンピューティングシステム（例えば、データサーバとする）、又はミドルウェア構成要素を含むコンピューティングシステム（例えば、アプリケーションサーバ）、又はフロントエンド構成要素を含むコンピューティングシステム（例えば、グラフィカルユーザーインターフェースもしくはウェブブラウザを有するクライアントコンピューターであり、ユーザーは、上記グラフィカルユーザーインターフェースもしくは上記ウェブブラウザを通じて本明細書で説明されるシステムと技術的実施形態とインタラクションすることができる）、そのようなバックエンド構成要素、ミドルウェア構成要素、もしくはフロントエンド構成要素の任意の組合せを含むコンピューティングシステムに実施されることが可能である。ステムの構成要素は、任意の形態又は媒体のデジタルデータ通信（例えば、通信ネットワーク）によって相互に接続されることが可能である。通信ネットワークの例は、ローカルエリアネットワーク（ＬＡＮ）、ワイド・エリア・ネットワーク（ＷＡＮ）、インターネットワークを含む。
コンピューターシステムは、クライアントとサーバーを含み得る。クライアントとサーバーは、一般的に互いから遠く離れており、通常は、通信ネットワークを通じてインタラクトする。クライアントとサーバーとの関係は、相応するコンピューター上で実行さ、互いにクライアント−サーバーの関係にあるコンピュータープログラムによって生じる。
本出願の実施例に係る技術案は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築し、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得し、ユーザーの特徴表現とアイテムの特徴表現のデータベースに基づいて、推奨待ちＮ個のアイテムの識別子を取得し、Ｎ個のアイテムの識別子に基づいて、ユーザーにＮ個のアイテムの相関情報を推奨することで、既存の技術に比べて、本出願の本実施例の技術案は、予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルを使用してアイテムを推奨し、計算量を効果的に削減することができ、計算エラーを回避し、推奨精度を高めることができる。また、アイテム推奨のインテリジェンスを効果的に高め、アイテム推奨効率を向上させることができる。
また、本出願の実施形態に係る技術案において、ユーザーがアイテムをクリックするタスクモデルに含まれるリコールのタスクモジュールとクリック率推定のタスクモジュールは、二つの互いに独立したタスクであるので、クリック率推定のタスクモジュールにおいてユーザーの特徴表現とアイテムの特徴表現を相互作用させることができる。このように、トレーニング時、当該クリック率推定のタスクモジュールは、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与えることができ、ユーザーの特徴表現とアイテムの特徴表現との間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させ、アイテム推奨の効果をより効果的に高めることができる。
本出願の実施形態に係る技術案において、ユーザーがアイテムをクリックするタスクモデルのトレーニング方法は、リコールタスクとクリック率推定タスクを同時にトレーニングすることができ、トレーニング時、逆伝播を介して、埋め込み処理モジュールの中のｅｍｂｅｄｄｉｎｇパラメータに影響を与え、ユーザーの特徴表現とアイテムの特徴表現の間の相互作用がある情報がｅｍｂｅｄｄｉｎｇパラメータに記録されるようにして、リコールタスクに影響を与え、リコール効果を向上させた。したがって、本出願における実施例の技術案によってトレーニングされたユーザーがアイテムをクリックするタスクモデルは、リコール効果を効果的に高めることができ、当該ユーザーがアイテムをクリックするタスクモデルに基づいてアイテムを推奨する際、推奨精度をに高めることができ、アイテム推奨効率を向上させることができる。
また、本出願の実施形態に係る技術案において、総合的な交差エントロピー損失関数が第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、また、継続して複数のトレーニングデータを使用して、第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールをトレーニングし、リコールのタスクモジュールのパラメータを決定し、リコールのタスクモジュールを決定し、ユーザーがアイテムをクリックするタスクモデルを決定することにより、リコール効果をより一層高めることができ、推奨精度を高めることができ、アイテム推奨効率を向上させることができる。
以上で示された様々な形式のフローを使用して、ステップを並べ替え、追加、又は削除できることを理解されたい。例えば、本出願に説明される各ステップは、並列の順序又は順次的な順序で実施されてもよいし、又は異なる順序で実行されてもよく、本出願で開示された技術案の望ましい結果が達成できる限り、ここで制限されない。
上記の具体的な実施形態は本出願の保護範囲に対する制限を構成しない。設計要件及び他の要因に従って、様々な修正、組み合わせ、部分的組み合わせ及び置換を行うことができることを当業者は理解するべきである。本出願の精神及び原則の範囲内で行われる修正、同等の置換、改善は、本出願の保護範囲内に含まれるべきである。

Claims (17)

  1. 予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築するステップと、
    前記予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得するステップと、
    前記ユーザーの特徴表現と前記アイテムの特徴表現のデータベースとに基づいて、推奨待ちＮ個のアイテムの識別子を取得するステップと、
    前記Ｎ個のアイテムの識別子に基づいて、前記ユーザーに前記Ｎ個のアイテムの相関情報を推奨するステップと、を含む
    アイテム推奨方法。
  2. 前記ユーザーの特徴表現と前記アイテムの特徴表現のデータベースとに基づいて、推奨待ちＮ個のアイテムの識別子を取得するステップは、
    前記アイテムの特徴表現のデータベースから前記ユーザーの特徴表現と相関性が最も高いＮ個のアイテムの特徴表現を検索するステップと、
    前記Ｎ個のアイテムの特徴表現に対応される前記Ｎ個のアイテムの識別子を取得するステップと、を含む
    請求項１に記載のアイテム推奨方法。
  3. 予めトレーニングされた、前記ユーザーがアイテムをクリックするタスクモデルは、リコールのタスクモジュールとクリック率推定のタスクモジュールとを具備し、前記リコールのタスクモジュールと前記クリック率推定のタスクモジュールの間は連合学習を受ける
    請求項１又は請求項２に記載のアイテム推奨方法。
  4. 複数のトレーニングデータを収集するステップと、
    前記複数のトレーニングデータを使用して、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールとについて連合学習を行うステップと、を含み、
    各前記トレーニングデータは、トレーニングユーザーの少なくとも二つのトレーニング特徴情報、トレーニングアイテムの少なくとも二つのトレーニング特徴情報及び前記トレーニングユーザーが前記トレーニングアイテムに対するクリック相互作用情報を含む
    ユーザーがアイテムをクリックするタスクモデルのトレーニング方法。
  5. 前記複数のトレーニングデータを使用して、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールとについて連合学習を行うステップは、
    各前記トレーニングデータについて、前記トレーニングユーザーの少なくとも二つの特徴情報を埋め込み表現してからスプライシングさせ、トレーニングユーザーの組み合わせ特徴表現を得るステップと、
    前記トレーニングアイテムの少なくとも二つのトレーニング特徴情報を埋め込み表現してからスプライシングさせ、トレーニングアイテムの組み合わせ特徴表現を得るステップと、
    前記リコールのタスクモジュールにおいて、前記トレーニングユーザーの組み合わせ特徴表現と前記トレーニングアイテムの組み合わせ特徴表現とを、それぞれ完全接続処理や活性化処理の処理層を含む少なくとも二つの層の処理を通じて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現とを得るステップと、
    前記リコールのタスクモジュールにおいて、前記トレーニングユーザーの特徴表現と前記トレーニングアイテムの特徴表現とを乗じて、前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックスを得るステップと、
    前記クリック率推定のタスクモジュールにおいて、前記トレーニングユーザーの組み合わせ特徴表現と前記トレーニングアイテムの組み合わせ特徴表現をスプライシングさせ、順次に、完全接続処理や活性化処理の処理層、及びｓｉｇｍｏｉｄ活性化関数の処理層を含む少なくとも二つの層の処理を通じて、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率を得るステップと、
    前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックス、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率及び既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数を生成するステップと、
    前記総合的な交差エントロピー損失関数が収束されるか否かを判断し、収束されない場合、前記ユーザーがアイテムをクリックするタスクモデルのパラメータを調整するステップと、
    収束される場合は、第１の連続予定ループ数のトレーニングで全部収束されるか否かを判断し、収束される場合、前記ユーザーがアイテムをクリックするタスクモデルのパラメータを決定して、前記ユーザーがアイテムをクリックするタスクモデルを決定するステップと、を含む
    請求項４に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング方法。
  6. 前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックス、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率及び既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数を生成するステップは、
    前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックスと既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、第１の交差エントロピー損失関数を生成するステップと、
    前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率と既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、第２の交差エントロピー損失関数を生成するステップと、
    前記第１の交差エントロピー損失関数と前記第２の交差エントロピー損失関数の和を求めて、前記総合的な交差エントロピー損失関数を得るステップと、を含む
    請求項５に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング方法。
  7. 前記総合的な交差エントロピー損失関数が、前記第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、前記方法は、
    継続して前記複数のトレーニングデータを使用して、前記第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、前記リコールのタスクモジュールをトレーニングし、前記リコールのタスクモジュールのパラメータを決定して、前記リコールのタスクモジュールを決定し、前記ユーザーがアイテムをクリックするタスクモデルを決定するステップをさらに含む
    請求項６に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング方法。
  8. 予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデルと推奨待ちアイテムライブラリの中の各アイテムの少なくとも二つの特徴情報を使用して、アイテムの特徴表現のデータベースを構築する構築モジュールと、
    前記予めトレーニングされた、ユーザーがアイテムをクリックするタスクモデル及びユーザーの少なくとも二つの特徴情報を使用して、ユーザーの特徴表現を取得する特徴取得モジュールと、
    前記ユーザーの特徴表現と前記アイテムの特徴表現のデータベースとに基づいて、推奨待ちＮ個のアイテムの識別子を取得するアイテム取得モジュールと、
    前記Ｎ個のアイテムの識別子に基づいて、前記ユーザーに前記Ｎ個のアイテムの相関情報を推奨する推奨モジュールと、を具備する
    アイテム推奨システム。
  9. 前記アイテム取得モジュールは、
    前記アイテムの特徴表現のデータベースから前記ユーザーの特徴表現と相関性が最も高いＮ個のアイテムの特徴表現を検索し、
    前記Ｎ個のアイテムの特徴表現に対応される前記Ｎ個のアイテムの識別子を取得する
    請求項８に記載のアイテム推奨システム。
  10. 予めトレーニングされた、前記ユーザーがアイテムをクリックするタスクモデルは、リコールのタスクモジュールとクリック率推定のタスクモジュールとを具備し、前記リコールのタスクモジュールと前記クリック率推定のタスクモジュールの間は連合学習を受ける
    請求項８又は請求項９に記載のアイテム推奨システム。
  11. 複数のトレーニングデータを収集する収集モジュールと、
    前記複数のトレーニングデータを使用して、ユーザーがアイテムをクリックするタスクモデルの中のリコールのタスクモジュールとクリック率推定のタスクモジュールとについて連合学習を行うトレーニングモジュールと、
    各前記トレーニングデータは、トレーニングユーザーの少なくとも二つのトレーニング特徴情報、トレーニングアイテムの少なくとも二つのトレーニング特徴情報及び前記トレーニングユーザーが前記トレーニングアイテムに対するクリック相互作用情報を含む
    ユーザーがアイテムをクリックするタスクモデルのトレーニング装置。
  12. 前記トレーニングモジュールは、
    各前記トレーニングデータについて、前記トレーニングユーザーの少なくとも二つの特徴情報を埋め込み表現してからスプライシングさせ、トレーニングユーザーの組み合わせ特徴表現を得て、
    前記トレーニングアイテムの少なくとも二つのトレーニング特徴情報を埋め込み表現してからスプライシングさせ、トレーニングアイテムの組み合わせ特徴表現を得て、
    前記リコールのタスクモジュールにおいて、前記トレーニングユーザーの組み合わせ特徴表現と前記トレーニングアイテムの組み合わせ特徴表現とを、それぞれ完全接続処理や活性化処理の処理層を含む少なくとも二つの層の処理を通じて、トレーニングユーザーの特徴表現とトレーニングアイテムの特徴表現を得て、
    前記リコールのタスクモジュールにおいて、前記トレーニングユーザーの特徴表現と前記トレーニングアイテムの特徴表現とを乗じて、前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックスを得て、
    前記クリック率推定のタスクモジュールにおいて、前記トレーニングユーザーの組み合わせ特徴表現と前記トレーニングアイテムの組み合わせ特徴表現をスプライシングさせ、順次に、完全接続処理や活性化処理の処理層、及びｓｉｇｍｏｉｄ活性化関数の処理層を含む少なくとも二つの層の処理を通じて、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率を得て、
    前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックス、前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率及び既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、総合的な交差エントロピー損失関数を生成して、
    前記総合的な交差エントロピー損失関数が収束されるか否かを判断し、収束されない場合は、前記ユーザーがアイテムをクリックするタスクモデルのパラメータを調整して、
    収束される場合は、第１の連続予定ループ数のトレーニングで全部収束されるか否かを判断し、収束される場合、前記ユーザーがアイテムをクリックするタスクモデルのパラメータを決定して、前記ユーザーがアイテムをクリックするタスクモデルを決定する
    請求項１１に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング装置。
  13. 前記トレーニングモジュールは、
    前記トレーニングユーザーに対する前記トレーニングアイテムの推奨度のインデックスと既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、第１の交差エントロピー損失関数を生成して、
    前記トレーニングアイテムに対する前記トレーニングユーザーの予測クリック確率と既知の前記トレーニングアイテムに対する前記トレーニングユーザーのクリック相互作用情報に基づいて、第２の交差エントロピー損失関数を生成して、
    前記第１の交差エントロピー損失関数と前記第２の交差エントロピー損失関数の和を求めて、前記総合的な交差エントロピー損失関数を得る
    請求項１２に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング装置。
  14. 前記トレーニングモジュールは、
    前記総合的な交差エントロピー損失関数が、前記第１の連続予定ループ数のトレーニングで全部収束すると判断される場合に、継続して前記複数のトレーニングデータを使用して、前記第１の交差エントロピー損失関数が第２の連続予定ループ数のトレーニングで全部収束するまで、前記リコールのタスクモジュールをトレーニングし、前記リコールのタスクモジュールのパラメータを決定して、前記リコールのタスクモジュールを決定し、前記ユーザーがアイテムをクリックするタスクモデルを決定する
    請求項１３に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング装置。
  15. 少なくとも一つのプロセッサーと、
    前記少なくとも一つのプロセッサーに通信接続されるメモリと、を具備し、
    前記メモリには、前記少なくとも一つのプロセッサーによって実行可能なコマンドが記憶されており、前記コマンドが前記少なくとも一つのプロセッサーによって実行されることで、請求項１から３のいずれか一項に記載のアイテム推奨方法または請求項４から７のいずれか一項に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング方法を前記少なくとも一つのプロセッサーに実行させる、電子機器。
  16. コンピューターに請求項１から３のいずれか一項に記載のアイテム推奨方法または請求項４から７のいずれか一項に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実行させるためのコンピューターコマンドが記憶されている非一時的コンピューター可読記録媒体。
  17. コンピューターに請求項１から３のいずれか一項に記載のアイテム推奨方法または請求項４から７のいずれか一項に記載のユーザーがアイテムをクリックするタスクモデルのトレーニング方法を実行させるためのコンピュータープログラム。
JP2021007184A 2020-01-22 2021-01-20 アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体 Active JP7135255B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010073347.4A CN111259222B (zh) 2020-01-22 2020-01-22 物品推荐方法、系统、电子设备及存储介质
CN202010073347.4 2020-01-22

Publications (2)

Publication Number Publication Date
JP2021118000A true JP2021118000A (ja) 2021-08-10
JP7135255B2 JP7135255B2 (ja) 2022-09-13

Family

ID=70950995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021007184A Active JP7135255B2 (ja) 2020-01-22 2021-01-20 アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体

Country Status (5)

Country Link
US (1) US12450640B2 (ja)
EP (1) EP3855369A3 (ja)
JP (1) JP7135255B2 (ja)
KR (1) KR102476056B1 (ja)
CN (1) CN111259222B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023545896A (ja) * 2021-09-07 2023-11-01 天翼電子商務有限公司 シーケンス情報を融合した特徴組み合わせ推薦アルゴリズムフレームワーク

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113744011B (zh) * 2020-06-17 2025-02-21 北京沃东天骏信息技术有限公司 物品搭配方法和物品搭配装置
CN112148975A (zh) * 2020-09-21 2020-12-29 北京百度网讯科技有限公司 会话推荐方法、装置及设备
CN112766406B (zh) * 2021-01-29 2024-08-13 北京达佳互联信息技术有限公司 物品图像的处理方法、装置、计算机设备及存储介质
CN113360770B (zh) * 2021-06-30 2024-04-12 北京百度网讯科技有限公司 内容推荐的方法、装置、设备以及存储介质
CN113590288B (zh) * 2021-07-29 2024-09-24 支付宝(杭州)信息技术有限公司 多任务学习模型的训练方法、使用方法及装置
CN113849728B (zh) * 2021-08-27 2025-06-27 合肥工业大学 面向新项目推广的个性化推荐方法和系统
CN113836144B (zh) * 2021-09-28 2023-01-24 厦门市美亚柏科信息股份有限公司 一种基于字段推荐数据库标准表的方法及装置
CN113962770A (zh) * 2021-10-21 2022-01-21 北京沃东天骏信息技术有限公司 确定目标物品的方法、装置、电子设备及存储介质
CN114139052B (zh) * 2021-11-19 2022-10-21 北京百度网讯科技有限公司 用于智能推荐的排序模型训练方法、智能推荐方法及装置
CN114564496B (zh) * 2022-03-01 2023-09-19 北京有竹居网络技术有限公司 一种内容推荐方法及装置
CN114707070B (zh) * 2022-04-12 2026-01-09 华为技术有限公司 一种用户行为预测方法及其相关设备
CN114783563B (zh) * 2022-05-10 2024-07-09 浙江工业大学 一种视觉训练的推荐方法
CN116578875B (zh) * 2023-07-12 2023-11-10 深圳须弥云图空间科技有限公司 基于多行为的点击预测模型训练方法及装置
CN117313821B (zh) * 2023-09-06 2025-11-04 北京奇艺世纪科技有限公司 在线学习方法、视频推荐方法及相关装置
KR20250081115A (ko) 2023-11-29 2025-06-05 서울대학교산학협력단 순차적 추천을 위한 간단하면서도 효과적인 카테고리 다양화 방법 및 장치
CN118170993B (zh) * 2024-05-14 2024-07-12 云南师范大学 一种基于对比学习与场因子分解的教育资源推荐方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016115316A (ja) * 2014-12-18 2016-06-23 インターナショナル・ビジネス・マシーンズ・コーポレーションＩｎｔｅｒｎａｔｉｏｎａｌ Ｂｕｓｉｎｅｓｓ Ｍａｃｈｉｎｅｓ Ｃｏｒｐｏｒａｔｉｏｎ 処理装置、処理方法、推測装置、推測方法、およびプログラム
JP2018005662A (ja) * 2016-07-05 2018-01-11 ヤフー株式会社 情報解析装置、情報解析方法、および情報解析プログラム
JP2018063484A (ja) * 2016-10-11 2018-04-19 凸版印刷株式会社 ユーザ評価予測システム、ユーザ評価予測方法及びプログラム
JP2018181326A (ja) * 2017-04-06 2018-11-15 ネイバー コーポレーションＮＡＶＥＲ Ｃｏｒｐｏｒａｔｉｏｎ ディープラーニングを活用した個人化商品推薦

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105654329A (zh) * 2015-01-22 2016-06-08 香港中文大学深圳研究院 一种整合性推荐方法及装置
US10824941B2 (en) 2015-12-23 2020-11-03 The Toronto-Dominion Bank End-to-end deep collaborative filtering
CN106169150A (zh) * 2016-06-29 2016-11-30 广州市香港科大霍英东研究院 基于用户兴趣预测的物品推荐方法和装置
KR20180121466A (ko) 2017-04-06 2018-11-07 네이버 주식회사 딥러닝을 활용한 개인화 상품 추천
US11093992B2 (en) * 2017-05-05 2021-08-17 Reai Inc. Smart matching for real estate transactions
CN107273438B (zh) * 2017-05-24 2021-02-23 深圳大学 一种推荐方法、装置、设备及存储介质
CN107392644A (zh) * 2017-06-19 2017-11-24 华南理工大学 一种商品购买预测建模方法
CN109903103B (zh) * 2017-12-07 2021-08-20 华为技术有限公司 一种推荐物品的方法和装置
KR102061331B1 (ko) 2018-03-22 2019-12-31 네이버 주식회사 아이템 추천 방법 및 시스템
US20190303835A1 (en) * 2018-03-30 2019-10-03 Microsoft Technology Licensing, Llc Entity representation learning for improving digital content recommendations
CN109191240B (zh) * 2018-08-14 2021-06-08 北京九狐时代智能科技有限公司 一种进行商品推荐的方法和装置
CN109191196A (zh) * 2018-08-23 2019-01-11 深圳码隆科技有限公司 一种基于用户特征的商品推荐方法、装置和用户终端
CN109543066B (zh) 2018-10-31 2021-04-23 北京达佳互联信息技术有限公司 视频推荐方法、装置和计算机可读存储介质
CN109547814B (zh) * 2018-12-13 2021-07-16 北京达佳互联信息技术有限公司 视频推荐方法、装置、服务器及存储介质
CN110008399B (zh) * 2019-01-30 2023-04-07 创新先进技术有限公司 一种推荐模型的训练方法及装置、一种推荐方法及装置
CN109993627B (zh) * 2019-02-28 2021-09-07 华为技术有限公司 推荐方法、推荐模型的训练方法、装置和存储介质
CN110084670B (zh) * 2019-04-15 2022-03-25 东北大学 一种基于lda-mlp的货架商品组合推荐方法
CN110162700B (zh) * 2019-04-23 2024-06-25 腾讯科技（深圳）有限公司 信息推荐及模型的训练方法、装置、设备以及存储介质
CN110298725B (zh) * 2019-05-24 2024-08-02 北京三快在线科技有限公司 商品组合的推荐方法、装置、电子设备及可读存储介质
CN112015859B (zh) * 2019-05-31 2023-08-18 百度在线网络技术（北京）有限公司 文本的知识层次抽取方法及装置、计算机设备及可读介质
CN110457589B (zh) * 2019-08-19 2020-05-12 上海新共赢信息科技有限公司 一种车辆推荐方法、装置、设备及存储介质
CN110599295B (zh) * 2019-08-22 2022-04-08 创新先进技术有限公司 物品的推送方法、装置及设备
CN110599307B (zh) * 2019-09-17 2024-11-05 北京三快在线科技有限公司 一种商品推荐的方法及装置
CN110674406A (zh) * 2019-09-29 2020-01-10 百度在线网络技术（北京）有限公司 推荐方法、装置、电子设备及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016115316A (ja) * 2014-12-18 2016-06-23 インターナショナル・ビジネス・マシーンズ・コーポレーションＩｎｔｅｒｎａｔｉｏｎａｌ Ｂｕｓｉｎｅｓｓ Ｍａｃｈｉｎｅｓ Ｃｏｒｐｏｒａｔｉｏｎ 処理装置、処理方法、推測装置、推測方法、およびプログラム
JP2018005662A (ja) * 2016-07-05 2018-01-11 ヤフー株式会社 情報解析装置、情報解析方法、および情報解析プログラム
JP2018063484A (ja) * 2016-10-11 2018-04-19 凸版印刷株式会社 ユーザ評価予測システム、ユーザ評価予測方法及びプログラム
JP2018181326A (ja) * 2017-04-06 2018-11-15 ネイバー コーポレーションＮＡＶＥＲ Ｃｏｒｐｏｒａｔｉｏｎ ディープラーニングを活用した個人化商品推薦

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023545896A (ja) * 2021-09-07 2023-11-01 天翼電子商務有限公司 シーケンス情報を融合した特徴組み合わせ推薦アルゴリズムフレームワーク
JP7530076B2 (ja) 2021-09-07 2024-08-07 天翼電子商務有限公司 シーケンス情報を融合した特徴組み合わせ推薦アルゴリズムフレームワーク

Also Published As

Publication number Publication date
KR20210095579A (ko) 2021-08-02
US20210224879A1 (en) 2021-07-22
US12450640B2 (en) 2025-10-21
EP3855369A3 (en) 2022-01-26
CN111259222A (zh) 2020-06-09
EP3855369A2 (en) 2021-07-28
CN111259222B (zh) 2023-08-22
KR102476056B1 (ko) 2022-12-08
JP7135255B2 (ja) 2022-09-13

Similar Documents

Publication Publication Date Title
JP7135255B2 (ja) アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体
US20220198289A1 (en) Recommendation model training method, selection probability prediction method, and apparatus
CN111695695B (zh) 用户决策行为量化分析方法及装置
CN112163676B (zh) 多任务服务预测模型训练方法、装置、设备以及存储介质
CN114240555B (zh) 训练点击率预测模型和预测点击率的方法和装置
US20200118145A1 (en) Characterizing and Modifying User Experience of Computing Environments Based on Behavior Logs
US10592777B2 (en) Systems and methods for slate optimization with recurrent neural networks
CN111737954B (zh) 文本相似度确定方法、装置、设备和介质
US12106199B2 (en) Real-time predictions based on machine learning models
JP7262505B2 (ja) 人材需要予測方法、人材需要予測装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム
CN111582479B (zh) 神经网络模型的蒸馏方法和装置
US20250225398A1 (en) Data processing method and related apparatus
US11966446B2 (en) Systems and methods for a search tool of code snippets
CN111563198B (zh) 一种物料召回方法、装置、设备及存储介质
CN112288483A (zh) 用于训练模型的方法和装置、用于生成信息的方法和装置
CN115481325A (zh) 基于用户全局兴趣迁移感知的个性化新闻推荐方法及系统
US20240104403A1 (en) Method for training click rate prediction model
EP4024203A1 (en) System performance optimization
Samreen et al. Transferable knowledge for low-cost decision making in cloud environments
CN111475721B (zh) 信息推送方法、装置、设备及存储介质
US20230409929A1 (en) Methods and apparatuses for training prediction model
Thakkar et al. Personalized recommendation systems using multimodal, autonomous, multi agent systems
CN114881216B (zh) 模型训练方法、产品点击率预测方法、系统、设备及介质
US12282518B2 (en) Systems and methods for a search tool of code snippets
CN114416513A (zh) 搜索数据的处理方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220809

R150 Certificate of patent or registration of utility model

Ref document number: 7135255

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250