華為移動通信的新突破：預(yù)測用戶行為，精準觸達，智慧通信新篇章
隨著電信市場的飽和，運營商面臨著從現(xiàn)有用戶中挖掘價值并提高用戶留存率的核心挑戰(zhàn)。華為 GTS 部門 AI 算法團隊在此背景下，提出了 GTS-LUM（Global Technical Service-Large User Model）這一創(chuàng)新方法，專門解決電信行業(yè)用戶行為建模的難題。這一突破性的技術(shù)，有望為電信行業(yè)帶來一場用戶行為預(yù)測的革命。
首先，GTS-LUM 的主要創(chuàng)新點在于其基于海量用戶行為序列數(shù)據(jù)自監(jiān)督、多模異構(gòu) Encoder-Adapter-LLM Decoder 架構(gòu)。通過這一架構(gòu)，GTS-LUM 能夠精準捕捉用戶業(yè)務(wù)級淺層語義，創(chuàng)新多尺度時序處理機制以及多用戶運營場景后訓(xùn)練。此外，Q-former 語義空間和業(yè)務(wù)空間知識對齊，以及目標感知建模的引入，更是大大增強了 GTS-LUM 的預(yù)測精度和實用性。
在某省級運營商的真實場景中，我們選取了 20w 左右用戶數(shù)據(jù)量在 Ascend 910B2 NPU 上進行訓(xùn)練和推理。實驗結(jié)果顯示，GTS-LUM 在所有評估指標上均顯著優(yōu)于基線模型，相比業(yè)界方案有顯著的性能提升。這些結(jié)果表明，盡管典型推薦模型在實驗室數(shù)據(jù)中表現(xiàn)良好，但在具有領(lǐng)域特定復(fù)雜性的工業(yè)級數(shù)據(jù)集上，其性能可能會顯著下降。而 GTS-LUM 的優(yōu)異表現(xiàn)，凸顯了融合多模態(tài)輸入以及對開放世界知識與特定業(yè)務(wù)知識對齊的必要性。
華為 GTS 部門 AI 算法團隊在論文中詳細介紹了 GTS-LUM 的技術(shù)架構(gòu)和核心創(chuàng)新點。他們創(chuàng)新的提出了多層級時間劃分融合語義策略，通過構(gòu)建“時段-周期”語義描述優(yōu)化用戶行為序列建模。同時，他們構(gòu)建了多模態(tài)協(xié)同的用戶行為嵌入框架，精準捕捉用戶業(yè)務(wù)級淺層語義，并引入了基于 Q-Former 適配器的跨模態(tài)對齊機制，通過對比學(xué)習(xí)任務(wù)實現(xiàn)跨模態(tài)知識對齊。此外，他們還創(chuàng)新性地為 Q-Former 引入了額外訓(xùn)練任務(wù)，包括序列片段-文本匹配、序列片段-文本對比學(xué)習(xí)和序列片段-文本生成，使其兼具多模態(tài)對齊器與用戶長期興趣壓縮器的雙重功能。
值得一提的是，GTS-LUM 的目標感知建模進一步優(yōu)化了用戶表征學(xué)習(xí)過程，通過將預(yù)測標簽前置于行為序列起始位置，利用 LLM 的因果注意力機制實現(xiàn)雙階段優(yōu)化。在注意力計算階段，目標標簽作為先驗條件動態(tài)調(diào)整歷史行為的注意力權(quán)重分布；在表征生成階段，基于 Decoder 的自回歸架構(gòu)實現(xiàn)漸進式特征優(yōu)化，通過多步解碼過程迭代調(diào)整用戶表征向量。這種目標前置的建模方式，能夠顯著提高預(yù)測精度，并突出與任務(wù)場景最相關(guān)的歷史行為。
總的來說，華為 GTS 部門 AI 算法團隊的研究成果——GTS-LUM，無疑為電信行業(yè)用戶行為建模提供了新的思路和方法。這一創(chuàng)新性的技術(shù)，有望為電信行業(yè)帶來巨大的商業(yè)價值，推動通信行業(yè)的智能化發(fā)展。我們期待看到更多的實際應(yīng)用和實驗結(jié)果，以驗證 GTS-LUM 在工業(yè)級數(shù)據(jù)集上的表現(xiàn)和潛力。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
