在人工（gōng）智能技術飛速發展的今（jīn）天，基於大模（mó）型的生成類應用已經成為業界關注的焦點。這些應用不（bú）僅可以幫助企（qǐ）業提高（gāo）生產效率，還能為用戶提供更加個（gè）性化、智能化的服務體驗。本文將探討生成類應用的機遇與挑戰，以及在實際落地過程中的（de）探索和實踐經驗。
生成類大模型讓通信運營商（shāng）在（zài）多個方麵受益，主要體現在運營、成本、質量及創新（xīn）能力上。
生成類應用可以幫助通信企業自動（dòng）化處（chù）理大量的日常工作，例如客戶服務對話、故障診斷和修複指南生成等，從（cóng）而顯著提高運營（yíng）效率。
自動化處理重複性任務可以大幅降（jiàng）低人力資源成本，同時通過優化網（wǎng）絡（luò）資（zī）源配置和運維管理（lǐ），有（yǒu）效減少各類成本。
通過自動生成高（gāo）質量的文檔、技術指南、用戶手冊等，可以減少人工錯誤，確保信息的一致性和準確性，從而提升客（kè）戶滿意度。
利用生成式AI技術，通信企業可以（yǐ）開發出更多創新（xīn）的產品和服務，比如基於AI的虛（xū）擬助手、智能客（kè）服（fú）係統等，為用戶提供更加個性化和智能化的體驗。
在眾多生成類的場景中，通信運營商的（de）售前方案（àn）的支撐的需求量最大，一線訴求（qiú）最強，主要存在以下困難（nán）點：
售前方案主要由（yóu）一線解決方案經理依靠人工拚裝，生（shēng）成效率（lǜ）低，易出錯。
一線方案經理經驗不一，方案質量參差不（bú）齊，影響品牌聲望。
客（kè）戶變更需求多，方案頻繁修改，售前方案生成周期長，客戶滿意度降低。
通（tōng）過運用生成式大模型的（de）技術，高效高質量生成售前方案，重構生產運營前後端，已成為運營商數智賦能生產過程的突破口。
麵對眾多的售前方案場景，如何聚焦（jiāo）業務量（liàng）大（dà）、有特色的業務，如何喂投專業業務知識， 如何標準（zhǔn）化知識文檔結構，如何與業務係統無縫對接等諸多難點（diǎn），我們采用“逐層拆解，逐（zhú）個擊破”的策略，對生成類的應用場景需求分析設計過程抽絲剝繭，聚焦核（hé）心業務、方案論證、原型交互設計，知識（shí）標準化梳理，最終（zhōng）形成生成類大模型應（yīng）用產品的形（xíng）態。
場景聚焦（jiāo）：以點為麵，聚焦（jiāo）小微組網方案生成（chéng）
售前方案涉及行業（yè）眾多如金融、衛健、農業、教育等，業務跨度廣，全部梳理則落地周期長，效（xiào）果不顯著。聚焦一（yī）線（xiàn）最急迫，業務（wù）最典（diǎn）型，訪問量最大的小微企業的組網和視頻監控的售前方案生成場景，以此為切入點打造領域（yù）方（fāng）案撰（zhuàn）寫（xiě）的樣板點，以點帶（dài）麵，為後續（xù）多行業售前方案智能生成奠定基礎。
【一線關鍵問題聚焦】
1.小微客戶個性需（xū）求多，往往需要針對性編寫（xiě）方案，周期長
2.組網監控業務複雜，需要較多專業知識和經驗（yàn）
3.已有（yǒu）方案難複用，需人工對已有的方案庫進行檢索
聚焦（jiāo）場景後，梳理小微組網方案生成的用戶故事，確定解決方案經（jīng）理的操作流程，完成業務規則訓練、設備清單庫對接、高中低報價、方案生成、對接雲鏈的業務流程設計。
根據業務流程，確定整體方案的智能化目標，同時製定小微組網方（fāng）案（àn）生成的技術（shù）方案。事前構建高質量的數據集，事中重點設計智能高效的交互體驗，事後形成閉環的知識評估及更新方案。
知識梳理：構建高質量數據集，定義（yì）文檔標準（zhǔn）化格式（shì）
通過文檔識別、文（wén）檔處理、索引構建、知識檢索這四大步驟構建高質量數據集，形成售前方案高質量生成的技術保障。
word/excel/pdf等格（gé）式的文檔是業務知識（shí）常（cháng）用（yòng）載體，將操作手冊、產品白皮書、設備安裝手冊介（jiè）紹等常（cháng）見文（wén）檔作為知識的輸入，有利於業務知識的快速收集和成生。通過文檔格式處（chù）理技術，高效識別文（wén）檔（dàng）關（guān）鍵元素，保持文檔的層次結構；通過文檔多模型內容處理技術保持（chí）文檔文本、圖片、表格等多模型信息的還原度。應用語義索引和實體（tǐ）索（suǒ）引兩（liǎng）種策略，構建高效的索引方案。通過語義（yì）檢索、關鍵字（zì）檢索、實體（tǐ）檢索等組合的知識檢索方案（àn），形成知識庫整體建設的完整方案。
依托業務知識的（de）規則化和章節內容的標準化，形成高質量的小微組（zǔ）網知識數據集，並依據（jù）知識集及典型方（fāng）案定義生成文檔（dàng）的標準化格式。
通過一線調研結合典型售前方案，確定小微（wēi）組網知識分為網絡類和安全安防類兩大類，每一類又有細分場景，每個細分場景有對應的商品（pǐn），每個商品有詳細的業務規則。如（rú）下圖（tú）所（suǒ）示：
小（xiǎo）微組網的（de）業務知識的梳理，即將這些商品在細分場（chǎng）景下對應的規（guī）則進行細化，形成知識（shí）場景化的知識規則體係，納入知識庫統一管理。
一線解（jiě）決（jué）方案人員在編（biān）寫小微組（zǔ）網方（fāng）案時內容和格式都不大一樣，無法（fǎ）保證高（gāo）質量，需對方案（àn）內（nèi）容的章節進行統一定義。
首先，分析典型方案內容（róng），抽取共性章（zhāng）節，最終確認標（biāo）準方案（àn）章節定義為：需求描述、方案描述、方案報價。
其次，報（bào）價部分格式千樣，存在較多隱（yǐn）患。最終根據一線的報價需求並參考報價係（xì）統，形（xíng）成標準報價方案包括：標品套餐、集成（chéng）服（fú）務清單、項目（mù）總計的內容。
良好的交互體驗影響售案生成質量和一（yī）線感（gǎn）知。應（yīng）用業（yè）務參數固化、會話管理、提詞工程、RAG檢索增強生成四種（zhǒng）交互技術使該場景交互質量與交互感知達到最佳（jiā）平衡。
標準化模板：通過預先設定的參數模板，確保售前方案的標準化，提高方案的一致性和質量。
快速變更：固化參數允許快速（sù）變更配置方案的基本框架，加快方案生（shēng）成（chéng）的速度。
減少交互次數：標準參數無需來回對話（huà），提升需求收（shōu）集的速度。
會話管理是（shì）為了有效且準確的將對（duì）話之前（qián）所蘊含的信息提取出來而引入的模塊，將智（zhì）能（néng）分割用戶會話內容管理過往對話所蘊（yùn）含的場景信息、意圖信（xìn）息傳入大模型底座，從而生成連貫和個性化的回複。同時（shí）引入個人用戶token，在每個對話之間傳遞會話令牌，能夠將（jiāng）不同用戶的輸入與之前的對話上下文關聯起來,產生與特定用戶和（hé）對話（huà）相關的回應。
提示詞工（gōng）程在大（dà）模型（xíng）與複雜業務結合時具有重要作用。建（jiàn）立提示詞模板庫，針對不同場景設計特定模板。
提高用（yòng）戶體驗：通過（guò）精心設計的提示語（yǔ），可以幫助解決方案經理更好地理解和操作界麵，減少錯誤操作。
引導用戶行為：提詞可以指導解決（jué）方案經（jīng）理完成特定的任務流程（chéng），比如填寫（xiě）組（zǔ）網標（biāo）準參數（shù）模板（bǎn）。
減少用戶輸（shū）入負擔：智能提詞可以預測解（jiě）決方案經理的輸入意圖，自動完成部分輸入，減輕解決方案（àn）經理的手動輸入工作量。
提供即時反饋：提詞可以用來給（gěi）予解決方案經理即（jí）時反饋，確認解決方案經理（lǐ）的（de）操作是否成功（gōng），或者指出可能存在的問題。
高（gāo）效RAG檢索增（zēng）強生（shēng）成
RAG檢索增強技術確保交互返回的答案精準有效。通（tōng）過引入ES，對文檔的內容關鍵字進行檢索和對向量（liàng）庫的相似（sì）召回（huí），對召回的內容進（jìn）行rerank排序，提高了文檔檢索結果的正確性，對問題（tí）進行重寫和二階段檢索結果由LLM推理歸納返回最佳答案。
運營管（guǎn）理：業（yè）務知識長效評（píng）估及更新
組網（wǎng）的業務規則會隨市場變化和新產品入網產生變更，通過一線用戶評價反饋及提詞優化反饋實現業務知識質量評估及長效（xiào）更新，滿（mǎn）足市場變化的需（xū）求。
一線用戶評價：由一線人（rén）員在對（duì）話的（de）過程中進（jìn）行滿（mǎn）意度價評，包括方案知識（shí）的點踩，形成劣質知識的下架，精確（què）知識的更新。
提示詞優化（huà）收集：管理抽取知識的提示詞的內容、相似度、向量閾值、TOPK等（děng）相關信息。在提示詞對檢索和輸出（chū）的內容進行規範（fàn）說明。實現對大模型對知識檢索的準確（què）率和抽象整理能力。
隨著大（dà）模型帶（dài）來能力突破，讓AI與生成力結合，促進企業內部數據價值釋放。未來，我們預見大模型將進一步與業務緊密結合，成為整個業務流程（chéng）的核心驅動，接入更多的方案（àn）生成（chéng）場景。同時結合AR/VR技（jì）術，生成式AI可（kě）以生成更加直觀易懂的方案。未來怎（zěn）樣發展，我們將持續把握風口，迎接挑戰。