AT&T的AI销售Agent：Google揭示企业级落地范本

从「猜测」到「记忆」：AI销售Agent的范式转变

在最新的一场技术分享中，Google联合美国电信巨头AT&T揭示了一个已经投入生产环境的AI销售Agent系统。这不再是实验室里的概念演示，而是普通AT&T用户当下就能在旗舰App中体验到的真实功能。分享者用一句话概括了这套系统的核心价值：「我们的系统已经从猜测（guessing）转向了记忆（remembering）——因为我们正在调用用户明确陈述过的、经过验证的事实。」

这句话背后，是企业级AI Agent落地过程中最关键的一次思维转变。传统的客服与销售系统本质上是「无状态」的：每一次交互都是全新的开始，用户不得不反复重复自己的需求。这种「无状态」特性源于HTTP协议本身的设计哲学——每次请求独立存在，服务器不保留前次交互信息。虽然Session和Cookie机制部分弥补了这一缺陷，但它们通常只维持单次会话的状态，会话结束后信息即丢失。即便是现代的客户关系管理（CRM）系统，其存储的也多为结构化的交易记录和账户属性，而非用户在对话中自然表达的意图、偏好和决策上下文。AT&T的方案则将状态持久化提升到了「客户生命周期」级别，通过持久化的长期上下文，让Agent「永远带着信息启动，而不是从零开始」。这在技术上意味着需要构建跨会话、跨渠道的统一身份识别与状态管理基础设施——包括但不限于全局唯一的用户身份图谱（Identity Graph）、事件驱动的状态同步机制，以及能够在毫秒级延迟内检索相关历史的向量化存储——其复杂度远超传统的Session管理。

跨渠道的连续体验：一个真实的用户旅程

分享中给出了一个极具说服力的用户旅程案例，值得所有做企业Agent的团队参考。

设想一位用户在「第一天」通过Web渠道访问AT&T，表达了想以旧换新iPhone 16的意向，但随后中途流失——「生活就是这样」。到了「第三天」，同一位用户通过完全不同的渠道（比如IVR语音通道）再次接入。IVR（Interactive Voice Response，交互式语音应答）是电信行业最传统的客户服务入口之一，用户拨打客服电话后通过按键或语音指令与自动化系统交互。传统IVR系统以树状菜单为核心，用户需要经历层层按键选择才能到达目标服务节点，体验僵硬且信息孤立——它与Web端的数据完全隔离，形成典型的「渠道竖井」。将AI Agent接入IVR通道意味着需要额外集成ASR（Automatic Speech Recognition，自动语音识别）和TTS（Text-to-Speech，文本转语音）能力，将语音信号实时转换为文本供Agent处理，再将Agent的文本输出合成为自然语音。与此同时，语音场景还面临特有的延迟敏感性问题——用户在电话中对等待时间的容忍度远低于文本聊天。语音对话的自然节奏要求响应在1-2秒内开始，而流式TTS输出、网络传输延迟和模型推理时间的叠加使这成为一项严峻的工程挑战。在传统系统中，这位客户必须从头把所有步骤再走一遍，因为系统没有任何上下文。

但在新架构下，由于存在长期持久化的上下文，系统可以直接跳到推荐环节。分享者特别提到了电信零售的一个现实痛点：很多用户拿到报价后会再次流失——「我们走进Costco拿AT&T的报价，再去AT&T零售店拿报价，跟朋友家人商量后才做决定。」这种「货比三家」的决策模式在电信行业尤为突出，因为运营商套餐组合复杂、合约条款众多，用户往往需要数天甚至数周才能最终下定决心。

当用户在「第七天」终于决定购买时——哪怕又换了个渠道——系统早已在后台异步创建好了购物车，用户只需「单击一次」即可完成购买，当然也随时欢迎修改。异步购物车的创建体现了一种「乐观预备」的设计理念：系统根据用户已表达的意向，在不占用用户注意力的情况下预先完成繁琐的配置工作（如套餐匹配、以旧换新估值、分期方案计算等），将购买决策到完成交易之间的摩擦降至最低。

这套跨渠道的连续体验，正是所谓「cross channel synergy（跨渠道协同）」的具象化。它把原本割裂的Web、语音、门店等触点串联成了一条统一的客户旅程。值得注意的是，跨渠道协同并非新概念——零售和银行业已探索多年——但过去的实现通常依赖规则引擎和人工标注的「客户旅程地图」，能处理的场景有限且维护成本高昂。AI Agent的引入使得系统能够理解自然语言表达的意图并自动关联上下文，从根本上改变了跨渠道协同的可行性边界。

架构解析：逻辑层与展示层的解耦

从技术架构角度看，这套系统有几个值得深挖的设计决策。

逻辑层与展示层分离

团队做出的一个关键架构决策，是将逻辑层（logical layer）与展示层（display layer）拆分开来。「销售大师（sales master）」负责处理对话的核心逻辑，而「格式化器（formatter）」则负责将输出适配到具体渠道——无论是Web还是其他终端。

这种解耦带来的直接好处是：无论用户通过哪个渠道交互，系统都能维护单一、统一的上下文。这也正是前文跨渠道连续体验能够实现的技术基础。这一设计模式类似于经典的MVC（Model-View-Controller）架构思想在AI Agent领域的延伸——将业务逻辑（Model）与渲染呈现（View）严格分离，使得同一套推理能力可以零成本适配新渠道，而无需为每个触点重建Agent逻辑。在传统软件工程中，MVC的价值已被充分验证：当Facebook需要从Web扩展到移动端时，前后端分离的架构使核心业务逻辑得以复用。AT&T将同样的原则应用于AI Agent——「销售大师」输出的是结构化的意图和数据（如「推荐iPhone 17 Pro Max，附带以旧换新优惠」），而格式化器则根据目标渠道将其转化为Web端的富文本卡片、IVR端的语音播报脚本，或门店终端的导购界面。这意味着当AT&T未来接入新渠道（如RCS消息、智能手表）时，只需新增一个格式化器，而无需触动核心推理逻辑。

上下文管理与成本平衡

分享者反复强调「上下文」的重要性，但同时也点出了一个现实约束：「我们不希望token永远膨胀下去。」为此，团队会根据不同Agent精心策划（curate）上下文，并调节「思考预算（thinking budget）」和「思考token（thought tokens）」，始终在准确率与延迟之间寻找平衡。

「思考预算」是Gemini等支持思维链（Chain-of-Thought, CoT）推理模型的一个可调参数。思维链推理是指让模型在生成最终答案之前，先输出中间推理步骤的技术。2022年Google的研究证明，允许模型「逐步思考」能显著提升复杂推理任务的准确率。但这些中间推理步骤本身也消耗token——当模型被允许更多的「思考token」时，它能进行更深入的推理、考虑更多边界情况，从而提升准确率；但代价是更高的API成本（按token计费，思考token通常与输出token同价）和更长的响应延迟。在销售对话场景中，用户对等待时间极为敏感——研究表明超过3秒的响应延迟会显著降低用户留存率，而在语音通道中这一阈值更低。因此，AT&T团队需要为不同类型的Agent任务分配不同的思考预算：简单的信息查询（如「我的账单多少钱」）可能只需极少推理，而复杂的套餐推荐（需要综合考虑用户画像、促销政策、库存状态和合约条款）则需要更深入的分析。这种差异化的资源分配策略，本质上是在将有限的计算预算投向最能产生业务价值的环节。

这是当前所有生产级LLM应用都绑不开的工程难题：更长的上下文和更多的推理往往意味着更高的成本和更慢的响应。以GPT-4级别模型为例，处理一个包含100K token上下文的请求，仅API调用成本就可能达到数美元——而一个活跃的电信客服系统每天可能处理数百万次交互。AT&T的做法给出了一个务实的答案——精细化的上下文治理，而非无脑堆砌。具体而言，这可能包括：对历史对话进行摘要压缩而非原文保留、根据当前对话主题动态选择性加载相关记忆片段、以及设置上下文的生命周期策略（如90天前的偏好信息权重衰减）。

记忆系统

在具体实现上，团队使用了Vertex AI的Session Service以及Memory Bank，分别负责短期记忆与长期记忆。Session Service管理对话级别的短期记忆——即单次交互会话中的上下文窗口，包括消息历史、工具调用结果和中间推理状态。它确保Agent在一次对话过程中能够回溯之前的交流内容，理解指代关系（如用户说「那个套餐」指的是什么），并在多轮对话中保持连贯性。Memory Bank则提供跨会话的长期记忆能力，能够将用户在不同时间、不同渠道表达的偏好和事实持久化存储，并在后续会话中按需检索注入。从技术实现上看，Memory Bank很可能采用了向量数据库与结构化存储的混合架构——向量化表示便于语义相似度检索（如「用户曾表达过对大屏手机的偏好」），而结构化字段则支持精确查询（如「用户iPhone 14的购买日期是2023年9月」）。

两者的协同工作模式类似于人类的工作记忆与长期记忆：Session Service处理「当下正在讨论什么」，Memory Bank回答「这个用户历史上表达过什么」。认知科学研究表明，人类工作记忆容量有限（著名的7±2法则），需要选择性地从长期记忆中提取相关信息。AI Agent的记忆架构面临同样的约束——模型的上下文窗口（对应工作记忆容量）是有限的，不可能加载用户所有历史交互。因此，Memory Bank需要实现智能的检索策略，只将与当前对话最相关的历史记忆片段注入上下文。正是这套记忆基础设施，支撑了前述「永不从零开始」的体验。

技术栈：ADK、Gemini与MCP

整套架构建立在ADK框架之上，使用Gemini系列LLM模型驱动。ADK（Agent Development Kit）是Google于2025年推出的开源Agent开发框架，旨在简化多Agent系统的构建与编排。在ADK出现之前，开发者构建多Agent系统通常需要自行处理Agent间的通信协议、状态共享、错误恢复和执行流编排等底层问题，这导致大量重复性工程工作且难以标准化。ADK提供了Agent生命周期管理、工具调用编排、会话状态管理等核心能力，开发者可以用Python定义Agent的行为逻辑，并通过声明式配置实现多Agent间的协作与委托——例如「销售大师」Agent可以将设备库存查询任务委托给专门的「库存Agent」，而自身继续处理对话主线。ADK与Google Cloud的Vertex AI平台深度集成，支持Session Service、Memory Bank等托管服务，使开发者无需从零构建记忆与状态管理基础设施。这种框架级别的抽象，使AT&T的工程团队能够将精力集中在业务逻辑和用户体验的优化上，而非底层的分布式系统工程。

在安全层面，团队采取了多重防护措施：

• DLP（数据丢失防护）：用于加密任何隐私数据，在数据送入LLM前加密，从LLM返回后再解密，确保敏感信息不被泄露。DLP在LLM场景中面临全新挑战——与传统的数据库加密不同，大语言模型的推理过程本质上是对输入文本的「理解」，如果敏感信息以明文形式进入模型，模型可能在后续对话中通过联想或直接引用的方式泄露这些数据。更严峻的是，在多租户的云端模型服务中，还存在训练数据污染和跨用户信息泄露的理论风险。AT&T采用的「入模前加密、出模后解密」策略，本质上是在Prompt层面用占位符（如[PHONE_NUMBER_1]、[SSN_MASKED]）替换敏感字段，模型只处理脱敏后的文本并基于占位符进行推理，最终输出再由应用层的解密服务还原真实信息。这样，即使模型的推理日志被泄露或模型被对抗性攻击，暴露的也只是无意义的占位符，从架构层面消除数据泄露的可能性。对于AT&T这样管理着超过7000万无线用户个人信息的电信运营商，这种架构级的安全保障是合规底线。
• Red Teaming（红队测试）：主动对框架进行攻击测试以发现漏洞。红队测试源自军事领域的对抗演练概念，在AI安全语境下特指通过模拟恶意用户的各种攻击手段——包括Prompt注入（在正常对话中嵌入恶意指令试图劫持Agent行为）、越狱攻击（绕过安全限制让模型输出不当内容）、数据窃取（诱导Agent泄露其系统提示词或其他用户信息）、以及社会工程攻击（通过角色扮演等方式操纵Agent的决策逻辑）——系统性地发现Agent的安全弱点并在上线前修补。随着AI Agent被赋予实际的业务操作权限（如创建购物车、修改套餐），红队测试的重要性进一步提升，因为一次成功的攻击可能导致真实的经济损失。
• MCP工具过滤：Agent通过MCP（Model Context Protocol）工具连接外部能力，但团队特意对可用工具进行了过滤，「不希望数据被过度暴露」。MCP是Anthropic于2024年底提出并开源的标准化协议，旨在为LLM提供统一的外部工具和数据源接入方式——可以将其类比为AI领域的「USB接口标准」。在MCP出现之前，每个AI应用都需要为每个外部服务（数据库、API、文件系统等）编写定制化的集成代码，形成N个AI应用 × M个外部服务 = N×M的集成复杂度。MCP通过定义标准化的客户端-服务器通信协议（基于JSON-RPC），将这一复杂度降为N+M：每个外部服务只需实现一次MCP服务器，即可被任何支持MCP的AI应用调用。AT&T在此基础上增加了工具过滤层，意味着即使某个MCP服务器暴露了多种工具能力（如一个CRM服务器可能同时提供「查询客户信息」和「删除客户账户」的工具），Agent也只能调用经过安全审核的子集（如只允许查询，不允许删除），这是企业级部署中权限最小化原则（Principle of Least Privilege）的体现。这种分层的安全设计确保了即使Agent的推理逻辑被攻击者操纵，其能造成的破坏也被限制在预定义的安全边界之内。

这套安全组合拳，反映出企业级Agent与消费级Demo的本质区别——在真实业务中，数据合规与隐私保护往往比模型能力本身更具决定性。AT&T作为受联邦通信委员会（FCC）监管的电信运营商，还需遵守CPNI（Customer Proprietary Network Information，客户专属网络信息）保护法规，任何客户通信数据的不当使用都可能招致巨额罚款。

超个性化：从账户级到「线路级」

这套系统最令人印象深刻的，是它对「个性化」颗粒度的重新定义。

分享者指出，电信行业看似只有无线和宽带两大产品线，但用户决策的排列组合极其庞大。仅以设备选择为例，需要考虑品牌（Apple/Samsung/Google等）、型号、存储容量、颜色、付款方式（全款/分期/以旧换新）等维度；再叠加套餐选择（数据流量、国际漫游、流媒体附加包等）和促销活动，一个用户面临的可能组合可达数千种。为此，Agent会主动检查：用户有哪些提前升级选项、有哪些设备保护计划、有哪些配件可选——而这一切都精确到某个账户下的具体线路号（line number）。

「我们不是在账户层面做个性化，而是在单个线路号层面做超个性化（hyper personalizing）。」这意味着一个家庭账户下的每一条线路，都能获得独立、贴合各自使用画像的推荐。在电信行业中，一个家庭账户（Family Plan）通常包含4-6条线路，分属不同家庭成员——可能包括父母、青少年子女甚至祖父母。他们的设备偏好（iOS vs Android、折叠屏 vs 直板机）、使用模式（重度游戏/视频 vs 轻度通讯/社交）、消费能力和换机周期可能截然不同。传统CRM系统只能在账户层面建立单一画像，将整个家庭视为一个决策单元，推送千篇一律的营销信息。而线路级个性化意味着为每条线路独立维护偏好模型和推荐策略——这在技术上要求Agent能够识别当前对话涉及的是哪条具体线路，并从Memory Bank中检索该线路特有的历史偏好，而非笼统的账户级信息。

在演示中，当用户之前选择过iPhone 16时，Agent会智能地推荐iPhone 17 Pro Max——这体现了Agent对用户品牌忠诚度和升级倾向的理解（iPhone用户大概率继续选择iPhone，且倾向于升级到更高端的型号）；而在升级第二条线路时，系统则根据不同的用户画像推荐了三星设备，直观展示了推荐引擎的画像感知能力——它不会因为账户主线路使用iPhone就假设所有线路都偏好Apple产品。

此外，Agent在用户发起设备升级时，还会智能识别到过去的对话历史，主动给出「之前对话的摘要」，并提供「继续」或「重新开始」两个选项——这种记忆感知的交互设计，极大降低了用户的重复沟通成本。从交互设计角度看，「继续」和「重新开始」的双选项体现了对用户自主权的尊重：系统不假设用户的意图没有变化，而是将决定权交还给用户——这在AI Agent设计中是一个重要的信任构建策略，避免了过度自动化可能带来的「失控感」。

现状与展望

说个细节，AT&T对这套系统的落地态度相当克制。分享者坦言，目前仍处于起步阶段——「我们只针对单一渠道、单一用例进行了推出（roll out）」。但路线图上有诸多令人期待的方向，包括**预测式主屏幕（predictive home screens）**以及前述的跨渠道协同。

预测式主屏幕的概念意味着App首页不再是静态的功能入口列表，而是根据用户当前的状态、历史行为和即将到期的合约等信号，动态生成最相关的行动建议。例如，当系统检测到用户的设备保修即将到期，或者有新的升级优惠匹配其使用画像时，首屏便会优先展示对应的个性化卡片——从「用户找功能」转变为「功能找用户」。这一理念在消费互联网中已有先例：Netflix的个性化首页、Spotify的Discover Weekly、以及抖音的推荐流都是「预测式界面」的体现。但在企业服务App中实现类似体验面临独特挑战：电信App的用户访问频率远低于社交/娱乐App，这意味着每次访问都必须高效传递价值；同时，错误的推荐（如向刚续约的用户推送换机广告）不仅无效，还会损害信任。因此，预测式主屏幕的成功实现高度依赖前述记忆系统的准确性——Agent需要精确理解用户当前所处的生命周期阶段，才能做出恰当的预测。

从「通用的咖啡师式服务」到「真正智能的销售Agent」，AT&T的实践给出了一个企业级AI落地的参考范本：它不追求炫技，而是聚焦于解决真实业务中的连续性、个性化与安全合规问题。对于关注AI Agent商业化的从业者而言，这套已在生产环境运行的方案，比任何概念演示都更具启示意义。

核心要点