美国康卡斯特正与英伟达合作，测试直接运行在其网络边缘的下一代AI应用程序，此举旨在将AI处理更贴近终端用户，并降低延迟。
该美国运营商表示，此次实地测试将利用部署于康卡斯特的分布式网络基础设施内的英伟达图形处理器（GPU），评估当AI工作负荷在距离家庭和企业更近的区域设施中处理时的表现。
康卡斯特的网络目前覆盖美国约6500万户家庭和企业。该公司认为，其分布式架构能够为实时AI推理提供平台，即将计算资源放置在更靠近客户的地点，而非依赖于遥远的数据中心。
康卡斯特公司首席网络官埃拉德·纳夫希表示，这一举措反映了向分布式AI基础设施转变的趋势日益明显。
“行业正朝着更分布式的AI基础设施方向发展，而康卡斯特如今运营着一个能够支持它的网络，”他说，“通过将英伟达GPU直接引入我们的边缘云，我们能够探索当AI推理距终端用户只有毫秒级的时间内出现时，会发生什么样的情况。”
此合作旨在测试基于边缘的AI处理如何能够为消费者和企业带来更快速、更积极反应的数字服务。
最初的用例包括一个个性化的广告引擎，该引擎利用Decart的AI视频模型在家庭层面定制视频广告。康卡斯特表示，这能够根据诸如语言或观看偏好等因素量身定制广告。
第二个应用是一款针对小型企业的AI驱动服务台工具，它使用Personal AI运行于惠普ProLiant服务器上的小型语音模型平台。该系统能够管理客户咨询、安排预约以及日常互动。
双方还在测试基于边缘的GPU计算对在线游戏的影响，在这种情况下，降低延迟能够提高响应能力和游戏性能。这项工作是基于康卡斯特此前为支持诸如NVIDIA GeForce NOW等服务而部署的低延迟技术。
英伟达公司AI及电信高级副总裁罗尼·瓦西斯塔表示，分布式AI基础设施为网络运营商带来了重大机遇。
“通过将智能AI推理技术引入网络边缘，康卡斯特能够提高成本效率，并在大规模并发的情况下为客户提供低延迟的体验。”
康卡斯特公司表示，这些试验将评估其网络覆盖范围内的延迟改善情况、能耗及成本效率、抗风险能力、可扩展性以及整体用户体验。
双方还将探索更多机会，包括AI增强广告、为小型企业提供的新服务、高价值低延迟游戏层级，以及可能的第三方边缘计算服务。