如果一款游戏能预测它的下一次内存访问会怎样?AI预取与卡顿的未来

游戏引擎已经知道玩家、摄像机和世界将去向何处。研究表明,学习式GPU预取能够预测内存页。如果将这些想法结合起来会发生什么?
已发布:
Aleksandar Stajic
已更新: 2026年10月18日 18:01
如果一款游戏能预测它的下一次内存访问会怎样?AI预取与卡顿的未来

游戏很少能确切知道未来,但它对接下来几帧的了解远多于通用应用程序。它知道摄像机向量、玩家速度、可见单元格、附近传送门、资源依赖关系、动画状态,而且通常知道接下来可能运行哪些着色器或效果。这使得游戏成为预测性内存管理的一个异常有趣的目标。

首先将内存卡顿与其他卡顿区分开

看起来相似的卡顿来源

内存/数据路径其他路径
快速内存中缺少资源可能存储或解压缩也可能涉及
着色器未就绪可能涉及缓存编译/管线创建可能是真正原因
CPU模拟峰值缓存/内存行为可能有贡献游戏逻辑或绘制调用工作可能占主导
在线卡顿通常不是主要原因服务器或数据包时序可能占主导
驱逐/驻留压力直接相关仅从分配计量器可能误诊

预取已经存在;新问题是如何预测

传统预取试图在处理器明确请求数据之前移动数据。硬件预取器利用访问模式。引擎在玩家到达世界单元格之前流式传输它们。操作系统和运行时保持可能需要的页面热。困难的部分是错误预测:预取太少仍然会卡顿;预取太多会浪费带宽并驱逐有用数据。

基本的预取权衡

1
观察
收集最近的访问、世界状态和工作负载上下文。
2
预测
估计接下来需要哪些页面/资源/着色器。
3
移动
在需求之前传输或使这些资源驻留。
4
使用
如果预测正确,GPU无需等待即可消耗资源。
5
纠正
驱逐错误预测并更新模型/策略。

已有研究证据表明学习型GPU预取可行

一项关于基于深度学习的CPU-GPU统一虚拟内存预取的已发表研究使用Transformer建模全局内存访问上下文,然后推导出更轻量的预测器。在11个内存密集型基准测试中,论文报告相比对比框架性能提升10.89%,设备内存页面命中率为89.02%对76.10%,CPU-GPU互连流量降低11.05%。

研究结果报告值支持什么不证明什么
学习型UVM性能+10.89%学习型访问预测可以超越先前的UVM预取基线商业游戏获得10.89% FPS提升
UVM页面命中率89.02% vs 76.10%预测可以实质性地改变请求数据所在位置每个游戏纹理/页面都同样可预测
CPU–GPU互连流量−11.05%更好的放置可以减少反应性移动游戏中PCIe流量总是下降
AAAI注意力内核效率2.15×预取可以将昂贵的内存访问隐藏在有用的计算后面游戏内核获得2.15×
AAAI端到端吞吐量高达1.97×延迟隐藏可以传播到单个内核之外1.97×游戏帧率倍增器

学习型UVM研究有用,因为它从内存行为预测页面访问可能是什么。2026年AAAI KV缓存工作有用的原因不同:它表明调度器可以利用原本空闲的带宽窗口来决定何时在需求之前将数据移入更快的缓存。它们共同支持Figure Rocks假设中的两个独立机制——预测和时机——尽管两篇论文都不是游戏基准测试。

游戏拥有通用预取器没有的额外信息

预测性游戏内存循环

1
1. 读取确定性状态
摄像机方向、位置、速度、关卡图、可见性、动画、任务或遭遇状态。
2
2. 读取访问历史
最近使用了哪些纹理页面、网格、着色器、几何集群和模型数据。
3
3. 预测近期工作集
根据成本估计未来几帧或几秒可能需要的资源。
4
4. 分配置信度和成本
95%可能的4 MB资源与20%可能的2 GB区域是不同的决策。
5
5. 在带宽预算内预取
不要让预测本身饱和当前渲染所需的路径。
6
6. 测量未命中和污染
跟踪避免的卡顿、错误预测和被驱逐的有用数据。
7
7. 适应
根据实际场景和玩家行为更新预测器或引擎策略。

引擎可以将已知的未来与预测的未来相结合

确定性知识与学习型预测

引擎已知预测器可估计
相机 / 传送门状态当前视图、视锥体、房间图、可见传送门玩家接下来可能转向的方向
玩家移动速度、输入、导航约束未来几个时刻可能的行进路径
资产依赖已知关卡单元或对象的依赖关系哪些可选邻近资产将变为热点
LOD 状态当前距离和阈值哪些 LOD 转换可能很快发生
材质/着色器图已知可见内容所需的着色器接下来可能请求哪些变体
核心优势掌握硬性关卡规则、依赖关系和保证的转换根据行为和上下文对模糊的未来访问进行排序
失败模式可能过于保守并加载大量集合可能出错并污染缓存或内存
最佳用途关键资产和保证的转换在有界带宽预算内进行可选优先级排序
安全策略易于推理和测试需要置信度阈值、遥测和确定性回退

一个简单示例:跑向一扇门

想象一个玩家沿着走廊冲刺,跑向一扇通向密集集市广场的门。传统的流式系统已经知道下一个区域,并可以开始加载它。预测性内存增加了第二层:基于相机方向、移动、先前的玩家选择和当前任务状态,它可以对哪些纹理、NPC 动画数据、着色器和几何体子集最有可能首先被需要进行排序。

为什么随着神经渲染的发展,这可能更加重要

神经图形增加了新的数据类别:模型权重、潜在或压缩表示、历史缓冲区和中间张量。如果这些资源与纹理和几何体竞争,驻留管理将变得更加复杂。预测性调度不仅可以决定移动哪个资产,还可以决定保留哪种表示:原始数据、压缩的神经表示或可重建的形式。

失败模式与机遇同样重要

预取不是免费的。错误的预测可能会获取玩家永远不会看到的资源,驱逐有用的页面,并与帧关键流量竞争。因此,正确的目标不是最大预取;而是在有界带宽和驻留预算内实现最大有用命中率。

失败模式会发生什么缓解思路
错误预测预取了错误的数据置信度阈值;为确定性需求预留预算
缓存污染有用的当前数据被驱逐分离预测驻留类和受保护驻留类
带宽争用预取从当前帧窃取带宽仅在余量窗口调度;强制执行每帧预算
行为变化玩家转身或快速旅行低成本取消和快速回退
模型开销预测器成本高于节省小模型、离线训练或规则衍生的轻量预测器
非内存卡顿问题仍然存在保持诊断分离:着色器、CPU、网络和存储路径需要各自的测试

如何在真实引擎中测试它

预测性内存评估

1
A. 建立基线
在没有预测的情况下捕获帧时间尖峰、页面错误/迁移、驻留未命中和数据传输量。
2
B. 仅添加确定性预取
测量传统引擎知识已经解决了什么。
3
C. 添加学习型排序
使用相同的内存和带宽预算,以便比较公平。
4
D. 测量命中率和污染
跟踪有用的预取字节与浪费的字节和驱逐。
5
E. 测量帧时间分布
平均 FPS 不够;检查尾部延迟和卡顿频率。
6
F. 压力测试行为变化
快速转身、传送、多人游戏不可预测性和程序化场景。
7
G. 比较成本
预测器 CPU/GPU 时间 + 内存开销必须低于它消除的停顿。

这个假设的局限

预测性内存无法使过小的内存池无限大。它无法创造带宽。它无法通过猜测下一个纹理来修复着色器编译卡顿。当玩家的未来有意不可预测,或者引擎已经拥有近乎完美的确定性流式信息时,它的用处就会降低。

与通用 AI 架构的轻微联系

更深层的模式类似于游戏之外的检索系统:系统不应获取所有内容,也不应等到最后一刻才发现缺少上下文。它需要一个触发器、一个候选集、一个排序策略和一个有效性边界。游戏只是施加了更严格的延迟预算。

主要来源

基于深度学习的CPU-GPU统一虚拟内存数据预取

研究报告了在11个内存密集型基准测试中学习型UVM页面预取的结果。

AAAI 2026 — 异步KV缓存预取

2026年发表的证据,支持主动利用空闲内存带宽和L2缓存预取。

预测性游戏内存

AI预取已经是游戏引擎的标准功能了吗?

在此提出的特定Figure Rocks架构中并非如此。游戏已经使用了多种形式的预取和预测性流式加载;该假设是将确定性游戏状态与学习型GPU内存预测相结合。

这会提高RAM或VRAM的速度吗?

不会。它旨在改善数据移动的时机和内容,使处理器等待更少。

它能消除卡顿吗?

不能。它只能解决在预测足够准确时由数据可用性/驻留引起的停顿。

为什么游戏可能是好的预测目标?

因为引擎暴露了关于摄像机、关卡拓扑、资产、动画和可能可见性的结构化信息,而通用应用程序不具备这些。

哪个指标最重要?

不是单一指标。有用的评估需要页面/资源命中率、带宽开销、缓存污染和帧时间尾部延迟。

预测性内存术语

预取
在明确需求之前移动或使数据可用。
驻留
将资源保持在内存中,距离处理器足够近,以便无需昂贵的传输即可使用。
缓存污染
用最终不需要的预取数据替换有用数据。
预测性游戏内存
Figure Rocks假设,结合确定性引擎状态、学习型预测、预取和可测量的驻留策略。

Related Articles

体验至上:为何游戏感受胜过硬件参数(一种价值标准)

互联网售卖的是数字,玩家感受的是时机。这是一个实用的价值标准:体验为先,稳定其次,随后才是装备与价格。

为什么AI正在重塑游戏内存:HBM、GDDR、VRAM与容量之争

为什么AI正在重塑游戏内存:HBM、GDDR、VRAM与容量之争

现代游戏背后的内存问题不再仅仅是GPU需要多少千兆字节。AI基础设施正在改变供应商优先考虑哪些内存产品,以及消费者买家能负担多少。

游戏基准设置:帧生成时间、可变刷新率与延迟(PC与主机)

一个实用的基准,让你在购买任何东西之前感觉更好:稳定的帧率同步、正确的可变刷新率(VRR),以及为PC和游戏机降低的延迟。

游戏显示器:真正提升体验的关键因素

在真实游戏中展现形态清晰度与延迟,超越多数升级。了解关键要素:动态表现、VRR行为、处理效能与舒适度。

在神经渲染时代,“面向未来”的游戏硬件意味着什么?

在神经渲染时代,“面向未来”的游戏硬件意味着什么?

过去,面向未来意味着购买比当下所需更多的 CPU、GPU 和 VRAM。神经渲染让这条规则变得不那么可靠。这里有一个更好的决策框架。

Google I/O 2026 与游戏:AI、XR 以及下一波收藏品浪潮

Google I/O 2026 与游戏:AI、XR 以及下一波收藏品浪潮

Google I/O 2026并非一场典型的游戏活动,但其AI、XR、Gemini、Google Play和创意工具方面的公告指向了游戏文化的一次明显转变。本文解释了AI发现、XR伴侣层、Gemini驱动的媒体以及更快的角色可见性可能如何塑造游戏、手办、收藏品和未来的粉丝生态系统。

游戏中的QoS迷思:哪些有益,哪些有害,以及真正的优先级

QoS并非一个神奇的“游戏”开关。良好的队列管理能在负载下降低延迟,而糟糕的QoS则会增加抖动或破坏公平性。以下是理解这一概念的稳定思路。

所有兼容amiibo的游戏——奖励与游戏玩法整合完整概览

amiibo手办可与Wii U、任天堂3DS及任天堂Switch平台上的众多任天堂游戏互动。不同游戏中的附加价值各有差异:有时奖励仅为外观装饰,有时则会直接影响游戏玩法。以下将按游戏平台分类,系统梳理兼容作品及扫描手办可解锁的核心内容。

游戏引擎正逐渐演变为部分渲染器、部分调度器、部分AI系统

游戏引擎正逐渐演变为部分渲染器、部分调度器、部分AI系统

游戏引擎过去用于编排模拟与渲染。神经图形、预测性内存和游戏智能体正在增加第三项职责:决定推理在帧和游戏状态中的位置。

Pre-Order Alert: Good Smile Company Figma Doom: The Dark Ages – Doom Slayer DX Edition

Pre-Order Alert: Good Smile Company Figma Doom: The Dark Ages – Doom Slayer DX Edition

The new Good Smile Company Figma Doom: The Dark Ages Doom Slayer DX Edition is more than a routine figure drop. It connects collector demand, franchise identity, and the wider appeal of Doom as one of gaming’s most durable icons.

主机与PC显示器设置:简洁稳定的方法

主机与PC需要不同的显示优先级设置。本指南旨在规避常见误区,确保动态画面与延迟表现保持稳定一致。

游戏舒适度:预防疲劳的人体工学设计(长时间游戏,无痛体验)

舒适即是性能。掌握一套实用的工效学基准,涵盖座椅、桌面、显示器及操控设备,以减轻疲劳,确保长时间操作中的持久稳定性。