大模型时代的可观测性正经历从“服务业务”到“服务AI”再到“自身智能化”的范式转变。小红书的实践展示了如何通过智能体和AIOps应对AI基础设施的异构挑战与应用复杂性，实现GPU故障诊断和全链路监控，这不仅是保障AI系统稳定性的核心，更是推动AI规模化落地的关键技术支撑，预示着AI系统自我诊断与优化的未来图景。

随着大模型应用日益普及，传统可观测系统面临高基数数据爆炸、实时性不足等挑战。火山引擎通过对Prometheus的深度优化，如预聚合、分片查询和实时缓存等技术，显著提升了AI大模型可观测系统的稳定性与性能，并降低了推理延迟。此举不仅展示了云服务商在AI基础设施领域的战略竞争，更揭示了未来AI系统走向高度自我管理与智能运维的演进趋势。