摘要:AI回答变慢,不一定是它在认真思考,也可能是背后的某个零件拖了后腿。英伟达刚发布的Minerva,想帮机房人员从一堆报警里找出真正的问题,让昂贵的机器少一些等待、多干一点正事。

AI生成主题示意,非实物、实验现场或软件截图。
AI生成主题示意,非实物、实验现场或软件截图。

AI回答变慢,不一定是它在认真思考,也可能是背后的某个零件拖了后腿。英伟达刚发布的Minerva,想帮机房人员从一堆报警里找出真正的问题,让昂贵的机器少一些等待、多干一点正事。

文|最极客

让AI生成一份文档,进度条突然不动了。你可能检查网络,也可能再点一次发送。可是问题并不一定出在你手里的手机,有时发生在远处那间你永远不会走进去的机房。

10月22日,英伟达正式发布Minerva,面向大型AI计算设施的运维工作。它不是又一个给大众聊天的模型,而是尝试让管理这些机器的人更早发现异常、更快弄清异常来自哪里。

需要区分两个时间点:合作方Lambda在10月21日的公告中已经提到部署计划;10月22日新增的是英伟达以正式发布公告介绍平台及其能力。本文报道后者,不把此前的预告重新算成首次曝光。

这里的“AI工厂”没有流水线上搬纸箱的机器人。它主要是一大批计算、网络和存储设备,协同训练模型或提供AI服务。名称听起来很宏大,日常麻烦却相当朴素:设备会出问题,任务会等待,报警还可能同时响起来。

这次新发布的核心,是把原本分散的运行信号和实际计算任务联系起来。它想回答的不是简单的“有多少红灯”,而是“这盏红灯正在影响谁,最值得先查哪里”。

好几个人一起抬桌子,最慢的那位很关键

为什么一个部件异常,可能拖累更大范围的工作?可以借用一个不完全精确、但容易理解的比喻:几个人一起搬一张大桌子,不能各走各的。有人停下来,其他人也可能不得不等。

大型模型计算中的一些环节同样需要相互交换信息。单个计算设备很强,并不意味着整个协作过程一定顺畅。数据传得慢、资源没就绪,都可能让原本能计算的设备暂时等着。

这个比喻也有边界。不是所有AI任务都按同一种方式协同,更不能仅凭用户感觉慢,就断定机房出了故障。请求排队、输入太长、网络状况等因素,也都可能影响等待时间。

运维人员的工作,就是把这些可能性逐步区分开。困难在于,计算、网络和任务调度往往各有各的监测数据,单看其中一项,很容易只见到症状。

示意为排查思路,不是某次真实故障。
示意为排查思路,不是某次真实故障。

好比家里突然没水,你知道水龙头没出水,却还不知道是阀门关了、楼里停水,还是水管出了问题。“没水”是现象,不是原因。机房里的报警,也有类似区别。

把分散的线索放回同一张地图

按照英伟达的产品说明,Minerva会关联硬件、网络、调度与工作负载的运行信息,并建立动态关系图。白话说,就是记录设备和任务之间的联系,再沿着联系寻找可能的故障源。

假设几个任务在相近时间变慢,又恰好依赖同一处连接,排查就可以优先检查这个交集。这是理解关联排障的假设例子,不是官方公布的一次客户故障案例。

关系图的用处,正在于让零散变化有了上下文。温度升高本身未必足以判定故障;它发生在哪台设备、和什么负载同时出现、有没有伴随其他异常,才决定该怎样解释。

平台还提供自然语言交互,让人员用对话方式调查运行状态。重要的并不是把图表包装成聊天框,而是回答要能够接上实际运行证据,否则一句流畅的猜测,只会给排障再添一道工序。

这和让通用聊天机器人“猜猜我的电脑为什么坏了”不同。没有真实日志和设备关系,再聪明的模型也只能列可能性;接入数据之后,才有条件把建议落到具体检查对象上。

AI给出线索,人或受控流程负责验证。
AI给出线索,人或受控流程负责验证。

自动建议,不等于可以闭眼执行

产品说明允许人员保留人工处理,也可以通过接口连接自动化流程。这两种模式不能混为一谈:给出建议、获准执行、执行成功,是三个不同状态。

例如,一条建议若涉及暂停任务或改变资源安排,可能影响其他正在运行的工作。实际采用什么权限、怎样审批、如何撤回,仍需要运营方根据自己的系统设计。

从普通读者角度看,这条消息有一个容易忽略的知识点:AI服务的进步,不只来自模型回答更聪明。后台资源能否稳定运行,也决定了产品是否好用。聪明的大脑,也需要不掉链子的工作环境。

合作方Lambda在自己的公告中表示计划部署Minerva。这里的关键词是“计划”,不能直接写成已经全面运行。英伟达也列出了使用与计划采用的合作方,但不同阶段需要分开理解。

目前看到的功能和效益描述,主要来自厂商与合作方。公开材料没有给出一套可用于普遍保证的独立对照结果,我们不能据此说所有机房都能减少某个固定比例的停机时间。

判断这类工具,真正值得追问的是:漏掉了多少问题,发出了多少无效警报,定位之后是否缩短了恢复时间?数据覆盖不完整、系统环境变化,都可能让推断偏离实际。

它也不会替普通用户修手机,更不能承诺下一次聊天一定更快。它服务的是后台团队,对用户的影响要经过部署、运营和产品环节才能体现出来。

不过,这个方向有实在的价值:不只是继续添置更多机器,也让已有机器更可靠地完成工作。比起又认识一个新缩写,我们更该记住的是,AI并不悬浮在云上,它同样需要接线、散热,以及认真负责的修理工。

最极客已入驻
最极客已入驻