“从数据监测看,还是细粒度资源管控以及显存和算力隔离的方案,只不过,这个系统对资源管控具有更细的粒度,极大的提高了gpu利用率。

“还有gpu共享组件……这个……”

……

就在张建与李工探讨x系统级智能插件可能的方案以及原理的时候,纪弘也正在家里绞尽脑汁的思考怎么跟程荟解释这其中的技术。

“所谓粒度资源管控,这么说吧,就像是在红绿灯路口,一般的智能红绿灯就可以做到根据车流控制信号灯各个方向的绿灯时间。

“这个方向车多,那就绿灯时间给长一点,这个方向车少一些,那就多等一会儿红灯,让一让,如此来最大限度的保证通过量。

“但在车流量都非常大的时候,这个控制时间其实并不好使,四个方向都堵车你怎么办?给谁分配绿灯的时间长才更合适?

“所以,现在我们的这ai的逻辑不一样,它计算的不是一个路口,而是整个城市交通网络,着眼的是全局,选择的是对于全市道路都有利的一种分配方案。

“gpu的调度其实原理一样,考虑全局比考虑局部从思路上就要更优,从而让全网络所有的运算链路最大化的畅通。”