英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗

在今天的 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰指出,全球数据中心计算问题存在两个重要趋势。

英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗

首先,人们对人机交互的期望提高,引发了全球第二波关于大模型的投入浪潮。其次,许多互联网公司面临用户需求增长和功耗增加的问题,尤其是人工智能的大模型访问比例增加,需要更多的能耗投入。因此,英伟达提出将任务负载从CPU移至GPU,以支撑更多的用户请求,并节省更多的能耗。

据了解,目前,AI GPU 市场主要由英伟达和 AMD 主导,但在用于推动像 ChatGPT 这样的大型语言模型(LLM)的 AI GPU 方面,英伟达占据了 90% 以上的市场份额。

郑重声明:本文内容及图片均整理自互联网,不代表本站立场,版权归原作者所有,如有侵权请联系管理员(admin#wlmqw.com)删除。
用户投稿
上一篇 2023年7月7日 18:21
下一篇 2023年7月7日 18:21

相关推荐

联系我们

联系邮箱:admin#wlmqw.com
工作时间:周一至周五,10:30-18:30,节假日休息