09SFDX
当前位置: 苏州都市网 -> 财经

集邦咨询:ChatGPT运行需要3万块A100显卡,英伟达可从OpenA

时间:2023-03-07 08:41   来源:IT之家   阅读量:12677   

,市场调查机构 TrendForce 集邦咨询公布的最新报告指出,如果以英伟达 A100 显卡的处理能力计算,运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。

调查机构 TrendForce 在报告中指出,预估 ChatGPT 需要 20000 块显卡来处理训练数据。随着 OpenAI 继续在商业上部署 ChatGPT 和该公司的生成式 GPT 模型,可能需要超过 30000 块显卡。

目前英伟达 A100 显卡的售价在 10000-15000 美元之间,该售价取决于 OpenAI 需要多少显卡,以及英伟达是否会为 AI 公司提供订单折扣。TrendForce 预估英伟达可以赚取超过 3 亿美元收入。

英伟达还将 A100 作为 DGX A100 系统的一部分进行销售,该系统具有八个加速器,售价高达 199,000 美元。鉴于 OpenAI 的运营规模,该公司可能会单独购买 A100 并将它们堆叠成集群。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。