ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

北京时间4月21日上午，有消息称，芯片行业研究公司SemiAnalysis首席分析师迪伦·帕特尔(Dylan Patel)表示ChatGPT运行在昂贵的计算基础设施上，而OpenAI可能每天在运行ChatGP T上花费高达70万美元

Patel指出ChatGPT需要巨大的计算能力来根据用户的输入信息做出反馈，包括写求职信、生成教学计划、帮助用户优化个人数据等。“大多数成本来自昂贵的服务器，”他说。

另外，帕特尔最初的估计是基于GPT-3 OpenAI，采用最新的GPT-4模型，那么ChatGPT现在的操作成本可能更高。

OpenAI尚未对此做出回应。

Patel和SemiAnalysis的另一位分析师Afzal Ahmad表示，人们已经注意到，训练ChatGPT背后的大语言可能需要数亿美元，但运营费用，或人工智能推断成本在任何合理的部署规模下。他们指出:“事实上，以一周为单位，T的推理ChatGP超过了训练成本。”

在过去的几年里，使用OpenAI 模型语言的公司也付出了高昂的代价。创业公司Latitude开发了一款地牢游戏人工智能，可以根据用户输入的信息生成故事情节。该公司首席执行官尼克·沃尔顿(Nick Walton)表示，运行这个模型以及相应购买亚马逊AWS云服务器的成本将在2021年达到每月20万美元。因此，沃尔顿最终决定转投AI21实验室支持的语言软件提供商。这帮助他将公司的人工智能成本减少了一半，降至每月10万美元。

沃尔顿在采访中说:“我们会开玩笑说，我们有人类员工和人工智能员工，我们在这两类员工身上花费的成本差不多。我们每个月在人工智能上花费几十万美元，而且我们不是一家大型创业公司，所以这是一笔巨大的开支。”

最近有消息称人工智能模型为了减少创成式成本的运算，正在研发一款代号为“雅典娜”的人工智能芯片。该项目始于2019年。几年前，微软和OpenAI达成了一项10亿美元的投资协议，要求OpenAI只能在微软的Azure云服务器上运行其模型。

微软启动这个芯片项目背后有两点考虑。据知情人士透露，微软高管们意识到，他们在开发自己的芯片方面落后于谷歌和亚马逊。与此同时，微软正在寻找一种更便宜的方案来替代NVIDIA的GPU芯片。

目前，微软大约有300名员工在开发这款芯片。消息人士透露，该芯片最早可能在明年发布，供微软和OpenAI内部使用。微软拒绝对此消息发表评论。

以上就是小编给大家带来的ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本的全部内容了，如果对您有帮助，可以关注officeba网站了解后续资讯。