估算gpt3 api成本
DoyouknowhowmuchGPT3APIwillitcost?
你知道多少会GPT3API费用?
Aroughcalculationtellsmeitcangoamaximumof790requests/$.
粗略的计算告诉我,它最多可以处理790个请求/$。
GPT3isprettyhuge(175Bparameters=700GB)andyouknowhowcostlyGPUinferencescanbe.Evenifwefindausecaseforit,westillneedtojustifytheROI.TherearemanyblogsonthepotentialapplicationsbutIhaven’tfoundanythingonitspricing.
GPT3非常庞大(175B参数=700GB),并且您知道GPU推理的代价是多么昂贵。即使我们找到了用例,我们仍然需要证明ROI的合理性。关于潜在应用程序的博客很多,但我对其价格一无所获。
Let’strytoguessitwiththefundamentalsofcloudpricing.
让我们尝试用云定价的基本原理来猜测。
Note:YoucanusethismethodologyforcalculatingtheAPIcostforanymodel.PeoplealsoliketouseAWSTCO(Totalcostof