DeepSeek发文收官开源周 首次披露理论利润率达545%
3月1日消息,DeepSeek于知乎开设官方账号,独家发布《DeepSeek-V3/R1推理系统概览》技术文章,首次公布模型推理系统优化细节,并披露成本利润率关键信息。
DeepSeeK文章写道:“DeepSeek-V3 / R1 推理系统的优化目标是:更大的吞吐,更低的延迟。”为实现这两个目标,DeepSeek的方案是使用大规模跨节点专家并行(EP),但该方案也增加了系统复杂性。文章的主要内容就是关于如何使用EP增长批量大小(batch size)、隐藏传输耗时以及进行负载均衡。
值得一提的是,文章还率先披露了DeepSeek的成本和利润率等关键信息。“假定GPU租赁成本为2美金/小时,总成本为$87,072/天。……如果所有 tokens全部按照DeepSeek R1的定价计算,理论上一天的总收入为$562,027,成本利润率545%。”
据了解,“DeepSeek开源周”自2月24日至2月28日,陆续开源最新技术进展。其中包括,FlashMLA、DeepEP、DeepGEMM和3FS四个开源项目,以及DualPipe、EPLB等代码库。
有业内人士认为,“DeepSeek开源周”的重要性已经超过了不久前OpenAI的发布会。DeepSeek用“量大管饱”的开源有力回击了欧美关于DeepSeek故意说低训练成本的说法,并且证明了在训练链路上存在极大的优化空间。
1月29日,APUS联合战略合作伙伴波形智能正式发布了共同研发的新一代中文创作大模型,并对APUS“萤火小说”产品进行了升级迭代。据了解,该模型是第一个专门为内容创作研发的大型语言模型,在小说写作、营销文案写作...
微软发布全新人工智能访问原则,公司迄今最大规模投资计划2月27日消息,在2024年世界移动通信大会上,微软总裁布拉德・史密斯(BradSmith)宣布了公司全新的人工智能访问原则(AIAccessPrinciples),这一原则将指导微软未来拓展人工智能领域的业务发展。史密斯在博客中写道:...
萨姆·奥特曼:人类水平的AI即将出现 但对世界的影响远比想象的小1月17日消息,当地时间周二美国人工智能初创企业OpenAI首席执行官萨姆·奥特曼(SamAltman)表示,达到人类水平级别的人工智能即将出现,但它对世界的影响远没有我们想象的那么大。奥特曼表示,人们总担心人工智能有...
OpenAI今年营收有望达到110亿美元 是去年近3倍2月21日消息,去年9月份时曾有外媒援引消息人士的透露报道称,在生成式人工智能方面走在行业前列的OpenAI,去年的营收预计为37亿美元,但将亏损50亿美元,预计今年的营收将激增至116亿美元。而对于OpenAI今年的营收...
苹果深耕 AI 领域,拟联手富士康在中国台湾生产 AI 服务器IT之家11月6日消息,据日经报道,苹果正与富士康讨论在中国台湾地区生产AI服务器,旨在增强AppleIntelligence设备(如iPhone16系列)的云端算力并抓住生成式AI浪潮。富士康主要以苹果iPhone代工厂而闻名,但其实这家...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...