字节跳动豆包大模型日均处理千亿Tokens,成本降低99.3%

98迷科 2024-05-15 260次阅读

5月15日消息,字节跳动今日正式发布其豆包大模型,并宣布大模型的价格已经进入“厘时代”,这一举措在科技界引起了广泛关注。

字节跳动火山引擎总裁谭待在发布会上详细介绍,豆包大模型经过一年的持续迭代和市场验证,已经成长为国内使用量最大、应用场景最丰富的大模型之一。其目前日均处理文本达到惊人的1200亿Tokens,同时生成3000万张图片。谭待强调,“正是这样的大规模使用,才让我们有可能打磨出更优质的模型,并且大幅降低模型推理的单位成本。” 令人瞩目的是,豆包主力模型在企业市场的定价仅为0.0008元/千Tokens,换算成人民币,仅需0.8厘便能处理超过1500个汉字,这一价格比行业普遍价格低了高达99.3%。

据ITBEAR科技资讯了解,豆包大模型原名为“云雀”,是国内首批通过算法备案的大模型之一。字节跳动基于豆包大模型已经成功打造了多款应用,包括AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”,以及星绘、即梦等一系列AI创作工具。同时,这些大模型也被广泛接入到抖音、番茄小说、飞书、巨量引擎等50余个业务中,极大地丰富了用户的使用体验。

字节跳动产品和战略副总裁朱骏表示,技术在不断进步,但用户的需求始终未变。字节跳动一直在探索如何找到最适合的大模型应用形态,以便为用户的生活和工作带来最大的便利。他透露,目前豆包应用上已有超过800万个智能体被创建,月度活跃用户高达2600万,这一数字足以证明豆包大模型受到了用户的热烈欢迎。

为了满足不同企业的多样化需求,豆包大模型提供了一系列具有多模态能力的模型,包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等九款模型。谭待认为,降低成本是推动大模型进入“价值创造阶段”的关键因素。他举例说,以豆包通用模型pro-32k版为例,其模型推理输入价格仅为0.0008元/千Tokens,而市场上同类模型的定价通常是其150倍。

此外,字节跳动还宣布与多家企业和机构建立合作关系,共同推动大模型在不同领域的应用。这包括与中国电动汽车百人会及多家汽车制造商成立汽车大模型生态联盟,以及与多家智能终端制造商成立智能终端大模型联盟,进一步扩大了豆包大模型的应用范围。

谭待最后表示,大模型的降价不应仅限于提供低价的轻量化版本,主力模型和最先进的模型也需要保持亲民价格,这样才能真正满足企业复杂业务场景的需求,充分验证大模型的应用价值,从而推动创新并超越现有的产品和组织模式。


标签: 豆包  日均  字节 


发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。