字节跳动火山方舟大模型平台向个人开发者开放,提供 50 万 tokens 免费推理额度
火山方舟上的豆包全系模型都将为个人用户提供 50 万 tokens 的免费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户提供了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。
免费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元 / 千 tokens。哈迈百科附定价表如下:
个人开发者需要在火山引擎官网上完成个人实名认证。完成实名认证后就可以从火山方舟 / 豆包大模型官网进入到火山方舟控制台。
接下来就可以在模型广场中查看目前火山方舟所提供的各类大模型,个人开发者可通过模型卡片查看模型名称、简介、提供方、是否可体验以及应用场景。
在选定模型后,开发者还可以利用火山方舟所提供的控制台页面操作或通过 API 调用的方式进行模型体验及模型对比。具体方式如下:
在完成体验以后,个人开发者就可以根据自身的实际需求,调用相应的模型,并完成推理等工作:
此外,个人开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调。