相互作用 开源 GPT-3 模型发布,GPT-J-6B

开源 GPT-3 模型发布,GPT-J-6B

[优先研究团队 Seonghyun Kim] 正在开放许可下发布 GPT-3 模型的 Eleuther AI 团队最近发布了一个新的 GPT-3 模型,具有 6B(约 60 亿)参数。 (Link) 据说GPT-J-6B这个名字是因为使用了Mesh-tensorflow和JAX。训练数据大约是……