ChatGPT的炼成方式和在哈啰营销落地能力
Source :
mp.weixin.qq.com
Author :
王伟
ChatGPT是由OpenAI开发的大型语言模型，可以帮助我们解决很多日常生活中的事情，如更改错误、写小说、回答问题、翻译、写文案等。 Image Image GPT 的演进 GPT一共有三代，即GPT-1，GPT-2，GPT-3，目前非常火的ChatGPT是GPT-3.5。GPT-1诞生于2018年6月，比BERT略早几个月，层数为12层，词向量长度为768，训练参数量为1.17亿个，数据量为5GB；时隔半年之后，GPT-2诞生于2019年2月，训练参数量为15亿个，数据量为40GB；GPT-3诞生于2020年5月，训练参数量增长超过100倍至1750亿个，数据量达到45TB。
