近三个月 ChatGPT 方兴未艾,昨日凌晨 OpenAI 趁势发布多模态预训练大模型 GPT-4 ,其能力的升级和应用的拓展又一次引爆国内外网络。腾讯算法工程师冉昱将通过10问10答的形式,分享其个人对于 GPT-4 技术能力、特点及应用等的理解。欢迎阅读!
2022年11月30日,OpenAI 发布了其最新的聊天机器人模型 ChatGPT。腾讯云开发者先后从其玩法体验、技术原理、上手方法和竞品洞察几个方面进行解读,并邀请腾讯前沿科技研究中心主任王强畅聊 ChatGPT 最受关注的问题(如果你对相关内容感兴趣,可点击一键跳转阅读)。然而,ChatGPT 成为现象级火爆技术之作的背后,是常年累月的技术积累和灵敏迭代。此次我们邀请腾讯 NLP 工程师张先礼深度解析 ChatGPT 进化历程——GPT 各代有何区别、如何演进?其现有能力有什么不足?未来将会有什么发展方向?欢迎各位开发者阅读、分享与交流 ChatGPT 神话的缔造之路。
ChatGPT是由OpenAI开发的大型语言模型,可以帮助我们解决很多日常生活中的事情,如更改错误、写小说、回答问题、翻译、写文案等。 Image Image GPT 的演进 GPT一共有三代,即GPT-1,GPT-2,GPT-3,目前非常火的ChatGPT是GPT-3.5。GPT-1诞生于2018年6月,比BERT略早几个月,层数为12层,词向量长度为768,训练参数量为1.17亿个,数据量为5GB;时隔半年之后,GPT-2诞生于2019年2月,训练参数量为15亿个,数据量为40GB;GPT-3诞生于2020年5月,训练参数量增长超过100倍至1750亿个,数据量达到45TB。
2 月 7 日,微软 CEO Satya Nadella 在发布会上宣布,发布 ChatGPT 版搜索引擎 New Bing。发布会上 Nadella 称,"It's a new day for search... The race starts today" ,可以看出微软对其 Bing 搜索引擎的全面改革战略意义重大。必应目前仅占全球搜索量的 3%,而谷歌则占 93%,微软难得的机会来宣称技术优势,因为搜索市场面临多年来的首次重大变化,利用集成 ChatGPT 技术,对谷歌在搜索引擎市场长达 20 年的主导地位发起了前所未有的挑战。
2022 年是科技圈艰难的一年,很少有振奋人心的消息。惊喜的是年底 OpenAI 开放的 ChatGPT,一下点燃了整个科技圈,体验后感觉有点像人脑,智能化程度惊艳。 曾经我和朋友常调侃人工智能就是“有多少人工,就有多少智能”,ChatGPT 打破了这种印象。这里少有“人工”的痕迹,更像是“人脑”。AI 就像从远处开来的火车,听腻了每年总有人说它来了、要来了、真的要来了,这一次感觉它从我旁边呼啸而过~ 春节期间我围绕 ChatGPT、编程语言、大数据、前端 听了很多播客 Podcasts,脑海里一直在想,如此强大的 AI 能力,会给工作带来什么变化?作为工程师,工作机会是否会面临来自 AI 的威胁或者替代,我们应该如何在工作中更好地使用 AI?以下是我的观察和理解,本文不是硬核的 AI 技术解读,更多是从产品和应用角度阐述,我会先分享4个我认为内容较好的外部输入,然后是个人观点探讨。