ChatGPT到底是什么?科普指南

这篇推文是科普性质的!

我将在这里尝试解释清楚 ChatGPT 到底什么。

对于非常了解和非常熟悉 ChatGPT 的朋友,这篇推文您可以跳过不看!

ChatGPT 在全球互联网上制造了一场人工智能风暴。

ChatGPT是什么?

ChatGPT是由OpenAI开发的一个人工智能聊天机器人程序,

于2022 年 11 月 30 日公开测试,到现在才2个多月。

ChatGPT是由总部位于旧金山的公司 OpenAI构建。该公司负责创建GPT-3和DALL-E2 等软件。 

ChatGPT 程序使用基于GPT-3.5架构的大型语言模型(LLM),并通过强化学习进行训练。

它的名字是由2部分组成的:

前面的 Chat 就是聊天的意思。

后面的GPT是英文 Generative Pre-trained Transformer 的首字母缩写,生成式预训练Transformer模型。

简单地说,ChatGPT是一个聊天机器人程序,它可以理解人类输入的文字,并根据文字的提问和指令,以文字的方式输出答案和反馈,从而实现借助自然语言的人机对话。

ChatGPT能干什么?

ChatGPT是一款基于自然语言处理(NLP)的聊天机器人技术,它可以理解用户的意图,并生成相应的回复;不仅如此,它还可以可以根据用户的历史对话,实现多轮次的对话式交流,自动生成更准确的回复;根据客户的输入,自动提供智能推荐,还可以提供相关信息,以帮助用户解决问题。

在这个一个核心功能基础上,ChatGPT可以基于文字实现诸多智能型任务。在以前的推文《拳打程序员,脚踢搜索引擎?》自留地君曾结合自己的实际体验,介绍过 ChatGPT 的功能。

ChatGPT 推出之后,数以百万计的人工智能迷,夜以继日地测试和挑战 ChatGPT,而实际上,这种海量的挑战和使用,实际上变成了对这个大型语言模型的再训练,从而也提升了它的“武功”。

由于 ChatGPT 推出至今仅有2个月时间,它依旧还在快速发展过程中。其应用模式和场景也在不断地发展和挖掘过程中。

对于教育工作者而言, ChatGPT可以帮助教师备课、准备设计和制作教学材料、获取教学活动设计的思路、个性化回应学生的问题等等。

ChatGPT的发展历程

前几天,图灵奖得主,著名人工智能专家Yann LeCun公开和大热趋势“唱反调”,瞬间引发网友围观。

最近,在ZOOM 的媒体和高管小型聚会上, LeCun发表了这些观点。

LeCun 在谈到他对 ChatGPT 的看法时,从技术专家的角度,他认为ChatGPT的火热是公众对技术缺乏认知。

在他看来,ChatGPT 既没有特别的创新,也不具备革命性,OpenAI推出的这款应用工具只是把已有的研究变成了工程应用。

一石激起千层浪。

有人认同 LeCun的观点,有人说 LeCun柠檬精。

这里我们不参与评判,也无力评判 LeCun的观点是否精准。我们可以一起来回顾一下 ChatGPT发展的里程碑。

2017年6月,Google发布论文 Attention is all you need,首次提出Transformer模型,成为GPT发展的基础。

论文地址:https://arxiv.org/abs/1706.03762

2018年6月,OpenAI 发布论文《通过生成式预训练提升语言理解能力》(Improving Language Understanding by Generative Pre-Training),首次提出GPT模型(Generative Pre-Training)。

论文地址:https://paperswithcode.com/method/gpt

2019年2月,OpenAI 发布论文《语言模型是一个无监督多任务学习者》(Language Models are Unsupervised Multitask Learners),提出GPT-2模型。

论文地址: https://paperswithcode.com/method/gpt-2

2020年5月,OpenAI 发布论文《语言模型应该是一个少量样本学习者》(Language Models are Few-Shot Learners),提出GPT-3模型。

论文地址:https://paperswithcode.com/method/gpt-3

2022年2月底,OpenAI 发布论文《使用人类反馈指令流来训练语言模型》(Training language models to follow instructions with human feedback),公布Instruction GPT模型。

Instruction GPT是基于GPT-3的一轮增强优化,所以,也被称为GPT-3.5。

论文地址:https://arxiv.org/abs/2203.02155

2022年11月30日,OpenAI发布ChatGPT模型。

现在,人们常提及的ChatGPT 可以理解为一个多轮迭代训练后的InstructionGPT,并在此基础上增加了Chat对话聊天功能。

ChatGPT 的一组统计数据

Chat GPT 于2022 年 11 月 30 日推出。 

ChatGPT的新改进嵌入模型于 2022 年 12 月 15 日推出。 

ChatGPT 在发布后的一周内已突破100 万用户。 

OpenAI 从微软那里获得了10 亿美元。 

ChatGPT 的训练在 2021 年停止,因此,它只能获取 2021 年之前的数据。 

Microsoft Azure 支持 OpenAI并为它们提供运行 ChatGPT 所需的计算能力。 

ChatGPT 所有者 OpenAI 预测,到2024 年底,他们将能够产生10 亿美元的收入。 

到 2023 年底,OpenAI 预计收入将达到 2 亿美元。

几点补充说明

很遗憾,现在,在乌克兰、俄罗斯、中国、阿富汗等国家和地区,可能还包括埃及,人们无法使用 ChatGPT。

在过去这一个多月里,在国内,有不少技术达人和企业,基于OPENAI官方API,搭建了聊天机器人,实现与 ChatGPT功能类似的应用。

由于 OPENAI官方API 是需要付费的,因此,绝大多数 基于OPENAI官方API搭建的聊天机器人也是收费的。

by Johnnie Walker via AI