2017年,AlphaGo在围棋比赛中完胜世界冠军柯洁;2022年,OpenAI旗下的ChatGPT横空出世。我们认为,这种类似人类的思辨能力,展现了里程碑式的技术变迁,使人们用“创造”而非“计算”去重新理解人工智能。或许,这就是比尔·盖茨认为:ChatGPT出现的意义不亚于互联网和个人电脑诞生的原因。

  ChatGPT是建立在GPT架构之上的AI智能聊天机器人。GPT的全称是GenerativePre-TrainedTransformer,生成式预训练变换模型。

  G是Generative,指生成式,作用在于生成内容。不同于搜索引擎,它通过“单字接龙”生成全新的文本,而非仅匹配数据库现有内容,根据任意长度的上文,生成下一个字,再把自己生成的下一个字和之前的上文组合成新的上文,以此不断的循环从词到句到段落。比如输入为“今”,生成“今天”后再生成“今天天”,一直到“今天天气真好"。它也可能输出“今天天气真差”,这取决于背后的模型,会根据训练经验和上下文生成最符合语言规律和意义的内容,答案可能不同。

  GPT中,“P”是Pre-Trained,指预训练,代表模型已经在某些有限的材料中进行相关的训练。那么,它如何进行的呢?主要依靠两个数据集和三个模

download

声明:本站所有报告及文章,如无特殊说明或标注,均为本站用户发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。