ChatGPT社会化的技术原理及未来场景应用

2月17日，产研院(青岛)举办“贤话星期五”第47期活动，产研院(青岛)投资管理部副部长刘元磊作题为“ChatGPT社会化的技术原理及未来场景应用”的分享。生态企业同仁、产研院青岛团队参与沙龙交流。

本期分享嘉宾结合自身使用体验和案例从ChatGPT简介、社会化的技术原理和未来应用三个方面展开分享。

首先对ChatGPT进行了简要介绍。GPT以Transformer为基础模型，使用预训练技术得到通用的文本模型。目前已经公布论文的有文本预训练GPT-1、GPT-2、GPT-3，以及图像预训练iGPT。ChatGPT是在GPT-4之前发布的预热模型，有时候也被叫做GPT3.5。ChatGPT和InstructGPT（对话机器人）在模型结构，训练方式上都完全一致，即都使用了指示学习（Instruction Learning）和人工反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）来指导模型的训练，仅在采集数据的方式上有所差异。

其次阐释了ChatGPT社会化的技术原理。一是通过对InstructGPT（对话机器人）的介绍阐述了ChatGPT的技术原理；二是介绍了开发者通过监督学习和强化学习的组合方法对ChatGPT进行优化。其中“人类反馈强化学习”（RLHF）的训练方法，通过有监督的强化、模拟人类偏好及近端策略优化（PPO）三个步骤在训练中使用人类反馈，以最小化无益、失真或偏见的方向完成输出。

分享嘉宾还就ChatGPT的未来应用同与会人员进行了互动交流。

微科普

ChatGPT:GPT的全称是Generative Pre-Trained Transformer。ChatGPT是以Transformer为基础模型，使用预训练技术得到通用的对话文本模型。

Transformer:是一种机器学习神经网络模型，它通过跟踪序列数据中的关系（如这句话中的单词）来学习上下文。

山东产业技术研究院(青岛)

山东产业技术研究院(青岛)是山东产研院在青岛设立的总部基地，是实行企业化管理、市场化运营的新型研发机构。产研院青岛在青岛市和崂山区两级党委政府大力支持下，以体制机制创新和商业成功为指引，以科技项目培育和产业生态构建为突破口，在智能制造、信息与智能融合、计算医学、绿色发展等领域布局创新平台和产业项目。