ChatGPT类技术已经成为人工智能技术未来发展的趋势。本文首先对ChatGPT类技术的适用性进行了简要分析，ChatGPT类技术作为一种辅助性技术，并不能完全取代其他应用，而是通过嵌入现有应用或在其创造的新业态中产生价值；然后在此基础上进一步从经济层面、社会层面和网络安全层面讨论了ChatGPT类技术对我国可能产生的影响；最后，就ChatGPT类技术带来的挑战，本文从短期和长期两个层面提出了我国的应对策略。

1.什么是ChatGPT

(资料图片仅供参考)

ChatGPT，即聊天生成预训练转换器（Chat Generative Pre-trained Transformer），是美国OpenAI公司基于GPT-3.5架构（目前已经更新到GPT-4，但仅限于Plus用户）研发和强化训练，并于2022年11月推出的一款人工智能聊天机器人程序，是生成式人工智能（Generative AI）的典型代表。通过计算机，用户不仅可以与该程序进行如人类之间自然对话般文本式交互，还可以让其自动生成复杂文本（故事/剧本、论文/报告、摘要、企划方案等）。最新的GPT-4还能解决跨越数学、编码、视觉、医学、法律、心理学等领域需要抽象推理和强思维能力的任务，而不需要任何特殊的提示，在测试的很多任务上已经达到了人类的水平（微软研究院，2023）。从目前公开的各项测试结果来看，ChatGPT已经通过了Google L3级工程师入职测试、美国高校入学考试，其撰写论文的质量要高于一般学生。

ChatGPT表现出来的这种能力已经反映出它能够在某些领域取代人类的潜能。在ChatGPT这种强大的能力背景下，社会上不免出现对ChatGPT产生卢德主义式的担忧。但事实上，通用人工智能技术（Artificial General Intelligence）已经成为技术发展不可阻挡的趋势。同每次科技革命一样，技术创新一方面会冲击旧生产力体系下的生产关系，引发技术对劳动力的替代；另一方面新的技术也会创造出新的岗位需求。核心的问题是这两种效应的相对大小（胡拥军和关乐宁，2022）。尽管如Acemoglu和Restrepo（2020）所展示的那样，自动化技术的出现，在短时间内确实引发了较小比例的就业替代，但从长期人类社会的发展来看，技术创新并没有引发大规模的失业（方建国和尹丽波，2012；Acemoglu和Restrepo，2019）。因此，与其关注ChatGPT可能造成的就业替代，不如深入分析ChatGPT类技术可能的应用场景，并探讨如何利用ChatGPT类技术以推动社会向更好的方向发展。

2.ChatGPT类技术适用性分析

同其他人工智能技术一样，ChatGPT类技术的运行底座为算力、算法和数据。在算力和算法的支持下，经过数据集的训练“自然地生成”一些内容反馈给用户，生成的内容质量受制于所运行的算法和训练的数据集，这与现在的搜索引擎不同。搜索引擎反馈给用户的是指向性的链接，用户可以自己选择参考与不参考，最终决定权是用户。但ChatGPT反馈的内容则是算法生成的答案，直接替用户做出决定，而用户对于这种答案不一定能够判断是否正确或有偏。因此，ChatGPT并不能作为一种独立的应用供用户进行决策。但ChatGPT强大的内容生成能力和联系上下文的总结能力确实可以成为某些应用的重要辅助。例如，对于搜索结果进行文字总结。除此之外，新技术的诞生或升级也必将催生新业态的出现。因此，关于ChatGPT类技术的适用性分析可以从以下几点展开。

2.1不能取代其他应用

首先，ChatGPT类技术本质上是一种自然语言处理技术，并非一个完整的应用程序，它的能力是基于大量文本数据的学习和训练而来，可以帮助人们快速生成文本内容或完成语言相关的任务，但不具备其他应用的功能，例如计算、数据分析、图像处理等。因此，在需要执行这些功能的应用场景中，ChatGPT类技术不能取代其他应用。

其次，ChatGPT类技术的能力和表现取决于其训练数据的质量和数量。如果输入的数据不准确或者存在偏见，ChatGPT也会受到这些限制。这也意味着，当处理非常规数据时，ChatGPT类技术的表现可能会下降，需要进行进一步的优化和训练。

再次，尽管功能非常强大，但它并不能适用于所有应用场景，使用前必须根据具体需求进行评估，以确保是否适用。在某些情况下，人类仍然是最好的解决方案。例如需要判断情感，处理复杂问题，对于重大问题做出决策的情况。

最后，ChatGPT类技术仍然存在诸多限制，虽然ChatGPT可以生成大量的文本内容，但是这些内容并不一定具有创造性或原创性，它是基于数据训练集且受制于道德和法律的。而且，ChatGPT类技术训练时所用数据是既定的数据集，这使其在讨论数据集之外的事情时存在天然的瓶颈。因此，可以认为ChatGPT类技术只能作为辅助工具，不能完全取代人工或其他应用。

2.2嵌入现有应用系统

从ChatGPT的体验来看，ChatGPT将会逐步、快速地嵌入现有应用系统中，如搜索引擎、办公软件、客服系统、控制系统、医疗设备、AI训练、个性化推荐系统等，以优化当前的技术服务。目前，微软将ChatGPT嵌入Bing搜索的测试版已经上线（微软已经开始逐步把ChatGPT嵌入office全家桶，以改善现有服务）。从ChatGPT嵌入Bing搜索的使用效果来看，新Bing不仅可以像ChatGPT一样与用户进行交流，还可以标出答案的引用来源，改变了原有的搜索引擎模式。除了Bing搜索，其他搜索引擎也开始逐步上线自己的ChatGPT类技术。Google即将上线嵌入搜索引擎的智能聊天机器人Bard，百度上线智能聊天机器人“文心一言”，阿里巴巴的智能聊天机器人正处于内测阶段，上线将嵌入钉钉。

除了搜索引擎之外，通过嵌入ChatGPT，控制系统可以具有人工智能的能力，用户就可以放弃使用特定的指令语言或图形用户界面，通过自然语言与控制系统交互，提高工业互联网的工作效率和质量；将ChatGPT与医疗设备结合，通过分析大量的医学数据（如病人生理数据、家族病史、生活方式等），生成最佳的诊断建议，也会提高医学影像分析的准确性和医生的诊断效率；将ChatGPT与AI训练结合，通过自主学习可以避免数据集的问题产生“信息茧房”。

2.3创造新的应用系统

比尔·盖茨认为，“聊天机器人ChatGPT的重要性不亚于互联网的发明”。同样，ChatGPT即将创造的新业态、新模式也不会亚于互联网。我国具有世界上最活跃的互联网应用市场，基于ChatGPT类技术极有可能在我国滋生出一些现象级应用。ChatGPT类技术突破了人与机器之间指令化的沟通方式，使机器几乎像自然人一样与人进行无障碍沟通，而且具有其他任何系统（包括人）不可比拟的数据和知识储备。ChatGPT类技术可以比现有任何系统更快、更精准地了解用户的需求。这就促使一些企业和个人利用它改良现有应用和开发新的应用，以通过满足人的需求而获利。例如，可以预见的是，基于ChatGPT类技术的智能家居系统必将完全覆盖现有的智能家居系统，并出现实体化的智能聊天机器人取代当前接受固定指令的机器人以满足生活需要。

2023年3月23日，OpenAI宣布上线了以安全为核心的ChatGPT插件系统。通过此插件系统，ChatGPT可以连接第三方应用程序，之后ChatGPT便能够与开发人员定义的API进行交互，从而增强ChatGPT的功能并允许其执行范围广泛的操作。目前，联网的ChatGPT主要功能包括检索实时信息，检索知识库信息和代表用户执行操作（如订餐、订票）。通过联网，ChatGPT将会逐步减缓训练时对数据库的依赖，ChatGPT可以更快地催生出一些新的业态和应用场景。

3.ChatGPT类技术对我国各层面的影响

3.1经济层面

根据目前的实际应用和上文对ChatGPT的分析，ChatGPT类技术主要还是作为辅助性工具以优化现有工具，本身对经济的直接影响有限。不过，随着ChatGPT类技术在各行各业中的普及使用，将间接地对经济产生深远影响。

第一，ChatGPT类技术可能加速第二、三产业的深度融合。目前，世界主要发达国家都已经在产业智能化层面投掷重金，并取得了大量成果（例如，德国的工业4.0）。我国发布《“十四五”智能制造发展规划》。在智能化的趋势背景下，ChatGPT类技术通过嵌入制造业，一方面优化现有生产能力，另一方面将数字服务业与制造业进一步深度结合，提高制造业的附加值。

具体而言，ChatGPT类技术在嵌入制造业中，可以实现更高效、更智能的生产和管理。例如，可以将ChatGPT类技术应用于制造企业的客户服务，利用ChatGPT类技术的智能化特点，提供更加个性化、快速的客户服务，从而提升客户满意度和企业形象。此外，ChatGPT类技术还可以用于制造业的质量检测、预测维护、生产计划等方面。在质量检测中，ChatGPT类技术可以通过对产品质量数据的分析，提高产品质量的准确性和稳定性。在预测维护方面，ChatGPT类技术可以通过对设备运行数据的分析，提前预测设备的故障，并提出相应的维护方案，从而减少停机时间和维修成本。在生产计划方面，ChatGPT类技术可以根据市场需求和生产能力，智能制定生产计划，提高生产效率和资源利用率。

通过将ChatGPT类技术应用于制造业，可以实现数字服务业与制造业的深度融合，从而提高制造业的附加值。ChatGPT类技术应用的普及，也会加速制造业的数字化转型，提高制造业的竞争力和创新能力，为制造业的可持续发展注入新的活力。

第二，ChatGPT类技术对一些行业的服务水平和运行效率具有正向影响。举例来说，自动化客服和技术支持在互联网、电商、金融、游戏等行业中应用广泛，可以显著提高客户服务水平和效率，降低企业的人力成本，从而提高企业竞争力。

具体来讲，文本生成方面，ChatGPT类技术应用在新闻、广告、内容营销等行业中可以大幅提高文本生成效率和质量。通过训练ChatGPT模型，企业可以生成与人类写作风格类似的文章，不仅可以提高内容生产效率，还可以创造更加吸引人的内容，吸引更多的用户。在编程方面，ChatGPT类技术可以降低企业对程序员的需求，实现代码自动生成，从而提高开发效率和软件质量。在金融服务领域，ChatGPT类技术应用可以用于财务分析、风险评估、客户投诉处理等方面，能够提高金融服务效率，降低风险和成本，增加盈利空间。在医疗保健方面，ChatGPT类技术应用可以用于病人咨询和诊断，可以辅助医生进行病情判断和治疗方案制定，提高医疗保健效率和准确性。在数据分析和预测方面，ChatGPT类技术应用可以处理大量数据，进行数据分析并预测，有助于企业和组织做出更明智的决策，提高效率和竞争力。

总的来说，ChatGPT类技术在各个行业中的应用，可以带来不同程度的影响，提高效率、降低成本、增加盈利空间、提高服务质量等等，有助于各行业的数字化转型和创新发展。

第三，ChatGPT类技术会增加对算力和能源的需求。ChatGPT类技术是一个庞大的自然语言处理模型，需要大量的计算资源和能源来支持其训练和推理工作。（1）算力需求。ChatGPT类技术需要大量的计算资源来进行训练和推理。训练一个大型的ChatGPT模型需要使用大规模的计算集群，其中包括多个GPU或TPU，以及大量的存储和带宽资源。推理时，模型也需要大量的计算资源，以快速响应用户的请求并生成响应。（2）能源需求。ChatGPT类技术的算力需求会带来大量的能源消耗。训练一个大型的ChatGPT类技术模型可能需要数千台服务器，并且这些服务器需要持续运行数天或数周。此外，在推理时，模型需要处理大量的用户请求，这也需要消耗大量的能源。所以，ChatGPT对算力和能源的需求是相当高的，这种需求势必会刺激所在行业的发展。随着ChatGPT类技术与各行各业的不断融合，ChatGPT类技术必将带动算力产业和能源产业的蓬勃发展。

3.2社会层面

第一，ChatGPT类技术会深度冲击就业市场。尽管从技术的发展史来看，每一次技术革命并未造成长时间的大规模失业（方建国和尹丽波，2012；Acemoglu和Restrepo，2019）。但就短期而言，技术创新并不会马上创造更多的新就业岗位，但确实会出现就业替代。也就是说，技术的升级带来的替代作用要大于技术对就业岗位的补充效应，从而引发短期内的失业潮。从我国目前的人口结构来看，现有劳动力绝对值基数较大。经济增长乏力的情况下，ChatGPT类技术提高效率的同时必然导致劳动力的相对冗余，增加失业。具体来讲，ChatGPT类技术将会取代一些白领工作，例如电话营销、客服、出纳和运营人员、部分行政管理人员、质检员等，和一些简单的技术工种，例如程序员、市场研究人员、保险理赔员、放射科医师、记账员与财务分析师、专业投资人员等。参照前几次技术革命，这部分失业的缓解有赖于新技术、新业态的产生与发展。

第二，ChatGPT类技术会深度冲击教育体系。从美国的实际应用情况来看，鉴于ChatGPT可以帮助学生作弊，纽约州教育部门明令禁止学生使用。一旦ChatGPT这种应用在我国上线，类似事情也必然发生。ChatGPT是一个强大的辅助性工具，学生的合理使用可以有效提高其学习能力（ChatGPT对学生来讲本身可以作为一个学习工具）；不合理使用会导致作弊形成负反馈。目前，全球已经有多所知名高校明确禁止学生使用ChatGPT，世界主要的几个学术论文出版商也都禁止ChatGPT作为作者发表任何文章。一直以来，我国是应试教育。学生需要花费大量的时间，通过“死记硬背”“大量刷题”提高自身的“知识储备能力”以应对考试，这也使我国学生具有国外学生不具备的知识储备优势。但ChatGPT类技术的出现打破了这一点。钱颖一表示，“人工智能将使我国教育的优势荡然无存”。作为一种知识的集成工具，ChatGPT类技术几乎可以在瞬间找到任何所需的知识，学生只需要利用易得的知识进行创新思考。对于我国现有的教育体系而言，绝大多数学生无法做到这一点，这对我国的教育和科技发展是不利的。

第三，ChatGPT类技术有可能进一步扩大数字鸿沟。对于那些能够正确使用ChatGPT类技术的用户来说，它是一种新的工具，可以创造更多的价值。但对于一些落后地区能力不足的人，他们可能无法充分利用ChatGPT类技术所带来的便利。由于我国区域经济发展不平衡的特点，数字鸿沟在我国尤为突出。发达地区的人们可以更容易地获得和掌握新技术，而落后地区的人们则可能因为缺乏相关技术、教育和资源而无法掌握。在这种情况下，ChatGPT类技术的出现可能会加剧数字鸿沟。除了地区之间的差异，ChatGPT类技术的使用门槛可能还与用户的文化背景和语言能力有关。那些能够正确使用ChatGPT类技术的人将会变得更加优势，而那些不能使用的人则会更加被边缘化。在一些文化背景和语言能力较低的用户中，他们可能无法理解或有效地使用ChatGPT类技术提供的信息和功能，这也会导致数字鸿沟的加剧。此外，ChatGPT类技术还可能增加信息不对称的风险，使得那些无法正确使用ChatGPT类技术的人们无法获得正确的信息。例如，在搜索引擎或聊天机器人中，ChatGPT类技术模型会根据用户的输入提供相应的回答，但是如果用户无法准确地表达自己的需求，ChatGPT类技术可能会提供不准确或不完整的信息。这也会使得数字鸿沟问题变得更加突出。

3.3网络安全层面

ChatGPT为经济和社会提供了诸多便利。OpenAI公司也强调“致力于遵循所有适用的法律和道德准则，确保它的技术不被用于非法或有害的目的”。但这并不意味ChatGPT不会引发网络安全风险。

第一，数据安全风险。ChatGPT本身就是利用智能算法通过庞大的数据集训练而成，而且需要通过不断地与用户互动优化自身的“智能水平”。在这个过程中，ChatGPT需要采集、储存和分析用户的数据，有可能造成数据泄露问题。根据Cybernews的消息，三星电子在接入ChatGPT仅20天就发生了3起事故，半导体机密遭到泄露。2023年3月25日，OpenAI公开承认由于存在open-source bug致使部分ChatGPT Plus订阅用户的个人信息和支付信息遭到泄露。目前，鉴于对ChatGPT可能引发的数据泄露的担忧，意大利宣布暂时禁止ChatGPT的使用，成为世界上首个公开禁止ChatGPT的国家。ChatGPT是一个大型语言模型，存储了大量敏感信息，除了自身保护不周可能引发数据泄露之外，还容易引起不法分子的恶意攻击，引发数据安全问题。

第二，信息监管悖论。互联网不是法外之地，任何基于互联网的应用必须遵守所在地的法律法规，以确保应用的安全运营。作为一个智能系统和未来技术的一个发展趋势，如果ChatGPT类技术在我国无法被有效监管，广泛使用可能会导致ChatGPT生成一些虚假的违法信息绕开监管进行传播，引发安全问题。但人工智能的性能和其所训练的数据集存在正反馈关系——数据集越大、熵值越高越有利于人工智能性能的提升，人工智能性能越高越容易吸引更多的用户从而获得更大的数据集。因此，人工智能监管只能对初始算法增加约束条件，这不免受制于古德哈德定律（Goodhart’s Law）——一旦一个约束条件变成了目标，那么这个指标将不再是个好指标。也就是说，如果对人工智能的初始算法增加一个严格的约束条件，那么这个约束条件可能成为该项技术的目标，导致算法在不断优化的过程中将会越来越偏离最初的目标，从而降低技术的效能。从目前ChatGPT的运行来看，ChatGPT已经存在一定程度的“讨好人类”的倾向，导致对一些问题的回答存在错误，甚至表现出“一本正经地编瞎话”的情况。

图1 ChatGPT对是否被非法恶意利用的回答

第三，被恶意利用风险。尽管ChatGPT声称其本身是安全的，而且其母公司也在尽最大可能地防止ChatGPT被盗用，或者在使用过程中被恶意攻击。但这并不能保证ChatGPT不被恶意利用。而且在被询问是否可能被非法恶意利用时，ChatGPT回答道，“作为一个AI模型，我有被滥用的风险（如图1所示）。”此前询问同样的问题，ChatGPT回答的内容为，“可能存在安全问题，比如恶意攻击和黑客入侵。”从目前OpenAI自己公开的信息和全球对其的反应来看，ChatGPT确实存在被非法盗用的风险和被用来生成恶意软件或者违禁品的制作流程。例如，研究者已经证实ChatGPT可以用于编写恶意软件，或者从事其他网络犯罪活动（例如网络钓鱼）（病毒木马，2023）。因此，一旦ChatGPT在我国被广泛应用，特别是当前这种国际环境下，政府、企业、高校随时都有可能成为潜在的被攻击对象，不得不防。

4.结论和建议

作为人工智能技术未来的发展趋势，以ChatGPT为代表的内容生成式人工智能（AIGC）将会渗透到各行各业。在这个过程中，ChatGPT类技术作为一种辅助性技术，并不能完全取代其他应用，而是通过嵌入现有应用或在其创造的新业态中产生价值，将会对我国各领域的发展产生重大影响。本文从经济层面、社会层面和网络安全层面简要分析了ChatGPT类技术可能产生的影响。在经济层面，可以认为ChatGPT将会为经济的发展带来正向的刺激作用，包括加速产业融合，提高一些行业的服务质量和运行效率，和直接带动算力产业和能源产业的发展。社会层面，简要分析了ChatGPT类技术对我国劳动市场、教育体系和数字鸿沟的冲击。网络完全层面，简要分析了ChatGPT类技术可能对数据安全、信息监管和被恶意利用的影响。

针对ChatGPT类技术对我国可能产生的冲击，本文认为应对方式可以从短期和长期两个层面展开。

4.1短期对策

任何基于互联网的应用都不可避免地受到梅特卡夫法则的影响。为了充分利用互联网的强大网络效应，政府在短期内应该尽快采取多项措施来推动ChatGPT类技术的发展和应用。

首先，政府应该为国内企业提供支持、鼓励和补贴，以尽快推出中文版的ChatGPT，并加强对ChatGPT类技术的研发，不断提高其准确性和效率。这将有助于提高国内企业在ChatGPT技术领域的竞争力，推动技术的快速发展。此外，政府还可以鼓励企业进行技术交流和合作，分享技术资源和经验，加速技术的推广和应用。

其次，政府应该推动产、学、研、政四方在ChatGPT类技术开发应用方面的合作，鼓励该领域的创新与发展，确保ChatGPT技术及其应用的持续健康发展。政府可以通过设立专项资金，鼓励产学研各方开展技术合作和研发，加速技术创新和商业应用的落地。政府还可以促进知识产权保护，提高技术转移的效率，加速技术的推广和应用。

第三，政府应该加快ChatGPT类技术在各行各业中的应用的探索和推广，创造基于ChatGPT的新业态、新模式。政府可以通过推广典型应用案例，鼓励企业进行试点应用，促进技术的落地和推广。此外，政府还可以为企业提供相关政策和法规的指导和支持，营造良好的应用环境和氛围。

第四，政府应该建立有效的监管框架，以确保ChatGPT类技术的安全、隐私和道德使用，防范潜在风险。政府可以通过制定相关标准和规范，对ChatGPT类技术的研发、应用和监管进行规范和管理，保障技术和应用的可持续发展。

最后，政府应该积极准备应对ChatGPT类技术可能带来的失业浪潮风险。随着ChatGPT类技术的发展和应用，可能会带来某些领域的人员流失和失业浪潮，这是需要引起政府和社会的关注和应对的问题。政府应该预测和评估ChatGPT类技术可能带来的影响，制定相关的政策和措施，为受影响的人群提供支持和帮助，减少其就业压力，促进社会的平稳转型。

4.2长期对策

从现实情况来看，我国在科技领域的竞争力仍然有待提高，尤其是在人工智能技术方面。虽然我国政府已经在人工智能技术的研究和应用方面投入了大量的资金和资源，但是对于世界顶级的原创突破式技术创新，我国的科研人员大多只能在其出现后对其进行评论，而无法自己实现这种创新。因此从长期来看，我国更重要的是不仅要优化科研机构的科研环境，同样也要优化我国的人才培育体系，从根本上提高我国的科技创新能力。

第一，加强研究基础，包括建设更多高水平的科研机构和实验室、提高科研设备和技术的水平，加大研究资金投入，以支持人工智能技术的研究和发展。同时，吸引和培养高素质的人才也是至关重要的，政府可以通过提高研究人员的待遇和奖励制度、提供更多的培训和交流机会、支持创新型人才和团队等方式来吸引和培养优秀的科研人才。这些措施将有助于提高人工智能技术的发展速度和质量，为我国的科技创新提供更强的支撑。

第二，优化制度环境，政府应该通过完善法律法规，改善知识产权保护制度等，以促进人工智能技术的发展。例如，政府可以出台更为明确的法律法规，明确知识产权的保护范围和保护力度，以促进科研人员和企业对人工智能技术的创新和投入，提高技术的水平和质量。政府还可以建立更加公平、公正的市场环境，鼓励企业在人工智能技术的研发、应用等方面进行创新，推动人工智能技术的发展。

第三，提高技术水平，政府可以通过研究和开发来提高人工智能技术的水平，以提高自主创新能力。在这方面，政府可以支持相关研究机构和企业，开展更加系统、深入的人工智能技术研究和开发工作，如深度学习、自然语言处理、机器人等。同时，政府可以通过建立国家实验室、推动创新创业和技术转移等方式，促进人工智能技术的落地和应用。

第四，推动国际合作，政府可以通过国际合作与交流，引入先进的人工智能技术和算法，提高人工智能的国际竞争力。例如，政府可以加强与其他国家的合作，与他们共享研究成果和技术，加快国际科研合作的步伐，这样可以在一定程度上避免重复研究和投入，提高研究的效率。

（文/端利涛 中国社会科学院数量经济与技术经济研究所）