在热点面前，理智容易灼伤。但基于对否定之否定规律的相信，以及甘愿作去伪存真中的“伪”的自觉，我们愿意聊下对ChatGPT的使用体验。

团队近来尝试在部分研究及非诉项目中辅助性地使用ChatGPT，使用情况如下：

• 就平台用户假实名，难以追究侵权主体责任的情况发表意见；

• 就平台用户信息对应多实名主体情况中侵权责任的话题发表意见；

• 就诉前调解阶段的诉讼保全如何定性的话题发表意见；

• 就最高院的部分指示性意见发表意见；

• 就管辖权异议中是否应当进行案件实体判断的话题发表意见；

• 就律所娱乐法专委的年度活动安排进行设计；

• 就某商业组织某内部部门的架构体系及人员构成进行披露；

• 就某一项目的开展框架、进程进行设计

……

注：基于上述尝试所形成的成果，均未用于团队交付文件。

一、惊喜

就使用体验而言，“惊喜”是我们的第一反应。

首先，至少从观测视角来看，ChatGPT能够“理解”大部分使用者的语言逻辑，而不是简单地依据提问文本的关键词对反馈结果进行关联；

（事实上，必应很早就开始在网页端集成基于问答逻辑的搜索服务，尽管从结果上看不甚成功）

其次，ChatGPT能够对公开数据库的内容进行归纳、整理，并进行一定程度的抽象、总结乃至升华。且这种总结的水平不低，我们认为在一定程度的问答中，ChatGPT总结回答的水平甚至高于助理的普遍水平；

（问答背景是用户假实名情景中的侵权责任追究）

再次，ChatGPT能够基于与用户的沟通，持续对结果进行优化，并将优化过程以及用户反馈吸纳为语料库储备（这里有个有意思的问题：ChatGPT的这类收集行为可否认定为提供服务之必需？）；

（图源：数据何规 何琛。仅从问答来看，ChatGPT尚不认为属于提供服务之必需）

最后，ChatGPT能够根据内容的特征，或是用户的指令，就输出内容形式进行调整。如我们曾尝试要求ChatGPT提供所内娱乐法专委的年度活动安排，ChatGPT默认以日程表的方式输出了合适内容。

上述特征，决定了以ChatGPT为代表的AIGC工具必然会对现有的搜索引擎平台形成强烈冲击。而ChatGPT的表现，使得我们相信在不远的一段时间内，它将能够成为相当部分专业人士的得力生产工具，进一步提高行业整体生产力的阈值。

二、忧虑

对ChatGPT的忧虑与惊喜是一对双生儿。

首先需要强调的是，我们从不担心ChatGPT会取代律师职业。当然，历史车轮浩然向前，如果任一行业会因技术的进步消失，长远来看对人类整体而言都将是利好，这意味着我们的种群已经彻底从相关领域的生产力桎梏中被解放，有余力将目光投向更辽阔的天空。但我们这里的结论是基于一个更肤浅的角度所得出：ChatGPT的作用还远不到能够替代律师职业的地步。

一方面，正如冯清清律师在《律师使用说明书：我会被ChatGPT替代吗？》一文中所言，“邮差的作用并不只有送信”；

另一方面，我们前几天在讨论中也曾提到，ChatGPT及其衍生产品的发展，大概率会催生一批垂类领域的新生职业。或许多年来停留在精美PPT层面的“法律产品”将真的有望成为可复制、高精度的“产品”，由此一批法律人转向“产品经理”及“训练模型”也在预料之中；

再一方面，即使是在争议解决领域，人天然也有区别于AI的用处，这种用处不在于“确定性”，相反在于“不确定性”。争议解决需要将“目光穿梭往返于事实与规范之间”，但规范可能是相对确定的，事实却仿若已被打破的水杯碎片，自发生后便无法完整还原。AI可以基于特定情形做判断，但除了部分批量或简单案件外，大部分争议中，人仍然能够充当一个给AI“买菜”的角色。且这一角色将十分关键，什么时候放什么菜，将对“烹调”结果产生关键影响。（也许为AI设置复杂的律师思维，使其可以从当事人利益角度出发，对事实进行一定范围内的处理是可能的。但设计这样一种产品并不符合当前倡导的道德规范）

我们的忧虑来源于ChatGPT这类产品对既有商业秩序和话语体系的挑战。

其一，ChatGPT可能对商业层面的保密体系提出一定挑战。我们在本文开篇便提到，我们尝试要求ChatGPT就某商业组织某内部部门的架构体系及人员构成进行披露，而ChatGPT也确实反馈了部分有价值（且正确）的结果。但客观上，该部门从未在公开领域对其架构进行披露，只偶尔在公开活动中展现一鳞半爪的信息。按照ChatGPT的回答，相关答案来源于其对公开信息的梳理及关联。ChatGPT的这类能力，使得部分企业有必要进一步强化对涉密信息的控制，以免经营秘密外泄；

其二，ChatGPT可能形成“错误权威”。ChatGPT给出的信息可能存在相当程度的误导及错误，尤其是在相关问答涉及非公开内容或抽象概念时。但基于ChatGPT自身的学习机制和关联机制，其提供的答案看起来非常丰富详实。甚至当用户持续追问时，ChatGPT会为在先的错误答案“编造”（或者关联）更多的错误信息。如在前述商业架构相关的提问中，ChatGPT给出了一个并不存在的内部小组，当我们追问该小组的领导成员及历史活动时，ChatGPT进一步给出了诸多并不存在的，或是实际对应其他部门的内容信息。在此基础上，如用户本身缺乏对问题的全面认识或核查渠道，极易被ChatGPT所误导。有趣的是，当我们明确指出相关信息存在错误时，ChatGPT甚至会为该部分信息的真实性辩解；

（在ChatGPT的世界里，笔者成了一名关注环境公益的知名律师。但图中信息其实全部都是错误的）

其三，ChatGPT本身存在严重的安全问题。如前所述，用户与ChatGPT的问答会纳入AI的语料库，并用于持续优化结果。而用户的提问，以及对话中的反馈，都可能蕴藏有实质意义的内容，当中不乏部分未公开信息。在无法确保对话内容不会被纳入语料库的前提下，使用ChatGPT本身存在安全风险；

其四，ChatGPT答案有时带有价值判断，而这类价值判断并不一定正确。作为AIGC，问答中出现价值判断是不可避免的。这类判断倾向于何方，有时候并不取决于事实情况，而取决于算法本身的预设，以及语料库中信息。这里我们也提出一个不怎么恰当的想法，如果如同张延来律师在《看了ChatGPT的<使用条款>，确实有点东西》一文中所称的，应当将ChatGPT作为基础设施看待，那么这类AIGC可能将成为未来话语权争夺的重要阵地之一。

技术是可喜的，创造是可敬的，我们欢迎ChatGPT（或者说AIGC强落地时代）的到来，但本文所指出的几个问题，可能成为ChatGPT类AIGC在铺开应用前的暂时性阻碍。期待技术跟合规联动，加快未来到来。

方梓楠 律师

方梓楠，法律硕士，专职律师。方律师及其团队致力于提供互联网及泛娱乐领域的法律服务，执业以来，先后为来自电商、游戏、短视频及直播、自媒体、日化、营销、快时尚、影视、音乐界的客户提供争议解决、内控合规、危机处理及常年顾问等法律服务。方律师在网络侵权、知识产权侵权、不正当竞争、经纪合同纠纷、人格权纠纷等多类型纠纷处理中均取得良好实绩，并深度参与多个头部及中腰部企业的非诉事项。