周一至周五
09:00-12:00
13:30-17:30
最近，美国OpenAI公司旗下的人工智能聊天机器人ChatGPT一跃成为火爆全球的现象级应用，并以其强劲的力量影响周遭的世界。它不仅能和人展开互动，还可以写文章、制定方案、创作诗歌，甚至还会编写代码、检查漏洞，上线几个月全球活跃用户破亿。在面对ChatGPT等新兴人工智能产品时，如何应对相关的法律问题，警惕相关的法律风险亦显得尤为重要。
01
ChatGPT的工作原理
1、预先训练：通过学习大量的文本语料来构建语言模型，捕捉语言的语法、语义和惯用法。
2、模型构建：使用Transformer模型作为基础架构，自动学习语言的长期依赖关系。
3、输入处理：当用户输入询问时，先将询问转换为数字序列，再通过模型生成相应的回答。
4、回答生成：通过分析询问的语义和上下文，生成合适的回答。
5、输出处理：将生成的回答从数字序列转换为文本，输出给用户。
ChatGPT在语言生成领域有着卓越的表现，通过学习大量的语料，构建模型，处理用户输入，生成回答，最终实现人机交互。
02
ChatGPT可能涉及的法律风险
1、侵犯著作权风险ChatGPT基于Transformer架构，依靠巨量的文本数据进行训练，并通过监督学习、强化学习以优化输出内容。ChatGPT的相关文本数据来源于不同的渠道，在训练过程中需要对数据进行复制、挖掘、学习。
然而相关数据中的作品并非均处于公有领域，也并非均获得了权利人的授权。由于这种使用行为并不属于《著作权法》中合理使用的情形，如未经授权则存在侵害著作权的法律风险，甚至可能构成侵犯著作权刑事犯罪。
ChatGPT所生成的内容可能与他人在先作品存在较高相似度，甚至有可能构成实质性相似。根据OpenAI的使用协议，用户应当对使用ChatGPT时输入输出的整体内容负责，且相关内容的权利已经转让给用户。即使用户在使用过程中没有任何过错，依然可能需要承担相应的法律责任。
2、商业秘密泄露风险
ChatGPT在编程协助、广告设计、文学创作等商业领域有着非常优异的表现，用户在使用过程中，需要向其提供完整和详细的信息，以获得ChatGPT生产的准确内容。然而用户输入的信息很可能涉及公司商业秘密，如平台底层代码、近期营销计划、公司薪酬体系等信息，均可能导致公司的营业信息、技术信息直接被泄露。
OpenAI平台并未对用户输入的信息提供保护，根据其使用协议内容“为了帮助OpenAI提供和维护服务，您同意并指示我们可以使用内容来开发和改进服务。您可以在这里阅读更多内容，了解如何使用内容来提高模型性能”，如果用户在特别情形下不希望OpenAI使用其输入内容，需要特别向OpenAI进行申请，这就导致很多相关工作人员在未察觉的情况下就导致了商业秘密的泄露。
目前已有公司关注到此类风险。微软和亚马逊已经宣布，将禁止公司员工向ChatGPT分享敏感数据，以保护公司的商业秘密。因此，对于商业公司而言，应当尽快采取相应控制措施以免出现泄密行为。
03
如何应对ChatGPT带来的法律风险
ChatGPT势头正猛的同时，其背后隐藏的人工智能法律风险数不胜数，围绕ChatGPT展开的无序商业行为亦层出不穷，如何妥善应对相关风险是当下迫切需要考虑的问题。
1、政府应当加强对ChatGPT的监管力度，完善相关立法
在人工智能产品不断迭代升级的时代，对人工智能的监管需要深入人工智能系统的整个生命周期。类似ChatGPT的人工智能产品，从模型的建立、语料库的标注、模型训练、投放市场后的迭代进化直到系统退出使用，每个具体的环节都需要受到严格监管。
2022年出台的《互联网信息服务算法推荐管理规定》中明确要求，人工智能的算法应当坚持社会主义主流价值观，不能利用算法危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。2023年1月10日起施行的《互联网信息服务深度合成管理规定》中明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
通过API接口调用在国内提供ChatGPT服务符合以生成合成算法制作文本，应遵循前述法规的相关义务。但目前对于相关主体应承担何种合规义务，规定并不足够明确，存在一定争议。ChatGPT作为依据美国法律和价值观开发的AI工具，其算法机制、安全机制未经我国主管机关评估审核。可以要求有关主体依法履行备案义务，并公示算法的基本原理、目的意图和主要运行机制等，否则对其处以相应行政处罚。
2、企业及个人在使用ChatGPT时应当严格控制输入输出内容
ChatGPT依托海量数据库信息存在，其中包括大量的互联网用户自行输入的信息，因此当用户输入个人数据或商业秘密等信息时，很可能被纳入ChatGPT自身的语料库从而导致信息泄露。企业及个人在使用ChatGPT等类似的人工智能工具时，应当谨慎选择输入信息，对所有可能涉及个人信息的数据进行匿名化处理，避免键入任何涉及商业秘密的内容。 由于ChatGPT输出的内容是由其训练的语料库和用户提问的方式综合确定，故可以通过避免限缩聊天请求、排除特定对象等可行措施，来避免或限制获得趋于精确、狭义的可能来自特定作品的输出内容，从而避免侵犯著作权法律风险。 企业还应当向员工公开传达保密义务，通过公告等方式定期提醒公司员工的保密义务，明确应保密的具体对象，避免商业秘密泄露风险。并及时更新企业管理制度，对于未能遵循管理制度的员工及时进行教育惩戒，完善公司的商业秘密保护体系。
*附件列表(点击下载)
责任编辑：巢戌初
南京市律师协会微信公众账号
南京市律师协会微信公众账号