人工智能，也（yě）就是“AI”，这个词一直非常火热，随着（zhe）科技（jì）浪潮席卷而来，不断有一些AI技术走进（jìn）大众视野，比如“AI换脸”“AI换声（shēng）”等：视频中的角色可以（yǐ）变成你想替换的任何人；比如一些生成式AI，你只（zhī）需要输入一些提示词，它就（jiù）能（néng）帮你写作、画图......不过，AI技（jì）术为人们生产生活带来便利的同（tóng）时，也会产生一些法律方面的（de）风险。
人（rén）工智能亦会产生法律风险
记者在（zài）街头采访了解到，一些市民（mín）平日里会关注人工智能相关的话题，有的还会利用一（yī）些AI软件来帮助自己提高工作和学习效率。而同（tóng）时，对于此类应用，人们也有一些（xiē）担忧。
AI时代下，耳听未必为真、眼见未（wèi）必为实，你接收到的文字、图片、音视（shì）频信（xìn）息可能是AI技术的产物（wù）。
画面中可以看到，视频中和演示人员进行视讯的男生面部（bù）表情非常自然，看不出有什么（me）蹊跷之处。不（bú）过实际上，这（zhè）并（bìng）非他的真实样貌（mào）。
人工智（zhì）能安全技术从业人（rén）员 张天奕：大（dà）家看到的画面其实都是通过AI实时换脸（liǎn），经过修改篡（cuàn）改后呈（chéng）现出来的一个效果。
演示人员介绍，要想制作一个换脸人物的模型，目前通过一张照片就能够实现。但如果想要达（dá）到非常逼真、自然（rán）的（de）效果，则需要换脸人物各个角度的图像（xiàng），在万（wàn）量级左右。
AI技术在各领域应（yīng）用
可（kě）能产生侵权纠纷
这种AI合成技术在影视制作、广告营（yíng）销（xiāo）、社交娱乐等领（lǐng）域（yù）广泛应（yīng）用（yòng），人们日常中也能接触到一些操作简（jiǎn）易的“AI换脸”等应用软件，不过这给大家带来了新鲜（xiān）体验（yàn）的同时，也可能会产生（shēng）人格权（quán）方面的侵权纠纷。
中国政法大（dà）学传播法研究中心副（fù）主任 朱巍：主要是对人格权领（lǐng）域产生了巨大的安全隐患。比如说一个人他的形象，他（tā）的声音在互联网上通过（guò）各种（zhǒng）渠道发（fā）布出（chū）来了。未经他的允许，别人把他的声音，把他的（de）图像，把他的肖像做出了深度合成。有的时候是为（wéi）了（le）诈骗使用，有的时候就是为了（le）纯粹（cuì）的娱乐，有的时候是为（wéi）了恶（è）搞，有的时候是为了发布一些虚假信息。
专家认为，未经授权使用（yòng）他人形象进行AI合成，可能会侵犯他人的肖像权、名誉权、隐私权等（děng）。此外，AI合成技术（shù）降低了虚假视频的制作门槛，这也（yě）可能给不法行为人可乘之机（jī）——比如用来炮制、传播（bō）虚假信息以及诈骗等。
人工智能安全技术从业人员 朱萌：我觉得最大的风险其实还是隐私的（de）泄露，比如说一些不法分子用你的照片合成视频去做一些诈骗的（de）行为。其实你身边（biān）的人，或者接到照片视频的人，其实很难（nán）去判断到底（dǐ）是真的还是假（jiǎ）的（de）。
中国政法大学传播法研究中心副主任（rèn） 朱巍：现在确实已经出现了利用生成式人工智能，搞的这种深度合成的精准诈骗。两人都（dōu）已经视频通话了，发现对（duì）面那（nà）个人长相、声音、说话的（de）语气跟另外一个人非常像，结果是骗（piàn）子用AI合成的，这就导致当事人被骗了。
陕西西安警方就侦破了一起类似的案件，2023年11月2日，财务人员张女士收到了老板发来的信息，让她转账186万元到一个指定账户。并且收到信息没多久，她（tā）还接到了老板打来的视频通话。
转账之后，张女士按照往日的习惯将电（diàn）子凭证发到了他们公（gōng）司的一个（gè）内部（bù）群里。然而出乎（hū）意料的是，群（qún）里包（bāo）括（kuò）和她（tā）视频的（de）老板在内的不少人都对这笔转账感到很（hěn）奇怪（guài）。
意识到被骗的张女（nǚ）士连忙报警求助，西安市公（gōng）安局大明宫（gōng）派出所的民警迅速行动（dòng）起来，核查涉案账户的同时，对接反诈中心、联系相关银行进行紧（jǐn）急止付，最终保住了被骗资金156万元。
西安市公安局未央分局（jú）大明宫派出（chū）所民警 丁鼎：然后我（wǒ）对她的工作电脑也进行一个简单的检查，初（chū）步判断（duàn）这是可能她前几天点（diǎn）击一些钓鱼网站，电脑中了病毒，随后被电诈团伙窃取一些信息，最后用一些AI技术跟她微信视频，最后骗取公司的财物。
什么（me）是生成（chéng）式AI
是否受法律保护
警方提醒，面对资金往来或是可（kě）能泄露个人信（xìn）息的情况，还需要多方（fāng）核实。自（zì）从2022年底，聊天机（jī）器人程序ChatGPT横空出世，生成式AI引发众（zhòng）人关（guān）注。利用这一类生成式AI，你可能通过输（shū）入提示词就（jiù）得到你想要的文字、图片等内容。不过，这种新颖的创作方式也带来了知识产权方面（miàn）的争议：人们利用这种越来越“聪明”的（de）AI生（shēng）成的内容，还是“原创（chuàng）”作品吗？受到法律保（bǎo）护吗？
人工智能（néng）安全技术从业人员 朱萌：那就是具备文本、图片、音频、视频等内容生成能力的大模（mó）型或者（zhě）相关的技术。所有这（zhè）些技术的总和，我们都（dōu）可以叫它生成式（shì）人（rén）工智能。它的生成能力还（hái）是非常巨大（dà）的，可以极大地提升（shēng）生产力。
专家（jiā）介绍，生成式AI利用复杂的算（suàn）法、模型和（hé）规则（zé），从大（dà）规模数据集中学习，并生成文（wén）本（běn）、图片、声音（yīn）、视频等多种类型的内容。在文本内容生（shēng）成、艺术创作与设计、音频处理、游戏（xì）开发、药物研（yán）发等领域有着广泛的应用前景。
人工（gōng）智能（néng）安全技术从业人员 朱萌：像珠宝设计、电线电缆设计等等这种艺术设计的领域，或者包括（kuò）一些市场文案的（de）制（zhì）作，这些都是在感性领域，生成式人工（gōng）智能可以做得（dé）非常好。因为这些领域没有标准答（dá）案，它的（de）答案是多重的，不是唯一的。另外一（yī）个（gè）就是像代码生成（chéng）这样的理性领域，它的结果它的功能就很容（róng）易被判别，所以也非（fēi）常适用于生成式人工智能。
可（kě）以说，生成式AI让人们（men）的创作更加便（biàn）捷，不过随之（zhī）而来的，也是（shì）法律（lǜ）界饱受争议的话题（tí），那就是，利用AI生成的内（nèi）容，构成作品吗？受到著作权（quán）法的保（bǎo）护吗？
2023年11月，北京互联网法院审结了一起“AI文生图”著作权案件，李先生使用AI绘画软件生成了一张AI图片，之后他（tā）发现（xiàn），这张图片被一位刘女士去掉署名水印、擅自发布在网络文章（zhāng）里（lǐ）。李先生认为，刘（liú）女士的行为（wéi）侵犯了他享有的署名（míng）权（quán）和信息网（wǎng）络传（chuán）播权（quán），于是将对方诉至法院，要求其赔偿经济损失5000元（yuán），并赔（péi）礼道歉。
北京互联网法院综合审判（pàn）一庭副庭长 朱（zhū）阁：原告因为使用的这（zhè）种绘画大模型（xíng），跟以往（wǎng）的（de）绘（huì）画工具（jù）就有（yǒu）很（hěn）大的不同。咱们（men）以往的绘画（huà）工具，你还是要去画线（xiàn）条、色（sè）彩（cǎi）、造型，还是一个动（dòng）手去画的过程。但是这个工具它（tā）就比较智能，通过输入提示词、设置一下参数、时长线（xiàn）条和（hé）色彩，它就自动完成，它比以往用的（de）任何的绘画工具都要更智能。
法院审理认为，涉案图片符合作品的定义，属（shǔ）于作品，并且它是以线条、色彩构成的有审美意义的平面造型艺术作品，属于美术作品。在原告所使用AI绘画软件设计（jì）者不主张（zhāng）对输（shū）出内容（róng）权利的情况下，涉案（àn）图片是基于（yú）原告的智力投入直接产生，且体（tǐ）现出了原告的个性化（huà）表达，因此原告是涉（shè）案图片的作者，享有涉案图片的著作权。
北京互联网法院综合审判（pàn）一庭副庭（tíng）长 朱阁（gé）：被告的行为，一（yī）个是去掉了图片的署名水印（yìn），还有一个在互联网上传播，是（shì）落入（rù）到（dào）了中国（guó）著作权法上规定的署名权和信息网络（luò）传播权的控制（zhì）的范围的，所以我们认为侵权是成立的（de）。
法院判决被告向原告道歉
并赔偿经济损失
北京互联网法院判决被告刘女士在社交媒体平台道歉，并赔偿李先生经济损（sǔn）失500元，驳回原告其他诉讼请求。
北京互联网法院综合审判一庭副（fù）庭长 朱阁：随着这种技术的发展，我们的传播渠道就是不断地拓展。我们原来可能就是拿笔去画，后来我们有了照相机，我（wǒ）们有了手机，后来我们有了绘图的软件（jiàn），现在我们有了更智能的软件。在这个（gè）过程中人的智力投入就是越（yuè）来越少的，但是这并不妨碍我（wǒ）们继续使用著作权法（fǎ），来保护这样的创作，保护（hù）这（zhè）样（yàng）的（de）传播（bō）。
中华人民共和国著作权法第三条规定，本法所称的作品，是指文学、艺术（shù）和科（kē）学领域内具有独创性并能以一定形式表现的智力成果。专家认为，判断利用AI软件生成的内容是否构成作品、受到著（zhe）作权法的保护，其中，“智（zhì）力（lì）成果”及“独创性”这（zhè）两个需要考量的要素是最关键也是最难认定的。
中国政法大学传播（bō）法研（yán）究中心副主任 朱巍：只要是属于智（zhì）力成果，都可以归纳到（dào）著作权的（de）范围，另外一点（diǎn），这个智（zhì）力成果有（yǒu）可能是（shì）人产生的（de），有可能是机器产生的。
中国人民大学法学（xué）院教授、知识产权法教（jiāo）研室主（zhǔ）任 万勇：但是（shì）双（shuāng）绞机在这个机器生成的过程当中，它又有人的参与。什么（me）样的情况下具有独创性，以及在什么样的情况下它是（shì）智力成果，这个法律并（bìng）没有明确地给出规定。这个也是目前AI生成的内容是否具有著作权、是否能够成为（wéi）作品，成为一个世界性、具有争议性问题的原因所在。
此外，生成式AI在开发阶段（duàn）也面临（lín）着侵（qīn）权的争议。当地时间2023年12月20日，11名美国作家在纽约曼哈（hā）顿（dùn）联邦法院起诉美国人工智能公司“开放（fàng）人工智能研究中心”OpenAI和微软（ruǎn），指控其滥用他们的作品来训练ChatGPT——这是由OpenAI开发的（de）基于大语言模型的聊（liáo）天机器人程序。这些作家向法庭表（biǎo）示，OpenAI在未经许（xǔ）可（kě）的（de）情况（kuàng）下，从互联网上批量（liàng）复制了他们（men）的作品，并将这（zhè）些作品纳入ChatGPT的训（xùn）练数据里，侵犯了他们（men）的（de）作品版权。
他们还表示（shì），由于微软公司（sī）“深（shēn）度参与”了训练和开发人工智能模型，也应承担侵权责任。作家们（men）向法院提（tí）出了金额不详的赔偿要求，并要求法院下令这些公司停止侵（qīn）犯版权。
中（zhōng）国人民大学法学院教授、知识产权法教研室主任 万勇：AI在设计的过程当中，或者换句话说（shuō）机器学习的过程当（dāng）中，它需要使用大量的享有版权的内容（róng），它才可以不断地去完善。或（huò）者（zhě）换（huàn）句话说，那么AI使（shǐ）用享（xiǎng）有版（bǎn）权的内容构不构成侵权，那么这个也是目前法律上面一个具有争议性的问题。
北京互联网法院也受理了一起类似的（de）案件：4名绘画创作者将某社交平台公司诉至法院，原因是，该公司推出了一款AI绘画图片生成模型，其（qí）生成的（de）图片，画风及一些元素与一些（xiē）画师的作品相似。画师们（men）认为，公司方面涉嫌用他（tā）们的作品提供给（gěi）AI模型进行学（xué）习（xí）并生成高度相似的作品，侵犯了创作者的合法权益。
如何化解AI所带来的法律挑战
如今，人工智能越来越（yuè）多地（dì）融入我们的生产生活中，那么，要如何化解人工智能所带来的法律挑（tiāo）战？又（yòu）该如何运用法治的力量保障人工智能产业健康发（fā）展？
对外经济贸（mào）易大学数字经济与法律创新研究中心主任 许可：事实上我们看到新的技术的出现，诚然改变了侵权的方式和表现，但是对于人的侵害的事实以及人的权利本（běn）身并没有改（gǎi）变。使用者出于一些不同的意（yì）图去使用它所（suǒ）带（dài）来的问题，其实在传统（tǒng）的法律中都有很多的表述，无论是对于我们（men）讲的知识产权，对于我们的人的肖像权、个人信息权利，还（hái）有这种名誉权，我们的民法典、个人信息（xī）保护法都有所保护。
专家认为，对于人工智能（néng）带来的（de）一些新的（de）侵权形式，一方面，现（xiàn）行法律仍（réng）然可以作为处理和解决纠纷的依据；另一方面，相关部门也在陆续出台法律法规，从而更好地预防各种侵权风险，有（yǒu）效地（dì）保障民事主体的合法（fǎ）权益，促进（jìn）人工智能产业的健康发展。比如，2022年12月，国家网信办等三部门发布互（hù）联网信（xìn）息服务深度合成管（guǎn）理规定，旨在加强互联网信息服务深度合成管理。2023年7月，国家网信办等七部门联合公布生成式人（rén）工智能服务管理暂行办法，在鼓励创新与发展的同时，进一步完善人工（gōng）智能管理体系。
对外经济贸易大学数字经济（jì）与法律创新研究中心主任 许可：那么最重要的一个表现就是开创了分层（céng）次的治理。分层次的治理指的是我们要根（gēn）据相关（guān）主体在整个（gè）行业中的位置和功能（néng）设定（dìng）不同的义务和责任。对于生成人工智能来说，它是一个非常复（fù）杂的生态。在生态（tài）之中既有技术的提供者，又有（yǒu）服（fú）务的提供（gòng）者，又有普遍的用户，又有非（fēi）常多的产（chǎn）业的各方参与者。如何确定好各（gè）方（fāng）的义（yì）务、责任、权利（lì），恰恰是这（zhè）部法律非常重要的一个立（lì）法上的创新。
专家（jiā）认为，人工智能的发展为社会进步带来了前所未有的推动力（lì），同时也伴随（suí）着一系列亟待解决的（de）法律风（fēng）险。正因如此，在推动人工智能产业高速发展的过程中，确保（bǎo）其安（ān）全性、可控性显得尤为重要。如何（hé）去平衡（héng）好发展与安全的关系，引导科技向善而行，这将是一个具有挑战性的议题。
对外经济贸易大学数字经济（jì）与法律（lǜ）创新研（yán）究中心主任 许可：但是这么一种发展和安全（quán）的平衡（héng），不只依赖于我们的监管者、我们的立法者。它依（yī）赖于各个产业的共同参与，依赖于我们每个人的共同参（cān）与。塑造出一个既开放有活（huó）力，同时又有秩序的（de）人工智能生态，我想这是未来需（xū）要进一步做的（de）工作。
法治热评：AI技术快速（sù）发展 需有关部门完善法（fǎ）规
近年来，人工智能（néng）产业快速发展，随着（zhe）AI技术在越（yuè）来越多（duō）领域的（de）应用，也衍生出一系列的法律风险。如何协调这种技术的发展与法律边界（jiè）之间的关（guān）系，是（shì）一个充满挑（tiāo）战的议题。面对日新月异（yì）的数（shù）字化技术，一方面，需要秉持科技向善的原则（zé），尽量避免侵权（quán）风（fēng）险、不利用技术从事违法犯罪行为，另一方面，也需要有关部门完善法律法规，加强引导和监（jiān）管，新技术安全（quán）、合规、可控，才能迎来更广阔的发展空间。
