个股查询:

“AI陪伴”案:未经同意创造自然人的AI形象构成对人格权的侵害

来源:财经网 2024/08/26

“AI陪伴”案:未经同意创造自然人的AI形象构成对

人格权的侵害

——何某诉某科技公司网络侵权责任纠纷案

【典型意义】

本案明确自然人的人格权及于其虚拟形象,未经许可擅自创设、使用自然人虚拟形象的,构成对自然人人格权的侵害;网络服务提供者通过算法设计实质参与了侵权内容的生成和提供,应按照内容服务提供者承担侵权责任。本案对加强人格权保护具有重要意义,入选最高人民法院“民法典颁布后人格权司法保护典型民事案例”、北京法院参阅案例。

【基本案情】

某科技公司是某款手机记账软件的开发运营者,用户在该软件中可自行创设“AI陪伴者”,设置陪伴者的名称、头像,设置与该陪伴者的人物关系(如男女朋友、兄妹、母子等)。何某系公众人物,知名度较高,在该款软件中被大量用户设置为陪伴人物。用户在设置“何某”为陪伴人物时,上传了大量何某的肖像图片设置人物头像,同时设置了人物关系。某科技公司通过聚类算法,将陪伴者“何某”按身份分类,并以协同推荐算法向其他用户推介该角色。为了使AI角色更加拟人化,某科技公司还为AI角色提供了“调教”算法机制,即用户上传各类文字、肖像图片、动态表情等互动语料,部分用户参与审核,某科技公司使用人工智能筛选、分类,形成人物语料。用户和该软件为“何某”制作了人物语料,并加入了系统推送,通过智能算法或AI自动回复,该软件可以根据话题类别、角色的人设特点等,在“何某”与用户的对话中向用户推送与其有关的“肖像表情包”和“撩人情话”,营造出与其真人真实互动的使用体验。

【裁判要点】

一、被告因算法应用应被认定为网络服务提供者

某科技公司应被认定为网络内容服务提供者。案涉软件的服务与技术服务存在本质不同,某科技公司并非提供简单的内容上传“通道”服务,而是通过规则设定、算法设计,组织、鼓励用户形成侵权素材,与其共同创设虚拟形象,并使用到用户服务中。在此情形下,虽然具体图文由用户上传,但某科技公司的产品设计和算法应用鼓励、组织了案涉虚拟形象的创设,直接决定了软件核心功能的实现,某科技公司不再是中立的技术服务提供者,而应作为网络内容服务提供者承担侵权责任。同时,本案若只局限于技术服务的角度,将不利于权利保护及网络治理。案涉软件实际上构成对于何某人格形象的整体性虚拟化使用,对于可能涉及侵权的内容,某科技公司相比于普通用户获得授权的可能性更大,其商业化使用应当获得权利人的许可,如果仅仅从技术服务的角度评价某科技公司的行为,不利于人格权益保护和网络空间治理。

二、被告的行为侵犯了何某肖像权、姓名权、一般人格权

在某科技公司的规则设定和算法设计下,用户使用何某的姓名、肖像创设虚拟人物,制作互动语料素材,实际上是将何某的姓名、肖像、人格特点等综合而成的整体形象投射到虚拟角色上,形成了何某的虚拟形象,是对包含何某肖像、姓名的整体人格形象的使用。本案中,肖像、姓名是何某整体形象利用的重要部分。某科技公司商业化使用何某姓名、肖像的行为并未获得何某的许可,故构成对何某姓名权、肖像权的侵害。同时,被告行为也侵犯了何某的一般人格权。首先,具体人格权无法完整涵盖案涉软件使用的人格利益。案涉软件将何某的姓名、肖像、性格特征、人格特点等综合而成的整体形象投射到AI角色上,并且让用户可以与该角色设置虚拟身份关系,这是对何某整体形象和人格表征的利用,肖像权、姓名权的人格利益无法完整涵盖。其次,未被涵盖的人格利益属于一般人格利益。案涉软件使得AI角色与真实自然人高度关联,容易让用户产生一种与何某真实互动的情感体验。同时,案涉软件的功能设置还涉及了何某自由决定其人格要素如何被使用的范畴,涉及了何某的人格尊严,构成对何某一般人格权益的侵害。例如,案涉软件使得用户可以任意设置与“何某”之间的亲密关系,并在对话在设置“爱你”“抱抱”等亲密对话标签。更为显著的是,案涉软件将创作语料的功能称之为体现不对等关系的“调教”一词。再次,尽管何某作为公众人物,人格利益应受到一定限缩,但是某科技公司和用户的行为明显超过了合理的限度。某科技公司未经许可,利用案涉软件对何某的人格表征进行了系统性功能设计和商业化利用;用户在此过程中与虚拟人物的互动又明显区别于开放平台中偶发轻微亲密性或贬损性言论,因此某科技公司与用户构成对何某一般人格权的共同侵权。

【裁判结果】

被告向原告公开赔礼道歉,赔偿原告精神损失20000元,经济损失(含合理维权支出)183000元。被告不服一审判决提起上诉,后撤回上诉,一审判决生效。

(来源:北京互联网法院)

版面编辑:文静
关键字:

声明:财经网专栏文章版权属作者本人或相关权利人所有,文章仅为作者观点,不代表财经网立场。

相关新闻

专栏人物推荐

张礼卿

中央财经大学金融学院前院长、国际金融研究中心主任。经济学博士。

屈宏斌

中国首席经济学家论坛副理事长

伍戈

经济学博士,研究员。长江证券首席经济学家。曾长期供职于央行货币政策部门...

机构专栏推荐

北大光华

北京大学于1985年设立经济管理系,1993年经济管理系与管理科学中心合并成立...

星图金融研究院

为政府、企业和第三方提供定制化研究咨询服务,定期发布专题研究报告,着重...

京东数科

京东数科研究院立足于京东集团和京东数字科技平台,致力于宏观经济政策研究...

要闻

+更多