6月1日,有公司上线了网红明星克隆人“半藏森林”,用户可以在App中与AI克隆人交流,“目前不付费可以互动,付费可以看朋友圈、打视频电话。两种付费模式月费分别是6元/30元、年费72元/360元。”以“半藏森林”为例,如果有1万个情感模式付费用户,相当于“半藏森林”克隆人一年收入72万元,如果有1万个超级模式付费用户,一年收入可达360万元。
AI半藏森林已经开启收费服务模式
AI半藏森林的朋友圈
利用克隆虚拟的明星网红,提供情感交流服务,在全球范围内都是非常新的商业模式。或许人们会怀疑,真的会有人愿意花钱跟一堆代码聊天互动吗?事实上,在追星圈子里,很早就开始流行“AI语言角色扮演”,通过明星的模拟性格和语气,和粉丝文字聊天,大部分都是免费的,主打一个陪伴和慰藉。此前,美国女网红Caryn Marjorie利用AI版本的自己与上千名粉丝同时谈恋爱,年收入达到6000万美元的消息,就在社交媒体上引发讨论热潮。人类对于情感交流的需求,对虚拟社交的接受程度,或许大大超乎我们自己的想象。
但是,该公司选择“半藏森林”试水这一领域,引发了超出人工智能伦理之外的、更大的网络争议。因为“半藏森林”在网络知名度最高的事件,是被她的好友、同为时尚网红的阿沁曝光,插足她和男友刘阳之间的感情,而此后,“半藏森林”一直贴着“纯欲风”“茶艺照”等标签,靠性感外形和话题获取关注和收益,虽然她的行为不足被认定为“劣迹”,但在大多数人眼中,她在道德人品上是有瑕疵的。而通过AI克隆的方式,对她的外形特征、声音风格、性格技能进行推广,是否存在不良价值导向,成为网友争论的重点。
和AI半藏森林视频通话的影像
也有很多人担心,一旦“半藏森林”通过这种方式走红获利,那么将自己变成AI克隆人,会不会成为劣迹艺人、网红变相复出的渠道,违反主管部门的相关规定,给公众传递错误的信息和观念,让行业不良现象沉渣泛起?
另外,从相关报道来看,这种AI复制的技术门槛、时间成本都相对较低,但是由于概念新奇、需求庞大,潜在利润却非常可观,该公司目前对明星网红是采取授权分成的方式进行复制,但一旦这种变现模式开始走红,被不法分子嗅到了腥味,可能就会出现无授权的复制,肆意侵犯他人合法权利;或是粗制滥造的AI炮制,割消费者的“韭菜”;甚至可能会有人利用人性的弱点,去利用这一概念设下各种骗局和陷阱,这些都是可以预见的,不得不防范的风险。
而人工智能应用本身,也存在其固有的法律伦理上的忧虑。当用户可以在虚拟空间创造自己的克隆人,发现并获取其他克隆人,某种程度上,就是将AI克隆人当成“电子宠物”,这在伦理上依然不能广泛地为大众所接受。而当复制的主体是当下活生生的人,那么就可能触发对隐私、人格尊严、名誉权的保护问题。而且,用户与AI人之间的交互内容,也可能会违反法律规定和公序良俗,AI的各种行为,如果对受众产生了误导,模糊了虚拟和现实的界限,更可能对真实存在的人产生影响。
此前,德国一本杂志发表了一篇由AI生成的对七届世界冠军赛车手舒马赫的“采访”内容,引起舆论大哗,受到舒马赫家人的强烈批评。可见,虚拟交流如何规避不良影响,与人类现实社会相融洽,仍是全球性的课题。
科技的进步和创新,当然会让人感到好奇欣喜,其中蕴含的新鲜体验和无限商机,自然也会让市场很兴奋。但兴奋之余,虚拟交流背后的种种风险不可忽视,更为主动的监管,更为明晰的规范,是不可或缺的。而在风险应对措施尚未跟上脚步的当下,想要“吃螃蟹”的人们,还是多加小心为好。
还没有评论,快来发表第一个评论!