9月26日 AI书太泛滥!亚马逊限制作者1天最多出3本书!咋回事

9月26日 AI书太泛滥!亚马逊限制作者1天最多出3本书!咋回事

00:00
05:55

【王煜全 要闻评论】粉丝群已经开通


欢迎加入前哨粉丝群,在这里你可以和科技投资人、创业者、各行业专业人士互动沟通,分享心得体会,也可以第一时间了解到前哨相关活动动态,结交志同道合的小伙伴。


入群方式:
微信扫码下方二维码即可入群


如果您想洽谈合作,请添加创新地图的微信:innovationmap ,并附上简介。


你好,我是王煜全,这里是王煜全要闻评论。


AI能够提高内容创作的效率,但也会带来低质量作品泛滥问题,亚马逊就开始出台各种限制措施了。


9月19日,亚马逊宣布,将加强对旗下自助出版平台的监管,用户使用Kindle Direct Publishing平台发布新书时将受到数量限制,虽然平台公告上没有明确具体数量,但亚马孙告诉《卫报》,现阶段每人每天最多发3本书,未来还有可能调整。


不仅如此,一周前,亚马逊还要求作者在发布新书的时候,必须向亚马逊披露哪些内容是AI生成的,或者是否通篇都是AI写出来的,不只是文字内容,还包括封面和内部图像。


图片


除了亚马逊这样的书籍出版平台,短视频分享平台Tik Tok也制定了相似的规则,要求所有包含AI生成的图像、音频或视频的内容,都要打上“AI-generated”的标签,避免误导用户,如果不按规定打标签,就可能被删除。


那么,这些平台为什么要针对AI生成内容做各种限制呢?


要知道,Kindle Direct Publishing原本是亚马逊为个人创作者打造的出版平台,目的是降低出版门槛,让作者方便快捷地出版书籍,也就是鼓励大家多做创作。


但是,随着生成式AI的成熟,图书创作的门槛进一步降低,短短几个月时间,亚马逊上已经有2000多本由GPT署名的AI生成图书。一位名叫Frank White的作者说,他用AI一天就可以写完119页的小说,每年可以写300多本书。


比如,一位在出版行业工作多年的作者Jane Friedman,撰写过《出版101:首次作者指南》等面向作者的指导书籍,她就向亚马逊举报了5本造假书籍,她认为这些书是根据她以前的博客文章用AI改写出来的,还未经同意署上了她的名字。


更重要的是,书的内容质量很差,并没有体现出她的创作水平,读者却难以分辨真假,这就会让读者误以为她的水平下降了,损害她个人的口碑,之后那5本造假书就被下架了。


Tik Tok也遇到过类似的问题,比如,一位Tik Tok用户Ghostwriter977用AI模拟了Drake和The Weeknd的声音,演唱了一首名叫《Heart on My Sleeve》的歌曲,在TikTok上点击量超过1500万次,但两位歌手的音乐版权方环球音乐认为违反了版权法,向平台提起了申诉,歌曲随后就被平台删除了。


亚马逊出版平台和Tik Tok都是内容平台,他们的核心竞争力就是内容质量,如果低质量作品过于泛滥,很可能稀释高质量作品的价值,而造假内容增多会影响平台整体公信力,所以,他们在发现类似苗头之后,就开始制定各种平台规则来加强监管。


但是,限制数量和要求作者加标签就够了吗?事情可能没那么简单,实际上,生成式AI对内容平台来说将是旷日持久的技术挑战!


其实,从亚马逊和Tik Tok现在公布的规则来看,基本类似于“君子协定”,要作者自发贴标签,如果人家故意不贴标签,那么考验的就是平台方鉴别造假作品的技术能力。


当然,也有不少公司在开发深度造假检测工具,比如,英特尔的FakeCatcher,微软的Video Authenticator等等,而且, Facebook还发起过Deepfake检测挑战赛,吸引全世界的优秀技术团队都参与进来,开发最先进的对AI生成内容的检测技术。


亚马逊和Tik Tok都有强大的技术团队和技术储备,也可以开发类似的深度造假检测工具。但问题是,虽然平台方的技术可以更新换代,但生成式AI也有技术调优的空间,它的模仿能力可能不断提升,别有用心的人甚至可能会用新技术来造假获利。


图片


所以,只靠一两个规则和检测技术,可能很难一劳永逸地解决问题,而是需要做好长期技术创新的准备。


更重要的是,并不是每个平台都具备亚马逊和Tik Tok的技术实力,有些平台也不一定会从严监管,所以,AI造假现象有可能长期存在。


不光对平台方,这对每个普通人来说都构成了巨大的挑战!其中一个关键解决方案就是提高个人信息素养,为什么这么说呢?


在纸媒时代,有一整套鉴别信息真实性的系统:信息在公布于众之前,需要经过层层审核,出版社、报社、电视台都是如此。也就是说,用专业人士的信息素养来帮助人们远离虚假信息,虽然也不时有各种纰漏,但理论上相当于为人们打造了一个虚假信息的防火墙。


但是,随着新媒体平台的成熟,挤占了传统媒体的空间,新媒体遵循另一套审核与推荐机制,点赞、转发、评论成为评价内容质量的核心标准,但是,点赞注重引爆情绪价值,却忽视了信息质量和真实性。


这就导致有些自媒体作者为了吸引眼球和煽动情绪,会故意制造假信息,相关案例不胜枚举。


现在,又来了生成式AI工具,这实际上是一把双刃剑,一方面会激发新的创意和优质作品,另一方面也会促进低质作品甚至假信息的泛滥。


也就是说,传统媒介的假信息防火墙逐渐失效,新媒介却容易成为假信息爆火的温床。


在这种情况下,就需要每个人培养自己的信息素养,在越来越复杂的海量信息中,学会辨别优质与低劣、虚假与真实。


也许有一些人宁愿沉浸在虚假信息中,随波逐流地发泄情绪,但是,必然有更多的人会保持清醒和理智,追求真实。


培养信息素养的方式有很多,既可以做纵向的追本溯源,也可以做横向的交叉对比,但关键是要培养自己的思辨能力,不轻易相信表面信息,尤其是那些非常情绪化的信息,学会提问、分析和评估。


图片


在全社会的信息素养逐渐提升的同时,也会出现更加强调信息信用,而不是一味突出信息的煽动性、传播性的新的媒体平台。这也许是社会化媒体的下一个大机会。


而信息素养也是我们做科技特训营的基本要求,我会持续帮助大家,对科技和产业信息做出客观冷静的分析,进而做出有价值的评估和判断。


以上是今天的内容,更多详细的产业分析和底层逻辑,我会在科技特训营里分享。欢迎关注全球风口微信号,报名加入!


王煜全要闻评论,我们明天见!


图片


以上内容来自专辑
用户评论
  • 听友192234933

    一天三本书