9.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒

已经很久没见到朋友圈刷屏相似风格的照片,证件照、古风照、港风照……成片效果甚是精美逼真,还以为是海马体、天真蓝出写真拍摄优惠套餐了,没想到是9.9元就能拥有的AI写真,出自一款叫“妙鸭相机”的小程序之手。 其实,这是一款用AI生成风格化照片的应用,上传20张正

最近,不少网友都上手测试了“妙鸭相机”这款AI写真应用,而就在这款应用刷屏社交平台的时候,与应用相关的隐私安全保护也被摆到了台面上,行业人士则讨论起了AIGC应用的商业化可能。具体这款“妙鸭相机”引发了哪些维度的讨论,一起来看看吧。

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

已经很久没见到朋友圈刷屏相似风格的照片,证件照、古风照、港风照……成片效果甚是精美逼真,还以为是海马体、天真蓝出写真拍摄优惠套餐了,没想到是9.9元就能拥有的AI写真,出自一款叫“妙鸭相机”的小程序之手。

其实,这是一款用AI生成风格化照片的应用,上传20张正脸高清照片,支付9.9元,AI就能帮你生成数字分身,然后挑选不同风格,一键生成写真风的照片,如果需要下载原图或生成高清版照片需要耗费2钻石,1钻石折合0.1元,钻石6元起充。

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

“妙鸭相机”小程序在7月17日上线,微信指数显示,从7月18日开始,“妙鸭相机”这一关键词的搜索指数便直线上升,7月24日指数为688万,日环比247.15%。

可能连它自己都没预料到,以致于算力准备不充分,高峰期排队制作时间长达十几小时,四五千人排队,这几日排队时长已缩短到几小时。

“妙鸭相机”的刷屏,“敲醒”的第一群人是海马体、天真蓝等连锁写真摄影机构。

不需要花一两小时化妆换装,不需要等几天的修片时间,最重要的是,不用支付100至500元的昂贵费用,用户可以收获同样精致的写真照,而且离逼真已不远。这些摄影机构虽然已经开始采用AI修图工具,但它们没有预料到,AI写真这一“价格屠夫”来得如此快。

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

如出一辙的证件照生意抢定了,流水线生产的写真照抢定了,也许结婚照、婚纱照的生意也快被抢。生成不同风格的模板并不难,稍有难度的是双人、多人头像的处理。

其实,最有危机感的是第二群人——数字人圈、元宇宙圈,甚至AIGC(生成式人工智能)圈。

圈内人表面平静,私底下已吵翻天,没想到打开C端市场的AIGC应用是一个如此简单的应用。也许,简单、刚需、门槛低就是现象级产品的王道。

让数字人圈甚至元宇宙圈忌惮的是,阿里大文娱的野心。没错,“妙鸭相机”主体是未序网络科技(上海)有限公司,也是土豆网的主体公司,而优酷土豆早就被阿里大文娱收购。

细读“妙鸭相机”的用户服务协议,可以读出不少门道,首先,阿里大文娱的野心很大,准备把数字分身搬到元宇宙,这就涉及到2D照片转换成3D形象,从技术上来说,还需一段时间的沉淀,但让用户用起来是最重要的,阿里大文娱至少迈出了第一步。

当年,微信革了中国移动“飞信”的命只是开端,固定电话、移动电话等社交方式都发生了巨大的变革;外卖革了方便面的命只是开端,到店就餐等生活方式也发生了巨大变革。

“妙鸭相机”革了海马体等连锁摄影机构的命只是一个开端,创意图库、视频制作等行业都将很快被“革命”,速度取决于AIGC圈的合规工作,C端产品将更快点燃市场。一个重要的节点是,8月15日起,《生成式人工智能服务管理暂行办法》将正式施行,一场AIGC改变社交、生活方式的变革正在酝酿。

比起优酷土豆抓住了生成式AI的财富密码,更令人欣喜的是,这是一次公众隐私保护的觉醒。

在“妙鸭相机”走红后,其过度索取隐私数据的“霸王条款”便引发争议。最初的用户协议显示,用户需授权“妙鸭相机”在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可授权的、免费的和非独家的许可,使得“妙鸭相机”可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用用户的内容。“妙鸭相机”系为了能够提供、确保和改进本服务(包括但不限于使用AI生成内容作为再训练数据等)。

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

初版用户协议

最终,用户的质疑促使“妙鸭相机”修改了用户协议和隐私条款并发布声明,表明用户上传照片只用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完后自动删除。

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

用修改后的协议来看,“妙鸭相机”确实删除了不可撤销的授权许可,以及过度索取授权等问题。

.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒"

修改后协议

曾记得,在用户换脸 “出演”电影经典片段刷屏时,只有媒体或安全圈人士在呼吁用户注意个人隐私保护,绝大多数用户并没有意识到隐私泄露的严重性。这几年,《个人信息保护法》、《数据安全法》等法案的出台,也渐渐唤醒了用户、相关公司的隐私保护意识。

多位从事安全工作的“白帽子”对记者说,还是不敢轻易尝试这类制作数字分身的工具,“20张高清正脸照片,可以做很多事了。”“90%以上的信息泄露都是监守自盗,而不是黑客攻击,公司可能没有主观恶意,但对员工没有很好的约束力。”一看到要上传高清正脸照片,他们的脑海里就会闪过深度伪造技术和无数的案例。

前不久,10分钟被骗430万元、9秒钟被骗245万元等巨额诈骗,都是受害者在微信视频通话后,才将钱转给了所谓的“好友”,诈骗分子极有可能利用了AI换脸、AI换声等技术。一位大学教授最近也跟记者说起,自己经历了类似的AI换脸骗局,诈骗分子盗用的是一位地方领导的微信,所幸这位教授识破了骗局。

在此之前,诈骗分子甚至用假人脸骗过了安全防范等级极高的银行App。国内安全团队瑞莱智慧RealAI就曾通过对抗样本攻击,破解19款安卓手机的人脸识别解锁系统。即便是搭载了交互式活体检测功能的十余款金融和政务服务类App,也都被轻易破解。

连安全专家也没有很好的技术手段来规避这类骗局,但都提醒道,普通人尽量不要在社交媒体上大量晒个人及家人的照片、视频等,因为深度伪造视频的原材料就是这些,数据越多,训练出来的视频越逼真。

待到C端用户的AIGC应用百花齐放时,隐私安全、版权保护等问题必将涌现。微信、抖音包围人生的时代,即将发生变化,AIGC会创造一个新时代,颠覆总发生在意想不到的边缘,谁会是下一个微信、抖音?

作者:孙妍;编辑:孙妍

来源公众号:IT时报(ID:vittimes),做报纸,也懂互联网。

本文由人人都是产品经理合作媒体 @IT时报 授权发布,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

收藏
已收藏
{{ postmeta.bookmark }}
点赞
已赞
{{ postmeta.postlike }}

本站仅汇总数字经济及相关趋势,科普相关行业知识,不建议不指导持有任何同本国实体无关的数字货币。

免责声明:本站所有内容,图片均是来源于用户投稿以及许多相关书籍、杂志、互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,请在线联系站长,一经查实,本站将立刻删除。