男子亲身演示AI换脸,到底是咋回事?
随着AI技术的成熟和发展，一键“换脸”和“换装”因其意想不到的效果而备受关注，屡屡冲上热搜。最近很多网友开始在社交媒体和短视频平台上展示AI变脸内容。在热播剧里改头换面或者喜欢是比较常见的。
文本摘要:
随着AI技术的成熟和发展，一键“换脸”和“换装”因其意想不到的效果而备受关注，屡屡冲上热搜。最近，许多网友开始在社交媒体和短视频平台上展示AI变脸内容。更常见的是把自己的脸或者像热播剧里明星的脸。但此举也引发了网友对AI变脸在影视剧中“大行其道”的担忧。这是尊重演员和版权吗，这种变脸以后还会出现在非法视频里吗？事实上，在ChatGPT流行之后，生成式AI技术的发展和应用引发了新一轮的AI技术浪潮。但很多人除了自娱自乐，还试图利用AI牟利，甚至做出违背伦理和法律的事情。如何让AI有益于人类和社会发展而不伤害人类，正在成为新的课题。某男子亲身演示AI换脸究竟是肿么一回事，跟随小编一起看看吧。
亲吻迪丽热巴，长得和川普一模一样，马斯克被困贫民窟，坐地铁，一键脱照……随着AI技术的成熟和发展，一键变脸、穿衣打扮因其意想不到的效果吸引了大量关注，多次冲上热搜。
最近，许多网友开始在社交媒体和短视频平台上展示AI变脸内容。更常见的是把自己的脸或者像热播剧里明星的脸。但此举也引发了网友对AI变脸在影视剧中“大行其道”的担忧。这是尊重演员和版权吗，这种变脸以后还会出现在非法视频里吗？
事实上，在ChatGPT流行之后，生成式AI技术的发展和应用引发了新一轮的AI技术浪潮。一批巨头涌入，开发面向消费者的AI应用，让人工智能开始在用户生活中“生根发芽”。但很多人除了自娱自乐，还试图利用AI牟利，甚至做出违背伦理和法律的事情。
如何让AI有益于人类和社会发展而不伤害人类，正在成为新的课题。
图/视觉中国中国
AI变脸走红的时候。
“我终于和爱豆合影了。”不少网友近日在社交媒体平台晒出自己和爱豆的合照，被网友戏称为“拿着它骗我妈，我妈以为我恋爱了。”这些照片都来自一键AI变脸app。这些app有大量的视频和照片模板，可以让很多粉丝实现和爱豆合影的愿望。
但也有不少网友表示，以前这些app基本都是免费的，现在却需要充钱做会员。在phone的のAPP商店搜索，许多最近下载的人工智能变脸应用程序都有了很大的改善。在评论区，很多网友觉得新鲜有趣，但也有网友质疑。
某博主公开发表声明称“图片被AI换脸软件盗用为模板”。这位博主说，作为模特，他和摄影师一起努力，但被人偷走了，有点“难过”。另一位博主也声称，他在1月份发布了一组照片，这些照片现在在国内装有AI变脸软件的社交媒体平台上被很多人私下使用，并且出现了大量类似素材的视频和照片，甚至有人因为相关内容登上了热搜榜，并传播到海外平台。
在短视频平台上，有很多主要的AI变脸内容，博主使用这项技术的主要原因是大量的粉。最近博主引起了很多争议。
特效师洪在短视频平台拥有超过百万的粉丝。在此之前，TA经常通过电脑后期制作来替换影视视频中的“の”场景。最近，TA通过AI换脸，将电视剧中出演“のの”场景的女主角Dilraba换成了自己。这个视频引起了很大的争议，很多粉丝表示不满，甚至找到TA讨说法。洪某后来在上曝光了自己被粉丝抓伤的脸，最后的结果是洪亮隐藏并删除了所有关于的内容。TAの账号也因违反社区规定被封禁15天。
此事引起了法律界的关注，同时也让艾的变脸行为更受关注。当许多人下载并使用该APP时，这项技术背后的伦理挑战和法律风险也越来越突出。浙江孝德律师事务所主任陈文明表示，如果博主得到了行为人的同意，尊重了行为人的人身权，那么这种行为就变得可行，可以适当适用。但是，没有行为人的同意，就可能违反道德和法律的双重规范。
万商秦天律师事务所合伙人张峰对《中国新闻周刊》表示，上述博主的这种行为可能侵犯了相关视频产品或视听作品的著作权改编权，侵犯了女明星的人格权、肖像权、名誉权。传播此类内容，如果被认定为不良内容，可能违反互联网信息内容治理和公序良俗的相关规定。
CCID智库网络安全研究所所长刘权指出，这种行为涉及许多问题，包括道德伦理和法律制度。个人认为，这种行为会对受害者的心理健康造成伤害。对于公众来说，通过AI技术进行合成创作，可能会模糊真假界限，损害社会公信力和价值观。从法律制度的角度，如果未经授权使用TA肖像或作品进行合成或创作，可能构成侵犯TA肖像权和知识产权，这就涉及侵权问题，需要承担相应的法律责任。
技术成本越来越低。
今年以来，随着ChatGPTの的爆发，人们逐渐关注生成性人工智能。当一个AI产品可以像“人”一样回答问题，并与用户互动时，很多业内人士认为“通用AI”已经到来。
刘权告诉《中国新闻周刊》，过去市场上的AI产品主要是所谓的分析型AI，这类产品的主要功能是学习和分析数据，从而做出预测，辅助用户做出判断。与这种AI不同的是，生成式AI的主要功能是通过学习生成不同于训练数据的新数据。得益于这种创造能力，与分析型AI相比，生成型AI可以应用于更多不同的场景，完成更多样化的任务，因此它正在成为一种“通用AI”。
TA进一步指出，生成式AI技术可以通过变脸、变装等技术创造出非常逼真的视频和图片，可以为互联网生态提供大量的内容产品。而且相比传统的のUGC(用户生产内容)，AIGC(AI生产内容)在内容生产成本、内容数量、质量、稳定性等方面更有保障。这些特征。
张峰表示，从内容产生和创作的角度来看，生成式AI为内容产生和创作提供了一种低成本、高效率的方式。一方面，从创作主体来看，更多的普通用户可以借助AI工具轻松创作出基本符合自己需求的数字内容。另一方面，从创作内容来看，数字内容的创作要更贴近用户的需求和使用场景；此外，从组合的角度来看，内容生成和创作可以智能组合成各种场景。
一位资深电商从业者最近发现，很多使用生成式AI的创意工具相继问世。以前，拍出非常漂亮的产品图纸是很多中小厂商很头疼的事情。一方面没有相关人才，另一方面成本也不低。最近有很多用AI设计电商的产品，一般都是按年收费的。营销内容能多快多经济地生产出来？
中央财经大学数字经济融合、创新与发展研究中心主任陈端表示，目前来看，生成式AI最有可能带来变革或影响的，是在内容生产领域。原因是内容生产链条比较短，IP价值链的外延空比较大。目前来看，实现商业变现是可行的。
刘权指出，无论是消费领域还是工业领域，生成式AI都可能发生颠覆性的变化。在消费级的日常办公领域，相对重复性和创造性较低的任务可以由生成式AI辅助完成；在搜索领域，生成式AI+搜索”模式可以大大提高人们从海量信息中检索所需信息的效率，因此有可能成为新一代的“搜索”模式。
此外，TA还指出，在工业端，比如在工业设计领域，生成式AI不仅可以根据设计师的想法快速提出多种方案，还可以直接对各种方案进行比较评估，供设计师选择，可以有效节约设计成本，缩短设计时间。比如谷歌、英伟达等公司在芯片设计中已经使用AI进行辅助设计；在药物研发领域，生殖式AI的引入可以帮助研究人员识别化合物の的分子结构，并根据需要重构和修改分子结构，有助于缩短研发时间，减少研发投入。
根据美国西部证券的分析，预计AIGC市场空到2025年将达到40.352亿美元，到2030年将达到217.558亿美元。这意味着未来几年整个市场可能会迎来爆发式增长。
“没有限制，你将面临严峻的挑战”
在很多社交媒体和电商平台上，搜索“AI换头”、“AI特效”，很多人都在用这些技术接单，但并不明目张胆。一般会要求用户添加微信，然后看朋友圈的视频案例。收费从几十元到几百元不等，商家称“只需提供一张照片”。
陈文明指出，无论是为了制作这样的视频，还是为了教学，这些营利活动的前提都必须是取得相关人的同意，否则就可能造成侵权。
上述商家表示，“自己娱乐有什么风险？只要不是商业的，谁来找你？”陈文明强调，随着技术的发展，所谓的“一键变脸”，如果完全放开，不加限制，肯定是弊大于利的。从法律角度看，隐私、知识产权等领域可能面临严峻挑战。
刘权担心的是，生殖型AI的滥用也可能造成巨大的公共危害。比如，犯罪分子可以更低成本、更高效率地伪造文字、图片甚至视频资料，从事诈骗、恐吓、诽谤等犯罪行为。
张峰进一步指出，随着技术的发展，单纯从技术角度来看，生产成本可能确实越来越低，但从相关的技术监测和检测手段、法律规定和管理制度来看，会提高违法成本。
近两年，随着AI的兴起，融资超过千万美元的AI产品不在少数，很多产品深陷色情信息和虚假信息。在很多媒体的报道中，ChatGPT还可以根据用户的指令生成虚假信息。上月底，马斯克与1000多名人工智能专家签署了一封联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少6个月，理由是这种系统对社会和人类构成潜在风险。
张峰指出，就未来发展而言，目前有一个共识，人工智能自然语言的大模型本身不是一般小公司能承受的，因为它涉及到海量的参数模型开发、海量的数据训练和巨大的计算能力支持，竞争主要存在于中国和美国的互联网巨头之间。互联网巨头对监管持谨慎态度，也有很强的社会责任感，有实力也有意愿合规地推广R&D和应用。至于未来的受益公司，任何拥有大数据、计算能力、大量应用用户或应用场景的公司，都将享受到很多机会。比如目前以图片版权的授权和使用为商业模式的公司，会受到一定影响，但如果基于其庞大的正版图片数据资源调整商业模式，还是会有很多机会的。
4月11日，为促进生成式人工智能技术的健康发展和规范应用，国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》，并向社会公开征求意见。陈端将此举解读为“在新一轮立法和政策制定过程中，国家坚持包容开放的态度，通过明确的政策导向和引导，帮助创新创业者，明确底线意识，从而充分释放创新创业的潜力和动能”。
刘权指出，第三条规制原则是，国家明确支持人工智能算法、框架等基础技术的自主创新、推广应用和国际合作，鼓励优先使用安全可靠的软件、工具、计算和数据资源。在一键变脸的行为变得更加普及和容易之后，有必要建立相关的规范和监管机制，以确保合法、合规、安全地使用这一技术，维护良好的社会秩序和价值观。同时，企业和个人应自觉遵守相关法律法规和社会道德规范，克制侵权行为和虚假宣传，促进AI技术健康发展。
作者:孟芊
一个人亲自演示了AI变脸相关阅读:
1000块钱一个，TA靠拍明星的私人小视频一个月收入过万，最后红极一时。
这部漫画是根据真实事件改编的。
AI技术突飞猛进。今天，很多人在享受AI带来的便利的同时，用AI来变脸、画图牟利。
AI技术是一把双刃剑。“杀人不是枪，而是扣动扳机。”更何况网络不是法外之地。利用TA人的照片进行制作传播，获取非法利益，这是犯罪！
根据相关法律规定，公民的肖像权、名誉权受法律保护，任何人不得侵犯！不管是女朋友还是女明星，还是素未谋面的普通网友，都不应该成为被性侵的对象。
如果发现自己的照片被恶意使用，请及时报警处理！迈出勇敢的第一步，就可以把那些别有用心的人送进监狱！
#标题创作挑战#