“AI换脸”，换的不只是脸

宋宁华

直播间里“刘德华”卖力带货，雷军的“声音”热情推荐理财产品……这些以假乱真的画面，就像AI技术打开的“潘多拉魔盒”，名人“被代言”只是揭开了乱象的冰山一角。

AI换脸，虽然近期才频繁走入公众视野，但在文学影视作品中早有体现。《黑镜》系列片中，主角借助AI技术复制已故亲人的形象和声音，引发了众人对技术伦理的深刻反思。《三体》小说中提到的“智子”技术可以操控人类感知，与AI换脸技术中的“伪造现实”也有相通之处。

事实上，已经有人盯上这个“新兴产业”。有的网店接单，只需几十元就能提供AI深度合成制作的名人视频，一些开源软件和工具可以让人轻松实现换声换脸的效果。如果只是博自己或朋友一笑也罢，一旦进入商业公开领域，成为牟利甚至诈骗的“帮凶”，不免让人细思极恐。

在司法实践中，国内已审结首例AI生成声音人格权侵权案，通过案件裁判为新业态、新技术划定应用边界，并彰显兼顾保护人格权益与引导技术向善的司法态度。上海市嘉定区人民法院也曾审结因提供“AI换脸”服务引发的著作权侵权纠纷案。

尽管诸多法律法规为AI换脸戴上了“紧箍”，但由于是新生事物，现行法律对AI合成内容的认定、追责、责任分担等仍存在模糊地带，法律监管的步伐仍滞后于技术发展。因违法成本过低、平台责任不明确，受害者维权举步维艰，新型网络乱象由此滋生。

科技本身并无善恶，关键在于使用它的人。治理AI乱象需要多方合力：加快立法进程，明确技术使用边界，防患于未然；建立健全内容审核和侵权举报机制，及时发现和处理侵权问题，将“恶之花”扼杀在萌芽状态。

技术进步不可阻挡，然而人们在享受AI便利的同时，更要守护好社会的道德底线和法律红线。唯有如此，科技创新才能传递更多善意，让世界变得更加美好。