AI（人工智能）换脸软件走向大众的风险之一，是这种软件可能会被不法分子滥用。据澎湃新闻报道，在二手交易品台闲鱼App上发现，有多位卖家通过AI换脸技术制作出当红女明星的不雅视频，进行售卖。
其中一位卖家表示，他有视频100部，里面包括30多位明星。还有一位类似卖家报价称，75元套餐中有40多位女明星上百部的AI换脸视频。
IT之家通过在闲鱼上搜索“爱 换脸”等关键词发现相关内容还存在。但只看描述的话并没有多余露骨的词语，而且引导用户去加个人微信交易。
闲鱼相关人员回应，该平台对违反公序良俗的商品一贯以来采取零容忍态度，从严从重处罚违规行为。同时，在平台处理的基础上，闲鱼还将向执法机关举报涉嫌发布违规信息的账号，协助开展线下溯源打击，追踪背后的黑灰产团伙。
律师表示，这种售卖明星换脸不雅视频的行为，毫无疑问是构成肖像侵权的，也涉嫌构成名誉侵权。而且还涉嫌构成刑事犯罪，它属于传播淫秽物品牟利罪，情节严重者可判无期徒刑。
今年3月20日，闲鱼在浙江省网信办指导下，在互联网行业内率先发起为期3个月专项治理行动，用最严厉手段打击各类涉嫌违反公序良俗的违规信息。
闲鱼相关人员表示，闲鱼呼吁公众发现违规现象时积极向平台举报，共同净化网络社会环境。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。