10月18日凌晨，演员吴越发文怒斥视频号“花姐美肤日记”利用AI技术伪造其形象直播带货：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱？请如数奉还！太恶劣！！！”
吴越上述微博提到的AI视频中，名为“花姐”的账号，发布以“明星同款、吴越推荐”为由头推荐一款护肤品，称吴越为了回馈老粉丝，居然联合厂家给大家送福利。音频为吴越的“声音”，“这个产品不是他们找我，是我找他们，因为我看了一些视频，我觉得有没有这么夸张啊，但是当我收到之后，效果是真的非常直观。”“我都说今天我直接送，闭着眼睛用闭着眼睛囤，孕妇妈妈都能用。”
除吴越外，该视频最后还有“邓亚萍”相关“带货”画面。此外，在上述网络账号中，还发布了多条“乒乓球冠军邓亚萍推荐”等广告带货相关视频。
据微信团队消息，目前账号已被永久封禁，内容清空不可见。
近两年，AI深度合成名人、换脸换声的视频层出不穷。此前，演员温峥嵘也曾自曝刷到AI盗播自己的直播间，上前质问竟被秒拉黑。温峥嵘在采访中表示，“早在4月份之前，就说我出现在多个直播间，同一时段，妆发不同，不同的产品，说着同样的话。”
此前，最高人民法院发布关于依法审理涉人工智能（AI）纠纷案件的意见，进一步明确司法裁判规则，释放坚持发展和安全并重的鲜明信号，促推人工智能健康有序发展。
经济日报就此发文指出，花几元钱就能“偷声”，“一键换脸”效果足以乱真……人工智能快速发展的同时，也带来不少安全隐患。目前我国尚未出台专门的人工智能法。当人工智能造成损害、引发侵权或者进入诉讼，谁担责、谁举证等一系列问题，亟需在现行法律制度框架内予以解决。
人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善，才能让人工智能这匹千里马既跑得快又跑得稳。
综合经济日报 澎湃新闻 九派新闻
免责声明：本站转载的文章，版权归原作者所有；旨在传递信息，不代表本站的观点和立场。
