□陈彦霏
11月24日，胖东来集团发表声明，称近期第三方网络平台多个账号为博取流量，未经授权擅自利用AI技术手段生成于东来声音，对公众造成误导和混淆，并将坚决采取法律措施追究其法律责任。
这并非企业家第一次被AI侵犯权利，今年10月，雷军就曾被网友利用AI合成语音恶搞，恶搞视频中“雷军”锐评了堵车、假期等热门话题，还包含一些不雅谩骂。对此，雷军回应称“自己也挺困扰”“挺不舒服的”。老牌港星黄百鸣10月也在社交媒体上发表声明，提及自己被AI伪造用于代言。
AI作为一把“双刃剑”，在带给人们创作便利提高生产效率的同时，也为不法分子提供了更强大的武器。如果不加以节制，当AI脱下恶搞娱乐的“遮羞布”，暴露出来的问题，则是对社会乱象的野蛮助长。
如果说对知名人物的侵权只是给我们敲响警钟，生成式AI在诈骗造谣上的运用则是将触手伸向每一个普通人。《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000％。诈骗、造谣、非法牟利……一系列违法犯罪在AI的帮助下变得更加难以防范。诈骗分子用AI生成声音、换脸，训练有素的大数据模型造假真假难辨。不仅如此，在受害者的选择上，不法分子还利用AI筛选受骗人群，技术手段加大了诈骗者和普通人的认知鸿沟。当“眼见并非为实”，当谣言被成千上万自动生产，信息真实和社会信任都将面临重大考验。
为此，我们亟需树立“智能向善”社会共识。在刚刚结束的2024世界互联网大会上，“智能向善”这一主题也被反复提及，雷军在大会上表示，科技企业要发挥推动“智能向善”引领作用。就实际行动而言，中国联通用AI技术助力诈骗电话过滤系统精准度提升了40%、人工智能专业委员会成立推动相关规范……不仅进一步探索用AI反诈的各种手段，“用魔法打败魔法”；更在国家和社会层面，完善相关法律法规，进行广泛的AI伦理普及宣传，让“智能向善”的共识深入人心。
