+
当前您的位置: 首页 > 原创评论 > 文明观察 > 正文

【红笔观察】莫让AI数字人钻了违法乱纪的“漏洞”

时间:2024-07-02 浏览量: 作者:郭元鹏

从影视娱乐到品牌营销,从电商直播到金融服务,数字人深入各行各业,并重塑商业生态,数字人应用已成为人工智能企业竞相角逐的新赛道。天眼查数据显示,截至目前,我国现存与数字人相关的企业114.4万家。其中,2024年1~5月,新增注册企业为17.4万余家,与2023年同期相比增加5.9%。AI数字人迎来发展黄金期。(7月2日《工人日报》)

数据显示,目前我国仅从事视频表演等活动的主播账号有近1.4亿个,其中虚拟“数字人”占了四成,超过5000万个。AI数字人的出现,无疑是科技的进步,是研发的创新,是新生事物的涌现。相较于人而言,其最大的优点就在于解放人力、物力,可以24小时不间断的“滔滔不绝”,而且不需要“唾液飞溅”“口干舌燥”,这是人所无法比拟的优势。

但也要看到的是,再好的技术只要被滥用了,只要失去了监管,其“双刃剑的另一面”就会暴露无遗。短视频平台里真假难辨的数字人主播,在B站爆火的“冷门歌手AI孙燕姿”,在舞台上吸引万千粉丝的虚拟偶像,一周就赚到7万美元的“AI女友”……数字人开始以各种形象,不同方式出现在大众身边。

就目前的情况来看,AI数字人需要重视的问题可不少:其一,“盗窃声音”,AI数字人借助现代科技,实现了声音模范的惟妙惟肖,只是靠着“观众的耳朵”是分不出真假的,以至于不少数字人为了吸引眼球,不断使用“名人的声音”,播音员的声音、著名专家的声音、影视明星的声音;其二,“侵犯肖像”,一些娱乐直播间,特别是带货直播间,公然使用名人的肖像制作AI数字人进行直播,由于技术的先进性,以至于成为了“真假美猴王”,加之这些账号故意使用模棱两可的名称和图片,让网友以为是“名人本尊”,混淆了视听;其三,“胡说八道”,别看是数字人,表面上说话滔滔不绝、言无不尽,实际上是信口开河、制造谣言。

AI数字人虽然不是真人,但是也不能“不干人事”,不能让AI数字人成为“没有人管的人”。《2023年中国虚拟人产业发展与商业趋势研究报告》显示,2022年中国虚拟人带动产业市场规模和核心市场规模分别为1866.1亿元和120.8亿元,预计2025年分别达到6402.7亿元和480.6亿元。这说明AI数字人确实是个新风口,但是新风口不可是新疯狂。

AI数字人得像人一样的守法,不能“跳出三界外”“不在五行中”。面对出现的新情况,需要有关部门解决新问题。要早日出台数字人监管的国家综合法规。不可让AI数字人成为“孙猴子”,要让他成为“孙行者”!

(红笔:郭元鹏 编辑:宁云平)