自然灾害后中国面临人工智能伪造视频泛滥新挑战

近几个月来，中国发生的风暴和洪涝等自然灾害催生了一种新型虚假信息：以人工智能生成的高度逼真假视频，在灾难发生后迅速涌入社交媒体平台。这一现象对当局在紧急情况下管理公共信息带来严峻挑战。

人工智能生成的灾难内容

每当中国发生重大天气事件或洪涝灾害，社交媒体上几小时内就会出现大量捏造视频，声称展示实际上从未发生的破坏场景、伤亡情况或救援行动。

问题的规模

BBC报道显示，在中国数次近期洪涝灾害期间，虚假AI视频大量涌入微博、微信等平台，在未实际受灾地区造成不必要的恐慌。

应对与监管

中国当局已着手规范人工智能生成内容，要求为合成媒体添加标识。然而在灾情快速演变的情况下，大规模执法仍面临挑战。