新闻事件:
近日一段“印度总理莫迪跳传统舞蹈”的视频在网上疯传,视频中,“莫迪”和其他舞者围成一个小圈欢快地旋转着。然而,莫迪上周末在印度人民党总部出席排灯节特别活动时亲自辟谣,称网上流传的跳舞视频是AI合成的,并就此发出警告。
据印度《加尔各答每日电讯报》网站报道,莫迪说:“我看到了一段我在跳加尔巴(起源于印度古吉拉特邦的舞蹈)的视频,‘多亏了’深度伪造。AI时代深度伪造内容的传播是一场大危机,值得注意的是,这很快引发了社会的不满。”“深度伪造”最常见的形式是AI换脸、语音模拟等。莫迪表示,深度伪造视频是通过社交媒体传播的,而社交媒体又有大公司的背书,因此许多人信以为真。他警告说:“人们会误以为自己看见的是真实的,这会引发巨大危机。”他还表示,现在印度缺乏识别这种“深度伪造”的技术。
“总理莫迪已经成为深度伪造的受害者,这是令人担忧的发展趋势。”《印度时报》19日评论道。近期,深度伪造技术生成的虚假视频在印度网络上兴风作浪,中招的不乏演艺圈名人,特别是女性艺人。这引发民众愤怒,一些演艺界人士要求政府介入打假。
印度《铸币报》网站18日称,印度电子和信息技术部部长阿什维尼·瓦希诺当天表示,政府已向所有大型社交媒体发出通知,要求他们采取措施识别深度伪造内容并删除。“社交媒体平台已经作出回应,并有所行动。”瓦希诺说,如果社交媒体平台未能采取适当措施打击深度伪造,之前保护社交媒体平台的条款可能不再适用。另据印度“Times Now”网站报道,瓦希诺说,政府可能在未来三四天召集各大社交媒体平台开会报告打击深度伪造内容的进展,包括Meta和谷歌。
来源:羊城晚报•羊城派综合环球网等
新闻点评:
评论:AI合成跳舞视频的传播现象引发社会的关注和担忧。印度总理莫迪成为深度伪造的受害者,这一事件引起了人们对深度伪造技术的认识和对社交媒体平台的质疑。
首先,深度伪造技术的快速发展给社会带来了巨大的挑战。通过AI换脸、语音模拟和其他技术手段,制作出看上去十分真实的虚假视频。这种技术的广泛传播可能导致公众难以分辨真实和虚假信息,甚至可能被用于散布虚假信息、破坏社会秩序。
其次,深度伪造视频对个人和社会造成了潜在威胁。在这个视频流行的例子中,莫迪作为印度总理成为了受害者,这可能损害他的形象和信誉。类似的虚假视频也会对其他公众人物产生负面影响,破坏信任和社会稳定。尤其对于女性艺人等演艺圈名人来说,深度伪造技术可能带来严重的个人隐私侵犯和道德风险。
再者,需要加强对深度伪造技术的监管和应对措施。政府的介入和监管是必要的,用于确保社交媒体平台采取有效措施来识别和删除深度伪造内容。除了创造更强大的技术工具来发现和阻止深度伪造,对违法行为进行追责也是必要的。此外,提高公众的媒体素养和警惕性也是一个重要环节,培养人们对信息的批判性思维和辨别能力。
最后,对于解决深度伪造技术带来的问题,合作是关键。政府、社交媒体平台和技术公司应该共同努力,加强合作,分享信息和技术,共同打击深度伪造现象。这需要跨界合作,共同制定规范和标准,共同保护公众和社会的利益。
总而言之,深度伪造技术的传播对现代社会提出了新的挑战。政府、社交媒体平台和公众都需要积极应对,加强监管,提高技术防范水平,培养公众对信息的识别能力,共同维护社会的稳定和信任。同时,加强国际合作也是必要的,以应对全球范围内深度伪造技术的传播和滥用。