伯乐头条专讯:菲律宾电信巨头Globe近日宣布,为保护儿童权益,该公司通过技术手段打击在线儿童色情内容,特别是识别和屏蔽利用AI生成的非摄影图像(NPI)形式的儿童性虐待内容。Globe表示,2024年8月27日至9月27日期间,在英国互联网观察基金会(IWF)的协助下,公司成功拦截了343个涉及儿童性虐待的非法链接,并封锁了16个域名。
IWF是一家致力于消除在线儿童性虐待内容的英国非营利组织。该机构指出,AI合成图片同样具有极大的伤害性,哪怕用户无意间浏览到这些内容,也会造成持久的心理影响。
Globe首席信息安全官兼首席人工智能官Anton Bonifacio表示:“Globe致力于为所有人,尤其是儿童,营造一个更安全的网络环境。我们将继续加大努力,阻止有害内容的传播,保护儿童免受网络上的性剥削。”据悉,Globe已投资超过270万美元,用于建立内容过滤系统,以识别和阻止非法内容的传播。
数据显示,今年上半年,Globe封锁了1,718个域名和190,167个包含儿童性虐待内容的非法链接。此外,公司还停用了2,726个与非法赌博网站相关的域名。然而,针对AI生成的儿童色情图片等新型网络犯罪,现行法律仍未能有效监管。
**分析:AI技术助长新型网络犯罪,法律监管亟待跟进**
随着技术的进步,AI换脸等技术为不法分子提供了可乘之机。许多视频平台上出现了通过AI合成的涉嫌儿童色情内容,甚至有制作者利用AI技术将儿童面部嫁接到挑逗动作上,更有甚者通过输入极端指令生成超出认知的非法内容。这种新型犯罪不仅严重侵害了未成年人的权益,还可能对无意浏览到这些内容的观众造成生理不适。
对抗这类犯罪,仅依靠技术手段还不够,必须通过立法对违法行为进行严厉打击,从源头上清除AI生成的非法内容,才能有效遏制网络犯罪的蔓延。