堵实滥用之门,守护AI向善

广州日报 2025年04月08日 皇甫思逸

  近日,公安网安部门侦破一起非法获取计算机信息系统数据案,犯罪嫌疑人非法获取两万余条学生个人信息,后通过之前发现的某小程序存在的技术漏洞,利用AI编写程序批量注册账户,将短信验证码篡改为淫秽内容,向两千余名学生发送骚扰短信。

  据公安部通报,本案犯罪嫌疑人胡某还是一名在校大学生。一个受过高等教育的年轻人,竟然将聪明才智和“高科技”用在违法犯罪上,其动机还是寻求刺激、炫耀技术,实在令人又可气又叹息。如今,从AI语音诈骗到深度伪造视频、“一键脱衣”,再到一个简单的编程工具就让数千人被淫秽短信骚扰,技术作恶的门槛不断降低,其破坏力却不容小觑。此案不仅再次向我们警示了技术滥用的隐蔽性和危害性,也折射出数字时代网络法治教育、技术伦理培养的紧迫性。

  AI无界,法律有边。从刑法到网络安全法,再到治安管理处罚法,我国已构建起相对完善的法律体系,以保障网络空间的安全与秩序。但面对技术犯罪的新特点,相关法律法规仍需进一步细化,立法、执法、司法等相关各方仍待进一步形成合力。与此同时,相应的技术教育不应只停留在“如何用”的层面,更要让学生思考“该不该用”,必须将技术伦理纳入必修课程,让学生明白技术“可为”与“不可为”的界限,树立正确的法律意识和道德观念。

  此外,某些小程序漏洞多、各类信息系统防护薄弱等情况的存在,都给“技术黑手”留下了可乘之机。对此,必须建立更完善的防护体系。譬如,各单位应当定期给信息系统“体检”,筑牢技术“防火墙”,及时修补系统漏洞,加强内部数据管理,让黑客和“内鬼”无缝可钻。

  技术是把双刃剑,AI功能不断强大,发展要系好“安全带”。多方合力,共同守护技术向善,确保技术在合法、合规的轨道上前行,方能让AI真正成为造福社会的好帮手。

广州日报评论A4堵实滥用之门,守护AI向善 皇甫思逸2025-04-08 2 2025年04月08日 星期二