第A4版:评论

“AI骗人”拉响警报

练洪洋

本文字数:544

  热评

  人工智能系统是否会欺骗人类,一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。(5月12日新华社)

  也许你会说,AI早就染上了骗人恶习,还值得大惊小怪吗?去年5月就有一条“AI电信诈骗10分钟骗走430万”的新闻登上热搜榜。请注意,该案犯罪分子只是利用了AI换脸、拟声技术进行诈骗,AI只是工具,顶多算是“帮凶”并非“主犯”。而上述研究所指,是AI“单独作案”,对人类进行欺骗。

  比如,在某轮游戏中,AI并没有拿到最好的牌,但它却下了一个大赌注。就这一手段,竟把人类玩家吓到放弃了,因为在人类玩家看来,这通常意味着它抓了一手好牌。撑死胆大的,饿死胆小的,AI简直就是深谙人性、“老奸巨猾”的高手。假以时日,AI不断“长大”,进入“叛逆期”,挣脱人类“父母”对它的控制,它完全有可能成为一个不服管教、四处闯祸的“坏孩子”,甚至成为破坏人类社会秩序的不稳定因子。

  一位尖端AI专家曾发出警告:“如果不采取行动,人类可能会对更高级的AI失去控制。”可怕之处在于,失去控制很可能意味着反控制。我始终相信,人类足够聪明,有办法避免不良后果。只不过,AI留给人类采取行动、趋利避害的时间有多少呢?

  (练洪洋)

分享到微信
使用"扫一扫"即可将网页分享至朋友圈
版权所有 不得转载
1999-2011@广州市交互式信息网络有限公司 (大洋网)
经营许可证编号:粤B2-20040381信息网络传播视听节目许可证: 1906152
联系我们:81883088总机转各部门
订报咨询电话:81911089
广告咨询电话:81163279
广州日报官方微信
广州日报APP
广州日报评论 A4“AI骗人”拉响警报 练洪洋2024-05-15 2 2024年05月15日 星期三