当前版: A4版 上一版  下一版

AI向善,一道恒久的考题

  美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。(3月30日中新网)

  在美国知名企业家埃隆·马斯克、人工智能专家约书亚·本吉奥等人联名签署一封公开信后,这种担忧达到了一个新的水准。在这封信里,他们呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。从他们抛出的四个疑问来看,这些担忧集中在:人工智能可能会传播谎言,可能从事人类已经做得相当令人满意的工作,并直至人类在人机博弈中全面落败。而所有这些疑虑可以归结为一个终极之问,人工智能开发是否会危及人类文明进程?答案恐怕如同著名物理学家霍金所指出的,强大人工智能的崛起可能是人类遇到的最好的事情,也可能是最坏的事情,但我们还不知道答案。

  那么,AI的发展真的到了按下“暂停键”的时刻?其实,发展人工智能与防范人工智能作恶如同“矛与盾”,二者是相互促进的关系。如果彻底停止发展人工智能,那么人类恐怕也难以找到引导其向善的办法。所以,这封公开信是在提醒人们,必须从研发人工智能的危险竞赛中“后退一步”,当下迫切需要让研发活动重新聚焦于使该项技术变得“更加准确、安全、可解释、透明、稳健、一致、可信且可靠”。

  换言之,人类对人工智能的担心都源于一种执着的追求——期望AI向善发展。为此,埃隆·马斯克等通过公开信建议,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。同时,开发人员和政策制定者应加强合作,大幅加快强大的AI治理系统的开发。笔者认为,其中的关键词是合作和共治。也就是说,为了给全生命周期的人工智能科学地设置技术、伦理和法律的边界,必须促使政府、学界、企业、用户共同参与进来。唯有如此,方能实现AI创新发展与安全治理的深度协同。

  未来,人工智能的开发会日益呈现网络化和多中心发展的态势,尤须深化国际合作和全球治理。毫无疑问,这一过程推进的深度和广度,决定着人工智能如何持续地造福人类。   (杨博)

 
     标题导航
   第A1版:头版
   第A2版:博鳌亚洲论坛
   第A3版:聚焦广东高质量发展
   第A4版:评论
   第A5版:英雄花开英雄城
   第A6版:要闻
   第A7版:要闻
   第A8版:对话广州女企业家
   第A9版:要闻
   第A10版:2022第二届实力中青年医生推荐
   第A11版:2022第二届实力中青年医生推荐
   第A12版:2022第二届实力中青年医生推荐
   第A13版:经济
   第A14版:经济·广东
   第A15版:文娱·体育
   第A16版:大湾区观察
   第DGA13版:东莞新闻
   第FSA13版:佛山新闻
   第ZSA13版:中山新闻
   第ZSA14版:中山新闻·新区势
预算公开,“明白账”得是“明细账”
木棉红了 活动火了 全城热了
大兴调研之风 重在走深走实
做好婴幼儿照护试点,托稳民生大幸福
AI向善,一道恒久的考题
竞业协议滥用倾向当警惕
推广工间操得让职工“买账”
“零基础速成” 欲速恐不达
乐见仿真熊猫“萌出圈”