虚拟数字人的技术风险防范

广州日报 2023年12月25日 杨博

  名家新论

  中国社会科学院大学新媒体研究中心执行主任、教授、博导杜智涛近日在《人民论坛》撰文指出:

  虚拟数字人具有双重属性:一是物的属性,即作为一种技术工具而存在,按照技术的逻辑发展、驱动和规制。二是人的属性,因其具有人的外形,所以人们对它抱有一种社会意义上的期待,它具有身份政治的潜能。因此,虚拟数字人是有生命的,其生命来自于对人的仿真与情感注入。在“偃师造人”故事中,周穆王看到偃师制造的木偶艺人挑逗他的侍妾而大怒,是因为这个人偶外形上太逼真,以致周穆王不由自主地代入了情感。由于虚拟数字人的拟人化外形,人们会情不自禁地将人的伦理道德赋予它们。特别是当其表现出与人一样的智能时,这种情感就会更强烈。然而,对虚拟数字人进行社会规约的缺位,导致其成为道德失范甚至违法犯罪的工具,比如,深度伪造技术通过换脸、换声创造出虚假身份来混淆视听、欺诈用户;数字拟身和虚拟分身使真人穿上“马甲”而隐匿身份,从而做出无道德底线的行为;以AI机器人为代表的智能化身作为人的知识助手,为人提供的答案带有商业诱导或虚假信息。大多数虚拟数字人依靠商业化运营,其流量为王、娱乐至死的商业运作逻辑可能会与社会伦理道德相悖,如虚拟主播享有巨大的知名度、信任度和影响力,却不承担和履行作为公众人物所应当承担的社会责任与义务。这些问题都是技术失控所导致的,对虚拟数字人的规制不仅仅需要技术治理,建立起相应的信息基础设施、模拟仿真技术、内容生产系统等“硬基建”;更需要建立起社会规约、价值系统、身份系统、法治系统以及伦理与道德系统,构造其健康发展的“软基建”。

  (广州日报全媒体记者 杨博 整理)

广州日报理论周刊A9虚拟数字人的技术风险防范 杨博2023-12-25 2 2023年12月25日 星期一