人工智能发展正处于关键节点，其带来的机遇与挑战引发了广泛的思考。9月5日下午，外滩大会科技伦理见解论坛上，来自中国工程院、清华大学、中国科学院大学等机构的专家学者们齐聚一堂，共同探讨人工智能的未来和治理问题。
近年来，以ChatGPT、sora为代表的人工智能技术快速发展，不仅为社会带来了巨大的机遇，也带来了巨大的风险挑战，例如隐私泄露、算法偏见等问题日益凸显。专家们一致认为，人工智能治理的重要性不容忽视，甚至应该走在技术发展的前列。
9月5日下午，外滩大会科技伦理见解论坛现场（牛益彤 摄）
清华大学公管学院教授、人工智能国际治理研究院副院长梁正指出，人工智能发展如同“自由落体”，如果缺乏有效的治理，其潜在风险将会失控。他强调，要确保管理与技术发展同步进行，避免出现“治理滞后”的问题。
专家们普遍认为，当前人工智能发展正处于产业化的初期阶段。回顾历史，从核武器、疾病控制到飞机、汽车等交通工具，技术发展在初期往往伴随着各种问题。因此，在人工智能发展中，必须积极主动地规划发展方向，以应对潜在的风险挑战。
中国科学院自动化研究所研究员、联合国高级别人工智能咨询机构专家组成员曾毅提出，人工智能的发展需要从被动防范转变为主动出击。他强调，人工智能自身应该具备系统自适应和安全能力，两者并不冲突，但需要在发展过程中逐步完善。
专家们将人工智能比喻为“孙悟空”，需要通过有效的治理机制，将人工智能的巨大潜力与潜在风险有效控制。国家创新与发展战略研究会副会长、中国科学院大学经管学院教授吕本富认为，人工智能的治理需要找到合适的“紧箍咒”，既能够约束其潜在风险，又能发挥其积极价值。
从国际视野来看，越来越多的国家认识到人工智能治理的重要性，纷纷出台相关法律法规。据中国工程院院士吴世忠介绍，目前全球已有31个国家通过了123项涉及人工智能的法律法规，其中包括欧盟议会今年3月正式通过的《人工智能法案》和美国总统拜登去年10月签署的第14110号行政令等。中国在人工智能治理方面也走在前列，在刚刚结束的人工智能大会上展示了显著成果。
未来，人工智能的发展方向应该是既合乎伦理又具有道德。曾毅认为，负责任地稳健发展、适度使用人工智能，才能让其真正扬帆起航。
