当前人工智能领域普遍存在一个现象：AI模型的安全能力提升远远落后于性能的提升。这种失衡导致了AI发展的不均衡，如同跛足前行，难以取得突破性进展。
造成这种失衡的根源在于对AI安全和性能投入的巨大差异。目前，全球范围内将近99%的算力用于模型预训练，而用于对齐或安全优先考量的算力仅占不到1%。
周伯文指出，从人才投入、商业驱动力、算力投入等多个方面来看，AI安全领域的投入远远落后于AI能力提升。这种失衡现象不容忽视，它会阻碍AI技术的健康发展，并带来潜在的安全风险。
为了解决这一问题，周伯文提出探索“人工智能45度平衡律”。这一理念强调AI安全与性能之间的平衡发展，长期来看，AI要大体上沿着45度线发展。短期内可以有波动，但不能长期低于45度，也不能长期高于45度，这样才能避免技术和产业应用发展受阻。
周伯文认为，实现AI 45度平衡律需要强技术驱动、全流程优化、多主体参与以及敏捷治理。上海人工智能实验室正在探索“因果之梯”的路径，以因果推理为核心，推动可信AGI的发展。
可信AGI的“因果之梯”将可信AGI的发展分为三个递进阶段：泛对齐、可干预、能反思。
当前，AI安全和性能技术发展主要停留在“泛对齐”阶段，部分技术开始尝试进入“可干预”阶段。然而，要真正实现AI的安全与性能平衡，必须完善“可干预”阶段并勇于攀登“能反思”阶段。
周伯文强调，只有通过深入理解AI的内在机制和因果过程，才能安全有效地开发和使用这项革命性技术。他相信，沿着“因果之梯”拾级而上，可以构建真正可信的AGI，实现人工智能的安全与卓越性能的完美平衡。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，可联系本站进行审核删除。
