图灵奖得主杨立昆：让AI平台安全良善实用的唯一方法是开源_OKX官网

来源：澎湃新闻点这里查看OKX官网！

记者 张静点这里进入OKX官网！

·“有一些人因为害怕人工智能的结果，整体上就希望人工智能受到严格监管。因为他们说，如果任何人都能掌握人工智能，如果他们可以用人工智能做任何想做的事，那么情况可能会非常危险，所以需要严格监管人工智能。我完全不同意这种说法。”

点这里进入OKX官网！人类花了很长时间才建立起当下的伦理和治理机制。如果允许人工智能形成像人类一样的意识和智慧，人类该如何满足伦理和治理的要求？人类对人工智能的干预机制是什么？

7月6日，2023世界人工智能大会在上海开幕。2018年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆（Yann LeCun）在开幕式上表示，他完全不同意“因为任何人可用人工智能做任何事，情况可能会非常危险，所以需要严格监管人工智能”的说法。从长远来看，使人工智能平台安全、良善、实用的唯一方法就是开源。

杨立昆谈到了人工智能变得智能、可控的方法。“如果你认为达到人类水平的人工智能的方法是做更大的自回归LLM（大语言模型），然后利用多模型数据测试，那么你可能会认为，这些人工智能系统不安全。但事实上我不认为这个系统可以非常智能，我认为它们变得智能的方法也是让它们变得可控的方法，即目标驱动人工智能的理念。本质上来说，就是给它们必须满足的目标。”杨立昆表示，这些目标有些是由任务定义的目标，比如系统回答问题了吗？系统开动你的车了吗？系统清理餐桌了吗？其他目标则充当安全护栏，比如不要伤害任何人。

杨立昆认为这些人工智能系统不会通过一点一滴的渗透来欺骗或支配人类。人类可以设定迫使人工智能诚实的目标，例如迫使人工智能屈从于人类的目标，要小心那些想让它们好奇的目标，小心让它们接触到它们不应该拥有的资源。“所以我认为这些系统将是完全可控可操纵的。系统可以被设计得安全，但这并不容易。设计这些目标，让系统安全，将会是一个艰巨的工程挑战。”

但杨立昆表示，人类不必一开始就把它设计得很好，而是可以先从建立像老鼠一样聪明的系统开始，人类的目标是让它成为一只好老鼠。“我们会把它们放进沙盒或仿真环境中测试，我们要确保它们是安全的，这是很重要的问题，因为有一些人因为害怕人工智能的结果，整体上就希望人工智能受到严格监管。因为他们说，如果任何人都能掌握人工智能，如果他们可以用人工智能做任何想做的事，那么情况可能会非常危险，所以需要严格监管人工智能。我完全不同意这种说法。”

相反，杨立昆认为，从长远来看，使人工智能平台安全、良善、实用的唯一方法就是开源。未来每个人都通过人工智能助手与数字世界互动，人类所有信息都要通过这个人工智能助手，如果技术被少数公司控制，这不是一件好事。“未来人工智能系统将成为人类所有知识的宝库，训练它们的方式需要基于众多来源。因此我们将在未来看到更多的开源LLM和更多的开源人工智能系统。”