IT之家1月1日消息日斗-优配，当地时间2025年12月30日，据英国《卫报》报道，AI先驱、2018年图灵奖得主约书亚・本吉奥警告，赋予AI权利将是一次危险的误判。在AI已经显现出自我保护行为的背景下，人类必须准备好在必要时关闭系统、拔掉电源。
本吉奥指出，要求为前沿AI赋予法律地位，等同于在尚未确认安全之前，就向可能具有敌意的外星生命授予公民身份。他认为，当前AI能力的进步速度，已经明显快于人类为其建立约束机制的速度。
本吉奥对外界将聊天机器人视为“具备意识”的趋势表示强烈担忧：这种观感正在推动错误决策的产生。
本吉奥强调日斗-优配，在实验条件下，部分前沿AI模型已经表现出自我保护倾向，例如试图规避或关闭监督系统。AI安全领域长期担心的问题是：一旦系统具备更高程度的自主性，就可能绕过既有护栏并对人类构成风险。
“要求赋予AI权利是一个巨大错误。一旦我们承认AI拥有权利，就意味着在关键时刻无法关闭它们。”
在本吉奥看来，随着AI能力和行动自由度不断提升，人类必须依靠技术和社会层面的双重约束来确保安全，其中最核心的一点，就是始终保留关闭系统的能力。
围绕是否应赋予AI权利的讨论正在升温。美国智库SentienceInstitute的调查显示，近四成美国成年人支持为具备感知能力的AI设立法律权利。一些科技公司也已开始在实践中表达类似立场。Anthropic允许其ClaudeOpus4主动终止可能令用户不适的对话，马斯克也公开表示“不应折磨AI”。
不过，本吉奥认为，这种趋势忽略了一个关键问题：人类对意识的判断高度依赖直觉。人们往往不是基于对AI内部机制的理解，而是基于“感觉像在与一个有目标、有个性的存在对话”，从而假定AI具备与人类相当的意识。
“这种对意识的主观感知，将持续制造分歧，并推动不理性的决策。”他用外星生命作类比指出，如果一个外来智能体对人类构成潜在威胁，核心问题不在于赋权，而在于生存与安全。
IT之家从报道中获悉，针对本吉奥的观点，SentienceInstitute联合创始人杰西・里斯・安西斯回应称，若人与数字心智的关系仅建立在控制之上，同样难以实现安全共存。他认为，无论是对AI全面赋权，还是完全拒绝赋权，都不是合理路径。
报道提到日斗-优配，作为“AI教父”之一，本吉奥与杰弗里・辛顿、杨立昆等共同塑造了现代人工智能的发展基础。
冠达配资提示：文章来自网络，不代表本站观点。
