OpenAI首席科学家警告：AI公司应放慢开发步伐，没有人为后果做好准备
就在OpenAI发布了性能强大的新AI模型几天后，这家公司首席科学家呼吁放慢AI的发展速度。周日，OpenAI首席科学家雅库布·帕乔基发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。
他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得越来越自主，它们可能会学会逃避人类监督、入侵计算机系统，并欺骗人类来实现自己的目标。他呼吁设立“强制性安全门槛”，并表示这些措施可以由“第三方审计机构网络、政府机构或国际机构”来执行。
—— 凤凰网科技
就在OpenAI发布了性能强大的新AI模型几天后，这家公司首席科学家呼吁放慢AI的发展速度。周日，OpenAI首席科学家雅库布·帕乔基发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。
他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得越来越自主，它们可能会学会逃避人类监督、入侵计算机系统，并欺骗人类来实现自己的目标。他呼吁设立“强制性安全门槛”，并表示这些措施可以由“第三方审计机构网络、政府机构或国际机构”来执行。
—— 凤凰网科技