Anthropic招股书称已接近递归自我改进模型
虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上，但这家人工智能实验室在细则中又抛出了一颗小炸弹 —— 公司已经非常接近做出具备递归自我改进(RSI)能力的模型。
该公司在上述文件中指出，其在研发中大量使用人工智能，但同时提醒：“用 AI 去帮助构建能力更强的AI，也可能带来相当大的安全风险，尤其是在它急剧加快进展速度的时候。” 这类风险被纳入公司的“负责任扩展政策”（RSP）加以监控。“该政策阐述了我们在推进所谓 ‘递归式自我改进’ 的过程中，如何监测和降低风险的计划，”文件补充道。
—— 财联社
虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上，但这家人工智能实验室在细则中又抛出了一颗小炸弹 —— 公司已经非常接近做出具备递归自我改进(RSI)能力的模型。
该公司在上述文件中指出，其在研发中大量使用人工智能，但同时提醒：“用 AI 去帮助构建能力更强的AI，也可能带来相当大的安全风险，尤其是在它急剧加快进展速度的时候。” 这类风险被纳入公司的“负责任扩展政策”（RSP）加以监控。“该政策阐述了我们在推进所谓 ‘递归式自我改进’ 的过程中，如何监测和降低风险的计划，”文件补充道。
—— 财联社