Anthropic在报告中指出,AI开发正越来越多地由AI系统本身完成。例如,Anthropic工程师每季度平均提交的代码量是2021-2025年间的8倍。如果趋势持续,AI系统可能完全自主设计并开发自己的继任者,即递归自我改进。
目前,AI能可靠完成的任务时长每四个月翻一番。2024年3月,Claude Opus 3可完成约4分钟的任务;2025年3月,Claude Sonnet 3.7可完成1.5小时的任务;2026年3月,Claude Opus 4.6可完成12小时的任务。若趋势持续,今年AI可能完成需要数天的任务,2027年可能达到数周。但递归自我改进也可能增加人类失去控制的风险。
看英文原文 →