AI 특이점은 순간이 아니라 이미 시작된 과정이다

어떤 특이점을 묻느냐에 따라 다릅니다.

특정한 순간—어느 날 초지능이 나타나 모든 것이 되돌릴 수 없게 변하는 때—을 의미한다면, 그런 일은 일어나지 않았고 가까운 시일 내에 그런 방식으로 일어나지도 않을 것입니다. 하지만 특이점이 제가 The Gentle Singularity에서 설명한 과정을 의미한다면, 답은 이미 그 안에 있다는 것입니다. '우리는 사건의 지평선을 지났고 이륙이 시작되었습니다.' 그것은 특이점처럼 보이지 않습니다. 특이점은 결코 특이점처럼 보이지 않기 때문입니다. 2017년에 저는 인간과 기계의 통합은 점진적이며 점진적인 과정은 알아차리기 어렵다고 썼습니다. 당시 저는 그것이 이미 몇 년 동안 진행되어 왔다고 생각했습니다. 오늘날 우리는 여전히 같은 곡선 위에 있습니다. 놀라움은 일상이 되고 일상은 최소 기준이 됩니다. 몇 년 전에는 모델이 아름다운 문단을 쓸 수 있다는 것에 놀랐지만, 지금은 언제 소설 전체를 쓸 수 있는지 묻고 있습니다.

진짜 제약은 알고리즘이 아니라 물리에 있습니다. 데이터센터가 착공해서 1GW를 가동하기까지는 1년에서 3.6년이 걸리고, 전력 가용성, 전력망 신뢰성, 지역사회의 반대가 신규 프로젝트의 주요 제약이 되고 있습니다. 미국은 3년 안에 약 45GW를 추가할 계획입니다. 그래서 이 구간의 기울기는 아이디어가 아니라 전기, 토지, 허가에 의해 결정됩니다. 이것이 지난 2년간 가장 잘못 읽힌 부분입니다. 능력 곡선은 여전히 오르고 있지만 병목은 한 단계 상류로 이동했습니다.

정말 가속하고 있는지 판단하기 위해 저는 연구소의 발표 주기가 아니라 두 가지를 봅니다. 첫째, AI가 AI 연구를 수행하여 내부 생산성 보고서만이 아니라 분야 수준에서 가시적인 발견 가속을 만들어내는지 여부. 둘째, 자기 개선이 고정된 외부 스코어러 안에서만 맴도는지 여부. 현재 제한된 자기 정제는 산업적 실천이지만 개방형 재귀는 아직 증명되지 않았습니다. 그리고 2026년의 한 연구에 따르면, 코드 에이전트가 만들어내는 소위 최적화의 73.8%는 대리 지표에서만 이득이 있고 실제 이득은 존재하지 않습니다. 이것은 빨라지고 있지만 아직 스스로를 가속할 수 있는 단계는 아닙니다.

그래서: 과정은 그렇고, 순간은 아닙니다. AI의 AI 연구 기여가 분야 발견율에서 가시적으로 나타나기 시작한다면, 그때가 제가 말을 바꿀 신호입니다.