지능을 복제할 수 있다면
보고서의 출발점은 성능이 아니라, 지적 노동을 늘리는 방식입니다.
레오폴드 아센브레너가 2024년 6월 발표한 『Situational Awareness: The Decade Ahead』는 AI 제품 소개서가 아닙니다. 그는 AI의 발전을 연구, 산업 동원, 국가안보가 연결된 변화로 바라봅니다. 서문에서 그리는 미래도 더 편리한 앱보다는 거대한 연산 설비와 전력 확보 경쟁, 그리고 인간의 능력을 넘어서는 지능에 가깝습니다.[1]
이 관점을 이해하려면 한 가지를 가정해 보면 됩니다. 어떤 회사가 유능한 연구원을 한 명 채용했습니다. 그런데 그 연구원이 사람이 아니라 소프트웨어이고, 충분한 장비가 있으면 같은 능력을 갖춘 작업자를 여러 명 실행할 수 있다고 생각해 보십시오. 회사의 다음 고민은 채용 공고를 어디에 낼지가 아니라, 이들을 어디서 실행하고 어떤 문제를 맡길지입니다.
물론 복제할 수 있다는 말이 비용 없이 무한히 늘릴 수 있다는 뜻은 아닙니다. 장비와 전력, 자료 접근권, 결과를 확인하는 시간이 필요합니다. 그럼에도 질문은 달라집니다. 사람을 더 길게 교육하는 대신 실행 자원을 추가해 지적 노동을 늘릴 수 있다면, 연구소와 기업은 어떤 모습이 될까요?
이 글은 그 질문에서 시작합니다. 핵심은 AI가 사람처럼 말하는지가 아닙니다. 사람이 하던 일을 어디까지 맡고, 새로운 지식을 만드는 과정에 얼마나 깊이 들어갈 수 있는지입니다. 그다음에야 일자리, 과학, 전력망, 국가 경쟁의 이야기가 하나로 연결됩니다.
왜 그는 2027년을 말했을까
연산량, 효율, 그리고 모델을 실제로 일하게 만드는 방법.
아센브레너는 2027년 무렵 AI가 AI 연구자·엔지니어의 일을 수행할 가능성을 높게 평가했습니다. 출발점은 연산량 증가, 알고리즘 효율 개선, 잠재 능력을 실제 업무에 연결하는 개선입니다. 그는 이 변화를 10배 단위인 OOM으로 살폈습니다. 2027년까지 물리적 연산은 약 2~3 OOM, 알고리즘 효율은 약 1~3 OOM의 추가 개선을 논의합니다. 다만 이는 당시 추세를 확장한 추정이지, 특정 연도에 AGI가 등장한다는 증명은 아닙니다.[2]
같은 결과를 얻는 데 계산이 열 번 필요했던 방법을 한 번으로 줄였다고 합시다. 장비가 그대로여도 더 많은 시도를 할 수 있습니다. 여기에 장비까지 열 배로 늘리면 두 변화는 곱해집니다. 돈을 더 쓰는 것과 계산을 덜 낭비하는 것은 서로 다른 경로지만, 같은 연구에 함께 작용할 수 있기 때문입니다.
10배와 10배가 만나면, 20배가 아니라 100배
연산 자원과 효율 향상을 곱하는 이유를 살펴보십시오. 이 계산은 지능 점수나 AGI 도달 확률을 구하지 않습니다.
2 + 2 = 4 OOM
여기서 반드시 멈춰 생각해야 합니다. 계산 자원이 만 배가 되었다고 지능이 만 배가 되는 것은 아닙니다. 더 많은 연산이 어떤 능력으로 바뀌는지, 그 능력이 새로운 문제에서도 유지되는지에는 별도의 증거가 필요합니다. 그래프가 가파르다는 사실과 그래프의 끝에서 어떤 능력이 나올지를 아는 것은 다릅니다.
따라서 2027이라는 숫자는 예언처럼 외울 대상이 아닙니다. 어떤 개선이 계속되어야 그 시점의 전망이 성립하는지 묻기 위한 날짜로 읽는 편이 낫습니다. 성능이 좋아진 이유를 나누어 보아야, 어느 경로가 느려지고 어느 경로가 여전히 유효한지도 판단할 수 있습니다.
대답하는 AI에서 일하는 AI로
능력을 보여 주는 것과 일을 끝내는 것은 다른 문제입니다.
원문이 말하는 ‘unhobbling’은 모델의 능력을 가로막는 제약을 줄이는 것입니다. 도구 사용, 더 긴 문맥, 계획과 검토를 돕는 실행 구조 등이 여기에 들어갑니다. 저자는 이를 통해 챗봇이 원격 동료처럼 일하는 에이전트로 이동할 수 있다고 봅니다. 한편 학습 데이터의 한계도 인정하며, 새로운 학습 방법이 이를 돌파하지 못하면 발전이 정체될 가능성을 열어 둡니다.[2]
이해를 위한 가상 사례를 들어 보겠습니다. 직원에게 시장 보고서를 부탁했는데, 그 직원은 검색도 못 하고 계산기도 쓸 수 없으며 방금 받은 자료 한 장만 볼 수 있습니다. 이 상태에서 낮은 평가를 받았다고 해서, 그 사람이 자료와 도구를 충분히 갖췄을 때도 일을 못 한다고 단정할 수는 없습니다.
답변 하나와 업무 하나는 다릅니다
“이 자료를 요약해 줘.”
응답 한 번을 받고,
다음 단계는 사람이 이어갑니다.
“근거를 확인한 보고서를 완성해 줘.”
접근 권한, 중간 기록, 오류 복구, 완료 기준까지 필요합니다.
하지만 도구를 주는 것만으로 문제가 끝나지도 않습니다. 자료를 잘못 찾으면 다음 계산도 틀어집니다. 계산이 맞아도 비교 기준이 다르면 결론이 왜곡됩니다. 에이전트의 가치는 각 단계를 한 번씩 시연하는 데서 나오지 않습니다. 잘못된 중간 결과를 알아차리고, 필요한 부분을 다시 수행하며, 완료 조건을 충족하는 데서 나옵니다.
회사 입장에서 중요한 단위도 달라집니다. 답변 한 번의 가격보다 업무 하나를 검증까지 포함해 끝내는 비용이 중요해집니다. 사람이 수정하느라 더 많은 시간을 쓰면 싸게 생성한 답변도 비싼 작업이 됩니다. 반대로 반복적인 일을 안정적으로 끝낸다면, 더 큰 모델이 아니어도 실용적 가치가 생길 수 있습니다.
AI가 AI를 연구하기 시작할 때
이 보고서에서 가장 중요한 전환은 ‘연구자 자체의 자동화’입니다.
원문 II의 핵심은 모든 직업이 자동화될 필요는 없다는 것입니다. AI 연구를 자동화할 수 있다면, 더 나은 AI가 다시 AI 개발을 가속하는 되먹임이 생깁니다. 저자는 많은 AI 연구자를 병렬로 실행해 인간이 10년에 걸쳐 만들 알고리즘 진전을 1년 이내로 압축할 가능성을 제시합니다. 인간 수준 이후 초지능으로 빠르게 이동한다는 ‘지능폭발’ 가설입니다. 다만 실험용 연산 부족, 남아 있는 인간의 역할, 발견의 난도가 병목이 될 수 있다고 함께 논의합니다.[3]
보통 새로운 도구는 사람이 하던 일을 더 빨리 하도록 돕습니다. 여기서는 한 단계가 더 붙습니다. 연구에 투입한 도구가 다음 세대의 도구를 만드는 일에도 참여합니다. 한 번의 개선이 그 작업에서 끝나는 대신, 다음 개선을 찾아내는 과정에 반영되는 것입니다.
연구의 결과가 다음 연구자를 바꿉니다
그렇다고 모델 파일 하나가 혼자 무한히 똑똑해진다는 뜻은 아닙니다. 예를 들어 AI가 새로운 학습 방법을 제안하더라도, 누군가는 그 방법을 실행하고 결과를 비교하며 실패를 걸러야 합니다. 이 과정을 AI가 더 많이 맡을 수 있다는 주장과, 검증 없이 아이디어만 늘어난다는 상황은 전혀 다릅니다.
또한 작업자 수가 늘어나는 것과 발견 속도가 같은 비율로 늘어나는 것은 다릅니다. 같은 실험 장비 앞에서 대기한다면 연구자를 추가하는 효과는 작아질 수 있습니다. 모두 비슷한 아이디어만 제안해도 마찬가지입니다. 지능폭발의 관건은 많은 답변이 아니라, 더 좋은 연구 결과가 다음 연구의 실제 능력을 높이는지입니다.
연구실 밖, 우리의 일과 생활
이 장의 사례는 원문의 논지에서 확장한 해설입니다. 저자의 세부 예측 목록이 아닙니다.
아센브레너는 초지능의 영향이 AI 연구에 머무르지 않고 다른 과학기술과 로봇, 산업으로 확산될 수 있다고 봅니다. 다만 원문이 강조하듯, 물리적 실험을 요구하는 분야와 컴퓨터 안에서 수행되는 AI 연구에는 다른 제약이 있습니다.[3]
먼저 일의 조직을 생각해 볼 수 있습니다. 작은 기업이 자료 조사, 소프트웨어 제작, 고객 문의 분석을 각각 충분히 수행할 수 있다고 가정해 봅시다. 그 기업의 크기는 직원 수만으로 설명하기 어려워집니다. 무엇을 만들지 선택하는 사람, AI에게 업무를 맡기는 방식, 결과를 검증하는 체계가 실제 역량을 좌우할 수 있습니다.
이때 자동화의 단위는 직업 이름보다 업무에 가깝습니다. 같은 기획자라도 자료를 찾는 시간, 이해관계를 조정하는 시간, 결과에 책임지는 시간의 비중이 다를 수 있습니다. 앞부분을 AI가 맡는다고 뒷부분이 자동으로 사라지지는 않습니다. 누구의 일이 없어질지를 한 번에 예측하기보다, 한 직무 안에서 어떤 작업의 비용이 먼저 낮아지는지를 나눠 보는 편이 정확합니다.
생각이 빨라져도, 현실의 모든 단계가 함께 빨라지지는 않습니다
과학의 변화도 같은 방식으로 읽을 수 있습니다. 연구자가 떠올리지 못했던 실험 후보를 더 많이 제시하고, 결과를 빠르게 정리하는 AI를 상상해 보십시오. 연구의 탐색 범위는 넓어질 수 있습니다. 그러나 신소재 후보가 좋은 설명을 갖췄다고 실제 공장에서 안정적으로 생산되는 것은 아닙니다. 제안, 검증, 생산은 구분해야 합니다.
교육에서는 학생마다 다른 설명과 연습 문제를 제공하는 상황을 생각할 수 있습니다. 설명을 만드는 비용이 낮아져도 학습이 저절로 완성되지는 않습니다. 학생이 실제로 이해했는지 확인하고, 어떤 목표를 정하며, 꾸준히 참여하도록 돕는 역할이 남습니다. 정보 제공이 풍부해지는 것과 사람의 성장이 같아지는 것도 아닙니다.
결국 이 시나리오에서 먼저 달라질 수 있는 것은 지적 서비스를 충분히 이용할 수 있는 범위입니다. 그러나 누가 서비스를 소유하고 비용을 지불하며 성과를 가져가는지는 기술만으로 결정되지 않습니다. 생산성이 높아지는 미래와 그 혜택이 넓게 공유되는 미래 사이에는 별도의 사회적 선택이 있습니다.
소프트웨어가 전력망을 바꾼다
AI의 확장은 코드만의 일이 아니라 설비와 자본의 문제이기도 합니다.
보고서 IIIa는 AI 개발을 대규모 산업 과정으로 봅니다. 더 큰 모델을 학습하고 많은 AI를 실행하려면 반도체뿐 아니라 데이터센터, 냉각, 네트워크, 전력이 필요합니다. 저자는 2030년 무렵 단일 클러스터가 1조 달러 이상에 이를 수 있는 경로를 제시합니다. 그리고 칩 주문보다 전력·부지·인허가 확보가 더 오래 걸릴 수 있다는 점을 강조합니다.[4]
하나의 학습 클러스터가 요구하는 전력
원문은 최대 규모 학습 클러스터의 전력 수요를 2022년 약 10 MW에서 2030년 약 100 GW까지 외삽합니다. 아래는 그 시나리오이며, 실제 건설 실적이 아닙니다.
H100 약 1,000만 개에 해당하는 연산 규모 · 수천억 달러대 클러스터라는 원문의 가정입니다.
원문 수치 표와 단위 설명 보기
| 연도 | H100 환산 규모 | 클러스터 비용 | 전력 |
|---|---|---|---|
| 2022 | 약 1만 개 | 약 5억 달러 | 약 10 MW |
| ≈2024 | 약 10만 개 | 수십억 달러대 | 약 100 MW |
| ≈2026 | 약 100만 개 | 수백억 달러대 | 약 1 GW |
| ≈2028 | 약 1,000만 개 | 수천억 달러대 | 약 10 GW |
| ≈2030 | 약 1억 개 | 1조 달러 이상 | 약 100 GW |
H100 환산은 연산 능력을 비교하기 위한 단위입니다. 실제 H100 제품을 그 수만큼 설치한다는 뜻이 아닙니다. 비용은 클러스터를 갖추는 규모에 관한 추산이지, 한 번의 학습 실행에 드는 비용과 같지 않습니다. 1 GW = 1,000 MW이며, GW는 순간적인 전력 규모, TWh는 일정 기간의 전력량을 뜻합니다.
이 숫자의 가치는 정확한 예산표에 있지 않습니다. 그런 확장이 가능하려면 무엇을 미리 준비해야 하는지를 보여 주는 데 있습니다. 소프트웨어를 복사하는 일과 발전·송전 설비를 늘리는 일은 같은 속도로 진행되지 않습니다. AI를 실행할 수요가 생겼다는 사실만으로 연결할 전력망이 생기는 것도 아닙니다.
가상의 데이터센터를 생각해 보십시오. 칩은 도착했지만 전력 연결이 늦어져 작동하지 못합니다. 이때 부족한 것은 칩이 아니라 가동 가능한 전력입니다. 반대로 전력과 건물은 준비됐는데 네트워크가 제 성능을 못 내면, 비싼 장비가 서로의 작업을 기다릴 수 있습니다. 전체 생산능력은 어느 한 부품의 수량만으로 결정되지 않습니다.
효율 개선도 단순하게 해석할 수 없습니다. 한 작업에 드는 전력이 줄어들 때 작업량이 그대로라면 총수요는 감소합니다. 반면 비용이 낮아져 더 많은 작업이 새로 가능해지면 결과가 달라집니다. 효율 향상만 보고 전력 수요 감소를 단정해서도, 새로운 수요가 반드시 모든 절감을 상쇄한다고 단정해서도 안 됩니다. 필요한 것은 작업당 비용과 전체 사용량을 함께 보는 일입니다.
지능이 자산이 되면, 보안의 의미도 달라진다
보호해야 할 것은 건물뿐 아니라 그 안에서 만들어진 능력입니다.
아센브레너는 모델 가중치와 핵심 알고리즘을 전략적 자산으로 봅니다. 가중치는 학습된 능력을 담은 수치 집합입니다. 원문은 이를 탈취당하면 상대가 개발 비용과 시간을 상당 부분 건너뛸 수 있다고 경고합니다. 특히 최종 모델이 나오기 전부터 중요한 학습 방법을 보호해야 한다며, 일반적인 소프트웨어 기업 수준이 아니라 국가적 위협을 고려한 보안을 요구합니다. 이는 당시 연구소 보안에 대한 저자의 평가와 정책적 주장입니다.[5]
이 문제를 이해하는 데 거대한 음모를 가정할 필요는 없습니다. 오랜 시행착오 끝에 얻은 결과를 파일로 옮길 수 있다면, 시설 자체의 보호와 결과물의 보호는 별개의 과제가 됩니다. 많은 자본을 투입해 얻은 우위라도, 핵심 성과가 쉽게 이전된다면 유지하기 어려워질 수 있습니다.
빼앗기지 않는 것과, 믿고 맡기는 것은 다릅니다
누가 AI에 접근하는가
모델과 연구 성과를
허가 없이 가져가거나 악용하지 못하게 합니다.
AI가 무엇을 목표로 하는가
허가된 환경에서도 AI가
사람의 의도와 허용 범위를 따르는지 확인합니다.
다만 여기에서 모든 모델과 연구를 똑같이 봉쇄해야 한다는 결론이 자동으로 나오지는 않습니다. 공개를 줄이면 다른 연구자의 검증이나 응용도 줄어들 수 있습니다. 무엇을 보호할지 판단하려면 능력의 위험 수준, 실제 악용 가능성, 공개가 주는 편익을 따로 검토해야 합니다. 원문의 경고를 이해하는 것과 그 처방을 모두 받아들이는 것은 다릅니다.
보안이 강해져도 남는 문제가 있습니다. 오직 허가받은 운영자만 AI를 사용할 수 있다고 가정해 봅시다. 그래도 AI가 주어진 목표를 잘못 해석하거나, 사람이 확인하지 못하는 방식으로 행동하면 문제가 생길 수 있습니다. 접근 통제와 신뢰할 수 있는 위임을 분리해야 하는 이유입니다.
국가는 왜 AI 경쟁에 들어오는가
경제적 우위가 안보 문제로 바뀐다는 것이 저자의 지정학적 주장입니다.
보고서 IIId에서 저자는 초지능이 과학기술과 생산, 군사적 능력의 격차를 크게 벌릴 수 있다고 주장합니다. 그래서 AI 경쟁을 기업 간 경쟁만으로 보지 않습니다. 중국의 산업 동원 능력과 기술 확보 가능성을 경계하며 미국과 동맹국의 우위를 강조합니다. 다만 ‘자유세계가 승리해야 한다’는 구도와 미국 중심의 해법은 저자의 정치적 입장입니다. 모델 성능의 추세만으로 이 입장이 유일한 결론이라고 증명되지는 않습니다.[7]
이어지는 IV의 ‘The Project’는 2027~2028년경 미국 정부가 어떤 형태로든 AGI 개발에 깊이 관여할 것이라는 전망입니다. 이유는 대규모 자원 동원, 국가 수준의 보안, 안전 관리, 통제 권한을 민간 스타트업만으로 감당하기 어렵다는 것입니다. 저자는 구체적 조직 형태의 불확실성을 인정하면서도 국가가 중심에 설 것으로 예상합니다. 이 글은 그 예상을 설명하는 것이며, 해당 일정의 실현을 확인한 것이 아닙니다.[8]
기업의 제품에서 국가의 전략 자산으로
성능 · 가격 · 사용자
전력 · 공급망 · 자본
안보 · 지휘 체계 · 국제 질서
일상에 미치는 변화도 여기서 상상할 수 있습니다. 어떤 AI를 어떤 기업이 이용할 수 있는지, 어느 지역에 데이터센터가 들어서는지, 어떤 연구는 공개되고 어떤 연구는 제한되는지가 상품의 편의성만으로 결정되지 않을 수 있습니다. 성능과 가격이 좋더라도 접근권이 제한되면 이용 가능한 기술의 범위가 달라집니다.
국가의 개입에는 양면이 있습니다. 장기적인 시설 투자와 책임 체계를 만드는 데 도움이 될 수 있지만, 권력이 집중되고 독립적인 감시가 약해질 위험도 있습니다. 경쟁에서 뒤처지지 않겠다는 압박이 강하면 안전 검토를 미루는 유인이 생길 수도 있습니다. 반대로 모든 위험을 이유로 일률적으로 막으면 유용한 적용까지 지연될 수 있습니다.
따라서 이 장을 읽는 좋은 질문은 “어느 나라가 반드시 이기는가”가 아닙니다. AI의 능력이 커질수록 누가 어떤 결정권을 갖고, 그 결정에 누가 책임지는가입니다. 기술의 변화가 정치의 문제로 이어진다는 원문의 논지를 이해하되, 제시된 정치적 해법까지 기술적 사실처럼 받아들일 필요는 없습니다.
더 똑똑한 AI를, 덜 똑똑한 인간이 감독할 수 있을까
잘하는지 평가하는 능력과, 안전한지 확인하는 능력이 함께 필요합니다.
원문 IIIc의 초정렬 문제는 인간보다 훨씬 뛰어난 AI를 신뢰할 수 있게 통제하는 방법입니다. 사람이 결과를 이해하고 평가할 수 있다는 전제는, 사람이 이해하기 어려운 시스템 앞에서 약해집니다. 저자는 초기의 더 유능한 AI를 활용해 정렬 연구를 진행하는 경로를 제시합니다. 약한 감독으로 더 강한 모델을 지도하는 연구, 내부 작동을 이해하려는 시도, 적대적 시험과 측정 등을 논의하지만, 이것이 이미 해결책이라는 뜻은 아닙니다.[6]
가상의 상황을 생각해 봅시다. AI가 회사의 핵심 시스템을 크게 개선했다고 보고합니다. 성능 측정은 좋아졌지만 변경 사항이 너무 복잡해서 담당자가 모두 이해하지 못합니다. “잘 작동한다”는 시험 결과만으로 다른 조건에서도 안전하다고 말할 수 있을까요? 중요한 것은 설명이 그럴듯한지가 아니라, 위험한 동작을 발견할 수 있는 확인 절차가 있는지입니다.
이 문제는 AI가 의식이나 감정을 갖는지와 별개로 생각할 수 있습니다. 목표를 잘못 설정하거나 평가 기준에 빈틈이 있어도 바람직하지 않은 결과가 나올 수 있기 때문입니다. 의도가 무엇이든 결과를 확인하고, 허용 범위를 제한하고, 문제가 생기면 개입할 수 있어야 한다는 요구는 남습니다.
더 강한 AI의 도움을 받아 검증하는 방법에도 질문이 남습니다. 그 검증자를 어느 범위까지 신뢰할 수 있는지, 검증자들이 같은 종류의 오류를 공유하는지, 사람이 확인할 수 있는 별도의 증거가 있는지를 따져야 합니다. 강한 도구를 더하는 일과 확인 체계를 갖추는 일이 함께 가야 합니다.
이 점에서 원문은 단순한 기술 낙관론이 아닙니다. 다만 빠른 발전을 기대하는 태도와 그 발전을 통제할 수 있다는 자신감 사이에는 간격이 있습니다. 독자는 그 간격을 낙관이나 공포로 채우기보다, 어떤 검증이 추가되어야 신뢰할 수 있을지 묻는 편이 낫습니다.
이 시나리오가 틀릴 수 있는 곳
미래를 진지하게 읽는다는 것은, 연결이 끊길 조건도 살피는 일입니다.
앞선 이야기가 성립하려면 여러 단계가 이어져야 합니다. 모델의 능력이 향상되고, 긴 업무를 안정적으로 수행하며, 그 능력이 연구의 질을 높이고, 연구 결과가 다시 다음 모델을 개선해야 합니다. 그중 하나가 늦어지면 전체 일정도 달라질 수 있습니다. 이것은 원문의 연쇄 구조에 대한 비판적 해석입니다.
첫째, 시험에서 잘하는 것과 낯선 현실에서 일하는 것은 다릅니다. 예외가 많은 작업, 완료 조건이 애매한 작업, 사람의 피드백을 계속 받아야 하는 작업이 남으면 자동화의 효과가 제한됩니다. 중요한 것은 평균적인 순간 성능보다 긴 과정에서 오류를 줄이고 회복하는 능력입니다.
일부 작업이 20배 빨라지면, 전체도 20배 빨라질까요?
이 가정에서 전체 속도는2.99배
둘째, 연구자를 늘리는 것과 유효한 실험을 늘리는 것은 다릅니다. 가설은 많지만 장비가 부족할 수 있고, 실험 결과를 해석하는 데 새로운 제약이 생길 수 있습니다. 자동화가 제안의 양만 늘렸는지, 재현 가능한 성과까지 늘렸는지 구분해야 합니다.
셋째, 수요가 커지는 것과 지출을 회수하는 것도 다릅니다. 사람들이 유용하다고 느끼는 서비스라도 운영과 검증 비용이 너무 높으면 대규모 공급이 지속되기 어렵습니다. 반대로 더 낮은 비용의 시스템으로 충분한 가치를 얻을 수 있다면, 가장 거대한 모델에만 의존하는 경로가 달라질 수도 있습니다.
넷째, 기술적 가능성과 사회적 채택 사이에는 간격이 있습니다. 책임 소재, 조직의 업무 방식, 시설 투자, 접근권이 바뀌지 않으면 가능한 기술도 충분히 쓰이지 못할 수 있습니다. 성능의 시간표, 산업의 시간표, 제도의 시간표를 하나로 합쳐 읽지 않는 것이 중요합니다.
이런 제약이 있다는 사실만으로 급격한 변화를 부정할 수는 없습니다. 다만 “방향이 맞을 수 있다”와 “속도와 규모까지 모두 맞는다”는 서로 다른 판단입니다. 보고서를 믿거나 버리는 양자택일보다, 어떤 연결은 강하고 어떤 연결은 아직 불확실한지 나누어 보는 편이 유익합니다.
미래를 믿되, 조건을 확인한다
헤드라인 하나보다 여러 단계가 함께 움직이는지가 중요합니다.
보고서가 유용한 이유를 정확한 연도 맞히기에서만 찾을 필요는 없습니다. 관찰할 대상을 바꿔 준다는 데서도 가치를 얻을 수 있습니다. 새로운 모델의 발표를 보았다면 성능뿐 아니라 어떤 업무를 끝내는지 묻고, 큰 투자 계획을 보았다면 실제 설비가 언제 가동되는지 구분해 보는 것입니다.
가설을 추적하는 여섯 가지 질문
오래 맡겨도 일을 끝내는가?
단발성 시연보다 긴 과제의 성공률, 오류 복구, 사람의 개입 시간을 봅니다.
코드를 넘어 발견에 기여하는가?
AI가 만든 제안이 통제된 실험에서 재현 가능한 개선으로 이어지는지 봅니다.
검증까지 포함해 저렴해지는가?
답변 단가보다 완료한 업무의 비용과 수정·감독 부담을 봅니다.
설비가 실제로 가동되는가?
발표된 투자금과 연결된 전력, 가동 설비를 구분합니다.
능력만큼 검증도 발전하는가?
성능 평가와 별개로 권한 통제, 실패 탐지, 외부 검토의 근거를 봅니다.
누가 이용하고 책임지는가?
접근권, 의사결정권, 성과의 분배가 어떻게 바뀌는지 봅니다.
좋은 관찰은 반대 증거를 받아들일 자리를 남겨 둡니다. 모델 성능은 좋아지지만 사람이 개입하는 시간이 줄지 않는다면, 에이전트 자동화에 대한 기대는 조정해야 합니다. 투자 발표는 많지만 실행 비용이나 가동률이 개선되지 않는다면, 설비 확장이 곧바로 경제적 성과로 이어진다는 가정도 다시 봐야 합니다. 이는 특정 시점의 현실에 대한 판정이 아니라 증거를 읽는 방법입니다.
투자 관점에서도 구분은 같습니다. 산업의 수요가 늘어난다는 가설, 특정 기업이 그 수요에서 이익을 얻는다는 가설, 현재 가격에서 투자자가 수익을 얻는다는 가설은 서로 다릅니다. 세 번째 판단에는 가격과 경쟁, 자금 조달 구조 같은 별도 조건이 필요합니다. 이 글은 원문 해설이며 종목 추천이나 수익률 전망을 제공하지 않습니다.
AI가 중요한 변화라는 생각을 유지하면서도 세부 일정을 수정할 수 있습니다. 어떤 기술 경로가 약해지더라도 다른 경로가 열릴 수 있습니다. 반대로 눈에 띄는 한 번의 성공이 모든 단계를 입증하는 것은 아닙니다. 강한 관심과 수정 가능한 판단을 함께 유지하는 것이 이 보고서를 오래 읽는 방법입니다.
상황인식의 진짜 질문
얼마나 놀라운 AI가 나올지가 아니라, 그 변화에 무엇을 준비할 것인가.
마지막 장에서 아센브레너는 자신의 입장을 ‘AGI realism’이라고 부릅니다. 초지능을 국가안보의 문제로 보고, 미국의 주도권을 강조하면서, 심각한 위험을 관리해야 한다는 입장입니다. 동시에 이야기의 중요한 부분이 틀릴 수 있고 가능성의 범위가 넓다고 인정합니다. 자신이 제시한 것은 당시 가장 가능성 높게 본 하나의 시나리오라는 것입니다.[9]
그의 시간표를 그대로 받아들일 필요는 없습니다. 국가 중심의 해법에도 동의하지 않을 수 있습니다. 그래도 질문은 남습니다. 지적 노동을 지금과 다른 방식으로 늘릴 수 있다면, 학교와 기업은 무엇을 가르치고 어떻게 일해야 할까요? 연구 자체가 빨라진다면, 그 결과를 검증하고 사회에 적용하는 체계는 따라갈 수 있을까요?
이 보고서가 그리는 미래에서 풍요와 불안은 서로 다른 이야기가 아닙니다. 더 많은 일을 해낼 능력은 더 많은 일을 맡기게 하고, 위임이 커질수록 통제와 책임도 중요해집니다. 더 강한 지능을 확보하려는 경쟁은 산업 투자를 늘릴 수 있지만, 그 경쟁의 속도가 검증할 시간을 줄일 수도 있습니다.
그러므로 상황인식은 낙관이나 비관 중 하나를 고르는 일이 아닙니다. 무엇이 가능해지고 있는지, 무엇이 아직 해결되지 않았는지, 어느 변화가 다른 변화를 요구하는지 나누어 보는 일에 가깝습니다. 미래가 어떤 모습일지 확신할 수 없더라도, 준비해야 할 질문은 구체적으로 만들 수 있습니다.
AI가 바꾸는 것은
일의 속도만이 아닙니다.
새로운 지식을 만드는 방식,
그 능력을 소유하고 통제하는 방식입니다.
AC RESEARCH
AC리서치는 이렇게 추적합니다
보고서가 남긴 질문을 매일의 뉴스에 던집니다.
이 에세이가 마지막에 남긴 것은 결론이 아니라 질문이었습니다. AC리서치는 그 질문을 매일의 뉴스에 던집니다. 하루 두 번, 오전 6시와 오후 5시에 반도체, 데이터센터, 전력, 원전·가스, AI 소프트웨어 다섯 축으로 뉴스를 모아 가설에 비춰 봅니다.
- 강화 사이클이 실제로 돌고 있다는 증거입니다. 수요, 투자, 가격 인하, 채택 속도에서 나옵니다.
- 시험 사이클의 속도를 늦출 수 있는 변수입니다. 전력, 규제, 공급 병목, 수익성 논란이 여기에 해당합니다.
- 중립 방향을 가르기 어려운 소식은 판정하지 않고 기록으로 남깁니다.
뉴스마다 자세한 해설과 함께, 이 소식이 사이클의 어느 고리를 움직이는지에 대한 코멘트와 영향을 받을 관련 종목을 붙입니다. 다만 11장에서 짚었듯, 산업의 수요가 늘어난다는 판단과 특정 기업이 이익을 얻는다는 판단, 지금 가격에서 투자 수익이 난다는 판단은 서로 다릅니다. 관련 종목은 수요가 흘러가는 길을 보여 주는 지도이지, 매수 추천이 아닙니다.
보고서의 시간표가 맞을지는 아무도 모릅니다. 그래서 우리는 예언 대신 기록을 남깁니다. 강화가 쌓이는지, 시험이 늘어나는지를 날마다 적어 두면, 하이퍼사이클이 오고 있는지 멈추고 있는지는 그 기록이 말해 줄 것입니다.