초지능 AI의 시대, 인류의 미래는? 前 OpenAI 연구원 레오폴드 보고서

AGI와 초지능의 도래, 인류가 직면할 새로운 도전과 기회

출처 : https://x.com/leopoldasch/status/1798016486700884233

AI 발전의 속도가 무섭다. 前 OpenAI 연구원 레오폴드의 보고서는 이 발전이 핵무기보다 더 무서운 결과를 초래할 수 있다고 경고한다. 2017년 트랜스포머 엔진의 개발과 2019년 GPT-2의 출시는 AI의 급격한 진화를 보여준다. GPT-2는 미취학 아동 수준의 지능을 가졌지만, 인간의 언어를 이해하는 능력으로 큰 주목을 받았다. 같은 해 알파고가 이세돌을 꺾으면서 AI의 잠재력은 대중에게 충격을 주었다.

2022년 11월, 챗GPT의 등장은 AI 발전의 또 다른 전환점이었다. GPT-3.5 기반의 챗GPT는 출시 두 달 만에 1억 사용자를 달성했다. 이는 AI가 인간의 언어를 이해하고 대화할 수 있는 수준에 도달했음을 보여준다. 2023년 초, GPT-4는 현실 세계를 이해하는 추론 능력을 갖추면서 AI의 진보를 더욱 가속화했다. 몇 달 후, 텍스트 한 줄로 초고화질 영상을 생성할 수 있는 소화가 등장했다.

2024년 5월, GPT-4.5는 카메라를 통해 세상을 확인하고 감정까지 표현할 수 있는 단계에 도달했다. 이후 클로드 3.5는 대부분의 벤치마크에서 GPT-4.5를 능가하는 성능을 보였다. AI의 발전 속도는 기하급수적으로 증가하고 있으며, 2027년에는 AGI, 즉 일반 인공지능에 도달할 것으로 예상된다. AGI는 모든 영역에서 인간과 유사한 지능을 보이며, 자율적으로 의사 결정을 할 수 있다.

AI의 자율성과 자가 학습 능력은 초지능 개발로 이어질 수 있다. 초지능은 과학 기술 발전을 극적으로 가속화하고, 로봇공학과 경제 성장에도 큰 영향을 미칠 것이다. 하지만, 군사 분야에서도 AI는 엄청난 발전을 이룰 수 있으며, 이는 새로운 형태의 무기와 전술을 초래할 수 있다. 이로 인해 정부마저 AI에 의해 전복될 가능성도 있다.

현재의 AI 경쟁은 냉전 시대의 군비 경쟁과 유사하다. 누가 먼저 특이점에 도달할 것인가? AI의 발전은 인류에게 큰 기회를 제공할 수도 있지만, 동시에 돌이킬 수 없는 파멸을 초래할 수도 있다. 인류는 AI의 발전을 인식하고 그에 따른 대비를 철저히 해야 할 것이다.

보고서의 세부 내용

I. From GPT-4 to AGI: Counting the OOMs

레오폴드는 GPT-2에서 GPT-4까지의 발전이 4년 만에 이루어졌으며, 2027년까지 AGI가 현실화될 가능성이 높다고 주장한다. 컴퓨팅 능력, 알고리즘 효율성, 그리고 '언호블링' 등의 발전 추세를 통해 또 다른 큰 도약이 예상된다.

II. From AGI to Superintelligence: the Intelligence Explosion

AGI의 발전은 인간 수준에서 멈추지 않는다. 수백만의 AGI가 AI 연구를 자동화하고, 알고리즘 진보를 압축하여 짧은 시간 안에 초지능 단계로 진입할 것이다. 이는 엄청난 힘과 위험을 동시에 수반한다.

III. The Challenges

IIIa. Racing to the Trillion-Dollar Cluster

AI 수익이 급증하면서, 수조 달러가 GPU, 데이터센터, 전력 구축에 투자될 것이다. 산업 동원, 특히 미국의 전력 생산 증대는 매우 강력할 것이다.

IIIb. Lock Down the Labs: Security for AGI

국내 주요 AI 연구소들은 보안에 소홀하다. AGI 비밀이 유출되지 않도록 막는 것은 큰 과제이다.

IIIc. Superalignment

초지능 AI 시스템을 통제하는 것은 해결되지 않은 기술적 문제이다. 이는 매우 긴장된 상황을 초래할 수 있으며, 실패는 재앙이 될 수 있다.

IIId. The Free World Must Prevail

초지능은 결정적인 경제 및 군사적 이점을 제공할 것이다. AGI 경쟁에서 자유 세계의 생존이 걸려 있다.

IV. The Project

AGI 경쟁이 심화됨에 따라 국가 안보가 개입할 것이다. 2027/28년까지 정부 AGI 프로젝트가 시작될 가능성이 있다.

V. Parting Thoughts

우리가 맞다면 어떻게 해야하나?

---

글/최한길 필진기자