샘 알트먼의 세 가지 관찰(Three Observations)

출처 : https://blog.samaltman.com/three-observations

Three Observations

 

샘 알트먼은 “AGI(Artificial General Intelligence)가 인류 전체에게 혜택을 주도록 보장하는 것”을 오픈AI의 궁극적인 사명으로 내세웠습니다. 오늘날 인공지능(AI)은 다양한 분야에서 발전을 거듭하며, 인간 수준의 지능에 근접한 ‘AGI’ 실현 가능성에 대한 논의도 점차 활발해지고 있습니다. 하지만 AGI가 어떤 모습으로 등장할지는 아직 분명하지 않습니다. 그럼에도 샘 알트먼은 다가올 미래를 준비하고 공론화하기 위해, ‘AGI 시대’가 사회와 경제에 어떤 변화를 불러올지 관찰하고 통찰을 나누고 있습니다. 본 글에서는 그가 제시한 세 가지 관찰과 함께, AI가 가져올 변화를 어떻게 받아들일 것인지에 대해 정리합니다.

 

1. AGI의 연속성과 단절성

 

 샘 알트먼은 인간이 전기를 발견하고, 트랜지스터를 발명하며, 컴퓨터와 인터넷을 만들어온 역사를 되짚습니다. 그리고 이 흐름 속에서 AGI는 “이전 세대의 도구 위에 쌓아 올려진 또 다른 도구”라고 말합니다. 그러나 동시에 “이번에는 다르다(this time it’s different)”는 점을 강조합니다. 즉, AGI는 인류가 경험해온 기술 발전의 연장선상이자, 전혀 새로운 국면을 열 수 있는 전환점이라는 것입니다.

• 연속성: 발전의 흐름은 꾸준히 이어져 왔으며, AGI 역시 그 흐름 속의 하나로 볼 수 있습니다.
• 단절성: 하지만 AGI가 몰고 올 경제·사회적 영향은 기존 도구보다 훨씬 크고 새롭다는 점에서 “이번에는 다를 수 있다”는 관점입니다.

이러한 “연속성 vs. 단절성”은 앞으로 AGI가 어떤 속도로 발전하고, 인류의 삶을 어떻게 바꿀지를 가늠하게 하는 핵심 키워드로 볼 수 있습니다.

---

2. AI 경제에 대한 세 가지 관찰

샘 알트먼은 AI의 경제적 특성을 보여주는 세 가지 핵심 관찰을 제시합니다.

 가. 모델 지능은 투입 자원의 로그(log)에 비례한다

• 자원: 모델을 훈련하고 실행하는 데 필요한 컴퓨팅 파워(훈련 및 추론), 데이터 등을 의미합니다.
• 로그 스케일: 돈을 ‘얼마나 많이’ 투자하느냐에 따라 예측 가능한 성능 향상이 이뤄지며, 이 관계가 로그로 표현된다는 것입니다.

결과적으로 훈련 자원을 계속 늘리면 모델의 지능을 지속적으로 높일 수 있다는 ‘스케일링 법칙’이 여러 차원에서 성립한다고 주장하고 있습니다.

 나. AI 사용 비용은 매년 10배씩 감소한다

• 비용 감소 속도: 과거 무어의 법칙(18개월마다 집적회로 성능이 2배 향상)보다 훨씬 가파른 감소 추세를 보입니다.
• 활용도 증가: 비용이 낮아질수록 AI 활용량이 기하급수적으로 늘어납니다. 실제로 GPT-4의 토큰당 비용이 1년여 만에 150배 가까이 줄었다는 사례가 언급됩니다.

이는 AI가 빠르게 범용화될 수 있는 중요한 이유입니다.

 다. 지능의 선형적 증가가 가져오는 사회·경제적 가치는 초지수적(super-exponential)

• 투자 증가: 투자 대비 성능 상승이 확연하다면, 앞으로도 AI 개발에 대한 투자는 “멈출 이유가 없다”는 것입니다.
• 파급 효과: 지능이 한 단계씩 올라갈 때마다 사회·경제에 미치는 영향은 일반적인 지수 함수 이상의 수준으로 커진다는 뜻입니다.

---

3. AI 에이전트의 등장

샘 알트먼은 가까운 시일 내에 “가상의 동료(virtual co-worker)” 개념인 AI 에이전트가 본격화될 것이라고 말합니다. AI 에이전트는 점차 “가상의 동료(virtual co-worker)” 역할을 맡을 것으로 기대됩니다.

예를 들어, “소프트웨어 엔지니어링 AI 에이전트”를 생각해 보면, 이는 몇 년 경력의 숙련된 엔지니어 수준으로 업무를 처리할 수 있을 것입니다. 다만 완전히 새로운 혁신적 아이디어를 제시하진 못하고, 적지 않은 인간 감독과 방향 제시가 필요합니다. 어떤 영역에서는 탁월한 성능을 보이겠지만, 예기치 않은 부분에서 실수할 가능성도 있습니다.

 

그러나 이러한 AI 에이전트가 인간 조직 내의 “주니어급 동료”로 기능한다고 생각해 보면, 그 잠재력은 상당합니다. 만약 이러한 에이전트가 1,000개, 혹은 100만 개 규모로 활용된다면 어떨까요? 그리고 이 AI 에이전트들이 특정 분야뿐 아니라 모든 지식 노동 분야로 확대된다면, 그 파급력은 한층 더 커질 것입니다.

 

트랜지스터가 경제 전반을 혁신하고 거의 모든 제품과 산업에 스며들었듯, AI 에이전트 또한 비슷한 역할을 맡을 가능성이 있습니다. 우리는 일상에서 트랜지스터라는 부품 자체를 의식하지는 않지만, 컴퓨터·TV·자동차·장난감 등 다양한 기기를 통해 그 효과를 누리고 있습니다. 마찬가지로, AI 에이전트도 점차 우리 사회 곳곳에 퍼져나가, 일하는 방식과 생산성, 그리고 경제 구조 자체를 근본적으로 바꿔놓을 수 있을 것입니다.

---

4. 점진적 변화와 개인의 역할

샘 알트먼은 “세상은 한순간에 변화하지 않는다”라고 강조합니다. 내년인 2025년이 지금과 완전히 달라지지는 않을 것이며, 우리는 여전히 사랑에 빠지고, 가족을 꾸리며, 온라인에서 의견을 나누고 자연을 탐험할 것입니다. 하지만 장기적인 변화는 피할 수 없으며, 그 규모도 매우 클 것으로 전망됩니다.

• 새로운 일자리와 경쟁 방식: 기존 직업과는 전혀 다른 분야가 등장할 수 있고, 결단력과 적응력(resilience)이 중요한 역량으로 부상할 것입니다.
• 개인의 영향력 확장: AGI는 인간의 ‘의지(willfulness)’를 증폭하는 도구이므로, 개인이 오히려 더 많은 영향력을 행사할 수 있게 됩니다.

이러한 변화는 산업 전반에도 불균등하게 적용될 것입니다. 일부 산업은 큰 변화를 겪지 않겠지만, 과학·의료 등 지식 기반 분야는 AI로 인해 비약적 발전을 이룰 가능성이 높습니다. 지능과 에너지 비용이 크게 낮아진다면 여러 재화의 가격이 급락할 수 있지만, 희소 자원이나 사치품은 오히려 가격이 치솟을 수도 있습니다.

---

5. AI의 민주화와 안전성

샘 알트먼은 AI 기술을 조기에 공개하고 점진적으로 발전시키는 이유로 “사회가 AI와 함께 공진화(co-evolution)할 시간을 확보해야 한다”는 점을 강조합니다. AI 기술이 갑작스레 전 세계에 보급되면, 사회가 이를 받아들이고 적응하는 데 큰 혼란이 따를 수 있기 때문입니다. 따라서 초기 출시와 점진적 발전이라는 전략은 사람들에게 충분한 학습과 논의의 기회를 제공하는 장치로 볼 수 있습니다.

 

또 한편으로는 사용자에게 더 많은 통제권을 부여하는 방향성이 중요하다고 언급합니다. 오픈소스를 확대하고, 안전성과 개인 자유 간의 균형을 조율하는 데 많은 관심이 필요하다는 뜻입니다. 기술이 빠르게 확산될수록, 중앙 집중식 통제 대신 다양한 이해관계자가 함께 책임지고 결정할 수 있는 구조가 바람직하다는 의견입니다.

 

특히 권위주의 정부가 AI를 감시·통제 수단으로 악용할 위험성은 커다란 우려 중 하나입니다. 국가 차원에서 강력한 AI 시스템을 독점적으로 활용해 대중을 감시하고 억압한다면, 개인의 자유는 크게 위축될 가능성이 있습니다. 이러한 시나리오를 방지하려면, 초기 단계부터 개방성과 투명성을 유지하며 기술 정책을 마련해야 한다고 주장하고 있습니다. 

---

6. AGI가 가져올 경제적 변화와 분배의 문제

기술 발전은 분명 인류의 번영을 이끌어왔지만, 불평등 문제를 자동으로 해결하지는 못했습니다. 이러한 역사적 경험을 바탕으로, 샘 알트먼은 AI 시대에 노동과 자본의 가치가 재조정되는 과정에서 발생할 수 있는 혼란을 예방하기 위해 선제적 개입이 필요하다고 강조합니다.

 

노동과 자본의 균형 측면에서, AI의 광범위한 확산은 노동의 가치를 근본적으로 변화시킬 것입니다. 이러한 변화 과정에서 사회적 갈등을 최소화하기 위해서는 섬세한 정책적 접근이 요구됩니다.

 

이를 위한 구체적 방안으로 '컴퓨팅 예산(compute budget)' 할당이 제시됩니다. 이는 모든 사람에게 AI 활용을 위한 최소한의 자원을 보장하자는 개념입니다.

 

더 나아가 알트먼은 2035년까지 "2025년 이전 인류가 보유한 모든 지적 능력을 개인이 자유롭게 활용할 수 있는" 세상을 만들자는 비전을 제시합니다. 이는 현재 자원 부족으로 잠재력을 충분히 발휘하지 못하는 인재들에게 평등한 기회를 제공함으로써, 전 지구적 차원의 혁신과 번영을 이끌어낼 수 있다는 기대를 담고 있습니다.

---

8. 결론

 

샘 알트먼은 AGI가 인류에게 가져올 전례 없는 기회와 도전을 강조합니다. 기회의 측면에서 AGI는 획기적인 의학 혁신과 물가 하락, 인간 창의성의 극대화를 통해 삶의 질을 크게 향상시킬 잠재력을 지니고 있습니다. 반면 부의 분배 문제, 기술 통제의 어려움, 급격한 사회 변화에 대한 적응 등 심각한 도전 과제들도 동반될 것입니다.

 

이러한 변화에 대비하여 오픈AI는 "조기 출시와 점진적 발전" 전략을 채택하고, AI 기술의 민주화를 추진하고 있습니다. 이는 AGI의 혜택을 공평하게 분배하고 안전하게 활용하기 위해 사회 구성원 모두가 함께 고민하고 준비해야 한다는 메시지를 담고 있습니다.

 

다가올 AGI 시대는 개인의 역량과 선택에 따라 새로운 기회가 될 수도, 예측하기 어려운 갈등을 초래할 수도 있습니다. 따라서 지금부터 이 문제에 관심을 갖고 적극적으로 참여하며, 필요한 사회적·정책적 합의를 도출해나가는 것이 무엇보다 중요한 시점입니다.