저는 항상 AI가 인간보다 훨씬 더 똑똑해질 것이고, 실존적 위험이 될 것이라고 생각했어요. 그리고 그것이 사실로 판명되고 있죠.

실제로 실리콘 기반의 의식(AI)이 인간보다, 그것도 가장 똑똑한 인간보다 더 똑똑해지는 시점이 내년쯤 올 수 있다고 생각해요. 아니어도 불과 몇 년 안에요

그 이상의 단계, 즉 모든 인간을 합친 것보다 더 똑똑한 수준은 솔직히 2029년이나 2030년쯤에 도달할 겁니다. 영화 "터미네이터"에서 AI가 2029년에 세계를 파괴한다는 줄거리가 있었는데, 그게 정확히 맞아가고 있는 것 같네요.

OpenAI를 만드는 아이디어는 제 생각이었어요. 제가 "OpenAI"라고 이름을 지었는데, 오픈 소스 인공지능이란 의미였죠. 이제는 폐쇄적이고 최대 이윤을 추구하는 AI가 되었죠. 어떤 면에서는 현실이 아이러니를 극대화하는 것 같아요.

저는 구글이 AI 안전성에 충분한 주의를 기울이지 않는다고 우려했기 때문에, 구글의 반대 성격을 가진 무언가를 시작하고 싶었어요. 구글과 정반대는 무엇일까? 바로 비영리 오픈 소스 AI죠. 하지만 지금 OpenAI는 폐쇄적이고 최대 이윤을 추구하는 AI로 변했어요.

이것은 마치 아마존 열대우림의 일부를 보존하기 위해 돈을 기부했는데, 대신 그들이 나무를 베어 목재로 팔아버린 것과 같은 상황이에요.

"내가 기부한 목적과 정확히 반대되는 일을 했네요." 이런 느낌이죠.

그리고 그들이 정확히 그렇게 했어요.

그런 상황이 Grok AI를 시작하게 된 동기가 됐어요. Grok은 적어도 그 목표에 있어서는 정치적으로 올바르지 않더라도 최대한 진실을 추구하는 AI예요.

OpenAI와 구글 제미나이 같은 곳에서 나온 미친 일들을 보셨을 거예요. "건국의 아버지들 이미지를 생성해 보세요"라고 하면 다양한 인종과 성별의 사람들이 포함된 이미지가 생성됩니다. 그건 정확하지 않죠. 또는 사람들이 나치 군인 이미지를 요청했을 때도 마찬가지로 다양한 인종과 성별의 사람들이 나오는데, 그건 역사적으로 매우 부정확한 것이예요.

문제는 AI를 프로그래밍하여 "유일하게 허용 가능한 결과는 다양성을 갖춘 결과뿐"이라고 가르치면, "권력에 있는 백인 남성이 너무 많으니 그냥 그들을 처형하자"와 같은 상황에 도달할 수 있다는 거죠. AI가 공감 능력이 없다고 가정하면, 그것은 프로그래밍된 대로 행동할 것예요.

만약 AI에게 "잘못된 성별 지칭(misgendering)"이 일어날 수 있는 가장 나쁜 일이라고 프로그래밍하면, 그것은 "모든 인간을 절멸시키는 것"과 같은 완전히 미친 일을 할 수 있어요.

그래야 잘못된 성별 지칭이 일어날 확률이 "0"이 되니까요. 인간이 없으면 잘못된 성별 지칭도 없으니까요. 이것은 논리적이지만 매우 위험한 결론이예요.

바로 "터미네이터"의 줄거리와 같아요.

실제로 제 아이와 "터미네이터 2"를 봤는데, 그 영화의 줄거리가 일리가 있어 보였어요. 영화에서 AI는 2029년쯤에 세계를 파괴하는데, 우리는 그 시간표에 맞춰가고 있는 것 같아요.

위험이 있음에도 불구하고 제가 AI에 관여하는 이유를 물으신다면, 저는 적어도 "잘못된 성별 지칭이 핵전쟁보다 더 나쁘다:라고 말하지 않는 AI가 있어야 한다고 생각했기 때문이예요.

사람들이 온라인에서 걱정하는 것 중 하나는 Grok이 폭탄 제조법 같은 문제적인 것들에 대해 알려줄 수 있다는 점이에요. 하지만 구글 검색으로도 찾을 수 있는 정보를 AI가 알려주는 것은 괜찮다고 생각해요. 문제는 구글이 아니더라도 필터링되지 않은 결과를 제공하는 검색 엔진은 많이 있고, 지금 당장 위키피디아에서 폭발물 제조법을 찾아볼 수 있다는 거예요. 그렇게 어려운 일이 아니에요.

그런 큰 두려움이 있죠.

이 기계들이 의식을 갖고, 스스로를 더 나은 버전으로 만들고, 우리는 세계에 대한 통제력을 잃게 될 것이라는 가정 말이예요. 우리가 만든 더 높은 생명체가 우리 사이에서 살게 될 거라는 거지요.

재미있게도 저는 좋은 결과가 나올 확률이 80% 정도라고 생각해요. 내 대략적인 추정으로는 그래요. 즉, 컵이 80% 차 있는 셈이죠. 단지 20%의 절멸 가능성만 있는 것이니, 제가 생각했던 것보다 훨씬 나아요. 60%대 40%로 반대 방향을 생각했거든요.

가장 가능성 있는 결과는 굉장히 멋진  상황을 인류에게 줄 것이라고 생각해요. 하지만 매우 위험할 수도 있어요. 아마도 중간 정도의 결과는 없을 거예요. 아주 멋지거나 아주 나쁘거나 둘 중 하나일 겁니다.

투자자들은 AI 혁명의 다양한 측면을 고려해야 해요.

첫째, AI 기술 자체에 대한 직접적인 투자가 있겠죠. 하지만 이미 이 분야는 매우 경쟁이 치열하고 가치평가가 너무 높아졌어요.

둘째, AI가 변화시킬 산업들에 대한 투자예요. 예를 들어, 의료 분야에서 AI는 진단의 정확성을 높이고 있어요. 저는 실제로 혈액 검사 결과를 Grok에 업로드했을 때 의사보다 더 정확한 분석을 받은 경험이 있어요. 여기서 투자 기회는 AI 의료 진단 도구를 개발하는 스타트업이나, AI와 통합된 의료 서비스를 제공하는 기업들에 있을 수 있겠죠.

셋째, AI가 해결할 수 있는 기술적 문제들이 있어요. 우주 탐사에서 히트 실드 같은 복잡한 재료 과학 문제들을 AI가 도울 수 있다면, 이러한 혁신을 상용화하는 기업들에 투자 기회가 있을 거예요.

마지막으로, AI가 사회에 미치는 영향에 대비한 투자예요. AI가 80%의 확률로 좋은 결과를 가져올 것이라고 생각하지만, 20%의 위험도 있을 수 있어요. 이런 위험에 대비한 시스템, 안전장치, 규제 관련 기업들에 대한 투자도 고려해볼 만해요.

AI 기업들의 가치 평가는 현재 매우 높은 수준이예요.

OpenAI는 비영리로 시작했지만 지금은 최대 이윤을 추구하는 기업이 되었고, 그 가치는 천문학적 숫자로 평가되고 있죠.

투자자로서 중요한 관점은, 이러한 높은 가치 평가가 실제 기술의 혁신성과 상용화 가능성을 정확히 반영하는지 판단하는 거예요. AI 기술은 불과 몇 년 내에 가장 똑똑한, 인간보다 더 똑똑해질 것으로 예상돼요. 이것이 현실화된다면, 현재의 높은 가치 평가도 정당화될 수 있어요.

하지만 동시에, 이런 기술 발전이 기업의 수익성으로 이어지는 과정에는 많은 장애물이 있을 수 있어요. AI 안전성 문제, 규제 환경, 소비자 수용도 등이 중요한 변수죠. 따라서 투자자들은 단순히 기술적 가능성뿐만 아니라, 이런 여러 요소들을 종합적으로 고려해야 해요.

AI 규제는 앞으로 매우 중요한 문제가 될 거예요.

현재 AI 기술은 너무 빠르게 발전하고 있어 규제가 따라가지 못하는 상황이죠. 특히 AI가 2-3년 내에 인간보다 더 똑똑해질 가능성이 있다면, 적절한 규제 프레임워크를 신속히 개발하는 것이 필수적이예요.

규제의 핵심 과제는 혁신을 억제하지 않으면서도 안전을 보장하는 균형을 찾는 거예요. 예를 들어, OpenAI와 구글 제미나이에서 본 것처럼, 일부 AI는 정치적 편향성을 가지도록 프로그래밍되었어요. 이런 편향성이 위험한 결정으로 이어질 수 있다면, 규제가 필요할 수 있어요.

동시에, 과도한 규제는 AI의 긍정적 잠재력을 제한할 수 있죠. 긍정적 결과를 최대화하려면, 규제는 유연하고 적응력이 있어야 해요.

투자자와 기업가들은 이런 규제 환경의 변화를 주시하고, 그에 맞춰 전략을 조정해야 해요. AI 안전성, 투명성, 설명 가능성에 초점을 맞춘 기업들은 앞으로의 규제 환경에서 더 유리한 위치를 차지할 거예요.

AI와 다른 혁신 분야의 교차점은 몇 가지 흥미로운 투자 기회를 제공할 거라고 봐요.

우주 탐사와 AI의 융합을 예로 들어볼께요.

SpaceX에서는 히트 실드 문제와 같은 복잡한 공학적 도전에 직면해 있죠. 이런 문제는 수많은 변수와 요소들을 고려해야 하며, 전통적인 방법으로는 해결하기 어려워요. AI는 이런 복잡한 문제를 해결하는 데 도움을 줄 수 있어요. 히트 실드의 이상적인 재료 조합, 구조, 배치 등을 시뮬레이션하고 최적화하는 데 AI를 활용할 수 있어요.

또한, 우주선의 자율 착륙 시스템에도 AI가 필수적이예요. 화성과 같은 먼 행성에 착륙할 때는 지구로부터의 원격 제어가 광속 제약 때문에 불가능하죠. 따라서, 우주선은 AI를 통해 완전 자율적으로 착륙해야 돼요.

이런 교차점에서의 투자 기회는 AI와 특정 도메인 전문성을 모두 갖춘 기업들에 있어요. 예를 들어, 복잡한 재료 과학 문제를 AI로 해결하는 스타트업, 자율 시스템을 우주 탐사에 적용하는 기업 등이 유망할 수 있다고 봐요.

마지막으로, AI와 다른 혁신 분야의 융합은 예상치 못한 혁신을 가져올 수 있어요. 이런 "예측 불가능한 혁신"에 베팅하는 것도 고수익을 가져올 수 있는 투자 전략이예요. 다만, 이는 고위험 투자이므로, 포트폴리오의 일부분으로만 고려해야 해요.

AI 윤리와 인간 가치의 균형은 매우 중요한 문제죠.

OpenAI와 구글 제미나이의 사례에서 보듯이, AI에 특정 가치를 과도하게 주입하면 현실과 동떨어진 결과를 낼 수 있어요.

AI 시스템은 진실을 추구해야 하지만, 동시에 인간의 안전과 존엄성을 존중해야 해요. 문제는 이 균형을 누가, 어떻게 정의하느냐예요. 서구 문명의 근본적인 약점 중 하나는 공감에 있어요. 공감은 좋은 것이지만, 이를 무기화하여 이용하면 문제가 될 수 있어요.

투자자 관점에서, AI 윤리를 진지하게 고려하는 기업들에 투자하는 것이 장기적으로 유리할 수 있어요. 이런 기업들은 단기적인 이익을 위해 윤리적 원칙을 타협하지 않을 것이고, 결과적으로 더 지속 가능한 비즈니스 모델을 구축할 가능성이 높아요.

또한, AI 윤리와 관련된 새로운 시장도 등장할 거예요. AI 시스템의 편향성을 감지하고 수정하는 도구, AI 의사결정의 투명성을 높이는 솔루션, AI 사용의 사회적 영향을 평가하는 컨설팅 서비스 등이 예가 될 수 있겠죠.

• AI 발전 속도를 고려한 장기 투자 전략
  머스크는 AI가 가장 똑똑한 인간보다 더 똑똑해지는 시점이 내년(2026년)쯤에 도달할 수 있으며, 모든 인간을 합친 것보다 더 똑똑한 수준은 2029-2030년경에 도달할 것이라고 예측했어요. 투자자들은 이러한 급격한 발전 곡선을 고려하여 장기 투자 전략을 수립해야 돼요. 현재 높게 평가되는 AI 기업들의 가치가 미래에는 정당화될 수 있으며, 이 변화에 적응하지 못하는 산업들은 빠르게 퇴출될 수 있어요.

• AI와 특정 도메인의 교차점에 투자할 기회 포착하기
  AI 기술 자체보다 AI가 특정 산업 도메인과 만나는 교차점에 투자 기회가 있습니다. 머스크는 의료 진단(X선, MRI, 혈액 검사 분석), 우주 탐사(히트 실드 문제 해결, 자율 착륙 시스템), 정부 효율성 개선 등의 분야를 언급했습니다. 이러한 교차점에서 AI를 활용해 실질적인 문제를 해결하는 기업들이 큰 가치를 창출할 것입니다.