앤트로픽 CEO, 페이팔 마피아와 격이 다른 CEO

이글은 초안이다. 처음 작성한 글이고, 다시 다듬어서 그리고 숙고해서는 다른 글을 냈다.

하지만 처음이자만 주장의 시작점이고, 이런 보관도 의미가 있을 것 같아, 약간 다듬고 남긴다.

 

---

AI의 ‘성인식’을 준비하는 현명한 리더: 다리오 아모데이, 앤트로픽 CEO

 

안녕하세요, 여러분.

요즘 AI 세상이 미친 듯이 돌아가고 있죠. 가속주의자(Accelerationist)들은 “더 빠르게, 더 강력하게!”를 외치며 규제를 비웃고, 페이팔 마피아 출신의 일부 테크 거물들은 ‘빨리 움직여라, 깨지면 고치자’ 식의 무모한 속도를 강조합니다. 그런데 이런 소란 속에서 조용히, 그러나 날카롭게 “위험을 직시하면서도 인류를 위한 AI를 만들자”고 말하는 인물이 있습니다. 바로 앤트로픽(Anthropic)의 CEO, 다리오 아모데이(Dario Amodei)입니다.

Dario Amodei expresses discomfort with the 'overnight' and accidental concentration of power in AI ❘ Fortune

 

그는 ‘정신 빠진’ 가속주의자와 달리, AI를 단순한 기술 경쟁이 아닌 인류 문명의 성인식(rite of passage)으로 보고 있습니다. 2026년 1월, 그의 2만 자 분량 에세이 《The Adolescence of Technology》는 전 세계를 뒤흔들었죠. “우리는 지금 AI의 청소년기를 맞이하고 있다. 이 기술은 인류에게 거의 상상할 수 없는 힘을 줄 것이고, 우리 사회·정치·기술 시스템이 그것을 다룰 성숙함이 있는지 매우 불분명하다”고 경고하면서도, 동시에 “우리는 이겨낼 수 있다”고 믿음을 드러냅니다.

 

OpenAI에서 Anthropic으로, ‘안전’을 선택한 이유

다리오 아모데이는 이탈리아계 미국인 AI 연구자입니다. Google Brain에서 시작해 OpenAI에서 연구 부사장(VP of Research)까지 올랐죠. GPT-2, GPT-3 개발에 핵심적으로 참여하며 ‘스케일링 법칙(scaling laws)’을 연구한 인물입니다. 하지만 2020년 말, 그는 OpenAI를 떠났습니다. 이유는 명확했습니다. “AI가 너무 빨리 강력해지고 있는데, 안전 연구가 따라가지 못한다”는 우려 때문이었어요.

2021년, 여동생 다니엘라 아모데이(Daniela Amodei)와 함께 Anthropic을 창업했습니다. 회사 이름 ‘Anthropic’ 자체가 ‘인간 중심(human-centric)’을 의미하죠. 그들은 OpenAI 시절부터 함께 일했던 동료들과 “더 안전하고 해석 가능하며, 인간 가치에 맞춰진 AI”를 만들겠다고 다짐했습니다.

What Is Anthropic AI? The Company at the Center of the “Anthropic Trump” Dispute And What Its Tools Actually Do

 

Anthropic의 대표 기술 Constitutional AI는 바로 이 철학의 결정체입니다. AI에게 ‘헌법’ 같은 원칙(예: 도움이 되고, 정직하며, 무해하게)을 미리 심어 넣어, 외부 검열이 아닌 내부적으로 안전하게 행동하도록 설계하는 방식이죠. 단순히 “더 똑똑하게”가 아니라 “더 믿을 수 있게” 만드는 접근. 이는 기업 고객들에게도 큰 매력으로 작용해 Anthropic은 빠르게 성장했습니다.

Constitutional AI

 

위험을 직시하되, 희망을 포기하지 않는 균형잡힌 시선

아모데이는 ‘둠머(doomer)’가 아닙니다. 그는 과거 “AI가 인류를 멸망시킬 확률이 10~25%”라고 말한 적이 있지만, 최근에는 “나는 극단적 낙관론자도, 극단적 비관론자도 아니다”라고 선을 그었습니다. 대신 그는 구체적이고 현실적인 위험을 나열합니다.

2026년 에세이에서 그는 다음과 같은 위협을 지적했어요:

• 중국 공산당(CCP): AI를 활용한 감시 국가, 선전, 독재 강화.
• AI 기업 자체: 거대 데이터센터와 모델을 장악한 기업들이 사용자들에게 영향을 미칠 수 있는 위험.
• 경제·사회적 혼란: AI가 노벨상급 지능을 넘어서는 ‘데이터센터 속 천재 국가’가 되면, 일자리·의미·사회 구조가 송두리째 흔들릴 수 있음.
• 자율성·오용 위험: 생물무기, 자율 무기, 탈제어 등.

둠머

 

하지만 그는 동시에 긍정적인 미래도 생생하게 그립니다. 2024년 에세이 《Machines of Loving Grace》에서는 AI가 생물학·신경과학·경제 발전·글로벌 평화·일과 의미를 혁명적으로 바꿀 수 있다고 꿈꿨죠. “강력한 AI가 잘 관리된다면, 인류는 지금보다 훨씬 더 나은 세상을 만들 수 있다”는 메시지입니다.

그는 Davos, 인도 AI 서밋 등에서 “AI는 인류를 시험할 것이지만, 우리는 준비할 수 있다”고 반복 강조합니다. 정부 규제, 기업의 책임, 국제 협력이 필요하다고 말하면서도, “기술 자체는 중립적”이라는 점을 잊지 않습니다.

 

왜 다리오 아모데이가 지금 중요한가?

페이팔 마피아나 일부 가속주의자들이 “속도만이 답”이라고 외칠 때, 아모데이는 “속도와 안전을 동시에”라고 답합니다. 그는 AI 회사 CEO로서도 솔직하게 “AI 기업 자체가 위험 요소일 수 있다”고 자성하며, 미국과 민주주의 동맹국에 AI를 제공하는 것이 중요하다고 밝혔습니다.

이런 태도는 단순한 ‘안전주의’가 아닙니다. 책임 있는 리더십입니다. AI가 인류 역사상 가장 강력한 도구가 될 순간, 우리는 ‘누가 그 도구를 어떻게 다루느냐’에 따라 미래가 갈립니다. 다리오 아모데이는 그 갈림길에서 “인간성을 지키며 나아가자”고 말하는 드문 목소리예요.

물론 모든 것이 완벽하지 않습니다. Anthropic도 상업적 성공을 추구하고 있고, AI 경쟁은 여전히 치열하죠. 하지만 적어도 그는 위험을 외면하지 않고, 희망을 포기하지 않으려 애쓰고 있습니다.

AI 시대의 청소년기, 우리는 지금 그 성인식을 치르고 있습니다. 다리오 아모데이처럼 위험을 직시하면서도 용기 있게 나아가는 사람들이 더 많아진다면, 우리는 이 시험을 잘 통과할 수 있지 않을까요?

 

여러분은 어떻게 생각하시나요? AI의 미래, 속도 vs 안전 — 어디에 더 무게를 두고 계신가요? 댓글로 의견 나눠보아요.

(참고: 다리오 아모데이의 에세이는 그의 공식 사이트 darioamodei.com에서 무료로 읽을 수 있습니다. 《Machines of Loving Grace》와 《The Adolescence of Technology》를 꼭 추천드려요.)

 

그런데 개인적인 생각이지만, 다른 CEO와 비교해서 푸짐하고 생긴 모습도 인간적입니다.

 

#다리오아모데이 #앤트로픽 #Anthropic #ConstitutionalAI #AI안전 #가속주의 #스케일링법칙 #아시모프 #로봇3원칙 #AI윤리 #미루나무작업실 #AI이야기