모든 위대한 혁명은 작고 단순한 요소에서 시작됩니다.
문자는 알파벳에서, 건축물은 벽돌에서, 생명체는 세포에서 비롯되듯이, 인공지능(AI) 세계에도 기본적인 구성 요소가 존재합니다. 그것이 바로 토큰(Token)입니다. 토큰은 AI가 언어를 처리하는 데 사용하는 기본 단위로, 글자나 단어 또는 그 일부를 의미합니다. 인공지능이 텍스트를 이해하고 생성할 때 활용하는 이 기본 요소는 현대 AI 시스템의 핵심 구성 요소입니다. 엔비디아의 최고경영자 젠슨 황은 이러한 토큰을 “새로운 시대를 열어가는 핵심 조각"이라고 표현했습니다.
젠슨 황의 말처럼, 토큰은 AI의 새로운 세계를 여는 열쇠 역할을 합니다. 이 기초적인 단위를 통해 AI는 우주 탐사 데이터 분석, 복잡한 과학적 정보 해석, 신약 개발, 그리고 미래 예측과 같은 고도로 복잡한 작업을 수행할 수 있게 되었습니다.
이처럼 토큰은 단순하지만 강력한 AI 혁명의 기반을 형성하고 있으며, 현대 인공지능 기술의 발전과 확장을 가능하게 하는 필수적인 요소입니다.
AI 슈퍼볼이라 불리는 GTC
GTC(GPU Technology Conference)
는 2009년 소규모 학술 행사로 시작하여 세계적인 기술 박람회로 발전했습니다. 초창기에는 소수의 연구원들이 호텔에 모여 GPU(그래픽 처리 장치)의 활용 가능성을 논의하는 자리였으나, AI 기술의 급속한 발전과 함께 그 규모와 영향력이 크게 확대되었습니다.
최근 개최된 GTC2025에서는 ‘AI 슈퍼볼’이라 불릴 만큼 기술 업계의 주목을 받았습니다. 2025년 3월 17일부터 21일까지 미국 캘리포니아 산호세에서 열린 이번 행사에는 현장에 2만 5천 명이 참석하고 30만 명이 온라인으로 참여했으며, 전 세계 400여 개 글로벌 기업들이 전시 부스를 운영했습니다.
AI 기술의 현재와 미래를 아우르는 다양한 주제를 다룬 GTC2025는 학술적 행사에서 시작해 이제는 첨단 기술 산업의 핵심 행사로 자리매김했음을 보여주었습니다.
젠슨 황의 기조연설: 미래의 청사진을 펼치다
최근 GTC에서 NVIDIA(엔비디아)의 CEO 젠슨 황(Jensen Huang)은
토큰 개념을 중심으로 미래 AI 기술이 얼마나 빠르게 발전하고 있는지 소개했습니다.
토큰은 AI가 사용하는 가장 작은 데이터 단위로, 이제 문장 작성뿐만 아니라 우주 탐사, 자율 주행 자동차, 의료 진단같은 복잡한 문제 해결에도 활용됩니다.
하지만 수많은 토큰을 빠르게 처리하기 위해선 기존 컴퓨팅의 전력과 속도의 한계를 넘어선 새로운 형태의 컴퓨터가 필요합니다. 이를 위해 엔비디아는 ‘AI 팩토리(AI Factory)‘라는 새로운 데이터센터 개념을 소개했습니다.
젠슨황은 AI 팩토리에 들어갈 차세대 GPU인 ‘블랙웰 울트라(Blackwell Ultra)‘와 ‘루빈(Rubin)’ 시리즈를 공개했습니다. 요즘 우리가 사용하는 챗GPT나 클로드 같은 AI 서비스는 엄청난 컴퓨팅 파워가 필요합니다.
블랙웰 울트라는 이전 세대 대비 성능이 최소 두 배 이상 향상된 프로세서로, 288GB 메모리를 탑재했습니다. 이 288GB 메모리는 엔비디아의 이전 세대 AI 가속기인 A100(최대 80GB)과 비교하면 3.6배, H100(최대 141GB)과 비교해도 2배 이상 큰 용량입니다. 이는 단일 GPU에서 훨씬 더 큰 AI 모델을 로드하고 실행할 수 있다는 의미입니다.
실제로 이 메모리 용량은 GPT-4와 같은 대규모 언어 모델의 더 많은 부분을 한 번에 GPU에 올려 처리할 수 있게 해주며, 고해상도 이미지 생성 시 더 복잡한 프롬프트와 더 정교한 스타일 적용이 가능해집니다. A100이나 H100으로는 메모리 제약 때문에 모델을 여러 GPU에 분산시키거나 정밀도를 낮추는 최적화가 필요했던 작업들을 이제 단일 블랙웰 울트라로 더 효율적으로 처리할 수 있게 되었습니다.
루빈 GPU는 2026년 출시 예정인 차세대 GPU 시리즈로, 이름은 암흑물질 연구에 크게 기여한 미국의 여성 천문학자 베라 루빈에서 따왔습니다. 이 프로세서는 전력 소비를 대폭 줄이면서도 연산 성능을 획기적으로 높인 친환경 고성능 AI 프로세서입니다. 쉽게 말해, 지금보다 전기를 훨씬 적게 쓰면서도 더 똑똑한 AI를 만들 수 있게 되는 것이죠.
양자 컴퓨팅: 엔비디아의 새로운 도전
이번 GTC에서 가장 놀라운 발표 중 하나는 엔비디아가 양자 컴퓨팅 시장에 진출한다는 소식이었습니다. 양자 컴퓨팅이란 무엇일까요? 일반 컴퓨터가 0과 1만 사용해 계산하는 것과 달리, 양자 컴퓨터는 0과 1이 동시에 존재할 수 있는 양자역학의 원리를 활용합니다.
쉽게 비유하자면, 일반 컴퓨터가 미로를 풀 때 한 번에 하나의 길만 탐색할 수 있다면, 양자 컴퓨터는 모든 가능한 경로를 동시에 탐색할 수 있는 것과 같습니다. 그래서 특정 문제들을 해결할 때 기존 컴퓨터보다 엄청나게 빠릅니다.
엔비디아는 GTC에서 처음으로 ‘퀀텀데이’라는 특별 세션을 진행하고, 새로운 양자 프로세서 ‘퀀텀-X(Quantum-X)‘를 공개했습니다. 이 프로세서는 기존 컴퓨팅 방식으로 해결이 어려운 문제들을 단 몇 초 만에 처리할 수 있습니다.
예를 들어, 신약 개발에서 한 가지 약물이 인체에 어떤 영향을 미칠지 분석하려면 수많은 복잡한 계산이 필요합니다. 일반 컴퓨터로는 이런 계산에 몇 주가 걸릴 수도 있지만, 양자 컴퓨터는 이를 몇 시간 또는 몇 분으로 단축할 수 있습니다. 이외에도 복잡한 금융 모델링, 날씨 및 기후 예측 등에 활용될 전망입니다.
휴머노이드 로봇 ‘블루’: 기계와 인간의 경계를 허물다
GTC 2025에서 또 하나 주목할 만한 혁신은 휴머노이드 로봇 ‘블루(Blue)‘의 등장입니다. 디즈니와 딥마인드와 함께 공동 개발한 이 로봇은 인간처럼 자연스러운 움직임과 섬세한 감정 표현이 가능합니다.
이전의 로봇들이 단순히 프로그래밍된 작업만 수행했다면, 블루는 사람의 감정을 인식하고 이에 맞춰 행동을 조정할 수 있습니다. 예를 들어, 여러분이 슬퍼 보인다면 블루는 여러분의 얼굴 표정을 분석해 위로의 말을 건넬 수 있습니다. 심지어 말로 표현하지 않은 감정까지도 얼굴 표정과 몸짓을 통해 읽어낼 수 있는 능력을 갖추고 있습니다.
이런 기능은 특히 의료나 간병 분야에서 큰 잠재력을 가지고 있습니다. 예를 들어, 요양원에서 블루 같은 로봇이 간병인의 역할을 보조하여 노인들의 감정 상태를 모니터링하고 적절한 사회적 상호작용을 제공할 수 있습니다. 또는 발달장애 아동을 위한 치료 보조 로봇으로 활용될 수도 있습니다.
에이전틱 AI와 피지컬 AI
또 다른 주목받은 내용은 에이전틱 인공지능(Agentic AI)과 피지컬 인공지능(Physical AI)의 개념이었습니다.
에이전틱 AI는 단순히 데이터를 처리하는 것을 넘어, 스스로 사고하고 행동하는 단계로 발전하고 있습니다.에이전틱 AI는 스스로 문제의 본질을 이해하고, 목표를 세우며, 그 목표를 달성하기 위한 최적의 경로를 스스로 찾아냅니다.
예를 들어 결혼식 하객 좌석 배치를 생각해보겠습니다.
기존 AI도 빠르게 결과를 내지만, 친하지 않은 사람을 함께 앉히는 등 실수가 있었습니다. 그러나 에이전틱 AI는 누가 서로 친한지, 누가 누구와 다투었는지까지 고려하며 가장 좋은 배치를 찾고 효율적인 정답을 찾아냅니다.
젠슨 황은 이런 에이전틱 AI가 “문제를 해결하는 방식을 바꿀 수 있다”고 강조합니다. 이전까지는 이미 저장된 데이터를 가져와 답을 찾았다면, 이제는 AI가 스스로 생각하고 판단하여 답을 만들어내는 시대가 온 것이라고 말입니다.
에이전틱 인공지능은 정교한 추론과 계획, 반복 학습을 활용해 복잡한 문제를 해결하는 기술로, 인식, 추론, 행동, 학습 등 4단계 처리과정을 거칩니다.
반면 물리적(피지컬) 인공지능은 로봇과 자율주행 자동차 등에 적용되는 기술로, 현실 또는 현실과 동일한 가상 공간을 구축해 인공지능을 학습시키는 것이 핵심입니다.
젠슨 황은 이를 피지컬 AI(Physical AI) 로, AI가 현실 세계의 물리 법칙까지 이해하면서, 로봇을 통해 실제 생활에서 다양한 업무를 수행할 수 있게 되는 시대를 열 수 있다고 말했습니다.
엔비디아는 이를 위해 인간형 로봇의 핵심 모델인 ‘아이작 그루트 N1(Groot N1)’을 공개했습니다. 이 로봇은 다양한 물건을 자유롭게 다루고, 복잡한 임무를 수행하며, 서로 협력할 수 있는 능력을 갖추었습니다. 이 모든 학습은 현실과 거의 구분할 수 없는 디지털 시뮬레이션 속에서 이루어진다고 합니다.
라마 네모트론(Llama Nemotron)
‘라마 네모트론
‘는 엔비디아(NVIDIA)가 개발한 에이전틱 AI(Agentic AI)를 위한 오픈소스 대규모 언어 모델
(LLM) 제품군입니다 이는 메타의 인공지능 대형 언어 모델(LLM) 라마를 토대로 구축되었으며, 다양한 사전 학습·훈련된 데이터를 제공합니다.
라마 네모트론은 개발자들이 에이전틱 AI(지능형 자율 에이전트)를 더 쉽게 구축할 수 있도록 설계되었습니다. 이 모델은 일상 대화부터 복잡한 문제 해결, 코딩, 함수 호출까지 다양한 기능을 제공하며, 필요에 따라 추론 기능을 켜고 끌 수 있어 개발자들이 각자의 용도에 맞게 효율적으로 AI 솔루션을 개발할 수 있게 해줍니다.
그 밖에 다양한 응용 분야
GTC 2025에서는 AI가 다양한 분야에서 어떻게 활용될 수 있는지 보여주는 세션들이 많았습니다.
예를 들어, 기후 변화 연구에서는 AI가 방대한 기상 데이터와 과거 패턴을 분석해 더 정확한 예측 모델을 만들 수 있습니다. 실제로 한 연구팀은 엔비디아의 GPU를 활용해 태풍 경로를 예측하는 AI 모델을 개발했는데, 이 모델은 기존 방법보다 24시간 더 일찍 정확한 경로를 예측할 수 있었습니다. 이는 재난 대비에 중요한 시간을 확보해 줍니다.
의료 분야에서는 AI가 X-ray나 MRI 같은 의료 영상을 분석해 인간 의사가 놓칠 수 있는 미세한 이상을 감지합니다. 가령, 폐암 초기 징후를 발견하는 AI는 방사선 전문의보다 더 높은 정확도를 보이기도 합니다. 이는 조기 진단을 통해 생명을 구하는 데 기여할 수 있습니다.
자율주행차 분야에서는 웨이모의 드라고 앙겔로프 부사장이 연사로 참여해 AI가 어떻게 안전한 자율주행을 가능하게 하는지 설명했습니다. 자율주행차는 카메라, 라이다, 레이더 등 다양한 센서에서 수집한 데이터를 AI가 실시간으로 처리하여 도로 상황을 판단하고 안전한 주행을 가능하게 합니다.
스타트업과 교육: AI 생태계 확장
스타트업과 투자자를 위한 ‘AI 데이’가 마련되어 투자자와 스타트업 간 네트워킹, 전문가 패널 토론, 스타트업의 혁신 기술 데모 등이 진행되었습니다. 약 250개의 스타트업이 혁신 기술을 선보였으며, AI를 활용한 농업 로봇 등 실질적인 산업 효율성을 높이는 사례가 주목받았습니다.
GTC에서는 처음으로 AI 자격증 시험을 무료로 제공하며 생성형 AI, 에이전틱 AI, CUDA 기반 가속 컴퓨팅 등을 교육하는 워크숍이 진행됐습니다.
GTC 2025가 보여준 미래
“우리가 만드는 기술 덕분에, 과학자들이 이제 평생의 연구를 평생 안에 끝낼 수 있게 되었습니다.”
AI가 우리에게 주는 가장 큰 선물은 바로 ‘시간’ 입니다.
인류가 과거 수백 년에 걸쳐 이룬 발전을, 이제는 단 몇 년 안에 이루게 한다고 젠슨황은 기조연설에서 말했습니다.
GTC 2025는 단순한 기술 컨퍼런스를 넘어 AI와 가속 컴퓨팅의 미래를 결정짓는 중요한 자리였습니다. 엔비디아의 전략은 “Scale-Up Before Scale-Out”(확장하기 전에 성능 향상)으로 요약될 수 있습니다. 즉, 먼저 개별 GPU의 성능을 극대화한 후, 이를 기반으로 다양한 분야로 확장해 나간다는 전략입니다.
이는 마치 자동차 회사가 먼저 최고 성능의 엔진을 개발한 다음, 그 엔진을 승용차, 트럭, 버스 등 다양한 차종에 적용하는 것과 유사합니다. 엔비디아는 블랙웰과 루빈 같은 최고 성능의 GPU를 개발하고, 이를 의료, 기후 연구, 자율주행, 로보틱스 등 다양한 분야에 적용하고 있습니다.
작고 평범한 ‘토큰’ 하나가 우리 일상과 미래를 바꿀 수 있다는 것이 참 놀랍지 않나요?
AI 기술의 발전은 이렇게 작고 단순한 요소들에서부터 시작됩니다.
NVIDIA가 말하는 ‘AI 팩토리’처럼 앞으로 더 많은 기업과 기관들이 토큰을 효율적으로 활용하여 우리 생활을 더 편리하게 만들어줄 것입니다.
우리 일상을 바꿀 토큰이 가져다준 AI 시대는 벌써 시작되었습니다.
이 모든 발전의 중심에는 토큰이 있습니다. 작은 조각에서 시작한 AI는 이제 우리의 삶 전체를 바꾸고 있습니다.
젠슨 황의 말을 빌리자면, “이 모든 것이 여기에서 시작됩니다.”
우리는 지금, 새로운 AI의 시대를 눈앞에 두고 있습니다.