Tech Digest - AI: 예측 가능한 확장성 (feat. 오픈AI)

OpenAI: Predictable Scaling & Infrastructure

HotChips는 매년 8월 미국에서 개최되는 반도체 관련 연례 학술대회입니다. 매년 차세대 반도체 기술과 혁신적인 제품들이 HotChips를 통해 앞다투어 소개되며 전 세계 반도체 업계의 주요 인사들이 빠지지 않고 참여하는 행사로도 유명합니다. HotChips 2024가 지난 8월 25일부터 27일까지 3일간 스탠포드 대학교에서 개최되었습니다. 학술대회와 논문 포스터 발표가 행사의 근간이지만 현업을 이끄는 전문가들도 대거 참석, 반도체 업계를 둘러싼 가장 최신 트렌드를 함께 파악할 수 있다는 점은 HotChips 행사만이 가지는 장점입니다. 올해 HotChips 행사의 주요 화두는 예상대로 AI가 컴퓨팅에 가져올 근본적인 변화였습니다.

• AI는 반도체 칩 아키텍처 시장을 주도하고 있으며, 새로운 칩과 시스템 개발에 점점 더 많이 활용되고 있습니다. 행사에 참여한 모든 기업들이 AI와 관련하여 어떤 반도체를 개발하고 있는지 내세울 정도로 이제는 AI가 반도체 로드맵의 중심에 자리 잡은 모습입니다.
• 또 다른 트렌드는 ‘균형 잡힌’ 설계의 중요성입니다. 과거에는 새로운 프로세서 아키텍처의 1세대는 다소 비효율적인 경우가 많았습니다. 제안된 요구 사항의 긴 목록, 제한된 개발 기간, 실리콘 설계 재설계에 드는 높은 비용으로 인해 1세대 아키텍처는 이론에 집중하는 것이 일반적이었다면 이제는 모든 기업들은 1세대부터 한 층 균형 잡힌 솔루션을 설계하기 위해 사전 분석과 시뮬레이션에 방점을 두는 트렌드가 돋보였습니다.

특히 올해의 키노트는 반도체 설계 기업이 아닌, 생성형 AI의 선두 주자인 오픈AI가 맡아 화제가 되었습니다. Predictable Scaling and Infrastructure란 제목으로 진행된 이번 키노트를 통해 오픈AI가 어떻게 앞으로의 컴퓨팅 수요를 예측하는지, 그리고 왜 AI와 관련한 인프라 구축까지도 직접 관여하려고 하는지에 대한 힌트를 얻을 수 있었습니다.

오픈AI도 TSMC 차세대 1.6나노 공정에 줄섰다

이번 주 InsightEDGE 뉴스레터에서는 바로 이번 오픈AI의 키노트 내용을 하나씩 살펴보았습니다. 물론 굉장히 기술적인 난이도가 높은 내용이며 전문가가 아니라면 쉽게 이해하기 어려운 것도 맞습니다. 그래서 이번에는 오픈AI의 키노트 내용을 챗GPT가 읽고 각 장표를 대학생이 이해할 수 있는 수준으로 해석한 내용을 함께 추가해 보았습니다.

오픈AI가 바라보는 AI 인프라 구축에 대한 관점이 궁금하다면 이번 InsightEDGE를 적극 추천드립니다. 30분 정도 시간을 할애하여 강의 노트를 읽는다는 생각으로 접근해 본다면 이번 키노트의 핵심 메시지에 대한 이해도를 높일 수 있을 것입니다.

그럼 지금부터 발표 자료의 주요 내용들을 하나씩 살펴보도록 하겠습니다.