Samsung, Hyundai는 인공지능 스타트업 Tenstorrent를 지원한다 모두가 Nvidia에 경쟁을 원한다, CEO Keller가 말한다

Samsung, Hyundai 지원 인공지능 스타트업 Tenstorrent. Nvidia에 경쟁을 원한다, CEO Keller.

칩 거물 Nvidia는 오늘 인공지능 분야에서 가장 강력한 세력으로, Microsoft, Google 또는 OpenAI보다 더욱 강력합니다. 해당 회사의 GPU 칩은 ChatGPT와 같은 프로그램을 위한 산업에서 지배적인 컴퓨팅 형태입니다. 다양한 스타트업들은 이러한 지배력을 깨기 위해 수년간 노력해왔지만 성공하지 못했습니다.

또한: 최고의 인공지능 챗봇들 

그리고 그럼에도 불구하고 세계는 여전히 경쟁을 갈망하며, Nvidia는 경제적 지배력이 지속될 수 없다고 여겨져 취약할 수 있습니다.

AI 칩 스타트업인 Tenstorrent의 CEO인 Jim Keller는 ENBLE과의 독점 인터뷰에서 “Nvidia는 독점적인 이익율을 갖고 있다”며 “만약 AI를 내장한 고성능 솔루션을 구축하려면, 제품에서 대부분의 이익을 Nvidia가 차지할 것입니다. 승자 전체 가져오기 전략의 문제는 사람들이 정말로 대안을 원하는 경제적 환경을 만들어낸다는 것입니다.”

Keller는 컴퓨터 칩 분야에서의 슈퍼스타로, AMD의 프로세서 사업을 돌려 세운 것부터 Apple의 맞춤형 프로세서 사업의 기초를 만들어낸 것, Tesla의 Autopilot 칩 플랫폼을 구축한 것 등의 근한 성공으로 알려져 있습니다. 그는 Nvidia의 통제에 대한 산업의 불만과 RISC-V의 신흥 기술이 대체제를 열어놓았다고 믿습니다.

• AI 봇은 곧 당신의 새로운 고객 서비스 에이전트가 될 수 있습니다.
• 데이터 침해 사례가 거의 3배 증가하며, 미국 계정이 가장 많이 침해당...
• Uber는 자사의 자체 AI 챗봇을 개발 중이라고 CEO가 밝혔다.

강력한 당사자들 중 일부는 그가 성공할 가능성을 보유하고 있다고 여깁니다.

또한: 맥 르네상스: 애플의 칩 전환으로 인한 이상하게 구성된 맥 프로의 탄생

Keller는 수요일 Tenstorrent가 세계 3위의 자동차 제조업체인 현대자동차 그룹과 전자제품 거장인 삼성전자의 벤처부문인 Samsung Catalyst Fund를 비롯하여 Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital 등의 참여로 1억 달러의 자금을 조달했다고 발표했습니다.

이번 투자금은 이전에 거의 2억 5천만 달러의 자금을 조달한 것 위에 더해져, 7년 된 Tenstorrent가 AI를 위한 여러 칩을 시장에 출시하는 데 충분한 자금을 갖게 됐습니다.

현대자동차는 많은 기업들과 마찬가지로 자동차에 AI를 적용하기 위한 Nvidia의 대안에 관심을 가지고 있다고 Keller는 말했습니다. 이 회사는 또한 MIT의 로보틱스 스핀오프인 Boston Dynamics를 2020년에 인수하여 로보틱스 부문을 보유하고 있습니다.

“그들은 기술 리더십 회사입니다”라며 Keller는 현대자동차에 대해 말했습니다. “그들은 수익을 창출하고 기술에 투자하고 있으며, AI 기술 개발을 위한 내부 역량을 강화하기 위한 경로를 보고 있습니다.”

또한: 생성적 AI 플랫폼을 사용하여 초개인화를 달성하는 방법

더욱이, 현대자동차는 “자사의 제품을 개발하고 비용 및 성능 요건을 충족시키기 위해” Nvidia에게 표준 제품에 60% 이상의 총매출이 불가능하다고 Keller는 말했습니다. “그들은 대안을 찾고 있습니다.”

현대자동차의 전략 기획실 임직원인 김흥수 부사장은 준비된 발언에서 다음과 같이 말했습니다:

“Tenstorrent의 높은 성장 잠재력과 고성능 AI 반도체는 그룹이 미래 이동성을 위해 경쟁력 있는 기술을 확보하는 데 도움이 될 것입니다.

“이번 투자를 통해 그룹은 미래 이동성을 지원하고 AI 기술 개발의 내부 역량을 강화하기 위한 최적화된, 그러나 차별화된 반도체 기술을 개발할 것으로 기대하고 있습니다.”

삼성의 투자는 세계에서 가장 큰 반도체 계약 제조업체 중 하나에게 특히 의미가 있습니다. 해당 회사는 Keller가 유명한 많은 칩들을 생산해왔으며, Tesla Autopilot을 비롯한 많은 칩들을 생산했습니다. 삼성은 작은 도토리로부터 큰 상수나무가 될 수 있다는 것을 알고 있으며, 오늘의 스타트업들이 내일의 칩 제작 고객이 될 수 있다는 것을 알고 있습니다.

또한: 이 작은 버섯 기반 칩은 당신의 기기를 동력으로 삼을 수 있으며 우리 행성을 구할 수 있습니다

삼성의 반도체 혁신 센터 책임자인 Marco Chisari는 준비된 발언에서 “Tenstorrent의 업계 선도 기술, 경영진의 리더십 및 공격적인 로드맵은 우리가 이번 투자 라운드를 공동 주도할 동기가 되었습니다”라고 말했습니다. 그는 덧붙였습니다: “우리는 Tenstorrent와 함께 AI 및 컴퓨팅 혁신을 가속화할 기회에 열광하고 있습니다.”

자금 조달을 발표하는 준비된 발언에서 Keller는 현대 모터 그룹과 삼성 캐탈리스트 펀드가 우리의 라운드를 주도하며 보여준 Tenstorrent에 대한 신뢰는 정말 겸손하게 느껴집니다.

세계에서 가장 빠른 칩을 많이 만든 Keller에게 주장은 주로 경제적이지만 기술적으로도 크게 중요합니다.

“나는 이것이 AI의 최종 목표가 아니라고 생각합니다 – CUDA와 PyTorch가 실행되는 GPU입니다. ‘외계인이 착륙할 때, 우리에게 ‘우리가 CUDA를 발명했습니까?’라고 물어볼 것 같진 않습니다.” Keller는 이와 관련하여 Nvidia의 신경망을 실행하는 소프트웨어 플랫폼인 CUDA를 언급하며 농담을 칩니다.

“GPU는 오늘날 성공을 거두고 있지만, 그들은 당연한 최선의 대답이 아니라 이용 가능한 좋은 대답에 가깝습니다.” Keller는 Nvidia 칩인 H100 “Hopper” GPU와 같은 Nvidia 칩의 지배력에 대해 언급하며 말합니다. 이 제품은 신경망을 실행하는 데 사용되는 Nvidia의 주요 제품입니다.

또한: 생성 모델 AI 및 4차 왜? 고객과의 신뢰 구축

특히 오픈 소스 소프트웨어 커뮤니티에서 나오는 더욱 진보된 생성 모델 AI는 교육과 추론 사이의 영역에서 근본적인 변화를 가져올 것입니다. “저는 미래의 AI 엔진이 교육과 추론처럼 보이지 않고 둘을 융합한 것과 같은 다양한 능력을 갖출 것이라고 생각합니다.”

그는 Nvidia가 소프트웨어에 대한 놀라운 선도를 만들었다고 인정합니다. 이는 공동 창립자이자 CEO 인 제인선 흉의 이른 시기부터 회사의 노력을 소프트웨어에 집중하기로 한 결정 덕분입니다.

“솔직히 말해서 AI 소프트웨어 도전은 사람들이 생각한 것보다 어렵습니다,”라며 Keller는 언급합니다. “대부분의 AI 스타트업은 하드웨어 전문가들에 의해 시작되었습니다.” 그는 Nvidia가 GPU를 위해 특별한 프로그래밍 프레임워크를 개발하기 위해 HPC (복잡한 과학 작업을 위한 고성능 컴퓨팅)에 투자를 한 것을 언급합니다. “그들은 투자하고 몇 가지 작업을 성공시켰습니다.”

그러나 Keller는 세상이 변하고 있다고 말합니다. CUDA에 대한 오픈 소스 대안의 부상, TensorFlow 및 PyTorch와 같은 다양한 AI 프레임워크, Stability.ai 및 MosaicML과 같은 회사들이 만든 오픈 소스 모델, 그리고 Hugging Face와 같은 허브에 의해 제공되는 것들은 약속이 있다고 그는 말합니다. “흥미로운 점은 소프트웨어 분야에서 이루어지고 있는 오픈 소스 협업의 양이 하드웨어 분야에서 일치해야 한다는 것입니다.”

그 오픈 소스 노력과 일치하기 위해 Keller는 RISC-V에 건 돈이 있습니다. 이는 David Patterson와 그의 동료들에 의해 10년 전에 캘리포니아 대학에서 개발된 오픈 소스 칩 명령어 세트입니다.

또한: AI는 개발자의 역할을 영원히 바꿀 것입니다. 그것이 좋은 소식인 이유

큰 규모에서 문제를 해결하는 간명한 문제 해결자인 Keller에게 경제적인 측면과 기술적인 측면에서 중요한 것이 결합되고 있다는 것은 매우 중요합니다. “나는 공간을 탐험하고 이해하고 그런 다음 뭔가를 할 것을 좋아합니다,”라고 그는 말합니다.

1980년대와 1990년대의 전설적인 디지털 장비 회사에서 그는 당시 세계에서 가장 빠른 칩을 만들었습니다. Keller의 이전 스타트업 중 하나인 P.A. Semi Inc.은 2008년 애플에 인수되어 현재 모든 애플 기기에 전원을 공급하는 “A-series” 실리콘의 기반이 되었습니다. Tesla는 Keller가 Tesla의 Autopilot을 위한 하드웨어를 개발하기 위해 팀을 이끌었을 때 25만 대 이상의 자동차를 생산하지 않았던 “작은 엔지니어링 회사”였습니다.

그는 AMD의 무력한 칩 개발을 소생시켰으며 “모두 AMD가 파산할 것이라고 말했습니다,”라며 Keller는 회상합니다. 그의 노력은 회사를 비탄에서 구해내기만 한 것이 아니라 칩 파워하우스로 전락시켰습니다.

2016년에 설립된 Tenstorrent에서 Keller는 흥미로운 것을 보았습니다. 이 회사는 OpenAI의 GPT와 같은 깊은 학습 AI 모델의 폭발적인 크기에서 칩 기회에 초점을 맞추고 있습니다.

또한: GPT-3.5 대 GPT-4: ChatGPT Plus의 구독료가 가치 있는가?

Tesla에 있을 당시 Keller는 Tenstorrent의 천사 투자자였으며 AMD에서 Keller와 함께 일한 Ljubisa Bajic을 알고 있었습니다. “AI 엔진에 대한 굉장한 제안을 많이 살펴보았는데 그가 하는 일이 꽤 흥미로웠습니다,”라며 Keller는 회상합니다.

그는 2021년 1월에 Tenstorrent에서 최고의 자리를 차지하기에 충분히 흥미로웠습니다. 그는 “이것은 어느 정도 연구 프로젝트였고, 우리가 연구 프로젝트가 무엇인지 알기 시작했다고 느꼈습니다”라고 설명했습니다.

켈러는 말했습니다. “AI의 도래는 RISC-V의 도래와 Nvidia의 지배력에 따른 경제적 압력과 합쳐지고 있다는 것은 분명합니다.

앞으로 “계산은 AI에 의해 지배될 것이다”라고 켈러는 말했습니다. Tenstorrent가 다루기 위해 설계된 생성 신경망은 규모가 커질수록 더 많은 실리콘 성능을 요구하므로 모든 칩 디자인을 지배하게 됩니다.

지난 노력과 마찬가지로, 켈러는 Tenstorrent에서 찾은 대로 플레이북을 단순히 채택하지 않았습니다. 그는 전용 AI 칩만 계속 사용하기로 결정한 것이 아니라, AI 칩의 관리도 처리할 수 있는 범용 CPU를 구축하기로 놀라운 결정을 내렸습니다.

“일반 목적의 컴퓨팅과 AI는 함께 작동해야 하며, 서로 긴밀하게 통합되어야 한다는 이유로 RISC-V 프로세서를 구축하기로 결정했습니다”라고 그는 말했습니다.

그렇게 하기 위해, “AMD, Apple, Nvidia에서 최고의 디자이너들을 고용했습니다”라고 말한 켈러는 “팀 어드벤처에 열중하고 있습니다.” “우리는 훌륭한 CPU 팀을 가지고 있습니다. 정말로 기대됩니다.”

또한: AMD vs. Intel: 전문가, 크리에이터, 일반 플레이어를 위한 최고의 게이밍 CPU

한때 소프트뱅크 그룹의 자회사인 비공개 유닛인 ARM은 Intel과 Nvidia의 지배 사이에서 칩 산업을 구원할 가능성이 있었습니다. 그러나 켈러에 따르면 상황이 바뀌었습니다. “나는 ARM과 꽤 많이 이야기했는데, ARM은 크게 두 가지 문제를 가지고 있었습니다”라고 그는 관찰했습니다.

“하나는 지금은 너무 비싸다는 점입니다”라고 그는 말했습니다. ARM 기술을 라이선스 하는 회사들에게서는 일정한 경제적인 상황이었지만, 이제는 계속해서 가격을 올리고 있으며, 고객들이 ARM 기술로 제작한 제품의 높은 비율을 요구합니다.

그는 또 다른 문제로, AI가 필요로 하는 데이터 처리의 새로운 형태를 수용하기 위해 기본 명령어에 변경을 가하지 않았다고 말했습니다. “AI는 빠르게 변화하고 있다”라고 켈러는 관찰했습니다. 그는 RISC-V를 기반으로한 칩 CPU의 버전을 라이선스하는 비용을 사업으로 하는 Silicon Valley 스타트업 SiFive에게 도움을 청했습니다. “그들은 (ARM) 내가 다음 칩에서 필요한 수정을 하기 싫어했지만, SiFive는 ‘그래, 해볼게요’라고 했습니다.”

RISC-V의 개방성으로 인해 Tenstorrent와 그 고객 모두가 제어를 할 수 있다고 켈러는 강조했습니다. “또 다른 설계 목표는 사람들이 라이선스 권한을 갖는 좋은 기술을 어떻게 구축하는가였습니다”라고 그는 말했습니다.

RISC-V의 개방성으로 인해 “천천히 RISC-V가 모든 것을 대체할 것이다”라고 켈러는 말했습니다. 이는 ARM, Nvidia의 고유한 명령어 집합 및 Intel 제국이 구축된 레거시 x86 코드를 의미합니다.

또한: Windows on Arm redux: 올해 말까지 마이크로소프트가 충격적인 실리콘을 제공할 수 있을까?

새로운 RISC-V 기반 CPU 외에도, Tenstorrent AI 가속기는 RISC-V 기능을 내장시키기 위해 대대적인 변화를 겪고 있습니다. 켈러는 “우리의 AI 엔진에는 큰 행렬 곱셈기, 텐서 프로세서, 벡터 프로세서가 있지만, AI 명령어 스트림을 발행하는 다섯 개의 작은 RISC-V 프로세서도 있습니다”라고 설명했습니다.

이 회사는 현재 처음 두 세대의 칩을 판매하고 있으며, 세 번째 세대의 첫 번째 실리콘을 개발 중이며, 네 번째 세대에 대한 작업을 진행하고 있습니다.

Tenstorrent 비즈니스는 수익을 창출하기 위해 여러 가지 방법을 갖게 될 것입니다. 설계 중인 범용 CPU는 “고급 프로세서”로 “라이선스 가치가 있으며”, 회사가 판매할 수 있는 일부인 AI 가속기 칩도 있지만 “다른 사람들이 라이선스 할 수 있는 RISC-V AI 엔진”도 있습니다.

H100 및 기타 부품의 높은 가격을 Nvidia 세금이라고 부르는 만큼, 업계에서는 충분한 수요가 있을 것입니다.

“나는 Nvidia나 제이슨 [황]을 좋아하지 않는다는 사람들과 얘기했습니다. 이것은 순전히 비즈니스 문제입니다”라고 그는 말했습니다.

또한: 생성적 AI 허프와 현실을 구분하는 4가지 방법

“나는 전원 공급 업체, 마이크로컨트롤러 회사, 자율주행 스타트업, 데이터 센터 엣지 서버 제조업체와 이야기했습니다”라고 그는 말했습니다. “자체 칩을 만들고 AI 엔진을 넣으려면 2,000달러짜리 GPU를 넣을 수 없습니다”라고 그는 관찰했습니다. “나는 10,000달러짜리 로봇에 10,000달러짜리 GPU를 넣을 수 없는 두 개의 로보틱스 회사와 이야기했습니다.”

물론, 요즘에는 Nvidia는 경쟁없는 회사처럼 보입니다. 그 회사는 MLPerf와 같은 칩 성능 벤치마크 테스트에서 일관적으로 우위를 점합니다. 그 AI 칩을 포함한 데이터 센터 사업은 Intel과 AMD의 AI 판매량을 크게 앞서고 있습니다. 이 부서는 매출 기준으로 올해 310억 달러로 두 배로 늘어날 것으로 예상되며, Intel의 연간 매출의 거의 3분의 2에 해당합니다.

Cerebras Systems, Graphcore, Samba Nova Systems 등과 같은 뛰어난 엔지니어들로 가득한 스타트업들이 Nvidia에게 큰 타격을 입히지 못했습니다. 그럼에도 불구하고, 누구나 Nvidia의 대안을 원한다는 사실이 있습니다.

이러한 상황은 칩 디자인의 평생을 싸우고 이기는 켈러에게 영향을 미치지 않습니다. 한 가지는, 그 회사들이 그의 시각에서는 게임 체인저인 RISC-V를 활용하지 않았다는 것입니다. 켈러는 “5년 전에 우리가 지금 Tenstorrent가 개발하고 있는 오픈 소스 RISC-V AI 엔진을 개발했다면”이라고 말합니다. 그러면 Cerebras와 기타 회사들이 해왔던 것처럼 같은 문제를 15가지 다른 방법으로 50번 풀기보다는 50개의 스타트업이 그 위에 혁신할 수 있었을 것입니다.

더 단순한 수준에서는, 사람들은 항상 현 상태가 그대로 유지될 것이라고 가정하며, 그렇지 않습니다.

“계산을 위한 전쟁은 여러 번 끝났다고 생각합니다,”라고 켈러는 생각합니다. “메인프레임이 이겼고, 그리고 미니 컴퓨터가 이겼고, 그리고 워크스테이션도 이겼고, 그리고 PC가 이겼고, 그리고 모바일이 이겼습니다. 전쟁은 이미 끝났으니 다음 전투를 시작합시다!”

더 단순한 수준에서는, “나는 컴퓨터가 모험이라고 생각합니다,” 그는 말합니다. “나는 컴퓨터를 디자인하는 것을 좋아합니다. 나는 모험을 즐깁니다.”

• artificial intelligence
• Innovation