Wave Computing 은 20 18 에서 많은 진전을 이루었고, 첫 번째 데이터 흐름 처리 장치를 출시하고, MIPS 를 인수하고, MIPS Open 을 만들고, 소수의 고객에게 첫 번째 시스템을 제공했습니다. Wave 아키텍처에는 매우 흥미로운 기능이 있지만 대규모 실제 사용자 경험 피드백을 기대합니다.
Wave 는 서버에 꽂힌 가속기가 아니라 그래픽 컴퓨팅의 독립 프로세서입니다. 이런 방법은 장단점이 있다. 긍정적인 측면은 Wave 가 GPU 와 같은 가속기가 직면한 메모리 병목 현상의 영향을 받지 않는다는 것입니다. 부정적인 측면에서, Wave 장치를 설치하는 것은 새로운 업그레이드가 될 것이며, 기존의 X86 서버를 완전히 대체하여 모든 서버 공급업체의 경쟁 상대가 되어야 합니다.
Wave 가 특정 지점에서 NVIDIA 경기를 이길 수 있다고 생각하지는 않지만, 아키텍처가 잘 설계되어 있어 곧 고객 피드백을 받을 것이라고 밝혔습니다.
그림 1: Wave 는 위에 표시된 4 노드 "DPU" 에서 구축된 시스템입니다. 변동계산
차트의 핵심
Graphcore 는 영국 유니콘 창업회사로, 자금이 풍부하고 (3 1 억 달러, 현재 가치17 억 달러) 전 세계에 팀을 보유하고 있습니다. 메모리 및 논리 유닛이 동일한 칩에 있는 새로운 그래픽 프로세서 아키텍처를 구축하고 있으므로 더 높은 성능을 얻을 수 있어야 합니다. 팀의 제품 출시일은 잠시 불분명했지만 이들은 지난해 4 월 "거의 출시 준비 완료" 라고 밝혔다. 최신 5438+2 월 메시지는 곧 생산이 시작될 것이라고 밝혔다.
Graphcore 의 투자자 명단은 삼나무 자본, BMW, 마이크로소프트, 보시, Dell 기술 등 인상적입니다.
나는 회사의 구조를 알게 되어 매우 인상적이었다. 에지 장비에서 "거대한 이미지" 듀얼 칩 캡슐화에 이르기까지 데이터 센터 교육 및 추론에 사용됩니다. 최근 NeurIPS 행사에서 Graphcore 는 32 서버 랙에 16 petaflops 이상의 컴퓨팅 기능을 제공하는 RackScale IPU Pod 를 선보였습니다. 이 회사는 종종 동급 최고의 GPU 보다 100 배 높은 성능을 제공한다고 주장합니다.
Graphcore 에 따르면 4 "거대한 이미지" GC2 (8 칩) 서버는 500 TFlops (초당 조 연산) 의 혼합 정밀도 성능을 제공합니다. 단일 NVIDIA V 100 은 125 TFlops 를 제공할 수 있으므로 이론적으로 4 개의 V 100 이 동일한 성능을 제공합니다.
늘 그렇듯이 세부 사항에서도 차이를 발견할 수 있다. V 100 의 최대 성능은 재구성 코드가 TensorCore 의 4x4 매트릭스 곱셈을 수행하는 경우에만 사용할 수 있습니다. 이는 Graphcore 아키텍처가 교묘하게 피하는 제한입니다. V 100 은 말할 것도 없고 300 와트의 전기와 대량의 현금을 소비한다.
또한 Graphcore 는 칩 내 상호 연결 및 "프로세서 메모리 (on-chip memory)" 방법을 지원하여 TFlops 벤치마크를 능가하는 뛰어난 성능을 제공합니다. 대항 네트워크 생성과 같은 일부 신경 네트워크에서 기억은 병목 현상이다.
마찬가지로 실제 사용자가 실제 응용 프로그램으로 아키텍처를 평가할 때까지 기다려야 합니다. 그럼에도 불구하고 Graphcore 의 투자자, 전문가 명단, 대만의 천가 평가는 이것이 좋은 일일지도 모른다고 말했다.
그림 2: Graph Core 는 ImageNet 데이터 세트 처리 사진을 보여줍니다. 시각화는 개발자가 교육 프로세스가 처리 주기 동안 차지하는 위치를 알 수 있도록 도와줍니다.
하바나 연구소
이스라엘 초창기 회사인 Habana Labs 는 지난해 9 월 첫 번째 AI 하드웨어 정상회담에서 추리를 위한 첫 번째 칩을 내놓을 예정이라고 발표했다. 그 기록적인 성능은 컨볼 루션 신경망 이미지 처리에 사용되었다. 그 결과, 이 프로세서는 Resnet50 이미지 분류 데이터베이스에서 초당 65,438+05,000 개의 이미지를 분류하여 영위다 T4 보다 약 50%, 전력 소비량은 65,438+000 와트에 불과한 것으로 나타났다.
20 18 년 2 월, 아바나 연구소의 최신 융자는 인텔 벤처 투자, WRV 자본, 베세마이 벤처투자 파트너, Battery Ventures 에 의해 투자되었으며, 회사 융자는 이전 4 천 5 백만 달러보다 7 천 5 백만 달러 증가했다.
Habana Labs 의 새로운 융자 중 일부는 두 번째 Gaudi 라는 칩을 스트리밍하는 데 사용될 것으로 알려졌으며, 이 칩은 교육시장에 주력할 예정이며 65,438+0,000 개 이상의 프로세서로 확장될 것으로 알려졌다.
기타 창업회사
전 세계 40 여 개 회사가 인공지능의 훈련과 추리칩을 설계하고 있다는 것을 알고 있습니다. 나는 대부분의 회사들이 간단한 FMA (부동 소수점 곱하기 합계) 와 혼합 정밀도 수학 (정수 8 비트와 부동 소수점 16 비트와 32 비트) 을 하고 있다는 것을 발견했다. 저는 놀라지 않을 것입니다. 이 방법은 비교적 쉽게 실현될 수 있기 때문에 몇 가지 결과를 얻을 수 있지만, 영위다, 인텔, 그리고 소수의 창업 회사들에게 서로 다른 아키텍처를 만들어 지속적인 아키텍처 이점을 제공하지는 않기 때문입니다.
다음은 내 관심을 끌었던 회사 중 일부입니다.
중국 인공 지능 칩 신생 회사
중국은 미국 반도체에서 벗어날 수 있는 방법을 찾으려고 노력해 왔으며, 인공지능 가속기는 그것이 줄곧 찾고 있던 기회를 제공할 수 있다. 중국은 2030 년 수조 달러 상당의 인공지능 산업을 만들겠다는 목표를 세웠다. 20 12 이후 투자자들은 창업회사에 40 억 달러 이상을 투자했다.
캄브리아기 기술, 가치 25 억 달러, 중국이 3 세대 AI 칩을 발표한 유니콘 회사입니다. 캄브리아기 (캄브리아기) 는 NVIDIA V 100 보다 더 나은 AI 성능을 낮은 전력으로 제공할 수 있다고 주장하며, AI IP 를 판매하여 화웨이기린 970 과 기린 980 의 프로세서에 AI 가속 하드웨어로 설치했습니다.
상탕기술은 아마도 가장 가치 있는 인공지능 초창기 회사일 것이며, 중국에서 스마트 감시 카메라를 보급하는 것으로 유명하다. 이러한 보안 카메라의 수는 6543.8+750 억 개가 넘습니다. 여기에는 다른 회사에서 제작한 카메라도 포함됩니다. 상탕기술은 홍콩에 설립되어 최근 1 차 융자액이 6 억 달러에 달하며 알리바바가 영입했다. 이 신생 회사의 가치는 현재 45 억 달러라고 보도되었다.
상탕기술은 이미 알리바바, 고통, 혼다, 심지어 영위다 등 대기업과 전략적 파트너십을 맺었다. 이 회사는 오늘 약 8000 대를 운영하는 슈퍼컴퓨터를 가지고 있다. ) GPU 를 추가로 5 대의 슈퍼컴퓨터를 구축하여 수백만 대의 카메라에서 수집한 얼굴 인식 데이터를 처리할 계획입니다.
뇌봉. Com, 포브스를 통해