C’est un éloge quand quelqu’un comme Jim Keller dit que votre entreprise «a réalisé des progrès impressionnants et possède l’architecture la plus prometteuse qui soit». Cet éloge signifie deux fois plus si Keller rejoint réellement l’entreprise. Aujourd’hui, Tenstorrent annonce que Jim Keller, architecte informatique extraordinaire, a rejoint l’entreprise en tant que directeur de la technologie, président, et rejoint le conseil d’administration de l’entreprise.

Pour notre public régulier, Jim Keller est un expert reconnu dans tout ce qui concerne l’architecture informatique. Son histoire commence chez DEC, en concevant des processeurs Alpha, avant de passer à un premier passage chez AMD pendant deux ans à travailler pour lancer K7 et K8. Keller a passé quatre ans en tant qu’architecte en chef chez SiByte / Broadcom à la conception de MIPS pour les interfaces réseau, quatre ans chez P.A. Semi, quatre ans chez Apple (A4 + A5), puis retour chez AMD pendant trois ans deux ans en tant que Corporate VP et Chief Cores Architect en charge de la nouvelle génération d’architectures CPU, K12 et Zen. Cela a été suivi de deux ans chez Tesla en tant que vice-président de l’ingénierie matérielle du pilote automatique créant la puce Full Self-Driving, puis de deux ans en tant que vice-président principal d’Intel du groupe Silicon Engineering, avant de partir en juin 2020. Depuis son départ d’Intel, un certain nombre des analystes clés de l’industrie (et nous-mêmes) avons deviné où Jim atterrirait. Il est brièvement apparu dans le public de la présentation Neuralink d’Elon Musk en août 2020, aux côtés de Lex Fridman.

Jim Keller: Expérience de travail
AnandTech Entreprise Titre Important
Produit
Années 1980 1998 DÉC Architecte Alpha
1998 1999 AMD Architecte principal K7, K8
1999 2000 SiByte Architecte en chef Réseau MIPS
2000 2004 Broadcom Architecte en chef Réseau MIPS
2004 2008 PENNSYLVANIE. Semi VP Ingénierie Mobile à faible puissance
2008 2012 Pomme VP Ingénierie Mobile A4 / A5
8/2012 9/2015 AMD Corp VP et
Architecte en chef des noyaux
Skybridge / K12
(+ Zen)
1/2016 4/2018 Tesla VP pilote automatique
Ingénierie matérielle
Entièrement autonome
(FSD) Puce
4/2018 6/2020 Intel Vice-président senior
Ingénierie du silicium
?
2021 Tenstorrent Président et CTO À déterminer

Aujourd’hui, Tenstorrent a contacté pour nous informer que Jim Keller a pris le poste de président et chef de la technologie de l’entreprise, en plus d’être membre de son conseil d’administration. Le rôle de Jim, basé sur son expertise antérieure, semblerait être dans la conception de futurs produits pour l’entreprise ainsi que dans la construction de l’équipe de Tenstorrent pour atteindre cet objectif.

Le PDG Ljubisa Bajic a confirmé la nomination de Jim en tant que président et directeur technique de la société, déclarant que:

Tenstorrent a été fondé sur la conviction que le passage en cours vers des logiciels centrés sur le ML nécessite une transformation correspondante des capacités de calcul. Personne n’est plus capable d’exécuter cette vision que Jim Keller, un leader qui est tout aussi doué pour concevoir des ordinateurs, des cultures et des organisations. Je suis ravi de travailler avec Jim et au-delà enthousiasmé par les possibilités que notre partenariat ouvre.

Tenstorrent est une société de conception et de logiciels de puces IA sans fabrique, ce qui signifie qu’elle crée et conçoit du silicium pour l’apprentissage automatique, puis utilise une fonderie pour fabriquer le matériel, puis travaille avec des partenaires pour créer des solutions (comme dans, puces + système + logiciel + optimisations pour ce client). Pour ceux qui connaissent cet espace, cela fait que l’entreprise ressemble à l’une des 50 autres entreprises du marché qui semblent faire la même chose. La division typique avec les sociétés de conception de puces IA sans usine pure-play est de savoir si elles se concentrent sur la formation ou l’inférence: Tenstorrent fait les deux et est déjà en train de finaliser son processeur de troisième génération.

Fondée en 2016, Tenstorrent compte environ 70 employés entre Toronto et Austin. Les membres critiques de l’entreprise ont tous une expérience en conception de silicium: le PDG a dirigé l’architecture de puissance et de performance chez AMD ainsi que l’architecture système pour Tegra chez NVIDIA, le responsable des logiciels système a passé 16 ans chez AMD et Altera, et l’expertise de neural conception d’accélérateurs de réseau d’Intel, ingénierie des systèmes GPU chez AMD, chefs de vérification des processeurs Arm, expertise en virtualisation des E / S chez AMD, ancien chef d’équipe du compilateur de réseaux neuronaux d’Intel, ainsi que l’ancien responsable de la sécurité et du développement de réseau d’AMD. Il semble que Jim s’intégrera parfaitement, ainsi que quelques anciens collègues qui travailleront à ses côtés.

Le produit de la génération actuelle de Tenstorrent est Grayskull, un ~ 620 mm2 processeur basé sur 12 nm de GF qui a été initialement conçu comme un accélérateur d’inférence et un hôte. Il contient 120 cœurs personnalisés dans un maillage bidirectionnel 2D et offre 368 TeraOP de calcul 8 bits pour seulement 65 W. Chacun des 120 cœurs personnalisés dispose d’un moteur de gestion de paquets pour le contrôle des données, un moteur de calcul de paquets contenant les cœurs TENSIX personnalisés de Tenstorrent et cinq cœurs RISC-V pour les opérations non standard, telles que les conditions. La puce se concentre sur les opérations de tenseur clairsemées en optimisant les opérations de matrice dans des paquets compressés, permettant la parallélisation en pipeline des étapes de calcul à la fois via le compilateur de graphes et le gestionnaire de paquets. Cela permet également l’exécution de graphes dynamiques et, par rapport à certains autres modèles de puces AI, permet à la fois le calcul et le transfert de données de manière asynchrone, plutôt que des domaines de temps de calcul / transfert spécifiques.

Grayskull expédie actuellement aux clients de Tenstorrent, qui ne sont toujours pas divulgués.

La puce de nouvelle génération, connue sous le nom de Wormhole, est plus axée sur la formation que sur l’accélération, et se combine également dans un commutateur de port Ethernet 16x100G. Le passage de l’entraînement à l’accélération nécessite une interface mémoire plus rapide, et il y a donc six canaux de GDDR6, plutôt que 8 canaux de LPDDR4. Cela peut sembler faible par rapport à d’autres puces AI discutant de l’intégration HBM, mais le plan de Tenstorrent semble ici être plus aligné pour une structure de coût plus moyenne, mais offrant également un calcul d’apprentissage automatique à un meilleur taux d’efficacité que ces puces poussant à la pointe de la technologie. fréquence et nœud de processus (une partie de cela sera également en rendements).

Alors, où se situe exactement Keller si la génération actuelle se vend déjà et que la prochaine génération est presque prête à partir? En parlant au PDG, j’ai confirmé que Keller «construirait avec nous de nouvelles choses intéressantes». Cela semble suggérer que la vision avec l’implication de Keller va être sur le matériel 2022/2023 à l’esprit, suivant la stratégie primordiale de Tenstorrent Software 2.0 selon laquelle le matériel, le compilateur et le temps d’exécution offrent une approche full-stack pour clairsemée (et dense) Calculs de matrice AI. Selon les propres mots de Jim:

Le logiciel 2.0 est la plus grande opportunité d’innovation informatique depuis longtemps. La victoire nécessite une refonte complète du calcul et des logiciels de bas niveau. Tenstorrent a fait des progrès impressionnants et, avec l’architecture la plus prometteuse du marché, nous sommes sur le point de devenir un géant de l’informatique de nouvelle génération.

Jim Keller a officiellement commencé mercredi dernier, et l’annonce officielle du fil est prévue pour 1/6, mais nous avons été autorisés à partager à l’avance. Notre demande d’entretien avec Jim a été notée et déposée, potentiellement pendant quelques mois, car la société a plus de détails sur sa plate-forme et sa feuille de route (j’ai également demandé une photo à jour de Jim! ). Pour les personnes intéressées, j’ai interviewé Jim en juillet 2018, juste après ses débuts chez Intel – vous pouvez lire cette interview ici.

Lecture connexe