Artwork

Sisällön tarjoaa Daniel Reid Cahn. Daniel Reid Cahn tai sen podcast-alustan kumppani lataa ja toimittaa kaiken podcast-sisällön, mukaan lukien jaksot, grafiikat ja podcast-kuvaukset. Jos uskot jonkun käyttävän tekijänoikeudella suojattua teostasi ilman lupaasi, voit seurata tässä https://fi.player.fm/legal kuvattua prosessia.
Player FM - Podcast-sovellus
Siirry offline-tilaan Player FM avulla!

GPUs and how the cloud is changing (with Cedana Founder, Neel Master)

42:48
 
Jaa
 

Manage episode 398863500 series 3514761
Sisällön tarjoaa Daniel Reid Cahn. Daniel Reid Cahn tai sen podcast-alustan kumppani lataa ja toimittaa kaiken podcast-sisällön, mukaan lukien jaksot, grafiikat ja podcast-kuvaukset. Jos uskot jonkun käyttävän tekijänoikeudella suojattua teostasi ilman lupaasi, voit seurata tässä https://fi.player.fm/legal kuvattua prosessia.

What’s going on with GPUs? We talk through the GPU bottleneck/supply gut, Meta’s apparent 600,000 H100-equivalents and the future of the GPU cloud.

Neel Master is the CEO and founder of Cedana, enabling pause/migrate/resume for compute jobs. Neel is a serial entrepreneur, former founder of Engooden and angel investor. He started his career in ML research at MIT's CSAIL.

Topics from this podcast include:

  • Cedana's real-time save, migrate and resume for compute technology, enabling the migration of compute jobs across instances without interruption
  • When will there be enough GPUs?
  • What does it mean, that the cloud can become a robot?
  • How might compute change, as per-capita GPU supply grows massively?
  • How much does it actually cost to run GPUs?
  • How can startups compete with the Big Tech’s giant compute moats?

Share your thoughts with us at hello@slingshot.xyz or tweet us @slingshot_ai.

  continue reading

22 jaksoa

Artwork
iconJaa
 
Manage episode 398863500 series 3514761
Sisällön tarjoaa Daniel Reid Cahn. Daniel Reid Cahn tai sen podcast-alustan kumppani lataa ja toimittaa kaiken podcast-sisällön, mukaan lukien jaksot, grafiikat ja podcast-kuvaukset. Jos uskot jonkun käyttävän tekijänoikeudella suojattua teostasi ilman lupaasi, voit seurata tässä https://fi.player.fm/legal kuvattua prosessia.

What’s going on with GPUs? We talk through the GPU bottleneck/supply gut, Meta’s apparent 600,000 H100-equivalents and the future of the GPU cloud.

Neel Master is the CEO and founder of Cedana, enabling pause/migrate/resume for compute jobs. Neel is a serial entrepreneur, former founder of Engooden and angel investor. He started his career in ML research at MIT's CSAIL.

Topics from this podcast include:

  • Cedana's real-time save, migrate and resume for compute technology, enabling the migration of compute jobs across instances without interruption
  • When will there be enough GPUs?
  • What does it mean, that the cloud can become a robot?
  • How might compute change, as per-capita GPU supply grows massively?
  • How much does it actually cost to run GPUs?
  • How can startups compete with the Big Tech’s giant compute moats?

Share your thoughts with us at hello@slingshot.xyz or tweet us @slingshot_ai.

  continue reading

22 jaksoa

همه قسمت ها

×
 
Loading …

Tervetuloa Player FM:n!

Player FM skannaa verkkoa löytääkseen korkealaatuisia podcasteja, joista voit nauttia juuri nyt. Se on paras podcast-sovellus ja toimii Androidilla, iPhonela, ja verkossa. Rekisteröidy sykronoidaksesi tilaukset laitteiden välillä.

 

Pikakäyttöopas