Artwork

Sisällön tarjoaa Anton Chuvakin. Anton Chuvakin tai sen podcast-alustan kumppani lataa ja toimittaa kaiken podcast-sisällön, mukaan lukien jaksot, grafiikat ja podcast-kuvaukset. Jos uskot jonkun käyttävän tekijänoikeudella suojattua teostasi ilman lupaasi, voit seurata tässä https://fi.player.fm/legal kuvattua prosessia.
Player FM - Podcast-sovellus
Siirry offline-tilaan Player FM avulla!

EP144 LLMs: A Double-Edged Sword for Cloud Security? Weighing the Benefits and Risks of Large Language Models

29:04
 
Jaa
 

Manage episode 380593266 series 2892548
Sisällön tarjoaa Anton Chuvakin. Anton Chuvakin tai sen podcast-alustan kumppani lataa ja toimittaa kaiken podcast-sisällön, mukaan lukien jaksot, grafiikat ja podcast-kuvaukset. Jos uskot jonkun käyttävän tekijänoikeudella suojattua teostasi ilman lupaasi, voit seurata tässä https://fi.player.fm/legal kuvattua prosessia.

Guest:

  • Kathryn Shih, Group Product Manager, LLM Lead in Google Cloud Security

Topics:

  • Could you give our audience the quick version of what is an LLM and what things can they do vs not do? Is this “baby AGI” or is this a glorified “autocomplete”?

  • Let’s talk about the different ways to tune the models, and when we think about tuning what are the ways that attackers might influence or steal our data?

  • Can you help our security listener leaders have the right vocabulary and concepts to reason about the risk of their information a) going into an LLM and b) getting regurgitated by one?

  • How do I keep the output of a model safe, and what questions do I need to ask a vendor to understand if they’re a) talking nonsense or b) actually keeping their output safe?

  • Are hallucinations inherent to LLMs and can they ever be fixed?

  • So there are risks to data and new opportunities for attacks and hallucinations. How do we know good opportunities in the area given the risks?

Resources:

  continue reading

173 jaksoa

Artwork
iconJaa
 
Manage episode 380593266 series 2892548
Sisällön tarjoaa Anton Chuvakin. Anton Chuvakin tai sen podcast-alustan kumppani lataa ja toimittaa kaiken podcast-sisällön, mukaan lukien jaksot, grafiikat ja podcast-kuvaukset. Jos uskot jonkun käyttävän tekijänoikeudella suojattua teostasi ilman lupaasi, voit seurata tässä https://fi.player.fm/legal kuvattua prosessia.

Guest:

  • Kathryn Shih, Group Product Manager, LLM Lead in Google Cloud Security

Topics:

  • Could you give our audience the quick version of what is an LLM and what things can they do vs not do? Is this “baby AGI” or is this a glorified “autocomplete”?

  • Let’s talk about the different ways to tune the models, and when we think about tuning what are the ways that attackers might influence or steal our data?

  • Can you help our security listener leaders have the right vocabulary and concepts to reason about the risk of their information a) going into an LLM and b) getting regurgitated by one?

  • How do I keep the output of a model safe, and what questions do I need to ask a vendor to understand if they’re a) talking nonsense or b) actually keeping their output safe?

  • Are hallucinations inherent to LLMs and can they ever be fixed?

  • So there are risks to data and new opportunities for attacks and hallucinations. How do we know good opportunities in the area given the risks?

Resources:

  continue reading

173 jaksoa

Kaikki jaksot

×
 
Loading …

Tervetuloa Player FM:n!

Player FM skannaa verkkoa löytääkseen korkealaatuisia podcasteja, joista voit nauttia juuri nyt. Se on paras podcast-sovellus ja toimii Androidilla, iPhonela, ja verkossa. Rekisteröidy sykronoidaksesi tilaukset laitteiden välillä.

 

Pikakäyttöopas