Siirry offline-tilaan Player FM avulla!
Episode 132 - Kompression von Prompts
Manage episode 409664999 series 2911119
Was wäre wenn wir Prompts automatisch verkleinern und damit Kosten und Geschwindigkeit eines LLMs ohne Informationsverlust verbessern könnten ?
Diesen Ansatz verfolgt LLMLingua über das wir in der heutigen Sendung sprechen wollen.
LLMLingua: https://arxiv.org/abs/2310.05736
LongLLMLingua: https://arxiv.org/abs/2310.06839
LLMLingua2:https://arxiv.org/abs/2403.12968
165 jaksoa
Manage episode 409664999 series 2911119
Was wäre wenn wir Prompts automatisch verkleinern und damit Kosten und Geschwindigkeit eines LLMs ohne Informationsverlust verbessern könnten ?
Diesen Ansatz verfolgt LLMLingua über das wir in der heutigen Sendung sprechen wollen.
LLMLingua: https://arxiv.org/abs/2310.05736
LongLLMLingua: https://arxiv.org/abs/2310.06839
LLMLingua2:https://arxiv.org/abs/2403.12968
165 jaksoa
Alle episoder
×Tervetuloa Player FM:n!
Player FM skannaa verkkoa löytääkseen korkealaatuisia podcasteja, joista voit nauttia juuri nyt. Se on paras podcast-sovellus ja toimii Androidilla, iPhonela, ja verkossa. Rekisteröidy sykronoidaksesi tilaukset laitteiden välillä.