vLLM and High-Performance Inference : Memory Optimization, Parallel Execution, Token Streaming, and Scalable Model Serving

Sprache: Englisch

Verlag: Amazon Digital Services LLC - Kdp Mai 2026, 2026

9798195860981

Serie: Buch 2 von 2 - Large Language Model Refinement and Inference Series

Anbieter: AHA-BUCH GmbH, Einbeck, DeutschlandAHA-BUCH GmbH

Verkäufer/-in mit 5 Sternen

Verkäufer:in bei ZVAB seit 14. August 2006

Softcover

Zustand: Neu

EUR 34,73

EUR 35,00 Versand 
Versand von Deutschland nach USA

Anzahl: 2 verfügbar

In den Warenkorb
30 Tage kostenlose Rückgabe

Artikelbeschreibung des Verkäufers

Neuware - Once a language model has been refined, its effectiveness depends on how well it can be delivered in real-world environments. This book examines the systems and techniques that enable efficient inference, with a particular focus on vLLM and the architectural decisions that support high-throughput execution.The text begins by establishing the relationship between model size, hardware constraints, and response latency. It then explores how memory is managed during inference, including strategies that reduce overhead while maintaining output quality. Concepts such as batching, caching, and token-level scheduling are presented in a way that reveals their practical impact on performance.A central theme of the book is parallel execution, where multiple requests are handled simultaneously without degrading responsiveness. The discussion highlights how modern inference frameworks distribute workloads, coordinate computation, and maintain consistency across concurrent processes.Token streaming is examined as a critical component of user-facing systems, showing how incremental output generation improves perceived responsiveness and interaction flow. The material connects these techniques to broader system considerations, including scaling across machines, managing resource allocation, and maintaining stability under load.As the book progresses, it presents a unified view of inference as both a technical and operational challenge. It demonstrates how decisions made at the system level directly influence user experience, cost efficiency, and reliability.By the end, readers will have a clear understanding of how optimized inference transforms a refined model into a responsive and scalable system capable of operating under demanding conditions.…

Bestandsnummer des Verkäufers 9798195860981

Titel
vLLM and High-Performance Inference : Memory Optimization, Parallel Execution, Token Streaming, and Scalable Model Serving
Autor
Camila Cypher
Verlag
Amazon Digital Services LLC - Kdp Mai 2026
Erscheinungsjahr
2026
Zustand
Neu
Einband
Taschenbuch
Sprache
Englisch
ISBN-13
9798195860981
Artikelgewicht
331 Gramm
Abmessungen
254x178x10 mm
Serie
Buch 2 von 2: Large Language Model Refinement and Inference Series

AHA-BUCH GmbH

Einbeck, Deutschland

Verkäufer/-in mit 5 Sternen

Verkäufer:in bei ZVAB seit 14. August 2006

Versandkosten von Deutschland nach USA

Artikel7 bis 10 Werktage5 bis 7 Werktage
Erster ArtikelEUR 35,00EUR 45,00
Die Versandzeiten werden von den Verkäuferinnen und Verkäufern festgelegt. Sie variieren je nach Versanddienstleister und Standort. Sendungen, die den Zoll passieren, können Verzögerungen unterliegen. Eventuell anfallende Abgaben oder Gebühren sind von der Käuferin bzw. dem Käufer zu tragen. Die Verkäuferin bzw. der Verkäufer kann Sie bezüglich zusätzlicher Versandkosten kontaktieren, um einen möglichen Anstieg der Versandkosten für Ihre Artikel auszugleichen.

Zahlungsarten

  • Visa
  • Mastercard
  • American Express
  • Carte Bleue
  • Apple Pay
  • Google Pay
  • Banküberweisung
  • PayPal
  • Vorauskasse

Shopbeschreibung

Das Unternehmen AHA-BUCH GmbH: Seit der Gründung von AHA-BUCH im Juli 2005 ist unser Hauptziel, zufriedenen Kunden so schnell und so preisgünstig wie möglich ihren Bücherwunsch zu erfüllen. Unsere Firma beschäftigt 16 Mitarbeiter, die nur ein Ziel kennen: den Kunden und seine Wünsche! Auf über 3700 m2 Fläche haben wir über 100.000 Bücher, Modernes Antiquariat und Spiele auf Lager.

Spezialisierung

Kinderbücher & Kinderhör Casetten, German Books, Software, Natur & Tiere, Ratgeber, Sachbücher, Englische Bücher, Medizin & Gesundheit, Universität & Studium

Unternehmensdaten der Verkäuferin bzw. des Verkäufers

AHA-BUCH GmbH

Garlebsen 48
Einbeck, Deutschland 37574