Neuware - Goes beyond academic discussions deeply into the applications layer of Foundation Models.This practical book offers clear, example-rich explanations of how LLMs work, how you can interact with them, and how to integrate LLMs into your own applications. Find out what makes LLMs so different from traditional software and ML, discover best practices for working with them out of the lab, and dodge common pitfalls with experienced advice. This book complements Sebastian Raschka s Build a Large Language Model (From Scratch), which focuses on building and understanding LLMs from the ground up, by extending that foundation into real-world production covering integration, cost-efficient training, and model evaluation. In LLMs in Production you will: Grasp the fundamentals of LLMs and the technology behind them Evaluate when to use a premade LLM and when to build your own Efficiently scale up an ML platform to handle the needs of LLMs Train LLM foundation models and finetune an existing LLM Deploy LLMs to the cloud and edge devices using complex architectures like PEFT and LoRA Build applications leveraging the strengths of LLMs while mitigating their weaknesses LLMs in Production delivers vital insights into delivering MLOps so you can easily and seamlessly guide one to production usage. Inside, you ll find practical insights into everything from acquiring an LLM-suitable training dataset, building a platform, and compensating for their immense size. Plus, tips and tricks for prompt engineering, retraining and load testing, handling costs, and ensuring security. Foreword by Joe Reis. Purchase of the print book includes a free Elektronisches Buch in PDF and ePub formats from Manning Publications. About the technology Most business software is developed and improved iteratively, and can change significantly even after deployment. By contrast, because LLMs are expensive to create and difficult to modify, they require meticulous upfront planning, exacting data standards, and carefully-executed technical implementation. Integrating LLMs into production products impacts every aspect of your operations plan, including the application lifecycle, data pipeline, compute cost, security, and more. Get it wrong, and you may have a costly failure on your hands. About the book LLMs in Production teaches you how to develop an LLMOps plan that can take an AI app smoothly from design to delivery. You ll learn techniques for preparing an LLM dataset, cost-efficient training hacks like LORA and RLHF, and industry benchmarks for model evaluation. Along the way, you ll put your new skills to use in three exciting example projects: creating and training a custom LLM, building a VSCode AI coding extension, and deploying a small model to a Raspberry Pi. What's inside Balancing cost and performance Retraining and load testing Optimizing models for commodity hardware Deploying on a Kubernetes cluster About the reader For data scientists and ML engineers who know Python and the basics of cloud deployment. About the author Christopher Brousseau and Matt Sharp are experienced engineers who have led numerous successful large scale LLM deployments. Table of Contents 1 Generative AI: Why large language models have captured attention 2 Large language models: A deep dive into language modeling 3 Large language model operations: Building a platform for LLMs 4 Data engineering for large language models: Setting up for success 5 Training large language models: How to generate the generator 6 Large language model services: A practical guide 7 Prompt engineering: Becoming an LLM whisperer 8 Applications and Agents: Building an interactive experience 9 Creating an LLM project: Reimplementing Llama 3 10 Creating a coding copilot project: Integrating an LLM service into VS Code with RAG 11 Deploying an LLM on a Raspberry Pi: How low can you go 12 Production, an ever-changing landscape: Things are just getting started A History of linguistics B Rein.

Bestandsnummer des Verk�ufers 9781633437203

Verk�ufer kontaktieren

Diesen Artikel melden

Bibliografische Details

Titel: Llms in Production : From Language Models to Successful Products
Verlag: Manning Publications Feb 2025
Erscheinungsjahr: 2025
Sprache: Englisch
ISBN-10: 1633437205
ISBN-13: 9781633437203
Einband: Taschenbuch
Zustand: Neu
Abmessungen: Breite: 233 mm, H�he: 184 mm, Tiefe: 24 mm
Gewicht: 762 Gramm

�ber diesen Titel

Inhaltsangabe

Learn how to put Large Language Model-based applications into production safely and efficiently.

Large Language Models (LLMs) are the foundation of AI tools like ChatGPT, LLAMA and Bard. This practical book offers clear, example-rich explanations of how LLMs work, how you can interact with them, and how to integrate LLMs into your own applications. In LLMs in Production you will:

Grasp the fundamentals of LLMs and the technology behind them
Evaluate when to use a premade LLM and when to build your own
Efficiently scale up an ML platform to handle the needs of LLMs
Train LLM foundation models and finetune an existing LLM
Deploy LLMs to the cloud and edge devices using complex architectures like RLHF
Build applications leveraging the strengths of LLMs while mitigating their weaknesses

LLMs in Production delivers vital insights into delivering MLOps for LLMs. You'll learn how to operationalize these powerful AI models for chatbots, coding assistants, and more. Find out what makes LLMs so different from traditional software and ML, discover best practices for working with them out of the lab, and dodge common pitfalls with experienced advice.

�ber die Autorin bzw. den Autor

Christopher Brousseau is a Staff MLE at JPMorganChase with a linguistics and localization background. He specializes in linguistically-informed NLP, especially with an international focus and has led successful ML and Data product initiatives at both startups and Fortune 500s.

Matt Sharp is an engineer, former data scientist, and seasoned technology leader in MLOps. Has led many successful data initiatives for both startups and top-tier tech companies alike. Matt specializes in deploying, managing, and scaling machine learning models in production, regardless of what that production setting looks like.

��ber diesen Titel� kann sich auf eine andere Ausgabe dieses Titels beziehen.

Anbieterinformationen

Das Unternehmen AHA-BUCH GmbH: Seit der Gr�ndung von AHA-BUCH im Juli 2005 ist unser Hauptziel, zufriedenen Kunden so schnell und so preisg�nstig wie m�glich ihren B�cherwunsch zu erf�llen. Unsere Firma besch�ftigt 16 Mitarbeiter, die nur ein Ziel kennen: den Kunden und seine W�nsche! Auf �ber 3700 m2 Fl�che haben wir �ber 100.000 B�cher, Modernes Antiquariat und Spiele auf Lager.

Zur Homepage des Verk�ufers

Unternehmensdaten des Verk�ufers

AHA-BUCH GmbH
Garlebsen 48, Einbeck, 37574, Germany

Gesch�ftsbedingungen und Versandinformationen

Verkaufsbedingungen

Allgemeine Gesch�ftsbedingungen und Kundeninformationen / Datenschutzerkl�rung

I. Allgemeine Gesch�ftsbedingungen

� 1 Grundlegende Bestimmungen

(1) Die nachstehenden Gesch�ftsbedingungen gelten f�r alle Vertr�ge, die Sie mit uns als Anbieter (AHA-BUCH GmbH) �ber die Internetplattformen AbeBooks und/oder ZVAB schlie�en. Soweit nicht anders vereinbart, wird der Einbeziehung gegebenenfalls von Ihnen verwendeter eigener Bedingungen widersprochen.

(2) Verbraucher im Sinne der nachstehenden Regelungen...

Mehr Information

Widerrufsbelehrung

Widerrufsbelehrung/ Muster-Widerrufsformular

Widerrufsrecht f�r Verbraucher
(Verbraucher ist jede nat�rliche Person, die ein Rechtsgesch�ft zu Zwecken abschlie�t, die �berwiegend weder ihrer gewerblichen noch ihrer selbstst�ndigen beruflichen T�tigkeit zugerechnet werden kann.)

Widerrufsbelehrung

Widerrufsrecht
Sie haben das Recht, binnen vierzehn Tagen ohne Angabe von Gr�nden diesen Vertrag zu widerrufen.
Die Widerrufsfrist betr�gt vierzehn Tage ab dem Tag,

an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Bef�rderer ist, die Waren in Besitz genommen haben bzw. hat, sofern Sie eine oder mehrere Waren im Rahmen einer einheitlichen Bestellung bestellt haben und diese einheitlich geliefert wird bzw. werden;
an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Bef�rderer ist, die letzte Ware in Besitz genommen haben bzw. hat, sofern Sie mehrere Waren im Rahmen einer einheitlichen Bestellung bestellt haben und diese getrennt geliefert werden;
an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Bef�rderer ist, die letzte Teilsendung oder das letzte St�ck in Besitz genommen haben bzw. hat, sofern Sie eine Ware bestellt haben, die in mehreren Teilsendungen oder St�cken geliefert wird;

Um Ihr Widerrufsrecht auszu�ben, m�ssen Sie uns (AHA-BUCH GmbH, Garlebsen 48, 37574 Einbeck, Telefonnummer: 05563 9996039, Telefaxnummer: 05563 9995974, E-Mail-Adresse: service@aha-buch.de) mittels einer eindeutigen Erkl�rung (z.B. ein mit der Post versandter Brief, Telefax oder E-Mail) �ber Ihren Entschluss, diesen Vertrag zu widerrufen, informieren. Sie k�nnen daf�r das beigef�gte Muster-Widerrufsformular verwenden, das jedoch nicht vorgeschrieben ist.

Zur Wahrung der Widerrufsfrist reicht es aus, dass Sie die Mitteilung �ber die Aus�bung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.

Folgen des Widerrufs

Wenn Sie diesen Vertrag widerrufen, haben wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschlie�lich der Lieferkosten (mit Ausnahme der zus�tzlichen Kosten, die sich daraus ergeben, dass Sie eine andere Art der Lieferung als die von uns angebotene, g�nstigste Standardlieferung gew�hlt haben), unverz�glich und sp�testens binnen vierzehn Tagen ab dem Tag zur�ckzuzahlen, an dem die Mitteilung �ber Ihren Widerruf dieses Vertrags bei uns eingegangen ist. F�r diese R�ckzahlung verwenden wir dasselbe Zahlungsmittel, das Sie bei der urspr�nglichen Transaktion eingesetzt haben, es sei denn, mit Ihnen wurde ausdr�cklich etwas anderes vereinbart; in keinem Fall werden Ihnen wegen dieser R�ckzahlung Entgelte berechnet.

Wir k�nnen die R�ckzahlung verweigern, bis wir die Waren wieder zur�ckerhalten haben oder bis Sie den Nachweis erbracht haben, dass Sie die Waren zur�ckgesandt haben, je nachdem, welches der fr�here Zeitpunkt ist.

Sie haben die Waren unverz�glich und in jedem Fall sp�testens binnen vierzehn Tagen ab dem Tag, an dem Sie uns �ber den Widerruf dieses Vertrags unterrichten, an uns zur�ckzusenden oder zu �bergeben. Die Frist ist gewahrt, wenn Sie die Waren vor Ablauf der Frist von vierzehn Tagen absenden.

Sie tragen die unmittelbaren Kosten der R�cksendung der Waren.

Sie m�ssen f�r einen etwaigen Wertverlust der Waren nur aufkommen, wenn dieser Wertverlust auf einen zur Pr�fung der Beschaffenheit, Eigenschaften und Funktionsweise der Waren nicht notwendigen Umgang mit ihnen zur�ckzuf�hren ist.

Ausschluss- bzw. Erl�schensgr�nde

Das Widerrufsrecht besteht nicht bei Vertr�gen

zur Lieferung von Waren, die nicht vorgefertigt sind und f�r deren Herstellung eine individuelle Auswahl oder Bestimmung durch den Verbraucher ma�geblich ist oder die eindeutig auf die pers�nlichen Bed�rfnisse des Verbrauchers zugeschnitten sind;
zur Lieferung von Waren, die schnell verderben k�nnen oder deren Verfallsdatum schnell �berschritten w�rde;
zur Lieferung alkoholischer Getr�nke, deren Preis bei Vertragsschluss vereinbart wurde, die aber fr�hestens 30 Tage nach Vertragsschluss geliefert werden k�nnen und deren aktueller Wert von Schwankungen auf dem Markt abh�ngt, auf die der Unternehmer keinen Einfluss hat;
zur Lieferung von Zeitungen, Zeitschriften oder Illustrierten mit Ausnahme von Abonnement-Vertr�gen.

Das Widerrufsrecht erlischt vorzeitig bei Vertr�gen

zur Lieferung versiegelter Waren, die aus Gr�nden des Gesundheitsschutzes oder der Hygiene nicht zur R�ckgabe geeignet sind, wenn ihre Versiegelung nach der Lieferung entfernt wurde;
zur Lieferung von Waren, wenn diese nach der Lieferung aufgrund ihrer Beschaffenheit untrennbar mit anderen G�tern vermischt wurden;
zur Lieferung von Ton- oder Videoaufnahmen oder Computersoftware in einer versiegelten Packung, wenn die Versiegelung nach der Lieferung entfernt wurde.

Muster-Widerrufsformular

(Wenn Sie den Vertrag widerrufen wollen, dann f�llen Sie bitte dieses Formular aus und senden Sie es zur�ck.)

An AHA-BUCH GmbH, Garlebsen 48, 37574 Einbeck, Telefaxnummer: 05563 9995974, E-Mail-Adresse: service@aha-buch.de :
Hiermit widerrufe(n) ich/ wir () den von mir/ uns () abgeschlossenen Vertrag �ber den Kauf der folgenden Waren ()/
die Erbringung der folgenden Dienstleistung ()
Bestellt am ()/ erhalten am ()
Name des/ der Verbraucher(s)
Anschrift des/ der Verbraucher(s)
Unterschrift des/ der Verbraucher(s) (nur bei Mitteilung auf Papier)
Datum

(*) Unzutreffendes streichen.

Versandbedingungen

Wir liefern Lagerartikel innerhalb von 24 Stunden nach Erhalt der Bestellung aus.
Barsortimentsartikel, die wir �ber Nacht geliefert bekommen, am darauffolgenden Werktag.
Unser Ziel ist es Ihnen die Artikel in der �konomischten und effizientesten Weise zu senden.

Versandkosten von Deutschland nach USA

Versandkosten von Deutschland nach USA
Bestellmenge	30 bis 40�Werktage	7 bis 14�Werktage
Erster Artikel	EUR 63.81	EUR 73.81

Die Versandzeiten werden von den Verk�uferinnen und Verk�ufern festgelegt. Sie variieren je nach Versanddienstleister und Standort. Sendungen, die den Zoll passieren, k�nnen Verz�gerungen unterliegen. Eventuell anfallende Abgaben oder Geb�hren sind von der K�uferin bzw. dem K�ufer zu tragen. Die Verk�uferin bzw. der Verk�ufer kann Sie bez�glich zus�tzlicher Versandkosten kontaktieren, um einen m�glichen Anstieg der Versandkosten f�r Ihre Artikel auszugleichen.

Impressum & Info zum Verk�ufer

Zahlungsarten

Vorauskasse PayPal Bank�berweisung

Zu Kaufgesuchen hinzuf�gen

Verwandte Artikel zu Llms in Production : From Language Models to Successful...

Llms in Production : From Language Models to Successful Products

Christopher Brousseau

Neu - Softcover

Beschreibung

Bibliografische Details

�ber diesen Titel

Inhaltsangabe

�ber die Autorin bzw. den Autor

Anbieterinformationen

Unternehmensdaten des Verk�ufers

Gesch�ftsbedingungen und Versandinformationen

Verkaufsbedingungen

Widerrufsbelehrung

Versandbedingungen

Versandkosten von Deutschland nach USA

Zahlungsarten