Zustand: Hervorragend | Sprache: Englisch | Produktart: B�cher | This book explores minimum divergence methods of statistical machine learning for estimation, regression, prediction, and so forth, in which we engage in information geometry to elucidate their intrinsic properties of the corresponding loss functions, learning algorithms, and statistical models. One of the most elementary examples is Gauss's least squares estimator in a linear regression model, in which the estimator is given by minimization of the sum of squares between a response vector and a vector of the linear subspace hulled by explanatory vectors. This is extended to Fisher's maximum likelihood estimator (MLE) for an exponential model, in which the estimator is provided by minimization of the Kullback-Leibler (KL) divergence between a data distribution and a parametric distribution of the exponential model in an empirical analogue. Thus, we envisage a geometric interpretation of such minimization procedures such that a right triangle is kept with Pythagorean identity in the sense of the KL divergence. This understanding sublimates a dualistic interplay between a statistical estimation and model, which requires dual geodesic paths, called m-geodesic and e-geodesic paths, in a framework of information geometry. We extend such a dualistic structure of the MLE and exponential model to that of the minimum divergence estimator and the maximum entropy model, which is applied to robust statistics, maximum entropy, density estimation, principal component analysis, independent component analysis, regression analysis, manifold learning, boosting algorithm, clustering, dynamic treatment regimes, and so forth. We consider a variety of information divergence measures typically including KL divergence to express departure from one probability distribution to another. An information divergence is decomposed into the cross-entropy and the (diagonal) entropy in which the entropy associates with a generative model as a family of maximum entropy distributions; the cross entropy associates with a statistical estimation method via minimization of the empirical analogue based on given data. Thus any statistical divergence includes an intrinsic object between the generative model and the estimation method. Typically, KL divergence leads to the exponential model and the maximum likelihood estimation. It is shown that any information divergence leads to a Riemannian metric and a pair of the linear connections in the framework of information geometry. We focus on a class of information divergence generated by an increasing and convex function U, called U-divergence. It is shown that any generator function U generates the U-entropy and U-divergence, in which there is a dualistic structure between the U-divergence method and the maximum U-entropy model. We observe that a specific choice of U leads to a robust statistical procedurevia the minimum U-divergence method. If U is selected as an exponential function, then the corresponding U-entropy and U-divergence are reduced to the Boltzmann-Shanon entropy and the KL divergence; the minimum U-divergence estimator is equivalent to the MLE. For robust supervised learning to predict a class label we observe that the U-boosting algorithm performs well for contamination of mislabel examples if U is appropriately selected. We present such maximal U-entropy and minimum U-divergence methods, in particular, selecting a power function as U to provide flexible performance in statistical machine l.

Bestandsnummer des Verk�ufers 38576074/1

Verk�ufer kontaktieren

Diesen Artikel melden

Bibliografische Details

Titel

Minimum Divergence Methods in Statistical Machine Learning : From an Information Geometric Viewpoint

Verlag

Springer Japan

Erscheinungsjahr

2022

Sprache

Englisch

ISBN-10

4431569200

ISBN-13

9784431569206

Einband

Hardcover

Zustand

Hervorragend

Verk�uferkataloge

B�cher

�ber diesen Titel

Inhaltsangabe

This book explores minimum divergence methods of statistical machine learning for estimation, regression, prediction, and so forth, in which we engage in information geometry to elucidate their intrinsic properties of the corresponding loss functions, learning algorithms, and statistical models. One of the most elementary examples is Gauss's least squares estimator in a linear regression model, in which the estimator is given by minimization of the sum of squares between a response vector and a vector of the linear subspace hulled by explanatory vectors. This is extended to Fisher's maximum likelihood estimator (MLE) for an exponential model, in which the estimator is provided by minimization of the Kullback-Leibler (KL) divergence between a data distribution and a parametric distribution of the exponential model in an empirical analogue. Thus, we envisage a geometric interpretation of such minimization procedures such that a right triangle is kept with Pythagorean identity in the sense of the KL divergence. This understanding sublimates a dualistic interplay between a statistical estimation and model, which requires dual geodesic paths, called m-geodesic and e-geodesic paths, in a framework of information geometry.
We extend such a dualistic structure of the MLE and exponential model to that of the minimum divergence estimator and the maximum entropy model, which is applied to robust statistics, maximum entropy, density estimation, principal component analysis, independent component analysis, regression analysis, manifold learning, boosting algorithm, clustering, dynamic treatment regimes, and so forth. We consider a variety of information divergence measures typically including KL divergence to express departure from one probability distribution to another. An information divergence is decomposed into the cross-entropy and the (diagonal) entropy in which the entropy associates with a generative model as a family of maximum entropy distributions; the cross entropy associates with a statistical estimation method via minimization of the empirical analogue based on given data. Thus any statistical divergence includes an intrinsic object between the generative model and the estimation method. Typically, KL divergence leads to the exponential model and the maximum likelihood estimation. It is shown that any information divergence leads to a Riemannian metric and a pair of the linear connections in the framework of information geometry.
We focus on a class of information divergence generated by an increasing and convex function U, called U-divergence. It is shown that any generator function U generates the U-entropy and U-divergence, in which there is a dualistic structure between the U-divergence method and the maximum U-entropy model. We observe that a specific choice of U leads to a robust statistical procedurevia the minimum U-divergence method. If U is selected as an exponential function, then the corresponding U-entropy and U-divergence are reduced to the Boltzmann-Shanon entropy and the KL divergence; the minimum U-divergence estimator is equivalent to the MLE. For robust supervised learning to predict a class label we observe that the U-boosting algorithm performs well for contamination of mislabel examples if U is appropriately selected. We present such maximal U-entropy and minimum U-divergence methods, in particular, selecting a power function as U to provide flexible performance in statistical machine learning.

�ber die Autorin bzw. den Autor

Shinto Eguchi is currently Professor at the Institute of Statistical Mathematics.

Osamu Komori is Associate professor at the Seikei University.

��ber diesen Titel� kann sich auf eine andere Ausgabe dieses Titels beziehen.

Anbieterinformationen

Seit �ber 30 Jahren handeln wir mit B�chern. Begonnen hat alles als kleiner Fachbuchhandel in Berlin. Heute sind wir spezialisiert auf den An- und Verkauf gebrauchter B�cher. Noch immer liegt unser Fokus dabei auf den Kategorien: Fachbuch und englischsprachige Literatur. Hinzu kommen B�cher aus allen anderen Genres, wie Belletristik, Biografien oder Kinderb�cher. Unser oberstes Ziel ist dabei die Weiterverwendung von Dingen und die Schonung von Ressourcen. Neben dem Ankauf von privaten B�chern oder Haushaltsaufl�sungen kaufen wir bundesweit komplette Bibliotheken und Buchbest�nde von Institutionen auf, um diese nachhaltig ein weiteres Mal auf den Markt zu bringen. Parallel dazu bietet Buchpark die M�glichkeit, gro�e Mengen einzulagern. Ganze Bibliotheken und umfangreiche Buchbest�nde werden von uns professionell auf Qualit�tsmerkmale hin untersucht und sorgf�ltig f�r den Onlinehandel aufbereitet. Wir schenken B�chern ein zweites Leben.

Zur Homepage des Verk�ufers

Unternehmensdaten des Verk�ufers

Buchpark GmbH
Kr�gerweg 1, Trebbin, 14959, Germany

Gesch�ftsbedingungen und Versandinformationen

Verkaufsbedingungen

Widerrufsbelehrung

Wenn Sie Verbraucher sind, steht Ihnen ein Widerrufsrecht nach folgender Ma�gabe zu. Verbraucher ist jede nat�rliche Person, die ein Rechtsgesch�ft zu Zwecken abschlie�t, die �berwiegend weder ihrer gewerblichen noch ihrer selbst�ndigen beruflichen T�tigkeit zugerechnet werden k�nnen.

WIDERRUFSBELEHRUNG

Widerrufsrecht

Sie haben das Recht, binnen vierzehn Tagen ohne Angabe von Gr�nden diesen Vertrag zu widerrufen.

Die Widerrufsfrist betr�gt vierzehn Tage ab dem Tag, an dem Sie oder ein von Ihnen benannter Dritter, der nicht der Bef�rderer ist, die letzte Ware oder die letzte Teilsendung bzw. das letzte St�ck in Besitz genommen haben bzw. hat.

Um Ihr Widerrufsrecht auszu�ben, m�ssen Sie uns, Buchpark, Unit B, Enterprise House, Waldeck Road, SL6 8BR, Maidenhead, Berkshire, United Kingdom, +49 03381 79 76 585, mittels einer eindeutigen Erkl�rung (z.B. ein mit der Post versandter Brief, Telefax oder E-Mail) �ber Ihren Entschluss, diesen Vertrag zu widerrufen, informieren. Sie k�nnen daf�r das beigef�gte Muster-Widerrufsformular verwenden, das jedoch nicht vorgeschrieben ist. Sie k�nnen auch eine andere eindeutige Erkl�rung auf der Webseite "Meine Bestellungen" in Ihrem "Nutzerkonto" elektronisch ausf�llen und �bermitteln. Machen Sie von dieser M�glichkeit Gebrauch, so werden wir Ihnen unverz�glich (z. B. per E-Mail) eine Best�tigung �ber den Eingang eines solchen Widerrufs �bermitteln. Zur Wahrung der Widerrufsfrist reicht es aus, dass Sie die Mitteilung �ber die Aus�bung des Widerrufsrechts vor Ablauf der Widerrufsfrist absenden.

Folgen des Widerrufs

Wenn Sie diesen Vertrag widerrufen, haben wir Ihnen alle Zahlungen, die wir von Ihnen erhalten haben, einschlie�lich der Lieferkosten (mit Ausnahme der zus�tzlichen Kosten, die sich daraus ergeben, dass Sie eine andere Art der Lieferung als die von uns angebotene, g�nstigste Standardlieferung gew�hlt haben), unverz�glich und sp�testens binnen vierzehn Tagen ab dem Tag zur�ckzuzahlen, an dem die Mitteilung �ber Ihren Widerruf dieses Vertrags bei uns eingegangen ist. F�r diese R�ckzahlung verwenden wir dasselbe Zahlungsmittel, das Sie bei der urspr�nglichen Transaktion eingesetzt haben, es sei denn, mit Ihnen wurde ausdr�cklich etwas anderes vereinbart; in keinem Fall werden Ihnen wegen dieser R�ckzahlung Entgelte berechnet. Wir k�nnen die R�ckzahlung verweigern, bis wir die Waren wieder zur�ckerhalten haben oder bis Sie den Nachweis erbracht haben, dass Sie die Waren zur�ckgesandt haben, je nachdem, welches der fr�here Zeitpunkt ist. Sie haben die Waren unverz�glich und in jedem Fall sp�testens binnen vierzehn Tagen ab dem Tag, an dem Sie uns �ber den Widerruf dieses Vertrags unterrichten, an Buchpark, Unit B, Enterprise House, Waldeck Road, SL6 8BR, Maidenhead, Berkshire, United Kingdom, +49 03381 79 76 585, zur�ckzusenden oder zu �bergeben. Die Frist ist gewahrt, wenn Sie die Waren vor Ablauf der Frist von vierzehn Tagen absenden.

Sie tragen die unmittelbaren Kosten der R�cksendung der Waren. Sie m�ssen f�r einen etwaigen Wertverlust der Waren nur aufkommen, wenn dieser Wertverlust auf einen zur Pr�fung der Beschaffenheit, Eigenschaften und Funktionsweise der Waren nicht notwendigen Umgang mit ihnen zur�ckzuf�hren ist.

Ausnahmen vom Widerrufsrecht

Das Widerrufsrecht besteht nicht bzw. erlischt bei folgenden Vertr�gen:

Zur Lieferung von Zeitungen und Zeitschriften oder Illustrierten, mit Ausnahme von Abonnement Vertr�gen;
Bei der Lieferung digitaler Inhalte, die nicht auf einem k�rperlichen Datentr�ger (z.B. einer CD oder DVD) geliefert werden, wenn Sie dem Beginn der Ausf�hrung vor der Bestellung ausdr�cklich zugestimmt und zur selben Zeit best�tigt haben, dass mit der Ausf�hrung begonnen werden kann und Sie Ihr Widerrufsrecht verlieren, sobald die Ausf�hrung begonnen hat.

ENDE DER WIDERRUFSBELEHRUNG

Muster-Widerrufsformular

(Wenn Sie den Vertrag widerrufen wollen, dann f�llen Sie bitte dieses Formular aus und senden Sie es zur�ck)

An: (Buchpark, Unit B, Enterprise House, Waldeck Road, SL6 8BR, Maidenhead, Berkshire, United Kingdom, +49 03381 79 76 585)

Hiermit widerrufe(n) ich/wir* den von mir/uns* abgeschlossenen Vertrag �ber den Kauf der folgenden Waren*/ die Erbringung der folgenden Dienstleistung*

Bestellt am*/erhalten am*:

Name des/der Verbraucher(s):

Anschrift des/der Verbraucher(s):

Unterschrift des/der Verbraucher(s) (nur bei Mitteilung auf Papier):

Datum:

* Unzutreffendes streichen.

Versandbedingungen

Versandkosten von Deutschland nach USA

Versandkosten von Deutschland nach USA
Bestellmenge	60 bis 60�Werktage	60 bis 60�Werktage
Erster Artikel	EUR 105.00	EUR 130.00

Die Versandzeiten werden von den Verk�uferinnen und Verk�ufern festgelegt. Sie variieren je nach Versanddienstleister und Standort. Sendungen, die den Zoll passieren, k�nnen Verz�gerungen unterliegen. Eventuell anfallende Abgaben oder Geb�hren sind von der K�uferin bzw. dem K�ufer zu tragen. Die Verk�uferin bzw. der Verk�ufer kann Sie bez�glich zus�tzlicher Versandkosten kontaktieren, um einen m�glichen Anstieg der Versandkosten f�r Ihre Artikel auszugleichen.

Impressum & Info zum Verk�ufer