Grundbegriffe Kleinste-Quadrate-Methode (KQ-Methode) oder Methode der kleinsten Quadrate Bei der Kleinste-Quadrate-Methode (KQ-Methode) oder Methode der kleinsten Quadrate zur Konstruktion von Schätzfunktionen wird davon ausgegangen, dass die Erwartungswerte der Stichprobenvariablen über eine bekannte Funktion von dem unbekannten Parameter der Grundgesamtheit abhängen: Im einfachsten Fall ist. Sind die Stichprobenwerte einer Zufallsstichprobe aus einer Grundgesamtheit mit dem unbekannten Parameter, so wird eine Schätzung so gewählt, dass die Summe der quadrierten Abweichungen zwischen den Stichprobenwerten und möglichst klein wird. Das bedeutet, dass so zu bestimmen ist, dass für alle möglichen Parameterwerte gilt: bzw. Methode der kleinsten Fehlerquadrate. dass minimiert wird. Nach Differentiation nach und Nullsetzen der ersten Ableitung lässt sich der Kleinste-Quadrate- Schätzwert als Punktschätzung für bestimmen. Ersetzt man in dem Ergebnis die Stichprobenwerte durch die Stichprobenvariablen, resultiert der Kleinste-Quadrate-Schätzer.
Abbildung 2: Die vertikalen Abstnde der Messwerte zu einer idealisierten Geraden. Resudien (grn) Diese (vertikalen) Fehler zwischen Messpunkt und Funktionswert von f(x) nennt man Residuum (plural Residuen). Um mit diesen Abstnden arbeiten zu knnen, muss man die Geradenfunktion zunchst gar nicht kennen. In unserem Beispiel mit 4 Messpunkten gibt es 4 Resudien, die als Abstnde (=Differenzen=Fehler) wie folgt aufgestellt werden: $r_1 = f(P_{1x}) - P_{1y} = mP_{1x} + b - P_{1y}$ (2. 1) $r_2 = f(P_{2x}) - P_{2y} = mP_{2x} + b - P_{2y}$ (2. 2) $r_3 = f(P_{3x}) - P_{3y} = mP_{3x} + b - P_{3y}$ (2. 3) $r_4 = f(P_{4x}) - P_{4y} = mP_{4x} + b - P_{4y}$ (2. Was ist die Methode der kleinsten Quadrate? - Erklärung & Beispiel. 4) Ein kleiner "mathematischer Trick" wird als Ergnzung angewandt: Die Abstnde werden quadriert ("Methode der kleinsten FehlerQUADRATE"). Damit erreicht man zwei Dinge: Erstens sind die Werte von $r_1^2.. r_4^2$ immer positiv und man muss nicht zustzlich unterscheiden, ob der Messpunkt ober oder unterhalb der Geraden liegt und zweitens wirkt sich ein "groer" Fehler an einem Messpunkt strker auf die zu ermittelnde Gerade aus als zwei halb so groe an zwei anderen Messpunkten.
Wenn Anna z. B. 180 cm groß ist, erhält sie laut der Vorhersage ein Einkommen von 2. 350 Euro netto. = 13 ⋅ 180 + 10 = 2. 350 Die Vorhersage ist allerdings nur eine Schätzung der Realität. Diese Schätzung basiert auf den Daten, mit denen du die Gleichung erstellt hast. Diese Schätzung wird also umso genauer, je mehr Daten aufgenommen werden. Auch durch die Aufnahme weiterer Prädiktoren kann die Vorhersage präziser werden. Methode der kleinsten quadrate beispiel von. Du könntest neben der Körpergröße zum Beispiel die Intelligenz der Leute erfassen, um das Einkommen genauer vorherzusagen. Wenn du mehrere Prädiktoren nutzt, verwendest du das Regressionsmodell der multiplen Regression. Die Schätzungen des Regressionsmodells in der Statistik weichen manchmal mehr und manchmal weniger stark von der Realität ab. Schau dir dafür einmal folgende zwei Streudiagramme an: In beiden Streudiagrammen wird das Einkommen vorhergesagt. Das linke Regressionsmodell hat als Prädiktor Intelligenz. Das rechte Modell hat als Prädiktor die Körpergröße. Beide haben eine Regressionsgerade, die den Vorhersagewerten möglichst nah ist.
Durch Einsetzen der drei Messwerte erhalten wir: \begin{aligned} \yellow 3 a + b & = \green 3 \cr \yellow 6 a + b & = \green 3 \cr \yellow 9 a + b & = \green 6 \end{aligned} Das schreiben wir als Matrizengleichung: A\mathbf{x} = \mathbf{b} mit A = \begin{pmatrix}3 & 1 \cr 6 & 1 \cr 9 & 1 \end{pmatrix} \quad \textbf x = \begin{pmatrix}a \cr b \end{pmatrix} \textbf b = \begin{pmatrix}3 \cr 3 \cr 6\end{pmatrix} Dieses Gleichungssystem ist überbestimmt und nicht lösbar. Die Lösung In der Vorlesung Lineare Algebra für Informatiker wird der folgende Satz gezeigt: Satz Das Normalsystem A^\mathrm{T}A\mathbf{x} = A^\mathrm{T}\mathbf{b} eines linearen Gleichungssystems A\mathbf{x} = \mathbf{b} ist konsistent. Die Gauß’sche Methode der kleinsten Quadrate. Seine Lösungen sind die Näherungslösungen von A\mathbf{x} = \mathbf{b} mit \mathrm{proj}_W(\mathbf{b}) = A\mathbf{x} wobei W der Spaltenraum von A ist. Wir wenden den Satz auf unser Beispiel an. Für A^\mathrm{T} schreibt man in mathGUIde anspose() Damit erhalten wir die Gerade f(x) = 0. 5x + 1 Wir plotten diese Funktion und zeigen dazu die Messpunkte an: Mehr Komfort: Die Funktion fit Um uns den Matrixansatz zu ersparen, bietet mathGUIde die Funktion fit an, die aus den Messwerten und dem Funktionstyp direkt die Koeffizienten für die gesuchte Funktion berechnet.