---

Jeg forsøger at forstå least square, men tynges af en for ringe forståelse
for begreber som Hessian matrix m.m.
Først havde jeg indtryk af at metoden var itterativ, men nu bemærker jeg
flere steder at for problemet
B*X=k har løsningen X=(B_transposed*B)^-1*k, som jo ikke er itterativ, men
bare lige ud af landevejen.
Er metoden så direkte, som løsningen antyder?

Hvis nogen her har lyst til at forsøge at forklare mig hvordan løsningen
tolkes, eller kan linke til en forklaring for idioter, så vil det være en
enorm hjælp. Jeg er som sådan ikke uvidende om lineær algebra, men hessian
er mig fremmed, og det er bærende i alle de forklaringer jeg har set.

---

> Er metoden så direkte, som løsningen antyder?

Ok, jeg installerede matlab og testede nogle hjemmebryggede eksempler, og
det er virkelig så simpelt.

Jeg vil dog stadig gerne henvises til en forklaring på udledningen af
formelen.
Erdet iøvrigt korrekt at hvis B er en nxm matrix, så er beregningen af x
O(n*m)?

---

Hej Jens N,
> Hvis nogen her har lyst til at forsøge at forklare mig hvordan løsningen
> tolkes, eller kan linke til en forklaring for idioter, så vil det være en
> enorm hjælp. Jeg er som sådan ikke uvidende om lineær algebra, men hessian
> er mig fremmed, og det er bærende i alle de forklaringer jeg har set.

Måske kan du bruge Preben Møller Henriksens note:
<http://home3.inet.tele.dk/pmh/Tema/lsq/mindste-kvadrat.pdf> ?

Eller er det en anden situation, du ser på?
--
Jens Axel Søgaard

---

> Måske kan du bruge Preben Møller Henriksens note:
> <http://home3.inet.tele.dk/pmh/Tema/lsq/mindste-kvadrat.pdf> ?

Det ser overkommeligt ud. Jeg burde nok kunne opfylde kravene, der stilles i
indledningen.
Jeg læser senere i dag. Takker for linket.

---

Jens N wrote:
> Jeg forsøger at forstå least square, men tynges af en for
> ringe forståelse for begreber som Hessian matrix m.m.

Hvad en Hessian matrice er er ikke så essentielt for least
squares. Så måske har du en for matematisk præsentation?
(jeg ved ikke hvad en Hessian matrice er, men jeg ville
mene at jeg ved hvad Least Squares er)

Har du Numerical Recepies, den har en kort introduktion?


> Er metoden så direkte, som løsningen antyder?

Hvis din model er en linær funktion, så bliver Least squares
(linære regression) til simpel matrix udregning, men generelt
for ikke-lineære modeller må minimeringen udføres iterativt.
F.eks. med Levenberg-Marquart algoritmen.


--
Mvh. Carsten Svaneborg
http://gauss.ffii.org