Kolmiulotteinen pienimmän neliösumman menetelmä. Kokeellisten tietojen likimääräisyys

Jolla on laajin sovellus eri tieteen ja käytännön aloilla. Se voi olla fysiikka, kemia, biologia, taloustiede, sosiologia, psykologia ja niin edelleen ja niin edelleen. Kohtalon tahdosta joudun usein käsittelemään taloutta, ja siksi järjestän tänään sinulle lipun hämmästyttävään maahan nimeltä Ekonometria=) … Miten et halua sitä?! Siellä on erittäin hyvä - sinun on vain päätettävä! …Mutta mitä varmasti haluat, on oppia ratkaisemaan ongelmia pienimmän neliösumman. Ja erityisen ahkerat lukijat oppivat ratkaisemaan ne paitsi tarkasti, myös ERITTÄIN NOPEASTI ;-) Mutta ensin yleiskuvaus ongelmasta+ asiaan liittyvä esimerkki:

Tutkitaanko indikaattoreita jollain aihealueella, jolla on määrällinen ilmaisu. Samalla on täysi syy uskoa, että indikaattori riippuu indikaattorista. Tämä oletus voi olla sekä tieteellinen hypoteesi että perustaa terveeseen järkeen. Jätetään kuitenkin tiede sivuun ja tutkitaan herkullisempia alueita - nimittäin ruokakauppoja. Merkitse:

– ruokakaupan liiketila, neliömetri,
- päivittäistavarakaupan vuotuinen liikevaihto, miljoonaa ruplaa.

On aivan selvää, että mitä suurempi myymälän pinta-ala, sitä suurempi on sen liikevaihto useimmissa tapauksissa.

Oletetaan, että havaintojen / kokeiden / laskelmien / tamburiinin kanssa tanssimisen jälkeen meillä on käytettävissämme numeeriset tiedot:

Ruokakaupoissa mielestäni kaikki on selvää: - tämä on 1. myymälän pinta-ala, - sen vuosiliikevaihto, - 2. myymälän pinta-ala, - sen vuosiliikevaihto jne. Muuten, turvaluokiteltuihin aineistoihin pääsy ei ole ollenkaan välttämätöntä - melko tarkka arvio liikevaihdosta voidaan saada käyttämällä matemaattiset tilastot. Älä kuitenkaan ole hajamielinen, kaupallisen vakoilun kurssi on jo maksettu =)

Taulukkotiedot voidaan kirjoittaa myös pisteiden muodossa ja kuvata meille tavalliseen tapaan. Karteesinen järjestelmä .

Vastataanpa tärkeään kysymykseen: kuinka monta pistettä tarvitaan laadulliseen tutkimukseen?

Mitä isompi sen parempi. Pienin sallittu sarja koostuu 5-6 pisteestä. Lisäksi pienellä tietomäärällä "epänormaalia" tuloksia ei pitäisi sisällyttää otokseen. Joten esimerkiksi pieni eliittikauppa voi auttaa suuruusluokkaa enemmän kuin "kollegansa", mikä vääristää yleistä mallia, joka on löydettävä!

Jos se on melko yksinkertaista, meidän on valittava funktio, ajoittaa joka kulkee mahdollisimman läheltä pisteitä . Tällaista funktiota kutsutaan likimääräinen (likiarvo - likiarvo) tai teoreettinen toiminto . Yleisesti ottaen tässä ilmestyy heti ilmeinen "teeskelija" - korkean asteen polynomi, jonka kaavio kulkee KAIKKI pisteet. Mutta tämä vaihtoehto on monimutkainen ja usein yksinkertaisesti väärä. (koska kaavio "tuulee" koko ajan ja heijastaa huonosti päätrendiä).

Näin ollen halutun funktion tulee olla riittävän yksinkertainen ja samalla heijastaa riippuvuutta riittävästi. Kuten arvata saattaa, yksi tällaisten funktioiden löytämismenetelmistä on nimeltään pienimmän neliösumman. Analysoidaan ensin sen olemusta yleisellä tavalla. Olkoon jonkin funktion likimääräinen kokeellinen data:


Kuinka arvioida tämän likiarvon tarkkuus? Lasketaan myös erot (poikkeamat) kokeellisten ja toiminnallisten arvojen välillä (tutkimme piirustusta). Ensimmäinen ajatus, joka tulee mieleen, on arvioida kuinka suuri summa on, mutta ongelmana on, että erot voivat olla negatiivisia. (esimerkiksi, ) ja tällaisesta summauksesta johtuvat poikkeamat kumoavat toisensa. Siksi se ehdottaa ottavan summan arviona likiarvon tarkkuudesta moduulit poikkeamat:

tai taitettuna: (yhtäkkiä, kuka ei tiedä: on summakuvake ja apumuuttuja - "laskuri", joka ottaa arvot 1:stä ).

Approksimoimalla koepisteitä eri funktioilla saamme erilaisia ​​arvoja, ja on selvää, että missä tämä summa on pienempi, se funktio on tarkempi.

Tällainen menetelmä on olemassa ja sitä kutsutaan pienimmän moduulin menetelmä. Käytännössä se on kuitenkin yleistynyt huomattavasti. pienimmän neliösumman menetelmä, jossa mahdollisia negatiivisia arvoja ei eliminoida moduulilla, vaan neliöimällä poikkeamat:

, jonka jälkeen ponnistelut suuntautuvat sellaisen funktion valintaan, että neliöityjen poikkeamien summa oli mahdollisimman pieni. Itse asiassa, tästä menetelmän nimi.

Ja nyt palaamme toiseen tärkeään kohtaan: kuten yllä todettiin, valitun toiminnon tulisi olla melko yksinkertainen - mutta myös sellaisia ​​​​toimintoja on monia: lineaarinen , hyperbolinen, eksponentiaalinen, logaritminen, neliöllinen jne. Ja tietysti täällä haluaisin heti "vähentää toimintakenttää". Mikä funktioluokka valita tutkimukseen? Alkukantainen mutta tehokas tekniikka:

- Helpoin tapa nostaa pisteitä piirustukseen ja analysoida niiden sijaintia. Jos ne ovat yleensä suorassa linjassa, sinun tulee etsiä suora yhtälö optimaalisilla arvoilla ja . Toisin sanoen tehtävänä on löytää SELLAISIA kertoimia - niin, että neliöityjen poikkeamien summa on pienin.

Jos pisteet sijaitsevat esimerkiksi pitkin hyperbolia, silloin on selvää, että lineaarinen funktio antaa huonon approksimation. Tässä tapauksessa etsimme "suotuisimpia" kertoimia hyperboliyhtälölle - ne, jotka antavat pienimmän neliösumman .

Huomaa nyt, että molemmissa tapauksissa puhumme kahden muuttujan funktioita, jonka argumentit ovat etsii riippuvuusvaihtoehtoja:

Ja pohjimmiltaan meidän on ratkaistava standardiongelma - löytää vähintään kahden muuttujan funktio.

Muista esimerkkimme: oletetaan, että "myymälä"-pisteet sijaitsevat yleensä suorassa linjassa ja on täysi syy uskoa niiden olemassaolo lineaarinen riippuvuus liikevaihtoa kauppa-alueelta. Etsitään SELLAISIA kertoimia "a" ja "olla" niin, että neliöpoikkeamien summa oli pienin. Kaikki tavalliseen tapaan - ensin ensimmäisen asteen osittaiset johdannaiset. Mukaan lineaarisuussääntö voit erotella suoraan summakuvakkeen alla:

Jos haluat käyttää näitä tietoja esseessä tai kurssityössä, olen erittäin kiitollinen linkistä lähdeluettelossa, et löydä tällaisia ​​yksityiskohtaisia ​​laskelmia mistään:

Tehdään vakiojärjestelmä:

Vähennämme kutakin yhtälöä "kahdella" ja lisäksi "rikotaan" summat:

Merkintä : analysoi itsenäisesti, miksi "a" ja "be" voidaan poistaa summakuvakkeesta. Muuten, muodollisesti tämä voidaan tehdä summalla

Kirjoitetaan järjestelmä uudelleen "soveltuun" muotoon:

jonka jälkeen alkaa piirtää algoritmi ongelmamme ratkaisemiseksi:

Tiedämmekö pisteiden koordinaatit? Me tiedämme. Summat voimmeko löytää? Helposti. Koostamme yksinkertaisimman kahden lineaarisen yhtälön järjestelmä, jossa on kaksi tuntematonta("a" ja "beh"). Ratkaisemme järjestelmän mm. Cramerin menetelmä, jolloin tuloksena on paikallaan oleva piste . Tarkistetaan riittävä kunto ääripäälle, voimme varmistaa, että tässä vaiheessa funktio tavoittaa tarkasti minimi. Vahvistamiseen liittyy lisälaskelmia, joten jätämme sen kulissien taakse. (tarvittaessa puuttuvaa kehystä voi katsoa). Teemme lopullisen johtopäätöksen:

Toiminto paras tapa (ainakin verrattuna muihin lineaarisiin funktioihin) tuo koepisteitä lähemmäksi . Karkeasti ottaen sen kaavio kulkee mahdollisimman läheltä näitä pisteitä. Perinteessä ekonometria kutsutaan myös tuloksena olevaa approksimointifunktiota parillinen lineaarinen regressioyhtälö .

Käsiteltävänä olevalla ongelmalla on suuri käytännön merkitys. Esimerkkimme tilanteessa yhtälö voit ennustaa millaista liikevaihtoa ("yig") tulee olemaan myymälässä jollakin myyntialueen arvolla (yksi tai toinen "x":n merkitys). Kyllä, tuloksena oleva ennuste on vain ennuste, mutta monissa tapauksissa se osoittautuu melko tarkkaksi.

Analysoin vain yhden ongelman "oikeilla" numeroilla, koska siinä ei ole vaikeuksia - kaikki laskelmat ovat koulun opetussuunnitelman tasolla luokilla 7-8. 95 prosentissa tapauksista sinua pyydetään löytämään vain lineaarinen funktio, mutta aivan artikkelin lopussa osoitan, että optimaalisen hyperbelin, eksponentin ja joidenkin muiden funktioiden yhtälöiden löytäminen ei ole enää vaikeampaa.

Itse asiassa on vain jaettava luvatut herkut - jotta opit ratkaisemaan tällaiset esimerkit paitsi tarkasti, myös nopeasti. Tutkimme standardia huolellisesti:

Tehtävä

Kahden indikaattorin välisen suhteen tutkimisen tuloksena saatiin seuraavat numeroparit:

Etsi pienimmän neliösumman menetelmällä lineaarinen funktio, joka parhaiten approksimoi empiiristä (kokenut) tiedot. Piirrä piirustus, jolle suorakulmaisessa suorakulmaisessa koordinaattijärjestelmässä piirrä kokeelliset pisteet ja kuvaaja approksimoivasta funktiosta . Laske empiiristen ja teoreettisten arvojen neliöityjen poikkeamien summa. Selvitä, onko toiminto parempi (pienimpien neliöiden menetelmällä) likimääräiset koepisteet.

Huomaa, että "x"-arvot ovat luonnollisia arvoja, ja tällä on tyypillinen merkityksellinen merkitys, josta puhun hieman myöhemmin; mutta ne voivat tietysti olla murto-osia. Lisäksi tietyn tehtävän sisällöstä riippuen sekä "X"- että "G"-arvot voivat olla täysin tai osittain negatiivisia. No, meille on annettu "kasvoton" tehtävä, ja aloitamme sen ratkaisu:

Löydämme optimaalisen funktion kertoimet ratkaisuksi järjestelmään:

Kompaktin merkinnän vuoksi "laskuri"-muuttuja voidaan jättää pois, koska on jo selvää, että summaus suoritetaan 1:stä .

Tarvittavat määrät on helpompi laskea taulukkomuodossa:


Laskelmat voidaan suorittaa mikrolaskimella, mutta on paljon parempi käyttää Exceliä - sekä nopeammin että ilman virheitä; katso lyhyt video:

Siten saamme seuraavan järjestelmä:

Täällä voit kertoa toisen yhtälön 3:lla ja vähennä 2. 1. yhtälöstä termi kerrallaan. Mutta tämä on onnea - käytännössä järjestelmät eivät usein ole lahjakkaita, ja sellaisissa tapauksissa se säästää Cramerin menetelmä:
, joten järjestelmällä on ainutlaatuinen ratkaisu.

Tehdään tarkistus. Ymmärrän, että en halua, mutta miksi ohittaa virheet, joissa et voi kerta kaikkiaan missata niitä? Korvaa löydetty ratkaisu järjestelmän kunkin yhtälön vasempaan reunaan:

Vastaavien yhtälöiden oikeat osat saadaan, mikä tarkoittaa, että järjestelmä on ratkaistu oikein.

Siten haluttu approksimoiva funktio: – alkaen kaikki lineaariset funktiot kokeellinen data on parhaiten arvioitu sen avulla.

Toisin kuin suoraan myymälän liikevaihdon riippuvuus sen pinta-alasta, todettu riippuvuus on käänteinen (periaate "mitä enemmän - sitä vähemmän"), ja tämä tosiasia paljastuu välittömästi negatiivisesti kulmakerroin. Toiminto ilmoittaa meille, että kun tiettyä indikaattoria lisätään 1 yksiköllä, riippuvan indikaattorin arvo pienenee keskiverto 0,65 yksiköllä. Kuten sanotaan, mitä korkeampi tattari maksaa, sitä vähemmän myydään.

Approksimoivan funktion piirtämiseksi löydämme kaksi sen arvoista:

ja suorita piirustus:


Rakennettua linjaa kutsutaan trendiviiva (eli lineaarinen trendiviiva, eli yleisessä tapauksessa trendi ei välttämättä ole suora). Kaikille on tuttu ilmaus "olla trendissä", eikä tämä termi mielestäni kaipaa lisäkommentteja.

Laske poikkeamien neliösumma empiiristen ja teoreettisten arvojen välillä. Geometrisesti tämä on "purinpunaisten" segmenttien pituuksien neliöiden summa (joista kaksi on niin pieniä, ettet edes näe niitä).

Tehdään laskelmat yhteenvetona taulukkoon:


Ne voidaan jälleen suorittaa manuaalisesti, jos annan esimerkin 1. kohdasta:

mutta paljon tehokkaampaa on tehdä jo tunnetulla tavalla:

Toistetaan: mikä on tuloksen merkitys? From kaikki lineaariset funktiot toiminto eksponentti on pienin, eli se on perheensä paras approksimaatio. Ja tässä, muuten, ongelman viimeinen kysymys ei ole sattumaa: entä jos ehdotettu eksponentiaalinen funktio olisiko parempi arvioida koepisteitä?

Etsitään vastaava neliöpoikkeamien summa - erottaakseni ne, merkitsen ne kirjaimella "epsilon". Tekniikka on täsmälleen sama:


Ja jälleen jokaiselle palolaskelmalle 1. pisteelle:

Excelissä käytämme vakiofunktiota EXP (Syntaksi löytyy Excelin ohjeesta).

Johtopäätös: , joten eksponentiaalinen funktio approkimoi koepisteitä huonommin kuin suora .

Mutta tässä on huomattava, että "huonompi" on ei tarkoita vielä, mikä hätänä. Nyt rakensin kaavion tästä eksponentiaalisesta funktiosta - ja se myös kulkee lähellä pisteitä - niin paljon, että ilman analyyttistä tutkimusta on vaikea sanoa, kumpi funktio on tarkempi.

Tämä täydentää ratkaisun, ja palaan kysymykseen väitteen luonnollisista arvoista. Erilaisissa tutkimuksissa yleensä taloudelliset tai sosiologiset, kuukaudet, vuodet tai muut vastaavat aikavälit on numeroitu luonnollisella "X":llä. Harkitse esimerkiksi tällaista ongelmaa.

Pienimmän neliön menetelmä

Aiheen viimeisellä oppitunnilla tutustumme kuuluisimpaan sovellukseen FNP, jolla on laajin sovellus eri tieteen ja käytännön aloilla. Se voi olla fysiikka, kemia, biologia, taloustiede, sosiologia, psykologia ja niin edelleen ja niin edelleen. Kohtalon tahdosta joudun usein käsittelemään taloutta, ja siksi järjestän tänään sinulle lipun hämmästyttävään maahan nimeltä Ekonometria=) … Miten et halua sitä?! Siellä on erittäin hyvä - sinun on vain päätettävä! …Mutta mitä varmasti haluat, on oppia ratkaisemaan ongelmia pienimmän neliösumman. Ja erityisen ahkerat lukijat oppivat ratkaisemaan ne paitsi tarkasti, myös ERITTÄIN NOPEASTI ;-) Mutta ensin yleiskuvaus ongelmasta+ asiaan liittyvä esimerkki:

Tutkitaanko indikaattoreita jollain aihealueella, jolla on määrällinen ilmaisu. Samalla on täysi syy uskoa, että indikaattori riippuu indikaattorista. Tämä oletus voi olla sekä tieteellinen hypoteesi että perustaa terveeseen järkeen. Jätetään kuitenkin tiede sivuun ja tutkitaan herkullisempia alueita - nimittäin ruokakauppoja. Merkitse:

– ruokakaupan liiketila, neliömetri,
- päivittäistavarakaupan vuotuinen liikevaihto, miljoonaa ruplaa.

On aivan selvää, että mitä suurempi myymälän pinta-ala, sitä suurempi on sen liikevaihto useimmissa tapauksissa.

Oletetaan, että havaintojen / kokeiden / laskelmien / tamburiinin kanssa tanssimisen jälkeen meillä on käytettävissämme numeeriset tiedot:

Ruokakaupoissa mielestäni kaikki on selvää: - tämä on 1. myymälän pinta-ala, - sen vuosiliikevaihto, - 2. myymälän pinta-ala, - sen vuosiliikevaihto jne. Muuten, turvaluokiteltuihin aineistoihin pääsy ei ole ollenkaan välttämätöntä - melko tarkka arvio liikevaihdosta voidaan saada käyttämällä matemaattiset tilastot. Älä kuitenkaan ole hajamielinen, kaupallisen vakoilun kurssi on jo maksettu =)

Taulukkotiedot voidaan kirjoittaa myös pisteiden muodossa ja kuvata meille tavalliseen tapaan. Karteesinen järjestelmä .

Vastataanpa tärkeään kysymykseen: kuinka monta pistettä tarvitaan laadulliseen tutkimukseen?

Mitä isompi sen parempi. Pienin sallittu sarja koostuu 5-6 pisteestä. Lisäksi pienellä tietomäärällä "epänormaalia" tuloksia ei pitäisi sisällyttää otokseen. Joten esimerkiksi pieni eliittikauppa voi auttaa suuruusluokkaa enemmän kuin "kollegansa", mikä vääristää yleistä mallia, joka on löydettävä!

Jos se on melko yksinkertaista, meidän on valittava funktio, ajoittaa joka kulkee mahdollisimman läheltä pisteitä . Tällaista funktiota kutsutaan likimääräinen (likiarvo - likiarvo) tai teoreettinen toiminto . Yleisesti ottaen tässä ilmestyy heti ilmeinen "teeskelija" - korkean asteen polynomi, jonka kaavio kulkee KAIKKI pisteet. Mutta tämä vaihtoehto on monimutkainen ja usein yksinkertaisesti väärä. (koska kaavio "tuulee" koko ajan ja heijastaa huonosti päätrendiä).

Näin ollen halutun funktion tulee olla riittävän yksinkertainen ja samalla heijastaa riippuvuutta riittävästi. Kuten arvata saattaa, yksi tällaisten funktioiden löytämismenetelmistä on nimeltään pienimmän neliösumman. Analysoidaan ensin sen olemusta yleisellä tavalla. Olkoon jonkin funktion likimääräinen kokeellinen data:


Kuinka arvioida tämän likiarvon tarkkuus? Lasketaan myös erot (poikkeamat) kokeellisten ja toiminnallisten arvojen välillä (tutkimme piirustusta). Ensimmäinen ajatus, joka tulee mieleen, on arvioida kuinka suuri summa on, mutta ongelmana on, että erot voivat olla negatiivisia. (esimerkiksi, ) ja tällaisesta summauksesta johtuvat poikkeamat kumoavat toisensa. Siksi se ehdottaa ottavan summan arviona likiarvon tarkkuudesta moduulit poikkeamat:

tai taitettuna: (niille jotka eivät tiedä: on summakuvake ja - apumuuttuja - "laskuri", joka ottaa arvot välillä 1 - ) .

Lähestämällä koepisteitä eri funktioilla, saamme erilaisia ​​arvoja, ja on selvää, missä tämä summa on pienempi - se funktio on tarkempi.

Tällainen menetelmä on olemassa ja sitä kutsutaan pienimmän moduulin menetelmä. Käytännössä se on kuitenkin yleistynyt huomattavasti. pienimmän neliösumman menetelmä, jossa mahdollisia negatiivisia arvoja ei eliminoida moduulilla, vaan neliöimällä poikkeamat:

, jonka jälkeen ponnistelut suuntautuvat sellaisen funktion valintaan, että neliöityjen poikkeamien summa oli mahdollisimman pieni. Itse asiassa, tästä menetelmän nimi.

Ja nyt palaamme toiseen tärkeään kohtaan: kuten yllä todettiin, valitun toiminnon tulisi olla melko yksinkertainen - mutta myös sellaisia ​​​​toimintoja on monia: lineaarinen , hyperbolinen , eksponentiaalinen , logaritminen , neliöllinen jne. Ja tietysti täällä haluaisin heti "vähentää toimintakenttää". Mikä funktioluokka valita tutkimukseen? Alkukantainen mutta tehokas tekniikka:

- Helpoin tapa nostaa pisteitä piirustukseen ja analysoida niiden sijaintia. Jos ne ovat yleensä suorassa linjassa, sinun tulee etsiä suora yhtälö optimaalisilla arvoilla ja . Toisin sanoen tehtävänä on löytää SELLAISIA kertoimia - niin, että neliöityjen poikkeamien summa on pienin.

Jos pisteet sijaitsevat esimerkiksi pitkin hyperbolia, silloin on selvää, että lineaarinen funktio antaa huonon approksimation. Tässä tapauksessa etsimme "suotuisimpia" kertoimia hyperboliyhtälölle - ne, jotka antavat pienimmän neliösumman .

Huomaa nyt, että molemmissa tapauksissa puhumme kahden muuttujan funktioita, jonka argumentit ovat etsii riippuvuusvaihtoehtoja:

Ja pohjimmiltaan meidän on ratkaistava standardiongelma - löytää vähintään kahden muuttujan funktio.

Muista esimerkkimme: oletetaan, että "myymälä"-pisteet sijaitsevat yleensä suorassa linjassa ja on täysi syy uskoa niiden olemassaolo lineaarinen riippuvuus liikevaihtoa kauppa-alueelta. Etsitään SELLAISIA kertoimia "a" ja "olla" niin, että neliöpoikkeamien summa oli pienin. Kaikki tavalliseen tapaan - ensin ensimmäisen asteen osittaiset johdannaiset. Mukaan lineaarisuussääntö voit erotella suoraan summakuvakkeen alla:

Jos haluat käyttää näitä tietoja esseessä tai kurssityössä, olen erittäin kiitollinen linkistä lähdeluettelossa, et löydä tällaisia ​​yksityiskohtaisia ​​laskelmia mistään:

Tehdään vakiojärjestelmä:

Vähennämme kutakin yhtälöä "kahdella" ja lisäksi "rikotaan" summat:

Merkintä : analysoi itsenäisesti, miksi "a" ja "be" voidaan poistaa summakuvakkeesta. Muuten, muodollisesti tämä voidaan tehdä summalla

Kirjoitetaan järjestelmä uudelleen "soveltuun" muotoon:

jonka jälkeen alkaa piirtää algoritmi ongelmamme ratkaisemiseksi:

Tiedämmekö pisteiden koordinaatit? Me tiedämme. Summat voimmeko löytää? Helposti. Koostamme yksinkertaisimman kahden lineaarisen yhtälön järjestelmä, jossa on kaksi tuntematonta("a" ja "beh"). Ratkaisemme järjestelmän mm. Cramerin menetelmä, jolloin tuloksena on paikallaan oleva piste . Tarkistetaan riittävä kunto ääripäälle, voimme varmistaa, että tässä vaiheessa funktio tavoittaa tarkasti minimi. Vahvistamiseen liittyy lisälaskelmia, joten jätämme sen kulissien taakse. (tarvittaessa puuttuvaa kehystä voi katsoatässä ) . Teemme lopullisen johtopäätöksen:

Toiminto paras tapa (ainakin verrattuna muihin lineaarisiin funktioihin) tuo koepisteitä lähemmäksi . Karkeasti ottaen sen kaavio kulkee mahdollisimman läheltä näitä pisteitä. Perinteessä ekonometria kutsutaan myös tuloksena olevaa approksimointifunktiota parillinen lineaarinen regressioyhtälö .

Käsiteltävänä olevalla ongelmalla on suuri käytännön merkitys. Esimerkkimme tilanteessa yhtälö voit ennustaa millaista liikevaihtoa ("yig") tulee olemaan myymälässä jollakin myyntialueen arvolla (yksi tai toinen "x":n merkitys). Kyllä, tuloksena oleva ennuste on vain ennuste, mutta monissa tapauksissa se osoittautuu melko tarkkaksi.

Analysoin vain yhden ongelman "oikeilla" numeroilla, koska siinä ei ole vaikeuksia - kaikki laskelmat ovat koulun opetussuunnitelman tasolla luokilla 7-8. 95 prosentissa tapauksista sinua pyydetään löytämään vain lineaarinen funktio, mutta aivan artikkelin lopussa osoitan, että optimaalisen hyperbelin, eksponentin ja joidenkin muiden funktioiden yhtälöiden löytäminen ei ole enää vaikeampaa.

Itse asiassa on vain jaettava luvatut herkut - jotta opit ratkaisemaan tällaiset esimerkit paitsi tarkasti, myös nopeasti. Tutkimme standardia huolellisesti:

Tehtävä

Kahden indikaattorin välisen suhteen tutkimisen tuloksena saatiin seuraavat numeroparit:

Etsi pienimmän neliösumman menetelmällä lineaarinen funktio, joka parhaiten approksimoi empiiristä (kokenut) tiedot. Piirrä piirustus, jolle suorakulmaisessa suorakulmaisessa koordinaattijärjestelmässä piirrä kokeelliset pisteet ja kuvaaja approksimoivasta funktiosta . Laske empiiristen ja teoreettisten arvojen neliöityjen poikkeamien summa. Selvitä, onko toiminto parempi (pienimpien neliöiden menetelmällä) likimääräiset koepisteet.

Huomaa, että "x"-arvot ovat luonnollisia arvoja, ja tällä on tyypillinen merkityksellinen merkitys, josta puhun hieman myöhemmin; mutta ne voivat tietysti olla murto-osia. Lisäksi tietyn tehtävän sisällöstä riippuen sekä "X"- että "G"-arvot voivat olla täysin tai osittain negatiivisia. No, meille on annettu "kasvoton" tehtävä, ja aloitamme sen ratkaisu:

Löydämme optimaalisen funktion kertoimet ratkaisuksi järjestelmään:

Kompaktin merkinnän vuoksi "laskuri"-muuttuja voidaan jättää pois, koska on jo selvää, että summaus suoritetaan 1:stä .

Tarvittavat määrät on helpompi laskea taulukkomuodossa:


Laskelmat voidaan suorittaa mikrolaskimella, mutta on paljon parempi käyttää Exceliä - sekä nopeammin että ilman virheitä; katso lyhyt video:

Siten saamme seuraavan järjestelmä:

Täällä voit kertoa toisen yhtälön 3:lla ja vähennä 2. 1. yhtälöstä termi kerrallaan. Mutta tämä on onnea - käytännössä järjestelmät eivät usein ole lahjakkaita, ja sellaisissa tapauksissa se säästää Cramerin menetelmä:
, joten järjestelmällä on ainutlaatuinen ratkaisu.

Tehdään tarkistus. Ymmärrän, että en halua, mutta miksi ohittaa virheet, joissa et voi kerta kaikkiaan missata niitä? Korvaa löydetty ratkaisu järjestelmän kunkin yhtälön vasempaan reunaan:

Vastaavien yhtälöiden oikeat osat saadaan, mikä tarkoittaa, että järjestelmä on ratkaistu oikein.

Siten haluttu approksimoiva funktio: – alkaen kaikki lineaariset funktiot kokeellinen data on parhaiten arvioitu sen avulla.

Toisin kuin suoraan myymälän liikevaihdon riippuvuus sen pinta-alasta, todettu riippuvuus on käänteinen (periaate "mitä enemmän - sitä vähemmän"), ja tämä tosiasia paljastuu välittömästi negatiivisesti kulmakerroin. Funktio kertoo, että kun tiettyä indikaattoria kasvaa 1 yksiköllä, riippuvan indikaattorin arvo pienenee keskiverto 0,65 yksiköllä. Kuten sanotaan, mitä korkeampi tattari maksaa, sitä vähemmän myydään.

Approksimoivan funktion piirtämiseksi löydämme kaksi sen arvoista:

ja suorita piirustus:

Rakennettua linjaa kutsutaan trendiviiva (eli lineaarinen trendiviiva, eli yleisessä tapauksessa trendi ei välttämättä ole suora). Kaikille on tuttu ilmaus "olla trendissä", eikä tämä termi mielestäni kaipaa lisäkommentteja.

Laske poikkeamien neliösumma empiiristen ja teoreettisten arvojen välillä. Geometrisesti tämä on "purinpunaisten" segmenttien pituuksien neliöiden summa (joista kaksi on niin pieniä, ettet edes näe niitä).

Tehdään laskelmat yhteenvetona taulukkoon:


Ne voidaan jälleen suorittaa manuaalisesti, jos annan esimerkin 1. kohdasta:

mutta paljon tehokkaampaa on tehdä jo tunnetulla tavalla:

Toistetaan: mikä on tuloksen merkitys? From kaikki lineaariset funktiot funktiolla on pienin eksponentti, eli sen perheessä, tämä on paras approksimaatio. Ja tässä, muuten, ongelman viimeinen kysymys ei ole sattumaa: entä jos ehdotettu eksponentiaalinen funktio olisiko parempi arvioida koepisteitä?

Etsitään vastaava neliöpoikkeamien summa - erottaakseni ne, merkitsen ne kirjaimella "epsilon". Tekniikka on täsmälleen sama:

Ja jälleen jokaiselle palolaskelmalle 1. pisteelle:

Excelissä käytämme vakiofunktiota EXP (Syntaksi löytyy Excelin ohjeesta).

Johtopäätös:, mikä tarkoittaa, että eksponentiaalinen funktio approksimoi koepisteitä huonommin kuin suora.

Mutta tässä on huomattava, että "huonompi" on ei tarkoita vielä, mikä hätänä. Nyt olen rakentanut kuvaajan tästä eksponentiaalisesta funktiosta - ja se kulkee myös läheltä pisteitä - niin, että ilman analyyttistä tutkimusta on vaikea sanoa, mikä funktio on tarkempi.

Tämä täydentää ratkaisun, ja palaan kysymykseen väitteen luonnollisista arvoista. Erilaisissa tutkimuksissa yleensä taloudelliset tai sosiologiset, kuukaudet, vuodet tai muut vastaavat aikavälit on numeroitu luonnollisella "X":llä. Harkitse esimerkiksi seuraavaa ongelmaa:

Meillä on seuraavat tiedot myymälän vähittäiskaupan liikevaihdosta vuoden ensimmäiseltä puoliskolta:

Selvitä heinäkuun myyntivolyymi suoraviivaisella analyyttisellä kohdistuksella.

Kyllä, ei hätää: numeroimme kuukaudet 1, 2, 3, 4, 5, 6 ja käytämme tavallista algoritmia, jonka tuloksena saamme yhtälön - ainoa asia mitä tulee aikaan, on yleensä kirjain "te" ” (vaikka se ei ole kriittinen). Tuloksena oleva yhtälö osoittaa, että vuoden ensimmäisellä puoliskolla liikevaihto kasvoi keskimäärin 27,74 CU. kuukaudessa. Hanki ennuste heinäkuulle (kuukausi #7): e.u.

Ja samanlaiset tehtävät - pimeys on pimeä. Halukkaat voivat käyttää lisäpalvelua, nimittäin minun Excelin laskin (demoversio), joka ratkaisee ongelman lähes välittömästi! Ohjelman toimiva versio on saatavilla vaihdossa tai varten symbolinen maksu.

Oppitunnin lopussa lyhyt informaatio joidenkin muuntyyppisten riippuvuuksien löytämisestä. Itse asiassa ei ole mitään erityistä kerrottavaa, koska perustavanlaatuinen lähestymistapa ja ratkaisualgoritmi pysyvät samoina.

Oletetaan, että koepisteiden sijainti muistuttaa hyperbolia. Sitten parhaan hyperbelin kertoimien löytämiseksi sinun on löydettävä funktion minimi - halukkaat voivat suorittaa yksityiskohtaisia ​​laskelmia ja tulla samanlaiseen järjestelmään:

Muodollisesti teknisestä näkökulmasta se saadaan "lineaarisesta" järjestelmästä (merkitään se tähdellä) korvataan "x":llä. No, summat laskea, jonka jälkeen optimaalisiin kertoimiin "a" ja "be" käsillä.

Jos on täysi syy uskoa, että pistettä on järjestetty logaritmisen käyrän mukaan, sitten etsimään optimaalisia arvoja ja löytämään funktion minimin . Muodollisesti järjestelmässä (*) tulisi korvata seuraavasti:

Kun lasket Excelissä, käytä funktiota LN. Myönnän, että minun ei tule olemaan vaikeaa luoda laskureita jokaiseen tarkasteltavaan tapaukseen, mutta on silti parempi, jos "ohjelmoit" laskelmat itse. Ohjevideoita.

Eksponentiaalisella riippuvuudella tilanne on hieman monimutkaisempi. Asian pelkistämiseksi lineaariseksi tapaukseksi otamme funktion logaritmin ja käytön logaritmin ominaisuudet:

Nyt kun vertaamalla saatua funktiota lineaariseen funktioon, tulemme siihen tulokseen, että järjestelmässä (*) on korvattava merkillä , ja - . Mukavuuden vuoksi merkitsemme:

Huomaa, että järjestelmä on ratkaistu suhteessa ja, joten juurien löytämisen jälkeen sinun ei tule unohtaa löytää itse kerroin.

Arvioida kokeellisia pisteitä optimaalinen paraabeli , pitäisi löytyä vähintään kolmen muuttujan funktio . Standarditoimintojen suorittamisen jälkeen saamme seuraavan "toimivan" järjestelmä:

Kyllä, tietysti täällä on enemmän summia, mutta suosikkisovelluksesi käytössä ei ole vaikeuksia. Ja lopuksi kerron sinulle kuinka nopeasti tarkistaa Excelin avulla ja rakentaa haluttu trendiviiva: luo hajontakaavio, valitse mikä tahansa pisteistä hiirellä ja napsauta hiiren oikealla painikkeella valitse vaihtoehto "Lisää trendiviiva". Valitse seuraavaksi kaavion tyyppi ja välilehdeltä "Vaihtoehdot" aktivoi vaihtoehto "Näytä yhtälö kaaviossa". OK

Kuten aina, haluan lopettaa artikkelin kauniilla lauseella, ja melkein kirjoitin "Ole trendissä!". Mutta ajan myötä hän muutti mielensä. Eikä siksi, että se olisi kaavamaista. En tiedä miten kukaan, mutta en halua seurata promottua amerikkalaista ja varsinkaan eurooppalaista trendiä ollenkaan =) Siksi toivon, että jokainen teistä pysyy omassa linjassaan!

http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html

Pienimmän neliösumman menetelmä on yksi yleisimmistä ja kehittyneimmistä sen ansiosta Lineaaristen ekonometristen mallien parametrien estimointimenetelmien yksinkertaisuus ja tehokkuus. Samalla sitä käytettäessä tulee noudattaa jonkin verran varovaisuutta, sillä sen avulla rakennetut mallit eivät välttämättä täytä useita parametrien laatuvaatimuksia eivätkä sen seurauksena heijasta "hyvin" prosessikehityksen malleja.

Tarkastellaan yksityiskohtaisemmin menettelyä lineaarisen ekonometrisen mallin parametrien estimoimiseksi pienimmän neliösumman menetelmällä. Tällainen malli yleisessä muodossa voidaan esittää yhtälöllä (1.2):

y t = a 0 + a 1 x 1t +...+ a n x nt + ε t.

Alkutiedot parametreja a 0, a 1,..., a n arvioitaessa on riippuvan muuttujan arvojen vektori y= (y 1 , y 2 , ... , y T)" ja riippumattomien muuttujien arvojen matriisi

jossa ensimmäinen sarake, joka koostuu ykkösistä, vastaa mallin kerrointa .

Pienimmän neliösumman menetelmä sai nimensä sillä perusperiaatteella, että sen perusteella saatujen parametriestimaattien tulee täyttää: mallivirheen neliösumman tulee olla minimaalinen.

Esimerkkejä tehtävien ratkaisemisesta pienimmän neliösumman menetelmällä

Esimerkki 2.1. Kauppayrityksellä on 12 myymälästä koostuva verkosto, joiden toiminnasta on tiedot taulukossa. 2.1.

Yrityksen johto haluaa tietää, miten vuosiliikevaihdon suuruus riippuu myymälän liiketilasta.

Taulukko 2.1

Pienimmän neliön ratkaisu. Nimetään - myymälän vuosiliikevaihto, miljoonaa ruplaa; - myymälän myyntipinta-ala, tuhat m 2.

Kuva 2.1. Sirontakaavio esimerkille 2.1

Määrittää muuttujien välisen funktionaalisen suhteen muoto ja muodostaa sirontakaavio (kuva 2.1).

Hajontakaavion perusteella voidaan päätellä, että vuosiliikevaihto on positiivisesti riippuvainen myyntialueesta (eli y kasvaa kasvun myötä). Sopivin toiminnallisen yhteyden muoto on lineaarinen.

Tietoja lisälaskelmista varten on esitetty taulukossa. 2.2. Arvioimme pienimmän neliösumman menetelmällä lineaarisen yksikerroisen ekonometrisen mallin parametrit

Taulukko 2.2

Tällä tavalla,

Siksi, kun kauppa-alue kasvaa 1 tuhannella m 2 , muiden tekijöiden pysyessä samana, keskimääräinen vuotuinen liikevaihto kasvaa 67,8871 miljoonalla ruplalla.

Esimerkki 2.2. Yrityksen johto havaitsi, että vuosiliikevaihto ei riipu pelkästään liikkeen myyntialueesta (katso esimerkki 2.1), vaan myös keskimääräisestä kävijämäärästä. Asiaankuuluvat tiedot on esitetty taulukossa. 2.3.

Taulukko 2.3

Ratkaisu. Merkitse - :nnen myymälän keskimääräinen kävijämäärä päivässä, tuhat ihmistä.

Määrittää muuttujien välisen funktionaalisen suhteen muoto ja muodostaa sirontakaavio (kuva 2.2).

Hajontakaavion perusteella voidaan päätellä, että vuotuinen liikevaihto on positiivisessa suhteessa keskimääräiseen päiväkävijämäärään (eli y kasvaa kasvun myötä). Toiminnallisen riippuvuuden muoto on lineaarinen.

Riisi. 2.2. Sirontakaavio esimerkiksi 2.2

Taulukko 2.4

Yleensä on tarpeen määrittää kaksitekijäisen ekonometrisen mallin parametrit

y t \u003d a 0 + a 1 x 1t + a 2 x 2t + ε t

Lisälaskelmia varten tarvittavat tiedot on esitetty taulukossa. 2.4.

Arvioidaan lineaarisen kaksitekijäisen ekonometrisen mallin parametrit pienimmän neliösumman menetelmällä.

Tällä tavalla,

Kertoimen = 61,6583 arvio osoittaa, että kaikkien muiden tekijöiden pysyessä samana ja myyntipinta-alan kasvaessa 1 tuhannella m 2:lla vuotuinen liikevaihto kasvaa keskimäärin 61,6583 miljoonaa ruplaa.

Kertoimen arvio = 2,2748 osoittaa, että muiden asioiden ollessa sama, keskimääräisen kävijämäärän kasvu tuhatta ihmistä kohden. päivässä, vuotuinen liikevaihto kasvaa keskimäärin 2,2748 miljoonaa ruplaa.

Esimerkki 2.3. Käyttämällä taulukossa esitettyjä tietoja. 2.2 ja 2.4, arvioi yksitekijäisen ekonometrisen mallin parametri

missä on -:nnen myymälän vuosiliikevaihdon keskiarvo, miljoonaa ruplaa; - t:nnen liikkeen keskimääräisen päivittäisen kävijämäärän keskitetty arvo, tuhat henkilöä. (katso esimerkit 2.1-2.2).

Ratkaisu. Laskelmiin tarvittavat lisätiedot on esitetty taulukossa. 2.5.

Taulukko 2.5

Kaavan (2.35) avulla saamme

Tällä tavalla,

http://www.cleverstudents.ru/articles/mnk.html

Esimerkki.

Kokeellinen data muuttujien arvoista X ja klo on annettu taulukossa.

Niiden kohdistuksen seurauksena toiminto

Käyttämällä pienimmän neliösumman menetelmä, arvioi nämä tiedot lineaarisella riippuvuudella y=kirves+b(etsi vaihtoehtoja a ja b). Selvitä, kumpi kahdesta viivasta on parempi (pienimmän neliösumman menetelmässä) kohdistaa kokeelliset tiedot. Tee piirustus.

Ratkaisu.

Meidän esimerkissämme n = 5. Täytämme taulukon tarvittavien kertoimien kaavoihin sisältyvien määrien laskemisen helpottamiseksi.

Taulukon neljännen rivin arvot saadaan kertomalla 2. rivin arvot 3. rivin arvoilla jokaiselle numerolle i.

Taulukon viidennen rivin arvot saadaan neliöimällä 2. rivin arvot jokaiselle numerolle i.

Taulukon viimeisen sarakkeen arvot ovat eri rivien arvojen summat.

Käytämme pienimmän neliösumman menetelmän kaavoja kertoimien löytämiseen a ja b. Korvaamme niissä vastaavat arvot taulukon viimeisestä sarakkeesta:

Näin ollen y = 0,165x+2,184 on haluttu likimääräinen suora.

On vielä selvitettävä, mikä riveistä y = 0,165x+2,184 tai paremmin approksimoi alkuperäistä dataa eli tehdä arvion pienimmän neliösumman menetelmällä.

Todiste.

Siis kun löytyy a ja b funktio saa pienimmän arvon, on välttämätöntä, että tässä vaiheessa funktion toisen asteen differentiaalin toisen asteen muodon matriisi oli ehdottomasti positiivinen. Näytä se.

Toisen asteen ero on muotoa:

Tuo on

Siksi neliömuodon matriisilla on muoto

ja elementtien arvot eivät riipu a ja b.

Osoitetaan, että matriisi on positiivinen määrätty. Tämä edellyttää, että kulman molliarvot ovat positiivisia.

Ensimmäisen asteen kulmikas molli . Epätasa-arvo on tiukkaa, koska pistettä

Tasauksen jälkeen saadaan seuraavan muotoinen funktio: g (x) = x + 1 3 + 1 .

Voimme arvioida nämä tiedot lineaarisella suhteella y = a x + b laskemalla sopivat parametrit. Tätä varten meidän on sovellettava niin kutsuttua pienimmän neliösumman menetelmää. Sinun on myös tehtävä piirustus tarkistaaksesi, mikä viiva kohdistaa kokeelliset tiedot parhaiten.

Yandex.RTB R-A-339285-1

Mikä tarkalleen on OLS (pienimpien neliöiden menetelmä)

Tärkein asia, joka meidän on tehtävä, on löytää sellaiset lineaarisen riippuvuuden kertoimet, joilla kahden muuttujan funktion arvo F (a, b) = ∑ i = 1 n (y i - (a x i + b)) 2 on pienin. Toisin sanoen tietyille a:n ja b:n arvoille esitettyjen tietojen neliöityjen poikkeamien summalla tuloksena olevasta suorasta on vähimmäisarvo. Tämä on pienimmän neliösumman menetelmän merkitys. Ainoa mitä meidän tarvitsee tehdä esimerkin ratkaisemiseksi, on löytää kahden muuttujan funktion ääripää.

Kuinka johtaa kertoimien laskentakaavat

Kaavojen johtamiseksi kertoimien laskemiseksi on tarpeen muodostaa ja ratkaista yhtälöjärjestelmä kahdella muuttujalla. Tätä varten lasketaan lausekkeen F (a , b) = ∑ i = 1 n (y i - (a x i + b)) 2 osittaisderivaatat a:n ja b:n suhteen ja rinnastetaan ne 0:ksi.

δ F (a , b) δ a = 0 δ F (a , b) δ b = 0 ⇔ - 2 ∑ i = 1 n (y i - (a x i + b)) x i = 0 - 2 ∑ i = 1 n ( y i - (a x i + b)) = 0 ⇔ a ∑ i = 1 n x i 2 + b ∑ i = 1 n x i = ∑ i = 1 n x i y i a ∑ i = 1 n x i + ∑ b i = 1 n x i + ∑ b i = i = i ∑ i = 1 n x i 2 + b ∑ i = 1 n x i = ∑ i = 1 n x i y i a ∑ i = 1 n x i + n b = ∑ i = 1 n y i

Yhtälöjärjestelmän ratkaisemiseksi voit käyttää mitä tahansa menetelmiä, kuten substituutiota tai Cramerin menetelmää. Tuloksena pitäisi saada kaavat, jotka laskevat kertoimet pienimmän neliösumman menetelmällä.

n ∑ i = 1 n x i y i - ∑ i = 1 n x i ∑ i = 1 n y i n ∑ i = 1 n - ∑ i = 1 n x i 2 b = ∑ i = 1 n ∑ i = 1 n ∑ i

Olemme laskeneet niiden muuttujien arvot, joille funktio on
F (a , b) = ∑ i = 1 n (y i - (a x i + b)) 2 ottaa pienimmän arvon. Kolmannessa kappaleessa todistamme, miksi se on niin.

Tämä on pienimmän neliösumman menetelmän soveltaminen käytännössä. Hänen kaavansa, jota käytetään parametrin a etsimiseen, sisältää ∑ i = 1 n x i, ∑ i = 1 n y i, ∑ i = 1 n x i y i, ∑ i = 1 n x i 2 ja parametrin
n - se ilmaisee kokeellisen tiedon määrää. Suosittelemme laskemaan jokaisen summan erikseen. Kertoimen arvo b lasketaan välittömästi a:n jälkeen.

Palataan alkuperäiseen esimerkkiin.

Esimerkki 1

Tässä meillä on n yhtä kuin viisi. Jotta kerroinkaavoihin sisältyvien tarvittavien määrien laskeminen olisi helpompaa, täytämme taulukon.

Ratkaisu

Neljännellä rivillä on tiedot, jotka on saatu kertomalla toisen rivin arvot kolmannen arvoilla jokaiselle yksilölle i . Viides rivi sisältää tiedot toisesta neliöstä. Viimeinen sarake näyttää yksittäisten rivien arvojen summat.

Lasketaan tarvittavat kertoimet a ja b pienimmän neliösumman menetelmällä. Voit tehdä tämän korvaamalla haluamasi arvot viimeisestä sarakkeesta ja laskemalla summat:

n ∑ i = 1 n x i y i - ∑ i = 1 n x i ∑ i = 1 n y i n ∑ i = 1 n - ∑ i = 1 n x i 2 b = ∑ i = 1 n ∑ i = 1 n ∑ i = 1 n x i = 1 n ∑ i - 12 12, 9 5 46 - 12 2 b = 12, 9 - a 12 5 ⇒ a ≈ 0, 165 b ≈ 2, 184

Saimme, että haluttu approksimoiva suora näyttää tältä y = 0, 165 x + 2, 184. Nyt meidän on määritettävä, mikä rivi parhaiten approksimoi dataa - g (x) = x + 1 3 + 1 vai 0 , 165 x + 2 , 184 . Tehdään arvio pienimmän neliösumman menetelmällä.

Virheen laskemiseksi meidän on löydettävä datan neliöpoikkeamien summat suorista σ 1 = ∑ i = 1 n (y i - (a x i + b i)) 2 ja σ 2 = ∑ i = 1 n (y i - g (x i)) 2, minimiarvo vastaa sopivampaa viivaa.

σ 1 = ∑ i = 1 n (y i - (a x i + b i)) 2 = = ∑ i = 1 5 (y i - (0 , 165 x i + 2 , 184)) 2 ≈ 0, 019 ψ 2 = ∑ i = ∑ i = 1 5 1 n (y i - g (x i)) 2 = = ∑ i = 1 5 (y i - (x i + 1 3 + 1)) 2 ≈ 0, 096

Vastaus: koska σ 1< σ 2 , то прямой, наилучшим образом аппроксимирующей исходные данные, будет
y = 0, 165 x + 2, 184.

Pienimmän neliösumman menetelmä näkyy selkeästi graafisessa kuvassa. Punainen viiva merkitsee suoraa g (x) = x + 1 3 + 1, sininen viiva merkitsee y = 0, 165 x + 2, 184. Raakatiedot on merkitty vaaleanpunaisilla pisteillä.

Selvitetään, miksi juuri tämän tyyppisiä approksimaatioita tarvitaan.

Niitä voidaan käyttää ongelmissa, jotka vaativat tietojen tasoitusta, sekä niissä, joissa dataa on interpoloitava tai ekstrapoloitava. Esimerkiksi edellä käsitellyssä ongelmassa havaitun suuren y arvo voitaisiin löytää kohdassa x = 3 tai kohdassa x = 6 . Olemme omistaneet erillisen artikkelin tällaisille esimerkeille.

Todiste LSM-menetelmästä

Jotta funktio saa pienimmän arvon lasketuille a:lle ja b:lle, on välttämätöntä, että tietyssä pisteessä muodon F (a, b) funktion differentiaalin toisen asteen matriisi = ∑ i = 1 n ( y i - (a x i + b)) 2 on positiivinen määrätty. Näytämme sinulle, miltä sen pitäisi näyttää.

Esimerkki 2

Meillä on seuraavan muodon toisen asteen erotus:

d 2 F (a ; b) = δ 2 F (a ; b) δ a 2 d 2 a + 2 δ 2 F (a ; b) δ a δ b d a d b + δ 2 F (a ; b) δ b 2 d 2b

Ratkaisu

δ 2 F (a ; b) δ a 2 = δ δ F (a ; b) δ a δ a = = δ - 2 ∑ i = 1 n (y i - (a x i + b)) x i δ a = 2 ∑ i = 1 n (x i) 2 δ 2 F (a ; b) δ a δ b = δ δ F (a ; b) δ a δ b = = δ - 2 ∑ i = 1 n (y i - (a x i + b) ) x i δ b = 2 ∑ i = 1 n x i δ 2 F (a ; b) δ b 2 = δ δ F (a ; b) δ b δ b = δ - 2 ∑ i = 1 n (y i - (a x i + b)) δ b = 2 ∑ i = 1 n (1) = 2 n

Toisin sanoen se voidaan kirjoittaa seuraavasti: d 2 F (a ; b) = 2 ∑ i = 1 n (x i) 2 d 2 a + 2 2 ∑ x i i = 1 n d a d b + (2 n) d 2 b .

Olemme saaneet matriisin, jonka neliömuoto on M = 2 ∑ i = 1 n (x i) 2 2 ∑ i = 1 n x i 2 ∑ i = 1 n x i 2 n .

Tässä tapauksessa yksittäisten elementtien arvot eivät muutu a:sta ja b:stä riippuen. Onko tämä matriisi positiivinen? Vastataksemme tähän kysymykseen tarkistamalla, ovatko sen kulmikkaat alaikäiset positiiviset.

Laske ensimmäisen kertaluvun kulmamolli: 2 ∑ i = 1 n (x i) 2 > 0 . Koska pisteet x i eivät ole samat, epäyhtälö on tiukka. Pidämme tämän mielessä tulevissa laskelmissa.

Laskemme toisen asteen kulmamollin:

d e t (M) = 2 ∑ i = 1 n (x i) 2 2 ∑ i = 1 n x i 2 ∑ i = 1 n x i 2 n = 4 n ∑ i = 1 n (x i) 2 - 1 2 n i = i

Tämän jälkeen edetään matemaattisen induktion avulla epäyhtälön n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 todistukseen.

1. Tarkastetaan, onko tämä epäyhtälö pätevä mielivaltaiselle n:lle. Otetaan 2 ja lasketaan:

2 ∑ i = 1 2 (x i) 2 - ∑ i = 1 2 x i 2 = 2 x 1 2 + x 2 2 - x 1 + x 2 2 = = x 1 2 - 2 x 1 x 2 + x 2 2 = x 1 + x 2 2 > 0

Saimme oikean yhtälön (jos arvot x 1 ja x 2 eivät täsmää).

1. Oletetaan, että tämä epäyhtälö on totta n:lle, ts. n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 – totta.
2. Todistetaan nyt pätevyys n + 1:lle, ts. että (n + 1) ∑ i = 1 n + 1 (x i) 2 - ∑ i = 1 n + 1 x i 2 > 0, jos n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 .

Laskemme:

(n + 1) ∑ i = 1 n + 1 (x i) 2 - ∑ i = 1 n + 1 x i 2 = = (n + 1) ∑ i = 1 n (x i) 2 + x n + 1 2 - ∑ i = 1 n x i + x n + 1 2 = = n ∑ i = 1 n (x i) 2 + n x n + 1 2 + ∑ i = 1 n (x i) 2 + x n + 1 2 - - ∑ i = 1 n x i 2 + x n + 1 ∑ i = 1 n x i + x n + 1 2 = = ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 + n x n + 1 2 - x n + 1 ∑ i = 1 n x 1 n (x i) 2 = = ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 + x n + 1 2 - 2 x n + 1 x 1 + x 1 2 + + x n + 1 2 - 2 x n + 1 x 2 + x 2 2 + . . . + x n + 1 2 - 2 x n + 1 x 1 + x n 2 = = n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 + + (x n + 1 - x 1) 2 + (x n + 1) - x 2) 2 + . . . + (x n - 1 - x n) 2 > 0

Aaltosulkeiden sisällä oleva lauseke on suurempi kuin 0 (perustuu siihen, mitä oletimme vaiheessa 2), ja loput termit ovat suurempia kuin 0, koska ne ovat kaikki numeroiden neliöitä. Olemme todistaneet eriarvoisuuden.

Vastaus: löydetyt a ja b vastaavat funktion pienintä arvoa F (a, b) = ∑ i = 1 n (y i - (a x i + b)) 2, mikä tarkoittaa, että ne ovat pienimmän neliösumman menetelmän haluttuja parametreja (LSM).

Jos huomaat tekstissä virheen, korosta se ja paina Ctrl+Enter

Pienimmän neliösumman menetelmällä (LSM) voit arvioida erilaisia ​​suureita käyttämällä useiden satunnaisvirheitä sisältävien mittausten tuloksia.

Tyypillinen MNC

Tämän menetelmän perusideana on, että neliövirheiden summaa pidetään kriteerinä ongelman ratkaisun tarkkuudelle, jota pyritään minimoimaan. Tätä menetelmää käytettäessä voidaan soveltaa sekä numeerista että analyyttistä lähestymistapaa.

Erityisesti numeerisena toteutuksena pienimmän neliösumman menetelmä tarkoittaa, että tuntemattomasta satunnaismuuttujasta tehdään mahdollisimman monta mittausta. Lisäksi mitä enemmän laskelmia, sitä tarkempi ratkaisu on. Tästä laskelmien sarjasta (alkutiedot) saadaan toinen joukko ehdotettuja ratkaisuja, joista sitten valitaan paras. Jos ratkaisujoukko on parametroitu, pienimmän neliösumman menetelmä pelkistetään parametrien optimaalisen arvon löytämiseen.

Analyyttisenä lähestymistapana LSM:n toteuttamiseen lähtötietojen (mittausten) ja ehdotettujen ratkaisujen joukkoon määritetään joitakin (funktionaalisia), jotka voidaan ilmaista kaavalla, joka on saatu tiettynä hypoteesina, joka on vahvistettava. . Tässä tapauksessa pienimmän neliösumman menetelmä pelkistetään tämän funktion minimin löytämiseksi lähtötietojen neliövirheiden joukosta.

Huomaa, että eivät itse virheet, vaan virheiden neliöt. Miksi? Tosiasia on, että usein mittausten poikkeamat tarkasta arvosta ovat sekä positiivisia että negatiivisia. Keskiarvoa määritettäessä yksinkertainen summaus voi johtaa väärään johtopäätökseen arvion laadusta, koska positiivisten ja negatiivisten arvojen keskinäinen peruuttaminen vähentää mittausjoukon näytteenottotehoa. Ja näin ollen arvioinnin tarkkuus.

Tämän estämiseksi neliöidyt poikkeamat lasketaan yhteen. Vielä enemmän, jotta mitatun arvon ja lopullisen estimaatin ulottuvuus tasoitetaan, erotellaan neliövirheiden summaa.

Jotkut MNC-sovellukset

MNC:tä käytetään laajasti eri aloilla. Esimerkiksi todennäköisyysteoriassa ja matemaattisessa tilastossa menetelmää käytetään sellaisen satunnaismuuttujan ominaisuuden määrittämiseen kuin keskihajonta, joka määrittää satunnaismuuttujan arvoalueen leveyden.

• opetusohjelma

Johdanto

Olen tietokoneohjelmoija. Tein urani suurimman harppauksen, kun opin sanomaan: "En ymmärrä mitään!" Nyt en häpeä kertoa tieteen valoisalle, että hän pitää minulle luennon, etten ymmärrä, mistä se, luminary, puhuu minulle. Ja se on erittäin vaikeaa. Kyllä, on vaikeaa ja noloa myöntää, ettet tiedä. Kuka haluaa myöntää, että hän ei tiedä jonkin perusasiat - siellä. Ammattini takia joudun osallistumaan lukuisiin esityksiin ja luentoihin, joissa, myönnän, suurimmassa osassa tapauksista tunnen oloni uniseksi, koska en ymmärrä mitään. Ja en ymmärrä, koska tieteen nykytilanteen valtava ongelma on matematiikassa. Siinä oletetaan, että kaikki opiskelijat tuntevat ehdottomasti kaikki matematiikan osa-alueet (mikä on absurdia). On sääli myöntää, että et tiedä mikä johdannainen on (että tämä on vähän myöhemmin).

Mutta olen oppinut sanomaan, että en tiedä mitä kertolasku on. Kyllä, en tiedä mikä alialgebra lie-algebran yläpuolella on. Kyllä, en tiedä miksi toisen asteen yhtälöitä tarvitaan elämässä. Muuten, jos olet varma, että tiedät, meillä on jotain puhuttavaa! Matematiikka on sarja temppuja. Matemaatikot yrittävät hämmentää ja pelotella yleisöä; missä ei ole hämmennystä, ei mainetta, ei auktoriteettia. Kyllä, on arvovaltaa puhua mahdollisimman abstraktia kieltä, mikä on sinänsä täyttä hölynpölyä.

Tiedätkö mikä on johdannainen? Todennäköisesti kerrot minulle erosuhteen rajasta. Ensimmäisenä vuonna matematiikan Pietarin valtionyliopistossa Viktor Petrovich Khavin minua määritelty derivaatta funktion Taylor-sarjan ensimmäisen termin kertoimena pisteessä (se oli erillinen voimistelu Taylor-sarjan määrittämiseksi ilman derivaattoja). Nauroin tälle määritelmälle pitkään, kunnes vihdoin ymmärsin, mistä siinä oli kyse. Derivaata ei ole muuta kuin vain mitta siitä, kuinka paljon erottamamme funktio on samanlainen kuin funktio y=x, y=x^2, y=x^3.

Minulla on nyt kunnia luennoida opiskelijoille, jotka pelko matematiikka. Jos pelkäät matematiikkaa - olemme matkalla. Heti kun yrität lukea tekstiä ja se näyttää sinusta liian monimutkaiselta, tiedä, että se on huonosti kirjoitettu. Väitän, ettei ole olemassa yhtä matematiikan aluetta, josta ei voida puhua "sormilla" menettämättä tarkkuutta.

Haaste lähitulevaisuudelle: Opastin oppilaitani ymmärtämään, mitä lineaari-neliöohjain on. Älä ole ujo, tuhlaa kolme minuuttia elämästäsi, seuraa linkkiä. Jos et ymmärrä mitään, olemme matkalla. Minä (ammattimainen matemaatikko-ohjelmoija) en myöskään ymmärtänyt mitään. Ja voin vakuuttaa teille, että tämä voidaan selvittää "sormilla". Tällä hetkellä en tiedä mikä se on, mutta vakuutan, että voimme selvittää sen.

Joten ensimmäinen luento, jonka aion pitää opiskelijoilleni sen jälkeen, kun he juoksevat luokseni kauhuissaan sanoen, että lineaarinen-kvadraattinen ohjain on kauhea bugi, jota et koskaan hallitse elämässäsi. pienimmän neliösumman menetelmät. Osaatko ratkaista lineaarisia yhtälöitä? Jos luet tätä tekstiä, luultavasti et.

Joten kun on annettu kaksi pistettä (x0, y0), (x1, y1), esimerkiksi (1,1) ja (3,2), tehtävänä on löytää näiden kahden pisteen kautta kulkevan suoran yhtälö:

kuva

Tällä suoralla pitäisi olla seuraava yhtälö:

Tässä alfa ja beta ovat meille tuntemattomia, mutta kaksi pistettä tästä viivasta tunnetaan:

Voit kirjoittaa tämän yhtälön matriisimuodossa:

Tässä meidän pitäisi tehdä lyyrinen poikkeama: mikä on matriisi? Matriisi ei ole muuta kuin kaksiulotteinen taulukko. Tämä on tapa tallentaa tietoja, sille ei pidä antaa enempää arvoja. On meistä itsestämme kiinni, kuinka tarkkaan tulkitaan tietty matriisi. Ajoittain tulkitsen sen lineaarisena mappauksena, ajoittain neliömuotona ja joskus yksinkertaisesti vektoreiden joukona. Tämä kaikki selvitetään kontekstissa.

Korvataan tietyt matriisit niiden symbolisella esityksellä:

Sitten (alfa, beta) löytyy helposti:

Tarkemmin aiemmista tiedoistamme:

Mikä johtaa seuraavaan yhtälöön pisteiden (1,1) ja (3,2) läpi kulkevasta suorasta:

Okei, kaikki on selvää täällä. Ja etsitään läpi kulkevan suoran yhtälö kolme pisteet: (x0,y0), (x1,y1) ja (x2,y2):

Voi-o-oi, mutta meillä on kolme yhtälöä kahdelle tuntemattomalle! Tavallinen matemaatikko sanoo, ettei ratkaisua ole. Mitä ohjelmoija sanoo? Ja hän kirjoittaa ensin edellisen yhtälöjärjestelmän uudelleen seuraavassa muodossa:

Tässä tapauksessa vektorit i, j, b ovat kolmiulotteisia, joten (yleisessä tapauksessa) tälle järjestelmälle ei ole ratkaisua. Mikä tahansa vektori (alpha\*i + beta\*j) on vektorien (i, j) kattamassa tasossa. Jos b ei kuulu tähän tasoon, ratkaisua ei ole (yhtälön tasa-arvoa ei voida saavuttaa). Mitä tehdä? Etsitään kompromissia. Merkitään e (alfa, beta) kuinka emme saavuttaneet tasa-arvoa:

Ja yritämme minimoida tämän virheen:

Miksi neliö?

Emme etsi vain normin minimiä, vaan normin neliön minimiä. Miksi? Itse minimipiste osuu samaan, ja neliö antaa tasaisen funktion (argumenttien neliöfunktio (alfa,beta)), kun taas pelkkä pituus antaa kartion muodossa olevan funktion, joka ei erotu minimipisteessä. Brr. Neliö on kätevämpi.

Ilmeisesti virhe on minimoitu, kun vektori e kohtisuorassa vektorien kattamaa tasoa vastaan i ja j.

Kuva

Toisin sanoen: etsimme sellaista suoraa, jossa kaikkien pisteiden ja tämän suoran välisten etäisyyksien neliöityjen pituuksien summa on minimaalinen:

PÄIVITYS: tässä minulla on jamb, etäisyys linjaan tulee mitata pystysuorassa, ei ortografisessa projektiossa. Tämä kommentoija on oikeassa.

Kuva

Täysin eri sanoin (huolellisesti, huonosti muotoiltu, mutta sen pitäisi olla selvää sormilla): otamme kaikki mahdolliset viivat kaikkien pisteparien välillä ja etsimme keskimääräistä viivaa kaikkien välillä:

Kuva

Toinen selitys sormissa: kiinnitämme jousen kaikkien datapisteiden (tässä niitä on kolme) ja etsimämme viivan väliin, ja tasapainotilan viiva on juuri se, mitä etsimme.

Minimi neliömuoto

Toisin sanoen etsimme vektoria x=(alfa, beta), joka on:

Muistutan, että tämä vektori x=(alfa, beta) on neliöfunktion ||e(alfa, beta)||^2 minimi:

Tässä on hyvä muistaa, että matriisi voidaan tulkita yhtä hyvin kuin neliömuoto, esimerkiksi identiteettimatriisi ((1,0),(0,1)) voidaan tulkita x^2 + y:n funktiona. ^2:

neliömuoto

Kaikki tämä voimistelu tunnetaan lineaarisena regressiona.

Laplacen yhtälö Dirichlet-rajaehdon kanssa

Alkuperäinen sitoumus on saatavilla. Ulkoisten riippuvuuksien minimoimiseksi otin ohjelmiston renderöijani koodin jo Habreen. Lineaarisen järjestelmän ratkaisemiseen käytän OpenNL:ää, se on loistava ratkaisu, mutta sen asentaminen on erittäin vaikeaa: sinun on kopioitava kaksi tiedostoa (.h + .c) projektikansioosi. Kaikki tasoitus tehdään seuraavalla koodilla:

For (int d=0; d<3; d++) { nlNewContext(); nlSolverParameteri(NL_NB_VARIABLES, verts.size()); nlSolverParameteri(NL_LEAST_SQUARES, NL_TRUE); nlBegin(NL_SYSTEM); nlBegin(NL_MATRIX); for (int i=0; i<(int)verts.size(); i++) { nlBegin(NL_ROW); nlCoefficient(i, 1); nlRightHandSide(verts[i][d]); nlEnd(NL_ROW); } for (unsigned int i=0; i&face = kasvot[i]; for (int j = 0; j<3; j++) { nlBegin(NL_ROW); nlCoefficient(face[ j ], 1); nlCoefficient(face[(j+1)%3], -1); nlEnd(NL_ROW); } } nlEnd(NL_MATRIX); nlEnd(NL_SYSTEM); nlSolve(); for (int i=0; i<(int)verts.size(); i++) { verts[i][d] = nlGetVariable(i); } }

X-, Y- ja Z-koordinaatit ovat erotettavissa, tasoitan ne erikseen. Eli ratkaisen kolme lineaariyhtälöjärjestelmää, joissa kussakin on niin monta muuttujaa kuin mallissani on pisteitä. Matriisin A ensimmäisellä n rivillä on vain yksi 1 riviä kohden, ja vektorin b ensimmäisillä n rivillä on alkuperäiset mallikoordinaatit. Eli jousisidon uuden kärkiaseman ja vanhan kärkiaseman välille - uudet eivät saa olla liian kaukana vanhoista.

Matriisin A kaikilla myöhemmillä riveillä (faces.size()*3 = ruudukon kaikkien kolmioiden reunojen lukumäärä) on yksi esiintyminen 1 ja yksi esiintyminen -1, kun taas vektorissa b on nolla vastakkaista komponenttia. Tämä tarkoittaa, että laitan jousen kolmioverkkomme jokaiseen reunaan: kaikki reunat yrittävät saada saman kärjen kuin niiden aloitus- ja loppupisteet.

Jälleen kerran: kaikki kärjet ovat muuttujia, eivätkä ne voi poiketa kauas alkuperäisestä sijainnistaan, mutta samalla ne yrittävät tulla samanlaisiksi toistensa kanssa.

Tässä on tulos:

Kaikki olisi hyvin, malli on todella tasoitettu, mutta se siirtyi pois alkuperäisestä reunastaan. Muutetaan koodia hieman:

For (int i=0; i<(int)verts.size(); i++) { float scale = border[i] ? 1000: 1; nlBegin(NL_ROW); nlCoefficient(i, scale); nlRightHandSide(scale*verts[i][d]); nlEnd(NL_ROW); }

Matriisissamme A reunassa oleville pisteille en lisää riviä luokasta v_i = verts[i][d], vaan 1000*v_i = 1000*verts[i][d]. Mitä se muuttaa? Ja tämä muuttaa virheen neliöllisen muotomme. Nyt yksittäinen poikkeama ylhäältä reunassa ei maksa yhtä yksikköä, kuten ennen, vaan 1000 * 1000 yksikköä. Eli ääripisteisiin ripustettiin vahvempi jousi, ratkaisu mieluummin venyttää muita voimakkaammin. Tässä on tulos:

Kaksinkertaistetaan kärkien välisten jousien vahvuus:
nlKerroin(kasvo[ j ], 2); nlKerroin(kasvo[(j+1)%3], -2);

On loogista, että pinnasta on tullut tasaisempi:

Ja nyt jopa sata kertaa vahvempi:

Mikä tämä on? Kuvittele, että olemme kastaneet lankarenkaan saippuaveteen. Tämän seurauksena tuloksena oleva saippuakalvo yrittää saada mahdollisimman vähän kaarevuutta koskettaen samaa reunaa - lankarengaamme. Juuri tämän saimme kiinnittämällä reunuksen ja pyytämällä sileää pintaa sisälle. Onnittelut, olemme juuri ratkaisseet Laplacen yhtälön Dirichlet-rajaehdoilla. Kuulostaa siistiltä? Mutta itse asiassa vain yksi lineaarinen yhtälöjärjestelmä ratkaistavaksi.

Poissonin yhtälö

Oletetaan, että minulla on tällainen kuva:

Kaikki ovat hyviä, mutta minä en pidä tuolista.

Leikkasin kuvan kahtia:

Ja valitsen tuolin käsilläni:

Vedän sitten kuvan vasempaan reunaan kaiken, mikä on maskissa valkoista ja sanon samalla läpi koko kuvan, että kahden vierekkäisen pikselin eron tulee olla yhtä suuri kuin kuvan kahden vierekkäisen pikselin ero. oikea kuva:

For (int i=0; i

Tässä on tulos:

Koodi ja kuvat löytyy