3 Tiesiniai neuroniniai tinklai regresijai

Prieš rūpindamiesi, kad mūsų neuroniniai tinklai taptų gilūs, naudinga įgyvendinti keletą sekliųjų, kuriuose įvestys jungiasi tiesiogiai su išvestimis. Tai pasirodys svarbu dėl kelių priežasčių. Pirma, užuot blaškęsi dėl sudėtingų architektūrų, galime sutelkti dėmesį į neuroninių tinklų apmokymo pagrindus, įskaitant išvesties sluoksnio parametrizavimą, duomenų tvarkymą, nuostolių funkcijos nurodymą ir modelio apmokymą. Antra, ši seklių tinklų klasė sudaro tiesinių modelių aibę, apimančią daugelį klasikinių statistinės prognozės metodų, įskaitant tiesinę ir softmax regresiją. Suprasti šias klasikines priemones labai svarbu, nes jos plačiai naudojamos daugelyje kontekstų ir dažnai reikės jas naudoti kaip bazines linijas, pagrindžiant sudėtingesnių architektūrų naudojimą. Šiame skyriuje apsiribosime tiesine regresija, o kitame skyriuje išplėsime savo modeliavimo repertuarą, sukurdami tiesinius neuroninius tinklus klasifikavimui.