Kapitola 21
Státnice I3: Metody strojového učení

21.1 Úvod

Formálně se strojové učení definuje následovně: Počítač se učí řešit úlohu třídy se zkušeností a úspěšností měřenou kritériem , jestliže se jeho úspěšnost se vzrůstající zkušeností zvyšuje.

Př.: = parsing, = treebank, počet správně určených hran.

Je třeba určit druh znalostí, které se bude počítač učit, a jejich reprezentaci a navrhnout konkrétní algoritmus učení. Typicky se jedná o aproximaci nějaké cílové funkce, která realizuje úkol, jenž chceme počítač naučit (reálná funkce – regrese, diskrétní – klasifikace).

Zkušenost může být přímá (zápis pravidel) a nepřímá (“dobré” postupy na základě trénovacích dat). Učení může být supervised (s učitelem, kdy = trénovací data), semi-supervised (systém generuje postupy a něco je známkuje) nebo neřízené.

21.2 Učení založené na konceptu

Učení se konceptů lze definovat jako získání vymezení nějakého konceptu na základě vzorku pozitivních a negativních trénovacích příkladů (instancí) – trénovacích dat , kde jsou atributy a je klasifikace instancí. Snažíme se najít cílovou funkci . Hledáme ji nad prostorem hypotéz (modelem) ; tj. hledáme .

Učení se konceptů můžeme chápat jako vyhledávání. V množině hypotéz se nachází prostor možností (version space) – podmnožina hypotéz konzistentních s trénovacími daty (množina cílových funkcí, které klasifikují trénovací data správně) a v této podmnožině se někde nachází optimální hypotéza. Pomocí strojového učení se jí přibližujeme, od startovací hypotézy se postupně dostaneme do něčeho, co je konzistentní s trénovacími daty, ale ne nutně k optimu.

Hledáme takovou hypotézu, která by odpovídala cílové funkci na všech trénovacích příkladech: . Hypotéza, která je “vhodně dobrou” aproximací cílové funkce nad trénovacími daty, bude i “vhodně dobrou” aproximací nad ostatními daty.

Uspořádání hypotéz

Zvolme si reprezentaci hypotéz jako -tici “povolených” hodnot proměnných z trénovacích příkladů, přičemž pro hypotézu může být hodnotou:

- Specifická hodnota dané proměnné (tj. povolená je jedna hodnota)

- “” (tj. na hodnotě této proměnné nezáleží, povolené je všechno)

- “” (tj. nevyhovuje žádná hodnota této proměnné)

Pokud instance vyhovuje všemi svými hodnotami proměnných povoleným hodnotám pro hypotézu , potom , tj. hypotéza klasifikuje jako pozitivní příklad.

Potom nejobecnější hypotéza je taková, která cokoliv klasifikuje jako pozitivní případ, tj. a nejspecifičtější hypotéza taková, která vše klasifikuje jako negativní, tj. .

Pro prohledávání prostoru hypotéz máme vodítko: uspořádání podle specifičnosti.

- Hypotéza je obecnější než hypotéza (), právě když (můžeme říct, že je specifičtější než ). Relace je částečné uspořádání nad prostorem .

- Hypotéza je striktně obecnější než (), pokud je obecnější než , ale není obecnější než .

Ještě definujme hranici obecnosti (general boundary) vzhledem k a jako množinu nejobecnějších hypotéz z konzistentních s . Proti tomu Hranice specifičnosti (specific boundary) vzhledem k a je množina nejspecifičtějších hypotéz z konzistentních s .

Algoritmus Find-S

Nalezne nejspecifičtější hypotézu, která ještě vyhovuje trénovacím datům.

1. Vezmi nejspecifičtější hypotézu

2. pozitivní trénovací příklad a atribut reprezentace : pokud hodnota u neodpovídá , nahraď hodnotu v nejbližší obecnou hodnotou, která odpovídá

3. Po projití všech pozitivních příkladů vrať upravené

Find-S vrátí nejspecifičtější hypotézu konzistentní s pozitivními trénovacími příklady. Za předpokladů, že prohledávaný soubor hypotéz obsahuje cílovou funkci a trénovací data neobsahují chyby, bude nalezená hypotéza konzistentní i s negativními trénovacími příklady, tj. s celými trénovacími daty.

Je-li víc správných hypotéz, nalezneme takto jen jednu z nich, navíc neodhalíme nekonzistenci trénovacích dat. Nemusí existovat ani jen jedna nejspecifičtější hypotéza.

Problém nalezení všech konzistentních hypotéz řeší algoritmus Candidate-Elimination.

Algoritmus Candidate-Elimination

Algoritmus pracuje s prostorem možností, určeným hranicí obecnosti a hranicí specifičnosti. To je možné proto, že platí následující věta:

Věta o reprezentaci prostoru možností: .

Postup algoritmu:

1. Do přiřaď množinu nejobecnějších, resp. nejspecifičtějších hypotéz z

2. Postupuj přes trénovací příklady :

3. Je-li příklad pozitivní:

1. Odstraň z hypotézy nekonzistentní s .

2. Každou s nekonzistentní hypotézu z odstraň a přidej do její minimální zobecnění konzistentní s , pro které existuje nějaká obecnější hypotéza v . Odstraň pak z hypotézy, které jsou obecnější než jiné hypotézy v .

4. Je-li příklad negativní:

1. Odstraň z hypotézy nekonzistentní s .

2. Každou s nekonzistentní hypotézu z odstraň a přidej do její minimální specializaci konzistentní s , pro kterou existuje nějaká specifičtější hypotéza v . Odstraň pak z hypotézy, které jsou specifičtější než jiné hypotézy v .

5. Na konci vrať jako reprezentaci prostoru možností.

Induktivní předpoklad

Různé algoritmy různým způsobem zobecňují údaje získané z trénovacích dat, aby byly schopny klasifikovat i dříve neviděné příklady. Pro zachycení této strategie definujme:

- Je-li algoritmus natrénovaný na datech schopný klasifikovat instanci , je tato klasifikace (ozn. ) induktivně odvoditelná z oné instance a trénovacích dat. Píšeme . To ale ještě neznamená, že je z instance a dat dokazatelná – algoritmus v sobě může obsahovat navíc induktivní předpoklad.

- Induktivní předpoklad (inductive bias) algoritmu je minimální množina tvrzení taková, že pro libovolnou cílovou funkci definovanou nad instancemi a odp. trénovací data platí: , tj. klasifikace algoritmem natrénovaným na je dokazatelná z instance, trénovacích dat a induktivního předpokladu.

Algoritmus Candidate-Elimination předpokládá, že cílovou funkci lze popsat pomocí naší zvolené reprezentace, tj. nachází se v našem prostoru hypotéz: . Bude-li tento předpoklad splněn, pak najde optimální hypotézu. Je jasné, že tento předpoklad splněn nebude, když např. dvě konkrétní hodnoty nějakého atributu budou určovat pozitivní případy a zbytek negativní. Find-S oproti Candidate-Elimination ještě navíc předpokládá, že všechny příklady jsou negativní, pokud jejich protějšek nepřináší novou znalost.

Kdybychom zvolili reprezentaci hypotéz disjunkcemi všech možných hodnot atributů, tj. nechali induktivní předpoklad prázdný, Candidate-Elimination nebude schopný zobecňovat za hranici trénovacích příkladů (nalezená hypotéza bude čistě disjunkcí všech trénovacích příkladů).

Pro algoritmy učení je tedy třeba uvažovat, jak silné mají indukční předpoklady. Ty jsou někdy velice striktní, jako v případě Candidate-Elimination, někdy znamenají jen preferenci určitého typu hypotéz (např. co nejkratších, podle kritéria Occamovy břitvy).

21.3 Rozhodovací stromy

Rozhodovací stromy jsou induktivní algoritmy, vytvořené ke klasifikaci instancí, které popisují pomocí “disjunkce konjunkcí”. Můžeme je použít, když instance jsou popsány atributy a hodnotami a cílová funkce je diskrétní. V trénovacích datech můžou být i chyby nebo nevyplněné atributy.

Cílová funkce je tu reprezentována právě rozhodovacím stromem (sekvencí rozhodnutí if-then-else), klasifikace se provádí průchodem stromu od kořene k listům, přičemž se v každém uzlu testuje hodnota jednoho atributu instance a na jejím základě se určí další směr (zvolí se hrana). Každý list určuje klasifikaci instance.

ID3 algoritmus

ID3 je algoritmus, který vytváří rozhodovací stromy na základě trénovacích dat. Postupuje top-down – konstruuje strom od kořene. V každém uzlu si klade otázku: Který atribut je nejlepší pro tento uzel? a řeší ji statistickým testem na základě maximální entropie. Počet větví vedoucích z uzlu je počet možných hodnot atributu, takže ho známe hned po vytvoření uzlu. Trénovací data jsou při vytváření dělena podle atributů v daném uzlu.

Pracuje rekurzivně:

1. Vyřeší singulární případy:

1. Všechna trénovací data jsou pozitivní případy / negativní případy: vytvoří jednouzlové stromy s (+) nebo (-).

2. Nemáme (už) žádné atributy: vytvoří jednouzlový strom s (nejčastější hodnota cíl. funkce v relevantní části trénovacích dat).

2. Vybere atribut , který nejlépe klasifikuje trénovací data a:

1. Pro každou jeho možnou hodnotu udělá poduzel, rozdělí trénovací data podle těchto hodnot.

2. Máme-li pro danou hodnotu atributu trénovací data, volá se rekurzivně (na danou část trénovacích dat a atributy s vynechaným ).

3. Pokud nejsou trénovací data, vloží list s (nejčastější hodnota cíl. funkce v celých trénovacích datech).

3. Vrátí výsledný (pod)strom.

Prochází se celý hypothesis space, ale hladovým způsobem bez backtrackingu. Výstupem je 1 rozhodovací strom, tj. jedna hypotéza.

Výběr nejlepšího atributu probíhá na základě informačního zisku. Který atribut má nejvyšší informační zisk (míra očekávaného snížení entropie, vlastně vzájemná informace cílové klasifikace a atributu), ten je vybrán. Platí: , kde:

- je informační zisk pro data a atribut ,

- je entropie dat vzhledem k cílové funkci,

- jsou data, která mají hodnotu atributu rovnou .

ID3 prochází úplný prostor hypotéz tím, že začíná od nejjednodušší a postupně ji zesložiťuje, netestuje ale zdaleka všechny možnosti. Na rozdíl od předchozích algoritmů v každém kroku uvažuje celá trénovací data. Induktivní předpoklad ID3 je (přibližně) preference kratších stromů.

Vylepšení ID3 (zhruba odpovídá algoritmu C4.5)

Jedním z možných problémů je overfitting, tj. přílišné přizpůsobení se trénovacím datům. Řekneme, že hypotéza overfituje trénovací data, pokud existuje hypotéza taková, že má menší chybu než na trénovacích datech, ale na celé distribuci instancí je to naopak.

Vyvarovat se overfittingu lze prořezáváním (pruning) – nahrazením některých podstromů listem s nejčastější hodnotou cílové funkce na trénovacích datech. Lze provádět buď rovnou zastavením tvorby stromu dřív, než dosáhne ideální klasifikace trénovacích dat, nebo zpětně strom zjednodušit za použití heldout dat pro validaci při trénování (reduced error pruning).

Složitější je strategie rule-post-pruning spočívá v následujícím postupu:

1. Vytvoření rozhodovacího stromu.

2. Jeho převedení na pravidla (počet pravidel = počet listů), kdy 1 pravidlo je 1 cesta od listu ke kořeni.

3. Pro každé pravidlo zahodit ty podmínky, jejichž vyhozením se přesnost pravidla zlepší.

4. Pravidla setřídit podle přesnosti na trénovacích datech, reálná data klasifikovat použitím pravidel v tomto pořadí.

Proti prořezávání nad stromem nemusíme vyhazovat jen z konce stromu, máme jemnější rozlišení.

Je-li některý atribut spojitý (ale cílové ohodnocení stále diskrétní), lze ho převést na diskrétní nalezením jednoho předělu, pro který dostaneme nejvyšší informační zisk.

Má-li atribut více hodnot (např. nějaké datum), informační zisk ho bude preferovat, což často vede k vytvoření stromu hloubky 1, který funguje jen na trénovací data. Musíme pak změnit test výběru atributů, místo zisku informace používáme např. ziskový poměr (gain ratio):

- Rozštěpení informace (split information):

- Ziskový poměr: , kde je informační zisk pro trénovací data a atribut

Jsou i jiné alternativní způsoby výběru nejlepšího atributu, např. distance-based measure, kdy se vybírá atribut, který dělí data co nejrovnoměrněji podle nějaké metriky (směrodatná odchylka, Gini koeficient).

Neznáme-li hodnotu některého z atributů, můžeme mu přiřadit nejčastější hodnotu, nebo rozhodování rozdělit podle všech možných hodnot a na konci udělat průměr výsledků vážený podle jejich pravděpodobnosti výskytu.

Pokud jsou některé atributy důležitější než jiné, zavádí se cena atributu (cost of the attribute) a jiné kritérium výběru atributu.

21.4 Neuronové sítě

Vznik neuronových sítí je motivován biologicky, funkcí mozku jako spojení mnoha neuronů. Umělé neuronové sítě ale jsou poněkud jednodušší – jedná se o propojenou množinu jednotek (neuronů), z nichž každá z několika reálných hodnot na vstupu vydá jednu reálnou hodnotu na výsupu. Živé neurony proti tomu vydávají mnohem složitější elektrické signály.

Neuronová síť bývá typicky zapojená jako orientovaný acyklický graf, ale nemusí to být nutné. Tady se ale omezíme jen na takové sítě, protože na ně známe jednoduchý algoritmus trénování – backpropagation.

Neuronové sítě jsou vhodné pro složitá a potenciálně zašuměná vstupní data, jako např. vstupy z kamer a mikrofonů (rozpoznávání řeči, rozpoznávání obličejů apod.). Jsou ale použitélná i pro data se symbolickou reprezentací, kde dosahují výsledků srovnatelných s rozhodovacími stromy. Cílová funkce může být reálná i diskrétní a může jít i o vektor hodnot. Trénování zpravidla trvá dlouho, ale klasifikace nových instancí je velmi rychlá. Natrénované hodnoty se často nedají dobře interpretovat, ale fungují.

Perceptron

Perceptron je vlastně jeden druh neuronu často používaného v neuronových sítích. Jde o jednotku, která ze vstupu spočítá hodnotu výstupu . Podle druhu výpočtu rozlišujeme :

- Lineární perceptron, který počítá lineární kombinaci vstupů na základě natrénovaných vah – . Můžeme přidat a zapsat jeho výpočet jako .

- (Základní) prahový perceptron, který počítá funkci a vrací diskrétní hodnoty .

- Sigmoidovou jednotku, který používá sigmoidovou (logistickou) funkci a počítá . I když funguje na stejném principu jako dva předchozí a vlastně dává podobné výsledky jako prahový perceptron (její obor hodnot je interval ), podle jména se mezi perceptrony nepočítá.

Jak je vidět, prostor hypotéz perceptronu je množina všech možných reálných vah ().

Uvažujme nyní prahový perceptron. Ten se vlastně dá považovat za reprezentaci “rozhodující nadroviny” v -dimenzionálním prostoru instancí (to jsou vlastně body v -rozměrném prostoru). Vrací pro body, které leží na jedné straně nadroviny a pro ty na druhé straně. To ale znamená, že správně umí klasifikovat jen problémy, kde opravdu pozitivní a negativní příklady jdou oddělit nadrovinou. Takovým problémům (a množině příkladů) se říká lineárně separovatelné.

Př. Perceptron se umí naučit booleovské funkce AND a OR, ale neumí XOR, protože není lineárně separovatelná.

Následují dvě možnosti, jak perceptron natrénovat. Další alternativou by bylo i lineární programování, ale to funguje jen v lineárně separovatelném případě a navíc se nedá použít jako základ pro složitější sítě.

Perceptron Training Rule

Nejjednodušším způsobem, jak natrénovat váhy (prahového) perceptronu, je použít perceptron training rule – začneme s náhodnými vahami a iterativně zkoušíme klasifikovat trénovací příklady a jakmile dojde ke špatné klasifikaci, váhy změníme. Formálně v každém kroku provedeme:

, kde

Hodnota je výstup perceptronu a správná klasifikace. Hodnotě říkáme learning rate – určuje, jak ostře nové příklady ovlivňují původní hodnoty vah. Většinou je nastavená na nějakou malou hodnotu, můžeme ji i snižovat s počtem iterací.

V případě, že trénovací příklady jsou lineárně separovatelné, takovýto algoritmus po konečném počtu iterací dojde k vektoru vah, se kterým perceptron správně klasifikuje všechny trénovací příklady.

Gradient Descent (Delta Rule)

Jiný způsob je gradient descent (klesání podle gradientu). Uvažujme nyní lineární perceptron, abychom mohli snadno derivovat. Stanovíme si funkci, která hodnotí trénovací chybu hypotézy (tj. vektoru vah) a iterativně budeme hledat, kterým směrem jde gradient a vydáme se přesně opačným (tj. proti směru největšího růstu funkce). Tak dojdeme pro “hezké funkce” do místa, kde je gradient nulový a tedy je tam (bohužel jen lokální) minimum chybové funkce. Pro lineárně separovatelné trénovací instance bychom se měli dostat k nulové chybě, ale i pro neseparovatelné dostaneme (snad) to nejlepší, co můžeme. Velmi vhodnou funkcí trénovací chyby je:

, kde jsou trénovací data a skutečná hodnota a výstup perceptronu jako v předchozí sekci.

Potom metoda gradient descent postupuje stejně iterativně jako v předchozím případě:

, kde (bereme záporný gradient, takže jdeme opačným směrem)

Pokud si upravovací pravidlo rozložíme na jednotlivé složky, můžeme vypočítat:

a

značí vstup v trénovacím příkladu . Dosazení do původní rovnice dává pravidlo:

Pro zrychlení výpočtu a snížení rizika “zamrznutí” v lokálním minimu se používá stochastická aproximace (inkrementální nebo stochastický gradient descent), kdy váhy upravuji ne podle gradientu na celých trénovacích datech, ale jen s přihlédnutím k jednomu trénovacímu příkladu :

Protože prahový perceptron čistě vrací znaménko výstupu lineárního perceptronu, je možné perceptron natrénovat touto metodou jako lineární a pak použít prahy (ale pozor, neminimalizujeme počet špatně klasifikovaných příkladů prahového perceptronu, ale sumu chyby lineárního perceptronu, což nemusí vést ke stejným výsledkům).

Neuronová síť

Perceptrony se dají spojovat do sítí a potom jsou schopny se naučit i lineárně neseparovatelné problémy (to ale neplatí o lineárních perceptronech – lineární kombinace lineárních kombinací je pořád lineární kombinace). Protože síťovat lineární perceptrony tedy nemá smysl a prahové perceptrony používají funkci, která se nedá dobře derivovat, použijeme sigmoidové jednotky. Derivace sigmoidové funkce je totiž . Někdy se používá i varianta sigmoidové funkce s nebo funkce .

Takovéto jednotky můžeme tedy zasadit do sítě ve tvaru acyklického grafu. Trénování vah ale pak bude složitější, používá se na to algoritmus backpropagation.

Algoritmus backpropagation

Máme-li pevně dánu množinu jednotek a jejich spojení, která má libovolný počet vstupů a výstupů, můžeme natrénovat váhy každého vstupu pomocí algoritmu backpropagation. Používáme přitom stejných myšlenek jako u gradient descent, když se snažíme minimalizovat chybovou funkci:

– jde o stejnou funkci jako předtím, jen upravenou pro množinu výstupů .

Stejně jako předtím prohlédáváme prostor hypotéz definovaný všemi možnými vektory vah a máme garantovanou konvergenci k lokálnímu minimu chybové funkce. Algoritmus vypadá (ve stochastické aproximaci) následovně ( je vstup z -té jednotky do -té a odpovídající váha):

1. Inicializuje všechny váhy malými náhodnými čísly

2. Dokud není splněna nějaká podmínka konvergence, opakuje (pro jednotlivé trénovací příklady , může je procházet i víckrát):

1. Propaguje vstup dopředu sítí – vloží na vstup a spočítá výstup z každé jednotky v síti

2. Propaguje chyby a úpravy vektorů vah zpátky:

1. Pro každou výstupní jednotku spočte chybu

2. Pro každou vnitřní (skrytou) jednotku spočte chybu

3. Upraví všechny váhy v síti , kde

značí všechny jednotky, jejichž vstupy jsou přímo napojené na výstup jednotky . Pokud jednotky nejsou spojené cyklicky, lze najít takové pořadí jednotek, ve kterém lze spočítat hodnotu pro všechny.

Pro upravovací pravidla vycházíme z gradientové metody, která by pro složitější síť měla ve stochastické variantě být pro naši chybovou funkci definovanou výstupem pro instanci .

- Protože ovlivňuje zbytek sítě jen prostřednictvím uzlu , můžeme použít řetízkové pravidlo a , kde a jsou všechny jednotky, jejichž výstupy jsou napojené na vstup -té jednotky. Definujeme .

- Pro výstupní jednotky z podobné úvahy vyplyne, že a z toho – z definice chybové funkce (všechny části její sumy krom -tého výstupu budou mít nulové derivace) a z definice sigmoidové funkce () – spočteme .

- Podobně i pro skryté jednotky , protože skrytá jednotka ovlivňuje chybu jen přes své přímé výstupy; dostáváme rekurentní vzorec. Protože jediný vstup do , který se mění v závislosti na , je , ale vlastně , je . Poslední člen řetízku spočteme stejně jako pro výstupní jednotky a z toho .

Vlastnosti neuronových sítí

Induktivní předpoklad algoritmu backpropagation se dá stanovit přesně jen těžko, intuitivně jde ale o cca lineární interpolaci mezi trénovacími příklady jako body -rozměrného prostoru.

Garance pouze lokálního minima v praxi až tolik nevadí – díky tomu, že máme víc vah, je také méně pravděpodobné, že bude lokální minimum ve všech rozměrech vektoru. Inicializujeme-li malými hodnotami vah, bude výstup díky vlastnostem sigmoidové funkce přibližně lineární kombinace, až se zvýšením vah dostaneme výraznou nelinearitu.

Varianta algoritmu ještě přidává moment () a úprava vah částečně závisí na předchozí iteraci, čímž se snaží předejít zamrznutí v lokálním minimu (má pak určitou “setrvačnost”):

Můžeme zkusit také natrénovat více sítí s lehce odlišnými počátečními vahami a vybrat si tu nejlepší.

Neuronová síť rozdělená do vrstev, v rámci nichž nejsou spoje, je schopná:

- S dvěma vrstvami přesně simulovat libovolnou boolovskou funkci (až na to, že počet potřebných jednotek může být až exponenciální v počtu vstupů)

- Spojité funkce lze aproximovat dvěma vrstvami do libovolné přesnosti, když první vrstva jsou sigmoidy a druhá lineární perceptrony.

- Libovolná funkce je aproximovatelná třema vrstvami – dvěma sigmoidovými a jednou lineární.

Konvergence a overfitting

Neuronová síť má velkou volnost v nastavování vah, proto může až příliš přesně aproximovat trénovací data, čímž se ztrácí použitelnost na data nová. Podmínku konvergence je třeba volit “rozumně”:

- Samotné čekání, až změny vah budou dostatečně malé, většinou nestačí.

- Je vhodné např. penalizovat příliš velké váhy (po každé iteraci je trošku snižovat), čímž podporujeme “lineárnější” rozhodovací funkce.

- Velmi úspěšné je kromě trénování zároveň testovat síť na další datové množině a pamatovat si váhy, které na ní měly nejmenší chybu. Pokud se chyba na této množině výrazně zvýší oproti nejlepší hodnotě, trénování skončí a vezmeme váhy s nejmenší chybou na ladící množině.

- Předchozí metodu lze provádět i křížovou validací (rozdělím trénovací data na množin a použiji v každém kroku z nich na trénování a zbylou na testování)

21.5 Učení založené na příkladech

Hlavní myšlenka učení založeného na příkladech (instance-based learning) zní: který trénovací příklad je nejbližší aktuální testovací instanci? V paměti vždy uchováváme všechny trénovací příklady, kdykoliv lze přidat další a pro každý testovací příklad v nich hledám ty nejpodobnější. Proto je nutné zavést míru závislosti příkladů. Lze např. použít euklidovskou míru , ale není to nutné. Cílová funkce může být diskrétní (s def. oborem ) nebo spojitá.

K-nearest neighbor

K-nearest neighbor nebo k-nn je algoritmus typu instance-based learning. Počítám s uloženými trénovacími daty v paměti. Postup pro nějakou testovací instanci :

- Je-li , potom mám přímo hodnocení.

- Jinak najdu nejbližších a:

- Pro diskrétní cílovou funkci , kde pro stejné hodnoty argumentů, a 0 pro různé (tj. přiřadím takovou hodnotu, kterou má nejvíce z oněch sousedů).

- Pro spojitou cílovou funkci , tj. udělám průměr hodnocení.

K-nn nikdy nepočítá explicitní obecnou hypotézu, pracuje jen v kontextu. Pro de facto odpovídá Voronoi diagramu. Vylepšením může být vážení podle vzdáleností (distance-weighted k-nn), kde:

- V diskrétním případě , kde navíc .

- Ve spojitém případě .

Díky vážení můžeme takhle jít dokonce přes celá trénovací data (globální (Shepardova) metoda).

Algoritmus je robustní vzhledem k šumu v trénovacích datech. Problémem je pomalý výpočet vzdáleností ke všem trénovacím datům, pro zrychlení se vytváří indexy, pomocí k-d stromů. Problém je taky, když mám hodně atributů a relevantních jen pár. Pak je metrika vzdáleností zavádějící – i když se shodují důležité atributy, mohou být od sebe instance v ostatních atributech “daleko”. Řešením je váha atributů.

Lokálně vážená lineární regrese

Lokálně vážená lineární regrese (locally weighted linear regression) je konstrukce lokální aproximace cílové funkce na okolí kolem testovacího příkladu. Používá se často ve statistice. Používají se ale i jiné než lineární funkce. Definujeme:

- Regrese je aproximace reálné funkce.

- Reziduum je odchylka aproximace od reálné funkce, tj. .

- Jádro (kernel function) je funkce vzdálenosti za účelem získání váhy trénovacích příkladů . Často je to gaussovská funkce se střední hodnotou a rozptylem .

Aproximace hodnotící funkce se provádí ve tvaru: (kde je hodnota -tého atributu příkladu). Úkolem je pak najít taková , která minimalizují chybovou funkci. K tomu slouží metoda gradient descent. Chybová funkce se volí tak, aby byla jen lokální, máme tu tři možnosti (z nichž ta poslední je nejvýhodnější). Nechť je množina nejbližších sousedů :

2. – nejpřesnější, ale výpočetní složitost závisí na velikosti trénovacích dat .

3. – toto je vhodná aproximace druhého přístupu, výpočetní složitost závisí jen na .

21.6 Vyhodnocování hypotéz

Hypotéza, kterou nám vydá algoritmus učení, nemusí být vhodná. Je proto potřeba umět hypotézy ověřovat a případně porovnávat – ostatně i některé algoritmy učení (jako rule-post-pruning u rozhodovacích stromů) v sobě porovnávání hypotéz přímo obsahují.

Statistická formalizace pro diskrétní hypotézy

Mějme množinu všech možných datových instancí , kterou budeme považovat za náhodnou veličinu s rozdělením . Nad instancemi je definovaná cílová funkce , kterou aproximujeme hypotézami.

Pro hypotézu definujme:

- Chybu na datech (sample error) jako část vzorku dat , které ohodnotí špatně, tj. pro špatně ohodnocených instací z celkem.

- Skutečnou chybu (true error) jako pravděpodobnost , že ohodnotí špatně náhodně vybranou instanci z .

Chceme znát skutečnou chybu, ale můžeme ji jen odhadnout za pomoci chyby na datech. Skutečná chyba je vlastně náhodná veličina z alternativního rozdělení s parameterem . Na základě náhodného výběru (nezávislých stejně rozdělených náhodných veličin) o velikosti pak tento parametr odhadujeme. Náš odhad, funkce náhodného výběru, je další náhodná veličina. U takového odhadu je třeba dbát na:

- Vychýlení (bias) – je třeba, aby střední hodnota našeho odhadu se rovnala střední hodnotě původní náhodné veličiny (tj. abychom měli nulový bias).

- Rozptyl – čím menší rozptyl, tím lepší odhad, protože tak dostáváme menší očekávanou odchylku od skutečné hodnoty parametru.

Podmínka nezávislosti je důležitá, jinak nelze provést nevychýlený odhad (tj. netestovat na trénovacích datech, protože nejsou nezávislá!).

Vezmeme-li nezávislých pokusů, které s pravděpodobností dopadnou špatně, potom počet pokusů, které selhaly, je binomicky rozdělená náhodná veličina. Odhad jako je nevychýlený, protože střední hodnota binomicky rozdělené veličiny je , tj. . Víme, že . Rozptyl odhadu potom je:

(Oboustranný) interval spolehlivosti (pro danou pravděpodobnost) určuje interval, ve kterém se podle našeho odhadu bude s danou pravděpodobností nacházet skutečná hodnota neznámého parametru – je to interval, ve kterém se na obě strany od našeho odhadu nachází dané procento pravděpodobnostní masy z rozdělení, které má náš odhad. Protože to je pro binomické rozdělení příliš namáhavé určit, pomůžeme si za přepokladu, že náš vzorek je dostatečně velký (), podle Centrální limitní věty aproximací normálním rozdělením a platí:

, kde jsou kvantily normálního rozdělení.

Typicky se používá . Je možné používat i jednostranné intervaly spolehlivosti, např. pro ověření, jaká je pravděpodobnost, že chyba bude větší než určitá konstanta.

Rozdíl chyby dvou hypotéz

Pro porovnání dvou různých hypotéz (např. při prořezávání rozhodovacích stromů) se vlastně odhaduje rozdíl jejich chyb . To můžeme provést pomocí dvou nezávislých náhodných výběrů a . je nevychýlený odhad .

Pokud uvažujeme dost velké náhodné výběry , můžeme považovat odhady a za přibližně normálně rozdělené náhodné veličiny. Jejich rozdíl pak bude taky normálně rozdělený a roztpyl bude odpovídat součtu rozptylů, což nám dává i intervaly spolehlivosti. V typickém případě a pak rozptyl typicky bude menší než tento odhad, ale pořád je možné s ním takto počítat.

Můžeme takto i spočítat, jaká je pravděpodobnost, že jedna z hypotéz dává větší chybu – je to , což nám dává jednostranný interval a stačí určit jeho masu pravděpodobnosti.

Porovnávání algoritmů

Chceme-li porovnat nejen hypotézy, ale který ze dvou algoritmů učení dosáhne v průměru lepší aproximace nějaké cílové funkce , musíme odhadnout průměrný rozdíl výkonu přes všechny -prvkové trénovací množiny z distribuce . V praxi ale máme jen trénovací data a testovací data , takže náš odhad bude:

Pro zlepšení tohoto odhadu se často používá křížová validace – rozdělení dat do disjunktivních množin a provedení testů, kdy se pokaždé použije jiná z množin jako testovací data všechny zbylé jako trénovací data. Odhad chyby je průměr chyb přes všech množin. Rozptyl tohoto odhadu se stanoví jako výběrový rozptyl:

Interval spolehlivosti tohoto odhadu se pak stanoví jako , kde jsou kvantily -rozdělení o stupních volnosti.

Kromě křížové validace je také možné vybírat testovací podmnožinu z dat, která máme k dispozici, úplně náhodně a opakovat testy libovolněkrát, ale testovací množiny už nebudou nezávislé, protože se dřív nebo později stane, že některé prvky vyberu víckrát.

21.7 Výpočetní aspekty strojového učení

__________________________________________________________________________________________________