Fundamente ale inteligentei computationale

Transcription

1 Fundamente ale inteligentei computationale Domenii ale IC Mituri despre IC Adaptare Autoorganizare CI ca adaptare si autoorganizare Capacitatea de generalizare 1 /20

2 Domenii ale IC Logică fuzzy (Fuzzy logic) Calcul evoluţionist (Evolutionary computation) Reţele neuronale (Neural network) Sisteme hybride Domeniile sunt intr-o relatie de complementaritate (nu concurentiala), in care fiecare contribuie cu avantajele si tehnicile proprii la solutionarea problemelor. Logica fuzzy ofera posibilitatea aproximarii, algoritmii genetici realizeaza o cautare sistematica a solutiei, retelele neuronale au capacitatea de a invata si de a se adapta. 2 /20

3 Logica fuzzy Fuzzy: vag, neclar, imprecis, scamos, pufos, nuanţat Fuzziness: imprecizie nestatistica si caracter vag al informatiilor si datelor. Lotfi Zadeh, parintele logicii fuzzy: Motivul pentru care am ales cuvântul fuzzy este că ceea ce am avut în minte sunt clasele care nu au graniţe precis delimitate. Logica fuzzy logica rationamentului aproximativ, care este o extensie a logicii multivalente; generalizare a logicii conventionale multimile fuzzy se refera la clase de obiecte cu granite neprecise, in care apartenenta la o clasa este graduala intre 0 (totala neapartenenta) si 1 (apartenenta completa) 3 /20

4 Logica fuzzy - cont. Pe masură ce creşte complexitatea, formulările precise pierd din înţeles şi formulările pline de înţeles pierd din precizie. Lotfi Zadeh Precizie si semnificatie in lumea reala [FLT] 4 /20

5 Calcul evoluţionist Arii ale calculului evolutionist [Ebe07]: Algoritmi genetici (genetic algorithms) Programare evolutionista (evolutionary programming) Strategii evolutive (evolution strategies) Programare genetica (genetic programming) Optimizarea roiurilor de particule (particle swarm optimization) Modeleaza procese naturale: selectie, recombinare, mutatie, etc Metode de cautare stocastica, bazate pe mecanismele de evolutie naturala biologica. Lucreaza cu populatii de solutii potentiale si aplica principiul supravietuirii celui mai bun (teoria evolutionista - Darwin) pentru a furniza aproximari din ce in ce mai bune ale solutiei. Evolutia indivizilor din populatie, astfel ca acestia devin mai adaptati mediului dacat indivizii din care au fost creati - similar cu adaptarea naturala. 5 /20

6 Reţele neuronale Retelele neuronale artificiale sunt sisteme de prelucrare a informatiei ce modeleaza structura paralela masiva a creierului inspiratie biologica. Simuleaza o structura de calcul paralela, extrem de interconectata, ce contine un numar mare de elemente de prelucrare (neuroni) relativ simple. Elementele de prelucrare sunt conectate prin conexiuni ponderate Ponderile conexiunilor stocheaza informatia (cunostintele), reteaua fiind astfel capabila de adaptare prin modificarea acestor ponderi. 6 /20

7 Mituri depre IC Necesitatea supercomputerelor/laureatilor Nobel/sume mari de bani pentru a obtine rezultate utilizand IC; Implementarile IC sunt cele mai rapide, mai ieftine si mai bune; IC elimina nevoia de programare; Intr-un sistem, partea de IC este mult mai importanta dacat partea de pre-prelucrare a datelor; Numai expertii in biologie pot utiliza IC; Logica fuzzy este vaga, imprecisa; Logica fuzzy este un alt fel de probabilitate; IC furnizeaza intotdeauna optimizarea absoluta. 7 /20

8 Adaptare Adaptarea Capacitatea unui sistem de a-si modifica (evolua) parametrii cu scopul de a-si indeplini mai bine sarcinile. Orice proces in cursul caruia o structura este modificata progresiv pentru a furniza performante mai bune in mediul sau. Adaptare dinamica Capacitatea unui sistem de a se adapta on-line, adica in timp real la schimbarile de mediu. Adaptarea are loc in timpul functionarii sistemului. Tipuri de adaptare Supervizata (supervised adaptation) Nesupervizata (unsupervised adaptation) Intarita (reinforcement adaptation) 8 /20

9 Spatiile adaptarii Spatiul parametrilor de intrare (spatiul problemei) Domeniul dinamic al parametrilor de intrare, in general specificat Spatiul iesirilor sistemului (spatiul functiei) Domeniul dinamic al variabilelor de iesire Specificat ca si constrangere hard sau soft Spatiul potrivirii Spatiul in care se defineste valoarea solutiilor (in spatiul iesirilor) determinate in urma adaptarii In general se scaleaza potrivirea intre 0 si 1 optim 0 - probleme de minimizare optim 1 probleme de maximizare Uneori spatiile iesiriilor sistemului si cel al potrivirii coincid, alteori nu. 9 /20

10 Dificultati ale adaptarii Numarul mare de variabile Functii de potrivire complexe, neliniare Functii de potrivire variabile in timp si in spatiul parametrilor de intrare Mediu complex si variabil Legea suficientei Daca solutia unei probleme este: destul de buna (satisface specificatiile) destul de rapida destul de ieftina atunci este suficient! 10 /20

11 Adaptarea supervizata Procesul de ajustare (adaptare) al sistemului astfel ca el sa produca o iesire specificata ca raspuns la o intrare specificata. Supervizat iesirea este apriori cunoscuta pentru toate intrarile si algoritmul de antrenare al sistemului utilizeaza eroarea pentru a dirija antrenarea (Reed and Marks 1999). Exista o masura directa a nivelului de potrivire 11 /20

12 Adaptarea supervizata - cont. Profesorul furnizeaza seturile de date intrareiesire; Adaptarea se realizeaza in iteratii; Potrivirea este adeseori invers proportionala cu suma erorilor; Buna pentru aproximarea functiilor; Examplu: algoritmul cu propagare inversa antrenarea retelelor neuronale, neuro-fuzzy (ANFIS) 12 /20

13 Adaptarea nesupervizata Sistemul se adapteaza la regularitatile datelor Nu este prezent un profesor sau critic extern Nu exista nici o indicatie a potrivirii incorporata in algoritmul de instruie nesupervizata Interpretarea rezultatului instruirii (este bun, este utilizabil) este realizata la finalizarea instruirii Evaluarea off-line este in general realizata de un om sau de un sistem inteligent. 13 /20

14 Adaptarea nesupervizata - cont. Utilizata in general pentru probleme de clasificare (clustering), sau invatare competitiva Clasificarea grupeaza vectorii de intrare (pattern) similari in submultimi (grupuri) clustere (clase) Elementele dintr-un grup (clasa) au un grad ridicat de asociere naturala intre ei Grupurile (clusterele) sunt relativ distincte unele fata de altele 2 faze: determinarea numarului de clase repartizarea fiecarui punct de date (pattern) intr-un grup (cluster) 14 /20

15 Adaptarea întărită Interactiune cu un critic care furnizeaza informatii euristice pentru intarire (ajutor, sprijin) Este necesar sa existe un fel de masura a potrivirii sau scopului O astfel de masura nu se poate obtine direct, dar pot exista sugestii: cat de buna este o solutie fata de alte solutii Este metoda de adaptare cea mai apropiata de sistemele biologice animalele (inclusiv oamenii) tind sa evite comportarile ce le provoaca discomfort si tind sa caute sau sa repete actiunile care le aduc comfort. 15 /20

16 Adaptarea întărită - cont. adeseori sistemul primeste o serie de date (intrare, stare) doar la sfarsit se evolueaza potrivirea sistemului criticul se uita numai la rezultatele finale, neluand in considerare erorile datorate fiecarei intrari exemplu: optimizarea roiurilor de particule (se poate calcula doar cat de buna este o solutie fata de alta) 16 /20

17 Autoorganizare Proprietate a unui sistem evolutiv de a-şi elabora noi forme de organizare, noi modele sau structuri interne [MDN] Sistemele cu autoorganizare aparent prezinta ordine spontana Autoorganizarea poate fi vazuta ca o incercare continua a sistemului de a se organiza el insusi in structuri mai complexe, chiar si in fata fortelor permanente de desfacere (faramitare) descrise de legea a doua a termodinamicii 17 /20

18 Autoorganizare - cont. Intreaga stare a sistemului este o proprietate de emergenta a sistemului Componentele interconectate ale sistemului devin organizate de o maniera productiva (plina de inteles) in functie de informatiile locale; dinamica globala emerge din regulile locale Sistemele complexe se pot autoorganiza Procesul de autoorganizare lucreaza aproape de limita haosului Exemple: formarea cristalelor de gheata cristalizarea sarii automate celulare creierul uman 18 /20

19 O vedere simplificata a IC Datele prelucrate provin din afara sistemului Cunostintele incorporate sunt continute in interiorul sistemului 19 /20

20 Capacitatea de generalizare Capacitatea de a determina corect valoarea iesirii pentru vectori de intrare la care sistemul nu a fost expus pe durata antrenarii y = f ( x), X spatiul intrarilor, Y spatiul Setul de date de antrenare: {( x, y ) X xy} S = i i, i = 1,2,... n n numarulde perechide antrenare * Construirea modelului ( ) ( ) * f x f x pentru x S y f Sistem perfect : = * f ( x) ( x) =, f x S ( x), x S iesirilor Poate sa nu fie valabil datorita erorilor si zgomotului prezente in setul de date de antrenare Poate fi suparator daca S se imparte in set de antrenare si set de test In urma antrenarii poate apare suprapotrivirea sistemului cu setul de date de antrenare performante slabe pentru setul de test. 20 /20