Forum strony www.multipasko.pl [Regulamin]


Dodaj wpis w tym temacie
Spis tematów
Login:

Hasło:
Strona: 1 2 ... 17 18 19 20 21
Wyślij wiadomość do admina

Przewiń wpisy ↓

Sieci neuronowe w praktyce - prognozowanie losowań MultiMulti

2010-11-24 (23:19)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 543
[ CZCIONKA MONOSPACE ]

Zachowam spokój i będę ignorował kąśliwe wypowiedzi:)

Adalbert, dziękuję za fatygę i bez zakłamania piszę że Twoje uwagi, rady będą dla mnie bardzo cenne. Ja od dłuższego czasu śledzę Twoje wpisy i pozostałych uczestników forum, lecz postanowiłem napisać dopiero teraz.

Grunt to nie zapędzić się za daleko, zaś sukces upatruję w połączeniu intuicji z analitycznym rozumowaniem. U mnie przeważa to pierwsze, dlatego szukam wsparcia na forum.

Poniżej spróbuję zamieścić screen z zaituna byś Adalbert miał wgląd w ustawienia które nastręczają mi kłopotu.

http://ompldr.org/vNmF0OQ

2010-11-24 (23:38)

status tj_gumis
Data rejestracji: 2010-03-31
Ilość postów: 337

12456
wpis nr 375 545
[ CZCIONKA MONOSPACE ]

spook



Tak trzymaj i nie przejmuj sie wpisami czlonkow klubu emerytow i rencistow . Musisz miec jednak swiadomosc tego ze uplynie jeszcze troche czasu zanim zaczniesz swiadomie poslugiwac sie siecia i rozumiec \"o czym ona w ogole do ciebie rozmawia\".



courage
2010-11-25 (11:09)

status Adalbert
Data rejestracji: 2009-03-19
Ilość postów: 675

4335
wpis nr 375 608
[ CZCIONKA MONOSPACE ]

spook



Liczba neuronów: istnieje kilka reguł dotyczących liczby neuronów w warstwach ukrytych:



L – rozmiar warstwy wejściowej (input), N – rozmiar warstwy wyjściowej m – liczba neuronów







Proponuję następujące podejście:

1. Na podstawie podanych wzorów podstaw do sieci obliczoną liczbę neuronów w ukrytej warstwie (Hidden Layer)

2. Wykonaj obliczenia, następnie zwiększaj lub zmniejszaj liczbę neuronów o 1 i obserwuj skuteczność prognoz. Na pewno zauważysz, w którym momencie sieć zaczyna prognozować dokładniejsze wyniki, a w którym momencie skuteczność jest coraz niższa.

3. Jaka funkcja aktywacji (Activation Function)



Semi Linear – dla problemów liniowych, czyli takich gdzie kolejna wartość jest funkcją liniową stopnia N. Na przykład: zależność pomiędzy liczbą ludności, a liczbą kobiet i mężczyzn (przyrost naturalny).

Dla sposobu, w jaki reprezentujesz wyniki losowań, czyli w postaci trzech klas 0, 1, 2 lub w postaci binarnej -1, 0, 1 z dostępnych funkcji aktywacji nadają się dwie funkcje aktywacji: sigmoid i bipolar sigmoid. Ta druga jest lepsza moim zdaniem dla reprezentacji wyników w postaci -1, 1.



Parametry uczenia sieci (Learning):



Learning rate – najlepiej zacząć od 0.01 i zwiększać za każdym razem o 0.01 obserwując skuteczność prognoz. Jeżeli skuteczność zacznie spadać, to trzeba szukać w pobliżu ostatniego Learning rate, przy którym skuteczność prognozy jest najlepsza.



Momentum – moment sieci. Ustawiłbym na 0,3 a następnie zmniejszał np. co 0.05. Zbyt duży moment sieci nie jest wskazany, wtedy sieć może pominąć lokalne minima, czyli miejsce, gdzie błąd MSE był najmniejszy.



MSE – Median Standard Error. Zdecydowanie za duży, proponuję 1e-6 lub jeszcze mniejszy



Liczba iteracji – trudno powiedzieć, 10 000 to nie jest dużo, ja stosuję 100 000, ale bardzo często sieć znajduje rozwiązanie znacznie wcześniej.



Pozdrawiam

Adalbert
2010-11-25 (11:26)

status Zuzia D.
Data rejestracji: 2009-10-22
Ilość postów: 25

12227
wpis nr 375 614
[ CZCIONKA MONOSPACE ]

Sorry że piszę nie na temat



Grunt to nie zapędzić się za daleko, zaś sukces upatruję w połączeniu intuicji z analitycznym rozumowaniem. U mnie przeważa to pierwsze, dlatego szukam wsparcia na forum.

---------------------------------------------------------------------------------------



Szukasz wsparcia na forum , to chyba pomyliłes adres ?



Tu większość forumowiczów jest nastawionych na krytyczne wypowiedzi



są wyjątki ale znikome . Podglądam te forum już trzy i pół roku , dużo można się nauczyć i wywnioskować ale pomocy to raczej brak.



Pozdrawiam.
2010-11-25 (11:38)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 617
[ CZCIONKA MONOSPACE ]

Witam.

Adalbert, dziękuję bardzo za wyjaśnienie, to czego się dowiedziałem jest bardzo pomocne jako dla początkującego typera, ponieważ wiem teraz lepiej co i jak- co należy ustawić na stałe i się nie dotykać a przy jakich ustawieniach można experymentować.

Zgromadziłem już sobie bogaty asortyment aplikacji min. Palisades, Stata Statgraphic, Statistica8 ale trzymam je w pogotowiu. Tymczasem bedę doświadczał na zaitunie, możliwe że on wystarczy na moje potrzeby:)
2010-11-25 (11:59)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 625
[ CZCIONKA MONOSPACE ]

Zuzia D

Zgadzam się z Tobą całkowicie.

Ale myślę też że poza tymi wszystkimi obszczekiwaczami, frustratami, i pozostałą rzeszą niedowartościowanych osobników jest tu kilka osób skorych do pomocy, pasjonatów, chętnych do wymiany doświadczeń.

Myślę że moderator jest zbyt pobłażliwy dla niektórych użytkowników, a może zupełnie nie interesuje się tym co ludzie tutaj piszą.

Udzielam się również m.in. na forum dobreprogramy gdzie wpisy są rzeczowe, zwiazane z tematyką, jest pewna kultura wypowiedzi itp. a tutaj każdy by wyładować swoje frustracje może pisać co mu ślina na język przyniesie. Polska:)
2010-11-25 (12:55)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 634
[ CZCIONKA MONOSPACE ]

Adalbert, w wolnej chwili jak będziesz miał czas prosiłbym byś rzucił okiem na screen

http://ompldr.org/vNmIyNw

Wytłumacz mi proszę jak dobrać wartości które zaznaczyłem w czerwonej ramce,

Czy to tam ustawia się MSE – Median Standard Error, gdzie jako default jest 0.1 który wg. jest zbyt duży?
2010-11-26 (09:20)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 827
[ CZCIONKA MONOSPACE ]

Witam wszystkich życzliwych forumowiczów:-)

Tajemniczy Koziołek...

Zastosowałem się do Twoich zaleceń i wprowadziłem zakres aktywacji zbliżony do zalecanego;

-0.99, +0.99 zamiast -1, +1

Adalbert

Moje aktualne ustawienia zaituna wyglądają nastepująco:

hidden layer, input layer mam ustawione po równo na 21(może to być wbrew zaleceniom), learning rate 0.01, momentum 0.1 max. iteration 30000, stan wstrzymania jeśli MSE ~0.01, wartość \"with checking cycle\" była 100, ustawiłem mniej ale pewności co do prawidłowego ustawienia nie mam.
2010-11-26 (10:31)

status Tajemniczy Koziołek Matołek
Data rejestracji: 2010-11-14
Ilość postów: 89

12734
wpis nr 375 836
[ CZCIONKA MONOSPACE ]



spook, napisałeś

Zastosowałem się do Twoich zaleceń i wprowadziłem zakres aktywacji zbliżony do zalecanego;

-0.99, +0.99 zamiast -1, +1 ---> bład, ja ci tak nie zalecałem i nie napisałem,



przeczytaj dokładnie co napisałem nie

-0.99, +0.99 - bo to jeszcze jest za dużo,

tylko (-0.9, +0.9) lub (-0.89, +0.89) w przypadku aktywacji (-1,+1)



natomist w przypadku funkcji aktywacji

(0,1) zmniejszasz do (0.1, 0.9) lub (0.11, 0,89)



jeszcze bardziej mnie zastanawia to skąd wziołeś tą architekture do

ktorej załanczas linka,

dajesz:



1- wyjście

12-ukrytych

12-wejść? , skąd ci sie to wzieło?



sieć buduje się w postępie geometrycznym (piramidy),

jeśli np masz: 2 wyjścia i 8 wejść, to:

mnożysz dwa razy osiem= 16

i z 16 wyciagasz pierwiastek =4 i 4 neurony ukryte dajesz



czyli sieć jest: 2,4,8



czyli w twoim przypadku jeden razy dwanaście i z tego pierwiastek to

powinneś mieć jakieś 3 lub 4 ukryte,



lub jeśli upierasz sie przy swoich 12 neuronach ukrytych to powinno być 144 wejścia,

ta zasada to nie sztywaną reguła ale punkt wyjścia,

reszta to próby i wyczucie,

pozdro







2010-11-26 (10:41)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 837
[ CZCIONKA MONOSPACE ]

Tajemniczy Koziołek

Matematyka matematyką ale sieci co by o nich nie myśleć to podobnie jak tarot jedynie wróżenie:-)

Co z tego że wartości wprowadzone będą ściśle obliczone matematycznie skoro wynik przewidywań odbiega znacznie od oczekiwań gdy są podane na chybił trafił.
2010-11-26 (10:50)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 842
[ CZCIONKA MONOSPACE ]

Tajemniczy Koziołek...

Ja w programie output layer mam ustawione na 1 i tego nie zmienię bo to wartość niezmienna,

Czyli żeby pasowało wszystko do obliczeń powinno na wejściu 4, ukryte neurony 2 i output 1

Przy takich ustawieniach program mi pracuje jakby miał ducha wyzionąć:)
2010-11-26 (11:15)

status Tajemniczy Koziołek Matołek
Data rejestracji: 2010-11-14
Ilość postów: 89

12734
wpis nr 375 853
[ CZCIONKA MONOSPACE ]

spook, znów musze cie zacytować:

...\"Ja w programie output layer mam ustawione na 1 i tego nie zmienię bo to wartość niezmienna\",



to proste, zmień program na taki ktory niema sztywnych ustawień i bedziesz mógł sobie nawet 8 wyjść ustawić,



architektura 1,2,4, - też są definicje jaka jest minimalna architektura sieci,

musisz doczytać czy może być taka architektura a jeśli nie to dlaczego,

a może może wystarczy zmienić tylko ilość i wymiar danych aby sie

dopasować do jakiejś innej architektury...



ogólnie to ja do cześci praktycznej dopierobym się zabrał gdybym miał

za sobą jakąś teoretyczną wiedze na temat jakiegoś zagadnienia,

ale jak widać są tacy którzy próbują od tyłu to zrobić,



pozdro
2010-11-26 (11:34)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 857
[ CZCIONKA MONOSPACE ]

Mam propozycję- jeśli znajduję się na forum takowy lotto-guru który będzie potrafił pod rząd 3-krotnie wytypować 3 w lotto niech zamieści 3 prognozy przed każdym losowaniem a wtedy będzie można zweryfikować stopień wiedzy teoretycznej, zastosowane jej w praktyce itd.
2010-11-26 (11:52)

status Tajemniczy Koziołek Matołek
Data rejestracji: 2010-11-14
Ilość postów: 89

12734
wpis nr 375 860
[ CZCIONKA MONOSPACE ]

spook, jak na razie tylko ty odważyłeś się napisać zdanie:



\"...a jak na razie skuteczność mojego prognozowania waha się w granicach 80%,... \"





wiec czekamy, ja chętnie będe grał tymi twoim 80% typami,

podaj coś na dziś jutro, najbliższe dni, proszę w imnieniu wszystkich

forumowiczów,

chyba jesteś słowyny?

i nie było to puste zdanie,

ktore napisałeś w tym wątku:



2010-11-24 (22:27)

spook

Data rejestracji: 2010-11-17

Ilość postów: 19







\"...a jak na razie skuteczność mojego prognozowania waha się w granicach 80%,... \"



to ty jesteś \"guru -lotto\" i tego forum,

dajesz, dajesze kolego te 80% typy,

wszycy czekamy i zacieramy ręce,

i mamy nadzieje że to nie były twoje puste przecheałki,

pokaż i udowodnij nam te swoje 80%

80%

80%

2010-11-26 (11:57)

status spook
Data rejestracji: 2010-11-17
Ilość postów: 1960

12741
wpis nr 375 863
[ CZCIONKA MONOSPACE ]

wieczorem postaram się podam 18 cyfr wśród których powinna być szczęśliwa 6 tylko proszę nie typować wg moich przewidywań, jeszcze nie:-)
2010-11-26 (12:47)

status Adalbert
Data rejestracji: 2009-03-19
Ilość postów: 675

4335
wpis nr 375 870
[ CZCIONKA MONOSPACE ]

Witam ponownie.



Już jestem po urlopie, najwyższa pora testować dalej skuteczność prognoz sieci neuronowych.

Sporo pozmieniałem w programie i poniżej kolejna prognoza:







Pozdrawiam
2010-11-26 (14:05)

status Adalbert
Data rejestracji: 2009-03-19
Ilość postów: 675

4335
wpis nr 375 886
[ CZCIONKA MONOSPACE ]

Podsumowanie prognozy:



2010-11-26 (15:01)

status Adalbert
Data rejestracji: 2009-03-19
Ilość postów: 675

4335
wpis nr 375 893
[ CZCIONKA MONOSPACE ]

Podejście drugie, czyli wieczorne losowanie:







Mnie zestawów ponieważ odrzuciłem powtarzające się.



Pozdrawiam

2010-11-26 (22:19)

status Adalbert
Data rejestracji: 2009-03-19
Ilość postów: 675

4335
wpis nr 376 022
[ CZCIONKA MONOSPACE ]

Podsumowanie:





2010-11-27 (10:48)

status Adalbert
Data rejestracji: 2009-03-19
Ilość postów: 675

4335
wpis nr 376 103
[ CZCIONKA MONOSPACE ]

Witam.



Wczorajsze, wieczorne losowanie dla sieci neuronowych było nie do przewidzenia. Testowałem po losowaniu różne konfiguracje parametrów sieci i wynik prognozy był mniej więcej taki sam, czyli w granicach 4-6 trafionych liczb.

Dzisiejsza prognoza:







Z moich obserwacji wynika, że po takim nieprzewidywalnym dla sieci losowaniu przez następne kilka, a nawet kilkanaście losowań sieci znacznie lepiej radzą sobie z prognozowaniem.

W takim razie do losowania o 14:00



Pozdrawiam
| Dodaj wpis w tym temacie | Spis tematów | Wyniki lottoStrona: 1 2 ... 17 18 19 20 21
Wyślij wiadomość do admina