Gradient prosty
Iteracyjny algorytm optymalizacji służący do znajdowania lokalnego minimum funkcji.
Kluczowy proces w Deep Learningu. Wyzwanie stanowi dobór 'Learning Rate' - zbyt duży spowoduje ominięcie celu, zbyt mały wydłuży naukę.
graph LR
Center["Gradient prosty"]:::main
Rel_backpropagation["backpropagation"]:::related -.-> Center
click Rel_backpropagation "/terms/backpropagation"
Rel_neural_network["neural-network"]:::related -.-> Center
click Rel_neural_network "/terms/neural-network"
classDef main fill:#7c3aed,stroke:#8b5cf6,stroke-width:2px,color:white,font-weight:bold,rx:5,ry:5;
classDef pre fill:#0f172a,stroke:#3b82f6,color:#94a3b8,rx:5,ry:5;
classDef child fill:#0f172a,stroke:#10b981,color:#94a3b8,rx:5,ry:5;
classDef related fill:#0f172a,stroke:#8b5cf6,stroke-dasharray: 5 5,color:#94a3b8,rx:5,ry:5;
linkStyle default stroke:#4b5563,stroke-width:2px;
🧒 Wyjaśnij jak 5-latkowi
🌍 Wyobraź sobie, że schodzisz z góry w gęstej mgle. Nie widzisz dołu, więc robisz krok tam, gdzie jest najbardziej stromo w dół.
🤓 Expert Deep Dive
Algorytm oblicza pochodne cząstkowe funkcji kosztu, aby zaktualizować parametry modelu w stronę globalnego minimum.