Градиентный спуск
Итерационный алгоритм оптимизации для поиска локального минимума функции.
Градиентный спуск лежит в основе почти всех современных алгоритмов ИИ. Он позволяет моделям минимизировать расхождение между предсказанием и реальностью.
graph LR
Center["Градиентный спуск"]:::main
Rel_backpropagation["backpropagation"]:::related -.-> Center
click Rel_backpropagation "/terms/backpropagation"
Rel_neural_network["neural-network"]:::related -.-> Center
click Rel_neural_network "/terms/neural-network"
classDef main fill:#7c3aed,stroke:#8b5cf6,stroke-width:2px,color:white,font-weight:bold,rx:5,ry:5;
classDef pre fill:#0f172a,stroke:#3b82f6,color:#94a3b8,rx:5,ry:5;
classDef child fill:#0f172a,stroke:#10b981,color:#94a3b8,rx:5,ry:5;
classDef related fill:#0f172a,stroke:#8b5cf6,stroke-dasharray: 5 5,color:#94a3b8,rx:5,ry:5;
linkStyle default stroke:#4b5563,stroke-width:2px;
🧒 Простыми словами
🌍 Представьте, что вы на горе в темноте. Чтобы спуститься вниз, вы прощупываете почву ногами и делаете шаг туда, где наклон самый сильный. Делая так постоянно, вы придете к подножию.
🤓 Expert Deep Dive
Градиент указывает направление наискорейшего роста функции. Алгоритм идет в противоположном направлении (антиградиент), корректируя веса модели.