Невронни мрежи от нулата
Неврони, активации, обратно разпространение на ръка, инициализация, оптимизатори, dropout и batch norm, всичко в NumPy.
15 урока · около 380 минНОИИIOAIНужно: Линейна алгебра, Анализ и оптимизация, Вероятности и статистика, Класификация
Първо завърши: Логистична регресия и метрики за класификация, Производни
- 1
Неврон и функции на активация
Изкуственият неврон, перцептронът, проблемът XOR и защо ни трябва нелинейност
25 мин Заключен
- 2
Активации и техните производни
Защо ReLU замени сигмоидата и какво е изчезващ градиент
20 мин Заключен
- 3
Право разпространение с матрици
Форми на масивите, партиди и броя параметри
20 мин Заключен
- 4
Многослойни мрежи и обратно разпространение
Слоеве от неврони, softmax и как мрежата разбира кое тегло да промени
40 мин Заключен
- 5
Функции на загуба
Коя загуба за коя задача и как изходният слой върви с нея
20 мин Заключен
- 6
Обратно разпространение на ръка
Изчислителен граф, верижно правило и числена проверка
20 мин Заключен
- 7
Невронна мрежа от нулата
Инициализация, прав ход, загуба, обратен ход и цикъл на обучение в NumPy
35 мин Заключен
- 8
Инициализация на теглата
Защо не с нули и защо Xavier и He
20 мин Заключен
- 9
Оптимизатори: SGD, momentum и Adam
Mini-batch обучение, инерция и адаптивни learning rate
30 мин Заключен
- 10
Скорост на обучение и графици
Най-важният параметър: как да го избереш и как да го променяш
20 мин Заключен
- 11
Регуляризация на невронни мрежи
Weight decay, dropout, ранно спиране и batch normalization
30 мин Заключен
- 12
Dropout отблизо
Случайно изключване на неврони и обърнатият dropout
20 мин Заключен
- 13
Batch normalization
Нормиране вътре в мрежата за по-бързо и стабилно обучение
20 мин Заключен
- 14
Когато мрежата не се учи
Контролен списък за отстраняване на проблеми
20 мин Заключен
- 15
Проект: разпознаване на цифри от нулата
Мрежа в NumPy с mini-batch, Adam, dropout и ранно спиране
40 мин Заключен
Изпит на курса
Отключва се, когато завършиш всички уроци.