Искусственные нейронные сети

Материал из Технология перехода
Перейти к навигации Перейти к поиску

Что учить

Частные производные

Свойства степеней

Логарифмы

http://www.logarifmy.ru/umnozhenie-logarifmov/

Локальные экстремумы (минимум и максимум функций

Операции с матрицами

Алгоритм для быстрого умножения матриц: http://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC_%D0%A8%D1%82%D1%80%D0%B0%D1%81%D1%81%D0%B5%D0%BD%D0%B0

Про виде 1.5 о свойствах умножения матриц: На 0.40. опечатка, A*E = A

Видео про быстрое умножение матриц: https://stepik.org/lesson/13260/step/2?unit=3445

Алгоритм транспонирования матриц https://en.m.wikipedia.org/wiki/In-place_matrix_transposition

https://www.youtube.com/watch?v=ax-nTuBRj4g&index=7&list=PLxGo9dxQkqWC0zB7_agKHKbQYkqLrsL3s

Сложение, транспонирование, умножение, матричное умножение

Из комментариев:

1) При сложении матрицы должны иметь одинаковую размерность И по строкам, И по столбцам;

2) При умножении совпадают размерности столбцов ПЕРВОЙ матрицы-множителя и размерность строк ВТОРОЙ матрицы-множителя

Из комментариев:

Пригодится для следующих примеров

Свойства операций над матрицами A+B=B+A (A+B)+C=A+(B+C) λ(A+B)=λA+λB A(B+C)=AB+AC (A+B)C=AC+BC λ(AB)=(λA)B=A(λB) A(BC)=(AB)C (A')'=A (λA)'=λ(A)' (A+B)'=A'+B' (AB)'=B'A'


Операции над векторами

Стенограмма видео 1.4: https://stepik.org/lesson/18723/step/2?discussion=183483&unit=4494


Линейная регрессия

По теории главное — как следует осознать, в чем суть минимизации квадратов отклонений и общую идею двух методов вывода коэффициентов

Теория: http://statistica.ru/theory/osnovy-lineynoy-regressii/

Методы нахождения оптимальных коэффициентов:

  • С помощью линейной алгебры
  • С помощью производной

Калькулятор графиков: https://www.desmos.com/calculator

Примеры нейронов

Обучение нейрона и сети нейронов

Фрейворки и библиотеки

Конструктор сетей

варианты для сети сеть слой нейрон
входы Xs X
веса W sW nW
выходы Y sY nY