Искусственные нейронные сети

Что учить

Частные производные

• http://mathprofi.ru/chastnye_proizvodnye_primery.html
• Таблица производных: https://ru.wikipedia.org/wiki/%D0%9F%D1%80%D0%BE%D0%B8%D0%B7%D0%B2%D0%BE%D0%B4%D0%BD%D0%B0%D1%8F_%D1%84%D1%83%D0%BD%D0%BA%D1%86%D0%B8%D0%B8

Логарифмы

http://www.logarifmy.ru/umnozhenie-logarifmov/

Локальные экстремумы (минимум и максимум функций

• https://www.youtube.com/watch?v=WRbp5IcUrtM
• http://www.mathprofi.ru/extremumy_funkcij_dvuh_i_treh_peremennyh.html
• https://ru.wikipedia.org/wiki/%D0%AD%D0%BA%D1%81%D1%82%D1%80%D0%B5%D0%BC%D1%83
• http://pgsksaa07.narod.ru/examples_exstremum_dvuh_perem.htm
• http://www.pm298.ru/nper4.php
• Построить график функции и найти экстремумы онлайн: http://www.askskb.net/matlab/

Операции с матрицами

Алгоритм для быстрого умножения матриц: http://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC_%D0%A8%D1%82%D1%80%D0%B0%D1%81%D1%81%D0%B5%D0%BD%D0%B0

Про виде 1.5 о свойствах умножения матриц: На 0.40. опечатка, A*E = A

Видео про быстрое умножение матриц: https://stepik.org/lesson/13260/step/2?unit=3445

Алгоритм транспонирования матриц https://en.m.wikipedia.org/wiki/In-place_matrix_transposition

https://www.youtube.com/watch?v=ax-nTuBRj4g&index=7&list=PLxGo9dxQkqWC0zB7_agKHKbQYkqLrsL3s

Сложение, транспонирование, умножение, матричное умножение

Из комментариев:

1) При сложении матрицы должны иметь одинаковую размерность И по строкам, И по столбцам;

2) При умножении совпадают размерности столбцов ПЕРВОЙ матрицы-множителя и размерность строк ВТОРОЙ матрицы-множителя

Из комментариев:

Пригодится для следующих примеров

Свойства операций над матрицами A+B=B+A (A+B)+C=A+(B+C) λ(A+B)=λA+λB A(B+C)=AB+AC (A+B)C=AC+BC λ(AB)=(λA)B=A(λB) A(BC)=(AB)C (A')'=A (λA)'=λ(A)' (A+B)'=A'+B' (AB)'=B'A'

Операции над векторами

Стенограмма видео 1.4: https://stepik.org/lesson/18723/step/2?discussion=183483&unit=4494

Линейная регрессия

По теории главное — как следует осознать, в чем суть минимизации квадратов отклонений и общую идею двух методов вывода коэффициентов

Теория: http://statistica.ru/theory/osnovy-lineynoy-regressii/

Методы нахождения оптимальных коэффициентов:

• С помощью линейной алгебры
• С помощью производной

Калькулятор графиков: https://www.desmos.com/calculator

Конструктор сетей

	варианты для сети	сеть	слой	нейрон
входы	Xs	X
веса		W	sW	nW
выходы		Y	sY	nY