Математика для Data Science и машинного обучения. Подробный план обучения
Беспилотные автомобили, продвинутые голосовые ассистенты, рекомендательные системы – это только малая часть тех классных продуктов, которые создаются с помощью инженеров по машинному обучению и, думаю, не для кого не секрет, что за кулисами сего чуда стоит математика. Именно от её знания зависит понимание алгоритмов машинного и глубокого обучения.
Машинное обучение держится на трех основных столпах:
- линейная алгебра и аналитическая геометрия;
- математический анализ;
- теория вероятностей и статистика.
Теперь может возникнуть несколько вопросов: можно ли все это выучить самостоятельно и если да, то сколько это займет времени, и насколько это будет больно?
Исходя из собственного опыта, могу сказать, что конечно же можно, однако будет больно, и чтобы понизить тот самый «градус боли» я решил написать эту статью в помощь таким же новичкам, как и я. Ну что….поехали!
Примечание: вся литература, приведенная ниже, содержит упражнения для самостоятельной работы.
Школьная математика (1 неделя и больше)
Если нет проблем со школьным курсом, то рекомендую Кратчайший курс школьной математики – все описано кратко и очень понятным языком.
Если есть пробелы и хочется углубиться, то есть хорошие плейлисты на канале Видеокурсы DA VINCI – там найдете не только объяснение школьной математики, но и линейной алгебры с математическим анализом.
В качестве задачника мне понравился «Сборник задач по математике для поступающих во втузы», Сканави М.И.
Линейная алгебра (1,5 месяца)
Начнем с плейлистов Linear algebra и Linear algebra (English) канала The bright sight of mathematics – лучшего объяснения линейной алгебры и численных методов к ней я не видел.
Для более глубокого ознакомления советую следующие книги:
- «Introduction to Linear and Matrix Algebra», Nathaniel Johnston
- «Advanced Linear and Matrix Algebra», Nathaniel Johnston
Хорошая серия книг, где читателя постепенно знакомят со всеми необходимыми разделами линейной алгебры, включая матричные факторизации и тензоры.
На русском языке понравились следующие книги:
- «Линейная алгебра и аналитическая геометрия», Киркинский А.С.
- «Вычислительная линейная алгебра», Вержбицкий В.М.
Первая книга — классический университетский курс линейной алгебры, а вторая — учебник по матричным факторизациям (LU, QR, SVD).
Математический анализ (3 месяца)
Здесь стоит начать с плейлистов канала N Eliseeva – объемный, но очень хороший курс с кучей примеров и понятным объяснением.
Из книг порекомендую следующие:
- «Calculus for Scientists and Engineers», Martin Brokate, Pammy Manchanda, Abul Hasan Siddiqi
- «Математический анализ», Киркинский А.С.
Хорошие книги плюс-минус об одном и том же, содержат все необходимые темы, включая преобразование Фурье.
Примечание: в качестве задачника я использовал учебное пособие БГТУ «Высшая математика в 2-х частях» (Марченко В.М.) – простой вузовский учебник, однако его плюс заключается в том, что после каждой главы имеются упражнения сразу же с ответами, что очень удобно.
Теория вероятностей и математическая статистика (3 месяца)
Начнем с раздела теория вероятностей на mathprofi и учебника все того же БГТУ «Теория вероятностей» (Блинова Е.И.), в котором кратко описана теория и содержится необходимый набор упражнений.
Переходя к статистике, советую раздел математическая статистика также на mathprofi и плейлист Statistics Fundamentals на канале StatQuest with Josh Starmer.
Книги для дополнительного изучения:
- «Modern Mathematical Statistics with Applications», Jay L. Devore, Kenneth N. Berk, Matthew A. Carlton
Объемная книга, содержащая в себе и теорию вероятностей, и статистику с огромным множеством продвинутых тем
- «Теория вероятностей и математическая статистика», Гмурман В.Е.
Также хорошая книга, но с меньшим количеством тем.
Дыхание машинного обучения (1 неделя)
Изучив все необходимые темы для уверенного старта в машинном обучении, было бы неплохо иметь представление о том, как в нем применяется математика и здесь я рекомендую ознакомиться с книгой «Data-Driven Science and Engineering», Steven L. Brunton, J. Nathan Kutz.
Отсюда вы узнаете о сжатии изображений с помощью сингулярного разложения матриц, как преобразование Фурье помогает избавляться от шума в аудиофайлах и изображениях, как найти коэффициенты регрессий через градиентный спуск и многое другое.
Дополнительные источники
Также не могу не упомянуть каналы:
- Sergej Kuts (18+, присутствует мат). Автор по-пацански объясняет математику – весело и полезно.
- dUdVstud – очень много полезной инфы касаемо математики и Data Science в целом.
- MIT OpenCourseWare – море лекций от небезызвестного университета.
