2022-12-20 16:01:11
Математика для NLP и расчёта космических орбит
Отвечаем на два последних вопроса, которые вы задали на вебинаре.
***
А для NLP и машинного перевода в плане математики какой набор джентльмена?
Вопрос задал Anton Chugunov. Отвечает Георгий Кожевников, разработчик программы курса «Математика для анализа данных».
1. Основы линала, матана, тервера (а-ля векторы, производные, вероятности):
— наш курс по математике для DS,
— книга «Глубокое обучение» авторов Я. Гудфеллоу, И. Бенджио, А. Курвилль,
— курс на Stepik от МФТИ Deep Learning School.
2. Основы машинного обучения (градиентный спуск, линейная регрессия):
— учебник ML от ШАД (может быть жестковат),
— конспекты и видео курса ML на ФКН ВШЭ (один из лучших доступных текстовых материалов по теме, имхо),
— курс на Stepik от МФТИ Deep Learning School.
3. Специализация в NLP + математика нейронных сетей
Тут становится сложно без знания английского, хороших русскоязычных материалов на порядок меньше. Кажется, что кому-то тут рациональнее будет пойти за учебниками\курсами по английскому.
— курс CS224n от Стенфорда — вероятно, самый известный открытый курс по NLP. Материалы очень высокого качества, начиная с основ NLP и до state-of-the-art;
— курс от препода ШАДа Лены Войты — она набила много шишек, преподавая NLP, и сделала полноценный интерактивный курс с теорией и заданиями, всё весьма высокого качества;
— курс CS231n от Стенфорда — это один из самых известных открытых курсов по компьютерному зрению, но где-то треть курса посвящена в целом нейросетям и механизмам их работы, что целиком переносится в сферу современного NLP, плюс часть тем явно посвящены NLP. Тоже очень высококлассные материалы, домашки, лекции.
***
Что изучать сотруднику, который пытается считать орбиты космических аппаратов, если он учится на математике для анализа данных и имеет высшее образование по специальности инф и выч т?
Вопрос задал Xspider_Bagaev. Отвечает Стас Конев, преподаватель в МГТУ им Баумана и на курсе «Математика для анализа данных».
Представленная задача относится к области математического моделирования — моделирования реальных природных или технических явлений с помощью чисто математических методов. Решение таких задач опирается на традиционную «триаду»: модель, алгоритм, программа.
1. Моделью в данном случае будет система обыкновенных дифференциальных уравнений, которые описывают движение спутника с учётом планетарных сил. Здесь пригодятся знания из теоретической механики и физики. Порекомендую «Курс теоретической механики» Добронравова и Никитина, или «Курс теоретической механики» Бухгольца. По физике очень хороший многотомник Сивухина Д. В. «Курс общей физики».
2. После составления модели — задачи для системы обыкновенных дифференциальных уравнений (ОДУ) — нам нужно эту задачу решить. Обычно для решения таких задач используют численные методы интегрирования ОДУ. Подобный материал излагается практически в любой хорошей книжке по численным методам (Например, Калиткин Н.Н. «Численные методы», Самарский А.А., Гулин А.В. «Численные методы», двухтомник под авторством Калиткина Н.Н. и др. «Численные методы»; отмечу книгу Галанина М.П. и Савенкова Е.Б. «Методы численного анализа математических моделей» — это тоже учебник по численным методам, и с чрезвычайно широкой библиографией). Возможно, для решения данной задачи хватит классических многошаговых методов или методов Рунге—Кутты.
3. После того, как мы выбрали численный метод, нам нужно его реализовать в виде программы. Это может быть программа на Python или на любом другом языке программирования. Можно воспользоваться готовой реализацией методов в пакетах математического программирования (например, MATLAB и его открытый аналог Octave). Однако, владение такими пакетами всё равно требует понимания методов.
Возможно, рекомендация не покроет запрос полностью, поскольку небесная механика — это большой раздел теоретической механики, и часто его рассматривают отдельно.
Первая часть ответов на вопросы | Запись вебинара
1.1K viewsedited 13:01
П
