Методы оптимизации в машинном обучении

• Курс для студентов 3-го курса ФКН ВШЭ. 1 лекция + 1 семинар в неделю
• Курс охватывает темы выпуклой, невыпуклой, непрерывной оптимизации, особенно мотивированные задачами и приложениями в Машинном Обучении. Рассматриваются разные темы - от фундаментальных материалов до недавних исследований
• Описание курса

Team

Коллоквиум

📜 Список формулировок и теорем

Оценка за коллоквиум складывается из 4 частей:

• Вопросы по формулировкам - 3 балла

  Сначала выдаются 6 случайных определений/формулировок из списка. При правильном ответе хотя бы на 3 из 6 определений/формулировок коллоквиум продолжается дальше, и вы получаете x − 3 баллов, где x – число верно отвеченных вопросов. В противном случае за коллоквиум выставляется 0 баллов.

• Теорема с доказательством - 2 балла

• Решение задачи - 3 балла

  При успешной сдаче определений вам выдается билет, содержащий теоретический вопрос на доказательство, а также задачи. На подготовку к ответу дается 30 минут. Теоретический вопрос на доказательства будет по теоремам из списка. Для подготовки к задачам советуем повторить домашние задания, а также задачи с семинаров. В процессе беседы по предыдущим пунктам принимающий может задавать уточняющие вопросы.

• Дополнительный вопрос - 2 балла

  После ответа на предыдущие этапы принимающий задает дополнительный вопрос, например, задачу или вопрос, связанный с теорией. Ответ на дополнительный вопрос оценивается в 2 балла.

• Во время вопросов по формулировкам нельзя пользоваться никакими источниками.

• На коллоквиуме можно пользоваться чит-листом, к нему есть несколько требований:

  • Им можно пользоваться только при ответе на ту часть коллоквиума, которая про доказательства.
  • Он должен быть написан от руки лично вами (чужие/нерукописные чит-листы — это читинг и бан).
  • Объём чит-листа — одна страница А4 (не лист с двух сторон, а страница).

• Если во время коллоквиума человек не может написать формулировку неравенства Йенсена для выпуклой функции, условия локального экстремума для задачи безусловной оптимизации, метод градиентного спуска, метод Ньютона, метод тяжелого шарика, что такое батч и эпоха, за курс ставится 0.