Главная
Поступление
Образовательные программы и мероприятия
Информационные технологии и искусственный интеллект
Научно-практический интенсив по воспроизведению state-of-the-art научных результатов

Научно-практический интенсив по воспроизведению state-of-the-art научных результатов

Научный центр:

Информационные технологии и искусственный интеллект

Сроки проведения:

9-20 октября 2023

Срок подачи заявки:

30 августа 2023

По вопросам участия в программе просим обращаться по адресу cdpo@talantiuspeh.ru

Научно-практический интенсив по воспроизведению state-of-the-art научных результатов

О программе

Работа над инновационными проектами требует глубокого погружения в мир исследований и научных достижений в определенной области. Специалисты постоянно работают над решением новых задач и анализом разработок коллег, опубликованных в научных статьях и результатах конференций. Важнейшей задачей работы с подобными материалами является анализ возможности использования подходов и методов для улучшения собственного сервиса.

Данная программа рассчитана на слушателей, умеющих программировать и стремящихся работать в IT-компании.

Программа включает в себя лекции о современных научных и инженерных достижениях в определенных сферах информационных технологий и командную работу над проектами по воспроизведению экспериментов из научных статей. Слушатели будут работать в командах над проектами при консультировании куратора – аналитика или разработчика-исследователя. В каждом проекте необходимо воспроизвести эксперимент из научной статьи и сделать выводы об устойчивости описанного эксперимента.

Командная работа позволит участникам применить и развить софт-скиллы: коммуникация с коллегами, постановка задач, распределение ресурсов. Знания, полученные при работе в команде над проектом, близки к индустриальным, что позволят слушателю приобрести именно практический опыт и быть востребованным в IT-сфере.

Преподаватели:

Александр Гасников

Ментор проектов, доктор физико-математических наук, профессор кафедры математических основ управления факультета управления и прикладной математики Московского физико-технического института

Александр Антонов

Ментор проекта, руководитель бригады оценки качества перевода, Яндекс

Дарина Двинских

Ментор проекта, доцент ВШЭ, лектор по математической статистике на базовом потоке ФКН

Радослав Нейчев

Ментор проекта, старший разработчик лаборатории машинного интеллекта, Яндекс

Александр Безносиков

Ментор проекта, заведующий лабораторией фундаментальных исследований МФТИ-Яндекс

Учебно-методические материалы

Перечень основной литературы:

Абу-Мостафа Я., Магдон-Исмаил М., Линь С. Learning From Data. 2012.
Николенко С. И., Кадурин А. А., Архангельская Е. О. Глубокое обучение. 2018.
Роузброк А. Deep Learning for Computer Vision with Python. 2017.

Научные статьи и труды конференций:

Gaier, Ha D., Weight Agnostic Neural Networks https://weightagnostic.github.io/
Gorbunov E., Rogozin A., Beznosikov A., Dvinskikh D., Gasnikov A., Recent theoretical advances in decentralized distributed convex optimization https://arxiv.org/pdf/2011.13259.pdf
Hu, Shen Y., Wallis P., Allen-Zhu Z., Li Y., Wang S., Wang L., Chen W. LoRA: Low-Rank Adaptation of Large Language Models https://arxiv.org/abs/2106.09685
Kocmi T., Federmann C. Large Language Models Are State-of-the-Art Evaluators of Translation Quality. https://arxiv.org/pdf/2302.14520.pdf
Radford, Jong Wook Kim, Hallacy C., Ramesh A., Goh G., Agarwal S., Sastry G., Askell A., Mishkin P., Clark J., Krueger G., Sutskever I. Learning Transferable Visual Models From Natural Language Supervision https://arxiv.org/abs/2103.00020
Rogozin A., Gasnikov A., Beznosikov A., Kovalev D., Decentralized Convex Optimization over Time-Varying Graphs: a Survey https://arxiv.org/pdf/2210.09719.pdf
Vogels Т., Hendrikx Н., Jaggi М. Beyond spectral gap: The role of the topology in decentralized learning https://arxiv.org/pdf/2206.03093.pdf
Woodworth В., Srebro N., An Even More Optimal Stochastic Optimization Algorithm: Minibatching and Interpolation Learning https://proceedings.neurips.cc/paper/2021/file/3c63ec7be1b6c49e6c308397023fd8cd-Paper.pdf

Перечень ресурсов информационно-телекоммуникационной сети «Интернет»:

Foster, I., Gannon, D. B., Cloud Computing for Science and Engineering, 2017, https://cloud4scieng.org/
Комплексная платформа машинного обучения TensorFlow, https://www.tensorflow.org/.
Онлайн учебник «Машинное обучение», https://academy.yandex.ru/handbook/ml.
Онлайн учебник «Основы алгоритмов», https://academy.yandex.ru/handbook/algorithms.
Руководство пользователя интерфейса визуализации данных Python Dash, https://dash.plotly.com/.
Фреймворк машинного обучения PyTorch, https://pytorch.org/tutorials/.

Руководитель

Толстиков Алексей Александрович

Руководитель Школы анализа данных, ООО «Яндекс»

Участники и порядок отбора

К участию приглашаем студентов бакалавриата, магистратуры и аспирантуры, интересующихся современными достижениями в различных областях машинного обучения, построением новых архитектур глубоких нейронных сетей, систем хранения и обработки данных. Уровень образования: минимум - 1 курс бакалавриата/специалитета, максимум – 2 курс аспирантуры.

Направление обучения студентов – информационные технологии, автоматизация, программная инженерия, а также другие направления в области информационных технологий.

Для освоения содержания дополнительной профессиональной программы слушатели должны владеть следующими знаниями и компетенциями:

Знания в области информационных технологий;
Знания основ программирования на языке python или C++;
Знания алгоритмов и структур данных;
Навыки построения проектов по обучению и тестированию моделей машинного обучения, проведению численных экспериментов;
Командной работы, принятия решений, эффективных коммуникаций;
Уровень английского языка, достаточный для изучения материалов по тематике информационных технологий на английском языке (рекомендуемый уровень: Intermediate и выше).

Форма организации отбора слушателей

Индивидуальный отбор, состоящий из следующих стадий:

выполнение общих (технических) требований к заявке: прохождение регистрации в заявочной системе Сириус.Онлайн и на сайте Академии Яндекса, заполнение анкеты.
решение экзаменационных заданий в системе Яндекс.Контест;
оценивание резюме и мотивационного письма;
собеседование.

Задания для конкурсного отбора:

Программная реализация модельной задачи на моделирование (программирование);
Программная реализация решения задачи на графы (программирование);
Программная реализация модуля предобработки и поиска данных (программирование);
Программная реализация метода оптимизационного поиска наилучшего приближения решения (программирование, машинное обучение);
Первичный анализ эксперимента из научной статьи на возможные риски в воспроизведении и ожидаемые результаты. Оценка необходимых ресурсов.

Критерии отбора:

Результаты отборочных мероприятий будут оцениваться по следующим критериям:

Оценка анкеты (максимум 10 баллов):

участие в мероприятиях, включенных в государственный информационный ресурс о детях, проявивших выдающиеся способности получателей грантов Президента РФ (победитель, призер) (3-4 балла);
участие в отраслевых IТ-Хакатонах и соревнованиях по программированию за период 2021-2023 гг. (победитель-призер) (2-4 балла);
участие в академических проектах Яндекса и иных соревнованиях (1-4 балла).

Тестовое задание в системе Яндекс.Контест. Расчет баллов осуществляется по каждой задаче отдельно. Каждая правильно решенная задача оценивается в 6 баллов. Задачи проверяются автоматически:

5 решенных задач – 30 баллов;
4 решенные задачи – 24 балла;
3 решенных задачи – 18 баллов;
2 решенных задачи – 12 баллов;
1 решенная задача – 6 баллов;
0 решенных задач – 0 баллов.

Оценка обзора выбранной в системе Яндекс.Контест статьи: – до 10 баллов. Выполненный обзор загружается в систему Яндекс.Контест:

описание программного и хардверного окружения, требуемого для выполнения эксперимента (1-3 балла);
описание результатов, которые вероятно удастся воспроизвести, описание предварительных рисков для воспроизведения (1-4 балла);
описание сценариев возможного развития экспериментов и исследований из статьи (1-3 балла).

50 кандидатов с наивысшим баллом по результатам оценивания 3 критериев приглашаются для прохождения собеседования с организаторами программы. В ходе собеседования задаются дополнительные вопросы по выполненным заданиям и оценивается готовность студента к командной работе над проектами:

соискатель предоставляет ответы по сути технических вопросов по выполнению тестового задания и обзора статьи, ответы являются развернутыми, аргументированными и логично изложенными; кандидат показывает мотивацию и заинтересованность в участии в программе, соискатель рассматривает карьерные перспективы в связи с получением знаний, умений, навыков после завершения образовательной программы; навыки и персональные качества соискателя показывают его готовность к командной работе над проектами – 50 баллов;
соискатель предоставляет ответы по сути технических вопросов по выполнению тестового задания и обзора статьи, ответы являются развернутыми, аргументированными; навыки и персональные качества соискателя показывают его готовность к командной работе над проектами – 40 баллов;
соискатель предоставляет ответы формально, ответы являются неразвернутыми и не аргументированными; кандидат показывает мотивацию и заинтересованность в участии в программе, навыки и персональные качества соискателя показывают его готовность к командной работе над проектами – 20 баллов;
соискатель предоставляет ответы формально, ответы являются неразвернутыми и не аргументированными – 10 баллов;
соискатель не предоставляет ответы на технические вопросы по выполнению тестового задания; навыки и персональные качества соискателя не показывают его готовность к командной работе над проектами – 0 баллов.

Техническим критерием для отбора участников на программу является соблюдение требований, указанным в графе «Входные требования, необходимые для освоения содержания Программы». (участник является студентом очного обучения, возрастом 18 лет и старше, указанных курсов и направлений обучения). Данный критерий является обязательным, баллы за данный критерий не предусматриваются.

Суммарные значения результатов отображаются в итоговом рейтинге участников. Участники, продемонстрировавшие наилучшие результаты и выполнившие общие (технические) требования к заявке, приглашаются на обучение по программе.

Спорные вопросы решаются на уровне руководителя программы. При формировании итогового рейтинга участников, учитывается суммарный балл по всем отборочным испытаниям.