Доверенный искусственный интеллект

Информационные технологии и искусственный интеллект

Доверенный искусственный интеллект

Сроки проведения начало:  07.10.2024

Сроки проведения конец:  18.10.2024

Срок подачи заявки:  06.09.2024

О ПРОГРАММЕ: 

В связи с нарастающим числом внедрений современных технологий искусственного интеллекта (ИИ) возникают новые риски и угрозы, связанные с безопасностью и обеспечением доверия к технологиям ИИ.

В программе рассматриваются методы на стыке области искусственного интеллекта и кибербезопасности. В процессе освоения образовательной программы слушатели приобретут знания, умения и навыки противодействия атакам на системы, использующие методы машинного обучения. Получат практический опыт создания методов машинного обучения, устойчивых к атакам.

В рамках программы будут рассмотрены:

• Методы обнаружения и противодействия уязвимостям машинного обучения, включая состязательные атаки, атаки с внедрением закладок и зловредного кода и т.д.;
• Методы выявления и борьбы с устареванием моделей из-за изменения распределений во входных данных (concept drift, feature drift);
• Теория и практика создания моделей, устойчивых к атакам;
• Подходы к интерпретируемости моделей машинного обучения;
• Создание доверенных фреймворков для обучения нейронных сетей;
• Статический и динамический анализ компонентов интеллектуальных систем.

Участники программы смогут также ознакомиться с разработками Исследовательского центра доверенного искусственного интеллекта ИСП РАН, и даже принять участие в создании облачной платформы для разработки доверенных интеллектуальных систем.

Учебно-методические материалы:

• Уорр Кэти. 2021. Надежность нейронных сетей: укрепляем устойчивость ИИ к обману. O`Reilly.
• Christopher M. Bishop. 2006. Pattern Recognition and Machine Learning (Information Science and Statistics). Springer-Verlag, Berlin, Heidelberg.
• Ian Goodfellow and Yoshua Bengio and Aaron Courville, Deep Learning. MIT Press.
• Фостер Дэвид. 2020. Генеративное глубокое обучение. Творческий потенциал нейронных сетей. O`Reilly

Партнеры:

• Федеральное государственное бюджетное учреждение науки Институт системного программирования им. В.П. Иванникова Российской академии наук, Исследовательский центр доверенного искусственного интеллекта

• Федеральное государственное автономное образовательное учреждение высшего образования «Московский физико-технический институт (национальный исследовательский университет)»

• Государственное автономное образовательное учреждение высшего образования «Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского»

• Автономная некоммерческая образовательная организация высшего образования «Сколковский институт науки и технологий»

• AIRI - научно-исследовательский институт искусственного интеллекта

• Автономная некоммерческая организация высшего образования «Университет Иннополис»

Ссылка на кнопке "Подать заявку":  https://my.sirius.online/activity-page/ntu:dpo-trusted-artificial-intelligence-2024

Руководитель:  Михаил Виссарионович Ширяев

Ссылка на кнопке "Узнать больше":  /pre-admission/

Текст в карточке: 

По вопросам участия в программе просим обращаться по адресу cdpo@talantiuspeh.ru 

Условия участия: 

Всем, кто прошел конкурсный отбор и был приглашен на программу, необходимо предоставить справку с места обучения, взятую не ранее, чем за 3 месяца до начала образовательной программы.

Для участников предоставляется проживание и питание во время обучения на программе.

Проезд/перелет на программу оплачивается участником самостоятельно или за счёт Университета, в котором он обучается.

Плата за обучение на программе не взимается.

К участию в программе допускаются только граждане РФ.

К конкурсному отбору не принимаются заявки от студентов, принимавших участие в программах дополнительного образования Университета «Сириус» 2 и более раз в период с 2022 по 2024 год.

Приглашенные на программу студенты, не сообщившие о невозможности прибыть на программу, не будут допущены к отбору на следующие дополнительные образовательные программы за счет средств Университета «Сириус».

Студенты, отчисленные с дополнительной профессиональной программы как не прошедшие успешно итоговую аттестацию, не будут допущены к отбору на следующие дополнительные образовательные программы за счет средств Университета «Сириус».

Участники и порядок отбора: 

На программу приглашаются студенты старших курсов бакалавриата и специалитета, магистратуры и программ подготовки научных и научно-педагогических кадров в аспирантуре, обучающиеся по группам специальностей: математика, прикладная математика и информатика.
Для освоения содержания дополнительной профессиональной программы слушатели должны владеть следующими знаниями и компетенциями:

• знание высшей математики (линейная алгебра, дискретная математика, теория вероятностей) и теоретических основ компьютерных наук (алгоритмы, сложность вычислений);
• основы программирования (Python, алгоритмы и структуры данных, анализ данных и машинное обучение);
• понимание основ машинного обучения, обладание практическим опытом решения задач с применением машинного обучения;
• знание английского языка, достаточное для прослушивания лекций и чтения англоязычной литературы.

Форма вступительных испытаний (конкурсного отбора):

• CV;
• Рекомендация специалиста в области машинного обучения;
• Практическое задание;
• Теоретическое задание.

Задания для конкурсного отбора:

• CV - особый приоритет отдается кандидатам с опытом в тематике проектной смены (указание ссылки на github с реализованными проектами в области машинного обучения)
• Практическое задание;
• Теоретическое задание.

Критерии отбора

Оценка CV (максимум 35 баллов):

• наличие пройденных курсов по искусственному интеллекту и оценки по ним (от 0 до 5 баллов);
• наличие пройденных математических дисциплин и оценки по ним (от 0 до 5 баллов);
• наличие дисциплин по программированию и оценки по ним (от 0 до 5 баллов);
• описание опыта работы в научных лабораториях (стаж, функционал, полученные компетенции) (от 0 до 6 баллов);
• наличие и перечень научных публикаций с указанием уровня конференции или квартиля журнала (от 0 до 6 баллов);
• мотивация участника (от 0 до 6 баллов);
• уровень владения английским языком (от 0 до 2 баллов).

Оценка рекомендации специалиста в области машинного обучения (максимум 15 баллов):

• наличие опыта работы в лаборатории (от 0 до 1 баллов);
• релевантность работы претендента тематике проектной смены (от 0 до 5 баллов);
• общая оценка квалификации и перспектив претендента (от 0 до 6 баллов);
• качество научных работ (включая уровень научных конференций и журналов) (от 0 до 3 баллов).

Оценка практического задания (максимум 25 баллов: 10 баллов – первый пункт, 15 баллов - второй пункт). 

Пункт 1:

• Наличие удовлетворяющего постановке (состоит из изображений, семантически отличных от представленных ID примеров, и наличие изображений, приводящих к ошибкам модели) набора данных оценивается (от 0 до 5 баллов);
• В условиях выполнении первого критерия производится экспертная оценка отчета о подходе к формированию набора данных (от 0 до 5 баллов).

Пункт 2:

• Соответствие постановке и работоспособность кода модифицированной модели (от 0 до 5 баллов);
• В условиях выполнения первого критерия производится экспертная оценка отчета о подходе к детекции примера вне распределения, введения коэффициента уверенности. Учитывается новизна, сложность, вычислительная эффективность предложенного решения (от 0 до 5 баллов);
• В условиях выполнения первого критерия производится экспертная оценка метрик предложенной модели на приватных наборах данных, оценивается скорость предложенного решения (от 0 до 5 баллов).

Оценка теоретического задания (максимум 25 баллов): Оценивается число правильно решенных задач и степени продвижения в решении для нерешенных.

• задача №1 (от 0 до 6 баллов);
• задача №2 (от 0 до 6 баллов);
• задача №3 (от 0 до 13 баллов).

Название:  Доверенный искусственный интеллект

Картинка для анонса:  Загрузить