Проект направлен на повышение безопасности образовательной среды за счёт раннего выявления признаков деструктивного информационно-психологического воздействия с применением современных технологий машинного обучения и искусственного интеллекта. Объект исследования — современные и перспективные технологии выявления и предотвращения такого воздействия на учащихся образовательных организаций.
Разрабатываемый подход объединяет анализ мультимедийного контента, распознавание эмоциональных состояний по речи и лицу, обработку психофизиологических данных с носимых устройств и математическое моделирование распространения информации в социальных сетях. Итоговой технологической целью является макет программного комплекса раннего выявления угроз информационно-психологической безопасности учащихся.
Актуальность проекта обусловлена ростом объёма и скорости распространения мультимедийной информации, появлением новых форм деструктивного воздействия и уязвимостью детей и молодёжи к стрессовым и манипулятивным воздействиям. Применяемые в настоящее время программно-технические средства преимущественно блокируют сетевые адреса и распознают ключевые слова, а правовые и организационные механизмы обладают высокой инертностью по отношению к угрозам новых типов. Новизна проекта заключается в переходе от преимущественно синтаксического контроля контента к системному анализу его семантики и прагматики с учётом контекста, последовательности событий, социальных связей и психофизиологического состояния участников коммуникации. Отличительной чертой является объединение разнородных методов в единую архитектуру: носимые сенсоры, нейросетевое распознавание эмоций, большие языковые модели, анализ социальных графов, квантовоподобные и p-адические формализмы, а также мультимодальная классификация.
1. Анализ угроз и моделирование защищаемой среды
Исследуются виды деструктивных информационно-психологических воздействий и ограничения существующих мер защиты. Формируется многоуровневая модель угроз, учитывающая структуру социального графа, типы взаимодействий, когнитивные параметры участников коммуникации и характеристики мультимодального контента. Прорабатываются механизмы противодействия — фильтрация, включение узлов-модераторов и управление распространением сообщений.
2. Психофизиологический мониторинг с помощью носимых устройств
Изучаются методы неинвазивной регистрации физиологических показателей, связанных с эмоциональным состоянием и стрессом: частоты и вариабельности сердечного ритма, фотоплетизмографии, кожно-гальванической реакции, дыхательной активности и других доступных параметров. Разрабатываются процедуры калибровки, фильтрации артефактов, передачи, хранения и предварительной обработки данных. В ходе первого этапа апробирован прототип на основе «умного кольца» Colmi R10 и платы Seeeduino XIAO BLE Sense.
3. Распознавание эмоционального состояния по лицу и речи
Разрабатываются нейросетевые методы анализа мимики, микродинамики лицевых мышц и эмоциональной окраски речи. Исследуются пространственные и временные признаки, спектральные характеристики речевого сигнала и аудиовизуальные модели. Ожидается, что объединение нескольких каналов повысит полноту и точность оценки состояния по сравнению с использованием одномодальных классификаторов.
4. Анализ текстовой и вербальной информации
Предусмотрено дообучение открытых больших языковых моделей для выявления в текстах и транскрибированной речи признаков токсичности, буллинга, угроз, манипуляции и иных форм деструктивного контента. Анализ учитывает не только выявление отдельных ключевых слов, но и контекст, последовательность сообщений и развитие потенциально опасного сценария.
5. Моделирование социальных связей и распространения информации
Исследуются методы построения графа социальных связей по сетевым взаимодействиям и повседневной активности участников коммуникации. Разрабатываются модели прогнозирования распространения потенциально вредоносной информации и алгоритмы изменения топологии графа для сдерживания нежелательных каскадов и повышения устойчивости отдельных сегментов сети.
6. Квантовоподобные и p-адические модели социальной динамики
Для описания коллективных эмоциональных и когнитивных процессов применяются квантовоподобные формализмы, модели двухуровневых акторов и p-адический анализ. Исследуются условия возникновения эмоциональных каскадов, когнитивного резонанса и поляризации групп. На первом этапе на данных сообщений социальной сети «ВКонтакте» изучены квантовоподобные эффекты распространения коллективных эмоций.
7. Интеграция данных в мультимодальный классификатор
Частные модели анализа текста, речи, лица, физиологических сигналов и поведенческих паттернов планируется объединить в единый мультимодальный классификатор. Совместное использование нескольких источников данных предназначено для более обоснованной оценки риска и раннего обнаружения согласованных признаков угрозы.
8. Экспериментальная проверка и пилотное внедрение
Предусмотрены сбор данных у добровольцев из образовательных организаций федеральной территории «Сириус», обучение моделей на реальных данных, экспериментальное тестирование технологий и оценка результативности макета. По итогам испытаний методы и алгоритмы будут корректироваться с учётом полученных данных и экспертной обратной связи.
Научная значимость проекта состоит в разработке комплексного подхода к изучению информационно-психологических угроз деструктивного контента. В едином исследовательском контуре применяются семантический анализ контента, распознавание эмоций, психофизиологические измерения, анализ социальных графов и математические модели групповой динамики. Такой подход позволяет исследовать не только содержание отдельного сообщения, но и состояние человека, контекст коммуникации и возможную траекторию распространения информации.
Практическая значимость связана с созданием инструментов, способных поддержать проактивное реагирование образовательных организаций на возникающие риски. Предполагается, что разработанные методы и программно-аппаратные решения могут использоваться для мониторинга психоэмоционального состояния, выявления потенциально опасного контента и прогнозирования распространения деструктивной информации. Проект также предусматривает методические и просветительские материалы для учащихся, педагогов и родителей, а в дальнейшем — подготовку рекомендаций по масштабированию технологий.
