Студент ТУСУРа разрабатывает родительский контроль нового поколения
Разработка сервиса «AI Sentinel» с целью обнаружения потенциальных угроз в диалогах с использованием больших языковых моделей получила поддержку грантовой программы ФСИ «УМНИК».
Студент ТУСУРа разрабатывает сервис, который поможет родителям обеспечить безопасное общение детей в веб-пространстве. Он не только позволит ограничить переход на ресурсы 18+, но и проанализирует эмоциональную окраску диалогов и отправит уведомление при выявлении подозрительной переписки.
«Статистика показывает, что 50% детей старше 7 лет уже сталкивались с негативным общением в социальных сетях. Наш сервис предназначен для повседневного использования и призван помочь родителям защитить от нежелательного или опасного общения», - рассказывает автор проекта Роман Муромцев.
В основе решения - использование больших языковых моделей для анализа диалогов. Такой подход позволит проводить детальный анализ переписки и выявлять злоумышленников на этапе общения с помощью отправки уведомления о подозрительном собеседнике родителям.
Сейчас на рынке нет систем, которые работали бы по такому принципу. Максимум, на что могут рассчитывать пользователи «родительского контроля» – ограничение времени пользования определенными ресурсами и блокировка сервисов с пометкой 18+.
В ближайший год Роман Муромцев планирует спроектировать и обучить нейросеть, которая сможет анализировать эмоциональную окраску диалогов и разработать сам сервис. Представить работающую программу пользователям разработчики планируют уже в мае 2025 года.
Другие новости
Эксперты оценили доклады финалистов XXIV Всероссийского ежегодного конкурса-конференции студентов и аспирантов по информационной безопасности «SIBINFO-2024».
Студент ТУСУРа разрабатывает компьютерный симулятор работы инженера службы эксплуатации радиотехнического оборудования и связи для Центров организации воздушного движения.
Ректор ТУСУРа Виктор Рулевский и президент университета Александр Шелупанов поздравляют с Днём защитника Отечества
Доклады от представителей университетов пяти городов России прозвучали на подсекциях «Методы и системы защиты информации. Информационная безопасность» и «Экономическая безопасность», которая проходила на территории «ИнфоТеКС-Академии».
