Размер шрифта:
+
Цвет сайта:
Изображения:

Студент ТУСУРа разрабатывает родительский контроль нового поколения

17 января 2024
Студент ТУСУРа разрабатывает родительский контроль нового поколения

Разработка сервиса «AI Sentinel» с целью обнаружения потенциальных угроз в диалогах с использованием больших языковых моделей получила поддержку грантовой программы ФСИ «УМНИК».

Студент ТУСУРа разрабатывает сервис, который поможет родителям обеспечить безопасное общение детей в веб-пространстве. Он не только позволит ограничить переход на ресурсы 18+, но и проанализирует эмоциональную окраску диалогов и отправит уведомление при выявлении подозрительной переписки.

«Статистика показывает, что 50% детей старше 7 лет уже сталкивались с негативным общением в социальных сетях. Наш сервис предназначен для повседневного использования и призван помочь родителям защитить от нежелательного или опасного общения», - рассказывает автор проекта Роман Муромцев. 

В основе решения - использование больших языковых моделей для анализа диалогов. Такой подход позволит проводить детальный анализ переписки и выявлять злоумышленников на этапе общения с помощью отправки уведомления о подозрительном собеседнике родителям.

Сейчас на рынке нет систем, которые работали бы по такому принципу. Максимум, на что могут рассчитывать пользователи «родительского контроля» – ограничение времени пользования определенными ресурсами и блокировка сервисов с пометкой 18+.

В ближайший год Роман Муромцев планирует спроектировать и обучить нейросеть, которая сможет анализировать эмоциональную окраску диалогов и разработать сам сервис. Представить работающую программу пользователям разработчики планируют уже в мае 2025 года.

Другие новости

03 декабря 2025

В ТУСУРе разрабатывают интеллектуальное решение по мониторингу потребления и защиты комплектующих ПК

10 декабря 2025

Профессор кафедры автоматизированных систем управления (АСУ) Томского госуниверситета систем управления и радиоэлектроники (ТУСУРа) Екатерина Грибанова протестировала новые методы машинного обучения в ходе прогнозирования стоимости акций, а также успеваемости студентов. В сравнении с классическими методами обучения нейросетей, в ряде случаев удалось добиться увеличения точности в 4 раза.

17 июля 2025

Аспирант Томского государственного университета систем управления и радиоэлектроники (ТУСУР) Никита Павлов, победитель второго конкурсного отбора на назначение стипендии Президента РФ для аспирантов и адъюнктов, рассказал в пабликах Минобрнауки России о своей работе.

13 ноября 2025

Томский госуниверситет систем управления и радиоэлектроники (ТУСУР) вошел в пилотный проект Министерства науки и высшего образования РФ по созданию Многофункционального учебно-научного (производственного) центра по проблемам информационной безопасности (УНЦ ИБ).

НАВЕРХ