Поделиться Ученые МТУСИ научили искусственный интеллект распознавать кибербуллинг в социальных сетях В Московском техническом университете связи и информатики ( МТУСИ ) под руководством доцента кафедры «Информационная безопасность» Александра Большакова разработана система на базе искусственного интеллекта , способная автоматически обнаруживать и предотвращать кибербуллинг в социальных сетях. Технология использует машинное обучение для анализа текстов и распознает агрессивный контент с высокой точностью. Об этом CNews сообщили представители МТУСИ. Кибербуллинг становится одной из главных угроз цифрового пространства. Скрываясь за анонимностью социальных сетей, злоумышленники атакуют других пользователей оскорблениями и угрозами, что может привести к серьезным психологическим последствиям для жертв. Традиционные методы борьбы с кибербуллингом — «черные» и «белые» списки запрещенных слов — работают неэффективно. Они либо пропускают завуалированные оскорбления, либо блокируют безобидные сообщения, создавая массу ложных срабатываний. Ученые МТУСИ предложили принципиально новый подход: использовать машинное обучение для анализа контекста и смысла сообщений, а не просто поиска «плохих» слов. Система обучалась на датасете из 248,29 тыс. реальных комментариев из социальных сетей , которые были размечены на четыре категории: Нейтральный контент, Оскорбления, Угрозы, Оскорбления и угрозы вместе. Алгоритм научился распознавать сложные паттерны агрессивного поведения и способен адаптироваться к новым формам кибербуллинга при появлении свежих данных. Разработанная система показала высокую точность распознавания: Нейтральный контент — 99% точность; Оскорбления — 84% точность; Угрозы — 75% точность; Оскорбления и угрозы вместе — 78% точность. Это означает, что система способна выявлять и блокировать подавляющее большинство случаев кибербуллинга , при этом практически не затрагивая безобидные сообщения. Source: https://www.cnews.ru/news/line/2025-10-27_uchenye_mtusi_nauchili_iskusstvennyj