РАН Чем угрожает нейросеть. Вопросы внедрения ИИ обсудили на Президиуме РАН Разговор начал заместитель президента РАН, директор Института системного программирования им. В.П. Иванникова РАН академик Арутюн Аветисян, отметив, что наблюдается хорошая динамика развития ИИ-инструментов, искусственный интеллект уже самостоятельно создает новые архитектуры нейронных систем, десятки тысяч моделей используются в индустрии, существуют миллионы финансовых инструментов. Академик выделил ключевые вызовы, стоящие на данном этапе перед сообществом, работающим с искусственным интеллектом. Во-первых, это фрагментация данных и ограниченный доступ к качественно аннотированным выверенным данным. Во-вторых, фрагментация технологического стека (инструментов для разработки в программировании). И, наконец, фрагментация компетенций: необходимо объединение специалистов в рамках междисциплинарных исследований, открытых сообществ вокруг соответствующего стека технологий. Что касается угроз, сопряженных с использованием ИИ, то они связаны, с одной стороны, с кибербезопасностью, а с другой — с социогуманитарным аспектом (проблемы честности генеративного ИИ, манипуляция общественным мнением и сознанием отдельного человека и т. д.). — Но есть базовые технологии, позволяющие создавать все эти модели. Причем сегодня очевиден тренд на специализированные. Я утверждаю, что академическое сообщество, академический институт — это наиболее правильная организация, которая позволяет создавать модели долгосрочного устойчивого развития. Пример тому — деятельность нашего института, — рассказал Арутюн Ишханович. — В 2021 году мы организовали Центр доверенного искусственного интеллекта. Два месяца назад на Digital Week в Казани мы подписали с Ростелекомом соглашение, в соответствии с которым разработки наших специалистов компания положит в основу своей платформы. Мы работаем и с медицинским сообществом, делаем большие модели вместе с Национальным медицинским исследовательским центром им. В.А. Алмазова и со Сбером. Академик Аветисян предложил создать единую открытую экосистему развития искусственного интеллекта в науке под руководством Российской академии наук, которая могла бы включить современную суперкомпьютерную инфраструктуру на базе распределенных центров обработки данных. Отделениям Академии наук нужно будет подготовить проекты такого технологического лидерства с синхронизацией с теми проектами, которые уже есть. А в самой РАН — создать соответствующий центр разработки, координации и трансфера лучших практик научной деятельности. По мнению первого заместителя директора Федеральной службы по техническому и экспортному контролю Виталия Лютикова, наряду с очевидными положительными эффектами от использования ИИ применение моделей машинного обучения несет дополнительные угрозы: так называемая датацентричность искусственного интеллекта дает возможность обучать модели нежелательному поведению, получать несанкционированный доступ к обучающим данным, вводить модели в заблуждение. Подробности — в материале Андрея Субботина «Вопрос доверия» в очередном номере газеты «Поиск». Озвучить 12 декабря 2025 2 мин. Разговор начал заместитель президента РАН, директор Института системного программирования им. В.П. Иванникова РАН академик Арутюн Аветисян, отметив, что наблюдается хорошая динамика развития ИИ-инструментов, искусственный интеллект уже самостоятельно создает новые архитектуры нейронных систем, десятки тысяч моделей используются в индустрии, существуют миллионы финансовых инструментов. Академик выделил ключевые вызовы, стоящие на данном этапе перед сообществом, работающим с искусственным интеллектом. Во-первых, это фрагментация данных и ограниченный доступ к качественно аннотированным выверенным данным. Во-вторых, фрагментация технологического стека (инструментов для разработки в программировании). И, наконец, фрагментация компетенций: необходимо объединение специалистов в рамках междисциплинарных исследований, открытых сообществ вокруг соответствующего стека технологий. Что касается угроз, сопряженных с использованием ИИ, то они связаны, с одной стороны, с кибербезопасностью, а с другой — с социогуманитарным аспектом (проблемы честности генеративного ИИ, манипуляция общественным мнением и сознанием отдельного человека и т. д.). — Но есть базовые технологии, позволяющие создавать все эти модели. Причем сегодня очевиден тренд на специализированные. Я утверждаю, что академическое сообщество, академический институт — это наиболее правильная организация, которая позволяет создавать модели долгосрочного устойчивого развития. Пример тому — деятельность нашего института, — рассказал Арутюн Ишханович. — В 2021 году мы организовали Центр доверенного искусственного интеллекта. Два месяца назад на Digital Week в Казани мы подписали с Ростелекомом соглашение, в соответствии с которым разработки наших специалистов компания положит в основу своей платформы. Мы работаем и с медицинским сообществом, делаем большие модели вместе с Национальным медицинским исследовательским центром им. В.А. Алмазова и со Сбером. Академик Аветисян предложил создать единую открытую экосистему развития искусственного интеллекта в науке под руководством Российской академии наук, которая могла бы включить современную суперкомпьютерную инфраструктуру на базе распределенных центров обработки данных. Отделениям Академии наук нужно будет подготовить проекты такого технологического лидерства с синхронизацией с теми проектами, которые уже есть. А в самой РАН — создать соответствующий центр разработки, координации и трансфера лучших практик научной деятельности. По мнению первого заместителя директора Федеральной службы по техническому и экспортному контролю Виталия Лютикова, наряду с очевидными положительными эффектами от использования ИИ применение моделей машинного обучения несет дополнительные угрозы: так называемая датацентричность искусственного интеллекта дает возможность обучать модели нежелательному поведению, получать несанкционированный доступ к обучающим данным, вводить модели в заблуждение. Source: https://poisknews.ru/anonsy/chem-ugrozhaet-nejroset-voprosy-vnedreniya-ii-obsudili-na-prezidiume-ran/