Расширение набора ролей и компетенций в разработке закономерно обостряет вопрос ответственности — прежде всего, в области безопасности. Чем глубже ИИ встраивается в инженерные процессы, тем больше рисков связано с конфиденциальностью, контролем и надежностью создаваемых решений. Небезопасно, но пока под контролем Использование искусственного интеллекта при генерации кода нельзя назвать безопасным, хотя пока об этом еще помнят. Если типичный результат работы языковой модели в большинстве случаев требует доработки и проходит стандартные этапы проверки и редактирования, то сам процесс ее функционирования несет в себе юридические и этические риски. Когда ИИ работает на внешних вычислительных мощностях, остро встает вопрос конфиденциальности и недопустимости утечки корпоративных и клиентских данных. Методы цензуры, применяемые при обучении моделей, также не всегда надежны: система может отказываться выполнять запросы, выдавать политизированные ответы, а в худших случаях — формировать откровенно вредоносный контент. Открытым остается и вопрос авторского права: кодовые базы и иные материалы, использованные при обучении моделей, могут невольно становиться источником нарушений. Компании до сих пор не имеют четких механизмов защиты своей интеллектуальной собственности в ситуации, когда она фактически «запоминается» в весах отчуждаемых моделей и может случайным образом появляться в решениях других организаций. Малые компании, как правило, не задумываются о подобных рисках и загружают чувствительные фрагменты кода напрямую поставщику ИИ, полагаясь на его добросовестность. При этом сама добросовестность во многом сформирована давлением со стороны крупных корпоративных клиентов, требующих прозрачных правил обработки и хранения данных. Все чаще встречаются и варианты локального размещения ИИ-систем — прежде всего в секторах, где действуют строгие требования государственных регуляторов. На вершине этой иерархии безопасности находятся суверенные подразделения искусственного интеллекта и собственная вычислительная инфраструктура — путь, по которому сегодня идут крупнейшие российские ИТ-компании. Но несмотря на все риски и неопределенности, связанные с безопасностью и правовым статусом языковых моделей, практика показывает: компании продолжают активно экспериментировать с их внедрением. Российский рынок — не исключение. Российская практика: первые итоги и направления развития Вайб-кодинг уже применяется в российских компаниях, но результаты этого применения крайне неоднородны. Все известные мне случаи промышленного использования языковых моделей в качестве основного инструмента создания программного кода, который затем вводится в эксплуатацию, связаны в основном с командами, работающими в области OLAP и DWH. В этих задачах языковые модели хорошо проявляют себя как генераторы небольших, легко встраиваемых модулей преобразования и анализа данных. В более традиционных сегментах разработки языковые модели пока выполняют вспомогательную роль. Их склонность к логическим ошибкам и «забывчивости» ограничивает область применения рамками персональной поддержки отдельных разработчиков. Сейчас сохраняется тенденция использования таких моделей там, где смысловая сложность постановки задачи и контроля результата заметно ниже сложности реализации. Это прототипирование, рефакторинг и трансформация кода, перевод, поиск и адаптация существующих решений по нечетким формулировкам, диагностика инфраструктурных проблем, а также автоматизация код-ревью. У нас в ITKey для крыла DevOps наиболее продуктивными оказались диагностические и скриптовые функции вайб-кодинг-инструментов: например, отладить или дописать неработающую по неизвестным причинам систему трансформации Docker-образов или Ansible-модуль для выпуска узко-специализированных PKI-сертификатов. Такие задачи объединяет то, что проблематика хорошо освещена в интернете но настолько объемна или скучна что никто не хочет держать ее специфику в голове. Вайб-кодинг помогает замещать соседа-разработчика, делая инженера заметно более автономным и быстрым в некоторых задачах. Разработчики же пока более консервативны и предпочитают пользоваться интеграциями вайб-кодинг-утилит в IDE для ускорения рутинных лексических задач, либо классической формой промпт-ответ. Многие российские компании уже активно создают внутренние инструменты для системного внедрения данного подхода. Эти усилия сосредоточены в двух направлениях: развитие внутренней инфраструктуры, устойчивой к рискам недоступности и ценовой неопределенности, и стандартизация процессов — постановки задач, разработки и тестирования новых модулей, что позволяет уменьшить вероятность ошибок и «галлюцинаций» модели. Некоторые команды уже проводят эксперименты с комбинациями нейросетевых агентов, предназначенных для взаимного контроля и итеративного решения задач. Это направление прикладных исследований сейчас активно развивается во всем мире. Накопленный практический опыт уже позволяет делать осторожные прогнозы о том, куда будет двигаться технология в ближайшие годы. От эксперимента к новой норме: куда движется машинная разработка Языковые модели и продукты их эволюции уже стали неотъемлемой частью процесса разработки программного обеспечения. Неопределенными остаются лишь сектора и уровни производственной иерархии, на которых их сильные и слабые стороны проявят себя наиболее эффективно. Контентная индустрия — маркетинг, копирайтинг, визуальные решения — уже продемонстрировала кратный рост производительности после внедрения языковых и графических моделей. Похожий эффект ожидает и сферу программирования. Вопрос лишь в том, останутся ли эти системы постоянными помощниками специалистов или со временем превратятся в автономные рабочие группы внутри инфраструктур разработки нового поколения. Вполне возможно, что текущий экстенсивный путь развития моделей не позволит преодолеть этот барьер и настоящий прорыв произойдет позже. Однако даже в этом случае компании, которые уже сейчас перестраивают процессы под машинную разработку, окажутся впереди. На горизонте ближайших трех–пяти лет в ИТ-экосистемах крупных компаний, вероятно, будет решена задача уверенной и предсказуемой разработки новых программных модулей по постановкам средней степени детализации. Впрочем, называть это вайб-кодингом будет уже странно — скорее это естественное продолжение концепции. Привычный сегодня формат итеративной работы с ИИ в диалоговом режиме будет развиваться не столько «вглубь», сколько «вширь», привлекая все больше пользователей и снижая порог вхождения в инструментарий нового поколения. Однако этот этап станет лишь промежуточным. Когда инструменты машинной разработки достигнут предсказуемости и массового применения, следующим вызовом станет качественное изменение самих принципов их работы. Перспективным направлением развития можно считать создание гибридов современных языковых моделей с классическими формальными системами, более предсказуемыми и лишенными свойственной нейросетям забывчивости и непостоянства. Такие решения способны объединить гибкость ИИ с надежностью строгих вычислительных подходов. Source: https://www.it-world.ru/tech/dtj95g079s84wkkgwswo848wgs4c4g4.html