СБ Беларусь сегодня Доверять нельзя проверить. Как искусственный интеллект уничтожил правду в интернете Наш и без того чудной мир с каждым днем становится все страннее. Тот, с кем вы только что пылко спорили в комментариях, запросто может оказаться ботом, шокирующие кадры катастроф — подделкой, а красочный видеоролик из TikTok — результатом «творчества» искусственного интеллекта. Граница между реальным и цифровым, человеческим и машинным прямо у нас на глазах рассыпается в прах. Доверять нельзя проверить. Где же ставить запятую, когда нейросетевой вымысел практически неотличим от действительности? Постправда 2.0 Текущий год мир встретил по-голливудски: Калифорния снова горела. Пожары стали для американского штата чем-то вроде национальной традиции, порой кажется, что сама природа пытается очиститься в священном огне от наследия тлетворной «воук-культуры», заполонившей экраны. Но на сей раз реальность «слегка» подменили. Искрой для пожара другого толка послужил, казалось бы, безобидный пост пользователя с говорящим никнеймом @ai_creatiions. На странице в Instagram он опубликовал «горящий» Лос-Анджелес в мерцании пожарных сирен. Автор добавил хештег #aiart и в описании к видео честно указал, что кадры сгенерировал искусственный интеллект. Но кто же читает описание, когда в ленте апокалипсис в 4K? Ролик, всем видом кричащий о своей искусственности, разлетелся по сети со скоростью лесного пожара. Миллионы просмотров, море лайков и паника в комментариях — казалось, весь мир поверил, что Голливуд и впрямь обращается в пепел под кинематографичные пролеты камеры в слоу-мо. «Горячий» тренд подхватили другие пользователи, выкладывая наспех сгенерированные ролики на своих страницах. А алгоритмы соцсетей, анализируя растущий интерес, начали продвижение такого контента в рекомендациях. Масла в огонь подливали боты, которые спамили в комментариях под каждым из роликов. Сквозь плотную дымовую завесу фейков раздавались одинокие возгласы сомнения, но вирусный конвейер было не остановить. Задыхаясь в погоне за хайпом, к этой истории подтянулись солидные СМИ, раздувая угли кричащими заголовками. А когда дым наконец рассеялся и началась неизбежная «расчистка пепелища», обжегшиеся массмедиа в попытках спасти остатки авторитета скоренько побежали клепать антифейк-комитеты. Шквалом посыпались «разоблачения» от журналистов, которые выезжали на реальные места якобы катастроф, а эксперты от индустрии с серьезными лицами покадрово разбирали нейросетевое творчество, указывая на артефакты генерации. Но самый забавный итог этой истории не в том, удалось ли кого-то переубедить. А в том, что среди всей этой шумихи про фейки затерялся простой вопрос: «А сами-то пожары в этот раз были на самом деле?» Театр современного абсурда Люди даже не замечают, как часто сталкиваются с контентом, который невозможно с ходу отличить от реальности. Сейчас в сети хайпит новый флагман OpenAI — нейросоциальная сеть Sora, генерирующая короткие ролики по текстовому запросу. Всего за сутки эта «игрушка» смешала реальность и фантазию в однородный сгусток, оживив поток визуализации безумных идей, которые раньше жили разве что в воображении. Десятисекундные ролики, идеально подходящие для формата рилсов и шортсов, стремительно перекочевали с платформы, оседая в лентах доверчивых пользователей TikTok и Instagram. Думали, вершина нейросетевого сюрреализма — это тучный чернокожий, избивающий крокодилов? Как бы не так. Не важно, пользователем какой соцсети вы являетесь, вам уже наверняка попадался ролик, в котором обезьяна выхватывает зонт у туриста и, как Мэри Поппинс, улетает на нем в джунгли. Оригинальное видео с летучим приматом всего за пару дней собрало семь миллионов просмотров. Следом хлынули «трогательные» спасения младенцев и спецназовцы, устраивающие в лесу облавы на диких животных. Теперь же мертвые исторические личности «оживают» в самых немыслимых ипостасях: Майкл Джексон ворует курицу из KFC, Сталин с Лениным под улюлюканье толпы выясняют отношения на ринге, а Стивен Хокинг выполняет трюки на своей каталке. В этом есть какая-то злая ирония, ведь именно он более десяти лет назад называл ИИ величайшей ошибкой человечества. После всех этих реалистичных «шедевров» буквально «ничему нельзя верить». Любой контент в сети превратился в игру «Угадай, где правда». К сожалению, мы проигрываем. На грани вымирания В последние годы на меня навалилась цифровая усталость. Весь мир затянуло в водоворот информационных технологий. И казалось, я ко всему готов. Защищен, потому что знаю правила этой «игры». Даже Sora не сломила волю. Но настоящий удар пришел оттуда, откуда я его совсем не ждал. Моя бабушка, не без труда осваивающая блага цифрового мира, с гордостью заявила: «У меня теперь есть TikTok!» В ее голосе звучала неподдельная «пионерская» радость. А у меня внутри что-то надломилось. Внезапно абстрактная проблема обрела лицо. Вмиг я осознал, что боюсь не за себя, а за них — людей другого склада ума и жизненного опыта. Они воспринимают информацию иначе, ведь являются выходцами из эпохи, когда «телевизор не врет», а фотография считалась неопровержимым доказательством. Их ментальный иммунитет не вырабатывал годами антитела против вирусов симуляции, мимикрирующих под реальность. Люди старой закалки не распознают паттерны алгоритмов, а видят только содержимое. Для них спасенный котом младенец — это чудо, а жираф за рулем — сенсация. И как бы цинично это ни прозвучало, но именно они «идеальная» аудитория для новой реальности: доверчивая, впечатлительная и беззащитная. Инстинкт самосохранения За всем этим стоит тихая трагедия. Фейки и спам — всего лишь разминка. Вскоре начнется настоящая игра, где на кону вся картина мира. В этой неразберихе мы рискуем потерять не просто доверие к отдельным новостям, а утратить то фундаментальное пространство фактов, на котором построено общество. Когда у каждого будет своя, сгенерированная правда, исчезнет почва для любого диалога. Людям придется не просто задаваться вопросами, а ставить под сомнение саму природу увиденного. Ведь в мире, где даже поисковые системы переходят на приоритетные данные от ИИ, правду нужно будет еще заслужить. Покупатели негодуют Маркетплейсы массово заполонили фейковые ИИ-отзывы Последний оплот доверия в онлайн-шопинге превратился в инструмент массового обмана. Вместо реальных комментариев — сгенерированные тексты и фотографии, созданные нейросетями: одежда идеально сидит, цвета сочные, а на фоне — знакомая примерочная кабинка. В реальности же вещь зачастую оказывается безнадежно далека от этого цифрового эталона. Полная перепечатка текста и фотографий запрещена. Частичное цитирование разрешено при наличии гиперссылки. Заметили ошибку? Пожалуйста, выделите её и нажмите Ctrl+Enter Source: https://www.sb.by/articles/doveryat-nelzya-proverit-kak-iskusstvennyy-intellekt-unichtozhil-pravdu-v-internete.html