Каждый из нас оставляет за собой цифровой след, который впоследствии может быть… В опубликованном в прошлом году эссе под названием «Машины любящей благодати: как ИИ может изменить мир к лучшему» генеральный директор Anthropic Дарио Амодеи излагает свое видение будущего, «если с ИИ все пойдет как надо». Он предсказывает «победу над большинством болезней, рост биологической и когнитивной свободы, вывод миллиардов людей из нищеты и получение ими доступа к новым технологиям, возрождение либеральной демократии и прав человека». Дарио Амодеи выступает на собрании Международной сети институтов безопасности ИИ в клубе Golden Gate в Пресидио, Сан-Франциско, 20 ноября 2024 г. Амодеи предпочитает термин «мощный ИИ» (powerful AI), тогда как другие используют такие термины, как «сингулярность» или «общий искусственный интеллект». Хотя сторонники этих концепций часто расходятся во мнениях о том, как их определять, в целом они подразумевают гипотетическую будущую точку, в которой ИИ превзойдёт человеческий уровень интеллекта, что потенциально может спровоцировать быстрые и необратимые изменения в обществе. Учёный-компьютерщик и писатель Рэй Курцвейл с 1990-х годов предсказывает, что однажды люди сольются с технологиями. Эту концепцию часто называют трансгуманизмом. «Мы не сможем отличить то, что исходит от нашего мозга, от того, что исходит от ИИ. Всё это будет встроено в нас самих. И это сделает нас умнее», — сказал Курцвейл. В последней книге «Сингулярность все ближе: когда мы сольемся с ИИ» Курцвейл подтверждает свои предыдущие прогнозы. Он считает, что к 2045 году мы «умножим свой интеллект в миллион раз». Рэй Курцвейл в возрасте 56 лет позирует на фоне текста со своего интернет-сайта, проецируемого на экран в его офисе в Уэллсли, штат Массачусетс, 12 января 2005 года. «Да, — наконец признал он, когда его спросили, считает ли он ИИ своей религией. Он формирует его целеполагание. — Мои мысли о будущем, о будущем технологий и о том, насколько быстро они появляются, определённо влияют на моё отношение к собственному пребыванию здесь, к тому, что я делаю, и к тому, как я могу влиять на других», — сказал он. Картины апокалипсиса Несмотря на явные отсылки к языку Книги Откровения у Питера Тиля, позитивные представления о будущем ИИ более «апокалиптичны» в историческом смысле этого слова. «В древнем мире апокалипсис не был негативным явлением», — объясняет Доменико Агостини, профессор Университета Востока в Неаполе, изучающий древнюю апокалиптическую литературу. — Мы полностью изменили семантику этого слова». Термин «апокалипсис» происходит от греческого слова apokalypsis, что означает «откровение». Хотя сегодня апокалипсис часто ассоциируется с концом света, в древней иудейской и христианской мысли он был источником душевных сил во времена трудностей и гонений. «Бог обещает новый мир, — говорит профессор Роберт Джерачи, изучающий религию и технологии в колледже Нокс. — Чтобы заселить этот новый мир, необходимо обрести новое прекрасное тело, превосходящее зло, с которым мы все сталкиваемся». Джерачи впервые заметил, что для описания потенциала ИИ используется апокалиптический язык, в начале 2000-х годов. Курцвейл и другие теоретики в конечном итоге вдохновили его на написание книги 2010 года «Апокалиптический ИИ: видения рая в робототехнике, искусственном интеллекте и виртуальной реальности». Рэй Курцвейл в Бостоне, август 2024 Этот язык напоминает ему о раннем христианстве. «Только мы убираем Бога и вставляем… ваш набор законов науки о космосе, благодаря которым якобы это происходит, и нас ожидает такое же славное будущее», — говорит он. Джерачи утверждает, что этот язык не сильно изменился с тех пор, как он начал его изучать. Его удивляет то, насколько распространенным он стал. «То, что когда-то казалось очень странным, теперь повсюду», — говорит он. Кремниевая долина наконец обрела своего Бога? Один из факторов растущего культа ИИ — прибыльность. «Двадцать лет назад эта фантазия, правдивая или нет, не приносила больших денег», — говорит Джерачи. Теперь же «у Сэма Альтмана появился финансовый стимул утверждать, что ИИ не за горами». Но Джерачи, утверждающий, что ChatGPT «даже отдалённо, смутно, потенциально не обладает сознанием», считает, что за этим феноменом могут скрываться более серьёзные причины. Исторически мир технологий был известен своей нерелигиозностью. Его светская репутация до такой степени шла впереди него, что один из эпизодов сатирического комедийного сериала HBO «Кремниевая долина» выстроен вокруг разоблачения христианской веры героя коллегами. Но Джерачи не думает, что почитание искусственного интеллекта в полном скепсиса мире технологий носит иронический характер. Он полагает, что между ними существует причинно-следственная связь. «Мы, люди, глубоко, основательно религиозны по своей сути», — говорит он, добавляя, что поразительные технологии, лежащие в основе ИИ, могут привлекать обитателей Кремниевой долины, которые уже отбросили «обычные подходы к трансцендентности и смыслу». Нет религии без скептиков. Не все генеральные директора Кремниевой долины обратились в эту веру, даже желая заниматься самой технологией. «Когда люди в технологической индустрии говорят о создании настоящего ИИ, это почти как если бы они думали, что создают Бога или что-то в этом роде», — сказал генеральный директор Meta* Марк Цукерберг в подкасте в прошлом году, продвигая собственный бизнес своей компании в области ИИ. Хотя трансгуманистические теории, подобные теории Курцвейла, стали более распространенными, они захватили еще не всех в Кремниевой долине. «Научные доводы в пользу этого ничуть не сильнее, чем доводы в пользу религиозной загробной жизни», — утверждает Макс Тегмарк, физик и исследователь машинного обучения из Массачусетского технологического института. Как и Хинтон, Тегмарк открыто говорит о потенциальных рисках нерегулируемого ИИ. В 2023 году как президент Института будущего жизни Тегмарк стал инициатором открытого письма с призывом к мощным лабораториям ИИ «немедленно приостановить» обучение своих систем. Письмо собрало более 33 000 подписей, в том числе от Илона Маска и соучредителя Apple Стива Возняка. Тегмарк считает письмо успешным, поскольку оно помогло «распространить дискуссию» о безопасности ИИ, но полагает, что его работа далека от завершения. Тегмарк считает, что с помощью регулирования и мер безопасности ИИ может быть использован в качестве инструмента для решения таких задач, как лечение болезней и повышение производительности труда. Но, по его словам, крайне важно держаться подальше от «довольно маргинальной» гонки, которую ведут некоторые компании, — «псевдорелигиозного стремления создать альтернативного Бога». «Есть множество историй, как в религиозных текстах, так и, например, в древнегреческой мифологии, о том, как плохо все кончается, когда мы, люди, начинаем играть в богов, — сказал он. — И мне кажется, что сейчас в Сан-Франциско царит высокомерие». *Компания Meta Platforms, в которую входят социальные сети Facebook, Instagram и Threads, признана экстремистской организацией и запрещена в РФ. 22 ноября Source: https://mobile-review.com/all/articles/misc/iskusstvennyj-intellekt-bukvalnyj-deus-ex-machina/