Кто правду несет, тому всех тяжелей Экономика и Мы Народная экономическая газета. Издается с 1990 года
Сентябрь
пн вт ср чт пт сб вс
    01 02 03 04 05
06 07 08 09 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30      

Дух среди техномытарств

Дух среди техномытарств Уже давно человечество мечтает переложить обслуживающий труд на плечи «умных» машин. Современная наука напряженно стремится к созданию искусственного интеллекта (ИИ). Кажется, еще немного усилий, и восторжествует человеческая гениальность: человек уподобится своему Творцу. Неужели создание самостоятельной разумной сущности – дело недалекого будущего?

Думаю, по многим причинам это нереально в просматриваемой перспективе, чтобы начинать серьезно относиться к угрозе со стороны ИИ в том отношении, как это прогнозируют фантасты и футурологи. Но уже сегодня перед человечеством встают проблемы, связанные с разработкой и внедрением технологий, имитирующих, а по скорости и объемам обработки информации – многократно превосходящих интеллектуальные способности человека. Остановлюсь на двух вопросах: свободе выбора и глобальном контроле со стороны информационных технологий.

Начну со свободы выбора. Как это ни странно, мы давно живем в эпоху, когда от решения запрограммированных устройств зависит сохранение мира на Земле. С 80-х годов прошлого столетия у нас и в США созданы военные системы гарантированного доведения приказов в условиях глобальной ядерной войны. Электронные машины уже более полувека отвечают за нанесение ответного удара на основании общего массива информации от разнообразных источников, в том числе от сейсмодатчиков. Именно созданные человеком алгоритмы анализа этих данных определяют тонкую грань между миром и войной на всей планете.

В городах водители автотранспорта делегируют право выбора маршрута «навигатору» – программе, которая определяет оптимальное направление движения, обрабатывая актуальные данные о дорожной ситуации. Пользуясь услугами современной авиации, мы и не предполагаем, что значительную часть полета (в том числе и самую сложную – посадку) выполняет автопилот по алгоритмам, заложенным в бортовую вычислительную машину.

Современное сельское хозяйство строится на постоянном наблюдении за посевами на основании компьютерного анализа снимков полей. А первые беспилотные комбайны уже доказали свою экономическую эффективность на полях нашей страны. Вообще во всех без исключения отраслях экономики определяющим фактором эффективности является использование высокоточных автоматизированных систем и новейшего программного обеспечения. В будущем эта тенденция сохранится.

Таким образом, ИИ уже сегодня широко используется в народном хозяйстве. Заложенные в современные вычислительные машины алгоритмы позволяют сохранять мир (в глобальном смысле) и безопасность (на транспорте и в быту), не требуя от человека постоянного волеизъявления.

Но сейчас ИИ имеет эту важную, но исключительно прикладную функцию, и до тех пор, пока он является лишь программой с заложенным человеком алгоритмом действий, опасности он не представляет. Современные ученые называют тот ИИ, с которым мы имеем дело, «слабым искусственным интеллектом». Согласно свидетельствам практиков использования этих технологий, в ближайшем будущем так называемый «сильный ИИ», когда машина сможет мыслить и осознавать себя, а значит и принимать полностью самостоятельные решения, не может быть создан в принципе. Но опасность существует и сейчас, и заключается она как раз в том, что программирует алгоритм человек, а что именно он решает закладывать в качестве принципа принятия решения машиной может зависеть, в том числе, и от нравственных установок или их отсутствия.

Однако технологический прогресс помимо заманчивых благ цивилизации таит в себе духовную опасность. Речь идет о соблазне переложить на машину не только сохранение и обеспечение жизни и здоровья людей, но и право альтернативного выбора и наступающую вследствие него моральную ответственность. Каждый подобный выбор независимо от внешних обстоятельств совершается в душе человека и изменяет ее, приближая или отдаляя от Бога.

Чрезвычайно пагубно обманываться иллюзорностью греха даже в виртуальном мире, созданном при помощи ИИ. Тем более не следует отказываться от своей воли и доверяться компьютерной программе в тех сферах жизни, где крайне важен личный выбор. Например, в последние годы небывалой популярностью, причем все чаще среди желающих вступить в брак, пользуются сайты знакомств со встроенным алгоритмом подбора пары.

В наши дни, не менее чем в первые века христианства, актуален призыв апостола: «Смотрите, поступайте осторожно» (Еф. 5, 15). Ведь даже наиболее точно вычисленное общественное благоденствие блекнет перед вечным блаженством Царства Небесного, которое открывается верным последователям Христа.

О цифровой дисциплине. В мире информационных технологий жизнь человека становится максимально открытой. Частота сердцебиения может точно измеряться обычными ручными часами, и эти сведения доступны для обработки удаленного сервера на другом конце планеты.

Сегодня для получения доступа к любому электронному сервису необходимо дать согласие на сбор и обработку личных данных. Без них смартфон, который есть у большей части населения планеты, превращается в примитивный телефон.

В современном Китае существует система социального рейтинга частных лиц, который формируется по данным опубликованных в интернете черных и красных списков государственных органов и компаний, а также на основании сведений, накопленных центральным банком и частными платформами сбора личных данных (Алибаба, Вичат и др.). Рейтинг понижается, например, за просрочку выплат по банковскому кредиту, опасное вождение, курение в неположенном месте и даже за чрезмерно активную покупку видеоигр. В настоящее время использование государством социального рейтинга граждан отрицается, но он учитывается работодателями, банками и частными компаниями.

Например, на основе высокого внутреннего рейтинга пользователи системы Алипэй могут по всему Китаю без залога брать напрокат велосипеды, повербанки, пользоваться услугами каршеринга, а также получить кредит «в один клик»[1]. Но вместе с тем, те, у кого низкий рейтинг, рискуют получить отказ при приеме на работу. Уже не первый год обсуждается возможность введения общегосударственного социального рейтинга граждан на основе применения системы распознавания лиц. Казалось бы, все справедливо, но насколько машина будет совершенна в идентификации, насколько компетентна в определении судьбы человека? Ведь она не знает ни сострадания, ни милосердия.

С недавнего времени российское законодательство предписывает в некоторых случаях оснащать системой видеонаблюдения даже православные храмы. Добрался электронный пастух и до Свято-Троицкого собора в городе Калуге, и до московского метрополитена. Пока он только хранит видео, но кто знает, потребует ли безопасность будущего общества непрерывной обработки ИИ видеопотоков с миллионов и миллиардов камер, расположенных повсюду: в магазинах и офисах, в кафе и в общественном транспорте, на стадионах и в храмах.

Останавливает такого рода угрозу тотального контроля над человеком отсутствие достаточного пространства для хранения и обработки такого невероятного объема информации, а также достаточного количества энергии для обслуживания неких «вселенских» хранилищ данных. Но все же, поскольку локальные системы, внедренные в конкретном городе или даже стране, имеют тенденцию к масштабированию, так что это, возможно, вопрос только лишь времени, пускай и достаточно длительного.

Сбор данных в современном мире подобен сбору пошлины мытарями во времена земной жизни Христа. Никто не может пройти беспрепятственно мимо стола сборщика подати. Большинство жителей планеты уже в этом столетии ощутит всю силу «технологической мытницы». Позволительно ли давать подать новому кесарю? Ответ на этот вопрос тот же, что дал Христос две тысячи лет: «Отдавайте кесарево кесарю, а Божие Богу» (Мф. 22, 21).

С 2015 года в США существует культ ИИ. Его основатель Энтони Левандовски утверждает, что вскоре ИИ станет настолько всеведущим и всесильным, что уподобится Богу. Но в этом году его движение Wayofthe Future было ликвидировано как религиозная организация. Признавая, что прежде всего Бог – не творение человека, а Бог есть САМ Творец всего мира, мы должны поклоняться Ему «в духе и истине» (Ин. 4, 23), каких бы высот ни достигало развитие наук и технологий.

Кроме того, весьма настораживает, что накопленный научный потенциал в области психологии, социологии и естественных наук уже сегодня с большой уверенностью позволяют не только прогнозировать поведение социума, но и влиять на него определяющим образом, кратно превосходя тоталитаризм XX века. Быть может апокалипсис, который изображен Фёдором Михайловичем Достоевским в легенде о Великом Инквизиторе (роман «Братья Карамазовы»), в грядущем информационно-технологическом укладе сможет воплотиться и буквально: хлеб в обмен на волеизъявление жить во Христе.

Но более вероятной ситуацией будет то, что общественная мораль будет разлагаться по причине вседозволенности. «Они будут любить нас, как дети, за то, что мы им позволим грешить, – говорит Инквизитор. – Мы скажем им, что всякий грех будет искуплён, если сделан будет с нашего позволения». В этом случае следование евангельским принципам будет ненавистно для подавляющего большинства, сжившегося с грехом. Христианская жизнь станет мученичеством в мире, забывшем Христа и Его Церковь.

В силу особенностей русской культуры наше Отечество может извлечь пользу от грядущей информационно-технологической трансформации человечества. Ведь исповедание Христа «пред человеками» – ответственное следование Его заветам, осуществление Евангельских норм жизни – пролагает путь к тому, что и Сын Человеческий исповедает нас пред Ангелами Божиими (см. Лк. 12, 8). Великий мыслитель, а впоследствии монах Троице-Сергиевой Лавры Константин Николаевич Леонтьев видел историческую миссию России в христианском подвиге послушания. Дисциплина нового технологического уклада может открыть миру высоту этого подвига и принести свой плод «во время свое» (Пс. 1, 3).

Таким образом, эпоха технологических «мытарств» – время испытаний христианской веры – может стать настолько же спасительной для человеческой души, как и во времена преподобного Сергия, как и при гонениях на Русскую Церковь в XX веке.

По мысли архипастыря Элладской Церкви митрополита Месогейского и Лавреотского Николая, мы должны стремиться стяжать «любомудрый, философский ум», чтобы судить о достижениях научно-технического прогресса и использовать его достижения без вреда для вечной участи. Для этого современным христианам особенно важно иметь духовную жизнь, чтобы одухотворять современный мир свидетельством вечной Истины. Вызовы, связанные с разработкой и использованием ИИ, напоминают нам о необходимости духовного подвига и самодисциплины. Ведь под перманентным надзором машин вся жизнь христианина неизбежно становится непрерывным исповедничеством Сына Божия и Его Евангелия Правды.

В заключение необходимо сказать, что двумя рассмотренными вопросами далеко не ограничиваются все угрозы, которые несет человеку и обществу ИИ.

Одной из задач, которую ставит перед собой рабочая группа комиссии Межсоборного присутствия по рассмотрению проблематики, связанной с развитием искусственного интеллекта, является выработка списка опасений, которые видят в развитии ИИ православные христиане. Есть много ложных страхов и переживаний, связанных с отсутствием информации или с мифологизацией этой темы, а есть и реальные вопросы, которые может сформулировать только человек, имеющий христианское мировоззрение. Нам принципиально важно представить себе весь объем реального беспокойства, вызываемого технологиями ИИ у христианского сообщества. Предлагаю участникам конференции сформулировать те вопросы, которые могут стать началом такого перечня, и необходимо в будущем продолжить изучение вопроса об ИИ со всех сторон и составить полный список опасений, связанных с бесконтрольным использованием его.

КЛИМЕНТ, митрополит Калужский и Боровский
2 марта 2021 года
Москва, Сретенская духовная семинария

11 июня 2021

Подпишитесь на «Экономику и Мы»

Подписка

Поиск по сайту

  • Литературные новинки: "Числа" А. Леонидова

    Литературные новинки: "Числа" А. Леонидова Тому, кто уже знаком с творчеством нашего автора, будет небезынтересно прочитать его новое произведение - драматичное по сюжету, и философское по сути. Жанр его автор определил как "сентиментальный вестерн". Недавно книга выпущена в издательстве "День Литературы" в Москве. В книге мы встречаем прежнего Леонидова - человека, обеспокоенного судьбой цивилизации и человеческого Разума, но, вместе с тем, представляется, что автор "растёт", он говорит всё более ёмко и весомо, сочетает прошлые творческие успехи с совершенно новыми направлениями. "Вестернов" Леонидов доселе не писал, а суть эксперимента - посмотреть на русскую трагедию XXI века с неожиданной стороны, издалека, сопоставляя с заокеанскими реалиями. Книга получилась сложной, "просветительской", но, на наш взгляд - интересной для широкого круга читателей. Думающий человек не может не задаваться теми вопросами, которые, в меру своих сил, наш постоянный автор решает в своих "Числах"...

    Читать дальше
  • Дети, Крым, счастье, позитив...

    Дети, Крым, счастье, позитив... В нашей жизни очень много грустных новостей. И потому мы часто забываем, что кроме мрачной геополитики есть ещё и просто жизнь. Наши дети выходят в жизнь и занимаются творчеством, создают нехитрые истории о своём взрослении, создавая позитивные эмоции всякого, кто видит: жизнь продолжается! Канал без всякой политики, о замечательных и дружных детишках, об отдыхе в русском Крыму и не только - рекомендуется всем, кто устал от негатива и мечтает отдохнуть душой!

    Читать дальше
  • Геноцид армян: новая глава

    Геноцид армян: новая глава Карабахский конфликт - это одна из глав чёрной книги геноцида армян, которым с XIX века занимаются турки. В их понимании армяне "недобиты", и хотя армяне потеряли большинство своих земель, всё-таки небольшой анклав армян остаётся в турецком море Закавказья. Геноцид армян обрёл второе дыхание в годы "перестройки", в конце 1980-х, когда турки вырезали армян в ряде населённых пунктов, но снова не везде. Военное сопротивление побудило турок прекратить резню.

    Читать дальше

Невозможно добиться общественной справед­ливости, не обеспечив справедливости в отношении каждого конкретного человека — А. Прокудин