О религии и о культуре
А сейчас об очень важном выступлении Святейшего Патриарха Кирилла на том же форуме [2], и его ответах на вопросы из аудитории [3].
О культуре, ка индикаторе духовного состояния человечества, и о причинах её падения в Западной Цивилизации:
"Репортажи с Олимпиады - это очень пессимистическая картинка, отражающая падающую вниз траекторию духовной и культурной составляющей Западной Цивилизации... Раскультивирование тождественно расчеловечиванию, то есть - дегуманизации. Утратив опорные религиозно-значимые ориентиры, культура утрачивает свою душу... Если Человечество хочет быть счастливым в будущем, оно должно быть религиозно. Потому что исчезновение веры - как у Достоевского? "Если Бога нет, то все дозволено"".
Несомненно, религия выполняет важнейшую задачу - сохранение нравственных устоев от разрушения, обуздания человеческих инстинктов, если податься которым "оскотиниться очень просто" [3]. Но эта задача сегодня со стремительным развитием ИИ существенным образом усложняется: "Если Человечество теряет религиозную веру, особенно в условиях нарастания технологий, связанных с появлением ИИ, ну мы действительно входим в эпоху апокалипсиса... Так вот, развитие Человека, человечества, может быть жизнеспособно только при условии одновременного возрастания в людях веры и нравственного чувства. А если вера и нравственная составляющая будут ослабевать, то мы можем ожидать самых страшных последствий внедрения ИИ... Мы приближаемся к апокалиптическому времени, это всем нам нужно сознавать, и единственный выход из возможного кризиса — вера в Бога. Громко говорю на весь мир: отказываемся от веры в Бога, вновь опускаемся в дарвинистские и марксистские концепции — ничего не получится! Жизнь человека в условиях научного, технологического развития, особенно такого, о каком Вы сказали, может быть обеспечена только при соответствующем возрастании роли веры и религии, и человек в таком случае сможет правильно программировать искусственный интеллект. Другого выхода нет."
Чужеродные "дарвинистские и марксистские концепции" были, полагаю, разрушающим элементом в нашей культуре, как и все преждевременное и не успевшее быть осознанно понятым. Сейчас, в некотором смысле - чужеродным элементом становиться ИИ, находящийся пока в зачаточном состоянии, но стремительно развивающемся.
Со слов Германа Грефа(Президент, председатель правления Сбербанка России): «Наше будущее будет развиваться экспоненциально. И к этому мы абсолютно не готовы».
Сказанное дополняет Татьяна Черниговская (доктор биологических наук, нейролингвист):
"Мир стал "нечеловекомерен"... Мы оказались в другом типе цивилизаций. И это уже произошло... Сможем ли мы в этом, вообще другом мире жить?».
То, что мы "абсолютно не готовы", так мы еще и не полностью осознаем саму угрозу. Пока что в разговорах на разных телевизионных площадках все ограничивается тем, что ИИ - это всего лишь инструмент. Святейший Патриарх допускает большее:
"Если искусственный интеллект достигнет такого уровня, что сможет воспроизводить подобных себе, то возникнет реальная опасность для существования человеческой цивилизации. Пока это выглядит как фантазия, как некая гипотеза, но предположить-то можно, что искусственный интеллект станет творцом и будет воспроизводить себе подобных. Пока это сложно описать в научных категориях, но в категориях философии вполне можно себе представить."
Уже сейчас первые зачатки ИИ научились общаться между собой: голосовые роботы обзванивают номера телефонов по некоторой базе в поисках потенциальных клиентов, на другом конце "провода" им отвечают другие голосовые роботы. Алгоритмы для этих диалогов пока пишутся людьми. Но это только начало. Впечатляет скорость, с какой эволюционируют ИИ.
В каком направлении пойдет эволюция ИИ, сейчас навряд ли возможно представить. Но не будет удивительного в том, что ИИ будет наполнять и базы данных, и базы алгоритмов, в том числе теми, которые будут ими же и писаться. То есть, ИИ будет наполнять информационное пространство и данными и алгоритмами, из которых будет методом естественного отбора собираться все более и более развитые ИИ. Пойдет ли эволюция ИИ в интересах человечества?
Война в информационном пространстве между человеческими сообществами со временем перерастет в войну между различными ИИ, которые будут вначале обучаться на нашем примере ведения войн. Правда и ложь смешаются так, что не будет возможности определить, что есть правда. И в таком мире нужна опора на что-то, позволяющее человечеству устоять. Такой опорой, несомненно, может быть только религия. Но позволительно ли допускать развитие ИИ до такого уровня? Святейший Патриарх: "Так вот, главная задача заключается в следующем: никоим образом, ни под каким видом нельзя допускать такое развитие искусственного интеллекта, чтобы он вышел из подчинения человеку."
Даже если допустить, что все в мире пришли к согласию сообща контролировать ИИ на предмет его попытки выйти из под контроля человеком, каким образом можно определить эту точку в траектории развития ИИ? Разве что когда в это точке уже начнет проявляться своеволие ИИ? Но это будет уже поздновато. Уже сейчас этим надо озадачиться.
