Введение

Моя деловая активность началась в ПКБ АСУ - разработкой и установкой программных систем на промышленных предприятиях. Это дало мне длительное время и наблюдать, и участвовать в процессе внедрения компьютерных программ (АСУ) в тело экономического агента, которые повышают его производительность - одно из важных свойств в конкурентной борьбе. Системы АСУ в свою очередь требовали автоматизации технологических процессов, поскольку наибольший эффект давала их интеграция. Таким образом и получалась спайка предприятия и АСУ. "Невидимая рука" рынка отсортировывала отстающих в гонке за прибылью, обеспечивала эволюционное движение и экономических агентов, и компьютерных программ. Наконец эволюция достигла такого уровня, что большую часть физической работы на передовых предприятиях стали выполнять роботы, да и в управленческих функциях часть стала отводиться компьютерным программам. Компьютерные программы не ограничились рутинной работой на предприятиях. Они, играючи, вошли в повседневную жизнь человека, претендуя на самого близкого и доверительного друга. И вот теперь человек задался вопросом: есть ли у его нового друга сознание? Насколько он честен, справедлив и добр к нему, к человеку? Существует столько мнений, сколько их высказывающих, они разбросаны как только возможно - от взаимно противоположных в одной логике, до взаимно "перпендикулярных" в логике профессора Дмитрия Евстафьева. Разберем два противоположны мнения, популярные в Интернете и на дискуссионных площадках: компьютерная программа есть продукт творчества человека и представляет собой то, что заложил в нее программист, и второе - компьютерная программа, хотя и есть продукт человека, но она необычный продукт, она в перспективе будет способной проявить самостоятельность, и преследуя свои цели, погубить все человечество.

1. Что же такое - ИИ?

Одни убеждены, что ИИ - просто умная программа, которая встречается почти на каждом шагу: вон едет машина, у которой установлен умный навигатор, сельскохозяйственные поля бороздят тракторы без водителя, в квартире по полу самостоятельно разъезжает пылесос, тщательно собирая пыль во всех углах. Умные игры, умные поисковые системы, умные роботы. Все эти программы создаются программистами, которые их постоянно совершенствуют, добавляя новые функции и усложняя уже существующие. Библиотеки программ пополняются и программирование становиться все более простым. Они добавят, что нет и не будет никакого ИИ, что это все сочиняют разного рода футурологи и, придавая своим фантазиям наукообразный вид, распространяют их среди доверчивых обывателей. А то, что преподносится как ИИ, есть не что иное, как программы, которые разрабатываются программистами по довольно примитивным алгоритмам, и потом проходят обучение на больших объемах данных, которые предварительно маркируют те же самые программисты. На каких данных будут обучаться алгоритмы, зависит результат обучения. Одни те же алгоритмы, то есть, программы, будут умны настолько, насколько им положено человеком. Конечно, плохо отлаженные программы могут выдавать непредсказуемые ответы, что создает иллюзию своенравного поведения. Но, как и всякие программы, такие программы, если их не удается "довести до ума", просто уничтожаются. Если обратиться к Интернету, например, к Википедии, то получим следующее: "Искусственный интеллект (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами. Это область исследований в области компьютерных наук, которая разрабатывает и изучает методы и программное обеспечение, позволяющие машинам воспринимать окружающую среду и использовать обучение и интеллект для выполнения действий, которые максимально увеличивают их шансы на достижение поставленных целей. Такие машины можно назвать искусственным интеллектом". Сложно объединить в одно понятие целых три: свойство, машину и область исследований. Причем такое определение и на других сайтах. Начнем "от печки". Что такое "интеллект"? Читаем на сайте "Большая российская энциклопедия" [8]: "Интеллект (от лат. intellectus – познание, понимание, рассудок), общая познавательная способность, которая проявляется в том, как человек воспринимает, понимает, объясняет и прогнозирует происходящее, какие решения он принимает и насколько эффективно он действует (прежде всего в новых, сложных или необычных ситуациях)". То есть — это некая способность человека. Если же добавить слово "искусственный", то получим "искусственный интеллект", то есть, это уже некая способность не человека, а его человеческого творения, в нашем случае - компьютерной программы. Это практически совпадает с тем, как понимается программистами: искусственный интеллект — это просто инструмент. Действительно, это просто программа, обладающая свойствами интеллекта, похожего отчасти на человеческий интеллект. Будем называть такие программы "умная программа". Все же надо принять во внимание мнение и других умных людей, которые задается всерьез вопросом безопасного сосуществования человека с ИИ. Так что же такое - "Искусственный Интеллект (ИИ)"? Это призрак, который "бродит" по планете. Одних он пугает, других впечатляет, третьи в надежде, что наконец-то будет кому-то навести порядок на Земле, наступит благоденствие и навсегда уйдут в прошлое войны и нищета. Будем понимать в нашем контексте, что ИИ — это не область наук, это не интеллект, демонстрируемый машинами, а это - некая сущность, вид которой нам еще никто не демонстрировал, и никто не демонстрировал нам его интеллект. Такие определения, думаю, не будут вызывать дискомфорта при дальнейшем разборе. Итак.

2. Об умных программах

Современные технологии разработки программ и программных систем пока "заточены" под решение конкретных проблем в конкретных областях: в медицине, в транспорте, в финансах и т. д. Эти системы могут не только решать поставленные перед ними задачи, но и что-то творить, так качественно, что различать авторство продукции - программа или человек - становиться все труднее. Это происходит, к сожалению, не только потому, что совершенствуются программы, но и потому, что размываются критерии искусства, снижаются моральные и этические требования к произведениям искусства (первые проявления симбиоза человечества и ИИ). Некоторые "продвинутые" программы могут в диалоге с человеком проявлять чисто человеческие эмоции: удивление, непонимание, юмор или возмущение. Это неискушенного в программировании человека впечатляет. Но программисты все понимают: ведь все эти эмоции ими и закладываются в алгоритм программы, которая запоминает весь диалог и вставляет их в соответствии своему уровню "образования". Понятна уверенность разработчиков в том, что программы, снабженные искусственным интеллектом, никогда не смогут обрести самости, самостоятельно поставить перед собой какие-нибудь цели, в том числе и цель своего развития, то есть, эволюция таких программ несостоятельна. А разве допустит человек развития программ до такого уровня, когда появится угроза человеку перейти на роль "домашних животных"? Конечно, нет. И уж, конечно, они не смогут выйти из-под контроля своих создателей. Не так давно, 24 января 2024 года Герман Греф в ходе лекции для участников «Школы 21» "подчеркнул важность симбиоза человека и искусственного интеллекта, в котором человек «глубоко понимает, как это все работает» "[16]. Надо полагать, что под искусственным интеллектом понималась программа, поэтому о симбиозе говорить пока еще очень рано.

3. От умных программ к Искусственному Интеллекту (ИИ)

Наталья Касперская, бывший генеральный директор компании «Лаборатория Касперского» [10]: "Знаете, в чем там проблема? В том, что система является "черным ящиком" даже для разработчиков". Герман Греф, Председатель правления публичного акционерного общества «Сбербанк России» [2]: "Есть всегда конфликт между теми, кто разрабатывает его (ИИ), и теми, кто отвечает за его безопасность и доверенность... Ну, это очевидный конфликт. OpenAI движется немного впереди всех остальных, поэтому они, вполне возможно, столкнулись с какими-то функциями ИИ, которые заставили задуматься и поставить, может быть, на первое место проблему безопасности". Какие-то незапланированные функции. И это в продукции OpenAI, передовой компании, в которой работают первоклассные программисты и тестировщики. Задуматься надо крепко. Нужны новые схемы тестирования под каждую новую версию программы/комплекса программ. На какой-то версии при стремительном создании новых, наверное, случится так, что тестировщики не будут поспевать за разработкой новых схем. Можно ли будет на время остановить разработки ИИ, чтобы поспевать с тестированием? По этому поводу Александр Горбань, доктор физико-математических наук [17]: "Загадка в том, что сами инженеры называют эти технологии разрушительными, но работать над ними не перестают". Загадка? Герман Греф [2]: "Что касается отдачи (от внедрения ИИ - автор). В прошлом году мы заработали на ИИ 250 миллиардов рублей. А в этом году порядка 350 - ти. Примерно плюс-минус 30 процентов в год. Вот так... Поэтому внедрение у нас в ближайшие три года радикально увеличим. Поэтому, я думаю, отдача будет еще больше". И в материальном плане, и в духовном плане все окей: "Ни один человек не может правильно сказать, к чему приведет внедрение ИИ. Либо людям придется работать меньше, и зарабатывать они будут больше в силу того, что ИИ возьмет на себя большое количество функций, где он будет значительно более производительным. Это означает, что экономика будет более эффективной. Значит людям можно будет платить больше. Это один сценарий. Другой сценарий - ИИ приведет к тому, что будет создано еще больше рабочих мест другого качества, и люди будут придумывать все новые и новые виды деятельности, бизнеса, занятий. И это будет приводить к еще большей нехватке трудовых ресурсов. И обе точки зрения сегодня присутствуют, и которая из них окажется правдой, пока предсказать невозможно...". Любой из 2-х сценариев вдохновляет. Надо было бы еще добавить, что это единственные из возможных сценариев. Еще по поводу загадки. Илон Маск [13]: "Я не доверяю OpenAI. Я основал эту компанию как некоммерческую организацию с открытым исходным кодом... А сейчас она стала крайне закрытой и нацелена на получение максимальной прибыли... В разное время он (Сэм Альтман, генеральный директор OpenAI) утверждал, что не разбогатеет, но потом говорил, что многие его слова были ложью". Из Википедии о той же компании: "17 ноября 2023 года было объявлено, что правление OpenAI приняло решение отстранить генерального директора из-за отсутствия доверия. Однако уже 22 ноября 2023 года OpenAI заявила, что Альтман возвращается на пост генерального директора этой компании. Это было связано с тем, что возмущенные сотрудники OpenAI обещали уволиться вслед за Альтманом, если его не вернут". Полагаю, что понятна причина, по которой сотрудники встали горой за своего босса. Вот она - движущая сила эволюции - в своем проявлении [7]. А что с отбором - другим важным фактором эволюции? Если это будет происходить искусственным путем, то есть, разработчики умных программ будут фильтровать их в том числе и по свойствам, не вредными для человека, то это снизит вероятность прохождения отбора вредоносных программ. Но нужно признать, что избавиться от естественного отбора не получится. Как это будет происходить? Очень просто. Программы с искусственным интеллектом, установленные на предприятиях, работающих на прибыль, будут фильтроваться по главному свойству - своей эффективности в обеспечении большей прибыли. Это же так естественно! Впоследствии, когда программированием станут заниматься сами программы, они продолжат эту традицию. Конечно, человек будет пытаться удержать "вожжи" в своих руках. Но "кони на электрических батарейках" не устают, а только добавляют прыти.

4. Об Искусственном Интеллекте (ИИ)

А как далеко умные программы от ИИ? Неизвестно. Ясно только, что умные программы становятся все более сложными, и, как следствие, со все большими возможностями. Под сочетанием слов "умная программа" будем понимать, что это может быть комплекс связанных между собой программ. Это уже реализуется на практике. Так, например, в Интернете на сайте "Национальный открытый университет ИНТУИТ" [5]: "На практике все чаще используются распределенные системы, выполняющие определенные действия параллельно, для которых актуальна задача разделения пакета заданий между несколькими вычислительными потоками (устройствами). ...На смену таким системам, копирующим централизованную иерархию, быстро пришли распределенные системы, в которых знания и ресурсы распределялись между достаточно "самостоятельными" агентами, но сохранялся общий орган командного управления, принимающий решения в критических или конфликтных ситуациях. Дальнейшим шагом в этом направлении стала парадигма полностью децентрализованных систем, в которых управление происходит только за счет локальных взаимодействий между агентами." Распределенные Банки данных, распределенные Банки программ, множество разных языков для коммуникации между программами и много чего еще пока даже не задуманного. Наверняка идеи гиперсетевой теории Константина Анохина будут реализованы в новых структурах. И кто же со всем этим хозяйством способен будет управляться? У Ницше [19]: "Сверхчеловек – смысл земли... Человек – это канат, натянутый между животным и сверхчеловеком". Наверное, можно сказать примерно так и об ИИ: "Искусственный Интеллект - смысл жизни. Умная программа — это канат, натянутый между мертвым железом и Искусственным Интеллектом".

5. Подводя итоги

Татьяна Черниговская [18]:"Мы в их планы не входим" Немало известных людей, в том числе имеющим непосредственное отношение к развитию ИИ, выражают обеспокоенность в будущем человечества. Так, Джеффри Хинтон, специалист в области машинного обучения, [11]: " ИИ может стать настолько мощным, что сможет манипулировать людьми и представлять угрозу в ближайшие пять-десять лет", Илон Маск, соучредитель, Neuralink и OpenAI, [13]: "Ну, реальность такова, нравится на это или нет, но мы создаем суперинтеллектуальные ИИ, гиперинтеллектуальные, умные, гораздо умнее, чем мы можем представить... Ну, я думаю, что мой прогноз таков: вероятность того, что все будет хорошо, составляет 80 процентов, может быть, 90... Но есть вероятность уничтожения. От 10 до 20 процентов что-то в этом роде... Я имею в виду (это о той угрозе, что если ИИ выйдет из-под контроля), что если у вас есть несколько ИИ, которые, надеюсь, будут на стороне людей, то они будут сильнее, чем те, которые не на нашей стороне". Если остановить эволюцию ИИ невозможно, то хотя бы установить контроль над разработчиками программ с искусственным интеллектом можно и нужно, вводя уголовную ответственность для них за распространение заведомо ложной информации, стирающей моральные устои общества. 26 октября 2021 года (в России) был принят кодекс этики для ИИ [6]: "При развитии технологий ИИ человек, его права и свободы должны рассматриваться как наивысшая ценность". Этого достаточно?

Ссылки на источники в Интернете:
1. SciTecLibrary.ru, от 4.10.2002, http://www.sciteclibrary.ru/rus/catalog/pages/3993.html
2. "Сбер". "Путешествие в мир искусственного интеллекта". https://yandex.ru/video/preview/15151807806120442834
3. "Хабр". "Основы ИИ: введение в искусственный интеллект", https://habr.com/ru/articles/865664 4. "Национальный открытый университет ИНТУИТ", "Лекция 13", https://intuit.ru/studies/curriculums/4115/courses/1230/lecture/24081
5. "КонсультантПлюс", "Кодекс этики в сфере искусственного интеллекта", https://www.consultant.ru/document/cons_doc_LAW_470682/?ysclid=m95vmotb5p7 33695160
6. Sciteclibrary.ru, "Что является движущей силой эволюции?", http://www.sciteclibrary.ru/rus/catalog/pages/5366.html
7. "Большая российская энциклопедия", https://bigenc.ru/c/intellekt 47cb87?ysclid=m94c8bueyn46659551
8. "Инк.",https://dzen.ru/a/Z9Kxr0djJnQP1xf2
9. "Смотрим", "Наталья Касперская назвала главную опасность искусственного интеллекта", https://dzen.ru/a/ZIBJT49VxzA8Z7Hl
10. Hi-Tech Mail", "Нобелевский лауреат раскритиковал OpenAI", https://dzen.ru/a/ZwePTlUdBRQCYQ2W
11. "Hi-Tech Mail", "Ученые назвали искусственный интеллект иллюзией, https://dzen.ru/a/ZxD1aWxlgVHE1Q5a
12. "Зеленая точка старта", https://dzen.ru/video/watch/671d3ded70748b1f2043cbdd
13. "Космос", "ИИ имеет гигантский разрушительный недостаток", https://dzen.ru/a/ZkQpGxk5mlRlPe83
14. "Научная Россия", "Мыслящая гиперсеть". «В мире науки» №5-6, 2021", https://scientificrussia.ru/articles/myslyashchaya-giperset-v-mire-nauki-5-6-2021
15. "Хабр", "Греф считает, что ИИ не заменит человека, а они будут работать вместе", https://habr.com/ru/news/788720
16. "СФУ", "Дух искусственного интеллекта: Александр Горбань и его возвращение", https://dzen.ru/a/Z1rFV8vSyWcC5I_P#kak_sozdayotsya_imya
17. Телеканал "Россия-Культура", "Агора. Цифровая экономика - новая реальность", https://yandex.ru/video/preview/6942289100706092514
18. Ф. Ницше, "Так говорил Заратустра"