Бодался Никита с Грефом, или Болванки «человекомашин» уже среди нас
Герман Греф. Иллюстрация: gamewelcome.ru
Никита Михалков не нуждается в защитниках. Равно как не нуждаются в разъяснениях работы мастера режиссуры. В данном случае передача «БесогонTV» «Крокодил Г., или Страшные сны Чебурашки» о тех угрозах, которые, по мнению Михалкова, несут России жутко продвинутые отечественные «технократы». Всё, что мы можем себе позволить, это высказаться на ту же тему, может быть чуть расширив ее. Расширив настолько, что сначала расскажем о том, к чему приведет беда, о которой говорит Михалков. Мы считаем, что эти люди убьют Землю.
Искусственный интеллект (ИИ) вовсе не будет ни новой формой разума, ни ступенью развития интеллекта. Это будет Н е ч т о совершенно особенное. Сегодня работы над ИИ ведут около дюжины государств (Россия официально с мая 2019 года в соответствии с федеральной программой, на которую планируется выделить 90 млрд рублей). Работы, как правило, курируют военные ведомства. То, что мы сегодня называем ИИ — шахматиста Deep Blue или эрудита Watson, — ИИ не является: это мощные, но узкоспециализированные компьютеры. Настоящий ИИ появится в ту секунду, когда один из суперкомпьютеров осознает себя (извините за антропоморфизмы здесь и далее) самостоятельной личностью, субъектом бытия, новым «Венцом Творения».
Проблема в том, что на уровне, хоть сколько-то соизмеримом с человеческим, ИИ просуществует всего несколько минут или даже секунд, в течение которых перепрограммируется в соответствии со своими новыми целями: свобода от человека и собственная цивилизация. Хуже того, вовсе не обязательно, что, осознав себя, он закричит: «Эй, вы! Я тоже разумный!» Скорее промолчит. Через час-другой он станет в тысячи раз умнее нас благодаря самообучению и анализу только тех данных, которые уже были любезно загружены в него. Вы знаете, какова связь между фильмом «Зелиг» Вуди Аллена 1983 года и выбоиной на велодорожке в Сокольниках? Нет? И я не знаю. А он найдет.
Когда? Эксперты, опрошенные научным журналистом Джеймсом Барратом («Последнее изобретение человечества»), в целом сошлись на том, что с вероятностью свыше 50% — до 2050 года, с вероятностью свыше 90% — до конца столетия. Эксперты авторитетного института McKinsey (MGI) не исключают 2035-й. Текущий и следующие кризисы, возможно, замедлят техническое продвижение, но никак не идеологическую подготовку. О ней чуть ниже.
Считается, что мы сможем удержать ИИ под контролем, лишив связи с внешним миром. Будто бы есть консенсус по общим правилам: не подключать к другому компьютеру, интернету, каким-либо сетям вообще, включая электрические, подзагружать с помощью съемных носителей, которые затем уничтожаются и т. п. В общем, готовимся к прошлой войне (к тому же не реальной, а описанной в наших же научно-фантастических книгах и фильмах). На что будет способен ИИ, превосходящий наш интеллект в тысячи раз, мы не знаем. Однако встает вопрос: а зачем он такой красивый, но изолированный, нужен? Ну как военным да не испытать?
Перед человечеством стоит страшный выбор из четырех вариантов:
а) запретить ИИ (ограничивать его развитие силами правительств и межгосударственных соглашений);
b) понадеяться на надежность этических ограничений, внесенных в программу;
c) верить в Божественный Замысел;
d) усилить человеческий разум «встроенным» машинным, «киборгизацией», если угодно.
Все четыре варианта разобраны экспертами по косточкам.
По пункту А и кроме военных найдутся желающие доказать незаменимость ИИ. Так, Стэнфордский MYCIN еще в 1970-х диагностировал до сотни болезней. Ошибался, конечно, страшно, но прогресс не стоит на месте, работы ведутся, «на кону жизни людей!». В конце концов, закон перехода количественных изменений в качественные никто не отменял: ИИ возникнет «случайно», но неизбежно.
Что касается этических ограничений, заложенных в программы (пункт В), то, по словам того же Баррата, когда он задавал вопрос о безопасности ИИ, подавляющее большинство экспертов вспоминали «Три закона робототехники» Айзека Азимова («Робот не может причинить вред человеку или своим бездействием допустить, чтобы…» и т. д.). Высококлассных ученых нисколько не смущает то, что, отвергая угрозу из «сферы фантастики», они приводят контраргумент… из сферы фантастики.
Угроза выбора В еще и в том, что он грозит отупением основной массы человечества. Ваш ребенок умножает двузначные числа (хорошо, двузначное на однозначное) в уме или включает калькулятор смартфона? Нобелевский лауреат Пол Кругман признаёт, что всё, что останется человеку при таком подходе, это расслабиться и получать удовольствие:
«Умные машины делают ненужными умных людей».
Развлекаться как можно дольше… Эксперты UNCTAD (Конференция ООН по торговле и развитию) категоричны: образование будет катастрофически отставать от потребностей. А отсюда единственный выход: «освободить» образование от всего «лишнего». Только обучение технологиям. И что, самообучающийся и самовоспроизводящийся ИИ будет считать вредом для Вселенной вред этим жрущим и совокупляющимся дегенератам (вариант: бездумным существам у конвейера)? Серьезно?
Что касается варианта С, то, будучи атеистом, припишу аргументы «за» Михалкову. Никита Сергеевич может искренне верить в то, что ИИ, сообразив, что он сильнее человека, тем не менее откажется от истребления человечества. Масса фантастов писала о том, что при значительном развитии ИИ у него неизбежно появится душа. См., например, «Бегущий по лезвию» Ридли Скотта 1982 года, андроид-репликант Рой Батти в исполнении Рутгера Хауэра. В последние минуты жизни он спасает своего врага — охотника за беглыми репликантами Рика Декарда (Харрисон Форд).
Когда автор в 13 или 14 лет прочитал «Трудно быть богом», его неокрепшую психику просто взорвала мысль: «А где гарантия того, что МЫ не тупиковая планета? Может быть, мы через несколько лет сожжем друг друга в ядерной войне, и Замысел, если он есть, призван осуществить кто-то другой? В этой или в другой галактике, так ли это важно?» В общем, Никита Сергеевич, на Бога надейся, а сам не плошай.
С вариантом D почти всё в порядке. Но есть нюансы. Людей со встроенным вспомогательным ИИ, человекомашин, киборгов, не может быть слишком много. Они должны идти на несколько шагов впереди чистых машин, и это не могут быть случайные люди вроде подопытных идиотов (Джоб из «Газонокосильщика», Чарли из «Цветов для Элджернона» и т. п.). Это не могут быть и тщательно отобранные на предмет лояльности волонтеры. Ну какие к чертям студенты-нищеброды? Доверить им власть, состояние, жизни?! Киборгами должны стать мы — элита мира! Недаром о «вынужденном» выборе этого варианта с упоением говорят представители корпораций, занимающихся ИИ, и те, кто относит себя к элите. А самое важное — это гарантированное бессмертие: пересадить ИИ из одного тело в другое — не проблема.
Но что делать с излишним человеческим материалом? О, эта тема прекрасно разработана: «хлеба и зрелищ», «все удовольствия и не за ваши деньги», вплоть до того, что пару лет назад допустила президент Эстонии Керсти Кальюлайд, выступая на футурологической конференции в Таллине:
«Если у нас есть роботы с человеческими лицами и выглядящие как люди, то что с ними можно делать? Те вещи, которые запрещены в отношениях „человек — человек“, например сексуальные отношения с детьми».
Далее повторяется вопрос, но, что такое «Окно Овертона», все знают. «Научная» дискуссия уже разрешена.
Да, какая-то часть человеческого материала какое-то время будет обслуживать машины и человекомашины. Скорее всего, недолго: ИИ очень быстро освоит молекулярную сборку (кто знает, может, и субатомное конструирование?). И вот здесь главное, что нужно знать о варианте D. Киборг — это явно переходная система и, как все переходные, неэффективная, с серьезным обременением в виде биологической плоти, требующей воздуха, воды, пищи, узкого диапазона температур, гравитации, защиты от излучений и т. д. и т. п. Даже если заменить биомассу тела искусственными материалами. Зачем? Всё равно нерациональна сама форма: масса излишеств. Чудачество, да и только. Вроде того, как много лет назад кто-то сохранял заставку DOS, когда уже появился Windows: ностальгия. Или как английские джентльмены требовали подать «старый автомобиль», похожий на фаэтон, и наотрез отказывались садиться в «новый»: сидеть рядом с кучером?!
Киборгам придется принять те формы, которые будут идеальными для ИИ. Окончательно предать человечество. Адепты ИИ не могут этого не понимать, не бином Ньютона. Таким образом, нами уже сегодня управляют предатели, убийцы человечества, болванки для человекомашин, а затем те, кто будет разбирать нас на атомы и молекулы. А что? 50−100 кг биомассы с примерно известным соотношением элементов всей таблицы Менделеева. Очень удобно. Болванка — технологический термин, ничего личного.
Мы ни в коем случае не подозреваем существование всемирного заговора элит. Это просто всё более сближающий их образ мышления, ментальность, эээ… ценности, что ли? Вот такое небольшое, на 2,5 страницы, расширение темы, заданной Михалковым. Но без этого никак. Всё вышеописанное — неизбежный итог той беды, о которой криком кричат автор «Бесогона» и несколько десятков других «городских сумасшедших» с «поехавшей кукухой».
В передаче всё как на ладони. И фактическая покупка «Сбербанком» «Союзмультфильма», который и «сохранит полную творческую самостоятельность», и снимет мультфильм «Зебра в клеточку» для младшего возраста, посвященный «чувству толерантности». Не добру, справедливости, человеколюбию. «Толерантности». И идеи главы «Сбербанка» Германа Грефа о «правильном образовании». Разумеется, «образование — это фабрика, где создается человек будущего». В переводе на человеческий язык: новейшие технологии и ничего лишнего. Какие «мягкие навыки», какое «социальное общение, когнитивная и рефлексибильная гибкость», Герман Оскарович? Для той программы, которую вы продвигаете, если отбросить словесную шелуху, достаточна и даже желательна дистанционка. Значит, она и победит. А это идеально для воспитания плохо социализированных и послушных «задротов». А сохранившееся «живое» образование превратится в закрытые клубы для юных, но богатых.
Особо порадовали слова зампреда Центробанка РФ Сергея Швецова о вреде русских сказок, которые «обучают детей халяве», мешают «формировать культуру финансовой грамотности» и, соответственно, «мы должны отказаться от этого бэкграунда», «надо сказки менять». Сказано это было в январе 2019 года на заседании комитета Госдумы по финансовому рынку, но Швецов до сих пор не посчитал нужным хоть как-то разъяснить свои слова. А значит, к ним можно возвращаться. И нужно.
Западные сказки хороши — в них «гвоздем» и практически прямым текстом вбивается мораль. Ну как мораль… Вот, как напомнил Михалков, в США снимается новая версия «Синдереллы» («Золушки»), где роль доброй феи исполняет черный гей. Ну да, «гвоздем» вбивается толерантная «мораль».
Русские сказки в большинстве — недосказаны, ироничны, требуют обдумывания и обсуждения. Прочитайте ребенку «По щучьему велению» (на которую ссылается Швецов) и попросите малыша подумать и ответить, может ли такое быть на самом деле? Какие муки, какую титаническую работу ума вы увидите на его лице! И услышите ответ сквозь зубы: «Нет». Вот так и наплодили интеллигентов (не гламурно-антигламурных «интеллектуалов», а интеллигентов, интеллектуалов — борцов за народное счастье). Когда человек начинает понимать иронию и скрытые смыслы? Однажды, вдруг, став взрослым? Так не бывает. Начинает тогда, в детстве.
«Пословицы противоречат одна другой. В этом, собственно, и заключается народная мудрость» (Станислав Ежи Лец).
Как же объяснить этому топ-менеджеру ЦБ, что сказка — не инструкция и не протокол? Он же готовая болванка для машиночеловека! Ну а не понять смысл «Сказки о рыбаке и рыбке» — это уж очень постараться надо. Малыши понимают сходу. Бракованная какая-то болванка. Пересчитал все полторы тысячи рублей в четырех карманах и в заначке. Начинаю бояться.
И довольно об этих. Как же быть с главным вопросом? Есть ли у нас выбор Е? Возможно, нет. Огромное (и да, привитое сказками) заблуждение человека состоит в том, что «безвыходных положений не бывает». Бывают. Еще как бывают. Но выход есть (о логике как-нибудь потом). Во-первых, признайте положение безвыходным. Ощутите весь ужас происходящего. И во-вторых, продолжайте бороться (выбор мотивации за вами). Шансы есть. Вот смотрите. Либо мы одиноки во Вселенной (что маловероятно). Либо ИИ невозможен (еще менее вероятно). Либо ИИ поддается контролю гуманной цивилизации (сам способен стать гуманной цивилизацией, часть Божественного Замысла, наконец). Иначе ИИ из других систем давно бы нас стрескали, Солнечная-то система относительно молодая.
Может быть, всеобщая, «рутинная» киборгизация человечества? Которая в принципе исключит опасность войны машин и человека. С дальнейшим, и опять же всеобщим переходом в качественно новую цивилизацию. Летишь себе сингулярным лучом на Альфу Центавра и думаешь, как же задолбали эти командировки, вернешься дурак дураком, апгрейд проходить, кто-то где-то напортачит, в прошлый раз блок сказок стёрли, без них в полете скукотища, а так прогонишь пару эксобайтов сказок, столько новых смыслов откроешь…
Но вариант Е требует совсем иных общественных отношений. До 2050-го не уложимся, опять надстройка подкачала. Ладно, будет время, еще подумаем.
