Света показала мне пост Роднянского об интервью Илона Маска редактору The Economist Занни Минтон Беддоус. О том, что ИИ скоро (к 2036) превзойдет человека, создаст на земле невиданное изобилие, за нас все будут делать умные роботы, работа станет хобби для желающих, у всех будет стабильный гарантированный достаток, а деньги исчезнут.
Честно говоря, меня это порядком вывело. Наивность, прямо отсылающая к фильму «Превосходство» (Transcendence), в котором Маск собственнолично появился. Там тоже умные роботы за два года строят город на самообеспечении энергией и сразу же начинают лечить людей с помощью невесть как из воздуха созданных инструментов. Для убедительности своего гнева я даже показал Иосифу этот фильм.
Во-первых, нам элементарно не хватит энергии даже на сам ИИ, не говоря уже об этих роботах. Её уже сейчас не хватает, и для самих вычислительных центров, и для их охлаждения.
Во-вторых, не может быть неограниченного богатства для всех, у нас ресурсы ограничены, у нас климат разрушается, у нас нефть кончается, у нас исламисты пролив перекрыли. С исламистами воевать тоже роботы будут или исламисты уже согласились вкушать его изобилие? Голод и болезни в Африке он тоже решил? Глобальное потепление ему тоже роботы починят? И в Дунай воду нальют, чтоб он снова полноводный стал…
На пути к этому самому благополучию, пока тысячи людей будут лишаться работы, мы ещё можем получить народные возмущения, а процесс создания этого самого гарантированного достатка грозит инфляцией.
В-третьих, ИИ сам ничего не решит и не изобретет, его надо учить. И чем быстрее он учится, тем умнее должен быть его учитель. Он же не человек, который может превзойти учителя, он потребляет цифровую информацию, которую кто-то должен для него подготовить. Чем быстрее он учится, тем больше нужно людей, чтобы готовить для него цифровые данные. Он же манипулирует цифрами, он не поставит эксперимент, не откроет сам законы природы, не проведет физических замеров, не слетает в верхние слои атмосферы замерить температуру и загрязнение. Это только в фильме том фантастическом у него выросли ручки-ниточки, которые неизвестно чем двигались на неизвестно какой энергии. В идеальном случае, если он станет идеальным инструментом для ученых, то нужны ученые, которые будут ставить ему задачи, а они и их умы не растут так быстро, как ИИ, рано или поздно он застопорится об наш ум.
На самом деле, меня возмущает даже не то, что какой-то конкретный самый-богатый-на-земле-человек не понимает сути процессов, в которые вкладывает свои колоссальные бабки. К ограниченности сильных мира сего я уже привык, достаточно вспомнить Билла Гейтса (и ещё кое-кого). Человек может быть силен в какой-то сфере, например, зарабатывания бабок или создания всемирных корпораций, но человек не может быть силен во всех областях, это нормально. Возмущает, когда люди пытаются распоряжаться судьбами миллионов или политикой целых стран, будучи при этом вот так вот ограниченными.
Однако перед тем, как изливать свои чувства в Сеть, я, для справедливости и обоснованности, просмотрел всё интервью сам, от начала и до конца. Было чрезвычайно интересно.
Часть моих технических опасений интервьюерша озвучила напрямую, часть он поднял сам, например, упомянул недостаток энергии и трудности производства чипов и роботов. И про инфляцию она его спросила, и он ответил, что ожидает как раз дефляцию: изобилие товаров и услуг за меньшие деньги. Вообще-то изобилие производства на первых порах должно приводить не к дефляции, а к безработице, и дай бог нам пройти его легче, чем великую депрессию 1930-х, и дай бог нам выйти из неё не так, как тогда, не при помощи войны.
А мою главную тревогу — о самовознесении себя — журналист пронесла через все интервью:
В части про ИИ она спросила: «А справедливо ли, что кучка магнатов собирается распоряжаться прогрессом целых стран?», и он ей ответил, что в мире всегда правили короли и немногочисленные аристократы, то есть он уже сейчас причисляет себя к правящей элите, хотя и признался, что с участием в правительстве Трампа «перестарался». Кстати, я уже говорил, что Гугл символично разместил свой офис в самом центре Чикаго, в здании, где до этого располагалось правительство штата.
И во второй части, про Украину, и в третьей, про Европу, где они практически переругивались, она снова и снова сталкивала его с этим вопросом: ты управляешь мнением четверти миллиарда людей, как ты можешь лезть в сферы, в которых так мало понимаешь? Про Украину он ответил, что не сделал там ничего плохого, но вопрос-то был не хорошо или плохо он поступил, а правильно ли, что один человек наделен такой властью над мнениями столь многих людей.
Эту мысль, эту озабоченность, я считаю, ей удалось очень четко озвучить и провести через все интервью. Так что мне это очень понравилось.
А сегодня Иосиф меня прямо-таки огорошил неожиданным сравнением: благополучие с помощью ИИ и роботов, которое проповедует Маск, это практически то, что сделал Трурль в «Собысчасе» Лема. Не будучи в силах решить задачу осчастливливания человечества, Трурль сделал электронную копию себя и переложил задачу на неё. Электронный Трурль, ожидаемо, не справился, и врал создателю напропалую, а сам плодил очередные копии себя, пытаясь переложить задачу на кого-то, вместо того, чтобы её решать. Мне понравилась и оригинальность сравнения, и то, что Иосиф помнит и обдумывает моего любимого Собысчаса и моего ещё более любимого Лема.
Так что желаю всем благополучия, и, конечно же, позвоните родителям!
Линки:
Пост Роднянского: https://www.instagram.com/p/DbyK6KosDWz/
Полное видео: https://www.youtube.com/watch?v=XuoqKYxDHVc