У меня, не побоюсь сказать, уникальное понимание компьютеров. Хоть я и получил к ним доступ в восьмидесятые, но, из-за отставания в области компьютеров в СССР, мне пришлось вживую работать и с компьютерами 70х, и 60х, вплоть до самых примитивных, с перфолентами, двоичным кодированием и ассемблером. Этому способствовало ещё и то, что моя мама была программистом с самых первых промышленных ЭВМ, и она постаралась мне эту увлеченность передать.
Короче, я знаю компьютеры с их самого рождения, так, как если бы они развивались с самого начала у меня на глазах.
Это мне часто напоминает Сьюзен Кэлвин, героиню книг Азимова о роботах («Я, робот» и другие), которая по профессии робопсихолог и знает роботов с самого начала их развития.
Я многое еще хочу написать, исходя из этого понимания, но сегодня — об ИИ.
Пару примеров с музыкой. Какое-то время назад наткнулся на песни Alessia Fontana. Смесь заголовков, ключевых слов и мелодий, смесь стилей и обработок итальянской эстрады и французского шансона, как будто кто-то прокрутил через мясоркубку «Вернись в Соренто», «Под небом Парижа», «Spente le stelle» и получилась кажущаяся знакомой смесь, которая напоминает немного то, немного это — что из чего понадергано. Где-то с голосом Pomplamoose, где-то — вообще с мужским. Никакой биографии. Никаких сведений, кто это. Попытки погуглить находят много разных Алисий, некоторые даже Фонтаны, но не те.
Буквально вчера наткнулся у кого-то в инстаграме на «Каприччио Соль-минор опус 12 номер 3» Эдмунда Персиваля Монфорта. Да ещё и под названием «Край шторма». Некоторые мотивы Паганини, смешанные с мотивами «Шторма» Вивальди, смешанные с танго и аккордами французского шансона. Аналогично, есть уйма исполнителей с именем Персиваль в середине, и отдаленно напоминает Анри Пурселя. И конечно же, нет первой и второй части опуса 12, и вообще никаких сведений об авторе.
Господа, что происходит? Нас держат за идиотов или из нас делают идиотов?
Конечно же, все помнят «Плотника Эрнесто, 54 лет», выжавшего слезы своей песней об ожидании у двери, взявшего голос, стиль, мотив и обработку Роя Кларка «Yesterday when I was young». На мой взгляд, это было очень суровое и очень серьезное предостережение: все, что мы видим в электронном виде, может быть сфабриковано.
Теперь с фильмами.
Вчера попросил Gemini найти по описанию фильм, который давно не могу найти. И он мне нашел его, указал режиссера, актеров, студию, год выпуска. Сюжет в точности напоминал тот, который я искал. Одна проблема: это не был фильм, который я искал. Это было вранье от первого до последнего слова. Липовый, несуществующий, режиссер, несуществующие актеры, линки на imdb, ведущие на совсем другие фильмы и личности. Он ещё пытался оправдываться, говоря, что это редкий фильм, и не во всех базах есть, но в конце сознался, что все сочинил. Он даже не пытался искать. Как школьник, пытающийся надуть учителя, он дал «обоснованный» ответ с ссылками, которые, как он надеялся, никто не проверит. Я знаю людей, которые пытались так делать на работе, но, простите, ИИ мы не для этого создавали.
Кстати, о работе. Недавно я на работе нашел проблематичный кусок кода, и составил список из десятков файлов, где еще он может быть. Найти похожее — неправильное — использование параметров — классическая задача для ИИ. Он подтвердил, что понял задачу, написал, что именно будет искать и уверенно заявил, что таких мест в коде нет. Я показал ему два примера, он сказал, что понял свою ошибку, и что кроме этих двух, таких мест в коде больше нет. Я показал ему ещё один пример, и он снова извинился, но заверил, что это последний. Я потом нашел ещё один, и да, мне пришлось вручную перерыть все эти семьдесят файлов.
Он врет, как человек, и ленится, как человек.
Но я, по крайней мере, проверил эти ссылки, и с фильмом, и на работе, а люди же не проверяют, верят ИИ слепо. Недавно читал исследование, что после введения Gemini в Google трафик на реальные сайты снизился в разы: люди не переходят по ссылкам, верят короткой сводке, которую ИИ им дал.
Как профессионал, я вижу в этом реальную проблему. Через какое-то время, а в чем-то — уже сейчас, мы не сможем верить тому, что мы видим в электронном виде, а в электронном виде мы сейчас видим примерно всё.
Как человек, я чувствую себя преданным. Я знаю компьютеры с их рождения, и я посвятил им большую часть своей жизни, своих сил и стараний. И они меня обманывают и предают. И это тоже похоже на Сьюзен Кэлвин из рассказов Азимова. В рассказе «Лжец» интервьюер её спрашивает, подводили ли её роботы, и она рассказывает, как однажды робот её серьезно предал. И её рассказ очень похож на мой: робот говорил ей то, что она хотела услышать. Ложь.
Часть проблемы в том, что ИИ не «образован», он «нахватан». Он научился на интернете, в котором уйма вранья и ерунды, плюс ко всей этой лжи он добавляет свою собственную.
Я люблю компьютер за то, что он точен и честен. Электронный подлец и лгун мне не нужен. Это уже чем-то напоминает проблематику «Собачьего сердца» Булгакова: «А если взять мозг гения?» Зачем нам воспроизводить человека с его недостатками? Людей с недостатками и так достаточно.
Но я не виню компьютер, я виню человека. Когда я преподавал операционные системы, я говорил своим студентам: «Компьютеры не ошибаются. Ошибаются программисты». И в случае ИИ ошиблись программисты, люди. Ошиблись в том, что не начали, как хотел Азимов, его создание с непреложных, железных, нерушимых законов правды и безопасности, а поступили, как предрекал Лем: скопировали в железе свою ленивую и лживую натуру.
Проверяйте информацию и позвоните родителям.