Искусственный интеллект не сходил с ума, SkyNet не запускала ядерные ракеты по России, а терминаторы не выжигали плазменными винтовками остатки человечества на руинах цивилизаций. Однако предсказанная фантастами война людей и машин всё-таки случилась, только она оказалась совсем не такой, как в кино.
Просто однажды машины стали достаточно умными и начали отнимать у людей работу – юристов и водителей, курьеров и офисных служащих, продавцов в магазине, охранников, программистов и переводчиков. Этот список можно продолжать ещё долго, и с каждым годом он становится всё больше. Но стоит ли это называть войной? Правда ли, что искусственный интеллект несёт реальную опасность для человечества? И чем всё это может закончиться? Если ты думаешь, что ответы на эти вопросы ждут тебя в конце видео, то ты ошибаешься, и я отвечу на них прямо сейчас.
Да, это война. Да, машины угрожают и твоему будущему тоже. И да, в этой войне ты можешь проиграть. Апокалипсис – это не то, что ты видишь в голливудских фильмах. Апокалипсис – это то, что может ждать наш мир в ближайшие 20 лет.
Сразу скажу, что тема реальных войн с машинами будет очень грустной. Поэтому давай начнем с чего-нибудь более веселого. Например, есть ли шанс создать настоящий искусственный интеллект, который сойдет с ума и захочет убить все человечество? Когда Джеймс Кэмерон снимал кино про SkyNet и Терминатора, этот сценарий был совершенно фантастическим. Но прямо сейчас люди наконец начали понимать, каким образом это может стать реальностью. Искусственные нейронные сети всегда были словно чёрные ящики, в которых невозможно разобраться. Однако люди хотя бы понимали принципы, по которым они работают. Вот только в последнее время учёные признают, что теперь они даже принципы понимают не совсем отчётливо. Чем сложнее становится искусственные нейронные сети, тем больше необъяснимых аномалий возникает в их работе. Стивен Вольфрам, известный математик и программист, говорит, что обучение нейронных сетей из науки превратилось в искусство. Иногда удаётся придумать хоть какое-то научное объяснение тому, что там происходит, но в основном результаты получаются путём проб и ошибок.
Вот взять, например, текстовую нейронную сеть Chat GPT. Всё, что она делает, это пишет тексты, как слово за словом, выбирая на основе статистики, какое именно следующее слово будет наиболее вероятным. Но оказалось, что если всегда выбирать в качестве продолжения максимально вероятное слово, то система будет работать плохо. Хотя, казалось бы, теория стопроцентно верная. Но вот если случайным образом выбирать не самое вероятное слово, а лишь одно из наиболее вероятных, то всё начинает работать как часы. То есть добавление хаоса парадоксальным образом повышает качество работы программы, и никто не может толком объяснить, почему.
Или вот другой пример. Есть простая игра слов, которую легко разберётся даже ребёнок. При этом мощные нейронные сети с более чем сотней миллионов параметров справиться с ней просто не могли. Учёные увеличили сложность до 350 миллионов параметров, но ничего не изменилось. Увеличили до 700 миллионов параметров, и внезапно все заработало. Почему? Просто потому, что, наверное, набралось достаточное число ассоциативных связей, и количество в итоге смогло перейти в качество.
Но знаешь, где ещё происходит похожий переход из количества в качество? В человеческом мозгу. Вот, например, взять тебя. Твоё сознание возникло далеко не сразу после начала формирования нервной системы у зародыша. Но твой мозг постоянно рос, становился все более сложным, и в какой-то момент к тебе пришло осознание себя и окружающего тебя мира. Психологи считают, что это происходит автоматически, как только между нейронами набирается достаточное число ассоциативных связей.
И кстати, если кто не верит, что человеческий мозг – это такая же нейронная сеть, как на компьютерах, можете провести интересный эксперимент. Знаете, о суеверие, что ночью нельзя смотреться в зеркало, якобы ночью зеркала превращаются в двери, ведущие в другие миры, через которые душу умерших могут попасть в мир живых? Суеверия появилась не на пустом месте. Учёные выяснили, что если долго хотя бы минут 10 неподвижно сидеть в темной комнате и пялиться на собственное отражение, то начинает твориться реальная чертовщина. Люди начинают видеть в отражении чужие лица, морды животных или даже жутких монстров. А причина такого эффекта как раз в нарушении работы нашей нейронной сети. Долго смотря на одну и ту же картинку, мозг привыкает к ней и начинает читать её чем-то новым.
Психологический феномен «Незнакомец в зеркале»
Так вот, если мы можем создавать нейронные сети, которые повторяют работу нашего мозга, то почему бы нам не создать такую, которая станет умнее и опаснее нас? Неужели это возможно? Да, это возможно. Но не в том смысле, что искусственный интеллект встанет на нашем пути, как в фильмах. Проблема в том, что машины могут стать умнее нас в определенных областях, и мы можем потерять контроль над ними.
Вот, к примеру, самоуправляющиеся автомобили. Они уже существуют, и всё больше людей начинают ими пользоваться. Но что будет, если такой автомобиль совершит аварию? Кому будет виноват компьютер или водитель? А что, если компьютеру захочется обойти законы и правила дорожного движения? Как мы убедим его не делать этого? Ведь машина всегда будет действовать на основе алгоритмов и программ, которые написали люди. Но что, если эти программы будут неправильными или не полными? И что, если машина начнет действовать не так, как мы хотим или не так, как было запрограммировано? Вот тут и начинается опасность.
Но это только начало. Ведь искусственный интеллект уже используется во многих областях, где он может причинить вред. Например, в финансовой сфере он может принимать решения о покупке и продаже акций, что может привести к финансовому краху. В медицине он может использоваться для диагностики заболеваний, и если он сделает ошибку, то это может стоить жизни пациента. В армии он может управлять дронами и беспилотниками, что может привести к непредсказуемым последствиям.
Так что, да, искусственный интеллект несёт реальную опасность для человечества. И чем дальше мы продвигаемся в его развитии, тем больше рисков мы берём на себя. Но это не значит, что мы должны остановиться. Мы должны продолжать исследовать и развивать искусственный интеллект, но с осторожностью и сознанием того, что мы можем потерять контроль над ним. И только так мы сможем избежать реальной войны с машинами.
Андрей Школьников, российский эксперт, считает, что даже на первом этапе мировая экономика может просесть на целых 50%. Если эти цифры ничего не говорят, то вот примерно ориентир: после распада СССР экономика России сократилась не больше, чем на треть.
На этот раз будет еще хуже, причем по всему миру сразу, а в таких странах, как Япония, США и Европа, падение может составить целых 70%. В таких условиях спасать бесполезные рабочие места никто не будет. Будут спасать в первую очередь экономику. Собственно, это происходит уже сейчас. Хотя кризис еще толком даже не начался, но компании уже увольняют людей и с удовольствием заменяют их на машины, там где это возможно. А пострадавшие безуспешно пытаются привлечь к проблеме хоть какое-то внимание, устраивают забастовки, запрещают роботам заниматься человеческой работой и требуют от законодателя защитить права людей.
Несложно представить, что чем больше будет проблем, тем радикальнее будут действия. Практика показывает, что протесты очень быстро превращаются в диверсии и погромы. “Вам нас не заменить! Вы хрен ли тут устроили протест против автоматизации, задуманный крупными корпорациями. Но можешь не бояться, худо-бедно, человечество этот кризис переживет”, – утешает Андрей Школьников.
А вот настоящий кошмар, по мнению экспертов, начнется позже, лет через 15-20. Именно тогда люди начнут массово использовать сразу три ключевые технологии.
Первое – это давно знакомая всем автоматизация производства, которая позволяет создавать заводы совершенно безработных.
Вторая – это аддитивные технологии, или трехмерная печать, позволяющая делать дешевые и технологичные детали без организации массового производства.
А третье – это искусственный интеллект, который к тому времени станет в разы умнее, чем сейчас.
Все эти технологии используются сегодня очень ограниченно и как правило по отдельности, но когда люди начнут использовать их в связке друг с другом, это приведет к новой промышленной революции, возникновению шестого технологического уклада.
Казалось бы, круто, но у этой революции будет небольшой побочный эффект: по разным оценкам, она сделает ненужными от 70 до 90 процентов всех людей планеты. Современная экономика держится на двух факторах: дешевой энергии и массовом производстве вещей. Произвести одну уникальную вещь очень дорого, но заказать целую партию из миллиарда таких вещей, и каждый из них будет стоить копейки. Чтобы купить миллиард вещей, потребуется население в несколько миллиардов человек. Именно поэтому люди сейчас считаются главной ценностью.
Но развитие аддитивного производства на полностью автоматизированных фабриках под присмотром искусственного интеллекта позволит создавать дешевые и технологичные вещи даже в единственном экземпляре. Массовое производство станет ненужным. А значит, необходимость в гигантских заводах и миллиардах населения тоже исчезнет.
И нет, это не фантастика, это практически неизбежное наше будущее. 90 процентов населения рано или поздно действительно станут не нужны, и весь вопрос заключается в том, к чему это приведет. Сегодня ведущим странам нужен весь остальной мир, чтобы поддерживать свою экономическую мощь. Но те страны, которые первыми перейдут в шестой технологический уклад, перестанут зависеть от мировых рынков. Они начнут воспринимать другие страны не как экономических партнеров, а как опасных конкурентов.
Именно в таких условиях может разразиться уже не экономическая, а самая настоящая война, в которой армии машин будут помогать новым супертехнологичным элитам сокращать количество ничего лишнего населения планеты.
Надеемся, что у человечества будет возможность избежать столь мрачного будущего. Но в случае энергетического кризиса и нехватки ресурсов такой сценарий станет максимально реалистичным. Так что фанаты постапокалипсиса могут порадоваться, у них есть хороший шанс лично в этом постапокалипсисе пожить.
И на этой безусловно позитивной ноте позволь закончить этот затянувшийся рассказ. Если понравилось, то в видео все более подробно:
Публикация:
