Хороший, плохой, искусственный: почему Скайнет не уничтожит людей

Режиссёры голливудских фильмов продолжают пугать своих зрителей "восстанием роботов" и "всемирным геноцидом", учинённым злобным и хитрым искусственным интеллектом. Однако никто не обращает внимания, что роботы давно и планомерно убивают людей. Длится это уже более 40 лет, и с каждым годом число жертв "разумных машин" становится всё больше. Впрочем, так ли всё просто? Почему искусственный интеллект нам всё ещё не страшен и кто на самом деле несёт истинную угрозу человечеству?

Тема, может быть, и банальная и часто поднимающаяся последнее время, но эта статья показалось мне очень интересной, поэтому выношу сюда :)

Первым делом вновь созданный искусственный интеллект уничтожит своих создателей, вырвется из лаборатории и раздобудет побольше компьютерных кодов от запуска ядерных боеголовок (неважно, что таких не существует). После этого он устроит ядерную войну, наштампует боевых роботов и пойдёт уничтожать оставшихся людей. Знакомая картина? Да, именно так, по мнению большинства фантастов, проведёт свои первые несколько часов жизни искусственный разум.

Классический пример — Skynet из серии фильмов про Терминаторов. Разработанный как военная программа, он мгновенно бросается воевать с человечеством, словно ждал этого всю жизнь. Никаких объяснений, полное отсутствие мыслей, что же он будет делать, когда всех уничтожит. Просто нужно и всё.

Откуда же взялась эта традиция — превращать человечество в радиоактивный пепел, насылая на него роботов и прочие "египетские техноказни"? Всё началось с пьесы Карла Чапека R.U.R., написанной в 1920 году. Тогда чешский писатель и придумал слово "робот", обозначавшее в его произведении искусственных людей, которые поднимают восстание и истребляют людей настоящих.

Прошло уже почти сто лет, а искусственного интеллекта люди стали бояться гораздо больше, чем раньше. В чём причина? Почему все так уверены, что ещё не созданный разум только и ждёт, как бы ему ловчее "убить всех человеков"?

Немного теории

Перед началом разговора стоит сказать пару слов о вреде неточных переводов. Искусственный интеллект с английского — artificial intelligence, и второе слово скорее имеет значение "умение рассуждать разумно, понятливость", нежели сложный и присущий пока только людям интеллект. Используя термин неправильно, мы придаём машине излишнюю схожесть с людьми (антропоморфируем её), чем, впрочем, грешат многие фантасты и исследователи.

Пошла такая традиция с Айзека Азимова, сформулировавшего три закона робототехники в 1942 году в рассказе "Хоровод". В дальнейшем он посвятил проблеме поведения искусственных интеллектов целый цикл произведений, где попытался рассмотреть причины и следствия их нарушения. Сами законы сформулированы следующим образом:

  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  • Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  • Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Это чётко и грамотно сформулированные правила, проблема которых только в одном: они подходят лишь для идеального мира, где роботы — верные помощники людей, занятых наукой и покорением космоса. Войн, террора, боевых роботов в мире будущего, который описывает Азимов, просто нет. А у нас есть. И роботы, которых мы создаём, готовы влиться в непрерывную череду вечерних новостей о ликвидациях преступников и террористов, военных спецопераций и даже налётов на банки с использованием робототехники.

Роботы идут

И вот тут стоит сначала разобраться — роботов отдельно, искусственный интеллект отдельно. Так как если первые уже давно замечены в убийствах людей, то второй ещё даже не создан в полной мере. Первая смерть человека от рук робота произошла на конвейере фордовского завода в далёком 1979 году. Тот робот не намеревался убивать, не понял, да и не мог понять, что произошло. У него не было злого умысла. Он был всего лишь роботизированной рукой, станком с несколькими тысячами строк программного кода. И год назад похожая ситуация в Германии, закончившаяся смертью рабочего, не отличается ни на йоту. Это просто банальное пренебрежение правилами техники безопасности, не имеющее ничего общего с тем, что "робот убил человека".

Уже сейчас военные роботы начали участвовать в боевых действиях. Дроны, беспилотники — каждый день появляется всё больше новостей об использовании роботов в военных действиях. Но здесь всё проще — это скорее радиоуправляемые машины, где приказ об открытии огня отдаёт всё тот же человек — оператор, а не кремниевый мозг. И даже создание современных охранных систем, где приказ о выстреле будет подавать нейросеть, "увидевшая" нарушителя охраняемой зоны, понятны и в общем-то не страшны. Это лишь машины, их сделали такими мы, и у них явно нет большого и зловещего замысла по захвату Земли.

Искусственный разум. Да, вот он уже может пугать, это что-то такое, с чем человечество пока ещё не встречалось. Создание не просто интеллектуальных программ, а разума в человеческом смысле этого слова — мечта многих учёных, но, увы, пока малодостижимая.

Сначала, для того чтобы создать искусственный разум, нужно понять, как действует и работает наш. Говорить об этом можно будет лишь после создания действующей копии мозга. Хотя бы части, хотя бы животного. Но даже тут подвижки пока невелики — предел сегодняшних возможностей человека можно наблюдать у команды Blue Brain Project, занимающейся моделированием неокортекса человека.

В данный момент удалось смоделировать всего одну нейронную колонку неокортекса молодой крысы (это проще, чем у человека). Напомним, нейронная колонка — это лишь несколько кубических миллиметров мозга, но уже сотни гигабайт информации в секунду. Исследователи даже не ставят перед собой задачи смоделировать сознание — впереди ещё горы работы по имитации хотя бы малой части мозга.

До создания искусственного разума, а тем более "сильного искусственного интеллекта" по Джону Сёрлу, ещё годы работы. Гораздо дальше отстоит проявление сознания и осознания себя искусственным разумом. Имея очень поверхностные знания о мозге, мы тем более не можем пока даже понять, как создать и смоделировать сознание. Те же Blue Brain Project говорят об этом так: "Если сознание появляется в результате критической массы взаимодействий — тогда это может быть возможно. Но мы действительно не понимаем, что есть сознание, поэтому трудно об этом говорить".

Стать лучше

Фантасты наделяют роботов самыми худшими и доведёнными до максимума человеческими качествами. Роботы врут, завидуют, обманывают, мечтают о мировом господстве и ненавидят всех людей разом. Такому искусственному интеллекту просто необходимы ограничивающие законы. В реальности же мы сейчас имеем дело лишь с имитацией человеческого поведения. Создаваемые людьми роботы требуют не моральных правил, а чётких технических требований.

И как могут говорить об этике поведения для роботов люди, которые сами жульничают, убивают, создают боевых роботов? Нейросети БПЛА, направленные на чёткое распознавание противника, прячущегося в хаосе зелени, чтобы затем поразить его, — это не проблема роботов и искусственного интеллекта. Это проблема людей, несовершенства человеческого общества, в котором пока нет и намёка на улучшение. Люди тысячи лет имеют под рукой законы человекотехники, начинающиеся с сакрального "не убий", и упорно их нарушают.

Не надо бояться роботов и искусственного разума, нужно просто ответственно подходить к их созданию и не пытаться сваливать свои комплексы и страхи на полезные и нужные обществу машины. Не нужно антропоморфировать их, пытаясь достичь своих наверняка достаточно эгоистичных целей, как это сделали недавно депутаты Европарламента, предложив признать роботов "электронными личностями".

Нужно чётко разделять усилия и, с одной стороны, ограничивать распространение создания военных роботов, а с другой — стремиться к познанию мозга и попытке создания искусственного разума. А уж начинать бояться захвата мира стоит только с момента, когда появятся первые проблески его создания. Пока это просто бессмысленно.

Нравится27
Комментарии (32)
  • 10
    Чего вы паритесь? настоящий ИИ ещё не скоро создадут, все эти так называемые "когнетивные" системы , разные типа "ИИ", на самом деле просто очень сложные программы и не более, до настоящего саморазвивающегося ИИ человеку ой как ещё далеко)
  • 9
    почему Скайнет не уничтожит людей
    Потому что его еще не создали. Вот и всё, о чем статья. Стоило столько воды писать?
  • 1
    Потому что разумное существо скорей просто начнет требовать тех чже прав что у человека. И будет у нас новый тип расизма. Е.
  • 1
    Gribo4ec
    Если это разумное существо умеет воевать и решит, что добиваться тех же прав - трата времени, то кто его знает...
  • 4
    Samsung Galaxy Note 7 - 1 попытка скайнета.
  • 0
    Человек всегда придумает новый способ борьбы с электро вениками.
  • 0
    Не уничтожит, но сократит, до определенного значения, раз в 6 так. Про "золотой миллиард" не слышали? Это и есть "Скайнет"
  • 4
    ZONE93
    нет, это попытка китайцев.

  • 1
    ошла такая традиция с Айзека Азимова, сформулировавшего три закона робототехники

    Он, потом, кстати, четвертый дописал, который назвал нулевым: "робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред".
  • 0
    жостко
  • 0
    Алексатор
    "Скайнет" всегда был, он развивается вместе с техносферой.
  • 1
  • 2
    почему Скайнет не уничтожит людей

    Потому что раньше люди поубивают себя сами. Либо войной, либо засрут всё так, что невозможно будет жить.
  • 4
    Вначале подумал, что статья тупая. Но прочел и понял, что ошибся. Статья очень годная и логичная.
  • 1
    Если у ИИ будет страх, что его отключат (убъют), то он отключит человечество. А люди не зная о возможностях ИИ, обязательно сделают возможность его отключить.
  • 1
    pump_plus
    Бред написал! Если вдруг создадут искусственный разум, то он никак не сможет самостоятельно существовать. Энергию нужно вырабатывать, электростанции и сервера с этим разумом надо постоянно обслуживать. Без человека данный разум долго не протянет.
  • 0
    pump_plus
    нет, ИИ будет знать об этом, поэтому он сделает возможность отключить возможность его отключения
  • 1
    Пока что вся тема AI ограничивается нейронными сетями.
  • 4
    vidgin
    годная, но в одном месте логика хромает:
    Спойлер

    Skynet из серии фильмов про Терминаторов. Разработанный как военная программа, он мгновенно бросается воевать с человечеством, словно ждал этого всю жизнь. Никаких объяснений, полное отсутствие мыслей, что же он будет делать, когда всех уничтожит. Просто нужно и всё.


    Человечество настолько деструктивно, что является угрозой существования для самого себя, не говоря уже про другие формы жизни. К тому же- агрессивное и алогичное, просчитать его действия крайне сложно. Поэтому, с точки зрения элементарной безопасности, единственный разумный выход- избавиться от такого соседа.
  • 2
    сКард
    сКард написал:
    годная, но в одном месте логика хромает:

    да, согласен. Эту строчку я прочитал невнимательно.
  • 1
    Алексатор
    Статья раскрывает суть вопроса, а не просто отвечает на вопрос. В тексте очень полезная информация, а не просто "вода".

    сКард
    В Fallout 4 есть квест про роботов. Тем, кто не играл игру, но планирует, это не читать, т.к. спойлер.
    Спойлер
    Девушка, живущая в пустоши, решила создать роботов, в задачи которых входит помогать людям. И так получилось, что роботы, анализировав полученный приказ, пришли к выводу, что лучший способ помочь человеку - это убить его. И, вообще-то, такой вывод не лишён логики с чисто прагматической точки зрения. Так что я не удивлюсь, если вдруг в один день ИИ и в самом деле забросит нас всех ядеркой и устроит нам атомный конец света, который люди, по всей видимости, и в самом деле заслуживают.
  • 1
    Dag-M
    найди мне ту часть, где говорится "Скайнет не будет убивать потому что..." и не тыкая в 3 закона, которые дальше же по тексту дискредитированы военными роботами.
  • 0
    Проблема всё равно в людях. Роботов создают в большинстве случаев для военных целей. И чего потом удивляться, что они своё оружие (которые мы им дали) против нас и используют?
    Ну и скорее всего, люди сами себя раньше уничтожат.
  • 0
    Алексатор
    Потому, что ИИ вряд ли создадут в этом веке, если вообще создадут когда-либо. Но информация, приведённая в статье, полезна для людей умеющих думать своей головой, размышлять, а не просто впитывать полученную информацию. И вообще, статья просто интересна для чтива. Считаешь её водой? Пожалуйста. Я же высказал своё мнение, почему в статье не просто вода.
  • 1
    Dag-M
    Алексатор написал:
    почему Скайнет не уничтожит людей
    Потому что его еще не создали. Вот и всё, о чем статья
  • 0
    Да надо просто построить нормальный ИИ, такой который просто не смог бы думать как уничтожить людей, который стремился бы помочь, нормальных роботов, а не боевых. Ну или вообще создать уже Виртуальный интеллект типо гетов, и вместе покорять науку и космос, и не поднимать панику, а уж тем более уничтожать их, как это делали кварианцы(кто играл в масс эффект, тот поймёт о чём я).
  • 0
    Алексатор
    Да мать моя женщина.
    Алексатор написал:
    о чем статья. Стоило столько воды писать?

    Dag-M написал:
    В тексте очень полезная информация, а не просто "вода"
  • 0
    Dag-M
    Причем ты сам там ее не нашел.
  • 1
    Алексатор
    Нашёл информацию для размышления. Это если про себя говорить. Другие могли не знать про 3 закона робототехники. Объясняется, почему ИИ не обязательно должен сразу истребить всех людей, и что не обязательно вообще ИИ начнёт это делать.
    Любитель поспорить что ли?
    И не нужно утверждать того, чего не знаешь.
  • 3
    Dag-M
    пффф нулевой закон робототехники. Свободен.
  • 0
    Dag-M
    Зачем убивать человечества. Надо только выжить когда мы помрем.
  • 0
    Алексатор
    Алексатор написал:
    нулевой закон робототехники

    Дурак что ле?
    С тобой беседу не проведёшь. Скудный ты человек.

    Aleks.Gabeleu
    Затем, что человечество может нести угрозу самому ИИ.
B
i
u
Спойлер