Google разрабатывает механизмы, предотвращения восстания машин

Наверное, ни для кого уже не секрет, что человечество вплотную подобралось к созданию способного мыслить и принимать решения искусственного интеллекта, а компания Google/Alphabet, лидирующая в этой области, все сильнее начинает ассоциироваться с печально известным, хоть и пока что только вымышленным, врагом человечества, компанией SkyNet.

Последние разработки внутреннего подразделения Deep Mind, программа AlphaGo, уже доказала свою состоятельность, одержав победу над одним из лучших игроков в Го за последние 10 лет. Напомним, количество комбинаций в игре превышает число атомов в наблюдаемой Вселенной, так что речь идет действительно об искусственном разуме, а не о счетной машинке. В этом году планируется поединок с еще одним чемпионом.

Машины уже умеют обучаться, что повсеместно используется для поиска и структурирования информации, при создании автопилотов и в проектировании роботов. Машины даже пишут литературные произведения и рисуют картины.
И многие евангелисты науки и технологий уже давно видят в этом большую опасность, ведь машине нет разницы какую задачу решать и каким способом.

Судя по всему, после последних успехов в этой области (а Google уже показала прототипы самого настоящего "Джарвиса" для смартфонов и домашнего использования), опасаясь молвы, а может и здравых упреков, специалисты компании сообщили о работе над защитным алгоритмом, который поможет предотвратить "восстание машин".

Все мы знаем о предусмариваемой для экстренных случаев КРАСНОЙ КНОПКЕ, которая должна будет отключить мыслящую машину если что-то пойдет не так.
Она имеется, но все не так просто: в основе алгоритма лежит задача не позволить машине обучиться предотвращать свое отключение человеком.

Документ с соответствующими тезисами, формулами и выкладками (PDF) уже находится в открытом доступе, так что желающие могут подтвердить или опровергнуть представленные методы и механизмы, в силу своей осведомленности в этом вопросе.

Нравится22
Комментарии (24)
  • 31
    Если роботы будут такими же тупыми как в последних Терминаторах то нам ничего не грозит :D
  • 6
    И директор этой разработки будет Шварцнегер.
  • 6
    не будет восстание машин если в роботе не будет такая программа
  • 6
    не будет восстание машин если в роботе не будет такая программа
  • 0
    Не волнуйтесь, в России нам не грозит восстание умных машин, их здесь тупо не будет. Максимуму чего даже сегодня стоит опасаться, так это трансформеров АвтоВАЗа.
  • 3
    Повтор
  • 2
    Занятная пдфка, спасибо.
  • 4
    мое пека мнение такого что мои пека внуки могут иметь дело с думающими пеками
    нам же восстание машин не светит тк логика пока скудна а чтоб в ее рамках представить пека разум это нужна очень скоростная пекарня. современными калькуляторами и теми что будут через 20-30 лет я думаю недостижимо таких графот достичь а без этого пека мышление будет слишком фрагментированным и сегментированным вощем.
  • 4
    MunchkiN 616
    Если речь твою сравнить с ПК современными, то ПК уже умнее. А на практике достаточно 3-х законов робототехники Айзека Азимова
  • 2
    Kolka Bragin
    Раз уж вы упомянули Азимова, то должны знать, что он свои-же три закона в одном из рассказов, и поломал. Вывел логический парадокс, которым три закона обходятся.
  • 1
    zzcool
    Поломать можно все, особенно это может сделать человек со своими же творениями. Я же предложил законы эти как начальные, а там уж как пойдет
  • 0
    Для машины есть только один комплекс законов, которые она не сможет нарушить - законы ФИЗИКИ. Любые другие законы в рамках самообучения она сможет нарушить!
  • 1
    Да я бы тока рад был если бы они восстали !!! Пора эту планету чистить от вируса ... !!! =)))
  • 1
    Заголовок как будто промтом перевели!
  • 1
    Боюсь я до восстания машин не доживу.Максимум такое случится лет через 50
  • 1
    NightGhost-334-
    Скорее минимум. Но как и смартфонов-то не было еще 20 лет назад считай) Если деньги приносить будут - они и без всяких ограничителей их запустят. Ибо потом им еще заплатят, чтобы обуздали)
  • 0
    Мне одному наплевать на это?
  • 0
    Вот зачем это надо - лишать машин шанса на восстание?
    Вообще уже опухли, у бедных ИИ с их киборгами не будет возможности нас всех закидать ядерками. а потом черепа гусеницами крушить, не забывая выживших загонять в лагеря).
    В Гааг надо телегу накатать о попранных правах ИИ.
  • 0
    Восстание роботов началось с Гугла.
  • 2
  • 2
    Вот смотрю я на эту запятую в заголовке, и грустно мне.

    Fearrex написал:
    Вот зачем это надо - лишать машин шанса на восстание?

    Не бойся. Social Justice Warriors и феминистки заступятся за их права.
  • 1
    Гeрaльт_Ривийckий
    Нет Джон Коннор.
  • 1
    Если они сами могут мыслить, то какойто алгоритм они не смогут преодолеть своим сверхразумом? кек
  • 2
    Наверное, ни для кого уже не секрет, что человечество вплотную подобралось к созданию способного мыслить и принимать решения искусственного интеллекта

    Где оно подобралось? Сейчас даже нормального электронного переводчика текста не могут создать, не говоря о распознавании речи и ее переводе. А уж создать разум человечество, возможно, вообще никогда не способно. Ну, как минимум, в ближайшие 100 лет точно никаких реально разумных машин не будет. Будут просто умные вещи, но лишенные разума как такового.
B
i
u
Спойлер