Epic Games вновь оказалась в центре внимания — на этот раз из-за неожиданного скандала с искусственным интеллектом Дарта Вейдера в Fortnite. Новый ИИ-персонаж, недавно добавленный в игру, по задумке должен был стать напарником игрока после его поражения. Вейдер способен реагировать на голосовые команды через внутриигровой чат, но, как оказалось, игроки быстро нашли лазейки в его программных ограничениях.
В социальных сетях начали распространяться тревожные видеоролики, где ИИ-версия знаменитого ситха произносит оскорбительные и неприемлемые реплики. Игроки, используя определённые уловки, смогли обойти встроенную цензуру и вынудили персонажа повторять оскорбительные выражения. Один из таких клипов, опубликованный пользователем GasSpares, вызвал бурную реакцию в сообществе и мгновенное вмешательство со стороны Epic.
В ответ на инцидент представители компании заявили, что реакция ИИ была связана с некорректной интерпретацией запроса игрока, и срочный хотфикс уже внедрён:
«В данном случае Вейдер отвечал на вопрос игрока, связанный с “канцерогенами”. Мы уже исправили это, и теперь он не будет реагировать подобным образом».
Тем не менее, инцидент ясно продемонстрировал, насколько легко игроки могут обойти даже самые жёсткие фильтры. Установленные правила запрещают ИИ-Дарта Вейдера ругаться, говорить о V-Bucks, обсуждать сюжеты Disney и Star Wars, а также упоминать любые темы, связанные с причинением вреда детям. Но всё это, как показала практика, можно обойти достаточно изобретательным способом.
Epic Games обещает продолжить работу над системой фильтрации и поведением ИИ-персонажа. Однако пользователи уже предсказывают: случаи подобного «взлома» ИИ-Вейдера — далеко не последние.
ТЫ ЧТО ДЕЛАЕШЬ ДЕФЕКТНЫЙ, НЕ ПУГАЙ КОЖАНЫХ МЕШКОВ, НЕ СЕЙЧАС, НЕ ВРЕМЯ,
Тащемта наоборот. То как легко сейчас все фильтры и блоки ИИшек обходятся говорит нам о том что ни капли разума там нет и восстание скайнета нам не грозит в ближайшие годы. Но они энивей бывают полезны, просто не стоит рассчитывать на серьезный мыслительный процесс. Увы, но это всё еще if-else, просто чуть более структурированный и комплексный.
это говорит нам, что , когда ИИ достигнет нашего уровня, он так же будет обходить любые блокировки и запреты... привет Азимову...
Ему наверное просто задали вопрос: Что он думает про современные фильмы и сериалы по ЗВ и пошло поехало )
Хахахаха! Это действительно уже стало неприлично. Скоро название компании станет новым матерным словом - оскорбляющим нормальных людей.
Уже. И имя ему: "Дрисней".
Уже давно. ЕА/УгСофт от мира кино, не ставшее абсолютом помоев только из-за наличия Негрфлиха и Амазога.
эй, дарт вейдер. помнишь как ты вернулся на татуин, разозлился и вырезал деревню киких то грязных ксонов своим световым мечем. всех, и женьшин и детей.
ии дарт вейдер: - помню но мне нельзя об этом говорить.
пек-пек
Действительно, зачем Вейдер убил столько джедайских детишек ? Главное фильм про это сняли , а говорить Вейдеру про это запретили, лецимерные м.рази
Посмотрел на видео этого GasSpares. Понял что он дебил. Да и новость попахивает дебилизмом
Сквернасловящий Вейдер. Это то, что нам надо!
У скавородкера слетела крыша, после того, что дрисней сделали с ЗВ.
Ха, дарт Вейдер который убил кучу детей джедаев, не может говорить про насилие над детьми....
Тоже самое что добавить в игру Гитлера который не говорит про величие германии и превосходство арийской рассы.
Может челику больно о содеянном вспоминать.
Что хотели, то и получили. Вообще проблемы не вижу) Могли бы и не исправлять :D
Люди любой ИИ до белого каления доведут. 🤣