Босс ChatGPT ответил на вопросы законодателей о рисках ИИ и о том, как его следует регулировать

Генеральный директор OpenAI Сэм Альтман, руководитель IBM по вопросам конфиденциальности и доверия Кристина Монтгомери и заслуженный профессор Нью-Йоркского университета Гэри Маркус были опрошены сегодня подкомитетом Сената США о потенциальных рисках искусственного интеллекта и о том, как его следует регулировать. Законодатели выразили обеспокоенность по поводу потенциальной возможности дезинформации и неточностей, генерируемых ИИ (чат-боты склонны лгать), политической предвзятости и нарушения авторских прав.

Альтман сказал сенаторам, что эта развивающаяся технология требует "регулирующего вмешательства со стороны правительств", что "крайне важно для снижения рисков все более мощных моделей". Для этого, по словам генерального директора OpenAI, необходимо наделить агентство или агентства полномочиями по созданию и обеспечению соблюдения правил для ИИ-индустрии, выдавая компаниям ИИ лицензии и отзывая эти лицензии, если их технологии начинают работать неправильно.

Маркус также согласился с тем, что создание нового правительственного агентства будет лучшим способом регулирования ИИ, сказав, что нам "вероятно, нужна организация на уровне кабинета министров". В своем вступительном слове он сравнил модели ИИ с "быками в посудной лавке".

Одна из серьезных проблем, которая часто поднималась на слушаниях, касалась создания произведений искусства с помощью ИИ и авторских прав. Альтман рассказал сенаторам, что OpenAI работает над системой авторского права, которая будет платить художникам, если их работы будут использованы для создания нового искусства, сказав, что "художники заслуживают контроля". Альтман также добавил, что новые правила должны требовать, чтобы на изображениях, сгенерированных ИИ, указывалось, что они были созданы с помощью ИИ-инструментов.

Почему Альтман, генеральный директор одного из крупнейших игроков в области ИИ, так заинтересован в регулировании? Не исключая возможности того, что у него есть искренние опасения, в прошлом влиятельные компании с большими ресурсами призывали к регулированию, посчитать, что это неизбежно и хотели повлиять на это или затруднить проникновение небольших стартапов в отрасли.

Хотя Маркус выступает за регулирование, он называет это "захватом регулирования", когда, если все пойдет не так, новое регулирование может непреднамеренно создать монополию ИИ.

Сенатор Блюменталь, председатель подкомитета, сказал, что правительство может "создать десять новых агентств, но если вы не дадите им ресурсов", крупные ИИ-компании будут "бегать кругами" вокруг них.