Группа неожиданных союзников добивается запрета на «сверхинтеллект» ИИ

Принц Гарри и его жена Меган присоединились к видным ученым-компьютерщикам, экономистам, художникам, лидерам евангельских христиан и американским консервативным комментаторам Стиву Бэннону и Гленну Беку, призвав к запрету искусственного интеллекта (ИИ), который, по их мнению, может угрожать человечеству.

Письмо, опубликованное в среду группой политических и географически разнообразных общественных деятелей, напрямую направлено против таких технологических гигантов, как Google, OpenAI и Meta Platforms, которые соревнуются друг с другом в создании формы искусственного интеллекта, призванной превзойти человека во многих задачах.

В заявлении из 30 слов говорится: «Мы призываем ввести запрет на разработку сверхинтеллекта, который не будет снят до тех пор, пока не будет достигнут широкий научный консенсус относительно того, что это будет осуществляться безопасно и контролируемо, а также пока не будет достигнута сильная общественная поддержка».

В преамбуле письма отмечается, что инструменты ИИ могут принести здоровье и процветание, но наряду с этими инструментами «многие ведущие компании в области ИИ ставят перед собой цель создать в ближайшем десятилетии сверхинтеллект, способный значительно превзойти всех людей практически по всем когнитивным задачам. Это вызывает опасения, начиная от экономического устаревания и лишения человека власти, утраты свободы, гражданских прав, достоинства и контроля, и заканчивая рисками для национальной безопасности и даже потенциальным вымиранием человечества».

Принц Гарри добавил в личной записке: «Будущее ИИ должно служить человечеству, а не заменять его. Я убеждён, что истинным показателем прогресса станет не то, насколько быстро мы движемся, а насколько мудро мы действуем. Второго шанса не будет».

Вместе с герцогом Сассекским подписала его жена Меган, герцогиня Сассекская.

«Это не запрет и даже не мораторий в обычном смысле», — написал другой подписавший, Стюарт Рассел, пионер в области искусственного интеллекта и профессор компьютерных наук Калифорнийского университета в Беркли. «Это просто предложение о введении адекватных мер безопасности для технологии, которая, по мнению её разработчиков, имеет значительный риск привести к вымиранию человечества. Разве это слишком много?»

Подписали соглашение также пионеры искусственного интеллекта Йошуа Бенджио и Джеффри Хинтон, сообладатели премии Тьюринга, главной награды в области компьютерных наук. Хинтон также получил Нобелевскую премию по физике в прошлом году. Оба активно привлекали внимание к опасностям технологии, которую они помогли создать.

Но в списке есть и некоторые сюрпризы, включая Бэннона и Бека, в попытке организаторов письма из некоммерческой организации Future of Life Institute обратиться к движению президента Трампа «Сделаем Америку снова великой», в то время как сотрудники Белого дома г-на Трампа пытались сократить ограничения на разработку искусственного интеллекта в США.

В списке также значатся соучредитель Apple Стив Возняк, британский миллиардер Ричард Брэнсон, бывший председатель Объединенного комитета начальников штабов США Майк Маллен, служивший при республиканской и демократической администрациях, и эксперт по внешней политике от Демократической партии Сьюзан Райс, которая была советником по национальной безопасности президента Барака Обамы.

Подписи под документом поставили бывший президент Ирландии Мэри Робинсон и несколько британских и европейских парламентариев, а также актеры Стивен Фрай и Джозеф Гордон-Левитт и музыкант will.i.am, который также использовал ИИ в создании музыки.

«Да, нам нужны конкретные инструменты ИИ, которые помогут лечить болезни, укреплять национальную безопасность и так далее», — написал Гордон-Левитт, чья жена Таша Макколи входила в совет директоров OpenAI до потрясений, которые привели к временному отстранению генерального директора Сэма Альтмана в 2023 году. «Но должен ли ИИ ещё и подражать людям, стричь наших детей, превращать нас всех в наркоманов и зарабатывать миллиарды долларов на рекламе? Большинство людей этого не хотят».

Письмо, вероятно, спровоцирует продолжающиеся дебаты в сообществе исследователей искусственного интеллекта о вероятности создания сверхчеловеческого искусственного интеллекта, технических способах его достижения и о том, насколько он может быть опасен.

«Раньше мы в основном сталкивались между собой «ботаников», — сказал Макс Тегмарк, президент Института будущего жизни и профессор Массачусетского технологического института. — Мне кажется, сейчас мы видим, как критика стала очень популярной».

Более широкие дебаты осложняются тем, что те же компании, которые стремятся к тому, что одни называют сверхинтеллектом, а другие — общим искусственным интеллектом (ОИИ), иногда преувеличивают возможности своих продуктов, что может повысить их рыночную привлекательность и усилить опасения по поводу «пузыря» ИИ . Недавно OpenAI подверглась насмешкам со стороны математиков и специалистов по ИИ, когда её исследователь заявил, что ChatGPT решил нерешённые математические задачи, хотя на самом деле он просто нашёл и обобщил то, что уже было в сети.

«Существует множество вещей, которые слишком разрекламированы, и вам как инвестору нужно быть осторожным, но это не меняет того факта, что, если смотреть шире, за последние четыре года искусственный интеллект развивался гораздо быстрее, чем предсказывало большинство людей», — сказал Тегмарк.

Группа Тегмарка также стояла за письмом от марта 2023 года — ещё на заре коммерческого бума ИИ — в котором призвала технологических гигантов временно приостановить разработку более мощных моделей ИИ. Ни одна из крупных компаний в сфере ИИ не прислушалась к этому призыву. А самый известный подписавший письмо 2023 года, Илон Маск, в то же время без лишнего шума основал собственный стартап в области ИИ, чтобы конкурировать с теми, кого он хотел заставить взять полугодовую паузу.

На вопрос, обращался ли он снова к Маску в этот раз, Тегмарк ответил, что написал генеральным директорам всех крупных разработчиков ИИ в США, но не рассчитывает, что они подпишут соглашение.

«Честно говоря, я им очень сочувствую, потому что они настолько увязли в этой гонке на выживание, что чувствуют непреодолимое давление, побуждающее их продолжать и не отставать», — сказал Тегмарк. «Думаю, именно поэтому так важно стигматизировать гонку за сверхразумом до такой степени, что правительство США просто вмешивается».