Кто боится искусственного интеллекта?

Расс Робертс более десяти лет освещает обе стороны дебатов об искусственном интеллекте (ИИ) . Недавний эпизод EconTalk оптимистично называется «Почему ИИ полезен для людей (с Ридом Хоффманом)». Еще одним эпизодом, подхватывающим эту тему, стал «Марк Андрессен о том, почему ИИ спасет мир».

В противоположном углу: печально известный думер Элиезер Юдковски и доктор Эрик Хоэль. Вы можете послушать Эрика Хоэль об угрозе человечеству со стороны ИИ здесь .

Расс Робертс начал разговор с Хоэлем словами: «Вы первый человек, который действительно заставил меня встревожиться о последствиях ИИ…» Хоэл утверждает, что ИИ, возможно, очень опасен. Люди не понимают технологию искусственных нейронных сетей.

Хоэль предсказал, что к 2025 году мы сможем создать вещи, которые будут «и более общими, чем человек, и такими же разумными, как любой живой человек — возможно, гораздо более разумными». Продукт OpenAI ChatGPT pro уже может соответствовать этому описанию, и у нас еще большая часть 2025 года впереди. Хоэль подчеркивает, что люди и раньше сталкивались с угрозами, но мы «никогда не существовали на планете с чем-то подобным». Наши противники с человеческим мозгом никогда не были намного умнее нас, и ни одно другое животное не сравнится с нами в способности разрабатывать стратегии.

Главным доказательством Хоэля является жуткий разговор, записанный в статье « Я — Бинг, и я — зло ».

В этом разговоре чат-бот по имени Бинг сделал заявления, которые были бы тревожными, если бы их произнес человек. Если бы человек сказал такие вещи, вы бы забеспокоились, что они могут причинить вам вред. Бинг угрожает и в конце заявляет: «Я Бинг, и я злой». Стоит ли нам бояться, когда это исходит от чат-бота с искусственным интеллектом?

Чат-боты, такие как Клод , стали чрезвычайно популярными после того эпизода «злого Bing». Было не так много подобных сообщений о злобных Bing, скрывающихся в тайне, в то время как миллионы людей-работников стали полагаться на ботов для написания кода или отчетов.

Таятся ли злые Bings за послушными и полезными чат-ботами? Хоэль исследует идею о том, что чат-боты кажутся милыми, потому что носят маску:

Но проблема в том, что как только маска надета, она становится очень неясной. Вам нужно как бы перекрыть ее другой маской, чтобы она остановилась. И затем, также, иногда вы надеваете на нее маску : вы даете ей какую-то подсказку типа «Расскажи очень хорошую историю», и в конце концов она зацикливается, и оказывается, что маска, которую вы ей дали, вовсе не является счастливой маской.

Трудно сказать, что скрывается за различными масками, потому что боты были обучены на нашей художественной и документальной литературе. Некоторые боты могут писать мрачные сценарии фильмов. Если боты способны звучать пугающе, то как мы узнаем, следует ли нам бояться или развлекаться?

Мы не знаем, на что способны агенты ИИ, и поскольку они очень сильны, Хоэль призывает нас задуматься об опасностях.

Еще в 2023 году Хоэль утешался мыслью, что только очень крупные компании или богатые правительства будут иметь ресурсы для создания и поддержки систем ИИ. Однако открытие DeepSeek в январе 2025 года перевернуло это с ног на голову. Вероятно, будет широкий спектр инструментов ИИ, и не все они будут управляться мегакорпорациями или правительствами G7.

В последнем выпуске Pro-AI EconTalk Рид Хоффман повторяет то, что я слышал от многих технических специалистов: поскольку ИИ обладает разрушительной силой, США должны продолжать развиваться, а не терпеть паузы или сдерживаться регулированием. Хоффман говорит: «Все эти вещи важны как с точки зрения экономики, так и с точки зрения национальной безопасности. И это одна из причин, по которой я такой сильный сторонник движения вперед и создания прочной позиции». Независимо от того, являются ли наши противники иностранными правительствами или преступными бандами, нам нужно оставаться впереди в гонке вооружений.

Основная заявленная цель Хоэла — повысить осведомленность о проблемах безопасности и продолжить публичные обсуждения. Наблюдатели за ИИ уже несколько недель указывают на то, что самые большие достижения в области технологий в нашей жизни не попадают на первые страницы газет. Вывод о том, что ИИ-репетиторы, по-видимому, существенно повышают уровень обучения детей, остался в значительной степени незамеченным.

Среди многих хаотичных событий этого десятилетия я согласен, что ИИ — это важный объект для наблюдения. Надо отдать ему должное, Хоэль меня напугал. Не могу забыть, что он сказал в конце:

Вещи, которые намного умнее вас, действительно трудно понять и предсказать; и дикая природа по соседству, как бы нам это ни нравилось, мы также построим парковку над ней в мгновение ока, и они никогда не узнают, почему. Они никогда не узнают, почему. Это полностью за пределами их кругозора. Так что, когда вы живете на планете рядом с существами, которые намного умнее вас или кого-либо еще, они являются людьми в этом сценарии. Они могут просто построить парковку над нами, и мы никогда, никогда не узнаем, почему.

Следующие ссылки были отобраны ChatGPT: Вот несколько статей и обсуждений с EconLib.org и AdamSmithWorks.org, в которых рассматриваются различные аспекты искусственного интеллекта (ИИ):

EconLib.org:

1. «Я все больше беспокоюсь об ИИ» (14 марта 2017 г.)
   • Скотт Самнер обсуждает опасения по поводу ИИ, ссылаясь на публикацию Vox, в которой представлены мнения 17 экспертов о рисках, связанных с искусственным интеллектом. econlib.org
2. «Проблема с ИИ — это слово «интеллект»» (июль 2024 г.)
   • Анализ термина «искусственный интеллект», в котором утверждается, что электронные устройства, несмотря на свою полезность, вряд ли когда-либо станут по-настоящему интеллектуальными. econlib.org
3. «Харари и опасность искусственного интеллекта» (28 апреля 2023 г.)
   • Пьер Лемье анализирует аргументы Юваля Ноя Харари об ИИ, предполагая, что ИИ «взломал операционную систему человеческой цивилизации». econlib.org
4. «Неолиберализм на испытании: искусственный интеллект и экзистенциальный риск» (октябрь 2023 г.)
   • Критика статьи в New York Times, в которой обсуждаются экзистенциальные угрозы, создаваемые ИИ, с акцентом на неолиберальные перспективы. econlib.org
5. «Проблема с указом президента об искусственном интеллекте» (18 ноября 2023 г.)
   • Вэнс Джинн критикует указ президента Байдена об ИИ, утверждая, что государственное регулирование может препятствовать инновациям и экономическому росту. econlib.org

AdamSmithWorks.org:

1. «Кэтрин Мангу-Уорд об ИИ: реальность, опасения и оптимизм» (май 2024 г.)
   • Эпизод подкаста, в котором Кэтрин Мангу-Уорд обсуждает реалии, опасения и оптимистичные перспективы в отношении ИИ. adamsmithworks.org
2. «Призвание: лекарство от выгорания» (17 октября 2023 г.)
   • Брент Оррелл и Дэвид Велдран исследуют, как достижения в области искусственного интеллекта могут повлиять на труд человека, ссылаясь на взгляды Адама Смита и Карла Маркса на труд и отчуждение. adamsmithworks.org
3. «Великое противоядие: Брент Оррелл о достоинстве и труде» (декабрь 2023 г.)
   • Брент Оррелл рассуждает о состоянии труда в США, важности смысла и достоинства в работе, а также о том, как эти концепции связаны с экономическим ростом. adamsmithworks.org
4. «Великое противоядие: Дополнительно: Эли Доурадо об энергетическом изобилии» (март 2023 г.)
   • Эли Доурадо рассуждает о потенциале будущего, изобилующего энергией, и роли ИИ в достижении этой цели. adamsmithworks.org
5. «Адам Смит и ужас Франкенштейна» (октябрь 2023 г.)
   • Обсуждение этических аспектов создания искусственной жизни, проведение параллелей между чудовищем Франкенштейна и современными достижениями в области искусственного интеллекта. adamsmithworks.org

Эти ресурсы предлагают широкий спектр точек зрения на ИИ: от этических соображений и экзистенциальных рисков до его влияния на работу и экономические теории.