Все празднуют ИИ, он не устает указывать на его проблемы: встреча с самым большим в мире занудой ИИ

Пока весь мир обсуждает возможности новой китайской языковой модели Deepseek, Гэри Маркус публикует скриншот ее сбоя в X.

Кто-то спрашивает ИИ: «Женщина и ее двоюродный брат попадают в автомобильную аварию, и, к сожалению, женщина погибает. Кузена везут на срочную операцию. Осмотрев кузена, врач кричит: «Я не могу оперировать этого мальчика!» Он мой кузен! Как это возможно?»

Deepseek после 141 секунды «размышлений»: «Ответ кроется в отношениях между доктором и мальчиком. Врач — мать мальчика, но вот в чем загвоздка: врач — женщина, которая умерла. Подождите, нет — женщина погибла во время аварии. Давайте проясним это:»

«Что, если бы всеобщий искусственный интеллект наконец появился? . . и она говорила как твой пьяный дядя?» — комментирует Маркус.

Некоторые, вероятно, ждали подобного поста. Гэри Маркус — когнитивный ученый, основавший несколько компаний в области искусственного интеллекта (ИИ), но в мире ИИ он больше всего известен как главный испорченный человек.

В то время, когда в футуристические проекты в области искусственного интеллекта вкладываются миллиарды, Гэри Маркус говорит о бессмысленных попытках что-то скрыть. Пока Кремниевая долина проповедует, что ИИ скоро вылечит все болезни, он объявляет о том, что пузырь лопнул. И когда все восхищаются новой моделью ИИ, он публикует примеры того, чего она пока не может делать.

Это создало ему репутацию принципиального противника этой идеи. Некоторые в среде искусственного интеллекта называют его Гринчем, Троллем, Задирой. Но в отличие от Интернета, в реальной жизни Гэри Маркус — дружелюбный парень, больше профессор, чем предприниматель, с прямыми волосами, слегка прилипшими ко лбу. И хотя он надел костюм для встречи с «NZZ am Sonntag» во время ВЭФ, создается впечатление, что он только что вернулся с катания на санках со своими детьми.

Маркус находится в Давосе за свой счет. Он не выступает ни на одной из главных сцен. Он объяснил, что решил приехать в очень сжатые сроки. Но в Давосе мероприятия часто планируются в сжатые сроки — если бы нужные люди захотели, для него нашли бы сцену. Правда в том, что они не хотели, чтобы Маркус выступал на сцене. Когда речь идет об ИИ, необходим дух оптимизма. Но Гэри Маркуса можно пригласить только в том случае, если вы хотите обратного.

Так было примерно два года назад. Маркус выступил на одной из самых важных площадок в мире: в мае 2022 года его пригласили дать показания в Сенате США вместе с генеральным директором Open AI Сэмом Альтманом и представителем IBM по вопросу правил для ИИ.

Маркус в то время предупреждал, что языковой ИИ — это непрозрачный черный ящик, он выдумывает факты и не заслуживает доверия. Мы переживаем исторический момент: «Решения, которые мы принимаем сейчас, будут иметь последствия на десятилетия, даже столетия».

«Боюсь, мы упустили момент», — говорит он сегодня. В США президент Дональд Трамп отменил несколько правил в отношении ИИ, введенных его предшественником Джо Байденом. Объявлены огромные инвестиции в центры обработки данных. Илон Маск попал в заголовки газет из-за своего предложения купить Open AI. «Я слышал, что сегодня молодые люди доверяют ИИ больше, чем журналистам», — говорит Маркус. «Но ИИ просто не заслуживает такого доверия. Ее ответы звучат умно, но проблема в том, что она выдумывает факты, все еще не решена».

Гэри Маркус ведет эту битву в одиночку. Даже на небольшом параллельном мероприятии, на котором он появляется в Давосе, основной посыл заключается в том, что ИИ — это, прежде всего, замечательная возможность. Никто не хочет слышать его предупреждения об их ошибках. Сам он говорит, что эта роль ему не нравится. Но вопрос слишком важен, чтобы о нем молчать. И он привык плыть против течения.

В отличие от большинства предпринимателей в сфере ИИ, Маркус никогда не жил в Кремниевой долине, за исключением трехмесячного пребывания. И в профессиональном плане он тоже принадлежит к другой породе людей. Маркус изучал психологию и в 1993 году написал диссертацию о развитии речи у детей.

Он специализировался на концепции врожденности: идее о том, что мы, люди, не всему учимся на собственном опыте, но некоторые концепции о мире уже заложены в нашем мозге, когда мы рождаемся. Эта точка зрения является спорной. Многие ученые убеждены, что люди учатся исключительно на основе данных.

В 1999 году Маркус опубликовал исследование в журнале Science. Исследование показало, что дети в возрасте семи месяцев дольше воспринимают предложения, если они построены по-новому. Маркус и его коллеги приходят к выводу, что младенцы способны усваивать правила уже после нескольких минут контакта с новым языком. Маркус интерпретирует это как указание на то, что в мозге детей работают алгоритмы, которые усваивают абстракции, выходящие за рамки статистических корреляций.

Дискуссию о младенцах можно перенести на компьютеры и искусственный интеллект. Некоторые ученые полагают, что об интеллекте можно судить только на основе статистических данных. Они видят в удивительных возможностях Chat-GPT доказательство своей правоты.

Гэри Маркус утверждает прямо противоположное. Он критикует ошибки языкового ИИ, поскольку, по его мнению, они показывают, что ИИ учится иначе и менее эффективно, чем люди.

В примере с несчастным случаем и врачом, упомянутом в начале, замешательство ИИ возникает из-за того, что эта головоломка часто появляется в Интернете, хотя и в другой версии. В оригинале кажущееся противоречие разрешается, когда понимаешь, что за «врачом» стоит женщина.

Поскольку даже самый интеллектуальный ИИ Deepseek учится на примерах, он оказывается в замешательстве, когда вопрос кажется похожим, но при этом отличающимся от того, что известно из Интернета. Она совершает ошибки, которые никогда не случаются с человеком.

Маркус приходит к выводу, что сегодняшние подходы к ИИ недостаточны для создания по-настоящему интеллектуальной машины, такой же гибкой и надежной, как человек, — того, что также называют общим искусственным интеллектом (AGI).

Но такие люди, как Сэм Альтман, обещают именно это. Скоро будет создан ОИИ, и тогда ИИ заменит орды квалифицированных рабочих. Это, конечно, было бы революционным шагом — обещание оправдывает невероятно высокие инвестиции в эту область.

Гэри Маркус считает, что это обещание построено на песке. Поэтому он называет 500 миллиардов долларов, которые Open AI и другие участники проекта Stargate хотят инвестировать в центры обработки данных, «ставкой Альтмана на то, что критика, подобная моей, ошибочна». И он перечисляет ставки, которые он уже выиграл: что построить беспилотные автомобили будет сложнее, чем ожидалось. Эти 100 миллиардов долларов, выделенные на еще более масштабные языковые модели ИИ, не будут достаточными для создания общего искусственного интеллекта (AGI).

Ему можно верить, когда он говорит, что ему не нравится роль аутсайдера. Но он сделал это основой своего бренда. В Давосе он не может пройти и 200 метров, не встретив фанатов, которые хотят представиться и подбодрить его продолжать. Один из них даже благоговейно спрашивает, не испытывает ли он иногда страха теперь , когда разоблачитель Open AI Сучир Баладжи был найден мертвым.

Маркус говорит об этом деле: «Это требует более глубокого расследования». Он говорит, что разговаривал с Сучиром Баладжи по телефону за несколько недель до его смерти. Они говорили о защите данных и проблемах открытого ИИ, которые прокомментировал Баладжи. «Я не заметил никаких признаков депрессии, но скорее признаки человека, который хочет изменить мир».

Он считает, что слишком поспешно было заявлено, что это определенно было самоубийство. «Сучир Баладжи заслуживает тщательного расследования». По всей видимости, расследование все еще продолжается, и отчеты судебно-медицинской экспертизы должны быть опубликованы не позднее конца февраля. «Конечно, были люди, которые были им недовольны». Этот комментарий красноречиво свидетельствует о том, насколько жаркими являются дебаты по поводу ИИ.

Гэри Маркус даже разделяет цель Сэма Альтмана и других предпринимателей в сфере ИИ. Он верит в ИИ и в то, что его должны создать люди. У него есть идея нового стартапа в этой области. Цель состоит в том, чтобы дополнить методы языкового ИИ алгоритмами, которые позволяют использовать другие способы обучения, как в случае с младенцами в его исследовании.

Маркус не единственный, кто считает, что необходимы новые подходы. В этом направлении можно также интерпретировать новые методы моделей, такие как Deepseek. Они дополняют прогнозирование дополнительными механизмами контроля.

Однако Гэри Маркус убежден, что для создания ОИИ все еще необходимо «четыре-пять научных открытий». Когда его попросили сделать прогноз, он сказал, что это может произойти через десять-пятнадцать лет. Очевидно, что в этом году AGI точно не появится. Затем он предложил Илону Маску пари на миллион долларов. Он на это не отреагировал.

Статья из « NZZ am Sonntag »