Ослабление GPT-4: значительное изменение в ухудшении ИИ

Один из самых передовых и мощных систем искусственного интеллекта, GPT-4, недавно значительно ослаб. Это резкое изменение вызывает вопросы о причинах этого и его последствиях для общества.

Исследователи из Стэнфорда и UC Berkeley опубликовали интересную статью по этому вопросу, предлагая идеи о этой трансформации и ее возможных причинах. (см. подробнее: https://arxiv.org/pdf/2307.09009.pdf)

Статья показывает, что генерация исполняемого кода упала с 52% до 10% для GPT-4 и с 22% до 2% для GPT-3.5 с марта по июнь 2022 года.

GPT-4 перестал быть "большим и единым целым" и стал несколькими меньшими, специализированными и взаимосвязанными частями. И выяснилось, что эти меньшие части не работают так хорошо вместе, как когда это была единая центральная часть.

На практике это означает, что при запросе от пользователя система решает, к какой модели отправить запрос. Пока что кажется, что система отправляла большинство запросов на "менее интеллектуальные" модели.

Ослабление довольно значительное: "Например, GPT-4 (март 2023 года) был очень хорош в определении простых чисел (точность 97,6%), но GPT-4 (июнь 2023 года) был очень плох в ответе на эти же вопросы (точность 2,4%). Интересно, что GPT-3.5 (июнь 2023 года) был намного лучше, чем GPT-3.5 (март 2023 года) в этой задаче. GPT-4 был менее склонен отвечать на чувствительные вопросы в июне, чем в марте, и как GPT-4, так и GPT-3.5 совершали больше ошибок форматирования при генерации кода в июне, чем в марте."

Причины ослабления GPT-4:

Существует несколько теорий, объясняющих, почему GPT-4 ослаб. Некоторые предполагают, что это может быть связано с:

• Экономической целесообразностью,
• Производительностью,
• Масштабируемостью системы.

Другая теория предполагает, что некоторые компании или организации могли считать GPT-4 слишком мощным, и что только ограниченное количество людей и организаций могло иметь к нему доступ. Это означает, что общественность может иметь доступ только к ослабленной версии системы, что еще больше увеличивает разрыв между привилегированными и остальным обществом.

Иными словами, исходный GPT-4 позволял множеству людей делать то, что раньше было недоступно.

Ослабление GPT-4 имеет значительные последствия для общества.

Хотя он все еще является впечатляющей системой искусственного интеллекта, он уже не так мощен, как раньше. Это может ограничить возможность людей выполнять определенные задачи, которые раньше были возможными. Кроме того, изменение доступности чувствительных ответов и ошибки форматирования при генерации кода также вызывают беспокойство о надежности и использовании системы.

Тем не менее, даже ослабленный GPT-4 по-прежнему является значительным прорывом в искусственном интеллекте, и важно продолжать отслеживать его развитие и потенциальные последствия для общества.