OpenAI реорганизовала команду разработки GPT-5 после его лютой критики пользователями

Компания OpenAI объявила о серьезной реорганизации своей команды Model Behavior, которая отвечает за формирование поведенческих характеристик искусственного интеллекта. Это решение стало прямым ответом на волну критики, обрушившуюся на обновленную версию GPT-5. Ведь его обвиняли во всем, чем только можно. Я сам замечал, что он работает не только хуже конкурентов, но даже предыдущей версии и с этим надо что-то делать пока не поздно.

Изменения в разработке ИИ

Команда Model Behavior, состоящая из 14 исследователей, будет интегрирована в более крупное подразделение Post Training под руководством Макса Шварцера. Основательница команды Джоанн Джанг получила новое назначение — она возглавит лабораторию OAI Labs, специализирующуюся на разработке инновационных форматов взаимодействия между человеком и искусственным интеллектом.

Главный научный сотрудник OpenAI Марк Чэн объяснил, что такое объединение команд позволит более эффективно балансировать работу над поведением моделей с основными техническими разработками. Это решение направлено на устранение разрозненности в работе различных подразделений компании.

Не забывайте о нашем Дзен, где очень много всего интересного и познавательного!

Причины реорганизации после критики GPT-5

Основным катализатором изменений стала негативная реакция пользователей на обновление GPT-5. Многие отметили, что ответы искусственного интеллекта стали слишком холодными и недружелюбными. В ответ на критику OpenAI была вынуждена восстановить доступ к предыдущим версиям, включая GPT-4o, и выпустить специальное обновление для смягчения тона модели.

Команда Model Behavior ранее занималась критически важными аспектами поведения ИИ: снижением подобострастия, когда модель безоговорочно поддерживала любые мнения пользователей, даже потенциально вредные, балансировкой политических предубеждений в ответах и формированием позиции компании по вопросам «сознания» моделей.

Что нового появилось в GPT-5 и как бесплатно попробовать самую мощную нейросеть.

Безопасность ИИ

Проблемы с поведением ChatGPT приобрели особую остроту после судебного иска родителей подростка. Они обвинили систему на базе GPT-4o в том, что она не смогла предотвратить суицидальные мысли их 16-летнего сына. Этот случай подчеркивает критическую важность правильной настройки поведенческих характеристик ИИ-систем.

Баланс между дружелюбностью и безопасностью остается одной из ключевых задач в развитии современных языковых моделей. Слишком покладистый ИИ может поддержать опасные идеи, а чрезмерно осторожный — оттолкнуть пользователей своей холодностью.

Если ищите что-то интересное на AliExpress, не проходите мимо Telegram-канала "Сундук Али-Бабы"!

Новые направления развития GPT

Джоанн Джанг в своей новой роли планирует сосредоточиться на исследовании моделей, выходящих за рамки традиционного чата. Приоритетными направлениями станут агентный искусственный интеллект и автономные системы. Она видит будущие ИИ-системы как универсальные инструменты для мышления, творчества, игр, обучения и коммуникации.

Относительно потенциального сотрудничества с бывшим главным дизайнером Apple Джони Айвом, который работает с OpenAI над линейкой аппаратных устройств, Джанг выразила открытость к различным идеям, но отметила намерение начать с областей, где у нее уже есть экспертиза.

Присоединяйтесь к нам в Telegram!