Второй ключевой руководитель OpenAI уволился всего через 72 часа, нарисовав не очень лестную картину того, что сегодня, бесспорно, является одним из самых стратегически важных предприятий в мире.

А именно, Ян Лейке, руководитель отдела согласования OpenAI, вчера завершил свой последний день в некоммерческой организации. Для тех, кто, возможно, не знает: согласование — это важнейший процесс, посредством которого человеческие ценности кодируются в Модель Большого Языка (LLM). Это также позволяет LLM следовать установленным политикам и рекомендациям. Судя по всему, вся команда по согласованию OpenAI сейчас расформирована .

Рассказывая о своем пути в некоммерческой организации, Лейке отметил, что OpenAI не инвестирует соответствующие ресурсы для обеспечения безопасности и конкурентоспособности LLM. Бывший руководитель также считает, что некоммерческая организация не учитывает более широкие социальные последствия попыток создания машин, «умнее, чем человек», и что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами».

В своем поразительном заявлении Лейке отмечает, что его команде часто было трудно получить необходимые вычислительные ресурсы в OpenAI:

«Последние несколько месяцев моя команда плыла против ветра. Иногда у нас были проблемы с вычислительными ресурсами, и проводить это важное исследование становилось все труднее и труднее».

Конечно, как говорилось ранее, Лейке — второй ключевой руководитель, покинувший OpenAI за последние 72 часа. Как мы отмечали в отдельном посте, главный научный сотрудник некоммерческой организации Илья Суцкевер 14 мая обнародовал свое решение уйти, чтобы работать над «лично значимым» проектом.

Имейте в виду, что Суцкевер сыграл ключевую роль в перевороте в ноябре 2023 года против генерального директора OpenAI Сэма Альтмана, который был уволен советом директоров за его все более меркантильные наклонности и склонность продвигать достижения, связанные с искусственным интеллектом, без надлежащих гарантий. Официально совет назвал отсутствие откровенности в своих сообщениях Альтманом причиной войны. Однако это решение спровоцировало настоящий бунт в OpenAI, когда сотрудники массово подали заявления об увольнении. В конце концов, Альтман смог вернуться на свой пост генерального директора после того, как вынудил совет директоров, поддерживающий переворот, уйти в отставку.