OpenAI анонсировала начало обучения своей новейшей ИИ-модели, которая обещает стать важным шагом на пути к разработке общего искусственного интеллекта (AGI). Компания также учредила новый комитет по безопасности и защите, предназначенный для принятия ключевых решений по проектам OpenAI.

Согласно сообщению в блоге OpenAI, новая модель поможет компании значительно продвинуться в направлении AGI. В посте подчеркивается, что OpenAI стремится к активному обсуждению вопросов безопасности использования ИИ-систем.

В целях обеспечения безопасности и защиты, OpenAI создала специальный комитет. В его состав вошли генеральный директор Сэм Альтман, члены совета директоров Брет Тейлор, Адам Д'Анджело и Николь Селигман, а также главный научный сотрудник Якуб Пахоцки и глава службы безопасности Мэтт Найт. Комитет также планирует привлекать внешних экспертов по безопасности для консультаций.

«Первой задачей комитета станет оценка и развитие текущих мер безопасности OpenAI. На выполнение этой задачи отводится 90 дней, после чего комитет представит свои рекомендации совету директоров. После проверки рекомендаций, OpenAI публично поделится обновлённой информацией», — говорится в сообщении.

В начале мая OpenAI распустила команду по устранению долгосрочных рисков ИИ (известную как «команда superalignment»), которой руководил Ян Лейке. Лейке отметил, что культура безопасности в компании отошла на второй план по сравнению с разработкой инновационных продуктов.