Исследователи OpenAI предупреждали совет директоров об опасном для человечества открытии – Reuters

Незадолго до увольнения генерального директора Сэма Альтмана несколько исследователей компании OpenAI направили совету директоров письмо, в котором рассказали о мощном открытии, которое потенциально может быть опасным для человечества. Об этом сообщает Reuters со ссылкой на два источника.

По словам источников, это письмо было одним из многих факторов, приведших к увольнению Альтмана. Среди них, в том числе, были опасения относительно коммерциализации разработок до понимания их последствий. Вместе с тем,  Reuters отмечает, что не смогло ознакомиться с копией письма. Сотрудники компании, которые написали его, отказались от комментариев.

ВАС ЗАИНТЕРЕСУЕТ

Сэм Альтман вернется на пост генерального директора OpenAI

В письме исследователи отметили мощь ИИ и опасности, которые он несет. Вместе с тем, какие конкретно угрозы они рассматривали, не сообщается.

Они также рассказали о работе группы «ученых по искусственному интеллекту», существование которой подтвердили многочисленные источники. По словам одного из источников, группа, сформированная путем объединения предыдущих команд Code Gen и Math Gen, изучала, как оптимизировать существующие модели ИИ, чтобы улучшить их рассуждения и, в конечном итоге, научить выполнять научную работу.

Отмечается, что после запроса агентства компания разослала внутреннее письмо, в котором рассказала сотрудникам о проекте Q*, а также о письме, направленном совете директоров. По словам одного из источников, во внутреннем сообщении говорится о том, что в СМИ появится определенная информация, но ее достоверность не комментируется.

Некоторые сотрудники OpenAI считают, что проект Q* (читается как Q-Star, Кью-стар) может стать прорывам в поисках так называемого общего искусственного интеллекта. Под этим понимаются нейросети, которые превосходят людей в большинстве экономически ценных задач.

Один из источников на условиях анонимности сообщил, что созданная модель смогла решить некоторые сложные математические задачи. Пока она решает задачи на уровне младшей школы, но разработчики очень оптимистично настроены по поводу ее будущих успехов.

Исследователи считают, что математика — это передовой рубеж развития генеративного ИИ. Сейчас нейросети умеют хорошо писать и переводить, статистически предсказывать следующее слово и отвечать по-разному на один и тот же вопрос. Но в математике возможен только один правильный ответ, то есть, у ИИ должны появиться способности к размышлению, которые напоминают человеческий интеллект.

И, в отличие от калькулятора, который может выполнять ограниченное количество операций, генеративный искусственный интеллект может обобщать, учиться и понимать.

Совет директоров уволил Альтмана 18 ноября.  После этого сотрудники OpenAI написали письмо, в котором обвинили совет директоров в неправомерном увольнении Альтмана, непредоставлении достаточных доказательств для утверждений о том, что Альтман не был откровенным с советом директоров и «недобросовестных переговорах» с исполнительным руководством компании.

Авторы письма также предупредили, что они вскоре уйдут вслед за Альтманом в Microsoft, если правление не уйдет в отставку и не восстановит Альтмана и Грега Брокмана, бывшего президента OpenAI, также отстраненного с должности.

22 ноября стало известно, что Альтман возвращается на пост гендиректора OpenAI, а состав совета директоров изменился.