Поддержать команду Зеркала
Белорусы на войне
  1. ГУБОПиК пришел в представительство LG в Беларуси. Силовики назвали его «экстремистской суполкой»
  2. Как давно появился белорусский язык и кто его ближайший «родственник»? Отвечаем на главные вопросы о нашем языке
  3. «Все знают, что происходит». Бывшие члены избиркомов рассказали «Зеркалу», как в Беларуси фальсифицируют выборы
  4. «Обещали, что если сдамся, то ограничатся штрафом». Кузьмич опять съездил в Беларусь, узнал об «уголовке» и выехал с большими сложностями
  5. Литва закроет еще два пограничных пункта на границе с Беларусью
  6. Боли «Баварии» и тренерская чехарда. Сыграны первые матчи 1/8 финала футбольной Лиги чемпионов — вот результаты
  7. Хренин рассказал о группировке ВСУ «численностью 112−114 тысяч человек» на границе с Беларусью и пообещал сбивать авиацию НАТО
  8. Силовики отслеживают людей по заказам в «Е-доставке»? Рассказываем, какие данные собирают такие сервисы и можно ли обезопасить себя
  9. «По меньшей мере 60 человек точно уже не вернутся на позиции». ВСУ вновь нанесли удар по полигону с подразделениями армии РФ
  10. Оккупационные власти признались в насильственной депортации и намекнули на казни несогласных украинцев. Главное из сводок
  11. «Если я не соглашусь на тайные похороны, они что-то сделают с телом моего сына». Матери Навального показали тело сына
  12. Почему Лукашенко не может вернуть людей в Беларусь через комиссию по возвращению? Рассуждает Артем Шрайбман
  13. «Ублюдки! Ублюдки! Этого не должно было случиться!» Как власти убили лидера оппозиции, но его жена-домохозяйка стала президентом
  14. «Пристыдил главу ПВТ за бесхребетность». Как складывается жизнь бизнесмена, который одним из первых в IT высказался после выборов 2020-го


Всю последнюю неделю мир высоких технологий сотрясал драматический скандал вокруг компании OpenAI, которая создала чат-бот ChatGPT, положивший начало гонке в области искусственного интеллекта. Русская служба Би-би-си рассказывает, как развивались события и почему происходящее в одной компании заинтересовало людей по всему миру.

Сэм Альтман. Фото: Reuters
Сэм Альтман. Фото: Reuters

В пятницу, 17 ноября, небольшой совет директоров фирмы OpenAI неожиданно уволил ее гендиректора и сооснователя Сэма Альтмана «из-за утраты доверия». Более подробно о причинах не сообщалось.

Но к вечеру вторника Альтман вернулся в кресло главы компании после протеста со стороны более 700 из 770 ее сотрудников, которые письменно пригрозили уйти вслед за ним. Поддержала Альтмана и компания Microsoft — главный инвестор OpenAI.

Большинство уволивших Альтмана членов совета директоров были отстранены. На их места пришли новые люди — технические управленцы и бывший министр финансов США Ларри Саммерс.

Эксперты отмечают, что эти несколько сумбурных дней не только изменили компанию, но и повлияли на индустрию искусственного интеллекта в целом.

Они поставили ребром несколько важных вопросов: о скорости развития ИИ, о балансе коммерческих и гуманистических интересов их разработчиков, а также о том, почему эти мощные передовые технологии сосредоточены в руках такой маленькой группы людей и что будет, если они поссорятся.

«Люди, разрабатывающие „мощный ИИ“, не могут предсказать последствия своих действий на три дня вперед», — так описал ситуацию в Х (бывшем Twitter) профессор квантовой физики из Варшавского университета Анджей Драган.

Альтман как лицо ChatGPT

38-летнего Альтмана — любителя свитеров нейтральных оттенков — считают лицом ИИ-революции, а его имя ассоциируется с феноменальным успехом ChatGPT.

Этот чат-бот, появившийся в интернете в ноябре 2022 года, может убедительно отвечать на вопросы, писать стихи и музыку, создавать компьютерный код и многое другое. В начале ноября Альтман заявлял, что им пользуются около 100 млн человек в неделю.

Юзеры и инвесторы сразу встретили ChatGPT с восторгом, но эксперты и политики во многих странах насторожились, призвав ввести механизмы регулирования ИИ-индустрии.

Альтман и сам многократно выступал с призывом разработать регулирующее законодательство в сфере AI.

«Мы считаем, что преимущества инструментов, которые мы использовали до сих пор, значительно перевешивают риски, но обеспечение их безопасности жизненно важно для нашей работы», — сказал он в мае, выступая в Сенате США.

Специалистов волнует распространение пропаганды и ложной информации, замещение людей на рынке труда и другие риски — вплоть до захвата машинами контроля над цивилизацией.

Особое беспокойство связано с интересом техкомпаний к так называемому «ИИ общего назначения» — форме искусственного интеллекта, которая в теории сможет соответствовать человеческому.

Странная структура OpenAI

Когда Альтман основывал OpenAI вместе с Илоном Маском, компания была некоммерческой, а ее цель заявлялась как «продвижение цифрового интеллекта на пользу всему человечеству», без оглядки на финансовую отдачу.

Но позже выяснилось, что для работы ИИ-систем необходимы гигантские и очень дорогостоящие вычислительные мощности.

Тогда в 2019 году для привлечения инвестиций OpenAI основала коммерческое крыло. С этим были согласны далеко не все в компании: в то время, в частности, ушел Илон Маск.

Главным инвестором в OpenAI стала компания Microsoft, которая вложила миллиарды долларов в обмен на 49% компании.

Чтобы OpenAI оставалась верной своей изначальной гуманистической цели, Альтман организовал в ней необычную корпоративную структуру: небольшой некоммерческий совет директоров следит за работой коммерческого подразделения.

«Совет директоров может меня уволить, мне кажется, это важно», — сказал Альтман изданию Bloomberg в июне.

Как увольняли Альтмана

В результате этот совет директоров действительно уволил его в ходе неожиданного видеозвонка, когда Альтман находился в Лас-Вегасе на гонках «Формулы-1» — как писало издание Wall Street Journal со ссылкой на сотрудников компании.

Совет директоров заявил, что Альтман «не был последовательно откровенен в общении с советом директоров», без дальнейших объяснений.

Никаких ответов директора не предоставили и сотрудникам компании, которые потребовали их в течение выходных на срочно организованном собрании. По данным WSJ, правление отказалось отвечать, сославшись на юридические причины.

Зазвучали предположения, что в центре разногласий — дальнейшая коммерциализация OpenAI, с которой не согласен совет директоров, чья роль — следить за поддержанием гуманистической миссии компании.

Сэм Альтман. Фото: Reuters
Сэм Альтман известен не только достижениями в ИИ, но и своими свитерами непритязательных расцветок. Фото: Reuters

Перед скандалом фирма планировала продать акции сотрудников инвесторам, в результате чего общая стоимость компании должна была составить 86 млрд долларов.

Другие теории были связаны со сторонними проектами Альтмана, основанными на ИИ, а также с вопросами об интеллектуальной собственности компании.

Позднее в послании сотрудникам совет директоров подчеркнул, что увольнение не стало «реакцией на должностное преступление». А ставший новым главой компании (примерно на день) Эммет Шир заявил, что уход Альтмана не был связан и с «какими-либо конкретными разногласиями по вопросам безопасности».

Таким образом Шир косвенно опроверг слухи, что Альтман пытался использовать наработки OpenAI в личных целях.

Опасения о «сильном ИИ»

В четверг Reuters сообщил со ссылкой на двух не назвавшихся сотрудников компании, что незадолго до увольнения Альтмана группа разработчиков OpenAI выражала обеспокоенность в связи с возможным прорывом в области создания сверхмощного ИИ.

По данным агентства, разработчики написали письмо совету директоров, в котором говорили об опасности пока не появившихся систем AGI — «ИИ общего назначения». Они должны самостоятельно взаимодействовать с внешним миром и могут быть способны лучше людей решать большинство коммерческих задач.

По словам сотрудников, у них были основания полагать, что компания работает над некой системой Q*, которая при наличии нужных вычислительных ресурсов уже решала определенные математические задачи. Хотя эти задачи были не слишком сложны (их взяли из курса начальной школы), в компании считали, что потенциал этой системы очень велик.

В случае успеха OpenAI могла бы еще больше приблизиться к созданию системы, которую можно сопоставить с человеческим разумом.

Сам Альтман, выступая на Форуме Азиатско-Тихоокеанского экономического сотрудничества на прошлой неделе, намекнул на новые выдающиеся достижения своей компании.

«Четыре раза за всю историю OpenAI, причем последний раз — в течение последних недель, я своими глазами видел, как мы словно бы отодвигаем завесу невежества и проводим новые границы открытий. Получить такую возможность — это самая большая честь в жизни с профессиональной точки зрения», — сказал Альтман.

По словам сотрудников, поговоривших с Reuters, это письмо стало еще одним из многочисленных поводов для недовольства Альтманом со стороны совета директоров. Сама компания не комментировала это сообщение.

На момент увольнения Альтмана совет директоров OpenAI состоял всего из шести человек.

Один из них, главный научный сотрудник и сооснователь компании Илья Суцкевер, уже в понедельник выразил сожаление об увольнении Альтмана и подписал призыв к его возвращению вместе с сотнями сотрудников компании.

Однако в результате Суцкевер оказался в числе членов совета директоров, потерявших свои места. Его позиция как научного сотрудника, похоже, осталась прежней.

Как развивался скандал

  • Увольнение Альтмана сразу же вызвало гневную реакцию среди сотрудников и инвесторов. Уже в следующие после этого выходные появились предположения, что он может вернуться.
  • Но совет директоров OpenAI заявил сотрудникам, что «твердо стоит на своем решении, которое является единственным путем продвижения и защиты миссии OpenAI».
  • В понедельник глава Microsoft Сатья Наделла написал в сети X (бывший Twitter), что Альтман и Грег Брокман (еще один соучредитель) перешли к нему и теперь возглавляют некую «новую передовую исследовательскую группу по искусственному интеллекту» в Microsoft.
  • Новым главой OpenAI тем временем назначили Эммета Шира — экс-руководителя стриминговой платформы Twitch.
  • У себя в X Шир назвал назначение «возможностью, которая выпадает раз в жизни», но отметил, что увольнение Альтмана было осуществлено «очень плохо».
  • В тот же день почти все 770 сотрудников OpenAI подписали письмо с угрозами уйти, если члены совета директоров, уволившие Альтмана, не восстановят его на посту.
  • Во вторник, 21 ноября, Альтман вернулся на свою старую работу, а состав совета директоров поменялся.
  • В совет пока вошли глава компьютерного гиганта SalesForce Брет Тейлор, бывший министр финансов США Ларри Саммерс, а также интернет-предприниматель Адам Д’Анжело, основатель сервиса вопросов и ответов Quora. Д’Анжело — единственный из прежнего состава совета директоров OpenAi, кто сохранил в нем свое место.
  • Ожидается, что совет директоров расширится до девяти человек и в него войдет представитель Microsoft.