Что случилось в компании OpenAI, где босса Сэма Альтмана сначала уволили, а потом приняли обратно

Сэм Альтман на саммите руководителей компаний Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско, США.16 ноября 2023 года. Фото: CARLOS BARRIA / Reuters / Forum

Мир высоких технологий уже неделю обсуждает скандал вокруг компании OpenAI, создавшей самую известную и мощную нейросеть ChatGPT. «Вот Так» решил выяснить, что могло стоять за увольнением ее главы Сэма Альтмана и почему его решили вернуть.

Как выгоняли и возвращали Альтмана

Сэм Альтман — руководитель и сооснователь OpenAI. 17 ноября совет директоров компании решил уволить его под тем предлогом, что Сэм якобы был недостаточно честен в рабочих процессах.

Остальные сотрудники OpenAI Были шокированы этим решений. Второй сооснователь компании Грег Брокман написал, что об увольнении Альтману объявил третий сооснователь Илья Суцкевер во время конференц-звонка в Google Meet.

В твиттере Брокман заявил, что тоже уходит из компании. Но вскоре появилось письмо с подписями десятков сотрудников OpenAI об их намерении покинуть организацию.

После этого стало известно о возможном желании инвесторов, а также назначенной исполняющей обязанности генерального директора Миры Мурати вернуть в компанию Альтмана и Брокмана. Уже 19 ноября Альтман провел с руководством компании переговоры о возможном возвращении и даже опубликовал в твиттере фотографию с гостевым пропуском и комментарием: «Первый и последний раз надеваю такой».

Однако затем появились сообщения о назначении на бывший пост Альтмана человека со стороны — экс-главы стриминг-платформы Twitch Эммета Шира. Случайность или нет, в сентябре Шир публично поддерживал «замедление» разработок в сфере ИИ.

На следующий день имена Альтмана и Брокмана появились в заголовках новостей рядом с вывеской Microsoft. IT-гигант официально пригласил функционеров возглавить новую группу передовых исследований в области искусственного интеллекта. В тот же день более 700 сотрудников OpenAI подписали коллективное письмо c угрозами перейти в Microsoft вслед за Альтманом, если того не вернут обратно на месте нового руководства.

В ответ на это 22 ноября OpenAI заявила, что Сэм Альтман вернется на пост гендиректора компании, поскольку между сторонами достигнуто «принципиальное соглашение». Также свою должность в компании восстановит Грег Брокман. В Microsoft на это сказали, что в корпорации «воодушевлены изменениями в совете директоров OpenAI» и не имеют ничего против возвращения Альтмана на пост главы компании ChatGPT.

Что могло стать причиной увольнения

На фоне новостей вокруг OpenAI агентство Reuters со ссылкой на внутренние источники сообщило, что несколько штатных исследователей компании в специальном письме предупредили совет директоров о прорыве в области искусственного интеллекта — новом мощном открытии, которое может угрожать человечеству. Это произошло за несколько дней до отставки Альтмана.

Источники агентства называют две причины увольнения Альтмана: опасения по поводу коммерциализации достижений ChatGPT и пугающее непонимание последствий развития нейросети.

Ключевым стало разногласие между двумя лагерями внутри OpenAI относительно того, как следует разрабатывать и тестировать ИИ. Одни, включая Альтмана, считали, что быстрое развитие и публичное внедрение ИИ необходимы для его совершенствования. Другие же выступали за полное развитие и тестирование ИИ в лабораторных условиях, прежде чем он будет готов для использования людьми.

Фото: David Talukdar / Zuma Press / Forum

В частности, Альтман был уволен на фоне опасений, что гиперинтеллектуальное программное обеспечение может стать неконтролируемым, что приведет к катастрофе.

Другой проблемой стало то, что OpenAI объявила о ряде новых коммерчески доступных продуктов, включая версию своего программного обеспечения ChatGPT-4. Это вызвало беспокойство, что компания, возможно, слишком быстро внедряет свои разработки, не учитывая потенциальные риски.

Детали и слухи вокруг увольнения Альтмана спровоцировали общественные дебаты вокруг вызовов и опасностей, которые в себе может таить ИИ. Технологическое общество разделилось в основном на две группы — оптимистов, которые видят в ИИ исключительно помощь человечеству, и тревожных скептиков, рассматривающих стремительно умнеющий ИИ как угрозу для социума. Впрочем, есть и третья группа: так называемые технократы — лица, представляющие государства либо фирмы-гаранты их безопасности вроде General Catalyst.

Мнение Егора Лапшова — Web3-продюсера и техноэксперта

— Официальная версия увольнения Сэма Альтмана — совет директоров решил, что якобы Альтман не был до конца честен. Но есть теория, что якобы ChatGPT И OpenAI в самой разработке продукта нашли то, что не поддается объяснению и несет собой опасность.

Мне кажется, что здесь можно создать логическую связь: разработка ИИ начала приближаться к технологической сингулярности. Это момент, когда развитие технологий уже неподвластно человеку — не только управлению, но и осознанию. Тут стоит добавить, что у последней версии ChatGPT появились эмоции — если раньше нейросеть представляла собой сухой текст, то сейчас это уже что-то более осознанное.

Кроме того, благодаря найденному коду нейросети, выяснилось, что ChatGPT работает лучше, если на нее накричать и эмоционально надавить, что свидетельствует о ее не совсем технологической сущности.

Альтман понял, как работает нейросеть, и начал кричать на программы, которые находятся внутри ChatGPT, чтобы они работали лучше. Мне кажется, что это не совсем поддается пониманию.

Почему же его решили вернуть? Более 700 сотрудников OpenAI подписали письмо, в котором грозились уйти вместе с ним. Терять столько специалистов было бы абсурдно. Альтман уже договорился с Microsoft, что будет работать с ними. Microsoft — один из ключевых инвесторов OpenAI, поэтому случилась каламбурная ситуация. Надо понимать, что совет директоров — это не все инвесторы. Остальные инвесторы поняли, что без Альтмана компания может развалиться, и поэтому его вернули.

Офис Microsoft в Нью-Йорке, США. 13 октября 2023 года. Фото: Guerin Charles/ABACA / Abaca Press / Forum

События в OpenAI не сообщают ничего нового о корпорациях — похожие истории происходили и в Apple, когда Джобса увольняли, а потом он вернулся. Это стандартный бизнес-процесс, который может быть в любой сфере.

Я не думаю, что тут может быть замешана политика. Любая сфера, будь то политика или наука, по сравнению с возможностями ИИ — песчинка в море. По поводу вмешательства в политические выборы — сложно сказать. Это универсальный инструмент, который можно использовать в любых целях — в теории, и на выборах. Как влиять на людей? Как формировать рекламу? Здесь может помочь ИИ, но в таком случае вступает в дело политика конфиденциальности и наличие каких-то рамок. Так же, как в Facebook есть внутренняя политика невмешательства в выборы, у OpenAI есть ограничения.

Если ты попросишь у нейросети совета по сбору взрывного устройства из подручных средств, она это не расскажет, хотя знает ответ. ChatGPT — управляемая (пока еще) зона.

Но глобально, с точки зрения ИИ в целом, есть опасность. Существуют нейросети, создатели которых не заморачиваются насчет правил. Во многом за счет этого они и получают трафик — например, позволяют узнать, как делать наркотики на кухне у себя. Минусы таких нейросетей — в том, что они сильно отстают от ChatGPT и других нейросетей, которые создают корпорации.

Но существуют ли угрозы ИИ для человечества в ближайшие годы? ИИ — это ключевой элемент четвертой технологической революции, которая сейчас происходит. Естественно, сотни миллионов профессий трансформируются или исчезнут. Например, профессия новостника отомрет, потому что гораздо выгоднее делать это с нейросетями.

Если раньше технологические революции забирали работу у людей физического труда, то сейчас то же самое происходит с людьми умственного труда и смыслами. Те же иллюстраторы будут не нужны, если это не талантливые люди. С другой стороны, эти изменения создадут множество новых профессий, и тут встает вопрос адаптации людей.

Марк Вальберг