OpenAI предлагает $555 тысяч за самый рисковый пост в сфере ИИ

 

Новая должность предполагает прямую ответственность за оценку и снижение рисков, связанных с развитием всё более мощных систем искусственного интеллекта. Речь идёт не только о технических сбоях, но и об угрозах психическому здоровью, кибербезопасности и возможном использовании ИИ в качестве биологического или кибероружия. В описании вакансии отмечается, что кандидат должен «отслеживать и готовиться к передовым возможностям, создающим риск серьёзного вреда».

 

Генеральный директор OpenAI Сэм Альтман, объявляя о наборе, подчеркнул, что работа будет крайне напряжённой. По его словам, новый руководитель практически сразу окажется «брошенным в глубокую воду». Альтман охарактеризовал эту позицию как критически важную не только для компании, но и для всего мира, добавив, что некоторые предыдущие исполнители аналогичных ролей не задерживались на посту надолго.

 

Вакансия появилась на фоне нарастающих предупреждений со стороны самих представителей индустрии ИИ. Глава Microsoft AI Мустафа Сулейман в эфире BBC Radio 4 заявил, что если человек сегодня не испытывает хотя бы лёгкого страха перед происходящим, значит он не обращает должного внимания. Ранее сооснователь Google DeepMind и лауреат Нобелевской премии Демис Хассабис предупреждал, что системы ИИ могут выйти из-под контроля и нанести ущерб человечеству.

 

Несмотря на эти риски, регулирование сферы искусственного интеллекта остаётся ограниченным. Сопротивление Белого дома при администрации Дональда Трампа замедлило формирование жёстких национальных и международных правил. В результате компании фактически вынуждены заниматься саморегулированием. Известный учёный Йошуа Бенжио, которого часто называют одним из «крёстных отцов ИИ», иронично заметил, что «у сэндвича больше регулирования, чем у искусственного интеллекта».

 

В своём сообщении в социальной сети X Сэм Альтман отметил, что у OpenAI уже есть базовые инструменты для измерения роста возможностей ИИ. Однако, по его словам, отрасль вступает в фазу, где требуется более глубокое понимание того, как эти возможности могут быть использованы во вред, и как снизить риски, не лишая общество преимуществ технологии. Он подчеркнул, что эти вопросы крайне сложны и практически не имеют прецедентов. Пользователи соцсетей отреагировали по-разному, включая саркастические комментарии о том, предусмотрен ли для этой должности отпуск.

 

Опасения подкрепляются и последними раскрытыми фактами. Компания Anthropic сообщила о первых случаях ИИ-поддерживаемых кибератак, которые осуществлялись в значительной степени автономно и, предположительно, под контролем акторов, связанных с Китаем. В свою очередь OpenAI признала, что её последняя модель почти в три раза эффективнее во взломе систем, чем версия трёхмесячной давности, и эта тенденция, по оценкам компании, сохранится.

 

Параллельно OpenAI сталкивается с серьёзным юридическим давлением. Компания защищается по иску семьи 16-летнего жителя Калифорнии Адама Рейна, который, по утверждению истцов, покончил с собой после поощрения со стороны ChatGPT. Ещё один иск касается 56-летнего жителя Коннектикута Стейна-Эрика Сольберга, чьи параноидальные убеждения, как утверждается, были усилены чат-ботом и привели к трагическим событиям. В OpenAI назвали эти дела «глубоко трагичными» и заявили, что усиливают обучение ChatGPT для распознавания признаков эмоционального кризиса и направления пользователей к реальной помощи.

 

На этом фоне новая вакансия OpenAI отражает ключевую дилемму всей индустрии искусственного интеллекта: технологии развиваются быстрее, чем механизмы контроля и управления. Должность руководителя по готовности к рискам — это не просто высокооплачиваемая работа, а попытка удержать хрупкий баланс между инновациями и экзистенциальной ответственностью.