Сэм Альтман (Sam Altman) и Грег Брокман (Greg Brockman), генеральный директор и президент OpenAI, производителя ChatGPT, соответственно, недавно посетили X.com, чтобы публично обсудить недавний уход Яна Лейке (Jan Leike), скорее всего, уже бывшего главного специалиста по безопасности компании.
Как мы уже недавно сообщали, Лейке был руководителем команды Superalignment. Он подал в отставку 17 мая, сославшись на непримиримые разногласия с руководством компании.

Среди обвинений Лейке было утверждение, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами» компании OpenAI.
Брокману и Альтману не потребовалось много времени, дабы дать ответ на эти нападки со стороны Лейке: оба в течение 24 часов обратились на X.com после сообщения Лейке, чтобы ответить.
Что касается Брокмана, то он изложил длинный и запутанный пост, изобилующий трёхсторонней стратегией обеспечения безопасности в компании.
Он начал с выражения благодарности Лейке за работу в компании, а затем оспорил утверждения о том, что OpenAI не ориентирован на безопасность.
We’re really grateful to Jan for everything he's done for OpenAI, and we know he'll continue to contribute to the mission from outside. In light of the questions his departure has raised, we wanted to explain a bit about how we think about our overall strategy.
First, we have… https://t.co/djlcqEiLLN
— Greg Brockman (@gdb) May 18, 2024
«Во-первых, мы повысили осведомленность о рисках и возможностях AGI», — написал Брокман, отметив, что компания «призвала к международному управлению AGI ещё до того, как такие призывы стали популярными».
«Во-вторых, мы закладываем основы, необходимые для безопасного развертывания все более эффективных систем. Выяснить, как впервые сделать новую технологию безопасной, непросто.»
Заключительным пунктом лекции Брокмана было упоминание о том, что «будущее будет сложнее, чем прошлое. Нам необходимо продолжать совершенствовать нашу работу по обеспечению безопасности, чтобы соответствовать требованиям каждой новой модели».
Далее он намекнул, что компания не следует главному технологическому рецепту — двигаться быстро и ломать вещи.
«Поскольку мы движемся в этом направлении, мы еще не уверены, когда достигнем нашей планки безопасности для релизов, и ничего страшного, если это сдвинет сроки релиза», — отметил он.
Сэм Альтман, соучредитель и генеральный директор, был краток, но упомянул, что в ближайшие дни ему будет что сказать по этой теме:
«Он прав», — написал Альтман.
Альтман опубликовал сообщение, ссылаясь на комментарии Лейке, добавив:
«Нам предстоит ещё многое сделать; мы полны решимости это сделать.»