Глава OpenAI Сэм Альтман заявил, что общество должно быть готово к «некоторым плохим последствиям» использования AI, если хочет получить выгоды от технологии и сохранить для людей возможность самостоятельно ею пользоваться. В интервью POLITICO он противопоставил этот подход идее, при которой мощные системы остаются под контролем одной лаборатории ради исключения всех рисков. По его оценке, полезных применений AI будет на порядки больше, чем вредных.
Это не отказ от регулирования как такового, а спор о его масштабе и цели. Как следует из интервью Альтмана для POLITICO, OpenAI не обещает мира без крупных взломов, злоупотреблений, мошеннических схем и иных инцидентов. Вместо этого компания предлагает не обменивать широкий доступ к технологии на попытку заранее устранить каждый потенциальный ущерб. Такая формулировка делает предметом дискуссии не сам факт наличия рисков, а то, какие из них допустимы и кто принимает это решение.
Где проходит разногласие с Anthropic.
Альтман говорит о заметной дистанции между OpenAI и Anthropic в вопросах управления развитием передовых моделей. По данным публикации Forbes, OpenAI выступает за более мягкий регуляторный режим, хотя Альтман ранее публично соглашался с призывами руководителя Anthropic Дарио Амодеи замедлить разработку наиболее мощных систем. Это показывает, что расхождение не сводится к выбору между ускорением и остановкой: компании по-разному определяют, какие ограничения необходимы до распространения модели, а какие могут применяться уже в процессе её использования.
В трактовке Альтмана неприемлема модель, при которой одна организация удерживает AI из опасений, что технология выйдет из-под контроля. India Today передаёт его аргумент так: вместо ожидания полной безопасности лаборатории должны продолжать совершенствовать системы. За этим стоит принцип агентности пользователя — доступ к инструментам не должен определяться узким кругом компаний или государственных структур. Но доступ сам по себе не является механизмом безопасности: чем шире применение, тем важнее понять, какие обязанности остаются у разработчика, платформы и конечного пользователя.
Риски разделены на два уровня.
Существенная часть позиции OpenAI — различать повседневный ущерб и катастрофические сценарии. Альтман не предлагает игнорировать угрозы, но считает, что регулирование должно прежде всего защищать от наиболее тяжёлых последствий, включая серьёзную потерю человеческого контроля над системами. Как пересказывает разбор SiliconANGLE, компания поддерживает меры против таких рисков, не требующие остановить эксперименты и обычное применение AI.
На практике эта граница пока сформулирована скорее как принцип, чем как проверяемое правило. Из доступных высказываний не следует, какие именно виды вреда OpenAI относит к приемлемым, какие пороги будут считаться катастрофическими и какие условия должны сработать для ограничения доступа к модели. Для разработчиков это означает, что обсуждение безопасности смещается от общего вопроса «безопасен ли AI» к более прикладным: какой ущерб возможен в конкретном продукте, кто отвечает за его предотвращение и как фиксируется инцидент.
Почему заявление звучит неоднозначно.
Нынешняя позиция Альтмана контрастирует с его недавними словами о нерешённой проблеме alignment — согласования поведения модели с человеческими целями и ограничениями. В материале Fortune приведено его заявление, что ни одна лаборатория не решила эту задачу полностью. Там же он говорил, что риск гибели человечества из-за AI к концу десятилетия на уровне 10% был бы неприемлем для OpenAI. Таким образом, тезис о готовности принять часть ущерба не означает, что компания считает решёнными фундаментальные вопросы контроля над всё более автономными системами.
Разница между этими позициями — в масштабе последствий. Ошибка, обман или несанкционированное использование инструмента могут быть серьёзными для пострадавших, но Альтман отделяет их от сценария утраты контроля над технологией. Эта классификация вызывает сложный вопрос для рынка: отдельные «некатастрофические» эпизоды способны накапливаться, а поэтому нельзя оценивать общественную цену AI только по отсутствию одного предельного события.
Что это меняет для рынка и команд.
Для компаний, внедряющих генеративный AI, заявление OpenAI не является разрешением переносить риски на пользователей. Напротив, оно подчёркивает, что инциденты следует считать частью рабочей среды, а не исключением, которое можно не учитывать в продуктовой модели. При выборе поставщика и архитектуры важно отделять обещания о полезности модели от конкретных обязательств по контролю доступа, обработке нежелательных действий и реакции на нарушения.
Для регуляторов спор OpenAI и Anthropic будет сводиться к балансу между доступностью и ограничениями. Сторонники более мягкого подхода опасаются концентрации возможностей у немногих держателей моделей. Сторонники предосторожности исходят из того, что ущерб проще предотвратить до масштабного распространения. Позиция Альтмана ясно обозначает ставку OpenAI: расширять применение AI при точечной защите от наиболее тяжёлых угроз. Остаётся главным практический критерий — сможет ли индустрия прозрачно показать, где заканчивается приемлемый риск и начинаются последствия, которые нельзя компенсировать будущей пользой.
