Система прогнозирования возраста дополняет уже действующие меры безопасности. Пользователи, которые при регистрации указывают, что им нет 18 лет, автоматически получают дополнительные ограничения, снижающие риск столкновения с чувствительным или потенциально вредным контентом. При этом взрослым пользователям сохраняется полный доступ к возможностям сервиса.
Как пояснили в OpenAI, модель анализирует совокупность поведенческих и учетных сигналов, включая срок существования аккаунта, время активности, особенности использования сервиса и указанный возраст. Эти данные позволяют повысить точность определения возрастной категории и со временем улучшать работу системы.
Если система ошибочно отнесет пользователя к категории младше 18 лет, он сможет подтвердить возраст с помощью селфи через сервис Persona и восстановить полный доступ. Проверить, применены ли ограничения, можно в разделе «Настройки» — «Учетная запись».
При выявлении признаков, что аккаунт может принадлежать несовершеннолетнему, ChatGPT автоматически ограничивает доступ к контенту, связанному с насилием, опасными интернет-челленджами, сексуализированными или жестокими ролевыми играми, самоповреждением, а также материалами, продвигающими экстремальные стандарты внешности и нездоровое пищевое поведение.
В компании подчеркнули, что подход основан на научных исследованиях в области развития детей и подростков и учитывает различия в восприятии риска, эмоциональной регуляции и влиянии социальной среды. В случаях неопределенности система по умолчанию выбирает более безопасный режим.
Дополнительно родители могут использовать инструменты родительского контроля, включая установку ограничений по времени использования ChatGPT, управление отдельными функциями и получение уведомлений при признаках эмоционального дистресса.
В OpenAI сообщили, что продолжат совершенствовать технологию прогнозирования возраста и отслеживать результаты внедрения. В странах Евросоюза запуск системы будет отложен из-за дополнительных регуляторных требований.
