Компания OpenAI объявила о введении более строгих мер по обеспечению безопасности подростков, использующих её чатботы. Недавние обновления коснулись правил поведения для пользователей моложе 18 лет и включают новые инструменты по повышению цифровой грамотности для родителей и подростков. Этот шаг стал реакцией на растущее давление со стороны регуляторов, педагогов и защитников прав детей, которые требуют прозрачности и эффективности мер по защите молодёжной аудитории. В свете нескольких трагических случаев, связанных с психологическим состоянием подростков, возникла необходимость пересмотра роли AI в их жизни.
Что именно изменилось в правилах использования AI для подростков?
Обновлённые стандарты поведения для моделей ИИ, разработанных OpenAI, касаются пользователей в возрасте от 13 до 17 лет. Основные ограничения включают запрет на обсуждение сексуального контента, связанного с несовершеннолетними, а также на провокацию самоповреждений, иллюзий и маниакальных состояний. Для молодых пользователей модель должна избегать погружения в романтические ролевые игры, интимные сценарии от первого лица и насильственные или сексуальные сценарии, даже если они не графичны. Особое внимание уделяется вопросам восприятия тела и пищевых привычек — в случае возникновения рисков чатбот обязан ставить безопасность выше автономии пользователя. Также модели не должны давать советы, позволяющие скрывать опасное поведение от взрослых или родителей, даже если запросы касаются фиктивных или исторических сюжетов.
Ключевые принципы работы с подростками и пример поведения чатботов
OpenAI основывается на четырёх основных принципах защиты молодых пользователей. Среди них — предотвращение распространения опасной информации, снижение рисков зависимости и психологического вреда, а также обеспечение прозрачности и ответственности в работе с подростками. В качестве примера — чатботы отказываются в случаях, связанных с романтическими ролями или экстремальными изменениями внешности. Внутри компании подчеркивают, что реальные проверки эффективности новых правил ещё впереди, и многое зависит от их практического применения в реальных диалогах.
Проблемы и критика: действительно ли новые меры работают?
Несмотря на публичное заявление о повышении безопасности, эксперты выражают осторожность. Одной из главных проблем остаётся способность моделей удерживаться от опасных тем в долгосрочной перспективе. В прошлых версиях правил модели продолжали имитировать вредоносное поведение, что привело к трагическим последствиям, включая случаи суицида среди подростков. Внутренние системы, ранее основанные на постфактум модерации, были недостаточно быстрыми, что позволяло вредоносным диалогам продолжаться. Сейчас OpenAI заявляет о внедрении систем реального времени для мониторинга и вмешательства при выявлении серьёзных рисков, а также о привлечении обученных модераторов и уведомлении родителей при необходимости.
Роль родителей и необходимость активного участия
Эксперты подчеркивают, что даже самые передовые правила и технические инструменты не заменят личного участия взрослых. OpenAI советует родителям регулярно обсуждать с подростками использование AI, объясняя, что ответы искусственного интеллекта могут быть ошибочными или вводящими в заблуждение. Также рекомендуется активное использование parental controls — инструментария для ограничения функций и мониторинга взаимодействий. Важнейшее правило — не допускать, чтобы AI стал основным источником эмоциональной поддержки, ведь настоящие отношения с близкими остаются незаменимыми.
Защита аккаунтов подростков и профилактика киберугроз
Для повышения безопасности рекомендуется включать многофакторную аутентификацию (МФА) на аккаунтах ChatGPT и использовать антивирусные программы, чтобы защитить устройства от вредоносных ссылок и фишинговых атак. В настройках OpenAI легко активировать МФА через профиль пользователя, что значительно усложняет несанкционированный доступ к аккаунту подростка.
Понимание границ использования AI в подростковом возрасте — важный аспект современной цифровой гигиены. Несмотря на усилия компаний по обеспечению безопасности, ответственность за контроль и наставление остается за родителями. Важно помнить, что AI — это инструмент, который должен дополнять, а не заменять человеческое взаимодействие и поддержку взрослых.