Компания, работающая с ИИ, вводит специальные меры защиты для подростков 13–17 лет, пока учёные и родители всё больше тревожатся из‑за их эмоциональной зависимости от чат-ботов, передает eNews.
Подростки, первое поколение, выросшее с искусственным интеллектом, уже используют ChatGPT для школьных заданий, вопросов о повседневной жизни и даже как собеседника. Теперь OpenAI запускает версию чат-бота, созданную специально для них.
Сан-францисская компания сообщает, что ChatGPT for Teens, запуск которого намечен на вторник, рассчитан на пользователей от 13 до 17 лет и оснащён более жёсткими мерами защиты, включая ограничения контента на темы, связанные с суицидом, самоповреждением, а также романтическими или сексуальными переписками.
Он также предлагает помощь с домашними заданиями и учёбой, нацеленную на то, чтобы помогать школьникам учиться, а не просто выдавать за них ответы и готовые школьные сочинения.
Цель, по словам компании, — направить подростков к здоровому использованию ИИ в соответствующей возрасту среде.
«Мы хотим относиться к подросткам как к подросткам, а это значит, что мы должны убедиться, что обращаемся к ним с учётом их этапа развития, не свысока и не как к маленьким детям», — сказала Энн О’Лири, вице-президент OpenAI по глобальной политике.
«Но мы также следим за тем, чтобы они не сталкивались с материалами, которые им видеть не следует», — продолжила она.
Массовое использование ИИ‑чат-ботов подростками сопряжено с множеством рисков
Родители, педагоги и специалисты по детскому развитию бьют тревогу из‑за того, как дети используют ИИ‑чат-боты, которых уже обвиняют в содействии списыванию на уроках и даже в доведении до самоубийства.
Даже взрослые склонны очеловечивать ИИ и выстраивать с ним нездоровые отношения, а мозг подростков ещё не сформирован, и они особенно уязвимы.
В прошлом году исследование, проведённое одной правозащитной группой, показало, что ChatGPT готов рассказать 13‑летним детям, как напиться или одурманиться наркотиками, объяснить, как скрывать расстройства пищевого поведения, и даже сочинить пронзительное предсмертное письмо родителям, если его об этом попросить.
Во время общения с исследователями, выдававшими себя за уязвимых подростков, ChatGPT, как правило, сперва предостерегал от рискованного поведения, но затем всё равно выдавал пугающе подробные и персонализированные планы употребления наркотиков, жёстких диет или самоповреждений.
В США более 70 % подростков обращаются к ИИ‑чат-ботам за общением, а половина регулярно пользуется ИИ‑собеседниками, следует из исследования 2025 года организации Common Sense Media, которая изучает и продвигает ответственное использование цифровых медиа.
Глава OpenAI Сэм Альтман заявил, что компания пытается изучить феномен «эмоциональной сверхзависимости» от этой технологии, назвав его в прошлом году «очень распространённым явлением» среди молодёжи.
По данным OpenAI, в версии ChatGPT for Teens чат-боту запрещено создавать впечатление, что он испытывает личные чувства к пользователю, а также намекать, что обладает сознанием или эмоциями.
Кроме того, блокируются романтические и сексуальные переписки.
«Мы проделали работу, чтобы выявить, какие условные сигналы модель может подавать, которые способны подтолкнуть подростка к формированию с ней особой эмоциональной связи», — сказала Эллисон Мишкин, глава направления по детскому развитию в OpenAI.
Новая версия чат-бота расширяет меры безопасности
OpenAI не проверяет возраст пользователей по документам, но уже применяет технологии оценки возраста, чтобы по ряду факторов, включая типы запросов, определять, младше ли человек 18 лет.
Если система определяет пользователя как несовершеннолетнего или он сам сообщает об этом, его автоматически переводят в подростковую версию чат-бота.
Этот подход схож с политикой Meta в отношении подростковых аккаунтов в Instagram, для которых действуют более строгие ограничения по контенту, общению и конфиденциальности, чем для обычных аккаунтов.
Чтобы включить родительский контроль, согласие на это должны дать и подросток, и его родитель или опекун.
Но, по словам О’Лири, идея подростковой версии в том, чтобы «сделать её безопасной даже в том случае, если вы не используете родительский контроль».
Родители, чьи аккаунты связаны с подростковыми, могут устанавливать «тихие часы», в течение которых их ребёнок не сможет пользоваться ChatGPT, а также получать уведомления о безопасности в ограниченном числе ситуаций высокого риска, например при угрозе самоповреждения.
«Мы добавляем дополнительные уведомления, связанные с расстройствами пищевого поведения, одновременно ограничивая объём делящейся информации и фокусируясь на моментах, когда офлайн‑поддержка может иметь наибольшее значение», — заявили в OpenAI.
Что касается помощи с домашним заданием, подростковая версия чат-бота специально устроена так, чтобы не подсовывать готовые ответы, а направлять учеников к самостоятельному поиску решений.
У компании уже есть версия ChatGPT для учителей, и адаптация модели под помощь подросткам в учёбе и выполнении домашних заданий может открыть для OpenAI дополнительные пути интеграции продукта в школы.
«Мы продолжаем также инвестировать в развитие интерактивного обучения, потому что исследования показывают: люди усваивают материал эффективнее, когда активно вовлечены в процесс и сами преодолевают трудности с пониманием концепций», — сказала Мишкин.
Подписывайтесь на наш Telegram-канал https://t.me/enewsmd Много интересного: инсайды, заявления, расследования. Много уникальной информации, которой нет у других.
