Компания OpenAI столкнулась с судебными исками, которые подают на нее родители подростков. Они утверждают, что диалоги с ChatGPT приводят молодых людей к травмам и даже самоубийствам. Чтобы обезопасить чат-бот для тех, кому еще не исполнилось 18 лет, компания разработала несколько ограничений, о которых рассказывает CNN.
При регистрации несовершеннолетнего пользователя программа автоматически переходит в защищенный режим. Причем ИИ сделает это и в том случае, если ему покажется, что пользователь прибавил себе лет. Чат-бот будет предлагать подросткам сделать перерыв, если они были активны полтора часа из трехчасового интервала.
Для родителей компания разработала возможность установки контроля: «часов тишины» и «часов учебы». Кроме того система оповестит родителей, если во время диалога ребенок будет испытывать «момент острого стресса», а также предупредит, если заподозрит у него расстройство пищевого поведения.
Новая версия чат-бота не сможет выражать личные чувства по отношению к подростку, однако обязательно предупредит его, если тот захочет загрузить в диалог что-то личное или конфиденциальное. Представители компании также надеются улучшить меры защиты в тех случаях, если подросток начнет диалог на тему применения огнестрельного оружия.
Ранее Наука Mail рассказывала о том, как оценка внешности от ИИ влияет на людей.