Компания Originality.ai, специализирующаяся на выявлении ИИ-контента, проверила восемь подобных книг и установила со 100% уверенностью, что все они были созданы искусственным интеллектом. Среди них такие материалы, как «Навигация по СДВГ у мужчин», «Эффективные техники для взрослых с СДВГ» и «Диета и фитнес для мужчин с СДВГ», пишет Guardian.
Специалисты подчеркивают: отсутствие регулирования ИИ-продуктов превращает рынок в настоящий «Дикий запад». Майкл Кук, исследователь из Королевского колледжа Лондона, отметил, что ИИ может выдавать опасные советы — от неправильного приема лекарств до игнорирования медицинских рекомендаций.
«Генеративные ИИ не способны критически анализировать информацию, а значит, их нельзя допускать к темам здоровья без контроля со стороны реальных экспертов», — заявил он.
С одной из «искусственно созданных» книг столкнулся Ричард Уордсворт. Он приобрел ее по совету отца после того, как ему поставили диагноз СДВГ. С первых страниц Ричард заметил странности: книга начиналась с цитаты консервативного психолога Джордана Петерсена, а затем содержала ряд неуместных анекдотов, а также исторических неточностей.
Особенно тревожными мужчине показались утверждения: «Близкие не прощают эмоционального ущерба, который вы наносите им. Боль и обида, вызванные импульсивным гневом, оставляют неизгладимые шрамы». Во время чтения Уордсворт также наткнулся на предупреждения о том, что его состояние «катастрофично», и что у него «в четыре раза больше шансов умереть значительно раньше». После этого мужчина решил найти автора сомнительного материала и был шокирован: создатель книги выглядел как ИИ-аватар и не имел подтвержденных квалификаций.
«Если даже мой образованный отец поверил этому, любой может попасться. Люди ищут помощи, а вместо этого наполняют голову опасной чепухой, пока Amazon получает прибыль», — комментирует Ричард.
В управлении маркетплейсом заявили, что компания следит за ИИ-контентом и применяет как проактивные, так и реактивные меры для выявления подобных нарушений. Представитель Amazon подчеркнул: «Мы продолжаем улучшать системы защиты и будем адаптировать механизмы контроля по мере развития технологий выпуска литературы».
Тем не менее эксперты отмечают: старые барьеры издательской отрасли разрушены, и без четких законов ситуация рискует только ухудшиться.
«Проблема в том, что пока нет серьезных последствий для тех, кто допускает вредный контент», — отмечает профессор Шэннон Валлор из Эдинбургского университета.
Ранее мы писали о том, как композитор продолжает сочинять музыку после смерти благодаря ИИ.
