Книги, написанные искусственным интеллектом, заполняют Amazon и другие интернет-магазины. Иногда такие произведения даже заимствуют имена реальных авторов, а их рейтинг улучшают с помощью фейковых отзывов. Чтобы добиться справедливости, писателям приходится привлекать внимание СМИ.
На Amazon появляется все больше книг, созданных при помощи ИИ – с недостоверной информацией и сырой прозой. По оценкам, компания контролирует не менее половины всех продаж книг в США и еще большую долю растущего рынка электронных книг.
Чаще всего таких способом составляют путеводители. Тем не менее произведения ИИ также начали появляться в таких категориях, как кулинария, программирование, садоводство, бизнес, ремесла, медицина, религия и математика, а также книги по саморазвитию и романы.
Покупателям не всегда легко отличить эти работы от тех, что написаны людьми. Могут помочь отзывы читателей — но и этот раздел заполняется комментариями от ИИ, искажающими рейтинг.
На прошлой неделе эксперт по издательскому делу Джейн Фридман попала в новостные заголовки: в своем блоге она рассказала, как обнаружила на Amazon фальшивые книги, предположительно созданные с помощью ИИ, которые якобы написаны ею и используют ее имя.
По словам Фридман, изначально Amazon ответила ей вопросом о том, зарегистрировала ли она свое имя как торговую марку. Когда публикации Фридман привлекли внимание, компания все же удалила эти книги. Но эта мошенническая практика распространяется, и Фридман задается вопросом о том, что делать менее известным авторам, если это произойдет с ними.
Представитель Amazon Линдси Гамильтон в заявлении для Axios сообщил: «У нас есть четкие правила относительно контента, определяющие, какие книги могут быть выставлены на продажу, и мы оперативно изучаем каждую книгу при возникновении проблемы».
Amazon не запрещает сгенерированные ИИ книги, но иногда такие работы нарушают правила, в том числе не соблюдают права интеллектуальной собственности, а также вводят в заблуждение и «разочаровывают» клиентов.
В заявлении представителя говорится, что «Amazon постоянно оценивает новые технологии», и компания проявляет «нулевую терпимость к фейковым отзывам».
В связи с развитием ИИ базы данных, связанных с книгами, приобрели новую ценность для разработчиков этой технологии и в то же время стали объектом подозрений для самих писателей.
Prosecraft – проект Бенджи Смита, разработчика инструмента для писателей под названием Shaxpir, – предоставлял статистический анализ опубликованных книг и также включал фрагменты их текстов. База данных существует с 2017 года, но в последнее время авторы начали опасаться, что ее содержимое будет использоваться для обучения ИИ.
На прошлой неделе Смит отключил сайт. Он написал, что целью проекта было предоставить обычным авторам мощные «лексикографические средства».
«Появление ИИ было запятнано первыми вариантами использования, которые позволяют каждому без каких-либо усилий имитировать работы творцов, исключая их из собственного творческого процесса»,
— написал Смит.
Наполнение виртуальных книжных полок синтетическим контентом – безусловно, плохая новость для любителей книг. Но это представляет угрозу и для самого ИИ: будет сложно отделить сгенерированные произведения от тех, что написаны человеком и нужны для обучения моделей.
Исследователи предупреждают: если слишком большая часть обучающих данных создана самим ИИ, это вызывает необратимые дефекты в больших языковых моделях и их коллапс.
Источник: rb.ru
