В магазине Amazon появились созданные искусственным интеллектом фейковые книги
Доступные сейчас системы генеративного ИИ недостаточно хороши, чтобы идеально имитировать стиль определенного автора и написать отмеченный наградами роман. Но эти системы достаточно быстро обучаются, используя при создании текстов слова имитируемых писателей, о чем свидетельствует недавний протест со стороны тысяч профессиональных авторов. Вероятно, это только вопрос времени, когда искусственный интеллект действительно сможет написать что-то, что нельзя будет определить ни как настоящую, ни как дешевую копию.
Даже если технологии еще нет, известный автор Джейн Фридман почувствовала, каково это видеть, как в Интернете продаются фэйковые книги с ее авторством.
«На сегодняшний день на Amazon продается около полдюжины книг с моим именем, которые я не писала и не публиковала», — написала она в понедельник в Твиттере. «Какой-то торгаш сгенерировал их с помощью искусственного интеллекта. Это обещает стать серьезной проблемой для книгоиздательского мира».
Говоря о том, насколько это сильно отличается от пиратства, она сказала: «Продаваемые книги — «мусор». Вероятно, кому-то пришла в голову блестящая идея попросить платную версию ChatGPT написать серию коротких романов в стиле Фридман».
В своем блоге она объяснила, что убедить Amazon убрать книги было далеко не просто. Когда она сообщила компании, что кто-то пишет от ее имени без ее согласия, ее попросили: «Пожалуйста, предоставьте нам любые регистрационные номера торговых марок, которые относятся к вашей претензии». Она сказала, что у нее их нет, после чего Amazon ответила, что книги остаются, а дело закрыто.
Сама Фридман узнала о фейковых книгах только тогда, когда читатель связался с ней по поводу ее нового «стиля». Она провела небольшое расследование и обнаружила около полудюжины книг, написанных под ее именем, и, что еще хуже, фальшивые книги были проданы и позже появились на ее официальной странице в Goodreads, принадлежащей Amazon. Впоследствии она подняла шумиху по поводу этой истории, и благодаря многочисленным подписчикам в Твиттер и регулярной колонке в Publishers Weekly Amazon привлекла к этому общественное внимание.
«Похоже, что мошеннические заголовки полностью удалены как с Amazon, так и с Goodreads», — заявила Фридман на этой неделе. «Я уверена, что в немалой степени это связано с моей известностью и репутацией в писательском и издательском сообществе. Однако, непонятно что будут делать менее известные авторы, когда это случится с ними?»
Действительно, у Amazon пока нет политики в отношении книг, созданных с помощью ИИ, которые продаются под именем известного автора. По крайней мере, было бы честнее, если такие книги появлялись с пометкой о том, что они созданы искусственным интеллектом. Но опять же, если искусственный интеллект когда-нибудь станет так же хорош, как и автор, какой смысл в авторе? Это интересный философский вопрос.
