Международное информационное агентства Reuters сообщает, что нашумевший чат-бот ChatGPT значится автором или соавтором как минимум 200 книг, доступных к покупке в фирменного магазина Kindle Store. Впрочем, вероятнее всего, реальное количество написанных ИИ произведений в сети Amazon куда выше, поскольку компания не обязывает авторов открыто сообщать, что при создании книги они использовали бота.
По словам Бретта Шиклера из Рочестера, для многих людей появление чат-ботов стало настоящим подарком, ведь с его помощью они смогли реализовать идеи, для которых у них самих не находилось нужных слов. К примеру, сам Шиклер опубликовал в Kindle Store детскую книгу «The Wise Little Squirrel: A Tale of Saving and Investing» – написанную ChatGPT по запросу «напиши историю об отце, который учит сына финансовой грамотности» и даже проиллюстрированную ИИ. Стоимость электронной копии составила $2,99, а печатной – $9,99. Хотя в общей сложности за месяц Бретт заработал на продаже книги меньше $100, он не расстраивается, ведь на её создание у него ушло всего пару часов. Помимо истории о «мудром бельчонке», в Kindle Store содержится более чем достаточно примеров детской литературы (The Power of Homework), поэзии (Echoes of the Universe) и даже научной фантастики (Galactic Pimp: Vol. 1), написанных при помощи чат-ботов.
Исполнительный директор Авторской Гильдии Мэри Разенбергер считает, что подобные тенденции представляют угрозу как для писателей, так и для читателей. Она уверена, что в ближайшее время рынок накроет настоящее цунами посредственной ИИ-литературы, которая лишит работы и оттолкнёт от чтения многих людей по всему миру. По мнению представителей Авторской Гильдии, платформам вроде Kindle Store необходимо быть честными перед клиентами и авторами, если произведение имеет «искусственное» происхождение, иначе люди рискую потратить свои деньги на низкокачественное чтиво, лишённое оригинальности и литературной ценности.
На фоне наплыва ИИ-литературы журналу Clarkesworld Magazine, известному научно-фантастическими публикациями, пришлось приостановить приём коротких рассказов, поскольку его редакторы не могли справиться с наплывом произведений, написанных при помощи ChatGPT и прочих чат-ботов, но не содержащих соответствующей отметки. Главный редактор журнала Нил Кларк не указал, использовала ли его команда какие-либо инструменты для выявлении ИИ-литературы. Однако он подчеркнул, что даже невооружённым глазом в этих текстах можно было отследить «очевидные закономерности». Увы, в будущем технология будет только совершенствоваться, а значит станет сложнее определить произведения, созданные при помощи ИИ.
По словам Кларка, количество подобных заявок с начала 2023 года составило до 38% от общего числа полученных журналом произведений. Только в январе им пришлось забанить более 500 «авторов». Издание не просто даёт писателям-любителям платформу для публикации своих рассказов, но также платит по 12 центов за слово. Вероятно, этот фактор подтолкнул любителей лёгких денег к ИИ-мошенничеству. Потому отныне Clarkesworld Magazine объявило полный запрет на рассказы, автором или соавтором которых выступают ChatGPT и другие чат-боты.
Помимо этической проблемы отсутствия прозрачности, подобные произведения несут угрозу распространения дезинформации и массового плагиата. ChatGPT, Bing AI, Bard и прочие ИИ-инструменты склонны к так называемым «галлюцинациям»: этот термин описывает ситуации, когда чат-бот бодро и уверенно распространяет заведомо ложную информацию. Кроме того, для их тренировки используется контент, созданный реальными людьми – зачастую без надлежащего согласования с автором, и уже не раз пользователи обнаруживали в сгенерированном ИИ тексте отрезки чужого контента, скопированного вплоть до авторского синтаксиса. К примеру, начиная с прошлого года издание CNET использовало фирменную ИИ-модель для генерирования научно-популярных экономических текстов. За это время было создано как минимум 73 публикации, в которых не было прямого оповещения об авторстве ИИ: информация об этом высвечивалась только при нажатии на определённую строку. К тому же в этих текстах содержалось огромное количество фактических ошибок и плагиата из статей с других сайтов. В итоге из-за многочисленных жалоб CNET пришлось отказаться от использования инструмента.