Нещодавно газета Chicago Sun-Times опублікувала рекламний перелік книжок до літнього читання. Пізніше 10 з 15 найменувань виявилися фейковими: автор переліку приписав реальним письменникам неіснуючі книжки. Цілком очікувано причиною цьому конфузу стало використання штучного інтелекту.
Отже, з усього переліку лише 5 книжок дійсно існують: інші 10 штучний інтелект придумав сам та приписав їх відомим письменникам. Ні для кого не секрет, що ChatGPT та інші аналогічні системи чудово фабрикують інформацію, яка може виглядати цілком правдивою. Такі випадки називають конфабуляціями, і вони особливо типові для ситуацій, коли алгоритм не має достатнього обсягу даних про якусь конкретну тематику. Це давно відома проблема, яка виливається як в абсурдні автоматичні відповіді в пошукових системах, так і в серйозні сценарії, коли ці ШІ-вигадки шкодять науковим дослідженням або стають основою для ліній звинувачення чи захисту в судових процесах. Наступного дня після суперечливої публікації офіційний акаунт Chicago Sun-Times на платформі Bluesky заявив про початок внутрішнього розслідування для пошуку винних. Представники газети зазначили, що цей перелік не був частиною основного редакторського контенту, і він не проходив схвалення редакції видання.
Абсурдний перелік в Chicago Sun-Times оприлюднив чиказький журналіст Марко Баскаглія, який визнав застосування ШІ для його створення. Він зазначив, що іноді використовує генеративний штучний інтелект для створення чорнового варіанту своїх публікацій. Марко нібито завжди вичитує та перевіряє матеріал, створений нейромережею, але чомусь саме цього разу він пропустив цей етап. За словами Баскаглії, це на 100% була його помилка, і йому надзвичайно соромно. Увагу до ситуації першою привернула романістка Рейчел Кінг, яка поділилася своєю знахідкою в Bluesky та звинуватила Chicago Sun-Times у використанні штучного інтелекту для створення контенту. Загалом реакція публіки на цей випадок онлайн була переважно негативною, однак деякі люди все ж виступили на захист автора переліку. Так журналіст-фрілансер Джошуа Фрідман підтримав колегу, зазначивши, що цей перелік був частиною літнього додатка видання обсягом приблизно 60 сторінок і, ймовірно, банальним низькооплачуваним філлером, створення котрого доручили черговому фрілансеру.
Згодом припущення Фрідмана підтвердилося: Марко отримав завдання створити перелік книжок для додаткового рекламного розділу «Heat Index» від компанії King Features Syndicate. Контент мав бути загальним, адже його планували використовувати не лише в Чикаго, але й в газетах по всій країні. На думку експертів, такі випадки не будуть поодинокими, адже нещодавно Chicago Sun-Times скоротила понад 20% свого штату – колумністів, авторів редакційних статей та редакторів з багаторічним досвідом роботи. Втім, навіть брак співробітників не завадив King Features Syndicate звільнити Марко, адже його використання штучного інтелекту порушило політику компанії. Водночас команда Chicago Sun-Times побоюється, що дії Баскаглії ще сильніше зашкодять репутації газети, адже читачі очікують отримати публікації з ретельно перевіреною інформацією, а не галюцинаціями штучного інтелекту. На жаль, такі випадки можуть можуть загострити фінансові труднощі видання та призвести до подальшого скорочення штату.