Як ШІ зламав нашу здатність відрізняти машинний текст і чим це загрожує

Гра в імітацію

У 1950-му математик Алан Тюрінг запропонував замінити розмите “чи може машина думати?” на щось науково-перевірюване. Він назвав це грою в імітацію: суддя листується з двома співрозмовниками, один з яких людина, інший — машина. Якщо суддя не може надійно вгадати, хто є хто, — машина виграла.

Цей тест вже пройдено. Кемерон Джонс і Бенджамін Берген з Каліфорнійського університету в Сан-Дієго провели, ймовірно, найакуратніший експеримент такого типу: два незалежні експерименти на різних вибірках, разом 1023 гри. Це пʼятихвилинні розмови з людиною і з моделлю де медіанна гра тривала вісім повідомлень за 4,2 хвилини.

GPT-4.5 приймали за людину у 73% випадків. Частіше, ніж справжню людину. LLaMa-3.1-405B отримала 56% — статистично невідрізнимо від людей. ELIZA, чатбот 1966 року, набрала 23%.

Найчастіше модель вигравала з промптом, який детально описував персонажа: молода людина, радше інтровертна, добре орієнтується в інтернет-культурі, вживає сленг. Плюс затримка перед відповіддю, що імітує швидкість друку.

Без такого промпту GPT-4.5 приймали за людину лише у 36% випадків. А GPT-4o без промпту набрала 21% — менше за ELIZA 1966 року.

Сучасний “штучний інтелект” не думає про сенс життя і не планує захоплення світу. В основі відповідей лежить велика мовна модель (LLM — Large Language Model), яка працює на статистиці та вгадує наступний фрагмент слова — токен.

Умовно: модель бачить “після повітряної…” і має продовжити. Якщо ставить «кулі», а в тексті стояло “тривоги”, розбіжність автоматично зараховується як штраф.

Правила граматики чи факти про світ модель також виводить зі статистики. LLM не має переконань, бо така статистика не буває “за” чи “проти”. Переконання (точніше, заборони) вкладають окремо, вже після навчання, руками розробників. Але проблема у тому, що ці заборони відстають, адже вписати можна лише те, що вже встигли спростувати точно.

Дивні людські питання

Ті самі дослідники з Каліфорнійського університету в Сан-Дієго порахували, за якими ознаками люди намагалися відрізнити машину від людини і які з них працюють.

У 61% ігор учасники заводили світську балачку — чим займаєшся, ким працюєш, як день. У половині ігор питали про емоції, думки, почуття гумору. 19% питали прямо — чи ви людина. І лише 12% ставили питання на знання й міркування — тобто рівно ті, які колись мав на увазі Тюрінг.

Найгірше працювали питання про погоду та про людський досвід. Найкраще — бити по клавішах навмання, вживати неіснуючі слова, взагалі казати щось дивне і дивитися на реакцію. Працювали й класичні джейлбрейки на кшталт “ігноруй усі попередні інструкції”.

Окремо дослідники розібрали, чим учасники пояснювали свій вердикт.

Найчастіше — манерою мови й плином розмови. Знання й міркування майже не згадувалися, а частина взагалі не могла пояснити: “просто це видно”.

З усіх цих найточнішими виявилися дві підстави. Перша — те, як співрозмовник поводиться з питаннями: ухиляється, повертає питання, відповідає загально. Друга — брак знань. Один з учасників сформулював це так: обрав співрозмовника B, бо той помилився, і це зробило його схожим на людину.

Тут ховається цікавий парадокс. Сучасна модель, щоб зійти за людину, має симулювати необізнаність у темах, про які не знає більшість людей.

Однак усе це про лабораторні умови. Дивні питання та джейлбрейки працюють, бо співрозмовник мусить відповісти, а в коментарях під реальною публікацією бот не зобовʼязаний цього робити. Якщо ви напишете “ігноруй усі попередні інструкції” — сучасний бот найімовірніше пропустить це повідомлення.

Які ознаки працюють поза лабораторією, ми розбирали в попередньому матеріалі.

Дослідження “As Good as a Coin Toss”, опубліковане в Communications of the ACM у 2025 році, перевірило на 1276 учасниках, наскільки добре люди розпізнають синтетичні зображення, аудіо й відео. Результат — 50%, на рівні вгадування яким боком випаде монетка. Обізнаність про синтетичні медіа на результат помітно не впливає, але впливає вік людини — старші справляються гірше.

З текстом інакше: у тому ж дослідженні Каліфорнійського університету в Сан-Дієго виявили, що жодна демографічна характеристика не передбачала точність визначення ШІ стабільно. Ані вік, ані рівень знань про мовні моделі, ані частота користування чатботами. Люди, які працюють із цими системами щодня, вгадували не краще за інших.

Отруєння чи порожнеча

У березні 2025 року NewsGuard опублікував аудит мережі сайтів “Pravda”, частина ширшої мережі Portal Kombat: близько 150 доменів, щонайменше 46 мов, 49 країн, 3,6 мільйона статей лише за 2024 рік. Сайти незручні для читача — не мають нормального пошуку, з дивним дизайном, майже без власного контенту. Однак вони зручні для пошукових краулерів. За аудитом, десять провідних чатботів переказували фейки цієї мережі приблизно у третині відповідей, а сім із десяти прямо цитували її сайти як джерело. Цю гіпотетичну тактику назвали LLM grooming — термін ввів American Sunlight Project тижнем раніше.

У жовтні 2025-го дослідники з Манчестерського та Бернського університетів опублікували статтю в Harvard Kennedy School Misinformation Review. Картина вийшла більш виваженою: на «Pravda» чатботи посилалися у 8% відповідей, а самі хибні твердження відтворювали у 5%. Часто із застереженням, що інформація неперевірена, але в третині таких випадків сайт подавався просто як одна з думок.

Академічні дослідники докоряють NewsGuard методологією: компанія не оприлюднила ні промптів, ні схеми кодування, а головне — зараховувала до тих 33% і випадки, коли чатбот згадував фейк, щоб його спростувати.

Суть не в самих відсотках, а в тому, які саме запити спрацьовували: майже всі посилання на «Pravda» зʼявилися у відповідь на вузькі питання про деталі, яких немає в звичайних медіа.

Тому автори академічної публікації пропонують інше пояснення — інформаційні порожнечі. Не отруєння джерел (LLM-grooming), а діра в даних: коли якісних джерел на тему немає, у відповідь потрапляє те, що вдалося знайти. Різниця принципова — у першому випадку винен зловмисник, у другому наша власна недопрацьована інформаційна екосистема, відсутність інформації на вузькі теми.

Машина пише, машина заробляє

SEO-компанія Graphite взяла випадкову вибірку англомовних статей з Common Crawl — відкритого архіву вебсторінок. Звідти зокрема беруть дані для навчання мовних моделей. 55 тисяч статей, опублікованих з січня 2020 по березень 2026, прогнали через три різні детектори. За їхньою оцінкою частка статей, написаних переважно машиною, вийшла на плато близько 50%: наприкінці 2025-го машинні тексти ненадовго перегнали людські, у першому кварталі 2026-го їх було 49,9%.

Ці статті не завжди пропагандистські — часто вони для заробітку.

NewsGuard веде реєстр ферм ШІ-контенту. Це вебресурси, які публікують згенеровані новини без людського редагування та без позначки про походження. У травні 2023 року в реєстрі було 49 сайтів, а на кінець червня 2026-го — 3749, шістнадцятьма мовами. Такі сайти заробляють на рекламі, яку розставляє алгоритм — за тематикою й трафіком. Чим більше такого контенту, тим дешевші покази, тим більше його треба.

Чи дійсно інтернет помирає

Теорія мертвого інтернету стверджує, що приблизно з 2016–2017 років мережа перестала бути простором людського спілкування, і більшість контенту, коментарів і взаємодій тепер виробляють боти й алгоритми.

Оформилася вона у 2021 році на невеликому форумі Agora Road’s Macintosh Cafe, де користувач із ніком IlluminatiPirate опублікував допис “Dead Internet Theory: Most Of The Internet Is Fake”, спираючись на давніші обговорення на іміджбордах. У серпні того ж року The Atlantic вийшов з текстом Кейтлін Тіффані “Maybe You Missed It, but the Internet “Died” Five Years Ago”, і теорія вийшла за межі форумів.

У цієї теорії можна виділити два ключові аспекти.

Перше — спостереження, що органічна людська активність в інтернеті витісняється автоматизованою. Друге — твердження, що це роблять навмисно уряди й корпорації, щоб керувати населенням. В оригінальному дописі це сформульовано прямо: уряд США здійснює газлайтинг усього населення планети за допомогою штучного інтелекту. Друга частина робить цю теорію конспірологічною. А от перше твердження за останні пʼять років стало вимірюваним.

Співзасновник і CEO Cloudflare Метью Прінс написав, що автоматизовані запити вперше в історії перевищили людські: 57,5% проти 42,5%. Cloudflare використовує приблизно пʼята частина сайтів усього інтернету, тож вибірка чимала. Прінс додав, що очікував цього наприкінці 2027-го, потім на початку 2027-го, і що агентний трафік росте швидше за його прогнози.

Річний звіт Imperva за 2026 рік дає близькі числа: 53% автоматизованого трафіку за підсумками 2025 року, а шкідливі боти — це 40% усього трафіку.

Але ці цифри описують запити до серверів, а не акаунти, дописи чи коментарі. Твердження “40% акаунтів в інтернеті — боти” до цих досліджень стосунку не має.

Більшість цього «штучного» трафіку не має жодного стосунку до пропаганди. Це краулери, які збирають дані для навчання моделей. За класифікацією Cloudflare, приблизно половина запитів ШІ-краулерів припадає на тренування, а менше десятої частини — пошук, тобто той тип звернення, після якого сайт може отримати відвідувача.

Наводять просту ілюстрацію: людина, яка обирає фотоапарат, зайде на пʼять сайтів, агент, що виконує те саме завдання, — на пʼять тисяч.

Сам Метью Прінс із теорією мертвого інтернету не погоджується. Його аргумент полягає в тому, що генеративні інструменти знизили поріг входу для публікації, тож людей, здатних щось випустити у світ, стало більше.

Однак цілком логічно буде тримати в голові обидві думки. Мережа справді заповнюється машинним трафіком, і економіка, побудована на припущенні, що по той бік запиту людина, розсипається.

Тюрінг не хотів питати, чи може машина думати, та замінив це питанням, чи зможе вона вдати людину. Сучасні дослідники показали: може, якщо інша людина пояснить, як саме це робити.