LinkedIn вирішила активніше боротися з публікаціями низької якості, які виглядають так, ніби їх повністю створив штучний інтелект. Для цього платформа запустила спеціальну кнопку, за допомогою якої користувачі можуть повідомити, що побачений пост схожий на «сміття», створене ШІ.
Перші результати LinkedIn вважає позитивними. За словами головного директора з продуктів компанії Харі Шрінівасана, за перші кілька тижнів користувачі натиснули на цю кнопку понад мільйон разів.
Компанія стверджує, що після появи нового інструменту кількість переглядів публікацій, які LinkedIn відносить до неякісного ШІ-контенту, знизилася приблизно на 40%. Іншими словами, такі пости стали рідше траплятися користувачам.
При цьому LinkedIn не розкриває точну формулу, за якою визначає, чи є публікація неякісним контентом, створеним за допомогою ШІ. Компанія говорить лише про те, що аналізує одразу кілька різних сигналів.
Це важливо, оскільки одна скарга користувача сама по собі не повинна автоматично призводити до зниження охоплень. LinkedIn заявляє, що спеціально додала захисні механізми, які мають не дати користувачам використовувати систему скарг для несправедливого тиску на інших авторів.
Йдеться не лише про повністю автоматично створені тексти. LinkedIn також намагається знаходити публікації, які виглядають шаблонними та написаними за типовими схемами генеративного ШІ.
Наприклад, раніше алгоритми платформи вже почали зменшувати поширення постів із часто повторюваними конструкціями на кшталт «це не X, це Y». Такі фрази стали настільки поширеними в текстах, створених ШІ, що самі по собі почали сприйматися як одна з ознак машинного контенту.
Тепер LinkedIn додає ще один елемент контролю. Автор публікації зможе побачити сповіщення про те, що інші користувачі поскаржилися на його пост як на можливий приклад неякісного ШІ-контенту.
Судячи з демонстрації компанії, таке повідомлення відображатиметься безпосередньо в розділі аналітики публікації. Тобто автор зможе зрозуміти, що його пост викликав підозри в аудиторії.
При цьому LinkedIn не говорить, чи означає така скарга автоматичне обмеження публікації. Швидше, система використовується як один із сигналів для алгоритмів, які вирішують, наскільки широко показувати пост іншим користувачам.
Проблема для LinkedIn справді помітна. Професійна соцмережа в останні роки стала одним із місць, де особливо швидко поширилися автоматично створені тексти. Користувачі часто публікують довгі мотиваційні історії, поради з кар’єри та роздуми про бізнес, які виглядають дуже схожими один на одного.
Дослідження компанії Pangram, яка спеціалізується на виявленні ШІ-текстів, показало, що понад 40% довгих публікацій у LinkedIn можуть мати ознаки створення за допомогою штучного інтелекту.
При цьому сам LinkedIn довгий час фактично допомагав користувачам створювати подібні публікації. Компанія активно впроваджувала інструменти на основі великих мовних моделей, які пропонували покращити текст поста або повідомлення.
Виходила досить незвична ситуація: платформа водночас давала користувачам інструменти для створення тексту за допомогою ШІ й намагалася боротися з надмірним поширенням такого контенту.
Тепер LinkedIn поступово змінює підхід. Компанія хоче не заборонити використання штучного інтелекту повністю, а скоріше знизити кількість публікацій, які виглядають як масово вироблений і малоцінний контент.
Це важлива відмінність. Сам факт використання ШІ ще не означає, що публікація погана. Користувач може застосувати нейромережу для перевірки тексту, виправлення помилок, перекладу або пошуку ідей, а потім самостійно написати змістовний матеріал.
Проблема починається тоді, коли в стрічці з’являється величезна кількість майже однакових публікацій, створених за одним шаблоном і які не містять нічого нового.
Саме тому нова кнопка LinkedIn скоріше спрямована не проти самого ШІ, а проти масового неякісного контенту.
Перші цифри виглядають вражаюче: понад мільйон скарг і зниження переглядів певної категорії публікацій приблизно на 40%. Але поки рано говорити, що проблему повністю вирішено.
LinkedIn не розкриває, яка саме частина цих змін пов’язана зі скаргами користувачів, а яка – зі змінами алгоритмів. Тому стверджувати, що одна кнопка справді скоротила поширення ШІ-сміття на 40%, було б занадто сміливо.
Тим не менш механізм показує важливу тенденцію: соціальні мережі починають шукати способи відрізняти корисне використання ШІ від масової генерації однотипного контенту.
Для звичайного користувача це може означати чистішу стрічку. А для авторів – необхідність стежити не лише за тим, що вони публікують, а й за тим, наскільки оригінальним і корисним виглядає їхній матеріал.
Якщо LinkedIn продовжить розвивати систему, з часом алгоритми можуть стати набагато кращими у визначенні публікацій, які були повністю згенеровані ШІ або серйозно перероблені за його допомогою.
При цьому повністю позбутися такого контенту навряд чи вдасться. Штучний інтелект стає звичайним інструментом роботи, і відрізнити текст людини від тексту нейромережі стає дедалі складніше.
Тому головне питання тепер полягає не в тому, чи використовувався ШІ, а в тому, чи принесла публікація реальну користь читачеві. Саме за цим принципом боротьба LinkedIn з ШІ-контентом у підсумку й оцінюватиметься.
