Я не розумію, чому технологічні платформи намагаються підштовхнути людей до стосунків зі штучним інтелектом і розвивають емоційну залежність від нелюдських сутностей, які керуються дедалі більш людськими реакціями.
Адже це здається великим ризиком, чи не так? Я розумію, що дехто бачить у цьому спосіб боротьби з так званою «епідемією самотності», коли онлайн-підключення все частіше залишає людей ізольованими у власних цифрових світах, що призводить до значного зростання соціальної тривожності.
Але, безумовно, відповіддю на це питання є тісніше людське спілкування, а не його заміна чи навіть подальше скорочення за допомогою цифрових засобів.
Та саме до цього, схоже, прагнуть кілька постачальників ІІ: xAI запускає своїх компаньйонів, які, як неодноразово підкреслювалося, братимуть участь у чатах NSFW з користувачами, тоді як Meta також розробляє більш людиноподібні сутності та навіть романтичних супутників, керованих ІІ.
Але це пов’язано з високим рівнем ризику.
По-перше, опора на цифрові системи, які можна вимкнути, видається потенційно проблематичною та може призвести до серйозних наслідків, чим більше ми будемо зміцнювати такі зв’язки.
У ботів зі штучним інтелектом також немає совісті: вони просто реагують на все, що вводить користувач, спираючись на джерела даних, до яких мають доступ. Це може завести їхніх користувачів у небезпечні кролячі нори дезінформації, засновані на вказівках користувача та відповідях, які той шукає.
І ми вже спостерігаємо випадки завдання реальної шкоди, що виникають через те, що люди прагнуть реальних зустрічей із суб’єктами ІІ, причому літні, менш обізнані в технологіях користувачі особливо схильні до введення в оману системами ІІ, які були створені для зміцнення відносин.
Психологи також попереджають про небезпеку надмірної залежності від інструментів ІІ для спілкування. Це сфера, глибини якої ми поки не розуміємо, хоча ранні дані, засновані на менш складних інструментах ІІ, дають деякі вказівки на ризики.
В одному зі звітів зазначається, що використання ІІ як романтичного партнера може призвести до схильності до маніпуляцій з боку чат-бота, почуття сорому через стигматизацію, що оточує романтичних партнерів, які користуються ІІ, та підвищення ризику неправомірного використання персональних даних.
У дослідженні також підкреслюються ризики, пов’язані з руйнуванням людських стосунків у результаті надмірної залежності від інструментів ІІ.
Інша психологічна оцінка показала, що:
«Подружки ІІ насправді можуть увічнити самотність, оскільки вони відмовляють користувачів від вступу в реальні стосунки, віддаляють їх від інших і, в деяких випадках, викликають сильне почуття покинутості».
Отже, замість того щоб боротися з епідемією самотності, штучний інтелект може насправді її посилити. То чому ж тоді платформи так прагнуть надати вам засоби для заміни ваших реальних зв’язків із реальними людьми за допомогою комп’ютерних симуляцій?
Генеральний директор Meta Марк Цукерберг обговорив це, зазначивши, що, на його думку, штучний інтелект зрештою доповнить ваш соціальний світ, а не відволікатиме від нього.
«Це не замінить вам друзів, але, ймовірно, стане певним доповненням до життя багатьох людей».
У певному сенсі складається враження, що ці інструменти створюються дедалі більш самотніми, ізольованими людьми, які самі прагнуть того зв’язку, що можуть забезпечити ІІ-компаньйони. Але це все ще оминає величезні ризики, пов’язані зі встановленням емоційного зв’язку з нереальними сутностями.
Що стане набагато більшою проблемою.
Як і у випадку з соціальними мережами, проблема полягає в тому, що через десять років, коли штучний інтелект стане широко доступним і використовуватиметься значно ширше, нам доведеться проводити слухання в Конгресі щодо його впливу на психічне здоров’я, спираючись на зростаючу кількість даних, які вказують на те, що стосунки між людиною та штучним інтелектом насправді не приносять користі суспільству.
Ми вже спостерігали це на прикладі Instagram та його впливу на підлітків і соціальні мережі загалом, що призвело до нових спроб обмежити доступ молоді до цих застосунків. Вони можуть чинити негативний вплив, але тепер, коли мільярди людей залежні від своїх пристроїв і постійно переглядають короткі відео заради розваги, уже надто пізно, і ми не можемо повернути це назад. Раціональніше не «різати охоплення», а будувати безпечні рейки та ефективність: вмикайте вікові обмеження й інструменти контролю, плануйте короткі серії з практичною користю, а в рекламі — тестуйте креативи, налаштовуйте частотні ліміти й правила за цінністю аудиторій. ШІ-оптимізація Meta краще поєднує покази з намірами користувачів — підкріпіть це UTM-розміткою та метриками утримання/збережень. Деталі й прикладні висновки — Мета описує покращення продуктивності на основі своїх таких, що розвиваються, систем штучного інтелекту.
Те саме станеться і зі штучним інтелектом, і, здається, нам слід уже зараз зробити кроки для випереджувального вирішення цієї проблеми, а не тиснути на педаль прогресу в спробі очолити гонку розробки штучного інтелекту.
Нам не потрібні боти зі штучним інтелектом для спілкування, нам потрібно більше людських зв’язків, а також культурного та соціального розуміння реальних людей, із якими ми живемо в цьому світі.
ІІ-помічники навряд чи допоможуть у цьому плані і, по суті, судячи з наявних на даний момент даних, швидше за все, зроблять нас більш ізольованими, ніж будь-коли.
