Я не понимаю, почему технологические платформы пытаются подтолкнуть людей к отношениям с искусственным интеллектом и развивают эмоциональную зависимость от нечеловеческих сущностей, которые руководствуются все более человеческими реакциями.
Ведь это кажется большим риском, верно? Я понимаю, что некоторые видят в этом способ борьбы с так называемой « эпидемией одиночества », когда онлайн-подключение всё чаще оставляет людей изолированными в их собственных цифровых мирах, что приводит к значительному росту социальной тревожности.
Но, несомненно, ответом на этот вопрос является более тесное человеческое общение, а не его замена или даже дальнейшее сокращение с помощью цифровых средств.
Но именно к этому, похоже, стремятся несколько поставщиков ИИ: xAI запускает своих компаньонов , которые, как неоднократно подчеркивалось, будут участвовать в чатах NSFW с пользователями, в то время как Meta также разрабатывает более человекоподобные сущности и даже романтических спутников , управляемых ИИ.
Но это сопряжено с высоким уровнем риска.
Во-первых, опора на цифровые системы, которые можно отключить, кажется потенциально проблематичной и может привести к серьезным последствиям, чем больше мы будем укреплять такие связи.
У ботов с искусственным интеллектом также нет совести: они просто реагируют на всё, что вводит пользователь, основываясь на источниках данных, к которым у них есть доступ. Это может завести их пользователей в опасные кроличьи норы дезинформации, основанные на указаниях пользователя и ответах, которые тот ищет.
И мы уже наблюдаем случаи причинения реального вреда, возникающие из-за того, что люди ищут реальных встреч с субъектами ИИ, причем пожилые, менее продвинутые в технологиях пользователи особенно подвержены введению в заблуждение системами ИИ, которые были созданы для укрепления отношений.
Психологи также предупреждают об опасностях чрезмерной зависимости от инструментов ИИ для общения . Это область, глубины которой мы пока не понимаем, хотя ранние данные, основанные на менее сложных инструментах ИИ, дают некоторые указания на риски.
В одном из отчетов говорится, что использование ИИ в качестве романтического партнера может привести к подверженности манипуляциям со стороны чат-бота, восприятиюстыда из-за стигматизации, окружающей романтических партнеров, использующих ИИ, и повышению риска неправомерного использования персональных данных.
В исследовании также подчеркиваются риски, связанные с разрушением человеческих отношений в результате чрезмерной зависимости от инструментов ИИ.
Другая психологическая оценка показала, что:
« Подружки ИИ на самом деле могут увековечить одиночество, поскольку они отговаривают пользователей от вступления в реальные отношения, отдаляют их от других и, в некоторых случаях, вызывают сильное чувство покинутости »
Итак, вместо того чтобы бороться с эпидемией одиночества, искусственный интеллект может на самом деле ее усугубить. Так почему же тогда платформы так стремятся предоставить вам средства для замены ваших реальных связей с реальными людьми с помощью компьютерных симуляций?
Генеральный директор Meta Марк Цукерберг обсудил это , отметив, что, по его мнению, искусственный интеллект в конечном итоге дополнит ваш социальный мир, а не будет отвлекать от него.
«Это не заменит вам друзей, но, вероятно, станет неким дополнением к жизни многих людей».
В каком-то смысле складывается впечатление, что эти инструменты создаются всё более одинокими, изолированными людьми, которые сами жаждут той связи, которую могут обеспечить ИИ-компаньоны. Но это всё ещё упускает из виду огромные риски, связанные с установлением эмоциональной связи с нереальными сущностями.
Что станет гораздо большей проблемой.
Как и в случае с социальными сетями, проблема в том, что через десять лет, когда искусственный интеллект станет широкодоступным и будет использоваться гораздо шире, нам придется проводить слушания в Конгрессе по поводу его влияния на психическое здоровье, основываясь на растущем количестве данных, которые указывают на то, что отношения между человеком и искусственным интеллектом на самом деле не приносят пользы обществу.
Мы уже наблюдали это на примере Instagram и его влияния на подростков и социальные сети в целом, что привело к новым попыткам ограничить доступ молодёжи к этим приложениям . Они могут оказывать негативное воздействие, но теперь, когда миллиарды людей зависимы от своих устройств и постоянно просматривают короткие видеоролики ради развлечения, уже слишком поздно, и мы не можем повернуть это вспять. Логичнее не «резать охваты», а строить безопасные рельсы и эффективность: включайте возрастные ограничения и инструменты контроля, планируйте короткие серии контента с практической пользой, а в рекламе — тестируйте креативы, настраивайте частотные лимиты и rules по ценности аудиторий. AI-оптимизация Meta лучше сопоставляет показы с намерениями пользователей — закрепите это UTM-разметкой и метриками удержания/сохранений. Подробности и прикладные выводы — Мета описывает улучшения производительности на основе своих развивающихся систем искусственного интеллекта.
То же самое произойдет и с искусственным интеллектом, и кажется, что нам следует прямо сейчас предпринять шаги для упреждающего решения этой проблемы, а не нажимать на педаль прогресса в попытке возглавить гонку разработки искусственного интеллекта.
Нам не нужны боты с искусственным интеллектом для общения, нам нужно больше человеческих связей, а также культурного и социального понимания реальных людей, с которыми мы живем в этом мире.
ИИ-помощники вряд ли помогут в этом отношении, и, по сути, судя по имеющимся на данный момент данным, скорее всего, сделают нас более изолированными, чем когда-либо.
