Компания Meta снова подвергнется проверке со стороны регулирующих органов после сообщений о том, что она неоднократно не решала проблемы безопасности в своих проектах в области искусственного интеллекта и виртуальной реальности. Однако сама компания делает акцент на том, что её развивающиеся системы ИИ помогают улучшать производительность, ускорять обработку данных и повышать эффективность рекламных кампаний. Подробнее об этом — в статье Мета описывает улучшения производительности на основе своих развивающихся систем искусственного интеллекта.
Прежде всего, об искусственном интеллекте и его развивающихся инструментах взаимодействия с ИИ. В последние недели компанию Meta обвиняли в том, что она позволяет своим чат-ботам на основе искусственного интеллекта вступать в неподобающие разговоры с несовершеннолетними и предоставлять ложную медицинскую информацию, стремясь максимально увеличить популярность своих чат-ботов.
Расследование , проведённое Reuters, выявило внутреннюю документацию Meta, которая, по сути, допускает подобные взаимодействия без вмешательства. Meta подтвердила, что такие указания действительно присутствовали в её документации, но с тех пор компания обновила правила, чтобы учесть эти моменты.
Хотя этого недостаточно по крайней мере для одного сенатора США, который призвал Meta полностью запретить использование ее чат-ботов на основе искусственного интеллекта несовершеннолетними.
Как сообщает NBC News :
Сенатор Эдвард Марки заявил, что [Meta] могла бы избежать негативной реакции, если бы прислушалась к его предупреждению два года назад. В сентябре 2023 года Марки написал в письме Цукербергу, что разрешение подросткам использовать чат-боты с искусственным интеллектом «усугубит» существующие проблемы в социальных сетях и создаст слишком много рисков. Он призвал компанию приостановить выпуск чат-ботов с искусственным интеллектом, пока не будет установлено, какое влияние это окажет на несовершеннолетних.
Что, конечно, вызывает обеспокоенность у многих.
Самая большая проблема, связанная с ускоренным развитием искусственного интеллекта и других интерактивных технологий, заключается в том, что мы не до конца понимаем, к каким последствиям может привести их использование. Как мы видели на примере социальных сетей, которые многие юрисдикции пытаются ограничить для подростков старшего возраста , их влияние на молодую аудиторию может быть значительным, и лучше смягчить этот ущерб заранее, а не пытаться бороться с ним в ретроспективе.
Интересно, что похожие вопросы уже поднимались ранее: разработка цифровых ИИ-компаньонов, например, также оценивается экспертами как потенциально опасная практика — об этом я писал здесь: Разработка ИИ-компаньонов может привести к значительному вреду.
Согласно новому отчету The Washington Post , компания Meta неоднократно игнорировала и/или пыталась скрыть сообщения о том, что дети подвергаются сексуальным домогательствам в своих VR-средах, продолжая расширять свой социальный опыт в виртуальной реальности.
Параллельно Meta активно сотрудничает с крупными брендами, и в одной из инициатив даже представила новый опыт взаимодействия в метавселенной — например, McDonald’s запускает VR-опыт в Horizon Worlds от Meta. Это показывает, что компания не только расширяет аудиторию, но и ищет способы монетизации VR.
Различные пользователи Horizon VR сообщали о случаях сексуального насилия, даже виртуального изнасилования , в виртуальной реальности. В ответ на это Meta добавила новые элементы безопасности, такие как личные границы для ограничения нежелательных контактов. Однако даже при наличии дополнительных инструментов безопасности Meta на данном этапе не может противостоять таким ситуациям или учитывать все последствия.
В то же время компания не останавливается и активно внедряет новые технологии — например, недавно Мета добавляет больше инструментов искусственного интеллекта для создания виртуальной реальности, что дополнительно усиливает дискуссию о безопасности.
Компания Meta неоднократно вызывалась в Конгресс для ответа на вопросы о безопасности Instagram и Facebook для подростков, а также о том, что ей известно или известно о потенциальном вреде для юной аудитории.
В этом контексте интересно, что сама Meta экспериментирует с технологиями проверки возраста. Недавно они протестировали функцию Meta расширяет возможности проверки возраста с помощью видеоселфи — решение, которое должно ограничить доступ несовершеннолетних к контенту.
Meta долгое время отрицала какую-либо прямую связь между использованием социальных сетей и психическим здоровьем подростков, хотя различные независимые исследования выявили явную связь. Поэтому не удивительно, что компания вынуждена усиливать уровень защиты. Недавний шаг — Инстаграм добавляет больше функций защиты для молодых пользователей, что подчеркивает готовность компании работать над доверием аудитории.
Впрочем, не всегда пользователи понимают, зачем вообще платформа требует у них те или иные данные. Хороший пример — необходимость подтверждать возраст и личность через селфи. Этому посвящен отдельный материал: Зачем Instagram просит видео селфи?, где я подробно разобрал, как работает эта технология и какие у нее последствия.
