AI-поиск в Facebook: почему Meta не должна смешивать ваш отпуск с постами про плоскую Землю
Новый AI Mode от Meta использует публичные посты в Facebook и Instagram. Разбираем, насколько это полезно для поиска и где прячутся риски дезинформации.
Новый AI Mode от Meta позволяет искать информацию, основываясь на публичных постах в Facebook, Instagram и Groups. На первый взгляд это идеальный инструмент для поиска локальных событий, но данные, из которых он черпает информацию, могут превратить поиск в настоящую минную зону.
***
Что такое AI Mode и как он «читает» ваш круг общения
Meta анонсировала AI Mode — новый режим в поисковой строке Facebook. По сути, это попытка создать генеративный поисковик, который не просто выдает ссылки, а синтезирует готовый ответ, основываясь на контенте, который пользователи публиковали в экосистеме Meta (Facebook Groups, Instagram Reels и т.д.).
В отличие от традиционных поисковиков, которые индексируют общедоступные веб-страницы, этот инструмент «заземляется» (grounded) в пользовательском контенте. Если для вас важно найти информацию о локальном мероприятии в районном сообществе, где все общаются через Facebook, этот функционал кажется невероятно полезным.
Однако, когда модель начинает синтезировать ответ, используя неструктурированный, эмоционально окрашенный и часто противоречивый контент, мы сталкиваемся с классической дилеммой ИИ: огромная потенциальная польза против катастрофических рисков.
От «отпуска в Канаде» до «самоуверенности в Техасе»: реальные тесты
Автор обзора провел тестирование, чтобы понять, насколько этот AI Mode справляется с задачами реального пользователя. Результаты весьма противоречивы.
В позитивном ключе, ИИMode показал себя вполне надежным для общих рекомендаций. Запрос «Summer escapes near me» (Летний отдых рядом со мной) выдал вполне логичные и очевидные варианты — острова Уидби, горы Рейнир. Это подтверждает его потенциал как инструмента для планирования поездок.
Но как только запрос становится более специфичным или требует высокой точности, система начинает «галлюцинировать» (hallucinate) или, что еще хуже, цитировать неверные источники.
В одном из примеров ИИ предложил посетить кафе с игровой зоной для детей, которое физически находилось в Остине (Техас), хотя пользователь находился в другом регионе. Это не просто ошибка — это смешение географических данных, которое может привести к полной потере времени и денег.
Самый показательный сбой произошел с локальным мероприятием: ИИ посоветовал посетить бассейн, основываясь на цитате из поста, но сама цитата была неверна или устарела. В итоге, пользователь обнаружил, что сервис не только не смог подтвердить данные, но и указал на несуществующий источник.
Почему заземление на посты — это двойное оружие
Главная проблема Meta AI Mode заключается не в самой технологии, а в источнике данных. Социальные сети — это не база данных фактов. Это поток человеческого общения, где смешиваются эмоции, слухи, шутки, политические мнения и реальные факты.
Именно здесь и возникает риск «странного кузена из старшей школы, который считает, что Земля плоская».
Вместо того чтобы быть полезным инструментом для поиска локальных групп, он рискует стать идеальным генератором дезинформации. Как показал тест, модель с легкостью выдала «теоретическое обоснование» действий участников беспорядков 6 января, — именно тот тип контента, который можно встретить в ленте Facebook, но который не является фактом.
По сути, Meta предоставляет инструмент, который умеет читать ваш «странный uncle’s post» (пост странного дяди), но при этом не имеет встроенного фильтра, отделяющего субъективное мнение от верифицированного факта.
Что это значит для разработчиков и продуктологов
Для тех, кто работает с AI и поисковыми системами, эта ситуация — идеальный кейс-стади о границе между генеративным поиском и социальными сетями.
- Не доверяйте цитате: Если AI-ответ основан на ссылке на социальный пост, относитесь к нему как к «мнению», а не как к «факту». Всегда проверяйте первоисточник.
- Контекст важнее данных: Если вам нужен факт (например, часы работы бассейна), используйте официальные, закрытые API. Если вам нужен тренд или общее настроение в сообществе, — AI Mode может быть полезен.
- Проблема «шума»: Пока крупные модели не научатся эффективно фильтровать социальный шум (сатира, слухи, личные эмоции) от верифицируемой информации, попытки создать универсальный AI-поиск на базе соцсетей будут обречены на критику.
Пока Meta не решает проблему верификации, AI Mode остается блестящей технической демонстрацией, но не надежным продуктом для принятия важных решений.
***
Вывод: AI Mode — это не «волшебная палочка» для идеального отпуска. Это мощное, но крайне нефильтрованное зеркало, которое отражает всю грязь и гениальность публичного общения в Meta. Пока мы не получим более жесткие механизмы верификации данных, лучше использовать его для вдохновения, а не для планирования.