«Добавьте клей в соус для пиццы». Спросили у эксперта из Google, как ИИ изменил поиск информации
Эксперт обращает внимание, что сегодня при поиске информации часть работы берут на себя ИИ-системы.
Раньше мы вводили в Google свой запрос, нам выдавали десять ссылок. Мы кликали на каждую, просматривали информацию и решали, этот сайт стоит нашего доверия или нет. Таким образом, у пользователя постепенно вырабатывалась собственная интуиция оценки качества информации. Сейчас это во многом исчезает», — объяснила Дана Мукушева.
При традиционном поиске человек мог оценить надежность материала по нескольким признакам: авторству, репутации сайта, качеству содержания, наличию ошибок или сомнительной рекламы.
В итоге это экономит время, но одновременно меняет подход к проверке информации. Как результат, пользователю становится сложнее понять, какие источники легли в основу ответа и не допустила ли система ошибку при их обобщении.
Дана Мукушева привела такой пример: функция Google AI Overviews предложила пользователю добавить клей в соус для пиццы, чтобы сыр не соскальзывал с теста. Как позже выяснилось, источником совета стал шуточный комментарий, опубликованный на Reddit много лет назад.
ИИ может использовать информацию из источника, не распознав ее контекст, иронию или намерение автора», — обращает внимание эксперт.
По ее мнению, развитие генеративных поисковых систем требует не только совершенствования моделей, но и новых способов проверки качества их ответов. Она сделала акцент на понятии groundedness — обоснованность ответа исходными источниками. Проще говоря, наличие ссылки само по себе не гарантирует достоверность, т. к. источник может содержать ошибку, устаревшую информацию или утверждение, вырванное из контекста. Эксперт убеждена: недостаточно проверить, что ответ соответствует источнику, нужно еще оценивать, насколько сам источник надежен и актуален.
Мукушева назвала еще одной важной задачей калибровку ИИ-ответов: если несколько источников противоречат друг другу, система должна не скрывать расхождения за единым уверенным ответом, а показывать пользователю существующую неопределенность.
По ее словам, разработчикам сегодня важно понимать, что качество ИИ-поиска определяется не только скоростью получения информации, но и тем, чтобы пользователь мог проверить выводы системы и понять, на чем они основаны.
Эти требования актуальны и за пределами поисковых систем — для ИИ-инструментов, которые применяются в аналитике, исследованиях, программировании и корпоративных решениях», — добавила она.