Программный модуль поисковой системы, осуществляющий обход интернет-сайтов с целью сканирования нового контента и получения информации о созданных страницах. Все полученные сведения отправляются на вычислительные сервера ПС для дальнейшего анализа и занесения в базу. При изучении веб-ресурсов поисковый робот руководствуется инструкциями из файла robots.txt