Продвижение наступает с попадания страниц сайта в индекс поисковых (ПС). В эти базы Яндекс, Google и другие сервисы заносят информацию о содержимом страничек: использованных на них ключевых словах, размещённом на их контенте и другую информацию. Затем, когда юзер обращается к ПС с запросом, сервис анализирует собранные данные и подбирает более благоприятные варианты ответа из списка проиндексированных страничек закрытие сайта от индексации в robots txt. Сканирование страниц вебсайта — это процесс, когда машина отправляет средства особые программы (мы знаем их как поисковых роботов, краулеров, спайдеров, пауков) для сбора данных с свежих и измененных страничек сайтов. Индексация страниц сайта — это сканирование, считывание данных и прибавление их в индекс (каталог) поисковыми роботами.
Поисковик применяет полученную информацию, чтобы разузнать, о все-таки ваш вебсайт и что находится на его страницах. После сего ему найти главные слова для каждой просканированной странички и сохранить их копии в поисковом индексе. Для любой странички он хранит url и информацию о контенте. В результате, когда пользователи вводят в в онлайне, поисковик скоро просматривает свой список просканированных вебсайтов и демонстрирует лишь релевантные странички в выдаче. Как библиотекарь, который отыскивает нужные вам книжки в каталоге — по алфавиту, теме и четкому наименованию.