Пошуковий робот: відмінності між версіями

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до навігації Перейти до пошуку
[перевірена версія][перевірена версія]
Вилучено вміст Додано вміст
Немає опису редагування
Рядок 1: Рядок 1:
'''Пошуковий робот''' (також {{lang-en|web crawler}}, {{lang-en|web spider}}) — [[комп'ютерна програма|програма]], що є складовою частиною [[пошукова система|пошукової системи]] та призначена для обходу сторінок [[інтернет]]у з метою занесення [[Інформація|інформації]] про них (ключових слів) до [[База даних|бази даних]].
'''Пошуковий робот''' (також {{lang-en|web crawler}}, {{lang-en|web spider}}) — [[комп'ютерна програма|програма]], що є складовою частиною [[пошукова система|пошукової системи]] та призначена для обходу сторінок [[інтернет]]у з метою занесення [[Інформація|інформації]] про них (ключових слів) до [[База даних|бази даних]].


Павуки здійснюють загальний пошук інформації в [[Інтернет]]і. Вони повідомляють про зміст знайденого документа, [[Індекс бази даних|індексують]] його і добувають підсумкову інформацію. Вони також переглядають заголовки, деякі посилання і відправляють проіндексовану інформацію до бази даних пошукового механізму.
Пошукові роботи здійснюють загальний пошук інформації в [[Інтернет]]і. Вони повідомляють про зміст знайденого документа, [[Індекс бази даних|індексують]] його і добувають підсумкову інформацію. Вони також переглядають заголовки, деякі посилання і відправляють проіндексовану інформацію до бази даних пошукового механізму.


{{приєднати|Краулінг|дата=грудень 2017}}
{{приєднати|Краулінг|дата=грудень 2017}}

Версія за 09:13, 28 лютого 2019

Пошуковий робот (також англ. web crawler, англ. web spider) — програма, що є складовою частиною пошукової системи та призначена для обходу сторінок інтернету з метою занесення інформації про них (ключових слів) до бази даних.

Пошукові роботи здійснюють загальний пошук інформації в Інтернеті. Вони повідомляють про зміст знайденого документа, індексують його і добувають підсумкову інформацію. Вони також переглядають заголовки, деякі посилання і відправляють проіндексовану інформацію до бази даних пошукового механізму.

Як закрити сайт від індексації

  1. За допомогою файла robots.txt
  2. За допомогою мета-тегу

Посилання