П О Р Т А Л                            
С Е Т Е В Ы Х                          
П Р О Е К Т О В                        
  
Поиск по сайту:
                                                 
Главная

О проекте

Web-мастеру
     HTML & JavaScript
     SSI
     Perl
     PHP
     XML & XSLT
     Unix Shell

MySQL

Безопасность

Хостинг

Другое








Самое читаемое:

Учебник PHP - "Для Чайника".
Просмотров 175050 раз(а).

Иллюстрированный самоучитель по созданию сайтов.
Просмотров 72026 раз(а).

Учебник HTML.
Просмотров 72099 раз(а).

Руководство по PHP5.
Просмотров 42718 раз(а).

Хостинг через призму DNS.
Просмотров 49208 раз(а).

Подборка текстов стандартных документов.
Просмотров 43138 раз(а).

Учебник PHP - Самоучитель
Просмотров 49476 раз(а).

Документация на MySQL (учебник & справочное руководство)
Просмотров 49737 раз(а).

Внешние атаки...
Просмотров 40267 раз(а).

Учебник PHP.
Просмотров 35299 раз(а).

SSI в примерах.
Просмотров 26574 раз(а).



 
 
| Добавить в избранное | Сделать стартовой | Помощь




Руководство по URL преобразованиям
Ограничение доступа

Блокирование роботов

Описание:

Как мы можем заблокировать действительно надоедливых роботов на получение страниц из специфических областей сайта? Файла /robots.txt содержащего записи «Robot Exclusion Protocol» обычно недостаточно для избавления от такого робота.

Решение:

Мы используем набор правил запрещающие доступ для роботов к URL из веб-пространства /~quux/foo/arc/ (возможно это пространство имеет очень глубокую иерархию каталогов, обход которой роботом, привел бы к очень большой нагрузке на сервер). Мы должны убедиться что запрещается доступ только для конкретного робота, т.е. просто запрет для хоста с которого работает робот недостаточен. Это, также блокировало бы доступ пользователей с этого хоста. Этого эффекта мы добьемся проверяя также информацию из HTTP заголовока User-Agent.

RewriteCond %{HTTP_USER_AGENT}   ^NameOfBadRobot.*
RewriteCond %{REMOTE_ADDR}       ^123\.45\.67\.[8-9]$
RewriteRule ^/~quux/foo/arc/.+   -   [F]



[ Назад ] [ Содержание ] [ Вперед ]



Если Вы не нашли что искали, то рекомендую воспользоваться поиском по сайту:
 





Copyright © 2005-2016 Project.Net.Ru