多年来,我一直在建立网站,主要在网址上。 其中一些地点有 cr,通常每天运行一次。 网址文件存放在服务器上,同时存放网页的档案。
我知道,各种拖网者,无论合法还是非合法,都参观了我的各页。 现在,如果拖网人将访问我的一个 cr手档案,就会引发争执,有时会带来不良结果。
我确信,这种情况从未发生,尽管我对此表示感谢,但我却试图理解原因。 当然,在任何地方与我的任何争斗都没有任何联系,但我很相信,各种拖网者已经访问过其他网页,尽管他们从未有过联系。
其他开发商如何解决这一问题? Put a line in the robots. txt file? 是否允许Conjob-relate php档案?
提前感谢。