ربات وب سایت چیست؟

ربات وب سایت چیست؟

ربات وب سایت چیست؟

ربات وب سایت برنامه ای است که به طور خودکار و به صورت بازگشتی اطلاعات و محتوای سند وب سایت را بازبینی می کند.

رایج ترین انواع ربات ها موتور جستجوی عنکبوتی است، این نوع ربات ها از وب سایت ها بازدید می کنند و لینک ها را برای اضافه کردن اطلاعات به موتور جستجو دنبال می کنند.

ربات های وب اغلب با نام های مختلفی ذکر شده است ، ممکن است یکی از این نام ها را شنیده باشید.

  • عنکبوتی
  • ربات
  • خزنده

تمام این ها در واقع یک معنی دارند، ربات جز اصلی ترین نام ها محسوب می شود. ربات ها به خودی خود از طریق سایت ها در حال حرکت نیستند بلکه به صورت سیستماتیک برنامه ریزی شده اند.

پیروی ربات های وب از قوانین

این امکان وجود دارد که هنگام نوشتن ربات قوانین را نادیده گرفت ، بسیاری از ربات های وب به اطاعت از قوانین در یک فایل متنی نوشته شده اند. این قوانین در فایل Robots.txt قرار دارد و آن را می توانید در ریشه وب سرور پیدا کنید.

به خاطر داشته باشید در حالی که بسیاری از ربات های وب سایت از قوانین پیروی می کنند اما برخی از ربات ها وجود دارد که وارد فایل Robots.txt شده و تغییراتی را به وجود می آورند. اگر اطلاعات شما حساس است بهتر است که دسترسی به این فایل از طریق رمز عبور باشد.

ربات های وب چگونه کار می کنند؟

شایع ترین استفاده ربات های وب در صفحه اصلی (index) یک سایت برای معرفی به موتور های جستجو است. اما ربات ها را می توان برای مقاصد دیگری هم استفاده کرد ، برخی از این کاربرد ها عبارت اندز:

  • اعتبار لینک: ربات ها می توانند تمام لینک های یک وب سایت یا صفحه را دنبال ، تست و … کنند تا مطمئن شوند که تمام لینک به  یک صفحه  معتبر ارجاع داده می شوند. دقت انجام این کار بستگی به برنامه نویسی دارد. ربات ها می توانند تمام لینک های یک صفحه را در یک یا دو دقیقه بررسی و گزارشی از نتایج آن را بسیار سریعتر از انسان ارائه دهند.
  • اعتبار سنجی HTML: تقریبا مشابه اعتبار لینک ها می باشد. ربات ها را می توان به صفحات مختلف یک سایت فرستاد تا برنامه نویسی HTML را بررسی کند و از ایرادات آن گزارشی ارائه دهد.
  • تغییر مانیتورینگ: ربات ها سرویس در دست دارند که اگر تغییراتی روی سایت انجام گیرد به شما اطلاع می دهد این سرویس ربات را به صورت دوره ای به ارزیابی صفحات وب سایت می فرستد و اگر تغییراتی وجود داشت در یک فایل به شما اطلاع خواهد داد.

نظر شما

لطفا نام و نام خانوادگی خود را وارد کنید
لطفا ایمیل خود را وارد کنید لطفا ایمیل صحیح وارد کنید.
لطفا متن نظر خود را وارد کنید
>

مفاهیم طراحی وب

مقالات و دروس

به خبرنامه مدرسه طراحی وب ایران (وب مهراز) بپیوندید.

لطفا شماره همراه صحیح وارد کنید.
لطفا ایمیل صحیح وارد کنید.

مقالات مرتبط