موتورهای جستجو از روباتها (یا به اصطلاح User-Agents) برای خزیدن صفحات شما استفاده میکنند. فایل robots.txt یک فایل متنی است که مشخص میکند کدام بخش از دامنه میتواند توسط ربات خزیده شود. علاوه بر این، فایل robots.txt میتواند شامل پیوندی به نقشه سایت XML باشد. با استفاده از Ryte میتوانید این فایل را ایجاد کنید.