گزینش استثنا برای دسترسی به محتوای دایرکتوری
درحال حاضر قصد داریم پاره ای درباره وردپرس سخن بزنیم و یک فولدر robots txt برای وردپرس به صورت با صرفه گردیده و مطلوب تولید کنیم. فرمان ذیل که در اکثری از تارنماهای وردپرس به کار گیری می گردد بهاین معناست که کل رباتها به فایل wp-admin دسترسی نداشته باشند البته به پوشه admin-ajax.php که درین فولدر میباشد دسترسی پیدا نمایند. ولی بودن اینگونه دستوراتی در فولدر robots.txt ضرری هم ندارد هر چندین ربات بضاعت و توان داخل شدن به گوشه و کنار ادمین وردپرس را ندارد البته اشتباه در کدنویسی هم از سمت گوگل و هم از سمت ما به طور طبیعی قابلیتپذیر میباشد. در شرایطی که دقت کرده باشید ما دراین نوشتهی علمی یک توشه از کیورد User-agent استعمال کردیم و آنگاه ۲ خط امر وارد کردیم، شما میتوانید به تعداد دلخواه سئو در مشهد دستورها مایحتاج را در هر خط وارد فرمایید.
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
نمونه هفت – غلط رایج
یک کدام از دیگر از دستورها رایج و غلط از نظر یک کارشناس بهینه سازی در پوشه robots.txt وردپرس که در بخش اعظمی از تارنماهای دارای اسم و رسم اهل ایران استعمال می شود کدهای پایین می باشند. عبد شخصاً در هیچیک از وبسایتهای دارای اعتبار فرنگی که دارنده سیستم مدیر محتوا وردپرس میباشند اینگونه کدهایی را پیدا نکردم. عدم دسترسی به wp-includes که در آن چندین پوشههای اصلی مثل جی کوئری میباشد منجر می گردد تارنما به آن شکلی که می بایست برای موتور کاوش اکران دهد، خروجی نگیرد. تارنماهای مثل یوآست، نیل پتل، searchengineland و دهها تارنما پر اسم و رسم وردپرس که در سوژه seo صاحب و مالکنظرهای جهانی میباشند از اینگونه دستوراتی که منجر عدم دسترسی به پوشههای wp-includes میشود به کارگیری نمی کنند، حتی تارنما یوآست در این نوشتهعلمی اشارهکرده اینگونه دستوراتی نادرست میباشد و سبب بسته شدن رباتها به برخی پوشهها میگردد که برای بهینه سازی وب سایت خوشایند وجود ندارد.
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
[box type=”info” align=”” class=”” width=””]نکته: در نمونه فوق disallow کردن /wp-includes/ را تحت عنوان غلط رایج معرفی کردهایم، خیر /wp-admin/. درج /wp-admin/ در فولدر robots.txt وردپرس یک طریق پیشفرض میباشد و ترجیح دادیم در هرمثال آن را در اختیار بگذاریم. (اما Disallow کردن /wp-admin/ ورژنای وجود ندارد که بشود برای تمامی وب سایتها پیچید و به طور کاملً بستگی به وب سایت داراست)[/box]
نمونه هشت – عدم دسترسی به آدرسی با کاراکتر خاص
امر تحت هنگامی کاربرد داراست که شما در نشانیهای خویش کاراکتری مانند ? را داشته باشید چراکه گاهی به جهت ایرادات فنی در تارنما، نوشتهی علمی شما ممکن میباشد با نشانیهای متفاوت و با مقادیر مختلف نشر پیدا نماید. به همین خواسته فرمان ذیل را به صورت موقت درج میکنید تا رباتها نشانیهای دارنده کاراکتر آرم سؤال را ایندکس نکنند.
User-agent: *
Disallow: /*?
در نمونه ذیل با درج $ تأکید میکنیم که در شرایطیکه در انتهای آدرسی نشان پرسش (?) بود، آن نشانی می بایست Disallow خواهد شد. در سود نمونه زیر یعنی هیچ رباتی اذنی خزش نشانیهایی که با ? کل میگردند را ندارند. درین وضعیت نشانیهایی که با ? به اتمام نمی رسند در لحاظ گرفته نمی شوند.
User-agent: *
Disallow: /*?$
درصورتیکه در پی نمونه های بیشتری میباشید نوشته ی علمی Robots.txt Specifications گوگل هم میتواند برای شما اثرگذار باشد.
آزمایش فولدر robots.txt در سرچ کنسول گوگل
در غایت بعداز ساختن فولدر robots.txt دفعه به آزمایش و درستی کارکرد آن میرسد.
[box type=”warning” align=”” width=””]آپ تو دیت 2020: اعتنا داشته باشید در نسخه نو سرچ کنسول قابلیت و امکان آزمایش پوشه robots.txt نیست. برای آزمایش این فولدر از این پیوند وارد گردید. در صورتی با خطایی مواجه شدید URL تارنما (برای مثال http://mizfa.com) را در سرچ کنسول تحت عنوان property تازه اضافه فرمائید و دوباره تست فرمایید.[/box] گوگل در قسمتی از سرچ کنسول خویش موقعیت رایگانی برای آزمایش فولدر robotx.txt مهیا نموده است. بهاین خواسته وارد سرچ کنسول (وبمسترتولز) گردید
در منوهای جان دار سرچ کنسول “Crawl” را گزینش فرمائید.
آنگاه زیرمنوی “robots.txt Tester.” را تعیین کرده تا ابزار آزمایش این فولدر را ببینید.
در سمت راست دستوراتی را مشاهده می کنید که در فولدر robots.txt درج کرده بودید. این نشانه دهنده این میباشد که شما به صحت این پوشه را ساختوساز کردهاید و جای آن درست میباشد.
چنانچه قصد دارید مطمئن گردید که آیا ربات به آدرسی دسترسی داراست یا این که خیر، می توانید در بخش “Enter a URL to test if it is blocked” نشانی را وارد فرمائید و نوع ربات گوگل را هم معلوم نمائید و دکمه آزمایش را بزنید
در حالتی که با پیغام “ALLOWED” مواجه شدید به معنای آن میباشد که ربات گوگل به آن دایرکتوری دسترسی داراست در غیر این شکل با پیغام “BLOCKED” روبهرو میشوید که بنی بر آن میباشد که ربات دسترسی به آن نشانی (دایرکتوری) را ندارد.
داده ها بیشتر درباره آزمایش پوشه robots.txt در وب سایت گوگل ببینید.
یک سری نکته آخری درباره پوشه robots.txt
رباتهای خزنده و یا این که برخی رباتهای موتورهای کاوش ممکن میباشد به امرها جانور در فولدر robots.txt که درجگردیده را نادیده بگیرند. مخصوصاً رباتهای اسپم یا این که مالور (malware robots) که برای جراحتپذیری، وبسایتها را سوای اعتنا بدین مسائل نسخه برداری مینمایند. و پیرو نشانی اینترنتی یوزرها یا این که مفاد دیگر می باشند.
ممکن میباشد متدهای پوشه robots.txt را با متاتگ robots به غلط بگیرید برای همین توصیه می گردد که مسلما نوشتهعلمی کوتاه و موثر تفاوت فولدر robots.txt با متاتگ robots را بخوانید.
موتورهای کاوش محتوای فولدر robots.txt را کَش مینمایند البته معمولا محتوای کش گردیده را روزی دستکم یک توشه آپ تو دیت رسانی مینمایند. با این حالا شما در شرایطیکه میل دارید پس از تغییرات دراین فولدر، موتورهای کاوش سریعخیس کش را آپ تو دیت نمایند فولدر خویش را در این نشانی گوگل ارسال نمائید. حرف از Cache شد، آیا میدانستید که کش کردن وبسایت تأثیرات فوقالعادهای روی سرعت تارنماهایی با ترافیک بالا دارااست؟ رویه و چاهش در نوشتهی علمی شایسته ترین پلاگین کش وردپرس!
خب امیدوارم از فراگیری تشکیل داد پوشه robots.txt و نکات بهدنبال آن به کارگیری کردهباشید و صرف لحاظ از اینکه از وردپرس، جوملا یا این که هر CMS دیگری به کار گیری می کنید بتوانید براحتی robots.txt بسازید. هرچند برای ساخت و ساز پوشه robots.txt برای وردپرس و دیگر سی ام اس ها مثل جوملا نمونههایی ارائه دادیم؛ ولی فراموش نکنید که قابلیت ندارد یک پوشه را تحت عنوان شایسته ترین فولدر robots.txt مطلوب وردپرس یا این که CMSهای دیگر درنظر گرفت و برای همگیی وبسایتها از به عبارتی یک پوشه به کار گرفت.
حقیقت در حالتیکه شما هم تجربیاتای درباره شیوه کارکرد و ایجاد کرد فولدر robots.txt دارید خرسند میشیم در نظرها به اشتراک بگذارید :-)ر سایتی ضوت داراست؟”
گزینش استثنا برای دسترسی به محتوای دایرکتوری
درحال حاضر قصد داریم پاره ای درباره وردپرس سخن بزنیم و یک فولدر robots txt برای وردپرس به صورت با صرفه گردیده و مطلوب تولید کنیم. فرمان ذیل که در اکثری از تارنماهای وردپرس به کار گیری می گردد بهاین معناست که کل رباتها به فایل wp-admin دسترسی نداشته باشند البته به پوشه admin-ajax.php که درین فولدر میباشد دسترسی پیدا نمایند. ولی بودن اینگونه دستوراتی در فولدر robots.txt ضرری هم ندارد هر چندین ربات بضاعت و توان داخل شدن به گوشه و کنار ادمین وردپرس را ندارد البته اشتباه در کدنویسی هم از سمت گوگل و هم از سمت ما به طور طبیعی قابلیتپذیر میباشد. در شرایطی که دقت کرده باشید ما دراین نوشتهی علمی یک توشه از کیورد User-agent استعمال کردیم و آنگاه ۲ خط امر وارد کردیم، شما میتوانید به تعداد دلخواه سئو در مشهد دستورها مایحتاج را در هر خط وارد فرمایید.
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
نمونه هفت – غلط رایج
یک کدام از دیگر از دستورها رایج و غلط از نظر یک کارشناس بهینه سازی در پوشه robots.txt وردپرس که در بخش اعظمی از تارنماهای دارای اسم و رسم اهل ایران استعمال می شود کدهای پایین می باشند. عبد شخصاً در هیچیک از وبسایتهای دارای اعتبار فرنگی که دارنده سیستم مدیر محتوا وردپرس میباشند اینگونه کدهایی را پیدا نکردم. عدم دسترسی به wp-includes که در آن چندین پوشههای اصلی مثل جی کوئری میباشد منجر می گردد تارنما به آن شکلی که می بایست برای موتور کاوش اکران دهد، خروجی نگیرد. تارنماهای مثل یوآست، نیل پتل، searchengineland و دهها تارنما پر اسم و رسم وردپرس که در سوژه seo صاحب و مالکنظرهای جهانی میباشند از اینگونه دستوراتی که منجر عدم دسترسی به پوشههای wp-includes میشود به کارگیری نمی کنند، حتی تارنما یوآست در این نوشتهعلمی اشارهکرده اینگونه دستوراتی نادرست میباشد و سبب بسته شدن رباتها به برخی پوشهها میگردد که برای بهینه سازی وب سایت خوشایند وجود ندارد.
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
[box type=”info” align=”” class=”” width=””]نکته: در نمونه فوق disallow کردن /wp-includes/ را تحت عنوان غلط رایج معرفی کردهایم، خیر /wp-admin/. درج /wp-admin/ در فولدر robots.txt وردپرس یک طریق پیشفرض میباشد و ترجیح دادیم در هرمثال آن را در اختیار بگذاریم. (اما Disallow کردن /wp-admin/ ورژنای وجود ندارد که بشود برای تمامی وب سایتها پیچید و به طور کاملً بستگی به وب سایت داراست)[/box]
نمونه هشت – عدم دسترسی به آدرسی با کاراکتر خاص
امر تحت هنگامی کاربرد داراست که شما در نشانیهای خویش کاراکتری مانند ? را داشته باشید چراکه گاهی به جهت ایرادات فنی در تارنما، نوشتهی علمی شما ممکن میباشد با نشانیهای متفاوت و با مقادیر مختلف نشر پیدا نماید. به همین خواسته فرمان ذیل را به صورت موقت درج میکنید تا رباتها نشانیهای دارنده کاراکتر آرم سؤال را ایندکس نکنند.
User-agent: *
Disallow: /*?
در نمونه ذیل با درج $ تأکید میکنیم که در شرایطیکه در انتهای آدرسی نشان پرسش (?) بود، آن نشانی می بایست Disallow خواهد شد. در سود نمونه زیر یعنی هیچ رباتی اذنی خزش نشانیهایی که با ? کل میگردند را ندارند. درین وضعیت نشانیهایی که با ? به اتمام نمی رسند در لحاظ گرفته نمی شوند.
User-agent: *
Disallow: /*?$
درصورتیکه در پی نمونه های بیشتری میباشید نوشته ی علمی Robots.txt Specifications گوگل هم میتواند برای شما اثرگذار باشد.
آزمایش فولدر robots.txt در سرچ کنسول گوگل
در غایت بعداز ساختن فولدر robots.txt دفعه به آزمایش و درستی کارکرد آن میرسد.
[box type=”warning” align=”” width=””]آپ تو دیت 2020: اعتنا داشته باشید در نسخه نو سرچ کنسول قابلیت و امکان آزمایش پوشه robots.txt نیست. برای آزمایش این فولدر از این پیوند وارد گردید. در صورتی با خطایی مواجه شدید URL تارنما (برای مثال http://mizfa.com) را در سرچ کنسول تحت عنوان property تازه اضافه فرمائید و دوباره تست فرمایید.[/box] گوگل در قسمتی از سرچ کنسول خویش موقعیت رایگانی برای آزمایش فولدر robotx.txt مهیا نموده است. بهاین خواسته وارد سرچ کنسول (وبمسترتولز) گردید
در منوهای جان دار سرچ کنسول “Crawl” را گزینش فرمائید.
آنگاه زیرمنوی “robots.txt Tester.” را تعیین کرده تا ابزار آزمایش این فولدر را ببینید.
در سمت راست دستوراتی را مشاهده می کنید که در فولدر robots.txt درج کرده بودید. این نشانه دهنده این میباشد که شما به صحت این پوشه را ساختوساز کردهاید و جای آن درست میباشد.
چنانچه قصد دارید مطمئن گردید که آیا ربات به آدرسی دسترسی داراست یا این که خیر، می توانید در بخش “Enter a URL to test if it is blocked” نشانی را وارد فرمائید و نوع ربات گوگل را هم معلوم نمائید و دکمه آزمایش را بزنید
در حالتی که با پیغام “ALLOWED” مواجه شدید به معنای آن میباشد که ربات گوگل به آن دایرکتوری دسترسی داراست در غیر این شکل با پیغام “BLOCKED” روبهرو میشوید که بنی بر آن میباشد که ربات دسترسی به آن نشانی (دایرکتوری) را ندارد.
داده ها بیشتر درباره آزمایش پوشه robots.txt در وب سایت گوگل ببینید.
یک سری نکته آخری درباره پوشه robots.txt
رباتهای خزنده و یا این که برخی رباتهای موتورهای کاوش ممکن میباشد به امرها جانور در فولدر robots.txt که درجگردیده را نادیده بگیرند. مخصوصاً رباتهای اسپم یا این که مالور (malware robots) که برای جراحتپذیری، وبسایتها را سوای اعتنا بدین مسائل نسخه برداری مینمایند. و پیرو نشانی اینترنتی یوزرها یا این که مفاد دیگر می باشند.
ممکن میباشد متدهای پوشه robots.txt را با متاتگ robots به غلط بگیرید برای همین توصیه می گردد که مسلما نوشتهعلمی کوتاه و موثر تفاوت فولدر robots.txt با متاتگ robots را بخوانید.
موتورهای کاوش محتوای فولدر robots.txt را کَش مینمایند البته معمولا محتوای کش گردیده را روزی دستکم یک توشه آپ تو دیت رسانی مینمایند. با این حالا شما در شرایطیکه میل دارید پس از تغییرات دراین فولدر، موتورهای کاوش سریعخیس کش را آپ تو دیت نمایند فولدر خویش را در این نشانی گوگل ارسال نمائید. حرف از Cache شد، آیا میدانستید که کش کردن وبسایت تأثیرات فوقالعادهای روی سرعت تارنماهایی با ترافیک بالا دارااست؟ رویه و چاهش در نوشتهی علمی شایسته ترین پلاگین کش وردپرس!
خب امیدوارم از فراگیری تشکیل داد پوشه robots.txt و نکات بهدنبال آن به کارگیری کردهباشید و صرف لحاظ از اینکه از وردپرس، جوملا یا این که هر CMS دیگری به کار گیری می کنید بتوانید براحتی robots.txt بسازید. هرچند برای ساخت و ساز پوشه robots.txt برای وردپرس و دیگر سی ام اس ها مثل جوملا نمونههایی ارائه دادیم؛ ولی فراموش نکنید که قابلیت ندارد یک پوشه را تحت عنوان شایسته ترین فولدر robots.txt مطلوب وردپرس یا این که CMSهای دیگر درنظر گرفت و برای همگیی وبسایتها از به عبارتی یک پوشه به کار گرفت.
حقیقت در حالتیکه شما هم تجربیاتای درباره شیوه کارکرد و ایجاد کرد فولدر robots.txt دارید خرسند میشیم در نظرها به اشتراک بگذارید :-)ر سایتی ضوت داراست؟”

شالوده و اساس الگوریتم های گوگل