9. robots.txt
This file restricts the activity of search engine crawlers and stops them from accessing certain pages and directories.
ห้ามลืมทำไฟล์นี้เด็ดขาดแล้วยัดใน Webmaster tools ด้วยนะครับ
ตามความหมายที่เข้าใจจากคำอธิบายภาษาอังกฤษด้านล่าง บอกว่า >>> ไฟล์นี้จำกัดการทำงานของบอทให้วิ่งเข้าเก็บข้อมูล และยับยั้งไม่ให้เข้าไปในหน้าหรือหมวดต่างๆ
แล้วถ้าทำไฟล์นี้ไว้ บอทมันก็ไม่เข้ามาสิคะ
คือแบบว่าทำ SEO ไม่ค่อยเป็นน่ะค่ะ จึงอยากทราบ ช่วยอธิบายข้อดี/ข้อเสีย ของตัวไฟล์ robots.txt หน่อยได้ไหมคะ
ขอบคุณมากๆค่ะ