Setting dan Mengenal Robot.Txt pada Blogger Webmaster

---

Robot.txt yang berada di webmaster tool adalah sebuah root (akar) pada sebuah situs. untuk mempelajari tentang file robots txt blog belajar berbagi akan mengupas dan menyajikannya untuk anda simak hingga tuntas, sehingga anda akan disulap untuk menjadi seorang yang mengenal dan memahami  robot.txt pada webmaster tools sampai menjadi mahir dalam menguasainya. tentu dengan syarat harus melahap tulisan ini sampai tuntas.

Sebelum anda mengetahui lebih jauh robot.txt, sebaiknya anda mendaftarkan situs anda di webmaster tools. jika sudah mendaftar pada webmaster tools, silahkan terbang ke perayapan » penguji robots.txt

Contoh Defauld Robot.Txt

Secara defauld robot.txt yang ada di webmaster tools milik belajar berbagi seperti dibawah ini

User-agent: Mediapartners-Google
Disallow:

User-agent: *
Disallow: /search
Allow: /

Sitemap: http://imoul.blogspot.com/sitemap.xml

Keterangan: 
User-agent: Mediapartners-Google: adalah sebagai perintah mengizinkan robots craw adsense untuk mengindeks seluruh website atau blog yang relevan dan tidak ada kaitannya dengan google search engine. jika anda sudah memiliki adsense maka jangan pernah menghapusnya karena sangat menguntungkan bagi situs anda.

Disallow: artinya tidak ada batasan halaman untuk dirayapi oleh google

User-agent: *: seluruh search engine atau mesin pencari yang diwakili oleh tanda * tersebut

Disallow: /search: melarang robots google untuk merayapi labels yang berawalan /search contohnya http://imoul.blogspot.co.id/search/label/AdSense

Allow: /: memberiarkan robots google merayapi seluruh halaman situs website/blog anda

Sitemap: adalah sebuah alamat feed blog anda yang berisikan url-url halaman yang sudah anda buat misalnya judul postingan blog. untuk mengetahuinya silahkan rubah http://imoul dengan nama situs anda yang diakhiri /sitemap.xml

Fungsi dari Robot.Txt

Ada 3 buah fungsi robot.txt yang saya pelajari langsung dari google webmaster tools diantaranya adalah file non gambar » file gambar dan file sumber daya.

• Non Gambar robot.txt hanya digunakan untuk mengontrol lalu lintas perayapan dan jangan menyia-nyiakan lalu lintas ini karena dapat mengakibatkan overload atau kelebihan perayapan yang tidak penting untuk dirayapi oleh google. 
• robot.txt bisa mencegah file gambar yang muncul di hasil pencarian google akan tetapi robot txt tidak mencegah halaman yang ditautkan oleh pengguna lain yang ngelink ke file gambar anda tersebut
• File sumber daya berfungsi untuk memblokir file gambar yang menurut anda tidak penting. 

Untuk mengetahui keseluruhan tentang robot.txt webmaster seperti mempelajari tentang file robots.txt, membuat file robot.txt, menguji dengan penguji robots.txt, mengirim robots.txt yang diperbaharui di google, sebaiknya saya rekomendasikan kepada anda untuk membaca dan mempelajari seluruh tentang robot.txt yang ada di webmaster tools.

Untuk setting robot txt pada blog silahkan anda login ke blogger anda » setelan » Preferensi penelusuran » robot.txt khusus

Aktifkan konten robots.txt khusus? jadikan Ya dan masukan kode dibawah ini dan klik simpan perubahan

User-agent: Mediapartners-Google
Disallow:

User-agent: *
Disallow: /search
Allow: /

Sitemap: http://imoul.blogspot.com/sitemap.xml

Lalu pada Tag tajuk robot khusus, Aktifkan tag tajuk robot khusus? jadikan Ya dan ikuti perintahnya dibawah ini

Pada bagian Beranda conteng All;

Laman Arsip dan Penelusuran: conteng noindex, nofollow, noarchive

Default untuk Pos dan Laman: conteng All

Setelah selesai klik simpan perubahan

Karena waktu berbuka puasa sebentar lagi, maka saya akhiri tulisan tentang cara setting dan mengenal robot.txt pada blogger webmaster. semoga bermanfaat dan happy blogging

Anda Berada di Label Webmaster

• Cara Agar Postingan Baru pada Blog Cepat Terindex Google
• Memperbaiki Kesalahan Perayapan 404 di Webmaster
• Tutorial Mendaftar Webmaster Tools Sampai Submit Peta Situs
• Tools Produk Google Yang Berkaitan dengan Blog
• Penyebab Blog Tidak Terindex di Google dan Mengatasinya
• Cara Agar Halaman Beranda Blog Cepat Diindex Google
• Cara Mencegah Link Asing yang Menuju Blog Kita
• Cara Mengecek Jumlah Backlink pada Blog
• Setting dan Mengenal Robot.Txt pada Blogger Webmaster
• Apa itu Fetch as Google Webmaster Tools
• Penyebab Blog Hilang dari Google dan Cara Mengatasinya