Diriwayatkan, suatu hari Abu Yazid sedang menyusuri sebuah jalan ketika seekor anjing berlari-lari di sampingnya. Namun anjing itu berkata kepada Abu Yazid, “Tubuhku kering dan aku tidak melakukan kesalahan apa-apa. Abu Yazid berkata, “Aku tidak pantas berjalan bersama seekor anjing! Dari arah berlawanan datang seekor anjing. Namun dengan kedudukan setinggi itu, mengapa beliau dan para muridnya justru memberi jalan kepada seekor anjing?
