Türbe, Ahmediye Camii'nin mihrab duvarı önündedir. 947 (1540) yılında vefat eden ve Ahmediye Camii yerindeki ilk mabedin bânisi olan Kefçe Dede'nin kabri üzerine 1722 tarihinde yaptırılmıştır.
Bir halk söylentisine göre, şimdiki Ahmediye Camii'nin bânisi Tersane Emini Ahmet Ağa, kendisine bir türbe yaptırmak istemiş fakat gördüğü bir rüya üzerine bundan vazgeçerek Kefçe Dede namıyla şöhret bulan Mehmet Dede'nin kabri üzerine görülen bu türbeyi yaptırmıştır.