Erzincan Binali Yıldırım Üniversitesi'nin kuruluşu, 01.03.2006 tarih ve 5467 sayılı Kanun'un yürürlüğe girmesiyle gerçekleşmiştir. Üniversitenin kuruluşunun ardından hızla gelişen bu kurum bünyesinde çeşitli fakülteler ve yüksekokullar kurulmuştur. Bu kuruluşlar arasında yer alan Yabancı Diller Yüksekokulu, üniversitenin kurulduğu tarihten sonra kurulan yüksekokullardan biridir.
Yabancı Diller Yüksekokulu'nun kuruluşuna kadar, üniversitede yabancı dil eğitim-öğretim hizmetleri Erzincan Üniversitesi Türkçe ve Yabancı Dil Öğretimi Uygulama ve Araştırma Merkezi (TÖMER) ve Yabancı Dil Hazırlık Sınıfları Koordinatörlüğü tarafından yürütülmüştür. Ancak, Yabancı Diller Yüksekokulu'nun kurulmasıyla birlikte, hazırlık sınıfları daha yoğun ve çağdaş bir seviyede yabancı dil eğitim programına bu yüksekokul bünyesinde devam etmektedir.
Bu çerçevede, hazırlık eğitimi ve 2547 sayılı kanunun 5/i maddesi gereğince, fakülte/yüksekokul lisans programlarında verilen zorunlu "Temel Yabancı Dil", "İleri Yabancı Dil" ve "Mesleki Yabancı Dil" dersleri, Yabancı Diller Yüksekokulu tarafından yürütülmektedir. Bu düzenleme, üniversitede yabancı dil eğitiminin kalitesini artırmayı ve öğrencilere daha etkili bir dil eğitimi sunmayı amaçlamaktadır.