1961年，腾格尔出生在内蒙古鄂尔多斯鄂托克旗，家中一共兄妹5人。
很小的时候腾格尔就接触了音乐，因为他的父亲是当地非常有名的民间歌手，父亲也希望把自己的长处传授给儿子。
腾格尔也不负众望，再加上自己出身自能歌善舞的民族，更是为他增光添彩。其实当初腾格尔主要学的是舞蹈，但是在艺校的三年，腾格尔可是吃了不少的苦头。
据说腾格尔当时练舞时，非常努力，但是三个月下来腿疼的已经下不了路。
最后腾格尔跑到教导处请求换专业，没想到领导同意了。
从此腾格尔开始学习三弦和钢琴，更是兼职做指挥。
在1979年时，腾格尔被学校派到了中国音乐学院进修指挥。