Музыка мәктәбендә баян классын тәмамлый (мөгаллиме – М.Я. Мазунова). 1963 елда Казан химия-технология институтына укырга керә, укыган елларында Киров исемендәге Мәдәният йортының Джаз оркестрында уйный. Студентларның Финанс-икътисад институты каршында оешкан «Каравелла» ансамбле (җитәкчеләре – Г. Скупинский, А. Коган) белән Татарстан һәм Идел буе төбәкләре буенча гастрольләрдә йөри. Профессионал дәрәҗәдәге әлеге коллектив көннәрдән-беркөнне Черновцы шәһәренә күчеп, «Червона Рута» төркеме булып оеша. Төркемнең солисты София Ротару була. Ләкин Кәрим Габидуллин бу ансамбльдә озак эшләми, Казанга кире кайта. Укуын тәмамлап,  инженер-механик дипломы ала.
1969 елда аны Татар филармониясенә, Әлфия Авзалова төркеменә музыкант итеп чакыралар.  1973 елда К. Габидуллин Әлфия Авзалова белән хезмәттәшлек итүче «Казан утлары» инструменталь ансамбленең сәнгать җитәкчесе була. Ансамбль төрле стиль һәм жанрдагы әсәрләрне бердәй оста башкаручы, затлы репертуар туплаган коллективка әверелә.