В Караганде Алимхану Ермекову установлены две мемориальные доски. В декабре 1993г. на главном корпусе Карагандинского технического университета появилась первая мемориальная доска.

​

14 октября 2020г. на фасаде дома по адресу улица Абая, д. 58, где жил Алимхан Ермеков, установлена вторая мемориальная доска, установленная в рамках реализации спецпроекта «Туған жер» программы «Рухани жаңғыру».

​

В церемонии открытия приняли участие руководители областных управлений, аким Караганды Е.Булекпаев, ректор КарТУ Марат Ибатов, ученые и внук А.Ермекова – О.Ермеков.