Али-Ага Исмаил-Ага оглы Шихлинский родился 23 апреля 1865 года в селе Газахлы Газахского района. В 1876 году окончил частную гимназию в Тифлисе, в 1883 году — Тифлисскую военную гимназию а в 1886 году — артиллерийскую школу в Петербурге. Получив назначение в Александрополь (Гюмри) в 39-ю артиллерийскую бригаду, где прослужил до 1900 года и дослужился до чина капитана. В 1900 году Шихлинский, направленный в артиллерийскую дивизию в Забайкалье, был временно назначен исполняющим обязанности командира 2-й батареи вместо Самед-бея Мехмандарова, отправленного в Петербург на 6-месячные курсы в мае 1902 года. Шихлинский участвовал в русско-японской войне 1904-1905 гг. в составе 4-й Восточно-Сибирской стрелковой бригады. За проявленный героизм и мужество во время войны Шихлинский был награжден золотым мечом, получил 4 ордена и воинское звание подполковника.