Sem fazer uma acusação direta contra os militares, ele afirmou que há uma conspiração para derrubar o governo civil do país.
Durante um discurso em Islamabad, Gilani disse que Forças Armadas têm de prestar contas ao Parlamento e não podem agir como se fossem um Estado dentro do Estado.
Seu governo está sob pressão após o vazamento de um memorando que estaria pedindo ajuda aos Estados Unidos para barrar um possível golpe.
'Conspiração'
O comunicado acabou provocando a renúncia do embaixador do Paquistão nos EUA e deixou Gilani na berlinda.
"Quero deixar claro que há conspirações sendo incubadas aqui para derrubar o governo eleito", disse o premiê em pronunciamento.
"Mas vamos continuar a lutar pelos direitos do povo paquistanês, se continuarmos ou não no governo."
O correspondente da BBC em Islamabad, M Ilyas Khan, disse que sempre houve a impressão no país de que os militares e seus serviços de inteligência são realmente um Estado dentro do Estado.
No entanto, os últimos governos mantinham a aparência de que as Forças Armadas eram uma instituição subordinada ao poder executivo.
Foi por isso que, segundo o correspondente, o discurso desafiador de Gilani gerou tanto debate.
O presidente Asif Ali Zardari voltou recentemente ao país, após um tratamento médico em Dubai. Ele nega ter participação do memorando aos Estados Unidos.
O fato de estar doente, aliado ao escândalo, tem criado especulações sobre se ele será forçado a deixar o cargo.
Bin Laden
A tensão entre o governo civil, no poder desde 2008, e os militares se intensificou depois que forças americanas mataram Osama Bin Laden, em maio.
O Exército não foi previamente avisado da operação que capturou Bin Laden, que vivia em uma mansão próxima a uma base militar.
Gilani trouxe o caso à tona, questionando como Bin Laden teria vivido no país por seis anos, aparentemente sem ser descoberto.
O Exército já controlou o país durante muitos anos e levou a cabo quatro golpes de Estado.
Alguns analistas especulam que o escândalo – que está sendo chamado de "memogate" – é uma conspiração do Exército para constranger o governo.