java ilişkilendirmesi bozulmuş olabilir. installer a çift tıklamak yerine komut istemini aç, dosyanın olduğu klasöre git ve java -jar forge-installer.jar yaz. genelde böyle açılıyor.
bir de forge sürümüyle minecraft sürümün aynı mı? ayrıca o sürümü en az bir kez açıp kapatmış olman gerekiyor yoksa installer klasörü bulamıyor