Este grupo abandonou o Panellinios Gymnastikos Syllogos quando o clube decidiu desistir da prática do futebol. Os dissidentes liderados pelos irmãos Kalafatis fundaram então o Podosferikos Omilos Athinon (POA). O primeiro campo ficava na rua Patission e as cores do clube eram o vermelho e o branco. John Cyrill Campbell, atleta e estudante universitário de Oxford, tornou-se o primeiro treinador estrangeiro do clube (e do país).
Em 1910 uma divisão surgiu entre os membros do clube quando os irmãos Kalafatis, seguidos pela maioria dos jogadores, abandonaram a direção do POA e arranjaram um novo campo na Praça Amerikis. O clube mudou de nome para Panellinios Podosferikos Omilos (PPO), literalmente Clube de Futebol Panhelénico, com o verde e branco como as cores do clube.
Em 1914 Campbell regressou a Inglaterra mas o clube já se havia afirmado como uma das principais equipas do futebol grego, com jogadores de renome como Michalis Papazoglou, Michalis Rokkos e Loukas Panourgias. Entretanto o clube atuava regularmente com preto e branco, as cores que se encontravam no emblema da instituição.
Seria Papazoglou que após uma viagem a Constantinopla - hoje em dia Istambul - propôs o trevo como símbolo do clube.
Organização e desenvolvimento
Na década de vinte a Associação de Futebol de Atenas e do Pireu organizou o primeiro campeonato do Pós-Guerra. Nas duas primeiras edições, 1921 e 1922, o PPO seria campeão.
Em 1922 o município ateniense acedeu a que o PPO construísse o novo polo desportivo em Leoforos, que significa «Avenida» em grego.
O húngaro József Künsztler liderou o clube à sua primeira conquista da Liga em 1930, numa época em que a equipa não conheceu o sabor da derrota e teve em Angelos Messaris a sua grande estrela. Apesar desse grande sucesso seria preciso esperar dez anos para o Pana vencer pela primeira vez a Taça nacional, batendo o Aris de Salónica por 3x1 na final.
Durante os anos trinta destacaram-se outras "lendas" da história verde e branca como Antonis Migiakis, Diomidis Symeonidis, Mimis Pierrakos e Stefanos Pierrakos, seriam alguns destes jogadores que participaram no histórico 8x2, com que o Pana brindou o rival Olympiacos, o resultado mais pesado de sempre entre os dois rivais.
Apostolos Nikolaidis e Messaris desentenderam-se em 1931 e o clube viveu mais um período dramático que enfraqueceu a equipa durante grande parte da década, com a instituição mais uma vez próxima da dissolução.
Anos de sucesso
Novos títulos nacionais seriam conquistados em 1949 e 1953, assim como duas Taças em 1948 e 1955. Mas o grande período da história do clube chegaria nos anos 60, com a conquista de cinco campeonatos em seis anos (1960, 1961, 1962, 1964 e 1965. A época de 1964 seria brilhante, com a Liga a ser conquistada sem o Panathinaikos conhecer o sabor da derrota. Essa equipa treinada por Bobek contava com craques como Loukanidis, Panakis e Domazos.
Vencedores da Taça em 1967 e 1969, os verdes ganharam o bicampeonato em 1969 e 1970, o que valeu ao Panathinaikos participar regularmente na Taça dos Campeões Europeus, prova em que chegou à final em 1970/71 em Wembley, onde perderia com o Ajax de Johann Cruijff (2x0). O treinador que guiou a equipa ao seu mais brilhante momento internacional era a lenda húngara Ferenc Puskas, que montou uma equipa brilhante com nomes como Domazos, Kapsis, Karamas e o goleador Antoniadis que apontou dez golos nessa edição da prova que conduziu o clube do Trevo até ao grande jogo de Londres.