Али начал свою футбольную карьеру в клубе «Аль-Шаркиа Лелдохан». В 1994 году он дебютировал в египетской премьер-лиге. Он играл в ней до 1999 года, а затем перебрался в Каирский клуб «Замалек». В 2000 году он добился своего первого успеха с ФК «Замалек», когда выиграл Кубок обладателей кубков КАФ. В 2001 году он выиграл свой первый национальный чемпионат, а в 2002 году — свой первый Кубок Египта. В том же году он выиграл Лигу чемпионов и Суперкубок Африки. В 2003 и 2004 годах он выигрывал и другие чемпионские титулы, а в сезоне 2003/2004, забив 20 голов, стал лучшим бомбардиром Первой лиги Египта. В 2008 году он выиграл свой последний в карьере Кубок Египта, а летом 2009 года завершил карьеру в возрасте 36 лет.