Sergen Yalçın futbola Beşiktaş’ın alt yapısında başladı. Burada Serpil Hamdi Tüzün’ün Türk futboluna kazandırdığı isimlerden biri oldu. Gordon Milne döneminde Beşiktaş A Takımı’na yükseldi. Üstün futbol yeteneği ile Türk futbolunun en önemli oyuncularından biri oldu. Kullandığı serbest vuruşlar ve attığı gollerle isminden çokca söz ettirdi.
2002/2003 sezonunda Beşiktaş’a döndü ve Beşiktaş'ın 100. yılındaki şampiyonluğunun baş mimarlarından biri oldu. İstikrarsız geçen sezonlara ve uzun süren sakatlıklara rağmen 100 gol barajını aşan ender orta saha oyuncularından biri oldu. Özellikle Beşiktaş'ın 100. yılındaki şampiyonluk maçında Galatasaray'a karşı son dakikada attığı golle ve 2003 /2004 sezonunda Şampiyonlar Ligi maçında Beşiktaş'ın deplasmanda Chelsea'yi 2-0 yendiği maçta attığı 2 golle yıldızlaşmıştır. Bunun yanısıra 2002 / 2003 sezonunda Denizlispor'a karşı serbest vuruştan attığı gol Türk futbol tarihinin en güzel gollerinden biri olarak kabul edilmektedir.
2007 sezonunda 2.Lig B Kategorisi'ne yeni yükselen ekiplerden Etimesgut Şekerspor'a transfer oldu. 8 Temmuz 2007'de Atatürk Stadyumunda düzenlenen imza töreni ile Eskişehirspor'a transfer oldu.
Sezon başında teknik direktör Metin Diyadin ile sorun yaşadığı için kadro dışı bırakılan Sergen Yalçın Eskişehirspor'da düzenli olarak antrenmanlara katılmadığı için takım arkadaşlarıyla zaman zaman sorun yaşadı ve sezon içinde de yönetim, taraftar ve bazı basın mensuplarıyla da tartıştı. Eskişehirspor Tesisleri'nde kalan takım arkadaşlarının aksine beş yıldızlı bir otelde konaklayan yalçın, 2007-2008 sezonunun sonunda alacaklarının ödenmediğini belirtti ve Eskişehir'den ayrılarak bu takımlada bağlantılarını kopardı. Sergen Yalçın son olarak kulüp başkanı Hatipoğlu'na ait firmanın reklam filminde oynaması tartışma konusu oldu.[i][/i]