Sejak 2004 ia telah memulai karir politiknya dengan menjadi anggota DPRD Jakarta.
Kemudian pada 2013 dirinya menjadi anggota DPR RI dengan menjabat sebagai wakil ketua komisi VII pada bidang permasalahan Energi Sumber Daya Mineral, Riset, Teknologi dan Lingkungan Hidup.
Pada tahun yang sama Effendi juga mencalonkan diri menjadi Gubernur Sumatera Utara, akan tetapi gagal dan hanya menempati urutan kedua.
Meski kalah bersaing dalam pemilihan Gubernur, karirnya di DPR RI justru cemerlang.
Pada 2019 politisi PDIP tersebut berhasil masuk di komisi satu DPR RI.
Setelah 15 tahun berkarir didunia politik, kini Effendi Simbolon justru terancam posisinya karena pernyataan yang ia buat mengenai TNI seperti gerombolan.***