Ignatius Suharyo mengawali pelayanannya pada 1976 dengan menjadi Pastor rekan di Paroki St. Yusuf, Bintaran, Yogyakarta. Dia menjadi Uskup Agung Semarang pada 21 April 1997.
Setelahnya, pada 2 Januari 2006, Suharyo menjadi Uskup Agung Ordinariat Militer Indonesia dan menjadi uskup Koajutor Keuskupan Agung Jakarta pada 25 Juli 2009. Setahun setelahnya, pada 28 Juni 2010, Suharyo menjadi Uskup Keuskupan Agung Jakarta.
Selain itu, Suharyo juga aktif dalam dunia pendidikan. Dia menjadi Pengajar di Sekolah Tinggi Katekitik STFK Pradnyawidya, Yogyakarta selama 10 tahun sejak 1981 hingga 1991.
Suharyo juga pernah menjadi Ketua Jurusan Filsafat dan Sosiologi FIP IKIP Sanata Dharma Yogyakarta (1983-1993), Dosen Pengantar dan Ilmu Tafsir Perjanjian Baru di Fakultas Teologi Wedabhakti Yogyakarta (1989), Dekan Fakultas Teologi Universitas Sanata Dharma Yogyakarta (1993-1997), Pengajar Universitas Kristen Duta Wacana, Yogyakarta dan Unika Parahyangan Bandung (1994-1996), Direktur Program Pascasarjana Universitas Sanata Dharma Yogyakarta (1996-1997) hingga menjadi Guru Besar Ilmu Teologi Universitas Sanata Dharma, Yogyakarta.