Sebelum Formula 1

Ralf memiliki minat balap sejak kecil, ketika ia mencoba karting di umur yang sangat belia. Ia memulai kariernya di Formula 3 pada 1994 bersama WTS Racing, yang dipimpin oleh manajer sang kakak, Willi Weber. Ia meraih kemenangan pertamanya bersama tim ini di akhir 1994 sekaligus mencatat posisi klasemen pembalap ketiga, di belakang Jorg Muller dan Alexander Wurz.
Musim keduanya dimulai ketika ia bertarung melawan pesaing beratnya, Norberto Fontana. Tahun 1996 ia menapak ke Formula 3000, dengan tiga kemenangan dan merebut gelar juara di akhir musim.

Formula 1

Jordan GP

Baru di 1997, Ralf resmi menjadi pembalap F1, bergabung dengan tim Jordan. Ia langsung melesat. Di GP Argentina ia berhasil naik podium untuk pertama kalinya, di posisi ketiga. Namun jiwa mudanya masih sering membuatnya sembrono, dengan catatan 10 kali retirement; setengahnya karena tabrakan. Di musim balap 1998, ia berpartner dengan Damon Hill, dan berhasil mempersembahkan poin pertama bagi Jordan di GP Inggris.

Williams F1

Tahun berikutnya, 1999, Ia tampil bersama Alex Zanardi di tim Williams. Di musim tersebut, posisi podium banyak ia kumpulkan, sekaligus mengalahkan rekan setimnya. Ralf berhasil meraih 19 poin dan posisi 6 klasemen di pertengahan musim tersebut. Di akhir musim ia mengumpulkan total 35 poin sementara rekan setimnya tertatih-tatih tanpa hasil. Ia tetap berada di Williams di musim 2000, saat tim ini bersanding dengan BMW sebagai pemasok mesin. Banyak yang mengira kombinasi ini takkan dapat bertahan lama, namun Ralf tampil gemilang berhasil menempati podium di Albert Park, dan mencuri posisi klasemen konstruktor ketiga.
2001 adalah tahun di mana ia merasakan kemenangan pertamanya, selain dua kemenangan lainnya. Penampilan luarbiasa ia perlihatkan di perebutan posisi klasemen pembalap bersama David Coulthard dan Rubens Barrichello. Namun dirinya tak berhasil dan hanya menempati posisi keempat.
Tahun 2002 bukan menjadi musim yang baik baik Ralf. Ia bertabrakan hebat dengan Rubens Barrichello. Ia meraih kemenangan satu-satunya dalam musim itu di GP Malaysia. Ferrari kembali menunjukkan keperkasaannya dan Ralf harus kembali puas di posisi klasemen akhir keempat.
Di awal hingga pertengahan musim balap 2003, performa FW25 kurang oke. Namun ketika rekan setimnya, Juan Pablo Montoya berhasil juara di Monako. Ralf lalu seperti mendapat semangat baru dan langsung merebut kemenangan secara berurutan di Nurburgring dan Magny Cours.
Semuanya kembali buyar menjelang akhir musim, ketika Ralf mengalami kecelakaan hebat saat berujicoba di Monza. Akibatnya, ia tak dapat tampil dan digantikan oleh test driver Marc Gene. Di musim itu, Ralf bertengger di posisi ke-5 klasemen pembalap.
Pada musim 2004, baik Ralf maupun rekan setimnya, Juan Pablo Montoya, sama sekali tidak bisa bersaing dengan Ferrari. Bahkan Ralf pun gagal mencetak satu kemenangan pun. Malah Juan Pablo Montoya, yang saat itu sudah di kontrak oleh tim McLaren secara gemilang mampu mengantar Williams meraih kemenangan di balapan pamungkas di Brazil. Di akhir musim, Ralf akhirnya memutuskan hengkang ke tim Toyota.

Toyota

Di Toyota, Ralf berpasangan dengan Jarno Trulli. Duet ini dikenal public sebagai pasangan pembalap yang kencang, namun in-konsisten. Meskipun Trulli tampil gemilang sepanjang musim, Ralf hanya mampu memperlihatkan kualitasnya saat bertarung dengan sang kakak, Michael Schumacher di GP Hungaria 2005
Musim 2006 Ralf mengawali musim dengan baik saat ia finish podium ke-3 di GP Australia, namun sepanjang musim ia tampil kurang bagus. Meskipun begitu kontraknya masih diperpanjang hingga akhir musim 2007.
Di musim terakhirnya di F1, duet Trulli dan Ralf gagal membukukan prestasi yang gemilang. Lucunya, Trulli malah dipertahankan kontraknya oleh Toyota, dan hal ini akhirnya membuat Ralf berpikir untuk mencari tim lain. Sayangnya gajinya yang terlalu besar akhirnya membuat beberapa tim urung merekrut Ralf untuk musim 2008, akhirnya setelah nyaris menganggur, Ralf diajak oleh Norbert Haug dari Mercedes-Benz untuk membalap diajang DTM mulai musim 2008 ini.

DTM

Ralf pertama kali mencoba mobil DTM pada bulan Desember 2007. Ia berkeinginan karirnya di DTM ini kembali membuka jalan bagi beberapa tim F1 untuk meliriknya kembali di musim 2009 nanti.