Bizjak je v vladi Janeza Drnovška, leta1992, zasedel mesto ministra za notranje zadeve. Z mesta ministra je 1994 odstopil. Kot vzrok je navedel politično odgovornost zaradi nenavadnega ropa podjetnika, ki so ga v avstrijskem Celovcu izvedli pripadniki Specialne policijske enote.

Istega leta (1994) je bil imenovan za prvega varuha človekovih pravic. Po izteku mandata je v Drnovškovi vladi, oblikovani po volitvah 2000, prevzel resor za pravosodje in ga ohranil tudi potem, ko je sredi mandata vlado prevzel Anton Rop.

2005 je odšel v Bruselj na sedež Sveta EU, kjer je do 2011 zasedal visok položaj generalnega direktorja direktorata za pravosodje in notranje zadeve