Roedd yr Arglwydd Bourne yn gyd-Is-ysgrifennydd Gwladol Seneddol yn Swyddfa Cymru rhwng 27 Hydref 2017 a Gorffennaf 2019. Cyflawnodd y rôl hon nes iddo adael Llywodraeth y DU ym mis Gorffennaf 2019, ar y cyd â'i swydd fel Is-ysgrifennydd Gwladol Seneddol yn Yr Adran Cymunedau a Llywodraeth Leol a ddechreuodd ar 17 Gorffennaf 2016.
Mae wedi bod yn aelod o Dŷ'r Arglwyddi ers Medi 2013.
Cyn hynny, gwasanaethodd fel Is-ysgrifennydd Gwladol Seneddol yn yr Adran Ynni a Newid Hinsawdd ac fel Arglwydd Preswyl rhwng Mai 2015 a Gorffennaf 2016.
Cafodd ei benodi'n Is-ysgrifennydd Gwladol Seneddol i Swyddfa Cymru ym mis Mai 2015.
Rhwng 2014 a 2015, roedd yn Chwip yr Arglwyddi (2014 i 2015), yn gyfrifol am Swyddfa Cymru, yr Adran Datblygu Rhyngwladol, yr Adran Gwaith a Phensiynau a’r elfennau darlledu ym mhortffolio'r Adran dros Ddiwylliant, y Cyfryngau a Chwaraeon.
Roedd yr Arglwydd Bourne yn aelod o Senedd Cymru dros Ganolbarth a Gorllewin Cymru o 1999 i 2011 ac yn Arweinydd yr Wrthblaid yn Senedd Cymru rhwng 2007 a 2011. Roedd hefyd yn aelod o'r Comisiwn Silk.