Genscher 1945-ben önkéntesen jelentkezett a Wehrmachtba későbbi elmondása szerint azért, mert el akarta kerülni, hogy kötelezzék a Waffen SS-hez való belépésre. 1945 májusában amerikai, majd brit hadifogságba esett, 1945 júliusában azonban elengedték, s ettől kedve építkezéseknél segédkezett. Halléban, majd Lipcsében tanult, mígnem 1952-ben Nyugat-Berlinen keresztül jutott el a Német Szövetségi Köztársaságba. 1952-ben lépett be az FDP-be. Hamar felfelé ívelt a pályája, 1968-ban már a párt elnökhelyettese lett, 1974-ben pedig elnöke.
Az 1969-es választás után a belügyi tárca irányítója lett Willy Brandt kabinetjében. Erre az időre esett az 1972-es müncheni olimpia, illetve az izraeli túszdráma. Brandt visszalépése után Genschert 1974-ben külügyminiszterré nevezték ki. A nyolcvanas évek elejére egyre nagyobbak lettek az ellentétek a két koalíciós partner, az SPD és az FDP között, kivált a gazdaság- és szociálpolitika tekintetében, így 1982 szeptemberében Genscher más liberális politikusokkal kilépett a kabinetből. 1982. október 1-én, egy konstruktív bizalmatlansági indítvány nyomán a kereszténydemokrata Helmut Kohlt választották meg kancellárnak, így Genscher ismét külügyminiszter, illetve alkancellár lett. A tárca egyik igazi legendájává vált, akinek nagy szerepe volt a vasfüggöny lebontásában.
Magyarországra is többször látogatott el külügyi tárcavezetőként. 1976 áprilisában Kádár Jánossal találkozott Budapesten, akinek elmondta: „Az ön szava és az ön tekintélye olyan nagy a szocialista táborban és olyan háttere van, hogy nemcsak odafigyelnek, hanem el is gondolkodnak rajta, ha akár az európai enyhülésről, akár más politikai kérdésről van szó.” A német külügyminiszter fontos partnernek tekintette Budapestet, egyfajta közvetítőnek Bonn és Moszkva között.
Nem sokkal az 1982-es német belpolitikai változások után Genscher útja ismét a magyar fővárosba vezetett. Biztosította ekkor Kádárt arról, hogy bár jobboldali kormány alakult, folyamatosság várható a német külpolitikában. Itt tett javaslatot arra, hogy a Szovjetunió, illetve a Varsói Szerződés kezdeményezzen tárgyalásokat a hagyományos fegyveres erők európai csökkentéséről. Genschernek nagy szerepe volt a magyar nyitásban is. 1983-an közölte, kész a tárgyalásokra egy kereskedelmi megállapodásról Magyarországgal. 1986-ban ismét Budapesten tárgyalt Kádárral, s problémamentesnek nevezte a két ország kapcsolatait.
Külügyminiszteri megbízatása után egyetemi előadások sorát tartotta, s különféle befolyásos szervezetek elnöki tisztségét látta el.