Hylleberg wurde am 1. November 1919 von Chresten Hylleberg und seinem Bruder Niels Hylleberg gegründet. Die Firma begann als Schmiede in der Søndergade in Rødkærsbro, in der mehrere Typen von Kartoffelmaschinen entwickelt und gebaut wurden. 1924 kaufte Chresten Hylleberg die gesamte Firma und führte die Entwicklung und Produktion von Kartoffelmaschinen fort. Wegen Platzmangels wurde 1948 im Kjellerupvej in Rødkærsbro eine neue Fabrik gebaut und 1961 wurde sie dann auf über die doppelte Größe erweitert. Chresten Hylleberg starb 1962 im Alter von 82 Jahren. Die Firma wurde danach von Chrestens Ehefrau Signe Hylleberg bis 1969 weitergeführt als die Produktion von Hyllebergs eigenen Kartoffelmaschinen eingestellt wurde.
In der Zwischenzeit war die 2. Generation der Familie, Aksel & Poul Hylleberg, ins Unternehmen eingetreten. 1969 zog Hylleberg in eine neue Halle hinter der Fabrik um und man begann mit dem Import von Kartoffelmaschinen des deutschen Herstellers GRIMME. In den 1970er-Jahren wurden auch Bewässerungsmaschinen verkauft und in den 1980er- und 1990er-Jahren wurde Hylleberg Importeur von KRONE-Maschinen aus Deutschland. Letzten Endes konzentrierte sich Hylleberg aber auf die Kartoffelmaschinen von GRIMME und nahm die anderen Produkte aus dem Programm.
In den 1990er-Jahren tritt mit Michael und Heine Hylleberg die 3. Generation der Familie in die Firma ein. 2008 ein weiterer Generationswechsel. Gleichzeitig wurde der Name des Unternehmens von Hylleberg A/S in GRIMME Skandinavien A/S geändert. Der Eigentümerkreis besteht heute aus Michael Hylleberg, Heine Hylleberg, Per Rasmussen und GRIMME Landmaschinenfabrik, die sich im Besitz der Familie Grimme befindet.