Das RKW wurde am 10. Juni 1921 auf Initiative des Wirtschaftsministeriums als "Reichskuratorium für Wirtschaftlichkeit in Industrie und Handwerk" in Berlin gegründet. Ziel war es, die deutsche Wirtschaft nach dem Ersten Weltkrieg möglichst schnell wieder international wettbewerbsfähig zu machen. Dazu sammelte und verbreitete das RKW Methoden und Instrumente zur Steigerung der Wirtschaftlichkeit von Unternehmen. Erarbeitet wurden diese in "Gemeinschaftsarbeit" von sogenannten Rationalisierungsträgern und Rationalisierungsgemeinschaften (RG). Heute ist die RG-Bau die letzte dieser Rationalisierungsgemeinschaften. Andere sind im RKW oder in selbständigen Organisationen aufgegangen. 

Nach dem Zweiten Weltkrieg entstand das RKW neu als "Rationalisierungskuratorium der Deutschen Wirtschaft", welches als Produktivitätszentrale im Zusammenhang mit dem Marshall-Plan, aber auch darüber hinaus am Wiederaufbau der westdeutschen Wirtschaft beteiligt war. In den elf westlichen Bundesländern entstanden eigene Landesgruppen, nach 1990 erweitert durch die ostdeutschen Bundesländer. 

Im Rahmen einer Umstrukturierung im Jahre 1998 wurde das RKW zu "RKW Rationalisierungs- und Innovationszentrum der Deutschen Wirtschaft e.V." umbenannt. Die Landesgruppen wurden wirtschaftlich und organisatorisch selbstständige Einheiten. Seitdem besteht das RKW Netzwerk aus den RKW Landesorganisationen und dem RKW Kompetenzzentrum mit Sitz in Eschborn.

20 Vertreter aus Wirtschaft und Politik bilden den Vorstand des RKW e.V.

Vorsitzender ist zurzeit Dirk E. O. Westerheide.