Früher hieß dieser Kai Johanneskai. Der heutige Name stammt von dem Realitäten- und Steinwerksbesitzer Leopold Heindl.

Er war auch Landtagsabgeordneter und Bürgermeister von Mauthausen (1870 - 1909) und somit einer der geachtetsten Leute im Ort. Der Rollfähre-Gedenkstein aus Mauthausener Granit im Heindlkai-Park erinnert heute noch an die Bedeutung der Rollfähre. Mit ihr gelangten Menschen und Waren von einem Donauufer zum anderen. Nach dem Neubau der Donaubrücke wurde ihr Betrieb 1961 eingestellt. Anlässlich des 50. Jahrestages der Befreiung des Konzentrationslagers Mauthausen veranstaltete die Marktgemeinde 1995 ein Symposion mit sechs europäischen Bildhauern. Diese schufen Skulpturen, die im Gemeindegebiet von Mauthausen aufgestellt sind. Eine von ihnen - ein Monolith mit Fahrrad - befindet sich auf der Grünfläche am Heindlkai. Das Loch über der Radlenkstange gibt den Blick auf die Donau frei.