Das Problem is nun gelöst. Es bestand aus zwei Problemen.
Ich musste gzip Kompression von Podlove deaktivieren. Dazu habe ich in wp-settings folgende Zeile eingefügt:
add_filter('podlove_enable_gzip_for_feeds', function() { return false; });
Außerdem lässt sich auf Uberspace die gzip Kompression für php Software nicht via htaccess aktivieren, sondern nur über php.ini, siehe https://wiki.uberspace.de/webserver:htaccess#kompression
Nachdem das aktiviert war, funktioniert alles wie erwartet.