Das Rotieren dürfte weniger das Problem sein, das geht über eine passende Umdefinierung von \sectionlinesformat recht einfach:
\documentclass[ngerman, fontsize=11pt, headsepline, footsepline]{scrreprt}
\usepackage{babel}
\usepackage[left = 25mm, right = 25mm, bottom = 40mm, top = 30mm]{geometry}
\usepackage[automark]{scrlayer-scrpage}
\usepackage{pdflscape}
\usepackage{blindtext}
\clearpairofpagestyles
\ohead{\headmark}
\ifoot{Musterhochschule für angewandte Wissenschaften\\
Musterfakultät}
\ofoot*{\pagemark}
\makeatletter
\renewcommand*{\sectionlinesformat}[4]{%
\Ifstr{#1}{section}{%
\ifdim\hsize>\vsize% Text breiter als hoch als Heuristik für landscape
\hfill\rotatebox{-90}{\@hangfrom{\hskip #2#3}{#4}}%
\else
\@hangfrom{\hskip #2#3}{#4}%
\fi
}{%
\@hangfrom{\hskip #2#3}{#4}% Originaldefinition
}%
}
\makeatother
\begin{document}
\pagestyle{scrheadings}
\pagenumbering{Roman}
\chapter{Normalbereich}
\section{Normalausrichtung}
\blindtext
\appendix
\addchap{Anhang}
\stepcounter{chapter}
\begin{landscape}
\section{Beispielanhang}
\blindtext
\end{landscape}
\end{document}
Das Problem dürfte eher sein, dass wie im Beispiel gezeigt, die Überschrift natürlich trotzdem in von landscape bereits gedrehten Bereich vertikalen Platz (relativ zum gedrehten Textbereich) benötigt. Bei automatischem Seitenumbruch lässt sich da auch nicht wirklich tricksen, weil man sonst wieder in das Problem läuft, dass ein umbrochener Absatz beim Seitenumbruch nicht neu umbrochen wird. landscape ist (wie immer, wenn man nur Teile des Textbereichs rotieren will) dafür daher eher nicht geeignet.
Je nachdem, was in dem Abschnitt passieren soll, gibt es eventuell andere Lösungen. So könnte man eine Abbildung oder Tabelle beispielsweise auch einfach per \rotatebox innerhalb der normal ausgerichteten Seite (also ohne landscape) rotieren:
\documentclass[ngerman, fontsize=11pt, headsepline, footsepline,
footlines=2% Wegen der Warnung von scrlayer-scrpage hinzugefügt
]{scrreprt}
\usepackage{babel}
\usepackage[left = 25mm, right = 25mm, bottom = 40mm, top = 30mm,
% showframe% siehe Hinweis im Beitragstext
]{geometry}
\usepackage[automark]{scrlayer-scrpage}
\usepackage{pdflscape}
\usepackage{blindtext}
\clearpairofpagestyles
\ohead{\headmark}
\ifoot{Musterhochschule für angewandte Wissenschaften\\
Musterfakultät}
\ofoot*{\pagemark}
\begin{document}
\pagestyle{scrheadings}
\pagenumbering{Roman}
\chapter{Normalbereich}
\section{Normalausrichtung}
\blindtext
\appendix
\addchap{Anhang}
\stepcounter{chapter}
\section{Beispielanhang}
%\frame{% siehe Hinweis im Beitragstext
\rotatebox{90}{%
\begin{minipage}[c][\linewidth]{\dimexpr \textheight-5.5\baselineskip\relax}
\centering
\includegraphics{example-image}
\captionof{figure}{Das funktioniert}
\end{minipage}
}%
%}% siehe Hinweis im Beitragstext
\end{document}
Die Höhe der minipage mit \textheight-5.5\baselineskip ist geschätzt und muss ggf. angepasst werden, wenn "Anhang" nicht auf derselben Seite steht oder die Überschrift mehrzeilig wird. Beim guten Schätzen ist es hilfreich, wenn man die drei auskommentierten und mit »siehe Hinweis im Beitragstext« kommentierten Zeilen aktiviert.
Eine vollautomatische, allgemeine Lösung mit automatischen Seitenumbruch kenne ich nicht.
Beachte außerdem, dass für mehrzeilige Kopf- oder Fußbereiche die Höhe von Kopf oder Fuß ggf. angepasst werden muss. scrlayer-scrpage gibt auch eine entsprechende Warnung aus. Das gilt unabhängig davon, ob man geometry verwendet oder nicht.
PS: Übrigens funktioniert bei mir neuerdings das automatische Rotieren der Seitenausgabe im Viewer nicht mehr. Ob das an pdflscape einer Änderung am LaTeX-Kern oder am Viewer (okular) liegt, kann ich nicht sagen. Leider hilft in dem Fall dann auch scrhack nicht, das ich eigentlich (nicht nur) bei Verwendung von pdflscape durchaus empfehlen würde.