Der Doppelpunkt ist im Mathemodus ein Infix-Operator und wird deshalb auch als solcher gesetzt. Genauso werden aufeinanderfolgende Buchstaben als Produkte von Einbuchstabenvariablen gesetzt. Variablen oder Funktionen, die aus mehreren Buchstaben bestehen, muss man daher in \mathit setzen, also beispielsweise:
\mathit{len}(c) = \mathit{length}(c,\mathit{rdfs{:}subClassOf}) Genau genommen müsste man len und length sogar als Funktion/Operation definieren:
\documentclass{article}
\makeatletter
\newcommand\len{\mathop{\operator@font len}}
\newcommand\length{\mathop{\operator@font length}}
\makeatother
\begin{document}
\begin{equation}
\len(c) = \length(c,\mathit{rdfs{:}subClassOf})
\end{equation}
\end{document}
Allerdings vermute ich, dass das hier gar keine normale Mathematik, sondern so etwas wie ein Algorithmus oder Programmcode sein soll. In dem Fall könnte man sich eventuell noch mit \text behelfen:
\documentclass{article}
\usepackage{amsmath}
\begin{document}
\begin{equation}
\text{len}(c) = \text{length}(c,\text{rdfs:subClassOf})
\end{equation}
\end{document}
Tatsächlich würde ich dann aber eher die Verwendung von
listings (← dies ist ein geprüfter Link, der direkt zur Paketkurzbeschreibung auf CTAN führt!) oder eines ähnlichen Pakets empfehlen.