Versuchs mal mit Windows -> Start -> Ausführen
initexmf --edit-config-file=pdflatex
und dann
main_memory=90000000
save_size=80000
(oder andere Zahlenwerte) einfügen, speichern. (siehe pgfplots-manual Abschnitt 6)
Alternativ gibt es auch noch eine andere Variante in Abschnitt 7.1
Grüße, Anja