Was ist wartungsarm? Etwa 2-mal pro Jahr musst du durch größere Upgrades und alle 4-6 Wochen ein kleineres.
TrueNAS kooperiert seit kurzem mit Nextcloud (Nextcloud now officially supported on TrueNAS). Ich weiß nicht welche Probleme du hast, ggf. würde ich mal schauen was die von beiden Sachen machen und wenn die sehr aktiv sind, verbessert sich das in Zukunft deutlich (in letzter Zeit waren mehr Leute mit TrueNAS-Systemen hier, und die jail-Umgebungen können die Entwickler noch verbessern und sich da von den anderen Lösungen inspirieren lasen)? Vor allem ist das ja vor allem deine Zielgruppe.
Bei allen Lösungen selbst mit den Containern brauchst du am Anfang etwas Zeit, dich mit dem System vertraut zu machen. Da ist halt die Frage, warum es bei dir nicht zuverlässig läuft und ob ein andere Lösung besser läuft. Wenn z.B. dein Updater über das Web-Interface nicht gut läuft, weil du viele Dateien hast und da einfach ein Timeout kommt, dann würde ich mir das Update über die Kommando-Zeile anschauen (bei den Containern müsstest du das auch machen).
Falls du andere Funktionen deines NAS nutzt, würde ich erst einmal im Rahmen dessen schauen, was möglich ist. Wenn alle nur für Nextcloud ist, dann kannst du die freie Wahl. Da ist auch viel Geschmackssache, leider fehlt es ein bisschen an einer Übersicht der verschiedenen Systeme und deren Vor- und Nachteile.