Vieles hängt davon ab, was man erreichen will, wie sehr man sich auskennt und an welches Budget man denkt.
Für mich sinnvoll, wenn man sich auskennt, definitiv VLAN Trennung. Gäste haben natürlich nichts im normalen Netz verloren. Unsichere Geräte (diverse Smart Home Geräte mit Cloud Connect oder TVs, TV-Sticks etc.) haben für mich auch nichts im Netzwerk mit meinen "privaten Daten" zu suchen.
Wenn man nicht möchte, dass diverse Dienste nach draußen kommunizieren können, ist eine Firewall wichtig. Das geht von OpenWrt (Eher ein "Router+") über OPNsense oder ähnliche Open Source Anbieter hin zu Sophos UTM/XG Home. (Wobei ich mit Version 18 nun eher XG statt UTM einsetzen würde).
Mit einer Firewall kann man dann auch je nachdem viele Sachen abbilden. Transparenter WebProxy (immer wichtiger leider - mit SSL Scanning), damit ggf. nicht so versierte Nutzer nicht doch mal Schadsoftware herunterladen. Mail Proxy, wenn man seine Mails direkt auf einem Heimserver ablegen will. Routing zwischen den VLANs (Die Kamera darf nur auf die CIFS Freigabe zugreifen und sich die Zeit bei der Firewall abholen (oder der Video Server greift auf die Kamera zu) und der TV-Stick darf sich nur über http/s nach außen verbinden ggf sogar nur zu den Netflix Servern, IPS, usw. Da ist viel möglich, wenn man will. In wie weit es einen Nutzen hat, sei mal dahin gestellt. Je mehr man "absichert" desto mehr Zeit muss man auch investieren - auch in die Wartung und Fehleranalysen.
Einen eigenen Server - mit Windows 10 als "Server OS", Server 2019 Essentials, Linux Systeme, NAS Systeme (Synology oder QNAP) oder auch Open Source NAS Systeme - und all das, auf welcher Hardware, Raspberry oder kleine Intel Atom Mainboards bis hin zu richtigen Server Mainboards mit Intel Xeon CPUs oder aber HP/Dell/... Tower-Servern. Hier ist auch die Frage, was man denn genau abdecken will. Wenn man einige virtuelle Maschinen laufen lassen will, Produktiv VMs und Test/Bastel/Spiel VMs, benötigt man direkt deutlich mehr Leistung als wenn man "nur" einen kleinen TV-Server zum Aufnehmen und TV gucken laufen lassen will (DVBViewer/TVHeadend z.B.) und ggf. noch OpenHab oder ioBroker etc. (ggf. als Docker Image). Wie viel Speicherplatz will man unterbringen, wäre wohl auch eine wichtige Frage.
Bei den WLAN Lösungen gibt es auch viele Möglichkeiten. Aktuell würde ich meinen, dass man mit Unifi AccessPoints bzw. Ubiquiti Lösungen generell am besten fährt. Preis/Leistung stimmt hier einfach. Für mich persönlich würden aktuell keine anderen Lösungen in Frage kommen. Ob man dann jedoch Unifi AC APs oder aber Amplifi will - auch wieder eine Entscheidung, was man ggf. künftig damit machen mag bzw. noch so im Netzwerk damit vor hat.
Im Netzwerk Bereich an sich - viele setzen, wenn sie schon Unifi einsetzen, auch Switche von denen ein. Eine Oberfläche ist einfacher zu steuern, als viele einzelnen Oberflächen, die sich noch unterschiedlich verhalten. Teilweise werden die Switch-Modelle jedoch auch ziemlich warm - hier sollte die Umgebung zum Switch passen. Einen Managebaren Switch benötigt man auf Grund der VLANs dann so oder so. Ob man dann den Unifi nimmt oder aber einen günstigeren Netgear oder natürlich auch andere Hersteller wie HP/Cisco etc. ist auch eine Frage des Budgets. Ggf. werden "alte" Switche aus der Firma rausgeschmissen und man bekommt so kostenlos oder günstig ein passendes Enterprise Modell. Es wirklich brauchen, im Home Bereich, eher nicht... PoE Support, direkt im Switch kann sehr nützlich sein, wenn die Geräte PoE ebenfalls PoE unterstützen (z.B. die APs). Somit benötigt man kein zusätzliches Netzteil und auch keine Adapter zwischen Switch und Patchpanel.
Wenn man etwas mehr wüsste, wie groß das Budget sein soll bzw. was genau du vor hast, könnte man ggf. eher auch auf deinen Fall eingehen und seine Meinung äußern.
Ggf. reicht dir am Anfang ein Raspberry mit einer FritzBox und es entwickelt sich nach und nach mehr daraus