Ich benutze Ollama, um LLM zu Hause zu betreiben.

Ollama nutzt nicht den gesamten Speicher

Manchmal beginnt Linux bereits Daten in die Auslagerungsdatei zu schreiben, wenn eigentlich noch Speicher verfügbar ist. Folgender Befehl soll da Abhilfe schaffen:

$ sudo sysctl -w vm.swappiness=1

Quelle: https://github.com/ollama/ollama/issues/1727

Wo kann ich Quellcode zu meinen eigenen Projekten verwalten?

• self-hosted mittels: https://forgejo.org/
• Kostenfreie Instanz von forgejo: https://codeberg.org/