Linux und Ich ist ein unabhängiges Blog rund um Linux – mit einem besonderen Fokus auf Arch, Debian und Ubuntu. Darüber hinaus findet ihr hier Beiträge zu freier Software, Bastelprojekten mit dem Raspberry Pi und anderen Einplatinencomputern sowie zu mobilen Geräten mit Android und Co. mehr »
llmfit: Welche KI-Modelle laufen auf meinem Rechner?
Wer lokale KI ausprobieren will, steht irgendwann vor einer ziemlich banalen Frage: Welches Modell läuft eigentlich auf meinem Rechner? Die Auswahl an Open-Source-LLMs ist mittlerweile riesig, und bei Größe, Quantisierung und Speicherbedarf unterscheiden sich die Kandidaten teils erheblich. Weiterlesen »


