Aloha,
bin gerade über diese Community gestolpert und habe mich gefragt, welche kostenlosen Open-Source-Tools mittlerweile schon so gut sind, dass ihr sie bereits regelmäßig nutzt.
Ich persönlich nutze Stable Diffusion zur Bildergenerierung, GPT4All als Chatbot und RVC um mit Stimmen zu experimentieren oder reine Instrumentals aus Songs zu bekommen.
Viele Grüße, sp3ctre
Ich hoste llama3.2 und hab es eingebunden als persönlichen Assistant in Home Assistant. Benutze es regelmäßig um Homeautomation zu steuern und den Sinn des Lebens zu erfragen.
Disclaimer: Habe wenig Ahnung. Was nutzt du für Hardware damit das einigermaßen läuft? Hab desletzt mal versucht ein Sprachmodell auf meinem Serverchen laufen zu lassen (immerhin mit einem i7 9700 versehen), aber da war nichts zu holen. Ich vermute ohne GPU ists witzlos?
Ganz blöde Frage: Was steuerst du denn mit der Homeautomation per Llama 3.2? Meine besteht im Kern aus diversen Wenn, Dann-Bedingungen und das klappt auch wunderbar. Also “Wenn Dunkel, dann mach Licht an” oder “Wenn Ich nicht da dann mach Licht aus” und solchen Sachen. Wie und was steuerst du per KI?
Mit ein bisschen Verspätung…
Sonos/Musik steuern, nach dem Wetter fragen, günstigste Stromzeit, Stausaugerobi rumschicken, sonst ist bei mir auch alles mit motion sensors und so. Leider hat mein kleiner NUC nicht genügend oomph um alle Sensoren an llama zu geben, aber ich finde es ne nette spielerei