Es ist mal wieder der erste Sonntag im Monat und wir machen den Spaß dann bald schon ein Jahr. Also: Was habt ihr diesen Monat gemacht für eure digitale Unabhängigkeit?

  • Lichtblitz@discuss.tchncs.de
    7·
    22 hours ago

    Auf das Thema habe ich auch richtig Bock. Nur will ich keine extra Hardware für LLMs anschaffen und die sind mir eigentlich auch zu unpräzise. Ich hätte nichts dagegen die Phrasen immer gleich zu sagen. Was war dein Startpunkt um das ganze ohne LLM aufzusetzen und nutzt du dedizierte Hardware oder die Home assistant app auf dem Handy für die Sprachbefehle?

    • smiletolerantly@awful.systems
      2·
      18 hours ago

      Ich hab vor ein paar Monaten das hier geschrieben (well… Mit LLM Unterstützung… Ich hab auch nur begrenzt Zeit für so was ^^)

      https://github.com/charludo/hass-closest-intent

      Das macht die Spracheingabe fuzzy auf die in HomeAssistant hinterlegten intents. War für mich ein Unterschied wie Tag und Nacht.

      Spracherkennung ist heute auch ohne teure Hardware echt gut möglich. Habe jetzt parakeet-ultra am laufen auf einem NUC mit NPU, das sind 90ms für einen durchschnittlichen Befehl bei 10% Wortfehlerrate. Auch ohne NPU, rein auf CPU, war das gleiche in ca. 220ms drin.

      Das größte Problem sind die Satelliten und wakeword Erkennung. Ich habe aktuell ein Raummikro mit nem RP4 dran… Das geht schon in Ordnung. Ich schiele allerdings hier drauf:

      https://www.seeedstudio.com/ReSpeaker-XVF3800-4-Mic-Array-With-XIAO-ESP32S3-p-6489.html

      Da geht die gleiche software drauf (LVA von HA). Außerdem logge ich gerade alle Aktivierungen mit (falsche und richtige), um dann hoffentlich in ein paar Wochen ein eigenes Wakeword trainieren zu können, was besser auf uns und unseren Raum passt. Ist also schon noch Arbeit alles.

      (Vom Handy aus, wo du per Button startest, ist es GAR kein Problem. 100% auf Anhieb verstanden immer. Oh man, ich hätte echt gern so eine Starfleet-Badge.)

      LLM hat für mich in HA nix zu suchen. Das ist viel, viel zu langsam. Selbst mit toller Hardware und einem kleinen Modell. Und es ist völlig unnötig.

      Insgesamt macht das ganze Projekt aber echt Laune. Mir fallen am laufenden Band neue Sachen ein, die ich gerne fragen können würde, und dann kann man sie einfach adden. (Ist heute Müll? Spiele x aus meiner (!!!) Musikbibliothek. Mach den Fernseher heller. Was steht heute an? Wie windig ist es gerade? Ist <Freundin> bald zuhause? Spiel die Nachrichten von WDR3, die Amazon/Alexa aus irgendeinem Grund nicht mehr anbietet.)