IA de Km.0

R+D+I dweb
1
1 'M'agrada'
2

Notes sobre la sessió:

Seguit de presentacions per començar

  1. Mauve Moe presenta Agregore, especialment la part de Built in large language model APIs using free to use local models. És a dir, utilitza LLM utilitzant el navegador web i la teva pròpia màquina. Potser estaria bé compartir la presentació aquí.
  2. Federated Learning en xarxa mesh LoRa en bas a l’article de recerca (via IEEE Xplore), presentació durant l’esdeveniment
  3. AI chat bots can now write in te reo Māori (via youtube)
    What does A.I mean for te reo Māori? | The Project NZ

Canòdrom va fer un seguiment via fedivers :raised_hands: i va fer una publicació per cada ponència

  1. Canodrom: "▶️ Engeguem la sessió d'IA de Km0 amb li @mauve@…" - social.barcelona
  2. Canodrom: "✳️ És possible entrenar models d'IA federats? Els…" - social.barcelona
  3. Canodrom: "💬 Respecte la IA les llengües minoritàries i min…" - social.barcelona

Alguns apunts personals i compartits:

  • Mauve:
    • core objectives: user agency, offline chat
    • with just 2-4 GiB RAM I can do a lot
    • use cases, knowledge, agents that summarize conversation
    • describes algorithms present in agregore
      • qween2.5 (default) -> prefer; incredibly censored, from China :cn:, but good for science and tech. not very politically minded
      • phi is from microsoft, so the same as qwen but from US :us:
      • hermes3 community offer, based on open dataset, good for creativity; fine tuned to be less corporate :raised_hands:
  • Un investigador sobre IA sostenible, que es planteja com de democràtica és
  • Mauve: “pulling hardware together”, so people from our cooperative can use it (la seva cooperativa és [hypha.coop](https://hypha.coop/)). Other use cases for AI are search, knowledge base, in this context, talks about MCP; which seems to be the way to interact with LLMs. This looks like the official side
    • about how useful are the billions of parameters of an AI: 1B gibberish, 3B text, 7B code generation/logic, 70b generally useful but requires dedicated GPU setup, etc.
  • Investigadora des de perspectiva de l’extractivisme tecnològic pregunta sobre l’escalabilitat dels projectes en IA, i de l’optimització de la gestió de recursos que permet.
  • Un altre persona preocupada per la despesa energètica o la restricció existent en les preguntes sensibles de les IAs corporatives o mainstream
  • Un altre proposa una extensió de navegador que t’ajudi a agafar consciència del malbaratament de recursos naturals i/o elèctrics relacionat amb les consultes que estàs fent

Referències de Mauve compartides després per email

My slides are available here: https://blog.mauve.moe/slides/agregore-local-llm/#1

Docs about the AI stuff in Agregore are here: https://agregore.mauve.moe/docs/ai

The source code for my app generator which may be relevant to folks can be found here: https://github.com/RangerMauve/llm-appgen

I’ve also got a Matrix channel where I chat about this stuff here: https://matrix.to/#/#userless-agents:mauve.moe

Also feel free to send folks my way if y’all want to brainstorm more about this stuff.

1 'M'agrada'
3

Ja he aconseguit finalment afegir aquí la presentació de Nil i certes referències adicionals que ha afegit Mauve