L’ecosistema actual de la intel·ligència artificial ens aboca a una dependència absoluta de tercers. Quan programem, escrivim o creem aplicacions, gairebé sempre passem per intermediaris que no controlem, com Claude o Codex. Són caixes negres allotjades al núvol dels gegants tecnològics que poden canviar de preu, modificar les seves polítiques de privacitat o, simplement, deixar de funcionar d’un dia per l'altre, quedant-se pel camí amb el nostre codi i les nostres dades.
Per a la comunitat geek, aquesta pèrdua de control és inacceptable. La bona notícia és que les IA en local ens lliuren d'aquests intermediaris i ens tornen l’autonomia digital absoluta: el model s'executa a la teva màquina, sota les teves regles. Però, és viable tècnicament? Podem obtenir un rendiment d'alt nivell amb el nostre propi maquinari sense envejar res a les API de pagament?
En aquesta keynote fusionarem la filosofia de la sobirania digital amb l’enginyeria. A partir de la guia d'IA local de Softcatalà i el seu banc de proves (benchmarks), analitzarem amb dades reals com es tradueix la llibertat tecnològica a la pràctica de la terminal.
Explorarem les mètriques de precisió lingüística dels models oberts actuals, el seu consum de recursos i com les tècniques d'optimització (com la quantització i els models petits o SLM) ens permeten aconseguir un català excel·lent de manera eficient. També es tractarà de quin és el rendiment en català en models de pesos lliures i comercials en els àmbits dels LLMs, reconeixement de la parla o embeddings.
Una sessió imprescindible per a qui vulgui aprendre a tancar la connexió amb el núvol i obrir la porta a una IA 100% sobirana, lliure i transparent.