In this video conference promoted by CERSTE, Professor Luca Mari delves into the operation of neural networks and emphasizes the distinction between training and network operation, explaining that, unlike traditional software, a neural network must be trained with two main phases: pre-training (where the network learns in a supervised manner) and fine-tuning (which refines the network’s capability in a more specific way). Mari introduces strategies for adapting networks to user needs, including classical fine-tuning, efficient parameter optimization (Lora), and techniques such as Rag (Retrieval-Augmented Generation). Finally, the energy efficiency and cost of using GPUs is discussed, highlighting the need for a balance between network performance and associated costs.
Watch the event in full below (conference held in Italian):
TESTO IN ITALIANO
In questa videoconferenza organizzata da CERSTE, il professor Luca Mari approfondisce il funzionamento delle reti neurali e sottolinea la distinzione tra l’addestramento e il funzionamento delle reti, spiegando che, a differenza del software tradizionale, una rete neurale deve essere addestrata con due fasi principali: il pre-addestramento (dove la rete apprende in modo supervisionato) e il fine-tuning (che affina la capacità della rete in modo più specifico). Mari introduce le strategie per adattare le reti alle esigenze degli utenti, tra cui il fine-tuning classico, l’ottimizzazione efficiente dei parametri (Lora), e tecniche come la Rag (Retrieval-Augmented Generation). Infine, si discute l’efficienza energetica e i costi dell’uso di GPU, evidenziando la necessità di una bilancia tra le prestazioni della rete e i costi associati.
Guardate l’evento per intero qui sotto (conferenza condotta in italiano):
