Il Chatbot Secundam è una piattaforma conversazionale sviluppata per rispondere a domande tecniche e pratiche sugli scarti agroalimentari. L’applicazione è ospitata su un server dedicato del Politecnico e utilizza container Docker per garantire isolamento e portabilità. La parte di inferenza è gestita con Ollama, che permette l’esecuzione di modelli LLM in locale: nel progetto si è scelto il modello Gemma3:12b, ottimizzato per dialoghi e coerente con i vincoli di memoria della GPU server, offrendo velocità di risposta e maggior tutela dei dati (modello locale).

Open WebUI funge da interfaccia web: gestione account amministratore, caricamento documenti “conoscenze” (dataset, PDF, Word), personalizzazione del prompt e plugin per funzionalità aggiuntive (es. ricerca web in tempo reale, confronto risposte da modelli diversi, salvataggio chat). Il chatbot propone prompt suggeriti e follow-up automatici per guidare l’utente e approfondire argomenti tecnici. L’architettura (Docker + Ollama + Open WebUI) permette un funzionamento scalabile e accessibile da dispositivi esterni alla rete del server