Il ferro dell’officina: quattro server multi-GPU e una macchina portatile.

§ 01

Le macchine

• Quattro server multi-GPU a telaio aperto, progettati e assemblati in officina
• Server editing: 4 GPU Nvidia, 96 GB di memoria video totale, 256 GB di RAM, processore Threadripper
• Server per l’AI: configurazione simile, dedicati ai modelli linguistici
• Macchina portatile: 48 GB di memoria video, per lavorare anche presso il cliente
• Sistema operativo Ubuntu o Windows, scelto in base al progetto

§ 02

Intelligenza artificiale senza intermediari

I modelli linguistici girano sulle nostre macchine, non su server di terzi. Nessuna chiamata ad API esterne, nessun abbonamento ai servizi dei grandi provider: usiamo modelli aperti eseguiti in locale. Domande, documenti e dati dei clienti non lasciano le nostre macchine - non finiscono negli Stati Uniti, in Cina o altrove. L’assistente virtuale di naturopataonline.org gira su questa infrastruttura.

§ 03

Perché telaio aperto e non server tradizionali

Un server in chassis certificato con pari potenza grafica costa più volte tanto. Abbiamo scelto configurazioni a telaio aperto, in stile mining: stessa potenza di calcolo, costo molto inferiore. Il risparmio finisce nei preventivi, non nella qualità del risultato.

§ 04

E quando serve la rete

I servizi che devono restare raggiungibili 24 ore su 24 - siti web, applicazioni pubbliche - girano su server esterni dedicati. La regola è semplice: elaborazione e dati sensibili restano sulle nostre macchine, ciò che deve essere sempre online va su infrastruttura di rete. Ogni progetto usa l’ambiente adatto, non quello che fa scena.

§ 05

Cosa significa per te

• Privacy reale: i tuoi dati possono restare interamente in Italia, su macchine che controlliamo direttamente
• Nessun costo per chiamata API o ora di cloud da ribaltare sul preventivo
• Compri il risultato, non la macchina: manutenzione e rischio hardware restano a noi