AREA 01 - FERRO VERO
L'AI potente ha bisogno di ferro vero.
Server e workstation GPU dimensionati sul lavoro che devono fare, non sul catalogo. Progettati, montati e provati sotto carico uno per uno, e consegnati con i modelli già installati.
Il messaggio è già pronto, puoi modificarlo prima di inviare. Rispondiamo entro 24 ore lavorative.
96 GB
VRAM nel server di editing: quattro GPU Nvidia in una macchina (caso hardware)
256 GB
RAM su processore Threadripper, stesso sistema
300+
GPU installate in una farm progettata dal locale al controllo remoto (caso gpu-farm)
0
API esterne: i modelli girano sulla macchina, non a consumo
Il ferro è la parte di cui si parla meno e che decide tutto. Un modello che non entra nella memoria della scheda video non parte; una macchina che scalda sotto carico continuo cala di prestazioni proprio quando serve; un alimentatore scelto sul picco si spegne alla dodicesima ora di lavoro.
Ed è la parte in cui è più facile spendere male: comprare il doppio della memoria che serve, o comprare una macchina da gioco credendo che sia la stessa cosa di una macchina che lavora dodici ore al giorno.
COSA FACCIO
Cosa faccio, in tre punti
01
Si parte dal carico, non dalla scheda
Quanti utenti insieme, quale modello, quanto contesto, quanti token al secondo servono. La configurazione esce da lì: una macchina più grossa del necessario è uno spreco, una più piccola è un fermo di lavoro.
02
Provata sotto carico, prima di uscire
Ogni macchina viene montata, testata con il carico reale e consegnata pronta: modelli installati, accesso configurato, nessuna sorpresa il primo giorno.
03
Si ripara e si fa crescere
Telaio aperto e pezzi standard: si cambia la scheda video o si aggiunge memoria senza buttare il resto, e quando si rompe qualcosa sa cosa c’è dentro chi l’ha montata.
§ 01
Cosa determina la configurazione
Non la marca: il lavoro. Quante persone la usano insieme, quale modello devono far girare, quanto contesto gli si dà in pasto (è il contesto a mangiare memoria, non la lunghezza della domanda), quanti token al secondo servono perché l’attesa resti accettabile, e dove la macchina deve stare - in ufficio o in un locale suo. Da questi cinque numeri esce la scheda: non prima.
§ 02
Perché un computer potente da ufficio non basta
Tre differenze che non si vedono nella scheda tecnica. La memoria della scheda video: un modello deve starci tutto, e su una scheda da gioco spesso non c’è. Il carico continuo: un desktop da gioco è ottimizzato per il picco breve, non per dodici ore di fila - e quando scalda, rallenta. La dissipazione e l’alimentazione: si dimensionano sul lavoro costante, con margine, altrimenti la macchina diventa inaffidabile proprio quando ci fai affidamento.
§ 03
Il ferro invecchia meglio del software
Un impianto si aggiorna, non si sostituisce: la parte che invecchia prima è la scheda video, e si cambia quella. Telaio, alimentatore, storage e dissipazione restano, perché sono stati scelti con margine. È anche il motivo per cui le macchine qui si montano su telaio aperto invece che comprando un server chiuso: chi le ripara deve poter entrare, senza attendere il ricambio del costruttore per una ventola.
IL CONFRONTO
GPU a noleggio, server di marca, macchina dimensionata
Le tre strade funzionano tutte. Si separano su un punto: chi paga il tempo, e chi possiede il tempo.
Cosa paghi
GPU a noleggio
A ore, ogni volta che la usi
Server di marca con GPU
Il prodotto, più l’assistenza a contratto
Macchina dimensionata sul carico
Il ferro una volta: poi la corrente
Dove stanno i dati
GPU a noleggio
Sul ferro di chi te lo noleggia
Server di marca con GPU
Da te, se lo ospiti tu
Macchina dimensionata sul carico
Da te, in rete interna
Chi la ripara
GPU a noleggio
Nessuno: se è occupata o giù, aspetti
Server di marca con GPU
Il costruttore, con i suoi tempi e i suoi listini
Macchina dimensionata sul carico
Chi l’ha montata, con pezzi che si trovano
Cosa ci gira
GPU a noleggio
Quello che il noleggiatore ti mette a disposizione
Server di marca con GPU
Quello che il costruttore certifica
Macchina dimensionata sul carico
Quello che serve al lavoro: si dimensiona sul carico reale
Quando il lavoro cresce
GPU a noleggio
Aumenti le ore e la spesa
Server di marca con GPU
Si cambia macchina
Macchina dimensionata sul carico
Si cambia la scheda e si tiene il resto
Quando ha senso
GPU a noleggio
Picchi brevi e rari, o una prova di due settimane
Server di marca con GPU
Se ti serve la garanzia del costruttore
Macchina dimensionata sul carico
Se il lavoro è continuo e i dati non possono uscire
Il noleggio non è sbagliato: per provare un modello due settimane è la scelta giusta. Diventa sbagliato quando paghi a ore un lavoro che fai tutti i giorni.
PASSO PER PASSO
Come nasce una macchina
01
Che lavoro deve fare
Utenti insieme, modello, contesto, token al secondo, dove la si mette. Sono i cinque numeri che decidono tutto il resto.
02
Il dimensionamento
Memoria della scheda video, RAM, storage veloce, alimentazione e dissipazione calcolate sul carico continuo - con margine, non al limite.
03
Montaggio e prova sotto carico
Si monta, si prova con il carico vero e si consegna con i modelli già installati e funzionanti.
04
Assistenza e crescita
Aggiornamenti e riparazioni da chi l’ha costruita: si sostituisce il pezzo che serve, non la macchina.
LA PROVA
Il ferro dell’officina, con i numeri
Quattro server multi-GPU e una macchina portatile: 96 GB di memoria video sul sistema di editing, 256 GB di RAM su Threadripper, 48 GB sulla macchina da spostare. Nessuna API esterna: i modelli girano qui. E una farm da 300+ GPU progettata dal locale al controllo remoto.
Leggi il caso completo
DOMANDE DIRETTE
Le cose che ci vengono chieste per prime.
Serve davvero una macchina così?
Dipende dal modello e da quante persone lo usano insieme. Per un assistente sui documenti di una PMI basta tipicamente una scheda da 24-48 GB. La macchina più grossa del necessario è uno spreco; quella più piccola è un fermo di lavoro. Si dimensiona sul carico reale.
Posso usare il computer che ho già?
Per provare sì, per lavorare no. Il limite è la memoria della scheda video, e su un portatile il carico continuo scalda e cala di prestazioni. Se ti serve solo per qualche prova, conviene noleggiare a ore invece di comprare.
Si può aggiornare nel tempo?
Sì, ed è il motivo per cui si costruisce su telaio aperto: si cambia la scheda video o si aggiunge memoria senza buttare il resto. Un server chiuso, invece, si sostituisce.
Farà rumore?
Sì: una macchina che lavora sotto carico si sente. Se deve stare in ufficio si scelgono case e ventole di conseguenza, oppure si mette in un locale tecnico. È una decisione da prendere prima del montaggio, non dopo. E il consumo va messo in conto: nella farm più grande progettata in officina si parla di 100 kW.
Quanto costa?
La parte più cara è la memoria della scheda video, quindi il prezzo lo fa il dimensionamento: due macchine con lo stesso nome possono costare il doppio l’una dell’altra. Non pubblichiamo un listino. Dopo il dimensionamento il preventivo è chiuso, pezzo per pezzo.
Avvertenza
I numeri di questa pagina vengono dalle macchine dell’officina e da casi reali pubblicati su questo sito. Non sono configurazioni di catalogo.
Parliamone di persona.
Analisi gratuita in Brianza e Lombardia. Rispondiamo entro 24 ore lavorative.
Il messaggio è già pronto, puoi modificarlo prima di inviare. Rispondiamo entro 24 ore lavorative.