Model Training
Ottimizza e pre-addestra i tuoi LLM e altri modelli di AI generativa
Ottimizza un LLM open source o crea LLM personalizzati addestrati sui tuoi dati aziendali con Mosaic AI Model Training. I modelli personalizzati costruiti con Model Training sono più veloci, producono risultati di qualità superiore che sono più specifici per il dominio e hanno costi fino a 10 volte inferiori rispetto ai LLM proprietari.
Simplified training with Serverless GPU Compute
Databricks offers fast, serverless access to fully managed GPUs—no setup, no idle costs, no quota management. Bring any model, codebase, or framework. Whether you're experimenting with new architectures or running custom pipelines, you get the flexibility and control to move fast.
This native GPU support is the ideal complement to Mosaic AI Model Training—letting you scale custom training and finetuning workflows while keeping your models and data on a single, secure platform.
Estremamente preciso
Ottimizzare un LLM open source o creare un nuovo LLM con i dati aziendali porta a una maggiore comprensione semantica del business e a risposte estremamente accurate. Mosaic AI Model Training è disponibile in modo nativa in Databricks, così le organizzazioni possono ottimizzare o costruire modelli in modo facile e sicuro, senza spostare i propri dati. Governance, verificabilità, tracciabilità e monitoraggio sono garantiti, assicurando che i modelli siano utilizzati nel modo giusto e forniscano le risposte giuste. Tutto questo consente di ottenere risultati accurati, di qualità superiore e specifici per il contesto aziendale.
Scalabile senza sforzo
Un elemento chiave per l'addestramento ad alte prestazioni dei LLM è la scalabilità, che richiede una rete veloce a bassa latenza e l'accesso a GPU con prestazioni molto elevate. Usando Mosaic AI Model Training si ha automaticamente accesso sia alla rete NVIDIA InfiniBand sia a GPU NVIDIA H100 Tensor Core, le GPU NVIDIA dalle prestazioni più elevate, con performance e scalabilità ineguagliabili rispetto alle generazioni di hardware precedenti. Sarà così possibile scalare facilmente per addestrare modelli di grandi dimensioni (>70 miliardi di parametri) e completare le sessioni di addestramento nel giro di ore o al massimo di qualche giorno.
Economicamente vantaggioso
Mosaic AI Model Training è in grado di ottimizzare i LLM di GenAI open source più piccoli per produrre modelli altamente efficienti che possono essere distribuiti con un costo fino a 5 volte inferiore rispetto ai LLM proprietari più grandi. Inoltre, è possibile creare nuovi LLM da zero utilizzando uno stack software ottimizzato che rende economicamente vantaggioso l'addestramento di LLM. Una combinazione di ottimizzazioni a livello di sistema, strategie di parallelismo calibrate e scienza dell'addestramento dei modelli si traduce in un costo di addestramento 10 volte inferiore.
Sicuro e conforme
La sicurezza è fondamentale. La maggior parte delle organizzazioni non può correre il rischio di inviare i dati a un'API di terze parti, lasciando che siano diffusi o vengano utilizzati per addestrare un modello pubblico. Mosaic AI Model Training previene tale rischio perché consente alle organizzazioni di costruire il proprio LLM mantenendo il controllo e la proprietà completa sia sui dati sia sul modello stesso. Tutto viene crittografato di default, inclusi il traffico e tutti i dati di addestramento. Ciò garantisce la completa privacy dei dati e la totale proprietà del modello, soddisfacendo tutti i requisiti di conformità normativa.