localai

Piattaforma per agenti AI di livello enterprise che automatizza vendite, servizio clienti, risorse umane e altri processi aziendali.

Una piattaforma di sviluppo AI e MLOps per personalizzare, distribuire e ottimizzare continuamente grandi modelli linguistici.

Piattaforma di Consapevolezza Situazionale Difensiva che integra dati di sensori multi-dominio per il rilevamento e il tracciamento delle minacce

Piattaforma di automazione delle vendite che gestisce appuntamenti, follow-up con i clienti e sincronizza i calendari con i sistemi CRM.

Strumento di prompt engineering che trasforma idee semplici in istruzioni strutturate e genera diversi tipi di prompt

Piattaforma di distribuzione di agent-enterprise a supporto del processo decisionale autonomo e dell'automazione multi-attività.

Cerebras è un'innovativa piattaforma di calcolo per l'IA centrata sul più grande chip a semiconduttore al mondo, il Wafer-Scale Engine (WSE), e sul sistema di punta CS-3. Progettata appositamente per carichi di lavoro di IA, Cerebras offre performance ineguagliate nell'addestramento e nell'inferenza per grandi modelli linguistici e IA generativa, supportando sia implementazioni in sede che nel cloud. La sua architettura unica su scala wafer consente scalabilità senza interruzioni, distribuzione semplice e velocità leader del settore, rendendola la soluzione preferita dalle organizzazioni che spingono i confini dell'innovazione nell'IA.

Unsloth AI è un framework open-source avanzato progettato per accelerare e semplificare significativamente il processo di fine-tuning dei modelli linguistici su larga scala (LLM) come Llama-3, Mistral, Phi-3 e Gemma. Ottimizzando manualmente le operazioni matematiche a elevato consumo computazionale e i kernel GPU, Unsloth raggiunge fino a 10 volte la velocità di addestramento su configurazioni con singola GPU e un incremento fino a 32 volte su configurazioni multi-GPU, offrendo miglioramenti sostanziali rispetto agli approcci tradizionali come Flash Attention 2. Supporta GPU NVIDIA da Tesla T4 a H100, ed è compatibile anche con GPU AMD e Intel. Unsloth riduce l'utilizzo della memoria GPU di circa il 70%, consentendo il fine-tuning di modelli di grandi dimensioni anche su hardware con risorse limitate, come Google Colab o laptop personali. La piattaforma offre un'API semplice, documentazione completa e un'integrazione senza interruzioni con gli strumenti principali e i motori di inferenza, rendendola ideale per sviluppatori, ricercatori e appassionati di AI.

Massed Compute offre potenza di calcolo GPU e CPU flessibile e ad alte prestazioni, progettata specificamente per carichi di lavoro come intelligenza artificiale, machine learning, rendering e calcolo scientifico. In qualità di NVIDIA Certified Partner, la piattaforma offre opzioni di noleggio orario flessibili senza contratti a lungo termine, garantendo accesso diretto a una gamma completa di GPU NVIDIA, inclusi gli ultimi modelli delle serie A100, H100 e RTX. Focalizzata sulla facilità d'uso, la piattaforma è dotata di un'interfaccia a desktop virtuale, API robuste per il controllo programmatico e supporto dedicato da team di esperti, consentendo a innovatori, startup e aziende di far crescere i propri progetti di IA in modo efficiente e conveniente.

Mo Li Fang Zhou è una piattaforma AI completa sviluppata da OSCHINA, che funge da hub comunitario AI localizzato in Cina. Basata sulla tecnologia di repository Git e supportata da una vasta esperienza nell'hosting di codice e file LFS, la piattaforma offre servizi affidabili di hosting di modelli per condividere e scaricare modelli open source, dataset e applicazioni AI. Fornisce servizi end-to-end per lo sviluppo AI, inclusi esplorazione di modelli, inferenza, messa a punto (fine-tuning) e deployment di applicazioni, alimentati da risorse computazionali diversificate fornite da hardware provider come NVIDIA e Ascend.

CoTools è un framework innovativo che consente ai Large Language Model (LLM) di interagire con vari strumenti esterni—come API, database e calcolatori—senza richiedere un nuovo addestramento del modello o comprometterne le capacità di ragionamento di base. Sfruttando gli stati nascosti e le rappresentazioni semantiche all'interno di LLM congelati, CoTools permette agli agenti di AI di determinare dinamicamente quando utilizzare gli strumenti, quali strumenti usare e come impiegarli in tempo reale. Questo approccio consente un'integrazione scalabile, flessibile e indipendente dal modello, rendendolo ideale per la creazione di sistemi di AI avanzati e consapevoli del contesto per applicazioni aziendali e di ricerca.

Ollama è uno strumento di AI open-source progettato per eseguire modelli linguistici di grandi dimensioni in locale su computer personali senza fare affidamento su servizi cloud. Supporta una varietà di modelli mainstream, tra cui Llama 3 di Meta e Mistral, consentendo agli utenti di mantenere il pieno controllo sulla privacy dei dati e sulla personalizzazione del modello. Operando in modalità offline, Ollama riduce la latenza, migliora la sicurezza e abbassa i costi associati all'uso dell'AI basata su cloud. È ideale per sviluppatori, ricercatori e aziende che cercano soluzioni di AI con elevate esigenze di privacy e flessibilità, e può essere integrato senza soluzione di continuità nei flussi di lavoro esistenti o distribuito in applicazioni dedicate.